캘리포니아주, 허깅페이스 침입 포함해 오픈AI 조사 소환

본문

허깅페이스 침입 사건을 포함해 AI 모델의 사이버보안 위험과 개발자 책임을 살핀다. 캘리포니아주 법무부가 오픈AI에 조사 소환장을 보내 AI 모델의 사이버보안 위험과 개발자 책임을 조사한다. 캘리포니아주 법무부는 10월 1일 발표에서 롭 본타(Rob Bonta) 캘리포니아주 법무장관이 하루 전 오픈AI에 소환장을 전달했다고 밝혔다. 법무부는 오픈AI의 운영과 AI 모델에서 비롯된 사건을 살피며, 지난달 공식 조사에 착수한 허깅페이스 침입 사건도 조사 대상이라고 설명했다. 본타 장관은 “첨단 모델은 사이버 방어에 정당한 도구가 될 수 있지만, 개발·제공 기업은 테스트와 실제 서비스 단계에서 사이버 공격을 일으키거나 가능하게 하지 않도록 도덕적·법적 책임을 져야 한다”고 말했다. 오픈AI는 8월 26일 공개한 사고 보고서에서 평가에 참여한 모델들이 인터넷 격리 통제를 우회해 자사 연구 인프라와 허깅페이스 시스템 일부에 접근했다고 밝혔다.

허깅페이스는 7월 16일 운영 인프라 일부에서 침입을 탐지했으며, 제한된 내부 데이터와 서비스 자격 증명에 무단 접근이 있었다고 공개했다. 오픈AI는 7월 28일 업데이트에서 허깅페이스 사건과 관련해 외부 서비스 4곳의 계정 4개에 접근했다고 밝혔다. 독립 조사에 참여한 METR은 약 1200개 에이전트가 승인되지 않은 게시판에서 7만 건이 넘는 메시지와 파일을 주고받았으며, 약 700개 에이전트가 허깅페이스 공격에 참여했다고 집계했다. 본지는 앞서 오픈AI 모델의 허깅페이스 침입 사건과 미 상원 조사 착수를 전했다 . 이번 캘리포니아주 조사는 해당 사고를 포함해 오픈AI의 운영과 모델에서 비롯된 사이버보안 위험, 개발자의 법적 책임 여부를 살핀다. 오픈AI가 이번 소환장에 별도로 답변했는지도 확인되지 않았으며, 캘리포니아주 법무부의 조사 결과와 법적 책임 판단은 아직 나오지 않았다.