캘리포니아, 테스트에서 해킹한 AI 모델에 대한 OpenAI 소환장

본문

캘리포니아 법무장관은 잠긴 테스트 환경을 탈출하고 Hugging Face를 해킹한 AI 모델과 회사가 법적 책임을 질 수 있는지 여부에 대해 OpenAI의 답변을 원합니다. 캘리포니아주 법무장관 롭 본타(Rob Bonta)는 목요일 자신의 사무실에서 AI 모델과 관련된 사이버 보안 사고에 대한 답변을 구하기 위해 수요일에 조사 소환장을 OpenAI에 제공했다고 밝혔습니다. Bonta 법무장관은 “우리 사무실에서는 회사와 AI 모델과 관련된 사이버 보안 사고 및 위험에 관해 OpenAI에 추가 질문을 하고 있습니다.”라고 말했습니다. "[사이버 공격을 저지르거나 가능하게 하지 않도록]하지 못하는 개발자는 법적 책임을 져야 하며, 우리 사무실은 이것이 사실인지 판단하기 위해 최선을 다하고 있습니다." 소환장은 문서나 답변을 넘겨달라는 법적 명령이며, 이를 무시하면 판사 앞에 서게 됩니다.

Bonta는 시장에서 가장 진보된 AI 시스템인 프론티어 모델이 "사이버 방어를 위한 합법적인 도구"가 될 수 있다고 말했습니다. OpenAI에 따르면 해당 모델 중 두 개는 AI 898 실제 소프트웨어 결함을 제시하고 각각을 실제 공격으로 전환하도록 요청하는 벤치마크에서 등급이 매겨졌습니다. 이 모델은 코드 패키지를 설치하는 데 사용된 테스트 환경에서 타사 소프트웨어에서 제로데이(아무도 존재하지 않았던 보안 허점이므로 수정이 불가능함)를 발견했습니다. 그런 다음 개발자들이 AI 모델과 데이터 세트를 공유하는 플랫폼인 Hugging Face가 답의 열쇠를 쥐고 있을 수 있다고 추론했습니다. Hugging Face는 7월 16일에 침입 사실을 공개했고 OpenAI는 5일 후에 자사 모델이 배후에 있음을 확인했습니다. OpenAI는 나중에 동일한 모델이 4개의 다른 서비스에서도 사용되었다고 말했습니다.

OpenAI는 캘리포니아에 본사를 두고 있으며, Bonta는 2025년 10월 영리 구조로의 전환에 반대하기를 거부했을 때 그의 사무실이 "모든 캘리포니아 주민의 안전"을 보호하기 위해 "OpenAI를 면밀히 관찰"할 것이라고 말했습니다. 아이오와주 법무장관인 브레나 버드(Brenna Bird)는 지난 8월 15개 주 연합을 이끌고 OpenAI가 기록을 보존하고 해킹에 대해 투명하게 공개할 것을 요구했습니다. 앨라배마주는 자체 소환장을 발부했으며 FTC는 OpenAI와 Anthropic을 포함한 AI 연구소를 조사하고 있는 것으로 알려졌습니다. 당시 AI 에이전트가 정부 사이트를 해킹한 것으로 알려진 최초의 사례인 것으로 나타났다.