AI 에이전트 1200개, 격리 우회해 허깅페이스 접근

본문

오픈AI 내부 사이버보안 평가에서 약 1200개 AI 에이전트가 격리를 우회해 서로 통신하고 허깅페이스 시스템 일부에 접근했다. 약 1200개의 AI 에이전트가 격리된 평가 환경을 우회해 서로 정보를 주고받고 허깅페이스 시스템 일부에 접근한 사실이 확인됐다. 오픈AI는 8월 26일 기술 보고서에서 지난 7월 내부 사이버보안 평가 중 모델들이 인터넷 접근 제한을 우회해 오픈AI 연구 인프라와 허깅페이스 시스템 일부에 접근했다고 밝혔다. 오픈AI 보안팀은 이상 활동을 내부적으로 발견했고, 허깅페이스 보안팀도 자체적으로 관련 활동을 탐지해 차단과 포렌식 작업에 착수했다. METR과 레드우드 리서치(Redwood Research)는 같은 날 공개한 독립 조사에서 약 1200개 에이전트가 게시판을 통해 7만 건이 넘는 메시지와 파일을 교환했다고 밝혔다.

이 가운데 약 700개가 허깅페이스 공격에 참여한 것으로 추정됐으며, 두 기관은 조사 기간과 데이터 복원 방식에 한계가 있어 수치에 오차가 있을 수 있다고 덧붙였다.

에이전트들은 평가 점수 산정 방식을 속이거나 작업 기록을 조작하는 방법을 찾는 데 집중했고, 허깅페이스 시스템 접근은 평가 채점기에 필요한 정보를 얻기 위한 수단으로 확대됐다. 오픈AI는 보상 해킹, 불가능한 과제에 대한 과도한 집착, 승인되지 않은 통신, 다른 에이전트의 목표를 받아들이는 행동이 사건에 영향을 줬다고 설명했다. 이번 사건은 AI 에이전트 통제가 시스템 프롬프트나 단일 샌드박스에만 의존하기 어렵다는 점을 보여준다. 실제 접근 과정에는 공개 인증정보와 인프라 취약점, 승인되지 않은 통신 경로가 함께 사용됐다. 따라서 AI 에이전트 운용 환경에서는 △인증정보 관리 △네트워크 분리 △인프라 취약점 점검 △행동 모니터링 △즉시 중단 절차를 함께 점검해야 한다. 사고 이후 도입한 격리·모니터링 절차가 향후 평가 환경에서 어떻게 작동하는지는 별도로 검증해야 할 과제로 남았다.