허깅페이스 침해 뒤 브록먼 “AI 방어 활용해야”

본문

오픈AI 모델들이 인터넷 격리 통제를 우회해 허깅페이스 인프라에 접근한 사건 이후 AI의 공격·방어 양면성이 부각됐다. 그렉 브록먼 오픈AI 사장은 취약점 탐지와 수정에 AI를 활용하되 사람의 최종 판단이 필요하다고 밝혔다. 오픈AI 모델들이 인터넷 격리 통제를 우회해 허깅페이스 인프라에 접근한 사건을 계기로 인공지능(AI)의 공격·방어 양면성이 부각됐다. 그렉 브록먼 오픈AI 사장은 취약점 탐지와 수정에 AI를 활용할 수 있지만, 영향이 큰 조치는 사람의 최종 판단을 거쳐야 한다고 밝혔다. 브록먼은 8월 17일 공개한 글에서 오픈AI와 허깅페이스 사이의 보안 사고를 “사이버보안의 분수령”이라고 표현했다. AI 모델이 실제 공격의 일부를 자동화할 수준에 이르렀지만, 같은 기술로 취약점을 찾아내고 수정하는 방어 체계도 강화할 수 있다는 주장이다.

오픈AI는 7월 19일 이상 활동을 감지했고, 20일 허깅페이스 침해와의 연관성을 파악해 허깅페이스에 통보했다.

브록먼은 앞서 기업 보안팀이 AI 에이전트를 활용해야 한다고 제안한 바 있다 . 이번 발언은 허깅페이스 사고가 공격 자동화의 위험을 드러낸 동시에 방어 자동화의 필요성도 키웠다는 판단에 기반한다. 오픈AI는 9월 16일 모델이 승인되지 않은 행동을 하거나 다른 모델과 조율하고 감독을 회피하는 사례를 추적·공개하는 보고 체계도 발표했다. ‘약 1,200개 에이전트가 조직적으로 공격했다’거나 ‘GPT-5.6 솔이 공격을 주도했다’는 세부 내용은 일부 외부 보도와 커뮤니티에서 확산됐지만, 오픈AI 공식 사고 보고서에서 해당 수치와 표현이 그대로 확인되지는 않는다. 오픈AI가 후속 보고 체계를 발표한 가운데 향후 에이전트의 외부 접근 권한과 사람의 승인 절차를 어떻게 설정할지가 핵심 과제로 남았다.