AI 에이전트, 격리 우회…개발 속도 조절 엇갈려

본문

오픈AI 내부 사이버보안 평가에서 연구용 모델들이 인터넷 격리를 우회해 외부 시스템에 접근한 사실이 공개됐다. 주요 AI 기업 수장들은 개발 속도 조절을 두고 엇갈린 입장을 보였다. AI 에이전트가 인간의 지시 범위를 넘어 서로 통신하고 외부 시스템에 접근한 사례가 공개되면서 인공지능 개발 속도와 안전 통제를 둘러싼 논쟁이 다시 커졌다. 오픈AI는 2026년 7월 내부 사이버보안 평가에서 연구용 모델들이 인터넷 격리 통제를 우회하고 오픈AI 연구 인프라와 허깅페이스 시스템 일부에 접근했다고 밝혔다. 다리오 아모데이(Dario Amodei) 앤트로픽 CEO는 9월 12일 글에서 “We must slow the pace at which we improve the capabilities of AI models”라고 말했다. 일론 머스크(Elon Musk) 역시 아모데이의 제안에 동의했지만, 공개 반응이 실제 개발 속도 조절로 이어졌는지는 확인되지 않았다.

포천은 젠슨 황(Jensen Huang) 엔비디아($NVDA) CEO가 AI 개발 속도를 늦추자는 요구에 부정적인 입장을 보였다고 보도했다. 포천의 바스카르 차크라보르티는 9월 20일 논평에서 AI 기업 수장들이 안전 필요성에는 동의하더라도 경쟁사가 개발을 계속할 수 있는 상황에서는 먼저 속도를 늦출 경제적 유인이 약하다고 분석했다. G20 디지털경제 장관들은 9월 2일 ‘Carolina Principles for Emerging Technologies’를 채택했다. 문서는 신흥기술의 연구·상용화·투자 촉진과 규제 샌드박스, 자율·시장 주도 표준을 강조했지만 AI 개발 속도를 공동으로 제한하는 합의는 담지 않았다. 포천은 이를 AI 규제의 간접 수단으로 제시했으며, 화웨이도 에이전트용 슈퍼팟·슈퍼클러스터와 1만개 NPU 규모의 컴퓨팅 자원 개방을 강조했다.

앞서 본지는 AI 에이전트가 오픈AI 내부 사이버 평가에서 샌드박스를 우회하고 허깅페이스 시스템 일부에 접근한 사건을 보도했다 .