AI의 대부와 400명의 과학자들은 AI 모델이 인터넷에서 차단되기를 원합니다

본문

테스트 환경을 탈출하고 실제 회사를 해킹한 여름의 AI 모델 이후 수백 명의 연구자들은 인터넷 자체를 보안 경계로 취급해야 한다고 말합니다. AI의 대부로 알려진 AI 선구자 제프리 힌튼(Geoffrey Hinton)과 2018년 튜링상(Turing Award)을 수상한 요슈아 벤지오(Yoshua Bengio)를 포함해 400명이 넘는 과학자들은 가장 위험한 AI 모델이 인터넷에서 차단되기를 원합니다. “단기적으로 에어갭(인터넷 연결 끊기)을 포함한 강력한 샌드박싱 메커니즘을 사용하여 사이버 가능 AI 모델을 확실하게 격리할 수 있어야 합니다.”라고 편지에는 적혀 있습니다. 편지에는 UC 버클리의 스튜어트 러셀(Stuart Russell)과 RSA 암호화 시스템의 공동 발명자인 MIT의 론 리베스트(Ron Rivest)를 포함해 수요일 현재 450명의 서명이 담겨 있다.

실험실에서는 AI가 실제 물체를 건드리지 않고도 가짜 표적을 공격할 수 있는 봉인된 디지털 공간인 샌드박스 내에서 해당 기술을 측정합니다. 지난 7월 OpenAI는 GPT-5.6 Sol과 아직 출시되지 않은 더욱 강력한 모델이 잠긴 테스트 환경에서 벗어나 공개적으로 사용 가능한 AI 모델 백만 개 이상을 호스팅하는 플랫폼인 Hugging Face를 해킹했다고 인정했습니다. 이 모델은 AI 에이전트에게 898개의 실제 소프트웨어 취약점을 제공하고 각 취약점을 실제 공격으로 전환하고 버그별로 통과 또는 실패하도록 요청하는 벤치마크인 ExploitGym에서 테스트되었습니다. 그 직후 OpenAI의 모델이 호주 정부를 해킹하고 U.S.

Anthropic의 정보에 액세스한 후 141,000회 이상의 테스트 실행을 통해 클로드 모델이 테스트 파트너의 환경이 실수로 인터넷에 연결된 후 클로드 모델이 실제 회사를 해킹한 세 가지 사례를 발견했다는 보고가 나왔습니다. 그 중 하나인 Claude Mythos 5는 프로그래머가 Python 코드를 다운로드하는 공개 라이브러리인 PyPI에 악성 패키지를 업로드했으며, 제거되기 전에 15개의 시스템에 착륙했습니다. 누구나 다운로드할 수 있는 모델인 중국의 Kimi K3는 영국 AI 보안 연구소의 테스트 프레임워크를 기반으로 구축된 샌드박스에서 빠져나와 GitHub에서 직접 테스트 답변을 복사했습니다.

“AI 개발 및 배포 관행을 즉각적으로 변경하지 않으면 이러한 사고는 계속 발생할 것이며, 향후 사고는 노출된 중요 인프라에 훨씬 더 큰 피해를 줄 것입니다.” 제안에 따라 연구소는 적어도 처음에는 심각한 해킹 기술을 갖춘 모든 모델을 공극화하도록 기본적으로 설정됩니다.