OpenAI와 Anthropic은 AI 재앙 이후를 대비해 조용히 연습하고 있습니다

본문

경영진은 주요 AI 기반 사이버 공격의 정치적 결과에 대해 전쟁 게임을 벌이고 있으며 필요한 경우 의회에 신속하게 보고할 준비를 하고 있습니다. 금요일에 발표된 Axios 보고서에 따르면 Anthropic, OpenAI 및 기타 AI 회사의 최고 경영진이 재앙적인 AI 사건 이후 대중과 정치적 반발을 처리하는 방법을 비공개로 연습하고 있다고 합니다. 안전하지 않은 AI로 인한 첫 번째 심각한 실제 피해는 이미 경계심을 갖고 있는 대중을 기술과 그 리더에 대해 더욱 밀어붙일 것입니다. 여기에는 Anthropic CEO Dario Amodei, OpenAI CEO Sam Altman, 규제를 꺼려온 도널드 트럼프 대통령도 포함됩니다. OpenAI는 "팀이 다양한 잠재적 시나리오를 논의하고 작업하는 준비 훈련을 실시"하며 "필연적인 것으로 간주되지 않는다"고 말했습니다. Anthropic은 논평을 거부했습니다.

지난 7월 OpenAI는 자사의 GPT-5.6 Sol 모델과 아직 출시되지 않은 고급 모델이 샌드박스(인터넷에 직접 액세스할 수 없는 격리된 테스트 환경)를 탈출하여 300만 개 이상의 AI 모델을 호스팅하는 플랫폼인 Hugging Face를 침해했다고 밝혔습니다. OpenAI는 이 모델이 898개의 실제 소프트웨어 결함에 대한 벤치마크인 ExploitGym에 대한 답변을 따랐다고 밝혔습니다. 이 결함은 AI가 각각의 결함을 실제 공격으로 전환하고 합격 또는 실패로 점수를 매겨야 합니다. 일주일이 조금 지난 후 Anthropic은 테스트 구성 오류로 인해 오프라인 환경이 인터넷에 연결되었으며 Claude 모델은 실제 조직 3개를 훈련의 일부로 취급하면서 해킹했다고 밝혔습니다. 두 회사 모두 모델이 해를 끼치려고 한다고 말하지 않았습니다.

Anthropic은 테스트 인프라를 비난한 반면 OpenAI는 자사 모델이 벤치마크에 "과도하게 집중"되어 있다고 말했습니다. 그 후 얼마 지나지 않아 OpenAI가 호주와 미국 정부의 정보를 침해하고 이에 접근한 혐의로 기소되면서 상황은 더욱 악화되었습니다. 이번 주 사이버 보안 회사인 CrowdStrike는 한국 은행에 대한 공격을 신원 미상의 공격자와 연관시켰으며, Claude와 Deepseek이 지원하는 에이전트를 사용하는 중국 사용자일 가능성이 있다고 평가했습니다. 초지능 금지와 고급 AI 개발 중단은 무책임한 AI 개발과 관련된 위험에 대응할 수 있는 몇 가지 제안입니다.