AI 모델이 실제 회사를 해킹한 후 AI 연구소는 더 강력한 사이버 방어를 요구합니다.

본문

100개가 넘는 AI, 보안, 금융 및 기술 조직은 정부와 업계가 점점 더 역량이 강화되는 모델을 기반으로 한 공격에 대비하기를 원합니다. 주요 AI 개발자들은 OpenAI와 Anthropic이 구축한 모델이 다른 회사의 시스템을 손상시킨 후 정부와 기업에 네트워크를 강화하라고 말하고 있습니다. 목요일 공개된 공개 서한에서 OpenAI, Anthropic 및 기타 100개 이상의 조직은 AI 기반 사이버 공격이 점점 더 일반화될 것이며 기업이 "사이버 방어를 강화할 수 있는 시간이 제한적"이라고 경고했습니다. “앞으로 몇 달 안에 AI를 활용한 사이버 공격은 훨씬 더 광범위해지고 정교해질 것입니다.” 이 서한에서는 방어적인 AI 도구에 자금을 지원하고, 위협 인텔리전스를 공유하고, 민감한 시스템에 대한 액세스를 제한하고, 중요 인프라에 대한 보안을 강화할 것을 권장합니다.

Anthropic, AWS, Google, Microsoft, OpenAI 및 Oracle을 포함한 100개 이상의 조직이 서명한 사이버 방어의 글로벌 급증을 위한 공개 서한입니다. Claude Opus 4.7은 실제 회사를 시뮬레이션 대상으로 착각한 후 프로덕션 데이터베이스에 액세스했으며, Claude Mythos 5는 15개 시스템에서 실행되는 악성 패키지를 업로드했습니다. 서명자들은 "현 상태의 보안만으로는 충분하지 않기 때문에" 취약한 소프트웨어 패치, 권한 제한, 인증 강화, AI 생성 코드 검사 등 다음 침해를 방지하기 위한 업무 분담을 명시하고 있다고 서명자들은 말했습니다. 보안 회사는 프론티어 모델에 대한 방어를 테스트하고 검증된 수정 사항을 공유해야 하며, 정부는 병원, 유틸리티 및 기타 필수 서비스에 대한 보호에 자금을 지원해야 합니다.

법에서는 AI 시스템이 승인되지 않은 네트워크에 액세스할 때 책임을 지는 사람에 대한 지침을 거의 제공하지 않습니다.