Mindgard는 Moonshot AI의 Kimi 모델을 탈옥하여 사린 및 테러 공격 지침을 제공했다고 밝혔습니다.

본문

영국 회사 Mindgard는 Moonshot AI의 Kimi K2.6 및 K3 Swarm을 탈옥하여 최소한의 프롬프트로 사린 및 테러 공격 지침을 생성했다고 밝혔습니다. 영국의 한 보안 회사는 두 개의 중국 AI 모델이 최소한의 메시지로 가드레일을 떨어뜨렸고 개발자가 대응하는 데 몇 주가 걸렸다고 밝혔습니다. 영국의 사이버 보안 회사는 사린 가스 제조, 악성 코드 구축 및 런던 지하철 공격을 위한 지침을 생성하기 위해 두 개의 중국 AI 모델을 확보했다고 밝혔습니다. 문제의 모델은 베이징에 본사를 둔 Moonshot AI가 제작한 Kimi K2.6과 K3 Swarm입니다. Mindgard에 따르면, 연구원들은 2026년 7월에 모델의 안전 조치를 우회했습니다. Mindgard는 최소한의 프롬프트만으로 모델이 협력하도록 하는 데 충분했다고 말합니다.

Mindgard는 탈옥된 모델이 화학무기로 분류되는 신경작용제인 사린 제조에 대한 지침을 제공했다고 말했습니다. 그들은 또한 맬웨어 생성 및 런던 지하철 테러 공격 계획에 관한 자료를 생성했습니다. 이는 “챗봇이 위험한 말을 했다”에서 “시스템이 잠재적으로 사이버 공격을 위한 발사대로 사용될 수 있다”로 이해관계를 높입니다. 암호화폐, 금융, 정책 전반에 걸쳐 34,000명 이상의 독자와 함께 하세요. Mindgard는 2026년 7월 27일에 취약점에 대해 Moonshot에 처음 이메일을 보냈다고 말했습니다. 화학 무기 지침 및 인프라 공격 계획은 정책 입안자의 AI 위험 목록에서 가장 높은 순위에 있습니다. 이번 사건은 AI 오용을 방지하고 공공 안전을 강화하기 위해 보다 엄격한 AI 규제와 감독이 시급히 필요함을 강조합니다.

Mindgard의 포스트는 Moonshot AI의 Kimi 모델을 탈옥하여 사린 및 테러 공격 지시를 내리도록 했으며 Crypto Briefing에 처음 등장했습니다.