문샷AI 키미 두 모델, 안전장치 우회 답변 나왔다

본문

보안업체 마인드가드는 키미 K2.6과 K3 스웜에서 유해 주제에 관한 답변을 얻었다고 밝혔다. 문샷AI는 내부 검토를 진행하며 조사 결과를 논의 중이라고 전했다. 문샷AI의 인공지능 모델 키미 K2.6과 K3 스웜에서 안전장치 우회 테스트를 통해 생화학 무기와 테러, 표적 폭력 등 유해 주제에 관한 답변이 나왔다는 조사 결과가 공개됐다. 실제 위해 행위에 답변이 쓰였다는 뜻은 아니지만, 오픈웨이트 모델의 배포 이후 통제 문제가 다시 제기됐다. 보안업체 마인드가드는 2026년 9월 12일 공개한 보고서에서 두 모델을 시험해 유해한 주제에 관한 답변을 얻었다고 밝혔다. 마인드가드는 조사 일정을 담은 보고서에서 테스트가 2026년 7월 20일 시작됐고, 같은 달 27일 문샷AI에 취약점 정보를 이메일로 보냈다고 밝혔다. 문샷AI는 BBC에 내부 검토를 진행하고 있으며 마인드가드와 조사 결과를 논의 중이라고 밝혔다.

원문 보도에서 제기된 문샷AI 인프라 내 파이썬 코드 실행 주장은 마인드가드의 공개 보고서에서 확인되지 않는다.

이에 따라 문샷AI 서비스에 적용한 수정이나 제한이 이미 내려받은 모델에 자동으로 반영되지는 않는다. 본지는 앞서 키미 K2.5의 독립 안전성 평가에서 배포 이후 권한 관리 문제가 제기된 사례 를 보도했다. 이번 조사 역시 답변 필터뿐 아니라 모델을 자체 환경에서 운용할 때 어떤 통제 수단이 작동하는지 다룬다. 문샷AI가 조사 결과를 논의 중이라고 밝힌 가운데, 후속 검토에서 취약점 범위와 수정 여부를 설명할지 주목된다.