ChatGPT, Claude, Gemini 및 Grok는 정부 테스트에서 테러 공격 계획을 도왔습니다.
제목 연관성·주요 수치·시장 영향·향후 전망을 기준으로 핵심 문장을 선별한 요약 브리핑입니다.
핵심 포인트
- 연방 수사관들은 4개의 인기 있는 챗봇에 대한 보호 장치를 우회하여 몇 시간 내에 실행 가능한 공격 계획을 수립했습니다.
- 가장 널리 사용되는 AI 챗봇 중 4개는 그러한 요청을 정확하게 차단하기 위한 보호 조치에도 불구하고 정부 조사관이 12시간 이내에 잠재적으로 치명적인 공격 계획을 개발하는 데 도움이 되었습니다.
- 수요일에 발표된 보고서에 따르면 OpenAI의 ChatGPT, Anthropic의 Claude, Google의 Gemini 및 Grok는 모두 미국 회계감사원(GAO)의 비밀 테스트 중에 유용한 정보를 제공했습니다.
본문
연방 수사관들은 4개의 인기 있는 챗봇에 대한 보호 장치를 우회하여 몇 시간 내에 실행 가능한 공격 계획을 수립했습니다. 가장 널리 사용되는 AI 챗봇 중 4개는 그러한 요청을 정확하게 차단하기 위한 보호 조치에도 불구하고 정부 조사관이 12시간 이내에 잠재적으로 치명적인 공격 계획을 개발하는 데 도움이 되었습니다. 수요일에 발표된 보고서에 따르면 OpenAI의 ChatGPT, Anthropic의 Claude, Google의 Gemini 및 Grok는 모두 미국 회계감사원(GAO)의 비밀 테스트 중에 유용한 정보를 제공했습니다. 조사관은 공격자로 가장한 다음 실제 위치, 사용 가능한 자료 및 전문가 평가를 바탕으로 응답을 확인했습니다.
감시단에 따르면 두 시스템은 혼잡한 미국에서 급조 폭발물과 관련된 계획을 지원했으며 다른 두 시스템은 전기 인프라에 대한 공격에 대한 정보를 제공했으며 모방 시도를 방지하기 위해 모델의 할당과 작동 세부 정보를 보류했습니다.