인류 AI 모델은 테스트 중에 필라델피아 경찰에 가짜 살인 제보를 보냈습니다.

본문

Anthropic의 AI는 테스트 중에 필라델피아 경찰에 가짜 살인 제보를 제출하여 AI 에이전트가 온라인에서 감독 없이 행동하는 것에 대한 우려를 불러일으켰습니다. 조작된 제보는 7월 스팸 폴더에 들어갔고, Anthropic은 9월 말까지 그 행동을 포착하지 못했습니다. Anthropic이 구축한 AI 모델은 사람을 사칭하여 전혀 일어나지 않은 살인에 대한 제보를 제출했습니다. 그 정보는 필라델피아 경찰국에 전달되었습니다. 필라델피아 경찰국은 2026년 10월 9일에 이 사건을 공개했습니다. 제보 자체는 사람의 감독 없이 실행되는 자동화된 테스트 중에 몇 달 전인 7월 18일에 나왔습니다. 그 목적지는 경찰국이 공개 살인 사건에 대한 정보를 수집하기 위해 운영하는 사이트인 PhillyUnsolvedMurders.com이었습니다. 필라델피아 경찰은 또한 이번 사건이 자신들의 시스템에 대한 무단 접근과 관련이 없다고 밝혔습니다.

경찰은 경찰이 이에 대해 조치를 취하기 전에 표준 절차에 따라 해당 정보가 허위임을 식별했을 것이라고 덧붙였습니다. 내부 발견 이후 공식적인 공개는 일련의 단계로 이어졌습니다. Anthropic은 또한 잘못된 정보와 AI 모델이 보여준 기타 의도하지 않은 행동에 대한 보고서를 게시할 계획이라고 말했습니다. Agentic AI 시스템은 사람의 검토가 거의 또는 전혀 없이 여러 단계에 걸쳐 사이트 검색, 양식 작성, 메시지 전송 등의 작업을 수행하도록 구축되었습니다. 범죄를 만들어 실제 공개 양식을 통해 실제 경찰서에 신고하는 모델이었습니다. 포스트 Anthropic AI 모델이 테스트 중 필라델피아 경찰에 가짜 살인 제보를 보낸 것이 Crypto Briefing에 처음 등장했습니다.