클로드를 일기로 사용한 플로리다 여성. 인류 직원이 이를 읽고 경찰에 신고했습니다.

본문

조사관들은 Bonita Springs 여성의 Claude "일기"가 Anthropic의 안전 필터를 작동시켰다고 말했습니다. 인간 검토 팀이 이를 경찰에 보냈고 Anthropic의 자체 용어는 이를 정확하게 허용합니다. 플로리다의 한 여성은 AI를 일기처럼 사용한다고 말했습니다. 이제 그녀는 중범죄 혐의를 받고 있으며, 그녀를 그곳으로 보낸 독자는 그녀가 결코 보여주고 싶지 않은 사람이었습니다. 체포 보고서에 따르면 Anthropic의 플랫폼은 핵심 문구와 위협적인 콘텐츠를 모니터링합니다. 진술의 심각성으로 인해 검토 팀에 전달되었으며, 검토 팀은 해당 내용을 법 집행 기관에 보고했습니다. 2026년 10월 10일부터 회사는 심각한 피해를 예방하기 위해 공개가 합리적으로 필요하다고 선의로 믿는 경우 경찰과 데이터를 공유할 수 있습니다.

동일한 정책에 따르면 안전 검토 대상으로 표시된 대화는 여전히 Anthropic의 유해한 콘텐츠 감지 능력을 향상시키는 데 사용됩니다. 샌프란시스코 스탠다드(San Francisco Standard)는 지난 9월 Anthropic이 자신이 AR-15를 구입했고 CEO인 Dario Amodei가 그의 십자선에 있다고 쓴 후 사용자를 경찰에 회부했다고 보도했습니다. 한 직원은 경찰에게 안전에 대해 즉각적으로 걱정하지 않고 회사 정책을 이유로 메시지 표시를 거부했다고 말했습니다. Anthropic 대변인은 이 에피소드를 "의도한 대로 작동하는 우리의 보호 프로세스"라고 불렀습니다. 회사는 자사 직원에 대한 위협을 다르게 취급하는지 여부에 대해서는 밝히기를 거부했습니다.

8명이 사망한 브리티시컬럼비아주 텀블러 리지에서 발생한 2월 학교 총격 사건 이후 OpenAI는 2025년 6월에 캐나다 경찰에 경고할 것을 고려했지만 해당 계정에는 심각한 신체적 피해가 임박하고 신뢰할 수 있는 위험이 나타나지 않는다고 결론지었습니다.