미국 이용자 표본 33% 챗봇에 욕설…앤트로픽 정책 시행
제목 연관성·주요 수치·시장 영향·향후 전망을 기준으로 핵심 문장을 선별한 요약 브리핑입니다.
핵심 포인트
- Searchable는 미국 이용자 패널의 메시지 800만건 이상을 분석해 표본의 33%가 AI 챗봇에 욕설이나 모욕적 표현을 보낸 적 있다고 밝혔다.
- 앤트로픽은 클로드를 향한 지속적·불필요한 학대를 금지한 조항을 11월 12일 시행했다.
- 미국 AI 챗봇 이용자 표본의 33%가 챗봇에 욕설이나 모욕적 표현을 한 번 이상 보낸 것으로 조사됐다.
본문
Searchable는 미국 이용자 패널의 메시지 800만건 이상을 분석해 표본의 33%가 AI 챗봇에 욕설이나 모욕적 표현을 보낸 적 있다고 밝혔다. 앤트로픽은 클로드를 향한 지속적·불필요한 학대를 금지한 조항을 11월 12일 시행했다. 미국 AI 챗봇 이용자 표본의 33%가 챗봇에 욕설이나 모욕적 표현을 한 번 이상 보낸 것으로 조사됐다. AI 검색 분석업체 Searchable는 11월 2일 공개한 분석 결과에서 사전 동의한 미국 패널 이용자들이 2025년 9월부터 1년간 챗GPT(ChatGPT)·제미나이(Gemini)·클로드(Claude)에 보낸 800만건 이상의 메시지를 살펴봤다고 밝혔다. 분석은 메시지를 보낸 이용자별로 욕설·모욕·비하 표현이 있었는지 집계했다. 표본의 33%는 세 챗봇 가운데 하나에 욕설이나 모욕적 표현을 한 차례 이상 보냈다. 메시지에 입력된 전체 단어 1만개당 욕설·모욕·비하 표현은 19.1개였다.
부정적 표현이 포함된 메시지의 계기로는 지시 미이행이 19.0%, 오답이 18.1%, 요청 오해가 14.7%로 꼽혔다. 앤트로픽 (Anthropic)은 10월 8일 이용 정책 개정 안내를 공개했다. 앤트로픽은 2025년 8월 클로드 오퍼스 4와 4.1이 소비자용 채팅에서 드물고 극단적인 학대 대화를 끝낼 수 있도록 했다고 당시 설명했다. 앤트로픽은 여러 차례 대화 방향을 돌리려는 시도가 실패하고 생산적인 대화를 이어갈 가능성이 사라졌을 때 이 기능을 마지막 수단으로 쓰도록 했다. 본 기사는 시장 데이터 및 차트 분석을 바탕으로 작성되었으며, 특정 종목에 대한 투자 권유가 아닙니다.