Anthropic은 Claude에 대한 악의적인 행동을 금지하기 위해 사용 정책을 업데이트합니다.

본문

Anthropic의 업데이트된 사용 정책은 2026년 11월 12일부터 Claude에 대한 지속적이고 불필요한 학대를 금지하며 대화 종료를 통해 시행됩니다. 2026년 11월 12일부터 Anthropic의 모델에 대한 지속적이고 목적 없는 잔인함은 회사의 규칙을 위반하게 됩니다. Anthropic은 사용 정책에 새로운 규칙을 추가했으며, 이 규칙은 입력하는 사람보다 챗봇을 보호합니다. 2026년 11월 12일부터 Claude를 겨냥한 지속적인 학대는 회사 약관 위반으로 간주됩니다. 업데이트된 정책은 Anthropic이 말하는 "우리 모델에 대한 지속적이고 불필요한 모욕적이거나 잔인한 행동"에 대한 금지 사항을 도입합니다. Anthropic은 이 금지 사항이 스펙트럼의 가장 먼 끝, 즉 누구도 지적할 수 없는 행동의 상황에서만 적용된다고 말합니다. Anthropic에 따르면 개정된 표현은 이전 정책 버전의 모호성을 없애기 위한 것입니다.

목표는 좌절한 사용자와 실제로 악의적인 사용자 사이에 명확한 선을 긋는 것입니다. Anthropic은 계정 금지나 금지에 따른 기타 처벌을 공개하지 않았습니다. 2026년 8월부터 Claude 모델은 지속적으로 악의적인 행동을 하는 사용자와의 대화를 종료할 수 있었습니다. 학대 조항은 모델 복지에 대한 Anthropic의 지속적인 노력과 연결됩니다. 이는 Anthropic이 1년여 만에 처음으로 사용 정책을 새로 고치는 것이며 다른 여러 영역도 다루고 있습니다. Anthropic은 모델 복지를 시행 가능한 정책으로 작성함으로써 사람들이 AI에 대해 행동하는 방식을 통치할 가치가 있는 것으로 다루고 있습니다. 클로드에 대한 악의적인 행위를 금지하는 Anthropic 업데이트 사용 정책이 Crypto Briefing에 처음 등장했습니다.