앤트로픽, 클로드 사용 정책 개정…선거 방해·모델 학대 금지

본문

앤트로픽이 선거 개입과 지속적인 AI 모델 학대 등을 금지하는 사용 정책을 개정했다. 앤트로픽이 클로드 사용 정책을 개정해 AI 모델에 대한 지속적인 학대와 선거 개입 행위를 금지했다. 앤트로픽은 10월 8일 공개한 정책 개정 안내에서 변경 내용 상당 부분이 기존 규칙을 명확히 하는 데 목적이 있다고 밝혔다. 클로드가 더 길고 독립적인 작업을 수행하게 되면서 영향력 공작, 무기 개발, 감시 등에서 나타난 오용 양상을 정책에 반영했다고 설명했다. 새 규정은 뚜렷한 목적 없이 사용자가 반복적으로 잔인하거나 학대적인 방식으로 모델을 대하는 극단적 경우를 금지 대상으로 명시했다. 일반적인 불만이나 반박, 어두운 주제를 다룬 창작, 모델 테스트와 연구는 제한 대상이 아니다. 앤트로픽은 지속적인 학대 대화를 클로드가 종료할 수 있도록 한 기존 조치를 주요 집행 수단으로 제시했다. 앤트로픽은 새 사용 정책에서 유권자를 속이거나 선거를 방해하는 행위를 금지했다.

후보나 투표 방법에 관한 허위 정보 유포, 후보자·선거 관계자 사칭, 투표 참여 억제가 사례로 제시됐다. 허위 계정이나 가짜 뉴스 매체를 운영하는 등 정치·상업 목적의 기만 캠페인도 별도 규정에 포함됐다. 무기 개발 금지 범위에는 무기 작동에 필요한 소프트웨어와 부품, 드론 등 자율 이동체를 무장하는 행위가 포함된다. 클로드가 법 집행 과정에서 수사·체포·기소 대상을 결정하거나 추천하는 행위 역시 금지 대상으로 명시됐다.