오픈AI, 18세 미만 무기 정보 제한…공격 재현 정보도 줄인다

본문

폭력 의도가 드러나지 않은 질문도 청소년 보호 대상에 포함한다. 모든 연령에 과거 대규모 공격 관련 무기·장비 세부 정보 제한을 적용하며, 새 조치는 향후 몇 주간 도입을 시작한다. 오픈AI(OpenAI)가 18세 미만으로 판단한 챗GPT(ChatGPT) 이용자에게 폭력 의도가 드러나지 않은 질문에도 무기와 보안 시스템의 실용 정보를 제한한다. 모든 연령 이용자에게는 과거 대규모 공격을 재구성하는 데 쓰일 수 있는 세부 정보 제공을 줄인다. 오픈AI는 10월 30일 공식 발표에서 새 보호 조치의 도입을 향후 몇 주 안에 시작한다고 밝혔다. 기존 정책은 폭력 계획이나 실행을 돕는 답변을 금지하고, 청소년이 무기를 찾거나 확보하도록 돕는 정보도 제한해 왔다. 이번에는 폭력에 악용될 수 있는 무기와 보안 시스템의 실용 정보까지 제한 범위를 넓힌다.

성인인데 18세 미만 경험으로 잘못 분류된 이용자는 연령 확인 업체 Persona를 통해 성인임을 확인하고 추가 청소년 보호 제한을 해제할 수 있다.

청소년 계정이 폭력 관련 이용 정책 위반으로 비활성화되면 연결된 부모에게 알림을 보내고 있으며, 앞으로는 폭력에 관한 반복 대화로 계정을 일시 중단할 때도 알릴 예정이다. 이 조사는 이번 무기 정보 제한 발표보다 앞서 공개됐으며, 청소년용 챗GPT의 기존 보호 기능을 평가했다. 따라서 조사 결과는 새 무기 정보 제한의 작동 여부를 보여주는 것은 아니다. 회사는 폭력 등 지역사회 안전 문제를 시스템이 감지·조사·대응하는 방식을 설명하는 첫 커뮤니티 안전 보고서를 2027년 초 공개할 예정이다.