LIVE MARKET
시장 시세 연결 중
← 실시간 뉴스로

AI 생성 아동 성착취물 탐지…챗GPT 경고·24시간 이용 제한

제목 연관성·주요 수치·시장 영향·향후 전망을 기준으로 핵심 문장을 선별한 요약 브리핑입니다.

KEY POINTS

핵심 포인트

  • 새 이미지 분류기는 시각적 단서를 분석해 검토 우선순위를 제시하며, 심사를 거친 기관에 API로 무료 제공된다.
  • 오픈AI(OpenAI)가 인공지능(AI)으로 만든 아동 성착취물까지 탐지하는 이미지 분류기를 공개하고, 챗GPT(ChatGPT)에서 관련 자료를 찾으려는 이용자에게 경고와 24시간 이용 제한을 도입했다.
  • 오픈AI는 16일(현지시간) 공식 발표에서 이미지 분류기와 챗GPT 경고, 개발자 지침, 수사기관 지원 도구를 함께 소개했다.
시장 반응 중립
ARTICLE BRIEF

본문

새 이미지 분류기는 시각적 단서를 분석해 검토 우선순위를 제시하며, 심사를 거친 기관에 API로 무료 제공된다. 오픈AI(OpenAI)가 인공지능(AI)으로 만든 아동 성착취물까지 탐지하는 이미지 분류기를 공개하고, 챗GPT(ChatGPT)에서 관련 자료를 찾으려는 이용자에게 경고와 24시간 이용 제한을 도입했다. 오픈AI는 16일(현지시간) 공식 발표에서 이미지 분류기와 챗GPT 경고, 개발자 지침, 수사기관 지원 도구를 함께 소개했다. 이를 통해 담당자가 이전에 확인되지 않은 이미지나 AI 생성 자료를 먼저 검토하도록 돕는다. 오픈AI가 이용자 업로드 이미지를 대상으로 진행한 자체 평가에서는 새 분류기가 기존 보호 장치와 비슷한 수의 성착취물을 찾아내면서 검토 대상으로 표시한 이미지는 48% 적었다. 협력사 fal의 운영 이미지 시험에서는 사람이 검토한 고신뢰 표시 사례 가운데 72%가 이전에 확인되지 않은 성착취물로 판정됐다.

invideo AI의 평가에서는 표시된 사례 중 4건에 1건꼴로 이용 정지 조치가 뒤따랐고, SafetyKit은 아동을 성적으로 묘사한 그림·애니메이션 사례의 90%를 탐지했다고 밝혔다. 반복 위반은 더 긴 이용 제한이나 계정 폐쇄로 이어질 수 있고, 당국에 신고될 수도 있다. 오픈AI는 이번 조치가 지난 4월 공개한 아동 안전 청사진의 후속 작업이라고 설명했다. 청사진에는 AI 생성 성착취물에 대응하기 위한 법 정비와 사업자의 신고·수사기관 협력 강화, AI 설계 단계의 안전 조치가 담겼다. 오픈AI는 앞서 아동 대상 AI의 위험과 기회를 측정할 도구 개발에 200만달러(약 26억7000만원)를 약정했다고 밝혔다 . 이번에는 탐지 도구와 서비스 내 경고, 개발자·수사기관 지원을 추가했다.