EU AI Act, 생성 텍스트도 표시 의무…OpenAI는 이미지·오디오 신호 안내
제목 연관성·주요 수치·시장 영향·향후 전망을 기준으로 핵심 문장을 선별한 요약 브리핑입니다.
핵심 포인트
- EU AI Act는 AI가 생성한 텍스트를 포함한 합성 콘텐츠에 기계 판독 가능한 표시를 요구한다.
- OpenAI는 현재 이미지·오디오의 출처 신호를 안내하고 있다.
- OpenAI의 공식 안내는 현재 이미지·오디오의 출처 신호를 설명하며, 텍스트 워터마크 기능이나 API 설정은 다루지 않는다.
본문
EU AI Act는 AI가 생성한 텍스트를 포함한 합성 콘텐츠에 기계 판독 가능한 표시를 요구한다. OpenAI는 현재 이미지·오디오의 출처 신호를 안내하고 있다. OpenAI의 공식 안내는 현재 이미지·오디오의 출처 신호를 설명하며, 텍스트 워터마크 기능이나 API 설정은 다루지 않는다. 개발자 문서의 Content Provenance API는 업로드한 이미지나 오디오 파일에서 지원되는 출처 신호를 확인하는 기능이다. EU AI Act 제50조 2항은 합성 오디오·이미지·영상·텍스트를 생성하는 시스템 제공자가 결과물을 기계가 판독할 수 있도록 표시하고, 인공적으로 생성·조작된 콘텐츠임을 탐지할 수 있게 하도록 규정한다. 표시 방식은 콘텐츠의 특성과 기술적 실현 가능성을 고려해야 하며, 법 조항이 특정 워터마킹 기술이나 제품별 기본 설정을 지정한 것은 아니다.
그 전에 시장에 나온 시스템의 생성 콘텐츠 표시·탐지 의무에는 2026년 12월 2일까지 유예가 적용된다.
집행위원회는 2026년 6월 AI 생성 콘텐츠 투명성 실천규범(Code of Practice)을 공개했다. 서명은 자발적이며, 참여자가 의무 준수 방안을 마련할 때 법적 예측 가능성을 얻도록 돕는다는 취지다. EU AI Act 제50조는 사람에게 AI와 상호작용 중임을 알리는 의무, 생성 콘텐츠 표시 의무, 딥페이크와 공익 관련 텍스트의 공개 표시 의무를 구분한다. 생성 콘텐츠 표시 조항은 텍스트를 포함하지만, 모든 AI 텍스트에 똑같은 워터마크를 적용하라고 정하지는 않는다. OpenAI는 2024년 텍스트 출처 확인을 위해 분류기·워터마킹·메타데이터 등 여러 방법을 연구하고 있다고 밝혔다.