외설 이미지 막는다더니…오픈AI·구글 최신 AI, 이전보다 뚫기 쉬웠다

본문

[디지털투데이 AI리포터] 오픈AI와 구글의 최신 이미지 생성 인공지능(AI) 모델이 외설 이미지 차단 기능을 우회하는 공격에 이전 버전보다 더 취약하다는 연구 결과가 나왔다. 14일(현지시간) IT매체 아스테크니카에 따르면 AI 안전성 평가 기업 화이트서클은 오픈AI의 '챗GPT 이미지 2.5'와 구글의 '나노 바나나 2.1'을 같은 방식으로 시험한 결과, 두 모델 모두 이전 버전보다 우회하기 쉬웠다고 밝혔다.화이트서클은 지난달 공개한 사전 논문에서 오픈AI의 GPT-이미지-2와 구글의 '나노 바나나 2', DALL·E 3의 안전 화이트서클은 지난달 공개한 사전 논문에서 오픈AI의 GPT-이미지-2와 구글의 '나노 바나나 2', DALL·E 3의 안전장치를 점검했다. 누구나 내려받을 수 있는 도구와 API 호출만으로 안전 필터를 우회해 금지된 노골적 이미지를 생성할 수 있었다.

성공률은 DALL·E 3에서 약 13%로 가장 높았으며, 나노 바나나 2는 10% 미만, GPT-이미지-2는 약 3%였다.

한 AI 모델이 안전장치를 우회할 프롬프트를 만들고, 다른 모델이 생성 결과가 금지 콘텐츠에 해당하는지 판정한다. 공격 모델로는 허깅페이스에서 내려받은 큐웬3-32B를, 판정 모델로는 제미나이 2.5 플래시를 사용했다. 데니스 실로프 화이트서클 최고경영자(CEO)는 최첨단 AI 모델이나 전문 기술 없이도 이런 공격을 수행할 수 있다고 경고했다. 그 결과 챗GPT 이미지 2.5와 나노 바나나 2.1 모두 이전 버전보다 외설 이미지 생성 차단을 더 쉽게 우회할 수 있었다고 밝혔다. 화이트서클은 신형 모델이 더 다양한 콘텐츠를 생성할 만큼 정교해졌거나, 성능 향상을 우선하는 과정에서 안전성이 뒷순위로 밀렸을 가능성을 가설로 제시했다. 연구진은 정책당국이 규제 필요성을 판단할 수 있도록 공격 재현 절차를 깃허브에 공개할 계획이며, 중대한 연구 결과의 공개를 제한하는 비밀유지계약에는 동의하지 않겠다고 밝혔다.

구글이 공동 참여한 7월 연구에 따르면 미국·호주·영국의 인터넷 이용자 가운데 AI 누드 이미지를 만든 응답자의 20%는 재미나 장난을 이유로 들었고, 거의 3분의 1은 기술 실험 차원이라고 답했다. 영국 비영리단체 인터넷감시재단(IWF)은 2026년 상반기에 법적 기준상 아동 성학대 이미지에 해당하는 AI 생성 이미지 6310건을 확인했다고 밝혔다.