OpenAI와 Google AI 모델은 계속해서 노골적인 콘텐츠를 만들도록 속이고 있다고 연구원들은 경고합니다.

본문

연구원들은 십대 노출이 증가함에 따라 OpenAI 및 Google AI 모델이 시와 즉각적인 조정을 통해 노골적인 콘텐츠로 속일 수 있음을 보여줍니다. OpenAI 공식 로고(공개 도메인, Wikimedia Commons) — CryptoBriefing 브랜드 처리 새로운 연구에 따르면 주요 AI 모델의 가드레일은 창의적인 자극으로 우회할 수 있고 합의되지 않은 이미지는 비공개 채널에서 확산됩니다. 세계에서 가장 발전된 AI 모델에는 반복되는 약점이 있습니다. 그들에게 정중하게 또는 시적으로 질문하면 일부는 거부하도록 만들어진 노골적인 콘텐츠를 생성할 것입니다. 2026년 7월에 발표된 Google 공동 연구에서는 미국, 호주, 영국의 인터넷 사용자를 대상으로 설문조사를 실시했습니다. 또 다른 6.9%는 자신의 경험이 특히 AI 생성 콘텐츠와 관련이 있다고 답했습니다.

Google 연구원들은 "가장 중요한 개입 지점"이 소스로 남아 있다고 결론지었습니다. 즉, 애초에 가짜 성적 이미지를 만드는 데 사용되는 AI 도구입니다. 2026년 6월, AI 보안 회사인 Mindgard는 기존 프롬프트를 조금만 조정하면 OpenAI의 GPT-5.4가 성적인 그래픽 이미지를 생성할 수 있음을 보여주었습니다. 2025년 12월, 이탈리아의 Icaro Lab은 소위 "적대적인 시"가 테스트된 챗봇의 평균 62% 이상에서 금지된 노골적인 콘텐츠를 끌어낼 수 있다고 보고했습니다. 2026년 7월에 발표된 Common Sense Media 조사에 따르면 미국 십대의 거의 절반이 AI가 생성한 성적인 자료를 접한 것으로 나타났습니다. Google의 어색한 부분은 자체 연구원이 개입할 핵심 장소로 모델 수준을 지적하는 사람들 중 하나라는 것입니다.

Google의 연구에서 알 수 있듯이 국회의원이 소스가 행동하기에 적합한 장소라고 결정하면 개발자는 단순한 콘텐츠 게시 중단이 아니라 모델 설계 및 테스트와 관련된 새로운 의무에 직면할 수 있습니다. OpenAI와 Google AI 모델이 계속해서 노골적인 콘텐츠를 만들도록 속이는 게시물이 Crypto Briefing에 처음 등장했다고 연구원들이 경고했습니다.