애플, 실존 인물 '딥페이크' 앱 삭제…메타 광고 32건도 중단

본문

[디지털투데이 AI리포터] 애플이 실존 인물 사진을 활용해 인공지능(AI) 생성 음란 딥페이크를 만들 수 있도록 한 애플리케이션(이하 앱)을 앱스토어에서 삭제했다.18일(현지시간) IT매체 나인투파이브맥에 따르면, 메타는 해당 앱을 홍보하는 광고를 운영했으며 광고 중 하나에는 미국의 저명한 여성 정치인을 닮은 인물이 등장했다.문제가 된 앱은 '크로믹스'다. 이 앱은 스스로를 남성들이 실제로 사용하는 AI라고 홍보했으며, 이용자가 실존 인물의 사진을 바탕으로 음란 딥페이크 이미지를 만들 수 있도록 한 것으로 전해졌다. 18일(현지시간) IT매체 나인투파이브맥에 따르면, 메타는 해당 앱을 홍보하는 광고를 운영했으며 광고 중 하나에는 미국의 저명한 여성 정치인을 닮은 인물이 등장했다. 메타는 이 앱의 광고 캠페인을 집행했지만, 논란이 불거진 뒤 관련 광고를 중단했다.

애플은 해당 앱을 앱스토어에서 삭제했고, 메타는 남성 이용자를 대상으로 집행했던 광고 32건을 중단했다. 플랫폼 두 곳이 뒤늦게 조치에 나섰지만, 핵심 쟁점은 광고 심사와 앱 심사 체계가 이 같은 서비스의 확산을 얼마나 효과적으로 막을 수 있느냐는 점이다. 특히 메타 광고에 미국의 유명 여성 정치인을 닮은 인물이 등장하고, 해당 앱이 남성들이 실제로 사용하는 AI라고 홍보한 점은 생성형 AI를 악용한 성적 딥페이크가 앱 유통과 광고 플랫폼을 통해 동시에 확산될 가능성을 보여준다. 메타 역시 광고를 중단했지만, 이미 32건의 광고가 집행된 뒤였다는 점에서 플랫폼의 사전 심사와 관리 책임을 둘러싼 논의가 이어질 가능성이 있다. 다만 유사 앱이 잇따라 확인된 만큼, 두 회사가 사후 차단을 넘어 유사 서비스의 재등장을 얼마나 효과적으로 막을 수 있을지가 향후 관전 포인트다.