AI 웜, IoT 기기 자가복제까지 수개월…앤트로픽 경고

본문

앤트로픽 연구진은 소형 AI 모델이 수개월 안에 상용 사물인터넷(IoT) 기기에서 자가복제할 수 있다고 경고했다. 통제된 실험에서 전체 복제에 성공한 오픈 웨이트 모델은 GLM-5.2뿐이었다. 앤트로픽 연구진은 소형 인공지능(AI) 모델이 수개월 안에 상용 사물인터넷(IoT) 기기에서 자가복제할 능력을 갖출 수 있다고 경고했다. 다만 이번 연구에서 실제 가전제품을 감염시키며 퍼지는 AI 웜이 확인된 것은 아니다. 앤트로픽 프런티어 레드팀의 윌리엄 저우(William Zhou)와 대니얼 프리먼(Daniel Freeman)은 12일 연구 글에서 상용 IoT 기기에서 AI 모델의 자가복제 가능성을 시험했다고 밝혔다. 연구진은 저가형 안드로이드 TV 박스에서 소형 AI 모델을 실행하고, 낯선 기기에 맞춰 작동 방식을 찾아낼 가능성을 살폈다. 스마트 오븐은 향후 표적이 될 수 있는 IoT 기기의 예로 제시됐다.

그러나 현재 모델은 실제 스마트TV에서 안정적으로 자가복제할 만큼 작고 강력하지 않았고, 30B 이하 모델도 필요한 개별 작업은 수행했지만 이를 끝까지 연결하는 과정에서 오류를 냈다. 연구진은 소형 모델의 성능이 과거와 같은 속도로 개선된다면 연말까지 GLM-5.2 수준에 도달할 수 있다고 전망했다. 연구가 제기한 우려는 당장 가전제품이 감염되고 있다는 주장이 아니라, 보안이 취약한 기기에서 AI 모델이 작동하고 복제되는 경로가 기술적으로 가까워질 수 있다는 점이다. 격리된 가상 네트워크에서 AI 웜이 평균 20.4개 호스트로 복제된 앞선 연구 는 공개 가중치 대규모언어모델을 활용해 네트워크에서 공격 경로를 구성하고 복제하는 능력을 시험했다. 이번 앤트로픽 연구는 저가형 IoT 기기에서 모델을 실행할 수 있는지와 자가복제 과정을 연결할 수 있는지를 살폈다.