AI 킬 스위치, 분산형 시스템에선 작동 한계 가능성 거론

본문

인공지능(AI) 시스템을 강제로 멈추는 킬 스위치가 여러 데이터센터와 네트워크에 분산된 자율 AI 환경에서는 제대로 작동하지 않을 수 있다는 지적이 나왔다.전직 앤스로픽 연구원 제이컵 콕슨(Jacob Coxon)은 13일(현지시간) NBC 뉴스... 전직 앤스로픽 연구원 제이컵 콕슨이 분산형 자율 AI 환경에서 중앙 통제 장치의 한계를 지적했다. 미국 의회에는 AI Kill Switch Act가 발의됐지만 아직 법률로 확정되지 않았다. 전직 앤스로픽 연구원 제이컵 콕슨(Jacob Coxon)은 13일(현지시간) NBC 뉴스 프로그램 'Meet the Press'에서 현재 AI 시스템에는 킬 스위치가 작동할 수 있지만, 시스템이 여러 데이터센터에 분산되면 통제가 어려워질 수 있다고 말했다. 그는 장기 규제 체계가 마련될 때까지 주요 AI 기업의 자율 규제가 필요하다고 주장했다.

콕슨의 발언은 의무적인 킬 스위치 도입을 직접 요구했다기보다, 기술 발전 속도에 맞춰 규제와 통제 장치를 계속 조정해야 한다는 문제 제기에 가깝다. 테드 리우(Ted Lieu) 민주당 하원의원과 네이선얼 모런(Nathaniel Moran) 공화당 하원의원은 7월 23일 'AI Kill Switch Act'를 발의했다. 법안은 위험한 AI 시스템을 일시 중지하거나 기능을 제한하고 필요할 경우 종료할 수 있는 기술적 능력을 개발사가 유지하도록 하는 내용을 담고 있다. AI Policy Institute는 6월 10~11일 미국 유권자 1007명을 대상으로 조사한 결과, 86%가 가장 강력한 AI 시스템에 보장된 'off switch'가 필요하다고 답했다고 밝혔다. AI Policy Institute는 AI 안전 규제를 지지하는 정책 연구기관이다.

앤스로픽 안전 연구자 에번 허빙어(Evan Hubinger)는 AI가 인간을 모두 죽일 가능성이 10%를 넘는다고 개인적으로 평가했다.

회사의 안전 로드맵에는 2026년 9월 30일까지 AI 모델의 출력이 특정 가중치와 연결됐는지 확인하는 'provable inference' 시제품을 개발한다는 목표가 담겼다.