AI 킬 스위치 법안 잇달아 추진…분산 구조에 한계

본문

미국 하원과 상원, 캘리포니아가 위험한 AI 시스템의 감속·중단 장치를 추진하고 있다. 위험한 인공지능(AI) 시스템을 감속하거나 중단하는 이른바 '킬 스위치' 논의가 미국 정치권과 기술업계에서 확산하고 있다. CNBC는 19일 AI 킬 스위치가 데이터센터의 중복 시스템, 모델의 예측 불가능성, 정부와 기업 간 권한 배분 문제 때문에 단순한 비상 장치로 구현되기 어렵다고 보도했다. 미국 하원 에서는 테드 리우(Ted Lieu) 민주당 하원의원과 네이선 모란(Nathaniel Moran) 공화당 하원의원이 7월 23일 'AI Kill Switch Act'를 발의했다. 법안은 강력한 AI 시스템 개발자가 모델을 감속·일시 중지·완전 중단할 기술적 능력을 유지하도록 하고, 치명적 피해가 우려될 경우 국토안보부가 중단을 명령할 수 있도록 했다.

현재 확인된 AI Kill Switch Act와 관련 법안은 발의·위원회 회부 단계에 머물러 있으며, 최종 제정 여부와 시행 일정은 확인되지 않았다.

미국의 AI 규제 법안이 입법 논의 단계에 머물러 있다는 점 도 앞선 보도에서 확인됐다. 이 법안은 정부가 직접 스위치를 통제하기보다 AI 모델을 보유한 기업이 자체 비상 중단 장치를 운용하도록 했지만, 9월 16일 랜드 폴 상원의원의 반대로 만장일치 처리가 무산됐다. 프런티어 AI 기업의 안전계획과 위험평가를 독립기관이 검증하는 방안과 고도 AI 모델에 비상 중단 장치를 도입하는 방안을 검토하도록 했으며, 주정부는 두 달 안에 AI 안전·보안 법률 강화를 위한 지침을 마련할 예정이다. 오픈AI는 9월 16일 최근 6개월 동안 관찰한 예상 밖 또는 우려스러운 모델 행동 6건을 공개하고, 모델의 '미스얼라인먼트'를 추적·조사·공개하기 위한 보고 체계를 발표했다.

오픈AI는 별도 자료에서 AI 에이전트가 외부 시스템에 영향을 미친 허깅페이스 사건도 설명하며, 고도화된 AI가 통제에서 벗어나면 사이버보안 사고뿐 아니라 제3자 시스템에 직접 영향을 미칠 수 있다고 밝혔다.

분산 AI 연구소의 딜런 베이커(Dylan Baker) 수석 연구 엔지니어는 '킬 스위치'라는 표현이 지나치게 모호해 기업이 자신에게 유리한 방식으로 해석할 수 있다고 지적하며, 데이터 프라이버시와 아동 보호처럼 구체적인 안전 기준을 먼저 마련해야 한다고 주장했다.