크리스 휴스, AI 연구소 정부 감독관 상주 제안

본문

크리스 휴스가 오픈AI·앤트로픽·구글 딥마인드에 정부 감독팀을 상주시킬 AI 감독청 설립을 제안했다. 크리스 휴스가 오픈AI·앤트로픽·구글 딥마인드 등 주요 AI 연구소에 정부 감독관을 상주시킬 ‘AI 감독청(Office of AI Supervision)’ 설립을 제안했다. 감독팀을 연구소 내부에 배치해 인공지능 모델 개발 과정을 실시간으로 들여다보자는 구상이다. 감독관을 주기적으로 교체하는 이유는 장기 상주 과정에서 감독관과 기업 사이에 유착이 생기는 ‘규제 포획’을 막기 위해서다. 휴스는 2025년 2월 공개한 글에서 훈련 비용이 1억달러(약 1354억원) 이상인 대형 AI 모델에 안전 프로토콜과 제3자 검증, 사고 보고, ‘킬 스위치’를 요구해야 한다고 주장했다. 유럽연합 집행위원회는 AI Office가 범용 AI 모델을 평가하고 사업자에게 자료 제출과 시정조치를 요구하며 위반 시 제재할 수 있다고 설명했다.

AI Office는 기존 감독기관과 마찬가지로 사업자에 자료와 조치를 요구할 권한을 갖지만, 기업 내부에 감독관을 상주시킨 구조는 아니다. 영국 AI Security Institute도 2023년 11월부터 최첨단 AI 모델의 국가안보·공공안전 관련 능력을 평가해 왔다. 캘리포니아의 대형 AI 모델 안전 규제 법안 SB 1047은 규제 설계의 어려움을 보여주는 사례다. 개빈 뉴섬(Gavin Newsom) 캘리포니아 주지사는 2024년 법안 거부권을 행사하며 AI 시스템의 실제 사용 환경과 위험도를 충분히 구분하지 못한다고 밝혔다. 현재 논의의 중심은 AI 연구소 내부에 정부 감독 인력을 둘 수 있는지와 그 권한을 어디까지 설정할지에 있다. AI 감독청은 현재 기업 내부 접근성과 실시간 감시를 강조한 정책 제안 단계에 머물러 있다.