캘리포니아, AI 안전법 강화 권고안 두 달 내 마련 추진

본문

전문가 그룹은 두 달 안에 AI 안전·보안법 강화 권고안을 마련할 예정이다. 캘리포니아주가 인공지능(AI)의 잠재적 위험에 대응하기 위한 행정명령을 내렸다. 전문가 그룹은 두 달 안에 주정부의 AI 안전·보안법 강화 방안을 마련할 예정이다. 개빈 뉴섬(Gavin Newsom) 캘리포니아 주지사는 18일(현지시간) 행정명령을 발표하고 “연방정부가 의미 있는 AI 감독과 책임 체계를 만들지 못한 것은 모든 미국인을 불안하게 해야 한다”고 말했다. 권고안에는 최첨단 AI 기업이 독립된 제3자에게 안전계획을 작성하도록 하는 방안과 비상 상황에서 AI 모델을 중단할 수 있는 '킬 스위치'를 기업에 요구하는 방안이 포함될 수 있다. CNBC는 의회가 2026년 중간선거 전 AI 위험과 관련한 의미 있는 입법을 추진하기 어려울 것으로 보인다고 보도했다. 도널드 트럼프 미국 대통령은 AI 안전 우려를 '사기'라고 표현하며 규제 요구에 거리를 둬왔다.

앤트로픽 연구원이 이달 초 회사를 떠나 AI가 인류의 존립을 위협할 수 있다고 경고한 뒤 워싱턴에서는 AI 위험과 규제 장치를 둘러싼 논의가 다시 커졌다. 뉴섬 주지사를 비롯해 2028년 민주당 대선 후보로 거론되는 인사들은 연방 차원의 AI 감독 강화를 요구하고 있다. 캘리포니아 주지사실은 해당 조치가 AI 시스템의 투명성과 책임성을 높이기 위한 것이라고 밝혔다. 이번 행정명령은 이런 외부 평가 체계를 최첨단 AI 기업의 안전계획과 비상 대응 절차까지 확대할 수 있다는 점에서 기존 규제 논의를 이어간다. 캘리포니아주는 두 달 안에 AI 안전·보안법 강화 권고안을 마련할 예정이다.