캘리포니아, 첨단 AI 비상 중단 ‘킬 스위치’ 도입 검토

본문

캘리포니아주가 비상시 첨단 인공지능(AI) 모델을 중단하는 ‘킬 스위치’ 도입 등 AI 안전·보안 규제 강화를 검토한다. [멕시코=심영재 특파원] 미국 캘리포니아주가 첨단 인공지능(AI) 모델을 비상시 중단할 수 있는 이른바 ‘킬 스위치(kill switch)’ 도입을 검토한다. 개빈 뉴섬 캘리포니아 주지사는 전문가 그룹에 두 달 안에 AI 안전·보안 규제를 강화할 방안을 마련하도록 지시했다. 독립기관의 AI 기업 안전계획 작성과 상시 검증도 검토 대상에 포함됐다. 블룸버그에 따르면 뉴섬 주지사는 18일(현지시각) AI 안전장치 강화를 위한 행정명령을 내렸다. 캘리포니아 주정부 공식 발표에 따르면 전문가 그룹은 앞으로 두 달 동안 주정부의 AI 안전·보안 관련 법률을 강화하기 위한 권고안을 마련한다. 캘리포니아 주정부에 따르면 전문가 그룹은 프런티어 AI 기업이 비상시 모델을 중단할 수 있는 장치를 개발하도록 하는 방안을 검토한다.

블룸버그에 따르면 뉴섬 주지사는 과거 포괄적인 AI 규제 법안에 거부권을 행사하기도 했다. 캘리포니아 주정부는 이번 행정명령을 통해 AI 시스템의 통제력 상실과 같은 사고를 중대 안전사고의 정의에 포함하는 방안도 검토하기로 했다. 블룸버그는 소규모 AI 기업 일부가 규제 강화에 우려를 나타내고 있다고 전했다. 대형 AI 기업이 규제 기준 형성에 더 큰 영향력을 행사하면서 신생기업의 경쟁이 어려워질 수 있다는 주장이다. 캘리포니아 주정부 역시 이날 발표에서 주정부의 AI 규제 체계를 연방정부가 검토하고 국가 차원의 기준으로 활용해야 한다고 주장했다.