일본, 고성능 AI 안전 의무·명령 위반 벌칙 검토

본문

내각부 작업반은 특정 위험을 일으킬 수 있는 일정 수준 이상 AI에 규율을 적용하는 방안을 논의했다. 일본 정부가 고성능 인공지능(AI) 사업자에게 안전 확보 의무를 부과하고, 정부 명령을 어기면 벌칙을 적용하는 방안을 검토하고 있다. 법 개정 전 논의 단계로, 규제 대상과 처벌 수위는 정해지지 않았다. 내각부가 11일 공개한 제2회 제도 검토 작업반 자료에는 사업자의 안전조치 의무와 정부에 대한 보고, 권고·명령 권한, 명령 위반 시 벌칙을 두는 구상이 담겼다. 자료는 특정 위험과 일정 수준 이상의 성능을 가진 AI를 대상으로 법적 규제가 필요할 수 있다고 제시했다. 사이버 공격과 화학·생물·방사능·핵·폭발물(CBRNE) 테러 위험도 검토 대상으로 다뤘다. 작업반은 사업자 규제를 우선 검토하면서 연구·개발·서비스 제공 단계 중 어디에 의무를 부과할지 살피고 있다.

해외 사업자에게 규칙을 실효성 있게 적용하고 일본 사업자에게만 부담이 쏠리지 않도록 해야 한다는 의견도 정리됐다.

규제 대상과 의무 범위는 해외 사업자에 대한 집행 가능성도 고려해 논의될 예정이다. 11일 열린 작업반의 사업자 청취에는 앤트로픽 재팬(Anthropic Japan), 구글(Google), 오픈AI 재팬(OpenAI Japan), NTT, 사카나 AI(Sakana AI), SB 인튜이션스(SB Intuitions)가 참여했다. 청취 항목에는 사이버 공격 등 AI 위험에 대한 인식, 각사의 안전조치, 법적 의무와 자율 지침에 관한 의견이 포함됐다. 교도통신은 일본 정부가 연말까지 법 개정 내용을 포함한 제도 개편의 전체상을 제시할 계획이라고 보도했다.