자율규제 끝나나…미 상원, AI 기업에 ‘주의 의무’ 추진

본문

미국 상원 협상단은 최첨단 AI 개발사에 알려진 중대한 위험을 예방할 ‘주의 의무’를 법적으로 부과하는 방안을 논의하고 있다. 미 의회, 첨단 AI 개발사에 대규모 피해 예방 위한 ‘주의 의무’ 부과 추진 미 정부에 위험 모델 출시 차단권 부여…국립연구소 안전성 검증 참여 규제 비용이 출시·투자 일정에 부담…대형 AI 기업에 유리할 가능성도 [블록미디어 이혜연 기자] 미국 의회가 최첨단 인공지능(AI) 개발사의 안전관리를 자율적인 약속이 아닌 법적 의무로 전환하는 방안을 논의하고 있다. 로이터에 따르면 미국 상원 협상단은 최첨단 AI 모델 개발사가 이미 알려진 중대한 위험을 예방하도록 법적 책임을 부과하는 법안을 논의하고 있다. 법안이 통과되면 구글과 앤트로픽, 오픈AI 등 주요 AI 기업의 안전관리 기준에도 큰 변화가 예상된다. 논의 중인 법안의 핵심은 프런티어 AI 모델 개발사에 이른바 ‘주의 의무(duty of care)’를 부과하는 것이다.

클로버샤 의원은 로이터에 “AI 모델이 초래할 수 있는 가장 심각한 위험을 정부가 감독하는 것이 목표”라고 말했다. AI is advancing at an extraordinary pace, and some of the risks are dangerous and frightening. I wrote and passed the TAKE IT DOWN Act, the only legislation Congress has enacted restricting AI, to protect victims from… pic.twitter.com/movYZNQrHr 이는 주마다 다른 규제가 미국 AI 산업의 발전을 방해할 수 있다며 일관된 국가 규제체계를 요구해온 도널드 트럼프 행정부의 AI 입법 방향과 대체로 일치한다. 유럽연합(EU)은 이미 위험성이 큰 AI 모델에 대한 규제를 시행하고 있다.

EU AI법은 시스템 위험을 일으킬 가능성이 있는 범용 AI 모델 제공사에 모델 평가와 위험관리, 사고 보고, 사이버보안 관련 의무를 부과한다. 골드만삭스 리서치는 2026년 세계 AI 투자액이 약 1조달러에 이를 것으로 예상했다. 로이터에 따르면 미국 하원은 11월 3일 중간선거 전까지 일주일만 회기를 진행할 예정으로, 상원은 3주 동안 의사일정을 이어갈 것으로 예상된다.