앤트로픽 법안 초안, 50명 넘게 숨질 위험 땐 판사 거쳐 출시 차단
제목 연관성·주요 수치·시장 영향·향후 전망을 기준으로 핵심 문장을 선별한 요약 브리핑입니다.
핵심 포인트
- 앤트로픽이 사망 50명 초과 또는 재산 피해 10억달러 초과 위험이 임박한 AI 모델의 출시를 법원 판단을 거쳐 막는 법안 초안을 의회에 제안하려 한다.
- 앤트로픽이 인공지능(AI) 모델의 출시를 법원 판단을 거쳐서만 막을 수 있도록 한 AI 안전 법안 초안을 미 의회에 제안하려 하고 있다.
- 폴리티코(Politico)는 앤트로픽이 AI 안전 법안 초안을 의회에 제안하려 한다고 보도했다.
본문
앤트로픽이 사망 50명 초과 또는 재산 피해 10억달러 초과 위험이 임박한 AI 모델의 출시를 법원 판단을 거쳐 막는 법안 초안을 의회에 제안하려 한다. 앤트로픽이 인공지능(AI) 모델의 출시를 법원 판단을 거쳐서만 막을 수 있도록 한 AI 안전 법안 초안을 미 의회에 제안하려 하고 있다. 폴리티코(Politico)는 앤트로픽이 AI 안전 법안 초안을 의회에 제안하려 한다고 보도했다. 앤트로픽 대변인은 폴리티코에 "이 법안은 앤트로픽의 '첨단 AI 프레임워크(Advanced AI Framework)'에 담은 제안을 반영한 것으로, 우리는 6월부터 연방·주 의원들에게 이를 주장해 왔다"고 밝혔다. 모델 배포를 막을 수 있는 조건은 '예측 가능하고 임박한 위험'이다. 50명을 넘는 사람이 숨질 위험이 있거나 10억달러(약 1조3310억원)를 넘는 재산 피해가 날 수 있는 경우가 해당한다.
폴리티코는 이 위험이 생물학 무기의 제작이나 출시, 모델이 개발사의 통제를 벗어나는 상황, 사이버 공격에서 비롯돼야 한다고 전했다.
사망 50명과 피해액 10억달러라는 기준은 최근 법으로 제정된 캘리포니아주 상원법안 53호(SB 53)와 비슷하다. SB 53도 같은 규모의 시나리오를 '재앙적 위험'으로 정의했다. 절차는 △상무부에 등록된 '독립 평가기관'이 모델의 재앙적 위험 가능성을 분석하고 △임박한 위험이 있다고 판단하면 72시간 안에 상무부에 알리며 △상무부가 워싱턴 D.C. 데미스 하사비스(Demis Hassabis) 딥마인드 회장은 몇 달 전 AI 자율 규제기구가 미국 금융업계의 FINRA를 본떠야 한다고 주장했다. 대신 AI 조직 내부에 '중립적' 제3자 평가자를 배치해 위험 신호나 오남용을 살피게 하는 자율 방식을 제시했다.