뉴욕시의회, AI 재난 위험 묻고 제3자 검증 법안 논의
제목 연관성·주요 수치·시장 영향·향후 전망을 기준으로 핵심 문장을 선별한 요약 브리핑입니다.
핵심 포인트
- 뉴욕시의회가 오픈AI·구글·메타·앤트로픽 관계자들을 불러 AI의 재난 위험과 안전 대책을 물었다.
- 뉴욕시의회가 오픈AI와 구글, 메타, 앤트로픽 관계자들을 불러 인공지능(AI)의 재난 위험과 안전 대책을 물었다.
- 뉴욕시의회는 10월 5일 전체 의원이 참여하는 ‘위원회 전체(Committee of the Whole)’ 청문회를 열었다.
본문
뉴욕시의회가 오픈AI·구글·메타·앤트로픽 관계자들을 불러 AI의 재난 위험과 안전 대책을 물었다. 뉴욕시의회가 오픈AI와 구글, 메타, 앤트로픽 관계자들을 불러 인공지능(AI)의 재난 위험과 안전 대책을 물었다. 뉴욕시의회는 10월 5일 전체 의원이 참여하는 ‘위원회 전체(Committee of the Whole)’ 청문회를 열었다. 시의회 공식 발표에는 약 40명의 의원이 참석했으며, 오픈AI의 모건 드와이어(Morgan Dwyer), 메타의 셰인 케이힐(Shane Cahill), 구글의 앨리스 프렌드(Alice Friend), 앤트로픽의 로건 그레이엄(Logan Graham)이 선서 후 증언자로 적혔다. 줄리 메닌 시의회 의장은 각 회사에 최악의 재난 상황에서 AI가 초래할 위험을 수치로 제시해 달라고 요구했다. 청문회에서는 기업의 위험 설명을 법적 책임 규칙과 어떻게 연결할지가 다뤄졌다.
뉴욕시의회가 사전에 공개한 법안 제안에는 AI 시스템의 제3자 검증, 사람이 작동을 중단할 수 있는 장치, 안전 통제 우회로 예측 가능한 피해가 발생했을 때의 민사상 청구권, AI 안전사고 보고 등이 포함됐다. 이 내용은 논의 중인 제안으로, 시행 중인 규정이나 확정된 책임 기준은 아니다. 제3자 검증을 다룬 Introduction 2602는 검증을 거치지 않은 AI 시스템을 판매하거나 배포할 경우 건당 2만5000달러의 벌금을 부과하는 방안을 담았다. 뉴욕시의회 공식 발표에는 기업 관계자들의 안전 대책 설명과 앤트로픽 전 연구원 제이컵 콕슨(Jacob Coxon)의 위험 경고가 담겼다. 콕슨은 현재 개발 경로가 이어지면 인류가 AI 통제력을 잃고 멸종에 이를 가능성이 더 높다고 증언했다. 이 발언은 콕슨의 위험 전망으로, 청문회에서 측정되거나 확정된 수치는 아니다.