아모데이, AI 개발 중단 대신 3단계 안전 구상 제시

본문

다리오 아모데이(Dario Amodei) 앤트로픽(Anthropic) 최고경영자(CEO)가 인공지능(AI) 개발 중단보다 안전 검증과 국제 공조를 단계적으로 강화하자는 3단계 구상을 제시했다.크립토브리핑은 아모데이의 구상이 내부 평가체계,... 다리오 아모데이 앤트로픽 CEO가 반복 안전 평가와 민주국가·기업 간 공통 기준, 국제 규범 마련을 제안했다. 크립토브리핑은 아모데이의 구상이 내부 평가체계, 민주국가와 AI 기업 간 공통 기준, 국제적 조정으로 구성된다고 전했다. 핵심은 AI 능력 향상 속도가 안전성 연구와 검증을 앞서지 않도록 개발 과정에서 시간을 확보하는 데 있다. 첫 단계는 모델 훈련과 배포 과정에 안전 평가자를 지속적으로 배치하는 방식이다. 두 번째 단계에서는 주요 AI 기업과 민주주의 국가가 공통 안전 기준을 마련한다. 기업이 안전 투자를 줄여 경쟁 우위를 확보하는 상황을 막기 위해 공통 규칙을 만들자는 내용이다.

앤트로픽은 2026년 2월 공개한 RSP 3.0에서 AI 능력이 특정 기준을 넘을 경우 안전장치를 강화하는 AI 안전 수준(ASL) 체계를 설명했다. ASL은 AI 모델의 능력과 위험도에 맞춰 안전·보안 조치를 단계적으로 강화하는 체계다. 성명에는 최첨단 AI 기업 직원 1386명이 서명했으며, 다리오 아모데이도 서명자 명단에 포함됐다. 서명자들은 AI 연구 자동화가 개발 속도를 크게 높일 수 있다고 지적했다. 미국 정부가 AI 개발 속도를 조절할 수 있는 기술적·거버넌스 수단을 국제적으로 마련하는 데 지원해야 한다고 요구했다.