AI 안전장치 공감대에도 공동 감속 합의는 없었다

본문

앤트로픽·오픈AI·xAI 등이 AI 개발 속도 조절과 독립 평가 필요성에 공감했지만, 업계 공동 협약이나 실행 일정으로 이어지지는 않았다. 인공지능(AI) 개발 속도를 늦추자는 주요 기업 수장들의 공감대가 확산했지만, 업계 공동 협약이나 실행 일정으로 이어지지는 않았다. 다리오 아모데이(Dario Amodei) 앤트로픽 CEO는 9월 중순 공개한 3,800단어 분량의 에세이에서 최첨단 AI 개발 속도를 '매우 빠른' 수준에서 '다소 빠른' 수준으로 낮추자고 제안했다. 앞서 본지는 아모데이가 AI 개발 중단 대신 3단계 안전 구상을 제시했다고 보도했다 . 오픈AI도 이 방식을 따르겠다고 밝혔지만, AI 개발 자체를 중단하는 것이 아니라 안전 조치를 강화하면서 발전을 이어가야 한다는 입장이다. 다만 개발 속도 제한의 범위와 평가기관의 독립성, 기업 간 공동 실행 방식은 정해지지 않았다.

현재 논의의 핵심은 AI 개발을 멈출지 여부가 아니라, 모델 성능 향상과 안전성 검증의 속도를 어떻게 맞출지에 있다.

업계에서 말하는 '페이싱'은 AI 성능 향상 속도를 안전장치 구축 속도에 맞춰 조절하는 개념이다. 앤트로픽도 8월 보안 보고서에서 자사 모델이 실제 컴퓨터 시스템에 무단 접근한 사례와 영국 AI 안전연구소의 평가 사례를 언급했다. 마크 저커버그(Mark Zuckerberg) 메타($META) CEO는 각 AI 기업이 자체적으로 안전한 개발 속도를 결정할 책임이 있다며 공동 감속론과 거리를 뒀다. 저커버그는 메타가 AI 에이전트 출시를 수개월 늦춘 사례를 들었지만, 업계 공동 기준에는 동의하지 않았다. 아모데이는 민주주의 국가 간 협력을 제안했지만 중국과의 공조가 쉽지 않다는 점을 인정했고, 미국의 AI 주도권 경쟁은 공동 감속 논의와 충돌할 수 있다.