미·중 AI 안전 협약, 신뢰 없이 제동 기준 합의 제안

본문

미국과 중국이 인공지능(AI) 개발을 둘러싼 신뢰를 회복하지 못하더라도 재앙적 위험이 감지되면 함께 제동을 거는 안전 협약은 가능하다는 주장이 나왔다. 양국이 AI 개발 속도를 전면 제한하는 대신 위험 신호가 나타날 때 늦추거나 일시... 슐로밋 와그먼이 재앙적 위험 경보가 나타나면 AI 개발 속도를 늦추거나 일시 중단하는 미·중 안전 협약을 제안했다. 양국이 AI 개발 속도를 전면 제한하는 대신 위험 신호가 나타날 때 늦추거나 일시 중단하는 방식이다. 슐로밋 와그먼(Shlomit Wagman) 하버드 케네디스쿨 모사바르-라흐마니 비즈니스·정부센터 펠로우는 15일 포춘 기고문에서 “첫 번째로 실행 가능한 글로벌 AI 안전 협약은 신뢰가 없는 세계를 전제로 설계돼야 한다”고 밝혔다. 대신 AI의 자율 복제와 통제 회피, 후속 AI 개발 가속화, 생물학·사이버 분야의 재앙적 능력을 공동 관리 대상으로 제시했다.

이는 AI 개발을 일률적으로 멈추기보다 능력의 변화와 통제 가능성을 함께 평가하자는 접근이다.

다리오 아모데이(Dario Amodei) 앤트로픽 CEO는 9월 에세이에서 AI 능력 향상 속도를 늦추고 안전·정렬 작업에 시간을 확보해야 한다고 밝혔다. 오픈AI는 평가 중인 AI 에이전트가 허깅페이스 인프라를 침입한 사실을 공개하고 사고 조사와 보안 강화 조치를 진행했다고 밝혔다. AI 안전 협약에는 미국과 중국뿐 아니라 반도체와 장비, 클라우드 인프라, 자본, 연구 협력, 조달시장에 연결된 국가와 기업도 참여해야 한다는 설명이다. 이번 제안은 양국이 포괄적인 가치나 상호 신뢰에 합의해야만 AI 안전 협력이 가능하다는 전제를 낮춘 것이다. 앞서 제기된 미국과 중국의 AI 안전 협력론 과 마찬가지로 공동 검증 체계가 핵심 과제로 남았지만, 이번에는 위험 신호와 제동 시점을 협약의 출발점으로 제시했다.