미국과 러시아 외교관은 자율 무기 조약에서 AI 보호 장치를 꺼냅니다.

본문

미국과 러시아 외교관들은 제네바에서 열린 CCW GGE의 자율 무기 초안에서 주요 AI 보호 장치를 제거했으며, 제네바의 비공개 회의에서 날카로운 비판을 불러일으켰으며 치명적인 자율 무기에 관한 획기적인 문서 초안에서 인간 감독 요구 사항과 윤리적 가드레일을 제거했습니다. 군사 AI에 가장 많은 투자를 한 두 국가가 누구도 AI를 규제하지 못하도록 힘을 합쳤습니다. 제네바에서 열린 유엔 무기 협상의 마지막 시간에 미국과 러시아의 외교관들은 치명적인 자율 무기 시스템을 관리하기 위한 초안 프레임워크에서 가장 중요한 조항을 체계적으로 제거했습니다. CCW GGE로 알려진 특정 재래식무기금지협약 정부 전문가 그룹은 지난 8월 31일부터 제네바에서 회의를 마친 뒤 2026년 9월 5일 최종 협상을 마무리했다. 마지막 날 미국과 러시아 변호사 20여명이 참여한 비공개 회의에서는 극적으로 변형된 텍스트가 나왔다.

또한 전쟁에 기계 지능을 배치하는 것에 대한 보다 광범위한 윤리적 고려 사항과 함께 무기 측면에서 AI 시스템의 예측 가능성과 신뢰성을 다루는 조항도 사라졌습니다. 최종 문서는 그 범위를 국제인도법으로만 좁혔고, 자율 시스템이 합법적으로 사용될 수 있는 방법에 추가적인 제약을 가하는 인권법과 기타 체계는 제외했습니다. 치명적인 자율 무기에 대한 CCW GGE 프로세스는 2014년부터 진행되어 왔습니다. 세계에서 가장 큰 두 군사 강대국이 AI 제어 무기에 관한 문서에서 인간 감독 언어를 공동으로 제거할 때, 그들은 조약에 명시되어 있는 것과 관계없이 그들이 어떻게 작동할 것인지에 대한 신호를 보내는 것입니다. 더 강력한 조항을 지지한 76개 이상의 국가에 대해 미적분학은 이제 어려운 선택을 수반합니다.

두 강력한 국가가 결과를 희석시킬 수 있는 합의 프레임워크 내에서 계속 작업하거나 지뢰 및 집속탄에서 발생했던 것처럼 완전히 CCW 외부에서 별도의 조약 프로세스를 추구하는 것입니다. 조약에서 AI 보호 장치를 제거하면 규제되지 않은 자율 무기가 생겨 전 세계적으로 윤리적, 보안적 우려가 제기될 수 있습니다. 미국과 러시아 외교관들이 자율 무기 조약으로 AI 보호 장치를 구축한 게시물이 크립토 브리핑(Crypto Briefing)에 처음 등장했습니다.