AI 사고 통보 논의…군사 오판 우려·보안 연구 사례 주목

본문

미국과 중국이 국가안보에 영향을 미칠 수 있는 AI 사고 통보 체계를 논의했다. 미국과 중국이 국가안보에 영향을 미칠 수 있는 인공지능(AI) 사고를 서로 알리는 통보 체계를 논의했다. 스콧 베선트(Scott Bessent) 미국 재무장관은 9월 20일 뉴욕에서 허리펑 중국 국무원 부총리와 회동한 뒤 미국이 ‘notification mechanism’을 제안했다고 밝혔다. 베선트 장관은 “세계 1위와 2위 AI 강국 사이의 불투명성을 줄이고 투명성을 높이는 것은 매우 중요하다”고 말했다. 이번 사안은 미국이 중국에 AI 사고 통보 체계를 제안했다는 앞선 보도 의 후속 맥락에 해당한다. 현재 공개된 내용은 국제기구나 공동 대응센터 설치가 아니라 국가안보 관련 AI 사고를 공유하기 위한 대화와 통보 방식의 검토다.

AI 사고 통보 체계가 실제로 작동하려면 어떤 사고를 국가안보 사안으로 볼지, 언제 누구에게 알릴지, 정보의 정확성을 어떻게 검증할지 정해야 한다.

오픈AI(OpenAI)는 9월 21일 AI 안전 기준 제안에서 정부와 핵심 인프라 운영자가 국가안보 우려와 새로운 취약점·위협을 공유할 수 있는 보안 통신 채널을 마련해야 한다고 밝혔다. 오픈AI는 미·중 간 AI 대화를 긍정적인 조치로 평가하며 공통 측정 방식과 사고 분류·보고 절차가 필요하다고 제안했다. 오픈AI는 연구진에게 6500달러(약 895만원)의 버그 바운티를 지급했다. 조지 첸(George Chen) 아시아그룹 디지털 정책 전문가(파트너)는 AI 위험 통보 메커니즘이 다른 국가가 따를 수 있는 선례가 될 수 있다고 평가했다. 특정 블록체인·거래소·스테이블코인에 대한 공격이나 피해, AI 통보 논의와 연결된 반도체 수출통제 합의·수치도 공개되지 않았다.