“AGI를 미·중·러 정부에 팔자” …오픈AI ‘국가 경매’ 구상했었다

본문

오픈AI가 자금 조달을 위해 미국·중국·러시아 등 정부에 미래 AGI 권리를 경매 방식으로 제공하는 ‘국가 플랜’을 논의했다는 증언이 나왔다. 아모데이가 오픈AI 떠난 이유 중 하나 앤트로픽 창업 다룬 책 요약본 유출 "올트먼과 아모데이 결별은 신뢰 문제" [블록미디어 James Jung 기자] 앤트로픽 창업자 다리오 아모데이가 오픈AI를 떠나게 된 배경에는 인공지능(AI) 안전을 둘러싼 철학적 차이만 있었던 것이 아니었다. 오픈AI가 개발 자금을 마련하기 위해 범용인공지능( AGI )의 권리를 미국, 중국, 러시아 등 정부에 경매 방식으로 매각하자는 논의가 있었다. 아모데이가 ‘국가 플랜(countries plan)’이라는 이 방안을 알게 되면서 양측의 신뢰가 무너졌다는 증언이 나왔다. 오픈AI 내부에서 한때 논의된 ‘국가 플랜’은 AGI 위험을 국제사회가 공동 관리한다는 구상에서 출발했다.

오픈AI 연구 책임자였던 다리오 아모데이는 이 계획이 AI 군비경쟁과 인권 침해를 촉발할 수 있다고 강하게 반발했다.

루스는 오픈AI와 앤트로픽, 구글 딥마인드 관계자 150명 이상을 인터뷰하고 내부 문서 등을 토대로 아모데이와 오픈AI 경영진의 결별 과정을 추적했다. 그렉 브록먼 오픈AI 공동창업자와 일리야 수츠케버 수석과학자가 ‘국가 플랜’을 제안했다. 이같은 충격적인 계획은 오픈AI가 새로운 자금원을 찾던 상황에서 나온 것이나, 현재 논란이 되고 있는 AI 멸망론이나 국가 주도 AI 개발론과도 맞물려 파문을 일으키고 있다. 그는 2017년 12월 브록먼과 수츠케버 등 경영진에게 이메일을 보내 이 계획이 군비경쟁을 줄이기는커녕 확대할 수 있다고 주장했다. 권위주의 정부가 자신들의 가치가 반영된 AGI를 확보하면 심각한 인권 침해로 이어질 가능성도 제기했다. 이후 마이크로소프트(MS)가 오픈AI에 대규모 자금을 투자하면서 국가 플랜도 서랍속으로 사라졌다.