AI 자기개선 위험 경고…국제 공조 요구 잇따라

본문

인공지능(AI)의 자기개선 가능성을 둘러싸고 기술업계와 금융계에서 개발 속도를 늦추고 국제 공조를 강화해야 한다는 경고가 잇따랐다.오픈AI와 앤스로픽에서 사전학습 연구를 맡았던 제이컵 콕슨(Jacob Coxon)은 최근 앤스로픽을... AI 연구원과 트레이더가 자기개선 AI의 통제 불능 위험을 경고하며 주요국의 개발 속도 조절과 국제 공조를 촉구했다. 오픈AI와 앤스로픽에서 사전학습 연구를 맡았던 제이컵 콕슨(Jacob Coxon)은 최근 앤스로픽을 떠나며 대형 AI 연구소들이 안전성보다 기술 경쟁을 앞세우고 있다고 비판했다. 그는 소셜미디어에 “이들은 자기개선 초지능을 향해 질주하며 우리의 생명을 걸고 도박하고 있다”고 썼다. 콕슨은 자기개선 능력을 갖춘 초인적 AI가 단기간에 각종 디지털 시스템을 공격하고 산업 구조를 바꾸며 현실 세계의 자원에 접근할 수 있다고 주장했다.

AI 업계 내부에는 향후 10년 안에 이 기술이 인류 생존을 위협할 수 있다고 보는 연구자들이 있지만, 기업의 대외 발언은 홍보 과정에서 완화된다는 지적도 내놨다. 앤스로픽에 대해서는 AI 안전 위험에 대한 인식이 상대적으로 높지만, “우리가 먼저 하지 않으면 다른 누군가가 할 것”이라는 경쟁 압력에 놓였다고 설명했다. 최종적인 영향력이 현재의 어느 한 국가를 넘어설 가능성이 있는 만큼, 각국 정상이 임기 중 AI 안전을 최우선 정책 과제로 다뤄야 한다고 촉구했다. 이번 경고는 AI 안전 문제가 기술 기업 내부의 연구 과제를 넘어 국제 거버넌스와 국가안보, 장기적인 사회 위험 문제로 확대되고 있음을 보여준다. 한국에서도 AI 데이터센터·반도체·물리 AI를 묶은 정부의 투자 확대 계획 이 추진되고 있다. AI 인프라와 활용을 확대하는 정책이 이어지는 만큼, 개발 속도와 안전성 검증을 함께 다루는 논의도 국내 정책과 산업계의 과제로 이어질 수 있다.

이들이 언급한 조치가 곧바로 국제 규제나 AI 개발 중단으로 확정된 것은 아니다.