“AI 종말론 해법 있다” …젠슨 황, ‘공학적 통제’ · 머스크, ‘교차 검증’ 제안

본문

젠슨 황 엔비디아 CEO는 AI 종말론이 과장됐다며 샌드박스·런타임 제어·지속적 모니터링 등 공학적 통제를 해법으로 제시했다. '올인 서밋(All-In Summint)' 참석, AI 문제 집중 논의 데이비드 삭스, 제조물 책임법 등 기존 법적 장치 강조 트럼프, 젠슨 황과 즉석 통화… "종말론은 공포 조작" [블록미디어 이정화 기자] 인공지능(AI)이 인류를 말살 할 수 있다는 종말론에 대해 미국의 주요 기술 기업 CEO들이 경고 신호를 보내는 상황에서 젠슨 황과 일론 머스크가 각자 해법을 제시했다. 14일(현지시각) 미국 LA에서 열리고 있는 올인 서밋(All-In Summit) 행사에 참석한 젠슨 황은 AI 종말론이 과장됐다며 공학적 통제를 해법으로 제시했다.

같은 행사에 화상으로 연결된 일론 머스크는 AI 발전이 지수함수적으로 이뤄지고 있어 통제가 필요하다면서도 “AI 모델 상호간에 교차 검증(Peer Review)으로 위험을 관리할 수 있다”고 말했다.

올인 서밋은 데이비드 삭스 백악관 AI 차르 등 4명의 기술 전문가들이 진행하는 올인 팟캐스트가 주최한 행사로 15일까지 열린다. 젠슨 황은 “AI 기술이 연구 단계에서 본격적인 엔지니어링 단계로 진화함에 따라 샌드박스, 런타임 제어, 지속적 모니터링 등 공학적 통제 장치를 통해 AI 위험을 충분히 관리할 수 있다”고 말했다. 젠슨 황은 AI 검증 및 평가(Verification and evals) 시스템 등 구체적인 공학적 기술 프로세스를 도입하면 AI 모델 개발의 위험을 관리할 수 있다고 주장했다. 실체 없는 공포로 혁신과 데이터센터 확장을 저해하기보다, 공학적 안전장치를 갖춘 상태에서 오픈소스와 프론티어 모델(AI 혁신 모델)을 활성화해 생산성 향상, 재산업화, 일자리 창출 등 실질적 국가 경쟁력을 확보하는 것이 본질이라는 입장이다.

아울러 데이터센터를 “향후 20~25년 동안의 석유”에 비유하며, 미국이 글로벌 AI 주도권을 확보하기 위해 인프라 확충에 전폭적으로 나서야 한다고 말했다.

일론 머스크(Elon Musk) 테슬라(Tesla) 최고경영자(CEO)는 AI 위험성을 간과해서는 안 된다며 개발 속도 조절론에 찬성하는 입장이다. 머스크 최고경영자는 개발사가 자사 모델을 스스로 감수하는 방식을 지양해야 한다며, 그 대안으로 주요 프론티어 AI 기업들과 중국이 모델 출시 전 서로의 테스트 하네스(AI 모델 가이드)를 이용해 교차 검증하는 상호 피어 리뷰(Peer Review) 체계를 즉각 도입해야 한다고 제안했다. 백악관 AI 차르를 역임한 데이비드 삭스(David Sacks) 크래프트벤처스(Craft Ventures) 설립자(Founder)는 유엔 같은 거대 관료 조직을 신설하는 대신 머스크 최고경영자가 제안한 피어 리뷰 방식이 훨씬 실용적이라고 평가했다.