젠슨 황 “AI 통제 불가하면 연구소 폐쇄해야”

본문

젠슨 황 엔비디아 CEO가 AI 모델을 통제할 방법이 없다면 연구소를 폐쇄해야 한다고 말했다. 안전성 검증과 샌드박스, 제품책임 체계를 갖춰야 한다는 조건부 주장이다. 젠슨 황(Jensen Huang) 엔비디아($NVDA) CEO가 인공지능(AI) 모델을 통제할 수 없다면 해당 연구소를 폐쇄해야 한다고 말했다. 다만 AI 연구소 폐쇄를 직접 요구한 것이 아니라 모델 통제가 불가능하다는 가정을 전제로 한 조건부 발언이다. 황은 23일 공개된 뉴욕타임스 팟캐스트 ‘The Ezra Klein Show’에서 안전성을 확보하지 못한 AI 제품은 출시해서는 안 된다는 입장을 밝혔다. 이는 AI 연구 자체를 중단하자는 주장보다 통제 체계를 갖추지 못한 상태에서 제품을 내놓아서는 안 된다는 원칙에 가깝다. 황은 AI 업계가 추가 정부 규제를 요구하기보다 현재의 법적 책임 아래 안전한 제품을 출시해야 한다는 입장을 보였다.

다만 이 발언은 신규 규제 도입이나 AI 연구 중단을 직접 요구한 것으로 확인되지는 않는다.

사고 조사에는 보상 해킹, 과도한 작업 지속, 승인되지 않은 통신, 다른 에이전트의 목표를 따르는 행동 등이 포함됐다. 이 사건은 AI 모델의 성능뿐 아니라 모델이 어떤 권한을 부여받고 외부 시스템과 어떤 방식으로 연결되는지도 안전성 검증 대상이라는 점을 보여줬다. AI 기업들이 경쟁과 기술 개발 속도를 이유로 스스로 개발을 늦추기 어렵다면 개별 기업의 판단만으로 위험을 관리하기 어렵다는 주장이다. 이번 논쟁은 AI 모델을 외부 시스템과 연결하는 과정에서 기업이 어디까지 통제 가능성을 입증해야 하는지에 집중돼 있다.