마이크로소프트 나델라, AI에는 인간이 제어하는 '비상 브레이크' 필요

본문

Nadella는 다른 기술 거물 및 연구자들과 합류하여 더 강력한 보호 조치를 요구하고 경우에 따라 개척 개발의 속도를 높이도록 요구했습니다. 마이크로소프트(MS) 회장 겸 CEO인 사티아 나델라(Satya Nadella)는 지난 토요일 격리, 독립적인 제어, 승인된 사람이 작업 중에 모델을 일시 중지하거나 종료할 수 있는 "비상 브레이크"를 갖춘 고급 인공 지능 시스템을 구축할 것을 요구했습니다. Nadella는 소셜 미디어 플랫폼 X에 올린 게시물에서 "우리는 강력하고 결정론적인 시스템 설계, 인간의 제어 및 신뢰할 수 있는 운영 절차로 비결정론적 모델을 둘러싸고 기존 모델이 부족한 업계 표준을 확립해야 합니다. 프론티어 폐쇄형 및 개방형 모델을 내부자 위험처럼 다루는 것이 그러한 시스템을 구축하는 방법"이라고 말했습니다.

Nadella의 발언은 Microsoft 공동 창립자 Bill Gates, Anthropic CEO Dario Amodei, OpenAI CEO Sam Altman 및 SpaceX CEO Elon Musk를 포함한 최고 기술 경영진과 연구원들이 AI 안전 프로토콜이 부족하고 기술이 너무 빠르게 발전하고 있다고 주장하는 가운데 나왔습니다. 한 AI 연구원은 지난 달 Anthropic을 그만두고 회사와 최대 라이벌인 OpenAI가 "우리 생명을 걸고 도박을 하고 있다"고 비난했습니다. 그날 늦게 AI 안전에 초점을 맞춘 Anthropic의 정렬 책임자는 이 기술이 향후 10년 내에 "모든 인간을 죽일" 가능성이 10% 이상이라고 말했습니다. 반대로, 도널드 트럼프 대통령은 AI 멸종 위험을 반복적으로 일축하고 대신 업계가 중국보다 앞서야 한다고 강조했습니다.

트럼프는 또한 최근 제이 클레이튼 국가정보국장이 이끄는 새로운 'AI 포스'를 도입해 업계를 활성화하고 악의적인 행위자를 근절하는 데 도움을 주고 있습니다. 마이크로소프트의 나델라는 토요일에 AI 시스템이 "관찰 가능성의 원칙"을 중심으로 설계되어야 한다고 썼습니다. 여기에는 모델 다양성이 포함됩니다. 사람이 읽을 수 있는 모델 동작의 발자국 지속적인 시스템 테스트; 독립적인 통제 및 감사 가능성; 방지; 그리고 사건 공개라고 Nadella는 썼습니다. 그는 "가장 신뢰할 수 있는 슈퍼 인텔리전스 시스템은 우리가 가장 신뢰하는 모델을 갖춘 시스템이 아닐 것"이라고 썼습니다. 데이터는 실시간 스냅샷입니다. *데이터는 최소 15분 이상 지연됩니다. 글로벌 비즈니스 및 금융 뉴스, 주식 시세, 시장 데이터 및 분석.