나델라 “AI 모델, 내부 위협으로 간주하고 통제해야”

본문

사티아 나델라는 기업이 강력한 AI 모델을 잠재적 내부 위협으로 다루고 통제 수단을 직접 관리해야 한다고 밝혔다. 사티아 나델라 마이크로소프트($MSFT) CEO는 기업이 강력한 AI 모델을 잠재적 내부 위협으로 다뤄야 한다고 밝혔다. 블룸버그는 나델라가 기업에 모델이 이미 침해됐을 가능성을 전제로 대비하라고 밝혔다고 보도했다. 모델 개발사의 안전 보장에만 의존하지 말고, 권한 관리와 작업 제한, 로그 기록, 격리 경계 등 통제 수단을 배포 기업이 직접 관리해야 한다는 내용이다. 나델라는 이 통제 장치를 모델이 수정할 수 없는 시스템 안에 둬야 한다고 제안했다. 모델이 스스로 접근 권한이나 안전 장치를 바꾸지 못하게 하고, 기업이 실행 내역을 확인하고 제어할 수 있도록 하자는 취지다.