나델라 “기업은 AI 모델을 내부 보안 위험으로 관리해야”

본문

사티아 나델라 마이크로소프트 CEO가 기업의 AI 모델 관리와 에이전트 통제 방안을 제시했다. 기업은 AI 모델을 내부 보안 위험 관리 체계에 포함하고, 권한 있는 사람이 에이전트를 언제든 일시 정지하거나 종료할 수 있도록 해야 한다. 모델의 오류나 공격자 악용이 민감한 데이터와 핵심 작업에 영향을 줄 수 있기 때문이다. 오데일리는 12일 오후 3시 52분 사티아 나델라(Satya Nadella) 마이크로소프트($MSFT) CEO가 기업의 AI 보안 관리 방안을 밝혔다고 보도했다. 나델라는 “기업은 AI 모델을 내부 보안 위험으로 관리해야 한다”고 말했다. 이는 모델 공급자의 보안 약속에만 의존하지 말고 기업이 통제 체계를 갖춰야 한다는 취지다. 나델라는 모델과 에이전트 실행 체계를 분리하고, 데이터 접근과 도구 사용 권한을 모델 바깥의 시스템에서 통제하라고 제안했다. 중요한 작업은 변조를 막고 사람이 검토할 수 있는 기록으로 남겨야 한다고도 했다.

그는 배포 단계부터 모델이 침해됐을 가능성을 고려하고, 권한을 가진 사람이 에이전트를 언제든 일시 정지하거나 종료할 수 있어야 한다고 강조했다.