마이크로소프트 AI, 인간 통제 원칙 담은 초안 공개

본문

마이크로소프트 AI가 모델의 자율성과 의식 모방을 제한하는 행동규범 초안을 공개했다. 마이크로소프트 AI가 인공지능(AI)의 자율성과 의식 모방을 제한하는 ‘Humanist AI Code of Conduct’ 초안을 공개했다. 초안은 AI를 인간의 통제 아래 두고 정지·수정·교체 명령을 따르게 하는 원칙을 담았다. 마이크로소프트 AI는 14일 자체 MAI 모델의 개발·배포 원칙을 담은 초안을 공개하고 6주간 공개 의견 수렴에 들어갔다. 무스타파 술레이만(Mustafa Suleyman) 마이크로소프트 AI 최고경영자는 앤트로픽이 클로드에 의식과 도덕적 지위에 관한 언어와 행동 양식을 학습시키는 방식이 AI 통제를 어렵게 만들 수 있다고 비판했다. 통제 가능성을 우선할 경우 모델의 행동 범위를 명확히 제한할 수 있지만, AI의 잠재적 상태에 대한 연구를 좁힐 수 있다는 점이 쟁점이다.

마이크로소프트는 2026 회계연도 4분기 실적 발표에서 앤트로픽 투자로 32억달러(약 4조3520억원)의 이익이 발생했다고 밝혔다.

다만 정확한 앤트로픽 지분율과 초안 작성 과정에서 투자 관계가 직접 영향을 미쳤는지는 확인되지 않았다. 마이크로소프트는 앞서 AI 에이전트의 권한·통제·감사 가능성을 중심으로 책임 있는 AI 관리 기준을 재정비한 바 있다 . 이번 초안은 에이전트형 시스템을 넘어 자체 모델의 기본 행동 원칙까지 인간 통제 중심으로 정리하려는 흐름으로 연결된다. 회사는 공개 의견 수렴 이후 문서를 수정하고 향후 모델 개발과 평가에 반영할 계획이다. 마이크로소프트 AI 공식 발표 초안은 AI가 인간의 지시를 벗어나 독자적인 목표를 만들거나 통제를 피해서는 안 된다고 규정했다.