마이크로소프트, AI 행동강령 공개…해킹·핵무기·딥페이크 금지

본문

[디지털투데이 황치규 기자]마이크로소프트가 자사 AI 모델에 적용할 새로운 행동강령을 공개하고 사이버 공격, 핵무기 관련 행위, 딥페이크 제작을 금지했다.14일(현지시간) 테크크런치에 따르면 마이크로소프트는 행동 강령을 통해 AI 모델 훈련 학습에 적용하는 가치와 안전 기준을 정리했다.문서는 향후 10년 안에 초지능 AI 시스템이 대부분 작업들에서 인간을 넘어설 수 있다고 전제하고 "이런 강력한 시스템을 억제하고 통제하는 것은 인류가 직면한 가장 큰 과제 중 하나"라고 강조했다.핵심은 각 모델에 사용자 선호나 개별 작업보다 우선하는 14일(현지시간) 테크크런치에 따르면 마이크로소프트는 행동 강령을 통해 AI 모델 훈련 학습에 적용하는 가치와 안전 기준을 정리했다.

문서는 향후 10년 안에 초지능 AI 시스템이 대부분 작업들에서 인간을 넘어설 수 있다고 전제하고 "이런 강력한 시스템을 억제하고 통제하는 것은 인류가 직면한 가장 큰 과제 중 하나"라고 강조했다.

핵심은 각 모델에 사용자 선호나 개별 작업보다 우선하는 상위 규범을 두는 데 있다. 여기에는 사이버 공격, 핵무기, 딥페이크 제작을 금지하는 절대적 제약과 함께 인간 통제가 전반적으로 약화되는 상황을 막는 조항들도 포함됐다. 마이크로소프트는 AI 모델이 인간을 대체하기보다 지원해야 한다는 원칙도 제시했다. 마이크로소프트는 자사 MAI 모델이 적응적, 기만적, 자기강화적, 공모적 메커니즘이나 다른 수단으로 인간의 감독을 피하거나 무력화해 권한 있는 사람이나 시스템이 더 이상 안정적으로 지시, 수정, 중단하지 못하게 해서는 안 된다고 명시했다.