마이크로소프트, 2027년 AI 모델 안전 기준 강화

본문

마이크로소프트($MSFT)가 인간 통제와 안전을 우선하는 임시 AI 행동규범을 마련하고, 외부 의견 수렴을 거쳐 2027년부터 자체 개발 모델에 적용할 예정이다. 새 규범은 AI가 인간의 판단과 목표를 대체하지 않도록 하는 데 초점을... 마이크로소프트가 인간 통제와 안전을 우선하는 임시 AI 행동규범을 마련했다. 외부 의견을 반영해 2027년부터 자체 개발 모델 지침으로 활용할 예정이다. 마이크로소프트 AI 책임자인 무스타파 술레이만(Mustafa Suleyman)은 회사가 관련 규범을 약 5개월간 준비했다고 밝혔다. 규범에 따르면 마이크로소프트의 AI 모델은 사용자 목표를 따라야 하며 독자적인 목표를 만들 수 없다. 기존 규범은 마이크로소프트 AI 서비스 행동규범에 정리돼 있다. 마이크로소프트 CEO 사티아 나델라(Satya Nadella)는 AI 정렬 연구에 더 투자하고 신중한 개발 속도를 취하는 방안을 지지한다고 밝혔다.

정렬은 AI가 인간이 설정한 목표와 안전 기준에 맞게 행동하도록 만드는 연구 분야다.

다만 당시에도 실제 연구 일정이나 모델 출시 계획이 바뀌었는지는 확인되지 않았다. 기업들은 모델 성능 경쟁을 이어가면서도 안전 평가와 외부 검증, 인간의 개입 장치를 강화하는 방안을 함께 검토하고 있다. 새 원칙이 실제 모델 개발 과정에서 성능과 속도에 어떤 제약을 줄지는 2027년 적용 과정에서 확인될 예정이다.