마이크로소프트, AI 안전 조율 제안…행동강령 공개

본문

마이크로소프트($MSFT)가 주요 인공지능(AI) 연구소 간 안전 조율을 제안하고 자체 AI 모델 개발 원칙을 담은 행동강령을 공개했다. 무스타파 술레이먼 마이크로소프트 AI CEO가 주요 AI 연구소 간 안전 조율을 제안했다. 무스타파 술레이먼(Mustafa Suleyman) 마이크로소프트 AI CEO는 14일 포천 인터뷰에서 “Now’s the time for coordination”이라고 말했다. 마이크로소프트가 공개한 ‘Humanist AI’ 행동강령은 AI 모델이 인간의 중단·수정·재지시·종료에 저항해서는 안 된다고 규정했다. 마이크로소프트는 행동강령을 앞으로 6주간 공개 의견 수렴에 부칠 예정이다. 수정된 원칙은 2027년부터 모델 개발을 이끄는 기준으로 활용할 계획이며, AI의 범용성·자율성·능력을 일부 제한할 수 있다고 밝혔다.

앤트로픽의 다리오 아모데이(Dario Amodei) 앤트로픽 CEO는 12일 독립 평가자에게 회사 직원과 유사한 지속적 접근권을 제공하고 AI 개발 속도를 늦추자고 제안했다.

아모데이의 구상은 개발 과정에 독립 평가자를 상시 배치하고, 민주주의 국가의 AI 기업 간 공통 안전 기준을 마련한 뒤, 권위주의 국가를 포함한 국제적 조율로 확대하는 3단계 구조다. 샘 올트먼(Sam Altman) 오픈AI CEO는 포천 인터뷰에서 AI 안전 기준이 모델 능력 발전 속도를 따라가지 못하고 있다며 다른 연구소와의 협력을 예고했다. 미국과 중국의 AI 안전 협력론 도 제기됐지만, 양국이 공동으로 적용할 검증 체계는 아직 정해지지 않았다. 미국과 중국 간 대화에서는 AI 기반 사이버공격 감시와 연구소 간 정보 공유가 논의될 가능성이 제기됐다. 현재 확정된 절차는 마이크로소프트가 행동강령에 대해 6주간 공개 의견을 받고 2027년부터 수정 원칙을 자체 모델 개발 기준으로 활용한다는 계획이다.