AI 출시 전 정부 평가…마이크로소프트 ‘레드라인’ 제안

본문

무스타파 술레이먼 마이크로소프트 AI 부문 수장이 첨단 AI 모델 공개 전 정부 평가 참여를 제안했다. 첨단 인공지능(AI) 모델이 공개되기 전에 정부가 평가 과정에 직접 참여해야 한다는 주장이 나왔다. 무스타파 술레이먼(Mustafa Suleyman) 마이크로소프트($MSFT) AI 부문 수장은 24일 블룸버그 뉴스레터에서 첨단 AI 모델의 역량에 명확한 ‘레드라인’이 필요하며, 평가 체계를 기업에만 맡겨서는 안 된다고 밝혔다. 이번 제안은 AI 규제를 모델 출시 후 감독에서 출시 전 평가로 넓히자는 논의와 맞닿아 있다. 적대적 평가는 AI 모델의 예상 밖 행동과 악용 경로, 실패 가능성을 의도적으로 시험하는 방식이다. CAISI는 상용 AI 시스템 시험과 공동 연구를 위한 미국 정부 내 창구로 운영된다. 평가 결과를 어느 수준까지 공개할지도 모델 개발사와 정부 사이에서 조율해야 할 사안이다.

온라인에서는 정부 감독을 강화해야 한다는 의견과 대형 기업이 규제를 활용해 소규모 경쟁사의 진입을 어렵게 만들 수 있다는 우려가 함께 나왔다. 국내 AI 기업과 이용자에게도 평가 기준과 공개 범위는 모델 도입 과정에서 확인해야 할 요소가 될 수 있다. 다만 이번 제안이 국내 규제나 국내 기업의 출시 절차에 직접 적용된다는 내용은 제시되지 않았다. 술레이먼의 발언이 실제 규제 도입으로 이어질지, 정부 평가가 AI 모델 출시의 의무 절차가 될지는 정해지지 않았다. 향후에는 ‘레드라인’의 기술적 정의와 평가 결과의 법적 구속력, 공개 범위가 논의될 예정이다.