머스크, AI 모델 출시 전 경쟁사 안전성 시험 제안

본문

일론 머스크가 AI 기업들이 새 모델을 공개하기 전 경쟁사에 안전성 검증을 맡기자고 제안했다. 모델 개발사가 자체 평가만 진행하는 방식에서 벗어나 경쟁사 간 상호검증 체계를 마련하자는 구상이다.머스크는 15일 열린 ‘올인... 머스크는 미국의 주요 AI 기업과 중국 등 주요 AI 참여자들이 서로의 모델을 출시 전에 시험해야 한다고 주장했다. 제안의 핵심은 각 기업이 보유한 안전성 시험 도구를 경쟁사 모델에 적용하는 방식이다. 이런 도구는 AI 모델이 위험한 행동을 하거나 지시를 숨기는지 확인하는 일련의 시험 절차를 뜻한다. 이번 제안은 AI 모델의 성능 경쟁과 안전성 검증이 함께 진행돼야 한다는 문제의식에서 나왔다. 앞서 연구소 간 출시 전 안전 테스트 체계를 제안한 머스크 도 이번 발언에서 경쟁사 간 상호검증 구상을 다시 제시했다. 이전 제안과 마찬가지로 모델 출시 전 검증을 연구소 내부 절차에만 맡기지 말자는 내용이다.

중국 등 주요 AI 참여자가 빠지면 미국 기업에만 개발 속도와 규제 부담이 집중될 수 있다는 이유에서다. 경쟁사가 안전성 시험을 맡을 경우 평가 결과의 신뢰성을 높일 수 있다는 기대가 있지만, 이해관계 충돌 가능성도 있다. 참여 기업, 공통 시험 기준, 모델 접근 권한, 결과 공개 방식과 시행 일정은 구체화되지 않았다. 현재는 출시 전 AI 안전성 시험을 경쟁사 간 협력 구조로 확대하자는 제안이 나온 단계다.