METR, AI 통제불능 위험 독립 평가…기업 자금은 거부

본문

연구형 비영리기관 METR이 최첨단 AI 기업의 자금과 직원 기부를 받지 않겠다는 원칙을 재확인했다. 기업이 제공하는 무료 모델 접근권과 토큰은 평가와 연구에 활용한다. 연구형 비영리기관 METR이 인공지능(AI)의 통제 불능 위험을 독립적으로 평가하면서도 최첨단 AI 기업의 자금과 직원 기부는 받지 않겠다는 원칙을 재확인했다. 크리스 페인터(Chris Painter) METR 총재는 17일 기관의 독립성 논란에 대해 설명하며 METR이 2022년부터 오픈AI(OpenAI), 앤트로픽(Anthropic), 구글 딥마인드(Google DeepMind), 메타(Meta), 아마존(Amazon)과 제3자 평가와 조사를 진행해왔다고 밝혔다. 페인터 총재는 METR이 평가 대상 기업으로부터 직접 보상이나 자금을 받지 않는다고 설명했다. 대신 기업이 제공하는 무료 모델 접근권과 토큰은 평가·연구·개발에 활용한다.

METR 공식 자료에도 오픈AI, 앤트로픽, xAI 등이 평가에 필요한 모델 접근권과 토큰을 제공하지만 평가 대가는 지급하지 않는다고 적혀 있다. 평가기관은 외부 시각을 유지할 수 있지만, 모델 접근권과 내부 자료를 기업에 의존할 경우 평가 범위와 공개 내용에 제약을 받을 수 있다. METR은 2026년 2~3월 진행한 '프런티어 위험 보고서'에서 앤트로픽, 구글, 메타, 오픈AI가 내부 모델과 비공개 정보를 제공했다고 밝혔다. 해당 보고서에는 METR이 평가 방법과 최종 결과에 대한 통제권을 유지했지만, 일부 평가가 참여 기업에 의해 수행된 사례도 담겼다. 능력 평가 결과를 해석할 때 실제 관찰된 행동과 과장 가능성을 함께 살펴야 한다는 취지다. METR은 AI 통제 불능 위험을 평가하는 체계가 확립되기까지 독립성, 접근권, 공개 범위를 둘러싼 논의가 이어질 것으로 설명했다.