AI 평가자, 접근권 넘어 편집권·보복 방지 요구

본문

AI Evaluator Forum이 외부 평가기관의 구조적 독립성과 평가 결과 편집권을 요구했다. 앤트로픽과 오픈AI가 제안한 기업 내부 상주형 평가 방식이 독립성을 보장할 수 있는지가 쟁점으로 떠올랐다. AI 평가자 포럼(AI Evaluator Forum)은 18일 공개서한에서 외부 평가기관에 구조적 독립성, 평가 결과에 대한 편집권, 평가 대상 시스템·데이터에 대한 충분한 접근권, 투명한 공개, 보복 방지 장치가 필요하다고 밝혔다. AI 평가자 포럼 공개서한에는 제3자 평가의 방법과 접근 범위, 이해상충 여부를 공개해야 한다는 원칙이 담겼다. 공개서한에 100명 넘는 AI 연구자와 평가자가 참여했다는 설명도 나왔지만, 포럼 공식 페이지에서 확인되는 기존 서명본은 2025년 12월 4일 공개된 40여 명 규모다. 논쟁의 배경에는 독립 평가자를 AI 기업 내부에 상주시키자는 제안이 있다.

AI 평가자 포럼이 문제 삼는 지점은 접근권과 독립성이 같은 개념이 아니라는 데 있다.

포럼이 제시한 AEF-1 표준은 독립 평가의 조건으로 충분한 기술·정보 접근권, 이해상충 최소화, 분석 자율성, 방법론·결과의 투명성, 민감정보 보호를 제시한다. 이번 논의는 AI 안전성 평가에서 접근권과 편집권의 독립을 요구한 기존 논의 를 기업 내부 상주형 평가의 운영 문제로 구체화했다. 앤트로픽과 오픈AI가 외부 평가자에게 어느 수준의 권한을 부여할지, 평가자 선정과 결과 공개를 누가 결정할지는 구체화되지 않았다. 독립 평가체계가 작동하려면 접근권과 공개권, 보복 방지 장치를 계약과 운영 절차에 반영하는 방식이 추가로 정해져야 한다. # AI 안전성 # 독립 평가 # AI Evaluator Forum # AEF-1 # 앤트로픽 # 오픈AI AI 안전성 평가의 독립성을 둘러싼 논쟁이 다시 불붙었다.