AI 안전평가단, 접근권·편집권 독립 요구 공개서한 나와

본문

앤트로픽과 OpenAI 등 주요 AI 기업에 독립 안전평가단의 시스템·데이터 접근권과 결과 편집권을 보장하라는 공개서한이 나왔다. 앤트로픽과 OpenAI 등 주요 AI 기업에 독립 안전평가단의 실질적인 권한과 보호 장치를 보장하라는 공개서한이 나왔다. 서명자들은 평가단이 기업의 통제를 받으면 첨단 AI 모델의 위험을 객관적으로 검증하기 어렵다고 지적했다. AI 평가기관 연합은 18일 공개서한에서 평가단에 과학적 객관성·투명성·독립성·보호 장치를 보장해야 한다고 밝혔다. 서명에는 100명 이상의 AI 전문가가 참여했으며 제프리 힌턴(Geoffrey Hinton), 존스홉킨스대학교·스탠퍼드대학교 연구진, 비영리 평가기관 METR 관계자 등이 포함됐다. 평가기관은 AI 기업이 소유하거나 지배해서는 안 되며, 평가 결과에 따라 보수가 달라지는 계약을 피해야 한다.

아모데이는 프런티어 AI 기업이 독립 평가단에 ‘직원과 유사한 접근권’을 지속적으로 제공해야 한다고 제안했다.

아모데이의 독립 평가단 상시 접근 제안은 프런티어 AI 개발 속도와 안전조치의 균형을 요구하는 내용도 담고 있다. 독립 평가의 필요성은 최근 앤트로픽의 사이버보안 평가 과정에서도 드러났다. 이어 METR에 광범위한 자료와 직원 인터뷰 접근권을 제공하는 독립 조사를 의뢰했고, 네 사건은 평가 환경의 설정 오류로 발생했다고 설명했다. AI Evaluator Forum의 AEF-1 기준은 평가 절차뿐 아니라 평가기관과 기업 사이의 관계까지 독립성 판단 대상에 포함한다. Axios는 일부 평가기관이 AI 기업과의 기존 관계나 특정 연구운동과의 연계 때문에 이해상충 논란에 놓일 수 있다고 보도했다.