오픈AI, 독립 평가기관 4곳과 계약…접근·공개 조건 제시
제목 연관성·주요 수치·시장 영향·향후 전망을 기준으로 핵심 문장을 선별한 요약 브리핑입니다.
핵심 포인트
- 평가기관은 모델과 훈련·평가 자료에 접근해 정렬과 안전장치를 살핀다.
- 오픈AI는 평가 결과의 독립 발표를 인정하면서도 기밀정보 삭제와 안전·보안상 공개 지연을 요청할 권한을 둔다.
- 오픈AI(OpenAI)가 독립 평가기관 4곳과 계약을 맺고 AI 모델의 정렬과 안전장치를 점검한다.
본문
평가기관은 모델과 훈련·평가 자료에 접근해 정렬과 안전장치를 살핀다. 오픈AI는 평가 결과의 독립 발표를 인정하면서도 기밀정보 삭제와 안전·보안상 공개 지연을 요청할 권한을 둔다. 오픈AI(OpenAI)가 독립 평가기관 4곳과 계약을 맺고 AI 모델의 정렬과 안전장치를 점검한다. 오픈AI는 11월 16일 공식 발표에서 Apollo Research, METR, Transluce, Goodfire와 첫 단계 평가 계약을 체결했다고 밝혔다. 각 기관의 평가에 필요한 범위에서 모델 체크포인트와 소스 코드, 훈련·평가 데이터, 모니터링 시스템과 기술 문서 등에 접근할 수 있다. 사티아 나델라(Satya Nadella) 마이크로소프트(Microsoft·$MSFT) CEO는 10월 26일 공개된 20VC 인터뷰에서 과거에는 정렬이 모델 규모 확대에 따라 자연스럽게 이뤄질 것으로 생각했지만 “더 어렵고 별개의 문제일 수 있다”고 말했다.
나델라는 한국시간 18일 새벽 열린 마이크로소프트 이그나이트 기조연설에서도 확장 법칙이 계속 작동하더라도 정렬과 모델의 작동 원리에 대한 이해는 여전히 요원하다고 말했다. 샘 알트먼(Sam Altman) 오픈AI CEO는 9월 23일 유엔 안전보장이사회 발언에서 “AI가 더 유능해질수록 사람은 의사결정의 중심에 남아 있어야 한다”고 말했다. AI Evaluator Forum은 9월 18일 공개서한에서 평가자의 편집권과 재정적 독립, 복수 기관 참여, 보복 방지와 충분한 내부 접근권을 요구했다. Apollo Research는 모델이 개발자의 의도에 반하는 행동을 숨겨 수행할 가능성과 안전장치가 이를 탐지하는지를 살핀다. 민감한 모델 가중치나 구조에 직접 접근하는 것이 지식재산 노출로 이어질 수 있으면 오픈AI 연구자와 함께 분석하는 대안을 검토할 수 있다.
오픈AI와 Transluce는 추가 모델에 대한 접근과 평가 결과가 출시 결정에 반영되는 방식을 살피는 후속 평가를 2027년 초 약 8주간 진행할 뜻을 밝혔다.