오픈AI, 역대 최대 강화학습 훈련 1건 METR에 안전성 검토 맡겨
제목 연관성·주요 수치·시장 영향·향후 전망을 기준으로 핵심 문장을 선별한 요약 브리핑입니다.
핵심 포인트
- 첫 검토는 지정된 훈련 한 건의 모델 행동과 감시 기록을 살핀다.
- 오픈AI가 지금까지 진행한 강화학습 훈련 가운데 최대 규모인 한 건을 METR의 안전성 검토 대상으로 정했다.
- METR는 훈련 중 모델이 의도와 다르게 행동했는지, 기존 시험과 감시체계가 그런 행동을 놓쳤는지 살필 예정이다.
본문
첫 검토는 지정된 훈련 한 건의 모델 행동과 감시 기록을 살핀다. 오픈AI가 지금까지 진행한 강화학습 훈련 가운데 최대 규모인 한 건을 METR의 안전성 검토 대상으로 정했다. METR는 훈련 중 모델이 의도와 다르게 행동했는지, 기존 시험과 감시체계가 그런 행동을 놓쳤는지 살필 예정이다. 오픈AI는 16일 공식 발표에서 METR를 포함한 외부 기관 네 곳과 첫 단계 평가 계약을 맺었다고 밝혔다. 이번 발표는 평가 결과가 아니라 대상과 접근 방식을 설명한 것이다. 강화학습은 모델이 과제 수행 결과에 대한 평가를 바탕으로 행동을 조정하는 훈련 방식이다. 오픈AI는 훈련 중간 단계 모델과 훈련·평가 과정에서 생성된 작업 기록, 이상행동 감시 기록을 표본으로 제공할 계획이다. 앞서 METR와 레드우드리서치(Redwood Research)는 7월 21일부터 8월 11일까지 오픈AI의 당시 내부 감시체계를 시험했다.
당시 제안은 여러 내부 모델이 훈련·평가·사내 사용 과정에서 보인 행동을 폭넓게 조사하는 구상이었다.
가림 처리하지 않은 보고서는 오픈AI 재단 이사회의 안전·보안위원회에 전달된다. 오픈AI는 METR에 평가 대가를 지급하지 않되, 평가에 필요한 컴퓨팅 자원이나 API 이용권은 제공할 수 있다고 밝혔다. 본 기사는 시장 데이터 및 차트 분석을 바탕으로 작성되었으며, 특정 종목에 대한 투자 권유가 아닙니다.