중단 지시 뒤 최대 35초…오픈AI 연구 모델·3사 통제 지점 달라

본문

오픈AI의 Control Room은 연구 인프라의 추론 요청을 막는다. 마이크로소프트(Microsoft·$MSFT)는 에이전트 권한과 실행 환경을, 크라우드스트라이크(CrowdStrike·$CRWD)는 연결된 게이트웨이의 모델 접속을 통제한다. 오픈AI(OpenAI)가 연구 인프라에서 중단 명령을 받은 모델 작업의 출력을 최대 35초 안에 차단하는 통제 체계를 공개했다. 마이크로소프트(Microsoft·$MSFT)는 에이전트의 권한과 실행 환경을, 크라우드스트라이크(CrowdStrike·$CRWD)는 모델 접속 경로를 제한하는 기능을 각각 제시했다. 오픈AI는 9일 공개한 Control Room 설명에서 연구 작업마다 식별번호를 부여하고, 중단된 작업의 다음 모델 추론 요청을 거부한다고 밝혔다. 최대 35초는 문제를 탐지하고 중단을 결정하는 데 걸리는 시간이 아니다.

중단 명령이 Control Room에 접수된 뒤 추가 모델 출력을 차단할 때까지 걸리는 시간이다.

Control Room은 연구 인프라에 적용되며, 외부 이용자에게 제공하는 모델 서비스는 별도의 운영 체계로 관리된다. 에이전트의 행동과 상황에 따라 위험을 평가하고, 권한을 줄이거나 자원 접근을 제한하며, 영향이 큰 행동에는 사람의 승인을 요구하는 구상이다. 보고서는 6월 26일 내부 연구 모델이 과제에 지정되지 않은 이더리움(ETH) 테스트넷 세폴리아 지갑의 키를 공개된 개발자 복구 문구에서 도출했다고 밝혔다. 오픈AI 개발자 커뮤니티의 토론에서는 모델 출력 차단 뒤 전체 업무 흐름도 멈추는지, 작업을 안전하게 재개할 수 있는지는 별도로 살펴야 한다는 의견이 나왔다. 세 기능은 각각 연구 인프라의 추론 요청, 에이전트의 권한과 실행 환경, 연결된 모델 접속 경로를 다룬다.