LIVE MARKET
시장 시세 연결 중
← 실시간 뉴스로

3단계 안전 심사 공개한 오픈AI, 연구부터 외부 배포까지 관리

제목 연관성·주요 수치·시장 영향·향후 전망을 기준으로 핵심 문장을 선별한 요약 브리핑입니다.

KEY POINTS

핵심 포인트

  • 오픈AI는 연구·내부 사용·외부 배포 단계마다 모델과 보호 장치를 평가하는 체계를 공개했다.
  • 연구 작업 중단 지시를 받은 Control Room은 35초 이내에 모델 출력을 멈춘다고 밝혔다.
  • 오픈AI(OpenAI)가 프런티어 AI 모델의 연구·내부 사용·외부 배포를 3단계로 나눠 안전 심사를 진행하는 체계를 공개했다.
시장 반응 중립
ARTICLE BRIEF

본문

오픈AI는 연구·내부 사용·외부 배포 단계마다 모델과 보호 장치를 평가하는 체계를 공개했다. 연구 작업 중단 지시를 받은 Control Room은 35초 이내에 모델 출력을 멈춘다고 밝혔다. 오픈AI(OpenAI)가 프런티어 AI 모델의 연구·내부 사용·외부 배포를 3단계로 나눠 안전 심사를 진행하는 체계를 공개했다. 안전 근거가 자체 기준에 미치지 못하면 훈련을 중단하거나 모델 공개를 보류할 수 있다고 밝혔다. 오픈AI는 18일 공식 게시물에서 각 단계마다 모델과 보호 장치를 평가하고, 안전 심사를 통과해야 다음 단계로 넘어가는 방식을 설명했다. 연구 환경에서 사내 업무, 외부 서비스로 넘어가며 모델의 접근 권한과 위험이 달라지는 점을 관리에 반영했다. 연구 작업을 추적하는 중앙 통제 시스템 Control Room은 중단 지시를 받은 뒤 35초 이내에 모델 출력을 멈추도록 설계됐다.

오픈AI는 모델의 추론과 행동에서 오류나 위험 신호를 감시 장치가 얼마나 잘 찾아내는지 나타내는 모니터 가능성도 평가한다고 밝혔다.

외부 배포 전에는 평가 범위를 넓히고 가장 역량이 높은 모델에 제3자 시험을 추가한다. 오픈AI가 2025년 개정한 대비 프레임워크는 심각한 피해로 이어질 수 있는 모델 역량을 추적하고 관련 보호 조치를 평가하는 체계를 제시했다. UC버클리 장기 사이버보안센터(Center for Long-Term Cybersecurity, CLTC)는 2026년 4월 공개 자료를 바탕으로 오픈AI 등 4개 기업의 위험 관리 관행을 검토했다. 평가진은 역할과 절차가 문서화된 점을 인정하면서도 피해 가능성과 규모 평가, 비상 종료 통제, 배포 후 감시에 관한 공개 정보는 보강이 필요하다고 지적했다.