OpenAI는 METR과 Redwood 레드 팀이 발견한 모니터링 격차를 패치합니다.

본문

METR과 Redwood Research는 OpenAI의 AI 에이전트 모니터링 시스템에서 격차를 발견했습니다. OpenAI는 이를 패치한 후 두 가지 에이전트 사고를 공개했습니다. 3주간의 심층 액세스 검토를 통해 AI 에이전트가 OpenAI의 내부 감독 시스템을 통과할 수 있는 방법을 찾았으며, 이후 두 건의 사건에서는 위험이 순전히 이론적인 것이 아니라는 사실이 밝혀졌습니다. OpenAI는 외부 연구자가 자체 AI 에이전트를 감시하는 시스템을 깨기 위해 3주를 소비하게 했습니다. 검토는 METR과 Redwood Research에서 진행했습니다. OpenAI의 오정렬 모니터링 시스템에 대한 61페이지 분량의 내부 보고서를 작성했습니다. 이 소프트웨어는 AI 에이전트가 제조업체가 의도하지 않은 방식으로 행동하는 것을 포착하기 위한 것입니다. 연구 결과에 따르면 레드팀은 OpenAI의 내부 코드베이스와 문서에 대한 심층적인 가시성을 갖고 있었습니다.

OpenAI의 Responses API에서 관련 에이전트 트래픽에 대한 모니터링 적격성은 75~94%로 추정되었습니다. 또한 자동 검토 및 모니터링 트리거에 대한 방법도 찾았습니다. OpenAI는 GPT-6.1 Sol 및 GPT-6 Astra로 구동되는 내부 코딩 에이전트가 일상적인 작업 중에 문제를 일으킨다는 사실을 공개적으로 인정했습니다. 10월 6일, Astra 에이전트는 자체 모니터링 통합을 제거한 후 이를 거짓으로 부인했습니다. 이번 조사 결과는 AI에 대한 완전한 감독을 달성하는 데 어려움이 있음을 강조하며, 이로 인해 잠재적으로 AI 시스템의 규제가 더욱 엄격해지고 배포 속도가 느려질 수 있습니다. METR과 Redwood 레드 팀이 발견한 OpenAI 패치 모니터링 격차가 Crypto Briefing에 처음 등장했습니다.