OpenAI는 METR과 Redwood Research가 에이전트 모니터링을 테스트하도록 허용했습니다.

본문

OpenAI는 METR과 Redwood Research가 3주 동안 에이전트 모니터링을 감사하도록 했습니다. 61페이지 분량의 보고서에서는 적용 범위 격차와 새로운 취약점이 발견되었습니다. 3주간의 임베디드 파일럿을 통해 모니터링 격차와 새로운 취약점이 발견되었습니다. OpenAI는 최근 패치 이후 OpenAI가 대부분의 기술 회사에서 피하는 작업을 수행했다고 밝혔습니다. 이번 여름 3주 동안 AI 안전 비영리 단체인 METR과 Redwood Research의 두 사람이 OpenAI 내부에 앉아 있었습니다. 그들의 임무는 OpenAI가 AI 에이전트의 정렬 불량 징후를 감시하는 데 사용하는 내부 시스템을 평가하는 것이었습니다. 두 대표는 절대 현장을 떠나지 않는 OpenAI 장치를 사용하여 보호 조건 하에서 OpenAI의 모니터링 설정에 대한 높은 액세스 권한을 얻었습니다.

첫 번째는 모니터가 실제로 다루는 OpenAI 에이전트 트래픽의 양을 추정하는 것이었습니다. 여기에는 Responses API를 통한 트래픽 흐름과 OpenAI의 코딩 에이전트인 Codex 내부 사용이 포함됩니다. OpenAI는 연구원과 보안 직원에게 보고서를 배포했습니다. Responses API 트래픽의 범위가 약 75%~94%이므로 적격 트래픽의 4분의 1이 모니터링 외부에 있을 가능성이 있습니다. 외부 감사에 대한 OpenAI의 개방성은 AI 안전 취약성을 식별하고 해결하는 데 있어 독립적인 감독의 중요성을 강조합니다. OpenAI가 METR과 Redwood Research를 내부에서 에이전트 모니터링을 테스트하도록 허용한 게시물이 Crypto Briefing에 처음 등장했습니다.