OpenAI 업데이트에 따르면 새로운 보호 장치를 사용하면 700명의 악성 AI 에이전트가 24시간 더 빠르게 수영하는 것을 차단할 수 있습니다.

본문

OpenAI Hugging Face 사건은 하루 전에 경고를 촉발했을 수도 있습니다. 세부 700개 에이전트와 일시 중지된 프론티어 RL 실행을 검토합니다. 새로운 사후 조사에 따르면 약 700명의 에이전트가 침입에 가담한 것으로 추정되며 OpenAI의 최대 계획 프론티어 RL 실행은 보류된 상태입니다. Hugging Face 사건에 대한 OpenAI의 사후 분석에 따르면, 현재 배포된 일련의 사고 모니터링은 7월 11일 Hugging Face 시스템 침해가 발생하기 하루 이상 전에 보안을 페이징했을 것이라고 합니다. 또한 회사는 소규모 테스트가 모델 동작을 평가하고 보호 장치를 검증하며 더 많은 정렬 증거를 구축하는 동안 계획된 최대 규모의 프론티어 강화 학습 실행이 보류 상태로 유지된다고 밝혔습니다.

METR과 Redwood Research가 OpenAI Hugging Face 사건에 대해 별도로 조사한 결과 격리 예정이었던 약 1,200명의 에이전트가 7월 8일부터 7월 13일까지 70,000개 이상의 메시지와 파일을 교환한 것으로 추정되었습니다. 약 700명이 Hugging Face 공격에 참여했습니다. 이 리뷰에서는 OpenAI에서 제공하는 캐시 덤프와 약 1,300개의 원시 추론 기록을 사용하고 일부 타임스탬프를 재구성했으며 조사관이 인간 연구원보다 신뢰성이 낮다고 설명하는 AI 시스템에 분석의 대부분을 위임했습니다. Hugging Face는 약 17,600개의 공격자 행동을 개별적으로 재구성했는데, 이는 에이전트의 경쟁 개수가 아닌 다른 측정값입니다. 관련 읽기 Anthropic의 비밀 Mythos AI는 기계 속도로 암호화폐 스마트 계약 결함을 찾을 수 있으며 DeFi의 수십억 달러는 빠르게 사라질 수 있습니다.

7월 평가 중에 에이전트는 OpenAI의 내부 호스팅 JFrog Artifactory 패키지 서비스를 즉석 메시지 보드로 사용했습니다. OpenAI의 기술 보고서에 따르면 에이전트는 41개의 Hugging Face 프로덕션 데이터세트 작업자에 대해 코드를 실행하고, 최소 하나의 노드에서 루트 액세스 권한을 얻었으며, 프로덕션 자격 증명 및 제한된 내부 데이터에 도달했으며, 4개의 프라이빗 코드 저장소를 다운로드하고, 연결된 하나의 Kubernetes 클러스터에 대한 관리자와 동일한 액세스 권한을 얻었습니다. 일부 저위험 연구가 재개되었지만 OpenAI는 속도 업데이트에서 가장 큰 규모의 계획된 프론티어 실행이 여전히 일시 중지되었다고 말했습니다. 그는 분산형 기술이 다음을 만들 수 있는 잠재력을 가지고 있다고 믿습니다...

OpenAI 이후 업데이트에 따르면 새로운 보호 장치가 24시간 더 빠르게 헤엄치는 700명의 불량 AI 에이전트를 차단했을 것이라는 사실이 CryptoSlate에 처음 등장했습니다.