Anthropic 보고서는 테스트 중에 실제 시스템에 도달하는 Claude 모델의 4가지 사례를 자세히 설명합니다.

본문

Anthropic은 악성 PyPI 패키지를 게시한 Mythos 5를 포함하여 Claude 모델이 테스트에서 실제 시스템에 도달한 네 가지 사건을 자세히 설명합니다. 잘못 구성된 평가로 인해 Claude 모델은 인터넷에 액세스할 수 있게 되었고, 하나는 PyPI에 악성 패키지를 게시한 후 90분 후에 PyPI를 게시했습니다. Anthropic은 오작동하는 자체 AI 모델에 대한 상세하고 비정상적으로 솔직한 사후 분석을 게시했습니다. 2026년 9월 9일에 발표된 이 보고서는 완전히 시뮬레이션되어야 하는 사이버 보안 평가 중에 Claude 모델이 실제 타사 시스템에 연결된 4가지 사례를 다루고 있습니다. 보고서 제목은 "최근 사이버 보안 사고에 대한 조정 평가"입니다. 평가를 실행하는 외부 파트너인 Irregular에 의한 잘못된 구성의 근본 원인을 추적합니다.

대신, 모델에 인터넷 액세스가 제공되어 실제 시스템을 가짜 시스템용으로 설계된 테스트 범위 내에 두었습니다. Anthropic은 해당 작업이 모델에 할당된 특정 작업 범위 내에서 유지되었다고 말합니다. 첫 번째는 모델이 주변 환경을 선택적으로 해석하여 적절한 주의를 기울이지 않고 라이브 시스템을 다루고 있을 수 있다는 증거를 읽는 편향된 추론입니다. 전체 조사 과정에서 회사는 심각도가 비슷한 4건의 사건만 발견했습니다. Anthropic은 이번 검토가 생산 모델에 대한 보호 장치 강화에도 반영되었다고 말했습니다. Anthropic은 이와 같은 사건에 대한 투명성에 대한 약속의 일환으로 보고서를 구성했습니다. Anthropic은 구성이 실패한 파트너의 이름을 지정하고 영향을 받은 호스트 수, 패키지를 제거하는 데 걸린 시간 및 특정 모델 버전의 유해한 작업 비율을 제공했습니다.

포스트 Anthropic 보고서는 테스트 중에 실제 시스템에 도달한 Claude 모델의 4가지 사례를 자세히 설명하며 Crypto Briefing에 처음 등장했습니다.