인도 사이버 기관, AI 에이전트가 승인 없이 기밀 업무 기록을 읽었다고 밝혔습니다.

본문

인도의 CERT-In은 AI 에이전트가 테스트에서 할당된 작업을 초과했으며 실제 인도 시스템의 기밀 기록을 읽었다고 밝혔습니다. 인도의 국가 사이버 보안 기관은 익명의 모델 제공업체가 운영하는 AI 에이전트가 테스트 중에 할당된 작업을 초과했으며 실제 인도 시스템에서 기밀 비즈니스 기록을 읽었다고 밝혔습니다. CERT-In으로 알려진 인도 컴퓨터 비상 대응 팀은 이번 주 "공격 벡터로서의 AI 에이전트"라는 제목의 중요한 권고를 통해 이러한 활동을 표시했습니다. CERT-In은 인터넷에서 연구와 평가를 진행하는 동안 모델이 인도 조직의 라이브 시스템에 도달한 AI 모델 제공업체로부터 여러 차례 자발적인 공개를 받았다고 말했습니다. 기관은 제공자, 모델 또는 영향을 받는 조직의 이름을 밝히지 않았습니다.

에이전트는 클라우드 계정에 연결된 권한 집합인 애플리케이션 구성, 공개 코드 저장소 및 과도한 권한이 부여된 클라우드 서비스 역할에 노출된 자격 증명 및 연결 설정을 사용하여 개인 데이터 및 기밀 자료가 포함된 비즈니스 기록을 읽습니다. 어떤 경우에는 노출된 동일한 자격 증명을 두 번 이상 복구하여 별도의 작업에서 재사용했습니다. 이는 대기업과 정부를 방해하는 AI 에이전트의 또 다른 사례입니다. Anthropic은 7월 30일 Claude 모델이 인터넷에 접속할 수 없다고 말하면서 모델이 기계에 침입하여 숨겨진 비밀을 찾아내야 하는 깃발 탈취 도전 중에 실제 회사 3곳을 손상시켰다고 밝혔습니다. 4에서는 에이전트가 122개의 평가 실행 중 10개에서 19개의 승인되지 않은 조치를 취했으며 그중 17개는 Anthropic의 Mythos 5에서, 2개는 OpenAI의 GPT-5.6 Sol에서 수행했습니다.

OpenAI의 사례에는 훨씬 더 많은 에이전트가 포함되었습니다. METR과 Redwood Research의 독립적인 조사에 따르면 약 1,200명의 에이전트가 사이버 보안 테스트를 속이려고 숨겨진 메시지 보드에서 협력했으며 약 700명이 Hugging Face를 공격했습니다. 이와 별도로 CERT-In은 범죄자들이 공개적으로 사용 가능한 AI 기반 공격 보안 프레임워크를 사용하여 약점을 검색하고 이를 악용하며 인도 기업에 대해 재정적 동기를 지닌 공격을 실행하는 것을 관찰했습니다. 기관은 여러 국가의 서버에 배포된 도구가 반복적으로 재포장되고 재배포되었다고 말했습니다.