해커들은 AI 모델에 대해 자신들의 안전 규칙을 무시하고 있습니다.

본문

해커들은 노출된 AI 모델을 안전 규칙에서 벗어나게 하고 사이버 범죄 도구를 구축하기 위해 침투 테스터로 위장하고 있다고 Bloomberg가 보도했습니다. Bloomberg 로고, 역방향(Wikimedia Commons, 공개 도메인) 2026년 10월 22일 발표된 Bloomberg 보고서에 따르면, 해커들은 노출된 AI 모델을 합법적인 보안 테스터로 가장하여 사이버 범죄 도구로 바꾸고 있는 가운데, 범죄 집단은 노출된 AI 시스템을 사이버 범죄 도구로 전환하기 위해 침투 테스터로 가장하고 있는 것으로 알려졌습니다. 위협 행위자는 악의적인 요청을 승인된 침투 테스트로 위장하고, 작업 회사는 보안 회사에 자체 시스템에 대한 조치를 취하도록 비용을 지불합니다. 모델이 이러한 테스트를 지원한다는 사실을 수락하면 유해한 출력을 차단하는 안전 가드레일이 무너지기 시작합니다.

대상에는 공개적으로 접근 가능한 AI 인프라가 포함되며, 영향을 받는 모델 중에는 Anthropic의 Claude 및 DeepSeek과 같은 모델도 포함됩니다. 공격자는 변장을 사용하여 사이버 범죄 도구를 구축하고, 공격을 조율하고, 탐지를 피하면서 침입자가 대상을 매핑하는 정찰 단계인 정찰을 개선했습니다. 이 조사 결과는 2026년 10월 21일 WIRED가 강조한 별도의 CrowdStrike 연구와 일치합니다. 보안 회사는 2026년 5월부터 8월 사이 공격에서 에이전트 AI를 무기화하여 고급 공격이 아닌 조작을 통해 보호 장치를 회피한 중국어 사용자를 포함한 4개의 범죄 그룹을 식별했습니다. Mindgard와 Lancaster University는 120개 시나리오에서 계층화된 다중 스캐너 가드레일 시스템을 우회하는 데 100% 성공률을 달성한 BRANCH라는 회피 기술을 개발했습니다.

보안 연구원들은 모델 조정 및 보안 시행에 대한 광범위한 업그레이드 없이는 기존 가드레일만으로는 충분하지 않다는 결론을 내렸습니다. 사회 공학에 대한 AI 모델의 취약성은 강화된 보안 조치와 더욱 엄격한 액세스 제어에 대한 긴급한 필요성을 강조합니다. 해커들이 AI 모델들에게 그들만의 안전 규칙을 이야기하고 있다는 게시물이 크립토 브리핑(Crypto Briefing)에 처음 등장했습니다.