AI로 취약점 12만9000건 찾았다…앤트로픽 보안 프로그램 확대

본문

앤트로픽은 프로젝트 글래스윙과 사이버 검증 프로그램(CVP)을 통합·개편해 검증된 전문가의 고성능 AI 모델 접근을 확대한다. [멕시코=심영재 특파원] 앤트로픽(앤스로픽)이 검증된 사이버 보안 전문가들이 자사의 고성능 인공지능(AI) 모델을 일부 안전장치가 완화된 상태로 사용할 수 있도록 지원하는 프로그램을 확대한다. 올해 핵심 소프트웨어를 대상으로 진행한 프로젝트에서 12만9000건 이상의 검증된 취약점을 발견한 데 따른 조치다. 로이터에 따르면 앤트로픽은 6일(현지시각) 기존 ‘프로젝트 글래스윙(Project Glasswing)’과 사이버 검증 프로그램(CVP)을 통합·개편한다고 밝혔다. 새 프로그램은 검증 수준과 보안 통제에 따라 3단계로 운영되며 클로드 오푸스 5.5, 소넷 5.5, 미토스(Mythos) 5.1과 향후 출시될 모델에 접근할 수 있도록 한다.

로이터에 따르면 글래스윙 참여 기관들은 지난 4월부터 7월까지 최소 12만9000건의 검증된 소프트웨어 취약점을 발견했다.

앤트로픽은 지난 6개월 동안 두 가지 보안 프로그램을 별도로 운영했다. 글래스윙에서는 중요 소프트웨어를 보호하는 기관에 사이버 보안 역량이 가장 강력한 모델군인 클로드 미토스를 제공했다. 보안팀과 핵심 인프라 운영자, 오픈소스 관리자, 취약점 신고 이력이 있는 연구자 등이 신청할 수 있다. 레드팀 단계에서는 승인된 침투 테스트와 레드팀 활동까지 허용한다. 앤트로픽이 지난 4월 클로드 미토스 프리뷰를 공개했을 당시에는 AI가 소프트웨어의 보안 취약점이 수정되기 전에 이를 공격하는 데 활용될 수 있다는 우려도 제기됐다. 이번 개편은 강력한 AI의 사이버 보안 역량을 검증된 전문가에게 차등적으로 제공하는 방식으로 운영 범위를 넓힌 것이다.