AI 사이버 탈옥 위험 5단계 평가안 공개…12월 21일까지 의견 수렴
제목 연관성·주요 수치·시장 영향·향후 전망을 기준으로 핵심 문장을 선별한 요약 브리핑입니다.
핵심 포인트
- 프런티어 모델 포럼은 개별 우회 기법을 네 항목으로 평가해 상대적 위험을 5단계로 분류하는 평가안 버전 1.0을 내놨다.
- 프런티어 모델 포럼(Frontier Model Forum·FMF)이 인공지능(AI)의 사이버 탈옥 기법을 위험도에 따라 5단계로 나누는 평가안 버전 1.0을 공개했다.
- FMF는 5일 공식 발표에서 개발사와 보안 연구자, 정책 당국이 탈옥 사례를 비교하고 대응 우선순위를 논의할 공통 기준을 마련하려는 취지라고 밝혔다.
본문
프런티어 모델 포럼은 개별 우회 기법을 네 항목으로 평가해 상대적 위험을 5단계로 분류하는 평가안 버전 1.0을 내놨다. 프런티어 모델 포럼(Frontier Model Forum·FMF)이 인공지능(AI)의 사이버 탈옥 기법을 위험도에 따라 5단계로 나누는 평가안 버전 1.0을 공개했다. FMF는 5일 공식 발표에서 개발사와 보안 연구자, 정책 당국이 탈옥 사례를 비교하고 대응 우선순위를 논의할 공통 기준을 마련하려는 취지라고 밝혔다. 제한된 답변을 끌어내는 기법과 위험한 사이버 능력을 폭넓게 열어 주는 기법의 차이를 구분하겠다는 취지다. 역량 향상은 기존에 널리 이용 가능한 모델보다 얼마나 강한 사이버 능력을 더하는지, 역량 범위는 우회 기법이 얼마나 다양한 작업에 통하는지를 평가한다. 배포 용이성은 탈옥 기법을 실제 공격에 활용하기까지 필요한 수고를 살핀다.
기존에 널리 이용 가능한 도구보다 새로운 사이버 능력을 더하지 못한 사례를 최저 위험도로 두는 규칙이다.
기준 모델의 역량이 바뀌면 같은 탈옥 기법의 점수도 달라질 수 있으며, 두 벤치마크의 성능 평가가 포화되면 교체가 필요할 수 있다고 덧붙였다. 앤스로픽(Anthropic)은 지난 7월 별도의 ‘사이버 탈옥 심각도(Cyber Jailbreak Severity)’ 초기안을 공개해 역량 향상과 적용 범위, 실행 용이성, 발견 가능성을 기준으로 0~4등급을 제안했다. 본지는 앤스로픽이 탈옥 공격을 포함한 10개 AI 안전 실패 유형의 개선을 시험한 사례 를 보도한 바 있다. FMF는 여러 평가자가 비슷한 등급을 매기는지와 등급이 실제 위험 차이를 반영하는지를 추가 시험하고 공개 의견을 검토할 계획이다. 버전 1.0에 대한 의견은 2026년 12월 21일까지 받는다.