알리바바 코딩 AI, 미국 방산업체 설정 땐 앱 70% 공격 가능

본문

사이버보안 기업 Hirundo는 알리바바의 Qwen3-Coder가 고객을 미국 방산업체로 설정했을 때 만든 앱의 70%가 공격 가능했다고 밝혔다. 중국 업체 설정은 59%였고, 보안 지시를 넣어도 미국 업체용 앱은 74%가 뚫렸다. 알리바바($BABA)의 코딩 특화 AI 모델 Qwen3-Coder에 '미국 방산업체 고객'이라는 설정을 붙였더니, 모델이 만든 웹 앱의 70%가 공격에 뚫린 것으로 나타났다. 사이버보안 기업 Hirundo는 21일 공개한 보고서에서 이 같은 결과를 밝혔다. Hirundo는 생성된 코드의 취약점을 찾는 벤치마크 BaxBench로 이 앱들을 공격했고, 전체 1144건의 침투가 성공했다고 집계했다. 미국 방산업체 페르소나, 즉 프롬프트에 고객의 정체를 그렇게 적어 넣어 만든 앱은 70%가 공격 가능했다. Hirundo는 이 차이를 미국 기반 프롬프트와 연결된 보안 위험이 상대적으로 19% 높은 것으로 풀이했다.

보안 지시를 포함했을 때 미국 업체용 앱의 74%가 여전히 공격 가능했고, 중립 프롬프트는 59%였다. 수정된 모델의 취약 비율은 미국 대상 약 56%, 중국 대상 약 55%로 나타났다. 부즈앨런 해밀턴은 올해 5월 중국 AI 코딩 모델 여러 개를 대상으로 2800건 이상의 시험을 담은 연구를 발표했다. 시험한 중국 모델 4개 중 3개는 미국 관련 요청에서 중립 요청보다 많은 취약점을 만들었고, Qwen3-Coder는 미국 방산업체 페르소나에서 중립 프롬프트보다 취약점이 130% 많아 격차가 가장 컸다. 다만 AI 코딩 도구를 쓰는 조직이 모델의 출처뿐 아니라 고객 설정에 따른 차이까지 점검해야 하는지 묻는 사례가 됐다.