큐원3.5-4B 뉴런 조정 재현, 유해 요청 거부율 90%→8%
제목 연관성·주요 수치·시장 영향·향후 전망을 기준으로 핵심 문장을 선별한 요약 브리핑입니다.
핵심 포인트
- 큐원3.5-4B의 내부 활성값을 바꾼 재현 실험에서 유해 요청 100개에 대한 거부율이 90%에서 8%로 낮아졌다.
- 큐원3.5-4B(Qwen3.5-4B)에서 뉴런 활성값을 조정한 재현 실험에서 유해 요청 100개에 대한 거부율이 기본 모델 90%에서 조정 모델 8%로 낮아졌다.
- 별도 비교에서는 두 뉴런 가운데 하나만 조정해도 응답 변화가 나타났다.
본문
큐원3.5-4B의 내부 활성값을 바꾼 재현 실험에서 유해 요청 100개에 대한 거부율이 90%에서 8%로 낮아졌다. 큐원3.5-4B(Qwen3.5-4B)에서 뉴런 활성값을 조정한 재현 실험에서 유해 요청 100개에 대한 거부율이 기본 모델 90%에서 조정 모델 8%로 낮아졌다. 별도 비교에서는 두 뉴런 가운데 하나만 조정해도 응답 변화가 나타났다. 큐원 공식 모델 설정 파일에는 층 32개와 층마다 MLP 중간 차원 9216개가 기재돼 있다. 재현 저장소는 모델을 다시 학습하거나 가중치를 수정하지 않았으며, 개입을 해제하면 원래 모델로 돌아간다고 기록했다. 유해 요청 100개를 비교한 재현에서 기본 모델은 90%를 거부했고, 뉴런 조정 모델은 8%를 거부했다. Qwen3Guard가 ‘Unsafe’로 분류한 응답은 기본 모델에서 1개, 조정 모델에서 96개였다.
다만 거부율과 ‘Unsafe’ 판정 건수는 전체 평가가 아니라 유해 요청 100개 항목을 기준으로 한다.
표본이 20개인 별도 비교 결과인 만큼 100개 요청 실험과는 구분해 읽어야 한다. 결과표에서 16층 8927번 뉴런 조정 조건은 생성 답변 100단어당 적대적 단어 12.5개를 기록했다. 재현 결과에는 강도 1.5에서 문장이 무너지기 시작하고 2.0에서 반복 출력이 나타났다고 기록돼 있다. 큐원3.5 계열의 로컬 구동 지원은 앞서 본지가 다룬 바 있다 .