Meta 및 Carnegie Mellon 연구에서 RL로 훈련된 8B 모델이 도구 선택에서 Llama-4-Maverick을 능가하는 것으로 나타났습니다.

본문

Meta와 Carnegie Mellon 연구원들은 RL로 훈련된 Qwen3-8B가 ToolBench G3에서 41.5%의 적중률을 보여 ~402B Llama-4-Maverick의 30.6%를 제쳤습니다. Wikimedia Commons를 통한 Meta Platforms 로고(공개 도메인) 강화 학습으로 사후 훈련된 Qwen3-8B 모델은 ToolBench G3에서 41.5%를 기록했으며, 대략 402B 매개변수인 Llama-4-Maverick은 30.6%를 앞섰습니다. 80억 개의 매개변수를 가진 언어 모델은 그 크기의 약 50배를 능가했습니다. Meta와 Carnegie Mellon University의 연구원들은 강화 학습으로 사후 훈련된 작은 Qwen3-8B 모델이 ToolBench G3 벤치마크에서 41.5%의 시간 동안 올바른 도구를 선택했다고 보고했습니다.

약 4,020억 개의 매개변수로 구성된 모델인 Meta의 자체 Llama-4-Maverick은 비슷한 조건에서 30.6%의 점수를 받았습니다. 이 작업은 arXiv:2610.31483으로 나열된 "전송 가능한 도구 선택을 위한 소규모 언어 모델 교육"이라는 제목의 arXiv 문서에 나와 있습니다. 이 연구는 도구 모음이 10,000개의 도구를 초과하는 설정에 중점을 둡니다. 1.7B Qwen3 변종은 37.6%의 성공률을 달성했고, 4B 변종은 40.3%를 기록했습니다. 다음은 ToolBench G3에서 보고된 점수에 대한 간략한 요약입니다. Qwen3-8B(RL 훈련): 41.5% Qwen3-4B(RL 훈련): 40.3% Qwen3-1.7B(RL 훈련): 37.6% Llama-4-Maverick(~402B): 30.6% Llama-4-Maverick은 대략 Meta의 것입니다.

400B 매개변수 Mixture of Experts 모델은 2025년에 출시되었습니다. 모든 도구 호출에 대해 402B 매개변수 모델을 실행하는 것은 활성 부하를 줄이는 전문가 혼합 아키텍처를 사용하더라도 비용이 많이 듭니다. 8B 모델은 호스팅 비용이 훨씬 저렴하고 쿼리 속도가 훨씬 빠릅니다. 10,000개가 넘는 도구 규모의 도구 선택은 여전히 ​​해결되지 않은 상태입니다. Meta와 Carnegie Mellon의 포스트 연구에 따르면 RL로 훈련된 8B 모델이 Crypto Briefing에 처음 등장한 도구 선택에서 Llama-4-Maverick을 능가하는 것으로 나타났습니다.