메이퇀, 3.56TB 롱캣-2.5 가중치 공개

본문

메이퇀이 11월 9일 허깅페이스에 롱캣-2.5 가중치 파일 208개를 올렸다. 메이퇀(Meituan·3690.HK)이 롱캣-2.5(LongCat-2.5) 가중치를 공개했다. 허깅페이스(Hugging Face) 저장소에는 가중치 파일 208개가 올라와 있으며 전체 크기는 3.56TB다. 메이퇀은 11월 2일 기술 블로그에서 모델을 소개한 뒤 9일 가중치를 공개했다. 개발자가 모델 파일에 직접 접근할 수 있게 된 것으로, 공개 시점은 모델 소개와 가중치 배포로 나뉜다. 메이퇀은 롱캣-2.5를 총 1.6조 파라미터 가운데 토큰당 약 480억개가 활성화되는 전문가 혼합(MoE) 모델로 소개했다. 메이퇀 기술 블로그는 중국산 AI 가속기 한 장의 메모리가 80GB 미만인 조건을 고려해 중간 학습과 지도 미세조정(SFT)에 긴 시퀀스를 적용했다고 설명했다.

메이퇀은 자체 온라인 부하 시험에서 W4A4의 입력 처리(prefill) 처리량이 W8A8보다 43.3%, 출력 생성(decode) 처리량은 42.77% 높았다고 밝혔다.

레딧(Reddit) 원글 작성자는 가중치 공개 전 프리뷰 모델에 코드 분석을 요청했지만 약 20분 동안 작업이 끝나지 않고 추론이 같은 문장을 반복했다고 썼다. 또 다른 레딧 이용자는 267회 과제를 실행한 비교 시험에서 프리뷰 모델의 첫 시도 성공률(pass@1)을 48.7%, 세 차례 내 성공률(pass@3)을 64.0%로 기록했다. 이 시험은 가중치 공개 전 프리뷰를 대상으로 한 개인 시험이다. 해커뉴스(Hacker News)의 모델 소개 글 토론에서는 공개 벤치마크를 근거로 API 경쟁력을 인정하는 의견과 큰 모델 규모가 개인 장비 배포에 걸림돌이라는 의견이 함께 나왔다.