AI 기업들, 스마트폰에 1000억 매개변수 모델 요구

본문

크리스티아누 아몬 퀄컴 CEO는 AI 기업들이 2028년까지 스마트폰에서 1000억 개 매개변수 모델을 상시 실행하길 원한다고 전했다. AI 기업들이 2028년까지 스마트폰에서 매개변수 1000억 개 규모 모델을 상시 실행할 수 있게 해달라고 퀄컴에 요구했다. 크리스티아누 아몬(Cristiano Amon) 퀄컴 최고경영자(CEO)는 알렉스 히스와의 인터뷰에서 “AI 기업들이 2028년까지 최소 1000억 매개변수 모델을 스마트폰에서 상시 지원해달라고 요구한다”고 말했다. 아몬이 전한 구상은 인공지능(AI)이 사용자의 맥락을 파악하고 여러 앱을 활용해 작업하는 에이전트형 서비스다. 2028년은 AI 기업들이 제시한 요구 시점이며, 퀄컴의 제품 출시 일정으로 확인된 것은 아니다. 두 모바일 플랫폼은 기기에서 매개변수 300억 개 이상의 혼합 전문가(MoE) 모델을 실행하도록 설계됐다.

MoE 모델은 작업에 따라 모델 전체 매개변수 중 일부를 활성화할 수 있다.

퀄컴은 매개변수 300억 개 규모 MoE 모델에서 토큰 생성 때 약 30억 개가 활성화되는 사례를 제시했다. 따라서 모델 전체 매개변수 수만으로 실제 연산 부담을 단순 비교하기는 어렵다. 모델 구조와 정밀도, 메모리 사용량, 생성 속도에 따라 기기에서 필요한 자원이 달라진다. 스마트폰에서 AI 모델을 상시 실행하려면 메모리와 전력 부담도 고려해야 한다. 다만 1000억 개 매개변수 모델을 스마트폰에서 상시 실행하는 제품 사양이나 독립적인 성능 검증은 제시되지 않았다.