20GB 잉클링 2 미니, 애플 실리콘 로컬 AI 겨냥
제목 연관성·주요 수치·시장 영향·향후 전망을 기준으로 핵심 문장을 선별한 요약 브리핑입니다.
핵심 포인트
- 메모리 32GB 이상 애플 실리콘 기기에서 로컬 실행을 지원한다.
- 씽킹머신스랩(Thinking Machines Lab)이 약 20GB 용량의 인공지능 모델 잉클링 2 미니(Inkling 2 Mini)를 공개했다.
- 씽킹머신스랩은 공개 모델 카드에서 메모리 32GB 이상을 갖춘 애플 실리콘 기기를 지원 대상으로 제시했다.
본문
메모리 32GB 이상 애플 실리콘 기기에서 로컬 실행을 지원한다. 씽킹머신스랩(Thinking Machines Lab)이 약 20GB 용량의 인공지능 모델 잉클링 2 미니(Inkling 2 Mini)를 공개했다. 씽킹머신스랩은 공개 모델 카드에서 메모리 32GB 이상을 갖춘 애플 실리콘 기기를 지원 대상으로 제시했다. 따라서 애플 실리콘을 탑재했더라도 메모리가 32GB에 못 미치는 기기는 공개 자료가 제시한 지원 조건에 포함되지 않는다. 로컬 AI는 외부 서버 대신 사용자 기기에서 모델을 실행하는 방식이다. 개발자가 잉클링 2 미니를 제품이나 서비스에 통합할 때는 Apache 2.0 문구만으로 사용 범위를 판단하기 어렵다. 씽킹머신스랩은 이달 5일 앞서 잉클링 2 스몰 모델을 공개했다 . 잉클링 2 스몰은 전체 5940억개 파라미터 가운데 추론 시 170억개를 활성화하는 전문가 혼합(Mixture-of-Experts·MoE) 모델이다.
씽킹머신스랩은 지난 7월에도 잉클링(Inkling)과 잉클링-스몰(Inkling-Small)을 선보였다. 잉클링은 전체 9750억개 중 410억개, 잉클링-스몰은 2760억개 중 120억개의 파라미터를 추론 과정에서 활성화하는 구조로 소개됐다. 잉클링 2 미니는 공개 자료에 애플 실리콘 기기와 메모리 32GB 이상이라는 로컬 실행 조건을 명시한 모델이다. 사용자는 실행 전에 메모리 32GB 이상 여부와 약 20GB 모델 파일을 저장할 공간을 확인해야 한다.