메모리 반도체, 거품 꺼질 거라는 전망에 갸우뚱하는 이유

현재 메모리 시장은 빅테크들의 데이터센터 수요만으로도 공급이 따라가지 못하는 상황입니다.

제가 업무적으로나 개인적으로 코딩에 AI를 적극적으로 활용하는 입장에서 보면, GPT나 클로드, DeepSeek 같은 서비스도 훌륭하지만 결국 로컬 환경에서 직접 모델을 구동하고 싶다는 생각을 많이 합니다. 비용 때문에도 그렇고, 내정보를 해당 서버로 보낸다는것도 생각하면 불편한 부분이죠.

하지만 현실은 컨슈머 레벨에서 로컬 LLM용으로 가장 많이 언급되는 것이 애플의 '맥 스튜디오'나 고사양 GPU 워크스테이션인데, 실무에 쓸 만한 수준으로 구성하려면 수천만 원이 훌쩍 넘어갑니다.

그 비용의 대부분은 메모리죠. 수천만 원을 투자해도 코딩 보조가 가능한 중형급 모델을 겨우 돌리는 수준이고, 본격적인 대형 모델을 구동하려면 기기를 병렬로 묶어 1억 원 가까운 비용을 들여야 합니다. 이나마도 모델 하나 띄워서 단일 에이전트로 쓸 때 얘기고, 요즘처럼 서브 에이전트 여러 개를 병렬로 동시에 돌린다고 하면 메모리가 또 몇 배는 더 필요하겠죠??

중요한 점은 이것이 점차 특수 계층(?)에만 해당되는 얘기가 아닐 거라고 봅니다. 높은 가격에 막혀 있을 뿐 가격만 합리화되면 진입하려는 개인 대기 수요가 상당할 겁니다.

무엇보다 기업들의 보안 및 데이터 유출 우려로 인한 사내 구축형 LLM 수요는 아직 본격적으로 시작조차 안 했다고 봅니다. (지금은 회사에다 이런 제안 해봤자 그게 뭐야 ?! 하는 곳이 대부분일 겁니다.)

게다가 이런 AI 관련 메모리 수요 폭증으로 일반 PC 부품 가격까지 크게 올라, 일반 소비자들의 PC 교체 수요마저 억눌려 있는 상태입니다. 메모리 가격이 안정화되려면 이 잠재적 대기 수요들이 모두 해소되어야 하는데, 향후 수년 내에 해결되기는 어려워 보입니다.

최근 중국 창신메모리 발 공급 과잉 우려가 나오지만, 수율 한계와 중국 자체의 막대한 내수 시장이나 제대로 채울 수 있을까 싶습니다.

물론 주식 시장은 수급의 영역이기에 펀더멘털이 아무리 좋아도 매도세가 강하면 주가는 조정을 받을 수 있습니다. 하지만 중장기적인 관점에서 메모리 수요의 끝을 논하기엔 섣부른 거 아닌가?! 하는 생각입니다.

여기에 지금은 실험적 수준이지만, 스마트폰에 본격적으로 '온디바이스 AI'가 확대되면 , 기기당 탑재되는 메모리 용량의 한계가 어디까지 늘어날지 가늠하기 어렵습니다. 향후 몇 년간? 한 10년? 은 '메모리 고가 시대'가 뉴노멀이 아닐까 하는 생각을 합니다.

물론 뇌세포를 활용한 바이오 컴퓨팅 같은 파괴적 혁신 기술이 상용화된다면 판도가 한순간에 바뀔 수도 있겠다는 상상은 해보지만, 된다해도 단기간에 될얘기는 아닌것같고요, (그래도 또 모르죠, 불과 1년 전만 해도 지금 같은 D램 가격의 폭등을 예상한 이가 많지않았듯이요.)