세일즈포스·엔비디아, 고객 데이터 없는 추론 모델 코아 공개

본문

세일즈포스($CRM)와 엔비디아($NVDA)가 영업·마케팅·고객지원 업무에 특화한 기업용 추론 모델 코아를 공개했다. 코아는 실제 고객 데이터를 학습에 사용하지 않고 업무 환경을 모사한 합성 데이터로 훈련됐다.코아는 엔비디아의 오픈... 세일즈포스와 엔비디아가 영업·마케팅·고객지원 업무에 특화한 기업용 추론 모델 코아를 공개했다. 자예시 고빈다라잔(Jayesh Govindarajan) 세일즈포스 AI 부문 부사장은 “지금까지 추론은 프런티어 모델 제공업체에 의존해 왔다”며 “이제는 그렇지 않다”고 말했다. 세일즈포스가 자체 기업용 추론 모델을 개발하려면 성능과 데이터 출처가 확인된 사전 학습 모델이 필요했다는 설명이다. 세일즈포스는 고객의 데이터 요구사항과 보안 정책을 반영하고, 고객 데이터가 다른 이용자에게 노출될 위험을 줄일 수 있다고 설명했다.

기업용 모델 도입 효과는 업무 정확도뿐 아니라 응답 속도와 운영 비용, 데이터 통제 수준을 함께 따져야 한다.

카리 앤 브리스키(Kari Ann Briski) 엔비디아 엔터프라이즈 생성형 AI 소프트웨어 부사장은 네모트론 기반 구조가 추론 과정에서 토큰을 효율적으로 사용할 수 있다고 말했다. 업무의 복잡도와 데이터 요구사항에 따라 적합한 모델을 선택하고, 기업 데이터는 세일즈포스 환경 안에 둔다는 구상이다. 코아 연구진은 고객 데이터 없이 공개 데이터와 합성 데이터를 활용해 모델을 후속 학습했다고 밝혔다. 기업용 AI 시장에서는 모델 자체의 성능뿐 아니라 기업 데이터의 통제, 내부 배포, 추론 비용을 함께 관리하는 구조가 중요해지고 있다. 외부 모델 호출은 구축 부담을 줄일 수 있지만 데이터 통제 범위가 좁아질 수 있고, 내부 운용은 통제력을 높이는 대신 하드웨어와 운영 부담이 커질 수 있다.