알트먼, AI 토큰 수는 기업 성과 척도로 한계…고객은 토큰 과금 선호

본문

샘 알트먼은 AI 토큰 수가 기업이 얻는 가치를 보여주는 기준으로는 적절하지 않다고 말했다. 오픈AI는 차기 모델에서 토큰별 과금을 없애는 방안을 검토했지만 고객 반응이 부정적이었다. 샘 알트먼(Sam Altman) 오픈AI(OpenAI) 최고경영자(CEO)는 AI 토큰 수가 기업이 인공지능에서 얻는 가치를 보여주는 기준으로는 적절하지 않다고 말했다. 치키 핀트(Cheeky Pint) 인터뷰에서 진행자 존 콜리슨(John Collison) 스트라이프(Stripe) 공동창업자는 토큰이 ‘사업 가치 관점에서는 가짜’라고 짚었다. 가상자산 토큰과는 다른 개념으로, 토큰 수는 서비스 사용량과 비용을 측정하는 데 쓰인다. 같은 토큰 수를 쓰더라도 업무와 산출물은 다를 수 있다는 취지다. 업무 목적마다 결과가 달라 공통 과금 단위로 삼기 어렵다는 이유에서다.

알트먼은 일부 고객에게 같은 결과를 받더라도 일정한 토큰 수로 청구하면 더 낼 의향이 있는지 물었고, 토큰 수를 부풀리더라도 비용 기준을 알 수 있는 편을 선호한다는 답을 들었다고 전했다. 소형 모델과 대형 모델의 토큰 단가뿐 아니라 추론 과정의 길이까지 따져야 해 이용자에게 불필요한 계산 부담을 준다는 것이다. 콜리슨은 반도체 공정의 나노미터 표기를 예로 들며 ‘지능 환산 토큰’ 같은 새 단위를 만들지 물었다. 오픈AI 내부의 컴퓨팅 자원 배분에서도 사용량 자체를 성과 기준으로 삼지 않는다고 알트먼은 말했다. 알트먼은 토큰 사용량 순위표를 운영하지 않으며, 사용량 순위가 높은 점은 승진에서 오히려 약간 불리하게 작용한다고 말했다.