구글 AI API 분당 320억 토큰…1년 새 4배 넘어

본문

순다르 피차이는 구글 자사 모델 API 처리량이 전분기보다 40%, 1년 전보다 4배 이상 늘었다고 밝혔다. 공개된 수치는 구글 서비스 전체 이용량이 아닌 API 처리량이다. 구글의 자사 AI 모델 API가 분당 거의 320억 개의 토큰을 처리한다. 순다르 피차이는 처리량이 전분기보다 40%, 1년 전보다 4배 이상 늘었다고 밝혔다. 순다르 피차이(Sundar Pichai) 구글·알파벳($GOOGL) CEO는 28일(현지시간) 3분기 실적 발표 발언록에서 “자사 모델 API는 분당 거의 320억 개의 토큰을 처리한다”고 말했다. 3분기 실적 발표 발언록에 담긴 수치는 구글 자사 모델 API에 관한 것이다. 피차이는 같은 발언록에서 API 처리량이 전분기보다 40% 늘었고 1년 전과 비교하면 4배 이상이라고 설명했다. 구글은 2분기 실적 발표 발언록에서 모델 API 처리량을 분당 약 220억 토큰으로 제시했다.

2분기 실적 발표 발언록에도 이 수치가 담겼으며, 본지는 앞선 실적 발표에서 공개된 구글의 AI 이용 지표를 다룬 바 있다 . 두 발표의 수치는 각각 ‘약 220억’, ‘거의 320억’으로 표현됐다. 처리량 증가가 API 매출 증가를 같은 비율로 뜻하는 것도 아니다. 피차이의 이번 발표에는 API 처리량이 매출에 기여한 정도가 별도로 제시되지 않았다.