93대 1 반복 읽기…AI 에이전트 작업비 3.6배 추산
제목 연관성·주요 수치·시장 영향·향후 전망을 기준으로 핵심 문장을 선별한 요약 브리핑입니다.
핵심 포인트
- Arena.ai는 세션 2만6225건을 분석해 AI 에이전트 상위 10개의 토큰 사용량을 살폈다.
- 캐시 읽기분에 일반 입력 요금을 적용하면 작업 비용이 통상 3.6배가 된다는 계산으로, 실제 청구액을 측정한 결과는 아니다.
- AI 에이전트 상위 10개는 출력 토큰 1개를 만들 때 이미 처리한 맥락을 약 93토큰 다시 읽었다.
본문
Arena.ai는 세션 2만6225건을 분석해 AI 에이전트 상위 10개의 토큰 사용량을 살폈다. 캐시 읽기분에 일반 입력 요금을 적용하면 작업 비용이 통상 3.6배가 된다는 계산으로, 실제 청구액을 측정한 결과는 아니다. AI 에이전트 상위 10개는 출력 토큰 1개를 만들 때 이미 처리한 맥락을 약 93토큰 다시 읽었다. Arena.ai는 10월 30일 공개한 분석에서 Agent Arena의 세션 2만6225건을 살폈다. 집계 기간은 2026년 9월 12일부터 10월 23일까지로, 13개 연구소의 에이전트 30종이 포함됐다. 전체 분석 대상에서 앞서 본 맥락을 다시 읽은 토큰은 사용량의 86~96%, 에이전트가 생성한 출력은 1~2%였다. Arena.ai는 상위 10개 에이전트의 캐시 읽기분에 일반 입력 요금을 적용하면 통상적인 작업 비용이 3.6배가 된다고 추산했다.
계산에서는 세션별 토큰 사용량을 그대로 두고 캐시 읽기 요금만 일반 입력 요금으로 바꿨다.
오픈AI(OpenAI)는 프롬프트 캐싱 문서에서 지원 모델의 캐시 입력 요금이 일반 입력보다 최대 95% 낮을 수 있다고 설명했다. 캐시 읽기 할인만으로 전체 비용 절감액을 계산하기 어려운 이유다. 작업 비용을 비교하려면 새 입력, 캐시 읽기, 캐시 쓰기, 출력에 적용되는 요금을 작업 단위로 살펴야 한다. 본 기사는 시장 데이터 및 차트 분석을 바탕으로 작성되었으며, 특정 종목에 대한 투자 권유가 아닙니다.