제브 공개 일주일 만에 오픈소스 구현 잇따라

본문

TypeSafe AI의 제브가 문장 대신 선택지와 확률을 반환하는 방식으로 공개됐다. 문장을 생성하지 않고 사전에 정한 선택지와 확률만 반환하는 인공지능(AI) 모델 제브(Jev)가 공개된 지 일주일 만에 유사한 오픈소스 구현이 잇따라 등장했다. 텍스트 생성과 분리된 판단 전용 모델이 새로운 개발 방향으로 제시된 셈이다. TypeSafe AI는 9월 15일 첫 번째 'System One 모델'로 제브를 얼리 액세스로 출시했다. 예를 들어 문의를 기술지원팀과 결제팀으로 나눌 때 제브가 각각 91%와 9%의 확률을 제시하면 자동 분류를 실행할 수 있다. 반대로 52%와 48%처럼 판단이 엇갈리면 추가 정보를 요청하거나 더 강한 모델로 넘기는 식이다. 제브는 문장을 생성해 사람이 해석하도록 하는 대신, 승인·분류·라우팅 같은 결과를 프로그램이 바로 사용할 수 있도록 설계됐다. TypeSafe AI는 제브의 응답 시간이 70~500밀리초라고 밝혔다.

회사가 비교 대상으로 제시한 기존 프런티어 모델의 응답 시간은 3~329초였다. 홈페이지에는 작업당 비용 0.000081달러(약 0.11원), 입력 토큰 10억개당 42달러(약 5만8254원)라는 수치도 제시됐다. 반환값이 미리 정한 선택지 안에 들어오더라도 잘못된 선택을 할 가능성은 남아 있다. 해커뉴스의 제브 출시 논의에는 텍스트 생성 대신 분류·라우팅·점수화에 집중하는 방식이 유용할 수 있다는 평가가 나왔다.