해비탯 읽기 p50 지연 120→10ms…오픈AI, 12배 개선
제목 연관성·주요 수치·시장 영향·향후 전망을 기준으로 핵심 문장을 선별한 요약 브리핑입니다.
핵심 포인트
- 오픈AI가 내부 저장 플랫폼 해비탯의 전 세계 읽기 요청 중간 지연시간을 약 120ms에서 약 10ms로 줄였다고 밝혔다.
- 오픈AI(OpenAI)가 내부 온라인 저장 플랫폼 해비탯(Habitat)의 전 세계 읽기 요청 p50 지연시간을 약 120밀리초(ms)에서 약 10ms로 줄였다고 밝혔다.
- 회사가 제시한 개선 폭은 12배지만, 챗GPT의 답변 생성 시간을 포함한 전체 응답 속도를 뜻하지는 않는다.
본문
오픈AI가 내부 저장 플랫폼 해비탯의 전 세계 읽기 요청 중간 지연시간을 약 120ms에서 약 10ms로 줄였다고 밝혔다. 오픈AI(OpenAI)가 내부 온라인 저장 플랫폼 해비탯(Habitat)의 전 세계 읽기 요청 p50 지연시간을 약 120밀리초(ms)에서 약 10ms로 줄였다고 밝혔다. 회사가 제시한 개선 폭은 12배지만, 챗GPT의 답변 생성 시간을 포함한 전체 응답 속도를 뜻하지는 않는다. 오픈AI는 23일(현지시간) 공개한 기술 문서에서 지역별 데이터 배치와 캐시 구축, 서비스 일부의 Rust 전환을 성능 개선 조치로 들었다. p50은 요청을 지연시간 순으로 배열했을 때 가운데에 해당하는 값이다. 그 밖의 읽기 요청에는 요청 처리 인프라 가까이에 밸키(Valkey) 캐시를 뒀다. 해비탯 요청의 90% 이상이 읽기 요청이라는 점도 캐시 도입의 배경이다. 해비탯 서비스 일부는 Python에서 Rust로 다시 작성했다.
오픈AI는 여러 제품의 데이터를 한 컨테이너에 담는 방식에서 제품별 전용 컨테이너로 옮겼다가, 용량 계획과 운영 부담을 고려해 공유 컨테이너를 기본으로 쓰는 방식으로 돌아왔다. 오픈AI는 9월 11일 공개한 1부 문서에서 해비탯이 초당 7000만 건 이상의 요청을 처리하고 500페타바이트(PB) 이상의 데이터를 다룬다고 밝혔다. 이는 플랫폼 전체 규모를 나타내며 이번 읽기 지연 수치와 집계 대상이 다르다. 본 기사는 시장 데이터 및 차트 분석을 바탕으로 작성되었으며, 특정 종목에 대한 투자 권유가 아닙니다.