벡터DB와 RAG를 넘어서...구글 OKF를 주목하는 이유

본문

[디지털투데이 황치규 기자]기업용 인공지능(AI) 구축에 표준처럼 여겨졌던 검색증강생성(RAG) 방식에 변화의 조짐이 나타나고 있다. 구글 클라우드는 최근 OKF(Open Knowledge Format)을 공개하며 기업 핵심 지식을 벡터 데이터베이스에 저장해 검색하는 대신 구조화된 지식망 형태로 관리하는 방식을 제시했다.테크블로그 시크릿 데브(Secret Dev)가 최근 미디어 플랫폼 미디엄에 공유한 글에 따르면 RAG는 기업 PDF와 문서 등을 작은 단위로 나눠 임베딩한 뒤 질문과 의미가 가까운 정보를 찾아 대형모언어모델(LLM) 테크블로그 시크릿 데브(Secret Dev)가 최근 미디어 플랫폼 미디엄에 공유한 글에 따르면 RAG는 기업 PDF와 문서 등을 작은 단위로 나눠 임베딩한 뒤 질문과 의미가 가까운 정보를 찾아 대형모언어모델(LLM)에 제공하는 방식이다.

다양한 문서를 폭넓게 검색할 수 있다는 장점이 있지만 문서를 분할하는 과정에서 표와 문맥이 훼손될 수 있고 오래된 정보가 검색될 수도 있다.

데이터가 자주 바뀌면 임베딩을 다시 생성하고 색인을 관리해야 하는 부담도 커진다. OKF는 이같은 문제에 대한 대안으로 기업 지식을 하나의 '살아 있는 위키'처럼 구성하도록 지원한다. 핵심 단위인 '지식 번들'(Knowledge Bundle)은 별도 독점 데이터베이스가 아니라 YAML 메타데이터와 마크다운 문서로 구성된 디렉토리다. RAG가 벡터 간 유사도를 계산해 관련성이 높은 문서를 확률적으로 찾는다면 OKF는 문서에 명시된 링크를 따라 필요한 지식을 탐색한다. 예를 들어 '매출'이나 '이탈률' 같은 핵심 지표 정의를 확인한 뒤 연결된 데이터베이스 스키마와 계산 규칙을 순서대로 찾아가는 식이다. 시크릿데브는 "과거 보고서와 고객 문의, 방대한 비정형 자료처럼 범위가 넓고 정확한 위치를 미리 정의하기 어려운 정보에는 여전히 RAG가 유용하다.

반면 세금 식별번호, 매출 정의, 데이터베이스 스키마처럼 틀리면 업무에 직접적인 문제가 발생하는 정보는 명시적으로 관리되는 OKF가 적합하다"고 설명했다.

이어 "기업용 AI 지식관리 구조는 RAG와 OKF 가운데 하나를 선택하는 방식보다 두 기술을 결합하는 방향으로 발전할 가능성이 크다. AI 라우터가 질문 성격을 판단해 핵심 규칙과 최신 스키마는 OKF에서 찾고, 방대한 과거 자료나 비정형 정보는 RAG에서 검색하는 방식이 될 것"이라고 내다봤다.