KAG(Knowledge-Augmented Generation): 논리적 추론 및 정보 검색 프레임워크 (feat. Ant Group)

KAG 소개

KAG(Knowledge Augmented Generation)는 도메인 지식 기반의 논리적 추론(Logical Reasoning) 및 질문-답변(Q&A)을 위한 프레임워크입니다. 특히, 기존의 RAG(Vector 기반 검색, Retrieval-Augmented Generation)나 GraphRAG(OpenIE 기반 검색)가 가진 문제점을 개선하여 더욱 정확하고 신뢰할 수 있는 도메인 지식 활용을 가능하게 합니다.

KAG는 논리적 추론과 멀티 홉 질의 응답에서 SOTA(State of the Art) 성능을 보여주고 있으며, 다음과 같은 문제를 해결하는 것을 목표로 합니다:

  • 전통적인 RAG의 모호성: 벡터 유사성 계산 방식의 한계를 극복.
  • GraphRAG의 잡음 문제: OpenIE(Open Information Extraction) 방식의 잡음을 최소화.

KAG의 주요 특징

지식 표현(Knowledge Representation)

프라이빗 지식 기반 환경에서는 비구조적 데이터(뉴스, 이벤트, 로그, 책)와 구조적 정보(트랜잭션, 통계, 승인), 그리고 비즈니스 전문가 경험이 공존합니다. 이를 통합적으로 처리하기 위해 KAG는 DIKW 계층(Data, Information, Knowledge, Wisdom)을 참조하여 SPG를 LLM 친화적인 버전으로 업그레이드했습니다.

논리적 형태 기반 혼합 추론 (Mixed Reasoning Guided by Logic Forms)

KAG는 논리적으로 형식화된 가이드 하이브리드 솔루션과 추론 엔진을 제안합니다. 이 엔진에는 계획, 추론, 검색이라는 세 가지 유형의 연산자가 포함되어 있어 자연어 문제를 언어와 표기법을 결합한 문제 해결 프로세스로 변환합니다.

이 과정에서 각 단계는 일치 검색(Exact Match), 텍스트 검색, 숫자 계산 또는 의미 추론과 같은 서로 다른 연산자를 사용하여 검색, 지식 그래프 추론, 언어 추론 및 수치 계산과 같은 여러 문제들의 문제 해결 프로세스의 통합을 실현할 수 있습니다.

KAG의 기술 아키텍처

KAG 프레임워크는 KG-Builder, KG-Solver 및 KAG-Model의 세 가지 주요 구성 요소로 이루어져 있습니다. 현재 KG-Builder 및 KG-Solver가 공개되었으며, KAG-Model은 향후 점진적으로 오픈소스로 공개 예정입니다.

KG-Builder는 대규모 언어 모델(LLM)에 친화적인 지식 표현을 구현합니다. DIKW(데이터, 정보, 지식, 지혜)의 계층 구조를 기반으로 SPG 지식 표현 능력을 업그레이드하고 스키마 제약 없는 정보 추출과 동일한 지식 유형(엔티티 유형, 이벤트 유형 등)에 스키마 제약이 있는 전문 지식 구축에 호환되며, 그래프 구조와 원문 블록 간의 상호 인덱스 표현을 지원하여 추론 질문과 답변 단계의 효율적인 검색을 지원합니다.

KG-Solver는 계획, 추론, 검색의 세 가지 연산자를 포함하는 논리적 기호 가이드 하이브리드 풀이 및 추론 엔진을 사용하여 자연어 문제를 언어와 기호를 결합한 문제 해결 프로세스로 변환합니다. 이 과정에서 각 단계는 정확히 일치하는 검색, 텍스트 검색, 숫자 계산 또는 의미 추론과 같은 서로 다른 연산자를 사용하여 검색, 지식 그래프 추론, 언어 추론 및 수치 계산의 4가지 문제 해결 프로세스의 통합을 실현할 수 있습니다:

KAG-Model은 도메인 특화된 모델로, 앞에서 언급한 것처럼 향후 오픈소스로 공개 예정입니다.

라이선스

이 프로젝트는 Apache License 2.0으로 배포됩니다.

:scroll: KAG(Knowledge Augmented Generation) 논문

:framed_picture: KAG 소개 및 응용 사례 소개 (PDF Slide)

KAG 소개 및 응용 사례 소개 (PDF Slide)

:github: KAG GitHub 저장소




이 글은 GPT 모델로 정리한 글을 바탕으로 한 것으로, 원문의 내용 또는 의도와 다르게 정리된 내용이 있을 수 있습니다. 관심있는 내용이시라면 원문도 함께 참고해주세요! 읽으시면서 어색하거나 잘못된 내용을 발견하시면 덧글로 알려주시기를 부탁드립니다. :hugs:

:pytorch:파이토치 한국 사용자 모임:kr:이 정리한 이 글이 유용하셨나요? 회원으로 가입하시면 주요 글들을 이메일:love_letter:로 보내드립니다! (기본은 Weekly지만 Daily로 변경도 가능합니다.)

:gift: 아래:arrow_lower_right:쪽에 좋아요:+1:를 눌러주시면 새로운 소식들을 정리하고 공유하는데 힘이 됩니다~ :star_struck: