GeekNews의 xguru님께 허락을 받고 GN에 올라온 글들 중에 AI 관련된 소식들을 공유하고 있습니다. 
소개
![[GN⁺] VectorDB - Kagi Search가 개발한 벡터 데이터베이스 - Vector search performance analysis](https://discuss.pytorch.kr/uploads/default/original/2X/1/179bcabbc639fe004cda2fbd617c745a8fb96a4e.jpeg)
- VectorDB는 텍스트 저장 및 검색을 위한 Python 패키지로, 청킹, 임베딩, 벡터 검색 기술을 사용
- 사용자 친화적인 인터페이스를 제공하며, 메타데이터와 연관된 텍스트 데이터의 저장, 검색 및 관리에 적합
- 낮은 지연 시간이 필수적인 사용 사례를 위해 설계됨
설치 및 사용 방법
- VectorDB는 오픈소스로, GitHub에서 코드와 전체 문서를 확인할 수 있음.
pip install vectordb2명령어로 설치 가능함.- 메모리 객체를 생성하고, 텍스트와 메타데이터를 저장한 후, 관련 청크를 검색하는 방식으로 사용함.
벡터 검색 및 임베딩의 중요성
- 대규모 언어 모델을 다룰 때 벡터 검색과 임베딩은 효율적이고 정확한 정보 검색을 가능하게 함.
- 텍스트를 고차원 벡터로 변환하여 빠른 비교 및 검색을 지원하며, 의미적 의미를 포착하여 검색 결과의 질을 향상시킴.
예시
Memory객체를 사용하여 청킹 전략을 설정하고, 머신러닝과 인공지능에 대한 텍스트와 메타데이터를 저장함.- 특정 쿼리에 대해 상위 n개의 관련 청크를 검색하여 결과를 출력함.
GN⁺의 의견
이 글에서 가장 중요한 것은 VectorDB가 텍스트 데이터를 효율적으로 저장하고 검색할 수 있는 파이썬 패키지라는 점이다. 벡터 검색과 임베딩 기술을 사용하여 대규모 데이터셋에서 빠르고 정확하게 정보를 검색할 수 있으며, 이는 데이터 기반 의사결정, 자연어 처리 등 다양한 분야에서 응용 가능함을 시사한다. 이 기술은 데이터의 양이 계속해서 증가하는 현대 사회에서 더욱 중요해질 것이며, 이로 인해 소프트웨어 엔지니어링, 데이터 과학, 인공지능 분야에 관심 있는 사람들에게 흥미로운 주제가 될 것이다.
Hacker News 의견
- 개발자의 의견:
- 이 제품은 실제 데이터베이스가 아니라, 로컬에서 실행되는 임베딩과 FAISS/mrpt를 기반으로 한 래퍼(wrapper)임.
- 지연 시간을 최소화하기 위해 많은 벤치마킹을 통해 합리적인 기본값을 제공함.
- 사용자의 관심사에 따라 Kagi Small Web RSS 피드의 내용을 필터링하는 예시 Colab 노트북을 공유함.
- FAISS에 대한 의견:
- FAISS는 벡터 검색 라이브러리로 간단한 API를 제공함.
- VectorDB가 필요로 하는 PyTorch, Tensorflow, Transformers 같은 무거운 라이브러리가 필요 없는 경우 FAISS가 더 적합할 수 있음.
- Postgres와의 통합에 대한 의견:
- 이미 Postgres를 운영 저장소로 사용 중인 팀은 PGVector 확장을 사용하는 것이 좋음.
- 데이터와 벡터 검색 기능이 함께 있어 기술 스택에서 관리해야 할 부분이 줄어듦.
- Kagi 검색에 대한 긍정적인 피드백:
- Kagi 검색을 몇 달 동안 사용해본 결과 놀라움.
- 이 기술이 Kagi 검색의 원동력이라면 낙관적임.
- 데이터 저장과 한계에 대한 질문:
- 데이터는 어디에 저장되는지, 어떻게 영속화되는지 궁금함.
- 이 기술에는 어떤 제한이 있는지, 500-1000 단어의 텍스트와 문장이 아닌 텍스트 컬렉션에도 잘 작동하는지 질문함.
- Crystal 언어 사용에 대한 궁금증:
- Crystal 언어가 사용되지 않은 이유에 대해 궁금해함.
- 벡터 데이터베이스 비교에 대한 질문:
- 다양한 벡터 DB들을 비교한 자료가 있는지, 다른 사용 사례에 따라 어떤 것을 선택할지, 어떻게 다른지에 대한 질문이 있음.
- "최소한" 프레임워크에 대한 관심:
- HF 트랜스포머에 대한 의존성을 없애고, 청킹을 맞춤화하는 것이 흥미로움.
- 이 프로젝트에 대한 비판이 아니라, 도움이 될 수 있는 부분을 보는 것임.
- 임베딩 생성에 대한 질문:
- 실제로 임베딩을 생성하는 데 사용되는 것이 무엇인지에 대한 질문이 있음.
- 벡터 데이터베이스에 대한 블로그 링크 공유:
- 벡터 데이터베이스가 필요하지 않다는 내용의 블로그 링크가 공유됨.