소개
Letta는 LLM(Large Language Model) 기반의 상태 저장 애플리케이션을 구축하기 위한 오픈소스 프레임워크입니다. Letta를 사용하여 장기 메모리를 갖춘 상태 저장 에이전트를 생성할 수 있으며, API 서버 및 CLI로 쉽고 빠르게 에이전트를 구축하고 관리할 수 있습니다. Letta는 다양한 LLM 또는 임베딩 모델과 호환되며, 각 에이전트는 모델에 독립적이고 투명한 방식으로 동작하는 것이 특징입니다. Letta의 원래 명칭은 MemGPT였으며, MemGPT 에이전트를 실행하는 API 서버/런타임과의 구분을 위해 현재 이름으로 변경되었습니다.
Letta는 다음과 같은 특징을 갖춘 프레임워크입니다:
-
모델 독립적: 특정 LLM에 종속되지 않으며, 다양한 모델과 호환 가능합니다.
-
투명한 구조: LLM 및 에이전트의 내부 작업을 완전히 이해할 수 있습니다.
-
빠른 프로토타이핑 및 확장성: Letta CLI와 ADE(Agent Development Environment)를 통해 간단히 프로토타입을 생성하고, Docker를 활용해 대규모 프로덕션 환경으로 확장할 수 있습니다.
특히, Letta의 메모리 관리 시스템은 에이전트가 대화를 통해 얻은 정보를 장기적으로 기억할 수 있도록 돕습니다. 상태 저장 메모리와 단기 메모리를 통합하여 사용자가 제공한 정보를 지속적으로 반영합니다.
• 기억 저장소 관리: Letta는 대화를 통해 얻은 데이터를 저장하고 필요할 때 검색할 수 있도록 아카이벌 메모리와 코어 메모리를 지원합니다.
• 기억 업데이트 기능: 새로운 정보를 추가하거나 수정할 때 core_memory_replace와 같은 기능을 통해 메모리를 효율적으로 업데이트할 수 있습니다.
에이전트는 사용자와의 상호작용에서 인식된 변경 사항을 메모리에 반영하여 대화를 더욱 일관되게 유지합니다. 예를 들어, 사용자가 이름을 수정할 경우 Letta는 이를 자동으로 반영합니다.
참고: MemGPT와 Letta의 관계 설명
MemGPT는 UC Berkeley에서 Discord 챗봇의 메모리 시스템을 개선하려는 연구 프로젝트로 시작되었습니다. 이 프로젝트는 AI 생태계에서 메모리 관리 솔루션에 대한 수요와 맞물리며 큰 주목을 받았고, 관련 논문과 연구가 널리 퍼지게 되었습니다. 이 과정에서 MemGPT는 더 일반적인 에이전트 지원 기능, 맞춤형 도구, 데이터 소스 및 메모리 클래스와 같은 다양한 기능을 갖춘 상태 저장형 서비스로 발전했습니다.
MemGPT와 Letta 간의 차별화
MemGPT라는 이름은 시간이 지나면서 다르게 사용되기 시작해 혼란을 야기했습니다:
- 일부는 MemGPT를 논문에 소개된 원래의 “LLM OS(운영 시스템)” 기술로 인식합니다.
- 일부는 MemGPT를 자체 편집 메모리를 가진 LLM 기반 챗봇의 한 유형으로 봅니다.
- 또 다른 그룹은 MemGPT를 오픈소스 에이전트 프레임워크로 이해합니다.
이를 명확히 하기 위해, MemGPT는 연구 논문에서 설명된 에이전트 디자인 패턴(LLM에 자체 편집 메모리 도구를 제공하는 방법)을 지칭하도록 하고, Letta라는 이름을 에이전트 프레임워크에 사용하기로 결정했습니다.
라이선스
Letta는 Apache 2.0 라이선스로 공개 및 배포됩니다. 하지만, 사용자가 Letta Cloud를 통해서 에이전트를 생성 및 관리할 때에는 개인정보 보호정책과 서비스 이용약관에 동의하셔야 합니다.
Letta 소개 영상
Letta GitHub 저장소
Letta 공식 문서 사이트
Letta 활용 사례 및 기능 튜토리얼 영상(YouTube)
이 글은 GPT 모델로 정리한 글을 바탕으로 한 것으로, 원문의 내용 또는 의도와 다르게 정리된 내용이 있을 수 있습니다. 관심있는 내용이시라면 원문도 함께 참고해주세요! 읽으시면서 어색하거나 잘못된 내용을 발견하시면 덧글로 알려주시기를 부탁드립니다. 
파이토치 한국 사용자 모임
이 정리한 이 글이 유용하셨나요? 회원으로 가입하시면 주요 글들을 이메일
로 보내드립니다! (기본은 Weekly지만 Daily로 변경도 가능합니다.)
아래
쪽에 좋아요
를 눌러주시면 새로운 소식들을 정리하고 공유하는데 힘이 됩니다~ 