Odysseus: 내 하드웨어에서 데이터까지 직접 관리하는 자체 호스팅 AI 워크스페이스

9bow · 6월 7, 2026, 6:30오전

Odysseus 소개

ChatGPT나 Claude 같은 클라우드 AI 서비스는 편리하지만, 대화 내용과 문서, 메일 같은 데이터가 모두 외부 서버를 거칩니다. Odysseus는 이 경험을 내 하드웨어 위로 그대로 옮겨 오는 것을 목표로 하는 자체 호스팅(self-hosted) AI 워크스페이스입니다. 로컬 우선(local-first), 프라이버시 우선을 원칙으로, 내 기기에서 내 데이터로 돌아갑니다.

Odysseus는 채팅 하나에 머무르지 않고, 에이전트, 모델 관리, 딥 리서치, 메모리, 메일과 일정 관리까지 하나의 화면에 모은 통합 워크스페이스입니다. 로컬에서 띄운 모델은 물론 외부 API도 함께 연결할 수 있어, 작은 기기에서는 원격 모델 서버에 연결하고 GPU가 있는 기기에서는 로컬 모델을 직접 서빙하는 식으로 환경에 맞춰 쓸 수 있습니다.

데스크톱뿐 아니라 모바일에서도 잘 동작하도록 반응형으로 설계되어 있고, PWA로 설치할 수도 있습니다. 첫 실행 시 관리자 계정을 만들고 임시 비밀번호를 터미널에 출력하므로, 그 값으로 처음 로그인한 뒤 설정에서 변경하는 방식으로 시작합니다.

Odysseus의 주요 기능

채팅에서는 vLLM, llama.cpp, Ollama, OpenRouter, OpenAI 등 로컬 모델과 API를 간단히 추가해 사용할 수 있습니다. 에이전트 기능은 opencode를 기반으로 하며, MCP와 웹, 파일, 셸, 스킬, 메모리 같은 도구를 쥐여 주면 작업 전체를 스스로 수행합니다.

특히 Cookbook 은 llmfit을 기반으로 사용자의 하드웨어를 스캔해 적합한 모델을 추천하고, 클릭만으로 다운로드와 서빙까지 이어 줍니다. VRAM을 고려해 GGUF, FP8, AWQ 같은 양자화 포맷의 적합도를 점수화하고 vLLM이나 llama.cpp로 서빙합니다. 딥 리서치(Deep Research) 는 Tongyi DeepResearch를 적용한 기능으로, 여러 단계에 걸쳐 자료를 모으고 읽어 시각적인 보고서로 정리합니다.

메모리와 스킬은 ChromaDB와 fastembed(ONNX)를 사용해 벡터 검색과 키워드 검색을 함께 제공하며, 에이전트가 사용자와 작업을 이해할수록 점점 발전하도록 설계되어 있습니다. 이 외에도 모델을 나란히 두고 블라인드로 비교하는 Compare, IMAP/SMTP 메일함과 AI 분류, CalDAV 동기화 캘린더, 노트와 일정 관리 같은 생산성 도구가 함께 들어 있습니다.

Odysseus의 로컬 우선 설계

Docker로 실행하면 Odysseus와 함께 벡터 저장소인 ChromaDB, 검색 엔진인 SearXNG, 알림 서버인 ntfy가 같이 뜹니다. 기본적으로 웹 UI와 번들 서비스 포트는 모두 127.0.0.1 에 바인딩되어, 호스트에서는 접근할 수 있지만 별도로 설정하지 않는 한 LAN이나 공개 인터넷에는 노출되지 않습니다.

GPU 활용은 환경에 따라 갈립니다. Cookbook으로 로컬 모델을 서빙하려면 NVIDIA는 컨테이너 GPU 패스스루와 CUDA 런타임이, AMD는 ROCm 환경이 필요합니다. 저장소는 scripts/check-docker-gpu.sh 같은 진단 스크립트를 제공하며, 이 스크립트는 기본적으로 읽기 전용 진단만 수행하고 명시적으로 옵션을 지정하기 전에는 호스트 런타임을 설치하거나 .env 를 수정하지 않습니다.

Odysseus의 채팅과 에이전트 동작 데모

Odysseus 설치 및 사용법

가장 권장되는 방식은 Docker입니다. 저장소를 받은 뒤 컨테이너를 띄우고, 컨테이너가 정상화되면 http://localhost:7000 으로 접속합니다.

git clone https://github.com/pewdiepie-archdaemon/odysseus.git
cd odysseus
cp .env.example .env       # 선택 사항, 기본값을 명시적으로 두고 싶을 때
docker compose up -d --build

네이티브 실행은 Python 3.11 이상이 필요하며, 가상 환경을 만든 뒤 의존성을 설치하고 실행합니다.

git clone https://github.com/pewdiepie-archdaemon/odysseus.git
cd odysseus
python3 -m venv venv
source venv/bin/activate
pip install -r requirements.txt
python setup.py
python -m uvicorn app:app --host 127.0.0.1 --port 7000

Apple Silicon 맥에서는 Docker가 Metal GPU를 쓸 수 없으므로, GPU 가속 Cookbook을 쓰려면 ./start-macos.sh 로 네이티브 실행하는 방법이 안내되어 있습니다(http://127.0.0.1:7860 에서 실행). 외부에 노출할 때는 기본값인 AUTH_ENABLED=true 를 유지하고, 포트를 공개 인터넷에 직접 열지 말라고 권고하고 있습니다.

Odysseus의 라이선스

Odysseus는 MIT 라이선스로 공개되어 있어 개인 및 상업적 목적으로 자유롭게 사용할 수 있습니다.

Odysseus 데모 및 소개 페이지

Odysseus 프로젝트 GitHub 저장소

더 읽어보기

이 글은 GPT 모델로 정리한 글을 바탕으로 한 것으로, 원문의 내용 또는 의도와 다르게 정리된 내용이 있을 수 있습니다. 관심있는 내용이시라면 원문도 함께 참고해주세요! 읽으시면서 어색하거나 잘못된 내용을 발견하시면 덧글로 알려주시기를 부탁드립니다.

파이토치 한국 사용자 모임이 정리한 이 글이 유용하셨나요? 회원으로 가입하시면 주요 글들을 이메일로 보내드립니다! (기본은 Weekly지만 Daily로 변경도 가능합니다.)

아래쪽에 좋아요를 눌러주시면 새로운 소식들을 정리하고 공유하는데 힘이 됩니다~