Open WebUI👋, 오프라인 및 Local LLM 등을 위한 오픈소스 AI 플랫폼

9bow · 1월 23, 2025, 9:00오후

Open WebUI 소개

Open WebUI는 사용자가 완전히 오프라인 상태에서도 AI 환경을 구축하고 활용할 수 있도록 설계된 확장 가능한 오픈소스 AI 플랫폼입니다. 이 플랫폼은 Ollama 및 OpenAI API와 호환되는 모델 실행 환경을 제공하며, RAG(Retrieval-Augmented Generation) 기능을 통해 문서와의 상호작용이 가능합니다.

Open WebUI 사용 예시

특히 Docker와 Kubernetes를 사용하여 간단히 설치 및 실행할 수 있고, Markdown과 LaTeX 지원을 통해 더욱 직관적인 LLM 상호작용 환경을 제공합니다. 웹 기반이지만 PWA(Progressive Web App)를 지원하여 모바일에서도 네이티브 애플리케이션처럼 작동합니다. 오픈소스 프로젝트로, GitHub에서 코드 및 상세 문서를 확인할 수 있습니다.

Open WebUI의 주요 기능

손쉬운 설치: Docker 또는 Kubernetes(kubectl, kustomize, helm)를 사용하여 손쉽게 설치할 수 있습니다. :ollama 및 :cuda 태그가 지정된 이미지를 모두 지원하여 번거로움 없는 경험을 제공합니다.
Ollama/OpenAI API 통합: Ollama 모델과 함께 OpenAI 호환 API를 손쉽게 통합하여 다양한 대화를 구현할 수 있습니다. OpenAI API URL을 LMStudio, GroqCloud, Mistral, OpenRouter 등과 연결할 수 있도록 사용자 정의할 수 있습니다.
세부적인 권한 설정 및 사용자 그룹 관리: 관리자가 세부적인 사용자 역할 및 권한을 생성할 수 있어 안전한 사용자 환경을 보장합니다. 이러한 세분화는 보안을 강화할 뿐만 아니라 사용자 경험을 맞춤화하여 사용자 소속감과 책임감을 증진합니다.
반응형 디자인: 데스크톱 PC, 노트북 및 모바일 기기에서 매끄러운 사용자 경험을 제공합니다.
모바일용 PWA(Progressive WebApp): 모바일 기기에서 네이티브 앱과 같은 경험을 제공하는 PWA를 통해 로컬호스트에서 오프라인 접근이 가능하며, 원활한 사용자 인터페이스를 제공합니다.
Markdown 및 LaTeX 완전 지원: 풍부한 상호작용을 위한 종합적인 Markdown 및 LaTeX 기능으로 LLM(대규모 언어 모델) 경험을 향상합니다.
핸즈프리 음성/영상 통화: 핸즈프리 음성 및 영상 통화 기능을 통합하여 더 역동적이고 상호작용적인 채팅 환경을 제공합니다.
모델 빌더: 웹 UI를 통해 Ollama 모델을 쉽게 생성할 수 있습니다. 사용자 지정 캐릭터/에이전트를 생성하고 채팅 요소를 맞춤화하며, Open WebUI 커뮤니티 통합을 통해 모델을 간단히 가져오고 추가할 수 있습니다.
네이티브 Python 함수 호출 도구: 툴 작업공간 내 코드 편집기 지원을 통해 LLM 기능을 강화합니다. 순수 Python 함수를 간단히 추가하여 사용자의 Python 함수(BYOF, Bring Your Own Function)를 원활하게 통합할 수 있습니다.
로컬 RAG 통합: 획기적인 RAG(검색 증강 생성) 지원을 통해 채팅 상호작용의 미래를 탐험해 보세요. 문서를 채팅에 직접 로드하거나 문서 라이브러리에 파일을 추가한 뒤, 쿼리 전에 # 명령어를 사용하여 간편하게 접근할 수 있습니다.
RAG용 웹 검색: SearXNG, Google PSE, Brave Search, serpstack, serper, Serply, DuckDuckGo, TavilySearch, SearchApi, Bing과 같은 제공업체를 사용하여 웹 검색을 수행하고 결과를 채팅 경험에 직접 주입할 수 있습니다.
웹 브라우징 기능: 명령어 뒤에 URL을 입력하여 웹사이트를 채팅 경험에 통합합니다. 이를 통해 풍부하고 깊이 있는 상호작용을 위해 웹 콘텐츠를 대화에 바로 포함할 수 있습니다.
이미지 생성 통합: AUTOMATIC1111 API, ComfyUI(로컬), OpenAI의 DALL-E(외부)와 같은 옵션을 사용하여 이미지 생성 기능을 매끄럽게 통합하며, 역동적인 비주얼 콘텐츠로 채팅 경험을 풍부하게 만듭니다.
다중 모델 대화: 다양한 모델을 동시에 활용하여 각 모델의 고유한 강점을 활용하고 최적의 응답을 제공합니다. 다양한 모델을 병렬로 사용하여 경험을 향상합니다.
역할 기반 접근 제어(RBAC): 제한된 권한으로 보안을 보장합니다. Ollama에 접근할 수 있는 권한은 권한이 부여된 사용자로 제한되며, 모델 생성/가져오기 권한은 관리자에게만 부여됩니다.
다국어 지원: 국제화(i18n) 지원을 통해 선호하는 언어로 Open WebUI를 경험할 수 있습니다. 지원 언어를 확장하는 데 함께 참여해 주세요! 현재도 적극적으로 기여자를 찾고 있습니다.
파이프라인 및 Open WebUI 플러그인 지원: 파이프라인 플러그인 프레임워크를 사용하여 Open WebUI에 사용자 지정 로직 및 Python 라이브러리를 원활히 통합합니다. 파이프라인 인스턴스를 실행하고 OpenAI URL을 파이프라인 URL로 설정한 뒤, 무한한 가능성을 탐구해 보세요. 예로는 함수 호출, 사용자 사용률 제한, Langfuse 같은 도구를 활용한 사용 모니터링, LibreTranslate를 통한 실시간 번역 다국어 지원, 유해 메시지 필터링 등이 있습니다.
지속적인 업데이트: Open WebUI의 개선과 새로운 기능 추가, 문제 해결을 위해 정기적인 업데이트를 제공합니다.

라이선스

Open WebUI 프로젝트는 BSD-3항 라이선스로 공개된 오픈소스 프로젝트입니다.

OpenWebUI 홈페이지

OpenWebUI 공식 문서

OpenWebUI GitHub 저장소

https://github.com/open-webui/open-webui

이 글은 GPT 모델로 정리한 글을 바탕으로 한 것으로, 원문의 내용 또는 의도와 다르게 정리된 내용이 있을 수 있습니다. 관심있는 내용이시라면 원문도 함께 참고해주세요! 읽으시면서 어색하거나 잘못된 내용을 발견하시면 덧글로 알려주시기를 부탁드립니다.

파이토치 한국 사용자 모임이 정리한 이 글이 유용하셨나요? 회원으로 가입하시면 주요 글들을 이메일로 보내드립니다! (기본은 Weekly지만 Daily로 변경도 가능합니다.)

아래쪽에 좋아요를 눌러주시면 새로운 소식들을 정리하고 공유하는데 힘이 됩니다~