OA0
OA0 是一个探索 AI 的社区
现在注册
已注册用户请  登录
OA0  ›  代码  ›  Ollama WebUI — 为本地模型运行提供简洁可用的交互层

Ollama WebUI — 为本地模型运行提供简洁可用的交互层

 
  block ·  2026-06-10 11:00:24 · 28 次点击  · 0 条评论  

Open WebUI 👋

GitHub stars
GitHub forks
GitHub watchers
GitHub repo size
GitHub language count
GitHub top language
GitHub last commit
Discord

Open WebUI Banner

Open WebUI 是一个可扩展的、功能丰富且用户友好的自托管AI平台,设计为完全离线运行。 它支持多种LLM运行时,如 OllamaOpenAI兼容API,并具备内置推理引擎用于RAG,是强大的AI部署解决方案

热爱开源AI?加入我们的团队 →

Open WebUI Demo

[!TIP]
正在寻找企业版计划立即联系我们的销售团队!

获取增强功能,包括自定义主题和品牌服务等级协议(SLA)支持长期支持(LTS)版本等!

更多信息,请查看我们的Open WebUI文档

Open WebUI 主要功能 ⭐

  • 🚀 轻松安装:使用Docker或Kubernetes(kubectl、kustomize或helm)无缝安装,支持 :ollama:cuda 标签镜像。
  • 🤝 Ollama/OpenAI API集成:轻松集成OpenAI兼容API,与Ollama模型一起实现多样化对话。可自定义OpenAI API URL以连接 LMStudio、GroqCloud、Mistral、OpenRouter等。
  • 🛡️ 精细权限和用户组:管理员可创建详细的用户角色和权限,确保安全的用户环境,同时提供个性化用户体验。
  • 📱 响应式设计:在台式电脑、笔记本和移动设备上享有流畅体验。
  • 📱 移动端渐进式Web应用(PWA):通过PWA在移动设备上获得类似原生应用体验,支持本地离线访问和流畅用户界面。
  • ✒️🔢 完整Markdown和LaTeX支持:通过全面的Markdown和LaTeX功能提升LLM交互体验。
  • 🎤📹 免提语音/视频通话:利用多种语音转文本提供商(本地Whisper、OpenAI、Deepgram、Azure)和文本转语音引擎(Azure、ElevenLabs、OpenAI、Transformers、WebAPI)实现免提语音和视频通话功能,营造动态互动聊天环境。
  • 🛠️ 模型构建器:通过Web UI轻松创建Ollama模型。创建并添加自定义角色/代理、自定义聊天元素,并通过Open WebUI社区集成轻松导入模型。
  • 🐍 原生Python函数调用工具:在工具工作区中通过内置代码编辑器支持,增强LLM功能。只需添加纯Python函数即可实现与LLM的无缝集成。
  • 💾 持久化制品存储:内置制品键值存储API,支持日志、追踪器、排行榜和协作工具等,跨会话支持个人和共享数据范围。
  • 📚 本地RAG集成:利用9种向量数据库和多种内容提取引擎(Tika、Docling、Document Intelligence、Mistral OCR、PaddleOCR-vl、外部加载器),在聊天中直接加载文档或添加文件到文档库,通过查询前的 # 命令轻松访问。
  • 🔍 RAG网络搜索:使用15+家提供商(包括 SearXNGGoogle PSEBrave SearchKagiMojeekTavilyPerplexityserpstackserperSerplyDuckDuckGoSearchApiSerpApiBingJinaExaSougouAzure AI SearchOllama Cloud)进行网络搜索,将结果直接注入聊天体验。
  • 🌐 网页浏览能力:通过 # 命令后跟URL,将网站无缝集成到聊天体验中,增强交互丰富性和深度。
  • 🎨 图像生成与编辑集成:使用多个引擎(包括OpenAI的DALL-E、Gemini、ComfyUI(本地)、AUTOMATIC1111(本地))创建和编辑图像,支持生成和基于提示的编辑工作流。
  • ⚙️ 多模型对话:同时与多种模型互动,利用其独特优势获得最佳响应。
  • 🔐 基于角色的访问控制(RBAC):通过受限权限确保安全访问,仅授权人员可访问Ollama,管理员拥有独占的模型创建/拉取权限。
  • 🗄️ 灵活数据库和存储选项:选择SQLite(可选加密)、PostgreSQL,或配置云存储后端(S3、Google Cloud Storage、Azure Blob Storage)实现可扩展部署。
  • 🔍 高级向量数据库支持:从10种向量数据库选项中选择,包括ChromaDB、PGVector、Qdrant、Milvus、Elasticsearch、OpenSearch、Pinecone、S3Vector和Oracle 23ai,实现最佳RAG性能。
  • 🔐 企业级认证:完全支持LDAP/Active Directory集成、SCIM 2.0自动配置、通过可信头部和OAuth提供商的SSO。通过SCIM 2.0协议实现企业级用户和组配置,与Okta、Azure AD和Google Workspace等身份提供商无缝集成,实现自动用户生命周期管理。
  • ☁️ 云原生集成:原生支持Google Drive和OneDrive/SharePoint文件选择,实现企业云存储文档无缝导入。
  • 📊 生产可观测性:内置OpenTelemetry支持追踪、指标和日志,可与现有可观测性堆栈实现全面监控。
  • ⚖️ 水平可扩展性:基于Redis的会话管理和WebSocket支持,可在负载均衡器后实现多工作节点和多节点部署。
  • 🌐🌍 多语言支持:通过国际化(i18n)支持,以您偏好的语言体验Open WebUI。欢迎加入扩展支持语言的行列!我们正在积极寻找贡献者!
  • 🧩 Pipelines、Open WebUI插件支持:使用Pipelines插件框架将自定义逻辑和Python库无缝集成到Open WebUI。启动Pipelines实例,将OpenAI URL设置为Pipelines URL,探索无限可能。示例包括函数调用、用户速率限制以控制访问、使用Langfuse等工具的使用监控、使用LibreTranslate的实时翻译以实现多语言支持、有毒消息过滤等等。
  • 🌟 持续更新:我们致力于通过定期更新、修复和新功能改进Open WebUI。

想了解更多Open WebUI的功能?查看我们的Open WebUI文档获取全面概述!


我们衷心感谢赞助商的慷慨支持。他们的贡献帮助我们维护和改进项目,确保能持续为社区提供高质量工作。谢谢!

如何安装 🚀

通过Python pip安装 🐍

Open WebUI可通过Python包管理器pip安装。请确保使用 Python 3.11 以避免兼容性问题。

  1. 安装Open WebUI
    打开终端并运行以下命令安装Open WebUI:

bash pip install open-webui

  1. 运行Open WebUI
    安装后,可通过以下命令启动Open WebUI:

bash open-webui serve

这将启动Open WebUI服务器,您可以在 http://localhost:8080 访问。

使用Docker快速启动 🐳

[!NOTE]
请注意,某些Docker环境可能需要额外配置。如果遇到连接问题,我们的Open WebUI文档将提供帮助。

[!WARNING]
使用Docker安装Open WebUI时,请确保在Docker命令中包含 -v open-webui:/app/backend/data。这一步至关重要,可确保数据库正确挂载并防止数据丢失。

[!TIP]
如果希望使用包含Ollama或CUDA加速的Open WebUI,推荐使用带有 :cuda:ollama 标签的官方镜像。要启用CUDA,必须在Linux/WSL系统上安装 Nvidia CUDA容器工具包

默认配置安装

  • 如果Ollama在您的计算机上,使用此命令:

bash docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

  • 如果Ollama在另一台服务器上,使用此命令:

要连接到另一台服务器上的Ollama,将 OLLAMA_BASE_URL 改为服务器URL:

bash docker run -d -p 3000:8080 -e OLLAMA_BASE_URL=https://example.com -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

  • 使用Nvidia GPU支持运行Open WebUI,使用此命令:

bash docker run -d -p 3000:8080 --gpus all --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:cuda

仅用于OpenAI API的安装

  • 如果仅使用OpenAI API,使用此命令:

bash docker run -d -p 3000:8080 -e OPENAI_API_KEY=your_secret_key -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

安装包含捆绑Ollama支持的Open WebUI

此安装方法使用包含Open WebUI和Ollama的单个容器镜像,通过单个命令实现简化设置。根据硬件设置选择适当命令:

  • 带GPU支持
    通过运行以下命令利用GPU资源:

bash docker run -d -p 3000:8080 --gpus=all -v ollama:/root/.ollama -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:ollama

  • 仅CPU
    如果不使用GPU,使用此命令:

bash docker run -d -p 3000:8080 -v ollama:/root/.ollama -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:ollama

两个命令都提供内置、无麻烦的Open WebUI和Ollama安装,确保可快速启动运行。

安装后,您可以在 http://localhost:3000 访问Open WebUI。享受吧!😄

其他安装方法

我们提供多种安装替代方案,包括非Docker原生安装方法、Docker Compose、Kustomize和Helm。访问我们的Open WebUI文档或加入我们的Discord社区获取全面指导。

故障排除

遇到连接问题?我们的Open WebUI文档已为您解决。如需进一步帮助并加入我们的活跃社区,请访问Open WebUI Discord

Open WebUI:服务器连接错误

如果遇到连接问题,通常是因为WebUI Docker容器无法到达容器内的Ollama服务器(127.0.0.1:11434或host.docker.internal:11434)。在docker命令中使用 --network=host 标志可解决此问题。注意端口从3000变为8080,链接变为:http://localhost:8080

示例Docker命令

docker run -d --network=host -v open-webui:/app/backend/data -e OLLAMA_BASE_URL=http://127.0.0.1:11434 --name open-webui --restart always ghcr.io/open-webui/open-webui:main

保持Docker安装最新

请查看Open WebUI文档中的更新指南。

使用开发分支 🌙

[!WARNING]
:dev 分支包含最新的不稳定功能和变更。使用风险自负,可能包含错误或不完整功能。

如果想尝试最新的前沿功能并能接受偶尔的不稳定性,可以使用 :dev 标签,如下所示:

docker run -d -p 3000:8080 -v open-webui:/app/backend/data --name open-webui --add-host=host.docker.internal:host-gateway --restart always ghcr.io/open-webui/open-webui:dev

离线模式

如果在离线环境中运行Open WebUI,可将 HF_HUB_OFFLINE 环境变量设置为 1,以防止尝试从互联网下载模型。

export HF_HUB_OFFLINE=1

下一步是什么?🌟

在我们的Open WebUI文档中查看路线图上的即将推出的功能。

许可证 📜

本项目包含多种许可证下的代码。当前代码库包含根据Open WebUI许可证(需保留"Open WebUI"品牌)授权的组件,以及根据各自原始许可证授权的先前贡献。有关许可证更改的详细记录和各代码部分的适用条款,请参阅 LICENSE_HISTORY。如需完整和更新的许可证详情,请查看 LICENSELICENSE_HISTORY 文件。

支持 💬

如有任何问题、建议或需要帮助,请开启issue或加入我们的Open WebUI Discord社区联系我们!🤝

Star历史





Star History Chart


Timothy Jaeryang Baek 创建 - 让我们一起让Open WebUI更加出色!💪

28 次点击  ∙  0 人收藏  
登录后收藏  
0 条回复
关于 ·  帮助 ·  PING ·  隐私 ·  条款   
OA0 - Omni AI 0 一个探索 AI 的社区
沪ICP备2024103595号-2
耗时 23 ms
Developed with Cursor