为了更轻松地构建和部署基于 LLM 的智能应用,Open WebUI 提供了一套强大的 API 接口。本文将介绍 Open WebUI API 的主要特点、最新版本的功能更新以及如何利用它来提升您的项目,并阐释如何使用API 易平台以获得更好的技术支持和服务。

什么是 Open WebUI API?

Open WebUI API 是一个专门为大型语言模型设计的 RESTful API 接口,旨在为开发者提供便捷的本地部署和操作界面。它最初是 Ollama 的 Web 界面,后来独立成为一个单独的项目,并兼容 OpenAI 的 API 格式。通过 Open WebUI API,开发者可以在本地环境中轻松使用和测试各种 LLM 模型,同时享受其提供的丰富交互和管理功能。

主要功能亮点

  1. 多模型支持:支持多种 LLM 运行器,包括 Ollama 和 OpenAI 兼容的 API。
  2. 自定义构建新模型:允许用户通过 WebUI 自定义构建新的模型,并管理知识库、工具和函数。
  3. RAG 集成:基于 RAG(Retrieval-Augmented Generation)的网络检索功能,增强对话系统的上下文理解和信息获取能力。
  4. Markdown 和 LaTeX 支持:支持完整的 Markdown 和 LaTeX 格式,特别适合学术和技术写作场景。
  5. 语音输入和图像生成:集成外部 API 如 AUTOMATIC1111 和 DALL-E,支持语音输入和图像生成功能。
  6. 多模态支持:支持多模态输入,如图像处理和多模型对话。
  7. 基于角色的访问控制(RBAC):提供安全性和系统稳定性。
  8. 多语言支持:支持国际化(i18n),满足全球用户的多样化需求。

最新版本及改进

Open WebUI API 的最新版本是 v0.4.8,发布于 2024 年 12 月 7 日。这个版本引入了多项新功能和修复,旨在提升用户体验和系统性能。以下是该版本的主要更新内容:

新增功能

  • 解锁模型访问控制:引入了 BYPASS_MODEL_ACCESS_CONTROL 环境变量,允许在不需要访问控制的情况下轻松绕过用户角色的模型访问控制,简化信任环境中的工作流程。
  • 横幅中的 Markdown 支持:现在支持在横幅中使用 Markdown,使公告更加丰富和引人注目。
  • 国际化更新:增强了多语言翻译,进一步改善了全球用户的可用性和体验。
  • 样式增强:对用户界面进行了整体样式优化,提供更清晰、更精致的界面。
  • 富文本输入的可靠性:提高了聊天中富文本输入的可靠性和稳定性,确保更流畅的交互体验。

修复内容

  • 查询生成问题:解决了 Web 搜索查询生成中的错误,提高了搜索准确性。
  • 文本区域自动高度问题:修复了文本区域输入高度不稳定的问题,特别是在编辑系统提示时。
  • Ollama 身份验证问题:修正了与 Ollama 的授权头相关的问题,确保所有端点的可靠身份验证。
  • 缺失的 Min_P 保存问题:解决了未能在配置中保存 min_p 参数的问题。
  • 工具描述缺失问题:修复了工具有效载荷中遗漏工具描述的问题。

如何开始使用 Open WebUI API?

要在 API 易这种 API 中转站平台上使用 Open WebUI,可以按照以下步骤进行:

1. 安装 Open WebUI

确保使用 Python 3.11,以避免兼容性问题。安装命令如下:

pip install open-webui

安装完成后,启动 Open WebUI 服务器:

open-webui serve

访问 http://localhost:8080 即可看到 Open WebUI 的界面。

2. 配置 API 接口

在 Open WebUI 中,需要配置 API 接口地址。无论是使用 OpenAI 官方接口还是第三方中转站的接口,都需要在管理员面板中分别设置接口地址。

如果使用 API 易平台,首先需要注册并获取 API Key。然后在 Open WebUI 的设置中,将 OpenAI 的原始 API URL 替换为 API 易提供的中转地址,并使用在 API 易生成的令牌(API Key)。

3. 连接到 API 易平台

访问 API 易平台 进行注册和获取 API Key。

在 Open WebUI 中,将 OPENAI_API_KEY 设置为从 API 易平台获取的 Key。

设置好接口地址后,保存配置并测试连接是否成功。

4. 使用 Open WebUI 进行交互

在 Open WebUI 中,你可以选择不同的模型进行对话或任务处理。例如,可以选择 Ollama 或其他兼容 OpenAI API 的模型。

通过 Open WebUI 的图形化界面,可以方便地管理和操作各种 AI 模型,而无需编写代码或使用命令行。

总得来说,Open WebUI API 是一个功能强大且灵活的工具,适合用户用于测试和部署本地 AI 模型,同时提供丰富的交互和管理功能。通过注册 API 易平台,您可以获得更好的技术支持和服务,确保项目的顺利进行。如果在使用过程中遇到任何问题,可以随时联系API易的技术支持团队(林兄API微信WeChat:8765058)获取帮助。他们将为您提供专业的指导和支持,确保您的项目顺利推进。

附录

Open WebUI 的GitHub 链接:https://github.com/open-webui/open-webui 

 

类似文章