本地部署Ollama+qwen本地大语言模型Web交互界面

什么是 Ollama WebUI?

Ollama WebUI 已经更名为 Open WebUI. Open WebUI 是一个可扩展、功能丰富且用户友好的自托管 WebUI,旨在完全离线操作。它支持各种 LLM 运行程序,包括 Ollama 和 OpenAI 兼容的 API。

Ollama WebUI 是一个革命性的 LLM 本地部署框架,具有类似 ChatGPT 的 Web 界面。让我们为您的 Ollama 部署的 LLM 提供类似 ChatGPT Web UI 的界面,只需按照以下 5 个步骤开始行动吧。

安装和使用 Ollama Web UI 的 5 个步骤

在 Windows 计算机上深入研究 Ollama 和 Ollama WebUI 是进入人工智能和机器学习世界的激动人心的旅程。本详细指南将引导您完成每个步骤并提供示例以确保顺利启动。

第 1 步 - 安装 Ollama

Ollama下载地址:https://ollama.com/download

可以从以下网站查看安装方法,我是选择linux安装版本。

快速入门 - Ollama中文网

第 2 步 - 安装 Ollama WebUI

运行以下 docker 命令以在本地计算机上部署 llama-webui docker 容器。如果您的计算机上有 Ollama,请使用以下命令:

docker run -d -p 1158

第 3 步 - 登录打开 WebUI

安装完成后,您可以通过http://localhost:3000访问Open WebUI。第一次您需要点击“注册”进行注册。

sign in to open webui

:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

要连接到另一台服务器上的 Ollama,请将 OLLAMA_BASE_URL 更改为服务器的 URL。因此,如果 Ollama 在不同的服务器上,请使用以下命令:

docker run -d -p 1158:8080 \
-e OLLAMA_BASE_URL=http://192.168.0.1:11434 \
-v open-webui:/app/backend/data \
--name open-webui \
--restart always 
ghcr.io/open-webui/open-webui:main
  •  docker run: 启动一个新的 Docker 容器
  • -d: 以守护进程模式运行容器,容器将在后台运行。
  • -p 3000:8080: 将本地机器的端口 3000 映射到容器内的端口 8080。这意味着你可以通过访问 http://localhost:3000 来访问运行在容器内的服务。
  • --add-host=host.docker.internal:host-gateway: 将主机名 host.docker.internal 映射到 Docker 网关。这对于在容器内访问主机服务很有用。
  • -v open-webui:/app/backend/data: 将本地的 open-webui 卷映射到容器内的 /app/backend/data 目录。这用于持久化数据,确保即使容器停止或重新启动,数据也不会丢失。
  • --name open-webui: 为容器指定一个名称 open-webui,以便于管理和识别。
  • --restart always: 设置容器的重启策略为 always,这意味着容器如果停止(例如由于崩溃或系统重启),Docker 会自动重启它。
  • ghcr.io/open-webui/open-webui:main: 使用来自 GitHub 容器注册表(GitHub Container Registry)的 open-webui 镜像,并指定使用 main 标签的版本。

 注意:使用 Docker 安装 Open WebUI 时,请确保在 Docker 命令中包含 -v open-webui:/app/backend/data。此步骤至关重要,因为它确保您的数据库正确安装并防止任何数据丢失。

第 3 步 - 登录打开 WebUI

安装完成后,您可以通过http://localhost:3000访问Open WebUI。第一次您需要点击“注册”进行注册。

sign in to open webui

相关推荐

  1. 语言模型本地化部署思路

    2024-06-18 16:10:04       13 阅读
  2. 【一】Mac 本地部署模型

    2024-06-18 16:10:04       14 阅读

最近更新

  1. TCP协议是安全的吗?

    2024-06-18 16:10:04       16 阅读
  2. 阿里云服务器执行yum,一直下载docker-ce-stable失败

    2024-06-18 16:10:04       16 阅读
  3. 【Python教程】压缩PDF文件大小

    2024-06-18 16:10:04       15 阅读
  4. 通过文章id递归查询所有评论(xml)

    2024-06-18 16:10:04       18 阅读

热门阅读

  1. 医疗图像中的图像语义理解

    2024-06-18 16:10:04       6 阅读
  2. Docker 仓库管理

    2024-06-18 16:10:04       5 阅读
  3. HTML|02HTML标签

    2024-06-18 16:10:04       8 阅读
  4. 通用大模型VS垂直大模型对比

    2024-06-18 16:10:04       6 阅读
  5. 206. 反转链表

    2024-06-18 16:10:04       7 阅读
  6. 编程旋转代码怎么编程:深入探索与实用指南

    2024-06-18 16:10:04       6 阅读
  7. 43.139.152.26 P2315 分数计算

    2024-06-18 16:10:04       6 阅读