ollama与open-webui简单使用案例

参考:
https://github.com/ollama/ollama
https://github.com/open-webui/open-webui

ollama最为大模型后端服务
open-webui前端聊天页面

ollama直接下载客服端安装win cpu安装推理;open-webui使用docker安装

1、ollama

安装好后可以直接运行,cpu使用不稳定比较慢

ollama run qwen:1.8b

具体可下载模型列表:https://ollama.com/library
在这里插入图片描述

2、open-webui

本地安装ollama运行后可以使用下面运行

docker run -d -p 3000:8080 --add

相关推荐

  1. open-webuiollama的部署最后完整之命令

    2024-04-13 15:16:02       33 阅读
  2. ollama集成open-webui本地部署大模型应用

    2024-04-13 15:16:02       28 阅读
  3. Ollama+Open WebUI部署大模型在linux平台

    2024-04-13 15:16:02       36 阅读

最近更新

  1. docker php8.1+nginx base 镜像 dockerfile 配置

    2024-04-13 15:16:02       98 阅读
  2. Could not load dynamic library ‘cudart64_100.dll‘

    2024-04-13 15:16:02       106 阅读
  3. 在Django里面运行非项目文件

    2024-04-13 15:16:02       87 阅读
  4. Python语言-面向对象

    2024-04-13 15:16:02       96 阅读

热门阅读

  1. 使用element-plus中的表单验证

    2024-04-13 15:16:02       43 阅读
  2. 数据结构——概念基础

    2024-04-13 15:16:02       36 阅读
  3. docker 简单使用

    2024-04-13 15:16:02       41 阅读
  4. Redis宕机数据恢复指南

    2024-04-13 15:16:02       36 阅读
  5. NLP核心技术学习之(一)文本预处理

    2024-04-13 15:16:02       37 阅读
  6. lspci 命令不能使用,请安装 pciutils

    2024-04-13 15:16:02       33 阅读
  7. 先过我这一关 - signal

    2024-04-13 15:16:02       36 阅读
  8. 埃及筛---获取一定范围内的所有素数

    2024-04-13 15:16:02       31 阅读
  9. Vue 3 + Vite项目实战:常见问题与解决方案全解析

    2024-04-13 15:16:02       35 阅读
  10. 【八股】MySQL

    2024-04-13 15:16:02       36 阅读