部署大语言模型并对话

随着人工智能技术的飞速发展,大语言模型(Large Language Models, LLMs)因其强大的语言理解和生成能力而备受关注。OpenWebUI ,原名 Ollama WebUI ,是一款专为大语言模型(LLM)设计的先进 Web 交互界面工具,支持多种LLM运行器,可实现完全离线运行以及容器化部署,用户可以通过简单的配置和命令,轻松将 OpenWebUI 集成到自己的系统中。 函数计算基于 Serverless 应用中心开发“ Ollama 应用模版 ",简化开发者的部署流程。

在阿里云的https://developer.aliyun.com/adc/scenario/b105013328814fe995c0f091d708d67d

一、选择函数计算 

【应用】->【创建应用】

二、这个选择ollama模型

 三、设置服务器配置

注意:创建应用这些是不花钱的,使用的时候会根据你选的配置进行计费的

四、记住这个公网地址,后面会用到 

复制公网地址 这个地址不能直接

五、返回在次创建应用Open WebUI

在返回应用,创建应用LLM 对话页面 Open WebUI

六、输入上面应用的网址

点击下面的创建应用

七、部署完成后访问域名

八、打开访问地址

相关推荐

  1. 语言模型本地化部署思路

    2024-07-13 16:06:04       31 阅读
  2. 使用vllIm部署语言模型

    2024-07-13 16:06:04       23 阅读

最近更新

  1. docker php8.1+nginx base 镜像 dockerfile 配置

    2024-07-13 16:06:04       67 阅读
  2. Could not load dynamic library ‘cudart64_100.dll‘

    2024-07-13 16:06:04       72 阅读
  3. 在Django里面运行非项目文件

    2024-07-13 16:06:04       58 阅读
  4. Python语言-面向对象

    2024-07-13 16:06:04       69 阅读

热门阅读

  1. uni-app 蓝牙传输

    2024-07-13 16:06:04       19 阅读
  2. termux 安装 rockylinux

    2024-07-13 16:06:04       22 阅读
  3. 阿里云通义千

    2024-07-13 16:06:04       21 阅读
  4. 前端实现PDF文件打印和下载

    2024-07-13 16:06:04       19 阅读
  5. docker 安装orcale11数据库

    2024-07-13 16:06:04       21 阅读
  6. 缓冲区共享和同步dma_buf 之二

    2024-07-13 16:06:04       20 阅读
  7. Kylin的优缺点

    2024-07-13 16:06:04       19 阅读
  8. 【C语言】头文件命名详解 - 《铁头无敌 ! 》

    2024-07-13 16:06:04       21 阅读
  9. express

    express

    2024-07-13 16:06:04      20 阅读
  10. 【笔记】修改centos7过期的官方镜像资源

    2024-07-13 16:06:04       22 阅读