谷歌Gemma大模型部署记录

谷歌Gemma大模型部署记录

配置信息

1.系统:Ubuntu20
2.显卡:RTX3060 6G

一、安装Ollama

官网地址:https://ollama.com/download/linux
在这里插入图片描述
按照指令安装

curl -fsSL https://ollama.com/install.sh | sh

在这里插入图片描述

二、运行模型

输入指令:

ollama run gemma:2b

在这里插入图片描述

可选模型
在这里插入图片描述

三、chatBox调用Gemma模型

1.安装chatBox软件
安装包地址:https://github.com/Bin-Huang/chatbox
在git的Releases中下载对应系统版本的安装包。

2.配置Gemma模型
在chatBox软件中,配置Gemma模型
在这里插入图片描述
3.测试效果
在这里插入图片描述

相关推荐

最近更新

  1. TCP协议是安全的吗?

    2024-03-21 16:00:03       14 阅读
  2. 阿里云服务器执行yum,一直下载docker-ce-stable失败

    2024-03-21 16:00:03       16 阅读
  3. 【Python教程】压缩PDF文件大小

    2024-03-21 16:00:03       15 阅读
  4. 通过文章id递归查询所有评论(xml)

    2024-03-21 16:00:03       18 阅读

热门阅读

  1. Rust字符串深入理解

    2024-03-21 16:00:03       14 阅读
  2. go语言请求http接口示例 并解析json

    2024-03-21 16:00:03       18 阅读
  3. 如何使用PL/SQL工具批量导出表、存储过程、序列

    2024-03-21 16:00:03       19 阅读
  4. Go 利用上下文进行并发计算

    2024-03-21 16:00:03       18 阅读
  5. 使用Go Validator在Go应用中有效验证数据

    2024-03-21 16:00:03       15 阅读
  6. 做好自己,顺应时代

    2024-03-21 16:00:03       19 阅读
  7. jvm相关

    2024-03-21 16:00:03       17 阅读
  8. Linux生产者消费者模型(简易版)

    2024-03-21 16:00:03       19 阅读