大模型学习之书生·浦语大模型2——趣味Demo

2024-01-08 01:02:02
开发
57

文章目录

Demo效果

在这里插入图片描述

大模型及InternLM模型介绍

在这里插入图片描述

InterLM是开源的轻量级训练框架
- InterLM-7B
- InterLM-20B

Lagent是智能体框架
浦语·灵笔是视觉·语言大模型

InterLM-Chat-7B智能对话Demo

在这里插入图片描述

InterLM-7B
- 70亿参数
- 数万亿token进行训练
- 支持8K token

在这里插入图片描述

Lagent智能体工具调用Demo

在这里插入图片描述

浦语·灵笔图文创作理解Demo

在这里插入图片描述

图文理解
创作能力
海量多模态数据
对话能力

在这里插入图片描述

通用环境配置

在这里插入图片描述

pip镜像源
conda镜像源

在这里插入图片描述

模型下载
- huggface
- openXlab
- modelscope

实践

智能对话Demo

1 创建开发机

在这里插入图片描述

2 进入开发机并创建环境及安装依赖

在这里插入图片描述

3 模型下载

在这里插入图片描述

4 代码准备

在这里插入图片描述

修改web_demo.py模型文件路径

5 终端运行

在这里插入图片描述

新建cli_demo.py
bash切换到虚拟环境后再运行

在这里插入图片描述

6 web demo运行

先配置本地端口
将rsa-key填到开发机配置那块
然后再在终端运行

Lagent智能体工具调用Demo

1 环境安装

与上一个demo类似
在这里插入图片描述

2 模型下载

与之前的类似

3 Lagent安装

在这里插入图片描述
使用源码安装

4 修改代码

在这里插入图片描述

整个替换
主要是修改模型文件

5 demo运行

在这里插入图片描述

选择internlm后等待加载模型，并选择相应的插件
然后开始提问

浦语·灵笔图文理解创作Demo

机器GPU需要升级大内存

1 环境安装

在这里插入图片描述

机器需要40g，可以升级配置，或者新建开发机

2 创建虚拟环境

在这里插入图片描述

pip安装依赖

pip install transformers==4.33.1 timm==0.4.12 sentencepiece==0.1.99 gradio==3.44.4 markdown2==2.4.10 xlsxwriter==3.1.2 einops accelerate

3 模型下载

在这里插入图片描述

多模态模型 InterLM-XComposer

4 代码准备

在这里插入图片描述

5 终端运行Demo

在这里插入图片描述

需要根据自己实际情况将GPU参数进行修改
加载vit模型比较耗时

在这里插入图片描述
若出现乱码，请进行更新代码

demo.launch(share=True, server_name="0.0.0.0", server_port=args.port, root_path=f'/proxy/{
     args.port}/')

在这里插入图片描述

自动写文章
自动配图并插图
可以替换图片或者增加图片
可以将文章进行保存，markdown的格式
最上面是一些参数配置

在这里插入图片描述
多模态对话，问图片里的内容相关。

在这里插入图片描述

书名并不对，存在幻觉问题。

参考

https://github.com/InternLM/tutorial/blob/main/helloworld/hello_world.md

原文地址:https://blog.csdn.net/uncle_ll/article/details/135440530 本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：https://www.suanlizi.com/kf/1744041712608743424.html 如若内容造成侵权/违法违规/事实不符，请联系《酸梨子》网邮箱：1419361763@qq.com进行投诉反馈，一经查实，立即删除！

阅读全部