大模型学习之书生·浦语大模型1——全链路开源体系

  • 开发
  • 32

在这里插入图片描述

书生·浦语大模型全链路开源体系

在这里插入图片描述
大模型成为热门关键词
在这里插入图片描述
大模型成为发展通用人工智能的重要途径，未来是使用一个模型应对多种任务，多种模态。

书生·浦语大模型开源历程

在这里插入图片描述
在这里插入图片描述

  • InternLM-7B
  • InternLM-20B
  • InternLM-123B

在这里插入图片描述
性能达到LIama2-70B水平

从模型到应用

在这里插入图片描述
在这里插入图片描述

  • 模型选型，不同维度上不同业务上的能力
  • 业务场景是否复杂，非常复杂的话直接开源模型可能不能满足需求
  • 是否算力足够，如果足够可以进行续训练，或者全参数微调，如果不够就只能微调
  • 业务场景是否需要与环境交互，是否需要调用外部API或者数据库，构建智能体
  • 模型评测
  • 模型部署

全链条开源开放体系

在这里插入图片描述

  • 数据：书生万卷
  • 预训练：InternLM-train
  • 微调：XTuner
  • 部署：LMDeploy
  • 评测：OpenCompass
  • 应用：Lagent AgentLego

数据

在这里插入图片描述
在这里插入图片描述

  • OpenDataLab
  • 5400+数据集
  • 30+模态
  • 80TB数据大小

预训练

在这里插入图片描述

微调

在这里插入图片描述
在这里插入图片描述

  • XTuner
  • 兼容不同算法
  • 兼容不同生态模型和数据集
  • 自动化优化加速

在这里插入图片描述

评测

在这里插入图片描述
在这里插入图片描述

  • OpenCompass
  • 6大维度
  • 80+评测集
  • 40w+评测题目
    在这里插入图片描述
    在这里插入图片描述
  • 丰富的模型支持
  • 分布式高效评测
  • 便捷的数据集接口
  • 敏捷的迭代能力

在这里插入图片描述

  • 丰富的模型支持

部署

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

智能体

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

总结

在这里插入图片描述

阅读全部

相关推荐

最近更新

  4. TCP协议是安全的吗?

    2024-01-06 03:32:02       18 阅读

  12. 阿里云服务器执行yum，一直下载docker-ce-stable失败

    2024-01-06 03:32:02       19 阅读

  13. 【Python教程】压缩PDF文件大小

    2024-01-06 03:32:02       18 阅读

  18. 通过文章id递归查询所有评论（xml）

    2024-01-06 03:32:02       20 阅读

热门阅读

  1. 最大似然与交叉熵之间的关系以及互相推导过程

    2024-01-06 03:32:02       37 阅读

  6. 测试：常见的虚拟机命令

    2024-01-06 03:32:02       29 阅读

  7. OpenCV-Python(28):基于GrabCut 算法交互式前景提取

    2024-01-06 03:32:02       40 阅读

  10. 宝塔安装的imagemagick不能用，必须自己手动安装

    2024-01-06 03:32:02       43 阅读

  12. 企业怎么打造私域转化闭环?

    2024-01-06 03:32:02       40 阅读

  13. CodeBus投稿落选代码——瓦片地图粗糙版 记录

    2024-01-06 03:32:02       41 阅读

  22. 【学习记录】找最低位1/模块多次例化

    2024-01-06 03:32:02       40 阅读

  23. 《微信小程序开发从入门到实战》学习七十二

    2024-01-06 03:32:02       35 阅读

  27. 机器学习中的概念 张量、标量、向量、矩阵等数据结构的区别

    2024-01-06 03:32:02       38 阅读

  30. Unity组件开发--事件管理器

    2024-01-06 03:32:02       35 阅读