书生·浦语大模型实战营笔记(三)

RAG:检索增强生成

外挂知识库,对用户的问题首先从知识库中找到相关回答,再把问题和回答交给大模型,可以提高知识储备
特点:可实时更新,新知识只要放到知识库中即可,较简单

Finetune:微调

对于新的数据集,使用预训练数据集进行微调来符合新数据集
特点:个性化微调效果好,需要重新训练,无法实时更新,训练成本高
在这里插入图片描述

开源框架LangChain可以实现RAG

1)数据库构建:加载源文件,转化为无格式字符串
2)文档分块
3)文档向量化

RAG优化建议:

检索方面:基于语义分割
prompt方面:迭代优化策略

相关推荐

  1. 书生·模型实战】学习笔记目录

    2024-01-12 11:42:03       32 阅读

最近更新

  1. TCP协议是安全的吗?

    2024-01-12 11:42:03       18 阅读
  2. 阿里云服务器执行yum,一直下载docker-ce-stable失败

    2024-01-12 11:42:03       19 阅读
  3. 【Python教程】压缩PDF文件大小

    2024-01-12 11:42:03       18 阅读
  4. 通过文章id递归查询所有评论(xml)

    2024-01-12 11:42:03       20 阅读

热门阅读

  1. Python基础(二十六、封装、继承)

    2024-01-12 11:42:03       34 阅读
  2. springcloud gateway动态路由

    2024-01-12 11:42:03       39 阅读
  3. windows编译的rpm下载后配置文件格式转换

    2024-01-12 11:42:03       42 阅读
  4. 设计模式的艺术P1基础—2.1 uml概述

    2024-01-12 11:42:03       31 阅读
  5. Cocoapad安装和依赖添加

    2024-01-12 11:42:03       29 阅读
  6. 【Python】如何实现交叉匹配后去重

    2024-01-12 11:42:03       36 阅读
  7. 二级C语言备考3

    2024-01-12 11:42:03       22 阅读
  8. ubuntu主机开启ssh服务,ubuntu通过ssh访问主机

    2024-01-12 11:42:03       38 阅读
  9. Vue-cli

    2024-01-12 11:42:03       37 阅读
  10. Spring Boot Starter介绍和实战

    2024-01-12 11:42:03       29 阅读