课程亮点
1.涵盖大模型prompt、RAG、LangChain、Fine-Turning、多模态、视觉生成等主流开源大模型技术
2.OpenAl开源大模型、昇腾大模型产品丝滑融合
3.从大模型产品开发到商业闭环到产品运营一站式打造大模型高级解决方案架构师
4.金牌讲师团队+昇腾计算一线专家倾力交付
5.岗位年薪30W+，打造超一流就业薪资
6.送价值2000元昇腾系列高性能训练服务器实验环境
HCIE-AI Solution Architect课程简介
详细介绍大模型数据工程、大模型算法架构、传统模型、大模型协同应用、模型选型与迁移、MindFormers、大模型微调、大模型安全治理、大模型压缩与部署、大模型实验，共计80 课时。
第一节：大模型数据工程 - （6 课时）
- LLMs 训练数据及预处理流程介绍；
- 数据预处理工具；
- 微调数据构造；
- Tokenizer；
第二节：Assistants API 详解 - （3 课时）
- 如何创建一个 Assistants；
- 代码访问 Assistants；Assistants 执行；
- Tools 工具的使用；
- 内置 RAG 功能；
第三节：大模型开发框架 Semantic Kernel - （3 课时）
- Semantic Kernel 简介；Semantic Kernel 发展历程；
- Semantic Kernel 基础架构；Semantic Kernel 环境搭建；
- Semantic Kernel 函数的嵌套调用；
- Memory；初始化 Embedding；文本向量化；向量搜索；
- 什么是智能体；
第四节：大模型开发框架 LangChain - （6 课时）
- LangChain 简介；LangChain 的核心组件；
- 模型的 IO 封装；数据连接封装；
- 记忆封装；Chain 和 LangChain Expression Language：LCEL；
- 用 LCEL 实现 RAG；
- 智能体架构：Agent；
- LangChain Server；LangChain.js；
第五节：大模型应用开发工具栈 - （6 课时）
- 如何维护一个生产级的 LLMs 应用；
- 生产级 LLMs 应用维护平台介绍：LangFuse、LangSmith、Prompt Flow；
- LangFuse 简介；LangChain 回调集成；构建一个实际应用；数据集与测试、在线标注；Prompt 调优与回归测试；
- LangSmith 简介；基本功能演示；数据集管理与测试；在线标注演示；
- Prompt Flow 简介及使用；
第六节：大模型微调 Fine-Turning - （9 课时）
- 什么是大模型微调；什么时候模型需要微调；
- 模型训练工具 Hugging Face；
- 什么是模型；什么是模型训练；模型求解器；
- 常用损失函数介绍；
- 什么是训练、预训练、微调、轻量化微调；
- 轻量化模型微调：Prompt Tuning、P-Tuning、Prefix-Turning；
- 大模型微调实战；
第七节：多模态大模型 - （6 课时）
- 多模态大语言模型（MLLM）定义；
- 多模态大模型的发展历程；
- GPT4v 与 Gemini-Pro 实战；
- 图文对话系统的搭建；
- Beyond VL：支持更多模特输入的大语言模型；
- 使用多模态大预言模型完成更多个性化任务；
第八节：视觉内容生成大模型 - （4 课时）
- 判别式模型 vs.生成式模型；
- 生成式模型技术路径；AutoEncoder 自编码器；VAE 变分自编码器；Diffusion Model 扩散模型；Stable Diffusion 模型结构；级联式文生图模型；文生图模型的应用拓展；SD 模型的加速方法；
- 3D 目标生成方法；基于 NerE 的方法；基于扩散模型的方法；
- 视频生成方法；基于文生图预训练模型的方法；原生视频生成方法；
第九节：昇腾大模型解决方案进阶 - （6 课时）
- 大模型与并行计算；
- 昇腾系列大模型软件架构介绍；
- 昇腾算力运营；
第十节：AscendSpeed 加速框架 - （3 课时）
- 深度学习框架与硬件亲和性；
- 分布式训练框架如何加速模型训练；
- 软硬件协同对模型训练加速的应用；
第十一节：华为智算中心解决方案进阶 - （4 课时）
- 绿色数据中旬基础设施解决方案；
- 数据中心选址及可用性；
- 华为分布式 AI 存储解决方案；
- 智算中心网络组网及特性；
第十二节：MindFormers 实战进阶 - （6 课时）
- MindFormers 介绍；MindFormers 设计与特性；
- 模型的调试及调优；
- MindFormers 套件组合；大模型并行特性；
第十三节：大模型压缩与部署进阶 - （6 课时）
- AscendCL 推理应用；
- MindSpore Lite 推理；
- 硬件选型；云服务厂商对比；算力平台选择；
- 阿里云私有部署开源大模型；
- 基于 vllm 部署大模型；
- 互联网信息服务算法介绍及备案；
第十四节：LLMs 大模型实战项目 - （2 课时）
第十五节：多模态大模型实战项目 - （2 课时）
第十六节：视觉内容生成大模型实战项目 - （2 课时）
第十七节：大模型商业闭环模式与产品 - （2 课时）
- 大模型落地现状；大模型创业的机会在哪里？
- 如何抓住大模型创业机会？怎么找到大模型的创业机会？
- 如何成为独立的开发者？
第十八节：大模型产品设计方案 - （2 课时）
- 大模型产品设计原则；
- 原型设计；极简 UI 设计；
- 快速构建一个大模型 demo；
第十九节：大模型产品运营 - （2 课时）
- 大模型产业如何快速获客；如何免费、低价获客；
- 大模型产品客户如何快速转化、留存；
- 大模型产品相关运营转化沟通细节；
