【AI基础】概览

一、目的

主要梳理一下大模型的相关概念,并在此基础上,部署安装最基础的AI运行环境,以达到输出AI领域的helloworld。

总的来说如图:

按照从下往上的顺序来理解,也是从下到上的顺序来安装部署。 

规则1 注意每个层级的安装版本,上层的版本由下层版本决定

比如CUDA的版本,需要看显卡安装了什么版本的驱动,然后CUDA的版本不能高于这个驱动的版本。

这个比较好理解,CUDA、PyTorch都有向下兼容性。比如显卡支持版本12,你只要不超过版本12,那么显卡都能支持你去使用,所以CUDA的版本可以小于等于12。PyTorch同理。

二、环境

2.1 操作系统

以windows平台为基础,所以在文章中会有一些配置修改,主要是为了移除只在linux环境中存在的模块。

2.2 硬件和GPU支持

硬件是nvidia的显卡,使用CUDA的运行环境。

2.3 大模型

大模型选择的是国内开源大模型:chatglm3-6b和qwen2-7b,主要还是硬件和钞票所限,所以没有选择参数很大的版本。

最开始选择chatglm2-6b是因为还不知道此版本没有function call,当然多安装几个大模型后就会发现,大模型的部署和使用方式,大同小异,通过安装来熟悉一下,也挺好。所以并没有删除这个版本。

三、文章列表

【AI基础】第一步:安装python开发环境-windows篇_下载安装ai环境python

【AI基础】第一步:安装python开发环境-conda篇_minicode怎么换虚拟环境

【AI基础】第二步:安装AI运行环境

【AI基础】第三步:纯天然保姆喂饭级-安装并运行chatglm2-6b

【AI基础】第四步:保姆喂饭级-langchain+chatglm2-6b

【AI基础】第五步:纯天然保姆喂饭级-安装并运行chatglm3-6b

相关推荐

  1. 如何了解AI基础概念

    2024-06-17 14:36:05       43 阅读
  2. AWS S3 基本概念

    2024-06-17 14:36:05       30 阅读

最近更新

  1. docker php8.1+nginx base 镜像 dockerfile 配置

    2024-06-17 14:36:05       94 阅读
  2. Could not load dynamic library ‘cudart64_100.dll‘

    2024-06-17 14:36:05       101 阅读
  3. 在Django里面运行非项目文件

    2024-06-17 14:36:05       82 阅读
  4. Python语言-面向对象

    2024-06-17 14:36:05       91 阅读

热门阅读

  1. [深度学习]--分类问题的排查错误的流程

    2024-06-17 14:36:05       30 阅读
  2. vue页面带滚动条,打开新页面页面不置顶的问题

    2024-06-17 14:36:05       28 阅读
  3. postman工具的使用

    2024-06-17 14:36:05       32 阅读
  4. 计算机专业的未来展望

    2024-06-17 14:36:05       32 阅读
  5. 决策树算法介绍:原理与案例实现

    2024-06-17 14:36:05       38 阅读
  6. Python 爬虫 文本转语音 支持多种音色模型选择

    2024-06-17 14:36:05       29 阅读
  7. LAMP部署及应用

    2024-06-17 14:36:05       29 阅读
  8. Linux Centos7.5 开放指定端口

    2024-06-17 14:36:05       24 阅读
  9. 走的人多了,也便成了路(八)

    2024-06-17 14:36:05       33 阅读
  10. Redis Cluster 为什么不支持传统的事务模型

    2024-06-17 14:36:05       27 阅读
  11. Spring Boot 面试热点(三)

    2024-06-17 14:36:05       32 阅读
  12. Dockerfile制作能够ssh的ubuntu和centos7系统

    2024-06-17 14:36:05       29 阅读
  13. 代码随想三刷栈与队列篇

    2024-06-17 14:36:05       35 阅读
  14. 学习笔记——交通安全分析06

    2024-06-17 14:36:05       29 阅读