华为昇腾asend

昇腾Ascend C编程语言

Ascend C原生支持C/C++编程规范,通过多层接口抽象、并行编程范式、孪生调试等技术,极大提高了算子的开发效率,帮助AI

参考文章

手把手教你在昇腾平台上搭建PyTorch训练环境 - 哔哩哔哩 (bilibili.com)icon-default.png?t=N7T8https://www.bilibili.com/read/cv23917714/

关于华为昇腾(Ascend)AI芯片,CANN计算架构,MindSpore深度学习框架,MindStudio开发工具_华为cann框架-CSDN博客icon-default.png?t=N7T8https://blog.csdn.net/raoxiaoya/article/details/136567852

华为昇腾具有完整的生态

Ascend 910 性能相当于Nvidia A100

昇腾的核心问题:

1,昇腾只能用于华为自身生态中的大模型业务,比如昇腾不能做GPT-3,因为910不支持32位浮点,而目前大模型训练几乎都要使用32位的浮点,所以昇腾芯片只能利用华为开发的框架(如MindSpore),再加上优化好的大模型,比如盘古CV。

2,生态依然需要完善。英伟达最强大的护城河在于它的生态系统CUDA。目前CANN还有差距

3,先进制程的卡脖子问题得到了一定解决,但依然需要担忧产能问题。

CANN

CANN(Compute Architecture for Neural Networks)是华为针对AI场景推出的异构计算架构,对上支持多种AI框架,对下服务AI处理器与编程,发挥承上启下的关键作用,是提升昇腾AI处理器计算效率的关键平台。

昇腾学习资料

昇腾社区

昇腾与NVIDIA的类比

  • CANN +firmware/driver-- CUDA toolkit+CUDA drvier: 
  • Mindspore -- pytorch/tensorflow

MindSpore框架

MindSpore是华为推出的开源AI计算框架。支持深度学习算法的开发、训练和推理。MindSpore框架旨在提供一种简单易用的方式来构建和部署AI模型,同时充分发挥昇腾AI加速器的性能优势。

pytorch适配到昇腾-pytorch adapter

利用pytorch的dispatch机制(算子注册与分发)

PyTorch模型迁移与调优专题-昇腾社区 (hiascend.com)icon-default.png?t=N7T8https://www.hiascend.com/zh/developer/courses/detail/2203141624362937328

Mindx DL-昇腾深度学习组件

产品简介-产品描述-5.0.0-MindX DL-文档首页-昇腾社区 (hiascend.com)

了解MindX DL的产品定位与特点,有助于您速构建自己的深度学习平台

随着人工智能产业的快速发展,业界越来越多的企业发布了深度学习平台,提供数据集管理、模型训练、模型管理、模型部署推理等功能满足模型开发训练推理的全流程业务,能够加速企业和开发者交付人工智能业务所需的模型。

MindX DL(昇腾深度学习组件)是支持基于昇腾AI处理器(下文出现的NPU表示昇腾AI处理器)的数据中心训练和推理硬件的深度学习组件参考设计,提供昇腾AI处理器调度、集群性能测试等基础功能,为上层模型训练、模型评估、模型部署、模型推理等应用提供底层软件支持。深度学习平台开发厂商可以减少底层资源调度相关软件开发工作量,快速使能合作伙伴基于MindX DL开发深度学习平台

华为资源

 昇腾镜像仓库

AscendHub (huawei.com)

昇腾开放Docker镜像仓库,提供昇腾软件Docker镜像,支持用户快速部署昇腾基础软件和应用软件

ascend-tensorflow镜像(包含TFPULGIN插件

Ascend-tensorflow基础镜像,基于centos7,debian9.9,ubuntu18.04制作,内部集成训练通用的第三方库(系统包、pip)、Tensorflow框架,TOOLKIT引擎和TFPULGIN插件。用户根据实际需要,基于该基础镜像安装训练业务程序特定依赖,即可运行相应训练业务程序。

在昇腾处理其上如何运行基于tensorflow,pytorch AI框架的训练业务应用程序

需要安装TFPlugin,PTPlugin

什么是深度学习平台

深度学习平台,提供数据集管理、模型训练、模型管理、模型部署推理等功能满足模型开发训练推理的全流程业务,能够加速企业和开发者交付人工智能业务所需的模型。

开发者低成本完成算子开发和模型调优部署。

最近更新

  1. TCP协议是安全的吗?

    2024-03-28 08:30:01       18 阅读
  2. 阿里云服务器执行yum,一直下载docker-ce-stable失败

    2024-03-28 08:30:01       19 阅读
  3. 【Python教程】压缩PDF文件大小

    2024-03-28 08:30:01       19 阅读
  4. 通过文章id递归查询所有评论(xml)

    2024-03-28 08:30:01       20 阅读

热门阅读

  1. leetcode 2580.统计将重叠区间合并成组的方案数

    2024-03-28 08:30:01       16 阅读
  2. 大数据分布式事务的深入理解?

    2024-03-28 08:30:01       18 阅读
  3. Android Studio项目加载预编好的so库

    2024-03-28 08:30:01       21 阅读
  4. Vim - 文本编辑器 Vi vs Vim

    2024-03-28 08:30:01       22 阅读
  5. vim中如何使用Vundle插件管理器?

    2024-03-28 08:30:01       19 阅读
  6. GRE实验

    GRE实验

    2024-03-28 08:30:01      15 阅读
  7. Matlab将日尺度数据转化为月尺度数据

    2024-03-28 08:30:01       17 阅读
  8. 婚恋网站如何抵御DDoS攻击

    2024-03-28 08:30:01       18 阅读
  9. 云贝教育 |【技术文章】postgresql触发OOM解析

    2024-03-28 08:30:01       16 阅读
  10. 高频SQL 产品销售分析 I

    2024-03-28 08:30:01       17 阅读
  11. Pytorch多机多卡分布式训练

    2024-03-28 08:30:01       17 阅读
  12. 微信小程序修改checkbox和radio的样式

    2024-03-28 08:30:01       21 阅读
  13. Swift xcode app自动化

    2024-03-28 08:30:01       20 阅读
  14. 开发过程中PostgreSQL常用的SQL语句,持续更新ing

    2024-03-28 08:30:01       18 阅读
  15. 算法——深度优秀搜索和广度优秀搜索

    2024-03-28 08:30:01       20 阅读