centos7 arm服务器编译安装onnxruntime-gpu

前言

        ONNX Runtime是适用于Linux,Windows和Mac上ONNX格式的机器学习模型的高性能推理引擎,但在arm服务器上,onnxruntime只有CPU版的,GPU版的没有,因此需要自行去编译GPU版本的才可以。

环境准备

1、python3.8

2、cmake:2.26.0版本以上,可以直接下载aarch64版本的进行安装Releases · Kitware/CMake (github.com)

3、gcc:需要9.2版本以下,可以查看该篇文章进行编译【centos7 arm服务器编译安装gcc 9.2

4、onnxruntime源码:GitHub - microsoft/onnxruntime: ONNX Runtime: cross-platform, high

相关推荐

  1. centos7 arm服务器配置深度学习环境之cuda安装

    2024-02-20 06:26:03       42 阅读
  2. Centos7安装docker支持NVIDIA GPU

    2024-02-20 06:26:03       30 阅读

最近更新

  1. TCP协议是安全的吗?

    2024-02-20 06:26:03       19 阅读
  2. 阿里云服务器执行yum,一直下载docker-ce-stable失败

    2024-02-20 06:26:03       19 阅读
  3. 【Python教程】压缩PDF文件大小

    2024-02-20 06:26:03       20 阅读
  4. 通过文章id递归查询所有评论(xml)

    2024-02-20 06:26:03       20 阅读

热门阅读

  1. docker 安装达梦dm8 包含lincese

    2024-02-20 06:26:03       32 阅读
  2. chatgpt的大致技术原理

    2024-02-20 06:26:03       25 阅读
  3. 网络安全威胁杂谈

    2024-02-20 06:26:03       25 阅读
  4. https 为什安全

    2024-02-20 06:26:03       27 阅读
  5. Kafka的介绍

    2024-02-20 06:26:03       26 阅读
  6. zip解压缩

    2024-02-20 06:26:03       25 阅读
  7. 如何在 Linux 系统中查看系统日志

    2024-02-20 06:26:03       27 阅读
  8. effective c++ 笔记 条款18-25

    2024-02-20 06:26:03       29 阅读
  9. Linux ----防火墙值SNAT与DNAT

    2024-02-20 06:26:03       34 阅读
  10. 计算机网络常考面试题——PING命令

    2024-02-20 06:26:03       30 阅读
  11. Day10-Linux系统打包和时间命令及案例精讲

    2024-02-20 06:26:03       27 阅读