docker 配置pytorch环境来进行训练

该教程从零开始配置,包括换源,安装下载等全部内容


一、虚拟环境anaconda的下载与安装(换源)

进入到虚拟环境

docker exec -it ID

新建一个文件夹保存下载的文件

mkdir download

通过使用wget来下载anacodna安装包,建议使用清华镜像下载
官网下载:

wget https://repo.anaconda.com/archive/Anaconda3-2023.07-2-Linux-x86_64.sh

镜像下载:

wget https://mirrors.tuna.tsinghua.edu.cn/anaconda/archive/Anaconda3-2023.07-1-Linux-x86_64.sh

本地宿主机复制到容器中(修改路径即可)

docker cp /path/to/local/file container_id:/path/in/container/

安装应用

bash Anaconda3-2023.07-1-Linux-x86_64.sh

按照流程进行安装
确认协议和默认安装路径即可

在这里插入图片描述

二、给系统的pip和conda换源

安装新系统的第一件事情就是换源,加快下载速度
1.pip换源
docker中安装pip

apt-get update
apt-get install -y python3-pip

验证安装的结果

pip3 --version

/root/目录下创建 .pip 文件夹与 pip.conf 文件

mkdir .pip
vim .pip/pip.conf
## 添加如下内容,设置pip源为阿里云源
 
[global] 
index-url = https://mirrors.aliyun.com/pypi/simple/ 
[install] 
trusted-host=mirrors.aliyun.com
 
## :wq!保存退出即可

2.conda换源(不建议阿里源)
命令行换源:

conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/r
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/msys2
conda config --add https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
conda config --add https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
conda config --add https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
conda config --add https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
conda config --add https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
conda config --add https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
conda config --add https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
conda config --add https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/
conda config --set show_channel_urls yes

修改文件方式: .condarc

channels:
  - defaults
show_channel_urls: true
default_channels:
  - https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main
  - https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/r
  - https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/msys2
custom_channels:
  conda-forge: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
  msys2: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
  bioconda: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
  menpo: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
  pytorch: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
  pytorch-lts: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
  simpleitk: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
  deepmodeling: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/
auto_activate_base: false

三、安装pytorch

进入pytorch的官方网站

找到对应的版本进行安装

https://pytorch.org/get-started/previous-versions/

训练过程中遇到的问题

1、虚拟共享内存不够
报错:ERROR: Unexpected bus error encountered in worker. This might be caused by insufficient shared memor

通过df -h查看shm的大小
可见容器默认的shared memory只有64MB。但训练程序中,data_loader设置的workers数目比较多,该程序中为8,这些workers通过共享内存进行协作,导致默认的共享内存不够用。

解决方法:
基于以上原因,解决方法可从两个方面入手:

  1. 将workers数量降低,例如设置num_workers=0;

  2. 将容器的共享内存加大,由上面英文提示,可通过–ipc=host或–shm-size进行设置。

这里,我选择的是第二种方式,加大容器的共享内存:

docker run ... --shm-size 8G ...

2、数据集的加载路径
建议使用绝对的路径,相对路径在容器中可能会报错

3、报错内容:ImportError: libGL.so.1: cannot open shared object file: No such file or directory。
这通常是因为你的系统缺少该库,它是 OpenGL 的一部分,许多图形相关的应用程序和库都需要它。

解决方法,安装相应的库文件

apt-get update && apt-get install libgl1

4、报错内容:ImportError: libgthread-2.0.so.0: cannot open shared object file: No such file or directory
解决方法:

sudo apt-get install libglib2.0-0

相关推荐

  1. 使用 DockerPyTorch 环境训练模型

    2024-03-13 22:52:05       34 阅读
  2. pytorch环境配置

    2024-03-13 22:52:05       64 阅读
  3. pytorch学习--使用m1 进行训练

    2024-03-13 22:52:05       21 阅读

最近更新

  1. docker php8.1+nginx base 镜像 dockerfile 配置

    2024-03-13 22:52:05       94 阅读
  2. Could not load dynamic library ‘cudart64_100.dll‘

    2024-03-13 22:52:05       100 阅读
  3. 在Django里面运行非项目文件

    2024-03-13 22:52:05       82 阅读
  4. Python语言-面向对象

    2024-03-13 22:52:05       91 阅读

热门阅读

  1. 题目 3150: 冶炼金属

    2024-03-13 22:52:05       42 阅读
  2. SQL 中 IN 与 <= 且 >= 的效率比较

    2024-03-13 22:52:05       47 阅读
  3. 职业规划随笔

    2024-03-13 22:52:05       45 阅读
  4. k8s之配置springboot项目

    2024-03-13 22:52:05       42 阅读
  5. go优雅重试

    2024-03-13 22:52:05       45 阅读
  6. vue从零到一创建项目?

    2024-03-13 22:52:05       50 阅读