PyTorch 是一个开源的机器学习库，广泛用于应用程序如计算机视觉和自然语言处理。它是由 Facebook 的 AI 研究团队开发的，并且是基于 Torch 库。PyTorch 的设计非常模块化，主要可以分为几个核心部分：
1. torch
这是 PyTorch 的核心库，包含了多维张量的定义及其操作。此外，它还包括了自动微分系统（Autograd）来支持模型的训练。
- torch/autograd：负责自动微分的管理和实现。它使得用户可以自动计算梯度。
- torch/nn：神经网络库。这个模块提供了构建深度学习模型所需的所有构建块（如层、激活函数等）。
- torch/optim：优化器模块，包含了如 SGD、Adam 等优化算法，用于模型训练。
- torch/utils：包含了数据加载和其他实用功能的辅助工具。
- torch/multiprocessing：是 Python multiprocessing 的替代品，专门为在多个进程中处理张量和进行深度学习而设计。
2. torchvision
这是用于处理图像的库，提供了加载常见数据集的数据加载器、图像转换操作、预训练好的模型等。
- torchvision/datasets：包含常用视觉数据集的加载器。
- torchvision/models：提供预训练的模型，如 ResNet、VGG 等。
- torchvision/transforms：图像预处理的方法，如裁剪、旋转等。
3. torchaudio
提供音频处理的工具和数据集。
4. torchtext
用于自然语言处理的库，提供文本处理工具和数据集。
5. C++ API
PyTorch 还提供了 C++ 接口，允许使用 C++ 来实现和训练神经网络模型。
6. 分布式训练
- torch.distributed：支持多机多卡的分布式训练。
代码结构示例
PyTorch 的代码库核心结构大致如下（简化版本）：
pytorch/
│
├── torch/ - 核心库
│ ├── __init__.py
│ ├── nn/ - 神经网络模块
│ ├── optim/ - 优化器模块
│ ├── utils/ - 实用工具模块
│ └── autograd/ - 自动微分系统
│
├── torchvision/ - 视觉库
│ ├── datasets/
│ ├── models/
│ └── transforms/
│
├── torchaudio/ - 音频库
│
└── torchtext/ - 文本处理库
