PyTorch Tutorials

PyTorch Tutorials 是 PyTorch 官方维护的教程集合，旨在帮助用户学习深度学习、神经网络和模型训练。教程覆盖从基础概念到高级优化、分布式训练、模型部署等多个方面，并提供可运行的代码示例和视频课程。

核心内容

• 入门基础：包括“60分钟速成”、“torch.nn 详解”、“数据加载与优化”等，帮助初学者快速上手。
• 编译器与优化：介绍 torch.compile 的使用、编译缓存、区域编译等，提升模型执行效率。
• 模型导出：教程涵盖 ONNX 导出、torch.export 流程，便于模型部署。
• 计算机视觉：包括目标检测微调、迁移学习、对抗样本生成、DCGAN、空间变换网络等。
• 强化学习：提供 DQN、PPO（使用 TorchRL）教程，以及游戏智能体训练示例。
• 分布式训练：涵盖分布式数据并行、FSDP、张量并行、管道并行、RPC 框架及参数服务器。
• 性能分析：包括 CUDA 图、内核注释、性能分析器、自动混合精度等。
• 其他：模型剪枝、知识蒸馏、通道最后内存格式、前向模式自动微分、Jacobian/Hessian 计算、模型集成等。

适用人群

本教程适用于所有希望学习或提升 PyTorch 使用的用户：
– 初学者：从零开始了解 PyTorch 基本操作和深度学习流程。
– 中级开发者：学习模型优化、分布式训练和性能调优。
– 高级研究人员：探索自定义算子、扩展后端、编译技术等前沿内容。

使用方式

用户可直接在浏览器中阅读教程，也可在 Google Colab 中运行代码示例，或下载 Jupyter Notebook 本地执行。教程按主题分类，支持搜索，方便快速定位。

注意事项

部分教程标记为“beta”或“不稳定”，表示功能仍在开发中，建议在测试环境中使用。教程基于 PyTorch 2.13.0+cu130 版本编写，其他版本可能存在差异。