[toc]
PyTorch简介
1.1.1 PyTorch的介绍
PyTorch是由Facebook人工智能研究小组开发的一种基于Lua编写的Torch库的Python实现的深度学习库，目前被广泛应用于学术界和工业界，而随着Caffe2项目并入Pytorch， Pytorch开始影响到TensorFlow在深度学习应用框架领域的地位。总的来说，PyTorch是当前难得的简洁优雅且高效快速的框架。因此本课程我们选择了PyTorch来进行开源学习。
1.1.2 PyTorch的发展
“All in Pytorch”，对于PyTorch的发展我们只能用一句话来概况了，PyTorch自从提出就获得巨大的关注以及用户数量的剧增，而最直观的莫过于下面统计图所表现的的简明直了。
下图来自Paper with code网站，颜色面积代表使用该框架的论文公开代码库的数量，我们可以发现截至2021年6月，PyTorch的代码实现已经是TensorFlow实现的4倍，我们也可以看红色部分的PyTorch正在取代他的老大哥称霸学术圈，PyTorch会借助ONNX所带来的落地能力在工业界逐渐走向主导地位。
总的来说，我们必须承认到现在为止PyTorch还是有不如别的框架的地方，但是框架只是给我们提供了轮子，让我们造汽车更加方便，最重要的还是我们个人的科学素养的提升。
1.1.3 PyTorch的优势
PyTorch有着下面的优势：
- 更加简洁，相比于其他的框架，PyTorch的框架更加简洁，易于理解。PyTorch的设计追求最少的封装，避免重复造轮子。
- 上手快，掌握numpy和基本的深度学习知识就可以上手。
- PyTorch有着良好的文档和社区支持，作者亲自维护的论坛供用户交流和求教问题。Facebook 人工智能研究院对PyTorch提供了强力支持，作为当今排名前三的深度学习研究机构，FAIR的支持足以确保PyTorch获得持续的开发更新。
- 项目开源，在Github上有越来越多的开源代码是使用PyTorch进行开发。
- 可以更好的调试代码，PyTorch可以让我们逐行执行我们的脚本。这就像调试NumPy一样 – 我们可以轻松访问代码中的所有对象，并且可以使用打印语句（或其他标准的Python调试）来查看方法失败的位置。
- 越来越完善的扩展库，活力旺盛，正处在当打之年。
PyTorch的安装(m1环境)
本安装教程主要参考
《金玉良缘易配而木石前盟难得|M1 Mac os(Apple Silicon)天生一对Python3开发环境搭建(集成深度学习框架Tensorflow/Pytorch)》
conda安装
进入下载页面：https://github.com/conda-forge/miniforge/#download 选择mac arm64位架构:
下载成功后，进入命令行目录，执行命令进行安装：
#进入命令行目录
cd ~/Downloads
#执行命令进行安装
sudo bash ./Miniforge3-MacOSX-arm64.sh
随后会有一些条款需要确认，一路Yes Yes...
然后编辑配置文件vim ~/.zshrc，加入如下内容：
path=('/Users/{您的mac用户名}}/miniforge3/bin' $path)
export PATH
存盘之后执行命令
source ~/.zshrc
配置好环境变量之后，键入python3 ，显示如下，即表示安装完成
~python3
Python 3.9.2 | packaged by conda-forge | (default, Feb 21 2021, 05:00:30)
[Clang 11.0.1 ] on darwin
Type "help", "copyright", "credits" or "license" for more information.
接下来，需要配置一下conda的国内下载源
conda config --add channels https://mirrors.ustc.edu.cn/anaconda/pkgs/main/
conda config --add channels https://mirrors.ustc.edu.cn/anaconda/pkgs/free/
conda config --add channels https://mirrors.ustc.edu.cn/anaconda/cloud/conda-forge/
conda config --add channels https://mirrors.ustc.edu.cn/anaconda/cloud/msys2/
conda config --add channels https://mirrors.ustc.edu.cn/anaconda/cloud/bioconda/
conda config --add channels https://mirrors.ustc.edu.cn/anaconda/cloud/menpo/
conda config --set show_channel_urls yes
基本环境配置完毕。
PyTorch (cpu版)安装
当前arm64架构的只支持3.9版本，所以我们来创建一个虚拟空间
，这里提前将需要的基础库都一一安装，因为如果不在创建虚拟空间时提前安装，之后使用pip是安装不上的
sudo conda create -n pytorch numpy matplotlib pandas python=3.9
安装成功后，激活环境：
source activate
(pytorch) ➜ conda activate pytorch
随后下载arm64版本的pytorch安装包：
https://github.com/wizyoung/AppleSiliconSelfBuilds/blob/main/builds/torch-1.8.0a0-cp39-cp39-macosx_11_0_arm64.whl
下载成功后，执行安装命令：
sudo pip install torch-1.8.0a0-cp39-cp39-macosx_11_0_arm64.whl
至此安装成功，一般这个过程没啥坑。
PyTorch 测试
让我们来试试Pytorch在M1芯片加持后的性能，编写test_torch.py:
from tqdm import tqdm
import torch
@torch.jit.script
def foo():
x = torch.ones((1024 * 12, 1024 * 12), dtype=torch.float32)
y = torch.ones((1024 * 12, 1024 * 12), dtype=torch.float32)
z = x + y
return z
if __name__ == '__main__':
z0 = None
for _ in tqdm(range(10000000000)):
zz = foo()
if z0 is None:
z0 = zz
else:
z0 += zz
矩阵加法逻辑运算达到了45 it/s，torch短时间内适配M1芯片，如此性能已经非常惊艳了。
PyCharm配置conda 虚拟环境
- 进入setting，进入Project Interpreter ,选择解释器-->show All
- 点击右边的+号
- 选择Existing environment-->点击省略号
- 选择conda环境目录（在annaconda安装目录的envs下面），进入环境文件夹后选择python即可
- 选择好后，一路点击ok，直到setting界面，选择好刚载入的环境解释器，确认即可。
Q: m1芯片是否支持安装PyTorch(GPU版)?
A: 不支持（截止2021.10.12 https://discuss.pytorch.org/t/how-to-run-on-gpu-in-apple-m1/132071）
参考资料及相关材料
- Awesome-pytorch-list：目前已获12K Star，包含了NLP,CV,常见库，论文实现以及Pytorch的其他项目。
- PyTorch官方文档：官方发布的文档，十分丰富。
- Pytorch-handbook：GitHub上已经收获14.8K，pytorch手中书。
- PyTorch官方社区：在这里你可以和开发pytorch的人们进行交流。
- M1 Mac os(Apple Silicon)天生一对Python3开发环境搭建(集成深度学习框架Tensorflow/Pytorch)：M1配置python,照着配置就对了。
- 深入浅出PyTorch学习资料：教程浅显易懂，初学者必备。
