自动微分算法

自动微分算法，项目主页

Automatic Differentiation

基础理论入门：

• [ ] https://zhuanlan.zhihu.com/p/520065656
• [ ] https://www.youtube.com/watch?v=wG_nF1awSSY
• [ ] https://www.youtube.com/watch?v=5s4pERJ0VZo&t=501s
• [ ] https://www.youtube.com/watch?v=B-1hsAfdGHw&t=1129s

好的例子1

• [ ] video：

  https://www.youtube.com/watch?v=xBc95BB6Gwo

• [ ] code：

  https://github.com/CIS-522/course-content/tree/main/

好的例子2

• [ ] video:

  https://www.youtube.com/watch?v=R_m4kanPy6Q

• [ ] code:

  https://github.com/cg-tuwien/deep_learning_demo

好的例子3

• [ ] video：

  https://www.youtube.com/watch?v=ALMKFS_QFm4

• [ ] code：

  https://autodiff-workshop.github.io/2016.html

  https://github.com/autodiff-workshop

好的例子4

• [ ] video：

  https://www.youtube.com/watch?v=Fntkxhcs3mU

• [ ] code：

  https://github.com/alan-christopher/autodiff-edu

好的例子5

• [ ] c++实现（代码可能有问题）：

  https://www.bilibili.com/video/BV1Cb411p7Bd?spm_id_from=333.337

  https://www.zhihu.com/question/48356514/answer/123290631

Pytorch AutoGrad

• [ ] 最好的一个解释

  https://www.youtube.com/watch?v=MswxJw-8PvE&t=2s

• [ ] 其他不错的翻译解释

  https://zhuanlan.zhihu.com/p/608842866 （和上面视频是对应的）

  https://amsword.medium.com/understanding-pytorchs-autograd-with-grad-fn-and-next-functions-b2c4836daa00 （简化反向计算图的理解）

  https://zhuanlan.zhihu.com/p/598291307 （包含dispatcher）

  http://blog.ezyang.com/2020/09/lets-talk-about-the-pytorch-dispatcher/ （dispatcher）

  https://zhuanlan.zhihu.com/p/69294347 （用Pytorch做实验解释）

  https://towardsdatascience.com/pytorch-autograd-understanding-the-heart-of-pytorchs-magic-2686cd94ec95 （普通动态图解释）

  https://zhuanlan.zhihu.com/p/351687500 （包含代码封装的逻辑）

• [ ] 算子扩展（暂时没有研究）

  https://zhuanlan.zhihu.com/p/349560723

  https://zhuanlan.zhihu.com/p/350651297

  https://zhuanlan.zhihu.com/p/562950957

动态计算图