Skip to content

Commit 6ea9a7a

Browse files
authored
[UPDATE] Update machine learning system course resources (#380)
* Add CMU dlsys course resources * move AICS into mlsys section * nits
1 parent 2c4cc3a commit 6ea9a7a

File tree

3 files changed

+16
-10
lines changed

3 files changed

+16
-10
lines changed
File renamed without changes.

docs/机器学习系统/CMU10-414.md

Lines changed: 13 additions & 8 deletions
Original file line numberDiff line numberDiff line change
@@ -4,9 +4,9 @@
44

55
- 所属大学:CMU
66
- 先修要求:系统入门(eg.15-213)、深度学习入门、基本的数学知识
7-
- 编程语言:N/A(据课程主页,要求熟悉Python、C/C++)
8-
- 课程难度:N/A
9-
- 预计学时:N/A
7+
- 编程语言:Python, C++
8+
- 课程难度:🌟🌟🌟
9+
- 预计学时:100小时
1010

1111
<!-- 用一两段话介绍这门课程,内容包括但不限于:
1212
(1)课程覆盖的知识点范围
@@ -15,15 +15,20 @@
1515
(4)自学这门课的注意点(踩过的坑、难度预警等等)
1616
(5)... ...
1717
-->
18-
这是 CMU 2022年秋季学期开设的一门新课,聚焦于深度学习框架的具体实现,课程 Project 会实现一个迷你的类似于 Pytorch 深度学习框架。课程免费提供了面向非 CMU 学生的在线版本,9月13日正式授课,作者持续跟进中。
18+
深度学习的快速发展和广泛使用很大程度上得益于一系列简单好用且强大的编程框架,例如 Pytorch 和 Tensorflow 等等。但大多数从业者只是这些框架的“调包侠”,对于这些框架内部的细节实现却了解甚少。如果你希望从事深度学习底层框架的开发,或者只是像我一样好奇这些框架的内部实现,那么这门课将会是一个很好的起点。
19+
20+
课程的内容大纲覆盖了深度学习系统“全栈”的知识体系。从现代深度学习系统框架的顶层设计,到自微分算法的原理和实现,再到底层硬件加速和实际生产部署。为了更好地掌握理论知识,学生将会在5个课程作业中从头开始设计和实现一个完整的深度学习库 Needle,使其能对计算图进行自动微分,能在 GPU 上实现硬件加速,并且支持各类损失函数、数据加载器和优化器。在此基础上,学生将实现几类常见的神经网络,包括 CNN,RNN,LSTM,Transformer 等等。
21+
22+
即使你是深度学习领域的小白也不必过于担心,课程将会循序渐进地从简单分类问题和反向传播优化讲起,一些相对复杂的神经网络都会有配套的 jupyter notebook 详细地描述实现细节。如果你有一定的相关基础知识,那么在学习完自微分部分的内容之后便可以直接上手课程作业,难度虽然不大但相信一定会给你带来新的理解。
23+
24+
这门课两位授课教师 [Zico Kolter](https://zicokolter.com/)[Tianqi Chen](https://tqchen.com/) 将所有课程内容都发布了对应的开源版本,但在线评测账号和课程论坛的注册时间已经结束,只剩下框架代码里的本地测试供大家调试代码。或许可以期待明年秋季学期的课程还会发布相应的在线版本供大家学习。
1925

2026
## 课程资源
2127

2228
- 课程网站:<https://dlsyscourse.org>
23-
- 课程视频:N/A
24-
- 课程教材:N/A
25-
- 课程作业:TBA
29+
- 课程视频:<https://www.youtube.com/watch?v=qbJqOFMyIwg>
30+
- 课程作业:<https://dlsyscourse.org/assignments/>
2631

2732
## 资源汇总
2833

29-
TBA
34+
@PKUFlyingPig 在学习这门课中用到的所有资源和作业实现都汇总在 [PKUFlyingPig/CMU10-714 - GitHub](https://github.com/PKUFlyingPig/CMU10-714) 中。

mkdocs.yml

Lines changed: 3 additions & 2 deletions
Original file line numberDiff line numberDiff line change
@@ -78,6 +78,7 @@ plugins:
7878
nav_translations:
7979
en:
8080
前言: Foreword
81+
如何使用这本书: How To Use The Book
8182
一个仅供参考的CS学习规划: Guideline
8283
必学工具: Productivity Toolkit
8384
好书推荐: Book Recommendation
@@ -211,14 +212,14 @@ nav:
211212
- 人工智能:
212213
- "Harvard CS50's Introduction to AI with Python": "人工智能/CS50.md"
213214
- "UCB CS188: Introduction to Artificial Intelligence": "人工智能/CS188.md"
214-
- "智能计算系统": "人工智能/CYJ.md"
215215
- 机器学习:
216216
- "Coursera: Machine Learning": "机器学习/ML.md"
217217
- "Stanford CS229: Machine Learning": "机器学习/CS229.md"
218218
- "UCB CS189: Introduction to Machine Learning": "机器学习/CS189.md"
219219
- 机器学习系统:
220-
- "Machine Learning Compilation": "机器学习系统/MLC.md"
220+
- "智能计算系统": "机器学习系统/AICS.md"
221221
- "CMU 10-414/714: Deep Learning Systems": "机器学习系统/CMU10-414.md"
222+
- "Machine Learning Compilation": "机器学习系统/MLC.md"
222223
- 深度学习:
223224
- "Coursera: Deep Learning": "深度学习/CS230.md"
224225
- "国立台湾大学:李宏毅机器学习": "深度学习/LHY.md"

0 commit comments

Comments
 (0)