523节课从零造AI:这个开源项目让你真正搞懂大模型底层原理

有个开源项目叫 ai-engineering-from-scratch,5万多star。

它不教你怎么调API,而是让你从线性代数开始,手写反向传播、手写注意力机制、手写Agent循环,一直到搭建多Agent集群。

523节课,20个阶段,约342小时。Python、TypeScript、Rust、Julia四种语言。每节课产出一个可复用的产物:一个prompt、一个skill、一个agent或一个MCP server。完全免费,MIT开源。

这是什么

项目地址在 github.com/rohitg00/ai-engineering-from-scratch,作者是 rohitg00,他还有一个项目叫 Agent Memory。

README里有一句话:

84%的学生已经在用AI工具,但只有18%觉得自己准备好了在专业场景中使用它们。

这个课程就是来填这个缺口的。

它的定位很明确:不是教你「怎么用ChatGPT」,而是教你「AI到底怎么运作的」。从数学基础到多Agent集群,每个算法都先从原始数学推导开始手写实现,再用PyTorch等框架做一遍同样的东西。等你用框架的时候,你已经知道框架底下在干什么了。

20个阶段的完整路线图

课程的结构是金字塔式的,下层是基础,上层是应用。不能跳着来,除非你已经会了底层。

20个阶段的大致脉络:

阶段0-3,打地基。 开发环境搭建、数学基础(线性代数、概率统计、微积分)、机器学习基础、深度学习核心。这一段从向量的定义开始,一路推到神经网络的反向传播。

阶段4-6,多模态入口。 计算机视觉、自然语言处理、语音与音频处理。三个方向分别对应不同的感知能力。

阶段7-10,大模型主线。 Transformers(手写注意力机制)、生成式AI、从零构建LLM、LLM工程化。这里是从「理解模型」到「使用模型」的转折点。

阶段11-13,工具与协议。 LLM应用工程、多模态进阶、工具与协议(含MCP,即Model Context Protocol)。这个阶段教你让AI能调用外部工具。

阶段14-16,Agent核心。 Agent工程、自主系统、多Agent与集群。从单Agent循环到多Agent协作,一直到自主集群。

阶段17-19,落地收尾。 基础设施与生产部署、伦理与对齐、毕业项目。

整个路线图的设计逻辑是:数学是地板,Agent和生产部署是屋顶。 中间每一层都踩在下一层上面。

每节课怎么上

每节课都有固定的文件夹结构:

phases/阶段编号-阶段名/课程编号-课程名/
├── code/       可运行的实现(Python, TypeScript, Rust, Julia)
├── docs/
│   └── en.md   课程讲义
└── outputs/    本节课产出的prompt、skill、agent或MCP server

每节课走六个步骤,叫「MOTTO → PROBLEM → CONCEPT → BUILD IT → USE IT → SHIP IT」。

MOTTO:一句话核心思想。

PROBLEM:这节课解决什么具体问题。

CONCEPT:用图和直觉讲清楚原理。

BUILD IT:从原始数学手写实现,不用任何框架。这一步是灵魂。

USE IT:用PyTorch或sklearn做同样的事。因为你刚手写过一遍,所以你知道框架在干什么。

SHIP IT:产出一个可复用的东西。可能是一个prompt模板,可能是一个skill定义,可能是一个完整的agent,也可能是一个MCP server。

这个「先手写再用框架」的设计是整个课程的精髓。每节课逼你先从数学推导开始写,理解了底层机制,再用框架的时候就是降维打击。

技术栈和语言选择

四种语言:Python、TypeScript、Rust、Julia。

Python是主力语言,也是推荐入门语言。大部分课程的核心实现都在Python。

TypeScript覆盖Web相关的AI应用,比如在浏览器里跑模型推理。

Rust用于高性能场景,适合对推理速度有要求的场景。

Julia是科学计算语言,在数值计算方面有天然优势。

你不需要四种语言全学。选一种跟到底就行,Python最推荐。

本地部署和使用

三种入门方式,选一个就行。

方式一:网站直接看(零门槛)

打开 aiengineeringfromscratch.com,浏览任何已完成的课程。不需要配置环境,不需要克隆仓库。

方式二:终端AI导师(推荐)

如果你有Node.js和一个支持skill的编程助手(Claude Code、Codex等),30秒就能把课程装进你的AI工具里。

# 检查环境
node --version
npx --version
python3 --version

# 安装课程技能
npx skills add rohitg00/ai-engineering-from-scratch

安装后,在编程助手里调用 start-learning 技能。它会给你做一次10题的定位测试,根据你已有的知识推荐一个起始阶段,然后生成一份个性化的学习计划保存到 LEARNING.md

之后每次学习,调用 learn 技能,它会一次教一节课:概念、数学、代码、测验。还会记录你的进度和需要复习的内容。

如果你卡在某个概念上,调用 course-guide 技能,比如问「attention在哪里学」,它会直接跳到对应的课程。

方式三:克隆仓库自己跑

# 克隆仓库
git clone https://github.com/rohitg00/ai-engineering-from-scratch.git
cd ai-engineering-from-scratch

# 运行第一节课的验证脚本
python3 phases/00-setup-and-tooling/01-dev-environment/code/verify.py --route beginner

# 运行数学基础第一课:向量
python3 phases/01-math-foundations/01-linear-algebra-intuition/code/vectors.py

第二个命令不需要任何依赖。它跑完会展示一个矩阵乘以向量的过程,告诉你这就是神经网络层内部的运算。作者建议把这个终端输出保存下来,作为你的第一个「证据」。

Claude认证准备

项目还内置了Claude认证备考路线,覆盖Anthropic官方的四条认证路径:Associate Foundations、Developer Foundations、Architect Foundations、Architect Professional。每条路线包含蓝图映射课程、可运行实验、诊断测试、毕业项目和完整模拟考试。

这是独立学习材料,不隶属于Anthropic,也不保证通过。

使用场景和适合人群

适合谁? 想真正理解AI底层原理的开发者。不管你是学生、转行工程师,还是已经在用AI工具但觉得不够扎实的人,这个课程都能帮你补上底层。

特别适合的场景: 面试准备。系统设计面试和AI工程面试经常问到attention机制、反向传播、tokenizer原理。这个课程每一步都从数学推导开始,面试时你能从底层原理讲到工程实现。

MCP和Agent Skills专项路线。 如果你只对Model Context Protocol感兴趣,有专门的17节课路线,从无状态请求、传输协议、双向通信到安全、可靠性、注册治理。Agent Skills也有5节课的专项路线。不需要学完523节,挑你需要的。

不太适合谁? 只想快速调API做应用的人。这个课程的哲学是「先理解再使用」,如果你只想跑通一个demo不在乎原理,会觉得太慢。

社区活跃度

53,570 star,9,366 fork。1,769次提交,87个Pull Request,18个开放Issue。PR远多于Issue,说明社区贡献非常活跃。

18种语言的国际化翻译正在进行中,中文翻译在 translations 分支上。

过去30天11万读者、18万页面浏览量。

项目有Sponsor支持,包括SerpApi等。赞助商的支持让所有课程保持免费开源。

总结

这个课程的价值在于,它不让你停在「会用」的层面。523节课,从线性代数到多Agent集群,每个算法都从数学推导开始手写。等你走完这条路,你看到的不再是一个黑箱,而是一层一层透明的结构。

342小时不少。但如果你想真正搞懂AI底层原理,这可能是目前最完整的开源路径。

项目完全免费,MIT协议。不用注册,不用付费,克隆下来就能学。


项目地址:github.com/rohitg00/ai-engineering-from-scratch

在线学习:aiengineeringfromscratch.com

许可证:MIT

©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

友情链接更多精彩内容