视频加载失败？在 YouTube 打开 ↗
从代码搭建 GPT〔进阶〕
Let's build GPT: from scratch, in code, spelled out.
讲什么
Karpathy 用 PyTorch 从头构建 GPT，联系《Attention Is All You Need》及 GPT-2/3，并解释与 ChatGPT 的关系。源摘要明确假定观众熟悉先前的 makemore 视频。
为什么值得看
HN 网友推荐理由：HN 经常推荐它来理解 Transformer 与大语言模型的实际工作方式，赞赏其讲解清晰。
适合谁 编辑意见
会写 Python、想亲手做出一个 GPT 的人
摘要与推荐理由由 HackerTube 用 AI 生成，大榕 AI 翻译整理
AI 翻译整理，来源 HackerTube · 未抓字幕、未审片推荐理由公开
编辑意见 进阶内容。普通人不必看，想真正动手做的可以从这里开始。
编辑意见仅依据摘要整理。- 社区信号
- 14 位 HN 网友推荐
- 学习位置
- 进阶区
五项评分与依据 · 75.42/100（初评）
推荐强度 33.42/35
HN 独立推荐人数 14；人数项 25×ln(1+14)/ln(1+17)=23.42；引语初评分 10/10（较强背书；HN短摘：the best video I have seen on the topic）。非跨来源背书。
普通人友好 3/25
明确使用PyTorch写GPT并假设看过前课，需要编程基础，初评进阶。 字幕、节奏、时长未知；level 是上游弱信号，待 编辑 复核。
看完用得上 19/20
摘要初判为原理，第4站；范围=direct。只依据源摘要和标签，不保证学会。
还没过时 10/10
按数据包保鲜期初评；缺少发布日期，工具时效仍需复核。
看得到 10/10
初评依据为oEmbed元数据；字幕以原视频提供情况为准。
展开英文原文字段
Summary
Andrej Karpathy builds a GPT from scratch in code, following Attention Is All You Need and GPT-2/3, in about two hours using PyTorch. He connects it to ChatGPT and assumes familiarity with his earlier makemore videos.
Why HN likes it
It is the go-to recommendation for learning how transformers and LLMs actually work, praised for its clarity and Karpathy's teaching.