普通人学 AI

深入理解 ChatGPT 这类大语言模型

Deep Dive into LLMs like ChatGPT

Andrej Karpathy · 10 位 HN 网友推荐 · 编辑精选

原视频 ↗

讲什么

Karpathy 面向一般观众解释 ChatGPT 类大语言模型如何构建,从预训练讲到后训练,并提供理解幻觉等特性及使用模型的思考框架。

为什么值得看

HN 网友推荐理由:HN 经常推荐它作为不依赖大量数学、理解大语言模型工作方式的清楚入门。

适合谁 编辑意见

愿意花一个下午,彻底搞懂 ChatGPT 的人

摘要与推荐理由由 HackerTube 用 AI 生成,大榕 AI 翻译整理

AI 翻译整理,来源 HackerTube · 未抓字幕、未审片

推荐理由公开

编辑意见 三个多小时、不靠数学,从训练讲到为什么会胡说,适合分几次看。

编辑意见仅依据摘要整理。
社区信号
10 位 HN 网友推荐
学习位置
第 4 站 · 搞懂原理
五项评分与依据 · 91.74/100(初评)

推荐强度 28.74/35
HN 独立推荐人数 10;人数项 25×ln(1+10)/ln(1+17)=20.74;引语初评分 8/10(较强背书;HN短摘:I highly recommend Andrej Karpathy's Deep Dive into LLMs like ChatGPT)。非跨来源背书。

普通人友好 23/25
摘要覆盖LLM训练全栈及使用边界,HN理由强调无需重数学;内容广而长需耐心。 字幕、节奏、时长未知;level 是上游弱信号,待 编辑 复核。

看完用得上 20/20
摘要初判为原理,第4站;范围=direct。只依据源摘要和标签,不保证学会。

还没过时 10/10
按数据包保鲜期初评;缺少发布日期,工具时效仍需复核。

看得到 10/10
初评依据为oEmbed元数据;字幕以原视频提供情况为准。

展开英文原文字段

Summary

Andrej Karpathy's three-hour-plus general-audience deep dive into how ChatGPT-style LLMs are built, covering the full training stack from pretraining to post-training. It also gives mental models for their quirks, like hallucination, and how to use them well.

Why HN likes it

HN's most frequent recommendation for a clear, approachable foundation in how LLMs work without heavy math.

从你关心的事情开始

你现在最想做到什么?

只保存在本浏览器,随时可以重新选择。