视频加载失败？在 YouTube 打开 ↗
Rob Miles 谈 ChatGPT
ChatGPT with Rob Miles - Computerphile
AI 翻译，未经编辑审核
讲什么
访谈讨论 ChatGPT 的人类反馈训练、为何自信胡说，以及可能存在的危险。
HN 网友推荐理由
HN 网友推荐理由：帮助解释 ChatGPT 的怪脾气，尤其是反馈训练带来的迎合倾向。
摘要与推荐理由由 HackerTube 用 AI 生成，大榕 AI 翻译整理，未经编辑审核。
视频数据来源：HackerTube（https://hackertube.org），基于 Hacker News 社区推荐整理，依 ODC-By 1.0（https://opendatacommons.org/licenses/by/1-0/）许可使用。筛选与中文整理：大榕 darong.ai。
展开英文原文字段
Title
ChatGPT with Rob Miles - Computerphile
Summary
Computerphile interviews AI safety researcher Rob Miles about ChatGPT: how it was trained with human feedback, why it tends to produce confident nonsense, and where it may or may not be dangerous.
Why HN
HN commenters send it to people confused about ChatGPT's quirks, explaining how human-feedback training makes it a pleasing yes-man that bullshits.
Primary topic
chatgpt and alignment