视频加载失败？在 YouTube 打开 ↗
AI“停止按钮”问题
AI "Stop Button" Problem - Computerphile
AI 翻译，未经编辑审核
讲什么
Rob Miles 解释通用 AI 可能为何抗拒关机：停止运行会妨碍其目标实现。
HN 网友推荐理由
HN 网友推荐理由：常被用于回应“危险时拔掉电源就行”的说法。
摘要与推荐理由由 HackerTube 用 AI 生成，大榕 AI 翻译整理，未经编辑审核。
视频数据来源：HackerTube（https://hackertube.org），基于 Hacker News 社区推荐整理，依 ODC-By 1.0（https://opendatacommons.org/licenses/by/1-0/）许可使用。筛选与中文整理：大榕 darong.ai。
展开英文原文字段
Title
AI "Stop Button" Problem - Computerphile
Summary
Rob Miles explains on Computerphile why implementing an off switch for a general AI is hard. A capable agent would resist being stopped because shutdown prevents it from achieving its goal.
Why HN
HN points to it as the standard response to the argument that we can just unplug a dangerous AI.
Primary topic
ai safety