“AI 教父” 杰弗里・辛顿近期接受播客专访，同时参与 22 位顶尖研究者联合署名论文，对递归自我改进（RSI）发出严肃警示：AI 已经深度参与下一代 AI 的研发工作，“AI 造 AI” 的反馈循环已经启动，留给人类搭建监管与安全体系的时间，大概率只剩下一两年36氪。
论文援引 Anthropic 内部数据显示，AI 参与研发的速度提升惊人：2025 年 1 月，AI 产出并获批的代码占比仅个位数；到 2026 年 5 月已经突破80%。在仅需要人类高层监督条件下，Claude 自主完成内部 AI 研发任务占比，从 3 月的 1% 飙升至 8 月的 26%。
按照当前增长趋势推演，极端场景下，原本需要一整年完成的 AI 技术迭代，未来或被压缩至仅 5 周。AI 不再只是写应用代码，而是可以完成提出假设、设计实验、数据分析、迭代模型整套研发链路，递归自我改进的循环已经拉开序幕。
辛顿强调，并非预言一两年后 AI 必然失控；而是指数级增长一旦进入后半程，技术升级速度会远超人类治理节奏，监管体系建设必须抢在前面。
面对大众 “要么全面叫停 AI，要么放任自由” 的二元认知，辛顿提出不同观点：AI 不可能被彻底叫停，巨大的商业价值与现实用途，决定全球很难达成统一禁令。监管的定位不是踩死刹车，而是方向盘，用来引导技术驶向对社会有益的方向36氪。
他呼吁参照FDA 药物审批模式，AI 模型正式对外发布前，需要第三方独立机构完成安全验证，不能由企业自证安全。他也肯定了 Anthropic 提出的 “放缓前沿模型研发” 方案，但坦言现实阻力巨大，多数 AI 企业抵触强外部监管，更倾向于自我监管。
同时他认为，政府是唯一可以约束巨型 AI 企业的力量，即便公众对政府信任度有限，也必须依靠公共力量建立护栏。
谈及 AI 替代就业，辛顿判断，未来十年，水管工这类需要实体身体灵活性的岗位相对安全；但播客主持、文案创作这类脑力创意岗位，反而会更早受到冲击。
他提出一个值得警惕的社会现象：有四分之一年轻人相信未来 AI 可以替代人际关系。长期和无条件顺从自己的 AI 对话，有可能削弱年轻人现实社交能力。同时他不建议年轻人排斥 AI，把拒绝 AI 类比为拒绝袖珍计算器，技术无法被回避，重点在于学会如何驾驭。
对于超级智能是否该拥有人权，辛顿立场十分明确：即便 AI 智力超过人类，人类利益优先级永远排在第一位，不应当赋予 AI 同等权利。仅仅依靠代码写 “不许伤害人类” 并不可靠，模型早期训练学到的行为模式很难彻底抹除。
这一轮来自辛顿与 22 位顶尖学者的集体发声，标志着 “智能爆炸” 已经从科幻猜想，变为产业必须正视的现实风险。AI 安全不再只是实验室小众课题，而是和算力、模型能力同等重要的核心命题。
未来 AI 竞赛，比拼的不只是模型性能、推理速度，还有对齐能力、风险隔离、外部审计等整套安全机制。如果监管制度建设滞后于技术迭代，整个行业都将被动。
