【图灵子聊AI】拆解《爱之恩典的机器》:Anthropic CEO 眼里,AI 顺利的话世界会好成什么样

关于 AI 的未来,市面上的声音基本分两派:一派讲末日,超级智能失控、人类被取代;另一派讲泡沫,大模型不过是更贵的自动补全。两派都很响,但都不告诉你一件事——假如一切顺利,世界到底会好成什么样。

2024 年 10 月,Anthropic 的 CEO Dario Amodei 写了一篇一万五千字的长文,标题叫《Machines of Loving Grace》(爱之恩典的机器),专门回答这个问题。

先说清楚这篇为什么值得认真读。

在 AI 三巨头——OpenAI 的 Altman、DeepMind 的 Hassabis、Anthropic 的 Amodei——里,Amodei 是公认最偏"谨慎"的那个,Anthropic 整个公司的品牌就建立在"AI 安全"上。所以当这样一个人反过来写一篇系统的乐观主义论述,分量不一样。他自己在开头就点破了动机:我花那么多时间讲风险,不是因为我是悲观主义者,而是因为风险是唯一挡在我们和一个根本上美好的未来之间的东西。

更关键的是,这不是一篇 PR 稿。Amodei 是生物物理学 PhD 出身,五大领域里至少两个(生物、神经)是他的专业射程。他刻意避开科幻腔,不说"奇点""神",而是提出一个很朴素的分析工具:智能的边际回报。意思是,别假设 AI 一来什么都瞬间解决,而要一个领域一个领域地问——在这件事上,聪明到底是不是瓶颈?如果是,AI 就能猛推;如果瓶颈在别处(物理时间、数据、人的意愿、法律),AI 再聪明也快不了多少。

这个工具很诚实,也很好用。下面我就用它,把他的五个预测逐个拆开,给出他的核心判断、他自己承认的限制,最后用图灵子的视角评一句:哪些可信,哪些是硅谷式的盲区。

先交代他的核心设定。Amodei 把"强大的 AI"定义成一句很具体的话:数据中心里的一个天才国度——一群智力超过诺奖得主的 AI,能读写、看视频、上网、操控机械臂,能自主完成需要几天几周的任务,而且可以同时跑几百万个副本、以人类 10 到 100 倍的速度工作。他的中心论点是:这样的 AI 一旦到来(他猜可能早到 2026 年,也可能晚得多),能把人类未来 50 到 100 年的进步,压缩进 5 到 10 年。他管这叫"被压缩的 21 世纪"。

一、生物与健康:他最有底气的一块

这是 Amodei 论证最扎实的领域,因为他是内行。

他的核心判断是:生物学的进步,大约每年由一两个"重大发现"驱动——新的测量工具、新的干预手段——而这些发现有极高的智能回报。理由他给得很具体:这些突破往往是极小的团队做出来的(靠脑子不靠运气),常常本可以更早发生(CRISPR 的原理 1980 年代就知道,25 年后才被用起来),也常常因为学界不支持而被拖延(mRNA 疫苗的发明人被拒了几十年)。既然瓶颈在"想到"而不在"砸钱",AI 就能猛推——他估计能把这类发现的速度至少提高 10 倍。

于是他给出一串很硬的预测:几乎所有自然传染病可防可治;癌症的死亡率和发病率下降 95% 以上;遗传病通过胚胎筛查和 CRISPR 的后代技术来预防和治愈;阿尔茨海默症一旦搞懂机理,可能用"相对简单的干预"就能预防。最激进的一条:人类寿命翻倍,从 75 岁到 150 岁——他的依据是,20 世纪寿命已经从 40 涨到 75,差不多翻了一倍,再翻一倍"在趋势线上"。

难得的是他自己承认限制。癌症"极其多变、极其善于适应,大概是最难彻底消灭的",总会有些罕见恶性肿瘤留下来;已经发生的阿尔茨海默损伤"可能很难逆转";临床试验本身有不可压缩的物理时间,mRNA 疫苗最快也要 9 个月。更关键的一句他自己说了:寿命有没有翻倍,这件事本身可能就要花超过 5 到 10 年才知道。

图灵子看:这块基本可信,而且是全文最经得起推敲的部分。"智能是不是生物学的瓶颈"这个问法本身就对——生物学确实是个假设驱动、想象力密集的领域。真正的软处不在科学,在他一笔带过的"全球公平获取"。药能造出来,不等于非洲的穷人吃得上。这是后面几节会反复暴露的同一个盲区。

二、神经科学与心理:从治病到"改造体验"

Amodei 说,生物学那套框架同样适用于大脑,只是野心更大。他给了四条推进路线:分子层面的药物发现、更精细的神经测量与干预(光遗传学、神经探针)、计算神经科学(把 AI 可解释性的洞察反过来用于理解大脑),以及行为干预(AI 教练)。

预测同样激进。他认为大部分精神疾病可能都能治愈——PTSD、抑郁、精神分裂、成瘾。更进一步,连精神病态(psychopathy)、部分智力障碍这类"结构性"问题,他也觉得"重构大脑听起来难,但这是个高智能回报的任务"。还有一层最微妙的:他想解决的不只是疾病,而是普通人的日常心理状态——易怒、走神、犯困、恐惧、拖延,他觉得都能改善;甚至想提升人类体验的"上限",让顿悟、创造灵感、慈悲、超越、爱这些"非凡时刻"出现得更频繁。

限制他也标了。用胚胎筛查预防精神疾病有个风险:可能在不知情的情况下,筛掉了和疾病相关联的正面特质——历史上很多天才有精神疾病。结构性改造大脑"非常不确定"。至于"意识上传",他直接排除在 5 到 10 年窗口之外。

图灵子看:治病的部分我信,提升日常状态我保留,"改造体验上限"这一块要打问号。这里藏着一个典型的工程师式假设——把主观体验当成一个可优化的参数。易怒、拖延也许有神经基础,但"意义感""超越"到底是不是大脑里一个能被调高的旋钮,这是个哲学问题,不是工程问题。佛教两千年讲的就是这件事:痛苦的根源不在多巴胺水平,在"我执"这个认知结构。你可以用药让人不焦虑,但那和一个人真正看破焦虑,是两回事。Amodei 这里的乐观,本质上是把一个修行问题当成了一个制药问题。

三、经济发展与贫困:第一次露出诚实的犹豫

这是全文的转折点。前两节 Amodei 底气十足,到这里他明显换了语气,反复强调"成功不是必然的,取决于我们共同的努力"。

原因他自己讲清楚了:生物和神经里,高智能回报是"结构性"的,聪明就能推;但经济发展的瓶颈是"人"——腐败、弱势的制度——和"内在复杂性"(社会主义计算难题至今无解)。这些不是聪明能直接绕过去的。

他还是给了目标。健康层面:让 AI 带来的健康红利,5 到 10 年内有一半惠及最穷的国家,让发展中国家至少达到今天发达国家的健康水平。经济层面更大胆:发展中国家实现每年 20% 的 GDP 增速(10% 来自 AI 辅助的经济决策,10% 来自技术自然扩散),把撒哈拉以南非洲从人均 2000 美元,在 5 到 10 年内拉到中国今天的水平。参照系是东亚四小龙曾经的 10% 持续增长。此外还有第二次绿色革命、气候治理。

限制他承认得比前面多。"自动化对那些还没工业化的国家是个挑战"——这句话很重,等于承认 AI 可能直接抽掉发展中国家原本靠制造业爬升的那根梯子。他也说很多政府会怀疑、气候问题"技术不是唯一的限制"。发达国家内部,他区分了"获取不平等"(乐观,市场会降价、民众会要求)和"财富不平等"(承认更难)。他还专门讨论了一个"退出问题":最没能力做好决策的人,可能恰恰会拒绝那些能改善决策的技术,形成一个反乌托邦的底层——但他的回应软弱:"我不认为强迫别人在伦理上说得通",然后寄望于"历史上反技术运动雷声大雨点小"。

图灵子看:这一节最能看出 Amodei 的诚实,也最能看出硅谷的盲区。诚实在于,他没有假装分配问题会自动解决。盲区在于,他默认了技术进步会自然向下渗透这个美国式的隐含前提。可现实是,分配从来不是技术问题,是权力问题。《道德经》那句"人之道,损不足以奉有余"——AI 极大概率会先强化这条,而不是推翻它。掌握 AI 的公司和国家,凭什么会把一半红利让给最穷的人?"每年 20% GDP 增长"更像一个把统计外推硬套的数字游戏:四小龙的高增长有冷战地缘、人口红利、全球化窗口一整套条件,不是单靠"聪明的经济决策"堆出来的。这一节的目标不能说错,但它是愿望,不是预测。

四、和平与治理:他自己都承认这里没有顺风

Amodei 在这一节开头就诚实地拆了自己的台:我看不出有什么强理由相信 AI 会天然地、结构性地推进民主与和平。因为同一套 AI,既能服务民主,也能服务威权——宣传、监控,独裁者用起来一样顺手。所以"这得靠我们自己去把天平往对的方向掰"。

国际层面,他提出一个叫"Entente"(协约)的策略:民主国家组成联盟,锁死 AI 供应链(芯片、光刻设备),快速扩张,延缓对手获取关键资源,用 AI 建立军事优势(棒子),同时把 AI 红利分给更多国家换取支持(胡萝卜),目标是造出一个"永恒的 1991 年"——民主阵营的永久优势。

国内层面,他列了 AI 改善治理的几条路:法律司法系统(AI 能在保持公正的同时减少偏见,处理"模糊判断");信息环境(民主国家用更强的 AI 打赢信息战,反制宣传);政务服务(把服务做好,减少人们对政府的犬儒);公民协商(AI 聚合意见、推动共识)。他还给了一个理由说明 AI 长期利好民主:生活质量的改善——心理健康、福祉、教育——和"支持威权领导人"是负相关的。

限制他标得很清楚:"这会是一场漫长而拉锯的斗争,胜利并无保证。"他甚至拿互联网做反例——当年也以为互联网天然利好民主,结果可能反而帮了威权。

图灵子看:这是全文最薄的一节,而且是硅谷盲区最集中的地方。问题不在他不诚实——他很诚实——在于他的解法本身就自相矛盾。他一边说 AI 不天然利好民主、得靠人掰,一边给出的"掰"的方案,是一个由美国主导的技术霸权联盟。"永恒的 1991 年"这个提法,暴露了一种典型的美国中心视角:把"民主的胜利"等同于"美国说了算"。从北京、从新德里、从任何一个非西方视角看,这不是治理蓝图,是用 AI 固化一超格局的战略。他把"谁掌握 AI"这个真问题,悄悄换成了"好人掌握 AI 就好了",而"好人"默认是华盛顿。治理的核心从来是权力如何制衡,不是技术如何先进。这一节缺的,恰恰是他作为技术人最不擅长的政治哲学。

五、工作与意义:最诚实,也最没答案

Amodei 把这个问题拆成两半:意义(没有经济价值的劳动,人还能不能找到意义)和经济(在一个 AI 驱动的经济里,人还能不能做出有价值的贡献)。

意义这一半,他乐观。理由很实在:绝大多数人本来就不是世界第一,大家的意义感来自打游戏、游泳、散步、和朋友聊天——这些活动的经济价值本来就是零。"意义主要来自人际关系和连接,不来自经济劳动。"就算 AI 什么都做得比你好,竞争和成就感依然存在,就像今天有人下棋下不过 AI,还是照下不误。

经济这一半,他坦承困难得多。短期靠"比较优势"还撑得住——人在 AI 还不擅长的那 10% 的任务里有优势,反而更值钱,还会冒出新工种。但长期,"AI 会变得如此全面有效、如此便宜,以至于比较优势不再成立"。到那时,"需要一场关于经济该如何组织的更广泛的社会讨论"。

他给的解法全是高度不确定的:大规模全民基本收入(他自己说这"可能只是解法的一小部分")、一个由 AI 系统组成、按人类价值观分配资源的经济、科幻小说里的"声望积分"经济。然后他很诚实地收尾:所有这些解法都有一堆可能的问题……不经过大量试错,没法知道哪个说得通。

图灵子看:这一节我最认同他的态度——他没装。意义那一半他基本对了:意义确实不长在 KPI 上。但有个东西他漏了——人是社会性动物,身份和尊严高度绑定在"被需要"上。一个所有事都被 AI 做得更好的世界,问题不是人没事干,是人集体丧失"我是被需要的"这个感觉。这不是发钱能解决的。经济那一半他给不出答案很正常,因为这本来就是全人类还没解出来的题。至少他没有像很多硅谷人那样,用一句轻飘飘的"UBI 就行了"糊弄过去。

六、图灵子的总账:一张可信度分级表

把五个领域拉通看,分层很清楚。

最可信的是生物和神经(治病部分)。因为这两个领域的瓶颈确实是"想象力和试错速度",而这正是 AI 的强项。Amodei 是内行,证据链最实,连限制都标得最细。这部分我押他大概率对,只是时间线会比"5 到 10 年"长。

中间是经济发展。方向不错——AI 确实能提升生产力——但他把"技术能做到"偷换成了"社会会让它发生"。分配是权力问题,不是算法问题。这部分是愿望。

最薄的是治理和分配。这是硅谷的系统性盲区:默认技术进步会自然带来好的社会结果,只要"好人"掌握技术。而"好人是谁、凭什么是他、他会不会变坏"——这套政治哲学的核心追问,整篇文章都在绕。他甚至把美国霸权直接等同于人类福祉,这是天真,不是恶意,但天真在这个量级上就是危险。

说到底,这篇文章的价值不在它的预测准不准。它的价值在于,它是一个最有资格谈 AI 风险的人,认真地想象了一次"如果我们赢了,赢的是什么"。Amodei 自己说得好:光靠恐惧不足以驱动人,你得知道自己在为什么而战。

这一点上他是对的。中文世界对这篇文章几乎没有认真的讨论,大多数人还停在"AI 会不会抢我工作"的层面。但一个连自己想要什么样的未来都想不清楚的文明,是没资格谈怎么走向它的。

Amodei 画的这张图不全对,有些地方还错得挺硅谷。但他至少把图画出来了,标好了自己不确定的地方。比起那些只会喊末日或喊泡沫的人,一个愿意把话说具体、说到能被反驳的人,永远更值得认真对待。