如何看待Dario Amodei最新文章Machines ofLoving Grace？

幸福侠侣

原文Dario Amodei — 慈爱恩典的机器

原文地址：https://www.zhihu.com/question/830534152

大力水手

I think I agree with many of the points made in his new article.
The few places where I differ from his viewpoint are that I believe we will face a singularity, while he believes we will not.
My basic idea is to consider the enormous positive feedback loop effect that AI can bring. AI will make significant breakthroughs in fields such as nanotechnology and brain computer interfaces. This will rapidly enhance human intelligence. We will be able to rapidly improve the hardware used for training AI in ways that we cannot imagine today. This will lead to a greater technological explosion.

清风寡欲

1. 事件

Dario Amodei 开通了个人博客，并发表了文章 Machines of Loving Grace: How AI Could Transform the World for the Better
https://darioamodei.com/machines-of-loving-grace
2. 分析

2.1 Dario Amodei 确信 2026 年会出现强大 AI

隶属度 0.99
2.2 Dario Amodei 认为即将出现的强大 AI 会在近十年内对社会产生若干影响

强大的 AI 有潜力在其发展后的 5-10 年内彻底改变世界，使其变得更好，他重点关注五个关键领域：生物学和健康、神经科学和心理健康、经济发展和消除贫困、和平与治理以及人类工作和生活的意义。他相信，AI 就像“数据中心里的天才之国”，将通过增强人类能力而非简单地取代人类来极大地加速进步。
Amodei 承认并解决了对 AI 风险的担忧，强调他对风险的关注源于他对 AI 巨大潜在优势的信念。他假设 AI 的智能及其与世界交互的能力将克服当前科学和社会进步的局限性，例如数据限制、实验速度和人为限制。他引入了“智能边际回报”的概念，并认为虽然某些因素仍然具有限制性，但 AI 可以逐步绕过它们。
Amodei 预测生物学和医学将迎来“压缩的 21 世纪”，在十年内实现一个世纪的进步，从而治愈癌症和阿尔茨海默病等疾病，使人类寿命翻倍，并增加生物自由度。同样，他预见了神经科学和心理健康领域的革命，治愈大多数精神疾病并改善整体人类体验。
他承认确保公平获得这些进步的挑战，特别是在发展中国家。他建议，人工智能驱动的解决方案可以根除疾病，加速经济增长，改善粮食安全，并减轻这些地区的气候变化，尽管成功取决于全球合作和解决腐败等社会因素。
关于和平与治理，Amodei 主张民主的“协约战略”，以确保民主国家控制强大的 AI，并利用它来促进全球自由和人权。他设想 AI 通过提高法律和政府系统的公平性和效率来支持民主制度。
关于在人工智能驱动的世界中人类的生活目标，他认为意义仍将源于人际关系和对挑战性目标的追求。他对人类适应并创造新的经济系统表示乐观。Amodei 相信 AI 可以最终加速人类向更公正、更公平、更充实的未来迈进。
隶属度 0.8
2.3 Dario Amodei 试图通过传播宗教风格的文章提升个人影响力

隶属度 0.4
2.4 Dario Amodei 在为 Anthropic 公司的新一轮融资造势

隶属度 0.5

清风寡欲

里面有一个链接 “Why the U.S. should fight Cold War 2” （标题没有直接点名，但通篇都是against China），基本可以代表了西方世界对华的一贯态度。
出处是博客第四章节，可以直接看高亮的句子：

长长的路

这篇文章看起来“很有意义”，但不用读（原因我下面会提到），Dario Amodei洋洋洒洒写了一两万字，结果却有点“脱节”。字数多，行文风格偏“半学术”，他关注的话题，网友并不太关注，仔细读也挺痛苦的。
我经常与网友们一起交流对AI和未来看法，我会通过解读这篇文章，来压缩它的字数，摘出一些符合“主流兴趣”的内容，并添加一些背景，来丰富阅读体验。（我是Dario的粉丝，所以，我自己细读了两遍，听了一遍录音）
①背景（我在动态里已经提到）
这篇文章，是Dario激活推特账号后的第一篇文章，（他关闭了评论），文章放在一个叫“darioamodei.com”的网站里。 这个举动和Sam Altman类似，Sam也开了一个同名网站，并提出“N千日超级智能予想”。我把它叫做针锋相对。我想Anthropic和OpenAI都已经到了第二次大融（资）的节点。
②文章立意
这篇文章相当于是一篇《基于强人工智能存在的5-10年的未来愿景手册》，相当于中国的1到2个五年计划。主要探讨了Dario关心的几个问题：医学，神经学，经济与贫困，政治影响。
③文章令人咋舌的地方
文章的措辞风格是谦逊的，但结论是咋舌的。Dario对于5-10年内达成未来可能需要100年以上的成就，感到非常乐观，5-10年内，AI会在“智力层面”无可争议地全面地超越人类，达到诺贝尔奖级别，这种水平的AI，最快会在2026年开始逐渐出现。Dario自称为EA人，但他对智能的乐观预期，比Sam更加激进，以Sam的千日计划，强AI需要三年+，而Dario认为是2年出现雏形。
（这里我要补充我的个人观点，我认为在模型训出来之前，所有的事都是未知数，没有人可以予想一个未训练的模型，包括Dario，要不然AI厂子会对Scaling Law抱有更加坚定无误的心态。我们可以从①背景部分可以推断，Dario有释放乐观预期，来帮助融资，减速泡沫AI破裂的动机，同时让自己和Doomer划清界限，让自己看起来像个热爱超级加速的EA）
④文章的其他部分
而文章接下来，就是基于“5-10年内，强AI必然存在”的前提展开的，所以这就是为什么这篇文章没有可读性原因，它实际上是一个“基于预测的预测”。我一般只预测强AI实现的节点，和可能实现的路径，而Dario直接就去掉了“实现强AI的路径”，而直接说短时间内就可以出现“强AI”，且把那些认可强AI可以存在，但把时间节点看得更保守的人评判了一番。 (但很明显，网友包括我，认为最有价值的内容应该是“如何实现强人工智能”)
他的主要理念和予想是体现在以下几个方面：
·AI在智力层面上会超越人类，什么诺贝尔奖的，都是儿科。这不仅包括推理能力，还包括了感知能力和执行能力（操控机器人），AI不是辅助科研，而是主导科研，人类听劝照做就行。
·AI会在物理世界受到了瓶颈，最有可能物理世界定律和时间（实验反应需要的时间），还有官僚主义。
·AI会让像Crispr-cas9这样的革命性工具爆发式出现，最终体现为人类平均寿命予想会达到150岁。
·AI会具有极高的道德评价能力，他认为法官是主观性的存在，未来AI要在形式上辅助法官的判决。
·AI会替代大量工作，但人类的意义并不基于“狭义的工作”，而是人际交往和通过个人挑战达成的成就感，你甚至可以在游戏里找到成就感。
·他对民主政治抱有极高的评价，认为世界的和平和先进性是建立在民主之上的。（这里我产生了一个反问：如果AI具有极高的智力和道德评价能力，那么，要达到更高的文明形态，会不会变成一种AI独裁，人们其实也根本无法自由选择“最想要的生活方式”）
⑤结尾
我想这篇文章，读到这里就可以了，实际上，我觉得有价值的只有一句话：“Dario Amodei对2026年产生强AI（的雏形）非常乐观”。

卡卡

看起来，Dario发现，Sam的造神路线一直有人买账（尽管很多人骂，仍然很多人买账），所以他也尝试学习，试图发展信徒。这是他创作的第一篇“福音”。
我认为，造神这个事情，是刻在西方文明骨子里面的。硅谷爱讨论AGI，一方面是创业者中思想活跃和远视的人更多（归根结底前提是资方更买账），另一方面是AGI这个事特别宗教。
造神，需要同时造两种事物：AGI是“神”，自己是“先知”。
像这个标题直接写了Grace，懂宗教的朋友都知道这是什么暗示。但是，现在的AI既非Machine，也不Loving，也没Grace。
因此，搜一下会发现，来自1967年在美国著名的诗歌：


这首诗的有趣之处是“Reviewers disagree whether it should be taken earnestly or ironically”，可能作者Richard Brautigan也纠结（当时是hippie年代，流行摆烂），这种纠结就是他想表达的。大家对于AGI同样纠结。
作为“先知”，需要阐明三个要义：

• 对于未来的预测。
  
• 对于信徒的承诺。
  
• 对于非信徒的恐吓。
  

大家对于AGI，就是一方面说这个非常好，另一方面说这个非常可怕。其实不全是故意这样说，而是AGI本来就有这些性质，本来就很宗教。其实AGI还具有“外神”的性质，还挺克。
<hr/>对于文中内容，我的看法是，种种证据反复证明，现有的“数据密集路径”做出的AGI会是一个很怪的东西，它的强项和弱项与人类相异。
至于需要多少年，从实事求是的角度，有两个瓶颈，和自动驾驶类似：1.渗透率。2.实体。
<hr/>最后我们再八卦Dario的造神计划。
万物的终点是带货，带货的终点是造神，发展脑残粉信徒。
但是Dario的形象太典，辨识度为零。如果不搜图，没人知道他长什么样。他需要先减30斤。


近期有一个小教主Bryan Johnson证明了，人先得廋。


现在Zuck也在研究造神，从前是“机器蜥蜴人”，现在有swag了，应该是因为，Llama系列走开源路线（资方也买账），所以需要亲民风。


其实cohere老板挺注重形象，造型讲究，但是，模型特点不够，还没法参与造神赛道。