AI 发展如洪水，政策制定如步行
2026年6月10日，人工智能领域的重要企业 Anthropic 的首席执行官 Dario Amodei 发表了一篇题为《关于 AI 指数级增长的政策》（Policy on the AI Exponential）的长篇论文。在这篇文章中，Amodei 用了一个生动的比喻来形容当前的局面：就像《指环王》中霍比特人试图唤醒树人（Ents）来保卫森林一样，AI 技术正以惊人的速度向前狂奔，而各国的政治和法律进程却慢得像是在散步。
这篇论文发表在一个非常关键的时间点。Amodei 指出，在仅仅 四年的时间里，AI 模型从只能勉强写出一行像样的代码，发展到如今已经能编写出主流 AI 公司里的大部分代码。在生物学、物理学、数学、金融、法律和翻译等领域，AI 的进步同样令人瞩目。支撑这种指数级进步的是所谓的“扩展定律”（Scaling Laws），即随着计算能力的增加，AI 的通用认知能力也会呈指数级提升，这一规律已经积累了十多年的实证数据。
“如果这些扩展定律能再持续一两年，我们很可能会得到我所说的‘强大 AI’（Powerful AI），或者说是‘一个数据中心里的天才国度’。” Amodei 在文章中写道。
风险已迫在眉睫：网络安全首当其冲
Amodei 强调，近几个月来，AI 的力量和风险已经变得不容忽视。最典型的例子是 Claude Mythos Preview，这个模型展示了前沿 AI 模型对网络安全构成的真实威胁，其潜在影响可能波及金融系统、关键基础设施和国家安全。Amodei 表示：“Mythos Preview 彻底改变了全球网络安全的格局。” 他还警告说，生物安全风险和 AI 自主性风险可能紧随其后。
五大政策领域：从监管到全球联盟
这篇论文的核心部分，是 Amodei 提出的需要在 AI 时代重新思考的五大政策领域：
1. 监管与公共安全：建立“AI 版 FAA”
Amodei 提议，效仿美国 联邦航空管理局（FAA） 的模式来监管 AI。具体来说，超过一定计算能力门槛的 AI 模型，必须由独立第三方在四个关键领域进行强制测试：网络安全、生物武器、AI 系统失控风险，以及可能加速上述风险的自动化研发。政府应有权阻止或威慑那些存在不可接受风险的模型上线。
2. 宏观经济与财政政策：应对就业冲击
Amodei 警告，AI 可能带来极其快速的经济增长，但同时也会导致大规模且持久的失业问题。他建议：对就业流失情况进行监测和跟踪；推出促进就业的激励措施，例如工资保险、税收优惠以避免裁员、再就业培训等；以及长期宏观经济的支持，包括通过向相关企业或资本利得征税来资助的全民基本收入（UBI） 机制。
3. 加速 AI 的积极影响：改革生物医药审批
在生物医药领域，Amodei 担心现有的监管机构（如美国 FDA 和欧洲 EMA）无法应对即将到来的大量 AI 辅助研发的新产品。他提议进行改革，允许在临床试验中接受 AI 模拟、药代动力学和药效学模型、毒理学预测以及合成对照组等创新方法。
4. 国家与公民自由：防止 AI 成为独裁工具
Amodei 认为，AI 可能成为独裁政权的终极工具。他建议：为自主武器制定责任规则；禁止在国内使用完全自主的武器；堵住企业大规模收集数据的漏洞；并确保公民在面临政府不利行动时，能获得与政府同等能力的 AI 法律顾问。
5. 确保民主国家的领导地位：建立全球联盟
Amodei 呼吁建立一个全球民主国家联盟，共同致力于：按照共同价值观构建 AI；管理芯片和半导体设备的供应链；协调应对风险；共享收益；提供共同防御；并共同抵制由 AI 驱动的镇压行为。
Anthropic 已提出具体立法建议
除了发表论文，Anthropic 还同步发布了一份关于前沿模型测试的立法提案，以及一份关于应对就业流失的政策框架，并承诺提供大量资金支持。Amodei 表示，这些是“展示我们认真态度的第一步”。
机遇之窗：现在行动正当时
尽管挑战巨大，Amodei 在文章结尾仍表现出乐观态度。他认为：“AI 风险的清晰而现实的证据、AI 创造经济价值的初步体验，以及公众对不受监管方式的明显反感，这三者汇聚在一起，创造了一个难得的局面——政策制定者比以往任何时候都更愿意接受具有前瞻性的行动。”
这篇论文的全文可以在 Anthropic 的官方网站上查阅。Amodei 在文中感谢了 Allan Dafoe、Mariano-Florentino Cuéllar、Richard Fontaine、Buddy Shah、Vas Narasimhan、Matt Yglesias、Nick Beckstead、Jason Matheny、Brad Carson 等多位人士的意见和帮助。
原文来源：Dario Amodei 的论文原文