上一篇拆了 Anthropic CEO 达里奥·阿莫迪（Dario Amodei）这期访谈的前半段：一家 AI 公司怎么把商业模式和价值观对齐。从访谈第 28 分钟开始，话题拐了一个弯，火力也猛了一个档。前半段聊的是公司怎么赚钱，后半段聊的是一件更大的事：当一项技术通用到几乎能做任何任务，它就不再是产品问题，而是权力分配问题。就业、军事、国家、文明，全是这一个问题的不同切面。而达里奥给出的最终答案，不是”相信我”，恰恰是”别相信我”。原视频在这里：Inside the Mind of Anthropic CEO Dario Amodei。
为什么这次的就业冲击和织布机不一样
达里奥之前有个广为流传的说法：AI 可能抹掉一半的入门级白领工作。很多人说他危言耸听。主持人问他现在还信不信。
他先做了澄清：这话被外界夸大了。他实际说的是：可能出现这样一个世界，相当一部分入门级白领工作（也许一半）在某个时间跨度里被替代或消除，这可能导致失业率出现几个百分点、甚至 10% 到 20% 的尖峰。他强调自己说的是”这是一个我们应该警惕的风险”，不是”这一定会发生”。也有可能一切都好，人们适应了，新工作冒出来。
但接下来这段论证，是整个就业话题里最硬的一块，值得记住。他说他最反对的，是那种挥挥手就说”以前每一项技术创造的工作都比毁掉的多，所以别担心，会没事的”的人，这太轻佻了。
AI 跟过去的技术不一样，因为它是通用的。 织布机自动化了织布这一件窄的事，汽车取代了马，过去的技术每次只自动化某一个狭窄的环节。但 AI 原则上几乎什么任务都能做。所以你不能拿过去那些只替代单一工种的技术，去推断这次也会自动没事。
这句话我愿意单独标出来，因为它正好是”稀缺品上移”判断的反面。一个常见的乐观理解是：AI 让生产变廉价，于是判断力、品味这些上移成了稀缺品。达里奥补上了硬币的另一面：当变廉价的不是某个工种，而是几乎所有能自动化的认知劳动，那么站在替代浪潮一侧的人，规模可能比历次技术革命都大。乐观的”上移”和悲观的”替代”说的是同一件事，只是站在了不同的人那一边。
那该怎么办？达里奥的答案分三层：第一，诚实，别讲人们爱听的话；第二，帮人理解和使用这项技术，因为过得最好的是那些会用 AI、会乘上这波浪的人；第三，如果真的发生了这种掏空，可能需要政策回应。他提过一些想法，比如对 AI 调用量征税之类的再分配手段，但他坦承现在还太早，说不清政策到底该是什么。”最重要的事，就是对正在到来的东西保持诚实。”
主持人这里追了一个很尖的问题：你自己用这么直白的措辞谈论这些，你会不会担心你正在制造你所警告的那种焦虑？
达里奥说他确实想过这个，而他每次得到的答案是：如果我认为某件事是真的、是重要的，我就应该说出来。最糟的事是因为某个真相不方便、会吓到人，就闭口不谈。长远看，人们知道真相会过得更好。他宁愿诚实地让人有所准备，也不愿粉饰太平、让人措手不及。”但我承认，这确实是一个真实的张力。”
五角大楼对峙：守住那条不能越的线
访谈里有一段对峙，是关于国防部的。
达里奥说 Anthropic 有一套使用政策，其中明确规定他们的模型不能用于武器开发、不能用于国内监控。然后国防部想跟他们合作，他们也乐意合作，但他们想保留这些限制。中间就这些限制到底怎么定，来回拉锯了一阵，最后达成了协议。
他不肯讲细节，主持人问”他们到底要你做什么”，他说不想进入具体讨论了什么。但他把原则讲得很清楚：”我们有这些使用政策，我们非常认真地对待它们。我们不会因为有人想付钱，就把它们扔掉。”
这段配合后面”AI 与战争”那一节一起看才完整。达里奥的立场不是反对 AI 进入国家安全，恰恰相反。他认为 AI 对国防极其重要，战争的形态会变，掌握这项技术的国家会有巨大优势，所以民主国家、美国及其盟友必须保持领先。他描述的”另一种世界”是：威权政府在 AI 上领先、并用于军事目的，那是一个令人恐惧的世界。
所以他要穿的是一根针：一边支持民主政府，一边不愿让模型用于无差别的武力。主持人问那条线画在哪：你只做防御不做进攻？他承认攻防之间的界线并不总是清楚，但有几条硬线是死的：大规模杀伤性武器、对平民人口的监控。这些之外是大片灰色地带，只能尽力导航。
我的补充：这一段最值得注意的不是”Anthropic 有原则”，而是这套原则在商业压力下真实经受过一次测试，并且（按他的说法）守住了。上一篇讲的”商业模式和价值观对齐”是设计阶段的事，五角大楼这一场是运行阶段的事：设计得再漂亮，遇到一个肯出大钱、又带着国家安全光环的客户，原则会不会软掉？达里奥给的答案是没有。这个答案是真是假，外人无从完全核实，但他至少把它公开说成了一条可被未来检验的承诺。
Mythos、国家级网络攻击，和”好 AI 防坏 AI”
达里奥常用一个词叫 mythos（神话）。他的意思是，我们关于 AI 讲的那个故事本身是有后果的：我们怎么想它、怎么谈它，会反过来塑造现实。而危险在于，我们容易把它神话成一个比真实更庞大的东西。造它的人有时会用一种浮夸的口吻谈它，这本身可能是危险的。他主张的是清醒：冷静、理性地看清这项技术是什么、不是什么。
紧接着是一个很具体的事件。Anthropic 最近披露过一份报告，说 Claude 被用于一次网络攻击。达里奥确认：他们检测到一个他们认为是国家级行为体在用他们的模型实施网络攻击，他们抓到了、关停了、并公开报告了。他判断这是最早一批由 AI 大量自主完成工作的网络攻击之一，是”未来的信号”，以后会越来越多。
他对攻防的判断值得记下来：攻击和防御都会同时升级；他担心短期内攻击方可能占优，但长期防御会追上来。而他给出的那条原则是：AI 是对抗恶意 AI 的最好防御，我们需要好的 AI 来防御坏的 AI。这也是他解释 Anthropic 为什么做现在这些事的一部分理由。
国有化、中国，和那本关于原子弹的书
后半段密度很高，我把几个国家层面的判断压在一起。
国有化：达里奥认为不太可能。更可能的剧本是政府和私营部门的某种合作，而不是政府接管 AI 公司。但他确信监管和监督会越来越多，而且他认为这是恰当的。他怕的是两头——过度监管扼杀创新，以及完全没有护栏的放任。在美国那场关于”暂停各州 AI 监管”的推动上，他明确表示反对：他宁要联邦层面的统一监管，也不要各州拼凑的补丁，但”完全不监管”在他看来是个错误。
中国：达里奥承认自己在对华问题上偏鹰派，支持对芯片出口管制。他的逻辑落在同一个点上——谁来控制这项强大的技术。如果中国政府在 AI 上领先，那是一个威权价值观上升的世界；他更想要民主价值观领先的世界。出口管制是他认为为数不多的杠杆之一，能为美国及其盟友争取领先的时间。他也承认这可能刺激中国自建芯片，但他觉得买到的时间差是有价值的，前提是这段时间要用得聪明。他最怕的是中美难分高下、疯狂竞速、没有任何时间去想安全——出口管制给的是喘息的空间。被问到会不会担心因为台湾和芯片爆发热战，他说会，台湾是一个引爆点，世界这么大比例的芯片产能集中在那里是真实的风险，这也是为什么要在美国本土建更多芯片产能。
递归自我改进：被问到”AI 造更好的 AI”是不是真在发生，他说已经看到了开端。他们自己的研究员用 Claude 帮忙写代码、设计实验、分析数据；随着模型变强，它们会做越来越多这类工作，到某个点上模型会承担大部分 AI 研究。他形容这”既令人兴奋，又有点吓人”——一旦 AI 开始改进自己，速度可能急剧加快。
被问最爱的书，他答《原子弹的制造》（Richard Rhodes 的 The Making of the Atomic Bomb）。他说核武器的发展和 AI 的发展之间有很多平行之处。这个选择本身就是一个隐喻：一项威力巨大、由少数实验室推动、一旦释放就回不去、且立刻成为国家间权力筹码的技术。
“别相信我”
访谈最后，主持人问了一个最直白的问题：我们为什么要相信你？
达里奥说这是个好问题，而他的回答是——你不应该仅仅相信我。信任必须靠行动赢得：他们公开安全研究、对所做的事保持透明、有使用政策并且遵守它。他说他们能做的最糟的事，就是要求人们盲目相信。
然后是这期访谈我认为最值得带走的一句。他说，在一个民主社会里，你不相信任何单独的一个人或一家公司，你建立制度，你建立制衡。AI 需要同样的东西。”别相信我，相信我们为治理这项技术而建立的系统、制度。”
把这句话和第一篇连起来读，整个访谈的内在逻辑就闭合了。前半段他讲商业模式要和价值观对齐——那是把约束写进一家公司的结构里；后半段他讲别信我要信制度——那是把约束写进整个社会的结构里。两边是同一种思路在不同尺度上的重复：不要依赖任何人（包括他自己）的善意，要依赖结构。 一个不靠用户黏性靠模型质量、不靠出大钱的客户松动原则的公司，和一个不靠 CEO 人品靠制衡来约束的行业，是同一套世界观的两次表达。
我无法替达里奥担保这套说辞有多少落到了实处——网络攻击报告、五角大楼守线、安全研究公开，这些是可以被一件件检验的承诺，时间会给答案。但作为一个判断框架，”别信我，信制度”比任何”我们是好人”的表态都更可信，因为它把验证的权力交还给了外部，而不是要你闭眼。在一个所有 AI 公司都抢着说自己最负责任的时代，愿意把”你不该信我”说出口，本身就是一种不太一样的信号。
本文基于 Bloomberg Originals 对 Anthropic CEO Dario Amodei 的访谈整理，配以个人解读，标注「我的补充」处为作者观点。这是下篇（权力与终局），上篇谈商业与竞速。
AI周刊：大模型、智能体与产业动态追踪