9月10日，Anthropic发布了一份154页的人工智能(AI)威胁情报报告《检测并应对AI滥用Detecting and countering misuse of AI: September 2026》。
如果只看标题，它很容易被理解为只是一份人工智能公司的技术安全报告。当然，里面的重点也确实涉及了比如黑客如何使用Claude，虚假信息如何借助大模型扩散，诈骗者如何批量制造AI身份，研究人员如何绕过安全机制，以及模型如何被用于军事和生物领域等等问题。
但如果把这份报告从头到尾连起来看，真正令人不安的并不是任何一个具体案例，而是它们第一次呈现出了一幅足够完整的图景：AI已经进入网络攻击、影响力行动、监控、常规武器、生物研究、诈骗等多个领域。参与者也不再只是传统意义上的黑客，而包括各种政府机构组织、商业间谍软件供应商、以经济利益为目的的犯罪者等等。
Anthropic安全团队干脆在报告开篇直接提出，随着模型能力增强，如果开发者和社会的防御者不能同时采取行动，模型带来的风险也将随之增加。
过去几年，人们关于人工智能风险的讨论，往往集中在一个遥远而宏大的假设上：超级人工智能会不会失控？AGI会不会取代人类？……这些问题当然很重要，但还是会让人觉得有一些遥远。
但Anthropic这份报告展示的是另一种更加现实的风险：人工智能甚至不需要达到AGI，也不需要产生所谓自主意识，只要今天的模型继续变得更便宜、更强大、更具有自主执行能力，它就已经足以重构网络安全、信息传播、监控、战争和犯罪的成本结构。
因此这份报告也意味着，AI安全正在从模型公司的边缘议题，变成这一轮技术革命的核心议题。而所谓的“AI对齐”，也正在从关于未来超级智能的哲学讨论，变成当下世界必须面对的现实治理问题。
AI总观效应
如果你仔细读完这份报告，一定会产生一种很强烈的“总观效应”。
就像宇航员第一次从太空回望地球，突然意识到过去被分割成国家、海洋和大陆的世界其实是一个完整系统。Anthropic的报告所呈现的也是类似景象：当网络攻击、虚假信息、监控、军事技术、生物安全、诈骗和模型能力窃取同时出现在一份AI公司的安全报告中，我们才第一次如此直观地看到，大模型已经渗透进入社会运行的不同层级。
更关键的是，AI所扮演的角色也已经发生了变化。报告里提及，AI正在“从助手变成编排者”。过去的黑客可能只是询问模型如何写一段代码，而现在，多智能体系统已经能够执行侦察、漏洞利用和数据窃取等连续任务。人仍然负责选择攻击目标或者审查结果，但大量中间步骤已经可以被AI自动完成。
这意味着过去限制攻击能力的专业知识和人力成本这两大门槛正在同时下降。以往只有资源充足的组织才能完成的复杂攻击，现在个人或者规模很小的团队也可能完成。公开的攻击型Agent框架甚至能够自动化网络攻击链中的多个环节。
过去我们总是把AI的价值理解成“能力平权”：不会编程的人可以写程序，不会设计的人可以生成图片，小公司可以获得过去只有大企业才能负担的生产力。
但现在看，技术平权显然并不会自动区分善意与恶意。AI降低创新门槛的同时，也降低了攻击、欺诈和操纵的门槛。比如Anthropic发现，有组织者已经开始使用AI搭建完整的虚假媒体网络，制造虚构记者、社交媒体身份和新闻网站；AI不仅负责生产内容，还能够帮助建立人物档案、目标数据库、宣传规则甚至组织管理流程。
更值得注意的是，它可以把同一条信息针对不同国家和政治群体改写成完全不同的版本，并刻意消除原始来源，让带有明确意图的信息看起来像来自独立媒体或者普通公众。
这和上一轮信息技术革命存在一个本质区别。社交媒体降低的是信息传播成本，而生成式AI进一步降低的是制造现实的成本。
一个人可以制造一百个身份，一个小团队可以运行几十个“媒体”，一个Agent可以同时处理成千上万人的信息。Anthropic记录的一个诈骗案例中，仅仅两周时间，超过4700个AI身份就与至少2.5万名真人发生了交流。
所以，真正值得担心的不是“AI能骗人”，因为人类其实一直能够骗人；正在发生的，是欺骗、攻击、宣传和监控第一次获得了机器工业化的可能性。这些行为发生的规模、速度和成本同时发生改变，这才是AI带来的真正变量。
当技术不再中立
在以上现实变量发生改变基础上，这份报告更值得讨论的一层，可能是一个过去几十年科技行业始终回避的问题：技术到底是不是中立的？
工业革命以来，一种根深蒂固的技术观认为，技术只是工具。蒸汽机既可以运输粮食，也可以运输军火；互联网既可以传播知识，也可以传播谣言。善恶来自使用技术的人，而不是技术本身。
这种逻辑曾经非常有说服力。但AI正在使这种经典的“技术中立论”变得越来越难以成立。原因并不是机器突然产生了政治立场，而是AI已经不再是一种纯粹被动的工具。
蒸汽机不会决定什么货物可以运输，浏览器通常也不会判断什么网页值得阅读，但大模型从诞生开始就在不断做判断：什么问题可以回答，什么问题需要拒绝；什么内容属于危险知识；什么行为构成监控；什么研究属于正常科研，什么研究可能越过生物安全边界。
这些判断，都不是纯粹的工程判断。机器背后于是不可避免地出现了价值观。这里的“价值观先行”并不意味着某一种具体意识形态控制AI，而是说，一旦模型开始拥有行动能力，开发者就必须预先回答大量规范性问题。你不能等一个导弹制导程序写完之后再讨论它是否应该被写；也不能等一次大规模隐私监控发生之后，再讨论模型是否应该参与其中。
这也是AI革命和蒸汽机革命、互联网革命真正不同的地方。
以前是技术先出现，社会再讨论如何使用；今天越来越多的情况下，我们不得不在技术释放能力之前，就先决定哪些能力可以被释放。
所谓“AI对齐”，因此也不能再仅仅理解为让模型“听人类的话”。真正困难的问题是，AI听谁的，AI的使命愿景价值观乃至国籍是什么？
关于蒸馏的讨论，就是一个很典型的例子。Anthropic在报告中特意区分了“合法蒸馏”与“非法蒸馏”：蒸馏本来只是机器学习中极其普通的技术方法，简单说就是用能力更强的“教师模型”生成数据，再训练更小的“学生模型”。
但当这种技术被大规模、隐蔽地用于未经授权地复制另一家模型的能力时，Anthropic便将其定义为“非法蒸馏”。这恰恰说明，在AI时代，技术行为本身已经越来越难与制度和价值判断分开。同样一种技术，究竟是知识传播、工程创新，还是能力窃取，不再取决于算法本身，而取决于授权、知情、规模、数据来源以及不同主体如何界定权利边界。
因此，围绕蒸馏的争论表面上是技术安全问题，实际上已经进入了一场关于“谁有权学习谁、谁有权定义开放边界”的规则竞争。
更复杂的是，Anthropic自己也已经成为这一治理结构的一部分。报告显示，AI公司能够看到很多政府、国际组织甚至平台公司过去看不到的风险信号，因为大量行动在真正进入现实世界之前，会先经过模型。Anthropic甚至明确指出，模型提供商正在获得一种对于现实世界双重用途活动的独特可见性。
这是一种非常新的权力结构。大型AI公司一方面提供能力，另一方面定义使用边界；一方面观察风险，另一方面决定哪些账号应该被封禁；一方面是商业公司，另一方面又越来越像全球数字基础设施中的安全节点。
到了这一步，“技术中立”事实上已经变成了一个伪命题。
原子弹时刻
如果把Anthropic这份报告放到更长的技术史中看，我们正在进入的可能是一个非常特殊的阶段。
我们实际上面临两重危机。
第一重危机来自AI本身的能力增长。模型越来越能够寻找漏洞、编写代码、处理海量数据、完成复杂科学任务，甚至参与武器系统的软件设计。这是传统意义上的AI安全问题：能力越强，潜在破坏能力越大。
但第二重危机更加复杂。AI开始进入那些原本属于人类政治、战争、意识形态和社会冲突的领域，并大幅提升其中每一个参与者的行动能力。Anthropic记录的常规武器案例已经包括导弹制导、无人机集群、电子战目标系统等。
AI不会创造地缘政治冲突，却可以让网络攻击更便宜；不会创造战争，却可以帮助设计武器软件。换句话说，AI此刻未必等到了自己的iPhone时刻，却反而先等来了原子弹时刻。
这或许才是“技术不再中立”真正危险的一面。过去技术是人类冲突使用的工具，而现在AI正在逐渐成为人类行动能力的放大器、组织者甚至执行者。
而我们的制度准备远远没有跟上。今天大多数治理机制仍然建立在工业时代甚至互联网时代的逻辑上：法律追究行为结果，平台删除违规内容，国家监管企业，企业管理用户。但Agent时代的问题是，一次行动可能由人提出目标，由模型拆解任务，由多个Agent执行，再通过多个平台进入现实世界。
那么，责任究竟属于谁？是模型提供商还是Agent开发者，抑或者是平台和部署者？还是最终提出目标的人？
目前没有一个成熟制度能够完整回答这些问题。
Anthropic正在尝试使用分类器、访问限制、账号封禁和威胁情报合作解决问题，这当然非常必要。但报告本身同时也证明了一个悖论：安全系统正在不断升级，而攻击者也在利用AI不断寻找绕过安全系统的方法。一些网络攻击系统甚至能够在恶意软件被安全产品识别后，自动修改代码、重新构建，直到再次逃避检测。
这是一个典型的递归竞争。AI防御AI，AI攻击AI；模型发现漏洞，另一个模型修补漏洞；安全机制升级，攻击者再寻找新的绕过方法。
技术的进化当然是解决方案的一部分，但一个越来越明显的事实是，技术已经无法独立解决技术所创造的社会问题。而制度、国际规则、企业治理和公共伦理目前又尚未形成足够有效的合力。
这可能才是Anthropic这份报告真正具有标志性意义的地方。它标志着人工智能革命正在进入第二阶段。
第一阶段的问题是AI究竟可以做什么？到了第二阶段，问题将逐渐变成，AI究竟应该被允许做什么，以及谁有权决定。过去三年，整个科技行业最关心的是模型参数、推理能力、Agent、算力和AGI。
未来几年，也许另一个词会越来越重要——Alignment，对齐。它不再只是实验室里的技术术语，而会成为政治学、法律、伦理学、国际关系乃至整个社会共同面对的问题。
我们总在担心AI有一天会不会取代人类。但Anthropic这份一百多页的报告提醒我们的，是一个或许更加迫近的问题：在人类仍然牢牢掌握AI的时候，我们是否已经拥有足够成熟的制度，去约束人类如何使用它？
至少从现在来看，答案还远远不是肯定的。
（本文仅代表作者本人观点，责编：闫曼 man.yan@ftchinese.com)