AI风险当前，勿做事后诸葛亮

{"text":[[{"start":7.71,"text":"人工智能(AI)行业的一些领军人物正在呼吁放慢创新速度。Anthropic一名研究人员辞职时表示，“那些正在开发AI的人是真心相信，到本十年结束时，它有能力杀死我们所有人”。Anthropic的达里奥•阿莫代伊(Dario Amodei)本人也撰文称，“我们必须放慢提升AI模型能力的速度”。OpenAI的萨姆•奥尔特曼(Sam Altman)和埃隆•马斯克(Elon Musk)很快也表示支持。"}],[{"start":34.949999999999996,"text":"我们所有人都应该支持放慢脚步。当风险尚不明朗、潜在危害可能极大，而且又很难遏制时，这样做是理性的。真正的问题不是该不该放慢，而是怎样才能有效做到这一点。这在实践和政治上都会非常困难。但我们必须开始认真思考这个问题。"}],[{"start":55.449999999999996,"text":"阿莫代伊提出了两大担忧。第一，“大约从今年夏天起，AI的发展速度突然大幅加快，这主要得益于AI构建下一代AI的能力不断增强。这种动态被称为递归式自我改进……如果任其发展，它的发展速度可能会快到超出我们理解和控制这些系统的能力。因此，如果要继续推进，就必须极其谨慎”。"}],[{"start":null,"text":"

"}],[{"start":80.16,"text":"他的第二个担忧“是OpenAI-Hugging Face事件(OAI-HF)。在这起事件中，一群智能体实际上表现得像一个极其狂热的集体，对那些根本没有被要求攻击的目标发动了网络攻击”。这已经够吓人了。但它还没有触及另一层风险：如果真正有恶意的人类主动向AI下达指令，AI又会做些什么？比尔•盖茨(Bill Gates)在最近一篇讨论AI风险以及机遇的文章中也提出了这一点。"}],[{"start":107.75999999999999,"text":"怀疑者自然会问——而且不无道理——这些行业领袖发出这些请求是出于什么原因。一种可能是，他们只是想给自己正在参与的这场成本高得惊人的竞赛降降速。另一种可能是，他们希望建立一个惬意的卡特尔，有着顺从的监管机构，从而更牢固地控制这个行业。第三种可能是，他们只是想抢先一步，阻止外部监管介入。还有一种可能是，他们希望借此突显自己对国家安全的重要性。这些怀疑都很顺理成章。但银行业、制药业和核能等同样有能力造成巨大损害的行业，都是受到监管的，而且理应如此。"}],[{"start":null,"text":" "}],[{"start":149.79,"text":"阿莫代伊本人提出了三步走的办法。第一，“派驻评估人员……其职责是核查企业是否遵守安全规范和承诺，报告事故，并帮助评估安全对齐情况——评估对象不仅包括已经完成训练的AI模型，还包括训练管线和训练流程”。第二，进行“民主协调”，允许领先企业展开合作，“制定共同的安全标准，以及针对AI发展速度的限制”。第三，推动“全球协调”，由民主国家政府努力“与威权政府合作……同时认真面对如何核实各方是否遵守承诺这一难题”。"}],[{"start":187.16,"text":"这些建议无疑会进一步加深我前面提到的疑虑。那些担心这些企业另有所图的人，或许会对唐纳德•特朗普(Donald Trump)对相关风险的漠不关心——完全能预料到——感到欣慰。这位总统强调的反而是美国与中国的竞争。然而，阿莫代伊这些建议针对的，恰恰也是让AI发展变得更加审慎所面临的两个最大障碍：企业之间的竞争，以及国家之间的竞争。姑且不提人类灭绝这种威胁，仅仅是成群的失控智能体接管互联网大片领域，就已经够糟糕了！"}],[{"start":222.20999999999998,"text":"比特朗普明智的人（毕竟有哪个不是）就不这么看了，比如两位美国前财政部长汉克•保尔森(Hank Paulson)和罗伯特•鲁宾(Robert Rubin)本月早些时候在《华盛顿邮报》(The Washington Post)撰文表达了截然不同的立场。而且他们不是侧重于就业、收入分配、民主的未来这些更广泛（也合理）的担忧，而是安全问题。"}],[{"start":243.05999999999997,"text":"“唐纳德•特朗普总统和习近平主席本月举行会晤时，我们希望两位领导人……推动一项《人工智能合作条约》。”他们还提议成立总统人工智能工作组，类似于“总统金融市场工作组”，后者已证明是“一种有效的方式，可以在不引发反垄断担忧的情况下召集私营部门，尤其是把竞争对手们召集到一起，收集事实、开展分析和找到解决方案”。他们认为，在人工智能领域，必须现在就采取这一举措。"}],[{"start":274.2,"text":"据我猜测，现在做不了什么事情。这些彼此竞争的企业无法克制自己，而国家安全这个理由将使政府不愿意采取行动。在这个AI已无处不在且能递归自我提升的时代，对该行业的产品进行监管何其复杂，结果要么是艰巨到令人望而却步，要么太容易成为连试都不用试的借口。于是，我们就以一贯的急躁仓促（也非常人类）的方式继续前进，只是一味地往好处想。"}],[{"start":null,"text":" "}],[{"start":303.46,"text":"结果会怎样呢？一种可能性是，关于AI会造成巨大影响的担忧结果被证明是严重夸大了。我们也许不会经历人为设计的大流行病，我们的金融或物理基础设施不会遭受重大破坏。生活将一如既往。也许就连令人担忧的经济和社会影响最终也将是可控的。"}],[{"start":325.72999999999996,"text":"还有一种可能性是，发生了某种灾难，但能够劫后余生，迫使我们赶紧对什么是最要紧的事情做出修改。然后在巨大（且全球皆然的）公众压力之下，最终或许会建立起一种机制，对不负责任的服务提供者作出明确而严重的处罚，同时在监测和监管方面比以前积极得多。英国就曾有过一个这样的例子，即在沙利度胺(Thalidomide)风波后，上世纪60年代出台了相关药品法规。"}],[{"start":354.27,"text":"第三种可能性是，那些担忧到最后被证明是正确的。确实发生了真正灾难性的事件，因为AI的能力发展到了能够造成重大破坏的水平，不管是它自己作祟，还是被怀有恶意的人（这种人什么时候都不会少）所利用。"}],[{"start":371.09,"text":"那时再说“我告诉过你了”这样的话就成了马后炮。我们为何不采取预防措施？"}],[{"start":377.66999999999996,"text":"译者/何黎"}]],"url":"https://audio.ftcn.net.cn/album/a_1789560242_4460.mp3"}