{"text":[[{"start":7.77,"text":"人工智能会引发金融危机吗？本周，随着世界各国领导人齐聚纽约参加联合国大会(UN General Assembly)，这一问题萦绕在人们心头。"}],[{"start":18.1,"text":"一些投资者担心，AI股票泡沫可能破裂，数据中心相关债务也可能违约；而许多联合国大会与会者提出了另一个问题：恶意行为者会不会利用AI，对金融市场等关键基础设施发动破坏性网络攻击？"}],[{"start":34.3,"text":"微软(Microsoft)和盖茨基金会(Gates Foundation)创始人比尔•盖茨(Bill Gates)认为，这类威胁真实存在。他告诉我，AI如今是人类迄今创造的最危险技术，“远远超过”其他技术。他希望各国政府和科技公司安装AI监测系统，以识别并尽可能阻止任何恶意使用AI的企图。"}],[{"start":54.64,"text":"这或许会成为现实。中美正考虑设立一条联合“热线”讨论AI风险，这是朝正确方向迈出的一小步，虽带有象征意义。联合国大会期间此类讨论的增多也有同样意义。不过，我们还需要采取力度大得多的行动。当政界人士、投资者和选民消化这些宏大的承诺时，也应关注另一个不那么光鲜、也不那么受关注的领域：全球监管。"}],[{"start":82.68,"text":"公众视线之外，各地监管机构正讨论如何应对AI带来的金融风险。这不仅涉及全球层面的高层协议，也涉及监管者自身如何细致地使用AI智能体系统。说白了，一些官员正试图用AI来应对AI带来的风险。"}],[{"start":101.91000000000001,"text":"这听起来可能有些违反直觉。但本月早些时候，我在剑桥(Cambridge)参加了一场数字监管会议，亲眼见到了一个例子。会议由一个我担任顾问的倡议项目主办，并由国际清算银行前总经理阿古斯丁•卡斯滕斯(Agustín Carstens)和英国金融行为监管局(Financial Conduct Authority, FCA)主席欧达礼(Ashley Alder)共同召集。会上还举办了据称全球首场“智能体监管机构”黑客马拉松。"}],[{"start":128.02,"text":"来自西方和非西方国家、涵盖金融与非金融领域的数十家监管机构参与其中，近300支团队提交了方案。在这场热潮中，三项关键经验浮现出来。"}],[{"start":141.16000000000003,"text":"首先，监管者如今意识到，不能坐等政治人物制定合适的法律或监管框架来管控AI；AI领域的发展速度已超过立法机构采取行动或达成外交协议的速度。一位高级监管官员指出：“我们必须充分发挥现行法规赋予的权力，创造性地开展工作。”"}],[{"start":161.44000000000003,"text":"这并不容易；官僚体系向来较为保守。但这至关重要：正如卡斯滕斯所指出的，央行面临的一大难题是，大多数AI相关金融风险都在其监管边界之外。只需看看银行对少数云服务提供商的风险敞口过度集中即可。"}],[{"start":180.76000000000002,"text":"在美国，财政部长斯科特•贝森特(Scott Bessent)正利用自己的职权平台推动解决这一问题；他最近召集银行家，讨论Anthropic的Claude Mythos人工智能模型，以及外界对该模型可能发现金融网络安全漏洞的担忧。在英国，英格兰央行刚承诺将云计算公司列为“关键第三方”并实施监管。国际清算银行也在开展自己的创新试验。但我们需要打破监管壁垒。"}],[{"start":209.79000000000002,"text":"第二，“可解释性”这一概念——即数字模型的透明度、可理解性和可问责程度——可能需要重新审视。监管机构长期以来一直要求金融领域具备可解释性，但在AI领域，这一要求很难执行。"}],[{"start":225.49,"text":"有人可能会认为，这足以成为禁止使用AI的理由。但这似乎不切实际。因此，主要监管机构正悄然转向一种做法：重点追踪AI模型的结果、设置防护机制（例如紧急停止开关），同时推动明确法律责任的归属。"}],[{"start":243.57,"text":"第三，监管机构亟需亲自上手，开发自己的AI工具，既要借此了解这项科技，也要加强监测。好消息是，一些监管机构已经在这样做：在本月举行的黑客松活动上，现场展示了种类繁多、令人眼花缭乱的AI智能体。有些智能体追踪资金流动，另一些则监测市场羊群效应、欺诈风险、脆弱性以及金融智能投顾等。"}],[{"start":269.93,"text":"值得注意的是，许多最具创意的想法并非来自西方机构，而是来自印度、巴基斯坦、卢旺达、肯尼亚和阿联酋等地。据称，到2028年年中，阿联酋一半的政府服务将使用AI智能体。"}],[{"start":285.27,"text":"这些实验不太可能登上媒体头条，更不用说让那些希望采取更具戏剧性的行动来放缓这项科技发展的人工智能“末日论者”感到安心了。这也在情理之中：美国和中国政府当然必须在最高层面展开合作，以遏制相关风险，同时应借鉴金融或核武器领域其他全球监管举措的经验。"}],[{"start":307.75,"text":"但在此之前，投资者和选民也应支持那些正悄然尝试用AI工具监管AI的机构。至少，这表明AI创新并非深圳或硅谷私营企业家的专属领域；一些政府官员也在尝试采用AI来加强监管。大型科技公司应全力支持这一做法。"}]],"url":"https://audio.ftcn.net.cn/album/a_1790314379_7007.mp3"}