{"text":[[{"start":8.91,"text":"Anthropic已指定埃森哲(Accenture)作为其模型安全性的独立评估机构。双方预计将各自至少投资10亿美元，建立新的防护措施，以应对AI带来的风险。"}],[{"start":20.689999999999998,"text":"这家估值近1万亿美元的AI初创企业周五表示，该合作将由英国AI公司Faculty牵头。埃森哲于1月以10亿美元收购了Faculty；该公司由马克•沃纳(Marc Warner)领导，后者现已出任埃森哲集团首席科技官。"}],[{"start":37.26,"text":"沃纳说：“AI应当从设计之初就确保安全，而不是碰巧安全。这一信念一直指导着我们与世界各国政府以及国防和医疗系统开展合作。”沃纳此前曾是为英国政府提供咨询的AI委员会成员。"}],[{"start":53.959999999999994,"text":"埃森哲股价在盘后交易中上涨约7%。"}],[{"start":57.91,"text":"这项协议是在Anthropic首席执行官达里奥•阿莫代伊(Dario Amodei)上周末发表文章之后达成的。阿莫代伊在文中呼吁协调放缓AI研究，以更好地管理风险，并要求各实验室引入第三方评估机构测试其模型。OpenAI首席执行官萨姆•奥尔特曼(Sam Altman)和xAI首席执行官埃隆•马斯克(Elon Musk)支持他的建议。"}],[{"start":81.35,"text":"埃森哲的团队将评估Anthropic的Claude模型，并担任所谓的“红队”，故意尝试突破其安全防护措施。这家咨询公司还将评估Anthropic现有的安全流程和对齐研究，确保AI的行为符合人类意图。"}],[{"start":96.78999999999999,"text":"该公司在一篇博客文章中表示：“埃森哲帮助企业和政府在多个行业部署AI。他们对企业实际使用AI方式的理解，为其安全理念提供了依据；他们将把这一视角用于评估我们的模型。”"}],[{"start":111.07,"text":"Anthropic将为埃森哲开展的相关工作提供资金。在这项为期五年的合作中，两家公司计划各自至少投资10亿美元，以提升各自在该领域的能力。"}],[{"start":122.78999999999999,"text":"阿莫代伊安全提案的批评者质疑，测试机构是否与领先的AI实验室保持足够的独立性。"}],[{"start":130.03,"text":"Anthropic表示，从长远来看，独立评估机构的资金应来自“资金池或政府来源”；但鉴于“这项工作的紧迫性”，公司决定为埃森哲提供的支持付费。"}],[{"start":141.73,"text":"这家AI实验室补充说，正与模型评估与威胁研究(METR)等非营利评估机构洽谈，讨论“利用其自身资金开展嵌入式评估试点”。该实验室正筹备首次公开募股，估值可能超过2万亿美元。"}],[{"start":157.01,"text":"该公司表示：“我们将继续训练并发布前沿模型，并希望独立评估机构在这一过程中与我们并肩开展工作。我们现在分享这些早期尝试，是为了让公众和其他AI开发者了解我们的流程。”"}],[{"start":172.41,"text":"与埃森哲的合作并非排他性合作，Anthropic表示，希望其他AI开发者也选择与这家咨询公司合作。"}],[{"start":180.59,"text":"然而，包括Meta和亚马逊(Amazon)在内的其他科技公司尚未完全支持阿莫代伊的提议，反而主张由企业自行监管。"}],[{"start":189.2,"text":"埃森哲的信任与安全业务不断壮大，此前曾为包括Facebook和YouTube在内的社交媒体公司提供第三方内容审核服务。"}]],"url":"https://audio.ftcn.net.cn/album/a_1789782651_7375.mp3"}