{"text":[[{"start":11.13,"text":"谷歌DeepMind联合创始人谢恩•莱格(Shane Legg)警告称，随着要求放缓前沿模型开发的呼声日益高涨，快速发展的AI绝不能超越安全保障。"}],[{"start":21.64,"text":"莱格在接受英国《金融时报》采访时说：“我们正处于一个能力发展极其迅速的时期。但我们不能让能力的发展超越安全保障。”"}],[{"start":32.01,"text":"莱格表示，Anthropic首席执行官达里奥•阿莫代伊(Dario Amodei)最近发表的文章呼吁放缓、但不要暂停发布前沿模型，以应对安全风险；这一主张“在方向上很有意思”，也“值得考虑”。"}],[{"start":45.17,"text":"他补充说：“但我们确实需要把相关细节以及如何在实践中落实这些安排理清楚。”"}],[{"start":51.910000000000004,"text":"他发表上述言论之际，正值他宣布成立DeepMind Institute，以探讨通用人工智能的影响。该公司将通用人工智能定义为具备人类大脑全部认知能力的系统。"}],[{"start":64.24000000000001,"text":"尽管科技不断进步，莱格仍表示，现在宣布已经实现通用人工智能还为时过早——尽管英伟达(Nvidia)和OpenAI的高管近期作出了相关声称。“通用人工智能”(AGI)这一术语也有他的一份提出之功。"}],[{"start":80.13000000000001,"text":"莱格表示，他仍对自己长期以来的预测感到“放心”：到2028年，实现“最低限度”通用人工智能的概率为50%。"}],[{"start":89.66000000000001,"text":"莱格目前担任谷歌DeepMind的首席通用人工智能科学家。上月，谷歌旗下这家AI实验室的首席执行官德米斯•哈萨比斯(Demis Hassabis)卸任，转任董事长。第三位联合创始人穆斯塔法•苏莱曼(Mustafa Suleyman)目前是微软(Microsoft)的高级管理人员。"}],[{"start":107.47000000000001,"text":"莱格表示，新成立的DeepMind Institute旨在让更广泛的受众能够接触该公司的技术研究，从而“提升”围绕通用人工智能的讨论水平。其另外两名董事是哈萨比斯和谷歌高级副总裁詹姆斯•马尼卡(James Manyika)。"}],[{"start":123.71000000000001,"text":"莱格说：“公众讨论现在确实正变得热烈起来。人们非常、非常认真地看待拥有强大通用智能的可能性。因此，现在似乎确实是开始围绕许多这些引人入胜的话题展开更广泛公众讨论的时候。”"}],[{"start":140.77,"text":"莱格驳斥了OpenAI总裁格雷格•布罗克曼(Greg Brockman)本月提出的说法。布罗克曼称，最新GPT-6 Astra模型的发布表明“我们如今已进入通用人工智能时代”。英伟达首席执行官黄仁勋(Jensen Huang)指着Astra说：“通用人工智能已经到来。”"}],[{"start":158.83,"text":"莱格承认，人们对通用人工智能的界定各不相同，但他表示，甚至不能确定Astra是否符合OpenAI对这一术语的定义——能够完成大部分具有经济价值的认知劳动。莱格说：“显然，他们正在做一些相当不可思议的事情，但在我看来，目前还没有达到哪怕符合他们自己定义的程度。”"}],[{"start":180.67000000000002,"text":"该网站执行主编莱格表示，该研究所将涵盖与通用人工智能相关的广泛议题，包括科学、教育、社会、政策、哲学和人类福祉。许多文章将由谷歌员工撰写，但也会邀请外部专家供稿，以促进多元观点的讨论。"}],[{"start":198.63000000000002,"text":"该网站最初将发表三篇文章，主题分别是AI安全、经济政策，以及“新乌托邦主义”的原则。"}],[{"start":206.17000000000002,"text":"DeepMind研究人员罗欣•沙阿(Rohin Shah)和安卡•德拉甘(Anca Dragan)撰写的一篇关于所谓“思维链”推理模型的文章，批评了OpenAI迅速发布GPT-6 Astra模型的做法。作者称，该模型在透明度方面呈现“令人担忧的下降趋势”。他们写道，竞争压力可能导致各方缺乏足够动力提高透明度，并暗示监管或许能够发挥作用。"}],[{"start":231.11,"text":"但他们认为，只要在设计中纳入透明度架构，就可以开发出更强大的模型。他们写道：“尽管我们对AI系统仍有许多不了解之处，但我们不应忽视，如今最出色的推理模型能以人类可以理解的方式‘出声思考’，这是一件多么幸运的事。”"}],[{"start":249.08,"text":"马尼卡说，谷歌唯一想参与的AI竞赛是“确保把事情做对的竞赛”。"}]],"url":"https://audio.ftcn.net.cn/album/a_1789626199_9641.mp3"}