{"text":[[{"start":5.99,"text":"将人脑视为一种机器的诱惑由来已久。人工智能(AI)先驱马尔温•明斯基(Marvin Minsky)曾经语出惊人，称人类是“肉做的机器(meat machines)”。科普作家迈克尔•波伦(Michael Pollan)在其新书《世界显现》(A World Appears)中提到，在更早的前计算机时代，曾有人将大脑比作一台“施了魔法的织布机，无数把飞梭在上面编织着不停消失变幻的图案”。"}],[{"start":29.939999999999998,"text":"因此，处于人工智能最前沿的一些人现在相信他们的模型很快就会产生意识，也就不足为奇了。如果大脑类似于计算机，那么为什么超级强大的计算机不能也发展出意识呢？"}],[{"start":44.239999999999995,"text":"科技工作者如今涉足的是一个说不清道不明的领域，尤其是因为我们还没搞清楚意识是什么，更不用说弄明白它是如何产生以及为什么产生的了。事实上，波伦在他这本尝试搞懂“意识是什么这个难题”的280页著作的末尾承认，到最后，他比刚开始探索这个问题时知道的东西更少了。"}],[{"start":66.31,"text":"但是，我担心的并不是我们的新机器不断进步，发展出了真正像人类的品质，而是我们会因为对自己到底是谁失去信心，变得越来越像机器，从而不断降低生而为人的标准。"}],[{"start":79.1,"text":"经济学家泰勒•考恩(Tyler Cowen)最近发表的一篇文章发扬了明斯基的精神，主张“机器里没有幽灵（意指身体内没有灵魂）”，但“也许更重要的是，你自己这台人类机器里几乎也没有‘幽灵’”，因为我们的大脑做的许多决定都是下意识的，我们根本没有意识到自己做了那些决定。"}],[{"start":97.16,"text":"我认为考恩在说我们应该“弱化我们的自我意识”时，绝对是在开玩笑，但OpenAI的萨姆•奥特曼(Sam Altman)可能不是在开玩笑，他在为人工智能模型的能源消耗辩护时是这样说的：“训练一个人类也需要消耗大量能量……你需要花费大约20年——以及这段时间内你消耗的所有食物——才能变聪明。”"}],[{"start":116.83,"text":"与此同时，埃隆•马斯克(Elon Musk)将人类的一些固有特征视为需要防范的弱点。他在他的社交媒体平台X上写道，“当心同理心漏洞(empathy exploit)”——“漏洞”是网络安全领域的一个术语，用来描述一段利用系统弱点的代码。“经过深思熟虑的（深刻）同理心是美好的，也是正确的，但如果仅仅是条件反射式的（肤浅）同情心，对文明来说可能是致命的。”"}],[{"start":143.36,"text":"这种将人类比作机器的习惯，诱使我们将自己视为智能机器人或AI智能体的次优替代品：太软弱；太情绪化；不够不知疲倦。尽管其中许多说法实际上还并不属实（例如，许多人形机器人在几个小时后就需要充电），但已经可以看到这种心态悄悄地影响了一些雇主。以渣打银行(Standard Chartered)行政总裁为例，他最近谈到要用“我们正在投入的金融资本和投资资本来取代较低价值的人力资本”。"}],[{"start":173.92000000000002,"text":"他的言论引发一片哗然。但我认为，我们中的许多人对自身抱以某些类似对机器的期望，从而意外地成了这种说法的帮凶。我们总在买关于如何提高效率的书。我们在手腕上戴各种小工具，以便测量和“优化”自己。甚至当我们购买关于如何休息的书籍时，书里似乎也必须叠加一层承诺：休息会让你的效率更高。例如，方洙正(Alex Soojung-Kim Pang)的书《休息》(Rest)有个副标题：“为什么当你减少工作时，你完成得更多”(Why you get more done when you work less)。事实上，连我们用来表达反抗的语言也经常把自己描绘成机器。我们会说，我们需要“关机(switch off)”或“断网(disconnect)”，给自己“充电”(recharge our batteries)，以免“宕机(burn out)”。"}],[{"start":216.97000000000003,"text":"但人类跟机器的相似度不高，包括我们的大脑也不太像机器。一些科学家现在认为，“计算机”这个比喻并不是很能帮助我们理解人类大脑极其复杂的、相互关联的生物学运作——借用神经科学家路易斯•佩索阿(Luiz Pessoa)的说法，人脑的运作更类似于“椋鸟群飞(murmurations of starlings)”。至于意识，有些人认为它产生于身体和大脑之间的对话。按照这种说法，我们生命的有限性以及感知力并不是需要防范的缺陷或者说“漏洞”，而是我们之所以是人的奥秘所在。"}],[{"start":250.20000000000002,"text":"当然，人类没有必要跟AI竞争。人类和AI都很强大，但本质上是不同的。在一个理想的世界里，我们将使用这些工具来扩展我们的触角，来创造新的东西。但如果我们允许自己被拿来与机器比较，我担心我们会在某些方面对自己期望过高，而在另一些方面又期望过低。"}],[{"start":272.44,"text":"莎拉•奥康纳(Sarah O’Connor)的新书《我们不是机器：为工作的未来而战》(We Are Not Machines: The Fight for the Future of Work)现已出版"}],[{"start":278.65,"text":"译者/河狸"}]],"url":"https://audio.ftcn.net.cn/album/a_1782090927_1322.mp3"}