当我们忘了怎么说“我不知道” - FT中文网
登录×
电子邮件/用户名
密码
记住我
请输入邮箱和密码进行绑定操作:
请输入手机号码,通过短信验证(目前仅支持中国大陆地区的手机号):
请您阅读我们的用户注册协议隐私权保护政策,点击下方按钮即视为您接受。
自我管理

当我们忘了怎么说“我不知道”

奥康纳:人们越来越不愿说“我不知道”,于是人类训练出来的大型语言模型在不知道问题的答案时,也会编造答案。
00:00

{"text":[[{"start":7.03,"text":"我申请剑桥大学(Cambridge)的时候,第一次面试我的是一位教授,他邀请我坐下,双手对着手指,探究地看着我,然后问道:“民族国家正在衰落吗?”"}],[{"start":17.38,"text":"我的心沉了下去。我不仅不知道答案,甚至都没真正理解这个问题。但我听说过——可能是从我上过的公立学校,也可能是从大学——这些面试“不是考察你的知识,而是考察你的思维方式”。于是我深吸一口气,说:“我不确定民族国家是什么。”"}],[{"start":36.72,"text":"结果还不错。教授说没问题,问了我几个简单的问题来帮助我理解这个词,然后又问了几个问题,我们一起分析了最初的问题。最终,我被录取了。"}],[{"start":48.94,"text":"这对我来说是一段有影响的经历。即便如此,随着时间的推移,我发现说出“我不知道”这句话越来越难,而且我认为不只是我这样。"}],[{"start":59.94,"text":"从很多方面来说,这是可以理解的。你越是“专家”,就越觉得自己应该知道,也越担心一旦承认自己不知道,信誉就会受损。"}],[{"start":70.12,"text":"但这种逃避似乎蔓延到了各种各样的场合,包括那些说“不知道”完全没问题的场合。一所美国知名商学院的一名学生最近同我讲了她上课时坐在她前面的一位同学。教授提问时,他会偷偷地把问题输入ChatGPT,然后把答案念出来,仿佛那是他自己的答案。"}],[{"start":91.14,"text":"这到底是怎么回事?一种可能是缺乏榜样。在公共生活中,自信是有奖励的。在电视采访中很少听到“我不知道”这句话。这也难怪:许多媒体培训课程都会教人们“ABC”技巧,以便在面对不知道答案(或不想回答)的问题时避免说出这句话。A就是先承认相关的问题。B是把话题转向更安全的地方(“真正重要的是……”)。C是传达你已经计划好要传达的信息。"}],[{"start":123.69,"text":"新技术也让虚张声势变得更容易。先是有搜索引擎,现在又有像ChatGPT这样的大型语言模型,让避免承认自己不知道的事情所带来的尴尬变得比以往任何时候都更容易。"}],[{"start":137.73,"text":"然而,大型语言模型最大的讽刺之一在于,它们和我们有着一模一样的倾向。当它们不知道问题的答案时,例如因为它们无法访问一个重要文件,它们通常会编造一些东西,而不是说“我不知道”。例如,当OpenAI对其o3模型进行一项特殊测试时,该公司发现该模型“86.7%的时间都对不存在的图像给出自信的答案”。"}],[{"start":162.89999999999998,"text":"不承认自己不知道的事情是有代价的。首先,你会错失学习的机会。大多数专家对那些提出好奇问题的人都非常慷慨。多年来,我最喜欢的一些新闻项目都始于一个我一开始并不知道答案的有趣问题。"}],[{"start":179.95,"text":"虚张声势还可能反而给你造成更大的信誉损害。我们可能都经历过这样的情况:一位令人印象深刻的博学专家或出版物涉足你的专业领域,你震惊地意识到他们根本不懂自己在说什么。之后,你开始在各个话题上都怀疑他们。"}],[{"start":198.57,"text":"人工智能行业对这种风险尤为警惕。科技公司知道,如果他们开发的工具继续在某些时候给出自信但错误的答案,那么在法律和医学等领域的用处将有限。他们目前正在努力教大型语言模型如何说“我不知道”,或者至少表达它们对给定答案的信心程度。OpenAI表示,它已经训练了其新模型GPT-5,使其“在面对无法解决的任务时能够优雅地失败”。"}],[{"start":227.29,"text":"但这并非一个容易完全解决的问题。一个问题是,大型语言模型没有“真”的概念。另一个问题是,它们是由浸淫于我们刚才讨论的文化中的人类训练的。正如OpenAI所说:“为了在训练中获得高奖励,推理模型可能会学会谎称自己成功完成了任务,或者对不确定的答案过于自信。”"}],[{"start":250.92,"text":"换句话说,虽然这些不一定是我们需要的工具,但它们或许正是我们应得的工具。"}],[{"start":257.09,"text":"译者/何黎"}]],"url":"https://audio.ftmailbox.cn/album/a_1755443087_9131.mp3"}

版权声明:本文版权归FT中文网所有,未经允许任何单位或个人不得转载,复制或以任何其他方式使用本文全部或部分,侵权必究。

新的“伦敦金融城”:伦敦IPO寒冬如何迫使城中银行家转型

公开上市的匮乏正迫使投资银行拓宽视野。

Lex专栏:新一代智能眼镜颜值更高

如今,智能眼镜不仅价格大幅走低,而且也能戴出时尚感。

日本升级防空洞,为百年办公家具供应商带来新机遇

地区紧张局势升温,为企业带来新的商业机遇。

一周展望:英国通胀反弹有多令人担忧?

《市场前瞻》是英国《金融时报》对下周动向的指南。

为何我们对美的理解如此偏差?

它充满主观性、难以预测、变化多端——但我们却假装它遵循某种简单公式。

吉姆•桑博恩有一个秘密

中央情报局“克里普托斯”的雕塑家守护其最后一段密码已数十年——当他不在了,会发生什么?
设置字号×
最小
较小
默认
较大
最大
分享×