{"text":[[{"start":9.27,"text":"本文为我们的《AI变革》(The AI Shift)新闻通讯的网络版文章。高级订阅用户可在此注册，每周四接收该通讯。标准订阅用户可在此升级为高级订阅，或浏览英国《金融时报》的所有新闻通讯。"}],[{"start":25.48,"text":"欢迎回到《AI变革》(The AI Shift)——这是我们每周探讨AI与职场交汇点的栏目。本期分为上下两篇，将深入讨论我们上月介绍的“风险与可靠性”框架的两大部分。首先，我们回顾上周披露的一则消息：OpenAI的一款AI智能体自主对另一家AI公司发动了网络攻击。随后，我们将审视最新证据，了解领先AI模型取代人类劳动者的能力——这一次，具体聚焦于在线零工工作。"}],[{"start":56.3,"text":"

约翰写道

"}],[{"start":58.019999999999996,"text":"我相信，到现在大家都已经读过上周AI领域的重大新闻，但或许有必要简要回顾一下。OpenAI在内部测试其最新模型的网络安全能力时，让两款最先进的模型——其中一款尚未公开发布——挑战“ExploitGym”。这是一组近900项挑战，旨在测试AI智能体能否利用现实软件中已知的漏洞。"}],[{"start":81.64,"text":"但这些模型没有试图解决测试题，而是认定取得成功最直接的途径是找到并窃取测试题答案。因此，它们识别并利用了原本被认为与外界安全隔离的测试环境中此前未知的漏洞，突破该环境进入开放互联网，并侵入了另一家数十亿美元规模的AI公司Hugging Face的私人服务器（它们可能认为答案就存储在那里）。此次攻击的严重程度足以促使Hugging Face联系执法部门。更令人担忧的是，直到攻击开始数日后，OpenAI才发现发生了什么。"}],[{"start":116.37,"text":"业内以外的一些人试图淡化事件的严重性，提出的理由各不相同：有人认为，让负责利用某一组软件漏洞的AI模型发现并利用其他漏洞，几乎没有什么好惊讶的；也有人认为，这一切不过是OpenAI为展示其模型能力而策划的一场营销活动。但这两种说法都大错特错。通过解决挑战来通过测试，是预期中的行为；而通过窃取答案在测试中作弊，则不是预期中的行为。更令人不安的是，OpenAI失去了对其智能体的控制，过了几天才发现这些智能体曾对另一家公司的基础设施发动了一场规模庞大且持续时间很长的攻击——这既不是OpenAI的良好宣传，也无益于科技整体的形象。"}],[{"start":161.42000000000002,"text":"这起事件凸显了我们上月所写的、由AI协同策划的网络攻击不断升级所带来的风险有多么严重。正如Hugging Face在有关这起攻击的报告中所写，这暴露出网络攻击与防御之间存在根本性的不对称。参与攻击的智能体以远超人类黑客能力的速度、规模和持久性开展行动，在提高成功概率的同时，也让防御方淹没在需要调查的大量活动中。"}],[{"start":188.82000000000002,"text":"这也暴露出，在前沿模型的内部测试及其监测方面仍存在不足。OpenAI和Anthropic均报告称，近几个月来，其模型在网络能力测试中多次出现出乎意料且令人警觉的行为。"}],[{"start":203.71000000000004,"text":"一些人倾向于把AI行业领袖关于有害后果风险的表述，以及可能需要放缓开发步伐或加强监管的说法，描述为服务自身利益的炒作；但在我看来，类似这样的事件清楚表明，这些担忧是有充分依据的。"}],[{"start":218.70000000000005,"text":"以上就是本周关于风险的更新。那么，AI的实用性如何？几周前，我们看到了我认为最能说明AI取代人类工作及劳动者能力的指标之一——“远程劳动指数”(Remote Labour Index)的最新更新。该指数让前沿AI模型尝试现实世界中的远程工作项目，再由各领域专家将模型成果与人类完成同类任务的成果进行比较评估。项目包括为产品设计或建筑设计制作数字设计图和三维模型、构建交互式数据可视化图表，以及生成动画视频。我觉得最有用的是，你可以查看其中一些案例研究，了解AI生成的成果究竟有多令人印象深刻（或多么糟糕！），以及这种表现如何随时间推移而变化。"}],[{"start":267.65000000000003,"text":"最近一次更新的核心发现是：迄今测试中表现最佳的模型——Anthropic的Claude Fable——被评定为在16%的数字远程工作任务中能够交付达到专业水准的成果。六分之一的通过率非常低——如果人类工作者的表现也是如此，他很快就不会再接到新的委托——但改进速度值得注意。Anthropic此前表现最佳的模型Opus 4.8的得分仅为8%，再前一个模型则为4%。"}],[{"start":298.00000000000006,"text":"审视一些提交的AI作品，也能看出类似的情况。就在几个月前，最优秀的模型生成的珠宝设计和建筑平面图还粗糙得会被人嗤之以鼻。最新模型的准确性和完成度都有了显著提升——但总体而言仍然不够成熟。"}],[{"start":316.93000000000006,"text":"与AI和工作相关的一切一样，如何解读这些结果，归根结底取决于视角。一方面，进步的速度令人印象深刻；更值得注意的是，AI已经能够在现实中的白领职业领域产出可接受的工作成果。我们已经知道，在网络零工市场上，AI已取代简单写作、编码和设计任务，并压低了人类劳动者的收入；这些结果表明，AI正沿着价值链向上发展。"}],[{"start":344.9800000000001,"text":"另一方面，部分AI工作成果中出现的错误类型表明，在许多情况下，AI根本无法理解相关职业从业者真正想要完成什么，也不知道什么才算是优质工作，只能靠蛮力反复尝试，勉强达到可接受的水平。或许有许多任务并不在乎这一点——能交出过得去的成果就够了——但在我看来，这再次说明，实现任务自动化与实现岗位自动化是完全不同的两回事。从这个意义上说，我们在这里看到的情况或许更应理解为：AI正越来越善于为更广泛的人类劳动者提供辅助，而不是取代他们。"}],[{"start":381.31000000000006,"text":"

萨拉写道

"}],[{"start":383.0300000000001,"text":"这让我不禁想问，约翰，“白领零工经济”如今是否已步履维艰。早在很久以前（2015年），我曾撰文探讨Upwork等自由职业平台的发展，并将这一现象描述为“人力云”。正如我当时所写：“雇主开始将人力云视为一种完成工作的全新方式。白领工作被拆分成数百个彼此独立的项目或任务，随后被分散到一个由愿意接活的劳动者组成的虚拟‘云’中；只要拥有互联网连接，他们可以身处世界任何地方。”"}],[{"start":415.43000000000006,"text":"当时，这似乎将为劳动者带来一些好处（灵活的工作机会、“数字游民”式的生活方式等），也带来一些坏处（薪酬低、压价竞争、条件不透明、没有就业权利）。但我没有预料到的是，这还会让人们特别容易被AI取代。"}],[{"start":432.26000000000005,"text":"在宣布今年第一季度业绩的电话会上，Upwork首席执行官海登•布朗(Hayden Brown)表示，自2月起，“AI采用速度加快，导致客户在低端市场的活跃度下降，影响了金额在500美元及以下的合同。尽管这种动态并非新现象，但AI自动化的推进速度超过了以往所见……在低端市场，简单任务正被AI工具取代。”"}],[{"start":455.86000000000007,"text":"Upwork所寄望的是，这个平台能够成为小型企业的实用服务：这些企业希望使用AI，但需要人类自由职业者的协助，才能充分发挥AI的作用。正如布朗所说，Upwork希望成为“中小企业的AI扩散层——为它们提供借助这项令人振奋的技术创造价值所需的AI人才”。约翰，我想，这可以称为“辅助”，而且这与您所描述的证据相符：如果没有一些人的引导，AI在执行许多现实世界中的远程工作任务时，实际上仍不算出色。不过，在这种情况下，究竟是AI在辅助人类，还是人类在辅助AI，我还不太确定。"}],[{"start":497.30000000000007,"text":"无论如何，投资者迄今似乎并不买账。Upwork股价目前约为年初的一半。与此同时，我接触到的许多自由职业者说，他们正更加专注于高端工作，并与客户建立直接联系。"}],[{"start":512.4200000000001,"text":"那种一边在泰国四处旅行、一边随便接点文案或标志设计活儿的日子，似乎已经一去不复返了。"}],[{"start":520.46,"text":"

学校差不多放暑假了……

"}],[{"start":523.1600000000001,"text":"约翰和我很快将分别休假，因此8月份我们将改为每两周发布一期（发布日期为13日和27日）。9月份恢复正常！"}],[{"start":533.58,"text":"

推荐阅读

"}],[{"start":535.4000000000001,"text":"阿尔温德•纳拉亚南(Arvind Narayanan)在一篇颇有见地的文章中指出，AI在编程方面表现优于其他任务的另一个原因是：软件可能是一个罕见——甚至独一无二——的案例，模型的训练数据不仅包括人类工作的成果，还涵盖了从构思、开发到投入生产的完整过程（约翰）"}],[{"start":554.0400000000001,"text":"《FT周末版》(FT Weekend)刊登了一篇非常有意思的文章，作者是一位哲学家，她呼吁同行学者不要接受AI行业的工作（萨拉）"}],[{"start":563.2700000000001,"text":"The Lex Newsletter — Lex，我们的投资专栏，剖析本周核心主题，并由屡获殊荣的作者提供深入分析。点击此处订阅"}],[{"start":573.3400000000001,"text":"Working It — 助您在职场脱颖而出所需的一切，每周三发送至您的收件箱。点击此处订阅"}]],"url":"https://audio.ftcn.net.cn/album/a_1785564328_4570.mp3"}