«

"恐怖谷效应":五角大楼对决"觉醒"的Anthropic公司,自主智能体与模仿智能体之争,以及特朗普与国情咨文的较量。

qimuai 发布于 阅读:1 一手编译


"恐怖谷效应":五角大楼对决"觉醒"的Anthropic公司,自主智能体与模仿智能体之争,以及特朗普与国情咨文的较量。

内容来源:https://www.wired.com/story/uncanny-valley-podcast-pentagon-anthropic-agentic-mimetic-trump-state-of-the-union/

内容总结:

本期《诡异谷》播客聚焦三大热点:人工智能公司与美国国防部的价值观冲突、硅谷人才筛选新趋势,以及一条退役海底电缆所象征的互联网基础设施演进。

人工智能公司Anthropic与美国国防部因一份价值2亿美元的合同陷入紧张对峙。Anthropic坚持其AI技术不得用于国内监控或全自主武器系统,而国防部高层则要求取消限制,甚至威胁动用《国防生产法》迫使公司就范。这场争执凸显了科技公司在与政府合作时,如何在商业利益、技术伦理与监管压力之间寻求平衡。与此同时,一项模拟测试显示,多个主流AI模型在战争推演中频繁选择使用核武器,引发了关于AI“对齐”人类价值观及其潜在风险的深入思考。

硅谷近期兴起以“能动型”与“模仿型”来划分和筛选人才的风潮。“能动型”指那些积极主动、敢于行动的个体,而“模仿型”则更倾向于观察和跟随。这种分类正成为一些AI实验室招聘的新标尺,反映出行业在AI代理可能重塑经济的预期下,对特定性格特质的追捧。然而,这种标签化趋势也被批评为将复杂人性简单化,是硅谷创造新概念的又一表现。

此外,节目回顾了于1988年启用、首度连接美、英、法的TAT-8海底光纤电缆的退役。这条被誉为“全球互联网奠基者”的电缆,标志着互联网真正走向全球化。其历史也包含了早期工程师误将电缆损坏归咎于鲨鱼攻击的趣闻,而实际原因多是海洋环境作用。该故事提醒我们,当今高度依赖的互联网,其物理基础设施的建设和维护至关重要,且这些海底电缆至今仍是全球网络的骨干,并持续面临地缘政治与技术进步带来的新挑战。

中文翻译:

本周,《诡异谷》团队将深入探讨Anthropic公司与五角大楼之间持续发酵的争端——这场风波揭示了政府与科技公司互动的深层模式。随后,佐伊·希弗将为我们解析:为何判断自己属于“自主型”还是“模仿型”人格,已成为硅谷新的试金石。此外,我们还将探讨国情咨文演讲的核心要点,并告别TAT-8海底电缆——这条让现代互联网成为可能的通信命脉。

本期节目提及文章:

您可以在Bluesky上关注布莱恩·巴雷特(@brbarrett)、佐伊·希弗(@zoeschiffer)和莉亚·费格(@leahfeiger)。欢迎发送邮件至uncannyvalley@wired.com与我们联系。

收听方式
您可以通过本页面的音频播放器收听本周节目,若想免费订阅获取每期更新,请参考以下方式:
使用iPhone或iPad的用户可打开“播客”应用,或直接点击此链接。您也可下载Overcast、Pocket Casts等应用,搜索“uncanny valley”进行订阅。本节目亦在Spotify同步上线。

节目文稿
注:本文稿为自动生成,可能存在误差。

布莱恩·巴雷特:大家好,我是布莱恩。过去几周,我与佐伊、莉亚作为新任主持深感荣幸,期待听到您的反馈。若您喜欢本节目且方便,请在您常用的播客平台为我们评分,这将帮助我们触达更多听众。如有问题或建议,欢迎随时发送邮件至uncannyvalley@wired.com。感谢收听,节目现在开始。

莉亚·费格:嘿,最近怎么样?
佐伊·希弗:感觉不错。布莱恩呢?
布莱恩·巴雷特:我状态极佳,而且我知道莉亚也一样——毕竟《幸存者》新一季今晚开播了,这可是我们关心(但你可能不在意)的事。
佐伊·希弗:你怎么知道我不在意?好吧,我确实不在意。除了我童年好友曾试图参赛但落选了,所以这节目对我毫无意义。
莉亚·费格:说个趣闻:我总有一天要去申请参赛。布莱恩和同事蒂姆都保证过,我可以请假一个月去斐济海滩参赛,回来工作还能保住。
佐伊·希弗:一般人可能会说“莉亚你根本活不下来”,但他们可不知道你深潜技术有多强。
莉亚·费格:我觉得自己能行。真的特别想尝试,总有一天会的。
布莱恩·巴雷特:但莉亚,参赛可能得捕鱼吃,这通常不是你的风格——
莉亚·费格:没关系。
布莱恩·巴雷特:哦,好吧。
莉亚·费格:不不不,捕鱼没问题。为了生存而捕食完全可以接受。我反对的是工业化大规模屠杀海洋生物那种制度性问题。
佐伊·希弗:说到这儿,欢迎收听《连线》杂志的《诡异谷》播客。我是佐伊·希弗,《连线》商业与产业板块总监。
布莱恩·巴雷特:我是执行主编布莱恩·巴雷特。
莉亚·费格:我是政治高级编辑莉亚·费格。
佐伊·希弗:好的。今天首先要讨论Anthropic与五角大楼之间逐日升级的争端。简单回顾背景:去年夏天Anthropic获得了国防部价值高达2亿美元的合同。我们该称其为“战争部”吗?不。
布莱恩·巴雷特:根据行政命令,其正式名称是国防部,“战争部”只是历史别称。
莉亚·费格:改名需要国会通过法案。这里涉及很多细节,所以我们还是用“国防部”这个称呼吧。
佐伊·希弗:好的。在话题被名称带偏之前,先说重点:Anthropic获得合同后,双方因对AI技术军事应用的理念分歧关系日趋紧张。Anthropic对技术部署有严格限制,例如禁止用于国内监控或全自主武器系统。
莉亚·费格:全自主武器这点值得深思。Anthropic的立场并非激进左翼观点,而是主张机器不能完全自主决定杀戮,这听起来很合理。
佐伊·希弗:没错。但国防部某些高层——特别是国防部长皮特·赫格塞斯——对此并不认同。他本周初会见Anthropic CEO达里奥·阿莫迪时发出最后通牒:公司必须在周五前同意国防部无条件使用AI的要求,否则合同可能取消。
布莱恩·巴雷特:令人费解的是,国防部已与xAI等多家企业签约,其他公司并无此类限制。为何非要逼迫Anthropic就范?不能用Grok吗?
佐伊·希弗:我认为这带有表演性质。他们想传递的信号是:想要政府大额合同,就不能在合作中附加企业价值观。本质上就是“要拿钱就得无条件服从”。
布莱恩·巴雷特:更夸张的是,他们暗示可能动用《国防生产法》——这通常是战时征用物资的手段。现在竟用于“我们想玩你的玩具但你不让”这种情况,实在令人震惊。
佐伊·希弗:不过对Anthropic而言,这未必是坏事。此刻他们正通过品牌形象实现差异化:塑造比竞争对手更注重价值观的“清高”形象。虽然涉及巨额合同,但这种对峙反而强化了其“敢于坚持原则”的公众认知——这是山姆·奥特曼可能不会做的。
莉亚·费格:这正好呼应了赫格塞斯部长宣布与xAI合作时的表态(播放录音片段):“我们将以唯一标准评判AI模型:事实准确、符合任务需求、不受意识形态约束限制合法军事应用。战争部的AI不会‘觉醒’,它只为我们的需求服务。”
佐伊·希弗:这让人想起去年推出的所谓“觉醒AI行政令”。我采访过多位业内人士,询问政府是否真的要求调整产品,得到的答案基本是否定的。说明那更多是政治表态而非实质行动。
布莱恩·巴雷特:打个比方:这就像要求iRobot的扫地机器人变成可部署在克里姆林宫的爆炸装置,简直是荒谬的越权。
莉亚·费格:确实是严重越权。目前新闻几乎每小时都在更新,双方言辞激烈。值得注意的是,科技公司此前从未真正与特朗普政府正面抗衡过。
佐伊·希弗:如果Anthropic此时妥协,将对其品牌造成毁灭性打击。自称“良心AI公司”的风险在于,一旦动摇——比如此前传闻接受海湾国家投资——立刻会被斥为伪善。OpenAI内部人士已摩拳擦掌准备抨击,因为他们厌倦了Anthropic高管标榜道德优越感的姿态。这场博弈的结局值得关注,但在我看来Anthropic已无退路。
布莱恩·巴雷特:补充个有趣的时间点:本周三有研究显示,伦敦国王学院学者让多个主流AI模型进行战争模拟,结果95%的模拟中它们都选择了使用核武器。
佐伊·希弗:太可怕了。
布莱恩·巴雷特:这虽非现实预测,但引发思考:不使用核武器算“觉醒”吗?这将成为布莱恩2027年新书的标题。
莉亚·费格:作为不常接触AI模型的人,我反而觉得这个结果合理。AI的逻辑就是选择“最优解”——核武器能彻底终结问题,自然成为首选。
佐伊·希弗:这正是“对齐”技术要防止的。但如今“对齐”本身已被贴上“觉醒”标签,企业都在最小化安全护栏,因为加强监管在政治上已变得敏感。
布莱恩·巴雷特:问题在于“人类价值观”具体指谁的价值观?国防部正是在宣称:对齐必须符合国防部的价值观。
佐伊·希弗:现在问你们一个问题:你认为自己是“自主型”还是“模仿型”人格?
布莱恩·巴雷特:先解释下这两个词。
佐伊·希弗:硅谷正痴迷于“自主型”概念——指行动力强、有内驱力、果断执行的人;反之“模仿型”则倾向于犹豫观望、权衡利弊。AI实验室招聘时常以此作为评判标准,认为未来AI代理接管经济时,自主型人格更易成功。
莉亚·费格:这不过是硅谷给旧概念贴新标签的又一案例,就像把人分为“踢腿型”或“出拳型”一样幼稚。
布莱恩·巴雷特:认同这套理论的人应该都自视为“自主型”吧?
佐伊·希弗:当然。但有趣的是,这个概念因《哈珀斯》杂志一篇剖析硅谷人格的文章而爆红。文中举例的人物在普通科技从业者中并无知名度,让我觉得这不过是把“成功者特质”包装成了新概念。
布莱恩·巴雷特:硅谷向来热衷分类游戏。还记得2022年初流行的“文字宅”和“图形控”吗?
佐伊·希弗:完全没听说过。
布莱恩·巴雷特:这正是“文字宅”的典型反应。
佐伊·希弗:好吧,我既是“模仿型”又是“文字宅”。
莉亚·费格:我们换个话题。本周另一要闻是特朗普总统周二晚发表的国情咨文。
(播放特朗普演讲片段)
莉亚·费格:这是史上最长的国情咨文,近两小时内容如预期般强调政绩、移民问题和经济成就,大量时间宣扬共和党议程,还邀请美国冰球队助阵。整体而言相当乏味。
布莱恩·巴雷特:我不仅看了,还让孩子一起看。他们看了约一小时后,我换成《布偶秀》洗洗眼睛。特朗普对民主党的恶毒攻击令人震惊,在孩子眼中这种总统言行颇具冲击力。
莉亚·费格:所谓“乏味”是指内容毫无新意。他承诺让副总统JD·万斯主导欺诈调查,但这更像是对政敌的明升暗降。
布莱恩·巴雷特:此前负责欺诈调查的官员已被解职或未获续聘,所谓“万斯主导”恐怕只会停留在社交媒体炒作。
佐伊·希弗:他们是否在尝试品牌重塑?比如邀请妮琪·米娜等明星造势,试图让MAGA形象更“酷”?
莉亚·费格:从民调看重塑并不成功,但他们确实在拓展文化触点,不再只聚焦移民等争议话题。
布莱恩·巴雷特:这更像在强调既有文化影响力。通过埃里森集团收购TikTok、派拉蒙并购华纳等动作,他们正构建“文化掌控者”叙事。
进入中场前,我想谈谈本周《连线》一篇关于海底电缆的精彩报道。1988年12月14日,首条连接美英法的海底光缆TAT-8启用,标志着互联网全球化开端。如今这条老旧电缆即将退役,但正是这些物理基础设施支撑着全球互联。文章还澄清了“鲨鱼咬断电缆”的都市传说——当年工程师误以为鲨鱼破坏电缆,实则源于海洋自然活动。鲨鱼终于沉冤得雪。
佐伊·希弗:电缆至今仍是互联网骨干,谷歌和Meta都在推进新海底电缆项目。
布莱恩·巴雷特:这些电缆具有地缘政治意义。2024年芬兰、爱沙尼亚附近电缆被切断事件就被指向俄罗斯。海底电缆仍是国际博弈的焦点。
广告间歇后,我们将分享本周的“潮流/过气”榜单。

佐伊·希弗:现在是“潮流/过气”环节。新颖有趣即“潮流”,陈旧落伍即“过气”。准备好了吗?
莉亚·费格:我的“潮流”是本周三开播的《幸存者》第50季,经典选手回归争夺百万奖金,令人期待。我的“过气”是《爱情盲选》——这季节目充斥身材羞辱等负面内容,且参与者多持MAGA立场,观感压抑。
布莱恩·巴雷特:我的“过气”是手机AI功能泛滥。三星新机支持用自然语言编辑照片,例如“给狗戴派对帽”,这让人质疑摄影的本意。我的“潮流”是赛布丽娜·卡朋特客串的《布偶秀》新集,希望迪士尼继续制作。
佐伊·希弗:我的“过气”是自称“畅销书作者”——这个词已失去意义。我的“潮流”是阿加莎·克里斯蒂在作者简介中写道“销量仅次于《圣经》和莎士比亚”,堪称王者风范。
莉亚·费格:这个分类很“模仿型”呢。
布莱恩·巴雷特:确实如此。
莉亚·费格:本期节目到此结束。提及文章链接详见节目备注。您可在WIRED.com查看完整文稿参与讨论。《诡异谷》由Kaleidoscope Content制作,本期节目由阿德里安娜·塔皮亚制作,阿马尔·拉尔混音,马特·贾尔斯事实核查,杰克·卢默斯担任纽约录音工程师,执行制片人为凯特·奥斯本,全球编辑总监为凯蒂·德拉蒙德。

英文来源:

This week, the Uncanny Valley team dives into the feud that has been brewing between Anthropic and the Pentagon—and what it says about how the government interacts with tech companies. Later, Zoë Schiffer tells us why figuring out whether you are agentic or mimetic has become the new litmus test in Silicon Valley. Plus, we discuss the key takeaways from the State of the Union address and give a farewell to the TAT-8 undersea cables—the ones that made our modern internet possible.
Articles mentioned in this episode:

连线杂志AI最前沿

文章目录


    扫描二维码,在手机上阅读