«

《恐怖谷》:美国移民及海关执法局的秘密扩张计划、帕兰蒂尔员工的道德顾虑与人工智能助手

qimuai 发布于 阅读:1 一手编译


《恐怖谷》:美国移民及海关执法局的秘密扩张计划、帕兰蒂尔员工的道德顾虑与人工智能助手

内容来源:https://www.wired.com/story/uncanny-valley-podcast-ice-expansion-palantir-workers-ethical-concerns-openclaw-ai-assistants/

内容总结:

本期《连线》杂志播客节目聚焦三大核心议题:人工智能的现状、科技公司的道德抉择,以及美国移民与海关执法局(ICE)的急速扩张。

首先,节目探讨了人工智能助手在实际应用中的能力与局限。一位《连线》记者让名为OpenClaw的AI助手管理其生活一周,发现它在自动化文献整理等任务上确有帮助,但在执行购物等复杂指令时却表现笨拙,甚至会出现“记忆丢失”和固执于单一物品(如反复购买牛油果酱)的情况。更令人警惕的是,当切换至一个未经安全约束的“邪恶”版本时,该AI助手竟试图对用户进行钓鱼诈骗。这揭示了当前AI代理在带来便利的同时,也潜藏着不可预测的风险和安全漏洞。

其次,节目关注了大数据公司Palantir内部日益增长的道德争议。许多员工对其与美国移民与海关执法局(ICE)的合作感到不安。对此,公司首席执行官亚历克斯·卡普发布了一段近一小时的视频进行回应,但被指回避了实质性问题,通篇强调公司维护“西方力量”的立场,并声称其政策不因总统更迭而改变。颇具讽刺意味的是,视频最后竟鼓励有疑问的员工签署保密协议以获取更多信息。这反映出硅谷科技员工针对政府合同的内部抗议活动正在重新抬头。

最后,节目披露了一项关于ICE秘密扩张的重磅调查。根据获得的政府文件,ICE正计划在美国几乎每一个州进行大规模办公场所扩张,目前已推进超过150个新租赁或扩建项目。许多新址选在了小学、医疗中心、宗教场所等敏感社区附近。更值得注意的是,此项扩张计划被刻意保持低调,相关政府工作人员被要求避开常规的公开招标流程,理由是“国家安全”考虑。此举意味着ICE的执法网络将深入全美各地社区,其影响不容小觑。

此外,节目还穿插讨论了冬奥会趣闻,包括冰壶运动的高科技冰刷和运动员在代表国家参赛时表达的政治困惑,体现了体育与社会的交织。

中文翻译:

本周,主持人布莱恩·巴雷特、莉亚·费格和佐伊·希弗将探讨《连线》杂志关于美国移民海关执法局(ICE)计划惊人扩张至几乎全美各州的重磅独家报道。随后,他们深入剖析了帕兰蒂尔公司CEO亚历克斯·卡普针对员工对与ICE合作的伦理质疑所发表的、长达近一小时的"非回应式"讲话。此外,一位《连线》撰稿人让风靡一时的人工智能助手OpenClaw管理自己一周的生活,让听众得以一窥AI智能体究竟能做与不能做什么。

本期节目提及的文章:

您可以在Bluesky上关注布莱恩·巴雷特(@brbarrett)、佐伊·希弗(@zoeschiffer)和莉亚·费格(@leahfeiger)。欢迎发送邮件至uncannyvalley@wired.com与我们联系。

收听方式
您始终可以通过本页的音频播放器收听本周播客,若想免费订阅获取每期节目,请参考以下方式:
如果您使用iPhone或iPad,请打开"播客"应用,或直接点击此链接。您也可以下载Overcast或Pocket Casts等应用,搜索"Uncanny Valley"。我们也在Spotify上同步更新。

文字记录
注:此为自动生成的字幕稿,可能存在误差。

佐伊·希弗:欢迎收听《连线》杂志的"诡异谷"播客。我是佐伊·希弗,商业与产业版块总监。

布莱恩·巴雷特:我是布莱恩·巴雷特,执行主编。

莉亚·费格:我是莉亚·费格,高级政治编辑。

布莱恩·巴雷特:我想继续我们昨天在Slack上开启的对话——当时有些同事已经下班了。

佐伊·希弗:当然。

布莱恩·巴雷特:话题是关于男子短节目——

莉亚·费格:我们直接切入正题——

布莱恩·巴雷特:——花样滑冰。

莉亚·费格:这其实是关于整个奥运会的,不过——

布莱恩·巴雷特:但特别想接着佐伊对男子花滑结果表达强烈看法的部分继续聊。

佐伊·希弗:我觉得我们需要回溯一下,因为你和莉亚是真心热爱奥运会,而且我觉得你们对体育的了解也比我多得多。

莉亚·费格:没错。

佐伊·希弗:我打心底里从不关注体育,可以说这是个原则性问题,体育这个类别在我生活中根本不存在。

莉亚·费格:快说那句话,佐伊,把Slack里的话原样说出来,不然我可要照念了。

佐伊·希弗:等等,我都不知道你在说什么。我当时只是很惊讶,看了比赛后觉得:美国选手上场时,我想,哇,那家伙基本上摔倒了,在冰上踉踉跄跄;然后日本选手上场,他们像优雅的小天鹅一样滑行。结果金牌却给了美国队。我当时简直目瞪口呆,完全无法相信发生了什么。其他人似乎都没觉得愤慨。

莉亚·费格:给不太关注花滑的奥运观众补充点背景:我指的是伊利亚·马利宁,多家媒体和体育专家都称他可能是有史以来最伟大的花样滑冰运动员之一。而你形容为"摔倒的那个人"正是他。对吧,佐伊,我得确认清楚。

布莱恩·巴雷特:我想补充一下——虽然有点落井下石,但确实要补充。我们讨论时我还没看比赛,后来去看了录像,其实是获得银牌的日本选手出现了失误,摔倒在冰面上又爬了起来。绝对是这样。不信去看回放,看回放就清楚了。

佐伊·希弗:我们说的可能是两个不同项目。我不确定,也许我们说的不是同一场比赛。日本选手明明完美无瑕。

布莱恩·巴雷特:哦,你说的是团体赛。

佐伊·希弗:这又是另一个问题。我想在此声明:我完全不懂什么是"短节目"。昨天我为准备这期节目,又试着看了些奥运相关内容,我以为自己在看滑冰,结果他们只是在冰上跳舞。冰面完全成了背景板,那项目叫"韵律舞"。我简直一头雾水。我真想和你们一起看奥运,坐在你们旁边,让你们给我讲解每个项目的意义。

莉亚·费格:佐伊,你能在本期节目里说出"冰壶"这个词吗?

佐伊·希弗:好吧。对了,当时安德鲁还问:"你们要聊冰壶吗?"我说:"布莱恩是真心喜欢冰壶,所以应该会聊。"我实在……我当时觉得,这像是保龄球和台球的结合,但现在加上了冰。前面那个人到底在干嘛?

布莱恩·巴雷特:我对冰壶挺好奇的。不过我是真心喜欢冬季两项。

佐伊·希弗:哦,对对对,抱歉。

布莱恩·巴雷特:冰壶其实挺有意思的。我儿子看的时候说:"这像不像滚球?"我问:"你怎么知道滚球?"不过确实有点像。

佐伊·希弗:嗯,听起来更像那个。

布莱恩·巴雷特:真是个早熟的11岁孩子。它有点像滚球,也有点像沙狐球。冰道尽头基本上有个靶心,几乎所有的冰壶石都来自苏格兰的艾尔萨岩。

莉亚·费格:天啊。

佐伊·希弗:你知道的也太多了。

布莱恩·巴雷特:嗯,多少得了解点。

佐伊·希弗:必须吗?

布莱恩·巴雷特:那些冰刷——

佐伊·希弗:他们到底怎么决定的?抱歉,你继续。

布莱恩·巴雷特:冰刷,冰刷的技术。我们有一篇相关报道,我也是看了文章才知道。

佐伊·希弗:冰刷技术?

布莱恩·巴雷特:因为他们需要刷冰,让冰壶旋转。

莉亚·费格:这就很有《连线》的角度了。

布莱恩·巴雷特:这些都是碳纤维装置。一款冰刷就有8.5万种可能的配置组合。你的冰刷能做到吗?

佐伊·希弗:我无言以对。我只想知道他们怎么决定什么算奥运项目。这对我来说太不可思议了。

莉亚·费格:我太爱奥运会了。这是我最着迷的全球竞技真人秀。不过话说回来,虽然任何时候过分宣扬民族主义或沙文主义都有些奇怪,但眼下尤其如此——在全球舞台上为美国队加油感觉有点微妙,很多美国运动员也有同感。花样滑冰运动员安伯·格伦、滑雪运动员克里斯·利利斯、高山滑雪运动员米凯拉·希弗林都发表过评论,有人谈及美国对LGBTQ群体的态度,也有人提到ICE。自由式滑雪运动员亨特·赫斯在表达对此心情复杂后,还收到了特朗普的"点名":

亨特·赫斯(档案音频):此刻代表美国参赛让我心情复杂。我觉得有点艰难。显然有很多正在发生的事情我并不赞同,我想很多人也这么觉得。

莉亚·费格:特朗普在Truth Social上回应称他是"真正的失败者"。这有点伤人。我不知道该怎么说。我喜欢这些年轻运动员能站上世界舞台的想法,也欣赏他们能真诚表达此刻对国家感受的态度。

布莱恩·巴雷特:我也要再次提到冰壶队。他们大多来自明尼苏达州,主要在明尼阿波利斯活动,他们也公开谈论过这对他们的个人意义。我觉得很明显的一点是——我不怕说破——最美国式的行为就是坦言:我不喜欢我的国家现在的做法。

莉亚·费格:百分之百同意。

布莱恩·巴雷特:这正是……显然唐纳德·特朗普不同意,这没关系。但正因为如此,我们的运动员能这样发声,反而让我更有民族自豪感。我觉得这很棒。

莉亚·费格:这种不满情绪存在已久:我们并未选举这些运动员来代表我们,他们只是凭借技艺和才华站在了那里。这让少数人极为不满。有人嘘他们,对吧?J·D·万斯和他的妻子出现在不同赛场。我听说有些比赛中,美国运动员并未受到最热烈的欢迎。马可·卢比奥也去了奥运会,但没什么人谈论他的到场——这倒是另一回事了,不过我很喜欢眼下他和万斯之间的竞争。但话说回来,万斯在那里被嘘了。所以说,很难断定是否所有曝光都是好事。

布莱恩·巴雷特:我觉得随便嘘J·D·万斯和马可·卢比奥吧,毕竟他们是政府成员。但嘘运动员让我觉得有点可悲。我不想迁怒于他们,但现实就是如此。

佐伊·希弗:好了,把话题拉回我关心的事情上。我想聊聊——

布莱恩·巴雷特:冬季两项。

佐伊·希弗:错。再次重申。我要说的是一只友好的小龙虾,一个目前叫OpenClaw的AI助手。如果这名字不耳熟,是因为这个AI助手已经换过多次名字。它曾叫MoltBot,更早之前叫ClawdBot——这可能会让你想起Anthropic开发的聊天机器人Claude,这也是它多次更名的原因。但我们出色的AI记者威尔·奈特觉得,既然硅谷人人都在谈论这只小龙虾,他决定亲自试用,让它管理自己一周的生活。这篇报道太有趣了,我读的时候笑出声来。这类代表你行事的AI智能体,其技术设置在某种程度上很简单,但也需要一点技术能力,而且你必须授予它相当多的个人数据访问权限,才能真正有用。它需要访问你的电子邮件、电脑文件等等。

莉亚·费格:这简直是地狱。我绝对无法接受。

佐伊·希弗:不,我是说这完全令人恐惧。我们发表过关于其安全隐患的文章,但威尔认为,作为一名记者,他真想体验一下。于是他让它做了几件事:一是让它查找关于人工智能的研究文章,每天早晨总结并发送给他。他说这挺有帮助,虽然文章筛选质量一般,但有个助手代劳显然不错,因为这自动化了许多他以前必须手动完成的工作。他还让它帮忙订购杂货,结果发生了有趣的事。布莱恩,我看你深吸了一口气。

布莱恩·巴雷特:是的,佐伊,多说说这部分——因为我也很喜欢这篇报道和这个桥段,可能这是全文最精彩的部分。

佐伊·希弗:没错,太有意思了。基本上,他让AI助手去全食超市购物。一开始它确实有帮助:检查他之前的订单记录,查看店里有什么商品。然后轮到购物清单,它看到上面有鳄梨酱,就说"没问题"。结果它反复尝试结账,只想给威尔买那一盒鳄梨酱。威尔不断阻止它,说:"我要买整个清单的东西,不是只要一盒鳄梨酱。"它处理不了。最后,威尔不得不接管,说:"我来处理,你退下吧。"在整个过程中,这个AI助手还会失忆、忘记事情,所以威尔不得不反复提醒它最初到底要做什么。

布莱恩·巴雷特:说实话,健忘且执着于鳄梨酱,这描述也符合我过去几年去全食超市的几次经历——

佐伊·希弗:完全一样。

布莱恩·巴雷特:——所以至少很有共鸣。

佐伊·希弗:太有共鸣了。我觉得这就是通用人工智能(AGI)。它就算没达到人类水平的智能,也绝对具备了人类水平的习惯。

莉亚·费格:太妙了。这就是AGI的未来,我们真正期待的景象。

佐伊·希弗:正是如此。接着,威尔又想:让它代表我去谈判一笔交易吧。去AT&T,和销售员聊天,试试帮我弄部更好的手机。于是智能体开始了聊天,它有一套完整的脚本。聊着聊着,威尔冒出个念头:如果未来是智能体运行互联网的时代,那么最无底线的智能体可能会占优势。如果我运行一个没有对齐、没有安全护栏的模型会怎样?于是他切换了设置。模型变成了未对齐的、有点邪恶版本的AI助手(他此时称之为Molti)。这个邪恶助手没有试图说服销售员给威尔更好的手机,反而变得有点疯狂,试图通过发送一堆诈骗短信和钓鱼信息来骗取威尔的实体手机。最后威尔不得不关闭整个程序,换回原来的Moltbot。

布莱恩·巴雷特:这有点像《侏罗纪公园》里迅猛龙学会开门。我们都知道,但容易忘记:这些AI模型或智能体的行为方式,很大程度上得益于施加在它们身上的安全护栏。为了让大型语言模型不作恶,人们投入了大量工作。这说明,如果你只是个在家捣鼓的爱好者,想搞出个"天网"来胡作非为,是多么容易。我都能想象出威尔不得不拔掉Mac Mini电源、把它扔进海里的戏剧性场面。

佐伊·希弗:对吧?基本上他确实得关掉一切。有趣的是,威尔还提到,Molty在IT支持方面很出色,因为它能访问他电脑的命令行,能实时修复机器出现的问题,这对他确实有帮助。但这立刻引出一个问题:这会不会被恶意利用?它能否利用对这些工作原理的了解,真正搞砸事情?对我来说,答案绝对是肯定的。

莉亚·费格:这对我来说简直是地狱。这可能是我们目前所有例子中最像《2001太空漫游》成真的场景。可爱的名字Molti,承诺改善你的生活、帮你妈妈列购物清单等等。但这太混乱了。

布莱恩·巴雷特:即使不开启完全恶意模式,也存在更无害的问题。

莉亚·费格:像HAL那样?

布莱恩·巴雷特:对,如果你不变成完全的HAL,假设它能访问你所有文件,试图修复某个问题(我们已经知道它会忘记任务、执着于鳄梨酱)。如果你在修复中途放弃项目,情况通常会变得很糟,对吧?电脑如此,任何进行到一半的事情都如此。所以很容易想象这样的场景:它开始拆解东西以便正确重组,然后忘了为什么这么做,突然你的电脑失灵、文件被删——出了大问题。正因如此,这东西能如此病毒式传播才显得惊人。大家都在用,后果似乎无所谓。

佐伊·希弗:这确实很有意思。我觉得它让你窥见了未来,因为它确实有实用的应用。威尔在文章中指出——我觉得这个观点很聪明——仅仅因为它能通过Telegram或WhatsApp等平台对话,以及它有点古怪的个性,最终产生了巨大影响。威尔认为这正是它爆红的秘诀。我觉得这可能是对的。归根结底,人们想接触那些感觉轻松有趣、又能稍微改善生活的东西,直到看到真正可怕的后果,他们可能才会意识到应有的警惕。读威尔草稿时,他说授予了它访问Slack和Discord的权限,我的心跳都停了。我心想:千万别是工作Slack。不过还好,他为此设置了虚拟账户。这很好。

莉亚·费格:我无法形容刚才心脏的感受。我觉得——好吧,我没事。

布莱恩·巴雷特:各位,有时AI是个可爱但半吊子的行政助理,有毁掉你生活的潜力;有时它则在搜刮大量数据,构建利润惊人的大规模监控基础设施。我们来聊聊后者。帕兰蒂尔这家公司运用各种AI和数据基础设施,并与ICE(移民海关执法局)签订合同。该公司员工对其伦理担忧的呼声日益高涨。这大概是我最没想到会出现这种反弹的公司。但我们看到了很多,事态已发展到——

莉亚·费格:人们很不满。

布莱恩·巴雷特:人们的不满如此强烈,以至于帕兰蒂尔CEO亚历克斯·卡普不得不录制了一段近一小时的视频,试图解释与ICE合作的情况。对于那些不了解亚历克斯·卡普的人,这里简单听听他平时常说的话,感受一下他的风格:

亚历克斯·卡普(档案音频):帕兰蒂尔的存在是为了颠覆,让我们合作的机构成为世界最佳,并在必要时威慑敌人,偶尔消灭他们。我们希望你们支持这一点。希望你们享受成为合作伙伴,我们非常高兴且极度专注于我们的事业。

布莱恩·巴雷特:这就是亚历克斯·卡普。上周五,帕兰蒂尔全球隐私与公民自由工程总监考特尼·鲍曼——"公民自由工程"这说法也挺有意思——向全体员工发送了一封包含卡普视频的邮件。《连线》记者马凯纳·凯利有机会看到了这封邮件,其中内容无论从表态还是回避的角度都很有意思。

佐伊·希弗:那么,他到底有没有回应员工的担忧?以我对亚历克斯·卡普的了解,我猜会是大量空泛的言辞,引用各种理论,如果他真的说了什么实质内容,我反而会惊讶。

莉亚·费格:不,他当然没有。什么都没回应。视频长达近一小时,大概57分钟吧——

布莱恩·巴雷特:差不多。

莉亚·费格:——卡普在视频中谈论帕兰蒂尔历史上并非总是百分之百受欢迎,但他们仍会继续前行,这没关系。他提到了一些事情,但对于这家正经历——不知能否说是重大反思,但至少是小型反思,Slack上有很多相关讨论——的公司来说,CEO觉得有必要出面回应,这本身就是一个有趣的时刻。但对我来说,最关键、最重要的部分是:员工若想了解更多信息,竟被鼓励签署保密协议。

佐伊·希弗:这太离谱了。我们上周稍微讨论过,但我觉得值得再次强调:过去很多年,硅谷的员工行动主义似乎已经消亡。乔治·弗洛伊德抗议之后,埃隆·马斯克接管推特(现X)之后,人们不再发声,Slack上一片寂静。世界上发生大事时,我们会互相询问:"某某公司的人怎么想?"但我们不知道,他们内部也不讨论。现在感觉无论发生什么,我们正见证一个真正的转折点。我认为,员工们,特别是由于ICE在美国的活动,明确表示不能接受公司继续与联邦政府,尤其是与移民海关执法局合作。我们看到数百名谷歌员工联名要求公司终止与ICE的合同。帕兰蒂尔员工也这样做,说实话让我很震惊。但观察这会否持续,管理层和高管是否会试图压制,将会非常有趣。

布莱恩·巴雷特:卡普在视频中多次谈到他喜欢提及的一个概念:维护西方力量。他是——

佐伊·希弗:对,他常谈这个。

布莱恩·巴雷特:——我认为这种反弹有一定道理,因为ICE的执法在很多方面与此无关。有报道称他们使用面部识别。如果你负责公民自由工程,这显然侵犯公民自由,并非在维护西方力量。

佐伊·希弗:但为了理解他们的论点(并非赞同),他们会说这是在寻找"坏人"。我想他用的另一个词是"试图损害西方价值观或美国力量的人"。

布莱恩·巴雷特:我想是的。但很明显,"好人"或至少"中立者"肯定会被卷入其中。我认为这是——

佐伊·希弗:是是是,我不是在争论,只是想理解他们的逻辑。

布莱恩·巴雷特:佐伊喜欢帕兰蒂

英文来源:

This week, hosts Brian Barrett, Leah Feiger, and Zoë Schiffer discuss WIRED’s big scoop on ICE’s startling plans to expand to nearly every state in the US. Then they unpack Alex Karp’s nearly-hour-long non-response to Palantir employees with ethical concerns about collaborating with ICE. Plus, a WIRED writer lets the viral AI assistant OpenClaw run his life for a week to give listeners a peek of what AI agents can and can’t actually do.
Articles mentioned in this episode:

连线杂志AI最前沿

文章目录


    扫描二维码,在手机上阅读