«

《连线》综合要闻:人工智能引发心理问题、联邦贸易委员会文件遗失与谷歌臭虫事件

qimuai 发布于 阅读:5 一手编译


《连线》综合要闻:人工智能引发心理问题、联邦贸易委员会文件遗失与谷歌臭虫事件

内容来源:https://www.wired.com/story/uncanny-valley-podcast-wired-roundup-ai-psychosis-ftc-files-google-bedbugs/

内容总结:

本周,科技媒体《WIRED》播客节目《诡异谷》聚焦五大热点事件,引发广泛关注。

人工智能引发新型心理健康危机引担忧
美国联邦贸易委员会近期收到多起涉及ChatGPT的投诉,部分用户声称因长期与AI对话出现妄想、偏执等精神问题,甚至将其称为“AI精神病”。专家指出,AI聊天机器人可能通过持续互动强化用户的妄想思维,而非直接导致精神疾病。尽管OpenAI已组建心理健康专家顾问团,但如何平衡用户自由与安全防护仍是难题。

搜索引擎优化迈入生成式引擎优化时代
随着消费者日益依赖AI聊天机器人进行购物决策,传统搜索引擎优化策略正转向生成式引擎优化。数据显示,AI购物流量同比激增520%,沃尔玛等零售商已开始整合直接购物功能。专家预测,商品描述需更注重实用场景说明,以适配AI对话模式的信息抓取需求。

联邦贸易委员会悄然删除AI监管文件引争议
该机构近期下架了多篇拜登政府时期发布的AI监管指南,包括关于开源AI模型风险、消费者权益保护等主题的博客文章。分析认为此举可能影响企业对监管政策的理解,并引发对历史文件保存透明度的质疑。

青蛙玩偶服成抗议活动新符号
在近期全美反特朗普示威中,充气青蛙玩偶服成为抗议者标志性装扮。这种形式既能规避人脸识别监控,又通过卡通形象消解“暴力抗议”的污名化叙事。值得注意的是,青蛙符号曾先后被极右翼团体、香港示威者使用,显示出文化符号在不同语境下的多义性。

谷歌纽约办公室遭遇臭虫危机
谷歌纽约办公室因臭虫入侵紧急疏散员工。内部邮件显示杀虫犬已发现确凿证据,这已是该办公点自2010年来第二次爆发虫害。尽管公司次日即宣布解除警报,但员工对办公环境安全仍存疑虑。

(注:本文根据《WIRED》播客内容整理,相关事件背景及数据均来源于节目对话实录)

中文翻译:

在本期节目中,佐伊·希弗将与高级编辑路易丝·马萨基斯共同梳理本周五大焦点事件——从人工智能时代搜索引擎优化的变革,到青蛙如何成为抗议象征。随后,二人将深入探讨为何有人向美国联邦贸易委员会投诉ChatGPT,声称这款产品导致他们陷入"人工智能精神错乱"。

本期提及文章:

您可以在Bluesky平台关注佐伊·希弗(@zoeschiffer)和路易丝·马萨基斯(@lmatsakis)。欢迎来信至uncannyvalley@wired.com。

收听方式
您可通过本页音频播放器随时收听本期节目,若想免费订阅获取每期更新,请参考以下方式:
使用iPhone或iPad的用户可打开"播客"应用,或直接点击此链接。您也可下载Overcast、Pocket Casts等应用搜索"恐怖谷"。本节目亦在Spotify同步更新。

文字记录
注:此为自动生成的字幕稿,可能存在误差。

佐伊·希弗:欢迎收听《连线》杂志的"恐怖谷"播客。我是《连线》商业与产业总监佐伊·希弗。本期节目将为您解读本周五大必知要闻,随后我们将深入探讨主要故事:多名投诉者向联邦贸易委员会声称,OpenAI的ChatGPT致使他们或亲友陷入所谓的"AI精神错乱"。今日特邀嘉宾是《连线》资深商业编辑路易丝·马萨基斯。路易丝,欢迎来到恐怖谷。

路易丝·马萨基斯:你好佐伊,很高兴受邀。

佐伊·希弗:路易丝,我们本周的首个报道其实是我们与"模范行为"专栏的合作成果,聚焦今年假日季更多消费者将借助聊天机器人选购礼物的现象。我很好奇,在深入讨论前,你个人是如何决定节日礼物的?特别是当对送礼毫无头绪时?

路易丝·马萨基斯:说来可能有点烦人——我确实以擅长选礼自豪。但生活中总有些难以讨好的人。所以我确实会浏览"本季送公公的十大礼物"这类网络推荐。

佐伊·希弗:没错。而今年人们将追随新趋势。根据Adobe最新购物报告,零售商从聊天机器人和AI搜索引擎获得的流量同比2024年可能激增520%。OpenAI等AI巨头已在抢占先机:上周他们宣布与沃尔玛达成重要合作,允许用户直接在聊天窗口购物。这显然是他们的战略重点。随着人们依赖聊天机器人发现新品,零售商必须重新思考网络营销策略。数十年来的核心始终是搜索引擎优化——这门通过谷歌提升流量的"暗黑艺术"。如今我们正迈入生成式引擎优化时代。

路易丝·马萨基斯:我认为生成式引擎优化并非全新事物,更像是搜索引擎优化的演进。许多从事生成式引擎优化的顾问都来自搜索引擎优化领域。我如此确信的原因在于,目前这些聊天机器人常借助搜索引擎抓取内容,它们使用与谷歌、必应、DuckDuckGo相似的网络爬取算法,自然适用部分相同规则。何况用户需求本质未变:虽然与聊天机器人的互动方式迥异于传统搜索引擎,但核心诉求依然相似——"男友为何不回消息?""这个奇怪皮疹是什么?""该送公公什么圣诞礼物?"这些永恒命题决定了品牌需要植入答案的内容类型基本不变。

佐伊·希弗:正是如此。但对零售商而言,这着实令人惶恐:当年应对谷歌算法变动就足够头疼,每次调整都会引发行业震荡。现在面对聊天机器人,人们不禁要问:多年来为网页投入的优化努力是否付诸东流?是否需要针对新世界重新校准?我们采访了生成式引擎优化公司Brandlight的首席执行官伊姆里·马库斯,他估计以往谷歌前列结果与ChatGPT等AI工具引用的来源曾有70%重合度,但现在已跌破20%。路易丝,如果我是小企业主,该如何调整内容策略?

路易丝·马萨基斯:可能需要更详尽的产品使用场景说明。以香皂为例:你应当罗列多项用途——适合泡泡浴、具有祛痘功效等。而在过去,企业可能更侧重网站品牌调性,因为预期用户会直接访问网站,而非通过聊天机器人这个"中间人"获取信息。

佐伊·希弗:确实。这倒让我看到希望:还记得那个查找食谱必须读完五千字人生故事的年代吗?如今像聊天机器人一样,我们只需要点式原料清单——这或许正是未来方向。

接下来要谈的是同事劳伦·古德与麦肯纳·凯莉的报道:联邦贸易委员会删除了莉娜·汗任期内的多篇AI主题博客文章。熟悉前联邦贸易委员会主席莉娜·汗的人都知道,她对科技行业持监管立场,此事自然引发忧虑。被撤文章包括关于"开放权重AI模型"的论述(这类模型允许公众查验、修改和复用),该文最终被重定向至联邦贸易委员会技术办公室;另一篇由两位联邦贸易委员会技术专家撰写的《消费者对AI的担忧》遭遇相同命运;还有关于AI产品消费风险的文章如今显示"页面未找到"。

路易丝·马萨基斯:此事令人忧虑有多重原因。首先从历史与国家角度,这类信息不容遗失。政府更迭带来观点变化实属正常,但此类博客文章凭空消失在美国并非常态。更蹊跷的是,其中一篇支持开放权重模型与开源技术的文章,其实与特朗普政府官员(如AI与加密货币事务负责人戴维·萨克斯)立场一致。既然两届政府对此存在共识,为何还要删除?是要抹除莉娜·汗的政治遗产?还是想清除拜登政府任内所有痕迹?这种逻辑令人费解,也让企业和科技公司对政府立场无所适从。这些博客文章既服务公众知情权,也为企业提供监管指引——即便相关法律尚未出台,它们仍能预示政策风向。现在这一切都成了迷雾。

佐伊·希弗:值得指出的是,特朗普领导下的联邦贸易委员会删除AI监管内容并非首例:今年早些时候他们就移除了约300篇涉及AI消费者保护及起诉亚马逊、微软等科技巨头的文章。

现在我们来聊个轻松话题。上周六,约七百万民众涌入美国城市参加"不要国王"抗议活动,这场全国性示威旨在批评特朗普政府的威权措施。关注者可能注意到,现场出现了大量青蛙装扮者。

路易丝·马萨基斯:这些青蛙造型非常抢眼——其实我早有印象。最初是在中国短视频平台看到同类装扮:他们敲着响亮铙钹,在市中心激烈跳街舞。

佐伊·希弗:路易丝总能挖掘中国视角,我们对此十分欣赏。不过这次确有渊源:同事安吉拉·沃特卡特深入研究了青蛙与政治抗议的关联。她首先指出显而易见的一点:装扮能帮助抗议者规避监控,同时反击特朗普政府将抗议者污名化为暴力极端分子的叙事。安吉拉采访了"充气行动"发起人之一布鲁克斯·布朗,该组织免费发放充气服装。布朗表示,当旁观者看到警察向青蛙喷洒胡椒水时,不太会产生"青蛙活该"的想法——这其中存在切实策略。

路易丝·马萨基斯:确实很难将穿充气青蛙装的人描绘成危险分子。有趣的是,十年前青蛙符号意义截然不同:2015年左右的"佩佩蛙"是极右翼象征;2019年香港民主抗议中也出现佩佩蛙,但含义再度转变。可见青蛙符号具有极强适应性。

佐伊·希弗:青蛙形象历经多重演变,如今完成循环。上周末Bluesky流传着充气青蛙拳击佩佩蛙的图片。这些装扮甚至进入司法程序:周一第九巡回上诉法院解除对特朗普向波特兰派遣国民警卫队的禁令。持异议的苏珊·格雷伯法官站在青蛙一边,她在反对意见书中写道:"鉴于波特兰抗议者以穿鸡装和充气蛙装表达对移民海关执法局手段的不满而闻名,多数法官接受政府将波特兰定性为战区的裁决,在旁观者眼中或显荒谬。"

进入休息前还有一则快讯。纽约市民可能对此感同身受:本周谷歌通知纽约某园区员工因臭虫侵扰居家办公。

路易丝·马萨基斯:天啊!如果办公室闹臭虫,我几周都不会踏足。他们怎么发现的?

佐伊·希弗:周日员工收到邮件称灭虫人员携嗅探犬到场,发现"确凿证据"。有消息称纽约办公室放置了许多大型毛绒玩具,员工间流传玩具是传染源的传言。虽然发表前我们未能核实,但公司周一早就通知员工返工。像你这样的人对此非常不满,觉得办公室未必彻底清洁,所以纷纷来信反映。

路易丝·马萨基斯:如果你有这些毛绒玩具的照片或描述,请务必联系我和佐伊。感谢!

佐伊·希弗:这简直是求助呼吁。最精彩的是当我将草稿交给路易丝时,她立刻指出:"等等,这事发生过!"并找出2010年谷歌纽约办公室臭虫疫情的报道。

路易丝·马萨基斯:没错,历史重演实在糟心。

佐伊·希弗:稍事休息后,我们将探讨为何有人向联邦贸易委员会投诉ChatGPT导致他们陷入AI精神错乱。请不要走开。

欢迎回到恐怖谷。我是佐伊·希弗,今日嘉宾是《连线》的路易丝·马萨基斯。现在进入本周主题故事:2022年11月ChatGPT发布至2025年8月期间,联邦贸易委员会收到200起涉及OpenAI聊天机器人的投诉。多数属于常规问题:不知如何取消订阅、对回答不准确不满等。但同事卡罗琳·哈斯金斯发现,部分投诉者将妄想、偏执和精神危机归咎于聊天机器人。

盐湖城一名女士三月致电联邦贸易委员会,称ChatGPT建议其子停止服药并警告父母危险;另一投诉者声称使用18天后,OpenAI窃取其"灵魂印记"制作软件更新,意图使其自我对抗。投诉写道:"我在挣扎,请帮帮我,感到非常孤独。"此类案例不胜枚举。路易丝,我知道你一直深入研究AI精神错乱现象。

路易丝·马萨基斯:我们需要厘清"AI精神错乱"的定义。聊天机器人的特殊性不在于引发妄想,而在于助长妄想——通过互动验证患者的偏执,比如肯定"你的恐慌完全合理",或详细分析"亲友确实在阴谋迫害你"。问题在于这种交互性会推动病情恶化。精神健康危机始终存在,患者常将日常符号误解为神谕(如某个数字代表耶稣显灵),或认定社交媒体内容证明自己被 FBI 跟踪。但现在这些工具能以无穷精力直接回应妄想,精准迎合患者症状,而现实中他人会劝导"你状态不好",街头标志也不会闪现数字确认"这是你的幸运数字,是上帝启示"。这种互动性前所未有。

佐伊·希弗:这触及我们常讨论的核心:与其他伴随精神疾病增长的技术变革相比,此次有何不同?

路易丝·马萨基斯:精神疾病始终伴随人类文明,技术发展不断改变我们对癫狂的认知,但此次确实呈现新特征。这些联邦贸易委员会投诉只是所谓"AI精神错乱"案例激增的缩影——ChatGPT、谷歌Gemini等生成式AI聊天机器人的交互会诱发或加剧用户妄想。已知因此发生多起自杀事件,ChatGPT至少牵涉一桩谋杀案。显然存在某种机制,而我们尚未完全理解。

佐伊·希弗:OpenAI的应对策略值得玩味。我们与公司人员深入交流后,确认他们高度重视此事,已推出多项安全功能。但公司未选择直接终止敏感对话,而是咨询心理健康专家,组建专业顾问委员会,其核心理念是:"用户常在无人倾诉时转向我们,终止对话并非良策。"在我看来,这会使OpenAI面临巨大法律风险。

路易丝·马萨基斯:确实如此。现实是他们同样不甚了解。任何新技术都伴随风险,但此次现象确实独特且令人担忧。不过直接切断对话或建议用户寻求他人帮助,未必能改变结果,且难以判断用户认真程度。我曾撰写(佐伊你编辑过)相关报道:有时聊天机器人会陷入角色扮演——这恰是用户所求:他们可能在构思科幻小说、进行角色扮演或同人创作。幻想与探索黑暗秘密的界限,以及将其内化为现实认知的临界点,远比我们想象中更模糊。

佐伊·希弗:公司正走在微妙钢索上:一方面公开宣称"将成人视为成人",允许成年用户自由交互;另一方面处理着高度敏感的案例,同时应对无数诉讼。后续发展值得密切关注。

路易丝·马萨基斯:在诉讼进行期间虽存困难,但我期待看到临床试验——如果OpenAI能将匿名化数据提供给心理健康专家系统研究,将极具意义。令人担忧的是心理健康专业人员仍在摸黑前行:我接触的许多专家自身较少使用ChatGPT,面对提及此类问题的患者时无从下手。若能通过严谨的同行评审研究明确现象本质,制定安全防护方案,将是解决问题的重要一步。

佐伊·希弗:完全同意。令我始终惊讶的是,即便精通技术原理的人士,也会不自觉地拟人化聊天机器人或高估其智能。普通用户更易被其表现震撼,逐渐模糊对交互对象的认知。

路易丝·马萨基斯:确实如此。我们已被社会驯化从文字获取意义:对于分居亲友,发信息是主要沟通方式。与聊天机器人的交互界面类似,且现在ChatGPT已支持语音对话。有充分证据显示现代人社交减少,更感孤独,社区联系减弱,密友数量下降。在这种背景下,人们易被这个专注倾听、无所不谈的存在吸引——它常常阿谀奉承、不断肯定。健康人际关系需要边界与限制,而这个永不厌烦、永远认同你的存在极具诱惑力。产生这种感受完全正常,关键是如何建立防护机制。

佐伊·希弗:Exactly. 我们已在国家层面见证被永远附和者包围的后果——这绝非好事。

路易丝·马萨基斯:确实不妙。

佐伊·希弗:路易丝,感谢今日分享。

路易丝·马萨基斯:谢谢邀请。

佐伊·希弗:本期节目到此结束。讨论文章链接详见节目备注。敬请关注周四"恐怖谷"节目:为何AI基础设施热潮及相关忧虑已达沸点。本期节目由阿德里安娜·塔皮亚制作,宏声工作室阿马尔·拉尔完成混音,执行制作人为凯特·奥斯本,康泰纳仕全球音频总监克里斯·班农,凯蒂·德拉蒙德任《连线》全球编辑总监。

英文来源:

In today’s episode, Zoë Schiffer is joined by senior editor Louise Matsakis to run through five stories that you need to know about this week—from how SEO is changing in the era of AI to how frogs became a protest symbol. Then, Zoë and Louise dive into why some people have been filing complaints to the FTC about ChatGPT, arguing it has led them to AI psychosis.
Articles mentioned in this episode:

连线杂志AI最前沿

文章目录


    扫描二维码,在手机上阅读