«

一张照片,几秒钟,AI造出另一个你!字节紧急刹车背后是伦理崩溃。

qimuai 发布于 阅读:2 AI新闻


一张照片,几秒钟,AI造出另一个你!字节紧急刹车背后是伦理崩溃。

最新AI落地实操,点击了解:https://qimuai.cn/

一张照片,你的声音和脸就归AI了?字节新视频模型引爆隐私巨震

那一瞬间,他感觉自己在照一面诡异的魔镜。

当影视飓风的主理人Tim第一次看到那段视频时,后背可能有些发凉。视频里的“他”,不仅样貌、神态与自己别无二致,连说话的声音、语气都像是从自己喉咙里直接复制出来的。

但Tim很清楚,自己从未拍过这段视频。

这一切,始于2026年2月7日。字节跳动正式发布了新一代视频生成大模型——Seedance2.0

官方演示很惊艳:输入一段文字或一张图片,不到60秒,它就能给你生成一段电影感十足、带原生音频、甚至有多镜头切换的视频。

技术飞跃,资本狂欢。AI概念股应声上涨。

然而,发布仅仅两天后,2月9日,一场测试让所有的赞叹瞬间转为惊恐。有用户仅仅上传了一张Tim的照片,Seedance2.0就凭空生成了一个会说话、会动的“Tim”。

“能力太恐怖了。” 测试者惊呼。

更关键的是,Tim本人对此毫不知情。他表示,从未收到过任何相关的联系或授权。

一张照片,几秒钟,一个人的数字分身就此诞生。你是谁,你说什么,可能不再由你自己决定。

肖像与声音,这两项法律明确赋予个人的权利,在AI生成时代,边界正变得前所未有的模糊。

你的社交媒体照片、会议录音,甚至一段家庭录像,是否在不知情时,已成了某个AI模型的“训练食粮”?当技术能轻易复刻一个“你”,用来联系你的家人、同事,发布你从未说过的言论,真假之间的防线在哪里?

危机来得快,字节跳动的反应也算迅速。

就在同一天,2月9日,字节跳动紧急调整策略:暂停在内测中使用真人图片或视频作为生成主体参考。想要生成真人内容?必须通过活体认证。同时,他们挂出了一条醒目的标语:“创意的边界是尊重。

这无疑是一次“急刹车”,旨在堵住最直接的身份滥用漏洞。

背后,是字节跳动早已设立的 “Seed-Responsible AI”团队在发挥作用。这个团队专注AI安全与可持续发展,将伦理考量嵌入技术研发的全流程。从多模态伦理到逻辑推理的安全对齐,他们试图在狂奔的技术列车前铺上轨道。

但一家公司的自律够吗?

目光转向监管层。国内《生成式人工智能服务管理暂行办法》已经落地,白纸黑字要求:训练数据来源必须合法,不得侵害知识产权和个人信息。更重要的是,所有AI生成内容,必须打上“肉眼可见”和“技术嵌入”的双重标识

这是给虚拟世界立下的“交通规则”。

关于数据使用的争论从未停止。一方主张“合理使用”,认为AI学习具有公共属性,如同之前的“奥特曼案”判决所暗示;另一方则坚称,未经授权的复制就是侵权。

法律与技术的赛跑,在这场“肖像风暴”中显得格外激烈。

此次事件,与其说是Seedance2.0的“滑铁卢”,不如说是整个AI视频生成行业一次提前到来的压力测试。

它无情地揭开了技术奇迹面纱下的伦理暗疮:能力越强大,责任越沉重。字节的快速限制措施,是必要的止损,但也只是起点。

真正的挑战在于,如何构建一个贯穿数据获取、模型训练、内容生成和传播全链条的“防火墙”?如何在激发无限创意与捍卫个体基本权利之间,找到那个微妙的平衡点?

技术没有原罪,但驾驭技术的人,必须心存敬畏。

所有领域都值得用AI重做一遍。本文作者承接各种AI智能体和AI全域营销自动化软件、工作流开发,了解加微信:qimugood(读者也可此微信一起交流)。

AI每日进展

文章目录


    扫描二维码,在手机上阅读