你刷短视频的时候,有没有注意到过左下角那行灰色小字——“AI生成”?
前几天我刷到一条,某位老演员对着镜头痛斥某品牌,表情、语气、甚至眼角皱纹的抖动都无比真实。评论区已经吵到要掀桌子了。可我把画面放大一看,左下角确实挂着那行小字。
按理说,我应该松口气——哦,假的,AI做的。
但我没有。我反而更不安了。因为那行字是谁加上去的?如果是造假的人自己加的呢?
9月1日起,《人工智能生成合成内容标识办法》正式落地。抖音、快手、微博、微信几乎同一时间上线了AI内容标识功能。平台的要求很明确:AI生成的文字、图片、视频,发布时必须打标,显式的加在画面上,隐式的埋在文件元数据里。
政策的初衷没毛病。可实施不到一个月,一个更荒诞的现实浮出水面——骗子根本没在怕,普通人反倒被逼进了死胡同。
打标这件事,本质上是在要求“坏人自曝身份”
制度设计的假设是:造假者会在发布AI内容时老老实实勾选“AI生成”。这个假设有多天真呢?差不多等于让小偷在额头上刻“我是小偷”。
真正用AI造谣、诈骗、换脸的人,永远不会主动打标。他们会做的只有一件事——把水搅得更浑。比如给一段假视频硬加上“AI生成”的水印,反而成了最好的掩护。“我都标了AI了,你还信,那不是你自己的问题?”
更讽刺的是,有些真人真事因为画面太过离奇,被平台算法误判为AI内容,自动打上标识。当事人想申诉,流程繁琐得让人想放弃。有创作者在社交平台上吐槽:“我拍了三小时的纪录片片段,被系统标成AI生成,播放量直接腰斩。”
真正的问题不在于标签,而在于我们越来越不信任何标签
有组数据值得琢磨。某研究机构做过统计,AI生成的虚假信息传播速度是真实信息的六倍。不是因为技术多高明,恰恰是因为假的内容更符合情绪期待——更愤怒、更猎奇、更极端。而标签,在情绪的洪流面前,脆弱得像一张便利贴。
你有没有发现,现在我们在网上看到任何令人震惊的消息,第一反应已经不是“真的假的”,而是“AI做的吧”。这种条件反射式的怀疑,才是真正让人后背发凉的东西。
信任的成本正在以肉眼可见的速度飙升。过去我们默认眼见为实,后来变成“有图有真相”,再后来是“视频也不能信了”。现在好了,连“AI生成”这个标签本身,都可能是假的。
平台在打标,但打标和被标的人,中间隔着巨大的利益鸿沟
平台有平台的逻辑。对它们来说,上线标识功能是合规动作,是应对监管的“规定动作”。至于标识能不能真的拦住谣言,那不是技术能解决的问题。
但普通用户面对的局面完全不同。他们要在几秒钟内判断一个视频的真假,要在信息流里分辨哪些标签是真的、哪些是后期加上去的、哪些是被误伤的。这几乎是不可能完成的任务。
更别提那些被AI换脸诈骗的受害者。标不标识对他们来说毫无意义,因为在他们受骗的那个瞬间,屏幕上根本没有标签,只有“亲人”焦急的脸。
技术的漏洞,从来不只是技术问题
我不反对给AI内容打标。但我越来越觉得,打标只是把问题从一个地方挪到了另一个地方。造假的手段在进化,识别的门槛在拉高,而普通人被夹在中间,既没有辨别工具,也没有追责能力。
真正该追问的是——平台有没有动力去识别那些刻意伪装的内容?法律有没有办法穿透“我已经标了AI”这种免责声明?公众的媒介素养教育,为什么永远停留在喊口号阶段?
这些问题不解决,标签就只是一张贴在伤口上的创可贴。下面是溃烂还是在愈合,没人真的在乎。
也许我们该换个问法
与其问“怎么识别AI内容”,不如问“我们到底在害怕什么”。
怕的是被骗?怕的是真假不分?还是怕有一天,我们连自己亲眼看见的东西都不再相信?
AI打标是个开始,但远远不是答案。答案可能在代码之外——在平台的问责机制里,在法律的执行力度里,也在每一个刷视频的人按下暂停键时,那一秒的犹豫和追问里。
说到底,技术从来不会自动带来透明。透明是需要争取的。
评论 0
留下你的看法