AI的脑洞, 不能为违法而开

AI时代，几人欢喜几人愁。

在AI芯片巨头寒武纪A股收盘价强势超越茅台、坐实“新股王”之位当天，8月28日，良品铺子因AI生成的“花生上树”海报陷入争议。两则新闻，均指向AI这把“双刃剑”。

尽管良品铺子随后致歉并承诺，对所有产品宣传材料进行全面科学性核查，但其实它最该反思的，不是海报疏忽，而是宣传失真——人们支持、看好人工智能，但对以假乱真的Deepfake（即深度伪造技术），实在烦不胜烦。

如何治理AI造假？9月1日起正式施行的《人工智能生成合成内容标识办法》（以下简称《办法》）给出一个方案——未来，所有AI合成的内容，都必须依法打“电子水印”

人们苦AI造假已久。

“辣眼睛”的AI“脑洞”，污染社会认知。“相亲相爱一家人”里，长辈分享的视频里神童辈出。1岁的婴儿会干家务；2岁的小孩写一手好毛笔字……若只是提供情绪价值倒还好，问题是，网民认知参差不齐，真有不少人信以为真。解构真实，贩卖奇观，不知不觉中，AI还在疯狂污染知识库。从各种未经核实甚至七拼八凑的信息到奇奇怪怪违反常识的视频，Deepfake的信息越多，DeepSeek等AI大模型越可能抓取到虚假信息学习。久而久之，AI幻觉陷入循环黑洞，人们再难在互联网上搜寻真相，不同群体间的认知差距也会越来越大。视频一刷、AI一看，九年义务教育都白干。

“好卖相”的AI广告，污染营商环境。良品铺子宣传好东西，却不去拍真实的照片，AI生图是省事儿，却也给虚假宣传开了“传送门”。直播里饱满的大果，让人垂涎欲滴，冲动下单，结果到手是残次品；满屏的美女模特，看着衣服是丝绸，结果到手是“抹布”……实际上，如今商家借助AI制造商品“幻象”比比皆是，甚至能“山寨”同行整个店铺，让原创商家处境艰难。还有消费者，用AI伪造“劣质产品”证据，以此给差评、逼退款、薅羊毛。生意双方“所见即所得”，所见的是虚假，所得的是骗局。

“太逼真”的AI克隆，成为违法捷径。通过AI换脸、AI语音生成等技术，在虚拟世界克隆一个人已经非常简单，甚至有时候“连亲妈都分不清”。你以为视频里和你说话、找你要生活费的是你女儿，其实是骗子；你以为正在带货的是偶像，其实也是骗子——前不久，奥运冠军全红婵、王楚钦就莫名成了“三无”鸡蛋代言人。还有人把普通人照片换脸到色情片上，以此造谣、敲诈，8月30日，女台球运动员王思诺发布视频称，自己遭人恶意利用AI人工伪造淫秽视频并传播。她报警后，有很多相同遭遇的网友站出来支持她。Deepfake的手还可能无底线伸向包括未成年人在内的每个人，窃取隐私、毁坏名誉、诈骗勒索、歪曲真相，如此乱象，必须严管。

为什么人人痛恨Deepfake，却屡禁不绝？

造假被“赋能”，批量生产。今年以来，“80后死亡率突破5.2%”“DeepSeek就AI模型违规关联王一博与某腐败案发布道歉声明”等假消息，一度引得舆论哗然。甚至有黑客在国际新闻中换脸两国元首，制造恐慌。从文字到视觉，AI让造假的门槛更低，传播的速度更快，识别门槛却更高了。

“反制”慢半拍，技术和监管强制性不足。其实给AI“打码”的技术早就可以实现，无论是生成端还是使用端，都可以通过直接在图片/视频等内容上加水印的方式，或者，用类似“藏头诗”等方式，把辨识标签隐藏在文本和数据信息中。只不过，由于过去没有强制要求，各AI技术方案提供商担心标识后会影响使用率，为了市场竞争也就“睁一只眼闭一只眼”了。

如今，《办法》实施，技术监管有了强制力，从源头给生成内容打标签、给Deepfake上“镣铐”，给观者一双“火眼金睛”。

8月26日，国务院印发《关于深入实施“人工智能+”行动的意见》（以下简称《意见》）。人工智能时代已经加速到来，但AI运用不能蒙眼狂奔。值得一提的是，在8月28日寒武纪登顶“新股王”当晚，公司就发布公告，八次提到“风险”、十遍强调“理性”，谦之又谦。正如创始人陈天石说：“和行业前辈比，我们还是个孩子。罗马不是一天建成的，长跑才刚刚开始。”人工智能时代，以技术“钢印”让Deepfake出局，也只是对决的开始。

从信息生成到传播，每一步都需要“把关人”。在生产端标注“AI”并非一劳永逸，技术端和“黑客”斗法，让水印清洗难上加难；平台主动识别、标注AI造假，有效打击货不对板、AI诈骗等行为。而媒体乃至每个人，都要进一步提升信息识别能力，遇到夸张惊悚的信息和图片别着急转发。

正如《意见》中提到，“打造更有品质的美好生活”“开创社会治理人机共生新图景”……人工智能，固然聪明，却不能让其聪明才智用在歪门邪道上。

本期话题

日常生活中，你用到了哪些AI？如何有效监管人工智能？评论区聊聊你的看法~

撰文/刘志杰

编辑/郭书琼责编/谢梦马艳琳审核/姜明