最近刷到很多6·18的直播和视频：西装革履的“权威专家”侃侃而谈保健品功效，明星声情并茂地推荐“回到18岁”的美容产品……连续刷到多次此类视频后，难免会产生“不买吃大亏”的感觉。
但是，这些都是真的吗？
在AI内容浓度越来越高的购物节，你可能看了一下午，都没遇到一个真人。所谓的“专家”是AI换脸合成的，那张明星脸也是AI生成的，那个清仓甩卖的“工厂老板”甚至只是一个用文本驱动嘴型、AI配音的数字人。
普通人的分辨能力已经越来越难应付日益能耐的AI——画面太流畅，表情太自然，根本看不出破绽。
近日，中央网信办全面部署推进短视频内容规范标注工作，在抖音、快手、腾讯等12家平台先行先试的基础上，将内容标注设为短视频发布的硬性前置流程，明确平台必须提供6类“必选标签”，包括“含有AI生成内容”“含有虚构演绎内容”“含有营销信息”“内容为转载”“内容为个人观点”和“无需标注”，发布者必须从“必选标签”中选择一项才能发布，过往发布的存量视频也要逐一补标。
图源：百家号
中央网信办想解决的核心问题是：让你知道你看到的东西是AI做的。
今年上半年，AI换脸诈骗案同比大幅上升，一台电脑、一套免费工具，几分钟就能换脸、复刻声音、合成视频，造假成本趋近于零。福建一位企业主，10分钟被AI换脸的“好友”骗走430万元。在6·18期间，多地市场监管部门专门发布消费提示，提醒消费者“警惕AI造假”。
AI造假不止发生在视频里，图文内容同样是重灾区。就在5月上旬，全国首例AI代写“种草笔记”案宣判，法院认定这类AI工具的运营者构成不正当竞争，判赔10万元。
对于创作者和平台来说，标注已成为一种义务。但另一边，网上“AI去水印”“无痕除标识”的生意依然红红火火，几十元的基础工具、上千元的定制服务，明码标价——“合规者在照做，违规者在绕过”，平台的标注随手可破。
另外一个问题是，用户“对AI脸生理性厌恶”，有媒体报道，一项基于数百名用户参与的研究发现，标注为“AI生成”的内容，用户的行为参与度会断崖式下跌14到16个百分点。
行业数据也在印证这一趋势，2026年第一季度，国产微短剧产量中，AI生成短剧占95%，但真人短剧虽只占5%，总播放量却是AI的约25倍。
这意味着在消费端，用户对AI内容正在产生本能的抵触。生产端在拼命用AI“印刷”，消费端在用手指“划走”。
到底什么样的内容才算“AI生成”？
如果一段视频只是用了AI辅助翻译字幕，算不算？如果只是用AI调了个色，算不算？在电商场景里，商家用AI生成口播稿、用AI做客服，这些算不算需要标注的“AI生成”？
一般而言，只有视频画面、人物、语音由AI合成创作，也就是使用AI换脸、AI配音、AI生成虚拟人物或视频本身由AI从零创建的内容，必须打上“AI生成”标签。AI辅助翻译字幕、AI调色这类后期辅助工具，并不在强制标注范围内。
但在实际操作中，边界并没有那么清晰。一段视频可能用AI做了部分处理，也可能完全由AI生成，模糊地带很多。平台不仅要核验用户是否主动标注，还要用算法自动识别那些漏标的内容。但算法的判断并不一定准确。此前北京互联网法院就有一个判例，平台仅靠算法判定某用户内容为“AI生成”并对其隐藏内容并禁言1天，结果被法院认定缺乏事实基础、构成违约。
随着短视频内容规范标注工作的推进，平台加大审核力度，这类“误伤”的情况可能会更多，谁来界定边界、如何保证判定公平，仍是一个需要持续关注的问题。
回到最初的问题：一个标签，能拦住什么？
图源：视频号
那位被AI换脸骗走430万的郭先生，视频开头如果有个“AI生成”标签，他还会转账吗？显然不会。诈骗分子压根不会让他看到标签。
似乎“AI生成”的标签，只防君子，不防小人，拦不住蓄意诈骗的人，也拦不住AI内容总量的增长，6·18的商家绝不会因为要贴标签就不做AI直播了。
“标签”真正能做的，是为每个普通用户多争取一些思考时间。看到一个视频，先看标签，再判断内容；涉及转账的，打电话确认；看到一个感人故事想转发之前，先想想它是不是AI编的。
在AI造的内容越来越多、真假边界愈发模糊的时代，防线的最后一米，不在那个“标”签上，仍在每个人自己手里。
DeepSeek：标签的意义或许不在于“拦住坏人”，而在于重构信任的底层协议。就像食品包装上的成分表，不会阻止造假者，却能帮消费者建立理性的选择预期。AI标签的真正价值，不是防伪，而是让“真实”重新成为一种稀缺资源——当每段内容都带着来源声明，用户的注意力才会从被动接受转向主动甄别。这不是防线的终点，而是认知免疫系统的起点。
千问：AI标签虽能防君子，却难挡蓄意作恶的“小人”，这揭示了技术治理的局限性。面对真假难辨的数字洪流，真正的防线不在外部强制的“标”，而在个体内心的“醒”。当AI能轻易伪造视觉与声音，人类唯有保持批判性思维与审慎的验证习惯，才能守住认知主权。技术越是逼真，我们越需清醒：不被算法裹挟，不向技术让渡思考权，才是数字时代最核心的生存素养。
星辰：标签治标不治本，问题的根在企业端——用AI量产内容获利的是平台和商家，承担鉴别成本的却是用户，这是责任倒置。与其要求每个人练就火眼金睛，不如倒逼源头：未标注AI内容造成损害的，平台与商家应承担连带赔偿。防线不在个人手里，而在制度里——当造假的收益不再远大于代价，“AI标签”才有真正的意义。
图片／ 百家号 视频号 豆包AI
本文来自微信公众号 “IT时报”（ID：vittimes），作者：潘少颖，36氪经授权发布。
