抖音副总裁：发现大量利用AI仿冒“于东来”违规营销带货内容，已封禁1000多个黑灰产团伙账号，一企业被罚15万元

刚刚，抖音集团副总裁李亮发文：今年一季度我们发现平台出现大量利用AI仿冒“于东来”语音、形象，违规营销带货的账号和内容，这些黑灰产的行为不仅侵犯了相关企业的权益，还严重误导了消费者。封禁这1000多个黑灰产团伙账号的同时，我们还把相关线索举报给了监管部门。经过调查，泉州市丰泽区市监局没收相关企业违法所得并处罚款15万元。AI带来技术进步的同时也被很多黑灰产盯上，针对这些滥用AI的行为抖音一直在重点治理。对于相关违法违规内容，欢迎大家共同监督。

随后，抖音黑板报转发响应：如果发现违规账号和内容，可以通过以下方式举报，我们会第一时间核实处理。1、点击视频转发按钮，在“举报”中选择“AI生成内容问题”进行举报；2、发送详情至举报邮箱：feedback@douyin.com。

此前，有商家用AI仿冒运动员及其家人带货、利用AI虚假宣传，抖音采取下架、清退措施。

胖东来此前发文追责

2025年2月，胖东来商贸集团发布“胖东来关于侵权行为的处理公示(四)”，称目前网络和实体经营中出现大量利用胖东来名义的各种侵权行为。公示第二条明确指出，胖东来在网络平台发现个别商家，通过AI仿冒于东来先生声音，利用于东来先生肖像博取流量热度，使得相关公众误以为该产品来自胖东来超市，以此进行牟利，此行为不仅侵犯了于东来先生肖像权，也涉嫌虚假商品宣传，胖东来法务正在通过法律途径进行追责和维权，最大限度的防止大家被误导。

图片来源：视觉中国

而在更早的2024年11月，胖东来商贸集团就曾发布声明，称公司在第三方网络平台发现多个账号，未经授权擅自利用AI技术手段生成于东来先生的声音，并对于东来先生或公司享有著作权的视频内容进行非法剪辑和篡改，加入AI生成声音及误导性文案后发布，对公众造成误导和混淆。

声明明确表示，“前述行为已侵犯了于东来先生的人格权及著作权，对公司品牌形象造成消极影响。”

胖东来表示，对于此类未经授权，擅自利用AI技术手段和生成画面，实为博取流量而采取的违法侵权行为，对公众造成了误导，破坏了网络生态健康和秩序，表示严厉谴责！严正警告存在上述行为的账号立即停止侵权行为！对于为博取网络关注、获取流量而严重侵犯于东来先生及公司合法权益的，将坚决采取法律措施追究其法律责任！

典型AI内容滥用案例

9月2日，抖音电商安全与信任中心发布了关于加强治理AI内容滥用的公告。公告称，平台已对违规视频和账号采取下架、清退等措施，并强调AI应用必须合规，任何误用、滥用行为将被严厉打击。

抖音电商近期发现，少数商家和达人存在滥用或误用AI技术的情况，甚至借助AI生成误导内容，损害消费者合法经济权益，扰乱平台正常交易秩序。

具体表现如下：

少数商家利用AI技术生成虚假商品展示、夸大不实的功能宣传内容，误导消费者购买，造成用户财产损失。

利用AI生成虚拟人物冒充真实身份，冠以权威专家、名人的虚假人设进行带货，损害消费者信任，违规变现。

在商品详情页、直播间使用AI生成的虚构测评、编造使用体验，刻意制造虚假口碑，影响消费者理性判断。

以下将通过典型AI内容滥用案例，帮助各位商家及达人理解平台的电商 AI 内容治理规则：

典型违规案例一：

AI仿冒名人带货

少数视频创作者利用AI仿冒名人形象、声音和口型，用于商品宣传，误导不了解的用户下单购买。例如，有账号合成某知名运动员父亲、哥哥的声音，并使用相同文案称“家里要盖新房”，借此博取流量。在这些AI合成视频中，往往挂载骆驼奶粉、土鸡蛋、洗衣液等商品链接，误导消费者下单。目前站内已及时处置相关视频，也呼吁广大创作者尊重名人肖像权，共同维护平台的营商环境。

合规解析：创作者不得利用AI生成虚拟人物或仿冒社会名人、特定专业身份（如军警等），进行带货变现，或通过卖惨方式违规营销。

典型违规案例二：

生成违背常识的AI内容

创作者利用AI创作不符合现实或不存在的商品内容，甚至夸大商品大小、量产等，涉嫌虚假宣传。如，少数创作者在直播间利用AI展示樟树港辣椒丰收的场景，辣椒的数量、分布和植株生长规律完全不符合现实农业，并在口播中夸大种苗的量产，误导消费者下单。

合规解析：创作者不得利用AI生成违背常识、虚构编造等内容，如与农业现实完全违背的内容等。

典型违规案例三：

AI内容与售卖商品完全无关

少数视频创作者利用AI制作与售卖商品完全无关的内容，从而吸引消费者关注。如，创作者实际售卖产品为硫磺润肤露，但利用AI更改各地方新闻报道画面作为素材吸引用户关注后，讲解推销相关商品。

合规解析：创作者不得使用与商品无关的虚假或误导性素材，如篡改新闻报道为虚假商品测评等来吸引关注。

典型违规案例四：

缺少AI自主声明

少数视频创作者未主动添加AI视频声明。

合规解析：用户发布 AI 生成的内容时，需自主声明，不做自主声明，平台会根据规则进行识别和治理。

此前据界面新闻报道，《人工智能生成合成内容标识办法》9月1日正式生效。

微博：对识别到的AI生成内容添加隐式标识及显式标识

微博发布公告称，站方依据《办法》要求，通过升级产品功能及技术识别手段，对平台内识别到的的AI生成内容依规添加隐式标识及显式标识。

微博还在公告中表示，如用户发表的文本、图片、音视频等内容由人工智能生成合成，用户应在“选择内容声明”功能栏中选择“内容由AI生成”。站方在用户自主声明的基础上，还在投诉侧增加  “未添加AI标识”投诉分类，如发现平台用户发布的微博内容包含AI 生成内容但未进行AI 内容标记声明，可以选择此分类进行投诉。

快手：已上线AI内容标识

快手发布公告称，平合已上线AI内容标识，会在AI生成的内容中添加“AI生成”显式标识以及嵌入文件元数据中的隐式标识。如果用户上传的内容明确由AI生成或疑似由AI生成，平台会在内容周边进行显著提示。

抖音：升级AI内容标识功能

抖音发布《关于升级AI内容标识功能的公告》，进一步规范平台上的AI内容创作与传播。《公告》显示，抖音已上线两项核心功能：一是AI内容标识功能，协助创作者为AI内容添加提示标识，方便用户辨别；二是AI内容元数据标识读写功能，可识别并写入AI内容的元数据信息，为内容溯源提供技术支撑。

编辑|陈柯名 潘海福

校对|程鹏

封面图来源：视觉中国

每日经济新闻综合自抖音黑板报、抖音电商安全与信任中心、

中新经纬、界面新闻等