来源：电商派Pro 李响
当技术失去边界，信任便成了“奢侈品”。
“大家好，我是你们的婵宝，今天有事请大家帮忙。”这一带货台词，听起来与奥运冠军全红婵的声音几乎一模一样，居然是AI克隆技术伪造的。
近两年来，随着AI技术的飞速发展，AI造假式带货不仅形成完整产业链，更从声音克隆蔓延至视频合成、场景伪造，成为侵蚀消费信任的“毒瘤”。
此前有媒体报道称，多个短视频平台出现大量利用AI克隆全红婵、孙颖莎和王楚钦等奥运冠军声音带货土鸡蛋的视频。
出于对奥运冠军的信任，大量消费者购买下单该土鸡蛋。数据显示，在仿冒全红婵的带货视频中，某一特定商品的链接显示已售出4.7万件。
对此，全红婵的哥哥在直播中无奈回应：“我妹妹在训练基地，她怎么卖鸡蛋？那是AI声音，全平台一大堆这样的切片。”
为了打击这类AI技术滥用乱象，北京市消费者协会联合京东、美团、拼多多等八大电商平台，正式签订全国首份《促进AI技术规范应用承诺书》（下称承诺书）。
自此，电商平台AI应用规范化进程正式提速。
AI造假式带货泛滥成灾，电商平台开始行动
如今，AI造假式带货不仅形成了完整的产业链，更从声音克隆蔓延至视频合成、场景伪造，成为侵蚀消费信任的“毒瘤”。
在电商平台上，AI声音克隆工具的售卖明目张胆，几块钱到数百元的教程比比皆是。
不仅有商家宣称“1分钟克隆声音，小白也能上手”，更有商家打包推出“教程+代克隆+售后”的一条龙服务，以低成本投入、高利润回报为噱头吸引用户关注。
图源：拼多多
此外，明星声音代克隆服务也相当泛滥。打开电商平台搜索可见，不法商家打着“国内明星任意选，100字4.99元”的宣传语售卖声音克隆产品，消费者只需截取几段公开音频，便能复刻出以假乱真的名人声线，用于欺诈性带货。
欺诈模式日渐成型，AI带货乱象随之愈演愈烈。
诸多不法商家持有统一脚本，只需替换名人姓名与商品信息，便能批量生产虚假带货内容。
比如，仿冒全红婵的“婵宝小助理”“全妹福利号”等账号，通过AI合成视频售卖美妆、食品，利用奥运冠军的国民好感度收割粉丝信任；演员靳东的相关仿冒内容更是重灾区，此前克隆其沉稳声线的24小时语音直播遍布各大平台，不仅诱骗中老年粉丝高额打赏，更将账号快速养号后转卖牟利，让名人声誉沦为变现工具。
图源：新京报
不仅如此，配音演员的生存空间也遭到挤压。从业十多年的武扬发现，自己的声音被AI克隆用于餐饮宣传片，侵权方不仅拒绝公开道歉，还只愿支付5000元“封口费”。
乱象丛生的背后，是消费者知情权的严重缺失，以及平台审核的明显短板。
北京消协专项调查显示，近九成受访者呼吁对AI生成内容进行显著标识，超六成消费者吐槽AI数字人“缺乏真情实感”，近三成受访者担忧其“误导消费决策”。
图源：北京消协公众号
在电商行业中，AI技术的滥用已经严重冲击行业信任根基。
面对这场由技术滥用引发的信任危机，监管重拳与行业自律已同步发力。
有关部门发布的《人工智能生成合成内容标识办法》，明确自9月1日起，AI生成内容必须添加显式标识和隐式标识；“清朗·整治AI技术滥用”专项行动直指源头，清理违规应用。
京东、美团等8家平台联合签署《承诺书》，以“标识透明、审核严格、责任可溯”为核心，划定了“禁止AI克隆名人肖像/声音用于商业推广”“AI生成内容需在封面、标题显著位置标识”等六大合规红线。
图源：北京消协公众号
其中，强化标识要求、保障消费者知情权成为重中之重。《承诺书》明确要求，商家和内容创作者在利用AI技术生成或合成数字人主播、虚拟场景时，必须在显著位置清晰标注提示内容；同时鼓励使用平台提供的统一AI内容标识功能主动声明。
平台将采用技术监测与人工复核相结合的方式，阻断违规内容传播。一旦发现未标识的疑似AI数字人或AI虚拟场景，将及时添加显著提示标识；对违规行为，还将进一步采取屏蔽链接等处置措施。
图源：北京消协公众号
《承诺书》还明确，将严打恶意删除、篡改、伪造或隐匿AI内容标识的造假行为，对违规账号及内容依法依规严肃处置，全力维护AI带货的规范秩序。
新兴行业在发展初期难免出现乱象，但平台与相关部门已主动发力、积极整治，通过一系列举措为AI带货纠偏。
希望随着这些规范真正落地见效，AI带货可以彻底告别虚假套路，回归技术赋能的初衷，让商家合规经营、消费者放心下单。
共2页 [1] [2] 下一页
