新浪新闻

你被AI伪造的明星祝福骗过多少钱?虚假内容产业链正如何掏空网民钱包?

BigNews 05.24 18:51

💡AI伪造明星祝福诈骗现状

AI伪造明星视频已形成完整黑色产业链,单条伪造祝福视频最低仅需100元,高价定制可达上千元,而老年人群体成为重点围猎目标,有受害者因购买虚假“霸总”推销的商品单次损失超万元。

🔍 虚假产业链掏空钱包的核心手法

伪造明星代言/祝福视频牟利

电商平台商家明码标价提供“明星AI视频定制”,分为可检测版(100元)和高度仿真版(300元)。部分商家甚至承接明星带货视频定制,10秒内报价超1000元,通过伪造代言诱导粉丝消费。

案例:演员王劲松、刘晓庆等多次公开控诉形象被盗用,有商家利用其AI仿冒形象推销丝袜、保健品等,消费者因轻信“明星同款”下单高价劣质商品。

“AI霸总”情感诈骗老年人

运作模式:

批量生成“深情霸总”短视频(成本5分钟/条),虚构富豪人设(如“上海多套房、缺伴侣”)吸引中老年女性。

通过直播索要打赏(虚拟礼物52-120元/个)、橱窗售卖三无产品(开运挂件199元/个)、会员付费(月费140元)层层变现。

危害:有老人沉迷后单账号消费超7000元,甚至泄露住址、电话号码;湖南一老人被诱导持续转账,误信“霸总”承诺共同生活。

伪造权威身份实施精准诈骗

诈骗团伙利用AI换脸和拟声技术冒充亲友、投资顾问,编造紧急借款、高收益理财骗局。一起案例中,犯罪团伙冒充演员靳东与粉丝“网恋”,诱导受害者贷款200万投资。

⚠️ 产业链背后的技术滥用与监管挑战

低门槛犯罪工具:二手平台可低价购买声音克隆服务(1元/50字),AI换脸软件操作简易,普通人几分钟即可生成虚假内容。

平台审核漏洞:尽管规定需标注“AI生成”,但标识常被隐藏或篡改。部分“AI霸总”账号未标注或使用小字提示,老年人难以辨识。

追责困境:侵权账号批量注册、快速更名,受害者维权成本高。例如,某MCN机构运营842个账号,日均生成7000条虚假信息,通过流量分成获利。 AI生图越来越逼真是好事吗

🛡️ 防骗指南与治理进展

个人防护

警惕“明星低价带货”“情感关怀”话术,转账前通过电话或暗号核实对方身份;

使用国家反诈中心APP“AI内容鉴定”功能(准确率95%),可检测伪造视频/语音。

法律与技术治理

2025年《人工智能生成合成内容标识办法》强制要求AI内容添加显式标识,违规账号将被封禁;

网信办“清朗行动”关停数万个仿冒账号,公安部行拘利用AI伪造名人带货的违法者(如山西邢某案)。

💡 关键提示:技术本身无善恶,但眼见未必为实。子女应多陪伴老人并科普AI诈骗手法,社会需强化平台责任与技术伦理监管,切断这条以情感与信任为饵的黑色产业链。 (以上内容均由AI生成)

加载中...