平台明知商家虚假测评却未处置需担责,算法推荐该如何守住新规边界线?
平台明知商家虚假测评却未采取必要措施,将面临高额罚款并需承担连带责任,算法推荐系统则必须从流量分配、内容审核、利益披露、技术阻断四个维度重新划定合规边界,核心是打破“算法中立”的免责逻辑,将责任嵌入推荐机制的每一个环节。
一、新规为平台划定的法律责任红线
1. 平台“明知或应知不处置”即构成违法
新修订的《反不正当竞争法》明确要求电商平台建立健全虚假评价识别、处置机制,明知或应知商家存在刷单、虚假测评等不正当竞争行为却未采取必要措施的,将面临高额罚款。
2. 平台须承担“守门人”义务
《网络测评活动规范》进一步规定,网站平台必须加强对网络测评信息内容管理,及时受理处置相关投诉举报。若平台在审核中未能识别明显的AI生成痕迹或虚假测评内容,依旧支持虚假交易或传播,则可能被认定为未尽到合理审查义务,需对商家或消费者的损失承担责任。
3. 主播审核义务首次写入平台规则
淘宝等平台新规明确,主播对所售商品承担“合理注意义务”,不再是单纯的“广告代言人”。若存在明显虚假宣传,即使商品资质齐全,主播也可能被追责,平台若未建立相应的内容审核机制同样难辞其咎。
二、算法推荐守住新规边界的核心路径
1. 打破算法“黑箱”,建立正向流量分配机制
| 维度 | 具体要求 |
|---|---|
| 透明化 | 以显著方式告知用户算法推荐服务的存在,公示基本原理、目的意图和运行机制,不得以“商业秘密”为由拒绝透明化 |
| 去伪化 | 将商品质量、售后响应率、真实用户评价等纳入流量分配权重,摒弃单纯以“点击率”“转化率”为单一指标的推荐逻辑,从源头压降虚假测评的曝光机会 |
| 去重与打散 | 采取内容去重、打散干预等策略,防止单一虚假测评信息在推荐流中被反复强化,避免形成“信息茧房”效应 |
2. 拒绝“流量诱惑”,建立利益冲突披露机制
测评内容若接受第三方委托、赞助或与测评样本相关方存在利益关系,必须作出显著提示;若在测评内容中附加购物链接等购买方式,须明确标注“广告”字样。
算法推荐系统应当识别并降权未加利益披露的“软广”测评内容,避免将商业推广伪装成客观测评进行推荐。
3. 建立内容审核与人工干预机制
分级分类管理:根据算法推荐服务的舆论属性、内容类别、用户规模等实施分级分类管理,对食品、药品等高风险品类的测评内容设置更严格的审核标准。
人工干预与兜底:算法自动推荐不应取代人工审核。对涉嫌虚假测评、刷单炒信等行为的账号,平台应及时采取限流、封禁、下架商品等处置措施,并向监管部门报告。
算法备案与安全评估:具有舆论属性或社会动员能力的算法推荐服务提供者,须履行备案手续,接受算法安全评估,确保算法模型本身不存在诱导虚假测评传播的设计缺陷。
4. 技术反制:从“被动处置”转向“主动防御”
AI鉴伪技术落地:平台需升级算法审核机制,开发类似“AI鉴诈师”的工具,主动拦截未标识的AI生成内容,阻断使用AI伪造“伪证”、AI生成虚假测评信息的传播链条。
动态预警与溯源:建立针对异常订单、隐蔽话术、同一账号批量发布测评内容等的动态预警机制,强化对虚假测评“从生产到传播”的全链条技术溯源能力。
三、底线治理:对违法内容的“零容忍”技术防线
1. 清除“黑灰产”与“恶意退款”土壤
算法推荐系统应当配合平台规则,对多次恶意退款、利用AI伪造证据进行“碰瓷”的用户进行标记,并在跨平台信用联动机制下实施限制,使其“一处失信,处处受限”。
不得利用算法“刷量控评”影响网络舆论,对参与刷单炒信、恶意差评的水军账号及背后的黑灰产团伙,平台需通过算法模型主动识别、精准画像并快速处置。
2. 构建“技术向善”的伦理底座
算法推荐的核心价值导向必须符合《互联网信息服务算法推荐管理规定》的要求:坚持主流价值导向,促进算法应用向上向善。在算法设计阶段,平台应当定期审核、评估、验证算法机制机理、模型、数据和应用结果,不得设置诱导用户沉迷或过度消费的算法模型,更不得为了商业利益而对虚假测评“睁一只眼闭一只眼”。
四、平台合规动作清单
| 义务类型 | 具体动作 |
|---|---|
| 事前预防 | 建立测评内容发布资质门槛,要求测评主体具备法定检验检测资质或明确标注“主观体验” |
| 事中审核 | 接入AI鉴伪技术,对未标识、无资质、存利益关联的内容进行算法降权或拒绝推荐 |
| 事后处置 | 建立“违规分+阶梯处罚”机制,对严重违规账号永久禁播,同步向监管部门报告并保存相关记录 |
| 协同共治 | 与网信、市场监管、公安等部门建立线索移交、信息共享、会商研判机制 |
核心结论:在新规框架下,算法推荐不再是平台的“免责金牌”,而必须成为过滤虚假测评、保护消费者权益的技术闸门。平台只有将“技术向善”与“责任闭环”深度融合,才能真正守住新规边界线,从“野蛮生长”走向“长期主义”。 (以上内容均由AI生成)