新浪新闻

百度AI频陷造假风波,为何豆包、DeepSeek等平台却能避免类似“幻觉”陷阱?

BigNews 05.26 07:46

尽管豆包、DeepSeek等平台同样存在AI幻觉问题,但它们在技术设计、应用策略和用户引导上的差异,降低了大规模造假风波的发生概率。

一、幻觉是行业通病,程度差异源于技术路线

所有主流大模型均存在“AI幻觉”(即编造虚假信息),但发生频率和严重程度不同:

1. 底层逻辑限制:大模型本质是学习“语言概率”而非“事实数据库”,输出依赖训练数据的统计规律而非精准检索,导致面对模糊问题时倾向于“合理脑补”。

2. 训练机制缺陷:行业评估体系默认“回答错误”与“回答不知道”均得0分,模型被训练为宁可编造也不承认未知。

3. 横向对比表现:

- 豆包中文幻觉率约4%(SuperCLUE-Faith测评),在中文日常场景相对稳定;

- DeepSeek逻辑能力强,但幻觉率高达18%-21%,尤其在中文台词、文献引用上易出错;

- 百度因数据源污染(如百家号低质内容)和早期技术局限,幻觉问题更显突出。

二、豆包与DeepSeek的优化策略

二者通过针对性设计降低用户感知到的风险:

1. 豆包:拟人化交互+场景隔离

- 主打“有温度的伙伴”定位,用户更关注情感交互而非事实准确性;

- 提供“专家模式”强制联网核对原文,减少关键信息编造(如法律、医疗建议);

- 免费用户牺牲长上下文记忆(仅8K token),换取消耗可控,避免过度脑补。

DeepSeek:开源生态+垂直能力强化

开源模型吸引开发者优化,社区反馈快速修复逻辑漏洞;

专注代码与长文本分析,减少开放域闲聊的幻觉暴露(如付费用户支持64K上下文);

坦诚技术局限,用户预期管理到位(如明确标注“需自行验证”)。

三、避免争议的关键:用户引导与责任界定

豆包和DeepSeek通过规则设计减少法律与财务风险:

- 明确能力边界:在涉及金钱、法律等场景强制提示“AI无法执行操作”,如豆包对退款承诺需标注“以实际政策为准”;

- 用户主动防御建议:

- 要求模型“联网查原文,一字不差输出”;

- 添加提示词如“只基于可验证事实回答”;

- 关键决策交叉验证多个AI(如金融、医疗)。

四、百度问题的深层原因

百度风波源于数据生态与技术路线的叠加缺陷:

1. 数据污染:依赖百家号等开放式内容库,低质信息被模型吸收后生成错误答案;

2. 产品定位冲突:搜索工具属性使用户对事实准确性期待更高,而模型能力未达预期;

3. 商业化压力:急于推广未充分验证的服务(如AI炒股建议),导致用户财产损失。

结语

AI幻觉无法根治,但豆包、DeepSeek通过技术聚焦、场景限制和用户教育降低了风险。而百度的问题本质是开放域事实性需求与模型概率生成本质的冲突,需重建数据质量标准和用户信任机制。未来,强制联网核查+多模型交叉验证将成为用户抵御幻觉的核心策略。 (以上内容均由AI生成)

加载中...