新浪新闻

当AI能完美伪造转账记录和新闻截图时,‘有图有真相’的时代是否终结了?

BigNews 04.28 09:21

随着 AI 生成技术突破肉眼识别的极限,“有图有真相”这一互联网黄金法则确实正在走向终结,视觉证据的权威性已遭遇前所未有的挑战。

视觉证据的权威性崩塌

新一代 AI 图像生成模型(如 GPT-Image-2)已能生成像素级逼真的图片,彻底解决了以往 AI 绘图文字乱码、手指畸形等破绽,中文及多语言文本渲染准确率超过 99%。这些模型不仅能还原光影逻辑、皮肤纹理,甚至能精准复刻屏幕反光、指纹油渍等微观痕迹,使得普通人甚至专业检测工具都难以分辨真伪 。过去依赖“找茬”式鉴别(如看手指数量、文字错误)的方法已彻底失效,视觉内容不再默认代表现实记录,而可能只是算法生成的“模拟素材”。 #GPTImage2上线有图无真相时代来

社会信任面临多重风险

谣言传播成本趋零:伪造新闻截图、名人合影变得极其简单,如“库克出任小米 CEO"、“马斯克加入拼好饭”等假图曾大规模刷屏,即便官方辟谣,虚假信息造成的声誉损害和股价波动也难以完全挽回 。

诈骗与黑产升级:不法分子利用 AI 伪造转账记录、聊天截图、甚至换脸视频实施诈骗,受害者往往因“眼见为实”的惯性思维而中招,如伪造银行入账短信诱导转账、利用 AI 拟声冒充亲友借钱等 。

司法证据受冲击:法庭上已出现当事人提交 AI 生成的虚假水电表照片、伪造法院文书或参考案例的情况,这不仅浪费司法资源,更挑战了司法公正的底线,相关行为已被认定为妨害诉讼秩序并受到训诫或法律追责 。

法律治理与技术防御

面对技术滥用,多方正在构建防御体系: * 法律红线明确:伪造国家机关公文、传播虚假信息等行为可能构成犯罪,如诽谤罪、伪造证据罪等,情节严重的最高可判 10 年有期徒刑,司法实践已开始对 AI 伪造证据行为进行处罚 。 * 技术标识与溯源:行业推动强制标注 AI 生成内容(如数字水印),平台也在升级检测技术,但水印存在被去除的风险,技术防御始终处于与造假技术的博弈中 。 * 平台责任强化:社交与内容平台需建立审核机制,对涉及名人、公共事件的生成请求进行风险过滤,并简化举报流程,加大对恶意传播虚假 AI 内容账号的处罚力度 。

认知重构与未来生存逻辑

在“后视觉时代”,公众的认知习惯正在发生根本性转变: * 从“眼见为实”到“默认怀疑”:人们开始习惯对网络图片保持警惕,第一反应不再是相信,而是溯源和核实,媒介素养成为数字生存的核心技能 。 * 信任转向源头:由于内容本身难以验证,信任机制从依赖“图片真实性”转向依赖“发布源头可信度”,权威机构、强社交关系背书的信息将更具价值 。 * 真实成为奢侈品:当伪造成本趋近于零,经过验证的“真实”将变得昂贵且稀缺,人类可能需要通过物理在场、线下互动等方式来重新确认现实的真实性 。

风险提示:尽管技术检测手段在进步,但目前仍无绝对可靠的 AI 图片识别方法。在网络交往、资金交易及法律举证中,请务必通过官方渠道、多重信源交叉验证,切勿仅凭一张截图或视频轻信他人,以免遭受财产损失或法律风险。 (以上内容均由AI生成)

加载中...