新浪新闻

面对AI模拟逝者技术狂飙,全球监管框架如何构建才能守住伦理底线?

BigNews 02.12 19:05

面对AI模拟逝者技术的迅猛发展,全球监管框架需围绕"生前授权+近亲许可"双轨制构建核心伦理防线,同时通过动态分级治理、跨境数据协作与伦理性研究机制,平衡技术创新与人性尊严守护。

一、伦理底线共识:确立"尊严优先"原则

人格权益不可让渡

AI模拟逝者需严格遵循"生前意愿优先"原则。若逝者生前未明确授权,则需直系亲属一致同意,且禁止用于商业牟利或违背公序良俗的场景。例如未经家属授权的明星虚拟形象传播已被视为侵权。

数据采集的伦理边界

仅限使用逝者主动公开的肖像、声音数据,基因信息等生物特征数据应列入禁采范畴。欧盟《可信赖AI》准则强调"隐私与数据管理"红线,要求处理敏感信息需单独授权。

二、多层级监管框架:技术全链条治理

源头管控:建立"伦理性研究"机制

参照陈小平教授提出的架构,设立独立于技术研发的伦理审查部门,负责预判技术风险(如心理依赖、身份混淆),制定"AI禁用清单"。例如对深度伪造技术实施分级备案,高危项目需提交社会影响评估。

场景化分级监管

个人悼念场景:允许有限度使用(如家庭内部数字纪念),禁用交互式情感诱导功能;

公众传播场景:严禁未经许可的公开虚拟形象生成,违者承担民事赔偿与行政处罚双重责任。中国《生成式AI服务管理暂行办法》已要求显著标识合成内容。

跨境数据协作框架

参考中国"人本主义"治理模式,建立跨国数据信托机制:逝者数据存储于本土服务器,模型训练需通过主权国家联合审计,避免技术霸权与数据滥用。 AI复活逝者商业化是把双刃剑

三、风险应对:技术治理与人文关怀结合

技术反制措施

强制嵌入数字水印与溯源系统,确保合成内容可追踪;

开发"反深度伪造"检测工具,如实时拦截违规内容的毫秒级安防系统(如熙瑾看鉴技术)。

心理干预机制

提供强制哀悼辅导服务,避免情感依赖。研究表明,过度使用虚拟逝者可能延缓心理创伤修复。

四、全球协同路径:从原则到落地

伦理准则统一化

以联合国教科文组织《人工智能伦理建议书》为基础,将"人类监督权""避免伤害"等原则纳入各国立法。欧盟的七项准则与中国"安全可控"原则可互为补充。

动态修正机制

设立全球AI伦理观测站,持续评估技术社会影响。如发现大规模心理风险或犯罪模式(如AI复活诈骗),触发紧急技术限用条款。

关键矛盾点:文化差异需弹性处理。例如东方文化中"数字招魂"的仪式感(如虚拟祭扫),需在严格授权下保留文化宽容空间,但必须杜绝商业化异化(如9.9元速成复活服务)。 (以上内容均由AI生成)

加载中...