新浪新闻

当AI开始写法律意见书、调试核电站协议,人类还来得及为‘思考方式’立法吗?

BigNews 09.25 07:53

当AI开始起草立法提案、撰写法律意见书甚至参与核电站协议制定时,一个残酷的现实是:人类还来得及为“思考方式”立法,但窗口正在收窄——全球首个全面监管AI的欧盟《人工智能法案》已生效,而AI在专业领域的“翻车”案例正倒逼各国加速行动。

一、AI已在专业领域“上岗”,但错误频出

立法场景:美国国会工作人员和外部团队越来越多使用AI起草立法提案,但文本常出现法律条文引用错误、法律定义混乱、措辞不当等问题,迫使立法顾问办公室花费更多时间审查修改。

法律实务:全球多国法院陆续发现律师用AI生成虚假判例、虚构法官观点、套用不存在的法律依据,美国、中国均有律师因此被罚款、训诫甚至吊销执业资格。

能源场景:微软为训练AI模型需自建核电站,却让AI学习核能文件并起草申报文书以解决监管许可难题。

二、各国立法竞赛已启动,中国走“渐进式”路线

欧盟领跑:2024年8月1日,欧盟《人工智能法案》正式生效,这是全球首个全面监管AI的法规。

中国模式:目前中国未推出国家层面的AI法案,但已通过《网络安全法》《数据安全法》《个人信息保护法》及一系列部门规章构建起相对完善的治理体系,这种“小快灵”的渐进式立法便于及时纠偏。

行业规范先行:上海律协、宁夏律协等已出台指引,明确AI仅作辅助工具、律师须独立审查验证AI输出并对结果承担最终责任。

三、核心风险:人类独立思考能力正在退化

“空心化”危机:部分律师不再深入研读卷宗、推演法律关系,而是直接向AI索要结论,丧失了思辨过程,沦为“只吞食结论碎片的空心人”。

恶性循环:越依赖AI越不自主思考,专业判断力越弱;判断力越弱越不敢质疑AI输出,形成“空心化推动工具化、工具化加剧空心化”的螺旋。

专家警示:香港中文大学教授郑永年指出,若AI完全代替人类思考,将导致思维能力退化;张文宏教授也拒绝在病历系统引入AI,认为年轻医生未经系统训练将无法鉴别AI对错。 (以上内容均由AI生成)

加载中...