AI可能灭绝人类!顶级大佬们联名呼吁:降低AI风险应为全球首要任务
![](http://n.sinaimg.cn/sinakd10200/360/w180h180/20221208/6589-4abefd979c359b883088eab486202b9f.jpg)
成都商报
当地时间本周二(5月30日),非营利组织“人工智能安全中心”(Center for AI Safety)发布声明,呼吁降低人工智能(AI)对人类带来的灭绝风险。
这份仅有4行的简短声明称,降低AI可能带来的灭绝风险,应与流行病和核战争等一样成为全球首要任务。
![]()
↑这份简短的声明仅有4行
据悉,包括OpenAI首席执行官山姆(Sam Altman)、“AI教父”杰弗里(Geoffrey Hinton)、微软首席技术官凯文·斯科特(Kevin Scott)等在内的数百名AI行业的领军人物、学者以及来自其他领域,如气候领域的知名人士共同签署了这份声明。
媒体报道称,尽管AI专家认为,现阶段的生成式AI聊天机器人还属于通过接受数据训练后直接“复制粘贴”的模式,并不会进行思考,但鉴于对AI行业的大量炒作和投资,人们呼吁在AI时代伊始就要对其进行监管。剑桥大学研究AI的教授大卫(David Krueger)则表示,10多年来,自己一直担心AI可能导致人类的灭绝,现在很开心大家能提出这个倡议。
报道称,此声明发表之时,正值OpenAI的生成式聊天机器人ChatGPT“爆红”并推动科技行业纷纷瞄准AI领域发起竞争之际。在此情况下,越来越多的立法者、科技人士等对新一代AI聊天机器人可能传播错误信息和取代部分职业的可能性发出警告。
“人工智能安全中心”的负责人丹(Dan Hendrycks)在其社交平台上称,AI带来的风险有很多,如传递错误信息、造成偏见等。他还将AI领域现在的情况,与此前研发出原子弹的科学家在研发成功后提出的警告相联系。“正如(‘原子弹之父’)罗伯特·奥本海默(Robert Oppenheimer)所说,我们的世界已经不一样了。”他写道。
![↑丹提醒人们AI带来的风险有很多](http://k.sinaimg.cn/n/spider20230531/562/w1082h1080/20230531/f4b6-463f5cc9480526bd27e094cfb6aca9b9.png/w700d1q75cms.jpg?by=cms_fixed_width)
↑丹提醒人们AI带来的风险有很多
事实上,这并不是业界首次出于对AI的担忧而提出联合倡议。据此前报道,包括特斯拉创始人马斯克、苹果联合创始人沃兹尼亚克等也曾在一封公开信里警告,呼吁人类暂停开发更强大的人工智能,为时至少6个月。而被称为“AI教父”的杰弗里已经从其工作多年的谷歌离职,并开始畅谈AI所带来的风险。