新浪新闻

“我为自己的工作感到羞耻”:谷歌员工因AI军事化辞职

观察者网

关注
听新闻

【文/观察者网 王至成】

英国广播公司(BBC)10月21日报道,谷歌因将人工智能技术用于军事用途而面临部分员工的强烈反对。

BBC采访了多名科技从业者。他们中有人因担忧谷歌的军事合同,已从谷歌旗下AI公司Google DeepMind辞职,也有人正在办理离职手续。

驻伦敦的研究工程师索菲亚·利古里就是其中之一。她本周从Google DeepMind辞职,并不顾合同限制,向BBC讲述了自己的担忧。

“意识到我的公司正越来越大力地推动AI系统进入军事行动时,我为自己在谷歌工作感到羞耻,”利古里以个人身份表示。

对此,谷歌发言人向BBC表示:“我们与全球公共部门机构合作,并遵循一致的流程来审查和签订这些合同,包括遵守我们的可接受使用政策和AI原则。我们还设有专门渠道,让员工可以安全地提出任何关切,并制定了严格的工作场所政策,防止任何形式的报复。”

谷歌是今年早些时候与美国军方签署合同、在机密军事环境中部署AI的几家科技公司之一。美国国防部长皮特·赫格塞思将AI融入武装部队列为关键优先事项,称特朗普政府将打造一支“AI优先的作战力量”。

但AI技术发展迅速,批评者质疑:在没有更多测试、更强护栏和人类监督的情况下,它是否足够可靠,能否用于战争。

在为公司工作三年后,利古里表示,她因谷歌越来越多地与美国和以色列军方合作而决定辞职。“我不认同这个方向,这让我对公司是否忠于其宣称的道德价值观失去了信心,”她说。

根据谷歌的AI原则,这些价值观包括在“人类监督”下实施AI,并使技术符合“国际法和人权”。但BBC采访的公司前员工、现员工及专家表示,他们对关键时刻的人类监督水平感到担忧。

这些科技从业者表示,他们尤其担心今年签署的AI军事协议,因为这些协议大幅扩大了五角大楼使用该技术的范围。

AI研究员安德烈亚斯·基尔施也于本月早些时候因类似担忧从Google DeepMind辞职。

基尔施告诉BBC,他认为“谷歌的治理和监督不够充分,也缺乏实质意义,无法在军事和机密环境中安全、负责任地部署AI”,也无法“在未来安全地开发人工超级智能”。

他补充道:“谷歌似乎无权控制或否决五角大楼如何使用其AI,对其部署方式的了解似乎也很有限。”

谷歌今年早些时候与五角大楼签署的合同允许其AI技术用于机密军事工作。协议规定,谷歌的AI模型可用于“任何合法的政府目的”,且“在没有适当的人类监督和控制的情况下,不得用于国内大规模监控或自主武器”。

OpenAI、亚马逊、微软、SpaceX、甲骨文、英伟达和初创公司Reflection也签署了类似合同,允许AI技术部署于运输、规划和战场行动等一系列军事场景。

“原则上,我在有生之年都不被允许批评谷歌,”索菲亚·利古里告诉BBC。但她决定这样做,“因为我认为让这些事情被知晓很重要,而且我认为谈论事实并不是批评”。

利古里补充说,在谷歌,“人们害怕遭到报复,害怕危及自己的职业生涯。你感觉自己被监视着,无法发声。”

加载中...