当前位置 > 荣一平台 > 企业文化 > 谷歌与五角大楼的军事AI合作如何成为一场危机?

谷歌与五角大楼的军事AI合作如何成为一场危机?

时间:2019-03-04 08:18:48 来源: 荣一平台 作者:匿名


华盛顿特区 - 李飞飞是新兴人工智能领域最耀眼的明星之一:斯坦福大学人工智能实验室负责人和人工智能首席科学家,地址为——,是Google Cloud——搜索巨头谷歌之一有前景的项目没有人知道她如何同时胜任两项艰巨的工作。

然而,就在去年9月,当谷歌神经管理部门讨论如何向公众披露公司与五角大楼签署的第一份重要人工智能合同时,李飞飞强烈建议避免使用两封强有力的字母A.I.

《纽约时报》收到李飞飞给同事的电子邮件,其中写道:“不管怎么说,不要提及或建议人工智能。”“人工智能武器不是最敏感的人工智能主题,他们很可能就是其中之一。对于那些希望尽一切可能攻击谷歌的媒体来说,这是一个绝佳的机会。“

李飞飞担心这份军事合同可能对谷歌产生负面影响。事实证明,这是她的先见之明。根据《纽约时报》的文件,电子邮件以及对十几位现任和前任谷歌员工的采访,谷歌与国防部的关系造成了生死危机,所有这些都源于前者获胜的Maven。计划合同份额的一部分——该程序使用人工智能来解释视频图像,以提高无人机打击的准确性。

它分裂了谷歌的员工,激起了激烈的员工会议和内部沟通,并导致一些员工辞职。这一争议深深地谴责了包括李飞飞在内的一些谷歌高管,因为在道德上坚决反对合同的科学家和令人垂涎的合同销售人员之间往往存在差距,高管们正试图弥合这一鸿沟。

强调谷歌显着增长的广告模式引发了批评,认为它侵犯了在线用户的隐私,并支持可疑网站,包括销售虚假新闻的网站。目前,谷歌通过云计算服务实现未来增长的道路使得该公司因其在武器方面的不同立场而分化为不同的阵营。继续承担大规模国防合同可能会驱逐优秀人工智能专家的大脑,拒绝这些工作将使其失去潜在的大额业务。支持者和反对者都认为,关于Maven计划的内部辩论实际上为更大的国防合同打开了大门。辩论还促使约4,000名员工签署联合请愿书,要求该公司“公布一项明确的政策,声明谷歌及其承包商永远不会发展战争技术。”

DeepMind是伦敦一家人工智能先驱,于2014年被谷歌收购.DemMind高管表示他们完全反对军事和监视行动,实验室的员工也对合同提出抗议。两家公司之间的收购协议表明,DeepMind技术绝不会用于军事或监视目的。

由于合同,大约有12名谷歌员工辞职(Gizmodo首次报道)。一位即将卸任的工程师要求重命名一个名为Clara Immerwahr的会议室,这位德国化学家在抗议1915年战争中使用科学后自杀。死了。《纽约时报》收到的公司电子邮件称,谷歌纽约办事处有一个贴有“做正确的事”的贴纸。

反对五角大楼合同的员工分享了电子邮件和其他内部文件,这表明至少有一些谷歌高管期望这些异议和负面报道。但其他员工也指出,谷歌和亚马逊等亚马逊竞争对手都热衷于追逐利润丰厚的五角大楼业务。他们的结论是,这些项目对公司的发展至关重要,没有什么值得羞耻的。

还有许多技术公司也在寻找军事业务,并非所有员工都参与其中。然而,谷歌的基本理念和自我形象与其他人不同。

“我们有信心不做坏事,为我们的用户,客户和每个人做最好的事情,”拉里佩奇在2004年说道。页面对彼得詹宁斯(ABC的着名主播——)说了些什么。当时,Page和谷歌联合创始人谢尔盖·布林被ABC新闻评为“年度人物”。谷歌内部冲突的触发因素是Maven的工作可能会用于致命的无人机定位系统。讨论的原因尤为紧迫,因为专家预测人工智能将在战争中发挥越来越重要的作用,人工智能是谷歌的优势之一。

去年8月,美国国防部长吉姆·马蒂斯首先访问了亚马逊,然后访问了谷歌,呼吁与科技公司进行更密切的合作。他对谷歌的访问已在媒体上广泛报道。

“我看到了私人公司在西海岸取得的许多重大进展,”他说。

李飞飞的评论是该公司内部邮件交换的一部分,该交换是由谷歌的国防和情报销售主管Scott Frohman发起的。在“通信/PR请求 - 紧急”标题下,Froman提到Maven合同的奖励即将到来,请询问如何将公众介绍给——,这是一个亟待解决的问题。——提出建议。

许多同事加入了讨论,但通常他们会遵循李飞飞的意见。李飞飞出生在中国。当她和父母一起移民到新泽西时,她只有16岁,不会说英语。今天,她已经登上了技术世界的顶峰。

李飞飞在一封电子邮件中表示,她的老板谷歌云首席执行官黛安格林将做出最终决定。不过,李菲菲认为,该公司应该将Maven合约份额推广为“GCP(谷歌云平台)的重大胜利”。

她还建议在介绍该项目时引入“非常谨慎”,她提到了她一直在公开谈论的“人文人工智能”,她将在3月《纽约时报》专栏中讨论这个话题。她在电子邮件中写道:“如果媒体开始了解谷歌秘密制造人工智能武器,或开发人工智能技术,帮助国防工业制造武器,我不知道会发生什么。”

当被问及去年9月份的邮件时,李飞飞发表声明说:“我相信人性化的人工智能将以积极和良好的方式造福人们。参与任何我认为将人工智能转化为武器的项目。与我的个人原则非常相反。“

事实证明,谷歌尚未向公众发布Maven。当反对的员工开始抗议谷歌强大的内部沟通平台时,公众注意到谷歌的“承包商”工作。

Google向员工承诺,在涉及国防和情报合同时,公司将制定一套原则来指导其在道德雷区的决策。谷歌周二告诉《纽约时报》,正在开发的新的人工智能原则排除了使用人工智能作为武器的可能性。但是,目前尚不清楚如何实现这一目标。

据公司员工称,上周四在全公司会议上的首席执行官桑达皮采表示,谷歌希望提出“经得起时间考验”的指导方针。员工表示,他们希望这些原则将在未来几周内在Google内公布。

在谷歌和军方之间的两极分化辩论中,人们可能忽略了一些微妙的差异。如果能够更好地分析无人机的影响,就可以改善运营人识别和识别恐怖分子的能力,从而减少平民的伤亡。即使谷歌退出,美国国防部也几乎不可能放弃对人工智能的研究。此外,军事专家表示,中国和其他发达国家在军事人工智能方面投入了大量资金。

然而,一些技术娴熟的技术人员选择谷歌是因为谷歌很乐意接受仁慈和无私的目标。因此,他们对雇主最终可能参与更有效的杀人方式感到震惊。Google的企业留言板和内部社交平台反映了该公司的独特文化。这些平台鼓励员工在所有事情上都要明智,从谷歌的餐厅美食到企业多元化,一切都可以自由发言。但是老员工说,即使在这个自由意义的工作场所,Marven计划给谷歌带来的混乱也比他们最近的印象中的其他事件更严重。

在交易消息传出后,格林在周五全公司周五会议上发表了讲话。根据两次会议的知情人士透露,格林解释说,该系统并非旨在剥夺人们的生命,而且这只是一笔相对较小的交易,“仅”价值900万美元。

这并不能平息人们的愤怒。根据邀请,谷歌决定于4月11日举行讨论,与参与者Green,Google AI研究员Meredith Whittaker和Google副总裁Winter Vint Cerf展示“多方视角”。其中,惠特克是反Maven运动的领导者,约瑟夫因其在国防部的开创性技术工作被认为是互联网的先驱之一。

因为有很多值得探讨的问题,他们每天三次就这个话题进行辩论,来自世界各地的谷歌员工通过视频观看辩论。

据参与辩论的员工称,格林坚持认为Maven计划并未将人工智能用于进攻目的。惠特克认为,很难对如何使用该技术制定明确的规则。

周四,谷歌联合创始人布林在全公司会议上回答了有关谷歌在Maven计划中工作的问题。根据两名谷歌员工的说法,布林表示他了解这一争议,并与佩奇和皮采进行了很多讨论。不过,他说,他认为,如果世界各地的军事组织能够与谷歌等国际组织密切合作,而不是只与民族主义国防承包商打交道,那将更有利于世界和平。谷歌及其母公司Alphabet聘用了许多世界顶级的人工智能研究人员。一些研究人员在位于加利福尼亚州山景城的一个名为Google Brain的人工智能实验室工作,其他研究人员分布在不同的团队中,包括由Green的董事会监管的云计算业务。

这些研究人员中的许多人最近刚从学术界出现,有些人保留了教授职位。其中一位是英国人杰夫·辛顿,曾帮助管理多伦多的谷歌脑实验室并公开表示他不愿为美国政府工作。在20世纪80年代后期,Hinton离开美国前往加拿大的部分原因是因为他不愿意接受国防部的资助。

Jeff Dean是Google历史最悠久,最受尊敬的员工,目前负责监督公司的所有人工智能工作。他在5月的一次开发者大会上说,他签署了一封信,反对使用所谓的机器学习开发自动武器。——他们可以识别目标并在没有人类触发的情况下开火。

DeepMind是一家位于伦敦的人工智能实验室,被广泛认为是世界上最重要的人工智能人才聚集地。今天,虽然它是Alphabet的一个独立子公司,但它与谷歌之间的界线模糊不清。

DeepMind的创始人一直在警告人们人工智能系统的危险。据知情人士透露,该实验室的至少一名创始人,——穆斯塔法·苏莱曼和包括Pichaya在内的谷歌领导层就Maven项目进行了政策讨论。

显然,谷歌悄然参与国防工作而不引起公众注意的可能性已经破灭。李飞飞想要将人工智能排除在辩论之外也是不现实的。

谷歌华盛顿办事处的高管艾琳布莱克在9月份的交流中提醒李飞飞:“我们可以指导关于谷歌云的讨论,但获得国防部项目是人工智能领域的荣誉。我认为我们需要做在我们想要了解之前(如何做)。“