该公开信署名为“微软员工”,但是否出自微软公司员工不得而知。但Medium随后在Twitter上将该公开信推送给超过200万的关注者,随即引起媒体和公众的广泛关注及支持。
一、拒绝将技术用于增强杀伤力
国防部首席管理官(CMO)约翰·吉布森(John H. Gibson II)曾在今年3月份JEDI项目的行业见面会上指出,JEDI项目将用于“提升国防部的杀人效率及提供统一资源”。但“微软员工”在公开信上表示拒绝将技术用于增强杀伤力(lethality),“我们希望自己创造出来的技术不会被用于给人类带来伤害和痛苦”。
二、呼吁其他公司的员工也发起抗议
谷歌公司曾在今年5月因参与Maven项目而遭4000名员工抗议,最终决定不再延续Maven合同。在此背景下,谷歌近日又退出了JEDI项目竞标,并且表示该项目违背该公司的AI伦理准则。公开信认为,如果大量员工积极行动表达抗议,公司高层就别无选择,只能退出竞标。考虑到若微软也退出,其他公司将更容易中标,“微软员工”因此呼吁其他公司的员工也参与抗议活动,反对其所在公司参与JEDI项目。
三、担忧微软AI准则难以执行
今年1月,微软团队出版新书《未来计算:人工智能及其社会角色》(The Future Computed: Artificial Intelligence and its role in society),认为应当倡导AI技术发展的6项伦理准则,即隐私和安全、透明化、保持中立客观性、可靠性、包容性、当责。
微软已经意识到了AI技术应用的伦理风险,但并没有完备的机制确保AI伦理准则得以执行。目前,负责前沿技术伦理审查的微软AI伦理委员会(Aether)工作并不透明,公开信也表达了对AI伦理委员会在审查JEDI合同时能力不足的担忧。
四、JEDI项目争议不断
JEDI项目的投标截止于10月12日,微软公司于当日提交了投标方案。而在微软提交投标的当日晚上,该公开信被发布在互联网上。微软公司发言人表示,“我们无法验证该公开信的真实性,我们鼓励员工向我们分享自己的看法”。
目前,政府将如何使用JEDI系统尚无人得知,该项目自去年9月由国防部副部长帕特里克·沙纳汉(Patrick Shanahan)提出以来,就引来争议不断。谷歌公司于今年10月8日宣布退出竞标,称无法保证该项目不违背该公司的AI准则。谷歌也由于参与美国军方Maven项目而面临内部抗议。
此前,IBM和Oracle公司都提交了投标方案,但同时也通过官方网站表达了对该项目竞标规则的不满,认为“单一中标者”的规则,给军方系统带来安全风险,并且存在不公平竞争的问题。而亚马逊的AWS被认为是最有可能拿下JEDI合同的供应商。
本文由赛博研究院出品,转载请注明:本文来源于赛博研究院官网。
更多精彩内容请关注“赛博研究院”公众号。