谷歌军事人工智能合同引发员工辞职潮
谷歌与美国军方签署的人工智能合同引发了部分员工的反弹,一些员工因对公司的军事合作感到担忧而辞职。
谷歌与美国军方签署的人工智能合同引发了部分员工的反弹,一些员工因对公司的军事合作感到担忧而辞职。BBC采访了多名前任和现任谷歌DeepMind员工,了解他们对人工智能在战场上的应用的担忧。其中一位员工索菲亚·利古里(Sofia Liguori)表示,她因公司愈发积极推动在军事行动中使用人工智能系统而感到羞愧。
谷歌一名发言人回应BBC时表示,公司与全球各地的公共部门机构合作,并遵循一致的程序审查及签订这些合同,包括遵守公司的可接受使用政策和人工智能原则。然而,批评者质疑,在未经更多测试、缺乏更强保障措施及人類监督的情況下,人工智能技术的可靠性是否足以应用于战争。
谷歌与五角大楼于今年稍早签署的合同,允许其人工智能技术用于机密军事项目。协议指出,谷歌的人工智能模型可用于“任何合法的政府用途”,而且“在没有适当人類监督和控制的情況下,不应用于国内大规模监控或自主武器(包括目标选择)”。
一些科技从业人员表示,他们尤其担心今年签署的人工智能军事协議,因为这些协議大幅扩大了五角大楼可使用相关技术的范围。人工智能研究员安德烈亚斯·基尔施(Andreas Kirsch)本月稍早亦因相关担忧从谷歌DeepMind辞职。他向BBC表示,他认为“谷歌的治理和监督机制不足,或缺乏足够意义,无法在军事及机密环境中安全且负责地部署人工智能”。
谷歌员工向BBC表示,由于雇傭合约禁止他们公开批评公司,因此员工害怕就人工智能安全及其战争用途发声。索菲亚·利古里向BBC表示:“原则上,我终其一生都不被允许批评谷歌。”但她决定这样做,“因为我认为让外界知道这些事情很重要,而且我也认为陈述事实并不等于批评”。
读到这里,说明你关注真正重要的事
锐报每周深度分析直送邮箱——财经、地缘、科技,穿透表象,少而精选。