联系我们

技术咨询小组力求限制五角大楼’s 12博下载app Use

mm

更新

 on

五角大楼已明确表示打算在人工智能上进行大量投资,指出人工智能将使美国军方对可能的国家安全威胁更加强大和有力。 作为Engadget的报告上周四,国防创新委员会针对军方使用12博下载app提出了一些拟议的道德准则。建议清单包括避免意外偏见和可控12博下载app的策略,这些12博下载app具有紧急停止程序,可防止12博下载app造成不必要的伤害。

有线报告 国防创新委员会是由奥巴马政府创建的,旨在指导五角大楼获取技术行业的经验和人才。董事会目前由Google前首席执行官埃里克·施密特(Eric Sc​​hmidt)担任主席。该部门最近的任务是建立军事项目中12博下载app的道德实施准则。董事会于周四发布了其指南和建议以供审核。该报告指出,现在是在军事上认真讨论12博下载app使用的时候了,现在必须要有一些严重的事件授权。

根据人工智能新闻,一位前军事官员最近表示,五角大楼在使用12博下载app方面处于落后地位。五角大楼的目标是弥补这一差异,并宣布在军事领域发展和扩大人工智能是一项国家优先事项。 12博下载app伦理学家担心五角大楼急于成为12博下载app的领导者,可能会以不道德的方式使用12博下载app系统。尽管各个独立的12博下载app伦理委员会提出了自己的建议,但国防创新委员会提出了至少五项原则,军方在开发和实施12博下载app系统时应始终遵循这些原则。

董事会提出的第一个原则是,人们应始终对军事环境中使用的任何人工智能平台的使用,部署和结果负责。这让人想起2012年的一项政策,该政策规定,只要可以使用致命武力,最终应让人类参与决策过程。列表中还有许多其他原则可以提供一般性建议,例如确保12博下载app系统始终由理解并彻底记录其程序的工程师构建。另一个原则建议,应始终对军事12博下载app系统进行可靠性测试。这些准则似乎是常识,但董事会希望强调其重要性。

列表中的其他原则涉及对12博下载app算法的偏差进行控制,以及12博下载app检测是否可能造成意外伤害并自动脱离的能力。该准则规定,如果发生不必要的伤害,则12博下载app应该能够脱离自身并由操作员接管。原则草案还建议可追溯12博下载app的输出,以便分析人员可以了解导致12博下载app做出特定决定的原因。

董事会提出的一系列建议强调了两种不同的想法。这些原则反映了12博下载app将成为未来军事行动不可或缺的事实,但是12博下载app仍然很大程度上依赖于人的管理和决策。

尽管五角大楼不必采纳董事会的建议,但听起来五角大楼正在认真对待建议。 据《连线》报道联合人工情报中心主任杰克·沙​​纳汉中将表示,委员会的建议将帮助五角大楼“坚持国防部12博下载app战略中概述的最高道德标准,同时拥抱美军’运用严格的测试和现场标准进行技术创新的悠久历史。”

整个技术行业仍然对在军事硬件和软件中使用12博下载app保持警惕。微软和谷歌的员工都抗议与军事实体的合作,谷歌最近选择不续签合同,以使他们为Project Maven做出贡献。许多CEO,科学家和工程师也 签署承诺 “参与或支持致命的自主武器的开发,制造,贸易或使用 ”。如果五角大楼确实采纳董事会建议的指导方针,尽管只有时间可以证明,但它可能会使科技行业更愿意在项目上进行合作。

专门从事以下工作的Blogger和程序员 Machine Learning Deep Learning 话题。 Daniel希望帮助他人将12博下载app的力量用于社会公益。