美国空军第二届克里斯托弗Ahn,飞行员培训下一个学生,在虚拟现实飞行模拟器上的列车,在武装部队在奥斯汀,德克萨斯州,德克萨斯州,2018年6月21日。

美国空军第二届克里斯托弗Ahn,飞行员培训下一个学生,在虚拟现实飞行模拟器上的列车,在武装部队在奥斯汀,德克萨斯州,德克萨斯州,2018年6月21日。 美国空军照片由肖恩M.Worerell照片

解决军事AI最困难的问题之一:信任

有很多差距,大多数代码都不会通过对话来解决。

美国国防部正在制定对人工智能的大赌注 - 推出新的战略,伙伴关系,组织和预算,以开发用于军事用途的技术。然而,由于国防部移动到利用这项技术,它的成功可能部分地铰接在本质上没有技术的东西:克服了AI周围信任的大规模差距。信任差距实际上是人类和机器,公众和政府,私营部门和政府之间的差距,以及各国政府 - 并进行通过他们工作的艰苦任务将是将AI融入国防的关键。 

二月,国防部推出了新的 AI战略,来到一个脚跟 执行订单 将行政部门指导在现场的优先考虑工作。新战略只是最新的最新重点是技术的。在过去的一年里,国防部建立了一个新的 联合人工智能中心 并被指定一般认为领导它, 宣布 200亿美元的防御高级研究项目局促进新的AI技术,推出了Carnegie Mellon University领先的机器人和自主技术专家的合作,并站起来了四星级 军队期货指挥 在德克萨斯州奥斯汀的技术中心。这些新举措是在多年的五角大楼加深与硅谷的联系,最特别是通过其国防创新单位 - 一种与最具创新性科技公司合作的小型电池,以适应国防部使用的技术 - 以及邀请技术像亚马逊首席执行官Jeff Bezos和谷歌高管Eric Sc​​hmidt一样的重量级是加入其创新咨询委员会。这些动作都进入了一个环境 中国俄罗斯 已经表现出了强大的AI优先级,他们反映了由国防部跨越两个主管部门强调的实现,即利用最复杂的AI和自主技术是保持边缘在越来越强烈的技术军备竞赛中的关键。然而,由于国防部使得这些技术投资,实际上将它们融入军队将需要投资信任。 

有关的: 没有吉迪,五角大楼的AI努力可能会受到阻碍

有关的: 五角大楼是关于追求AI动力武器的“绝对不受欢迎”

有关的: 这是DARPA AI项目的关键创新:从一开始的道德

对于技术人士家来说,AI信任的概念并不是什么新的,因为新技术经常面临人机信任挑战。然而,AI和自主权将迫使更深层次的人机估算到目前为止的努力。在这一挑战的核心,是机器学习,它的力量AI,从根本上不同于人类学习。例如,通过摄取大量数据而不是定义人类智力的推理推理,机器学习通常依赖于模式检测。要使用一个被引用的解释,人类将一只猫作为猫认出来,因为它在其外观和运动中携带某些猫门特征,而计算机将一只猫识别为猫,因为它看起来像被归类为猫的另一个物体在AI技术培训的大规模数据库中。这是一个基本的例子,但它说明了机器如何达到结论如何产生真正的挑战,因为AI用户可能不相信机器达到的结论。如果这是一个像没有机器的猫,怎么看?如果是狗以特别是猫的方式修饰怎么办?此外,通常没有设置AI以解释其对持怀疑态度的推理,并确保它已达到正确的结论。其中一些信任差距是技术摄取的自然过程,其中人类不断努力信任新发明,直到他们具有证明的安全记录。但是,信任的挑战在军队中尤其严重,其中指挥官 - 甚至机器本身 - 可能必须基于一个支持AI的系统提供的信息来实现生命和死亡决定。实际上,这些风险已经通过最近的实验以戏剧性的方式暴露,展示了如何在图像上的几个像素的变化,校车可以是 制成 看起来像一个支持AI的分析技术的坦克,可能导致灾难性的后果。很容易看出反对派如何利用这些动态来试图愚弄AI,这将进一步扩大信任差距。虽然许多批评者认为人机信任问题在不信任AI的最先进用途,例如自主武器,但这些例子表明,军事指挥官甚至可能不愿意信任最简单的AI应用程序,类似于图像分类或数据转换。 

然而,对于这里的所有挑战,该解决方案在很大程度上是技术性的,并专注于改善技术和建立更好的人机界面。情报社区和国防部已经开始开发开发技术,允许ai更好 解释 它的推理。为了确定,科技界中仍有关于如何考虑人机信任的划分,但如果AI工程师专注于它,他们可能很好地解决了人机信任问题。当人类如何互相交流时,信任是多么棘手。特别是,美国政府对国防部诉讼的能力可能依赖其能够成功培养与美国公众,私营部门和外国政府的信任。  

首先是美国公众,一般来说 乐观 关于AI提高生活的前景和比其他公共机构更加信任,近年来,近年来出现了围绕利用先进技术的国家安全目的的预订。一个美国公众和媒体的声乐始终如一地反对美国致命的无人机计划。美国公众在爱德华斯诺登披露了展开了大量美国的努力,以努力收集美国人的通信数据并用大数据工具分析它的分类文件在愤慨的文件中反应。尚未广泛的公众投票探索美国人对国家安全的意见。此时,它可能不会比他们在“终结者”这样的科幻电影中看到的更细微差别更细致。但尽可能多的信任肯定是重要的,因此美国人可以有信心他们的政府没有创造一个支持的AI的监视状态或一支不受控制的杀手机器人。 

来自无人机和监督计划的争议的课程通过公共透明度的混合,明确的政策,有效地与民间社会进行策略,以及适当的国会监督,为建立信托提供的课程提供了一个筹集比赛。信任始于透明度,领导者解释为什么将AI整合到国家安全方面是必不可少的,并阐明可以使用AI的明确限制以及将无法滥用的控制权来防止滥用。对政府的信誉,一些对话已经开始,最重要的是高级 躲闪 官员 在语境中发表演讲,并确保公众将始终参与关于致命行动的决定。国防部应继续与公众进行这种对话,以及人权手表等民间社会团体,这使得有关如何妥善管理这项新技术的建议。政府应加强这样的订婚,理想地从总统推出官方指导,这清楚地规定了AI周围的参数及其滥用。国会必须发挥作用,首先通过智能技术以及它存在的挑战 - 如果最近的技术有关的听证会是任何指示,那么一个非常陡峭的学习曲线 - 然后通过提供对国防部的监督并考虑立法来确保AI保持在适当的范围内。即使有了所有这些步骤,也将有部分公众可以理解的是关于机器人战的前景。其中一些是不可避免的,但国防部可以帮助克服这种怀疑主义,也可以照顾它用于讨论ai的语言。例如,国防部领导人经常坚持认为“克链子总是人类。”关键AI程序有代码名称,如霸王,幽灵舰队和承办者。抵御那些人为机器人战争世界的人的关切可能需要确保每次讨论都听起来不像是对世界末日的未来的预示。

与公众的建立信任持续跑步是对私营企业的信心,特别是硅谷公司,这些公司持怀疑态度,这些公司持怀疑态度,这些公司持怀疑态度在国家安全问题上,一般都是专门的AI。在其4,000名员工的反叛之后,谷歌终止了其参与国防部的 项目Maven.是一项倡议,其中AI将改善军方的目标评估能力,允许军方更好地区分无人机镜头中的战斗人员和平民。 Elon Musk仍然是AI最直言不讳的评论家,争论AI可能比核弹头或朝鲜更危险,并警告机器可以以超越人类控制它们的能力的速度学习。这一封闭性最具创新性的美国经济部门与政府合作是从早些时候的工业巨头是国防骨干的远远哭泣。 

无论这种不信任的根源,克服它都不容易。除了上述公共信心建设措施之外,国防部需要协调一致的努力,建立迪乌的成功和秘书Ash Carter和James Mattis的个人推动,建立与谷中的关键参与者和枢纽的关系。与较大的可信高管网络培养信任 - 就像槟榔师亚历克斯卡普和迈克尔·布隆伯格,他们已经发表了支持国家安全的科技部门的重要性 - 可能为其他人提供顶级掩护代表国防部。传统的国防部门也可以发挥作用,也许通过招聘领先的民用技术公司作为合作伙伴和分布商,或投资领先的AI公司(洛克希德和波音的风险资本武器已经做过),并留下了极大的意义遍布大多数防御承包商的使命与爱国主义。然而,最终,在技术领域完全在船上之前可能会发生思维的更大演变。如果有的话,具有潜在军事应用的新技术很少被完全排除在军队使用之外。事实上,在过去的一个世纪中,有前途的民用开发的技术(例如,飞机)已经适用于军事用途,并且最初由国家安全部门制定的主要民用技术(例如,互联网)。此外,我们在AI,中国和俄罗斯的竞争对手似乎与将AI整合到国家安全方面没有相同的顾忌。技术转让是不可避免的,因此领导技术公司的问题应该是他们是否希望参与从头开始设计AI的军事用途,因此它们与尽可能有效和伦理,或者将这件事留给他人谁可能不那么熟练或有更少的顾忌。

最后,国防部和国家部门应在建立国际AI和国家安全各地建立国际规范的勤奋工作中,这将是克服国家之间信托问题的关键。联合国已经开始了这一对话 召开 一群关于致命自治武器系统的政府专家,这些专家正在评估和开始在自治武器的发展和就业周围设定参数。深化美国政府的早期参与这些对话对于确保AI在适当的法律和道德范围内雇用,国际规范反映了技术的现实以及国家安全需求的现实。通过协作过程开发的这种现实框架和一组规范,更有可能被国家开发这种技术所接受。美国政府和联合国也应该考虑如何在可能制定可能制定的致命自治武器的任何军备控制制度中思考。这比强制核武器控制制度更复杂,其中裂变材料的生产和递送系统的测试通常可以从远处检测。监测自主武器的开发和就业将更加困难,因为这些武器可能会使用似乎的常规军事技术,通过自主技术烘焙到能够为它们的系统中烘焙。制定军备控制政权的人将不得不提前与主要技术人员互动,以制定监测合规性的技术和实用手段。最后,正如从第二次世界大战结束以来的情况下,任何可能需要的军备控制和国际安全制度都只能在美国领导。国家部门不仅应大量参与国家安全诉讼框架的发展,还应在国家安全方面的框架的发展中,但也汇集了一个志同道合的国家联盟,他们将形成一个最终政府间制度的基础,谁可以向这一情况施加外交压力更加象定的国际社会成员。 

由于AI融入了我们日常技术经验的许多方面,因此在我们的国家安全装置中也会变得越来越积极。虽然最伟大的技术承诺可能仍然是在制作中的岁月,但现在是建立一个有效治理这项技术的框架的时候,并信任其部署。 

X
本网站使用cookie来增强用户体验并分析性能和 我们网站上的交通。我们还与我们的社交媒体,广告分享您使用我们网站的信息 和分析合作伙伴。 学到更多 / 不要卖我的 Personal Information
接受cookie.
X
饼干偏好 Cookie列表

不要出售我的个人信息

当您访问我们的网站时,我们将在浏览器上存储Cookie以收集 信息。收集的信息可能与您,您的偏好或您的设备相关,并且主要是 曾经在您期望的网站工作,并提供更个性化的Web体验。但是,你 可以选择不允许某些类型的饼干,这可能会影响您的网站的经验和 我们能提供的服务。单击不同的类别标题以了解更多并更改我们的 根据您的偏好默认设置。您不能完全选择我们的第一方必要 部署它们的饼干,以确保我们网站的正常运作(例如提示 Cookie横幅并记住您的设置,要登录您的帐户,以在退出时重定向您, 等等。)。有关使用的第一个和第三方cookie的更多信息,请按照此链接进行操作。

允许所有cookie

管理同意偏好

严格必要的饼干 - 始终处于活动状态

我们不允许您选择退出我们某些饼干,因为它们是必要的 确保我们网站的正常运行(例如提示我们的Cookie横幅并记住您的隐私 选择)和/或监视网站性能。这些饼干不用于构成“销售”的方式 您在CCPA下的数据。您可以将浏览器设置为阻止或提醒您关于这些cookie,但有些部分 如果您这样做,该网站将无法正常工作。您通常可以在选项中找到这些设置 浏览器的首选项菜单。访问 www.allaboutcookies.org. to learn more.

销售个人数据,定位和社交媒体饼干

根据加利福尼亚州的消费者隐私法案,您有权选择退出 将您的个人信息销售给第三方。这些cookie收集分析的信息和 使用目标广告个性化您的体验。您可能会举止选择退出个人的权利 使用此切换交换机的信息。如果您选择退出,我们将无法为您提供个性化的广告和 不会将您的个人信息交给任何第三方。此外,您可以联系我们的合法 通过使用这项练习,进一步澄清您作为加州消费者的权利 Rights link

如果您在浏览器上启用了隐私控件(例如插件),我们有 将其作为选择退出的有效请求。因此,我们将无法通过追踪您的活动 网。这可能会影响我们根据您的偏好来个性化广告的能力。

定位饼干可以通过我们的广告合作伙伴通过我们的网站。他们 这些公司可以使用这些公司来构建您的兴趣的形象,并在其他方面向您展示相关广告 网站。它们不会直接存储个人信息,但基于唯一标识您的浏览器和 互联网设备。如果您不允许这些cookie,您将体验较少的目标广告。

社交媒体饼干由我们拥有的一系列社交媒体服务设置 添加到网站以使您可以与您的朋友和网络分享我们的内容。他们有能力 跟踪其他网站的浏览器并构建您的兴趣的个人资料。这可能会影响 您在您访问的其他网站上看到的内容和消息。如果你不允许这些饼干,你可能不是 能够使用或查看这些共享工具。

如果您想选择退出我们所有的牵头报告和列表,请提交 我们的隐私请求 不要卖 page.

保存设置
饼干偏好 Cookie列表

Cookie列表

一个cookie是一个网站的一小部分数据(文本文件) - 访问时访问 用户 - 要求您的浏览器存储在您的设备上,以记录您的信息,例如您的信息 语言偏好或登录信息。这些饼干由我们设置并称为第一方cookie。我们也 使用第三方cookie - 从域中的cookie与您所在网站的网站域不同的域 访问 - 我们的广告和营销努力。更具体地说,我们使用cookie和其他跟踪 用于以下目的的技术:

严格必要的饼干

我们不允许您选择退出我们某些饼干,因为它们是必要的 确保我们网站的正常运行(例如提示我们的Cookie横幅并记住您的隐私 选择)和/或监视网站性能。这些饼干不用于构成“销售”的方式 您在CCPA下的数据。您可以将浏览器设置为阻止或提醒您关于这些cookie,但有些部分 如果您这样做,该网站将无法正常工作。您通常可以在选项中找到这些设置 浏览器的首选项菜单。访问 www.allaboutcookies.org. to learn more.

功能饼干

我们不允许您选择退出我们某些饼干,因为它们是必要的 确保我们的正常运作 网站(例如提示我们的cookie横幅并记住您的隐私选项)和/或监控网站 表现。这些cookie不以构成在CCPA下的数据的“销售”的方式使用。你 可以将浏览器设置为阻止或提醒您关于这些cookie,但网站的某些部分将无法正常工作 如果你这样做的话。您通常可以在您的选项或首选项菜单中找到这些设置 browser. Visit www.allaboutcookies.org. to learn more.

性能饼干

我们不允许您选择退出我们某些饼干,因为它们是必要的 确保我们的正常运作 网站(例如提示我们的cookie横幅并记住您的隐私选项)和/或监控网站 表现。这些cookie不以构成在CCPA下的数据的“销售”的方式使用。你 可以将浏览器设置为阻止或提醒您关于这些cookie,但网站的某些部分将无法正常工作 如果你这样做的话。您通常可以在您的选项或首选项菜单中找到这些设置 browser. Visit www.allaboutcookies.org. to learn more.

销售个人数据

我们还使用cookie在我们的网站上个性化您的体验,包括 确定最相关的内容和广告,以显示您,并监控网站流量和 性能,以便我们可以改善我们的网站和您的经验。您可以选择退出我们的使用 使用此切换开关,Cookie(以及相关的“销售”您的个人信息)。你仍然会 无论您的选择如何,都会看到一些广告。因为我们不跟踪您的不同设备, 浏览器和GEMG属性,您的选择将仅在此浏览器中生效,此设备和此 website.

社交媒体饼干

我们还使用cookie在我们的网站上个性化您的体验,包括 确定最相关的内容和广告,以显示您,并监控网站流量和 性能,以便我们可以改善我们的网站和您的经验。您可以选择退出我们的使用 使用此切换开关,Cookie(以及相关的“销售”您的个人信息)。你仍然会 无论您的选择如何,都会看到一些广告。因为我们不跟踪您的不同设备, 浏览器和GEMG属性,您的选择将仅在此浏览器中生效,此设备和此 website.

针对饼干

我们还使用cookie在我们的网站上个性化您的体验,包括 确定最相关的内容和广告,以显示您,并监控网站流量和 性能,以便我们可以改善我们的网站和您的经验。您可以选择退出我们的使用 使用此切换开关,Cookie(以及相关的“销售”您的个人信息)。你仍然会 无论您的选择如何,都会看到一些广告。因为我们不跟踪您的不同设备, 浏览器和GEMG属性,您的选择将仅在此浏览器中生效,此设备和此 website.