X-47B无人战斗空气系统(UCAS)在飞机承运人USS George H.W的飞行甲板上的示范人数。布什(CVN 77)。

X-47B无人战斗空气系统(UCAS)在飞机承运人USS George H.W的飞行甲板上的示范人数。布什(CVN 77)。 美国海军照片由大众通讯专家2班蒂莫西沃尔特

保持杀手机器人紧绷皮带

由于军队考虑了自主武器技术,他们必须预测和计划其后果。

本周,代表 联合国某些常规武器公约 将讨论 自主武器系统,或者活动家称之为“杀手机器人”。抛开色彩缤纷的语言,并入增加自主武器的武器提出了重要 法律,政策和道德问题。这些包括开发自主武器的潜在动机,他们如何激增,危机稳定的影响,以及他们可能的开发手段是对军事专业的影响。

没有政府公开说它正在建立自治武器,但他们可能会出现几个原因。对速度的需求已经导致至少30个国家部署具有人类监督的自治模式,例如AEGIS和爱国者的防御系统,以保护船舶,基地和平民从迅速的飞机和导弹中养殖。这种系统仅可能变得更加重要,作为精确引导导弹增殖。自主武器在无线电链路或根本不工作的情况下也是有用的。在冲突中,军队将寻求互相堵塞或扰乱彼此 通讯。此外,一些环境(如海底)都是对通信的本质上具有挑战性。最后,一些政府可以部分地渴望自主武器,只是因为他们认为潜在的对手可能会得到它们。

鉴于自主武器的军事和政治吸引力,探索他们存在的一些潜在问题。即使他们大部分时间比人类更好地表现,它们仍然在某些情况下仍然失败 - 而且在不同且可能的意外方式。自主系统在环境中可预测时,有一个客观正确的动作,就像 安全地在飞机承运人上落地一架飞机。在其他情况下,它们可以是“脆弱”。如果 自驾 可以减少90%的自身死亡,但剩下的10%的死亡人类司机可能很容易防止?我们该如何考虑 这些类型的情况?

失败可以源于简单的编程错误,人类运营商不正确使用自主系统,或系统与不确定和不可预测的环境的交互。当多个自治系统以高速相互作用时,最后一个问题尤其急剧。 2010年5月6日,一个自动股票交易与高频交易算法相互作用,以产生“闪存崩溃“在几分钟内,道琼斯指数琼斯在其价值中损失了近10%。

(有关的为什么会有机器人起义)

同样,自主武器可以完美地表现为99.99%的时间,但是,在他们确实失败的情况下,失败了很大。 2003年, 美国爱国者防空系统 击落了两架友好的飞机,杀死飞行员。 U.S.操作员对系统进行了物理访问,可以禁用它以防止额外的自乳质。但是,如果运营商没有对故障武器的物理访问,则不会发生这种结果。没有人类“在循环中”,一个被敌人发生故障或被攻击的自治系统 - 可以继续吸引目标,直到它耗尽弹药或被摧毁。软件“kill开关”可以帮助维护人类控制这些系统,但只有在通信链路仍然函数并且系统仍然响应软件命令时才会响应。

在这种情况下,系统失败 - 因故障,意外的与环境互动或网络攻击 - 引起了战场上的大众弗罗特齐的令人恐惧前景。类似于2010年闪存崩溃,一系列自主系统故障可能,从理论上迅速螺旋螺旋。在最糟糕的情况下,结果可能是弗罗茨基,民用伤亡,或在危机中意外的升级 - 潜在甚至是“闪存战争”。

这种结果的风险使网络安全更重要于今天。几乎是 任何现代武器系统 理论上是易受网络攻击的影响,黑客入侵自主系统的后果可能远远大,因为敌人实际上可以控制系统。虽然网络脆弱性可以奠定现代战斗机,但仍将努力控制对手以控制驾驶舱中的飞行员。相比之下,对手理论上可以控制无人驾驶车辆。通过今天的远程驾驶系统,对手将不得不复制控件以便运营它。然而,随着系统的自主性增加,对手只需要改变更高级别的指挥指导,并让车辆或自主武器 - 自己执行行动。

通过更好的网络安全和预部署测试,可以减少来自欺骗,黑客,故障和意外互动的故障的可能性。但是测试人员只能强化一个针对已知风险的系统。总是有意想不到的情况,即自治系统会遇到,特别是当敌人试图破解,欺骗,堵塞或以其他方式欺骗系统时。将始终发生一些故障。更大的挑战是确保当系统失败时,它们会失败 安全的.

金融市场对2010年“闪存崩溃”的回应指向潜在解决方案的途径。事件发生后, 监管机构 如果股票迅速灌注,因此施加“断路器”停止交易。同样,“人类断路器”如果开始失败和“人防火墙”以减轻黑客和欺骗攻击的“人类断路器”,则可以帮助确保当系统失败时,他们安全地失败。

即使可以充分解决这些问题,自主武器系统也会提高军事专业的具有挑战性问题。在一个自主武器中,军事专业人员的决定不再由军事专业人士制定,而是由系统本身,尽管根据人们编写的编程。不再可以谈论任何参与者的目标都是负责任的。相反,战士负责将自主武器放入运营中,但它是设计负责目标选择的系统的工程师和程序员。 

如果一个自主武器做出意想不到的事情,人工经营者可以在某些情况下合理索赔,这与他们的意图并不一致,而且它不是他们的错。倡导禁止自治武器担心“问责制差距“但问题大于事件后的问题就是简单地持有某人。至少理论上是可以设计制度的 分配问责制 事后。挑战是,责任可能与工程师或程序员介绍,而不是作战者,这削减了军事专业的核心 是 - 关于使用武力的决定的专业知识。

许多创新改变了战斗员如何在战场上战斗,从马匹到弩到枪械和导弹,但是他们都没有改变它仍然是战斗人员决定何时以及如何使用武力。战争员仍然有什么决定是否部署自主武器,但这是一个与授权特定目标的定性不同的决定。而不是像一辆高端汽车的驾驶员那样从自动驾驶辅助工具中受益,例如智能巡航控制和自动车道保持,但仍然控制着车辆,运营自主武器的战争者将更像是乘客谷歌的方向盘较不行的自动驾驶汽车:负责决定是否进入汽车但是船上沿着骑行。

幸运的是,自治不是一个/或命题。军队没有面临完全自主武器的选择或完全控制人类的选择(现代传感技术已经意味着大量任务依赖机器依赖机器)。相反,军国军应该从先进的国际象棋领域采取页面,或“塞尔棋,“如果人机混合团队,利用每个人的最佳优势 更有可能赢 而不是单独的人或机器。在关于使用武力的决定中,一些人和机器决策的混合可能是最佳的。人类远非完美,自治系统可以帮助提高有效性和准确性,减轻事故,甚至防止一些故意的战争罪行。与此同时,人工判断会对在自治系统编程范围之外的意外情况下提供弹性。鉴于目前的技术发展,一种混合​​方法,用于一些任务,使人类“在循环中保持其他人的融合方法可能是战场上最好的方法。

X
本网站使用cookie来增强用户体验并分析性能和 我们网站上的交通。我们还与我们的社交媒体,广告分享您使用我们网站的信息 和分析合作伙伴。 学到更多 / 不要卖我的 Personal Information
接受cookie.
X
饼干偏好 Cookie列表

不要出售我的个人信息

当您访问我们的网站时,我们将在浏览器上存储Cookie以收集 信息。收集的信息可能与您,您的偏好或您的设备相关,并且主要是 曾经在您期望的网站工作,并提供更个性化的Web体验。但是,你 可以选择不允许某些类型的饼干,这可能会影响您的网站的经验和 我们能提供的服务。单击不同的类别标题以了解更多并更改我们的 根据您的偏好默认设置。您不能完全选择我们的第一方必要 部署它们的饼干,以确保我们网站的正常运作(例如提示 Cookie横幅并记住您的设置,要登录您的帐户,以在退出时重定向您, 等等。)。有关使用的第一个和第三方cookie的更多信息,请按照此链接进行操作。

允许所有cookie

管理同意偏好

严格必要的饼干 - 始终处于活动状态

我们不允许您选择退出我们某些饼干,因为它们是必要的 确保我们网站的正常运行(例如提示我们的Cookie横幅并记住您的隐私 选择)和/或监视网站性能。这些饼干不用于构成“销售”的方式 您在CCPA下的数据。您可以将浏览器设置为阻止或提醒您关于这些cookie,但有些部分 如果您这样做,该网站将无法正常工作。您通常可以在选项中找到这些设置 浏览器的首选项菜单。访问 www.allaboutcookies.org. to learn more.

销售个人数据,定位和社交媒体饼干

根据加利福尼亚州的消费者隐私法案,您有权选择退出 将您的个人信息销售给第三方。这些cookie收集分析的信息和 使用目标广告个性化您的体验。您可能会举止选择退出个人的权利 使用此切换交换机的信息。如果您选择退出,我们将无法为您提供个性化的广告和 不会将您的个人信息交给任何第三方。此外,您可以联系我们的合法 通过使用这项练习,进一步澄清您作为加州消费者的权利 Rights link

如果您在浏览器上启用了隐私控件(例如插件),我们有 将其作为选择退出的有效请求。因此,我们将无法通过追踪您的活动 网。这可能会影响我们根据您的偏好来个性化广告的能力。

定位饼干可以通过我们的广告合作伙伴通过我们的网站。他们 这些公司可以使用这些公司来构建您的兴趣的形象,并在其他方面向您展示相关广告 网站。它们不会直接存储个人信息,但基于唯一标识您的浏览器和 互联网设备。如果您不允许这些cookie,您将体验较少的目标广告。

社交媒体饼干由我们拥有的一系列社交媒体服务设置 添加到网站以使您可以与您的朋友和网络分享我们的内容。他们有能力 跟踪其他网站的浏览器并构建您的兴趣的个人资料。这可能会影响 您在您访问的其他网站上看到的内容和消息。如果你不允许这些饼干,你可能不是 能够使用或查看这些共享工具。

如果您想选择退出我们所有的牵头报告和列表,请提交 我们的隐私请求 不要卖 page.

保存设置
饼干偏好 Cookie列表

Cookie列表

一个cookie是一个网站的一小部分数据(文本文件) - 访问时访问 用户 - 要求您的浏览器存储在您的设备上,以记录您的信息,例如您的信息 语言偏好或登录信息。这些饼干由我们设置并称为第一方cookie。我们也 使用第三方cookie - 从域中的cookie与您所在网站的网站域不同的域 访问 - 我们的广告和营销努力。更具体地说,我们使用cookie和其他跟踪 用于以下目的的技术:

严格必要的饼干

我们不允许您选择退出我们某些饼干,因为它们是必要的 确保我们网站的正常运行(例如提示我们的Cookie横幅并记住您的隐私 选择)和/或监视网站性能。这些饼干不用于构成“销售”的方式 您在CCPA下的数据。您可以将浏览器设置为阻止或提醒您关于这些cookie,但有些部分 如果您这样做,该网站将无法正常工作。您通常可以在选项中找到这些设置 浏览器的首选项菜单。访问 www.allaboutcookies.org. to learn more.

功能饼干

我们不允许您选择退出我们某些饼干,因为它们是必要的 确保我们的正常运作 网站(例如提示我们的cookie横幅并记住您的隐私选项)和/或监控网站 表现。这些cookie不以构成在CCPA下的数据的“销售”的方式使用。你 可以将浏览器设置为阻止或提醒您关于这些cookie,但网站的某些部分将无法正常工作 如果你这样做的话。您通常可以在您的选项或首选项菜单中找到这些设置 browser. Visit www.allaboutcookies.org. to learn more.

性能饼干

我们不允许您选择退出我们某些饼干,因为它们是必要的 确保我们的正常运作 网站(例如提示我们的cookie横幅并记住您的隐私选项)和/或监控网站 表现。这些cookie不以构成在CCPA下的数据的“销售”的方式使用。你 可以将浏览器设置为阻止或提醒您关于这些cookie,但网站的某些部分将无法正常工作 如果你这样做的话。您通常可以在您的选项或首选项菜单中找到这些设置 browser. Visit www.allaboutcookies.org. to learn more.

销售个人数据

我们还使用cookie在我们的网站上个性化您的体验,包括 确定最相关的内容和广告,以显示您,并监控网站流量和 性能,以便我们可以改善我们的网站和您的经验。您可以选择退出我们的使用 使用此切换开关,Cookie(以及相关的“销售”您的个人信息)。你仍然会 无论您的选择如何,都会看到一些广告。因为我们不跟踪您的不同设备, 浏览器和GEMG属性,您的选择将仅在此浏览器中生效,此设备和此 website.

社交媒体饼干

我们还使用cookie在我们的网站上个性化您的体验,包括 确定最相关的内容和广告,以显示您,并监控网站流量和 性能,以便我们可以改善我们的网站和您的经验。您可以选择退出我们的使用 使用此切换开关,Cookie(以及相关的“销售”您的个人信息)。你仍然会 无论您的选择如何,都会看到一些广告。因为我们不跟踪您的不同设备, 浏览器和GEMG属性,您的选择将仅在此浏览器中生效,此设备和此 website.

针对饼干

我们还使用cookie在我们的网站上个性化您的体验,包括 确定最相关的内容和广告,以显示您,并监控网站流量和 性能,以便我们可以改善我们的网站和您的经验。您可以选择退出我们的使用 使用此切换开关,Cookie(以及相关的“销售”您的个人信息)。你仍然会 无论您的选择如何,都会看到一些广告。因为我们不跟踪您的不同设备, 浏览器和GEMG属性,您的选择将仅在此浏览器中生效,此设备和此 website.