技术。 SGT。 Boyd Belcher /美国陆军

建模软件曾经导致我们贯穿核战争的悬崖。 Ai会做什么?

五角大楼必须在其人工智能愿望中注意瑞恩和烧杯的课程。

1983年,世界超级大国靠近偶然的核战争,主要是因为苏联依靠软件,使基于虚假假设的预测。今天,当五角大楼搬到 注入人工智能工具 只是关于其工作的各个方面,值得记住瑞安和烧刀的课程。

两年前,苏联部署了一个软件程序被称为 瑞安,对于raketno yadernoye napadenie或突然的核导弹攻击。瑞安以其巨大的时间,通过建模40,000名军事,政治和经济因素,包括从国外代理人(间谍)报告的292个“指标”来计算两位超级大国的相对权力。它由kgb运行,雇用了200多人只是为了输入数据。

苏联人建造了瑞安警告他们,当他们的国家的相对力量下降到美国可能会在苏联启动先发制人的第一次罢工时。领导人决定,如果苏联力量至少为美国的70%,权力的余额稳定。随着月份的流逝,这个号码暴跌了。到1983年,瑞安报告说,苏联权力跌至美国的45%。

这个扩大的苏联领导人的偏执狂。在核军备竞赛中25年后, 维维人员ICBM and the 三叉戟SLBM. 正在减少支持美国的平衡。回应苏联介绍 SS-20 1983年,美国部署到东欧的中距离弹道导弹 潘兴二 and 地面推出了巡航导弹 导弹到西欧,减少了对莫斯科攻击的警告时间不到八分钟。 1983年3月,里根总统宣布了 战略防御倡议  - “星球大战” - 拦截苏维埃ICBMS,然后在公开贴上苏联“邪恶的帝国”的几周后堆积。 1983年9月,在冷战中缩短了一个非常糟糕的一年,苏联人不小心击落了一个平民747机场-Kal 007 - 徒步旅行。

到1983年,苏联政治和军事领导人真正相信核战争即将来临。 Ryan计划更加重要。为了养活瑞安,kgb首要首要地收集任何可能在潜在令人惊讶的核导弹袭击方面的任何东西的指标。他们正在寻找直接指标 - 有了美国。 政府计划的连续性 (世界末日飞机)被激活了吗?有美国提前警告推出我们的战略核动力吗?他们还收集了次要指标。美国和联盟国家内部的代理商在华盛顿办事处(白宫,五角大楼,州部门,CIA等)中观察了加强的活动,包括白宫停车场,疏散和庇护所,血液水平在血库中,储存核武器的观察等。一些指标是基于战术如何为战争做好准备的镜像。苏联案件人员被指示寻求突然搬进特殊配备的安全住宿的分类信息的人们行为的偏差。虽然大多数KGB车站酋长和案例人员认为莫斯科是偏执,但他们尽职尽责地报告了他们认为他们的领导者想要听到的东西。

到1983年11月,苏联军事和政治领导人已经相信,单位国家的核第一次罢工是可能的。瑞安计划告诉他们,赔率赞成美国,莫斯科的战争指标正在闪烁红色。

那个月,北约在欧洲举行了一套高度现实的战争队 索引弓箭手83.。这些包括在内 170架飞机的19,000名美国士兵的空运 在欧洲的无线电沉默下,从永久大战总部转移到备用战争总部,练习核武器发布程序。

在反应中,苏联空军的主要负责人命令所有单位 苏维埃第四届航空军警 其中包括准备即时使用核武器。似乎至少有一些苏联军队正在准备抢占或反击在能够逮捕队的掩护下发起的北约罢工。幸运的是,没有人反应过度。能够通过弓箭手83锻炼。 

多年来,美国不知道苏联认为这项运动是推出核第一次罢工的封面。柏林墙从缺陷的时间信息倒下了 来自美国一般的旅游终端 负责欧洲空军情报促使总统智能董事会 重新审视苏联人的想法。在后敏,瑞安和射手射击队将冷战带到了世界末日的边缘。

即使瑞安报道,美国有决定性的军事优势,是什么让苏联人认为我们会推出一核罢工?没人知道。然而,鉴于纳粹德国对二战苏联的惊喜袭击,导致2500万人死亡,苏联对其国家造成的极端破坏,有理由是偏执狂。有些人建议苏联人解释了总统卡特1980年 总统指令59. 核武器就业政策作为核初级罢工的准备。也许苏联联盟归于自己的计划,以便在美国的第一次罢工到他们的冷战敌人。或者也许美国实际上确实在我们通过间谍发现的苏维埃的运营计划之一中有一击选项。 

为什么苏联人相信,战争将从战争比赛开始?苏联国防部长队员队员后几个月 公开承认 他的国家无法从实际攻击中讲述一个大型北约运动:“很难抓住训练问题与实际准备的大规模侵略之间的差异。”苏联人在欧洲发动战争的计划很可能是战争比赛的一部分。

当然,苏维埃,相信Ryan警报系统的信号,旨在承担美国攻击。在试图自动化军事政策和潜在的行动时,苏联人已经扩大了其现有的偏执狂。 (一部叫做的电影 战争游戏 那一年出现了一些相同的主题。)

我们必须学到什么

瑞恩和能够弓箭手的智力课程已经恢复了几十年,但似乎没有人在考虑这一集应该教会我们建立预测模型以及当我们的对手依赖他们时会发生什么。 

在这些课程中:创建软件塑造结果的人的假设和信仰。使用数据来建模对手的潜在行动受到您建模领导者的能力的限制。您的规划和世界观几乎保证与对手的规划不相同。拥有压倒性的军事优势可能会迫使对手进入一个角落,他们可以以似乎不合理的方式行事。负责任,公平,可追溯,可靠,可取的尊重目标是伟大的抱负目标。

最后,我们必须询问苏联没有的问题。简短的清单包括:当我们开始使用人工智能和机器学习来塑造政策时可能发生什么? 

  • AI / ml是否实际上预测人类意图? 
  • 当机器开始看到不存在的模式时会发生什么? 
  • 我们如何确保 无意的偏见 不爬进模型?
  • 我们将依靠一个无法解释它如何达成决定的AI依赖多少? 
  • 我们如何解压缩和欺骗机器驱动的结论?人类应该在哪里循环?
  • 我们如何确保外国演员无法污染用于驱动模型和/或窃取模型的数据集和传感器,并寻找其漏洞?
  • 我们如何确保那些具有特定议程的人(即,kgb主席和罗回人士)不会偏见数据?
  • 我们如何确保我们不使用误导我们自己领导者的软件程序?

有点舒适的消息是 其他人一直在想 关于这些问题一段时间。 2020年,国防部正式采用 五个伦理原则 国防创新委员会推荐用于开发人工智能能力:AI项目需要负责任,公平,可追踪,可靠和可取的宗旨。联合人工智能中心指定了道德政策负责人 将这些原则转化为实践。在Jaic的下 2.0任务,他们不再是AI项目的唯一开发者,而是提供服务和常见的软件平台。现在这取决于 JAIC伦理前台 确保国防部的数百个任务区和承包商遵守这些标准。 

这希望他们全都记得瑞安的教训。

史蒂夫空白是硅谷的一名串行企业家,是国防商业委员会的前成员,以及加州大学伯克利哈斯创业计划的成员。一位前空军电子技术员,他在越南修复了野生丝网喷气式飞机。

X
本网站使用cookie来增强用户体验并分析性能和 我们网站上的交通。我们还与我们的社交媒体,广告分享您使用我们网站的信息 和分析合作伙伴。 学到更多 / 不要卖我的 Personal Information
接受cookie.
X
饼干偏好 Cookie列表

不要出售我的个人信息

当您访问我们的网站时,我们将在浏览器上存储Cookie以收集 信息。收集的信息可能与您,您的偏好或您的设备相关,并且主要是 曾经在您期望的网站工作,并提供更个性化的Web体验。但是,你 可以选择不允许某些类型的饼干,这可能会影响您的网站的经验和 我们能提供的服务。单击不同的类别标题以了解更多并更改我们的 根据您的偏好默认设置。您不能完全选择我们的第一方必要 部署它们的饼干,以确保我们网站的正常运作(例如提示 Cookie横幅并记住您的设置,要登录您的帐户,以在退出时重定向您, ETC。)。有关使用的第一个和第三方cookie的更多信息,请按照此链接进行操作。

允许所有cookie

管理同意偏好

严格必要的饼干 - 始终处于活动状态

我们不允许您选择退出我们某些饼干,因为它们是必要的 确保我们网站的正常运行(例如提示我们的Cookie横幅并记住您的隐私 选择)和/或监视网站性能。这些饼干不用于构成“销售”的方式 您在CCPA下的数据。您可以将浏览器设置为阻止或提醒您关于这些cookie,但有些部分 如果您这样做,该网站将无法正常工作。您通常可以在选项中找到这些设置 浏览器的首选项菜单。访问 www.allaboutcookies.org. to learn more.

销售个人数据,定位和社交媒体饼干

根据加利福尼亚州的消费者隐私法案,您有权选择退出 将您的个人信息销售给第三方。这些cookie收集分析的信息和 使用目标广告个性化您的体验。您可能会举止选择退出个人的权利 使用此切换交换机的信息。如果您选择退出,我们将无法为您提供个性化的广告和 不会将您的个人信息交给任何第三方。此外,您可以联系我们的合法 通过使用这项练习,进一步澄清您作为加州消费者的权利 Rights link

如果您在浏览器上启用了隐私控件(例如插件),我们有 将其作为选择退出的有效请求。因此,我们将无法通过追踪您的活动 网。这可能会影响我们根据您的偏好来个性化广告的能力。

定位饼干可以通过我们的广告合作伙伴通过我们的网站。他们 这些公司可以使用这些公司来构建您的兴趣的形象,并在其他方面向您展示相关广告 网站。它们不会直接存储个人信息,但基于唯一标识您的浏览器和 互联网设备。如果您不允许这些cookie,您将体验较少的目标广告。

社交媒体饼干由我们拥有的一系列社交媒体服务设置 添加到网站以使您可以与您的朋友和网络分享我们的内容。他们有能力 跟踪其他网站的浏览器并构建您的兴趣的个人资料。这可能会影响 您在您访问的其他网站上看到的内容和消息。如果你不允许这些饼干,你可能不是 能够使用或查看这些共享工具。

如果您想选择退出我们所有的牵头报告和列表,请提交 我们的隐私请求 不要卖 page.

保存设置
饼干偏好 Cookie列表

Cookie列表

一个cookie是一个网站的一小部分数据(文本文件) - 访问时访问 用户 - 要求您的浏览器存储在您的设备上,以记录您的信息,例如您的信息 语言偏好或登录信息。这些饼干由我们设置并称为第一方cookie。我们也 使用第三方cookie - 从域中的cookie与您所在网站的网站域不同的域 访问 - 我们的广告和营销努力。更具体地说,我们使用cookie和其他跟踪 用于以下目的的技术:

严格必要的饼干

我们不允许您选择退出我们某些饼干,因为它们是必要的 确保我们网站的正常运行(例如提示我们的Cookie横幅并记住您的隐私 选择)和/或监视网站性能。这些饼干不用于构成“销售”的方式 您在CCPA下的数据。您可以将浏览器设置为阻止或提醒您关于这些cookie,但有些部分 如果您这样做,该网站将无法正常工作。您通常可以在选项中找到这些设置 浏览器的首选项菜单。访问 www.allaboutcookies.org. to learn more.

功能饼干

我们不允许您选择退出我们某些饼干,因为它们是必要的 确保我们的正常运作 网站(例如提示我们的cookie横幅并记住您的隐私选项)和/或监控网站 表现。这些cookie不以构成在CCPA下的数据的“销售”的方式使用。你 可以将浏览器设置为阻止或提醒您关于这些cookie,但网站的某些部分将无法正常工作 如果你这样做的话。您通常可以在您的选项或首选项菜单中找到这些设置 browser. Visit www.allaboutcookies.org. to learn more.

性能饼干

我们不允许您选择退出我们某些饼干,因为它们是必要的 确保我们的正常运作 网站(例如提示我们的cookie横幅并记住您的隐私选项)和/或监控网站 表现。这些cookie不以构成在CCPA下的数据的“销售”的方式使用。你 可以将浏览器设置为阻止或提醒您关于这些cookie,但网站的某些部分将无法正常工作 如果你这样做的话。您通常可以在您的选项或首选项菜单中找到这些设置 browser. Visit www.allaboutcookies.org. to learn more.

销售个人数据

我们还使用cookie在我们的网站上个性化您的体验,包括 确定最相关的内容和广告,以显示您,并监控网站流量和 性能,以便我们可以改善我们的网站和您的经验。您可以选择退出我们的使用 使用此切换开关,Cookie(以及相关的“销售”您的个人信息)。你仍然会 无论您的选择如何,都会看到一些广告。因为我们不跟踪您的不同设备, 浏览器和GEMG属性,您的选择将仅在此浏览器中生效,此设备和此 website.

社交媒体饼干

我们还使用cookie在我们的网站上个性化您的体验,包括 确定最相关的内容和广告,以显示您,并监控网站流量和 性能,以便我们可以改善我们的网站和您的经验。您可以选择退出我们的使用 使用此切换开关,Cookie(以及相关的“销售”您的个人信息)。你仍然会 无论您的选择如何,都会看到一些广告。因为我们不跟踪您的不同设备, 浏览器和GEMG属性,您的选择将仅在此浏览器中生效,此设备和此 website.

针对饼干

我们还使用cookie在我们的网站上个性化您的体验,包括 确定最相关的内容和广告,以显示您,并监控网站流量和 性能,以便我们可以改善我们的网站和您的经验。您可以选择退出我们的使用 使用此切换开关,Cookie(以及相关的“销售”您的个人信息)。你仍然会 无论您的选择如何,都会看到一些广告。因为我们不跟踪您的不同设备, 浏览器和GEMG属性,您的选择将仅在此浏览器中生效,此设备和此 website.