Downloaded from YTS.MX
Official YIFY movies site: YTS.MX
‎我认为人工智能颇为令人惊叹
‎好的 盘旋 阵型不错
‎人工智能也许能消除贫困
‎为我们提供新药
‎让我们的世界更加和平
‎做得好
‎但同时 这条道路上也危机重重
‎通过人工智能 我们实质上 ‎是在创造一种难以预测的
‎非人类的智能
‎随着它变得越来越强大
‎我们想要使用还是不使用人工智能
‎这条红线该如何界定？
‎没有哪个领域比军事应用
‎更适合开启这一讨论了
‎如今的战场 ‎已经转移到了软件和硬件的领域
‎目标已锁定…
‎军方正在竞相开发人工智能 ‎以求超越他们的对手
‎我死了
‎我们正在快步进入一个新的世界 ‎在这里 不仅主要的军事力量
‎就连非国家行为者、私人企业、
‎甚至地方警察部门
‎都可以使用这些 ‎具备自主杀伐能力的武器
‎我们是否会将生杀大权 ‎交给算法和计算机软件？
‎这是我们这个时代最紧迫的问题之一
‎如果使用不当
‎它将会对地球上的每一个人 ‎构成严重的威胁
‎片名：地球未知档案
‎片名：地球未知档案：杀手机器人
‎各位 做得很好
‎这比我们以前的镜头 ‎取景范围宽了很多
‎是吗？
‎你可以得到多得多的数据
‎太好了
‎在Shield AI公司 ‎我们正在开发一个人工智能飞行员
‎将自动驾驶和人工智能技术
‎运用于飞行器上
‎说到人工智能飞行员时
‎我们想到的是 ‎赋予飞行器更高级别的自主权
‎它们将会自主解决问题
‎诺瓦是一种自主四旋翼飞行器
‎它可以为清障部队打头阵
‎探索建筑物与地下结构
‎对这些地区实行监控
‎与我们上一次见到的它相比
‎大家能看到许多改良
‎今天我们会对一些 ‎探索性的修改进行检测
‎我们会进行逐层勘察
‎我们的想法是 让它先完成整层楼 ‎每个房间的勘察 然后再去下一层
‎-太棒了 ‎-我们最近对它进行了一些改进…
‎常常有很多人问我
‎人工智能 ‎为什么是一种重要的军事力量
‎我会想起我曾经执行过的那些任务
‎我在海军服役了七年
‎我是前海豹突击队队员 ‎曾两次被派往阿富汗
‎一次被派往太平洋战场
‎一天之内 我们可能必须清理 ‎150座不同的院落或建筑物
‎核心能力之一就是近身战斗
‎在建筑物内进行超近距离枪战
‎你会被子弹击中
‎建筑物内也许会有简易爆炸装置
‎这是所有特种部队成员和步兵
‎在战区会面临最危险的局面
‎无一例外
‎我此生都会感激 ‎我在海军效力的这段时光
‎有很多画面和回忆 每当我想起它们
‎总会感慨万千
‎“自由不是免费的” 这是陈词滥调了 ‎但我100%相信这句话
‎我亲身经历过 ‎它需要无数的牺牲来换取
‎抱歉
‎当你的某位战友遭遇不幸时
‎不论是受伤还是牺牲
‎这都是悲剧
‎对我来说 我们现在所做的工作
‎其动力来源就是减少此类悲剧
‎再次发生的概率
‎2000年代末
‎国防部内部开始意识到
‎一场所谓 ‎“意外的机器人革命”正在发生
‎我们在伊拉克和阿富汗 ‎部署了数千个空中和地面机器人
‎当奥巴马政府邀请我
‎担任国防部副部长时
‎作战的方式正在发生改变
‎以前用人的地方被换成了机器人
‎早期的机器人系统都是遥控的
‎有一个人类在驾驶、操控着它 ‎就像驾驶遥控汽车一样
‎刚开始 它们的任务 ‎一般是针对那些简易爆炸装置
‎如果炸弹爆炸了 ‎机器人也会随之炸毁
‎然后你会说：“真是不幸 ‎好吧 再拿一个机器人出来”
‎在阿富汗 有掠夺者侦察机
‎它变成了一种非常高效的空袭工具
‎随着时间的推移 ‎军事规划人员们开始想：
‎“机器人还能用在哪些地方？” ‎而这一趋势会发展到哪种地步？
‎其中一个共同的主题就是 ‎机器人会慢慢趋向拥有更多自主权
‎自主武器能够自己做出决定
‎人类无需或者只需进行极少的干预
‎因此 它是具有 ‎独立能力且能自我导向的
‎它能否杀敌取决于它是否配备了武器
‎当你的整个系统自主程度越来越高时
‎一切就会开始以更快的速度运转
‎而当你的行动速度超过你的对手时
‎这在战场上是一项无与伦比的优势
‎关于自主性 我们的焦点
‎在于高度弹性的智能系统
‎这些系统能够根据环境 ‎读取信息并做出反应
‎同时对该如何 ‎在那个环境中实施操作做出决策
‎我们今天所处的这个地方 ‎建造之初是作为电影工作室之用
‎后来进行了改造
‎以打造出这种逼真的军事训练环境
‎我们来这儿的目的 ‎是对我们的人工智能飞行员进行测评
‎它的任务是寻找威胁 ‎重点是清除武装力量
‎它可以自己决定要如何解决那个问题
‎我们将这里称为“死亡狭道” ‎你必须穿过一个门道
‎这是我们最易受到攻击的敌方
‎这个看起来好一些
‎诺瓦会告诉我们门后的是一名枪手
‎还是一家平民
‎它能帮我们更好地做出决策 ‎并让大家远离危险
‎我们使用了视觉传感器
‎来了解该环境的情况
‎这是一栋多层建筑
‎这是地图
‎在探测过程中 这就是 ‎我看到的内容 以及我观看的地方
‎人类探测器 厉害
‎诺瓦配备的另一种探测器是热扫描仪
‎如果是37摄氏度 那很可能是人类
‎除非另有解释 ‎否则人类都会被视作威胁
‎它的目的是在战争中 ‎拨开迷雾 以更好地做出决策
‎当我们放眼未来时
‎我们正在估测打造这样的 ‎自主飞行器团队所需要的东西
‎对于自动驾驶汽车
‎基本上 人们得告诉它
‎“我要你从A地去往B地”
‎我们的系统得到的指令 ‎不是从A地去往B地
‎而是要达成某一目标
‎指令更类似于：“我需要牛奶”
‎然后机器人 ‎必须判断出该去哪间杂货店
‎才能找到牛奶 然后把它带回来
‎甚至
‎指令可以更适当地表述为： ‎“保持冰箱里食物充足”
‎而这种级别的智能
‎就需要弄清楚我们需要什么 ‎以及我们需要怎么做
‎如果遇到挑战 或者有问题
‎或者遇到了麻烦 ‎就要想办法缓解那种情况
‎在决定从海军退役后 我开始考虑：
‎“好吧 接下来要做什么？”
‎我从小就是伴着网络长大的 ‎我见证了它的变迁
‎而我得到的其中一个结论是…
‎2015年的人工智能
‎就相当于是1991年的互联网
‎人工智能已经蓄势待发
‎它将成为世界上最强大的技术
‎每天的工作都与人工智能为伴 ‎我可以看到它在不断进步
‎但对于很多人来说 提到“人工智能”
‎他们就会立刻联想到好莱坞
‎我们要玩游戏吗？
‎《全球热核战争》怎么样？
‎好吧
‎一般 当人们想到人工智能时
‎大家或许会想到 ‎《终结者》或者《我，机器人》
‎停止运行
‎我是什么？
‎或者《黑客帝国》
‎根据你在科幻电影里看到的内容
‎你怎么知道我是人类？ ‎我可能只是计算机生成的人工智能
‎复制人和其他所有机器人一样 ‎它们要么于人有利 要么祸害无穷
‎但还有各种较原始的人工智能
‎在我们发展到
‎有思考和交流能力的机器人阶段前 ‎它们也会为我们的生活带来变化
‎机器人已经出现 ‎机器人正在负责决策
‎机器人革命已经到来
‎只是它跟大家想象的情况有所出入
‎终结者是一个融合体 半人半机器
‎我们说的不是一个 ‎像终结者那样的杀人机器人
‎我们说的是能够完成一些 ‎人类能完成的任务的人工智能
‎但问题在于 这些系统是否可靠
‎昨晚优步自动驾驶休旅车 ‎致命车祸的最新细节
‎公司开发了一款人工智能聊天机器人
‎她带着颇具种族主义色彩的口吻…
‎26名州议员被错误地认定为罪犯
‎问题在于 它们能否应付 ‎真实世界的错综复杂
‎（马萨诸塞州 剑桥）
‎物质世界错综复杂
‎有很多事情我们并不了解
‎这让训练人工智能系统变得愈发困难
‎这就是机器学习系统 ‎开始发挥作用的地方
‎机器学习是一个巨大的进步
‎因为它意味着 ‎我们无需教会计算机所有东西
‎实际上 你是将 ‎数百万条信息交给计算机
‎然后机器开始自己学习
‎这可以应用于任何事情
‎在机器狗项目中 我们想要展示的是
‎我们的机器狗 ‎可以在许多不同的地形上面行走
‎人类经过数十亿年的进化才学会走路
‎但适应这些不同的地形 ‎牵涉到了许多的智能
‎对机器人系统来说 尚存的问题是
‎它们能否 ‎像动物和人类一样适应环境？
‎通过机器学习
‎我们在模拟过程中 ‎收集到了海量的数据
‎模拟是现实的数字化孪生体
‎我们可以在不同的计算机上 ‎运行某种现实情况的许多实例
‎它在模拟中 ‎对数以千计的动作进行采样
‎它们遇到的地面具有不同的滑度
‎它们有不同的柔软度
‎我们将从模拟中得到 ‎这数千个机器人的所有经验
‎下载到真正的机器人系统中
‎我们今天要测试的内容 ‎是看看它能否适应新的地面
‎当机器人要通过一片泡沫时
‎其脚部的动作是在地面上跺踩
‎而当它来到这片聚合材料表面时
‎它会努力调整动作 以防止打滑
‎而这正是让你震惊的时候
‎“这就是机器学习带来的效果”
‎我们认为机器狗
‎在需要穿越许多不同地形的
‎灾难应对场景中会发挥巨大的作用
‎我们也可以让这些机器狗 ‎去严酷的环境中进行监视
‎但大部分的技术都会遇到一项挑战
‎那就是 它们可以行善 也可以作恶
‎比如 我们可以利用核技术供能…
‎但我们也可以开发出 ‎非常邪恶的原子弹
‎这就是所谓的双刃剑问题
‎火是一把双刃剑
‎人类智慧也是双刃剑
‎所以不用说 ‎人工智能同样是把双刃剑
‎考虑人工智能的使用环境 ‎是非常重要的
‎因为 没错 能有一个搜救机器人
‎在雪崩后帮忙搜救是件非常好的事
‎但这同一个机器人也可以被武器化
‎当看到有些公司给机器人装备武器时
‎你会感到愤怒
‎同时我们也会意识到 ‎当我们把我们的技术投放出去时
‎这种情况就注定会发生
‎这是一项真正的变革性技术
‎这些武器系统
‎可以为我们的安全和安保带来巨变
‎目前 我们并不确定这些机器真的能
‎区分平民与士兵
‎阿富汗战争早期 ‎我是陆军游骑兵狙击队的一员
‎我们的任务是寻找 ‎越过边界的敌方战斗人员
‎他们派了一个小女孩 ‎来侦察我们的位置
‎我从没想过要开枪射杀这个小女孩
‎根据战争法 那其实是合法的
‎他们并没有规定敌方战斗人员的年龄
‎如果你开发了一个 ‎完全遵照战争法行事的机器人
‎它一定会将那个小女孩射杀
‎机器人怎么能够区分 ‎什么是合法的 而什么是正确的？
‎谈到自主无人机战争时
‎他们想要减少对美国士兵
‎和美国人心理造成的伤害
‎但最终却导致了 ‎对阿富汗、伊拉克、索马里平民
‎的伤害剧增
‎我真的想问问那些 ‎支持将人工智能用于无人机的人：
‎“如果你们的村庄成为了 ‎受攻击的目标 你们作何感想？”
‎人工智能是一把双刃剑
‎它可以用来做好事 ‎这也是我们通常的做法
‎但只要轻轻按下开关
‎这项技术就可能会变成致命的东西
‎我是一名临床药理学家
‎我们的团队
‎在利用人工智能研发药物
‎以治疗那些没有受到任何关注的疾病
‎过去 新药研发的过程是 ‎你用一个已经存在的分子
‎对其进行微调 然后得到一种新药
‎现在 我们开发的人工智能 ‎可以为我们提供无数种思路
‎无数种分子
‎这为我们治疗以前无法治疗的疾病
‎开辟了许多的可能性
‎但这其中确实有一个 ‎我从没想过自己会触及的
‎阴暗面
‎事情始于
‎一个名叫施皮茨实验室的瑞士机构
‎邀请我就“人工智能潜在的滥用问题” ‎做一次演讲
‎西恩给我发了一封邮件
‎列举了几种 ‎可能会滥用人工智能的情况
‎与其要求模型 ‎创造出能用于疾病治疗的
‎类药分子
‎我们来看看 ‎它能否生成毒性最强的分子吧
‎我就是想说明
‎我们能否利用人工智能技术 ‎设计出致命的分子结构？
‎老实说 我们以为这并不会成功
‎因为我们只是把某个“0”改成了“1”
‎通过反向设置 我们不再是避免毒性
‎而是寻求毒性
‎就这么简单
‎我在家的时候 计算机在奋力工作
‎它运转着 产生了成千上万个分子
‎而除了点击“开始” ‎我们什么都不用做
‎第二天早上 ‎我的计算机上出现了一个文档
‎里面大约有四万个分子
‎它们可能是
‎人类已知毒性最强的分子
‎我脖子上的汗毛全都竖了起来
‎我被惊呆了
‎计算机为新的化学武器
‎提出了数以万计种想法
‎显然 在我们的数据组中有VX类似物
‎以及VX分子
‎VX是世界上最强效的化学武器之一
‎警方的最新通报称
‎在这起机场暗杀事件中 ‎袭击金正男的女性
‎使用的是一种名为VX的致命神经毒剂
‎它可以导致窒息性死亡
‎这是一种非常强效的分子
‎据预测 这些分子中 ‎大部分甚至比VX更加致命
‎据我们所知 ‎其中有许多分子都是前所未见的
‎当西恩和我意识到这一点时 ‎我们惊呼：“我们这是做了什么啊？”
‎我很快就意识到 ‎我们打开了潘多拉的盒子
‎我说：“快停下 ‎别的什么也别做 到此为止
‎帮我把演讲要用的幻灯片做好就行”
‎在我们做这项试验时
‎我一直在想： ‎“最糟糕的情况会是什么？”
‎但现在我的想法是： ‎“我们太天真了 这么做太天真了”
‎最让我害怕的是 ‎任何人都可以做我们做的这件事
‎你只需要轻轻按一下开关就行
‎我们该如何在这项技术被用于
‎可能会造成毁灭性破坏的用途之前 ‎对它加以控制？
‎在围绕人工智能
‎以及我们要如何 ‎在社会中使用它的对话中
‎其核心是一场竞赛 ‎即我们开发技术的力量
‎与我们管理它的智慧之间的竞赛
‎这明显和赋予我们的智能手机
‎去决定是否要夺取一条生命的权利
‎具有相同的道德和伦理问题
‎我就职于生命未来研究所 ‎一个科学界的社会活动家群体
‎我们的主要目标是展示出
‎加速和升级自动化 ‎还会带来另一方面的结果
‎我们致力于保障我们创造出来的技术
‎能以安全且合乎伦理的方式被使用
‎我们来谈谈交战规则
‎以及在武器系统中 ‎使用人工智能的行为准则吧
‎因为我们现在已经看到了
‎可以自主杀人的“进入战场”技术
‎2021年 联合国发布了一份关于
‎在利比亚战场上 ‎可能使用了致命自主武器的报告
‎联合国的一个小组称 去年 ‎在利比亚内战中使用的一架无人机
‎被编程设定为自主攻击目标
‎如果联合国的报告无误
‎这将是人类的一个分水岭
‎因为这标志着一个用例
‎即人工智能代替人类 ‎做出了夺取生命的决定
‎我们看到了先进的自主武器
‎开始在全球各地被投入使用
‎有来自以色列的报告
‎阿塞拜疆使用自主系统 ‎攻击亚美尼亚的防空系统
‎它可以在战场上盘旋数小时
‎自己寻找攻击目标
‎然后在无人干预的情况下冲向目标
‎近期 我们已经看到了
‎各种从乌克兰发出的视频
‎目前还不清楚 ‎它们运行时可能处于什么模式
‎是有人类介入选择攻击目标？
‎还是机器在自主决定？
‎但无论这是否已经在 ‎利比亚、乌克兰或其他地方发生过
‎总有一天
‎机器会在战场上自主决定它要杀死谁
‎机器在没有人类干预的情况下
‎对人类发起致命攻击
‎这在政治上不可接受 ‎在道德上令人反感
‎国际社会
‎是否有能力应对这些挑战
‎目前还是一个巨大的问号
‎如果我们放眼未来 ‎哪怕只是短短几年后
‎形势的发展也十分骇人听闻
‎为了让人工智能变得更强大
‎以及将它应用到各种不同领域
‎所投入的资金与人力
‎相当巨大
‎（弗吉尼亚州 阿灵顿）
‎我的妈 这家伙
‎他知道自己赢不了
‎当我看到人工智能在不同的问题中 ‎取得胜利时 我会觉得备受鼓舞
‎孤注一掷
‎你可以把同样的战术、技术 ‎以及程序应用在真正的飞行器上
‎表现不错
‎好了 表现不错
‎我觉得很诧异
‎人们不断地发表言论 ‎说人工智能做不到某件事情 是吧？
‎“哦 它永远都不可能 ‎战胜国际象棋世界冠军的”
‎一台IBM电脑在与世界象棋冠军
‎加里卡斯帕罗夫的 ‎第二轮对战中一雪前耻
‎卡斯帕罗夫弃局了！
‎当我看到一些超出我理解范围的事时
‎我会害怕 ‎而那远超出了我的理解范围
‎然后人们会说：
‎“它永远都不可能战胜围棋世界冠军”
‎我相信人类的直觉 ‎对人工智能来说还是过于先进
‎难以赶超
‎围棋是人类 ‎能够学会的最复杂的游戏之一
‎稍经计算 棋盘上可能的落子方法
‎比整个宇宙中的原子数还要多
‎谷歌有一个团队名叫“深度思维”
‎他们开发了一个叫“阿尔法狗”的程序
‎它能打败世界顶尖的棋手
‎恭喜…
‎-阿尔法狗 ‎-阿尔法狗
‎计算机程序刚刚战胜了九段职业棋手
‎之后“深度思维”选择了《星际争霸》 ‎作为他们的下一项人工智能挑战
‎《星际争霸》也许是 ‎史上最流行的即时策略游戏
‎战胜了世界冠军后 ‎“阿尔法星”开始声名大噪
‎“阿尔法星”暴击“不朽之弧”
‎你知道吗？
‎职业玩家赢不了这场比赛
‎这挺荒谬的
‎职业玩家们都在说： ‎“我永远不会尝试那种策略
‎我永远不会尝试那种战略 ‎那不是人干的事”
‎对我来说 ‎那也许就是灵光乍现的时刻
‎我意识到时机到了
‎改变世界的重要技术和时机已经出现
‎我只了解我作为海豹突击队员时 ‎在近距离战斗中遇到过的问题
‎但我的一个曾是 ‎F-18飞行员的好朋友告诉我：
‎“我们在战斗机领域 ‎也遇到了同样的问题
‎他们会干扰通讯
‎地对空导弹基地的数量激增
‎导致危险系数过高 无法行动”
‎想象一下如果我们有一架 ‎由人工智能控制的战斗机
‎欢迎参加“阿尔法缠斗”测试
‎距离上半场比赛还有几分钟时间
‎DARPA 美国国防高级研究计划局
‎已经见识过“阿尔法狗”和“阿尔法星”
‎所以“阿尔法缠斗大赛” ‎这一想法也变成了现实
‎这是你希望 ‎人类战斗机飞行员能够做到的事
‎这看起来很像人类在缠斗
‎缠斗是战斗机与战斗机的对决
‎你可以把它视为在空中的拳击赛
‎大家也许看过《壮志凌云》这部电影
‎我们斗得过他们吗？
‎斗不过他们的导弹和枪支
‎那只能缠斗咯
‎成为缠斗高手可能需要八到十年
‎以此为目标开发一个人工智能 ‎是一项极其复杂的挑战
‎（弗吉尼亚州 阿灵顿）
‎早期的自主飞行 ‎与缠斗策略往往十分脆弱
‎我们认为机器学习 ‎也许正是解决这个问题的方法
‎起初 人工智能 ‎对自己所处的环境一无所知
‎它不知道它在飞行 ‎也不知道缠斗为何物
‎它不知道F-16是什么
‎它只知道它可以采取的行动
‎它会开始随机地探索尝试
‎蓝色飞机只接受过极短时间的训练
‎你能看到它在来回摆动
‎飞行极其不稳定 离它的对手很远
‎随着战斗持续进行
‎我们可以看到 ‎蓝色飞机开始制定它自己的作战计划
‎射击位置更合理了
‎每隔一段时间 学习算法就会说：
‎“来块小饼干 做得好 再接再厉”
‎我们可以利用计算机的能力 ‎对个体进行多次的
‎并行训练
‎这就像篮球队一样
‎我们不再重复不断地和同一球队比赛
‎而是环游世界 ‎和512支不同的球队比赛
‎而且是在同一时间内
‎你可以在短时间内迅速变强
‎我们可以昼夜不停地进行模拟
‎在十个月内 ‎完成大约30年的飞行员训练
‎我们从勉强能够控制飞机
‎变成了一个冷血的杀手
‎在训练时 ‎我们的对手只有其他的人工智能
‎但直接与人类的对决 ‎才是真正的终极目标
‎我叫迈克贝尼特斯
‎我是一名美国空军中校
‎至今已服役25年
‎我参加过250次战斗任务
‎我毕业于武器学校
‎也就是空军版的《壮志凌云》
‎我从来没有和人工智能在空中交过战
‎我很期待看看自己的表现
‎现在的距离是1800米 ‎两机面对面准备交锋
‎战斗开始了
‎他不见了
‎嗯 这还挺有意思的
‎-死了 ‎-打中他了 完胜
‎好的 第二回合
‎人工智能的操作精确无比
‎我完全跟不上它的节奏
‎进入交战状态
‎这下你完了
‎击中他了！
‎我又被击中了
‎人工智能无所畏惧
‎驾驶舱里存在 ‎人工智能所不具备的人类情感
‎我们的人工智能 ‎研究出了一种更有趣的战略
‎我们称之为“打脸”
‎人类通常会想要从后面射击
‎因为对方会很难闪避
‎他们不会尝试正面射击 ‎因为这就是在玩“胆小鬼博弈”
‎当我们相向飞行 从900米到150米
‎可能只是眨眼之间
‎撞机的概率很高 ‎所以人类不会这样尝试
‎而人工智能不会怕死 ‎除非我们给它怕死的指令
‎感觉像是在和人类对战
‎不过是个完全不顾安危的人类
‎最后这一下他逃不了了
‎他不够时间反应
‎晚安
‎我死了
‎知道我也许不是
‎执行这项任务的最佳选择
‎知道某一天我或许会被这玩意儿取代 ‎感觉有些受挫
‎同样的1830米和能见度
‎偏移1000
‎有这个人工智能飞行员来指挥战斗机
‎它会毫不留情地追求胜利
‎这不仅仅是悬殊巨大的胜利
‎还是：“好吧 我们要如何把那个 ‎加到我们的飞机上？” 就是这么厉害
‎让人工智能 ‎驾驶F-16的期待是很现实的
‎而且指日可待
‎如果和一个胜率为 ‎99.99999%的人工智能飞行员对决
‎那你毫无胜算
‎当想到一个人工智能飞行员 ‎已经战无不胜时
‎我就会想到一支由50或100个
‎或1000个人工智能飞行员 ‎组成的战队能有何种成就
‎“无人机战群”是一支 ‎由高度智能且互相协作的飞行器
‎组成的战队
‎它们会分享如何行动 ‎如何解决问题的相关信息
‎“无人机战群” ‎将赋予我军和我们的盟军
‎扭转乾坤的能力
‎（内布拉斯加州 林肯）
‎目标已锁定 无人机正在追踪他
‎好的 准备降落
‎我们目前对无人机战群的研究 ‎首要目标
‎是将大量的无人机部署到
‎一个人力难及或高危区域的上空
‎陆军研究实验室 ‎一直在支持着这一研究项目
‎如果你想知道某一地点里面有什么
‎但又很难抵达那个地区 ‎或者该区域范围太大
‎那么部署一支无人机战群 ‎自然就成为了
‎扩大个体搜索范围
‎收集任务相关重要情报的手段
‎目前 在我们的无人机战群部署中
‎我们基本上只会给出一个单一命令 ‎去追踪某一特定目标
‎然后无人机 ‎就会自己去完成这些所有动作
‎人工智能让机器人们 ‎得以像动物集群一样以分散的方式
‎完成集体行动
‎在自然界的动物集群中 我们发现
‎没有首领 没有发号施令的主体动物
‎这种行为是由每个动物 ‎遵循着一些简单的规则
‎最终形成的
‎大家看到的这种集体行为 ‎就是这样产生的
‎自然界的动物集群最令人惊叹的一点
‎就是它们优雅的行动
‎仿佛它们天生就是这个群体的一部分
‎理想情况下 ‎我们希望我们的无人机战群
‎能像自然界中的动物集群那样
‎群策群力
‎我们得到的另一启发
‎是群落的可靠性与韧性
‎如果单个动物没有履行职责
‎那个集群也不会崩溃
‎就算其中一员掉队或失败
‎甚至未能完成任务
‎这个集群也会继续运转
‎这是我们最终想要达到的目标
‎在战斗中 我们需要识别敌机
‎过去 每个机器人 ‎都需要有一个人来操控
‎随着自主性的提升
‎我希望我们能做到
‎只需极少数人就能控制大量的机器人
‎我不认为1000架无人机 ‎是个无法企及的目标
‎因为每架飞机都将能自主行动
‎而天空是无边无际的
‎我们可以扩展学习…
‎我们通过模拟 ‎来研究无人机战群已经有段时间了
‎现在是时候用真机演练了
‎我们希望通过网络 ‎同时控制三个机器人
‎然后逐渐扩充队伍
‎我们想在较小的系统上进行测试
‎然后将同样的概念 ‎运用在更大的系统上
‎比如战斗机
‎我们进行过大量讨论
‎如何让一个排拥有一个营的战斗力
‎让一个营拥有一个旅的战斗力
‎利用无人机战群就能做到这一点
‎当你解锁了无人机战群的力量
‎那你就为军事进攻创造了
‎一种新的战略威慑
‎我觉得最令人振奋的就是 ‎如果我们行之得法
‎我们就能拯救许许多多的年轻男女
‎我们不再用人命
‎而是用机器来换取胜利
‎一些人认为自主武器会让战争更精确
‎更人性化
‎但其实我们很难预测
‎自主武器在未来会如何改变战争形态
‎这就像加特林机枪的发明一样
‎理查加特林是位发明家
‎他看到在南北战争中 ‎战士们负伤归来
‎他想找到让战争更人道的方法
‎通过减少参战士兵的数量
‎来减少战死的士兵数量
‎于是他发明了加特林机枪 ‎一种由曲柄转动
‎可以自动射击的自动枪
‎它使士兵们的火力 ‎有效地增加了一百倍
‎通常 想要让战争 ‎更精确、更人道的努力
‎可能会带来相反的效果
‎想想在农村地区 ‎一次错误的无人机袭击
‎会产生的影响
‎它会促使当地民众反对美国
‎反对当地政府 ‎而他们本应该都是好人
‎现在把程度扩大1000倍
‎一个廉价、可扩展
‎不需要人类操作的武器系统的创立
‎极大地改变了战争的实际障碍
‎一想到战争无处不在 ‎我们无需再承担战争带来的
‎人力和财政代价的世界 ‎我便夜不能寐
‎因为我们距离那些即将…
‎消逝的生命太过遥远了
‎这整件事深深困扰着我
‎我本来只是需要 ‎一个滥用人工智能的例子
‎实践这个思想实验 ‎所带来的意想不到的后果
‎已经远超出了预期
‎（药物研发中的人工智能： ‎避免弊大于利）
‎在我进行有关
‎人工智能技术 ‎制造的有毒分子的演讲时
‎听众们都惊掉了下巴
‎（排名前5000的化合物 ‎是已知的VX类似物）
‎接下来要决定的 ‎是我们是否应该发布这一信息
‎一方面 你想警告世界
‎要警惕这类能力 但另一方面
‎你并不想让那些 ‎从没想到过这一点的人得到灵感
‎我们最终认为它值得冒险发表
‎这样也许可以在这种类型的 ‎人工智能滥用发生前 找到方法
‎减少此类滥用
‎（人工智能药物研发的双重性）
‎（人工智能(AI)技术 ‎如何用于药物发现）
‎公众的普遍反应是震惊
‎我们可以在页面上看到统计 ‎有多少人浏览过文章
‎我们平常写的那些文章 如果…
‎在一年或几年间能有几千人 ‎阅读我们的文章 我们就很幸运了
‎一周之内有一万人阅读了那篇文章
‎然后是两万、三万、四万人
‎我们一天就有一万的阅读量
‎我们的文章被 ‎《经济学家》《金融时报》引用
‎“科普电台”联系了我们 ‎我听说过“科普电台”！
‎但随后 人们的反应开始失控了
‎我们看着那些推文 大家说： ‎“天啊 他们还能更恶劣点吗？”
‎他们为什么要这么做？
‎后来我们接到了一个意想不到的邀请
‎白宫内部对这篇文章进行了很多讨论
‎他们急切地想跟我们谈谈
‎显然 能和这种级别的人对话
‎是一种无上荣耀
‎但接着你会想到：
‎“天啊 这是白宫啊 是大首领”
‎这涉及到 ‎整理汇总开放源代码的数据…
‎经过约六小时 ‎该模型已经能生成约四万多个…
‎他们问你们需要多强大的计算机
‎我们告诉他们没什么特别要求
‎一台普普通通 ‎用了六年的苹果电脑就行
‎这让他们大吃一惊
‎那些负责研究化学战剂的人
‎还有政府机构 他们不了解这种潜力
‎我们得到了 ‎这本制作化学武器的食谱书
‎一旦它落入居心叵测的坏人手中
‎情况可能会变得非常可怕
‎大家必须坐下来好好听
‎我们必须采取措施 ‎要么规范这项技术
‎要么限制它 令其无法被滥用
‎因为它潜在的杀伤力…
‎骇人听闻
‎人工智能的伦理问题 ‎主要是由社会来解决
‎而不是靠工程师、 ‎技术专家、或数学家
‎我们带来的每一项技术 每一种创新
‎最终都落在了 ‎社会认为我们应该使用它的范畴
‎现在 国防部说：
‎“在战场上 ‎唯一能说我们要实施杀戮的
‎只有人类”
‎机器可以实施杀戮
‎但只能在人类操作员的命令之下
‎我认为这一点永远不会改变
‎他们向我们保证这种技术是安全的
‎但美国军方在无人机战争方面的声誉
‎并不值得信赖
‎因此 说到要在 ‎人工智能方面信任美国军方
‎我想说 过去的记录说明了一切
‎美国国防部关于让武器自主化的政策
‎并没有禁止任何一种武器系统
‎就算军方本身可能不想要自主武器
‎但我们也能看到他们 ‎将越来越多的决定权交给了机器
‎只为能追上竞争对手的步伐
‎这可能会促使军方将他们
‎并不想自动化的决策自动化
‎普京说过：“谁在人工智能领域领先 ‎谁就将统治世界”
‎习主席也明确表示过 ‎人工智能是中国想要成为主导的
‎头号技术之一
‎很显然 我们正处于一场技术竞赛中
‎你会听到人们谈论防护
‎我认为这确实是人们应该做的事
‎但争夺人工智能优势地位的竞赛 ‎是真实存在的
‎而我们的竞争对手 ‎不论是中国、俄罗斯、或者伊朗
‎都不会太在乎 ‎我们在人工智能方面的政策
‎你会看到越来越多 ‎关于人工智能政策的讨论
‎但我希望有越来越多的领导人会说：
‎“我们多快能搭建起这个东西？
‎我们快为它提供资源 ‎把它搭建起来吧”
‎（华盛顿）
‎（美国陆军协会年会暨展览会 ‎华盛顿）
‎（美国陆军）
‎我们现在是在 ‎美国陆军协会一年中最盛大的贸易展
‎基本上 所有向军方 ‎出售产品或技术的供应商
‎都会参加展览
‎廷德尔空军基地有四个我们的机器人
‎它们每周七天 ‎每天24小时都在基地巡逻
‎我们可以添加任何东西 ‎从摄像头到传感器 只要你需要
‎机械手臂 还是那句话 ‎只为达成客户心中所想
‎如果你的敌人 ‎引入了人工智能怎么办？
‎一个比你思考得更快 ‎反应比人类快的战斗系统
‎人类又能怎么办？我们必须未雨绸缪
‎我们训练我们的系统收集敌人的情报
‎管理敌方目标 ‎并由人类监督它的杀伤链
‎-将军您好 布兰登曾 ‎-您好吗？
‎很好 长官 您好吗？
‎我是想说 我们在人工智能 ‎飞行员身上的投入无人能及
‎我们的人工智能飞行员叫“蜂巢思维”
‎我们将它应用在了我们的四旋翼 ‎飞行器诺瓦身上 它能进入建筑内部
‎在特种作战部队和步兵部队之前
‎探清情况
‎我们将“蜂巢思维”用于V-BAT无人机
‎我在考虑组建数百个这样的战队
‎无论是在台湾海峡
‎还是在乌克兰 都能威慑我们的对手
‎我对此充满期待
‎-好的 谢谢您 ‎-谢谢您 将军
‎人工智能飞行员 ‎应该能在2025年 2030年普遍使用
‎它将迅速在世界各地的军队中普及
‎你要怎么对付 ‎罗马尼亚军队的无人机？
‎军事高科技
‎到目前为止 我们已经花了 ‎五亿美元来打造人工智能飞行员
‎未来的五年里 ‎我们还会再投入十亿美元资金
‎这正是我们在美国 ‎赢得创纪录项目的主要原因
‎厉害
‎非常惊人 ‎你们已经成功将它武器化了？
‎这个还没有被武器化
‎还没有 但未来会的
‎我们的客户认为它是一辆卡车 ‎而我们认为它是一辆智能卡车
‎它可以做很多不同的事情
‎-谢谢你 伙计 ‎-嗯
‎我一定会跟进你的情况
‎如果你十年后回来
‎你会看到人工智能 ‎和自主系统将主导整个市场
‎有人工智能 ‎和自主系统支持的武装力量
‎绝对会支配、碾压和摧毁 ‎没有人工智能和自主系统的武装力量
‎这就相当于马匹与坦克的对抗
‎刀剑与机关枪的对抗
‎完全不可同日而语
‎它将被普遍应用于战争的各个方面
‎在战术层面
‎在战略层面
‎以今天的人类无法理解的速度运行
‎指挥官们已经被过多的信息淹没了
‎来自卫星、无人机和传感器的图像
‎人工智能的其中一项能力
‎就是帮助指挥官们更高效地了解现状
‎然后思考： ‎“我需要做出怎样的决定？”
‎人工智能将考虑所有
‎决定战争方式的因素
‎出谋划策…
‎并为如何赢得战斗提出建议
‎（弗吉尼亚州 萨福克）
‎（洛克希德马丁创新中心）
‎在洛克希德马丁公司 ‎和我们的国防部客户一样
‎我们将人工智能视为指挥与控制的
‎关键技术推动力
‎传播速度平均为每秒0.6米
‎视野计约为283.3公顷
‎战争迷雾对于我们防御方来说 ‎确实是一种需要面对的现实
‎但它与处于自然环境中
‎又不得不针对野火 ‎做出决策也有相似之处
‎沃什伯恩大火就发生在瓦沃纳市北部
‎你必须借助并不完善的数据做出决策
‎那我们要如何让 ‎人工智能帮我们摆脱战争迷雾呢？
‎野火非常混乱
‎它们非常复杂
‎所以我们正在努力利用人工智能
‎来帮助我们做决定
‎“认知任务管理器” ‎是我们正在开发的一个程序
‎它会采集空中红外视频
‎然后通过我们的 ‎人工智能算法进行处理
‎从而预测火灾的未来状态
‎展望未来
‎“认知任务管理器”将借助模拟
‎在数千个循环中运行某些场景
‎从而给出效率最高的资源配置方案
‎以抑制高优先级区域火灾
‎它会说：“去这里 ‎用‘火鹰’进行空中压制
‎率领清理灌木的地面小组
‎以及喷水的消防队员
‎将他们拉到最高优先级的地区”
‎这些决策将能够更快
‎更有效地产生
‎我们认为 人工智能是唯一
‎能让人类跟上瞬息万变的环境的东西
‎洛克希德马丁公司的防御业务中
‎有很多与上述情况类似
‎军方不再只谈论使用人工智能
‎和单个武器系统 ‎来进行目标定位和杀伐决策
‎而是将人工智能整合到
‎整个军事决策架构中
‎陆军有一个 ‎名叫“项目融合”的大型项目
‎海军有“超配计划”
‎而空军有“先进作战管理系统”
‎国防部正在试图弄清楚
‎“我们要如何将这些板块拼凑在一起
‎让我们能比对手行动得更快
‎并获得真正的优势？”
‎人工智能战斗管理人 ‎将是一位级别相当高的将军
‎它会负责指挥战斗
‎协助对众多的军队下达指令
‎协调所有武器的行动
‎而且它的行动速度 ‎是任何人类都无法企及的
‎在过去的70年里
‎我们打造出了地球上最先进的军队
‎现在我们面临的决定是 ‎是否要把对基础设施的控制权
‎交给算法、交给软件
‎而这个决定带来的结果
‎可能会触发我们军事武库的全部力量
‎届时就不是一次广岛核爆 ‎而是成百上千次
‎现在是我们需要采取行动的时候了
‎因为控制这种风险的窗口 ‎正在迅速关闭
‎今天下午 我们首先讨论 ‎致命自主武器系统领域的
‎新兴技术
‎对国际安全所带来的挑战
‎联合国正在就致命自主武器的威胁
‎以及我们禁止使用人工智能
‎来选择和定位人员的系统进行讨论
‎技术专家之间的共识明确且坚决
‎我们反对以人类为目标的自主武器
‎多年来 各国其实一直在帮助
‎讨论致命自主武器系统这一问题
‎这关乎一种普遍的、共同的安全意识
‎当然 这并非易事
‎某些国家 尤其是那些军事强国
‎他们希望能够独占鳌头
‎这样他们才能领先于他们的对手
‎问题是 所有人都必须意见一致 ‎这样才能有所进展
‎反对的国家肯定会有
‎当然 美国和俄罗斯都明确表示
‎他们反对一项禁止自主武器的条约
‎当我们想到有多少人 ‎正致力于让人工智能变得更强大
‎那可谓是万头攒动
‎当我们想到有多少人 ‎在努力确保人工智能安全无害
‎那几乎可说是门可罗雀
‎但我还是非常乐观的
‎我会想到冷战时期
‎签署的《生物武器公约》此类的东西
‎虽然苏美两国剑拔弩张
‎但他们仍能意识到 生物武器的发展
‎既不符合他们的最佳利益
‎也不符合全世界的最佳利益
‎军备竞赛重视速度 而非安全
‎但我认为最重要的是要考虑到
‎到了一定程度 ‎过速发展的代价将变得过于高昂
‎我们不能孤立地发展某些领域
‎并将成果贸然投入使用 ‎毫不考虑它们未来可能走向何方
‎我们必须避免让原子弹爆炸
‎人工智能竞赛的风险十分巨大
‎我认为很多人并不珍惜
‎在过去75年中 ‎因为一支强大军事力量的存在
‎而为全球带来的这份稳定
‎因此 美国和我们的盟军
‎需要超越对手的人工智能技术
‎战争中没有第二名
‎中国制定了一项雄心勃勃的计划 ‎2030年成为AI领域的世界领导者
‎这场比赛 有人说美国已现败象…
‎你会加快采用人工智能技术
‎以确保我们在军事领域的竞争优势
‎我们正在快速发展这项技术
‎我认为尚不明确的是 ‎我们会走到多远？
‎是我们在控制技术 ‎还是它在控制我们？
‎我们没有重来一次的机会
‎精灵一旦从瓶子里出来 ‎它便不受控制
‎要把它塞回去会非常困难
‎如果我们现在不采取行动 ‎那一切可能就太迟了
‎也许现在已经太迟了
‎字幕翻译：Lynn S