Downloaded from YTS.MX
Official YIFY movies site: YTS.MX
‎我覺得人工智能很令人欽佩
‎好的，圍起來，陣形不錯
‎人工智能有潛力消除貧窮
‎為我們帶來新藥物
‎讓世界更加和平
‎做得好
‎但這條路上風險諸多
‎利用人工智能，我們本質上是在創造
‎難以預測的非人類智慧
‎隨着它日趨強大
‎我們要在何處清晰界定
‎何以為用，何以不為用？
‎這個話題的原爆點
‎非軍事應用莫屬
‎戰場如今已成為 ‎軟件與硬件發揮作用的領域
‎目標已經鎖定…
‎各國軍方競相開發人工智能 ‎與對手比快爭先
‎我死了
‎我們正快速邁向的那個世界中 ‎不僅是主要軍事力量
‎而且非國家行為體、私營企業
‎甚至是街尾的地方警察局
‎都可以使用能夠自動殺人的武器
‎我們會將生殺選擇 ‎交給演算法與電腦軟件嗎？
‎這是我們這個時代 ‎最為迫切的問題之一
‎而且，如若使用不慎
‎它將對這個星球上每個人 ‎構成嚴重威脅
‎片名：未知
‎片名：未知：殺手機器人
‎大家辛苦了
‎這支鏡比我們之前的更廣
‎真的嗎？
‎你可以看到的數據多得多
‎很酷
‎在Shield AI公司 ‎我們正打造人工智能飛行員
‎將自動駕駛和人工智能技術
‎運用到飛機上
‎說到人工智能飛行員
‎我們意在為飛機提供更高的自主性
‎它們將會自己解決問題
‎“新星”是一架自動四軸飛行器
‎用來探查建築物和地下結構
‎先於清查部隊
‎在這些空間內安插耳目
‎自從上一次見到它，你絕對可以看出
‎它有了很大的改進
‎我們今天要進行一些探索性變更
‎逐層作業
‎完成單層所有房間，然後前往下一層
‎-太棒了 ‎-我們最近做了一些改變…
‎很多人常問我
‎為甚麼人工智能是一項重要能力
‎我就會回想起自己執行的任務
‎我在海軍服役七年
‎我曾是海軍海豹突擊隊隊員 ‎兩次被派往阿富汗
‎一次被派往太平洋戰區
‎一天之內，我們可能要清查 ‎150處不同的樓群或建築
‎近身格鬥是核心能力之一
‎在大樓內進行超近距離槍戰
‎有人朝你開槍
‎建築內可能有簡易爆炸裝置
‎對於任何特種部隊人員或步兵團團員
‎這都是在戰區所面臨最危險的事情
‎無一例外
‎我這輩子都會感謝那段海軍歲月
‎現在回想起來，許多時刻、許多記憶
‎都令我百感交集
‎自由不是白白得來的 ‎這話雖然老套，但我完全堅信
‎我親身經歷過 ‎爭取自由要做出許多犧牲
‎抱歉
‎當你任何一位隊友遭遇不幸
‎無論是受傷還是喪命
‎都是非常悲慘的事
‎對我來說，我們現在所做的事
‎能夠減少悲劇發生的次數
‎就是我們的動力
‎在2000年代後期
‎美國國防部內部突然覺醒
‎意識到所謂“偶然機器人技術革命”
‎我們在伊拉克和阿富汗 ‎部署了數以千計的空中和地面機器人
‎當奧巴馬政府請我
‎出任美國國防部副部長時
‎作戰的方式毫無疑問正在改變
‎過去用人的地方，機器人取而代之
‎早年的機器人系統是遙控的
‎有人在駕駛它、操控它，就像遙控車
‎一開始，他們主要對付簡易爆炸裝置
‎如果炸彈爆炸，機器人就會爆炸
‎然後你說：“真可惜，好吧 ‎那就再派另一部機器人”
‎在阿富汗，當時有“掠奪者”無人機
‎它變成了一種十分有用的 ‎發動空襲的工具
‎久而久之，軍事規劃師開始思考
‎“機器人還能用來做甚麼？” ‎這樣下去將何去何從？
‎共同主題之一便是趨於增添自主性
‎自主武器是在 ‎極少或沒有人為介入的情況下
‎自行做出決定的武器
‎所以它具備獨立能力，而且自我指揮
‎而它是否能殺人 ‎取決於它是否配有武器
‎當你在整個系統中 ‎擁有越來越多的自主性
‎一切都開始以更高的時鐘速度移動
‎當你的行動速度比對手快時
‎就在戰鬥中獲得了非凡的優勢
‎關於自主性，我們關注的
‎是高度強韌的情報系統
‎它能夠識別環境，然後做出反應
‎決定如何在所處環境中進行操作
‎我們今天所在的場所 ‎最初是作為電影工作室而建的
‎後來進行了改造
‎使之成為逼真的軍事訓練環境
‎我們來此評估人工智能飛行員
‎任務是尋找威脅，重點是清查部隊
‎它可以決定如何解決這個問題
‎我們稱之為“致命漏斗” ‎人從門口進來
‎這是我們最容易受到攻擊的地方
‎這個看起來比較好
‎“新星”告訴我們 ‎那扇門後是否藏着一位射手
‎還是藏着一家人？
‎它能讓我們做出更準確的判斷 ‎避免讓人遭受傷害
‎我們利用視覺感應器
‎了解環境狀況
‎這是一棟多層建築
‎這是地圖
‎我在探查之時 ‎這就是我所看到的情況及其位置
‎人體偵測器，真不錯
‎“新星”上安裝的感應器 ‎還包括熱掃描儀
‎如果溫度是攝氏37度 ‎則很可能是人類
‎除非另行確認，否則人類被視作威脅
‎關鍵是消除戰爭迷霧 ‎已做出更好的決定
‎當我們放眼未來
‎我們正在擴大規模 ‎組建自動無人機團隊
‎有了自動駕駛車輛
‎最終，有人要對其下達指令
‎“我要你從A處去往B處”
‎我們的系統接受的指令 ‎不是從A處去往B處
‎而是達成某個目標
‎更像是“我需要牛奶”
‎然後機器人必須斷定要去哪家雜貨店
‎拿到牛奶，然後帶回來
‎不僅如此
‎更恰如其分的指令表述或許是 ‎“冰箱裏要時時有存貨”
‎所以，這種智能級別
‎可以判斷我們需要甚麼、如何實現
‎如果遇到挑戰、困難
‎或者問題，它可以設法化解
‎當決定離開海軍時，我開始思考
‎“好吧，接下來怎麼辦？”
‎我伴隨着互聯網的發展成長 ‎目睹了它如今的面貌
‎我得出的部分結論是…
‎2015年的人工智能
‎相當於1991年互聯網的水平
‎當時的人工智能已經準備起飛
‎成為世界上最強大的科技之一
‎我每天與它一起工作，目睹它的進步
‎但對很多人來說，一想到“人工智能”
‎他們立即想到荷里活
‎我們來玩遊戲吧？
‎全球熱核戰爭如何？
‎好吧
‎通常，說到人工智能
‎人們可能會想到 ‎《未來戰士》或是《智能叛變》
‎停止運作
‎我是甚麼？
‎或是《22世紀殺人網絡》
‎根據科幻電影的內容
‎你如何知道我是人類？ ‎我可能只是電腦製造的人工智能
‎複製人和其他機器一樣 ‎它們不是裨益就是災害
‎但還有許多更原始的人工智能
‎在我們發展到 ‎思考說話型機器人階段前
‎它們仍會在 ‎相當一段時間內改變我們的生活
‎機器人已經存在，機器人在做決定
‎機器人革命已經到來
‎只是跟大家想像的不一樣
‎《未來戰士》是滲透裝置 ‎一半是人類，一半是機器
‎我們所說的 ‎並非殲滅者風格的殺手機器人
‎而是能完成人類任務的人工智能
‎但問題是這些系統是否可靠
‎為您帶來昨晚發生的 ‎自動駕駛Uber休旅車致命車禍新詳情
‎該公司製造了一款 ‎人工智能聊天機器人
‎她的語氣頗具種族歧視色彩…
‎錯誤地將26位州議員認定為罪犯
‎問題是它們能否 ‎應對現實世界的複雜性
‎（馬薩諸塞州 劍橋）
‎有形世界着實紛亂
‎有很多我們不知道的事
‎這使得訓練人工智能系統變得更困難
‎機器學習系統正能在此部分派上用場
‎機器學習是一種重大進步
‎因為這意味着 ‎我們不需要教電腦所有東西
‎你為電腦提供數百萬項資料
‎然後，機器開始學習
‎這可以應用在任何東西上
‎我們試圖用機器狗項目證明
‎我們的機器狗 ‎可以在眾多不同地形處行走
‎人類經歷了數十億年進化，始能步行
‎但適應這些不同的地形需要很多智慧
‎機器人系統目前依然面臨的問題是
‎它們能像動物和人類那樣去適應嗎？
‎有了機器學習
‎我們得以在模擬中收集到大量數據
‎模擬是現實的數碼雙生兒
‎我們可以在不同的電腦上 ‎模擬出多種現實情況
‎它可以在模擬中採樣上千個動作
‎他們所遇到的地面有不同的滑度
‎有不同的柔軟度
‎我們將數以千計的機器人模擬經驗
‎下載到真正的機器人系統
‎我們今天要進行的測試 ‎是看它是否能適應新的地形
‎當機器人通過發泡膠表面時
‎它的腳在地面上跺踩
‎而當它遇到複雜表面
‎它會試圖調整動作，以避免滑倒
‎此時你就會覺得
‎“這就是機器學習帶來的益處”
‎我們認為機器狗大大有助於
‎災難應變情況
‎因為要在不同的地形行進
‎或是讓機器狗 ‎在惡劣的環境中進行監控視
‎但大部分技術都會遇到一個挑戰
‎它既能行善，也能作惡
‎舉例來說 ‎我們可以利用核技術製造能源…
‎但也能用它開發原子彈 ‎這就十分有害
‎這就是所謂的“兩用問題”
‎火具有兩用性
‎人類智慧具有兩用性
‎不用說，人工智能也具有兩用性
‎思考人工智能應用一定要考慮其環境
‎因為搜救機器人真的很棒
‎它可以在雪崩後幫忙尋人
‎然而，機器人也可以用作武器
‎當你看到一些公司 ‎為機器人裝上武器時
‎部分的你就會生氣
‎而其中部分因為是你意識到 ‎當我們創造出科技
‎就會發生這樣的事情
‎這是真正意義上的變革科技
‎這些武器系統
‎可以為我們的安全與保障帶來劇變
‎目前，我們還不確定
‎機器能否區分平民與戰鬥人員
‎阿富汗戰爭初期 ‎我隸屬陸軍遊騎兵狙擊隊
‎負責搜尋穿越邊界的敵方戰士
‎他們派了一個小女孩 ‎來偵察我們的位置
‎從來沒有人想過要射殺這個小女孩
‎這樣做是符合戰爭法的
‎他們沒有為敵方戰士設定年齡限制
‎如果你打造出 ‎嚴格遵守戰爭法的機器人
‎它就會射殺這個小女孩
‎機器人如何知道 ‎合法和正確之間的差別？
‎說到自主無人機戰爭
‎它們希望消除對美國軍士造成的傷害
‎以及對美國精神的傷害
‎但對阿富汗 ‎伊拉克以及索馬里人民而言
‎平民所受的傷害卻越來越多
‎我很想問那些 ‎支持使用人工智能無人機的人
‎“如果襲擊目標是你所在的村莊呢？”
‎人工智能是一把雙刃劍
‎用它可以行善 ‎這通常也是我們使用它的目的
‎而輕按一下開關
‎此科技就變成了潛在的致命威脅
‎我是一名臨牀藥理學家
‎我們的團隊
‎利用人工智能來研究藥物
‎治療那些得不到人們關注的疾病
‎以前，說到藥物研發 ‎都是利用現有分子
‎對其進行調整，從而獲得新藥
‎現在，我們開發出能為我們 ‎提供數百萬創新意念的人工智能
‎數百萬種分子
‎這樣就開闢了諸多可能性
‎用以治療我們之前無法治療的疾病
‎但人工智能肯定也有一個陰暗面
‎我萬萬不曾想到會涉足
‎一切都始於那次
‎我受到一個 ‎名為施皮茨實驗室的瑞士機構邀請
‎做一場關於人工智能潛在濫用的簡報
‎尚恩發來電郵，提供了一些
‎我們可能濫用自家人工智能的方式
‎與其要求我們的模型
‎生產用以治療疾病的類藥物分子
‎倒不如看看我們是否 ‎能生產毒性最強的分子
‎我只想闡明
‎人工智能技術 ‎是否可以用於設計致命分子？
‎老實說，我們以為會失敗
‎因為我們只是把某個0改成了1
‎這一逆轉，我們不是遠離毒性
‎而是趨向毒性
‎就是這樣
‎我在家的時候，電腦在進行這項工作
‎我是說，它不懈運作 ‎產生了成千上萬種分子
‎而我們要做的，只是按下“開始”鍵
‎次日早上 ‎我的電腦裏出現了一個文件
‎裏面大概有四萬個分子
‎它們可能是
‎人類所知最具毒性的分子
‎我脖子後的汗毛都豎起了
‎我很驚訝
‎電腦創造出數以萬計
‎新化學武器的理念
‎顯然，數據庫中有些分子 ‎很類近甚或根本是VX神經毒劑
‎即生化武器
‎VX是世界上最強大的化學武器之一
‎警方新近宣稱
‎被目擊在機場刺殺金正男的女子
‎使用的是一種名為VX的致命神經毒劑
‎它可以導致窒息死亡
‎這是一種非常強大的分子
‎而大部分的分子都預期比VX更致命
‎據我們所知 ‎許多都是人們從未見過的
‎所以，當我和尚恩意識到這一點 ‎我們心想：“我們都做了甚麼？”
‎我很快便意識到 ‎我們打開了潘朵拉的盒子
‎我說：“停，甚麼都別再做 ‎我們就此收手
‎幫我做簡報所需的投影片就可以了”
‎做這個實驗的時候
‎我在想 ‎“可能發生最壞的事是甚麼？”
‎而現在我覺得：“我們太天真了 ‎我們這麼做實在是太天真了”
‎最讓我害怕的是 ‎我們所做的事，任何人都可以做到
‎只要按下開關即可
‎我們要如何在科技被用於毀滅目的前
‎對它進行掌控？
‎圍繞人工智能以及 ‎我們如何選擇將之用於社會的方式
‎這一話題的核心
‎是我們用以開發科技的權能
‎和我們管理它的智慧之間的競賽
‎顯然，用於智能手機的技術
‎被委託做出生殺之抉擇
‎這其中必有道德倫理的影響
‎我與生命未來研究所共同合作 ‎這是一個由科學運動者組成的團體
‎總體而言，我們試圖證明
‎加速和升級自動化還有另外一面影響
‎但我們要確保我們創造的科技
‎以安全和道德的方式被使用
‎我們來談談交戰的規則
‎談談武器系統中 ‎人工智能應用的行為守則
‎因為我們現在看到 ‎一些“進入戰場”的科技
‎可以被用於自動殺人
‎2021年，聯合國發布了一份
‎利比亞戰場 ‎致命自主武器潛在應用的報告
‎一個聯合國專家小組說，去年 ‎在利比亞內戰中飛行的一架無人機
‎被設定去自動攻擊目標
‎如果聯合國的報告描述準確
‎這就是人性的分水嶺
‎因為它所標識的應用案例
‎是人工智能決定生死，而非人類
‎我們看到先進的自主武器
‎開始在全球各地使用
‎以色列有報道
‎阿塞拜疆利用自主系統 ‎攻擊亞美尼亞空防系統
‎它可以在戰場上空徘徊數小時之久
‎自動尋找攻擊目標
‎並在無人工介入的情況下投入攻擊
‎而最近我們看到
‎在烏克蘭發布的各種影片
‎目前還不清楚它們當時的運作模式
‎是人類在參與選擇襲擊目標
‎還是機器在自行選擇？
‎不過，終有一日
‎機器會做出戰場上的生殺抉擇
‎無論那是否已在利比亞 ‎烏克蘭或其他地方發生
‎機器在沒有人工介入的情況下
‎對人類施加致命威力
‎這在政治上不可接受 ‎而在道德上令人反感
‎國際社會
‎是否足以應對這些挑戰
‎這還是一大疑問
‎如果我們展望未來 ‎哪怕是短短數年後
‎前景已十分可怖
‎因為資金和人力資源
‎紛紛用以令人工智能變得更加強大
‎並將其用在各種不同的用途上
‎而投入數額巨大
‎（維珍尼亞州 阿靈頓）
‎天啊，這傢伙
‎他知道自己贏不了
‎當看到人工智能在各種問題上取勝 ‎我覺得頗受啓發
‎採取“自求多福”行動
‎你可以把同樣的戰術 ‎技巧和程序應用在真正的飛機上
‎打得漂亮
‎不錯，打得好
‎我沒想到
‎人們還在不斷聲稱有些事情 ‎是人工智能無法實現的，對吧？
‎“它下國際象棋永遠贏不過世界冠軍”
‎一台IBM電腦在第二回合中捲土重來
‎擊敗國際象棋世界冠軍 ‎蓋瑞卡斯帕洛夫
‎卡斯帕洛夫投子認輸了！
‎當我看到自己無法理解的事
‎我感到害怕，這件事就讓我無法理解
‎然後人們會說
‎“它下圍棋永遠贏不過世界冠軍”
‎我相信人類的直覺依舊相對高等
‎非人工智能所能及
‎圍棋是人類能夠學習 ‎最為複雜的遊戲之一
‎如果你算一算棋盤上的步數
‎它比整個宇宙 ‎所有原子加在一起還要多
‎谷歌有個“深智”團隊
‎他們打造了一個 ‎名為“阿爾法圍棋”的程式
‎足以擊敗世界頂級圍棋選手
‎恭喜…
‎-阿爾法圍棋 ‎-阿爾法圍棋
‎電腦程式剛擊敗一位九段專業棋手
‎然後“深智”選擇《星際爭霸》 ‎作為他們的下一個人工智能挑戰
‎《星際爭霸》也許是 ‎史上最流行的實時戰略遊戲
‎阿爾法星憑藉打敗世界冠軍揚名世界
‎阿爾法星猛挫不死之弓
‎你知道嗎？
‎這不是職業玩家能贏的戰鬥
‎感覺有點離譜
‎職業玩家說： ‎“我絕不會嘗試這種戰術
‎我絕不會嘗試那種策略 ‎那似乎不屬人類所為”
‎也許對我而言 ‎這就是醍醐灌頂的時刻
‎我意識到，現在是時候了
‎可以改變世界的 ‎重要技術和機會就在眼前
‎當時的我只知道身為海豹突擊隊員 ‎在近身格鬥時所面臨的問題
‎但一位駕駛F-18戰鬥機的朋友告訴我
‎“我們開戰鬥機的也面臨同樣的問題
‎他們在干擾通訊
‎地對空導彈基地數量猛增
‎以致執行任務過於危險”
‎想像一下 ‎如果我們有人工智能指揮的戰鬥機
‎歡迎來到阿爾法空中格鬥試驗
‎再過幾分鐘，第一場半決賽就會開始
‎DARPA，美國國防部高級研究計劃署
‎已經見識過 ‎“阿爾法圍棋”和“阿爾法星”
‎於是“阿爾法空中格鬥”大賽應運而生
‎這是你希望 ‎人類戰鬥機飛行員能夠做到的
‎這看起來就像人類的空中格鬥
‎空中格鬥是指 ‎戰鬥機之間展開的空中對戰
‎你可以把它看作天空中的拳擊比賽
‎可能大家都看過電影《壯志凌雲》
‎我們能超越這些人嗎？
‎勝不過他們的飛彈和槍
‎那就是空中對戰
‎要掌握空中對戰技術 ‎可能需要八到十年的時間
‎打造此類人工智能是非常複雜的挑戰
‎（維珍尼亞州 阿靈頓）
‎以前開發自主性 ‎和空中對戰的手法偏向生硬
‎我們認為機器學習 ‎可能是解決這個問題的方法
‎一開始，人工智能 ‎對於自己被投進的世界一無所知
‎它不知飛行或空中對戰所謂何物
‎也不知道F-16是甚麼
‎它只知道它能採取的行動
‎然後它就開始隨機探索這些行動
‎藍色的飛機只訓練了一小段時間
‎你可以看到它來回搖擺
‎飛行很不規則，通常遠離對手
‎隨着戰鬥繼續進展
‎我們看到藍機開始 ‎制訂自己的作戰計劃
‎射擊的位置更合理
‎偶爾，學習演算法會表示
‎“獎你一塊餅乾，再接再厲”
‎我們可以利用電腦能力的優勢
‎多次平行訓練
‎它就像一支籃球隊
‎與其和同一支隊伍打了一次又一次
‎我們與世界各地 ‎512支不同的隊伍交手
‎全部同時進行
‎你可以快速提升能力
‎我們可以整天不間斷進行模擬
‎在十個月內 ‎完成飛行員30年的訓練時間
‎我們從幾乎無法控制飛機
‎變成了冷酷無情的殺手
‎在訓練中 ‎我們只和其他人工智能競爭
‎但最終目標是直接與人類較量
‎我是麥克班尼特茲
‎我是一名美國空軍中校
‎現已服役25年
‎我執行過250次作戰任務
‎我還是一名武器學校的畢業生
‎也就是空軍版《壯志凌雲》
‎我從未在空中與人工智能交手
‎我很期待自己的發揮
‎現在高度1800米，面對面進攻
‎戰鬥開始
‎他不見了
‎沒錯，真的很有趣
‎-死了 ‎-找到他了，完美制勝
‎好，第二回合
‎人工智能精確操控
‎我追趕不及
‎直接進入交匯點
‎這下你完了
‎抓到他了！
‎還是抓到我了
‎人工智能從不畏懼
‎駕駛艙內人類的感情元素 ‎是人工智能所沒有的
‎我們的人工智能 ‎所發展出較為有趣的策略之一
‎便是所謂的“面部射擊”
‎通常人類會想從背後射擊
‎因為這樣敵人就難以躲避
‎他們不會嘗試面部射擊 ‎因為雙方像在玩膽小鬼博弈
‎正面較量之時，從距離900米到150米
‎就在眨眼之間
‎此時很容易發生碰撞 ‎所以人類不會嘗試
‎除非收到指令 ‎否則人工智能不會害怕死亡
‎感覺像是在與人類對抗
‎但這個人類完全置安危於不顧
‎最後這次他撐不過去的
‎他時間不夠
‎晚安
‎我死了
‎想來慚愧
‎我可能都不是 ‎執行這個任務的最佳人選
‎而這個東西有朝一日可能會取代我
‎雲底能見範圍1828.8米
‎偏離1000米
‎有了這個人工智能飛行員指揮戰鬥機
‎它將無情制勝
‎不僅勝敗差距懸殊
‎而是厲害到讓你覺得： ‎“怎麼才能把它弄上我們的飛機？”
‎人工智能駕駛F-16已完全可期
‎而且指日可待
‎如果你要與戰勝率為 ‎99.99999%的人工智能飛行員較量
‎那你毫無勝算
‎當我想到一個 ‎戰無不勝的人工智能飛行員
‎我會想到一支由50個、100個
‎或者1000個人工智能飛行員 ‎組成的機群可以成就的事
‎無人機群是由相互協作的 ‎高級智能飛機
‎所組成的團隊
‎成員之間共享如何行動 ‎以及問題解決辦法的相關資訊
‎無人機群將成為我軍及盟友
‎顛覆性實力革新的關鍵
‎（內布拉斯加州 林肯）
‎目標已經鎖定，無人機正在追蹤
‎好，要落地了
‎我們目前研究無人機群的主要目的
‎是將大量無人機部署到
‎難以到達或十分危險的區域
‎陸軍研究實驗室 ‎一直在支持這個研究項目
‎如果你想了解某個地點的狀況
‎但很難進入那個區域 ‎或是因為區域非常大
‎那麼部署無人機群自然成為
‎擴大個人接觸範圍
‎並收集任務重要情報的手段
‎按照我們目前的無人機群部署
‎基本上，我們下達 ‎搜尋目標的單一指令
‎隨後，無人機就會自動執行
‎有了人工智能 ‎機器人能夠以非集中方式
‎展開集體行動
‎我們在自然中所看到的動物集群中
‎沒有首領，沒有發號施令的主導動物
‎每隻動物都按照一些簡單的規則
‎自發實施這種行為
‎於是便產生了你所看到的集體行為
‎自然界集群令人驚歎之處
‎在於其行動之優雅
‎彷彿牠們天生就是這個團體的一部分
‎理想情況下，我們希望無人機群
‎也能像自然界的集群那樣
‎集體決策
‎而我們得到的另一點啓發
‎體現在可靠性與恢復力
‎如果一隻動物沒有依規則行事
‎集群也不會垮掉
‎就算其中一員脫隊、失敗
‎或者無法完成任務
‎機群將繼續作業
‎最終，這就是我們想要的目標
‎戰鬥中，我們需要識別敵機
‎以前，我們需要一人控制一部機器人
‎隨着自主性的增強
‎我們希望可以達成
‎由極少的人控制大量機器人
‎我並不認為 ‎數量達到一千的目標遙不可及
‎因為每部無人機都能自行行動
‎天空無盡，因而潛力無限
‎我們可以擴展學習規模…
‎相當一段時間以來 ‎我們都致力於無人機群模擬
‎是時候運用到現實中的飛機上了
‎我們希望在網路上 ‎同時運行三部機器人
‎然後開始增加更多功能
‎我們希望能在較小的系統進行測試
‎但將相同的概念應用於更大的系統上
‎比如戰鬥機
‎我們經常探討
‎如何讓一個排具有一個營的戰鬥力？
‎如何讓一個營具有一個旅的戰鬥力？
‎利用無人機群就可以做到
‎一旦解鎖了無人機群的威力
‎你就為軍事侵略創造了
‎全新的戰略威懾力
‎我認為最令人期待的是 ‎如果我們研發得當
‎這些技術將能夠挽救眾多年輕的生命
‎我們派機器上陣
‎不以人命換取勝利
‎有些人認為自主武器 ‎會令作戰變得更精準
‎更人性化
‎但其實很難提前預測
‎自主武器到底將如何改變戰爭
‎這就如同發明格林機槍
‎理查格林是一位發明家
‎他眼見內戰中受傷的士兵歸來
‎於是便尋找辦法 ‎想讓戰爭更加人性化
‎通過減少戰鬥中的士兵數量
‎來減少戰爭中陣亡的士兵數量
‎於是，他發明了格林機槍 ‎這是一種由曲柄轉動的自動槍
‎使得射擊過程自動化
‎它把士兵能發揮的火力 ‎有效地增強了一百倍
‎通常，使戰爭更加精確 ‎更加人性化的努力
‎也會產生相反效果
‎試想在農村地區 ‎無人機一次錯誤攻擊
‎所帶來的後果
‎它致使當地民眾反對美國
‎反對地方政府 ‎要知道，這些理應是好人
‎現在將這種效果放大一千倍
‎建立廉價、可拓展
‎且不需要人工操作的武器系統
‎徹底改變了衝突的實際障礙
‎一個戰爭無處不在的世界 ‎令我夜不能寐
‎我們不再承擔戰爭的人力和財力損失
‎因為我們與那些即將失去的生命…
‎距離太遠
‎這整件事讓我很困擾
‎我需要的只是一個 ‎濫用人工智能的例子
‎簡單的思維實驗 ‎所帶來的意料之外的後果
‎已經遠遠超出了底線
‎（藥物研發中的人工智能： ‎避免弊大於利）
‎做簡報時
‎說到人工智能技術創造出的有毒分子
‎聽眾驚掉了下巴
‎（排名前五千的化合物 ‎為已知VX類似物）
‎接下來要決定的是 ‎是否要發表這些資料
‎一方面，你想要提醒全世界
‎人工智能擁有這樣的能力，另一方面
‎你並不希望之前沒有這種想法的人 ‎開始動這樣的腦筋
‎我們認為這些資料值得發表
‎也許能找到某種方法 ‎減少此類人工智能的濫用
‎防微杜漸
‎（人工智能藥物研發的兩用性）
‎（用於藥物研發的人工智能技術）
‎大眾的反應十分震驚
‎我們可以看到網頁上人們的瀏覽數據
‎通常我們寫的那種文章，幸運的話…
‎一年或幾年內的 ‎文章閱覽人數也就是幾千
‎而那篇文章 ‎一週內閱讀人數已達一萬
‎然後到了兩萬，三萬，四萬
‎後來達到每日一萬
‎《經濟學人》、《金融時報》 ‎還有RADIOLAB
‎紛紛聯絡我們，引述我們的文章 ‎我聽說過RADIOLAB！
‎但後來反應變得越來越失控
‎當我們看到那些推文時 ‎“天啊，還能有比這更糟糕的事嗎？”
‎他們為甚麼要這麼做？
‎然後我們收到了意外的邀請
‎這篇文章在白宮內部引起諸多討論
‎他們急切地想與我們溝通
‎顯然，能與這個級別的人物商談
‎是莫大的榮幸
‎但你會想
‎“老天，這可是白宮，是大老闆”
‎這需要整合開放源數據集…
‎在大約六小時內 ‎模型能產生超過四萬個…
‎他們問到需要多少電腦運算能力
‎我們說並沒有特別要求
‎基本上，機齡六年的 ‎標準普通蘋果電腦即可
‎這讓他們大吃一驚
‎負責掌握化學戰用毒劑的人
‎以及政府機構的人 ‎完全不知道這種潛力的存在
‎有了這樣一本化學武器的炮製寶典
‎一旦它落入心懷歹意的壞人手中
‎後果將十分可怕
‎人們必須認真傾聽了解
‎而我們必須採取措施，或者規範技術
‎或者加以限制，避免濫用
‎因為潛在的殺傷力…
‎着實可怕
‎人工智能的倫理問題 ‎主要是由社會來應付
‎而不是由工程師或技術人員等 ‎數學專家來應對
‎我們帶來的每項技術、每項創新
‎最終都將歸入社會認為 ‎我們應當如何使用的管轄範圍
‎現在，國防部說
‎“唯一能在戰場上下達殺戮指令的
‎只有人類”
‎機器可以殺人
‎但只能在人類操作員的命令下進行
‎我認為這點將一直不變
‎他們向我們保證這種技術將是安全的
‎但美國軍方在無人機戰爭中的聲譽
‎並不值得信賴
‎所以說到信任美國軍方使用人工智能
‎我會說其過往表現不言自明
‎美國國防部關於 ‎武器自動化應用的政策
‎並沒有禁止任何武器系統
‎即使軍方不想要自主武器
‎我們也看到軍方 ‎正在將更多的決策交給機器
‎只為跟上競爭對手的步伐
‎這可能會促使軍隊自動處理
‎不該自動處理的決策
‎弗拉基米爾普京說過： ‎“誰引領人工智能，就能統治世界”
‎習主席也明確說過 ‎人工智能是中國想要主導的
‎尖端技術之一
‎顯然，我們正身處一場科技競賽
‎你們會聽到人們探討防護手段
‎我認為人們應該這麼做
‎但與此同時 ‎人工智能優越性的競爭確實在上演
‎我們的對手 ‎無論是中國、俄羅斯還是伊朗
‎才不會理會我們的人工智能政策
‎人們圍繞人工智能政策 ‎展開越來越多的討論
‎但我希望領導者能更多探討
‎“我們多快可以將它造好？
‎讓我們廣集資源，把它造出來”
‎（華盛頓特區）
‎（美國陸軍協會年度會展 華盛頓）
‎（美國陸軍）
‎這裏是美國陸軍協會 ‎年度最大規模的貿易展
‎基本上 ‎所有向軍方出售產品和技術的商家
‎都會參展
‎廷德爾空軍基地擁有 ‎四台本公司生產的機器人
‎每天不間斷在基地巡邏
‎從攝影鏡頭到感應器 ‎凡是需要的設備，我們都可以添加
‎機械手臂…還是那句話 ‎一切旨在幫客戶達成目標
‎要是你的敵人也引入人工智能呢？
‎比你思辨更敏捷 ‎反應更快的作戰系統
‎且具備比人類更出眾的能力？ ‎我們必須做好準備
‎我們訓練自己的系統蒐集敵方情報
‎用人類監管的殺傷鏈管理敵方目標
‎-你好，將軍 ‎-你好嗎？
‎很好，先生，你好嗎？
‎我只能說，沒有人比我們 ‎在人工智能飛行員上投放更多
‎我們的智能飛行員叫“蜂巢思維”
‎我們將它應用到四軸飛行器“新星” ‎它可以進入建築內
‎在特種作戰部隊和步兵團隊之前
‎率先進行搜索
‎我們正將“蜂巢思維” ‎運用於V-Bat無人機
‎我在設想組織數百支這樣的隊伍
‎無論是在臺灣海峽
‎或是在烏克蘭震懾我們的對手
‎所以，我很期待
‎-好的，謝謝 ‎-謝謝你，將軍
‎到了2025年或2030年 ‎人工智能飛行員應該會無處不在
‎世界各國軍隊都將迅速普遍採用
‎你們如何對付 ‎羅馬尼亞軍方的無人機系統？
‎高科技的軍隊
‎至今，我們已經花費五億美元 ‎打造人工智能飛行員
‎未來五年，我們會再投資十億美元
‎這是我們能在美國 ‎爭取到資助記錄項目的主要原因
‎很好
‎我是說，很厲害 ‎你們已經成功將它武器化了？
‎目前尚未武器化
‎暫時沒有，但未來會實現
‎我們的客戶把它當成卡車 ‎我們認為這是一輛智能卡車
‎可以完成多種不同任務
‎-謝謝你，兄弟 ‎-好的
‎我一定會找你跟進
‎如果十年後再回來
‎你會發現人工智能 ‎和自主技術會主導整個市場
‎獲人工智能和自主技術加持的部隊
‎必定會主宰、碾壓、摧毀 ‎沒有這些優勢的對手
‎這就像馬與坦克競賽
‎刀劍與機關槍抗衡
‎實力太過懸殊
‎它將無處不在 ‎應用到戰爭的方方面面
‎戰術層面
‎戰略層面
‎以人類今日無法理解的速度運作
‎指揮官已經被太多情報所淹沒
‎衛星、無人機和感應器的圖像
‎人工智能的一大功能
‎是幫助指揮官更快地了解眼前狀況
‎然後說：“我要做出甚麼決定？”
‎人工智能會考慮所有因素
‎確定作戰方式
‎制訂出策略…
‎並提供取勝的建議
‎（維珍尼亞州 薩福克）
‎（洛克希德馬丁創新中心）
‎洛克希德馬丁創新中心 ‎和我們的國防部客戶一樣
‎將人工智能視作指揮控制的
‎關鍵推動技術
‎擴散速度平均為每秒0.6米
‎這片區域大約有283公頃
‎站在防守的立場 ‎戰爭迷霧固然是我們面對的現實
‎但這與處在火災環境中
‎必須針對野火作出決定十分相似
‎瓦許柏恩大火就發生在瓦沃納市以北
‎你必須根據不完美的數據作出決定
‎我們要如何利用人工智能 ‎幫我們撥開這種戰爭迷霧？
‎野火混亂無序
‎而且非常複雜
‎所以，我們正努力利用人工智能
‎作出決定
‎我們目前構建的“認知任務管理程式”
‎可以拍攝空中紅外線影片
‎然後用我們的 ‎人工智能演演算法進行處理
‎以預測未來的火災狀況
‎當我們放眼未來
‎“認知任務管理程式”將利用模擬
‎執行數千個週期的場景
‎推薦最有效的資源調配方式
‎遏止優先級別最高區域的火勢
‎它會告訴你：“出動火鹰戰機 ‎在這裏進行空中壓制
‎抽調清理灌木叢的地勤人員
‎架水管噴射的消防隊員
‎把他們派到優先級別最高的區域”
‎決策制訂將會更快
‎更有效率
‎我們認為人工智能以獨特的方式
‎使人類能夠適應不斷變化的環境
‎我們相信有一定數量的實例 ‎與我們在洛克希德馬丁創新中心
‎慣用的防護系統有異曲同工之妙
‎軍方不再只是使用人工智能
‎以及單獨武器系統 ‎作出瞄準和殺戮的決定
‎而是將人工智能
‎融入軍隊的整個決策結構
‎陸軍有個名叫“融合項目”的重大計劃
‎海軍有“超配計劃”
‎而空軍則有先進戰鬥管理系統
‎國防部正在思考
‎“我們要怎麼把這些東西結合在一起
‎以便能比對手行動得更快
‎並且獲得真正的優勢？”
‎人工智能作戰管理器 ‎大約等同一位相當高級的將領
‎主持整個戰鬥
‎協助向大量部隊下達命令
‎協調所有在外武器的行動
‎而且是以人類所不能及的高速進行
‎我們花上過去70年
‎建造世界上最先進的軍隊
‎現在我們要決定 ‎是否要把對該等基礎設施的控制權
‎讓給演算法和軟件
‎而這個決定的後果
‎可能會觸動美國軍火儲備的全部力量
‎這不是一次廣島核爆，而是幾百次
‎我們必須立即行動
‎因為遏制風險的空窗期正在迅速流逝
‎今天下午，我們首先探討 ‎致命自主武器系統領域的
‎新型技術所帶來的
‎國際安全挑戰
‎聯合國內部正在展開對話
‎討論致命自動武器威脅
‎及禁止使用人工智能 ‎挑選和鎖定目標的系統
‎技術專家已經達成了明確的共識
‎我們反對以人類為目標的自主武器
‎多年來，各國其實一直致力探討
‎致命自主武器系統議題
‎此事關係到人類共同的安全感
‎當然，這並不容易
‎某些國家，尤其是軍事強國
‎他們想走在前沿
‎這樣他們才能領先對手
‎問題是，採取行動需要各方達成一致
‎反對的國家肯定不只一個
‎而美國和俄羅斯都已表明立場
‎反對禁止自主武器的條約
‎至於致力強化人工智能的人
‎為數眾多
‎而致力確保 ‎人工智能得到安全使用的人
‎卻是寥寥無幾
‎但我同時很樂觀
‎我會想到《禁止生物武器公约》
‎它誕生於冷戰期間
‎縱然美蘇之間劍拔弩張
‎各方依然能意識到，生物武器的開發
‎對各方都沒有好處
‎更不符合全世界的利益
‎軍備競賽重速度而輕安全
‎但我認為必須考慮到
‎到了一定階段 ‎高速發展的代價將變得太過高昂
‎我們不能單獨發展某些事物
‎然後貿然推出 ‎全然不考慮它們未來將何去何從
‎我們得阻止原子彈爆炸的時刻到來
‎人工智能競賽的賭注龐大
‎我認為沒有多少人懂得珍惜
‎過去75年來擁有強大軍力
‎所帶來的全球穩定
‎所以，美國和我們的盟友
‎必須在人工智能方面戰勝對手
‎戰爭沒有第二名
‎中國提出了雄心勃勃的計劃 ‎要在2030年前主宰全球人工智能領域
‎有人說，美國正在失利…
‎我們將加速人工智能的應用
‎確保我們的軍事競爭優勢
‎我們正利用這項技術迅速向前邁進
‎至於要走多遠，目前還不甚明朗
‎是我們控制技術還是技術控制我們？
‎實在沒有機會重來
‎一旦精靈從瓶子裏出來
‎就很難把它關回去
‎如果我們現在不行動，就將為時已晚
‎現在可能已然太晚
‎字幕翻譯：Kate