Downloaded from YTS.MX
Official YIFY movies site: YTS.MX
‎ＡＩには畏敬の念を感じる
‎円形を作ってる ‎いい動きだ
‎ＡＩを使えば ‎貧困を減らすこともでき
‎新薬を作り出せる
‎世界がもっと平和になる
‎いいね
‎でも その開発には ‎リスクも山ほどある
‎基本的にＡＩという ‎非人間的な知能は
‎予測不可能なものよ
‎ＡＩが強力になるほど
‎使い方の線引きが難しくなる
‎どう使うべきか ‎使わないべきか
‎これについて ‎最初に議題に上がるのが
‎ＡＩの軍事使用に関してよ
‎現代の戦場はソフトと ‎ハードの領域になってる
‎標的を捕らえた
‎各軍は敵を追い抜こうと ‎ＡＩ開発を競い合ってる
‎死んだ
‎急速に変化してるのは ‎軍隊だけでなく
‎非国家主体や ‎民間企業も例外なくよ
‎今後 近所の警察署でさえ―
‎致死性の自律型兵器を ‎使うかもしれない
‎人を殺傷するかの判断を ‎ＡＩに委ねていいのか？
‎現代の最重要課題の１つよ 〝恐ろしい〞
‎現代の最重要課題の１つよ
〝オタクに殺される〞
‎ＡＩを正しく使わなければ
‎世界中の人々に ‎重大な危険をもたらす
‎アンノウン
‎殺人ロボットは ‎どこに向かうのか
‎いい調子だ
‎前のより広角なレンズだ
‎そうか
‎情報量が増える
‎いいね
‎シールドＡＩでは ‎ＡＩパイロットを開発し
‎航空機に自動操縦などの ‎システムを搭載させてる
‎ＡＩパイロットは航空機に ‎高度な自律性を持たせ
‎機体自身に問題を解決させる
‎自律型ドローンのノヴァで
‎クリアランス部隊の突入前に ‎建物内や地下を探索する
‎事前に中を監視するために
‎最後に見た時より ‎飛躍的に進化してるな
‎探索方法を変更してみた
‎フロアごとに動くように
‎１階をすべて通って ‎２階へ移動する
‎すばらしい
‎変更点は…
‎多くの人によく聞かれるんだ
なぜＡＩが重要なのか 元海軍特殊部隊 ブランドン･ツェン
そのたびに僕は
‎過去の任務を思い返す
‎海軍に７年いた
‎海軍特殊部隊として ‎アフガニスタンに２回
‎太平洋戦線に１回行った
‎１日に150か所もの ‎建物や敷地に突入したよ
‎主な実務の１つが近接戦だ
‎建物内で至近距離の ‎銃撃戦が起こる
‎撃たれることや―
‎爆破装置がある可能性も
‎特殊作戦部隊の隊員であれ ‎歩兵隊員であれ
‎戦地で最も危険な任務だ
‎間違いなく
‎海軍での経験は ‎生涯感謝すると思う
‎今でも思い出すと ‎感傷的になってしまう瞬間や
‎思い出がたくさんある
‎自由は犠牲の上に ‎成り立っていることを―
‎身をもって ‎体験することができた
‎ごめん
‎仲間が大ケガをしたり ‎殺されたりすることほど―
‎悲劇的なことはない
‎僕が今の仕事をする動機は
‎自分が体験したような悲劇を ‎もう繰り返したくないからだ
‎２度とね
‎2000年代の後半に ‎国防総省の内部では
‎計らずも ‎ロボット革命が起こる
何千ものロボットを 戦地に配備した
「無人の兵団」著者 ポール･シャーレ
‎私がオバマ政権から ‎国防副長官に任命された時
戦地での戦い方は 大きく変化していた
元米国国防副長官 ボブ･ワーク
‎兵士の代わりに ‎ロボットが使われてた
‎初期の ‎ロボットシステムは
‎ラジコンのように ‎人間が遠隔操作してた
‎当初はロボットで ‎爆破装置に近づき
‎ロボットごと爆破させてた
‎そして次のロボットを使う
‎アフガニスタンでは空爆に
‎プレデター･ドローンが ‎有効活用された
‎次第に軍事計画者たちは
‎ロボットのさらなる ‎可能性を思案しだした
‎そこで焦点になったのが ‎“自律性”だ
‎自律型兵器は人間が ‎ほとんど介入せずに
‎判断することができる
新アメリカ 安全保障センター 兵器自身が自主的に 独断で動くシステムよ
ステイシー･ ペティジョン
‎武装させれば殺傷能力も持つ
‎システム全体の ‎自律性が高まれば
‎物事が高速で進められる
‎敵よりも速いスピードで ‎動くことができれば
‎戦闘において極めて ‎有利になるだろう
‎自律性で重要なのは―
‎知能システムの弾力性だ
‎システムが ‎状況を読みとって行動し
‎最適な判断を ‎できるようにする
カリフォルニア州 サンディエゴ
‎映画スタジオとして ‎作られた施設を
〝ストラテジック･ オペレーションズ〞
‎リアルな軍事訓練環境を ‎実現するために改造した
‎今回はＡＩパイロットを ‎審査する
‎実行する任務は脅威の探索だ
‎クリアランス部隊の ‎攻撃判断がしやすくなる
‎出入り口を我々は ‎“死のじょうご”と呼ぶ
‎最も危険な場所だ
‎こっちがいい
‎隠れているのが ‎狙撃者か住人か―
‎知ることができる
これで民間人を 傷つけずに行動できる
シールドＡＩ マーク･メイソン
‎視覚センサーを使って
‎建物内の状況を ‎把握することができる
‎高層のビル
‎間取り
‎探索中に見たものとその位置
‎人を検知
‎いいね
‎サーマルスキャナーが ‎搭載されてる
‎37度なら人間で間違いない
‎人間はとりあえず ‎脅威とみなされる
‎不確定要素を減らせば ‎的確な判断ができる
‎さらに将来的には―
‎自律型航空機の部隊を ‎作りたいと考えてる
‎自動運転の車には
人間の指示が必要だ シールドＡＩ 最高技術責任者
〝Ａ地点から Ｂ地点へ行け〞という
ネイサン･マイケル
〝Ａ地点から Ｂ地点へ行け〞という
‎だが このシステムの ‎目的は移動ではなく
‎任務の遂行だ
‎例えば ‎“牛乳が欲しい”と言えば
‎ロボットはどの店に行くか ‎判断する
‎そして牛乳を持ってくる
‎さらに言えば
‎“牛乳を切らすな”と ‎指示しておけばいい
‎我々の求めてる知能レベルは ‎何が必要かを考え
‎もし問題が発生すれば ‎自分で解決できる能力だ
‎海軍を辞めると ‎決めた時に考えたんだ
‎“次は何しよう？”って
‎僕はネット成長期の世代だ
‎そして あることに気づいた
‎2015年のＡＩ技術は
‎まさに1991年の ‎インターネットと同じだと
‎ＡＩはこれから飛躍し
‎最も強力な技術になる ‎準備段階だった
‎日々 仕事をしてると ‎その進化を肌で感じた
‎でも多くの人にとってＡＩは
‎映画のイメージが強い
〝核戦争 シミュレーター〞
‎ゲームしようか？
‎世界核戦争ゲームはどう？
‎了解
〝米国 ソ連 どちら側？〞
‎多くの人の ‎ＡＩのイメージは
‎「ターミネーター」や ‎「アイ ロボット」だ
‎停止して
‎私は何だ？
‎もしくは「マトリックス」
‎ＳＦ映画でよく見る
‎“自分は本当に人間か？ ‎ロボットかもしれない”
‎レプリカントは他の機械と ‎同じく利も害もある
‎だがもっと ‎原始的なＡＩだって
人間の生活を変えてる
政治家･技術系起業家 アンドリュー･ヤン
ロボットが 考えて話しだす以前から
‎ロボットは存在し ‎自律的に判断する
ロボット革命は 始まってる
ニューヨーク大学 メレディス･ブルサード
ただ誰もが 想像してなかった形でね
‎ターミネーターは ‎人間でありロボットだ
僕らは 殺人ロボットではなく
人間の仕事ができる ＡＩの話をしてる
ザカリー･カレンボーン
人間の仕事ができる ＡＩの話をしてる
‎だが懸念されてるのは ‎システムの信頼性だ
自動運転ＳＵＶによる 死亡事故の続報です
〝マイクロソフトの 人種差別ロボット〞 企業の ＡＩチャットボットが
人種差別的な発言を…
26人の州議会議員が 犯罪者と誤認され…
〝アマゾンの顔認識技術 28議員を犯罪者と誤認〞
‎問題はＡＩが現実世界の ‎複雑さに対応できるかだ
‎マサチューセッツ州 ‎ケンブリッジ
‎現実世界は無秩序だ
‎想定外の事案の多さが
‎ＡＩシステムの ‎訓練を困難にする
だから機械学習の システムが必要なんだ
マサチューセッツ 工科大学
だから機械学習の システムが必要なんだ
プルキット･アグラワル
‎機械学習が大きな進歩なのは
ＡＩにすべてを 教えなくていいからだ
ヴァニティ･フェア記者 ニック･ビルトン
‎何百万ほどの情報を ‎コンピューターに与えれば
‎機械が学習する
‎何にでも応用できる
‎僕らの研究は ‎ロボットドッグが
‎どんな形状の地形でも ‎歩行できるようにすること
‎何十億年もかけて ‎人類が歩行できるのは―
‎異なる地形に適応する知性を ‎持ち合わせていたからだ
‎ロボットも同じように
‎適応する知能が持てるか？
‎機械学習では
‎シミュレーションで ‎情報を集める
‎現実でも通用する情報だ
‎さまざまな想定を ‎多数のコンピューターで
‎シミュレーションする
‎これで数千という ‎行動サンプルが得られる
‎ロボットが歩く地面は ‎滑りやすさや
‎柔らかさが違う
‎シミュレーション上で ‎体験した情報を
‎実際のロボットシステムに ‎ダウンロードする
‎今日の実験は ‎新しい地形に適応できるかだ
‎ロボットはウレタン上で
‎地面を踏みしめる ‎歩き方をした
‎油の塗られた場所では
‎滑らないように ‎動こうとしていた
‎あらためて感じたよ
‎これが機械学習の ‎もたらす力だと
‎ロボットドッグが ‎役立つのは災害時などで
‎さまざまな地形を ‎移動する時だ
‎あるいは過酷な ‎環境の中でも監視ができる
‎だが課題は ‎テクノロジーの進化には
‎悪い面もあるということだ
‎例えば 原子力技術は ‎エネルギーに活用できるが…
‎原子爆弾を ‎開発することもできる
‎これが ‎デュアルユース問題なんだ
火はデュアルユースだ
物理学者 マックス･テグマーク
人間の知能も デュアルユース
‎もちろんＡＩも ‎デュアルユースなんだ
‎ＡＩをどの状況下で ‎利用するのかが重要よ
‎例えば ロボットで ‎雪崩に巻き込まれた人を
‎捜索救助できれば最高よね
‎でも 同時に ‎兵器にもなりえる
‎企業がロボットを ‎戦闘兵器として利用してると
‎怒りを感じるよ
‎だが同時に自分たちの ‎技術がもたらす現実を
‎実感するんだ
‎ＡＩは革新的な技術です
‎でも それと同時に
‎私たちの安全を脅かす ‎システムにもなるのです
‎現時点では機械が ‎民間人と戦闘員の違いを
国連 軍縮担当上級代表 中満 泉 判別できるか 定かではありません
‎アフガニスタンで ‎僕は陸軍の狙撃隊で
‎国境の監視していた
‎敵の偵察役は少女だった
‎小さな少女を ‎撃つことはできない
‎たとえ戦地では ‎合法だとしてもだ
‎敵兵に年齢制限はない
‎もし戦争法を厳守する ‎ロボットだったら
‎少女を撃つだろう
ＡＩに人道的な正しさを 理解できるだろうか？
元米陸軍 レンジャー部隊員
ＡＩに人道的な正しさを 理解できるだろうか？
ポール･シャーレ
‎自律型ドローン戦では
米兵の被害を 減らすことが目的だ
アフガンズ･フォー･ア･ ベター･トゥモロー
精神的負担もね アラシュ･アジザダ
だが それで被害を 受けるのはアフガンや
‎イラクの民間人だ
‎ドローンへのＡＩ搭載を ‎支持する人へ聞きたい
‎自分の村が ‎その犠牲になったら？
‎ＡＩはもろ刃の剣だ
‎我々は基本 ‎よいことに使用する
‎通常はね
‎だがスイッチ１つで―
‎何かを害するものになる ‎可能性もある
ノースカロライナ州 ローリー
‎私は薬理学者だ
‎私のチームではＡＩを使って ‎注目度の低い病気の
‎治療薬を解明している
‎かつては新薬の開発は ‎現存する分子を利用し
‎それに手を加える形だった
‎だが現在はＡＩによって ‎何百万ものアイディアや
‎分子が提供される
‎今まで ‎治療できなかった病気の
コラボレーションズ･ ファーマスーティカル 治療薬を開発できる 可能性が増えた
ショーン･エルキンス
治療薬を開発できる 可能性が増えた
‎だが私が想定してなった ‎ダークな面も存在した
‎それを知る ‎きっかけになったのは
‎スイスの研究所から ‎招待を受けた時だ
‎ＡＩの悪用についての ‎講演依頼だった
‎ショーンは ‎ＡＩ悪用に関する
‎複数のアイディアを ‎メールで送ってきた
‎そこでＡＩに ‎ある分子を設計させてみた
‎治療薬の分子ではなく
コラボレーションズ･ ファーマスーティカル 可能な限り 毒性の強い分子だ
ファビオ･ウービナ
‎私はただ致死性のある分子の ‎設計が可能か知りたかった
‎正直 失敗すると思ってた
‎なぜなら ただ０を ‎１に変更しただけだから
〝データ ０〞
〝データ １〞
‎それによって毒性の ‎強い分子の設計へと
‎システムが反転した
‎それだけだ
‎私の帰宅後も ‎システムは働いてた
‎つまり何千もの ‎分子を設計するのに―
‎私がしたのは起動ボタンを ‎押しただけなんだ
‎次の朝 私の ‎パソコンのファイルに
‎約４万の分子が保存されてた
‎人類が知る限り
‎最も毒性の強い分子も ‎含まれてた
‎それを見て身の毛がよだった
‎驚がくしたよ
‎何万もの新しい ‎化学兵器のアイディアが
‎作られていた
‎データセットにはＶＸや ‎それに類似する分子があった
〝金正男を殺害した ＶＸに世界で警鐘〞
‎ＶＸは世界でも ‎最強の化学兵器だ
〝金正男を殺害した ＶＸに世界で警鐘〞
‎警察の発表では金正男氏が ‎女に塗りつけられたのは
‎猛毒ＶＸだということです
〝神経剤ＶＸの毒性は サリンの10倍〞
‎窒息させて死に至らしめる
〝神経剤ＶＸの毒性は サリンの10倍〞
‎非常に強力な分子だ
‎さらに他の分子も ‎ＶＸ以上の毒性が予測された
‎その多くは初めて ‎見る分子ばかりだった
‎僕らがしたことの ‎重大性に気づいた‎よ
‎私たちはパンドラの箱を ‎開けてしまった
‎だから言った ‎“これ以上はもうやめよう”
‎“講演用のスライドだけ ‎作ってくれ”って
‎実験後に考えた
‎“もし最悪の事態が ‎起きたら？”って
‎私たちは この実験を ‎あまく見ていたんだ
‎恐ろしいのは ‎誰もが可能だということ
‎スイッチ１つでね
‎この技術を ‎悪用されないために
‎どうすれば ‎制御できるのだろうか？
マサチューセッツ州 ボストン
‎ＡＩを社会でどう使うかを ‎議論する上で
‎核となってくる問題がある
それは技術開発が もたらす大きな力と
生命の未来研究所
それは技術開発が もたらす大きな力と
エミリア･ ヤヴォルスキー
‎制御する知恵との競い合いよ
‎道徳的 論理的な問題もある
‎スマホと同じようなものに
‎命を奪う判断を ‎させていいのかという
‎私は生命の未来研究所という ‎科学者の団体で活動してる
‎証明したいのは
‎自動化の加速や増大によって ‎別の問題が生じることだ
‎自分たちの技術が ‎安全かつ倫理的な方法で
‎使われているか確認してる
‎兵器システム全体で ‎ＡＩを使用する際の
‎交戦規則や ‎行動規範について話し合う
‎なぜなら戦場向けの ‎技術が開発されているから
‎自律的な殺傷能力を持つね
‎2021年に国連がリビアで ‎自律型致死性兵器が
使用された 可能性を発表したわ
‎昨年のリビア内戦で ‎使われたドローンが
〝ＡＩドローンが 兵士を攻撃し殺害か？〞
‎自律型だった ‎可能性が発表されました
〝人間の介入なくして〞
‎もし国連の報告が正しければ
‎これは人類にとって ‎分岐点となる瞬間よ
‎なぜなら人間ではなく
‎ＡＩが命を奪う決断をした ‎使用事例となるから
‎世界中の様々な戦地で
‎高度な自律型兵器が ‎使用されてる
〝未来の戦闘〞
〝イスラエル軍がガザで ドローン群を投入〞
‎イスラエル軍も使ってる
〝イスラエル軍がガザで ドローン群を投入〞
〝ドローン攻撃 アゼルバイジャン勝利〞
アゼルバイジャンも アルメニアに対し
自律型兵器で空爆した
‎何時間でも飛び回り
‎自分から攻撃対象を探す
‎人間の介在は必要ないのです
〝ロシアとウクライナ 初の本格的ドローン戦〞
‎最近ならウクライナからの ‎動画でも確認できるわ
‎使用された ‎動作モードは不明だ 〝ウクライナ上空を 多数のドローンが飛行〞
‎人間が攻撃対象を ‎選んでいたのか
‎自律的な攻撃だったのか
‎だが確実に ‎その時代はやってくる
‎すでにどこかの戦地では ‎ロボットが
‎自主的に殺傷を ‎行っているかもしれない
人間の介入なしに 機械が人を殺すことは
容認できませんし 嫌悪感を抱かせます
〝ウクライナ戦争で 使用されたドローンは〞
‎国際社会がその課題を
〝ウクライナ戦争で 使用されたドローンは〞
‎制御する力が十分あるのか ‎大きな疑問です
〝未来の戦場で 大混乱を引き起こす〞
〝ウクライナのドローン 殺人ロボットへの１歩〞
‎今から数年後の未来の光景を
‎考えると恐ろしく感じる
‎ＡＩをより強力にして ‎使用用途を広げていくため
‎投入される資金や人材は ‎莫大なものになっていくわ
‎バージニア州 ‎アーリントン
‎おいおい どうした
‎こいつは勝てない
‎ＡＩがさまざまな課題を ‎クリアするたび感動的する
‎もう神頼みしかない
‎その戦略や技術は ‎実際の航空機にも適用できる
‎いいね
‎いい試合だった
‎ＡＩには不可能があると ‎言い続ける人に
驚きを隠せない
〝チェスの世界王者には 勝てない〞とか
‎ＩＢＭのコンピュータ‎ー‎が
‎世界王者カスパロフに ‎２局目で逆転
‎カスパロフが負けた！
‎自分の理解を凌駕するものは
‎恐怖を感じる ‎まさにあれがそうだった
‎ある人はこう言った
‎“囲碁の世界王者には ‎勝てるわけない”
‎＜人間の直感は ‎あまりにも高度な能力で＞
‎＜ＡＩには越えられない＞
‎囲碁は最も複雑な ‎ゲームの１つだ
そのパターン数を 計算すると
宇宙に存在する 原子の数以上だ
〝ディープマインド チャレンジマッチ〞
‎グーグル傘下の ‎ディープマインドが
〝ディープマインド チャレンジマッチ〞
‎“アルファ碁”を開発した
‎それが世界王者を敗北させた
‎おめでとう
‎アルファ碁
‎ＡＩが９段の ‎プロ棋士に勝利した
‎ディープマインドが ‎次に挑戦したのが
〝囲碁に勝利したＡＩ スタークラフトに挑戦〞
‎スタークラフトだ
‎スタークラフトは超人気の ‎リアルタイム戦略ゲームだ
〝ディープマインドＡＩ スタークラフトで無敵〞
‎アルファスターは ‎世界王者を次々倒した
〝アルファスターは 止められない〞
‎インモラルアークを ‎完全に破壊した
‎すごい‎ぞ
‎プロでも勝てない戦いだ
〝勝者 アルファスター〞
‎プロでも勝てない戦いだ
〝ＡＩがスタークラフト 新グランドマスターに〞
‎異常だよ
〝ＡＩがスタークラフト 新グランドマスターに〞
‎プロゲーマーたちは ‎“その戦術は不可能だ”
‎“この戦略は ‎人間離れしてる”と言った
‎たぶん ‎その時に僕は悟ったんだ
‎今こそ 動き出す時なんだと
‎このＡＩ技術を使えば ‎変化を生み出せる
‎僕は海軍の近接戦における ‎危険性しか知らなかった
‎だがＦ18の ‎パイロットだった友人が
‎“戦闘機の戦いでも ‎同じ問題がある”と
‎通信妨害や ‎地対空ミサイルの拡散で
‎操縦には危険が多い
‎それならＡＩが操縦する ‎戦闘機あれば？
‎アルファ･ドッグファイト‎の
‎初の準決勝が ‎もうすぐ始まる
‎国防高等研究計画局が
‎チェスや囲碁での ‎ＡＩの活躍を見ていた
‎そしてアルファ･ ‎ドッグファイトが実現した
‎人間のパイロットの動きだ
‎まるで人間の空中戦
‎ドッグファイトとは ‎戦闘機同士の戦いだ
‎空の上のボクシング大会だ
‎「トップガン」で見たかな
‎出し抜けるか？
‎武器がない
‎ドッグファイトだ
‎技術を習得するには ‎８年から10年かかる
‎ＡＩに構築するには ‎とても複雑な課題だ
‎バージニア州 ‎アーリントン
‎当初 空中戦に対する ‎ＡＩのアプローチは弱かった
‎それは機械学習で ‎解決すると思った
‎最初ＡＩは状況を ‎何も理解していなかった
‎飛んでることも ‎ドッグファイトも
‎Ｆ16も知らない
動けることだけ 知ってるから
シールドＡＩ製品責任者 ブレット･ダーシー
無作為に動いて探索する
‎青い戦闘機は ‎訓練時間が少ないから
‎前後にふらふらしてる
‎飛行は不規則だが ‎敵からは遠ざかってる
‎戦い続けると
‎青い機体は戦略を立て始めた
‎狙撃体制を取ってる
‎たまにアルゴリズムが
‎頑張りを褒めてくれる
‎コンピューターの力があれば ‎同時に並行して訓練できる
‎例えばバスケで同じチームと ‎試合するのではなく
‎同時に世界中の512チームと ‎試合ができるようなものだ
‎すぐに上達する
‎そのシミュレーションを ‎無休で実行し
‎10か月で30年分の ‎実践訓練並みの能力を得た
‎操縦するのが ‎やっとだったのが
‎冷酷な狙撃者になった
‎訓練では競争相手は ‎ＡＩ同士だったが
‎人間を相手にすることが ‎最終的な目標だった
‎俺はマイク･ベニテス
‎アメリカ空軍の中佐で
現役生活は約25年 米空軍中佐 マイク･パコ･ベニテス
‎戦闘任務経験は250回
‎空軍兵器学校出身だ
‎空軍版「トップガン」さ
‎ＡＩとの空中戦は初めてだが
‎自分がどれだけ戦えるか ‎楽しみだ
‎正面6000フィートに ‎セットした
‎戦闘開始
‎消えた
‎おもしろいね
‎死んだ
‎捕らえた 完璧な勝利だ
‎よし ２回戦だ 〝パコ対ＡＩ〞
‎ＡＩの操縦テクニックは ‎かなり高い精度だ
‎ついていけないほど
‎正面に来るぞ
‎もう逃げられない
‎やった
‎やられた
‎ＡＩは恐れない
‎ＡＩには人間的感情はない
‎ＡＩが考えた ‎おもしろい戦略の１つが
‎フェイスショットだ
‎人間なら背後から狙撃する
‎その方が敵にやられにくい
‎正面から狙撃は ‎度胸試しのようなもの
‎正面3000フィートから ‎500フィートまで
‎一瞬の距離だ
‎衝突の危険があるから ‎人間はやらない
‎ＡＩは教えなければ ‎死を恐れない
‎ＡＩと戦うのはまるで
‎命を投げ出した ‎人間との戦いだ
‎最後も勝てない
‎時間がない
‎おやすみ
‎死んだ
‎パイロットとしての ‎自信を打ち砕かれたよ
‎いつかＡＩに奪われるかも
‎同じ設定だ
‎セット完了
‎ＡＩが戦闘機を操作すれば
‎圧倒的に勝利に近づく
‎ただ力が強大すぎて
‎機体にどうやって ‎搭載するかが課題だ
‎近い将来 ‎ＡＩがＦ16を操縦することは
現実になるだろう
‎勝率99パーセント以上の ‎ＡＩパイロット相手に
‎勝つのは不可能だ
‎１機でも ‎ＡＩパイロットは無敵だ
‎それが50機や100機 ‎1000機集まり
‎チームを作ったら ‎何が実現するか考えてしまう
‎スウォーミングでは ‎高知能の機体が連携し
‎群れで動く
‎そして互いに指令や ‎情報を共有し合う
‎スウォーミングは ‎我が国の軍や同盟国に
‎大きな変革をもたらす
‎ネブラスカ州 ‎リンカーン
‎標的を捕らえた ‎ドローンが追跡中
‎よし 着陸させろ
‎スウォーミング研究の ‎主な目標は
‎ドローン群を危険地帯に ‎配備することだ
ネブラスカ大学 立ち入りが 困難な場所とかね
ジャスティン･ ブラッドリー
‎陸軍研究所が ‎この研究を支援してる
‎ある場所を調査する時
‎行くのが困難だったり ‎広大なことがある
‎ドローン群を投入すれば ‎広範囲にリーチでき
‎必要な情報が ‎得やすくなるのは明白だ
‎現状の配備システムでは
‎指令１つで興味のある標的を ‎追跡させる
‎ドローンは自主的に動くんだ
‎ＡＩによってロボットを ‎分散化させつつ
‎群れとして動かせる
‎自然界の群れには―
‎ボスや行動を指令する ‎動物はいない
‎個々の動物が ‎複数の簡単なルールに従い
‎行動してるだけなんだ
‎その中であのような ‎群れが形成されてる
‎自然界の群れの ‎驚くべきことは
‎あの優美に動く能力だ
‎群れの一部として ‎作られたみたいだ
‎僕らの理想は ‎ドローンの群れも
‎自然界みたいにすること
‎集団で意思決定が ‎できることだ
‎僕たちが刺激を受けたのが
‎群れの信頼性と高い回復力だ
‎群れの１個体が
‎仕事をしなくても ‎群れは崩れない
‎もし１機が故障したり ‎任務遂行に失敗しても―
‎群れは残る
‎それが僕らの最終目標だ
‎この機能は戦闘中に敵機の ‎識別をするのに役に立つ
‎以前は１人につき ‎ロボット１台を操作してた
‎自律性が高まれば ‎多数のロボットの操作を
‎少数の人間で ‎できるようになる
‎1000機でも可能になるだろう
‎各機体が自主的に ‎行動できれば
‎限界はなくなる
‎研究を拡大できる
‎かなり前から群れの ‎シミュレーションはしてきた
‎そろそろ実際の ‎航空機で試す時期だ
‎まずはネットワーク上で ‎同時に３台のロボット
‎それから機能を追加していく
‎まず小規模でテストして
‎大きなシステムに適用させる
‎戦闘機みたいに
‎よく話すのは
どうやって小隊に大隊の 戦闘力を持たせるかだ
‎あるいは どう大隊に ‎旅団の戦闘力を持たせるか
‎群れなら可能だ
‎その群れの力を ‎引き出せれば
‎軍事侵略に対して ‎戦略的抑止力になる
‎最も期待しているのが ‎ＡＩをうまく使えば
多くの若者の命を 守れることだ
機械で代用する
‎人命ではなく
自律型兵器は 戦争をより精密で
人道的にすると 言う人もいる
‎だが どんな変化を ‎もたらすか
‎正確に予測することは ‎誰にもできない
‎ガトリング砲と同じだ
‎〝Ｒ･Ｊ･ガトリング ‎マシンガン”
‎発明者のガトリングは 〝１８６５年特許取得〞
‎南北戦争で負傷して ‎帰還する兵士に嘆いた
‎そして戦争を ‎人道的にする方法を考えた
‎戦死する兵士の数を ‎減らしたければ
‎戦地に行く兵士を減らす
‎だからクランクを回せば ‎連続して発射できる
‎ガトリング砲を発明した
‎兵士が出せる火力を ‎実質的に100倍にした
‎だが戦争をより ‎人道的にするための努力は―
‎逆の効果もある
‎農村で１機のドローンが ‎誤って攻撃したとする
‎地元住民は米国や政府に
反感を持つだろう 悪意はなくても
‎それが1000機だったら？
‎安価で拡張性があり
人間の介入がいらない 兵器システムの開発
それは戦争の障壁を 劇的に変化させる
‎世界中で起きてる戦争が ‎人的 経済的コストを
‎背負わなくなるかと思うと ‎不安だわ
‎戦地で人が死んでることに―
‎無自覚になる
‎悩みがつきない
‎ただＡＩの悪用例が ‎必要だっただけなのに
‎思考実験をしたばかりに ‎予期せぬ事態になり
‎やりすぎてしまった
〝ＡＩによる創薬 善より害を避ける〞
〝コラボレーション･ ファーマスーティカルズ〞
‎ＡＩが生み出す ‎毒性分子について講演した時
‎みんな 呆然だった
‟上位５０００の化合物 ＶＸの類似体〞
‎この情報を ‎公開するかどうか悩んだ
世界中への警告のために 公表すべきだと思う反面
知らせる方が 危険ではと考えた
‎僕らは公表した
‎その方が悪用される前に ‎事態を緩和できると判断した
‟ＡＩによる創薬の デュアルユース〞
〝創薬のための ＡＩ技術が〞
〝生物兵器開発に 悪用される可能性〞
‎多くの人に衝撃を与えた
‎掲載ページへの ‎アクセス数で実感した
私たちが普段 掲載している記事は
１年から数年で 数千人に見てるかどうか
‎１週間で１万の閲覧数が
‎さらに２万 ３万 ‎４万と増えた
‎最終的に１日で１万になった
〝創薬ソフトで 化学兵器を作る方法〞
‎「エコノミスト」や
‎「フィナンシャル･ ‎タイムズ」にも協力した 〝ＡＩ創薬の ダークサイド〞
〝ラジオラボ ４万種の殺害方法〞
‎ラジオラボからも ‎問合せがきた
‎私も視聴者だ
‎だが周りの反応は ‎炎上していった
〝恐ろしい〞
‎ツイートでは ‎‟最悪の状況だ”とか
〝サイテーだ〞
‎“なぜこんなことを？”だった
〝今までで１番 不吉な論文だ〞
〝オタクどもに 殺される〞
‎そして予想外の ‎場所に招待された
‎ホワイトハウス内で ‎記事について議論になり
‎僕らは緊急で召集された
‎このレベルの人と ‎話せるのは光栄なことだ
‎でも相手はホワイトハウス
‎国の頂点だ
‎オープンソースで ‎データセットをまとめ…
‎約６時間で ‎４万以上の分子が設計され…
‎パソコンの演算能力を ‎聞かれた
‎ごく一般的だと答えた
‎６年使ってる ‎標準的なマックだ
‎彼らは驚いてた
‎化学兵器の解明担当者や ‎政府機関の関係者は
‎この事態の深刻さを ‎理解していなかった
‎これは化学兵器のレシピ集だ
‎万が一 悪意のある者の ‎手に渡れば
‎恐ろしいことが起こる
‎我々は真剣に―
‎この技術の規制を ‎考える必要がある
〝モデルが正常に ロードされました〞
‎悪用されないよう ‎制約をかけるべきだ
‎もし殺人に ‎使われたらと考えると―
‎恐ろしいよ
ＡＩの倫理について 対処すべきなのは社会だ
技術者や研究者 数学者ではない
‎僕らが生み出す技術や ‎斬新なイノベーションを
‎どう使うかを考えるのは ‎社会の役割だ
〝アメリカ国防総省 ＡＩ倫理原則を採択〞
‎国防総省の発表では
‎〝戦場で殺害を指示するのは ‎人間だけだ”と
〝現状 武装した 無人兵器の殺傷能力は〞
〝人間の 操作でのみ発揮〞 ‎ロボットは人が殺せる
〝人間の 操作でのみ発揮〞
だが人間の指示が ある時だけだ
‎それは変わらない
‎彼らは技術の安全性を ‎保障してるが
〝ペンタゴンの 隠された記録から〞
‎だが米軍のドローン戦では ‎信頼できる結果が出てない
〝空爆の失敗が 明らかに〞
〝数十人のシリア市民を 殺害した空爆を〞
‎米軍のＡＩ活用の信頼性は
〝米国は どう隠蔽したか〞
‎その結果が物語ってる
‎国防総省は自律型兵器 ‎システムの活用を
‎禁止しない方針だ
‎軍が自律型兵器の ‎必要性を感じてなくても
‎より多くの決断を ‎機械に委ねる可能性もある
‎敵に負けないために
‎軍の意思とは違う判断さえ ‎自動化されるかもしれない
‎プーチンは“ＡＩを制する ‎者が世界を支配する”と
‎習近平はＡＩの開発は ‎中国が支配したい技術だと
‎はっきり明言している
‎これは技術競争になってる
‎危機対策を議論するのは―
‎当然のことだと思う
だがＡＩの優位性を 競う現実がある
‎そして中国やロシア ‎イランなどの敵国は
‎僕らのＡＩ論理に ‎合わせる気はないだろう
‎ＡＩ政策をめぐる ‎議論は増えている
‎だが僕はより多くの ‎リーダーに
‎“早く作れ”と言ってほしい
‎“さっさと開発しよう”って
‎ワシントンＤＣ
〝合衆国陸軍協会 年次総会 博覧会〞
‎“アメリカ陸軍”
‎合衆国陸軍協会が開催する ‎１年で最大の展示会だ
‎軍に製品や技術を ‎売り込むベンダーであれば
‎どこでも出展可能だ
‎ティンダル空軍基地では ‎24時間体制で
‎当社のロボット４台が ‎巡回してます
‎カメラからセンサーまで ‎何でも搭載できます
ロボットアームでも
ゴースト･ ロボティックス
顧客のニーズに 合わせられます
マイケル･スブハン
‎敵がＡＩを導入したら？
‎人間より速い思考と ‎反応をもつ兵器に
我々は 備えなければならない イスラエル･ エアロスペース･ インダストリーズ
我々は 備えなければならない
オーレン･ポレグ
‎人間の管理下のもとでの ‎敵の情報集めや
‎標的の監視などを ‎システムを訓練させている
〝シールドＡＩ〞
どうも 大佐
‎本日はどうも
‎世界一のＡＩパイロットと ‎自負しています
‎名前はハイブマインド
‎ドローンに搭載させて ‎建物内に入り込み
‎特殊部隊や歩兵部隊に ‎先駆けて探索できます
‎ＶＢＡＴに搭載すれば
‎何百というチームも作れます
‎台湾海峡であろうと
‎ウクライナでも ‎敵を阻止できます
‎期待してください
‎ありがとうございます
‎数年でＡＩパイロットは ‎普遍的になる
‎世界中の軍隊で ‎急速に普及するだろう
‎ルーマニア軍の ‎無人航空機システムは？
〝世界最大の ＡＩパイロットの開発〞
‎軍隊のハイテク化
〝世界最大の ＡＩパイロットの開発〞
‎これまで開発費に ‎５億ドルを投じてます
‎さらに10億ドルを ‎費やす予定です
‎だからこそアメリカで ‎最も開発に成功しています
‎いいね
‎これは武器化することも ‎できるのか？
‎それはまだです
‎でも将来的にはあり得ます
‎高知能を持つ ‎運搬機としても使えます
‎様々な機能を持った
‎なるほど
‎期待にはお答えします
‎10年後 この展示会は
‎ＡＩと自律型兵器が ‎主流になっているだろう
‎ＡＩや自律性を備えた ‎武力兵器は
‎そうでないものを支配し ‎破壊 崩壊させるだろう
‎馬が戦車に ‎立ち向かうようなものだ
‎もしくは剣と ‎マシンガンの対決だ
‎まったく勝ち目はない
‎戦場のあらゆる場面で ‎主力的存在になる
‎戦術レベルや戦略レベルも
‎人間が想像できない ‎スピードで上がる
‎指揮官は情報量に ‎すでに圧倒されている
‎衛星からの映像 ‎ドローンやセンサー
‎ＡＩのサポートで
‎指揮官は ‎より迅速に精査できる
‎的確な決断の手助けも
‎今後はＡＩが ‎戦争に必要な要素を考慮し
‎戦い方を決めてくだろう
‎戦略を考え…
‎勝つための ‎助言をするようになる
‎バージニア州 ‎サフォーク
‎“ロッキード･マーティン”
‎当社は国防総省の ‎顧客と同様に
‎ＡＩを指揮統制の重要な ‎技術基盤と捉えてます
‎拡散速度は平均で ‎毎秒２フィート
‎外周は約283ヘクタール
‎判断の不確実性は ‎防衛側にもあります
‎それは山火事が起こった時に
‎どう判断するかに類似します
‎ウォッシュバーン火災は ‎ワウォナの北
‎不完全な情報で ‎判断を迫られます
その中でＡＩは どう役立てるか？
ロッキード･マーティン ＡＩ部門ＶＰ
その中でＡＩは どう役立てるか？
ジャスティン･テイラー
その中でＡＩは どう役立てるか？
‎山火事は無秩序で―
‎非情に複雑だ
‎だから ＡＩを活用し ‎判断に役立てようとしてる
‎コグニティブ･ミッション･ ‎マネージャーは
‎空中から赤外線映像を ‎撮影するプログラムだ
‎それをＡＩアルゴリズムで ‎解析し
‎未来に起こる ‎火災を予測する
‎将来的には ‎このプログラムを使って
‎何千もの災害シナリオを ‎シミュレーションする
それで火災鎮圧の 優先度の高い地域への
ＡＩインテグレーション ダン ･ローダン
‎効率的な配備を ‎提案できるようになる
‎“このエリアをヘリで ‎空中から鎮圧しろ”とか
‎地上作業員への指示
‎ホースを持つ消防士を
‎優先度の高い場所に ‎誘導してくれる
‎そういう判断を迅速かつ ‎的確に行えるようになる
‎ＡＩは人間が環境変化に
‎対応するための ‎ツールになるでしょう
‎それはロッキード･ ‎マーティンが行ってきた
‎防衛事業に類似する部分が ‎数多くあります
‎すでに軍は ‎ＡＩや兵器システムを
‎単なる敵を攻撃し ‎殺傷する道具と見ていない
軍の意思決定そのものを ＡＩで統制するつもりよ
‎陸軍にはプロジェクト･ ‎コンバージェンス
‎海軍はオーバーマッチ
‎空軍には ‎戦闘管理システムがある
‎国防総省が考えてるのは
‎プロジェクトを連携させて ‎敵より速く動く方法だ
‎より優位になるために
‎もしＡＩ戦闘指揮官が ‎できれば その能力は
‎高ランクの大佐並みです
‎大きな部隊でも指示が出せ―
そこにあるすべての 兵器の動きを統制する
人間には 不可能なスピードで
‎私たちは70年間で
‎地球上で最も ‎精巧な軍隊を作り出した
‎今 その基盤システムの ‎コントロールを
‎アルゴリズムに委ねるべきか ‎決断に迫られてる
‎その決断をきっかけに
‎すべての軍事兵器が ‎起動する場合もある
‎何百という ‎ヒロシマが生まれるわ
‎今すぐ行動しないと
‎リスクを抑制するための ‎手段が狭まってくる
２０２１年９月27日 国連本部
‎午後は致死性を持つ ‎自律‎兵器システムがもたらす
国際的な安全保障上の 課題からです 〝議長〞
国連でも自律型兵器の 脅威について 〝書記〞
国連でも自律型兵器の 脅威について
〝ロシア連邦〞
議題に上がってる
〝アメリカ合衆国〞
ＡＩが人を攻撃する システム規制の検討も
技術者の間では コンセンサスは明確です
〝生命の未来研究所〞
自律型致死性兵器には 反対します
‎何年もの間 ‎自律型致死性兵器の問題を
‎米国は議論してきました
〝殺人ロボットが現実に 禁止する動きが活発化〞
‎安全保障に関する ‎共通の認識がある前提で
〝国連長官 ジュネーブ会議で〞
‎だけど簡単ではありません
〝殺人ロボットの 規制を要請〞
ある特定の国 特に軍事大国などは
先手を取りたがる
〝ロシアは国連に反論〞
‎敵を追い抜きたいがために
〝殺人ロボット開発を 禁止するのは認めない〞
‎全員の同意がなければ ‎問題は解決しない
〝米政府高官 殺人ロボット禁止を拒否〞
‎だが反対国は出てくる
〝米政府高官 殺人ロボット禁止を拒否〞
‎アメリカやロシアは
‎自律型兵器を禁止する ‎条約に反対してる
‎ＡＩをさらに強力にしようと ‎開発する人の数は―
‎数多くいるわ
‎一方 ＡＩの安全性を ‎考える人の数はというと―
‎それに比べるとかなり少数よ
‎でも楽観はしてる
‎生物兵器禁止条約の ‎ようなものを期待してる
‎冷戦中に締結された
‎ソ連と米国が緊張状態に ‎あったにもかかわらずね
‎生物兵器の開発は ‎自分たちの不利益だと
‎認識したのだと思う
‎世界の不利益になることも
‎軍備拡張競争は ‎安全より速さを優先する
‎しかし ある時点で
‎代償の方が大きくなる ‎危険性がある
‎我々は単独で ‎開発したものを―
‎その影響力を考えずに ‎世に出すのもしてはいけない
‎悲劇的大惨事は ‎起こしてはならない
‎ＡＩ競争で得られる ‎利益は莫大だ
‎多くの人は気づいていない
‎過去75年もの間 この世界が ‎安定した状態でいられるのは
‎優れた軍事力のおかげだと
‎そのためにも ‎米国と同盟軍は―
‎敵のＡＩより上を目指す
‎戦争に２位はない
中国は２０３０年までに ＡＩで世界一を目指し…
米国は競争に 負けている…
〝次の 宇宙開発競争はＡＩ〞
‎ＡＩの導入を ‎加速させることで
〝ＡＩ開発でアメリカは 中国に負ける？〞
‎軍事的優位性が確保できます
‎技術競争は ‎どんどん先に進む
‎不確かなのは ‎どこまで進むのかだ
‎我々が技術を支配するのか ‎その逆か？
‎やり直しはできない
‎いったん ‎解き放たれたものは―
‎元に戻すのはほぼ不可能よ
‎今 行動しなければ ‎間に合わない
‎すでに手遅れかも
‎日本語字幕：岩瀬 亜沙子