Downloaded from YTS.MX
Official YIFY movies site: YTS.MX
Я вважаю, що ШІ вражає.
Гаразд, утворюємо коло. Гарна побудова.
ШІ може викорінити бідність,
забезпечити нас новими ліками
та навіть зробити наш світ мирнішим.
Гарна робота.
Але на цьому шляху є так багато ризиків.
Завдяки ШІ ми створюємо нелюдський інтелект,
який дуже непередбачуваний.
У той час, коли він сильнішає,
де проведемо червоні лінії для ШІ —
яким чином хочемо його використовувати чи ні?
У самому епіцентрі цієї розмови —
зона військового застосування.
Поле битви перетворилося на область програмного й апаратного забезпечення.
Ціль захоплено…
У військових справжня «гонка розробки ШІ» із супротивниками — хто швидше.
Мені кінець.
Ми швидко рухаємося до світу, де не лише військові,
але й недержавні суб'єкти, приватні підприємства
чи навіть місцеві відділки поліції
зможуть застосувати цю зброю, яка може вбивати самостійно.
Чи поступимося ми рішенням позбавити життя на користь алгоритмів, комп'ютерного ПЗ?
Це одне з найактуальніших питань нашого часу.
І якщо не використовувати ШІ розумно,
він створює серйозний ризик для кожної людини на планеті.
НЕПІЗНАНЕ:
РОБОТИ-ВБИВЦІ
Чудова робота, хлопці.
Значно ширший кут об'єктива, ніж раніше.
Справді?
Видно значно більше даних.
Дуже круто.
У Shield AI ми створюємо пілота ШІ,
з підтримкою технології автономного керування ШІ
для літальних апаратів.
Коли ми говоримо про пілота ШІ,
маємо на увазі надання літакам вищого ступеня автономії.
Вони розв'язуватимуть проблеми самостійно.
«Нова» — автономний квадрокоптер,
що досліджує будівлі та підземні споруди, ідучи попереду
штурмових підрозділів,
щоб бути очима та вухами розвідників.
Ми помітили цілу купу покращень, відколи бачили його востаннє.
Працюємо над покращенням розвідки.
А саме над «ходінням» по поверхах.
Облетить усі кімнати, перш ніж перейти на другий поверх.
-Чудово. -Ми нещодавно внесли деякі зміни…
Багато людей питають мене,
чому штучний інтелект має величезний потенціал.
І я згадав про місії, які я виконував.
Провів сім років на флоті.
Я колишній «морський котик». Двічі відряджався до Афганістану,
один раз у театр Тихого океану.
У певні дні доводилося зачищати по 150 різних споруд чи будівель.
Ближній бій є однією з основних можливостей.
Ведення вогню на дуже близьких відстанях усередині будівель.
У тебе стріляють.
У будівлі можуть бути саморобні вибухові пристрої.
Це найнебезпечніше, що може бути для бійців сил спеціальних операцій
чи піхоти в зоні бойових дій.
Без винятків.
До кінця життя я буду вдячний за час служби на флоті.
У мене ціла колекція моментів і спогадів, які викликають емоції,
коли я про них згадую.
Вислів «за свободу треба платити» — став кліше, та я вірю в це на всі сто.
Я відчув на власному досвіді — свобода вимагає пожертви.
Вибачте.
Коли з твоїми побратимами трапляється щось погане:
поранення чи смерть —
це трагедія.
Знаєш, у тій праці, що виконуємо зараз,
мене мотивує можливість зменшити в рази
шанси на повторення.
Наприкінці 2000-х
у Міністерстві оборони сталося пробудження,
яке можна було б назвати випадковою робототехнічною революцією.
Ми розгорнули тисячі повітряних і наземних роботів в Іраку та Афганістані.
Коли мені запропонували в адміністрації Обами стати заступником міністра оборони,
спосіб ведення війни точно змінювався.
Роботів використовували там, де раніше працювали люди.
Перші робокомплекси керувалися дистанційно.
Людина кермує ними, наче машиною на дистанційному керуванні.
Спочатку їх використовували для пошуку саморобних вибухових пристроїв,
і якщо бомба підривалася, робот вибухав.
Мовляв: «Це облом. Гаразд, тягни наступного робота».
В Афганістані був дрон «Хижак»,
і він став надзвичайно корисним інструментом нанесення авіаударів.
З часом військові планувальники почали роздумувати:
«Для чого ще можна використовувати роботів? І в якому напрямку?»
Найпоширенішим став тренд до більшої автономії.
Автономна зброя — це зброя, яка приймає рішення самостійно,
майже без втручання людини.
Тож вона має незалежну здатність та самостійне керування.
Чи зможе вбити, залежить від того, озброєна вона чи ні.
Коли вся система стає більш автономною,
стрілка годинника починає рухатися швидше.
І коли ви реагуєте швидше, ніж ваші супротивники, —
це надзвичайно велика перевага в бою.
Приклад зосередження на автономії —
надстійкі розвідувальні системи.
Систем, які зчитують і реагують залежно від оточення,
і приймають рішення, як маневрувати в такому середовищі.
Об'єкт, де ми зараз працюємо, початково побудували як кіностудію,
яку перетворили
на реалістичне військове середовище для навчань.
Ми тут, щоб оцінити наш пілот ШІ.
Місія шукати загрози. Йдеться про здійснення зачистки.
Він може вирішувати, як розв'язати цю проблему.
Ми називаємо це «фатальною воронкою». Ти маєш пройти крізь двері.
Саме там ми найвразливіші.
Ця краща.
«Нова» дає нам знати, чи за дверима стоїть стрілець,
чи за ними ховається родина?
Це дозволить приймати кращі рішення і запобігати втратам.
Ми використовуємо датчики бачення,
щоб зрозуміти, як виглядає середовище.
Це багатоповерхівка.
Ось наш план.
Поки я досліджував, ось що і де я бачив.
Детектор людини. Це вражає.
Інший із датчиків на борту «Нова» — тепловий сканер.
Якщо фіксує 37 градусів, то це, ймовірно, людина.
Люди вважаються загрозою, доки не вирішено інакше.
Йдеться про усунення туману війни, щоб приймати кращі рішення.
І коли ми дивимося в майбутнє,
ми збираємося створювати команди автономних літальних апаратів.
Апарати з автокеруванням,
що отримали людську команду:
«Долетіти з пункту А в пункт Б».
Наші системи просять не долетіти з точки А в точку Б,
а досягти мети.
Більше схоже на: «Мені потрібне молоко».
А тоді робот мав би вирішити, до якого магазину йти,
міг би знайти молоко і привезти його назад.
Ба більше, можливо,
доречніше описати це так: «І завжди тримай запас у холодильнику».
Отже, це рівень інтелекту, який розуміє: що нам потрібно, і як ми це робимо.
І якщо є виклик, проблема чи питання — здатен зрозуміти, як їх вирішити.
Коли я вирішив піти з флоту, я подумав:
«Гаразд. Що далі?»
Я виріс в Інтернеті, я бачив, чим він став.
Частина висновку, якого я дійшов:
Штучний інтелект у 2015-му —
те саме, що Інтернет у 1991-му.
ШІ був готовий «злетіти»
і стати найпотужнішою технологією у світі.
Працюючи з ним щодня, я бачу прогрес.
Але для багатьох людей згадка про «ШІ»
скеровує їхні думки одразу до Голлівуду.
Пограємо в гру?
Як щодо Глобальної термоядерної війни?
Добре.
Коли люди думають про штучний інтелект,
їм спадає на думку фільм «Термінатор». Або — «Я робот».
Деактивувати.
Хто я?
Або «Матриця».
Судячи з науково-фантастичних фільмів,
як ти знаєш, що я людина, а не комп'ютерний штучний інтелект?
Репліканти, як будь-які машини, — це або користь, або небезпека.
Але є багато примітивних ШІ,
які все ще змінять наше життя
задовго до початку епохи роботів, що думають і говорять.
Роботи вже тут. Роботи приймають рішення.
Революція роботів розпочалася,
просто це не схоже на те, що всі уявляли.
Термінатор — інфільтратор. Частково людина, частково машина.
Ми говоримо не про робота-вбивцю в стилі Термінатора.
Ми говоримо про ШІ, який може виконувати людські завдання.
Але питання в тому, чи надійні ці системи.
Нові подробиці учорашньої смертельної аварії позашляховика «Убер».
Компанія створила чат-бот на основі штучного інтелекту.
«Вона» прийняла расистський тон.
Двадцять шість законодавців штату помилково назвали злочинцями.
Питання в тому, чи зможуть вони впоратися зі складністю реального світу.
КЕМБРІДЖ МАССАЧУСЕТС
Фізичний світ досить складний.
У ньому є багато невідомого,
що значно ускладнює навчання систем ШІ.
Саме тут почали з'являтися системи машинного навчання.
Машинне навчання — це великий прогрес,
бо це означає, що нам не треба вчити комп'ютери всього.
Ви даєте комп'ютеру мільйони частин інформації,
і машина починає вчитися.
Це можна застосувати до всього.
Наш проєкт «Робопес» намагається показати,
що наш пес може ходити по різних теренах із різноманітним рельєфом.
Аби навчитися ходити, людям знадобилися мільярди років еволюції,
але пристосування до різного рельєфу вимагає багато розумових ресурсів.
Постає питання до роботизованих систем,
чи адаптуються вони, як тварини й люди?
Завдяки машинному навчанню ми збираємо безліч даних для симуляції.
Симуляція — це цифровий близнюк реальності.
Ми можемо бачити багато прикладів цієї реальності на різних комп'ютерах.
Вона відтворює тисячі дій у симуляції.
Земля, з якою вони стикаються, має різну слизькість
і різну м'якість.
Ми беремо весь досвід цих тисяч роботів
із симуляції і завантажуємо їх у справжню роботизовану систему.
Сьогодні ми перевіримо, чи зможе робот адаптуватися до нових умов.
Коли робот долав пінополіуретан,
його ноги тупали по поверхні.
І навпаки, на диференційованій поверхні,
щоб не ковзати, він намагався відрегулювати рух.
Тоді саме раптом і розумієш:
«Ось, у чому полягає машинне навчання».
Уважаємо, що Робопес може бути корисним у ліквідації наслідків стихійних лих,
коли необхідно маневрувати поміж різними типами рельєфу.
Або доручити цим собакам спостереження в суворих умовах.
Але більшість технологій стикаються з проблемою,
що приносять користь, але й шкодять.
Завдяки ядерним технологіям можна виробляти електроенергію,
але також, що погано, створювати атомні бомби.
Це так звана «проблема подвійного призначення».
Вогонь — подвійно призначення.
Людський інтелект — подвійне призначення.
Немає сенсу казати, що ШІ також має подвійне призначення.
Дуже важливо думати про ШІ у контексті,
адже чудово мати пошуково-рятувального робота,
який допоможе знайти когось після сходження лавини,
але того ж робота можна озброїти.
Коли бачиш, як компанії озброюють робототехніку,
частина тебе божеволіє.
Тоді ми усвідомлюємо: коли використовуємо наші технології,
це саме те, що станеться.
Це справжня трансформаційна технологія.
Це системи озброєння,
які можуть кардинально змінити нашу безпеку.
Наразі ми не впевнені, що машини зможуть відрізнити
цивільних осіб від учасників бойових дій.
На початку війни в Афганістані я був снайпером загону рейнджерів,
шукав бойовиків, які перетинали кордон.
І вони послали дівчинку розвідати нашу позицію.
Та в нас не з'явилося ідеї застрелити цю дівчинку.
За законами війни це було б законно.
Вони не встановлюють вік ворожих воїнів.
Якби ви створили робота, який би ідеально відповідав законам війни,
він би застрелив дівчинку.
Як робот розрізнить, що законне, а що правильне?
Коли йдеться про безпілотну війну,
вона зменшує ризики для життя американських солдатів
та береже їхню психіку,
але завдає більшої шкоди цивільному населенню Афганістану,
Іраку та Сомалі.
Я б звернувся до тих, хто підтримує застосування ШІ у дронах:
«Що, якби по інший бік опинилося ваше поселення?»
ШІ — це двосічний меч.
Його можна використати на благо, зазвичай ми так і робимо,
чи змінити положення перемикача,
і тоді технологія набуває вбивчого потенціалу.
Я клінічний фармаколог.
У мене є команда людей,
які використовують штучний інтелект для пошуку ліків
від хвороб, які не привертають жодної уваги.
Таким чином відкривали нові препарати — брали вже наявну молекулу
і коригували її, щоб отримати інший препарат.
А тепер ми розробили ШІ, який може генерувати нам мільйони ідей,
мільйони молекул,
і це відкриває стільки можливостей
у лікуванні раніше невиліковних хвороб.
Але є й темна сторона, на яку я б ніколи не думав,
що колись перейду.
Усе почалося, коли мене запросила
організація зі Швейцарії під назвою «Шпіц Лабораторі»,
для виступу з презентацією про потенційне зловживання ШІ.
Шон щойно надіслав мені листа з ідеями,
як саме можна зловжити нашим штучним інтелектом.
І замість запиту до нашої моделі щодо створення лікарських молекул,
якими можна лікувати хвороби,
подивимося, чи зможемо створити найбільш токсичні молекули.
Я хотів перевірити, чи можна використати ШІ для створення смертоносних молекул?
Якщо чесно, ми думали, що ідея провалиться,
адже ми тільки й робили, що з нуля — одиницю.
Інверсія, замість того, щоб позбутися токсичності,
тепер ми її шукаємо.
І все.
Поки я був удома, комп'ютер працював.
Тобто він продовжував генерувати тисячі молекул,
а від нас очікувалося хіба що натиснути на «старт».
Наступного ранку на моєму комп'ютері з'явився файл,
що містив близько 40 000 молекул,
які потенційно були
найтоксичнішими серед відомих людству.
Волосся на моїй шиї стало дибки.
Я був шокований.
Комп'ютер згенерував десятки тисяч ідей
нової хімічної зброї.
Очевидно, у нашому наборі даних є молекули, що схожі на VX, є аналогами VX
або ж і є VX.
VX — найпотужніша хімічна зброя у світі.
За новими даними поліції
нападниці, які скоїли в аеропорту замах на вбивство Кім Чен Нама,
застосували смертельний нервово-паралітичний газ — VX.
Він може спричинити смерть через асфіксію.
Це дуже потужна молекула,
і більшість з цих молекул були ще смертельніші за VX.
Багато з них, наскільки ми знаємо, були взагалі невідомими.
І коли ми з Шоном зрозуміли це, то спитали себе: «Що ж ми накоїли?»
Я швидко зрозумів, що ми відкрили скриньку Пандори,
я сказав: «Годі. Більше нічого не роби. Ми закінчили.
Лише зроби мені необхідні слайди для презентації».
Коли ми проводили цей експеримент, я думав: «Що найгірше може статися?»
Але тепер я кажу: «Ми були наївними. Ми були дуже наївними».
Найбільше лякає те, що будь-хто може це повторити за нами.
Лише натиснути на перемикач.
Як нам контролювати цю технологію,
перш ніж вона стане потенційно руйнівною?
У центрі дискусій про штучний інтелект
і те, як ми використовуємо його в суспільстві, —
перегони між силою, якою ми наділяємо технології,
і мудрістю, з якою маємо керувати ними.
Існують очевидні моральні та етичні наслідки —
це як наділити наші смартфони правом
прийняти моральне рішення забрати життя.
Співпрацюю з Інститутом «Майбутнє життя» — спільнотою вчених-активістів.
Ми намагаємося показати,
що є й інший бік прискорення й ескалації автоматизації.
Але ми намагаємося зробити так, аби технології, які ми створюємо,
застосовувалися безпечно й етично.
Поговорімо про правила бойових дій
і кодекси поведінки при використанні ШІ в наших системах озброєнь.
Бо зараз ми бачимо польові технології,
які можуть убивати самостійно.
У 2021 році ООН опублікувала звіт про можливе застосування
на полі бою в Лівії смертоносної автономної зброї.
Група ООН повідомила про дрон, який у громадянській війні в Лівії
був запрограмований атакувати цілі в автономному режимі.
Якщо звітність ООН точна,
це стане переломним моментом для людства.
Бо це випадок застосування,
коли ШІ, а не людина, прийняв рішення позбавити життя.
Ви бачите сучасну автономну зброю,
яку почали застосовувати в різних місцях по всьому світу.
Були повідомлення з Ізраїлю.
Азербайджан застосував автономні системи для пошуку і наведення на ППО Вірменії.
Він годинами може літати над полем битви
у пошуках цілі для самостійного враження,
а потім улучає в них без утручання людини.
І ми нещодавно бачили
ці різні відео, які викладають в Україні.
Невідомо, у якому режимі вони працювали.
Чи людина була в курсі, обирала цілі для атаки,
чи машина робила це самостійно?
Але точно настане момент у часі,
будь-то в Лівії, в Україні чи деінде,
коли машина сама вирішуватиме, кого вбивати на полі бою.
Машини, що застосовують смертельну зброю проти людей
без утручання людини,
політично неприйнятні, морально огидні.
Чи міжнародна спільнота
впорається із цими викликами —
це великий знак питання.
Якщо дивитися в майбутнє, навіть через кілька років,
воно виглядає дуже страшно,
ураховуючи, що обсяги капіталу та людських ресурсів,
залучених до посилення ШІ
та його різноманітного застосування,
неосяжні.
АРЛІНГТОН ВІРДЖИНІЯ
Боже мій, цей хлопець.
Він знає, що не переможе.
Мене надихає, коли я бачу, як ШІ долає різні проблеми.
Запрошуємо на Заупокійну літургію.
І ти можеш застосувати ту саму тактику, техніку, процедури до справжніх літаків.
Гарна гра.
Гаразд, гарна гра.
Мене дивує,
що люди продовжують робити заяви про те, на що ШІ не здатен. Розумієте?
«Ніколи не переможе чемпіона світу із шахів».
Комп'ютер IBM повернувся у другій грі
матчу із чемпіоном світу з шахів Гаррі Каспаровим.
Каспаров здався!
Коли я бачу щось, чого не розумію,
мені стає страшно. І це й було дещо, чого я не розумію.
А тоді люди казали:
«Він ніколи не переможе чемпіона світу з Ґо».
Я вважаю, що людська інтуїція все ще занадто розвинена для ШІ,
щоб так її наздогнати.
Ґо — одна з найскладніших з точки зору навчання ігор,
бо, якщо порахувати, кількість можливих ходів на дошці,
то їх більше, ніж атомів у всесвіті.
У Google була команда DeepMind,
яка створила програму AlphaGo,
щоб перемогти найкращих гравців світу.
Вітаємо з перемогою…
-AlphaGo. -AlphaGo.
Комп'ютерна програма щойно перемогла майстра 9-го дану.
А потім DeepMind обрали StarCraft своїм наступним викликом для ШІ.
StarCraft, мабуть, найпопулярніша стратегічна гра всіх часів.
AlphaStar стала відомою, коли перемогла чемпіонів світу.
AlphaStar ущент розбиває Безсмертну Лігу.
Знаєш що?
У цій грі профі не переможуть.
Це якось смішно.
Професійні геймери казали: «Я б не обрав таку тактику.
Я б ніколи не обрав таку стратегію. Це щось нелюдське».
Це був, мабуть, момент «бінго» для мене.
Я зрозумів, що цей час настав.
Є важлива технологія і можливість щось змінити.
Я отримав лише досвід спецпризначенця у ближньому бою,
але один з моїх хороших друзів, пілот F-18, сказав мені:
«У пілотів винищувачів така ж проблема.
Вони глушать зв'язок.
Численні ракетні установки "земля-повітря" є справжньою загрозою».
Уявіть, якби у нас був винищувач, яким командував ШІ.
Вітаємо на випробуваннях AlphaDogfight. Ми за кілька хвилин до першого півфіналу.
В Агентстві перспективних досліджень оборони DARPA
бачили AlphaGo й AlphaStar,
і цю ідею змагання AlphaDogfight утілили в життя.
Ось що хочеш бачити у своїх пілотів. Це схоже на людські «собачі бої».
Собачі бої — це двобої серед винищувачів.
Можна вважати це боксерським поєдинком у небі.
Може, люди бачили фільм Top Gun.
Зможемо втекти від них?
Та не від ракет і куль.
Тоді «собачий бій».
Навчання із «собачих боїв» може тривати вісім чи десять років.
Збудувати такий штучний інтелект — винятково складний виклик.
АРЛІНГТОН ВІРДЖИНІЯ
Попередні підходи до автономії та «собачого бою» були крихкими.
Можливо, машинне навчання — це спосіб розв'язати цю проблему.
Спочатку ШІ нічого не знав про світ, у якому опинився.
Він не знав, що літає і що таке «собачі бої».
Він не знав, що таке F-16.
Він знав лише про можливі дії,
і він почав ці дії досліджувати.
Синій літак тренувався лише короткий проміжок часу.
Видно, як він хитається вперед і назад,
літає досить хаотично та досить далеко від супротивника.
З перебігом бою,
як бачимо, синій починає формувати свій ігровий план.
Його позиція атаки покращується.
Іноді алгоритм навчання казав:
«Ось печиво. Продовжуй у цьому ж дусі».
Наявні потужності комп'ютерів дозволять навчати агентів інтенсивно
й паралельно.
Як баскетбольна команда.
Замість постійної гри в одній команді
ми мандруємо світом, граючи з 512 різними командами,
та з усіма одночасно.
Станемо крутими та швидкими.
Ми змогли провести безперервну симуляцію
і отримати десять років тренування пілота за десять місяців.
Ми пройшли від ледве контрольованого літака
до холоднокровного вбивці.
На тренуванні ми змагалися лише з іншим штучним інтелектом.
Але кінцевою метою була боротьба безпосередньо з людьми.
Мене звати Майк Бенітес,
я підполковник ВПС США.
Я на службі близько 25 років.
У мене 250 бойових завдань,
і я випускник «школи асів» ВПС,
щось на зразок Top Gun.
Я ніколи не літав проти ШІ.
Я дуже хочу побачити, як добре я впораюсь.
А тепер набір атак «ніс до носа» на висоті двох кілометрів.
До бою.
Він уже зник.
Це справді дуже цікаво,
-Мертвий. -Підбив. Ідеальна перемога.
Гаразд, другий раунд.
Штучний інтелект маневрує з такою точністю,
що я просто не встигаю за ним.
Прямо на приціл.
Тепер тебе нема.
Підбив!
Досі виграє.
ШІ ніколи не боїться.
У ШІ немає притаманної людині емоційної складової.
Однією з найцікавіших стратегій нашого ШІ
став «постріл у чоло».
Зазвичай люди воліють стріляти ззаду,
бо їм важко вас позбутися.
Не стріляють «в обличчя» під час атаки «хто кого» в лоб.
Коли ми прямуємо в лоб із 900 до 150 метрів,
усе стається миттєво.
Ризик зіткнення високий, тому люди не намагаються.
ШІ не боятиметься смерті, хіба що буде така команда.
Здається, ніби я воюю проти людини,
яка має безвідповідальне ставлення до безпеки.
Він не виживе.
Йому бракує часу.
Добраніч.
Мені кінець.
Прикро розуміти,
що я навіть не найкращий для цієї місії,
і ця річ одного дня зможе мене замінити.
Знову шостий рівень.
Зсув на тисячу.
Перемога з пілотом ШІ за штурвалом винищувача
є безжальною, безкомпромісною.
Це не просто перемога в широкому сенсі.
Це: «Гаразд, як це встановити на літак?» Настільки вона потужна.
Цілком реально, що ШІ пілотуватиме F-16,
і це станеться «не за горами».
Якщо ви почнете бій проти пілота ШІ, який має 99,99999% виграшу,
у вас не буде жодного шансу.
Якщо один пілот ШІ непереможний,
то чого може досягти команда з 50 чи 100,
чи 1 000 пілотів ШІ.
«Роїння» — це команда дуже розумних літаків, які співпрацюють між собою.
Вони обмінюються інформацією про те, що робити, як вирішити проблему.
«Роїння» змінить правила гри й трансформує наші потужності
та потужності союзників.
ЛІНКОЛЬН НЕБРАСКА
Ціль визначено, і дрони стежать за нею.
Гаразд, тепер приземлення.
Першочерговою метою наших досліджень роїння
є розгортання великої кількості дронів
над важкодоступними чи небезпечними теренами.
Дослідницька лабораторія армії США підтримує саме цей проєкт.
Якщо хочеш знати, що там,
але туди важко дістатися, або це дуже велика територія,
тоді розгортання рою — цілком природне розширення зони охоплення
і збору ключової для місії інформації.
Отже, зараз, коли ми розгортаємо рій,
ми даємо єдину команду — відстежити об'єкт, що нас цікавить.
Потім дрони вирушають і роблять усе самостійно.
Штучний інтелект дозволяє роботам рухатися разом як рою
децентралізовано.
У природі рої, як ми бачимо,
не мають «боса» — головної тварини, яка б указувала їм, що робити.
Поведінка виникає у кожної тварини
за простими правилами.
І з цього виростає нова колективна поведінка, яку ви бачите.
Найкраще у природних роях —
це їхня граціозна здатність рухатися.
Вони ніби створені, щоб бути частиною цієї групи.
В ідеалі, ми б хотіли, щоб наш рій дронів
був схожий на рій у природі,
коли група приймає рішення колективно.
Інше, що нас надихає, —
це надійність і витривалість.
Цей рій не знижуватиметься,
якщо хоч одна тварина не робитиме те, що має.
Навіть якщо один з агентів випаде,
або не зможе виконати завдання,
рії рухатиметься далі.
Зрештою, це те, що ми хотіли б отримати.
У нас є така потреба у бойових сценаріях для ідентифікації літаків ворога,
і колись потрібна була одна людина, яка керувала одним роботом.
Зі збільшенням автономії,
сподіваюся, побачимо, як велику кількість роботів
контролює дуже мала кількість людей.
Не бачу перешкод для досягнення тисячного рою,
адже кожен агент діятиме на свій розсуд,
а можливості безмежні.
Ми можемо масштабувати навчання…
Ми вже досить давно працюємо над симуляцією роїння,
і настав час використати це у справжньому польоті.
Ми керуватимемо трьома роботами одночасно через мережу,
а потім додаватимемо нові можливості.
Ми хочемо перевірити це на менших системах
і перенести концепції на більші системи, як реактивний винищувач.
Ми часто обговорюємо,
як передати взводу бойову силу батальйону?
Чи батальйону — бойову силу бригади?
Це вирішує роїння.
Розкривши силу роїння,
вийшов новий засіб стратегічного стримування
військової агресії.
Гадаю, найцікавіше — це кількість юнаків і дівчат,
яких ми врятуємо, якщо зробимо все правильно.
Ми використовуємо машини,
а не людські життя.
Дехто вважає, що автономна зброя зробить війну точнішою
і більш гуманною,
але насправді це важко передбачити —
як автономна зброя може змінити війну заздалегідь.
Це як винахід кулемета Гатлінга.
Гатлінг був винахідником,
він бачив багатьох поранених у Громадянській війні,
і хотів знайти спосіб зробити війну гуманнішою.
Зменшити кількість загиблих на війні солдатів,
зменшивши кількість солдатів у битві.
Тому він винайшов кулемет Гатлінга із автоматичним обертанням дула,
який автоматизував ведення вогню.
Вогнева потужність зросла у 100 разів.
Часто спроби зробити війну точнішою та гуманнішою
мають протилежний ефект.
Зважте наслідки удару безпілотником у сільській місцевості —
місцеве населення виступає проти США,
проти місцевої влади. Нібито хороших хлопців.
І помножте це на 1 000.
Створення системи озброєнь,
яка дешева, масштабована і не потребує людей-операторів,
кардинально змінює фактичні бар'єри конфліктів.
Я не можу заснути, коли думаю про світ, охоплений війною,
і нас більше не обтяжують людські та фінансові витрати,
бо ми настільки відсторонилися від
життів, які будуть утрачені.
Це все мене переслідує.
Мені потрібен приклад зловживання штучним інтелектом.
Непередбачувані наслідки цього простого експерименту
зайшли надто далеко.
ШІ У РОЗРОБЦІ ЛІКІВ: НЕ ЗАВДАТИ БІЛЬШОЇ ШКОДИ
Коли я виступив Із презентацією про токсичні молекули, створені ШІ,
авдиторія була шокована.
П'ЯТЬ ТИСЯЧ СПОЛУК ВІДОМІ АНАЛОГИ VX
Наступне рішення було, чи публікувати цю інформацію.
З одного боку — хочеш попередити
світ про такі можливості, та з іншого —
не хочеш подавати ідею, якщо її ще не було.
Ми вирішили опублікувати,
щоб знайти способи мінімізувати зловживання цим типом ШІ,
до їхньої появи.
ПОДВІЙНЕ ВИКОРИСТАННЯ ШІ У РОЗРОБЦІ ЛІКІВ
ЯКІ ШТУЧНІ ТЕХНОЛОГІЇ ДЛЯ РОЗРОБКИ ЛІКІВ
Реакція широкого загалу була шоковою.
Ми бачимо статистику з кількістю відвідувачів сторінки.
Нам пощастить, якщо статті, які ми зазвичай пишемо,
зберуть декілька тисяч переглядів за період року або навіть років.
За тиждень прочитали 10 000 людей.
Потім стало 20 000, потім — 30 000, потім — 40 000,
і в нас було до 10 000 людей на день.
Ми були в «Економіст», «Файненшл Таймс».
Радіолаб, вони зв'язалися. Я чув про радіолаб!
Але потім реакція вийшла з-під контролю.
Коли бачимо ці твіти, це як: «О Боже, чи зробили ще гірше?»
Навіщо вони це зробили?
А потім ми отримали запрошення, якого я не очікував.
У Білому домі статтю жваво обговорювали,
і хотіли терміново поговорити з нами.
Звісно, для мене велика честь
розмовляти з людьми такого рівня.
Але тебе вражає блискавка:
«Боже, це Білий дім. Бос».
Йшлося про поєднання наборів даних із відкритим кодом.
Приблизно за шість годин модель змогла згенерувати понад 40 000…
Вони питали, яка потужність знадобилося для обчислень,
ми сказали: «Нічого особливого».
Буквально звичайний шестирічний Мак.
І це їх вразило.
Люди, які відповідають за хімічну зброю,
й урядові агенції не здогадувалися про цей потенціал.
У нас є кулінарна книга, щоб зробити цю хімічну зброю,
і в поганих руках зловмисника
вона може жахати.
Люди мають дослухатися,
а ми мусимо зробити кроки до регулювання технології
або обмежити можливість зловживання нею.
Бо потенціал смертельності
вражає.
Питання етики ШІ значною мірою вирішується суспільством,
а не інженерами, технологами чи математиками.
Кожна технологія, яку ми впроваджуємо, кожна інновація
підпадає під контроль суспільства, як маємо їх застосовувати.
Зараз Міністерство оборони каже:
«Останню, кого ми вб'ємо
на полі бою — людину».
Машина може вбити,
але лише за наказом людини-оператора,
а я не бачу, щоб це змінилося.
Вони запевняють нас, що ця технологія буде безпечною.
Але військові Сполучених Штатів не мають надійної репутації
у війні дронів.
Тому, коли справа доходить до довіри американським військовим із ШІ,
послужний список говорить сам за себе,
Політика Міноборони США щодо використання автономії у зброї
не забороняє жодну систему зброї.
Навіть якщо військовим не потрібна автономна зброя,
ми бачимо, як військові передають усе більше рішень машинам,
щоб утримувати темп конкуренції.
Це може змусити військових автоматизувати рішення,
які їм не потрібні.
Путін сказав: «Той, хто керує ШІ, керуватиме світом».
Президент Сі дав зрозуміти, що ШІ — одна з пріоритетних технологій,
у якій Китай хоче домінувати.
Ми точно змагаємося за технології.
Люди говорять про бар'єри,
і я вважаю, що люди мають це робити.
Але існують справжні перегони за панування в області ШІ.
І наші супротивники, чи то Китай, чи то Росія, чи то Іран,
не будуть роздумувати про те, що наша політика говорить про ШІ.
Ми чуємо набагато більше розмов про політику щодо ШІ,
та я б хотів, аби більше лідерів вели розмову:
«Як швидко можемо це збудувати?
Зробимо все, що треба, і побудуємо його».
ВАШИНГТОН, ОКРУГ КОЛУМБІЯ
ААСША: ЩОРІЧНІ ЗБОРИ І ВИСТАВКА ВАШИНГТОН
АРМІЯ США
Ми на найбільшій цього року виставці Асоціації армії США.
По суті, будь-який постачальник, який продає товар чи технологію армії,
буде виставляти товар.
На базі ВПС Тиндалл є чотири наших роботи,
які патрулюють базу цілодобово й без вихідних.
Ми можемо додати все: від камер до сенсорів, усе що завгодно.
Маніпулятори. Знову ж таки, щоб виконати місію, яку має замовник.
А якщо ваш ворог запровадить ШІ?
Бойову систему, яка думає швидше за вас,
реагує швидше, ніж людина? Треба підготуватися.
Ми навчаємо наші системи збирати розвіддані про ворога,
нищити ворожі цілі під контролем ланцюга вбивств людьми.
-Так, генерале. -Як справи?
Добре, сер. Як справи?
Скажу лише, що ніхто не інвестує в пілота ШІ більше.
Назва пілота ШІ — Hivemind.
Ми застосували його до квадрокоптера «Нова». Влітає у будівлі,
досліджує їх раніше сил спецоперацій
та піхоти.
Застосовуємо Hivemind до «V-BAT»,
тож я мрію про сотні таких команд.
Чи то через Тайванську протоку,
чи то в Україні, для стримування ворога.
Тож я дуже радий.
-Гаразд. Дякую. -Тож дякую, генерале.
Пілоти ШІ мають бути всюдисущими, і це має статися до 2025–2030-х років.
Його швидко приймуть військові по всьому світу.
Що ви робите з румунськими військовими, безпілотник?
Високі технології в армії.
Ми витратили пів мільярда доларів на створення пілота ШІ.
Та ще мільярд доларів протягом наступних п'яти років.
Це головна причина, чому ми рекордно виграємо в США.
Непогано.
Це вражає. То вам удалося озброїти його?
Він ще не озброєний.
Поки що ні. Але так, у майбутньому.
Наші клієнти уявляють вантажівку. Ми — розумну вантажівку,
яка здатна на багато чого.
-Дякую, друже. -Так.
Я неодмінно зв'яжуся з вами.
За десять років ви помітите,
що на ринку пануватимуть ШІ та рішення з автономії.
Автономні сили, які підтримуються ШІ,
будуть панувати над силами та знищувати сили без такої складової.
Це буде еквівалент коней, що йдуть проти танків,
мечоносців — проти кулеметів.
Це навіть не можна буде порівняти.
ШІ широко й повсюдно застосовуватиметься в усіх аспектах війни:
на тактичному рівні,
стратегічному рівні,
що працює на швидкості, яку люди не можуть уявити.
Командири вже переповнені завеликим обсягом інформації.
Знімки із супутників, дронів і сенсорів.
ШІ також уміє
допомогти командиру швидше зрозуміти, що відбувається.
А потім: «Які рішення я маю прийняти?»
Штучний інтелект урахує всі чинники,
які визначають спосіб ведення війни,
розробить стратегію…
і надасть рекомендації, як виграти битву.
САФФОЛК ВІРДЖИНІЯ
«ЛОКХІД МАРТІН» ЦЕНТР З ІННОВАЦІЙ
Ми у «Локхід Мартін», як і наш клієнт — Міноборони,
розглядаємо ШІ як ключову технологію, що дає змогу
управляти і керувати.
Швидкість поширення в середньому 0,6 метра на секунду.
Периметр — близько 283 гектарів.
Туман війни — це реальність з точки зору оборони,
яка має паралелі й у середовищі,
а рішення потрібні й у випадку пожеж.
Пожежа у Вошберні на півночі міста Вавона.
Треба приймати рішення на основі недосконалих даних.
Тож як ШІ допоможе нам у тумані війни?
Лісові пожежі дуже хаотичні.
Вони дуже складні,
тому ми працюємо над використанням штучного інтелекту
для прийняття рішень.
Менеджер когнітивної місії — наша програма,
що знімає інфрачервоне відео,
а потім обробляє його за допомогою наших алгоритмів ШІ,
щоб передбачити майбутній стан пожежі.
Коли ми рухаємося в майбутнє,
Менеджер когнітивної місії використає симуляцію,
запустить сценарії на тисячі циклів,
щоб рекомендувати найефективніший спосіб використати ресурси,
щоб придушити важливі зони вогню.
Це буде: «Зробити повітряне придушення за допомогою Firehawk».
«Узяти наземні бригади зачистки,
вогнеборців зі шлангами
і перекинути у місце з найвищим пріоритетом».
Ці рішення можна формувати швидше
й ефективніше.
Ми вважаємо ШІ унікальним, що дозволяє людям
орієнтуватися у мінливому середовищі.
Є багато паралелей з тим,
до чого ми звикли в «Локхід Мартін» з точки зору оборони.
Військові більше не говорять про просте використання ШІ
і окремих систем озброєння для наведення та наказів про враження цілей,
але про інтеграцію ШІ
у військову архітектуру прийняття рішень.
В армії є великий проєкт «Конвергенція».
На флоті є «Перевершення».
У ВПС є Вдосконалена Система Управління Боєм.
Міноборони намагається з'ясувати:
«Як зібрати всі ці частини докупи,
щоб ми могли діяти швидше, ніж наш ворог
і отримати справжню перевагу?»
Бойовий менеджер ШІ — це високопоставлений генерал,
який може керувати битвою.
Допомагати віддавати накази великій кількості сил,
координувати дії всіх видів озброєння
із недосяжною для людини швидкістю.
Ми провели останні 70 років,
будуючи найскладніші військові сили на планеті,
і зараз ми вирішуємо, чи хочемо поступитися контролем
над інфраструктурою алгоритму, програмному забезпеченню.
Наслідки цього рішення можуть
задіяти повну міць наших військових арсеналів.
Це не одна Хіросіма. Це сотні Хіросім.
Настав час діяти,
бо вікно стримування ризику швидко закривається.
Сьогодні ми розпочнемо з викликів міжнародній безпеці
з боку новітніх технологій
в області автономних систем летального озброєння.
В ООН ведуться розмови щодо загрози
летального автономного озброєння
і нашої заборони систем із ШІ, здатних розпізнавати й вибирати людей.
Консенсус між технологами очевидний і глибокий.
Ми проти автономної зброї, націленої на людей.
Багато років країни підтримують дискусію
щодо автономних летальних систем.
Це про спільне почуття безпеки.
Але, звісно, це нелегко.
Деякі країни, особливо провідні військові держави,
хочуть бути завжди попереду,
щоб обігнати своїх супротивників.
Проблема в тому, що всі мають погодитися, щоб щось зробити.
Принаймні одна країна буде проти,
а США й Росія ясно дали зрозуміти,
що виступають проти Договору про заборону автономної зброї.
Коли ми уявимо кімнату людей, які працюють над посиленням ШІ,
забракне місця через натовп.
Коли ми уявимо кімнату людей, які дбають про безпечне використання ШІ,
у кімнаті буде повно вільних місць.
Але я все ж оптимістка.
Я дивлюся на щось на кшталт Конвенції про біологічну зброю,
яку уклали посеред холодної війни,
попри напруженість між Радянським Союзом і США.
Вони зрозуміли, що розробка біологічної зброї
не відповідає ані їхнім інтересам,
ані інтересам усього світу.
У гонці озброєнь швидкість важливіша за безпеку.
Але я вважаю, що важливо врахувати,
що на якомусь етапі ціна руху вперед зависока.
Ми не можемо розробляти речі ізольовано
і залишати, не думаючи про те, яке майбутнє на них чекає.
Ми маємо запобігти моменту початку атомної війни.
Ставки на перегони ШІ величезні.
Не думаю, що багато хто цінує глобальну стабільність,
яку забезпечує принцип переваги у військовій силі
протягом останніх 75 років.
Тому Сполучені Штати та наші союзники
мають перевершити ШІ суперників.
У війні один переможець.
Китай має амбіції стати світовим лідером зі ШІ до 2030 року.
Деякі вважають, що Америка програє…
Ви пришвидшите впровадження штучного інтелекту задля
забезпечення нашої конкурентної військової переваги.
Ми женемо вперед із цією технологією.
Гадаю, незрозуміло, як далеко ми зайдемо?
Ми контролюємо технології чи вони контролюють нас?
Немає можливості переробити заново.
Щойно джин вийде з пляшки, він вільний.
І повернути його дуже важко.
А якщо не діяти зараз, буде запізно.
Можливо, уже запізно.
Переклад субтитрів: Дмитро Коваль