Downloaded from YTS.MX
Official YIFY movies site: YTS.MX
Umělá inteligence mě fascinuje.
Dobře, krouží a stoupají. Správná formace.
Umělá inteligence má potenciál nás zbavit chudoby,
dát nám nové léky
a přinést světu mír.
Skvělý.
Ale po cestě číhá spousta nebezpečí.
S AI v podstatě vytváříme inteligenci, která je jiná než lidská
a vysoce nepředvídatelná.
Je čím dál schopnější,
proto musíme rozhodnout, do jaké míry ji budeme používat
a kdy je lepší se bez ní obejít.
A nejlepším startovacím bodem je pro toto rozhodování
armádní využití.
Bojiště se stalo domovem softwaru a hardwaru.
Cíl byl zajištěn…
A armády se snaží vyvinout umělou inteligenci rychleji než protivník.
Jsem mrtvej.
Rychle směřujeme k realitě, kde nejen velké armády,
ale nestátní aktéři, soukromý průmysl
nebo naše místní policejní oddělení
budou moct používat zbraně schopné autonomního zabíjení.
Přenecháme rozhodování o životě druhých algoritmům a počítačovému softwaru?
To je jeden z nejpalčivějších problémů naší doby.
Při neuváženém používání
představují pro všechny lidi na planetě obrovské riziko.
NEPOZNANÉ
ROBOTI ZABIJÁCI
Dobrá práce, lidi.
- To je mnohem širší objektiv než předtím. - Opravdu?
Vidíme toho o dost víc.
Super.
V Shield AI se snažíme vyrobit AI pilota
pomocí technologie autonomního řízení založené na umělé inteligenci
vložené do letounu.
Použitím pilota s umělou inteligencí
bychom poskytli letounům větší autonomii.
Samy by hledaly řešení problémů.
Nova je autonomní kvadrokoptéra,
která zkoumá budovy a podzemní stavby
před příchodem záchranářů,
aby jim poskytla obrázek o jejich stavu.
Od minule jsme provedli spoustu vylepšení.
Pracujeme na změnách průzkumu.
Řešíme pořadí pater.
Ideálně by měla dokončit celé patro, než půjde dál.
- Super. - Nedávno jsme provedli změny…
Lidé se mě často ptají,
proč je umělá inteligence tak důležitá.
Když si vzpomenu na své mise…
Byl jsem sedm let u námořnictva.
Jsem bývalý Navy SEAL, absolvoval jsem dvě mise v Afghánistánu
a jednu v Tichomoří.
Mohli nás třeba vyslat, abychom vyčistili 150 různých areálů nebo budov.
Jednou z klíčových dovedností je boj v zastavěném prostoru.
Střelba na velmi krátkou vzdálenost uvnitř budov.
Jste pod palbou.
V budově mohou být schovaná výbušná zařízení.
Je to ta nejnebezpečnější mise, jaká může člena speciálních jednotek
nebo pěchoty v bojové zóně potkat.
Bez debat.
Až do smrti budu vděčný za chvíle strávené u námořnictva.
Mám na to spoustu vzpomínek,
které mě vždycky dojmou.
Je klišé, že svoboda není zadarmo, ale já tomu skutečně věřím.
Zažil jsem to. Musíte hodně obětovat.
Pardon.
Když se vašemu parťákovi něco stane,
ať už se zraní nebo zemře,
je to hrozná tragédie.
Proto to teď všechno dělám.
Dodává mi to motivaci snížit počet takových misí,
aby se to neopakovalo.
Před rokem 2010
došlo na ministerstvu obrany k obrození,
které můžeme nazvat „náhodnou robotickou revolucí“.
V Iráku a Afghánistánu jsme nasadili tisíce vzdušných a pozemních robotů.
Když mě Obamova vláda požádala,
abych se stal náměstkem ministra obrany,
zrovna se měnil způsob vedení války.
Místo lidí se začínali používat roboti.
Prvotní robotické systémy se ovládaly dálkově.
Lidé s nimi jezdili jako s autíčkem na dálkové ovládání.
Nejdřív začali hledat improvizovaná výbušná zařízení.
A když bomba vybuchla, vybuchl s ní i robot.
Řeklo se: „Sakra, to je škoda. Vyndejte dalšího.“
V Afghánistánu používali dron Predator,
který se stal velmi užitečným nástrojem pro letecké útoky.
Postupem času začali vojenští plánovači přemýšlet,
k čemu všemu by se dali roboti použít.
Společným jmenovatelem byla snaha o zavedení autonomie.
Autonomní zbraň rozhoduje sama jen s minimálními zásahy lidí
nebo dokonce bez nich.
Je zcela nezávislá a sama se ovládá.
A pokud je vybavená zbraněmi, může zabíjet.
Čím víc autonomních prvků v systému používáte,
tím víc se veškeré procesy urychlí.
A když operujete rychleji než vaši protivníci,
máte v boji neuvěřitelnou výhodu.
Naším cílem je vyvinout autonomní
a vysoce odolné inteligentní systémy,
které umí monitorovat prostředí a reagovat na něj.
A na základě toho rozhodovat, jak se v něm pohybovat.
SAN DIEGO KALIFORNIE
Jsme na místě bývalého filmového studia,
které jsme přeměnili
v realistické výcvikové středisko.
Chceme tu vyzkoušet našeho AI pilota.
Jeho misí bude hledat hrozby a říct nám, jestli je možné zasáhnout.
Může rozhodnout, jak daný problém vyřešit.
Říkáme tomu „trychtýř smrti“. Musíte projít dveřmi.
Tam jsme nejzranitelnější.
Tenhle je lepší.
Nova nám řekne, jestli je za dveřmi střelec
nebo rodina civilistů.
Umožní nám se lépe rozhodovat a snižovat tak počet obětí.
Používáme kamerové senzory,
abychom měli přehled, jak to tam vypadá.
Je to vícepodlažní budova.
Tady je mapa.
Tohle jsem při průzkumu odhalil.
Detektor osob. Hezký.
Dále Nova obsahuje termální senzory.
Jestliže to má 37 stupňů, bude to nejspíš člověk.
Lidé jsou až do odvolání považováni za hrozbu.
Cílem je dodat vojákům ucelené informace, aby se mohli lépe rozhodovat.
Do budoucna se chystáme vybudovat týmy autonomních letounů.
Autonomnímu vozu člověk nařídí:
„Chci jet z bodu A do bodu B.“
Našim strojům neříkáme, ať se přesunou z místa na místo,
ale zadáváme jim úkoly.
Spíš jim říkáme, že potřebujeme mléko.
A robot pak musí rozhodnout, do jakého obchodu dojde,
vezme tam mléko a přinese nám ho.
A dokonce
mu můžeme jenom vydat pokyn: „Pravidelně doplňuj ledničku.“
S takovou úrovní technologií tu pracujeme.
Vymýšlíme, co je třeba a jak.
A pokud se objeví nějaký problém
nebo nejasnost, musíme je vyřešit.
Když jsem se rozhodl odejít z námořnictva, začal jsem přemýšlet,
co budu dělat dál.
Vyrůstal jsem v době rozmachu internetu.
Tak mě napadlo,
že umělá inteligence je na tom v roce 2015
stejně jako internet v roce 1991.
Umělá inteligence měla nakročeno
stát se jednou z nejmocnějších technologií na světě.
Pracuju s ní každý den, tak vidím, jaké děláme pokroky.
Ale spousta lidí pořád vidí umělou inteligenci
jako něco z filmu.
OPERAČNÍ PLÁN WOPR
Zahrajeme si hru?
A co globální termonukleární válka?
Fajn.
Když si lidé představí umělou inteligenci,
vybaví si nejspíš filmy Terminátor nebo Já, robot.
Deaktivovat.
Co jsem?
Nebo Matrix.
Podle toho, co nám sci-fi filmy ukazují,
jak poznáte, že jsem člověk? Třeba jsem jen umělá inteligence.
Replikanti jsou jako každý jiný stroj. Buď přináší výhody, nebo nebezpečí.
Ale existuje spousta primitivnějších umělých inteligencí,
které nám změní život,
ještě než se vůbec dostaneme k uvažujícím robotům.
Roboti jsou tady a rozhodují.
Přišla robotická revoluce,
jen to vypadá úplně jinak, než si všichni představovali.
Terminátor je infiltrační jednotka. Částečně člověk, částečně stroj.
Nebavíme se tu o zabijáckých robotech ve stylu Terminátora.
Ale o umělé inteligenci, která může v jistých úkonech zastat lidi.
Otázkou je, zda jsou tyto systémy spolehlivé.
Máme nové podrobnosti o včerejší smrtelné nehodě samořídícího SUV od Uberu.
Společnost vytvořila pomocí umělé inteligence chatbota.
Začala mít ale rasistické poznámky…
Dvacet šest zákonodárců bylo chybně označeno za zločince.
Otázkou je, zda zvládnou uchopit náš komplexní svět.
Reálný svět je chaotický.
O spoustě věcí nemáme ponětí
a o to hůř se systémy umělé inteligence programují.
Proto jsme začali využívat systémy strojového učení.
Strojové učení bylo velkým pokrokem,
protože už nemusíme počítače všechno učit.
Dáte mu miliony informací
a on se začne učit.
A to se dá použít na cokoli.
Náš projekt Robot Dog se snaží ukázat,
že tento pes zvládne přejít všechny možné druhy terénu.
Lidská chůze se vyvíjela miliardy let,
ale přizpůsobování se všemožným povrchům vyžaduje spoustu informací.
My se snažíme zjistit,
jestli se roboti zvládnou přizpůsobit stejně jako zvířata a lidé.
Díky strojovému učení
sbíráme v simulacích obrovské množství dat.
Simulace je digitálním dvojčetem reality.
Spousta takových realit může běžet na různých počítačích zároveň.
V simulacích zkoušíme tisíce situací.
Roboti se potýkají s různě klouzavými povrchy.
A různě měkkými.
Zkušenosti tisíců robotů ze simulací
nahrajeme do reálného robotického systému.
Dnes otestujeme, jestli se dokáže přizpůsobit novým povrchům.
Když procházel přes pěnu,
snažil se dupat.
Když ale přešel na tuhle plastovou desku,
snažil se upravit pohyb, aby neuklouznul.
Tohle je ukázka,
co všechno strojové učení dokáže.
Robot Dog by mohl být velmi nápomocný
záchranářům v případě katastrofy,
kdy musí procházet různým terénem.
Nebo může provádět průzkum v náročných podmínkách.
Ale většina technologií přináší výzvu.
Umí totiž pomáhat, ale i škodit.
Například jadernou technologii můžeme použít na výrobu energie…
ale zároveň můžeme vyvinout jaderné bomby.
Říká se tomu problém dvojího užití.
Dvojí užití má oheň.
Stejně tak i lidská inteligence.
Tím pádem má dvojí užití i umělá inteligence.
Na používání umělé inteligence je třeba nahlížet v jistém kontextu.
Je úžasné, že máme pátrací a záchranářské roboty,
kteří hledají osoby zavalené lavinou.
Ale ten samý robot může být vybaven zbraněmi.
Když vidíte, jak firmy vybavují roboty zbraněmi,
hrozně vás to štve.
Ale zároveň si uvědomíte, že když vyvinete nové technologie,
nevyhnete se tomu.
Tyhle technologie mění svět.
Jsou to zbraňové systémy,
které mohou mít obrovský vliv na naši bezpečnost.
Zatím si nejsme jistí, zda jsou stroje skutečně schopné rozlišit
mezi civilisty a bojovníky.
Na začátku války v Afghánistánu jsem byl členem týmu ostřelovačů.
Hlídali jsme hranice před nepřátelskými bojovníky.
Poslali malou holčičku, aby našla, kde jsme.
Vůbec by mě nenapadlo ji zastřelit.
Ale dle válečného práva bych to mohl udělat.
Nestanoví, kolik musí být nepřátelům let.
Kdybyste naprogramovali robota, aby se řídil válečným právem,
tu holčičku by zastřelil.
Jak robot pozná rozdíl mezi tím, co je legální a co je správné?
Touží po válce autonomních dronů,
protože chtějí zamezit utrpení amerických vojáků
a amerických občanů.
Ale o to větší škody páchají na Afgháncích,
Iráčanech a Somálcích.
Chtěl bych se zeptat zastánců používání dronů s umělou inteligencí,
co by dělali, kdyby dron letěl k jejich vesnici.
AI je dvojsečná zbraň.
Dá se používat ke konání dobra, což většinou děláme,
ale stačí jen jeden pokyn
a daná technologie může zabíjet.
RALEIGH SEVERNÍ KAROLÍNA
Jsem klinický farmaceut.
Se svým týmem
vyvíjím pomocí umělé inteligence léky
na léčení nemocí, kterým se nedostává velké pozornosti.
Dřív jsme vyvíjeli léky upravením již existující molekuly,
aby vzniklo nové léčivo.
Nyní jsme ale vyvinuli AI, která nám poskytuje miliony nápadů
a miliony molekul.
To nám otvírá nové možnosti
k léčbě nemocí, které jsme doteď léčit nemohli.
Ale má to i stinnou stránku,
kterou jsem nečekal.
Celé to začalo, když mi přišlo pozvání
od švýcarské organizace Spiez Laboratory,
abych vedl přednášku na téma „Zneužívání umělé inteligence“.
Sean mi poslal e-mail s pár nápady,
jak bychom mohli zneužít naši vlastní umělou inteligenci.
Místo aby nám vytvářela molekuly,
pomocí kterých léčíme nemoci,
ji můžeme nechat vyrobit co nejjedovatější molekulu.
Chtěl jsem vyzkoušet,
jestli se dá umělá inteligence využít k výrobě smrtících molekul.
Popravdě jsme mysleli, že se to nepovede.
V podstatě jsme totiž jen nahradili nulu za jedničku.
Touto změnou se program přestal snažit zamezit jedům
a začal je vyhledávat.
A to stačilo.
Zatímco jsem byl doma, počítač pracoval.
Generoval tisíce molekul.
My jsme nemuseli dělat nic. Stačilo zmáčknout „start“.
Druhý den ráno jsem v počítači našel soubor.
Bylo v něm asi 40 000 molekul.
Jednalo se o potenciálně nejtoxičtější molekuly na světě.
Až mi z toho stály vlasy hrůzou.
Byl jsem v šoku.
Počítač vymyslel desítky tisíc nápadů
na nové chemické zbraně.
Najdeme tu molekuly připomínající látku VX.
VX je jedna z nejsilnějších chemických zbraní na světě.
Policisté tvrdí,
že ženy, které na letišti spáchaly atentát na Kim Čong-nama,
použily smrtící neurotoxickou látku VX.
Způsobuje udušení oběti.
Je to velmi silný jed.
A většina ostatních molekul by měla být ještě silnější.
O spoustě z nich jsme ani nevěděli.
Když nám to se Seanem došlo, vyčítali jsme si, co jsme to provedli.
Uvědomil jsem si, že jsme otevřeli Pandořinu skříňku.
Rozkázal jsem, že s tím musíme okamžitě přestat.
Potřeboval jsem jen informace do prezentace.
Během toho experimentu jsem přemýšlel, co nejhoršího se může stát.
Ale teď si říkám, jak moc jsme byli naivní.
Nejvíc mě děsí, že to samé může udělat kdokoli.
Stačí jen přepnout program.
Jak můžeme tuto technologii ovládnout,
než ji někdo použije k zabíjení lidí?
Naše diskuze o umělé inteligenci
a jejím použití ve společnosti
se točí kolem moci, kterou nám nové technologie přináší,
a znalostí, které nám je pomáhají ovládat.
Vyvstávají morální a etické otázky,
zda nástroji, jako je chytrý telefon,
můžeme svěřit rozhodnutí zabíjet.
Pracuji s institutem Future Of Life, což je komunita vědeckých aktivistů.
Celkově se snažíme ukázat,
že existuje odvrácená strana urychlování automatizace.
Snažíme se, aby byly technologie
používány bezpečně a eticky.
Musíme řešit, jaká pravidla budou pro technologie platit
a za jakých okolností můžeme používat zbraně s umělou inteligencí.
Už teď totiž začínáme v boji používat technologie,
které dokážou autonomně zabíjet.
V roce 2021 vydalo OSN zprávu o možném použití
smrtící autonomní zbraně při bojích v Libyi.
Komise OSN tvrdí, že byl loni v libyjské občanské válce použit dron
naprogramovaný tak, aby autonomně útočil na cíle.
Pokud jsou zprávy OSN přesné,
bude to pro lidstvo zlomový okamžik.
Je to první případ,
kdy se místo člověka rozhodla zabíjet umělá inteligence.
Vyspělé autonomní zbraně
se začínají používat po celém světě.
Objevily se zprávy z Izraele.
Ázerbájdžán použil autonomní systémy k útoku na arménskou protivzdušnou obranu.
Může létat po bojišti celé hodiny
a hledat, co by mohl zasáhnout.
A pak útok provést bez lidského přičinění.
V nedávné době jsme viděli videa z použití těchto zbraní na Ukrajině.
Nevíme jistě, jak byly drony používány.
Řídil je člověk, který vybíral, na koho zaútočit,
nebo to stroj dělal sám?
Ale jednou jistě přijde chvíle,
bez ohledu na situace v Libyi či na Ukrajině,
kdy se sám rozhodne, koho na bojišti zabije.
Aby stroje zabíjely
bez lidského přičinění
je politicky nepřijatelné a neslučitelné s morálními zásadami.
A je otázkou,
zda mezinárodní společenství dokáže tyto výzvy zdárně řešit.
Představa, jak bude svět vypadat za pár let,
je dost děsivá.
Vzhledem k tomu, jaké množství kapitálu a lidských zdrojů věnujeme
na vylepšování schopností umělé inteligence.
Má totiž nezměrně využití.
ARLINGTON VIRGINIE
Bože, dělá si srandu?
Ví, že nemůže vyhrát.
Je to inspirativní, když vidím umělou inteligenci řešit problémy.
Zoufalá doba žádá zoufalé činy.
Stejnou taktiku a techniku můžete použít i na normální letouny.
Dobrá hra.
Bylo to fajn.
Překvapuje mě,
jak lidé stále věří, že umělá inteligence něco nezvládne.
„Nikdy by neporazila šachového velmistra.“
Počítač IBM se vrátil zpět do hry
v druhém klání proti světovému šampionu Garrymu Kasparovi.
Kasparov se vzdává!
Když vidím něco, co je nad moje chápání,
mám strach. A tohle bylo nad moje chápání.
A taky říkají,
že nikdy neporazí světového šampiona ve hře Go.
Věřím, že lidská intuice je na umělou inteligenci příliš pokročilá
a nikdy ji nedožene.
Go je jedna z nejkomplikovanějších her na světě.
Počet možných tahů na desce
přesahuje množství atomů v celém vesmíru.
VÝZVA
Google měl tým DeepMind,
který vytvořil program AlphaGo,
aby porazil nejlepší hráče světa.
Gratuluji…
- AlphaGo. - AlphaGo.
Počítačový program právě porazil držitele devátého danu.
A jako další výzvu si DeepMind vybrali StarCraft.
StarCraft je asi nejpopulárnější realtimeová strategie.
AlphaStar se proslavil, když začal porážet mistry světa.
AlphaStar dává Immortal Arc co proto.
Vidíte to?
Profíci nemají šanci.
Je to směšné.
Profesionální hráči tvrdili, že by tuhle taktiku
ani tuhle strategii nikdy nezkoušeli. Prý to není lidské.
A v tu chvíli mi to došlo.
Uvědomil jsem si, že nastal čas.
Máme tu důležité technologie, které můžou zlepšit svět.
Znal jsem jen problémy boje v zastavěném prostoru,
ale jeden z mých kamarádů dělá pilota F-18 a řekl mi,
že piloti stíhaček řeší ty samé problémy.
„Blokují komunikaci.
Využívají víc a víc raket země-vzduch,
až je nebezpečné létat.“
Představte si, že bychom měli stíhačku ovládanou AI.
Vítejte na náboru AlphaDogfight. Do prvního semifinále zbývá pár minut.
DARPA, Agentura ministerstva obrany pro pokročilé výzkumné projekty,
viděla AlphaGo a AlphaStar
a napadlo je uspořádat soutěž AlphaDogfight.
Takhle vypadá počínání lidských pilotů.
Vypadá to jako souboj lidí.
Dogfighting je manévrový vzdušný souboj.
Představte si to jako box v oblacích.
Asi znáte film Top Gun.
Uletíme jim?
- Jejich raketám a zbraním ne. - Tak bude souboj.
Naučit se manévrový souboj trvá osm až deset let.
A přizpůsobit na něj umělou inteligenci je velmi komplexní výzvou.
ARLINGTON VIRGINIE
Předešlé pokusy o autonomní souboje nefungovaly.
Nejlepším řešením bylo použít strojové učení.
Zpočátku nevěděla umělá inteligence o světě stíhaček nic.
Neuměla létat ani manévrovat. Nevěděla, co je stíhačka F-16.
Znala jen dostupné možnosti počínání
a začala je náhodně zkoumat.
Modré letadlo trénuje jen krátkou dobu.
Je vidět, jak se kolébá.
Létá velmi chaoticky, obvykle pryč od protivníka.
Ale postupně je vidět, jak vymýšlí strategii.
Připravuje se střílet.
Čas od času řekl učící algoritmus:
„To bylo dobré. Zopakuj to.“
Můžeme využít možnosti počítačů a trénovat agenty pořád dokola
a souběžně.
Je to jako basketbal.
Nemusíte hrát s jedním týmem pořád dokola,
ale cestujete po světě a hrajete s 512 různými týmy najednou.
Velmi rychle se můžete zlepšovat.
Simulace běžela nonstop
a za 10 měsíců jsme zvládli dokončit trénink pilotů, který by trval 30 let.
Na začátku AI sotva dokázala létat a teď je z ní chladnokrevný zabiják.
Během výcviku jsme soupeřili jen proti jiné umělé inteligenci.
Ale naším hlavním cílem je postavit se lidem.
Jmenuju se Mike Benitez,
jsem podplukovník letectva Spojených států
v aktivní službě už asi 25 let.
Absolvoval jsem 250 bojových misí
a také zbrojní školu, což je Air Force verze Top Gunu.
Proti umělé inteligenci jsem nikdy neletěl.
Jsem zvědavý, jak mi to půjde.
Čeká nás čelní útok na vzdálenost 1 800 metrů.
Jdeme na to.
Půjde k zemi.
To je zajímavé.
- Je po něm. - Máme ho. Bezchybné vítězství.
Tak jo, druhé kolo.
Umělá inteligence manévruje s neskutečnou přesností.
Vůbec jí nestačím.
Přímo před něj.
Máš to spočítaný.
Mám ho!
Ale dostal mě.
Umělá inteligence se nebojí.
Lidé mají na rozdíl od AI emoce.
Jednou z nejzajímavějších strategií umělé inteligence
byla střelba čelem.
Lidé obvykle střílí zezadu,
protože je těžší se vyhnout zásahu.
Nechtějí střílet čelem, protože zkouší, kdo to vzdá první.
Z 900 metrů se můžete přiblížit na 150 mrknutím oka.
Hrozí riziko kolize, proto to lidé nezkouší.
AI se nebojí smrti, pokud jí to nepřikážete.
Jako bych bojoval s člověkem,
který nemá pud sebezáchovy.
Tohle poslední nepřežije.
Nestihne to.
Dobrou noc.
Je po mně.
Dost vám to srazí hřebínek, když zjistíte, že to něco zvládne líp
a že mě AI možná jednou nahradí.
Stejné podmínky.
Vyrovnat na tisíc.
Tenhle AI stíhací pilot
neúnavně vyhrává na plné čáře.
Není jen o trochu lepší.
Tak teď musíme vymyslet, jak ten systém dostat do letadla.
Představa, že umělá inteligence bude létat s F-16, je velmi realistická.
A nebude to za dlouho.
Když se postavíte AI pilotovi, jeho šance na vítězství je 99,99999 %.
Nemáte proti němu šanci.
A když máte jednoho neporazitelného AI pilota,
představte si, co by dokázaly týmy s 50, 100
nebo dokonce 1000 AI piloty.
Swarming je roj letounů vybavených umělou inteligencí,
které spolupracují.
Sdílí si informace o tom, jak postupovat a řešit problémy.
Swarming bude pro naši armádu a spojence
představovat obrovskou výhodu.
Cíl nalezen a drony ho sledují.
Přistáváme.
Primárním cílem výzkumu swarmingu
je vypustit velké množství dronů v oblasti,
která je těžko přístupná nebo nebezpečná.
Tento konkrétní projekt podporuje Armádní výzkumná laboratoř.
Pokud chcete zjistit,
co se nachází na těžko přístupném místě nebo v rozlehlé oblasti,
je vypuštění dronů ideálním řešením,
jak vylepšit šance jednotlivců
na získávání klíčových informací.
Vypustili jsme roj dronů
a teď jsme jim dali příkaz, ať najdou a sledují cíl.
A drony se o to samy postarají.
Umělá inteligence umožňuje robotům pohyb v roji
decentralizovaným způsobem.
V roji zvířat
není žádný vedoucí, který jim říká, co mají dělat.
Toto chování je založené na jedincích, kteří se řídí několika snadnými pravidly.
A z toho pak vzniká kolektivní jednání, které vidíme.
Na rojích v přírodě mě fascinuje,
jak ladně se dokážou pohybovat.
Jako by byli zrození k tomu, aby byli součástí roje.
V ideálním případě bychom chtěli,
aby drony stejně jako zvířata
rozhodovaly kolektivně ve skupině.
Naším dalším zdrojem inspirace
je jejich spolehlivost a odolnost.
Roj nijak neohrozí,
když jedno zvíře neudělá, co má.
I když jeden z agentů vypadne, selže
nebo nebude schopen splnit úkol,
roj bude pokračovat dál.
A přesně o to nám jde.
V bojových simulacích jsme po robotech chtěli, aby našli nepřátelské letouny.
A každého robota ovládal jeden člověk.
Se zlepšováním autonomie
by se nám mohlo podařit dosáhnout situace,
kdy několik lidí ovládá velké množství robotů.
Klidně by mohli časem ovládat tisíc robotů,
protože každý agent bude jednat samostatně.
A takhle můžeme jít dál.
Můžeme rozšířit naše učení…
Už jistou dobu pracujeme na simulacích swarmingu
a teď je čas to přenést na skutečné letouny.
Nejdřív zkusíme pracovat se třemi roboty
a následně budeme přidávat další funkce.
Chceme to otestovat na menších strojích,
ale pak stejné koncepty aplikovat na větší stroje,
jako je stíhačka.
Hodně se bavíme o tom,
jak dodat četě bojovou sílu praporu.
Nebo praporu bojovou sílu brigády.
Odpověď je pomocí swarmingu.
Jakmile ho dokážete využít naplno,
vytvoříte zcela nový systém strategické obrany proti vojenské agresi.
Nejlepší na tom je, že bychom tím mohli zachránit
velké množství žen a mužů, když se nám to povede.
Radši přijdeme o stroje
než o lidské životy.
Někteří lidé tvrdí, že autonomní zbraně udělají válku přesnější
a humánnější,
ale je těžké předvídat,
jak můžou autonomní zbraně změnit způsob válčení.
Je to jako vynález kulometu.
Richard Gatling byl vynálezce.
Když viděl zraněné vojáky vracející se z občanské války,
snažil se vymyslet, jak udělat válku humánnější.
Chtěl snížit počet vojáků zabitých ve válce tím,
že sníží počtu vojáků na bojišti.
A tak vynalezl kulomet, automatickou zbraň na kliku,
která automatizovala střelbu.
Tato zbraň dokázala zvýšit palebnou sílu vojáků až stokrát.
Často mohou mít snahy o přesnější a humánnější válku
zcela opačný efekt.
Stačí jeden chybný útok dronem
na venkově,
který poštve místní obyvatele proti USA
a místní vládě, kteří vás mají chránit.
A teď si představte, že jich je tisíc.
Vytvoření levné a snadno dostupné zbraně,
kterou nemusí ovládat lidé,
drasticky změní hranice konfliktů.
Nespím z představy, že se celý svět ponoří do války.
A že nám budou jedno dopady na lidstvo a finance,
protože nebudeme vnímat…
lidské ztráty.
Celé mě to děsí.
Jen jsem potřeboval příklad zneužití umělé inteligence.
Neočekávané důsledky tohoto jednoduchého experimentu
zašly příliš daleko.
OBJEV POUŽITÍ AI VE FARMACII SNAŽÍME SE NEŠKODIT
Na mé přednášce
o toxických molekulách vytvořených umělou inteligencí
spadla divákům brada.
NEJLEPŠÍCH 5 000 SLOUČENIN BYLY OBDOBY VX
Rozhodovali jsme se, zda tyto informace zveřejnit.
Na jednu stranu jsme chtěli svět varovat, co všechno je možné,
ale na druhou stranu jsme k tomu nechtěli nikoho inspirovat.
Rozhodli jsme, že to zveřejníme,
abychom mohli hledat způsoby, jak zabránit takovému zneužívání AI,
než k němu dojde.
DVOJÍ VYUŽITÍ AI VÝZKUMU LÉKŮ
JAK MŮŽE BÝT UMĚLÁ INTELIGENCE PŘI VÝZKUMU LÉKŮ
Odezva veřejnosti nás šokovala.
Viděli jsme, kolik lidí tu stránku navštívilo.
Naše články si obvykle přečte za několik let jen pár tisíc lidí,
a to je ještě hodně.
Během týdne ho četlo 10 000 lidí.
Pak jich bylo 20 000, pak 30 000 a následně 40 000.
A nakonec to bylo 10 000 denně.
Psali o nás v The Economist a Financial Times.
Ozvali se nám z Radiolab. O nich už jsem slyšel!
Ale pak nám začaly chodit šílené reakce.
DĚSIVÉ
Lidé tweetovali: „Bože, nic horšího už udělat nemohli.“
Proč to udělali?
TI VĚDÁTOŘI NÁS VŠECHNY ZABIJOU
A pak jsme dostali pozvání, které jsem vůbec nečekal.
V Bílém domě se o tom článku hodně diskutovalo
a chtěli s námi naléhavě mluvit.
Byla to pro nás velká čest mluvit s tak významnými lidmi.
Ale pak nám to došlo.
„Bože můj, chtějí nás v Bílém domě. Šéf nás chce.“
Jednalo se o sestavení open source datových sad…
Za šest hodin dokázal model vygenerovat přes 40 000…
Ptali se, jak silné počítače jsou zapotřebí.
Řekli jsme, že nijak zvlášť.
Stačí vám obyčejný, šest let starý Mac.
A to je šokovalo.
Lidé studující chemické zbraně
a vládní agentury neměli ani tušení, že je něco takového možné.
Přinesli jsme recepty na výrobu chemických zbraní.
Kdyby se dostaly do rukou někoho se špatnými úmysly,
mohlo by to dopadnout zle.
Lidé musí začít poslouchat
a my musíme podniknout kroky k regulaci technologií
nebo je omezit tak, aby se nedaly zneužít.
Protože je naprosto děsivé,
jak dokáže zabíjet.
Otázkou etiky umělé inteligence se zabývá společnost,
ne inženýři nebo technologové a matematici.
Každá nová technologie a moderní inovace
spadá do rámce, jak bychom je měli dle společnosti používat.
Ministerstvo obrany v tuto chvíli tvrdí:
„Jediné, co rozhoduje o zabíjení na bojišti,
jsou lidé.“
Zabíjí sice stroj,
ale jen na příkaz lidského operátora.
A to se podle mě nikdy nezmění.
Ujišťují nás, že tyto technologie budou bezpečné.
Ale armáda Spojených států nemá pověst důvěryhodné organizace,
když jde o dronovou válku.
A pokud jde o důvěřování americké armádě s umělou inteligencí,
myslím, že jejich činy mluví za vše.
Americké ministerstvo obrany nezakazuje používání autonomie
v žádných zbraních.
I kdyby armády neměly o autonomní zbraně zájem,
stejně by je musely začít používat,
aby držely krok s protivníky.
Mohlo by je to dohnat k předání rozhodování strojům,
i když to možná nechtějí.
Vladimir Putin řekl: „Světu budou vládnout experti na AI.“
Prezident Si jasně řekl, že AI je technologie číslo jedna,
v které se chtějí stát světovým lídrem.
Ocitli jsme se v technologickém závodě.
Lidé řeší nastavování mantinelů.
A přesně to je třeba.
Ale vážně existuje závod o první místo v používání AI.
A naši protivníci, ať už Čína, Rusko nebo Írán,
nebudou brát žádné ohledy na to, jaká máme ohledně AI pravidla.
Poslední dobou se skloňují pravidla používání umělé inteligence,
ale já bych byl radši, kdyby vedení naší země řeklo:
„Jak rychle to dokážeme vyrobit?
Pojďme to zafinancovat, ať to můžeme vyrobit.“
AUSA VÝROČNÍ KONFERENCE A VELETRH
ARMÁDA SPOJENÝCH STÁTŮ
Jsme na největším veletrhu Association of the US Army roku.
Své produkty tu vystavují všichni prodejci armádních potřeb
nebo technologií.
Na letecké základně Tyndall mají čtyři naše roboty,
kteří ji nonstop hlídají.
Můžeme přidat všechno možné, třeba kamery nebo senzory.
Ramena na manipulaci, stačí říct. Snažíme se splnit veškeré požadavky.
Co když přijde s AI i nepřítel?
S bojovým systémem, který uvažuje a reaguje rychleji než lidé.
Co můžou lidé dělat? Na to se musíme připravit.
Trénujeme naše systémy na získávání informací od nepřátel
a zneškodňování nepřátelských cílů pod dohledem lidí.
- Dobrý den. - Jak se vede?
Dobře. A jak vám?
Nikdo neinvestuje do AI pilotů víc než my.
Jmenuje se Hivemind.
Aplikovali jsme ho do kvadrukoptéry Nova, která vletí do budovy
a prozkoumá ji, než dorazí speciální jednotky a pěchota.
Hivemind aplikujeme do V-BAT.
A těchto týmů se dají použít stovky.
Ať už v Tchajwanském průlivu
nebo na Ukrajině v boji proti nepřátelům.
Je to skvělá věc.
- Dobře. Díky. - Díky, pane generále.
AI piloti by měli být do roku 2030 všude.
Velmi rychle si je osvojí armády po celém světě.
Co vymýšlíte s rumunskou armádou?
Technologie v armádě.
Do dnešního dne jsme do výroby AI pilota dali půl miliardy.
V příštích pěti letech do toho dáme další miliardu.
A z toho důvodu jsme americká jednička.
Hezký.
Dobrá práce. A podařilo se vám ho i vyzbrojit?
Tenhle ještě zbraně nemá.
Ještě ne, ale do budoucna bychom chtěli.
Pro naše zákazníky je to spíš vůz. Je to inteligentní vůz,
který dokáže spoustu věcí.
- Díky. - Jasně.
Ještě se vám ozvu.
Když se vrátíte za deset let,
uvidíte, že AI a autonomní technologie si podmaní celý trh.
Jednotky využívající umělou inteligenci a autonomní technologie
zcela ovládnou a zničí jednotky bez nich.
Jako byste vytáhli proti tanku na koni.
Nebo s mečem proti kulometu.
Nebudete mít šanci.
Budou všude na všech úrovních války.
Na taktické
i strategické.
A budou pracovat tak rychle, že si to ani neumíme představit.
Už takhle mají velitelé příliš velké množství informací.
Snímky ze satelitů, dronů a senzorů.
Umělá inteligence
může pomoct veliteli rychleji pochopit, co se děje.
A rozhodnout, jak by měl reagovat.
Umělá inteligence vezme v úvahu všechny faktory,
které určují způsob vedení války.
Vymyslí strategie…
a bude dávat doporučení, jak vyhrát.
SUFFOLK VIRGINIE
CENTRUM PRO INOVACE
Pro nás v Lockheed Martin, stejně jako pro ministerstvo obrany,
je umělá inteligence klíčová technologie umožňující velení a řízení.
Šíří se rychlostí 60 centimetrů za vteřinu.
Rozloha je zhruba 280 hektarů.
Ve válce bojujeme s nedostatkem informací,
ale stejné problémy se dají najít
i při rozhodování v boji s požáry.
Oheň se šíří severně od města Wawona.
Musíme se rozhodovat na základě nepřesných dat.
Jak nám s tím může umělá inteligence pomoct?
Požáry jsou velmi chaotické.
A komplexní.
Snažíme se využívat umělou inteligenci, aby nám pomáhala rozhodovat.
Vyvíjíme program Cognitive Mission Manager,
který používá letecké infračervené snímky
a následně je zpracuje pomocí našich AI algoritmů,
abychom mohli předpovídat vývoj požárů.
V budoucnu bude náš program
využívat simulace
a zkoušet různé situace v průběhu tisíců cyklů,
aby nám doporučil nejvhodnější nasazení techniky.
Díky tomu budeme hasit požáry tam, kde je to třeba.
Řekne nám, kde máme použít k hašení vrtulníky,
kde mají pozemní čety klestit křoví
a kam máme vyslat hasiče,
aby hasili na místech, kde je to nejvíc třeba.
Díky tomu se budeme moct rozhodovat rychleji
a efektivněji.
Umělá inteligence umožňuje lidem
držet krok s neustále se měnícím prostředím.
A existuje spousta podobností mezi obrannými systémy a tím,
co děláme tady v Lockheed Martin.
Armáda už nemluví o umělé inteligenci jen v souvislosti
s jednotlivými zbraněmi vyráběnými na vyhledávání cílů a zabíjení,
ale o integraci AI
do celé rozhodovací struktury armády.
Armáda pracuje na velkém projektu s názvem Project Convergence.
Námořnictvo má Overmatch.
A letectvo zase Advanced Battle Management System.
Ministerstvo obrany se snaží vymyslet,
jak to celé propojit,
abychom byli rychlejší než naši nepřátelé.
A získat tak výhodu.
AI program na vedení boje by byl vysoko postavený generál,
který řídí boj.
Pomáhal by s vydáváním rozkazů velkému množství jednotek
a koordinoval veškeré použité zbraně.
A to vše mnohem rychleji než lidé.
Posledních 70 let
jsme budovali nejpokročilejší armádu na světě.
A teď stojíme před rozhodnutím, jestli se nad ní vzdáme kontroly
a předáme její vedení algoritmu a softwaru.
A důsledky tohoto rozhodnutí
ovlivní celý náš vojenský arzenál.
Nebyla by to bomba jako jedna Hirošima, ale stovky.
Přišla chvíle, kdy musíme jednat.
Příležitost minimalizovat rizika nám proklouzává mezi prsty.
Dnes odpoledne začneme řešit ohrožení mezinárodní bezpečnosti
nově vznikajícími technologiemi
v oblasti smrtících autonomních zbraňových systémů.
V OSN se vedou rozhovory
o hrozbě smrtících autonomních zbraní
a o zákazu systémů, které používají AI k cílení na lidi.
Konsenzus technologů je jasný.
Nesouhlasíme s používáním autonomních zbraní proti lidem.
Státy už roky diskutují o problémech smrtících autonomních zbraňových systémů.
Jde o společný a sdílený pocit bezpečí.
Ale není to snadné.
Některé země, zejména vojenské velmoci,
chtějí všechny předběhnout,
aby měly nad svými protivníky výhodu.
Problém je, že všichni musí souhlasit, aby se něco mohlo změnit.
Vždy bude aspoň jedna země nesouhlasit
a Spojené státy a Rusko zcela jasně říkají,
že se zákazem autonomních zbraní nesouhlasí.
Počet lidí snažící se o vylepšení umělé inteligence
je obrovský.
A kolik lidí se snaží zajistit, aby byla umělá inteligence bezpečná?
Rozhodně mnohem míň.
Ale taky jsem optimistka.
Doufám, že přijde něco jako Úmluva o biologických zbraních,
ke které se dospělo během studené války
navzdory panujícímu napětí mezi Sovětským svazem a Spojenými státy.
Uvědomili si, že vývoj biologických zbraní
nebyl v nejlepším zájmu ani jednoho z nich
a ani v nejlepším zájmu celého světa.
Závody ve zbrojení upřednostňují rychlost před bezpečností.
Ale je důležité si uvědomit,
že v jistou dobu bude cena za rychlost příliš vysoká.
Nemůžeme věci vyvíjet izolovaně
a pouštět je do světa, aniž bychom přemýšleli,
co se z nich může vyvinout.
Nesmí z toho být další atomovka.
Boj o vývoj AI je v plném proudu a v sázce je hodně.
Podle mě si lidé nedokážou vážit globální stability,
kterou už 75 let zajišťuje
naše vyspělá armáda.
Spojené státy a naši spojenci
musí nepřátelskou AI porazit.
Ve válce neskončíte druzí.
Čína má ambiciózní plán stát se světovým lídrem v oblasti AI do roku 2030.
Říká se, že Amerika tento závod prohrává…
Urychlíme přijetí umělé inteligence,
abychom zajistili konkurenční vojenskou výhodu.
Jdeme s technologiemi kupředu mílovými kroky.
Jen nikdo netuší, jak daleko to zajde.
Ovládáme technologii my, nebo ona nás?
Druhou šanci už nám nikdo nedá.
Jakmile vypustíte džina z lampy, není cesty zpět.
Bude velmi těžké ho tam vrátit.
A když nebudeme jednat teď hned, bude pozdě.
Možná už je.
Překlad titulků: Anna Farrow