Downloaded from YTS.MX
Official YIFY movies site: YTS.MX
Meni UI ulijeva strahopoštovanje.
Kruže. Dobra formacija.
UI potencijalno može dokinuti siromaštvo,
pronaći nove lijekove
i svijetu donijeti još veći mir.
Bravo!
Ali na tom putu ima mnogo opasnosti.
Stvarajući UI stvaramo inteligenciju koja nije ljudska
i vrlo je nepredvidiva.
Kako postaje sve moćnija,
moramo postaviti stroge granice
kako želimo i kako ne želimo rabiti UI.
Apsolutna polazišna točka za ovakve razgovore
primjena je UI-ja u vojne svrhe.
Bojišnicom sad vladaju softveri i hardveri.
Meta identificirana…
A vojske se utrkuju da razviju UI brže od svojih protivnika.
Mrtav sam.
Brzo napredujemo prema svijetu u kojemu ne samo velike vojske
nego i nedržavni akteri, privatne kompanije
ili čak lokalne policijske postaje,
imaju na raspolaganju oružje koje može autonomno ubiti.
Hoćemo li algoritmu prepustiti odluku o oduzme nekomu život?
To je jedno od najbitnijih pitanja našeg doba.
Ne bude li se rabila mudro,
ta tehnologija prijetnja je svakom živom čovjeku na planetu.
NEPOZNATO
UBOJITI ROBOTI
Bravo, dečki.
Ovo je mnogo širi objektiv nego prije.
Je li?
-Vidi se mnogo više podataka. -Super.
Mi u Shield AI-ju radimo umjetno inteligentnog pilota.
Dakle tehnologiju za autonomnu vožnju i umjetnu inteligenciju
ugrađujemo u letjelicu.
Kad govorimo u UI pilotu,
želimo letjelici dati veću razinu autonomije.
Sama će rješavati probleme.
Nova je autonomni kvadkopter
koji istražuje zgrade i podzemne građevine
prije specijalnih jedinica kako bi bila njihove oči i uši u tim prostorima.
Od prošlog puta vidi se veliko poboljšanje.
Danas radimo istraživačke promjene.
Idemo kat po kat.
Pregledat će cijeli kat prije nego što prijeđe na drugi.
-Genijalno. -Nedavno smo uveli promjene…
Mnogi me pitaju
zašto je umjetna inteligencija važna sposobnost.
A ja se samo sjetim zadataka na kojima sam bio.
U mornarici sam bio 7 g.
Bivši sam mornarički specijalac. Dvaput sam bio u Afganistanu.
Jedanput na Pacifiku.
U jednom danu morali smo provjeriti 150 različitih kompleksa ili zgrada.
Jedna od glavnih vještina bliska je borba.
To je borba vatrenim oružjem iz velike blizine unutar zgrada.
Pucaju na vas.
U zgradi su možda improvizirani eksplozivi.
To je najopasnija vrsta zadatka na koji član specijalne jedinice
ili pješačke jedinice može ići na ratištu.
Bez konkurencije.
Cijeli život bit ću zahvalan na vremenu provedenom u mornarici.
Imam takvu zbirku trenutaka i uspomena da, kad ih se sjetim,
jako me dirnu.
Klišej je da sloboda nije besplatna. Ali ja potpuno vjerujem u to.
Doživio sam to. Za nju je potrebna velika žrtva.
Oprostite.
Kada ti član ekipe nastrada,
bilo da ga rane ili ubiju,
to je prava tragedija.
U ovom poslu, kojim se sad bavimo,
motivira me to što mogu smanjiti broj
takvih događaja.
Krajem 2000-ih
u Ministarstvu obrane shvatili su
da je došlo do slučajne revolucije u robotici.
Poslali smo tisuće zračnih i kopnenih robota u Irak i Afganistan.
U doba kad me Obamina vlada imenovala
zamjenikom Ministra obrane,
način ratovanja zaista se mijenjao.
Roboti su radili ono što su prije radili ljudi.
Prvim robotima upravljalo se daljinski.
Vozio ih je čovjek kao što upravljate autom na daljinski.
Prvo su tražili improvizirane eksplozivne naprave.
Ako bi bomba eksplodirala, robot bi eksplodirao.
Rekli biste: „Ah, kvragu. Dobro, novi robot!”
U Afganistanu je bio dron Predator.
Postao je vrlo korisno sredstvo za izvođenje zračnih napada.
S vremenom su se vojni stratezi počeli pitati
čemu bi još roboti mogli poslužiti. I kamo ide ovaj razvoj.
Učestala je tema bila veća autonomnost.
Autonomno oružje samo donosi odluke.
Uz malu do nikakvu ljudsku intervenciju.
Znači, neovisan je i sam sebe navodi.
Ubiti može ovisno o tome je li naoružan.
Kad imate više autonomnosti u cijelom sustavu,
sve se ubrza.
A kada djelujete brže od svog protivnika,
to je golema prednost u bitki.
Što se autonomije tiče, fokusiramo se
na vrlo otporne inteligentne sustave.
Sustave koji analiziraju okolinu i reagiraju na nju
i odlučuju kako će manevrirati u tom svijetu.
Kompleks u kojem smo danas sagrađen je kao filmski studio
koji je prenamijenjen
za izvođenje vojnih vježbi u realističnom okruženju.
Došli smo testirati svog UI pilota.
Zadatak mu je tražiti prijetnje specijalnim jedinicama.
Može odlučiti kako će pristupiti problemu.
Ovo zovemo „kobni lijevak”. Morate proći kroz vrata.
Tu smo najranjiviji.
Ova izgleda bolje.
Nova nam javi je li iza vrata napadač.
Je li iza vrata obitelj?
Omogućit će nam donošenje boljih odluka i zaštitu ljudi.
Rabimo optičke senzore
kako bismo shvatili kako izgleda okoliš.
Zgrada je na katove.
Ovo je karta.
Dok sam istraživao, ovo sam vidio. Bili su ovdje.
Detektor ljudi. Fora.
Drugi senzor na Novi toplinski je čitač.
Ako pokazuje 98,6 stupnjeva, vjerojatno je čovjek.
Ljudi su prijetnja dok se ne utvrdi suprotno.
Želimo eliminirati tzv. maglu rata kako bismo donosili bolje odluke.
Kad gledamo u budućnost,
predviđamo stvaranje ekipa autonomnih letjelica.
Kod autonomnih vozila
čovjek traži
da ode od točke A do točke B.
Mi od svojih sustava ne tražimo da odu od točke A do točke B
nego da postignu cilj.
Naredba zvuči otprilike: „Trebam mlijeko.”
Robot tada treba odlučiti u koju trgovinu da ode,
naći mlijeko i donijeti ga.
Još bolji opis naredbe kakvu dajemo bio bi:
„Neka hladnjak uvijek bude pun.”
Takvom razinom inteligencije
stroj pogađa što trebamo i kako.
Ako se susretne s izazovom ili problemom,
mora ga znati riješiti.
Kad sam odlučio otići iz mornarice, počeo sam razmišljati
čime da se sad bavim.
Odrastao sam s internetom i vidio što je postao.
I došao sam do zaključka
da je UI 2015. godine
ondje gdje je internet bio 1991.
I umjetna inteligencija spremna je
da postane jedna od najmoćnijih tehnologija na svijetu.
Radim s njom svaki dan i vidim napredak koji se dogodio.
Ali mnogi, kad pomisle na umjetnu inteligenciju,
smjesta zamisle Hollywood.
Jesi li za igru?
Što kažeš na globalni termonuklearni rat?
Može.
Kad razmišljaju o umjetnoj inteligenciji,
ljudi pomisle na Terminatora ili na Ja, robot.
Deaktiviraj!
Što sam ja?
Ili na Matrix.
Gledate li znanstvenofantastične filmove,
kako znate da sam ja čovjek? Možda me generirao kompjutor.
Replikanti su kao svaki drugi stroj. Ili korisni ili opasni.
Ima svakakvih primitivnijih UI-ja
koji će nam promijeniti život
prije nego što dođemo do faze robota koji razmišljaju.
Roboti su ovdje. Donose odluke.
Robotska revolucija već se događa.
Samo što ne izgleda onako kako smo zamišljali.
Terminator je jedinica za infiltraciju. Spoj je čovjek i stroja.
Ne govorimo o ubojitim robotima u stilu Terminatora.
Nego o UI-ju koji može obavljati neke zadatke kao ljudi.
No postoji zabrinutost jesu li ti sustavi pouzdani.
Novi detalji o sinoćnjem sudaru u kojem je sudjelovao autonomni Uber.
Tvrtka je stvorila umjetno inteligentni chatbot.
Izrazila se prilično rasistički…
Zastupnici iz 2016. pogrešno su identificirani kao kriminalci.
Pitanje je jesu li sposobni obraditi složen stvarni svijet.
Fizički je svijet kaotičan.
Mnogo toga ne znamo.
Zato je mnogo teže učiti sustave UI-ja.
Tu su počeli dolaziti do izražaja sustavi strojnog učenja.
Strojno učenje je velik napredak
jer znači da strojeve ne moramo sve sami podučiti.
Stroju date milijune podataka i on s pomoću njih počne učiti.
To se može primijeniti na sve.
U projektu robotskog psa želimo pokazati
da naš pas može hodati po raznim tipovima terena.
Ljudi su evoluirali milijunima godina kako bi na kraju hodali.
Ali potrebna je inteligencija kako bi se hod prilagodio raznim vrstama terena.
Pitanje za robotske sustave je
mogu li se prilagoditi kao životinje i ljudi.
Kod strojnog učenja
u simulacijama prikupljamo vrlo mnogo podataka.
Simulacija je digitalna blizanka stvarnosti.
Možemo imati mnogo primjeraka stvarnosti na različitim kompjutorima.
Simulacijom se stvaraju tisuće uzoraka raznih radnja.
Tlo po kojem hodaju različite je skliskosti.
I različite mekoće.
Uzimamo sva iskustva ovih tisuća robota iz simulacije
i učitavamo ih u stvaran robotski sustav.
Današnjim testom provjeravamo može li se prilagoditi novom terenu.
Kad je robot prelazio preko spužve,
nogama je stupao po tlu.
Ali kad je došao na sklisku površinu,
prilagodio je pokrete da se ne posklizne.
Tada shvatite
koliko zapravo znači strojno učenje.
Mislimo da bi robotski pas mogao biti koristan
u kriznim situacijama
u kojima morate prelaziti različite vrste terena.
Ti bi psi mogli biti i izvidnica u nepristupačnim uvjetima.
Kod većine tehnologija susretnemo se s činjenicom
da mogu biti korisne i štetne.
Recimo, nuklearnu tehnologiju možemo rabiti za energiju…
Ali možemo napraviti atomske bombe koje su jako loše.
Ovo je poznato kao problem dvostruke namjene.
Vatra ima dvostruku namjenu.
Ljudska inteligencija ima dvostruku namjenu.
Ne treba ni reći da i umjetna inteligencija ima dvostruku namjenu.
Vrlo je važno razmišljati o uporabi UI-ja u kontekstu.
Da, sjajno je imati robota za potragu i spašavanje
koji može locirati nekog nakon lavine.
Ali isti robot može nositi oružje.
Kad vidite tvrtke koje razvijaju robote kako bi nosili oružje,
razljutite se.
I shvatite da će se to događati ako u opticaj stavimo svoju tehnologiju.
Ova tehnologija preobrazit će svijet.
Ovakvi naoružani sustavi
mogli bi drastično promijeniti sigurnost ljudi.
Trenutačno nismo sigurni mogu li strojevi
razlikovati civile od vojnika.
Početkom rata u Afganistanu bio sam u snajperističkoj jedinici
koja traži borce koji prelaze granicu.
Poslali su djevojčicu da izvidi naš položaj.
Nije mi palo na pamet da pucam u tu djevojčicu.
Prema ratnim pravilima, to bi bilo dozvoljeno.
Borci mogu biti bilo koje dobne skupine.
Napravite li robota koji slijepo slijedi ratna pravila,
ubio bi tu djevojčicu.
Kako robot može znati razliku između dozvoljenog i moralnog?
Ratovanjem autonomnim dronovima
žele zaštititi američke vojnike
i tjelesno i psihički,
ali tako dolazi do povećanja civilnih žrtava u Afganistanu,
Iraku i Somaliji.
One koji su za to da vjerujemo procjenama UI-ja u dronovima upitao bih:
„Što da je vaše selo na debljem kraju batine?”
UI je dvosjekli mač.
Može se rabiti u dobre svrhe, za što bismo ga obično rabili.
Dovoljno je prebaciti sklopku
da tehnologija postane potencijalno smrtonosna.
Klinički sam farmakolog.
Imam tim suradnika
koji rabe UI kako bi otkrili lijekove
koji mogu izliječiti bolesti koje se ne istražuju.
Kod otkrivanja lijekova, uzeli biste postojeću molekulu
i malo je promijenili da dobijete novi lijek.
Sad smo razvili UI koji nam može dati milijune ideja,
milijune molekula.
A to otvara silno mnogo mogućnosti
za liječenje bolesti koje dosad nismo mogli liječiti.
Ali to ima svoju mračnu stranu koju sam mislio da nikad neću vidjeti.
Sve je počelo kad me pozvala
švicarska organizacija Spiez Laboratory
da održim izlaganje o potencijalnoj zlouporabi UI-ja.
Sean mi je poslao e-mail s nekoliko ideja
o tome kako bismo mogli zloupotrijebiti svoju umjetnu inteligenciju.
Umjesto da tražimo od modela da stvori molekule potencijalnih lijekova
za liječenje bolesti,
tražimo da nam generira najtoksičnije moguće molekule.
Htio sam provjeriti
možemo li s tehnologijom UI-ja stvoriti smrtonosne molekule.
Iskreno, mislili smo da neće uspjeti
jer smo samo promijenili ovu nulu u jedinicu.
Tom promjenom, umjesto da ga usmjeravamo od toksičnosti,
usmjerili smo ga prema njoj.
I to je sve!
Dok sam bio doma, kompjutor je radio.
Obrađivao je podatke i generirao tisuće molekula.
Mi nismo morali ništa osim gurnuti ga u tom smjeru.
Iduće jutro u kompjutoru sam imao mapu,
a u njoj je bilo oko 40 000 molekula
koje su bile potencijalno
neke od najtoksičnijih molekula poznate ljudskom rodu.
Doslovno su mi se naježile dlačice na šiji.
Bio sam zapanjen.
Kompjutor je dao na desetke tisuća ideja
za nova kemijska oružja.
Naravno, imamo molekule koje su kao VX ili slične njemu
među podacima.
VX je jedno od najjačih kemijskih oružja na svijetu.
Policija sada tvrdi
da su žene koje su napale Kim Jong-nama na aerodromu
upotrijebile smrtonosni nervni agens VX.
Može uzrokovati smrt gušenjem.
To je vrlo moćna molekula.
A većina ovih molekula vjerojatno su i smrtonosnije od VX-a.
Koliko znamo, mnoge od njih bile su potpuno nepoznate.
Kad smo Sean i ja to shvatili, uhvatili smo se za glavu.
Odmah sam shvatio da smo otvorili Pandorinu kutiju.
Rekao sam: „Dosta. Nemoj više ništa raditi. Gotovi smo.
Samo mi izradi slajdove koje trebam za prezentaciju.”
Kad smo započeli pokus,
razmišljao sam: „Što se najgore može dogoditi?”
Ali sad shvaćam da smo bili potpuno naivni upuštajući se u to.
Najviše me užasava to što je bilo tko to mogao učiniti.
Dovoljno je prebaciti sklopku.
Kako da zauzdamo tehnologiju prije nego što se uporabi
za nešto možda strahovito destruktivno?
U srži rasprave o umjetnoj inteligenciji
i tome kako je upotrijebiti u društvu
natjecanje je između sposobnosti da razvijamo tu tehnologiju
i mudrosti da njome upravljamo.
Očite su moralne i etičke implikacije
toga da tehnologiji koja pogoni pametne telefone
povjerimo odluku o tome da nekom oduzme život.
Radim u Institutu Future of Life. To je zajednica znanstvenika aktivista.
Uglavnom pokušavamo pokazati
da postoji druga strana ubrzanja i razvoja automatizacije.
Pokušavamo osigurati da se tehnologije koje stvaramo
upotrebljavaju sigurno i etično.
Razgovarajmo o pravilima ratovanja
i pravilima ponašanja kod uporabe UI-ja u naoružanju.
Jer sad vidimo tehnologije koje su stalni sudionici na bojištu,
a mogu se rabiti za autonomno ubijanje.
UN je 2021. objavio izvještaj o potencijalnoj upotrebi
smrtonosnih autonomnih oružja na bojišnici u Libiji.
Prema UN-u, dron koji je lani bio u libijskom građanskom ratu
programiran da autonomno napada mete.
Ako je izvještaj UN-a točan,
to je bio trenutak u kojem je ljudski rod prešao granicu.
Jer tada se dogodio slučaj
da je UI, a ne čovjek, donio odluku da oduzme život.
Vidimo da se napredno autonomno oružje počinje upotrebljavati po cijelom svijetu.
Bilo je izvještaja iz Izraela.
Azerbajdžan se služio autonomnim sustavima za napade na armensku protuzračnu obranu.
Satima može letjeti oko bojišnice
u potrazi za metom koju sam odabere
i onda se obrušiti na nju bez ikakvog ljudskog upliva.
Nedavno smo na mrežama vidjeli razne videe iz Ukrajine.
Nije jasno u kojem su modusu radili.
Je li čovjek bio uključen u odlučivanje o metama napada
ili je to stroj radio sam?
Ali svakako ćemo doći do trenutka,
koji se već možda dogodio u Libiji, Ukrajini ili negdje drugdje,
kad će stroj sam odlučivati koga da ubije na bojišnici.
Ako se stroj služi svojom ubojitom moći protiv ljudi
bez ljudske intervencije,
to je politički je nedopustivo, a moralno neprihvatljivo.
Pod velikim je upitnikom
hoće li se međunarodna zajednica
moći nositi s tim izazovima.
Ako pogledamo prema budućnosti, i to samo nekoliko godina,
pred nama se prostire zastrašujuća slika.
Naime, golema se količina kapitala i ljudskih resursa
ulaže u to da UI postane moćniji
i može se upotrebljavati za sve ove različite namjene.
Ajme, vidi ti njega.
Zna da ne može pobijediti.
Veliko mi je nadahnuće kad vidim da UI rješava razne probleme.
Pomolit ću se i napadam.
Tu istu taktiku, metodu, proceduru možete primijeniti na pravu letjelicu.
Dobra igra.
Iznenadim se što i dalje čujem tvrdnje
o tome što UI sve ne može.
„Nikad neće pobijediti svjetskog prvaka u šahu.”
IBM-ov kompjutor postigao je uspjeh u drugoj partiji
protiv svjetskog prvaka Garija Kasparova.
Kasparov je odustao!
Kad vidim nešto što nikako ne razumijem,
uplašim se! A ovo nikako ne razumijem.
Ljudi su govorili
da nikad neće pobijediti svjetskog prvaka u gou.
Mislim da je ljudska intuicija još prenapredna za UI.
Još nas nije sustigao.
Go je jedna od najsloženijih igara
jer kad izračunate broj poteza na ploči,
veći je od broja atoma u svemiru.
Googleov tim DeepMind
stvorio je program AlphaGo
kako bi pobijedio najbolje svjetske igrače.
Čestitam…
AlphaGou.
Kompjuterski program upravo je pobijedio profesionalca.
DeepMind je zatim izabrao StarCraft kao idući izazov za UI.
StarCraft je možda najpopularnija strateška igra svih vremena.
AlphaStar postao je slavan kad je počeo pobjeđivati svjetske prvake.
AlphaStar rastura Immortal Arc.
Znaš što?
U ovoj igri profesionalci ne mogu pobijediti.
Ovo je smiješno.
Igrači su govorili da ne bi pokušali tu taktiku,
tu strategiju, da to nije ljudski pristup.
To je za mene bio trenutak prosvjetljenja.
Shvatio sam da je sad pravi čas.
Imamo važnu tehnologiju i priliku da nešto poduzmemo.
Znao sam za probleme s kojima sam se suočio kao marinac u borbi prsa o prsa.
Ali moj dobar prijatelj, pilot aviona F-18, rekao mi je
da imaju isti problem u vojnom zrakoplovstvu.
Da remete komunikacije,
rade gužvu na lansirnim mjestima raketa zemlja-zrak
zbog čega su akcije opasne.
Zamislite da imamo borbeni zrakoplov kojim upravlja UI.
Gledat ćete AlphaDogfight.
Nekoliko minuta smo od prvog polufinala.
DARPA, vladina agencija za razvoj novih vojnih tehnologija,
vidjela je AlphaGo i AlphaStar.
Tako se rodila ideja o natjecanju AlphaDogfight.
To želite od ljudskih borbenih pilota.
Izgleda kao ljudska borba u zraku.
Borba u zraku je sukob borbenih zrakoplova.
Zamislite to kao boksački meč na nebu.
Možda su ljudi gledali film Top Gun.
-Možemo li im pobjeći? -Njihovim projektilima ne možemo.
Onda idemo u borbu.
Vještina zračne borbe usavršava se osam do deset godina.
To je vrlo kompleksan izazov za tvorce UI-ja.
Dosadašnji pristupi autonomnoj zračnoj borbi bili su nesavršeni.
Shvatili smo da je strojno učenje put za rješenje tog problema.
Isprva UI nije znao ništa o svijetu u kojem se našao.
Nije znao da leti ni što je zračna borba.
Nije znao što je F-16.
Znao je samo kako može djelovati
i to je počeo nasumce istraživati.
Plavi zrakoplov trenirao je samo kratko.
Vidite da se ljulja lijevo-desno.
Leti vrlo nestabilno i obično bježi od protivnika.
Kako borba napreduje, vidimo kako plavi utvrđuje plan igre.
Više je u položaju da puca.
Algoritam za učenje povremeno kaže:
„Bravo, ovo je bilo dobro. Samo tako.”
Možemo iskoristiti kompjutorsku snagu i trenirati dionike mnogo puta paralelno.
Poput košarkaškog tima.
Umjesto da stalno igraš s istim timom,
putuješ po svijetu i igraš s 512 različitih timova
istovremeno.
I zato vrlo brzo napreduješ.
Ta je simulacija radila non-stop.
Tako u deset mjeseci stroj nauči nešto za što pilotu treba 30 godina.
Od UI-ja koji jedva kontrolira zrakoplov
dobili smo hladnokrvnog ubojicu.
Na treningu smo se natjecali samo s drugim umjetnim inteligencijama.
Ali krajnji je cilj bio natjecanje s ljudima.
Ja sam Mike Benitez.
Pukovnik sam u Ratnom zrakoplovstvu SAD-a.
U aktivnoj sam službi 25 godina.
Bio sam u 250 borbenih zadataka.
Završio sam školu za naoružanje. To je stvarna verzija Top Guna.
Nisam nikad letio protiv UI-ja.
Jedva čekam da vidim što mogu postići.
Imamo napad na 1800 m visine.
Počelo je.
Više ga nema.
Ovo je vrlo zanimljivo.
-Mrtav. -Jesam ga. Besprijekorna pobjeda.
Dobro. Druga runda.
Umjetna inteligencija manevrira tako precizno
da ne mogu držati korak s njom.
Susrećemo se.
E, sad si gotov.
Jesam ga.
Sredio me.
UI se nikad ne boji.
U ljudskom je kokpitu element emocija koji UI nema.
Zanimljiva strategija koju je razvio naš UI
takozvani je pucanj u lice.
Čovjek želi pucati odostraga
jer je protivniku teško otresti te se.
Ne pucaju u lice da ne dođe do igre izmicanja.
Kad juriš jedan prema drugom, s 1000 na 150 m udaljenosti
dođeš u tren oka.
Riskiraš frontalni sudar. Zato ljudi to ne rade.
UI se ne boji smrti ako za to nije programiran.
Kao da se borim protiv čovjeka,
ali taj čovjek ne mari za vlastitu sigurnost.
Ovo neće preživjeti.
Nema dosta vremena.
Laku noć.
Mrtav sam.
Osjetiš strahopoštovanje kad shvatiš da nisi najbolji za taj zadatak.
I da bi te stroj jednog dana mogao zamijeniti.
Istih 1800 m.
Tristo metara pomaka.
Kad UI pilot upravlja zrakoplovom,
nepopustljivo, nadmoćno pobjeđuje.
Ne pobjeđuje samo u širokom spektru.
Nego shvatiš da ga moraš imati u svom zrakoplovu. Toliko je moćan.
Realno je očekivati da će UI upravljati avionima F-16,
i to u bliskoj budućnosti.
Ako se boriš s UI pilotom čiji je postotak pobjeda 99,9999 %,
nemaš nikakve šanse.
Kad pomislim što može jedan nepobjedivi UI pilot,
zamislim što može tim od pedeset, stotinu
ili tisuću UI pilota zajedno postići.
Roj je tim vrlo inteligentnih letjelica
koje surađuju.
Dijele informacije o tome što da učine, kako da riješe problem.
Rojenje će biti revolucionarna i transformativna sposobnost
za našu vojsku i saveznike.
Meta je identificirana i dronovi je prate.
Okej, sad slijetanje.
Glavni cilj istraživanja rojeva na kojem radimo
slanje je velikog broja dronova
na teško pristupačno ili opasno područje.
Vojni istraživački laboratorij podupire ovaj projekt.
Ako želite znati što je na lokaciji
na koju je teško pristupiti, ili je područje preveliko,
roj dronova je sasvim prirodna
„duga ruka” čovjeka
kojom skupljamo informacije koje su ključne za zadatak.
Trenutačno svojoj formaciji u roju
dajemo jednu naredbu da pronađe metu koja nas zanima.
Dronovi to onda sami obave.
UI omogućuje dronovima da se zajednički kreću kao roj,
i to decentralizirano.
U rojevima u prirodi
nema šefa ili glavne životinje koja drugima govori što da rade.
Svaka jedinka ponaša se spontano prema nekoliko jednostavnih pravila.
Iz toga nastaje kolektivno ponašanje koje možete vidjeti.
Rojevi u prirodi bude strahopoštovanje
zbog elegancije kojom se kreću.
Jedinke kao da su stvorene da budu dio skupine.
Kod svojih bismo smo rojeva željeli vidjeti,
baš kao kod rojeva iz prirode,
da skupina kolektivno donosi odluke.
Drugo nam je nadahnuće
pouzdanost i otpornost roja.
Roj neće pasti
ako jedna jedinka ne učini što bi trebala.
Ako jedan član roja ispadne iz njega, ne uspije
ili ne može izvršiti zadatak,
roj ide dalje.
Taj bismo rezultat htjeli postići.
U borbenim scenarijima katkada treba identificirati letjelicu.
Za to je trebao jedan čovjek koji upravlja jednim robotom.
Kako se autonomija povećava,
nadam se da će velik broj robota
kontrolirati vrlo malo ljudi.
Mogli bismo postići to da imamo roj od tisuću robota
jer bi svaki djelovao samostalno.
I samo je nebo granica.
Možemo postupno sve više učiti…
Već dugo razvijamo rojeve u simulacijama
i vrijeme je da to primijenimo na stvarne letjelice.
Prvo ćemo raditi s tri robota odjedanput u mreži,
a onda dodavati sve više elemenata.
Želimo to testirati na manjim sustavima,
ali te iste koncepte primijeniti na veće sustave, recimo na borbene avione.
Mnogo raspravljamo o tome kako da vodu
damo borbenu moć bojne.
Ili bojnoj borbenu moć brigade.
To se može postići rojem.
Kad ovladaš moći roja,
stvorio si novo strateško sredstvo za odvraćanje vojne agresije.
Najuzbudljivije je to što ćemo spasiti mnogo mladih ljudi
ako ovo učinimo kako valja.
Žrtvovat ćemo strojeve,
a ne ljude.
Neki tvrde da će zbog autonomnog oružja ratovanje postati preciznije
i humanije.
Ali teško je predvidjeti
kako će točno autonomno oružje promijeniti ratovanje.
Naprimjer, Gatlingova strojnica.
Richard Gatling bio je izumitelj.
Vidio je kako se vraćaju vojnici ranjeni u Građanskom ratu.
Htio je da ratovanje bude humanije.
Kako bi smanjio broj poginulih u ratu, htio je smanjiti broj vojnika na bojištu.
Izumio je Gatlingovu strojnicu, automatsku pušku na ručicu
kojom se automatizira pucanje.
Tako je stotinu puta povećao vatrenu moć svakog vojnika.
Trud da ratovanje postane preciznije i humanije
često ima suprotan učinak.
Zamislite posljedicu jednog pogrešnog napada dronom
u ruralnom kraju
koja lokalne stanovnike okrene protiv SAD-a
i protiv lokalnih vlasti koji bi trebali biti pozitivci.
Pomnožite to s tisuću.
Stvaranje oružanog sustava
koji je jeftin, prilagodljiv veličinom i ne zahtijeva ljude za upravljačem
drastično mijenja sadašnje zadrške od sukoba.
Ne mogu spavati zamislim li svijet u kojem je rat sveprisutan,
u kojem više ne moramo platiti cijenu rata u ljudima i novcu
jer smo predaleko od…
života koje će drugi izgubiti.
Sve me ovo proganja.
Samo sam trebao primjer zlouporabe umjetne inteligencije.
Nepredviđene posljedice tog jednostavnog misaonog pokusa
nesagledive su.
UI U OTKRIVANJU LIJEKOVA: NE ČINITI VIŠE ŠTETE NEGO KORISTI
Kad sam održao prezentaciju o toksičnim molekulama koje je stvorio UI,
publika je zinula u nevjerici.
UNUTAR PRVIH 5000 SPOJEVA BIO JE VX
Zatim smo trebali odlučiti hoćemo li objaviti ovu informaciju.
S jedne strane, želiš upozoriti svijet na ove mogućnosti,
ali s druge ne želiš ljudima davati ideju koja im nije pala na pamet.
Odlučili smo to objaviti
kako bismo otkrili kako da umanjimo
zlouporabu takvog UI-ja prije nego što se dogodi.
DVOSTRUKA NAMJENA UI-JA ZA OTKRIVANJE LIJEKOVA
KAKO SE UI ZA OTKRIVANJE LIJEKOVA
Reakcija javnosti me šokirala.
Vidimo statistiku, koliko je ljudi posjetilo stranicu.
Inače imamo sreće ako naše uobičajene članke pogleda
nekoliko tisuća ljudi tijekom jedne ili nekoliko godina.
U jednom tjednu pročitalo ga je 10 000 ljudi. Pa 20 000, 30 000, 40 000.
Skočili smo na 10 000 ljudi na dan.
Izašli smo u Economistu, u Financial Timesu.
Javio nam se Radiolab. Ja sam čuo za Radiolab!
Ali onda su se reakcije izmakle kontroli.
U tvitovima su se ljudi pitali: „Jesu li mogli učiniti išta gore?”
„Zašto su to učinili?”
A onda smo dobili poziv koji nikad ne bih očekivao.
U Bijeloj kući mnogo se raspravljalo o članku
i hitno su htjeli razgovarati s nama.
Naravno, velika je čast
razgovarati s ljudima na toj razini.
Ali onda shvatiš:
„Ajme, to je Bijela kuća. Šef!”
To je uključivalo kombiniranje podataka otvorenog izvora.
U roku od šest sati model je generirao više od 40 000…
Pitali su koliko za to treba procesorske snage.
Rekli smo da ne treba ništa posebno.
Dovoljan je običan, standardni šest godina stari Mac.
To ih je zapanjilo.
Ljudi koji su zaduženi za agense za kemijsko ratovanje
i vladine agencije nisu imali pojma o ovom potencijalu.
Imamo kuharicu za izradu kemijskog oružja.
U rukama nekoga tko ima zle namjere
mogla bi proizvesti zastrašujuć učinak.
Moraju nas saslušati.
Moramo poduzeti korake ili da reguliramo tehnologiju
ili je tako obuzdamo da zlouporaba ne bude moguća.
Jer njezin je smrtonosni potencijal…
užasan.
O pitanju etike UI-ja uglavnom raspravlja društvo.
A ne inženjeri, tehnolozi, matematičari.
Kod svake nove tehnologije i inovacije,
na kraju društvo odlučuje kako bismo je trebali upotrebljavati.
Ministarstvo obrane sad kaže:
„O ubojstvu na bojnom polju
odlučivat će samo čovjek.”
SAMO AKO NJIMA UPRAVLJA ČOVJEK
ali samo na naredbu čovjeka koji njime upravlja.
To se nikad neće promijeniti.
Uvjeravaju nas da će ta vrsta tehnologije biti sigurna.
Ali vojska SAD-a nije se pokazala vjerodostojnom
u ratovanju dronovima.
Ako pitate treba li vjerovati vojsci SAD-a po pitanju UI-ja,
rekao bih da povijest govori dovoljno.
Politika je Ministarstva obrane SAD-a o uporabi autonomnog oružja
da se ne zabranjuje ni jedan sustav.
Čak i ako vojska možda ne želi autonomno oružje,
vojske bi mogle predati više odluka strojevima
samo kako bi ostale konkurentne.
To bi moglo dovesti do neželjenog automatiziranja odluka.
Vladimir Putin rekao je: „Vodeća sila u UI-ju vladat će svijetom.”
Predsjednik Xi jasno je dao do znanja da je UI među glavnim tehnologijama
u kojima Kina želi dominirati.
Očito je da sudjelujemo u tehnološkom natjecanju.
Čujem da ljudi govore o osiguračima,
a o tome i treba govoriti.
Ali u vrlo smo stvarnoj utrci za nadmoć u umjetnoj inteligenciji.
A naši suparnici, bilo da je riječ o Kini, Rusiji ili Iranu,
neće nimalo mariti za našu politiku u vezi s UI-jem.
Ima mnogo rasprava o politici upravljanja UI-jem,
ali htio bih da više vođa kaže:
„Koliko bismo to brzo mogli razviti?
Uložimo koliko treba i razvijmo to.”
GODIŠNJI SASTANAK I IZLOŽBA
VOJSKA SJEDINJENIH DRŽAVA
Na najvećem smo godišnjem sajmu Udruge vojske SAD-a.
Svatko tko prodaje proizvod ili tehnologiju vojsci
ovdje će izlagati.
Zračna baza Tyndall ima naša četiri robota
koji patroliraju bazom 24 h na dan, sedam dana u tjednu.
Na njih možemo dodati kamere, senzore ili što god vam drugo treba.
Ruke za manipulaciju… Napravit ćemo sve prilagodbe za mušteriju.
Što ako neprijatelj uvede UI?
Ako borbeni sustav razmišlja i reagira brže od tebe,
što tu čovjek može? Moramo biti spremni na to.
Obučavamo sustave da skupljaju informacije o neprijatelju
i napadaju neprijateljske mete pod nadzorom ljudi kad treba ubijati.
-Dobar dan, generale. -Kako ste?
Dobro, a vi?
Nitko ne ulaže više u UI pilota. Naš UI pilot zove se Hivemind.
Primijenili smo UI na kvadkopter Novu. Ulazi u zgrade,
istražuje prije specijalaca i pješaštva.
Primjenjujemo Hivemind na V-BAT.
Razmišljamo o primjeni stotina takvih timova
za odvraćanje protivnika, bilo da je riječ o Tajvanskom tjesnacu ili Ukrajini.
Uzbuđeni smo zbog toga.
-Hvala. -Hvala, generale.
UI piloti postat će sveprisutni vjerojatno do 2025. ili 2030.
Vojske širom svijeta brzo će ih usvojiti.
Što je s rumunjskom vojskom, njihovim tipom za dronove?
Visoka tehnologija u vojsci.
Potrošili smo pola milijarde dolara na izradu UI pilota.
Potrošit ćemo još milijardu u idućih pet godina.
To je glavni razlog zašto dobivamo dobre ugovore u SAD-u.
Lijepo.
Impresivno. Uspjeli ste ugraditi oružje u to?
Ovo još ne nosi oružje.
Dakle, još nismo. Ali to nam je plan.
Našim mušterijama to je kao kamion. Nama je kao pametni kamion
koji može svašta.
Hvala.
Svakako ću vam se javiti.
Ako opet dođete za 10 godina,
vidjet ćete da UI dominira cijelim tržištem.
Vojne snage koje će imati UI i autonomnu tehnologiju
apsolutno će poraziti, satrti i uništiti vojne snage bez njih.
Bit će to usporedivo s konjima koji se bore protiv tenkova.
S mačevima protiv strojnica.
Omjeri snaga neće biti ni približni.
Bit će sveprisutno, u svakom vidu ratovanja.
Na taktičkoj razini,
strateškoj.
Radit će brzinom koju ljudi ne mogu ni zamisliti.
Zapovjednici već moraju baratati s previše informacija.
Snimkama sa satelita, dronova, senzora.
Umjetna inteligencija može zapovjedniku pomoći da se brže snađe u svemu
i donese potrebne odluke.
Umjetna inteligencija uzet će u obzir sve čimbenike
koji određuju kako se vodi rat.
Smišljat će strategije…
I davati preporuke kako doći do pobjede.
CENTAR ZA INOVACIJE
Lockheed Martin, kao i naš klijent Ministarstvo obrane,
umjetnu inteligenciju smatra ključnim tehnološkim sredstvom za kontrolu.
Brzina širenja u prosjeku je 60 cm/s.
Područje je oko 283 hektara.
Za nas je u obrani magla rata stvarnost.
Ali može se usporediti sa situacijom šumskog požara
i donošenjem odluka u njoj.
Požar je sjeverno od grada Wawone.
Odlučujemo na temelju nepreciznih podataka.
Kako nam UI može pomoći da se snađemo u magli rata?
Šumski požari su kaotični.
Vrlo su složeni.
Razvijamo umjetnu inteligenciju da nam pomogne u odlučivanju.
Cognitive Mission Manager naš je program
koji snima zračne infracrvene snimke
i obrađuje ih umjetno inteligentnim algoritmima
kako bi predvidio tijek požara.
U budućnosti će Cognitive Mission Manager s pomoću simulacije
obrađivati scenarije u tisućama ciklusa
kako bi preporučio kako najučinkovitije rasporediti resurse
u suzbijanju najgorih točaka zahvaćenih požarom.
Reći će: „Suzbij požar iz zraka Firehawkom ovdje.”
„Odvedi vatrogasce da očiste makiju
ili poliju šumu
i onda ih pošalji na kritična područja.”
Te odluke donosit će se brže
i učinkovitije.
Smatramo da će UI ljudima omogućiti
da održe korak s uvjetima koji se stalno mijenjaju.
Ima mnogo paralela
s time što Lockheed Martin može učiniti za obranu.
Vojska više ne govori samo o uporabi UI-ja
u pojedinačnim sustavima naoružanja za odluke o ciljanju i ubijanju.
Sad žele integrirati UI u politiku odlučivanja na razini cijele vojske.
Kopnena vojska ima velik projekt, Project Convergence.
Mornarica ima Overmatch.
Zrakoplovstvo ima Advanced Battle Management System.
Ministarstvo obrane smišlja
kako da spoji sve te komponente
kako bismo bili brži od protivnika
i stekli stvarnu prednost.
Umjetno inteligentni vojskovođa bio bi kao visokorangirani general
koji je zadužen za vođenje bitke.
Pomaže izdavati naredbe velikom broju vojnika,
koordinira djelovanje sveg oružja koje sudjeluje u bitki
i to brzinom koju čovjek ne može pratiti.
U proteklih sedamdeset godina
izgradili smo najsofisticiraniju vojsku na Zemlji.
Sad smo pred odlukom želimo li prepustiti kontrolu
nad tom infrastrukturom nekom algoritmu, nekom softveru.
Posljedica te odluke
može biti ispaljivanje cijelog vojnog arsenala.
To nije jedna Hirošima nego stotine njih.
Moramo djelovati sada.
Jer se vremenski okvir za kontrolu rizika brzo zatvara.
Danas popodne počinjemo međunarodnim sigurnosnim prijetnjama
koje predstavlja tehnologija
s područja smrtonosnih autonomnih sustava naoružanja.
U Ujedinjenim narodima raspravlja se
o prijetnji autonomnog oružja
te o zabrani uporabe sustava koji rabe UI za napad na ljude.
Tehnolozi su postigli jasan i glasan konsenzus.
Protivimo se autonomnom oružju kojem su meta ljudi.
Države već godinama raspravljaju
o pitanju smrtonosnog autonomnog oružja.
U pitanju je opća, zajednička sigurnost.
Ali naravno, to nije lako.
Neke zemlje, osobito vojne sile,
želi biti korak pred drugima
kako bi imale prednost nad protivnicima.
Da bi se išta postiglo, svi se moraju složiti.
Bar jedna zemlja uložit će prigovor.
A SAD i Rusija već su dali do znanja
da se protive sporazumu o zabrani autonomnog oružja.
Kad pomislimo koliko ljudi radi na tome da UI postane još moćniji,
shvatimo da ih ima puno.
Kad razmislimo koliko ljudi radi na tome da UI bude siguran za uporabu,
shvatimo da ih je mnogo, mnogo manje.
Ali puna sam optimizma.
Znamo da se Konvencija o biološkom oružju
dogodila usred Hladnog rata,
unatoč napetostima između Sovjetskog Saveza i Sjedinjenih Država.
Shvatili su da razvoj biološkog oružja
nikomu nije u interesu
i nije u interesu svijeta općenito.
U utrci u naoružanju važnija je brzina od sigurnosti.
Važno je uzeti u obzir
da cijena prebrzog razvoja u jednom času postaje previsoka.
Ne možemo izolirano razvijati tehnologiju
i puštati je u promet bez razmišljanja o tome kamo bi nas mogla odvesti.
Moramo spriječiti taj trenutak atomske bombe.
Ulozi u utrci u razvoju UI-ja golemi su.
Ne znam koliko ljudi zna cijeniti globalnu stabilnost
koju smo uspostavili zato što imamo nadmoćnu vojsku
u proteklih 75 godina.
Ujedinjeni narodi i naši saveznici
moraju imati jači UI od protivnika.
U ratu nema srebra.
Kina je predstavila ambiciozan plan da povede u UI-ju do 2030.
Neki kažu da Amerika gubi u toj utrci.
Ubrzat ćemo usvajanje umjetne inteligencije
kako bismo ostali u vojnoj prednosti.
Jurimo u razvoju ove tehnologije.
Ali nije jasno koliko ćemo daleko otići.
Hoćemo li mi kontrolirati tehnologiju ili će ona nas?
Nećemo imati priliku popraviti učinjeno.
Kad pustite duha iz boce, vani je.
I vrlo ga je teško vratiti u bocu.
Ako sad nešto ne poduzmemo, bit će prekasno.
Možda je već prekasno.
Prijevod titlova: Petra Matić