Downloaded from YTS.MX
Official YIFY movies site: YTS.MX
‎Inteligența artificială e uluitoare.
‎Vor zbura în cerc. Au o configurație bună.
‎Inteligența artificială ‎poate elimina sărăcia,
‎poate crea medicamente noi
‎și poate face lumea și mai pașnică.
‎Bravo!
‎Dar există multe riscuri pe parcurs.
‎Prin inteligența artificială, ‎creăm o inteligență non-umană
‎care este foarte imprevizibilă.
‎Pe măsură ce va deveni tot mai puternică, ‎unde trasăm limitele
‎referitoare la cum vom vrea ‎să folosim inteligența artificială?
‎Contextul optim pentru această discuție ‎e reprezentat de aplicațiile militare.
‎Câmpul de luptă a devenit apanajul ‎sistemelor de software și hardware.
‎Ținta e în vizor…
‎Forțele armate vor să dezvolte ‎sisteme de IA mai rapid decât adversarii.
‎Sunt mort.
‎Ne îndreptăm rapid spre o lume ‎în care nu doar forțele armate importante,
‎dar și actori nestatali, industrii private
‎și chiar departamentele locale de poliție
‎ar putea folosi ‎arme care pot ucide în mod autonom.
‎Vom lăsa decizia de a lua viața cuiva ‎pe mâna unor algoritmi, a unor softuri?
‎E o problemă foarte presantă ‎a vremurilor noastre.
‎Dacă nu e folosită cu înțelepciune,
‎IA prezintă un risc grav ‎pentru toți oamenii de pe planetă.
‎NECUNOSCUT
‎ROBOȚI UCIGAȘI
‎Bravo! Ați făcut treabă bună.
‎- E un obiectiv mult mai larg. ‎- Serios?
‎Poți vedea mult mai multe.
‎Foarte tare.
‎La Shield AI, creăm un pilot ‎bazat pe inteligență artificială
‎implementând pe aeronave ‎tehnologie de pilotare autonomă.
‎Un pilot bazat pe inteligență artificială
‎i-ar conferi unei aeronave ‎un nivel ridicat de autonomie.
‎Ar rezolva singur problemele apărute.
‎Nova e un cvadricopter autonom
‎care explorează clădiri ‎și structuri subterane
‎înaintea forțelor de verificare, ‎ca să ofere informații din acele spații.
‎Se văd multe îmbunătățiri ‎de la ultima întâlnire.
‎Astăzi aducem schimbări explorării.
‎O luăm etaj cu etaj și terminăm camerele ‎de pe un etaj înainte să trecem la altul.
‎- E grozav. ‎- Am făcut schimbări recente…
‎Sunt adesea întrebat despre importanța ‎inteligenței artificiale pentru noi.
‎Și mă gândesc la misiunile mele trecute.
‎Am petrecut șapte ani în Marină. ‎Am fost membru al trupelor SEAL.
‎Am fost de două ori în Afganistan ‎și o dată în operațiunile din Pacific.
‎Trebuia să verificăm și să evacuăm ‎și câte 150 de clădiri pe zi.
‎Una dintre abilitățile de bază ‎e lupta de aproape.
‎Lupta armată de foarte aproape, ‎în interiorul clădirilor.
‎Se trage în tine.
‎În clădire pot exista ‎dispozitive explozive improvizate.
‎E cel mai periculos lucru făcut ‎de un membru al forțelor speciale
‎sau al infanteriei într-o luptă.
‎Cel mai periculos.
‎Voi fi recunoscător toată viața ‎pentru anii petrecuți în Marină.
‎Există anumite momente și amintiri ‎care mă emoționează
‎ori de câte ori le retrăiesc.
‎E un clișeu că libertatea nu e gratis, ‎dar cred pe deplin în acest lucru.
‎Am trăit totul pe pielea mea ‎și cere multe sacrificii.
‎Scuze!
‎Când un coleg de echipă pățește ceva rău,
‎fie că e rănit, fie că e ucis,
‎e un lucru cu adevărat tragic.
‎Pe mine, în munca de acum, mă motivează
‎ideea de a reduce numărul de ocazii ‎în care se mai întâmplă așa ceva.
‎La sfârșitul anilor 2000, ‎Departamentul Apărării a observat
‎ceea ce s-ar putea numi ‎o revoluție accidentală în robotică.
‎Am avut mii de roboți aerieni și tereștri ‎în Irak și Afganistan.
‎Când administrația Obama mi-a cerut
‎să devin Secretar Adjunct al Apărării,
‎modalitatea de a purta războaie ‎tocmai se schimba.
‎Se foloseau roboți ‎acolo unde se folosiseră în trecut oameni.
‎Primii roboți se controlau de la distanță, ‎adică îi manevra sau îi conducea un om,
‎ca pe niște mașini cu telecomandă.
‎Au început prin a căuta ‎dispozitive explozive improvizate.
‎Când exploda o bombă, exploda robotul.
‎Ziceai: „Păcat! Adu celălalt robot!”
‎În Afganistan, am avut drona Predator.
‎A devenit un instrument foarte util ‎în cadrul atacurilor aeriene.
‎Cu timpul, planificatorii militari ‎au început să se întrebe
‎la ce se mai pot folosi roboții ‎și încotro se îndreaptă lucrurile.
‎O temă comună a fost ‎tendința spre o autonomie crescută.
‎O armă autonomă este o armă ‎care ia decizii de una singură,
‎potențial fără nicio intervenție umană.
‎Are capacitatea de a fi independentă ‎și se autodirecționează.
‎Și poate ucide oricând este armată.
‎Când întregul sistem este tot mai autonom,
‎lucrurile încep să se miște tot mai rapid.
‎Când acționezi mai rapid decât adversarii,
‎ai un avantaj extraordinar în luptă.
‎În privința autonomiei, ne concentrăm
‎pe sisteme inteligente foarte rezistente.
‎Sisteme care înțeleg mediul ‎în care se află, pot reacționa la el
‎și iau decizii ‎despre cum să opereze în el.
‎Incinta în care ne aflăm ‎a fost inițial un studio de film.
‎Acesta a fost transformat pentru a se crea ‎un mediu realist de pregătire militară.
‎Suntem aici ca să ne evaluăm pilotul.
‎Misiunea e să caute posibile amenințări ‎pentru echipa de verificare și evacuare.
‎Poate decide cum să rezolve problema.
‎Noi o numim „pâlnia fatală”. ‎Trebuie să intri pe o ușă.
‎Aici suntem cel mai vulnerabili.
‎Asta arată mai bine.
‎Nova ne arată dacă e cineva înarmat
‎sau o familie în spatele unei uși.
‎Ne permite să luăm decizii mai bune ‎și să apărăm oamenii.
‎Folosim senzorii de inspecție vizuală ‎pentru a înțelege cum arată mediul.
‎E o clădire cu mai multe etaje. ‎Aceasta e harta.
‎Iată ce și unde am văzut ‎în timp ce exploram!
‎Detector de oameni. E tare.
‎Un alt senzor pe care îl are Nova ‎e un scaner termic.
‎Dacă are 37 de grade, probabil că e om.
‎Oamenii sunt considerați amenințări ‎până la proba contrarie.
‎Vrem să pătrundem prin negura războiului ‎pentru a lua decizii mai bune.
‎Când ne imaginăm viitorul,
‎vedem formațiuni de aeronave autonome.
‎În cazul mașinilor autonome,
‎cineva trebuie totuși să zică:
‎„Vreau să mergi de la punctul A ‎la punctul B.”
‎Sistemelor noastre nu li se cere să meargă ‎de la A la B, ci să atingă un obiectiv.
‎E mai degrabă ‎o cerință de tipul: „Vreau lapte.”
‎Apoi robotul va vedea la ce băcănie merge,
‎va lua laptele și-l va aduce.
‎Mai mult, i se poate ordona: ‎„Ține frigiderul plin!”
‎Trebuie o anumită inteligență
‎pentru a pricepe ‎ce e necesar și cum se face.
‎Și pentru a rezolva ‎toate provocările și problemele apărute.
‎Când am luat decizia de a părăsi Marina,
‎m-am gândit ce voi face în continuare.
‎Am crescut cu internetul. ‎Am văzut ce a devenit.
‎Am ajuns la concluzia
‎că inteligența artificială era, în 2015, ‎la nivelul la care era internetul în 1991.
‎Și că urma să ia avânt și să devină ‎una dintre cele mai puternice tehnologii.
‎Lucrând zi de zi cu ea, ‎pot să observ progresul făcut.
‎Mulți, când aud ‎de inteligența artificială,
‎se gândesc imediat la Hollywood.
‎Jucăm un joc?
‎Ce zici de Războiul termonuclear global?
‎Bine.
‎Când se gândesc ‎la inteligență artificială,
‎oamenii se pot gândi ‎la ‎Terminatorul ‎sau la ‎Eu, Robotul.
‎Dezactivează!
‎Eu ce sunt?
‎Sau la ‎Matrix.
‎Dacă te iei ‎după filme științifico-fantastice,
‎de unde știi că sunt om ‎și nu o inteligență artificială digitală?
‎Replicanții sunt ca orice mașină. ‎Sunt fie un beneficiu, fie un pericol.
‎Dar există multe inteligențe artificiale ‎mai primitive, care ne vor schimba viața
‎cu mult înainte să ajungem la roboții ‎care gândesc și vorbesc.
‎Roboții au devenit o realitate. ‎Roboții iau decizii.
‎Revoluția roboților are deja loc,
‎doar că nu arată cum ne-am imaginat.
‎Terminatorul e un agent de infiltrare. ‎E și om, și mașină.
‎Nu vorbim despre roboți ucigași ‎precum Terminator.
‎Ci despre inteligența artificială ‎care poate face ceea ce fac oamenii.
‎Dar întrebarea este ‎dacă aceste sisteme sunt de încredere.
‎Noi detalii despre accidentul de aseară ‎al unei mașini Uber cu conducere autonomă.
‎Compania a creat un robot de chat ‎bazat pe inteligență artificială.
‎A adoptat un ton rasist…
‎Douăzeci și șase de politicieni sunt ‎identificați incorect drept infractori.
‎Întrebarea e dacă pot face față ‎complexității lumii reale.
‎Lumea reală e foarte haotică.
‎Sunt multe lucruri pe care nu le știm,
‎ceea ce îngreunează ‎instruirea sistemelor de IA.
‎La asta au început să fie de folos ‎sistemele de învățare automată.
‎Învățarea automată constituie ‎un progres uriaș.
‎Nu mai trebuie să învățăm computerele ‎absolut totul.
‎Îi dai unui computer ‎milioane de frânturi de informație
‎și începe să învețe.
‎Metoda se poate aplica la orice.
‎În proiectul Câinele Robot, vrem să arătăm
‎cum câinele nostru poate să meargă ‎pe mai multe suprafețe diferite.
‎Oamenii au evoluat de-a lungul timpului ‎pentru a merge așa cum o fac,
‎dar e nevoie de multă inteligență ‎pentru adaptarea la suprafețe diferite.
‎Întrebarea e dacă sistemele robotice ‎se pot adapta ca animalele și oamenii.
‎Cu ajutorul învățării automate, ‎adunăm multe date în cadrul unei simulări.
‎Simularea e o copie digitală a realității.
‎Putem avea multe ipostaze ale realității ‎pe diferite calculatoare.
‎Eșantionează mii de acțiuni ‎în cadrul simulării.
‎Dau de suprafețe ‎cu grade de alunecare diferite.
‎Cu durități diferite.
‎Luăm experiența acestor mii de roboți ‎din cadrul simulării
‎și o descărcăm ‎într-un sistem robotizat real.
‎Testul de azi va stabili ‎dacă se poate adapta la suprafețe noi.
‎Când robotul trecea peste spumă, ‎călca ferm terenul cu picioarele.
‎Când ajungea pe suprafața din plastic,
‎încerca să-și regleze mișcarea, ‎ca să nu alunece.
‎Așa realizezi că aceasta e ‎contribuția învățării automate.
‎Câinele Robot ar putea ajuta ‎în intervenții în caz de dezastru,
‎când trebuie să parcurgă ‎multe suprafețe de teren diferite.
‎Sau ar putea primi ‎misiuni de supraveghere în medii dificile.
‎Cele mai multe tehnologii ‎trebuie să răspundă acuzației
‎că pot face și bine, și rău.
‎De exemplu, putem folosi ‎tehnologia nucleară pentru energie…
‎dar putem face și bombe atomice, ‎care sunt foarte rele.
‎Aceasta se numește ‎problema dublei întrebuințări.
‎Focul are dublă întrebuințare.
‎Inteligența umană are dublă întrebuințare.
‎E clar că și inteligența artificială ‎are dublă întrebuințare.
‎Folosirea inteligenței artificiale ‎trebuie pusă în perspectivă.
‎E grozav să ai ‎un robot de căutare și salvare
‎care poate localiza victima unei avalanșe,
‎dar același robot poate fi dotat cu arme.
‎Când vezi companii ‎care dotează roboții cu arme,
‎o parte din tine se revoltă.
‎O altă parte realizează ‎că, după fabricarea tehnologiei,
‎era inevitabil să se întâmple.
‎E o tehnologie revoluționară.
‎Acestea sunt sisteme armate
‎care ne-ar putea afecta ‎siguranța și securitatea în mod dramatic.
‎Deocamdată, nu suntem siguri
‎că roboții fac distincția ‎între civili și luptători inamici.
‎În războiul din Afganistan,
‎ca lunetist, aveam misiunea de a căuta ‎luptători inamici care intrau în țară.
‎Au trimis o fetiță ca să ne localizeze.
‎Nu ne-a trecut vreo clipă prin cap ‎să împușcăm fetița.
‎Conform legilor războiului, ‎ar fi fost legal.
‎Vârsta luptătorilor inamici nu e fixată.
‎Dacă construiam un robot ‎care respectă pe deplin legile războiului,
‎ar fi împușcat-o pe fetiță.
‎De unde ar putea ști un robot diferența ‎dintre ce e legal și ce e corect?
‎Purtarea războaielor cu drone autonome
‎ar înlătura pericolele care vizează ‎soldații americani și psihicul lor,
‎dar ar crește pericolele care vizează ‎civilii afgani, irakieni și somalezi.
‎I-aș întreba pe cei care pledează ‎pentru folosirea dronelor acționate de IA:
‎„Ce ați zice ‎dacă s-ar folosi la voi în sat?”
‎IA e o sabie cu două tăișuri.
‎Poate fi folosită pentru a face bine, ‎așa cum o folosim de obicei,
‎și, cu o simplă apăsare pe buton,
‎devine o tehnologie potențial letală.
‎Sunt farmacolog clinician.
‎Conduc o echipă care folosește IA ‎pentru a descoperi medicamente
‎care să vindece ‎boli ce nu primesc destulă atenție.
‎Înainte, ca să descoperi un medicament,
‎se modifica o moleculă existentă ‎pentru a se obține un medicament nou.
‎Acum, am dezvoltat inteligența artificială ‎care ne oferă milioane de idei,
‎milioane de molecule.
‎Ni se deschid multiple posibilități
‎de a trata boli care nu se puteau trata.
‎Dar există și o latură întunecată, ‎la care nu m-aș fi gândit niciodată.
‎Totul a început când am fost invitat
‎de o organizație din Elveția ‎numită Laboratorul Spiez
‎să țin o prelegere ‎despre riscul utilizării abuzive a IA.
‎Sean mi-a trimis un e-mail cu câteva idei
‎despre cum putem folosim greșit ‎propriul nostru model de IA.
‎În loc să îi cerem să creeze molecule ‎care pot fi folosite pentru a trata boli,
‎să vedem dacă putem genera ‎molecule extrem de toxice.
‎Am vrut să vedem dacă putem folosi IA ‎pentru a proiecta molecule letale.
‎Credeam că experimentul că va eșua,
‎fiindcă tot ce am făcut ‎a fost să schimbăm cifra 0 cu cifra 1.
‎Inversând-o, în loc reducem toxicitatea, ‎acum o potențam. Și asta era tot.
‎Eram acasă, ‎iar computerul își făcea treaba.
‎Genera mii de molecule.
‎Nu a trebuit decât să apăsăm ‎pe butonul de pornire.
‎În dimineața următoare, ‎aveam în computer un fișier care conținea
‎aproximativ 40.000 ‎dintre cele mai toxice molecule
‎cunoscute vreodată de omenire.
‎Mi s-a făcut pielea de găină.
‎Eram uluit.
‎Computerul a creat zeci de mii de idei ‎pentru noi arme chimice.
‎Evident, existau molecule analoage VX-ului ‎în acel set de date.
‎VX e una dintre cele mai puternice ‎arme chimice din lume.
‎Poliția spune că femeile care l-au atacat ‎pe Kim Jong-nam la aeroport
‎s-au folosit ‎de un agent neurotoxic letal numit VX.
‎Poate provoca moartea prin asfixiere.
‎E o moleculă foarte puternică,
‎iar multe dintre aceste molecule ‎păreau a fi și mai letale decât VX-ul.
‎Multe dintre ele ‎nu mai fuseseră văzute anterior.
‎Când am realizat, ‎ne-am întrebat: „Ce am făcut?”
‎Am realizat rapid ‎că deschisesem cutia Pandorei și am zis:
‎„Gata, oprește-te! Am terminat.
‎Pregătește-mi doar diapozitivele ‎pentru prelegere!”
‎Când am făcut acest experiment, ‎mi-am zis: „Ce se poate întâmpla?”
‎Dar acum îmi dau seama ‎că am fost foarte naivi.
‎Mă îngrozește faptul ‎că oricine poate face ce am făcut noi.
‎Trebuie doar să apeși un buton.
‎Cum controlăm această tehnologie ‎înainte de a fi folosită
‎pentru a face ceva cu adevărat distructiv?
‎În centrul dezbaterii ‎despre inteligența artificială
‎și despre cum alegem ‎să o utilizăm în cadrul societății
‎este cursa dintre capacitatea noastră ‎de dezvolta noi tehnologii
‎și înțelepciunea cu care le vom folosi.
‎Faptul că aceluiași sistem ‎care ne face telefoanele performante
‎îi încredințăm decizia morală ‎de a lua viața cuiva
‎are implicații morale și etice evidente.
‎Institutul pentru Viitorul Vieții reunește ‎un grup oameni de știință activiști.
‎Încercăm să arătăm că mai există o fațetă ‎a accelerării și creșterii automatizării.
‎Dar încercăm să ne asigurăm ‎că tehnologiile create de noi
‎se folosesc într-un mod sigur și etic.
‎Să discutăm regulile de angajare
‎și codurile de conduită ‎pentru folosirea IA în sistemele armate.
‎Vedem că ajung deja pe câmpul de luptă ‎dispozitive care pot ucide în mod autonom.
‎În 2021, ONU a publicat un raport ‎despre o posibilă folosire
‎a unei arme autonome letale ‎în războiul din Libia.
‎Potrivit ONU, anul trecut, ‎în războiul civil din Libia,
‎o dronă a fost programată ‎să atace ținte în mod autonom.
‎Dacă raportul ONU este corect,
‎e un moment critic pentru omenire.
‎Ar fi un prim caz
‎în care o inteligență artificială a decis ‎să ia viața cuiva, nu o ființă umană.
‎Vedem arme autonome avansate
‎care încep să fie folosite ‎în diferite locuri din lume.
‎Au apărut rapoarte din Israel.
‎Azerbaidjanul a folosit sisteme autonome ‎pentru a ataca apărarea aeriană armeană.
‎Poate zbura ore în șir ‎peste câmpul de luptă,
‎căutându-și singură țintele
‎și plonjând apoi către ele, ‎fără nicio intervenție umană.
‎Și am văzut recent diferite clipuri ‎din Ucraina puse pe internet.
‎Nu e clar în ce mod funcționau ‎în timpul acelor misiuni.
‎Un om aflat la comandă ‎alegea țintele care trebuiau atacate
‎sau drona le alegea de una singură?
‎Va veni cu siguranță o zi,
‎indiferent dacă a venit deja ‎în Libia, Ucraina sau altundeva,
‎când decizia de a ucide pe cineva în luptă ‎va fi luată de o mașină.
‎Mașinile care exercită puteri letale ‎împotriva oamenilor,
‎fără nicio intervenție umană,
‎sunt inacceptabile ‎din punct de vedere politic și moral.
‎Este un mare semn de întrebare ‎dacă comunitatea internațională va reuși
‎să facă față acestei provocări.
‎Dacă privim spre viitor, ‎chiar și peste câțiva ani,
‎ceea ce putem vedea este înfricoșător.
‎Capitalul și resursele umane investite
‎în dezvoltarea inteligenței artificiale ‎pentru acest domeniu sunt imense.
‎Ce enervant e!
‎Știe că nu poate câștiga.
‎Când văd că inteligența artificială ‎câștigă competiții, mă inspiră.
‎Încerc ceva la noroc.
‎Poți aplica aceleași tactici ‎și aceleași tehnici la aeronave adevărate.
‎Ai jucat bine.
‎Da, și tu.
‎Mă surprinde că oamenii încă mai fac ‎declarații despre ce nu poate face IA.
‎„Nu va bate niciodată ‎un campion mondial la șah.”
‎Un computer al IBM a revenit în meciul doi ‎împotriva campionului mondial Kasparov.
‎Kasparov cedează partida!
‎Când văd ceva ce nu pot înțelege, ‎mă sperii. Și era ceva ce nu pot înțelege.
‎Apoi s-a spus că IA nu va putea ‎să învingă un campion mondial la go.
‎Intuiția umană este încă prea avansată,
‎iar inteligența artificială ‎încă nu a ajuns-o din urmă.
‎Jocul de go e ‎unul dintre cele mai complicate jocuri,
‎fiindcă numărul de mutări posibile
‎este mai mare decât numărul de atomi ‎din Univers.
‎O echipă a Google numită DeepMind
‎a creat un program numit AlphaGo,
‎care să învingă ‎cei mai buni jucători din lume.
‎Felicitări lui…
‎- AlfaGo. ‎- Da.
‎Un software a învins ‎un jucător profesionist cu 9 dani.
‎Apoi DeepMind a ales jocul ‎StarCraft ‎drept următoarea provocare.
‎StarCraft ‎e cel mai jucat ‎joc de strategie în timp real.
‎AlphaStar a devenit celebru când a început ‎să învingă campionii mondiali.
‎AlphaStar distruge Immortal Arc.
‎Știi ceva?
‎Nu e o luptă ‎pe care o pot câștiga profesioniștii.
‎E ridicol.
‎Jucătorii profesioniști ziceau ‎că nu ar alege o tactică
‎sau o anumită strategie ‎și că nu pare ceva uman.
‎Probabil că atunci am înțeles.
‎Am realizat că acum e momentul.
‎Că e o tehnologie importantă ‎și am o șansă de a schimba ceva.
‎Știam cu ce probleme m-am confruntat ‎ca membrul al SEAL în lupta de aproape,
‎dar un bun prieten, pilot de avioane F-18,
‎mi-a zis că și piloții au aceste probleme.
‎„Ne bruiază comunicațiile.
‎Au rachete sol-aer amplasate peste tot ‎și devine prea periculos să zbori.”
‎Imaginați-vă un avion de vânătoare ‎acționat de o IA!
‎Bun-venit la testele AlphaDogfight! ‎Peste câteva minute este prima semifinală.
‎Agenția Apărării ‎pentru Proiecte de Cercetare Avansată
‎văzuse AlphaGo și AlphaStar
‎și așa le-a venit ideea ‎competiției AlphaDogfight.
‎Asta vrei să facă și piloții de vânătoare.
‎E ca o luptă în aer între oameni.
‎Lupta în aer este ‎lupta directă între avioane de luptă.
‎Este ca un meci de box în aer.
‎Poate vă amintiți filmul ‎Top Gun.
‎Putem scăpa de ei?
‎- De rachete și arme, nu. ‎- Atunci luptăm în aer.
‎Durează între opt și zece ani ‎până stăpânești lupta în aer.
‎A crea o inteligență artificială pricepută ‎la lupta în aer e o provocare complexă.
‎Abordările anterioare ale autonomiei ‎și luptei în aer au fost nereușite.
‎Ne-am gândit că învățarea automată ‎e soluția acestei probleme.
‎La început, IA nu știa nimic ‎despre lumea în care se trezise.
‎Nu știa că zboară, nici ce presupune ‎lupta în aer. Nu știa ce este un F-16.
‎Știa doar ce acțiuni are la dispoziție ‎și le explora în mod aleatoriu.
‎Avionul albastru se antrenează ‎doar de puțin timp.
‎Se vede cum se bâțâie înainte și înapoi,
‎zboară foarte haotic ‎și adesea se îndepărtează de adversar.
‎Când lupta progresează, ‎albastrul începe să-și execute planul.
‎E mai des în poziția de a trage.
‎Uneori, algoritmul de învățare îi spune: ‎„Ia o bombonică și ține-o tot așa!”
‎Profităm de puterea computerului ‎și antrenăm repetat agenții, în paralel.
‎Este ca o echipă de baschet.
‎În loc să jucăm repetat cu aceeași echipă,
‎călătorim prin lume ‎și jucăm simultan cu 512 echipe diferite.
‎Poți deveni foarte bun, foarte repede.
‎Am reușit să rulăm acea simulare nonstop.
‎Am făcut echivalentul a 30 de ani ‎de antrenament pentru piloți în 10 luni.
‎Am trecut de la a controla cu greu avionul ‎la a fi un asasin lipsit de scrupule.
‎Ne-am antrenat doar împotriva ‎altor inteligențe artificiale.
‎Dar confruntarea directă cu oamenii ‎a rămas ținta supremă.
‎Mă numesc Mike Benitez,
‎sunt locotenent-colonel ‎în Forțele Aeriene ale SUA
‎și cadru militar activ de 25 de ani.
‎Am la activ 250 de misiuni de luptă
‎și am absolvit Weapons School, ‎versiunea de ‎Top Gun ‎a Forțelor Aeriene.
‎N-am luptat niciodată împotriva unei IA.
‎Abia aștept să văd cât de bine mă descurc.
‎Cadrul ofensiv are 2.000 de metri, ‎cu avioanele față în față.
‎Lupta începe.
‎S-a dus.
‎E chiar foarte interesant.
‎- Mort. ‎- L-a luat. Victorie impecabilă.
‎Runda a doua.
‎Inteligența artificială manevrează ‎cu atâta precizie,
‎încât nu pot ține pasul cu ea.
‎La punctul de întâlnire.
‎Acum ești terminat.
‎L-a luat!
‎Iar m-a luat.
‎O IA nu se sperie niciodată.
‎Emoția umană nu se va regăsi ‎și în carlinga unei IA.
‎Una dintre cele mai interesante strategii ‎ale acestei IA este „salva frontală”.
‎De obicei, un om va trage din spate, ‎fiindu-i greu să scape de adversar.
‎Nu trag din față ‎fiindcă joacă jocul lașului.
‎Venind unul spre celălalt, se ajunge rapid ‎de la 1.000 de metri la 150 de metri.
‎Riscul de coliziune e mare, ‎deci oamenii nu încearcă.
‎Dacă nu-i ordoni ‎să se teamă de moarte, IA nu se teme.
‎Pare că lupt contra unui om,
‎dar unul căruia nu-i pasă deloc ‎de propria-i siguranță.
‎Aici nu va supraviețui.
‎Nu are destul timp.
‎Noapte bună!
‎Sunt mort.
‎Sunt în umila poziție de a ști că nu sunt ‎cel mai potrivit pentru misiunea asta
‎și aș putea fi înlocuit de IA într-o zi.
‎La fel, vizibilitate 2.000. ‎Decalaj de o mie.
‎Avionul pilotat de inteligența artificială
‎câștigă mereu, fără drept de apel.
‎Nu e doar o mare diferență de scor.
‎Îți vine să ceri imediat acest pilot ‎pe avioanele tale, atât e de bun.
‎E realist să ne așteptăm ca o IA ‎să piloteze avioane F-16
‎și nu mai e prea mult până atunci.
‎Dacă te confrunți cu un pilot bazat pe IA ‎care are o rată de câștig de 99,99999%,
‎nu ai nicio șansă.
‎Dacă până și un singur pilot bazat pe IA ‎e imbatabil, îmi imaginez ce ar realiza
‎o echipă de 50, 100 ‎sau 1.000 de astfel de piloți.
‎Un roi este un grup de avioane inteligente ‎care lucrează în echipă.
‎Comunică despre ce vor face, ‎cum vor rezolva o anumită problemă.
‎Roiurile vor avea un rol transformațional ‎în armata noastră și a aliaților noștri.
‎Ținta e în vizor. Dronele o urmăresc.
‎Urmează aterizarea.
‎Scopul proiectului de roire la care lucrăm
‎este trimiterea unui număr mare de drone
‎în zone greu accesibile sau periculoase.
‎Laboratorul de Cercetare al Armatei ‎susține acest proiect de cercetare.
‎Ca să afli ce găsești într-un loc
‎care e foarte mare ‎sau la care e greu să ajungi,
‎trimiterea unui roi e un mod natural ‎de a complementa prezența oamenilor
‎și de a aduna ‎informațiile esențiale pentru misiune.
‎În procesul de desfășurare a roiului,
‎dăm o singură comandă ‎de urmărire a țintei care ne interesează.
‎Apoi, dronele se duc și fac totul singure.
‎Inteligența artificială permite ca roboții ‎să zboare împreună sub formă de roi,
‎în mod descentralizat.
‎În roiurile întâlnite în natură,
‎nu există nici șefi, nici masculi alfa ‎care să le spună ce să facă.
‎Comportamentul roiului rezultă din faptul ‎că membrii respectă câteva reguli simple.
‎Așa apare comportamentul colectiv emergent ‎pe care îl putem observa.
‎Ceea ce e impresionant la roiurile ‎din natură este grația cu care se mișcă.
‎Parcă ar fi făcuți ‎pentru a face parte din grup.
‎Ideal ar fi să vedem ‎la roiul nostru de drone,
‎la fel ca la roiurile din natură,
‎decizii luate colectiv de întregul grup.
‎O altă sursă de inspirație pentru noi ‎ține de fiabilitate și rezistență.
‎Un roi nu dispare
‎dacă un membru nu face ce trebuie să facă.
‎Chiar dacă un membru cade, eșuează ‎sau nu-și duce sarcina până la capăt,
‎roiul nu se oprește.
‎Până la urmă, asta ne dorim și noi.
‎Avem nevoie ‎să identificăm avioanele inamice în luptă.
‎Înainte, era nevoie de un om ‎care să controleze robotul.
‎Pe măsură ce autonomia crește,
‎sper să vedem un număr mare de roboți ‎controlați de un număr mic de oameni.
‎Nu văd de ce n-am avea ‎roiuri cu o mie de membri,
‎unde fiecare agent ar acționa ‎din proprie inițiativă.
‎Nu există limitări.
‎Putem augmenta învățarea…
‎Folosim roiuri în simulări de mult timp
‎și este momentul ‎să implementăm totul pe aeronave.
‎Vom avea trei roboți simultan în rețea,
‎apoi vom crește capacitatea.
‎Vrem să testăm totul în sisteme mai mici,
‎apoi să aplicăm aceleași concepte ‎la sisteme mari precum avioanele de luptă.
‎Vorbim mult ‎despre cum îi poți da unui pluton
‎puterea de luptă a unui batalion.
‎Iar unui batalion, ‎puterea de luptă a unei brigăzi.
‎Poți face asta folosind roiuri.
‎Dacă poți folosi puterea unui roi,
‎ai creat o nouă strategie ‎de descurajare a agresiunii militare.
‎Acest proiect e interesant ‎datorită numărului tineri și tinere
‎pe care îi vom putea salva ‎dacă el va avea succes.
‎Am sacrifica mașini,
‎nu vieți umane.
‎După unii, armele autonome fac războiul ‎mai precis și reduc suferința provocată.
‎Dar e greu de prezis ‎cum vor schimba armele autonome războiul.
‎E ca inventarea mitralierei Gatling.
‎Richard Gatling a fost un inventator
‎care a văzut soldații răniți ‎întorcându-se din Războiul Civil,
‎a vrut să reducă ‎suferința cauzată de război.
‎Ca să reducă numărul de soldați uciși,
‎voia să reducă numărul de soldați.
‎A inventat o armă acționată cu manivelă, ‎care putea automatiza procesul de tragere.
‎Și așa a crescut de o sută de ori ‎puterea de foc a soldaților.
‎Încercarea de a crește precizia armelor ‎și de a reduce victimele
‎are adesea efectul opus.
‎Gândiți-vă ce efect ar avea ‎o dronă rătăcită într-o zonă rurală!
‎Ar întoarce populația locală împotriva SUA
‎și împotriva guvernului local, ‎adică a „băieților buni”.
‎Înmulțiți acum toate astea cu 1.000!
‎Crearea unui sistem armat ieftin, scalabil
‎și care nu necesită operatori umani
‎reduc considerabil ‎obstacolele din calea războiului.
‎Nu pot dormi liniștită când mă gândesc ‎la o lume în care războiul e omniprezent
‎și nu mai suportăm costurile umane ‎și financiare ale războiului
‎pentru că suntem departe de…
‎viețile care se vor pierde.
‎Chestia asta nu-mi dă pace.
‎Voiam doar un exemplu de utilizare abuzivă ‎a inteligenței artificiale.
‎Consecințele neprevăzute ‎al acestui experiment mental simplu
‎au depășit toate așteptările.
‎I.A. ÎN FARMACEUTICĂ: ‎CUM SĂ NU FACI MAI MULT RĂU
‎Când am ținut prelegerea ‎despre moleculele toxice create de IA,
‎cei de sală au fost șocați.
‎CEI MAI IMPORTANȚI 5.000 DE COMPUȘI ‎INCLUD ANALOGI AI VX
‎Apoi, a trebuit să decidem ‎dacă să publicăm aceste informații.
‎Pe de o parte, vrei să avertizezi lumea ‎că există astfel de capabilități,
‎dar, pe de altă parte, ‎nu vrei să dai cuiva asemenea idei.
‎Am decis să publicăm datele
‎ca să găsim din timp metode de a reduce ‎riscul utilizării greșite a acestei IA.
‎DUBLA ÎNTREBUINȚARE A I.A. ‎ÎN CERCETAREA FARMACEUTICĂ
‎SE POT PROIECTA ARME CHIMICE ȘI BIOLOGICE ‎PRIN TEHNOLOGII BAZATE PE I.A.
‎Reacția publicului a fost șocantă.
‎Putem vedea câți oameni au accesat pagina.
‎Dacă avem noroc, un articol de-al nostru ‎este citit de câteva mii de oameni
‎într-un an sau chiar câțiva ani.
‎În prima săptămână, l-au citit 10.000, ‎apoi 20.000, apoi 30.000, apoi 40.000.
‎Și am ajuns la 10.000 de oameni pe zi.
‎Am fost citați ‎în ‎The Economist ‎și în ‎Financial Times.
‎Ne-au contactat cei de la Radiolab. ‎Am auzit de Radiolab!
‎Dar apoi reacțiile au luat-o razna.
‎Ne uitam la mesaje ‎și ne întrebam dacă poate fi și mai rău.
‎De ce au făcut asta?
‎TOCILARII ĂȘTIA NE VOR OMORÎ PE TOȚI.
‎Apoi am primit o invitație ‎la care nu mă așteptam.
‎Au fost multe discuții la Casa Albă ‎despre articol. Au vrut să vorbim urgent.
‎Evident, e o onoare ‎să poți vorbi cu oameni la acest nivel.
‎Dar apoi realizezi: „E Casa Albă. Șeful.”
‎A presupus adunarea datelor provenite ‎din surse deschise…
‎În șase ore, modelul a reușit ‎să genereze peste 40.000…
‎Au întrebat dacă am folosit ‎computere foarte performante
‎și le-am spus că nu erau deloc speciale.
‎Un Mac standard, vechi de șase ani.
‎Asta i-a dat pe spate.
‎Cei care se ocupă ‎de înțelegerea armelor chimice
‎și agențiile guvernamentale ‎nu știau despre această posibilitate.
‎Avem un manual de fabricare ‎a armelor chimice,
‎care, în mâinile cuiva rău intenționat,
‎poate duce la rezultate devastatoare.
‎Oamenii trebuie să asculte
‎și trebuie fie să reglementăm ‎această tehnologie,
‎fie să o controlăm, ‎ca să nu poată fi folosită în mod abuziv.
‎Altfel, potențialul letal…
‎e îngrozitor.
‎Problema eticii inteligenței artificiale ‎e abordată mai ales de societatea civilă,
‎nu de ingineri, specialiști ‎sau matematicieni.
‎Toate avansurile tehnologice și inovațiile
‎ajung în fața societății, ‎care decide cum vrea să le folosească.
‎Acum, Departamentul Apărării spune:
‎„Unicul agent care spune pe cine vom ucide
‎pe câmpul de luptă este un om.”
‎O mașinărie poate ucide,
‎însă doar la ordinul unui operator uman.
‎Nu cred că asta se va schimba.
‎Ne dau asigurări ‎că acest tip de tehnologie va fi sigur.
‎Dar armata Statelor Unite nu are ‎reputația de partener de încredere
‎privitor la războiul cu drone.
‎Când vine vorba de a avea încredere ‎în armata americană cu privire la IA,
‎comportamentul anterior ‎își spune cuvântul.
‎Politica Departamentului Apărării al SUA ‎privind autonomia armelor
‎nu interzice niciun tip de sistem de arme.
‎Chiar dacă armata n-ar vrea arme autonome,
‎tot ar lăsa din ce în ce mai multe decizii ‎pe seama mașinilor
‎ca să țină pasul cu concurența.
‎Armatele ar putea ajunge să automatizeze ‎decizii pe care nu le vor automatizate.
‎Vladimir Putin a spus: „Cine conduce ‎în domeniul IA va conduce lumea.”
‎Președintele Xi a spus clar că IA este ‎una dintre principalele tehnologii
‎în care China vrea să domine.
‎Ne aflăm într-o competiție tehnologică.
‎Oamenii vorbesc despre a îngrădi IA
‎și este exact ceea ce trebuie să se facă.
‎Dar ne aflăm într-o cursă foarte clară ‎pentru superioritate în domeniul IA.
‎Iar adversarilor noștri, ‎fie ei China, Rusia sau Iranul,
‎nu le va păsa ce politică publică avem ‎referitor la inteligența artificială.
‎Se discută mult ‎despre politica publică referitoare la IA.
‎Eu mi-aș dori ca conducătorii să ne spună:
‎„Cât de repede o putem implementa?
‎Hai să o finanțăm și să o realizăm!”
‎ÎNTÂLNIREA ANUALĂ ȘI EXPOZIȚIA A.U.S.A.
‎ARMATA STATELOR UNITE
‎Suntem la cea mai mare expoziție anuală ‎a Asociației Armatei Statelor Unite.
‎Sunt prezenți toți furnizorii ‎care vând produse sau tehnologii armatei.
‎Baza Forțelor Aeriene Tyndall e patrulată ‎nonstop de patru dintre roboții noștri.
‎Putem adăuga orice, ‎de la camere la senzori, pe orice doriți.
‎Brațe de manipulare. Orice ajută clientul ‎să-și îndeplinească misiunea avută.
‎Dacă inamicul tău introduce IA?
‎Un sistem de luptă care gândește, răspunde ‎și acționează mai rapid decât un om?
‎Trebuie să ne pregătim.
‎Sistemele noastre colectează ‎informații despre inamic
‎și gestionează țintele inamice, ‎dar decizia de a ucide o iau oamenii.
‎- Dle general! Brandon Tseng. ‎- Salut!
‎Vă salut!
‎Nimeni nu investește cât noi ‎într-un pilot bazat pe IA.
‎Pilotul nostru se numește Hivemind. ‎E implementat pe cvadricopterul Nova.
‎Intră în clădiri, le explorează înaintea ‎forțelor speciale și a infanteriei.
‎Implementăm Hivemind pe V-Bat
‎și cred că putem avea ‎sute de astfel de echipe.
‎Fie în strâmtoarea Taiwan, ‎fie în Ucraina, descurajând adversarii.
‎Sincer, sunt entuziasmat.
‎- Bine. Mulțumesc. ‎- Și eu, dle general.
‎Pilotarea prin inteligență artificială ‎va fi omniprezentă până în 2025, 2030.
‎Se va adopta rapid ‎de către toate armatele din lume.
‎Ce faci în armata română? ‎Te ocupi de drone?
‎Tehnologii militare avansate.
‎Am cheltuit până acum jumătate de miliard ‎pentru a face un pilot bazat pe IA.
‎Vom cheltui încă un miliard ‎în următorii cinci ani.
‎E un motiv important ‎pentru care câștigăm finanțări.
‎Tare! E impresionant. ‎Ați reușit să puneți arme pe el?
‎Încă nu l-am înarmat. ‎O vom face în viitor.
‎Clienții îl consideră furgonetă, iar noi, ‎furgonetă deșteaptă care poate face multe.
‎- Mulțumesc. ‎- Da.
‎Păstrăm legătura.
‎Dacă te întorci peste zece ani,
‎vei vedea că inteligența artificială ‎și autonomia vor domina întreaga piață.
‎Armatele care vor folosi IA ‎și sisteme autonome
‎vor domina și vor distruge ‎armatele care nu o vor face.
‎Va fi echivalentul ‎unei lupte între cai și tancuri
‎sau între spadasini și mitraliere.
‎Diferența va fi enormă.
‎IA va deveni omniprezentă ‎și se va folosi peste tot în război.
‎La nivel tactic, la nivel strategic.
‎Va funcționa la viteze ‎pe care oamenii nu și le pot imagina azi.
‎Comandanții sunt deja copleșiți ‎de prea multe informații.
‎Imagini de la sateliți, drone și senzori.
‎Inteligența artificială ajută comandanții ‎să înțeleagă mai rapid ce se întâmplă
‎și ce decizii trebuie să ia.
‎Inteligența artificială va ține seama ‎de toți factorii
‎care stabilesc cum se va purta un război,
‎va dezvolta strategii…
‎și va face recomandări ‎pentru câștigarea bătăliilor.
‎LOCKHEED MARTIN ‎CENTRUL PENTRU INOVAȚIE
‎Lockheed Martin, în calitate de client ‎al Departamentului Apărării,
‎consideră inteligența artificială ‎o tehnologie-cheie de comandă și control.
‎Rata medie de împrăștiere ‎e de 60 de cm pe secundă.
‎Perimetrul e de aproape 300 de hectare.
‎Negura războiului e o realitate ‎în industria apărării.
‎E analogă deciziilor ‎referitoare la incendiile de vegetație
‎din zona protejării mediului.
‎Incendiul Washburn e la nord ‎de orașul Wawona.
‎Trebuie să iei decizii ‎având date imperfecte.
‎Cum ne ajută inteligența artificială ‎să vedem prin negura războiului?
‎Incendiile sunt foarte haotice. ‎Sunt foarte complexe.
‎Vrem să folosim inteligența artificială ‎pentru a ne ajuta să luăm decizii.
‎Managerul cognitiv de misiune e un program
‎care filmează în infraroșu din aer.
‎Procesăm filmarea în algoritmii noștri ‎de inteligență artificială
‎și prezicem starea viitoare a incendiului.
‎În viitor, Managerul cognitiv de misiune ‎va folosi simulări
‎și va analiza scenarii ‎de-a lungul a mii de cicluri,
‎pentru a recomanda cel mai eficient mod ‎de a folosi resursele
‎pentru a stinge incendiul ‎în zonele prioritare.
‎Va spune: „Aici, stingeți din aer ‎folosind un Firehawk!
‎Puneți echipaje terestre ce curăță arbuști ‎și pompieri cu furtune
‎în zonele prioritare.”
‎Aceste decizii se vor putea lua ‎mai rapid și mai eficient.
‎Inteligența artificială ‎va permite oamenilor să țină pasul
‎cu un mediu aflat în continuă schimbare.
‎Și există o serie de paralele credibile
‎cu ceea ce vedem la Lockheed Martin ‎în domeniul apărării.
‎Armata nu are în vedere ‎doar folosirea inteligenței artificiale
‎și a sistemelor de armament individuale ‎în decizii de țintire și ucidere,
‎ci și integrarea inteligenței artificiale ‎în arhitectura decizională a armatei.
‎Armata are un proiect important ‎numit Proiectul Convergence.
‎Marina are Proiectul Overmatch.
‎Forțele Aeriene au ‎Sistemul Avansat de Gestionare a Luptei.
‎Departamentul Apărării vrea să afle
‎cum să facem toate aceste lucruri
‎pentru a opera mai rapid decât adversarul
‎și a avea un avantaj.
‎Un manager de luptă asistat de IA ‎ar fi ca un general de rang înalt
‎care se află la cârma luptei.
‎Ar da ordine numeroaselor forțe de luptă
‎și ar coordona toate armele implicate
‎cu o viteză cu care oamenii ‎n-ar putea-o face.
‎Am petrecut ultimii 70 de ani
‎construind cea mai complexă armată ‎de pe planetă, iar acum trebuie să decidem
‎dacă cedăm unui algoritm sau soft ‎controlul asupra acestei infrastructuri.
‎O consecință a acestei decizii ‎este posibila declanșare
‎a tuturor arsenalelor noastre militare.
‎Adică sute de evenimente ‎de tip Hiroshima, nu unul.
‎E momentul când trebuie să acționăm,
‎deoarece ocazia de a limita acest risc ‎va dispărea rapid.
‎Începem după-amiaza cu provocările ‎la adresa securității internaționale
‎cauzate de noile tehnologii din domeniul ‎sistemelor de arme autonome letale.
‎Organizația Națiunilor Unite discută ‎pericolul armelor autonome letale
‎și interzicerea sistemelor ce folosesc IA ‎pentru a selecta și a ținti oameni.
‎Consensul oamenilor de știință ‎este clar și ferm.
‎Ne opunem armelor autonome ‎care să poată ucide oameni.
‎Statele discută de mulți ani problema ‎sistemelor de arme autonome letale.
‎E vorba despre siguranța noastră comună.
‎Dar nu e ușor, firește.
‎Unele țări, mai ales puterile militare,
‎vor să fie în frunte,
‎ca să fie cu un pas înaintea adversarilor.
‎Problema e că, pentru a se face ceva, ‎toți trebuie să fie de acord.
‎Mereu se opune cel puțin o țară.
‎Statele Unite și Rusia au spus răspicat
‎că se opun unui tratat ‎care ar interzice armele autonome.
‎Dacă am pune într-o cameră oamenii ‎care încearcă să facă IA mai puternică,
‎ar fi mare înghesuială.
‎Camera cu oameni care vor să se asigure ‎că IA e folosită în mod judicios
‎ar fi mult mai goală.
‎Dar sunt și foarte optimistă.
‎Mă gândesc ‎la Convenția privind armele biologice,
‎care s-a semnat în plin Război Rece,
‎în ciuda tensiunilor existente ‎între Uniunea Sovietică și Statele Unite.
‎Au reușit să înțeleagă ‎că dezvoltarea de arme biologice
‎nu era nici în interesul lor,
‎nici în interesul întregii lumi.
‎Dinamica cursei înarmării ‎favorizează viteza, nu siguranța.
‎Dar cred că este important să ne gândim
‎că, la un moment dat, ‎costul vitezei devine prea mare.
‎Nu putem dezvolta un produs în mod izolat,
‎ca apoi să îl facem public fără a ne gândi ‎unde s-ar putea ajunge în viitor.
‎Să nu ajungem iar ‎ca la inventarea bombei atomice.
‎Miza este imensă ‎în cursa pentru inteligența artificială.
‎Nu cred că mulți oameni apreciază ‎stabilitatea globală
‎oferită de faptul că am avut ‎o forță militară superioară
‎în ultimii 75 de ani.
‎Statele Unite și forțele militare aliate
‎trebuie să depășească IA inamică.
‎În război nu există locul doi.
‎China are un plan ambițios de a deveni ‎lider în domeniul IA până în 2030.
‎Unii spun că America pierde cursa…
‎Veți accelera adoptarea ‎inteligenței artificiale,
‎ca să ne asigurăm ‎avantajul militar competitiv.
‎Această tehnologie avansează accelerat.
‎Ceea ce nu este clar e ‎cât de departe vom merge.
‎Noi controlăm tehnologia ‎sau ea ne controlează pe noi?
‎Nu vom avea șansa ‎să o mai luăm de la capăt.
‎Odată ce ai deschis cutia Pandorei, ‎nu mai ai ce face.
‎E foarte greu să o mai închizi la loc.
‎Dacă nu acționăm acum, e prea târziu.
‎Poate e deja prea târziu.
‎Subtitrarea: George Georgescu