Downloaded from YTS.MX
Official YIFY movies site: YTS.MX
Rémisztőnek találom az MI-t.
Rendben, kört alkotnak. Jó alakzat.
Az MI-ben ott a lehetőség, hogy felszámoljuk a szegénységet,
hogy új gyógyszereket alkossunk,
hogy a világot még békésebbé tegyük.
Szép munka.
De rengeteg kockázat is felmerül közben.
Az MI-vel lényegében egy nem emberi intelligenciát hozunk létre,
ami rendkívül kiszámíthatatlan.
Egyre több mindenre képes,
de hol húzzuk meg a határt az MI-nél,
hogy hogyan akarjuk vagy nem akarjuk használni?
Nincs olyan terület, amely alkalmasabb lenne erre,
mint a katonai felhasználás.
A csatatér mostanra a szoftverek és hardverek világa lett.
Célpont bemérve…
És a hadseregek versenyt futnak, melyikük fejleszt gyorsabban MI-t.
Meghaltam.
Olyan világ felé robogunk, amelyben nemcsak a legnagyobb hadseregek,
de nem állami és magánipari szereplők,
sőt, akár a helyi rendőrség az utcán is
használhat ilyen fegyvereket, amelyek önállóan képesek ölni.
Egy élet kioltását algoritmusokra, számítógépes szoftverekre bízzuk?
Ez a jelenkor egyik legsürgetőbb problémája.
És ha helytelenül használják,
azzal óriási veszélynek tesznek ki mindenkit a Földön.
AZ ISMERETLEN
GYILKOS ROBOTOK
Bravó, srácok.
Sokkal szélesebb objektív az eddiginél.
Tényleg?
- Sokkal több adatot kapunk. - Kiváló.
A Shield AI-nál mi olyan MI-pilótát készítünk,
amely egy önvezető, mesterséges intelligenciával rendelkező légi jármű.
Amikor MI-pilótáról beszélünk,
sokkal nagyobb önállósággal bíró légi járműre gondolunk,
amely saját maga old meg problémákat.
A Nova egy autonóm kvadkopter,
amely épületeket és föld alatti építményeket derít fel
az odaérkező egységek előtt,
hangot és képet biztosítva a helyszínről.
Rengeteg látványos fejlesztés történt a legutóbbi verzió óta.
Ma az emeletről emeletre történő felderítésen dolgozunk.
Végigjárja egy emelet minden helyiségét, majd továbbmegy.
- Ez szuper. - Változtattunk pár dolgon…
Sokan kérdezik tőlem,
hogy a mesterséges intelligencia miért olyan fontos lehetőség.
És ilyenkor a bevetésekre gondolok, melyekben részt vettem.
Hét évig voltam haditengerész,
Navy SEAL-esként kétszer jártam Afganisztánban,
egyszer a Csendes-óceánon.
Egy nap akár 150 különböző területet vagy épületet is át kell néznünk.
Az egyik legfontosabb képesség a közelharctudás.
Tűzharc közvetlen közelről épületekben.
Ott lőnek ránk.
Pokolgépek lehetnek az épületben.
Ez a legveszélyesebb, ami egy különleges alakulat tagjára
vagy gyalogsági katonára várhat egy harci övezetben.
Kétségkívül.
Örökké hálás leszek a haditengerészetnél töltött időszakomért.
Vannak olyan pillanatok és emlékek, amelyek ha eszembe jutnak,
rögtön elérzékenyülök.
Közhely, hogy a szabadság nincs ingyen, de abszolút így gondolom.
Megtapasztaltam, és sok áldozatot követel.
Elnézést!
Amikor valami rossz történik az egyik bajtársunkkal,
megsérül vagy meghal,
az borzasztóan tragikus.
Tudják, engem a munkánkban az motivál,
hogy csökkenthetjük az ilyen esetek számát.
A 2000-es évek végén
a Védelmi Minisztériumban felfigyeltek
az úgynevezett spontán robotikai forradalomra.
Több ezer légi és földi robotot küldtünk Irakba és Afganisztánba.
Amikor az Obama-kormány felkért, hogy legyek a helyettes védelmi miniszter,
a háborúk megvívásának módja egyértelműen változóban volt.
A robotokat ott használták, ahol az embereket is.
A korai robotok távirányításúak voltak.
Ember irányította, kormányozta, mint egy távirányítós autót.
Először többnyire pokolgépek után kutattak velük,
így ha a bomba felrobbant, a robotban esett kár.
És azt mondták: „Ez van. Küldjünk ki másik robotot!”
Afganisztánban Predator drón volt,
ami nagyon hasznosnak bizonyult légicsapások végrehajtásánál.
A katonai tervezők aztán azon kezdtek gondolkodni,
mire használhatnánk még a robotokat, és hogy ennek hol a vége.
És az egyik közös pontot a nagyobb autonómia jelentette.
Egy autonóm fegyver saját maga hoz döntéseket,
minimális emberi beavatkozással.
Szóval autonóm képességgel rendelkezik, önvezető,
és hogy képes-e ölni, attól függ, van-e fegyverzete.
Amikor az egész rendszerben egyre több az önállóság,
minden jóval nagyobb sebességre kapcsol.
És amikor gyorsabban hajtod végre a műveletet, mint az ellenségeid,
akkor az elképesztően nagy előnyt jelent a csatatéren.
Amikre az autonómia terén fókuszálunk,
azok a jól alkalmazkodó intelligens rendszerek,
melyek érzékelik a környezetüket, reagálnak rá,
és eldöntik, hogyan hajtsák végre a feladatukat.
SAN DIEGO KALIFORNIA ÁLLAM
Ez a létesítmény, ahol most vagyunk, eredetileg filmstúdiónak épült,
később alakították át,
és lett belőle katonai tréningre alkalmas környezet.
Azért jöttünk, hogy értékeljük az MI-pilótánkat.
Fenyegetések felkutatása a feladat, lényegében a felderítés.
Képes döntést hozni arról, hogyan kezelje a problémát.
Ezt „halálhasadék”-nak nevezzük. Be kell menni egy ajtón.
Itt vagy a legvédtelenebb.
Ez jobbnak tűnik.
A Nova tudatja velünk, van-e lövész az ajtó mögött,
vagy esetleg egy család.
Így jobb döntéseket tudunk hozni, nagyobb biztonságot ad.
Vizuális szenzorokat használunk,
hogy jobban megértsük, hogyan néz ki a környezet.
Ez egy többszintes épület.
Itt a térkép.
Itt van, hogy felderítés közben mit és hol láttam.
Személyérzékelő. Elég király.
A Nova egy másik érzékelője a hőkamera.
Ha 37 fokos, akkor valószínűleg ember.
Minden ember fenyegetésnek számít, amíg másképp nem véljük.
A cél, hogy eloszlassuk a háború ködét, így jobb döntéseket hozva.
És amikor a jövőbe tekintünk,
azt látjuk, hogy autonóm légi járművekből lesznek csapataink.
Önvezető járműveknél
az ember eddig azt mondta: „Menj A-ból B pontba!”
A mi rendszereinknél nem ezt akarjuk elérni, inkább egy célt kívánunk kitűzni.
Például ha azt mondanám, hogy „tejet szeretnék”,
akkor a robotnak kell kitalálnia, melyik boltba kell mennie,
hogy tejet szerezzen, mielőtt visszajön.
Sőt, talán még jobb, ha azt mondjuk: „A hűtő mindig legyen tele!”
Ez olyan szint, ahol ki kell találnia, mit akarunk, és azt hogyan valósítsa meg.
És ha nehézség, probléma vagy gond adódik, rá kell jönnie, hogyan oldja meg.
Amikor úgy döntöttem, otthagyom a haditengerészetet, azon kezdtem agyalni,
hogy most mi legyen?
Az internettel nőttem fel. Láttam, mi lett belőle.
Arra a következtetésre jutottam,
hogy az MI 2015-ben ott tartott, ahol az internet 1991-ben,
és az MI készen állt, hogy a világ egyik legjelentősebb technológiájává váljon.
Mivel mindennap ezen dolgoztam, látom, mennyit fejlődött.
De sokan, amikor meghallják, hogy „MI”,
rögtön Hollywoodra gondolnak.
MŰVELETI REAKCIÓTERV
Nincs kedve játszani?
Mit szólnál a Globális termonukleáris háborúhoz?
Jó.
Amikor az emberek az MI-re gondolnak,
a Terminátor vagy az Én, a robot jut eszükbe.
Deaktivál!
Mi vagyok én?
Vagy a Mátrix.
Ha a sci-fikben látottakat vesszük alapul:
honnan tudják, hogy ember vagyok? Számítógéppel készült MI is lehetek.
A replikánsok is csak gépek. Vagy hasznosak, vagy veszélyesek.
De mindenféle primitívebb MI változtatja majd meg az életünket,
jóval azelőtt, hogy gondolkodó és beszélő robotok jönnének.
A robotok már itt vannak. Döntéseket hoznak.
A robotforradalom elérkezett,
csak épp nem olyan, mint amilyennek bárki elképzelte.
A terminátor egy beszivárgó egység. Félig ember, félig gép.
Nem terminátorszerű gyilkos robotokról beszélünk,
hanem MI-ről, mely el tud végezni olyan feladatokat, amiket az emberek.
A kérdés az, hogy ezek a rendszerek megbízhatóak-e.
Új részletek derültek ki a tegnap esti, önvezető autót érintő halálos balesetről.
A cég mesterséges intelligenciával bíró csetrobotja
elég rasszista hangnemet ütött meg.
Huszonhat állami törvényhozót tévesen bűnözőként azonosítottak.
A kérdés az, megbirkóznak-e a való világ összetettségével.
CAMBRIDGE MASSACHUSETTS ÁLLAM
Az érzékvilág elég bonyolult.
Rengeteg mindent nem ismerünk,
ami megnehezíti az MI-rendszerek fejlesztését.
Itt kezdtek bejönni a gépi tanulási rendszerek.
A gépi tanulás hatalmas előrelépés volt,
mivel így a számítógépeknek nem kell mindent megtanítanunk.
Egy számítógépet több millió információval látunk el,
és a gép elkezd tanulni.
És ez bármire alkalmazható.
A robotkutyaprojektünkben azt akarjuk megmutatni,
hogy a kutyánk sok különböző terepen végig tud menni.
Az emberek évmilliárdokon át fejlődtek, hogy tudjanak járni,
de rengeteg információ áll rendelkezésre, hogy alkalmazkodni tudjon a terepekhez.
Kérdés, egy robotikai rendszer képes-e úgy alkalmazkodni, mint az állatok, az ember?
Gépi tanulással sok-sok szimulációs adatot gyűjtünk.
A szimuláció a valóság digitális mása.
És jó néhány ilyen másolatot futtathatunk különböző számítógépen.
A gép több ezer mozgásformát próbál ki a szimuláció során.
Változó a talaj síkossága.
Akárcsak a keménysége.
Felhasználjuk a több ezer robot szimulációs tapasztalatát,
és letöltjük egy valós robotikai rendszerbe.
A mai tesztben azt vizsgáljuk, képes-e új terepekhez alkalmazkodni.
Amikor a robot szivacson ment át,
a lábával doboló mozgást végzett.
Viszont amikor a polietilén talajra lépett,
próbált változtatni a mozgásán, hogy ne csússzon el.
És ekkor fogalmazódott meg bennem,
hogy a gépi tanulás ilyen előnyökkel jár.
Úgy véljük, a robotkutya nagyon hasznos lehet katasztrófák esetén,
amikor sokféle, különböző terepen kell helytállni.
Vagy megfigyelésre is használható zord körülmények között.
De a legtöbb technológia azzal a kihívással szembesül,
hogy használható jó és rossz célokra is.
Például a nukleáris technológiával energiát nyerhetünk,
de atombombát is készíthetünk, ami elég szörnyű.
Ezt a kettős felhasználás problémájaként ismerjük.
A tűz kettős felhasználású.
Az emberi intelligencia is.
Tehát magától értetődő, hogy a mesterséges intelligencia is az.
Az MI használatánál nagyon fontos a kontextus,
mert igen, fantasztikus, ha van egy kutató-mentő robotunk,
amely segíthet megtalálni valakit egy lavina után,
de ugyanez a robot fegyverként is használható.
Amikor azt látom, hogy egyes cégek fegyvereket szerelnek robotokra,
az eléggé dühítő.
Részben maga a felismerés is az, hogy ha közzétesszük a technológiánkat,
akkor ez fog történni.
Ez egy igazán forradalmasító technológia.
Ezek fegyverrendszerek,
amelyek óriási mértékben lehetnek hatással a biztonságunkra.
Egyelőre nem tudjuk biztosan, hogy ezek a gépek
képesek-e különbséget tenni civilek és katonák között.
Az afganisztáni háború elején a mesterlövészcsapat tagja voltam.
A határt figyeltük, jön-e ellenséges erő.
Egy lányt küldtek, hogy felderítse a helyzetünket.
Az sosem merült fel, hogy lelőjük ezt a kislányt.
Bár a hadijog szerint jogszerű lépés lett volna.
Ha ellenséges fél, akkor nincs korhatár.
Ha építenénk egy robotot, ami teljes mértékben a hadijog szerint jár el,
az lelőtte volna a kislányt.
Egy robot hogyan tudna különbséget tenni, hogy mi jogszerű és mi helyes?
Az autonómdrón-hadviselés célja,
hogy az amerikai psziché és az amerikai katonák minél kevésbé sérüljenek,
de így csak nő az afgán, az iraki és a szomáliai civilek sérülésének esélye.
Szívesen megkérdezném azokat, akik támogatják az MI használatát drónokban,
hogy mi lenne, ha az ő falujuk volna a célpont?
Az MI kétélű kard.
Lehet jóra is használni, ami ugyebár a célunk is,
de minimális változtatással
a technológia halálos következményekkel is járhat.
RALEIGH ÉSZAK-KAROLINA ÁLLAM
Klinikai farmakológusként
van egy csapatom,
amely MI segítségével kutat olyan gyógyszerek után,
melyekkel a több figyelmet érdemlő betegségek gyógyíthatók.
A gyógyszerfejlesztés eddig úgy zajlott, hogy vettünk egy létező molekulát,
és módosítottuk, hogy új gyógyszert kapjunk.
Viszont most fejlesztettünk egy MI-t, amely több millió ötlettel lát el minket,
több millió molekulával,
és így rengeteg lehetőség nyílik,
hogy kezeljünk betegségeket, melyeket eddig nem tudtunk.
De kétségtelenül van árnyoldala is, amit nem hittem, hogy érintek majd.
Ez az egész akkor kezdődött,
amikor meghívott egy svájci szervezet, a Spiez Laboratórium
előadást tartani arról, mi történik, ha az MI rossz kezekbe kerül.
Sean küldött egy e-mailt néhány ötlettel,
hogy miképp használható rossz célokra a mesterséges intelligenciánk.
A modelltől nem azt kérjük, hogy alkosson molekulákat gyógyszerhez,
amikkel betegségeket kezelhetünk,
hanem a legtoxikusabb molekulákat próbáljuk meg létrehozni.
Meg akartam vizsgálni,
hogy a technológiával halálos molekulák is létrehozhatóak-e.
Őszintén szólva azt hittük, nem működik majd,
mert annyit csinálhatunk, hogy ezt a nullát átírtuk egyre.
ADAT, 0
ADAT, 1
Így a módosítással a toxicitás csökkentése helyett
most növeljük a toxicitást.
És ennyi.
Amíg otthon voltam, a számítógép dolgozott,
konkrétan elkezdett előállítani több ezer molekulát,
és nem kellett mást tennünk, mint rányomni az „indítás” gombra.
Másnap reggel ott volt ez a fájl a gépemen,
benne nagyjából 40 ezer molekula,
melyek valószínűleg a legtoxikusabb ismert molekulák.
Szó szerint felállt a szőr a hátamon.
Teljesen elképedtem.
A számítógép több 10 ezer új vegyi fegyver ötletével állt elő.
Nyilván vannak VX-hez hasonló molekulák, illetve VX is az adatállományunkban.
A VX az egyik leghatékonyabb vegyi fegyver a világon.
A rendőrség szerint a Kim Jong-nam elleni, reptéri gyilkosság két női elkövetője
a VX elnevezésű halálos idegmérget használta.
Ebben az esetben a halált fulladás okozza.
Ez egy rendkívül hatékony molekula,
és ezen molekulák közül a legtöbb várhatóan még halálosabb is, mint a VX.
Amennyire tudjuk, a nagy részükkel még sohasem találkoztunk.
Szóval amikor Seannal erre rájöttünk, azt kérdeztük magunktól: „Mit tettünk?”
Hamar felfogtam, hogy kinyitottuk Pandóra szelencéjét,
és azt mondtam: „Elég, most álljunk le! Végeztünk.
Csak készítsd el nekem a diákat a prezentációmhoz!”
A kísérlet elvégzésekor arra gondoltam, mi a legrosszabb, ami történhet?
De már látom, teljesen naivak voltunk, hogy ebbe belevágtunk.
Az ijeszt meg leginkább, hogy bárki megteheti azt, amit mi.
Csak egy apró változtatás kell.
Hogyan szabályozzuk ezt a technológiát azelőtt,
hogy valami igazán ártalmas dologhoz használják fel?
BOSTON MASSACHUSETTS ÁLLAM
A mesterséges intelligenciáról és a társadalmi felhasználásáról
folytatott párbeszéd középpontjában
a technológiákat létrehozni tudó képesség és a kontrollt sürgető józanság harca áll.
Vannak nyilvánvaló morális és etikai következményei annak,
hogy ugyanarra, ami az okostelefonunkat működteti,
rábízzák a morális döntést, hogy kiolthat-e egy életet.
Az Élet Jövője Intézetnél dolgozom, amely tudós aktivisták közössége.
Arra próbálunk rávilágítani,
hogy az automatizálás felgyorsításának és terjedésének van egy másik oldala is.
De azon dolgozunk, hogy a technológiákat, melyeket létrehozunk,
biztonságosan és etikusan használják.
Beszélnünk kell szolgálati szabályzatról
és magatartási kódexről az MI fegyverrendszeri használatában.
Mert már látunk harctérre kerülő technológiákat,
melyekkel autonóm módon lehet ölni.
2021-ben az ENSZ kiadott egy jelentést
egy halálos, autonóm fegyver lehetséges bevetéséről a líbiai harctéren.
Egy ENSZ-bizottság szerint drónt használtak a líbiai polgárháborúban,
melyet autonóm támadásokra programoztak be.
Ha az ENSZ jelentése helytálló,
akkor ez vízválasztó az emberiség számára.
Mert ez olyan felhasználást jelent,
amikor nem egy ember, hanem egy MI döntötte el, hogy valaki meghal.
Jól látható, hogy szerte a világon fejlett autonóm fegyvereket kezdenek használni.
Izraelből érkeztek hírek.
Azerbajdzsán autonóm rendszerekkel vette célba az örmény légvédelmet.
Órákon át tud repülni a harctér fölött,
keresve a saját maga célpontját,
hogy aztán lecsapjon rá mindenféle emberi beavatkozás nélkül.
És nemrég láttuk a különböző, Ukrajnában közzétett videókat.
Nem egyértelmű, milyen módban üzemeltek.
Hogy ember döntött-e arról, milyen célpontokat támadjanak,
vagy a gép a saját feje után ment?
De mindenképp eljön majd az a pillanat,
akár megtörtént már Líbiában, Ukrajnában vagy máshol,
hogy egy gép maga dönti el, kit öljön meg a csatatéren.
Az, hogy a gépek emberi beavatkozás nélkül döntenek emberek életéről,
politikailag elfogadhatatlan, míg morálisan gyomorforgató.
Hogy a nemzetközi közösség hatékonyan meg tud-e birkózni ezekkel a kihívásokkal,
az nagy kérdés.
Ha a jövőbe tekintünk, akár csak pár évvel előre,
a helyzet rendkívül ijesztő,
tekintve, milyen óriási pénzügyi és emberi erőforrást fordítanak
az MI további fejlesztésére és a különböző területeken történő felhasználására.
ARLINGTON VIRGINIA ÁLLAM
Úristen, ez a fickó!
Tudja, hogy nem nyerhet.
Inspirál, mikor azt látom, hogy különböző problémák megoldásában az MI nyer.
Mindent felteszek egy lapra.
És ezeket a taktikákat és eljárásokat igazi légi járműveken is lehet alkalmazni.
Jó meccs volt.
Jól van, szép volt.
Meglepő számomra, hogy sokan még mindig azzal jönnek, hogy mire nem képes az MI.
Igaz? „Sosem győz le egy világbajnok sakkozót.”
Egy IBM számítógép megfordította a második játszmát
a sakkvilágbajnok Garri Kaszparov ellen.
Kaszparov feladta!
Amikor olyasmivel találkozom, amit nem értek,
megijedek, és ez olyasmi volt, amit nagyon nem értek.
És akkor azt harsogták:
„Sosem győz le egy világbajnok gojátékost.”
Úgy gondolom, az emberi intuíció továbbra is túl fejlett ahhoz,
hogy a mesterséges intelligencia felérjen hozzá.
A go az egyik legkomplexebb játék, amit megtanulhatunk,
mert a táblán a lépések száma többre jön ki,
mint ahány atom van az egész univerzumban.
A Google DeepMind nevű csapata csinált egy AlphaGo elnevezésű programot,
hogy az legyőzze a világ legjobb játékosait.
Azt a mindenit!
És a győztes az…
- AlphaGo. - AlphaGo.
Egy számítógépprogram legyőzött egy kilencdanos profit.
Aztán a DeepMind a StarCraftot választotta a következő MI-kihívásának.
Talán minden idők legnépszerűbb valós idejű stratégiai játéka a StarCraft.
Az AlphaStar híres lett, amikor elkezdett világbajnokokat legyőzni.
Az AlphaStar semmi esélyt nem ad Immortal Arcnak.
Mondok valamit: ez nem olyan csata, amit a prók megnyerhetnek.
Ez már nevetséges.
A profi gamerek azt mondták, nem próbálkoznának ezzel,
ilyen taktikát nem választanának, mert ez nem emberi.
És valószínűleg számomra ez volt az ahapillanat.
Rájöttem, hogy itt az idő.
Egy fontos technológiával és lehetőséggel változást hozhatunk.
Csak azon problémákat ismertem, amikkel SEAL-esként a közelharc során találkoztam,
de az egyik jó barátom, aki F–18-as pilóta volt, azt mesélte,
hogy ők, a vadászpilóták is ilyen gondokkal küzdenek:
zavarják a kommunikációt,
elszaporodtak a föld-levegő rakétaindító állások,
amik nagy veszélyt jelentenek.
Képzeljük el, ha lenne egy MI-vezérelt vadászgépünk.
Ez itt az AlphaDogfight verseny. Pár perc múlva kezdődik az első elődöntő.
A DARPA, a Fejlett Védelmi Kutatási Projektek Ügynöksége
látta az AlphaGót és az AlphaStart,
így született meg az AlphaDogfight nevű verseny ötlete.
Ezt várjuk el az emberi vadászpilótától.
Akár az emberek közti közelharc.
A légi közelharc egy az egy elleni csata repülőgépek közt.
Tekinthetünk rá egy levegőben zajló bokszmeccsként.
Talán sokan látták a Top Gun című filmet.
Nem tudunk meglépni?
A rakétáik elől nem.
Akkor légi harc.
A légi közelharc elsajátítása nyolc-tíz évbe telik.
Borzasztóan nehéz felépíteni erre egy MI-t.
ARLINGTON VIRGINIA ÁLLAM
Az autonómia és a légi közelharc korábbi megközelítései elég problémásak voltak.
Úgy gondoltuk, ezt valószínűleg a gépi tanulással oldhatjuk meg.
Először az MI semmit sem tudott a világról, amibe belecsöppent.
Nem tudta, hogy repül, sem azt, hogy mi a légi közelharc vagy egy F–16-os.
Csak azt tudta, milyen műveleteket hajthat végre, és ezeket elkezdte feltérképezni.
A kék repülő még csak rövid ideje tanul.
Láthatjuk, hogy ide-oda imbolyog,
nagyon kiszámíthatatlanul repül, elég messze az ellenséges géptől.
Ahogy a harc halad,
láthatjuk, hogy a kék elkezdi kialakítani a taktikáját.
Egyre inkább lőpozícióba kerül.
Olykor a tanulóalgoritmus azt mondta: „Tessék, egy süti, ezt folytasd tovább!”
Kihasználhatjuk a komputer teljesítményét, és párhuzamosan képezhetjük az ágenseket.
Akár egy kosárcsapatnál:
nem mindig ugyanaz ellen lépünk pályára,
hanem a világot bejárva 512 különböző csapattal játszunk,
minddel azonos időben.
Így nagyon jók és gyorsak lehetünk.
Éjjel-nappal futtattuk a szimulációt,
és 30 évnyi pilótaképzést értünk el tíz hónap alatt.
Eleinte alig lehetett irányítani a gépet, mostanra viszont könyörtelen gyilkos lett.
A tanulás során kizárólag másik mesterséges intelligenciával versengtünk.
De a cél az volt, hogy emberekkel vegyük fel a harcot.
A nevem Mike Benitez,
alezredes vagyok az amerikai légierőnél,
25 éve tényleges szolgálatban.
Kétszázötven bevetésen vettem részt,
és elvégeztem a harcászati iskolát.
Az a Top Gun légierő-verziója.
Még sosem repültem MI ellen.
Izgatottan várom, hogy mire leszek képes.
Hatezer láb magasságon zajló légi csatát állítottunk be.
Indul a csata.
És eltűnt.
Aha, ez elég érdekes.
- Meghaltam. - Elkapta. Sima győzelem.
Jól van, második menet.
A mesterséges intelligencia olyan precízen manőverezik,
amivel nem tudok lépést tartani.
Egy vonalba kerülnek.
Most véged van.
Elkapta.
Így is elkapott.
Az MI sosem fél.
Az embernél ott az érzelmi tényező, az MI-nél nincsen.
A szembetámadás az egyik legérdekesebb taktika, amit az MI-nk kifejlesztett.
Az emberek általában hátulról akarnak lőni,
mert nehéz lerázni a mögötted lévőt.
Szemből nem teszik, mert úgy az a kérdés, ki ijed be előbb.
Frontálisan 3000-ről 500 lábra a távolság egy szempillantás alatt lecsökken.
Hatalmas az ütközés kockázata, ezért az emberek ezt kerülik.
Az MI – hacsak nem utasítjuk – nem érez halálfélelmet.
Olyan, mintha emberrel harcolnék,
de egy ember önkéntelenül is a biztonságra törekszik.
Nem éli túl az utolsót.
Nincs elég ideje.
Szép álmokat!
Meghaltam.
Megalázó a tudat, hogy talán van nálam alkalmasabb is erre a feladatra,
és hogy egy nap lecserélhetnek erre az izére.
Marad a hatos látótávolság. Az eltolódás ezer.
Az MI-irányítású vadászgép
könyörtelen győzelmet arat, domináns, nem csak távolról hatékony.
Annyira jó, hogy használnunk kellene a repülőgépeinken.
Reális azt hinni, hogy egy MI vezethet F–16-ost,
és ez nem a távoli jövő.
Ha egy olyan MI-pilótával csapsz össze, aminek 99,99999%-os győzelmi mutatója van,
akkor nincs esélyed.
Amikor egy legyőzhetetlen MI-pilótára gondolok,
akkor az jár a fejemben, hogy ötven, száz
vagy ezer MI-pilóta mit érhet el.
A raj egy magas intelligenciájú repülőgépekből álló, együttműködő csapat.
Megosztják egymással, hogy mit tegyenek, hogyan kezeljenek egy problémát.
Ez alapjaiban változtatja meg hadseregünk és szövetségeseink képességét.
LINCOLN NEBRASKA ÁLLAM
Célpont bemérve, a drónok a nyomában.
Oké, most szállnak le.
A jelenlegi rajkutatásunk legfőbb célja,
hogy nagy számú drónt telepítsünk
nehezen vagy veszélyesen megközelíthető területek fölé.
A hadsereg kutatólaboratóriuma támogatja ezt a kutatási projektet.
Ha tudni akarjuk, mi van a helyszínen, de nehéz eljutni oda, vagy nagy terület,
akkor egy raj telepítése logikus módja, hogy kiterjesszük az egyének hatótávját,
és létfontosságú információkat gyűjtsünk a bevetéshez.
Most, a raj telepítése során
lényegében egyetlen parancsot adunk ki, hogy kutassák fel a célpontot.
A többit a drónok maguktól oldják meg.
Az MI lehetővé teszi, hogy a robotok egy rajként, decentralizált módon mozogjanak.
A természetben látható rajoknál
nincs vezető vagy falkavezér, aki megmondja, mit tegyenek.
Ez a viselkedés minden egyes állatnál kialakul,
néhány egyszerű szabályt követve.
És ebből fejlődik ki ez a fajta kollektív viselkedés, amit látunk.
A természetben található rajokban az a döbbenetes,
amilyen könnyedséggel mozognak.
Mint a csoport tagjának lettek volna teremtve.
Ugyanazt szeretnénk látni a drónrajunktól, mint a természetben található rajoknál,
hogy a csoport együttesen hozzon döntést.
Ami még szintén inspirált minket,
az a megbízhatóságuk és az alkalmazkodóképességük.
A raj nem bomlik meg, ha egy állat nem teszi azt, amit kellene.
Még ha egy ágens ki is esik, meghibásodik, esetleg nem képes teljesíteni a feladatát,
a raj teszi tovább a dolgát.
Végső soron ezt szeretnénk elérni.
A csatatéren fontos, hogy azonosítsuk az ellenséges légi járműveket,
és eddig egy robot irányításához kellett egy személy.
Az autonómia növekedésével remélem,
eljutunk oda, hogy kevés ember is elég lesz sok robot irányításához.
Nem látom okát, miért ne érhetnénk el az ezres számot,
hiszen minden ágens képes lesz önállóan cselekedni, és a határ a csillagos ég.
Skálázhatjuk a tanulást…
Jó ideje dolgozunk a rajok szimulációján,
és itt az idő, hogy valódi repülőn is kipróbáljuk.
Azt várjuk, hogy egyszerre három robotot működtetünk a hálózaton keresztül,
és aztán egyre több képességet hozzáadunk.
Kisebb rendszereken szeretnénk letesztelni,
de ugyanazokat az elveket alkalmaznánk nagyobb rendszereken,
például vadászgépen is.
Sokat beszélünk arról,
hogyan adhatnánk egy szakasznak egy zászlóalj harcászati erejét.
Vagy egy zászlóaljnak egy dandár harcászati erejét.
Ez drónrajokkal megoldható.
Ha sikerül kiaknázni a rajokban rejlő erőt,
új stratégiai elrettentő eszköz jön létre a katonai agresszió ellen.
Szerintem a legizgalmasabb ebben az, hogy hány fiatal férfi és nő lesz,
akit megmentünk, ha ezt tényleg jól csináljuk.
Inkább áldozunk fel gépeket,
mint emberéleteket.
Egyesek szerint az autonóm fegyverek a hadviselést
precízebbé és humánusabbá teszik,
de igazából nehéz megjósolni,
hogy az autonóm fegyverek azt pontosan miként változtatják meg.
Példaként ott a Gatling-géppuska.
Richard Gatling feltaláló volt,
aki látta, mennyi sebesült katona tér vissza a polgárháborúból,
és valahogy humánusabbá akarta tenni a hadviselést.
Úgy vélte, a megoldás arra, hogy kevesebb katona essen el,
a csatába vonulók számának mérséklése.
Ezért feltalálta a Gatling-géppuskát, egy kurblis gépfegyvert,
amivel automatizálta a tüzelést.
Ezzel gyakorlatilag megszázszorozta a katonák tűzerejét.
Gyakran a szándék, hogy precízebbé és humánusabbá tegyük a hadviselést,
ellentétes hatást vált ki.
Lehet, hogy egy téves dróntámadás olyan hatást fejt ki egy vidéki területen,
ami a helyi lakosságot az Egyesült Államok
vagy a saját kormánya ellen fordítja, akik elvileg a jófiúk.
És most ezt szorozzuk meg ezerrel!
Olyan fegyverrendszer létrehozása,
ami olcsó, skálázható, és nem igényel emberi operátort,
drasztikusan megváltoztatja a konfliktusok korlátait.
Éjjel nem bírok aludni, olyan világra gondolok, ahol mindenütt háború van,
és mi többé nem viseljük a háború emberi és anyagi terhét,
mert olyan messze vagyunk
a majdani elveszett életektől.
Ez kísért engem.
Csak egy példa kellett az MI rossz célokra történő használatára.
Ennek az egyszerű gondolatkísérletnek a nem várt következményei
túl messzire vezettek.
MI A GYÓGYSZERFEJLESZTÉSBEN: LEGALÁBB KÁRT NE TEGYÜNK
Amikor az előadást tartottam az MI által létrehozott toxikus molekulákról,
a hallgatóságnak leesett az álla.
5000 VEGYÜLET ISMERT VX-SZÁRMAZÉK VOLT
A következő kérdés az volt, közzétegyük-e ezt az információt.
Egyrészt figyelmeztetni akarjuk a világot az efféle képességekre,
de másrészt nem akarunk ötletet adni olyasvalakinek, akinek eddig nem volt.
Úgy döntöttünk, megéri publikálni, hátha rájövünk,
hogyan gátoljuk meg az MI-vel történő visszaélést, mielőtt még bekövetkezik.
AZ MI-VEL VÉGZETT GYÓGYSZERFEJLESZTÉS VESZÉLYEI
HOGYAN LEHET AZ MI-VEL VISSZAÉLNI A GYÓGYSZERFEJLESZTÉSBEN
A közvélemény reakciója sokkoló volt.
Ezen az oldalon látjuk, hány embert értünk el.
Általában a cikkeink olvasottsága jó esetben…
Szóval pár ezer ember kattint a cikkeinkre egy vagy több év alatt.
Tízezren olvasták el egy hét alatt.
Majd már 20, 30 és 40 ezren látták,
mígnem elértük a napi 10 ezres látogatottságot.
Írt rólunk a The Economist, a Financial Times.
Megkeresett minket a Radiolab. Mintha már hallottam volna róluk!
De aztán a reakciók megváltoztak, és nem lehetett kordában tartani.
RÉMISZTŐ.
Ilyen tweetek jöttek: „Úristen, tehettek volna ennél rosszabbat?
Miért csinálták?”
A KOCKÁK VÉGEZNEK VELÜNK.
Majd kaptunk egy meghívást, amire nagyon nem számítottam.
Komoly beszédtéma volt a Fehér Házban a cikkünk,
és sürgősen beszélni akartak velünk.
Nyilván hihetetlen megtiszteltetés ilyen rangú emberekkel beszélgetni.
De aztán beléd ötlik: „Jézusom, hisz ez a Fehér Ház. A nagyfőnök.”
Ebben olyan adatállományok vannak, melyek nyílt forráskódú…
Hat óra alatt a modell generált több mint 40 ezer…
Arról kérdeztek, milyen erős számítógép kell hozzá,
és elmondtuk, hogy semmi extra.
Szó szerint egy teljesen hétköznapi, hatéves Mac elég volt hozzá.
És ettől elállt a szavuk.
A vegyi harcanyagokban és a kormányzati szervekben jártas személyek
nem tudták, mekkora a potenciál ebben.
Tudjuk, hogy kell megalkotni ezeket a vegyi fegyvereket,
és ha ez a tudás rossz kezekbe kerül, ha ezzel valaki ártani akar,
annak borzasztó vége lehet.
Az embereknek oda kell erre figyelniük, és vagy szabályoznunk kell a technológiát,
vagy korlátozni a használatát, hogy ne lehessen visszaélni vele.
Mert a halálos kimenetel lehetősége
hátborzongató.
Az MI etikai kérdésével nagyrészt a társadalom foglalkozik,
nem a mérnökök, a technológusok vagy a matematikusok.
Minden technológia, amivel előállunk, minden újszerű innováció
a társadalom megítélésétől függ, hogy hogyan kéne használnunk.
Jelenleg a Védelmi Minisztérium azt mondja,
hogy kizárólag emberek döntenek arról, ki hal meg a csatatéren.
Lehet, hogy egy gép öl,
de csakis emberi operátor utasítására,
és kétlem, hogy ez változna.
Azt mondják, ez a fajta technológia biztonságos lesz,
de az Egyesült Államok hadserege
nem épp a szavahihetőségéről híres a drónhadviselés terén.
Tehát amikor szóba kerül a bizalom az amerikai hadsereg és az MI kapcsán,
akkor szerintem a múlt önmagáért beszél.
A Védelmi Minisztérium fegyverek autonómiájára vonatkozó irányelve
nem tilt semmilyen fegyverrendszert.
És még ha a hadseregek nem is akarnak autonóm fegyvereket,
azt látni, egyre több döntést bíznak a gépekre, hogy tartsák másokkal a lépést.
És ez ráveheti a hadseregeket olyan döntések automatizálására,
amelyeket nem akarnak.
Vlagyimir Putyin azt mondta: „Az lesz a világ ura, aki az MI terén az élen jár.”
Hszi elnök világossá tette, hogy az MI az egyik legfontosabb technológia,
amelyben Kína vezető szerepet akar.
Ez egyértelműen egy technológiai verseny.
Az emberek biztosítékokat követelnek,
és szerintem nekik ez is a dolguk.
De igazi versenyfutás zajlik az MI jelentette fölényért.
És az ellenfeleinket, akár Kína, Oroszország vagy Irán az,
nem fogja izgatni, hogy nekünk milyen MI-irányelveink vannak.
Az MI-irányelv elég felkapott téma lett,
de bár több vezető mondaná azt: „Milyen gyorsan tudjuk megépíteni?
Támogassuk és csináljuk meg!”
A FŐVÁROS, WASHINGTON
AUSA, ÉVES GYŰLÉS ÉS KIÁLLÍTÁS WASHINGTON
AZ EGYESÜLT ÁLLAMOK HADSEREGE
Az Amerikai Hadsereg Szövetségének legnagyobb szakkiállításán vagyunk.
Gyakorlatilag mindenki, aki terméket vagy technológiát árul a hadseregnek,
bemutatót tart itt.
A Tyndall Légibázison négy robotunk van,
melyek éjjel-nappal járőröznek a támaszponton.
Kamerától kezdve szenzorokon át bármit hozzáadhatunk. Ami csak kell.
Manipulátort. Tényleg bármit, ami a vevőnek kell a sikeres bevetéshez.
És ha az ellenség jön egy MI-vel?
Egy harci rendszerrel, ami gyorsabban gondolkodik és reagál,
mint amire egy ember képes? Készen kell állnunk rá.
Információszerzésre képezzük ki a rendszereinket,
és hogy emberi felügyelet mellett intézzék el az ellenséges célpontokat.
- Tábornok úr! - Hogy van?
Jól, uram. És ön?
Hadd mondjam el, senki sem fektet többet MI-pilótába. A miénk neve Kaptártudat,
amit a Nova kvadkopterünknél használunk. Bemegy épületekbe,
és feltérképezi a különleges vagy gyalogsági alakulatok előtt.
És a V-BAT-nél alkalmazzuk, szóval össze tudunk állítani több száz ilyen csapatot.
Akár a Tajvani-szorosnál, akár Ukrajnában, akár az ellenségeink elrettentésére.
Nagyon izgalmasnak találom.
- Értem, köszönöm. - Én is, tábornok úr.
Az MI-pilótáknak mindenütt jelen kell lenniük 2025-re vagy 2030-ra.
Világszerte gyorsan elterjed majd a hadseregeknél.
Mi van a román hadsereggel, a drónos fickójukkal?
Csúcstechnológia a seregben.
Eddig félmilliárd dollárt költöttünk egy MI-pilóta megépítésére.
A következő öt évben még egymilliárdot költünk majd el.
Ez az egyik fő oka annak, hogy megnyerjük a Pentagon programjait.
Szuper. Tényleg lenyűgöző. És felfegyverezni is sikerült?
Még nincs rajta fegyver.
Szóval még nem. De majd az is meglesz.
A vevőink kamionként, mi intelligens kamionként tekintünk rá,
ami sok mindenre képes.
- Köszi szépen! - Ugyan!
Mindenképp beszélünk erről.
Ha visszajövünk tíz év múlva,
azt látjuk majd, hogy az MI és az autonómia uralja a teljes piacot.
Az MI-vel és autonómiával támogatott haderők
teljesen leuralják, szétzúzzák és elpusztítják az MI nélküli haderőket.
Mintha lovak szállnának szembe tankokkal,
karddal hadonászók a gépfegyverekkel.
Esélyük sem lesz.
Annyira elterjedt lesz a hadviselés minden területén,
minden taktikai és stratégiai szinten,
és a működésük olyan gyors lesz, amit ma felfogni sem tudunk.
A parancsnokok már így is túlterheltek a túl sok információ miatt.
Műholdképek, drónok és szenzorok.
Az MI segíteni tud egy parancsnoknak gyorsabban megérteni, mi a helyzet,
és hogy milyen döntéseket kell hoznia.
A mesterséges intelligencia számításba vesz minden tényezőt,
amely meghatározza a hadviselés módját,
stratégiákat dolgoz ki…
és javaslatokat tesz arra, hogyan nyerhető meg a csata.
SUFFOLK VIRGINIA ÁLLAM
LOCKHEED MARTIN AZ INNOVÁCIÓ KÖZPONTJA
A Lockheed Martinnál, akárcsak a megrendelőnk, a Pentagon,
az MI-t a parancsnoklás és irányítás legfőbb technológiai eszközének tekintjük.
A terjedési sebesség átlagosan 36 méter/perc.
A terület durván 300 hektáros.
A háború köde számunkra valóság a védelmi oldalon,
de párhuzamot mutat azzal, ha terepen vagyunk,
és döntéseket kell hoznunk futótüzek esetén.
A Washburn-erdőtűz Wawona városától északra van.
Hiányos adatok segítségével kell döntést hozni.
Szóval hogyan segíthet nekünk az MI a háború ködénél?
A futótüzek rendkívül kaotikusak.
Nagyon összetettek,
ezért a mesterséges intelligencia felhasználásán dolgozunk,
ami segíthet dönteni.
A Cognitive Mission Manageren dolgozunk,
ami légi infravörös felvételeket készít,
majd az MI-algoritmusaink segítségével feldolgozza azokat,
hogy megjósolhassuk a tűz jövőbeni állapotát.
A későbbiekben a Cognitive Mission Manager program szimulációt fog használni,
több ezer cikluson keresztül lefuttat lehetséges kimeneteleket,
hogy a leghatékonyabb erőforrás-felhasználást javasolja
az elsőbbséget élvező tűzterületek elfojtásához.
Azt mondja majd: „Itt végezz légi tűzoltást Firehawkkal!
A bozótot tisztító földi személyzetet
és az oltást végző tűzoltókat
küldd őket a legfontosabb területekre!”
Ezek a döntések gyorsabban és hatékonyabban születnek majd meg.
Az MI-re lehetőségként tekintünk,
hogy az emberek lépést tarthassanak a folyamatosan változó környezettel.
És több párhuzam is van azzal,
amit a Lockheed Martinnál megszoktunk a védelmi oldalon.
A hadsereg már nemcsak arról beszél, hogy az MI-t
és egyes fegyverrendszereket célzási és semlegesítési döntéseknél használ,
hanem integrálja is az MI-t a hadsereg teljes döntéshozatali struktúrájába.
A hadseregnek van egy nagy projektje, a Konvergencia program.
A haditengerészetnél ott a Fölény,
a légierőnél pedig a fejlett harcvezetési rendszer.
A Védelmi Minisztérium próbál rájönni, hogyan rakja össze ezeket a darabkákat,
és legyen gyorsabb az ellenfeleinél,
ezzel valódi előnyre szert téve.
Egy MI-harcvezető olyan lenne, mint egy magas rangú tábornok,
aki a csatát irányítja.
Segítene parancsokat adni nagy létszámú haderőknek,
koordinálná a fegyverek használatát,
és ezt olyan gyorsan, amire ember nem képes.
Az elmúlt 70 év azzal telt,
hogy a világ legfejlettebb hadseregét építettük,
és most vár ránk a döntés:
átengedjük-e az infrastruktúra irányítását egy algoritmusnak, egy szoftvernek.
És ennek a döntésnek a következményeként
a teljes katonai arzenálunkat élesítheti.
Ez nem egy Hirosima, hanem több száz.
Most kell cselekednünk,
mert a kockázat kordában tartására rendelkezésre álló idő egyre fogy.
Ma délután a nemzetközi biztonsági kihívásokkal kezdünk,
amiket a halálos autonóm fegyverrendszerek terén megjelenő technológiák jelentenek.
Az ENSZ-en belül zajlanak egyeztetések a halálos autonóm fegyverek veszélyeiről,
és az MI-t emberek célbavételére használó rendszerekre vonatkozó tilalmakról.
Teljes az egyetértés a technológusok között.
Ellenezzük az embereket célba vevő autonóm fegyvereket.
Az államok évek óta segítenek,
beszélnek az autonóm fegyverrendszerek problémájáról.
Ez a közös biztonságérzetről szól.
De persze nem egyszerű.
Bizonyos, főleg katonailag erős országok a gyorsabb fejlesztést forszírozzák,
hogy az ellenfeleik előtt járjanak.
A gond az, hogy a tettekhez mindenki jóváhagyása szükséges.
Legalább egy ország biztos elutasítja,
és az USA, illetve Oroszország egyértelművé tette:
ellenzik az egyezményt, ami betiltaná az autonóm fegyvereket.
Ha arra gondolunk, hányan dolgoznak az MI további fejlesztésén,
akkor a terem zsúfolásig van.
Ha arra gondolunk, hányan dolgoznak az MI biztonságossá tételén,
akkor a terem sokkal szellősebb.
De azért optimista vagyok.
Például ott van a biológiaifegyver-tilalmi egyezmény,
ami a hidegháború közben született meg
a Szovjetunió és az Egyesült Államok közti feszültség ellenére.
Képesek voltak felismerni, hogy a biológiai fegyverek fejlesztése
egyiküknek sem áll az érdekében,
és a világ érdekeit sem szolgálja.
A fegyverkezési versenyben fő a gyorsaság, nem a biztonság.
De szerintem fontos figyelembe venni,
hogy a sietségnek egyszer túl nagy ára lesz.
Nem fejleszthetünk elszigetelten dolgokat,
és tehetjük közzé anélkül, hogy átgondolnánk, mivé válhat a jövőben.
Meg kell előznünk, hogy új atombomba szülessen.
Az MI-verseny tétje óriási.
Nem hiszem, hogy sokan értékelik azt a globális stabilitást,
amelyet a legerősebb haderő megléte biztosított
az elmúlt 75 évben.
Ezért Amerikának és a szövetségeseinknek
felül kell múlni az ellenség MI-jét.
Háborúban nincs második hely.
Kína bemutatta tervét, miszerint 2030-ra világelső lesz MI-ben.
Egyesek szerint Amerikai vesztésre áll…
Fel kell gyorsítani a mesterséges intelligencia bevezetését,
hogy biztosítsuk katonai versenyelőnyünket.
Versenyt futunk ezzel a technológiával.
Ami nekem nem világos, hogy milyen messzire megyünk el?
Mi irányítjuk a technológiát, vagy az irányít minket?
Itt nincs második esély.
Ha egyszer kiszabadul a szellem a palackból,
akkor nagyon, de nagyon nehéz visszazárni.
És ha most nem cselekszünk, késő lesz.
Talán máris túl késő.
A feliratot fordította: Varga Balázs