Downloaded from YTS.MX
Official YIFY movies site: YTS.MX
Kunstig intelligens er ærefrygtindgydende.
Okay. God cirkelformation.
Kunstig intelligens kan eliminere fattigdom,
finde ny medicin og gøre vores verden endnu mere fredelig.
Godt gået.
Men der er så mange risici undervejs.
Med AI skaber vi en ikke-menneskelig intelligens,
der er meget uforudsigelig.
I takt med, at den bliver mere kraftfuld, hvor sætter vi så grænsen med AI
i forhold til, hvordan vi bruger den eller ej?
Der er intet bedre udgangspunkt for denne samtale
end AI's militære anvendelse.
Slagmarken domineres nu af software og hardware.
Målet er fastlåst…
Militæret har travlt med at udvikle AI hurtigere end fjenden.
Jeg er død.
Vi bevæger os hurtigt mod en verden, hvor ikke kun militæret,
men ikke-statslige aktører, private industrier
eller vores lokale politi
kan bruge disse våben, der kan dræbe selvstændigt.
Vil vi overlade beslutningen om at tage et liv til algoritmer og computersoftware?
Det er et af tidens mest presserende emner.
Hvis den ikke bruges klogt,
vil den udgøre en alvorlig risiko for alle på Jorden.
Godt gået derude.
Det er en meget bredere linse end før.
Virkelig?
-Man kan se meget mere data. -Virkelig sejt.
Hos Shield AI bygger vi en AI-pilot,
der tager selvkørende, kunstig intelligens,
og anvender den i fly.
Når vi taler om en AI-pilot,
så planlægger vi at give et fly mere autonomi.
De vil løse problemer alene.
Nova er en autonom quadcopter,
der udforsker bygninger og underjordiske strukturer,
før styrkerne rykker ind, ved at agere øjne og ører i de rum.
Der er helt klart en masse forbedringer, siden vi så den sidst.
Vi inkorporerer nogle ændringer.
Vi tager en etage ad gangen.
Den færdiggør en etage, før den går videre.
-Det er fedt. -Vi har ændret nogle ting…
Mange spørger mig ofte,
hvorfor kunstig intelligens er en vigtig evne.
Jeg tænker tilbage på de missioner, jeg udførte.
Jeg tilbragte syv år i flåden.
Jeg var kommandosoldat og gjorde tjeneste to gange i Afghanistan
og en gang i Stillehavsområdet.
På en dag skal vi måske rydde 150 forskellige strukturer.
En af kernefunktionerne er nærkamp.
Ildkamp på klos hold i bygninger.
Man bliver beskudt.
Der er muligvis improviserede eksplosive anordninger.
Det er den farligste ting, medlemmer af specialstyrkerne
eller infanterister kan gøre i en kampzone.
Uden tvivl.
Jeg vil altid være taknemmelig for min tid i flåden.
Der er en række øjeblikke og minder, hvor jeg, når jeg tænker tilbage på dem,
bliver følelsesladet.
Det er en kliché. Frihed er ikke gratis, men jeg tror 100 % på det,
jeg har oplevet det, og det kræver store ofre.
Undskyld.
Når der sker noget slemt med en i din gruppe,
hvis de bliver såret eller dræbt,
så er det en meget tragisk ting.
I det arbejde, vi laver nu,
er det motiverende at kunne begrænse,
hvor tit det sker.
Omkring 2010
skete der en opvågnen i forsvarsministeriet
i forhold til det, man kan kalde den utilsigtede robot-revolution.
Vi indsatte tusindvis af luft- og landrobotter i Irak og Afghanistan.
Da jeg blev bedt af Obama-regeringen
om at blive viceforsvarsminister,
var måden, krige blev udkæmpet på, under forandring.
Robotter blev brugt, hvor folk ville være blevet brugt.
Tidlige robotter var fjernstyrede.
Et menneske styrede den, som var det en fjernstyret bil.
De gik først efter improviserede eksplosive anordninger
og eksploderede bomben, gjorde robotten det også.
"Ærgerligt. Send en ny robot af sted."
I Afghanistan var der Predator-dronen,
som var et meget nyttigt redskab til at udføre luftangreb.
Med tiden begyndte militærplanlæggere at tænke:
"Hvad kan robotter ellers bruges til?" Hvilken vej går udviklingen?
En fællestendens var større autonomi.
Et autonomt våben er et, der træffer beslutninger alene
med lille eller ingen menneskelig indblanding.
Det har en selvstændig kapacitet, og det er selvstyret.
Om det kan dræbe afhænger af, om det er armeret eller ej.
Når man har mere og mere autonomi i hele systemet,
så bevæger alt sig med højere hastighed.
Opererer man i et hurtigere tempo end sine fjender,
er det en ekstraordinær stor fordel i kamp.
Det, vi fokuserer på med autonomi,
er modstandsdygtige intelligente systemer.
Systemer, der aflæser og reagerer ud fra deres omgivelser,
som træffer beslutninger om, hvordan man manøvrerer i den verden.
Anlægget, hvor vi er i dag, blev oprindeligt bygget som et filmstudie,
der blev ombygget for
at muliggøre disse realistiske militære træningsmiljøer.
Vi skal evaluere vores AI-pilot.
Missionen leder efter trusler. Området skal erklæres sikkert.
Den kan beslutte, hvordan man bedst håndterer problemet.
Vi kalder det "den fatale tragt". Man skal ind gennem en døråbning.
Det er her, vi er mest sårbare.
Den her ser bedre ud.
Nova fortæller os, om der er en skytte bag døren,
er der en familie bag døren?
Vi kan træffe bedre beslutninger og holde folk i sikkerhed.
Vi bruger syns-sensorer
til at forstå, hvordan miljøet ser ud.
Det er en fleretagersbygning. Her er kortet.
Her er, hvad jeg så og hvor, da jeg kiggede mig omkring
Persondetektor. Fedt.
En af Novas andre sensorer er en termisk scanner.
Hvis den viser 37 grader, er det sikkert et menneske.
Folk betragtes som trusler, indtil andet er bevist.
Det handler om at fjerne krigens tåge og træffe bedre beslutninger.
Når vi ser ud i fremtiden,
vil vi bygge grupper af autonome fly.
Med selvkørende køretøjer
har personen sagt til det:
"Du skal køre fra punkt A til B."
Vores systemer bliver ikke bedt om at bevæge sig mellem punkter,
men om at opnå et mål.
Der er tættere på: "Jeg skal bruge noget mælk."
Robotten skal finde ud af, hvilken butik den skal tage til
for at hente mælken og bringe den tilbage.
Mere specifikt
kan man udtrykke det som: "Sørg for, der er fyldt op i køleskabet."
Det er et niveau af intelligens,
der handler om, hvordan vi gør det.
Er der en udfordring, et problem,
så skal vi finde ud, hvordan vi løser det.
Da jeg besluttede at forlade flåden, tænkte jeg:
"Hvad skal jeg finde på nu?"
Jeg voksede op med nettet. Så, hvad det blev til.
Den konklusion, jeg nåede frem til, var…
AI i 2015 var, hvor internettet var i 1991.
Og kunstig intelligens var klar til
at blive en af de mest kraftfulde teknologier i verden.
Jeg arbejder med det hver dag og kan følge de fremskridt, der gøres.
For mange mennesker, når de tænker "AI",
tænker de straks på Hollywood.
Skal vi spille et spil?
Hvad med Global Thermonuclear War?
Okay.
Når folk tænker på kunstig intelligens,
tænker de måske på Terminator eller I, Robot.
Deaktiver.
Hvad er jeg?
Eller The Matrix.
Baseret på det, man ser i sci-fi-film,
hvordan ved du, jeg er et menneske? Måske er jeg computergenereret.
Replikanter er som alle andre maskiner. De er en hjælp eller en fare.
Men der er alle mulige primitive AI'er,
som stadig vil ændre vores liv,
før vi når tænkende og talende robot-stadiet.
Robotterne er her. Robotterne træffer beslutninger.
Robotrevolutionen er her,
den ligner bare ikke det, nogen troede.
Terminator er en infiltrationsenhed. Halvt mand, halvt maskine.
Vi taler ikke om en Terminator-dræberrobot.
Vi taler om kunstig intelligens, der kan udføre visse menneskelige opgaver.
Bekymringen er, om disse systemer er pålidelige.
Nye detaljer i gårsdagens dødsulykke med en selvkørende Uber-SUV.
Firmaet skabte en AI-chatbot.
Hun havde en ret racistisk tone…
26 lokalpolitikere blev fejlagtigt identificeret som kriminelle.
Spørgsmålet er, om de kan håndtere den moderne verdens kompleksitet.
Den fysiske verden er rodet.
Der er mange ting, vi ikke ved,
hvilket gør det sværere at træne AI-systemer.
Det er her, maskinlæringssystemer spiller en rolle.
Maskinlæring har været et stort fremskridt,
fordi det betyder, at vi ikke behøver at lære computere alt.
Man giver en computer millioner af informationer,
som maskinen begynder at lære af.
Og det gælder hvad som helst.
I vores Robothund-projekt prøver vi at vise,
at vores hund kan gå i mange forskellige slags terræn.
Mennesket har udviklet sin evne til at gå i milliarder af år,
men det kræver stor intelligens at tilpasse sig forskellige terræn.
Spørgsmålet er, om vores robotsystemer
også kan tilpasse sig som dyr og mennesker?
Med maskinlæring
indsamler vi masser af data i simulation.
En simulation er en digital tvilling af virkeligheden.
Vi kan have mange varianter af den virkelighed på forskellige computere.
Den simulerer tusindvis af handlinger.
De underlag, de møder, har grader af glathed.
Der er grader af blødhed.
Vi tager alle disse tusindvis af robotters erfaring
fra simuleringer og downloader den til et ægte robotsystem.
Den test, vi skal lave i dag, er at se, om den kan tilpasse sig nye terræn.
Da robotten kørte over skum,
trampede fødderne på jorden.
I modsætning til polyoverfladen,
hvor den prøvede at justere bevægelsen, så den ikke glider.
Det er der, det går op for dig:
"Det er det her, maskinlæring har at byde på."
Vi mener, at robothunden kan hjælpe
i katastrofesituationer,
hvor man skal navigere mange forskellige slags terræn.
Eller lade hundene udføre overvågning i ufremkommelige miljøer.
Men de fleste teknologier har det problem,
at de kan bruges til både gode og dårlige ting.
For eksempel kan vi bruge atomteknologi til energi…
…men vi kan også udvikle atombomber, som er en dårlig ting.
Det er det, der kaldes dobbeltanvendelsesproblemet.
Ild er dobbeltanvendelse.
Menneskelig intelligens har dobbeltanvendelse.
Det er kunstig intelligens naturligvis også.
Det er vigtigt at tænke på kunstig intelligens i sammenhæng,
fordi, ja, det er fantastisk at have en redningsrobot,
som kan finde nogen efter en lavine,
men den samme robot kan også bruges som et våben.
Når man ser robotter, som firmaer har udstyret med våben,
så bliver en del af dig gal.
Og en del af det er erkendelsen af, at når vi bruger vores teknologi,
er det det, der vil ske.
Det er en ægte transformerende teknologi.
Det er våbensystemer,
der kan ændre vores sikkerhed på en dramatisk måde.
I øjeblikket er vi ikke sikre på, at maskiner kan
sondre mellem civile og soldater.
Tidligt i krigen i Afghanistan var jeg med i et snigskytteteam,
der ledte efter fjendtlige krigere.
De sendte en lille pige for tjekke vores position.
En ting, der aldrig faldt os ind, var at skyde pigen.
Ifølge krigens love ville det have været lovligt.
Der er ingen aldersgrænse for fjendesoldater.
Hvis du byggede en robot, der overholdt krigens love,
havde den skudt den lille pige.
Hvordan skal en robot kende forskel på, hvad der er lovligt og rigtigt?
Når det drejer sig om autonom dronekrigsførelse,
vil de fjerne den skade, den påfører amerikanske soldater
og den amerikanske psyke,
men i stedet rammes civile afghanere,
irakere og somaliere.
Jeg ville spørge dem, der støtter brugen af AI i droner:
"Hvad, hvis din landsby var målet for den?"
AI er et tveægget sværd.
Den kan bruges til gode formål, som er det, vi normalt bruger den til,
men ved at trykke på en knap
kan teknologien forvandles til noget, der er dødbringende.
Jeg er klinisk farmakolog.
Jeg har et team,
der bruger kunstig intelligens til at finde medicin,
der kan kurere sygdomme, der ikke får opmærksomhed.
Man plejede at finde ny medicin ved at tage et eksisterende molekyle
og ændre det for at skabe en ny slags medicin.
Nu har vi udviklet kunstig intelligens, der kan give os millioner af idéer,
millioner af molekyler,
og det åbner så mange muligheder
for at behandle sygdomme, vi aldrig har kunnet behandle før.
Men der er en bagside, som jeg aldrig havde troet,
jeg skulle opleve.
Det hele startede, da jeg blev inviteret
af en schweizisk organisation ved navn Spiez-laboratoriet til
at holde et oplæg om misbrug af kunstig intelligens.
Sean sendte mig en e-mail med nogle idéer til,
hvordan vi kan misbruge vores egen kunstige intelligens.
I stedet for at bede vores model om at skabe medicinlignende molekyler
til at behandle sygdomme,
så lad os se, om vi kan generere så giftige molekyler som muligt.
Jeg ville undersøge,
om vi kan bruge AI-teknologi til at designe dødelige molekyler.
For at være ærlig troede vi, vi ville fejle,
for det eneste, vi gjorde, var at ændre et nul til et.
Ved at vende det om, i stedet for at fjerne os fra giftighed,
bevægede vi os mod den.
Det var alt.
Mens jeg var hjemme, lavede computeren arbejdet.
Den genererede tusindvis af molekyler,
og vi behøvede ikke gøre andet end at trykke på "start".
Næste morgen var der en fil på min computer,
og i den var der omkring 40.000 molekyler,
der potentielt var
nogle af de mest giftige molekyler, vi kender.
Hårene i nakken rejste sig.
Jeg var målløs.
Computeren havde titusindvis af idéer
til nye kemiske våben.
Vi har molekyler, der ligner og er VX-analoger og VX
i datasættet.
VX er et af de mest potente kemiske våben i verden.
Politiet siger nu,
at kvinderne, der snigmyrdede Kim Jong-nam i lufthavnen,
brugte en dødbringende nervegift kaldet VX.
Den kan forårsage død ved kvælning.
Det er en meget potent molekyle,
og de fleste af disse molekyler antoges at være mere dødelige end VX.
Mange af dem var aldrig blevet set før.
Da Sean og jeg indså det, sagde vi: "Hvad har vi gjort?"
Jeg indså hurtigt, at vi havde åbnet Pandoras æske,
og jeg sagde "Stop. Gør ikke andet. Vi er færdige."
"Lav de slides, jeg skal bruge til præsentationen."
Da vi lavede eksperimentet,
tænkte jeg "Hvad er det værste, der kan ske?"
Nu tænker jeg: "Vi var totalt naive."
Det, der skræmmer mig, er, at alle kan gøre, hvad vi gjorde.
Man trykker bare på en knap.
Hvordan styrer vi denne teknologi, før den bliver brugt
til noget, der er destruktivt?
Kernen i samtalen om kunstig intelligens,
og hvordan vi vælger at bruge den i samfundet,
er et kapløb mellem den kraft, som vi udvikler teknologier med,
og den visdom, vi har til at styre den.
Der er de åbenlyse moralske og etiske konsekvenser
af at lade den ting, der kører vores mobiler,
træffe moralske beslutninger om at tage et liv.
Jeg arbejder med Future Of Life Institute, en forening af aktivistiske forskere.
Vi prøver at vise,
at der er andre konsekvenser af at fremskynde denne automatisering.
Vi prøver at sikre os, at de teknologier, vi skaber,
bruges på en sikker og etisk måde.
Lad os snakke om spillereglerne
og adfærdskodekser i forhold til brugen af AI i våbensystemer.
Vi ser allerede slagmarks-teknologier,
der selvstændigt kan bruges til at dræbe.
I 2021 udgav FN en rapport om den potentielle brug
af et dødbringende autonomt våben på slagmarken i Libyen.
Et FN-panel udtalte, at en drone under den libyske borgerkrig
var programmeret til at angribe mål selvstændigt.
Hvis rapporten er korrekt,
er det et skelsættende øjeblik for menneskeheden.
Fordi det markerer en udvikling,
hvor en AI traf beslutningen om at tage et liv, ikke et menneske.
Vi ser, at avancerede autonome våben
begynder at blive brugt forskellige steder i verden.
Der var rapporter fra Israel.
Aserbajdsjan brugte autonome systemer mod det armenske luftforsvar.
Den kan flyve rundt på slagmarken i timevis,
lede efter ting, den kan ramme
og så pløje ind i dem uden menneskelig indblanding.
Vi har for nylig set
forskellige videoer, der bliver postet i Ukraine.
Det er uklart, hvilken tilstand de var i under missionen.
Var der et menneske, der valgte, hvilke mål, der skulle angribes,
eller gjorde maskinen det selv?
Men der kommer helt sikkert et tidspunkt,
og måske er det sket i Libyen, Ukraine eller andre steder,
hvor en maskine træffer beslutning om, hvem man skal dræbe på slagmarken.
Maskiner, der udøver dødbringende kraft mod mennesker
uden menneskelig indgriben,
er politisk uacceptabelt og moralsk frastødende.
Om det internationale samfund
er i stand til at lovgive om disse udfordringer,
er det store spørgsmål.
Hvis vi ser ud i fremtiden, blot et par år,
ser landskabet meget skræmmende ud,
for den mængde kapital og de menneskelige ressourcer,
der bruges på at gøre AI mere kraftfuld
og kunne bruge den til alle disse forskellige ting, er enorm.
Åh gud.
Han ved, han ikke kan vinde.
Når jeg ser AI vinde, er det inspirerende.
Et sidste desperat forsøg.
Og man kan bruge samme taktik, teknikker og procedurer på rigtige fly.
Godt spil.
Det er overraskende,
at folk fortsætter med at udtale sig om, hvad kunstig intelligens ikke kan.
"Den vil aldrig kunne slå en verdensmester i skak."
En computer har gjort comeback
i den anden kamp mod verdensmesteren i skak, Garry Kasparov.
Kasparov giver op.
Når jeg ser noget, der er langt over min forståelse,
gør det mig bange. Og det var det her.
Og så sagde folk:
"Den vil aldrig slå en verdensmester i spillet Go."
Jeg tror, at menneskelig intuition er for avanceret til, at AI
er på samme niveau.
Go er et af de mest komplicerede spil, nogen kan lære,
for antallet af træk, når man regner på dem,
overgår antallet af atomer i universet.
Der var et team hos Google DeepMind,
der lavede et program kaldet AlphaGo
for at kunne slå verdens bedste spillere.
Tillykke til…
AlphaGo
Et computerprogram har lige slået en 9 dan professionel.
Og så valgte DeepMind StarCraft som deres næste AI-udfordring.
StarCraft er måske det mest populære strategispil nogensinde.
AlphaStar blev berømt, da den begyndte at besejre verdensmestre.
AlphaStar knuser Immortal Arc.
Ved du hvad?
Det er ikke en kamp, de professionelle kan vinde.
Det er ret utroligt.
Gamere sagde: "Jeg ville aldrig bruge den taktik.
Jeg ville aldrig bruge den strategi. Det er ikke menneskeligt. "
Det var måske "a-ha"-øjeblikket for mig.
Jeg indså, at tiden er nu.
Der er en vigtig teknologi og en mulighed for at gøre en forskel.
Jeg kendte kun de problemer, jeg havde haft i hæren i nærkamp,
men en af mine gode venner, der var F-18-pilot, sagde til mig:
"Vi har det samme problem i jagerfly-miljøet."
"De jammer kommunikationen."
"Der er flere og flere jord-til-luft-missilsystemer,
der gør det for farligt at operere."
Tænk, hvis vi havde et jagerfly, der blev styret af AI.
Velkommen til AlphaDogfight.
Vi er et par minutter fra den første semifinale.
DARPA, Defense Advanced Research Projects Agency,
havde set AlphaGo og AlphaStar,
og deraf opstod tanken om AlphaDogfight-konkurrencen.
Man vil se jagerpiloter gøre det.
Det ligner en menneskelig luftkamp.
Jagerfly mødes i luftkamp.
Det er som en boksekamp på himlen.
Måske har folk set filmen Top Gun.
Er vi hurtigere end dem?
-Ikke deres missiler og våben. -Så er det en luftkamp.
At lære at mestre luftkamp kan tage otte til ti år.
Det er en ekstremt kompleks udfordring at opbygge AI omkring.
Tidligere tilgange til autonomi og luftkampe var usammenhængende.
Vi tænkte, at maskinlæring nok var løsningen på problemet.
Først vidste AI'en intet om den verden, den blev droppet i.
Den vidste ikke, den fløj, eller hvad en luftkamp var. Hvad en F-16 er.
Den vidste kun, hvad den kunne gøre,
og den begyndte at udforske de handlinger.
Det blå fly har trænet i meget kort tid.
Man kan se det slingre frem og tilbage,
det flyver meget uregelmæssigt og mest væk fra sin modstander.
Som kampen skrider frem
kan vi se, blå fastlægger sin kampplan. Det er i en position, hvor det kan skyde.
En gang imellem sagde læringsalgoritmen:
"Her er en småkage. Det var godt. Fortsæt med det."
Vi kan udnytte computerkraften og træne agenterne mange gange parallelt.
Det er som et baskethold. I stedet for at spille mod det samme hold igen og igen,
rejser vi verden rundt og spiller mod 512 forskellige hold,
alle på samme tid.
Du kan blive god meget hurtigt.
Vi kørte simuleringen i døgndrift
og fik 30 års pilot-træningstid på ti måneder.
Vi gik fra knap nok at kunne styre flyet til at være en iskold snigmorder.
Under træningen konkurrerede vi kun mod anden kunstig intelligens.
Men at konkurrere direkte med mennesker var det ultimative mål.
Mit navn er Mike Benitez,
oberstløjtnant i USA's luftvåben.
Jeg har været i aktiv tjeneste i 25 år.
Jeg har 250 kampmissioner, jeg har gået på USAF Weapons School.
luftvåbnets version af Top Gun.
Jeg har aldrig fløjet mod AI.
Jeg er spændt på at se, hvor godt jeg klarer det.
Vi har et frontalangreb på 1800 meters afstand.
Kampen er i gang.
Han er væk nu.
Det er faktisk rigtig interessant.
-Død. -Jeg fik ham. Fejlfri sejr.
Okay, runde to.
Det, kunstig intelligens gør, er at manøvrere med en præcision,
hvor jeg ikke kan følge med.
Sammensmeltningen..
Nu er du færdig.
Fik ham!
Fik mig igen.
AI'en bliver aldrig bange.
Der er et følelsesmæssigt element, som AI'en ikke har.
En af de mere interessante strategier, vores AI udviklede,
var det, vi kalder ansigtsskuddet.
Normalt vil et menneske skyde bagfra,
for det er svært for dem at ryste dig af.
De forsøger ikke med ansigtsskud, fordi det er en nervekrig.
Når vi flyver lige mod hinanden, så går vi fra 900 til 150 meter
på et kort øjeblik.
Man risikerer at kollidere, så det undgår mennesket.
Får AI'en ikke besked på at frygte døden, gør den det ikke.
Det føles, som om jeg kæmper mod et menneske,
der ingen respekt har for sin sikkerhed.
Han overlever ikke den sidste.
Han har ikke tid nok.
Godnat.
Jeg er død.
Det er ydmygende at vide,
at jeg måske ikke er den bedste til denne mission,
at den ting kan erstatte mig en dag.
Samme 6 CAV.
Offset på 1000.
Når AI-piloten styrer jagerflyet,
vinder den konsekvent. Den dominer.
Den vinder ikke bare stort.
Det er: "Hvordan kan vi få det om bord på vores fly?" Den er så stærk.
Det er realistisk, at AI vil styre en F-16,
og at det snart vil ske.
Hvis du er oppe mod en pilot, der vinder 99,99 % af gangene,
har du ikke en chance.
Når jeg tænker på, at en AI-pilot er uovervindelig,
så tænker jeg på, hvad et hold på 50 eller 100
eller 1.000 kunstige piloter kan opnå.
En sværm er et hold af meget intelligente fly,
der samarbejder.
De deler information om, hvordan man løser et problem.
Sværme bliver en gamechanger og en transformerende evne
for vores militær og allierede.
Målet er fastlåst, dronerne tracker ham.
Her kommer landingen.
Det primære mål for vores "sværm"-forskning
er at indsætte et stort antal droner
i et område, der er ufremkommeligt eller farligt.
Hærens forskningslaboratorium har støttet dette projekt.
Vil du vide, hvad der er et sted,
men det er svært at nå området, eller det er meget stort,
så giver det mening at bruge en sværm
til at udvide individers rækkevidde
og indsamle oplysninger, der er kritiske for missionen.
Så lige nu i vores sværmmission
udsteder vi en enkelt kommando om at spore vores mål.
Det gør dronerne på egen hånd.
Kunstig intelligens gør det muligt for robotterne at bevæge sig som en sværm
på en decentral måde.
I de sværme, vi ser i naturen,
er der ingen chef, intet dyr, der fortæller dem, hvad de skal gøre.
Adfærden kommer ud af hvert enkelt dyr,
der følger nogle få enkle regler.
Og ud af det vokser denne kollektive adfærd, man ser.
Det, der er imponerende ved sværme i naturen,
er den ynde, med hvilken de bevæger sig.
Det er, som om de blev bygget til at være en del af denne gruppe.
Ideelt set er det, vi gerne vil se med vores dronesværm,
ligesom med sværmen i naturen,
at gruppen træffer beslutninger kollektivt.
Den anden inspiration for os
kommer i form af pålidelighed og modstandsdygtighed.
Sværmen mislykkes ikke,
hvis et enkelt dyr ikke gør, som det skal.
Selv hvis en af agenterne falder ud, fejler eller ikke kan udføre opgaven,
vil sværmen fortsætte.
Og i sidste ende er det vores mål.
Vi har dette behov i kampscenarier, hvor vi skal identificere fjendefly,
og der plejede at være en person, der styrede en robot.
I takt med, at autonomien stiger,
håber jeg, at vi vil se, at et stort antal robotter
styres af et meget lille antal mennesker.
Jeg ser ingen grund til, vi ikke kan nå et tal på 1000,
for hver agent kan handle selvstændigt, og der er ingen øvre grænse.
Vi kan skalere vores læring…
Vi har arbejdet med sværme i simulering i lang tid,
og det er på tide at bringe dem til virkelige fly.
Vi forventer at starte med tre robotter på netværket
og løbende tilføje flere funktioner.
Vi vil kunne teste det i mindre systemer,
men anvende de samme koncepter i større systemer,
som et kampfly.
Vi taler meget om,
hvordan giver man en deling den samme kampstyrke som en bataljon?
Eller en bataljon samme kampstyrke som en brigade?
Det kan man med sværme.
Og når man kan låse op for sværmens kraft,
skaber man en ny strategisk afskrækkelse mod militær aggression.
Det mest spændende er antallet af unge mænd og kvinder,
hvis liv vi kan redde, hvis vi gør det rigtigt.
Så vi udveksler maskiner,
ikke menneskeliv.
Nogle hævder, at autonome våben vil gøre krigsførelse mere præcis
og mere human,
men det er faktisk svært at forudsige
præcis hvordan autonome våben kan ændre krig på forhånd.
Ligesom Gatling-maskingeværet.
Richard Gatling var opfinder.
Han så sårede soldater vende tilbage under borgerkrigen,
og ville finde en måde at gøre krig mere human på.
Reducere antallet af soldater, der blev dræbt i krig
ved at reducere antallet på slagmarken.
Så han opfandt Gatling-maskingeværet, et automatvåben med håndsving,
der automatiserede affyringen.
Den effektiviserede den ildkraft, soldaterne kunne levere, hundredfold.
Ofte kan forsøg på at gøre krigsførelse mere præcise og human
have den modsatte effekt.
Tænk på effekten af et vildfarent droneangreb
i et landligt område. som vender lokalbefolkningen mod USA,
mod det lokale styre. De gode.
Forstør det med 1.000.
Skabelsen af et våbensystem,
der er billigt, skalerbart og ikke kræver menneskelige operatører,
ændrer konfliktbarrieren på drastisk vis.
Jeg ligger søvnløs og tænker på en verden, hvor der altid er krig,
en krig der ikke har menneskelige og økonomiske omkostninger,
fordi vi er så langt fra…
…de liv, der vil gå tabt.
Det hele hjemsøger mig.
Jeg skulle bare bruge et eksempel på misbrug af AI.
De uventede konsekvenser af enkle tankeeksperimenter
er gået alt for langt.
AI I MEDICINOPDAGELSE UNDGÅ AT GØRE MERE SKADE END GAVN
Da jeg holdt præsentationen om de giftige molekyler skabt af AI-teknologi,
var publikum målløse.
TOP 5.000 FORBINDELSER VAR KENDTE VX-ANALOGER
Den næste beslutning var, om vi skulle offentliggøre informationen.
Man vil advare verden
om disse farer, men på den anden side
vil man ikke give nogen en idé, de aldrig har haft før.
Vi besluttede at offentliggøre det
for måske at finde en måde at afbøde denne type AI-misbrug
før det sker.
DOBBELTANVENDELSE AF AI- MEDICINSOFTWARE
SÅDAN KAN AI-TEKNOLOGI TIL MEDICINOPDAGELSE
Offentlighedens reaktion var chokerende.
Vi kan se, hvor mange der har tilgået siden.
De slags artikler, vi normalt skriver, der er vi heldige, hvis…
Hvis et par tusinde mennesker læser dem over en årrække.
10.000 havde læst det inden for en uge.
Så var det 20.000, 30.000, 40.000,
vi var oppe på 10.000 mennesker om dagen.
Der var artikler i The Economist, i Financial Times.
Radiolab kontaktede os. Jeg havde hørt om Radiolab!
Men reaktionerne blev til noget, der var ude af kontrol.
Da vi så de tweets, tænkte vi: "Åh gud, kan de blive værre?"
Hvorfor gjorde de det?
Og så fik vi en invitation, jeg aldrig havde forventet.
Der var meget diskussion i Det Hvide Hus om artiklen,
og de ville straks tale med os.
Det er en utrolig ære at kunne tale med folk på dette niveau.
Men så slår det en.
"Åh gud, det er Det Hvide Hus. Chefen. "
Det involverede data, der var open source…
På cirka seks timer kunne modellen generere over 40.000…
De spurgte, hvor meget computerkraft, der skulle til.
Vi sagde ikke noget særligt.
En almindelig, seks år gammel Mac.
De måbede.
Dem, der er ansvarlige for at forstå kemiske kampmidler
og regeringsorganer havde ingen anelse om dette potentiale.
Vi har kogebogen til at lave kemiske våben,
og i hænderne på en med onde hensigter
er konsekvenserne skræmmende.
Folk må vågne op,
og vi må tage skridt til at regulere teknologien
eller begrænse den på en måde, så den ikke kan misbruges.
Fordi potentialet for dødelighed…
…er skræmmende.
Spørgsmålet om AI-etik varetages af samfundet,
ikke af ingeniører, teknologer og matematikere.
Alle teknologier, vi skaber, hver nyskabelse,
er det samfundets ansvar at beslutte, hvordan den skal anvendes.
Forsvarsministeriet siger:
"Den eneste, der siger, at vi skal dræbe nogen
på slagmarken, er et menneske."
PÅ ORDRE AF ET MENNESKE
men kun efter ordre fra en menneskelig operatør,
og det ser jeg ikke ændre sig.
De forsikrer os, at denne type teknologi er sikker.
Men det amerikanske militær har ikke et troværdigt ry
hvad angår dronekrig.
Så når det kommer til at stole på USA's militær og brugen af AI,
så taler historien for sig selv.
Det amerikanske forsvarsministeriums politik om brug af autonomi i våben
forbyder ikke nogen form for våbensystem.
Og selvom militæret måske ikke vil have autonome våben,
kan vi se militæret overlade flere beslutninger til maskiner
for at holde trit med konkurrenterne.
Det kan drive militæret til at automatisere beslutninger,
det måske ikke ønsker.
Vladimir Putin sagde: "Den førende inden for AI regerer verden."
Præsident Xi har gjort det klart, at AI er en af de førende teknologier,
som Kina vil dominere indenfor.
Vi er tydeligvis ude i en teknologisk konkurrence.
Man hører tale om foranstaltninger,
og jeg mener, det er det, man bør indføre.
Men der er et ægte kapløb om AI-overlegenhed.
Og vores modstandere, om det er Kina, Rusland eller Iran,
er totalt ligeglade med vores politik om kunstig intelligens.
Der bliver talt meget mere om AI-politik,
men jeg ville ønske, flere ledere ville sige:
"Hvor hurtigt kan vi opbygge den?"
"Lad os prioritere at gøre det."
AUSA ÅRLIGE MESSE
Vi er til militærets største årlige messe.
Alle, der sælger et produkt eller en teknologi til militæret
er til stede på messen.
Tyndall Air Force Base har fire af vores robotter,
der patruljerer basen 24 timer i døgnet.
Vi kan tilføje alt fra kameraer til sensorer til hvad som helst.
Manipulatorarme. Så kunden kan fuldføre den mission, de har i tankerne.
Hvad, hvis fjenden introducerer AI?
Et kampsystem, der tænker og reagerer hurtigere
end et menneske kan gøre? Vi må være forberedt.
Vi træner vores systemer til at indsamle oplysninger om fjenden
og håndtere fjendtlige mål, men hvor mennesker styrer "dræberkæden".
-Hej, general. -Går det godt?
Ja, hvad med Dem?
Ingen investerer mere i en AI-pilot. Vores AI-pilot hedder Hivemind,
og den styrer vores quadcopter, Nova. Den flyver ind i bygninger
og udforsker dem for specialstyrkerne og infanteristyrkerne.
Vi bruger Hivemind i V-BAT
og planlægger at indsætte hundredvis af de teams.
Om det er i Taiwanstrædet
eller i Ukraine for at afskrække vores modstandere.
Det ser ret lovende ud.
-Okay. Tak. -Tak, general.
AI-piloter bør være i generel brug i 2025 eller 2030.
De bliver hurtigt indfaset i militær over hele verden.
Hvad med det rumænske militær, deres UAS?
Højteknologi i militæret.
Vi har brugt en halv milliard dollars på at bygge en AI-pilot.
Vi vil bruge endnu en milliard de næste fem år.
Det er en vigtig grund til, at vi bliver udvalgt til projekter i USA.
Fint.
Det er imponerende. Så den er armeret?
Det er den ikke endnu.
Ikke endnu. Men ja, i fremtiden.
Kunderne ser den som en lastbil. Vi tænker "intelligent lastbil",
der kan gøre mange ting.
-Tak, makker. -Ja.
Jeg vil følge op med dig.
Hvis du kommer tilbage om ti år,
så vil AI og autonomi dominere hele markedet.
Styrker, der understøttes af kunstig intelligens og autonomi
vil absolut dominere, knuse og udslette styrker, der ikke er.
Det svarer til heste mod kampvogne,
folk med sværd mod maskingevær.
De har ikke en chance.
Det vil blive brugt i alle aspekter af krigsførelse,
på det taktiske og det strategiske niveau,
i et tempo, som mennesket ikke kan forstå i dag.
Øverstbefalende drukner allerede i for meget information.
Billeder fra satellitter, droner og sensorer.
En af de ting, AI kan gøre, er at formidle, hvad der sker.
"Hvilke beslutninger skal jeg træffe?"
Kunstig intelligens vil tage højde for alle de faktorer,
som bestemmer, hvordan krig udkæmpes,
finde på strategier
og give råd om, hvordan man vinder et slag.
LOCKHEED MARTIN INNOVATIONSCENTER
Hos Lockheed Martin, og det samme gælder forsvarsministeriet,
betragtes AI som en nøgleteknologi i kommando- og kontrolsystemer.
Spredningen er i gennemsnit 60 cm i sekundet.
Området dækker omkring 280 hektar.
Krigens tåge er en realitet for os på forsvarssiden,
men der er paralleller til at være i miljøet
og kunne træffe beslutninger om skovbrande.
Washburn-branden er lige nord for byen Wawona.
Man skal træffe beslutninger med ufuldkommen data.
Hvordan kan AI hjælpe os med krigens tåge?
Skovbrande er meget kaotiske.
De er komplekse,
så vi bruger kunstig intelligens til
at træffe beslutninger.
Cognitive Mission Manager er et program,
der optager infrarød video fra luften,
og så bearbejder vi den med vores AI-algoritmer
for at kunne forudsige ildens udvikling.
Et stykke tid ude i fremtiden
vil Cognitive Mission Manager anvende simulering,
scenarier, der omfatter tusindvis af cyklusser,
til at anbefale den mest effektive ressourceudnyttelse
for at prioritere bestemte ildområder.
Den vil sige: "Nedkæmp ilden her med en Firehawk."
"Tag folk på jorden, der rydder krat,
brandmænd, der oversprøjter områder
og træk dem ind i de højest prioriterede områder."
De beslutninger vil kunne genereres hurtigere
og mere effektivt.
Vi betragter AI som en unik mulighed for mennesket
til at følge med i et altid foranderligt miljø.
Og der er et troværdigt antal paralleller
til det, vi er vant til hos Lockheed Martin på forsvarssiden.
Militæret taler ikke længere om kun at bruge AI
og individuelle våbensystemer til at træffe mål- og dræb-beslutninger,
men om at integrere AI
ind i hele militærets beslutningsarkitektur.
Hæren har et stort projekt, der hedder Project Convergence.
Flåden har Overmatch.
Og luftvåbnet har Advanced Battle Management System.
Forsvarsministeriet spørger sig selv:
"Hvordan samler vi brikkerne,
så vi kan operere hurtigere end vores fjende og virkelig få en fordel? "
En AI "Battle Manager" er en højtstående general,
der styrer slagets gang
og giver ordrer til et stort antal styrker
og koordinerer alle de våben, der er på slagmarken
i et tempo, som intet menneske kan matche.
Vi har brugt de sidste 70 år på
at bygge det mest sofistikerede militær på planeten,
og nu står vi over for beslutningen om, hvorvidt vi vil afstå kontrollen
over den infrastruktur til en algoritme, til software.
Og konsekvenserne af den beslutning
kan udløse vores samlede militære arsenaler.
Det er ikke et Hiroshima. Det er hundredvis.
Det er nu, vi skal handle,
for det vindue, vi har til at kontrollere denne risiko, lukker snart.
I dag starter vi med internationale sikkerhedsudfordringer
fra nye teknologier
på området for dødbringende autonome våbensystemer.
SEKRETÆR
den trussel, autonome våben udgør,
og forbuddet mod systemer, der bruger AI til at udvælge folk.
Teknologerne er enige.
Vi er imod autonome våben, der rettes mod mennesker.
I årevis har lande været villige til at diskutere
dødbringende autonome våbensystemer.
Det handler om en fælles følelse af sikkerhed.
Men det er selvfølgelig ikke nemt.
Visse lande, især militærmagterne, vil være på forkant med udviklingen,
så de er foran deres modstandere.
Problemet er, at alle skal være enige om at gøre noget.
Der vil være mindst et land, der er imod,
og USA og russerne har begge gjort det klart,
at de vil modsætte sig en traktat, der forbyder autonome våben.
Når vi tænker på, hvor mange der arbejder på at gøre AI mere kraftfuld,
så er der stor trængsel.
Når vi tænker på dem, der vil sikre, at AI er sikker,
så er der tale om langt færre.
Men jeg er også optimist.
Når jeg ser på konventionen om forbud mod biologiske våben,
så blev den indgået under den kolde krig,
på trods af spændingerne mellem Sovjetunionen og USA.
De indså, at udviklingen af biologiske våben
ikke var i deres interesse
eller i verdens interesse.
Våbenkapløb favoriserer tempo over sikkerhed.
Men det er vigtigt at huske på,
at prisen for at bevæge sig hurtigt frem kan blive for høj.
Vi kan ikke bare udvikle ting isoleret
og sætte dem i verden uden at tænke på, hvordan de vil udvikle sig i fremtiden.
Vi må forhindre atombombe-øjeblikket.
Indsatsen i AI-kapløbet er enorm.
Jeg tror ikke, at mange forstår den globale stabilitet,
en overlegen militærstyrke har været garant for
i de sidste 75 år.
USA og dets allierede
skal overgå al fjendtlig AI.
Der er ingen andenplads i krig.
Kina vil være førende inden for kunstig intelligens i 2030.
Nogle siger, at USA taber kapløbet…
Man fremskynder indførelsen af kunstig intelligens
for at sikre vores militære forspring.
Vi ræser derudad med denne teknologi.
Det er uklart, hvor langt vi skal gå.
Styrer vi teknologien, eller styrer den os?
Man får ikke en chance til.
Når ånden er ude af flasken, er den ude.
Og det er meget svært at komme den ind i flasken igen.
Handler vi ikke nu, er det for sent.
Måske er det for sent.
Tekster af: Charlotte Reeve