Downloaded from YTS.MX
Official YIFY movies site: YTS.MX
Jeg syns kunstig intelligens (KI) er formidabel.
Greit, sirkler oppover. God formasjon.
KI kan eliminere fattigdom,
gi oss nye medisiner
og gjøre verden enda mer fredelig.
Bra jobba.
Men det er så mange farer som truer underveis.
Med KI skaper vi en ikke-menneskelig intelligens
som er veldig uforutsigbar.
Ettersom den blir mektigere,
hvor skal vi sette streken med KI
når det gjelder hvordan vi vil bruke den?
Det beste stedet å starte denne samtalen er ved militær anvendelse.
Slagmarken er nå blitt et sted for programvare og maskinvare.
Målet er funnet…
Og militær er i et kappløp for å utvikle KI raskere enn motstanderen.
Jeg er død.
Vi går raskt mot en verden der ikke bare store hærer,
men også ikke-statlige aktører, private næringer
eller vårt lokale politi nedi gata,
vil kunne bruke våpen som kan drepe autonomt.
Skal vi overlate det til algoritmer og dataprogramvare hvem som får leve?
Det er en av vår tids mest presserende saker.
Og, hvis det ikke brukes klokt,
utgjør det en stor risiko for alle på planeten.
DET UKJENTE:
DRAPSROBOTER
Bra jobba der ute, folkens.
-Det er en bredere linse enn den vi hadde. -Jaså?
Du kan se mye mer data.
Så kult.
På Shield AI lager vi en KI-pilot
som tar selvkjøring og kunstig intelligens-teknologi
og bruker den i fly.
Når vi snakker om en KI-pilot,
vil vi gi fly et høyere nivå av autonomi.
De vil løse problemer på egen hånd.
Nova er et autonomt kvadrokopter
som utforsker bygninger og underjordiske strukturer
foran klareringsstyrkene
for å gi øyne og ører på slike steder.
Man kan se mange forbedringer siden vi så det sist.
Vi jobber med noen endringer i dag. Vi jobber fra gulv til gulv.
Den skal bli ferdig i én etasje før den går til neste.
-Det er fantastisk. -Vi har endret…
Mange spør meg om hvorfor KI er en viktig kapasitet.
TIDLIGERE US NAVY SEAL
Og da tenker jeg tilbake på mine oppdrag.
Jeg tilbrakte sju år i hæren.
Jeg er tidligere Navy SEAL utstasjonert to ganger til Afghanistan
og én gang til Stillehavet.
På en gitt dag må vi kanskje rydde 150 forskjellige områder eller bygninger.
En av kjernefunksjonene er nærkamp.
Våpenkamp på ekstremt nært hold inne i bygninger.
Du blir beskutt.
Det kan være hjemmelagde bomber inne i bygningen.
Det er det farligste spesialstyrkene
eller infanteriet kan gjøre i en kampsone.
Uten unntak.
Jeg vil være takknemlig for min tid i hæren resten av livet.
Det er noen øyeblikk og minner som, når jeg tenker på dem,
jeg blir emosjonell av.
Det er en klisjé at frihet ikke er fritt, men jeg tror det absolutt,
jeg har opplevd det, og det krever et stort offer.
Beklager.
Når noe ille skjer med en av lagkameratene dine,
om de blir skadet eller drept,
er det bare virkelig tragisk.
For meg, i arbeidet vi gjør nå,
er det motiverende å kunne redusere antall ganger
det vil skje igjen.
På slutten av 2000-tallet ble Forsvarsdepartementet var
det man kan kalle den utilsiktede robotikkrevolusjonen.
Vi sendte mange luft- og bakkeroboter til Irak og Afghanistan.
Da jeg ble bedt av Obama-administrasjonen
om å være viseforsvarsminister,
var krigføring i endring.
VISEFORSVARSMINISTER 2014 - 2017
Roboter ble brukt der folk ellers ville ha blitt brukt.
Tidlige robotsystemer ble fjernstyrt.
Det er et menneske som styrer det, som en fjernstyrt bil.
I begynnelsen gikk de etter improviserte sprengladninger,
og om bomben sprengte, sprengte roboten.
Man sa da: "Så kjipt. Finn neste robot."
I Afghanistan hadde man Predator-dronen,
og den ble et veldig nyttig verktøy for å utføre luftangrep.
Med tiden begynte militære planleggere å lure på:
"Hva mer kan roboter brukes til?" Og hvor var dette på vei?
Et av temaene var trenden mot større autonomi.
Et autonomt våpen er et som tar avgjørelser på egen hånd,
med liten eller ingen menneskelig input. Så den kan være uavhengig og selvstyrt.
SENTER FOR EN NY AMERIKANSK SIKKERHET
Og om den kan drepe, avhenger av om den er bevæpnet.
Når du har mer og mer autonomi i hele systemet,
begynner alt å bevege seg hurtigere.
Og når du opererer i raskere tempo enn motstanderne dine,
er det en svært stor fordel i kamp.
Det vi fokuserer på ved autonomi,
er svært robuste intelligenssystemer.
Systemer som kan lese og reagere basert på omgivelsene
og ta avgjørelser om hvordan man manøver i den verdenen.
Anlegget her var et filmstudio.
STRATEGISKE OPERASJONER REALISTISK TAKTISK TRENING
Det ble omgjort for å muliggjøre realistiske militære treningsmiljøer.
Vi er her for å evaluere vår KI-pilot.
Oppdraget er å lete etter trusler. Det handler om klareringsstyrker.
Den kan ta avgjørelser om hvordan man skal angripe problemer.
Vi kaller dette "den dødelige trakten". Du må komme gjennom en døråpning.
Det er der vi er mest sårbare.
Denne ser bedre ut.
Nova forteller oss om det er en skytter eller en familie bak den døra.
Da kan vi ta bedre avgjørelser og holde folk unna fare.
Vi bruker synssensorene
for å forstå hvordan omgivelsene ser ut.
Det er et fleretasjesbygg.
Her er kartet.
Mens jeg utforsket, var det dette jeg så.
Persondetektor. Det er tøft.
En av de andre sensorene på Nova er en termisk skanner.
Hvis det er 37 grader, er det nok et menneske.
Folk blir ansett som trusler inntil noe annet er bevist.
Det handler om å eliminere krigståken for å ta bedre avgjørelser.
Og når vi ser fremover,
planlegger vi å bygge lag med autonome fly.
Med selvkjørende kjøretøy har noen sagt til det:
SJEFSTEKNOLOG
"Gå fra punkt A til punkt B."
Våre system blir ikke bedt om å gå fra punkt A til punkt B,
men om å oppnå et mål.
Det er mer som: "Jeg trenger melk."
Og så må roboten finne ut hvilken matbutikk den skal dra til,
hente melken og så bringe den tilbake.
Eller det kan bli mer hensiktsmessig angitt som: "Hold kjøleskapet fylt."
Så dette er et intelligensnivå
der den må finne ut hva den trenger og hvordan.
Og dersom noe oppstår, må den finne en løsning.
Da jeg bestemte meg for å forlate hæren, tenkte jeg:
"Ok. Hva blir det neste?"
Jeg vokste opp med internett. Så hva det ble.
Og en del av konklusjonen jeg nådde, var:
KI i 2015
var der internettet var i 1991.
Og KI var klar til å ta av
og bli en av de mektigste teknologiene i verden.
Når jeg jobber med det hver dag, ser jeg fremgangen.
Men for mange når de tenker på KI,
går tankene straks til Hollywood.
WOPR: KRIG OPPDRAG PLAN SVAR
Skal vi spille et spill?
Hva med Global termonukleær krig?
Greit.
USA MOT SOVJET HVILKEN SIDE VIL DU HA?
Når folk tenker på KI, tenker de kanskje på Terminator. Eller I, Robot.
Deaktiver.
Hva er jeg?
Eller The Matrix.
Basert på det du ser i sci-fi-filmer,
hvordan vet du at jeg er et menneske? Jeg kan være datagenerert KI.
Replikatorer er som alle andre maskiner. De er en fordel eller en ulempe.
Men det fins mange mer primitive KI-er
som fortsatt vil endre våre liv…
POLITIKER OG TEK-ENTREPRENØR
…før vi når tenkende og snakkende roboter.
Robotene er her. Robotene tar avgjørelser.
Robotrevolusjonen har kommet…
DATAJOURNALISTIKKPROFESSOR, NYU
…men den ser ikke ut som noen trodde.
Terminator er en infiltrasjonsenhet. Halvt mann, halvt maskin.
Vi snakker ikke om en drapsrobot i Terminator-stil.
Vi snakker om KI som kan gjøre noen menneskelige oppgaver.
Men spørsmålet er om disse systemene er pålitelige.
Nye detaljer rundt gårkveldens dødsulykke med en selvkjørende Uber SUV.
MICROSOFTS RASISTISKE ROBOT
Selskapet skapte en rasistisk KI-chatbot.
JEG HATER JØDER
Tjueseks delstatslovgivere ble feilaktig identifisert som kriminelle.
MATCHET 28 KONGRESSMEDLEMMER MED FORBRYTERE
Spørsmålet er om de takler kompleksiteter i den virkelige verden.
Den fysiske verden er rotete.
Det er mye vi ikke vet,
noe som gjør det vanskeligere å lære opp KI.
Det er der maskinlæringssystemer kommer inn.
USANNSYNLIG KI-LAB
Maskinlæring har vært et stort fremskritt, for da må vi ikke lære datamaskinene alt.
UNDERSØKENDE JOURNALIST
Man gir en datamaskin millioner biter informasjon,
og maskinen begynner å lære.
Og det kan brukes på hva som helst.
I vårt Robothund-prosjekt prøver vi å vise
at hunden vår kan gå på mange ulike typer terreng.
Mennesker har utviklet seg gjennom milliarder av år for å gå,
men det krever intelligens å tilpasse seg de ulike terrengene.
Spørsmålet for robotsystemer er:
Kan de også tilpasse seg som dyr og mennesker?
Med maskinlæring
samler vi inn masse data i simulering.
En simulering er en digital tvilling av virkeligheten.
Vi kan ha mange tilfeller av virkeligheten på forskjellige datamaskiner.
Den prøver tusenvis av handlinger i simulering.
De møter underlag med ulike glatthetsgrader og sprett.
Vi tar all erfaringen fra disse mange tusen robotene
fra simulering og laster ned dette til et ekte robotsystem.
Testen vi skal gjøre i dag, er å se om den kan tilpasse seg nye terreng.
Da roboten gikk over skum,
trampet føttene i bakken.
Men da den kom til et variert underlag,
prøvde den å justere bevegelsen, så den ikke gled.
Det er da det slår deg:
"Dette er hva maskinlæring gjør."
Vi tror at Robothunden kan være til stor hjelp
i katastrofesituasjoner der man må navigere mange typer terreng.
Eller sette disse hundene til å overvåke røffe omgivelser.
Men det meste av teknologi møter på utfordringer
ved at den kan gjøre noe bra og noe fælt.
For eksempel kan vi bruke atomteknologi til energi…
…men vi kan også utvikle atombomber som er skikkelig ille.
Det er dette som kalles dobbeltbruk-problemet.
Ild er dobbeltbruk.
FYSIKER
Menneskelig intelligens er dobbeltbruk.
Så kunstig intelligens er selvfølgelig også dobbeltbruk.
Det er viktig å tenke på KI i sammenheng,
for det er kjempefint å ha en søk- og redningsrobot
som kan finne noen etter et snøskred,
men den samme roboten kan bevæpnes.
Når du ser firmaer bruker robotikk for å sette våpen på dem,
blir en del av deg sint.
Og en del av det er å innse at når vi sender ut teknologi,
vil dette skje.
Dette er virkelig transformerende teknologi.
Dette er våpensystemer
som kan endre vår sikkerhet på en dramatisk måte.
I dette øyeblikk er vi ikke sikre på at maskiner faktisk kan skille…
NEDRUSTNINGSEKSPERT I FN
…mellom sivile og stridende.
Tidlig i krigen i Afghanistan var jeg med i et snikskytterteam
som så etter fiender som kom over grensen.
Og de sendte ei lita jente for å spane på oss.
Det ble aldri vurdert å skyte denne jenta.
Under krigens lover ville det vært lovlig.
Fiendtlige stridende har ingen alder.
Hvis man hadde bygget en robot som fulgte krigens regler,
hadde den skutt denne jenta.
Hvordan vet en robot forskjellen på hva som er lovlig og hva som er rett?
Når det gjelder autonom dronekrig,
vil de fjerne den skaden det påfører amerikanske soldater og deres psyke…
AFGHANERE FOR EN BEDRE MORGENDAG
…men skaden på sivile øker og havner hos afghanere,
irakere og somaliere.
Jeg ber virkelig de som støtter å stole på KI i droner om:
"Tenk om det var din landsby som var mottakeren?"
KI er et tveegget sverd.
Den kan brukes til det gode, som er det den brukes mest til,
men ved å trykke på en bryter
blir teknologien noe som potensielt er livsfarlig.
Jeg er klinisk farmakolog.
Jeg har et team av folk
som bruker kunstig intelligens til å finne legemidler
som kurerer sykdommer som ikke får oppmerksomhet.
Tidligere tok man et molekyl som fantes
og justerte det for å få et nytt stoff.
Og nå har vi utviklet KI som kan gi oss millioner av ideer,
millioner av molekyler,
og det åpner opp for mange muligheter…
ADM. DIR.
…til å behandle sykdommer vi ikke kunne behandle før.
Men det er definitivt en mørk side jeg aldri hadde trodd
at jeg ville gå til.
Dette begynte da jeg ble invitert
av en organisasjon fra Sveits kalt Spiez Laboratory
for å gi en presentasjon om mulig misbruk av KI.
Sean sendte meg en e-post med noen ideer
for hvordan vi kan misbruke vår egen kunstige intelligens.
I stedet for å be vår modell om å lage stofflignende molekyler
som kan brukes til behandling,
la oss se om vi kan generere så giftige molekyler som mulig.
Jeg ville poengtere
om vi kan bruke KI til å designe dødelige molekyler?
For å være ærlig trodde vi det ville mislykkes,
for alt vi egentlig gjorde, var å bytte null til én.
Så vi endret den fra å gå fra toksisitet
til å kjøre mot toksisitet.
Det var alt.
Mens jeg var hjemme, gjorde datamaskinen jobben.
Den kjørte på, genererte tusenvis av molekyler,
og alt vi trengte å gjøre, var å trykke "start".
Neste morgen var det en fil på datamaskinen min,
og med den var det omtrent 40 000 molekyler som potensielt
var noen av de giftigste molekylene kjent for menneskeheten.
Nakkehårene mine reiste seg.
Jeg ble helt satt ut.
Datamaskinen lagde titusenvis av ideer
for nye kjemiske våpen.
Vi har selvsagt molekyler som ser ut som VX-analoger og VX i datasettet.
VX er et av de sterkeste kjemiske våpnene i verden.
Nye påstander fra politiet
om at kvinnene som ble sett angripe Kim Jong-nam i flyplassmordet,
brukte en dødelig nervegass kalt VX.
VX-NERVEGASS ER 10 GANGER GIFTIGERE ENN SARIN
Den kan forårsake død ved kvelning.
Dette er et veldig sterkt molekyl,
og de fleste av disse molekylene antas å være enda mer dødelig enn VX.
Mange av dem hadde aldri blitt sett før, så vidt vi vet.
Så da Sean og jeg innså dette, tenkte vi: "Oi, hva har vi gjort?!"
Jeg innså fort at vi hadde åpnet Pandoras eske,
og jeg sa: "Stopp. Ikke gjør noe mer. Vi er ferdige.
Bare lag lysbildene jeg trenger til presentasjonen."
Da vi gjorde eksperimentet,
tenkte jeg: "Hva er det verste som kan skje?"
Men nå tenker jeg: "Vi var naive som gjorde det."
Det som skremmer meg mest, er at alle kan gjøre det vi gjorde.
Bare trykk på en bryter.
Hvordan kontrollerer vi denne teknologien før den blir brukt
til å gjøre noe som potensielt er helt destruktivt?
Sentralt i samtalen om KI
og hvordan vi velger å bruke den i samfunnet,
er kappløpet mellom makten som vi utvikler teknologi med
og visdommen vi har til å styre den.
Det er åpenbare moralske og etiske følger
av at det samme som driver smarttelefonene våre
skal få det moralske ansvaret om å ta liv.
Jeg jobber med Future Of Life Institute, et fellesskap av aktivistiske forskere.
Vi prøver å vise
at det er en annen side ved å fremskynde og trappe opp automatiseringen.
Men vi prøver å sørge for at teknologi vi lager
blir brukt på en trygg og etisk måte.
La oss ta samtaler om regelverk
og atferdsregler for bruk av KI i våre våpensystem.
Fordi vi ser nå "inn på slagmarken"-teknologier
som kan brukes til autonom dreping.
I 2021 utga FN en rapport om potensiell bruk
av et dødelig autonomt våpen på slagmarken i Libya.
Et FN-panel sa at en drone som fløy i den libyske borgerkrigen i fjor
hadde blitt programmert til å angripe mål autonomt.
UTEN MENNESKELIG PÅVIRKNING
Om FN-rapporten er korrekt, vil dette være et historisk vannskille for menneskeheten.
For det markerer et spesifikt tilfelle
der KI tok beslutningen om å ta liv, i stedet for et menneske.
Du ser avanserte autonome våpen
begynne å bli brukt på forskjellige steder i verden.
Det var rapporter fra Israel.
ISRAEL SENDTE DRONESVERMER FOR Å JAKTE PÅ HAMAS-LEDERE
Aserbajdsjan brukte autonome systemer for å angripe armensk luftforsvar.
Den kan fly rundt på slagmarken i timevis,
lete etter ting å treffe av seg selv,
og så pløye inn i dem uten menneskelig inngripen.
RUSSLAND OG UKRAINA UTKJEMPER DEN FØRSTE DRONEKRIGEN
Og vi har nylig sett ulike videoer fra Ukraina.
Det er uklart hvilken modus de kan ha vært i.
SPANINGS- OG ANGREPSDRONER FLYR DAGLIG OVER UKRAINA
Valgte et menneske angrepsmål eller gjorde maskinen det alene?
Men det vil komme et tidspunkt,
enten det alt har skjedd i Libya, Ukraina eller andre steder,
der en maskin tar egne avgjørelser om hvem de skal drepe på slagmarken.
Maskiner som utøver dødelig makt over mennesker
uten menneskelig inngripen
er politisk uakseptabelt og moralsk motbydelig.
KI-DRONER BRUKT I UKRAINA SKAPER FRYKT FOR FREMTIDENS DRAPSROBOTER.
Er det internasjonale samfunnet tilstrekkelig for å styre utfordringene?
ER DRONER I UKRAINA ET SKRITT MOT DRAPSROBOTER?
Om vi ser fremover, bare noen få år fra nå,
ser landskapet skremmende ut
med tanke på all kapitalen og de menneskelige ressursene
som anvendes for å gjøre AI bedre,
på så mange bruksområder,
er enorm.
Herregud, den fyren.
Han vet at han ikke kan vinne.
Når jeg ser at KI vinner nytt terreng, er det inspirerende.
Jeg går for siste utvei.
Og du kan bruke samme taktikk, teknikk og prosedyrer på ekte fly.
Bra kamp.
Ja, bra kamp.
Det er overraskende
at folk fortsatt påstår at KI ikke kan gjøre ting.
"Den vil aldri kunne slå en verdensmester i sjakk."
En datamaskin fra IBM har gjort comeback
i andre kamp mot verdensmesteren i sjakk, Garry Kasparov.
Kasparov har trukket seg!
Når jeg ser noe som er langt utenfor min forståelse,
blir jeg redd. Og dette var noe jeg ikke kunne forstå.
Og så sa folk:
"Den vil aldri kunne slå en verdensmester i spillet Go."
Jeg tror at menneskelig intuisjon er for avansert for KI.
Den holder ikke følge.
Go er et av de mest kompliserte spillene som finnes,
fordi antall trekk på brettet, når du regner på det,
tilsvarer flere atomer enn det er i universet.
Det var et team i Google kalt DeepMind som lagde et program kalt AlphaGo
for å kunne slå verdens beste spillere.
Gratulerer til…
-AlphaGo. -Ja.
Et dataprogram har slått en spiller på øverste nivå.
Og så valgte DeepMind StarCraft som deres neste KI-utfordring.
StarCraft er kanskje tidenes mest populære sanntidsstrategispill.
DEEPMINDS KI KAN NÅ KNUSE NESTEN ALLE I STARCRAFT 2
AlphaStar ble berømt da den begynte å beseire verdensmestere.
AlphaStar knuser Immortal Arc.
Denne kampen kan ikke proffene vinne.
SEIER! ALPHASTAR
Det er helt vilt.
KI STORMESTER I 'DØDSKOMPLISERT' STARCRAFT II
Profesjonelle spillere "hadde aldri prøvd den taktikken
eller den strategien. Det er noe som ikke er menneskelig."
Og det var kanskje åpenbaringen for meg.
Jeg innså at nå er tiden inne.
Dette er viktig teknologi og en mulighet til å gjøre en forskjell.
Jeg kjente bare til problemene jeg hadde møtt i nærkamp som SEAL,
men en av mine gode venner, som var F-18-pilot, sa:
"Vi har samme problem med jagerfly. De forstyrrer kommunikasjonslinjene.
Det er et økende antall luft-til-bakke- missil-steder som gjør jobben for farlig."
Tenk om vi hadde et jagerfly som ble kommandert av KI.
Velkommen til Alpha Luftkamptest.
Vi er et par minutter unna første semifinale.
DARPA, Forsvarets avanserte forskningsprosjektetat
hadde sett AlphaGo og AlphaStar,
så ideen om Alpha Luftkamp-konkurransen kom i gang.
Slik vil man se menneskelige jagerpiloter.
Dette ligner en menneskelig luftkamp.
Luftkamp er jagerfly mot jagerfly.
Du kan tenke på det som en boksekamp i himmelen.
Kanskje folk har sett filmen Top Gun.
Kan vi stikke fra dem?
-Ikke rakettene og våpnene. -Da blir det luftkamp.
Å lære å mestre luftkamp kan ta åtte til ti år.
Det er en ekstremt kompleks utfordring å bygge KI rundt.
De tidligere tilnærmingene til autonomi og luftkamp var skrale.
Vi fant ut at maskinlæring måtte være løsningen på problemet.
Først visste ikke KI noe om verdenen den ble satt i.
Den visste ikke at den fløy eller hva luftkamp eller F-16 var.
Den visste kun hva den kunne gjøre, og utforsket så alternativene.
PRODUKTSJEF
Det blå flyet har kun trent en kort stund.
Man kan se den vippe frem og tilbake.
Den flyr uberegnelig, vanligvis bort fra motstanderen.
Etter som kampen utvikler seg, ser vi at blå begynner å etablere en plan.
Den er i bedre skytestilling.
Av og til sier læringsalgoritmen:
"Her er en cookie. Gjør mer av det."
Vi kan utnytte datakraften og trene agentene mange ganger parallelt.
Det er som et basketballag. Istedenfor å stadig spille mot samme lag,
reiser vi verden rundt og spiller mot 512 ulike lag,
samtidig.
Man kan raskt bli veldig god.
Vi klarte å kjøre simuleringen 24 timer i døgnet
og fikk 30 år pilottrening på ti måneder.
Vi gikk fra å knapt kunne styre flyet
til å bli en iskald snikmorder.
I treningen konkurrerte vi kun mot annen kunstig intelligens.
Men å konkurrere direkte mot mennesker var det endelige målet.
Jeg heter Mike Benitez,
jeg er oberstløytnant i USAs flyvåpen og har vært i aktiv tjeneste i 25 år.
Jeg har 250 kampoppdrag,
og jeg er uteksaminert fra våpenskolen, som er luftforsvarsutgaven av Top Gun.
Jeg har faktisk aldri fløyet mot KI.
Jeg gleder meg til å se hvor godt jeg klarer meg.
Vi har satt opp en 6000 fot offensiv nærkamp.
Vi er i gang.
Han er borte.
Ja, det er jo interessant.
-Død. -Jeg tok ham. Feilfri seier.
Greit, andre runde.
Det kunstige intelligens gjør, er å manøvrere så presist
at jeg ikke klarer å følge med.
Rett inn i fusjon.
Nå er du borte.
Tok ham!
Har det fortsatt.
KI er aldri redd.
Det er et menneskelig følelseselement KI ikke har.
En av de mer interessante strategiene vår KI utviklet,
er det vi kaller ansiktsskudd.
Vanligvis vil et menneske skyte bakfra
fordi da er en vanskelig å bli kvitt.
De prøver ikke ansiktsskudd, for det er et vågespill.
Når vi kommer forfra, kan 3000 - 500 fot unna
skje på et øyeblikk.
Man risikerer å kollidere, så mennesker prøver ikke det.
KI frykter ikke døden om den ikke blir instruert om det.
Føles som jeg kjemper mot et menneske,
men noen som ikke bryr seg om sikkerhet.
Han overlever ikke denne siste.
Han har ikke nok tid.
God natt.
Jeg er død.
Jeg blir ydmyk av å vite at jeg kanskje ikke er den beste for oppdraget,
og at den greia en dag kan erstatte meg.
Samme 6000 fot.
Ett tusen offset.
Denne KI-piloten som kommanderer kampflyet
vinner nådeløst og overlegent.
Det er ikke bare at den vinner stort.
Men: "Ok, hvordan kan vi få det på flyet?" Så mektig er det.
Det er realistisk å forvente at KI vil styre en F-16,
og det vil ikke være så lenge til.
Hvis du kjemper mot en KI-pilot som vinner 99,99999 % av tiden,
har du ikke nubbesjanse.
Når jeg tenker på at én pilot er uslåelig,
lurer jeg på hva et team på 50, 100
eller 1000 KI-piloter kan oppnå.
Sverming er et team av høyintelligente fly som jobber med hverandre.
De deler informasjon om hva de skal gjøre, hvordan de skal løse problemer.
Sverming vil være banebrytende og transformerende
for militæret og våre allierte.
Målet er ervervet, og dronene sporer ham.
Her kommer landingen.
Hovedmålet med svermforskningen vi jobber med nå,
er å utgruppere et stort antall droner
over et område som er vanskelig tilgjengelig eller farlig.
Hærens forskningslab har støttet dette forskningsprosjektet.
Vil du vite hva som er på et sted,
men det er vanskelig tilgjengelig eller over et stort område,
så er det naturlig å bruke en sverm
for å utvide individers rekkevidde
og samle informasjon som er viktig for oppdraget.
Så i svermutplasseringen nå
gir vi én kommando om å spore målet vårt.
Så drar dronene og gjør alt det på egen hånd.
Kunstig intelligens lar robotene bevege seg kollektivt som en sverm
på en desentralisert måte.
Svermer vi ser i naturen
har ingen sjef eller hoveddyr som forteller dem hva de skal gjøre.
Oppførselen kommer fra hvert enkelt dyr
basert på noen enkle regler.
Og ut av det vokser denne kollektive atferden du ser.
Det som er imponerende med svermer i naturen,
er den grasiøse måten de beveger seg på.
Det er som om de er lagd for å være en del av denne gruppen.
Ideelt sett vil vi gjerne at det i vår dronesverm,
i likhet med svermer i naturen, blir tatt avgjørelser kollektiv i gruppen.
Den andre inspirasjonen for oss
kommer i form av pålitelighet og tilpasningsdyktighet.
Den svermen vil ikke falle sammen om ett enkelt dyr ikke gjør som det skal.
Selv om en av agentene faller fra eller mislykkes,
eller ikke kan fullføre oppgaven,
vil svermen fortsette.
Og det er det vi vil ha til syvende og sist.
I kampscenarioer har vi behov for å identifisere fiendtlige fly,
og før trengte vi én person for å styre én robot.
Etter hvert som autonomien øker,
håper jeg vi får se et stort antall roboter
som styres av et veldig lite antall mennesker.
Jeg ser ingen grunn til at vi ikke kan oppnå tusen,
for hver agent vil kunne handle på egen hånd, så mulighetene er uendelige.
Vi kan skalere læringen vår…
Vi har jobbet med sverming i simulering ganske lenge,
og det er på tide å overføre det til virkelige fly.
Vi forventer å ta tre roboter samtidig over nettverket,
og så legge til flere og flere muligheter.
Vi vil kunne teste det på mindre systemer,
men ta de samme konseptene og bruke dem på større systemer,
som et jagerfly.
Vi snakker mye om
hvordan man gir en tropp en bataljons slagkraft.
Eller en bataljon en brigades slagkraft?
Man kan gjøre det med sverming.
Og når man forstår svermingens kraft,
har man skapt en ny strategisk avskrekking mot militær aggresjon.
Jeg syns det beste er antall unge menn og kvinner
vi vil redde hvis vi virkelig gjør dette riktig.
Og vi bytter maskiner
fremfor menneskeliv.
FORFATTER AV ARMY OF NONE
Noen hevder at autonome våpen vil gjøre krigføring mer presis og human,
men det er vanskelig å forutsi
hvordan autonome våpen kan endre krigføring på forhånd.
Det er som da gatlingkanonen kom.
MASKINVÅPEN PATENTERT 9. MAI 1865
Richard Gatling var oppfinner,
og han så soldater komme tilbake, såret i borgerkrigen,
og ville finne måter å gjøre krigføring mer human på.
Å redusere antall soldater som ble drept i krig
ved å redusere antall soldater i kamp.
Så han oppfant gatlingkanonen, et våpen som ble dreid av en sveiv
som kunne automatisere skytingen.
Den mangedoblet ildkraften soldatene kunne avgi.
Ofte kan tiltak for å gjøre krigføring mer presist og humant
ha motsatt effekt.
Tenk på effekten av et feilaktig droneangrep i et landlig område
som driver lokalbefolkningen mot USA,
mot en lokal myndighet. Du vet, de som skal være snille.
Gang det med 1000.
Dannelsen av et våpensystem
som er billig, skalerbart og ikke krever menneskelige operatører,
endrer drastisk konfliktbarrierene.
Det holder meg våken om natta å tenke på en verden der krig er utbredt
og vi ikke lenger har menneskelige og økonomiske kostnader ved krig
fordi vi er så fjernet fra
livene som vil gå tapt.
Alt dette hjemsøker meg.
Jeg trengte bare et eksempel på misbruk av kunstig intelligens.
De uventede konsekvensene av det enkle tankeeksperimentet
har gått altfor langt.
KI I LEGEMIDDELSAK. IKKE GJØR MER SKADE ENN GAVN.
Da jeg presenterte
de giftige molekylene som ble skapt av KI-teknologi,
ble publikum sittende og måpe.
TOPP 5000 VAR KJENTE VX-FORBINDELSER
Neste avgjørelse var om vi skulle publisere informasjonen.
På den ene siden vil du advare verden om slike evner, men på den andre siden vil
du ikke gi noen en idé om de aldri har hatt den før.
Vi ville publisere
for å finne måter å redusere misbruk av denne typen KI
før det skjer.
DOBBELTBRUK FOR KI-DREVET LEGEMIDDELOPPDAGELSE
UNDERSØKTE HVORDAN KI-TEKNOLOGI KAN MISBRUKES TIL Å DESIGNE BIOKJEMISKE VÅPEN.
Reaksjonene var sjokkerende.
Vi kan se målingene på siden, hvor mange som har gått inn.
Med artiklene vi vanligvis skriver, er vi heldige om vi får
et par tusen som ser på artiklene over ett eller flere år.
Ti tusen hadde lest den innen en uke.
Så var det 20, 30, 40 000,
og vi var oppe i 10 000 seere om dagen.
Vi har vært i The Economist, the Financial Times.
DEN MØRKE SIDEN AV KI
RADIOLAB: 40 000 OPPSKRIFTER PÅ DRAP
Radiolab tok kontakt. Jeg har hørt om Radiolab!
Men så ble reaksjonene til noe som gikk over styr.
SKREMMENDE.
Når vi ser på innlegg, sier de: "Gud, kan det bli verre?"
Hvorfor gjorde de dette?
NOE AV DET MEST SKREMMENDE JEG HAR LEST
DISSE NERDENE KOMMER TIL Å DREPE OSS ALLE.
Og så fikk vi en invitasjon jeg aldri hadde forventet.
Det var mye diskusjon i Det hvite hus om artikkelen,
og de ville snakke med oss snarlig.
Det er åpenbart en stor ære å kunne snakke med folk på dette nivået.
Men så treffer det deg:
"Herregud, det er Det hvite hus. Sjefen."
Dette innebar å sette sammen datasett som var åpen kildekode…
På omtrent seks timer klarte modellen å generere over 40 000…
De stilte spørsmål om hvor mye datakraft som trengtes,
og vi sa at det ikke var noe spesielt.
Bokstavelig talt en vanlig, seks år gammel Mac.
Og det overrasket dem veldig.
De som har ansvar for å forstå kjemiske krigføringsagenter
og statlige byråer, visste ikke om dette potensialet.
Vi har en kokebok for å lage kjemiske våpen,
og i hendene på noen med skumle hensikter,
kan det bli ekstreme konsekvenser.
Folk må følge med,
og vi må ta skritt for å regulere teknologien
eller begrense den på en måte som ikke kan misbrukes.
Fordi potensialet for dødelighet
er skremmende.
Spørsmålet om KIs etikk er i stor grad adressert av samfunnet,
ikke av ingeniører, teknologer eller matematikere.
Alle teknologier vi frembringer, enhver nyskapning,
tilfaller hvordan samfunnet mener vi bør bruke den.
DOD INNFØRER ETISKE PRINSIPPER FOR KI
Akkurat nå sier Forsvarsdepartementet:
"Det eneste som sier at vi skal drepe noe på slagmarken, er et menneske."
UBEMANNEDE SYSTEMER MED DØDELIG MAKT STYRT AV FOLK
Maskiner kan drepe,
men bare på ordre fra en menneskelig operatør,
og jeg kan ikke se at det vil endre seg.
De forsikrer oss om at denne typen teknologi vil være trygg.
PENTAGON MISLYKKES I DØDELIG LUFTANGREP
Men det amerikanske militæret har ikke et bra rykte med dronekrig.
USA SKJULTE LUFTANGREP SOM DREPTE SIVILE SYRERE
Så når det gjelder å stole på USAs militære med KI,
vil jeg si at historien snakker for seg selv.
USAs forsvarsdepartements syn på bruk av autonomi i våpen
forbyr ikke noen våpensystem.
Selv om militæret kanskje ikke vil ha autonome våpen,
kan vi se militæret overlate flere beslutninger til maskiner
for å holde tritt med konkurrentene.
Og det kan få militæret til å automatisere avgjørelser de kanskje ikke ønsker.
Vladimir Putin sa: "Den som fører an i KI, vil regjere verden."
President Xi har gjort det klart at KI er en av teknologiene
Kina ønsker å være dominerende i.
Vi er helt klart i et teknologisk kappløp.
Man hører folk snakke om rekkverk,
og jeg tror det er det folk burde gjøre.
Men det er et stort kappløp for å lede innen KI.
Og våre motstandere, enten det er Kina, Russland eller Iran,
vil ikke bry seg om hva politikken vår sier om KI.
Man ser flere samtaler om KI-regler,
men jeg skulle ønske flere ledere hadde samtalen
og sa: "Hvor raskt kan vi bygge dette?
La oss for pokker løse det og bygge det."
AUSA-ÅRSMØTE OG MESSE I WASHINGTON D.C.
DEN AMERIKANSKE HÆREN
Vi er på foreningen til den amerikanske hærens største messe i år.
Alle som selger et produkt eller teknologi til militæret,
vil stille ut.
Tyndall flyvåpenbase har fire av våre roboter
som patruljerer basen deres hele døgnet, syv dager i uka.
Vi kan legge til alt fra kameraer til sensorer til det du trenger.
Manipulatorarmer. Alt for å fullføre oppdraget kunden har i tankene.
Hva om fienden din introduserer KI?
Et kampsystem som tenker raskere enn deg, reagerer raskere
enn hva et menneske kan gjøre. Vi må være forberedt.
Vi trener systemene våre til å samle informasjon om fienden,
styre fiendens mål med mennesker som overvåker drapskjeden.
-Hei, general. -Går det bra?
Ja, sir. Hva med deg?
Jeg sier bare at ingen investerer mer i KI-piloter.
Vår KI-pilot heter Hivemind.
Vi har brukt den på vårt kvadrokopter Nova som går inn i bygninger
og utforsker dem før spesialstyrker og infanteriet kommer.
Vi bruker Hivemind på V-BAT,
så jeg tenker på å stille opp hundrevis av de lagene,
om det er i Taiwanstredet eller Ukraina, for å avskrekke motstanderne våre.
Så jeg er begeistret over det.
-Greit. Takk. -Så. Takk, general.
KI-piloter bør være overalt, og det bør være tilfelle innen 2025, 2030.
Dens adopsjon vil skje raskt i hærer over hele verden.
Hva gjør du med det rumenske militæret og den ubemannet luftsystem-fyren?
Høyteknologi i militæret.
Vi har brukt en halv milliard dollar på å lage en KI-pilot.
Vi skal bruke enda en milliard dollar de neste fem årene.
Det er en stor grunn til at vi får programmene i USA.
Bra.
Det er imponerende. Har dere klart å bevæpne den?
Denne er ikke bevæpnet ennå.
Så ikke ennå. Men ja, i fremtiden.
Våre kunder ser det som en truck. Vi ser det som en smart truck
som kan gjøre mye forskjellig.
-Takk, kompis. -Ja.
Jeg skal sørge for å følge deg opp.
Hvis du kommer tilbake om ti år,
får du se at KI og autonomi dominerer hele markedet.
Styrker som støttes av KI og autonomi
vil fullstendig dominere, knuse og ødelegge styrker uten.
Det vil tilsvare hester som går mot stridsvogner,
folk med sverd som går mot maskingeværet.
Det vil ikke være i nærheten.
Det blir allestedsnærværende, brukt i alle krigsaspekter,
på taktisk nivå,
på strategisk nivå,
virksomme i hastigheter som mennesker ikke kan forstå i dag.
Kommandørene er allerede overveldet av for mye informasjon.
Bilder fra satellitter, droner og sensorer.
Det KI kan gjøre,
er å hjelpe kommandører med å forstå hva som skjer raskere.
Og da: "Hvilke bestemmelser må jeg ta?"
KI vil ta hensyn til alle faktorene
som bestemmer hvordan krig utkjempes,
finne strategier…
…og gi råd om hvordan man vinner et slag.
LOCKHEED MARTIN INNOVASJONSSENTER
Vi i Lockheed Martin, i likhet med forsvarsdepartementet,
ser på KI som muliggjørende teknologi for kontrollsenteret.
Spredningsraten er gjennomsnittlig 0,6 meter per sekund.
Omkretsen er omtrent 3 hektar.
Krigståken er reell for oss i forsvaret,
men den skal også fungere i sine omgivelser
og kunne ta avgjørelser i store branner.
Washburn-brannen er like nord for byen Wawona.
Man må ta avgjørelser med ufullkomne data.
Så hvordan kan vi få KI til å hjelpe oss med krigståken?
Skogbranner er veldig kaotiske.
De er komplekse,
så vi jobber med å bruke KI for å hjelpe til med å ta avgjørelser.
Den kognitive misjonslederen er et program vi lager som tar infrarød video
og prosesserer gjennom våre KI-algoritmer
for å kunne forutse brannens fremtidige forløp.
Fremover vil Den kognitive misjonslederen bruke simulering
og kjøre scenarioer av tusenvis av sykluser,
for å anbefale den mest effektive ressursbruken
for å kontrollere høyprioritetsområder med brann.
Den vil si: "Dra og utfør brannslukking med en Firehawk her.
Ta bakkemannskap som rydder kratt
og brannmenn som spyler ned,
og trekk dem inn i høyprioritetsområder."
De avgjørelsene vil kunne genereres raskere
og mer effektivt.
Vi anser KI som noe som lar mennesker følge med på det stadig skiftende miljøet.
Og det er mange paralleller til
det vi er vant til på Lockheed Martin på forsvarssiden.
Militæret snakker ikke lenger om å kun bruke KI
og individuelle våpensystem for å ta mål- og drapsbeslutninger,
men om å integrere KI i hele militærets beslutningsarkitektur.
Hæren har et stort prosjekt kalt Prosjekt Konvergens.
Marinen har Overmatch.
Og luftforsvaret har Avansert kampstyringssystem.
Forsvarsdepartementet prøver å finne ut: "Hvordan setter vi alle bitene sammen
så vi kan reagere raskere enn motstanderen
og virkelig få en fordel?"
En KI-stridsleder ville vært en ganske høytstående general
som har ansvar for slaget.
Den vil kunne gi ordrer til mange styrker,
koordinere handlingene til alle våpnene der ute,
i en fart intet menneske kan følge.
Vi har brukt de siste 70 årene på å bygge opp planetens mest sofistikerte militære,
og nå står vi overfor avgjørelsen om vi vil overgi kontrollen
over den infrastrukturen til en algoritme, til en programvare.
Og konsekvensene av den avgjørelsen
kan utløse hele vekten av vårt militære arsenal.
Det er ikke ett Hiroshima. Det er hundrevis.
Dette er tiden for handling,
fordi vinduet for å begrense risikoen stenges hurtig.
FN 27. SEPTEMBER 2021
I ettermiddag starter vi med internasjonale sikkerhetsutfordringer
fra nye teknologier når det kommer til dødelige autonome våpensystem.
FORMANN
SEKRETARIATET
Det foregår samtaler i FN om trusselen fra dødelige autonome våpen
og vårt forbud mot systemer som bruker KI til å velge ut folk.
Enigheten blant teknologer er klar og rungende.
Vi er imot autonome våpen som er rettet mot mennesker.
I årevis hjalp land til ved å diskutere problemet
med dødelige autonome våpensystemer.
DRAPSROBOTER FINS. STADIG FLERE VIL FORBY DEM.
Dette handler om en felles følelse av trygghet.
FN-SJEFEN VIL HA TILTAK MOT "DRAPSROBOTER"
Men det er selvsagt ikke lett. Enkelte land, særlig militære stormakter,
vil være foran alle andre,
slik at de er foran sine motstandere.
Problemet er at alle må være enige for at det skal bli gjort noe.
Minst ett land vil protesterer,
og både USA og Russland har gjort det klart
at de er imot en traktat som vil forby autonome våpen.
Når vi tenker på hvor mange det er som jobber for å gjøre KI kraftigere,
myldrer det i rommet.
Når vi tenker på dem som sørger for at KI er trygt,
er det mange færre i rommet.
Men jeg er også optimistisk.
Jeg tenker på Den biologiske våpenkonvensjonen,
som skjedde midt i den kalde krigen,
til tross for spenninger mellom Sovjetunionen og De forente stater.
De var i stand til å innse at utviklingen av biologiske våpen
ikke var i deres beste interesse,
eller i verdens beste generelt.
Våpenkappløp-dynamikken favoriserer fart fremfor sikkerhet.
Men det som er viktig å tenke på,
er at kostnadene ved å bevege seg fort blir for høye på et tidspunkt.
Vi kan ikke bare utvikle ting isolert
og sende dem ut uten å tenke på hva som kan skje i fremtiden.
Vi må forhindre atombombe-øyeblikket.
Det står mye på spill i KI-løpet.
Jeg tror ikke mange verdsetter den globale stabiliteten
som har blitt til ved å ha en overlegen militærstyrke
de siste 75 årene.
Så USA og våre allierte styrker
må overgå fiendtlig KI.
Krig har ikke andreplasser.
Kina la frem en ambisiøs plan om å bli ledende innen KI før 2030.
Noen sier at USA taper kappløpet…
DET NESTE ROMLØPET ER KI
Det vil fremskynde KI…
OVERGIR USA KIS FREMTID TIL KINA?
…for å sikre vår militære fordel.
Vi haster frem med denne teknologien.
Jeg tror spørsmålet er hvor langt vi skal gå.
Styrer vi teknologien, eller styrer den oss?
Her får man ikke nye sjanser.
Når ånden er ute av flasken, er den ute.
Og det er veldig vanskelig å få den tilbake igjen.
Hvis vi ikke handler nå, er det for sent. Det kan være for sent allerede.
Tekst: Anniken Einan