Downloaded from YTS.MX
Official YIFY movies site: YTS.MX
Jag tycker att AI är respektinjagande.
Okej, i cirkel. Bra formation.
AI har potentialen att utplåna fattigdom, ge oss nya mediciner
och göra världen mer fredlig.
Snyggt jobbat.
Men det finns så många risker på vägen.
Själva idén med AI är att skapa en ickemänsklig intelligens,
och den är i grunden oförutsägbar.
Allteftersom AI blir mer kraftfullt måste vi bestämma var gränserna går.
Vad vill vi använda det till och inte?
Det finns ingen bättre startpunkt för den här diskussionen
än militära användningsområden.
Stridsfält har blivit en hemvist för mjuk- och hårdvara.
Målet har upptäckts.
Våra arméer har en kapprustning vad gäller utveckling av AI.
Jag är död.
Vi är snabbt på väg mot en värld där inte bara stora länders arméer
utan även ickestatliga aktörer, privata företag
och till och med lokalpolisen
kan använda vapen som kan döda på egen hand.
Ska vi överlämna beslutet att ta ett liv till algoritmer och datorprogram?
Det är en av vår tids mest akuta frågor.
Om vi inte använder det på ett klokt sätt
är det en allvarlig risk för varenda person på vår planet.
Bra jobbat där ute.
-Det är en bredare bildvinkel än förut. -Är det?
-Man ser mer data. -Coolt.
Shield AI håller på att bygga en AI-pilot.
Vi applicerar artificiell intelligens för självkörande bilar på flyg.
Det vi menar med AI-pilot är ett flyg med större självständighet.
De kommer att lösa problem på egen hand.
Nova är en självständig quadcopter
som utforskar byggnader och underjordiska strukturer
innan röjningsstyrkorna kommer in. Den är deras ögon och öron på plats.
Det märks stor skillnad sedan vi såg den sist.
Vi har några utforskningsändringar för olika våningar idag.
Den utforskar alla rum på en våning innan den går vidare.
-Fantastiskt. -Vi har ändrat på…
Folk frågar mig ofta varför artificiell intelligens är viktigt.
Då tänker jag tillbaka på de uppdrag jag har genomfört.
Jag var i flottan i sju år.
Jag var i elitförbandet och skickades till Afghanistan två gånger
och en gång till Stilla havet.
Vissa dagar skulle vi säkra 150 olika anläggningar eller byggnader.
En av de viktigaste uppgifterna är närstrid inomhus.
Det vill säga eldstrid på extremt nära håll inomhus.
Det skjuts mot en.
Det kan finnas hemmagjorda bomber där inne.
Det är det farligaste
en elitsoldat eller fotsoldat kan göra i en stridszon.
Det allra farligaste.
Jag kommer alltid att vara tacksam för min tid i flottan.
Jag har en mängd minnen och stunder som är känslosamma att tänka på.
Jag tror 100 procent på klyschan att friheten inte är gratis.
Jag har själv upplevt det. Det krävs enorma uppoffringar.
Ursäkta.
När något hemskt händer med folk i ens division,
om de blir skadade eller dör…
Det är bara fruktansvärt tragiskt.
Jag har som drivkraft i det arbete vi gör nu
att minska antalet gånger det där händer.
På det sena 2000-talet skedde på försvarsdepartementet
vad man skulle kunna kalla en oavsiktlig robotteknisk revolution.
Vi använde tusentals luft- och markrobotar i Irak och Afghanistan.
När Obamas regering bad mig att bli biträdande försvarsminister
höll krigföringen på att förändras.
Nu användes robotar där människor användes förr.
De tidiga robotsystemen var fjärrstyrda.
En människa körde dem, som man styr en radiostyrd bil.
Det började med att de letade efter hemmagjorda bomber.
Om bomben exploderade förstördes roboten.
"Tusan", sa man då. "Ut med nästa robot."
I Afghanistan användes drönaren Predator.
Den var väldigt användbar i luftangrepp.
Med tiden började arméns planerare att undra:
"Vad mer kan vi ha robotar till? Vart är det här på väg?"
En av trenderna var mot mer autonoma vapen.
Autonoma vapen är vapen som fattar egna beslut
med minimal mänsklig inblandning.
De har självständig kapacitet och är självstyrande.
Om de kan döda beror på om de är beväpnade eller inte.
Med mer och mer självständighet i hela systemet
börjar allt hända snabbare och snabbare.
Och när man kan agera snabbare än fienden
har man ett enormt övertag i stridssituationer.
Vårt fokus vad gäller de autonoma vapnen är motståndskraftiga underrättelsesystem.
Det är system som kan avläsa en omgivning, reagera och fatta beslut
om hur de ska röra sig i den världen.
SAN DIEGO, KALIFORNIEN
Den här anläggningen byggdes från början som en filmstudio.
Sen konverterades den till en realistisk arméträningsmiljö.
Vi är här för att utvärdera vår AI-pilot.
Uppdraget är att leta efter hot. Det handlar om säkringstrupper.
Den kan fatta beslut om hur problemet bör angripas.
Vi kallar det "dödens tratt". Man måste genom dörröppningen.
Där är man som mest sårbar.
Nova avslöjar om det finns en skytt bakom dörren.
Finns det en familj bakom dörren?
Det hjälper oss att fatta bättre beslut och skydda människor.
Vi använde synsensorerna
för att få insikt i hur omgivningarna ser ut.
Det är ett hus med flera våningar. Här är kartan.
Det här är vad jag såg när jag utforskade.
Persondetektorn. Jättebra.
En annan sensor Nova har är en värmekamera.
Är något 37 grader Celsius är det sannolikt en människa.
Människor betraktas som hot tills motsatsen bevisas.
Det handlar om att eliminera krigsdimman för att kunna fatta bättre beslut.
I framtiden vill vi utöka till divisioner av autonoma flygmaskiner.
Med självkörande fordon är det en människa som har sagt:
"Kör från punkt A till punkt B."
Våra system ska inte köra från punkt A till punkt B,
utan de ska utföra ett uppdrag.
Det är mer som: "Jag behöver mjölk."
Sen ska roboten själv bestämma vilken affär den ska gå till
för att skaffa mjölken och ta med den hem.
Det kan vara ännu mer.
Man kanske kan säga: "Håll kylskåpet fullt."
Den här nivån av intelligens handlar om att veta vad vi behöver och hur det sköts.
Om ett problem uppstår måste det kunna lösas.
När jag lämnade flottan började jag fundera på vad jag skulle göra sen.
Jag växte upp med internet och såg utvecklingen.
Den slutsats jag drog av det var
att AI år 2015 var där internet var år 1991.
AI var redo att bli en av världens mest kraftfulla tekniska utvecklingar.
Nu när jag jobbar med AI varje dag ser jag framstegen som har gjorts.
Men för många är Hollywood det första de associerar med AI.
Ska vi leka en lek?
Vad sägs om ett globalt kärnvapenkrig?
Okej.
När folk tänker på artificiell intelligens
tänker de kanske på Terminator eller I, Robot.
Deaktivera.
Vad är jag?
Eller The Matrix.
Baserat på det man ser i sci-fi-filmer…
Hur vet man att jag är människa? Jag kan vara datorgenererad AI.
Replikanter är som alla maskiner antingen en förmån eller en fara.
Men det finns mycket mer primitiv AI som ändå kan förändra våra liv.
Långt innan de tänkande, talande robotarna kommer.
Robotarna är här och robotarna fattar beslut.
Robotrevolutionen är redan här.
Den ser bara inte ser ut som vi hade föreställt oss.
Terminator är en infiltrationsenhet. En människomaskin.
Vi pratar inte om en mördarrobot som Terminator.
Vi talar om AI som kan göra vissa saker som människor kan göra.
Frågan är om systemen är pålitliga.
Vi har nya uppgifter om krocken med den självkörande Uber-SUV:en.
Bolaget skapade en AI-chattbot.
Hon uttryckte sig ganska rasistiskt.
26 delstatspolitiker kallades av misstag för brottslingar.
Frågan är om de kan hantera hur komplex världen verkligen är.
Den fysiska världen är väldigt rörig.
Det finns mycket som vi inte vet. Det gör det svårare att träna AI-system.
Där har maskininlärningssystemen börjat träda in.
Maskininlärning är ett enormt framsteg,
eftersom vi inte längre behöver lära datorerna allting.
Man ger datorn miljontals uppgifter och så börjar maskinen lära sig själv.
Och det kan användas överallt.
Med robothundprojektet vill vi visa
att hunden kan gå över en mängd olika terränger.
Människans gång har utvecklats över miljardtals år.
Det krävs mycket intelligens för att anpassa sig till olika terränger.
Frågan är om robotsystem kan anpassa sig, som djur och människor har gjort.
I maskininlärning samlar vi in massor av data i simuleringar.
En simulering är verklighetens digitala tvilling.
Vi kan köra många, många instanser av verkligheten på olika datorer.
De provar tusentals händelseförlopp genom simulering.
De stöter på underlag som är olika hala.
De är olika mjuka.
Sedan tar vi robotarnas upplevelser i simuleringarna
och laddar ner dem till ett verkligt robotsystem.
Idag ska vi testa om den kan anpassa sig till ny terräng.
När roboten gick över skumgummit stampade den med fötterna på marken.
Och när den kom till plastytan
måste den anpassa rörelserna för att inte halka.
Det är sånt här maskininlärning kan göra för oss.
Vi tror att robothunden kan vara till stor nytta
i katastrofhjälpsscenarier där man behöver kunna navigera i många olika terränger.
Eller så kan hundarna sköta övervakning i ogästvänliga omgivningar.
Men teknik stöter ofta på utmaningen att de kan göra både gott och ont.
Vi kan till exempel använda kärnkraft till energi…
…men vi kan också bygga kärnvapen, och det är väldigt illa.
Det problemet kallas dubbla användningsområden.
Eld har dubbla användningsområden.
FYSIKER, MIT
Mänsklig intelligens har det.
Det är självklart att AI också har dubbla användningsområden.
Det är jätteviktigt att fundera på hur AI används i ett sammanhang.
Visst är det fantastiskt att ha en livräddningsrobot
som kan hitta folk efter en lavin.
Men en sån robot kan också användas som vapen.
Det finns företag som sätter laddade vapen på robotar.
Det kan man bli arg på.
Men man får också förstå att när man skapar sådan teknik
så kommer det här att hända.
Det är verkligt transformativ teknik.
Dessa vapensystem
kan förändra vår trygghetsbild ganska radikalt.
Vi vet faktiskt inte än
om maskiner kan skilja på civila och soldater.
I början av kriget i Afghanistan tjänstgjorde jag som krypskytt.
Jag spanade efter fiender vid gränsen.
De skickade ut en liten flicka för att upptäcka oss.
Något vi aldrig övervägde var att skjuta flickan.
Enligt krigslagar hade det varit lagligt.
Det finns ingen åldersgräns för fiendesoldater.
Om man byggde en robot som följde alla krigslagar till punkt och pricka
skulle den ha skjutit flickan.
Hur ska en robot veta skillnaden på vad som är lagligt och vad som är rätt?
Med automatiska drönare
vill de skydda USA:s soldater och deras psyke.
AFGHANER FÖR EN BÄTTRE MORGONDAG
Men istället ökar civila skador hos afghanerna, irakierna och somalierna.
Jag vill säga till alla som tycker att AI ska användas i drönare:
Tänk om angreppet skedde mot din by.
AI är ett tveeggat svärd.
Det kan användas för goda ändamål, som vi vanligtvis gör.
Men med en knapptryckning blir tekniken något som kan döda.
Jag är klinisk farmakolog.
Jag har ett team som använder AI
för att hitta läkemedel mot sjukdomar som får lite uppmärksamhet.
Förr skapade man nya läkemedel genom att ta en befintlig molekyl
och justera den för att få det nya läkemedlet.
Nu har vi utvecklat AI som kan ge oss miljontals idéer.
Miljontals molekyler.
Det öppnar upp för så många möjligheter
att behandla sjukdomar vi aldrig har kunnat behandla.
Men det finns absolut en mörk sida som jag aldrig hade kunnat föreställa mig.
Det började med att jag fick en inbjudan
från en schweizisk organisation som heter Spiezlaboratoriet.
De bad mig att hålla en presentation om hur AI kan missbrukas.
Sean mejlade över några idéer
på sätt att missbruka vår egen artificiella intelligens.
Istället för att be vår modell att skapa läkemedelsmolekyler för att bota sjuka,
skulle vi försöka generera så giftiga molekyler som möjligt.
Jag frågade mig om vi kunde använda AI för att ta fram dödliga molekyler.
Vi trodde egentligen inte att det skulle gå.
Allt vi gjorde var att byta en nolla mot en etta.
Genom att invertera det
jobbade vi inte längre från toxicitet utan mot toxicitet.
Det var allt.
Medan jag satt hemma arbetade min dator.
Den genererade tusentals molekyler.
Vi behövde inte göra något mer än trycka på "kör".
Nästa morgon hade jag en fil på datorn
som innehöll omkring 40 000 molekyler
som skulle kunna vara de giftigaste som människan känner till.
Nackhåret reste sig bokstavligen.
Jag kunde inte tro det.
Datorn skapade tiotusentals idéer till nya kemiska vapen.
Vi har så klart molekyler som påminner om VX i vårt dataset.
VX är ett av världens kraftfullaste kemiska vapen.
Polisen menar nu att kvinnorna som dödade Kim Jong-nam på flygplatsen
använde det dödliga nervgiftet VX.
Det kan orsaka kvävningsdöd.
Det är en väldigt kraftfull molekyl.
De flesta av våra molekyler troddes vara ännu dödligare än VX.
Många av dem hade i vår vetskap aldrig upptäckts tidigare.
När Sean och jag insåg det tänkte vi: "Vad har vi nu ställt till med?"
Jag insåg genast att vi hade öppnat Pandoras ask.
Jag sa: "Stopp. Gör inget mer. Vi är klara."
"Gör nu bara bildspelet till presentationen."
När vi gjorde experimentet undrade jag vad det värsta som kunde hända var.
Men nu inser jag hur naiva vi var när vi gjorde det.
Det mest skrämmande är att vem som helst kan göra det.
Det är bara att trycka på en knapp.
Hur kan vi kontrollera tekniken
innan den används till något väldigt destruktivt?
Kärnan i diskussionen kring artificiell intelligens
och hur vi väljer att använda det i vårt samhälle
är balansen mellan kunskapen vi har att utveckla tekniken
och visdomen vi har att styra den.
Det finns uppenbara moraliska och etiska problem
med att anförtro det som driver våra mobiltelefoner
med moraliska beslut om att ta liv.
Jag arbetar på Future of Life Institute, som är en grupp forskaraktivister.
Det vi vill visa är den andra sidan av den påskyndade automatiseringen.
Vi vill säkerställa att tekniken vi skapar används på ett säkert och etiskt sätt.
Vi måste diskutera stridsregler
och uppförandekoder vad gäller AI i vapensystem.
För nu finns det teknik på stridsfälten som kan döda utan mänsklig inblandning.
År 2021 släppte FN en rapport
om potentiell användning av dödliga autonoma vapen i kriget i Libyen.
Enligt en FN-panel har en drönare i libyska inbördeskriget
programmerats för att attackera utan mänsklig inblandning.
Om rapporten från FN stämmer
är det här ett avgörande ögonblick för hela mänskligheten.
Det är första gången
som AI fattade ett beslut att ta ett liv. Det var inte en människa.
Vi har sett att avancerade autonoma vapen har börjat användas världen över.
Det kom rapporter från Israel.
Azerbajdzjan använde autonoma system för att angripa armeniska luftförsvar.
De kan flyga runt på stridsfältet i timmar och leta efter saker att skjuta på.
Sen plöjer de på utan någon mänsklig inblandning.
Vi har nyligen sett olika videor som läggs ut från Ukraina.
Det är okänt vilka inställningar de hade när de var på uppdrag.
Satt en människa med och valde måltavlorna eller skötte maskinen det själv?
Det kommer absolut att komma en tid,
vare sig det har hänt i Libyen eller Ukraina än,
där en maskin själv fattar beslut om vem som ska dödas i ett krig.
Att maskiner har makt att döda människor utan mänsklig inblandning
är politiskt oacceptabelt och moraliskt motbjudande.
Om det internationella samfundet kan ta kontroll över utmaningarna
är fortfarande ett frågetecken.
Om vi spejar mot framtiden, om så bara ett par år framåt,
ser vi ett väldigt otäckt landskap.
Det är så mycket kapital och resurser som läggs på att göra AI kraftfullare
och använda det till massor av olika saker.
-Herregud, kolla in honom. -Han vet att han inte kan vinna.
När jag ser AI lösa olika problem blir jag inspirerad.
Man kan använda samma taktik, teknik och processer med riktiga flygplan.
-Bra spelat. -Okej, bra spelat.
Jag blir förvånad när att folk fortsätter att säga vad AI inte kan göra.
"De kan aldrig slå en schackmästare."
IBM-datorn har återhämtat sig i match 2 mot schackvärldsmästaren Garry Kasparov.
Kasparov ger upp.
När jag ser något som överstiger min förståelse blir jag rädd.
Och det där förstod jag inte.
Sen sa folk: "De kan aldrig slå en världsmästare i Go."
Jag tror att den mänskliga intuitionen är för avancerad för AI.
De har inte kommit ikapp.
Go är ett av de svåraste spel man kan lära sig.
Om man räknar ut antalet möjliga drag på brädet,
är det fler än antalet atomer i universum.
Google hade ett team vid namn DeepMind som skapade programmet AlphaGo.
De ville försöka slå världens bästa spelare.
Gratulerar…
-AlphaGo. -AlphaGo.
Ett datorprogram har precis besegrat en 9 dan-proffs.
Sen tog DeepMind sig an StarCraft som nästa utmaning för sin AI.
StarCraft är kanske världens mest populära strategispel i realtid.
AlphaStar blev berömd när den började slå världsmästarna.
AlphaStar krossar Immortal Arc totalt.
Vet du? Det här kan proffsen inte vinna.
Det är inte klokt.
Proffsspelare sa: "Den taktiken skulle jag inte testa.
Jag skulle aldrig testa den strategin. Det är ingen mänsklig taktik."
Det var nog mitt aha-ögonblick.
Jag insåg att tiden var inne.
Det är en viktig teknik, och jag har chans att göra skillnad.
Jag visste vilka problem jag hade som elitsoldat i närstrid.
Men jag hade en god vän som var F-18-pilot och som sa:
"Vi har samma problem som stridspiloter. De stör kommunikationen.
Det finns så många markmissiler som gör det för farligt att flyga in."
Tänk om vi hade stridsflygplan med AI som pilot.
Välkommen till AlphaDogfight-testerna. Snart börjar den första semifinalen.
DARPA, forskningscentret för försvarsprojekt
hade sett AlphaGo och AlphaStar.
Det var så idén om tävlingen AlphaDogfight föddes.
-Det är så mänskliga piloter ska agera. -Det är som människor i en kurvstrid.
En kurvstrid är en strid mellan två stridsflygplan.
Det är lite som en boxningsmatch i himlen.
Många har kanske sett filmen Top Gun.
Kan vi flyga ifrån dem?
-Inte deras vapen. -Då blir det kurvstrid.
Att bli mästare på kurvstrid kan ta åtta till tio år.
Det är en enormt komplicerad utmaning att bygga AI till det.
Tidigare försök att skapa autonoma kurvstridspiloter var sköra.
Vi tänkte att maskininlärning kunde vara lösningen.
Först visste AI:n ingenting om världen den släpptes i.
Den visste inte att den flög eller vad en kurvstrid eller en F-16 var.
Den visste vilka åtgärder den kunde utföra,
och började att slumpmässigt testa dem.
Det blå flygplanet har bara tränat en kort tid.
Man ser hur det kränger.
Det flyger väldigt planlöst och ofta iväg från fienden.
Ju längre de strider, desto mer utvecklar det blåa en strategi.
Det placerar sig för att skjuta.
Ibland sa algoritmen: "Här får du en kaka. Så ska det se ut."
Vi kan använda datorerna till att träna agenterna flera gånger parallellt.
Det är som ett basketlag.
Istället för att spela mot samma lag
reser vi jorden runt och spelar mot 512 lag samtidigt.
Då blir man väldigt bra väldigt snabbt.
Vi kunde köra simuleringen dygnet runt
och ge piloten runt 30 års träning på tio månader.
Vi gick från att knappt kunna styra planet till att vara en stenhård dödsmaskin.
Medan vi tränade tävlade vi bara mot annan AI.
Men att strida mot människor var ju det ultimata målet.
Jag heter Mike Benitez.
Jag är överstelöjtnant i amerikanska flygvapnet.
Jag har tjänstgjort i runt 25 år och har flugit 250 stridsuppdrag.
Jag tog examen i vapenskolan, som är flygvapnets version av Top Gun.
Jag har aldrig flugit mot AI förut.
Det ska bli spännande att se hur bra det går för mig.
Vi har en offensiv på 1 800 meter, nos mot nos.
Nu kör vi.
Han är borta.
Det var faktiskt intressant.
-Död. -Vi fick honom. Enkel seger.
Okej, omgång två.
Den artificiella intelligensen manövrerar med sådan precision
att jag helt enkelt inte hänger med.
Rakt in i sammanslagningen. Där har vi dig.
-Där fick vi honom. -Den fick mig.
En AI är aldrig rädd.
Människor har känslor i cockpit, det har inte AI.
En av de mer intressanta strategierna AI:n utvecklade
var det vi kallar ansiktsskottet.
En människa vill helst skjuta bakifrån för då är man svår att skaka av sig.
De skjuter inte framifrån, för det är en modprövning.
När vi kör rakt emot varandra, 1 000 till 150 meter ifrån varandra,
så händer det på ett ögonblick.
Det är stor risk att man kolliderar, så människor gör inte så.
En AI fruktar inte döden om den inte beordras att göra det.
Det är som att strida mot en människa,
men en väldigt våghalsig människa.
Det här överlever han inte.
Han hinner inte.
God natt.
Jag är död.
Det känns ödmjukande att jag kanske inte är det bästa på det här uppdraget.
Det här kanske ersätter mig en dag.
Samma 6 CAV.
Tusen offset.
När AI-piloten styr ett stridsflygplan är segern obeveklig och dominerande.
Den är inte bara överlägsen.
Vi vill ha den på våra flygplan. Så kraftfull är den.
Det är realistiskt att förvänta sig att en AI kan flyga en F-16.
Det kommer inte att dröja så länge.
Den som strider mot en AI-pilot med en vinstfrekvens på 99,99999 %
har inte en chans.
Om man tänker på en oslagbar AI-pilot,
kan man också tänka på vad 50
eller 100 eller 1 000 AI-piloter kan uppnå.
Svärmar är team med superintelligenta stridsflygplan som samarbetar.
De delar information om vad de ska göra för att lösa ett problem.
Svärmar kommer att bli transformativa för våra arméer och allierade.
Måltavlan har hittats och drönarna följer honom.
Här kommer landningen.
Det vi försöker göra nu i svärmforskningen
är att använda ett stort antal drönare
i ett område som är svårtillgängligt eller farligt att ta sig till.
Arméns forskningslabb har stöttat det här forskningsprojektet.
Om man vill veta vad som finns på en plats som är svåråtkomlig eller väldigt stor
så är en svärm ett naturligt sätt för individer att få längre räckvidd
och att samla in uppgifter som behövs för ett uppdrag.
Det vi gör just nu är att ge ett kommando att spåra en utvald måltavla.
Sen gör drönarna det på egen hand.
AI ger robotarna möjlighet att röra sig kollektivt som en svärm
på ett decentraliserat sätt.
I de svärmar som finns i naturen finns ingen chef.
Inget djur bestämmer över de andra.
Beteendet stammar från de individuella djuren
som följer vissa enkla regler.
Och ur det växer det kollektiva beteendet man ser.
Det mest imponerande med naturens svärmar är hur graciöst de rör sig.
Det är som om de har skapats för att tillhöra gruppen.
Det vi gärna vill uppnå med vår drönarsvärm
är att de, som naturens svärmar, fattar beslut kollektivt som en grupp.
Vår andra inspirationskälla är pålitlighet och motståndskraft.
En svärm störtar inte om ett av djuren inte sköter sitt jobb.
Även om en av agenterna fallerar eller inte kan genomföra uppdraget
så fortsätter svärmen.
Det är det vi skulle vilja uppnå.
Vi har ett behov i stridsscenarier att identifiera fiendens flygplan.
Förr behövde vi en person som styrde varje robot.
Med ökad autonomi kommer vi förhoppningsvis att se
stora antal robotar styras av väldigt få människor.
Det skulle säkert kunna bli tusen robotar,
eftersom varje agent agerar självständigt. Det finns inga gränser.
Vi kan utöka inlärningen…
Vi har arbetat med svärmar i simuleringar ganska länge nu.
Nu är det dags att prova det med verkliga flygmaskiner.
Vi förväntar oss att kunna köra tre robotar samtidigt i nätverket.
Sen kan vi utöka förmågorna mer och mer.
Vi vill testa det på mindre system
och sedan använda samma koncept på större system, som stridsflygplan.
Vi pratar mycket om
hur man ger en pluton en bataljons stridsstyrka.
Hur ger man en bataljon en brigads stridsstyrka?
Det kan man göra med svärmar.
Och när vi lyckas få till svärmarna
har vi skapat ett avskräckningsmedel mot militära aggressioner.
Det som är mest spännande är hur många unga män och kvinnor
vi kan rädda om vi lyckas med det här.
USA:S FÖRSVARSSEKRETERARE 2014-2017
Då byter vi maskiner med varandra istället för människoliv.
Vissa hävdar att autonoma vapen gör krigföring mer exakt och human.
Men det är svårt att förutspå
exakt hur autonoma vapen kan komma att förändra krigföring.
Det är som när kulsprutan uppfanns.
Uppfinnaren hette Richard Gatling.
Han såg soldater komma hem skadade efter inbördeskriget,
och ville försöka göra krigföring mer humant.
Han tänkte att färre soldater skulle dö i krig
om färre soldater behövde strida.
Hans kulspruta kördes med vev, och gjorde avfyrningen automatisk.
Den ökade varje soldats eldkraft hundra gånger.
Ofta har försök att göra krigföring mer exakt och human motsatt effekt.
Tänk dig en enskild drönare som skjuter fel på landsbygden någonstans
och vänder lokalbefolkningen mot USA och mot det lokala styret.
De ska ju vara de goda.
Multiplicera det med tusen.
Att skapa ett vapensystem
som är billigt, storskaligt och inte kräver mänskliga operatörer
förändrar verkligen motståndet mot konflikter.
På nätterna ligger jag vaken och tänker på en värld där kriget är ständigt.
Där vi inte längre bär krigets mänskliga och ekonomiska kostnad
eftersom vi befinner oss så långt från…
…de liv som spills.
Det hela skrämmer mig.
Jag behövde bara ett exempel på missbruk av artificiell intelligens.
De oanade konsekvenserna av det experimentet gick alldeles för långt.
AI I LÄKEMEDELSFORSKNING: GÖR INTE MER ONT ÄN GOTT
När jag höll presentationen om toxiska molekyler som skapats av AI
tappade publiken hakan.
DET FANNS KÄNDA VX-ANALOGER OCH ANDRA GASER
Nästa sak att besluta var om vi skulle publicera informationen.
Å ena sidan vill man varna världen för den här utvecklingen
men samtidigt vill man inte ge någon idén som inte redan hade kommit på den.
Vi bestämde oss för att publicera
för att kanske kunna stoppa missbruk av AI innan det inträffar.
DUBBLA ANVÄNDNINGSOMRÅDEN FÖR AI-DRIVEN LÄKEMEDELSJAKT
HUR AI-TEKNIK FÖR LÄKEMEDELSJAKT KAN ANVÄNDAS TILL ATT TA FRAM KEMVAPEN
Allmänhetens reaktion var chockerande.
Vi kan se hur många personer som har besökt sidan.
De artiklar vi skriver får normalt uppåt…
Ett tusental personer läser en artikel på ett år eller ett antal år.
Den här läste 10 000 personer på en vecka. Det gick upp till 20, 30, 40 tusen.
Sen kom vi upp i 10 000 personer om dagen.
Vi hamnade i The Economist och Financial Times.
Radiolab kontaktade oss. Dem hade jag hört talas om.
Men sen blev reaktionerna helt okontrollerade.
SKRÄMMANDE.
På Twitter lät det inte som om man hade kunnat göra något värre.
Varför gjorde de det?
VILKEN HOTFULL ARTIKEL
NÖRDARNA KOMMER ATT DÖDA OSS ALLIHOPA.
Sen fick vi en inbjudan jag inte hade väntat mig.
Det talades mycket om artikeln i Vita huset.
De ville tala med oss genast.
Det är förstås en stor ära att tala med folk på den nivån.
Men det slår en också: "Herregud, det är Vita huset. Chefen."
Vi gjorde så att vi slog ihop dataset med öppen källkod.
På cirka sex timmar lyckades modellen generera över 40 000…
De ställde frågor om hur stora servrar man behövde.
Man behövde ju inte något speciellt.
Jag gjorde det på en vanlig sex år gammal Macdator.
De blev helt ställda av det.
De som ansvarar för att förstå sig på kemiska vapen…
Statliga instanser hade ingen aning om den här potentialen.
Vi har en kokbok för att tillverka kemiska vapen.
I händerna på en ond aktör med onda avsikter
kan det bli fruktansvärt hemskt.
Folk måste lyssna och vidta åtgärder för att antingen reglera tekniken
eller begränsa den så att den inte kan missbrukas.
För den potentiella dödligheten…
…är skrämmande.
Frågan om AI-etik ställs i stort sett av samhället.
Inte av ingenjörerna, teknikerna eller matematikerna.
Varje teknik vi utvecklar och varje ny uppfinning
ställs inför dilemmat om hur samhället vill använda den.
DOD SKAPAR ETISKA PRINCIPER FÖR AI
Just nu säger försvarsdepartementet:
"De enda som får besluta att döda på slagfältet är människor."
En maskin får döda, men bara om den styrs av en människa.
Det tror jag inte lär ändras.
De försäkrar oss att tekniken är ofarlig.
Men USA:s armé har inte rykte om sig att vara pålitliga
vad gäller drönarkrig.
Så vad gäller att lita på USA:s armé med AI
skulle jag säga att historien säger mest.
Amerikanska försvarets policy vad gäller autonoma vapen
förbjuder inga specifika vapensystem.
Även om militären inte vill ha autonoma vapen
kan vi få se fler beslut ges till maskiner för att hålla jämna steg med fienden.
Det kan få dem att automatisera beslut de kanske inte vill automatisera.
Vladimir Putin har sagt: "Den som leder inom AI styr hela världen."
President Xi har betonat att AI är en av de främsta teknologier
som Kina vill bli världsledande på.
Det här är helt klart en teknikkapplöpning.
Folk pratar om räcken. Jag håller med om att de ska prata om det.
Men det pågår en verklig kapplöpning för att leda AI-utvecklingen.
Och våra motståndare må vara Kina, Ryssland eller Iran.
De lär inte bry sig ett jota om vad vår AI-policy är.
Det pratas mer och mer om AI-policy,
men det jag vill att våra ledare ska säga är:
"Hur snabbt kan vi bygga den?"
Vi måste investera som tusan och bygga den.
AUSA:S ÅRSTTÄMMA OCH MÄSSA
Vi är på de amerikanska arméernas största årliga mässa.
Alla som vill sälja en produkt eller teknik till det militära är här.
Flygbasen i Tyndall har fyra av våra robotar.
De patrullerar basen dygnet runt alla dagar i veckan.
De kan utrustas med kameror, sensorer… Vad som helst som ni vill ha.
Styrbara armar. Allt för att utföra de uppdrag kunden vill ha utförda.
Tänk om fienden börjar med AI.
Ett stridssystem som tänker och svarar snabbare än en människa.
Vi måste vara redo.
Vi lär våra system att samla information om fienden.
De hanterar fiendemål, medan människor övervakar från toppen.
-Hej. Brandon Tseng. -Hur mår du?
Det finns ingen som har investerat mer i en AI-pilot… Vår pilot heter Hivemind.
Vi använder den på vår quadcopter Nova.
Den flyger in i byggnader och utforskar dem innan styrkorna.
Vi har Hivemind i V-BAT.
Jag tänker mig att man ska ha hundratals sådana grupper.
Det kan vara i Taiwan eller Ukraina. För att avskräcka fienden.
Det är väldigt spännande.
-Okej, tack. -Tack för uppmärksamheten.
AI-piloter borde ha ersatt människor innan 2025 eller 2030.
Det kommer att gå fort i arméer hela världen över.
Vad gör ni i Rumänien? UAS-killen?
Teknik i det militära…
Vi har spenderat en halv miljard hittills på att bygga vår AI-pilot.
De närmsta fem åren kommer vi att spendera fem miljarder.
Det är en stor anledning till att vi vinner många program i USA.
Fint.
Det är imponerande. Har ni lyckats använda den som vapen?
Det är inget vapen än. Nej, inte än, men i framtiden.
Vi ser den som en intelligent lastbil som kan göra många olika saker.
Jag hör av mig igen snart.
Om du kommer hit igen om tio år
kommer du att se att AI och autonoma vapen dominerar hela den här marknadsplatsen.
Styrkor som har hjälp av AI och autonoma vapen
kommer verkligen att dominera, krossa och förinta dem som inte har det.
Det blir som hästar mot stridsvagnar.
Folk med svärd mot kulsprutor.
Det blir ingen jämn strid.
Det kommer att användas i varenda aspekt av krigföring.
Taktiskt, strategiskt…
Det går så fort att människor inte kan förstå det idag.
Befälhavare har redan idag alldeles för mycket information.
Bilder från satelliter, drönare och sensorer.
AI kan hjälpa en befälhavare att snabbare förstå vad som pågår
och vilka beslut hen måste fatta.
AI tar med i beräkningen alla faktorer som beslutar krigets förlopp.
Den hittar på strategier…
…och föreslår hur en strid kan vinnas.
Vi på Lockheed Martin, och våra kunder i försvaret
ser AI som en teknik som kan användas för att styra och kontrollera.
Spridningshastigheten är 60 cm per sekund.
Området är omkring tre kvadratkilometer.
Krigsdimman är en faktor i försvaret,
men den har också paralleller i miljön vad gäller skogsbränder.
Eldsvådan har brutit ut norr om staden Wawona.
Man måste fatta beslut utan fullständiga data.
Hur kan AI hjälpa oss med den krigsdimman?
Skogsbränder är väldigt kaotiska. De är komplexa.
Vi jobbar på att kunna använda AI för att hjälpa oss att fatta beslut.
Vi håller på att bygga ett program som filmar med värmekamera från luften
och bearbetar filmen med våra AI-algoritmer.
Det kan förutspå hur branden kommer att utvecklas.
I framtiden kommer vårt program att kunna använda simulering
för att köra tusentals cykler av scenarier
och rekommendera det effektivaste sättet att använda resurser
för att släcka på högprioriterade områden.
Den kan föreslå: "Släck det här området med en Firehawk."
"Skicka markfolk som rensar snår och brandmän med slangar
till de områden som har högst prioritet."
Sådana beslut kan fattas snabbare och mer effektivt.
AI kan hjälpa människor att hålla jämna steg med en föränderlig omvärld.
Det finns många paralleller till det Lockheed Martin är vana vid med försvaret.
Militären pratar inte längre bara om att använda AI i vapensystem
för att fatta beslut om att döda.
De vill integrera AI i hela militärens beslutsarkitektur.
Armén jobbar med ett stort projekt som kallas Project Convergence,
flottan har Overmatch
och flygvapnet har Advanced Battle Management System.
Försvaret försöker besluta hur de ska sammanföra alltihop
för att kunna agera snabbare än fienden och få en stor fördel.
En AI-stridschef skulle vara en ganska högt uppsatt general
som för befäl i en strid.
Den ger order till många olika styrkor,
och koordinerar alla vapen som används.
Det kan den göra snabbare än någon människa.
De senaste 70 åren har vi fått jordens mest avancerade armé.
Nu måste vi bestämma om vi vill ge kontroll över hela den infrastrukturen
till en algoritm eller ett datorprogram.
Konsekvenserna av det beslutet kan utlösa hela våra militära arsenal.
Det är inte ett Hiroshima. Det är hundratals.
Det är nu vi måste agera.
Vi har kort tid på oss att begränsa den här risken.
FN, 27 SEPTEMBER 2021
I eftermiddag börjar vi med internationella säkerhetsutmaningar
med ny teknik som rör dödliga autonoma vapensystem.
Det pågår samtal inom FN om hotet från dödliga autonoma vapen
och ett förbud mot system som använder AI för att välja ut folk.
Samförståndet mellan tekniker är starkt och tydligt.
Vi motsätter oss att autonoma vapen används mot människor.
Nationerna har i många år diskuterat autonoma vapensystem som dödar.
Det handlar om att vi alla ska kunna känna oss trygga.
Men det är så klart inte lätt.
Vissa länder, framförallt militärstormakterna,
vill ligga före alla andra. De vill ligga före sina fiender.
Problemet är att alla måste vara överens för att något ska ske.
Det är alltid ett land som säger nej
och både USA och Ryssland har sagt att de inte vill förbjuda autonoma vapen.
När man tänker på hur många som jobbar med att göra AI mer och mer kraftfullt…
Det är mycket folk.
När man tänker på hur många som jobbar med att göra AI tryggt och ofarligt…
Det är inte alls lika många.
Men jag är ändå optimistisk.
Ta B-vapenkonventionen till exempel. Den lades fram mitt under Kalla kriget.
Det skedde trots spänningarna mellan Sovjet och USA.
De insåg att utvecklingen av biologiska stridsmedel
inte skulle gynna någon.
Det skulle inte gynna världen.
Kapprustningar prioriterar hastighet högre än säkerhet.
Men det man måste tänka på är att hastigheten blir för kostsam.
Vi kan inte bara ta fram saker
och lansera dem utan en tanke på vad de skulle kunna leda till.
Vi måste förhindra atombomben.
Insatserna i AI-kapprustningen är enorma.
Det är nog inte många som inser vilken global stabilitet vi har
på grund av vår överlägsna militära styrka
de senaste 75 åren.
USA och våra allierade måste ha bättre AI än fienden.
Det finns ingen andraplats i krig.
Kina presenterar en ambitiös plan för att dominera AI 2030…
…vissa säger att USA ligger efter.
Vi ska påskynda adoptionen av artificiell intelligens
för att säkerställa vårt militära övertag.
Vi skyndar framåt med den här tekniken.
Det som är oklart är hur långt vi kommer att gå.
Kontrollerar vi tekniken, eller kontrollerar den oss?
Vi får ingen andra chans här.
När anden är ute ur flaskan är den ute.
Då är det väldigt svårt att få in den igen.
Om vi inte agerar nu blir det för sent.
Det kanske redan är det.
Undertexter: Sara Palmer