Downloaded from YTS.MX
Official YIFY movies site: YTS.MX
Ik vind AI ontzagwekkend.
Oké, cirkelen. Goede formatie.
AI heeft de potentie om armoede uit te roeien…
…ons nieuwe medicijnen te geven…
…en onze wereld nog vrediger te maken.
Goed werk.
Maar er komen zoveel risico's bij kijken.
Met AI creëren we in feite niet-menselijke intelligentie…
…die erg onvoorspelbaar is.
Naarmate het krachtiger wordt…
…waar trekken we dan de grenzen met AI…
…met betrekking op hoe we het willen gebruiken?
Er is geen betere plek om dit gesprek te beginnen…
…dan militaire toepassingen.
Het slagveld is nu een gebied van software en hardware.
Doelwit is vastgesteld.
En strijdkrachten willen AI sneller ontwikkelen dan hun tegenstanders.
Ik ben dood.
We gaan in snel tempo richting een wereld waarin niet alleen grote legers…
…maar ook niet-overheidsactoren, particuliere sectoren…
…of zelfs het lokale politiebureau…
…wapens kunnen gebruiken die zelfstandig kunnen doden.
Geven we de keus om 'n leven te nemen over aan algoritmes, aan computersoftware?
Het is een van de meest urgente problemen van onze tijd.
En als het niet verstandig wordt gebruikt…
…vormt het een groot risico voor iedereen op aarde.
Goed werk, jongens.
Dat is een veel grotere lens dan eerst. -Echt waar?
Je ziet veel meer data.
Heel cool.
Bij Shield AI bouwen we een AI-piloot…
…waarbij we zelfrijdende AI-technologie…
…in vliegtuigen zetten.
Als we het hebben over een AI-piloot…
…denken we aan meer zelfstandigheid voor een vliegtuig.
Dan kunnen ze zelf problemen oplossen.
Nova is een autonome quadcopter…
…die gebouwen en ondergrondse bouwwerken verkent…
…voor de opruimingstroepen om ogen en oren te bieden in die ruimtes.
Je ziet duidelijk veel verbeteringen sinds de vorige keer.
We werken vandaag aan nieuwe verkenning, verkenning per verdieping.
Hij maakt de ene etage af voor hij naar de tweede gaat.
Geweldig. -We hebben onlangs wijzigingen…
Mensen vragen me vaak…
…waarom kunstmatige intelligentie zo belangrijk is.
En ik denk steeds terug aan de missies die ik uitvoerde.
Ik zat zeven jaar bij de marine.
Ik ben voormalig Navy Seal, twee uitzendingen naar Afghanistan…
…een naar het Pacific Theater.
Op een dag moesten we misschien 150 verschillende gebouwen ontruimen.
Een van de kernvaardigheden is gevechten van dichtbij.
Vuurgevechten op zeer korte afstand in gebouwen.
Je wordt beschoten.
Er zijn mogelijk explosieven in het gebouw.
Het is het gevaarlijkste wat elk lid van een speciale eenheid…
…of de infanterie kan doen in een gevechtszone.
Veruit.
Ik blijf m'n hele leven dankbaar voor m'n tijd bij de marine.
Er zijn een aantal momenten en herinneringen…
…waarvan ik emotioneel word als ik eraan denk.
Het is cliché dat vrijheid niet gratis is, maar ik geloof dat helemaal.
Ik heb het ervaren en het vraagt veel opoffering.
Sorry.
Als er iets ergs gebeurt met een van je teamgenoten…
…of ze nu gewond raken of gedood worden, is dat heel tragisch.
Wat we motiveert in het werk dat we nu doen…
…is het kunnen verkleinen van het aantal keer dat dat weer gebeurt.
Eind jaren 2000 ontstond de realisatie bij het ministerie van Defensie…
…van wat je de toevallige robotische revolutie kunt noemen.
We gebruikten duizenden lucht- en grondrobots in Irak en Afghanistan.
Toen de regering-Obama mij vroeg om onderminister van Defensie te worden…
…was er duidelijk verandering in de manier waarop oorlog werd gevoerd.
Er werden robots gebruikt waar eerst mensen werden gebruikt.
Vroege robots werden op afstand bestuurd.
En mens bestuurde ze, net als bij een radiografisch bestuurbare auto.
Ze gingen eerst achter geïmproviseerde explosieven aan…
…en als de bom ontplofte, ontplofte de robot.
Dan zei je: 'Balen. Oké, pak de andere robot.'
In Afghanistan had je de Predator-drone.
Dat werd een heel nuttig instrument om luchtaanvallen uit te voeren.
Na verloop van tijd vroegen militaire planners zich af:
'Wat kunnen we nog meer met robots? En waar gaat dit heen?'
En 'n terugkerend thema was de trend naar meer autonomie.
Een autonoom wapen maakt zelfstandig beslissingen…
…met weinig of geen tussenkomst van de mens.
Dus het is onafhankelijk en zelfsturend.
En of hij kan doden hangt af van of hij bewapend is.
Als je meer autonomie hebt in je systeem…
…gaat alles op hogere snelheid.
En als je op hogere snelheid werkt dan je tegenstanders…
…is dat een enorm voordeel in de strijd.
Wat autonomie betreft, richten we ons op veerkrachtige intelligentiesystemen.
Systemen die hun omgeving kunnen lezen en erop reageren…
…en keuzes kunnen maken over hoe ze daarin manoeuvreren.
SAN DIEGO, CALIFORNIË
De faciliteit waar we nu zijn is ooit gebouwd als filmstudio…
…die is omgebouwd…
…tot deze realistische militaire trainingsomgeving.
We zijn hier om onze AI-piloot te evalueren.
De missie is bedreigingen zoeken. Het gaat om ontruimingstroepen.
Het kan een keus maken over hoe dat probleem aan te pakken.
Dit noemen we 'de dodelijke trechter'. Je moet door een deur.
Daar zijn we het meest kwetsbaar.
Deze ziet er beter uit.
De Nova vertelt of er 'n schutter achter de deur zit…
…of een gezin.
Zo kunnen we betere keuzes maken en mensen veilig houden.
We gebruiken de beeldsensoren…
…om te begrijpen hoe de omgeving eruitziet.
Het gebouw heeft meerdere verdiepingen. Dit is de kaart.
Dit is wat ik tijdens het verkennen zag en waar.
Persoonsdetector. Wat gaaf.
Nova heeft ook een thermische scanner.
Als het 37 graden is, is het waarschijnlijk een mens.
Mensen worden gezien als bedreigingen tenzij anders is bewezen.
We willen de oorlogsmist elimineren om betere keuzes te maken.
Als we naar de toekomst kijken…
…schalen we op naar teams van autonome vliegtuigen.
Bij zelfrijdende voertuigen heeft uiteindelijk een mens gezegd:
'Ik wil dat je van punt A naar punt B gaat.'
Onze systemen wordt niet gevraagd van punt A naar B te gaan…
…maar om een doel te bereiken.
Het lijkt meer op: 'Ik heb melk nodig.'
En dan moet de robot uitzoeken naar welke supermarkt hij moet…
…de melk ophalen en terugbrengen.
Of sterker nog…
…je kunt het beter stellen als: 'Hou de koelkast vol.'
Dit is intelligentie op 't niveau van uitzoeken wat er nodig is en hoe dat lukt.
En zoeken naar een oplossing wanneer zich een probleem voordoet.
Toen ik besloot te stoppen bij de marine, begon ik na te denken: oké, wat nu?
Ik groeide op met het internet. Ik zag wat het werd.
En de conclusie waar ik op uitkwam was dat AI in 2015…
…was waar het internet in 1991 was.
En AI zou gaan exploderen…
…en één van de krachtigste technologieën op aarde worden.
Ik werk er elke dag mee en zie de vooruitgang die geboekt wordt.
Maar veel mensen denken bij AI meteen aan Hollywood.
Zullen we een spelletje spelen?
Wat dacht je van wereldwijde thermonucleaire oorlog?
Prima.
Als mensen denken aan kunstmatige intelligentie…
…denken ze aan The Terminator of I, Robot.
Deactiveren.
Wat ben ik?
Of The Matrix.
Hoe weet je, op basis van sciencefictionfilms…
…of ik een mens ben? Ik kan computergegenereerde AI zijn.
Replicanten zijn net als elke machine. Ze zijn een aanwinst of een gevaar.
Maar er zijn allerlei primitievere AI's die onze levens nog zullen veranderen…
…voordat we het stadium van denkende, pratende robots bereiken.
De robots zijn er al. De robots maken keuzes.
De robotrevolutie is aangebroken.
Maar het lijkt niet op wat we ons hadden voorgesteld.
De Terminator is een infiltratie-eenheid. Deels mens, deels machine.
We hebben het niet over moordende Terminator-robots.
We hebben het over AI die een aantal dingen kan die mensen kunnen.
Maar het is de vraag of die systemen betrouwbaar zijn.
Nieuwe details over het dodelijke ongeluk met een zelfrijdende Uber SUV gisteravond.
Het bedrijf maakte 'n kunstmatige intelligentie-chatbot.
Ze nam een nogal racistische toon aan…
Zesentwintig staatsambtenaren onterecht geïdentificeerd als criminelen.
Het is de vraag of ze de complexiteit van de wereld aankunnen.
De fysieke wereld is rommelig.
Er zijn veel dingen die we niet weten, wat het moeilijker maakt om AI te trainen.
Dat is waar zelflerende systemen hun intrede doen.
Machine learning is een grote stap vooruit.
Het betekent dat we computers niet alles hoeven te leren.
Je geeft een computer miljoenen stukjes informatie…
…en de machine begint te leren.
Dat kan op alles toegepast worden.
Met ons Robot Dog-project willen we laten zien…
…dat onze hond op verschillende terreinen kan lopen.
Mensen zijn in de loop van miljarden jaren geëvolueerd om te kunnen lopen.
Maar er komt veel intelligentie kijken bij het aanpassen aan verschillende terreinen.
Het is de vraag of robotsystemen…
…zich kunnen aanpassen zoals mensen en dieren.
Met machine learning verzamelen we veel data in simulaties.
Een simulatie is een digitale tweeling van de realiteit.
We kunnen veel voorbeelden van die realiteit…
…draaien op meerdere computers.
Daarmee probeert hij duizenden acties in de simulatie uit.
De gladheid van de grond waar ze op lopen verschilt.
De hardheid verschilt.
We nemen alle ervaring van die duizenden robots uit de simulatie…
…en downloaden die naar een echt robotisch systeem.
De test die we vandaag doen is om te kijken of hij zich kan aanpassen.
Toen de robot op schuim liep…
…stampten de voeten op de grond.
Maar toen hij op dit plastic oppervlak kwam…
…paste hij de beweging aan om niet uit te glijden.
En dan besef je: 'Dit is wat machine learning te bieden heeft.'
We denken dat Robot Dog erg nuttig kan zijn in rampsituaties…
…waarbij je moet navigeren over verschillende soorten terrein.
Of de honden surveillance laten doen in zware omstandigheden.
Maar de meeste technologie loopt tegen de uitdaging aan…
…dat het goed kan doen en slecht kan doen.
We kunnen kerntechnologie bijvoorbeeld gebruiken voor energie…
…maar we kunnen ook atoombommen maken wat heel slecht is.
Dit is het zogenaamde dual-use-probleem.
Vuur is dual-use.
Menselijke intelligentie is dual-use.
Dus vanzelfsprekend is kunstmatige intelligentie ook dual-use.
Het is heel belangrijk om te denken aan het gebruik van AI in de context…
…want ja, het is fantastisch om een reddingsrobot te hebben…
…die iemand kan vinden na een lawine.
Maar diezelfde robot kan worden bewapend.
Als je bedrijven ziet die robots gebruiken om er wapens op te zetten…
…wordt een deel van je boos.
En een deel van je beseft…
…dat dit is wat er gebeurt als je technologie uitbrengt.
Dit is echt transformatieve technologie.
Dit zijn wapensystemen…
…die onze veiligheid dramatisch kunnen veranderen.
Op dit moment weten we niet of machines onderscheid kunnen maken…
…tussen burgers en strijders.
In de oorlog in Afghanistan zat ik bij een sluipschuttersteam…
…dat vijandige strijders zocht aan de grens.
Ze stuurden een meisje om onze positie te bepalen.
Het kwam nooit in ons op om haar neer te schieten.
Volgens de oorlogswetten was dat legaal geweest.
Er is geen leeftijdsgrens voor vijandige strijders.
Als je een robot bouwt die zich perfect aan de oorlogswet houdt…
…had hij haar neergeschoten.
Hoe weet een robot het verschil tussen wat legaal is en wat goed is?
Met de oorlogsvoering met autonome drones…
…willen ze het leed wegnemen dat Amerikaanse soldaten…
…en de Amerikaanse psyche ondergaan.
Maar de toename van burgerslachtoffers komt te liggen bij de Afghanen…
…Irakezen en Somaliërs.
Ik wil mensen die vertrouwen hebben in het gebruik van AI in drones vragen:
'Wat als jouw dorp daar de dupe van zou zijn?'
AI is een tweesnijdend zwaard.
Het kan gebruikt worden voor goede zaken, wat we normaal zouden doen…
…en met een druk op de knop…
…wordt de technologie iets wat potentieel dodelijk is.
Ik ben klinisch farmacoloog.
Ik heb een team van mensen die AI gebruiken om medicijnen te zoeken…
…die ziektes genezen die geen aandacht krijgen.
Met medicijnonderzoek was het zo dat je een bestaand molecuul nam…
…en dat aanpaste om 'n nieuw middel te krijgen.
En nu hebben we AI ontwikkeld die ons voorziet van miljoenen ideeën.
Miljoenen moleculen.
En dat biedt zoveel nieuwe mogelijkheden…
…voor het behandelen van ziektes die we niet konden behandelen.
Maar er is een duistere kant waarvan ik niet dacht dat ik die zou zien.
Het begon toen ik uitgenodigd werd…
…door een organisatie in Zwitserland genaamd Spiez Laboratory…
…om een presentatie te geven over potentieel misbruik van AI.
Sean stuurde me een e-mail met een paar ideeën…
…van manieren waarop we onze eigen AI konden misbruiken.
Dus in plaats van ons model te vragen om medicinale moleculen te creëren…
…om ziektes mee te behandelen…
…keken we of we de meest giftige moleculen konden maken.
Ik wilde aantonen…
…of we AI konden gebruiken om dodelijke moleculen te ontwerpen.
Eigenlijk dachten we dat het zou mislukken…
…want het enige wat we deden was een nul veranderen in een één.
En door het om te keren…
…gingen we nu richting giftigheid in plaats van ervandaan.
En dat was 't.
Terwijl ik thuis zat, deed de computer het werk.
Hij genereerde duizenden moleculen…
…en we hoefden alleen maar op 'start' te drukken.
De volgende ochtend stond er een bestand op m'n computer…
…waarin zo'n 40.000 moleculen stonden…
…wat potentieel de meest giftige moleculen op aarde waren.
De haren in m'n nek stonden recht overeind.
Ik stond versteld.
De computer had tienduizenden ideeën bedacht…
…voor nieuwe chemische wapens.
Natuurlijk stonden er moleculen die leken op VX in de dataset.
VX is een van de krachtigste chemische wapens ter wereld.
De politie beweert…
…dat de vrouw die Kim Jong-nam aanvalt bij deze vliegveldmoord…
…een dodelijk zenuwgas genaamd VX gebruikte.
Het kan doden door middel van verstikking.
Het is een zeer krachtig molecuul…
…en de meeste van deze moleculen waren naar verwachting dodelijker dan VX.
Velen ervan waren, voor zover wij weten, nog nooit gezien.
Dus toen Sean en ik dat beseften, zeiden we: 'Wat hebben we gedaan?'
Al snel realiseerde ik me dat we de doos van Pandora hadden geopend…
…en ik zei: 'Stop. Doe niks meer. We kappen ermee.
Maak gewoon de dia's die ik nodig heb voor de presentatie.'
Toen we dit experiment deden, dacht ik: wat is het ergste dat er kan gebeuren?
Nu denk ik: we waren totaal naïef.
Wat me het meest beangstigd is dat iedereen het kan doen.
Het vraagt alleen een druk op de knop.
Hoe beheersen we deze technologie voordat het wordt gebruikt…
…om iets te doen dat vreselijk destructief is?
De kern van het gesprek rondom kunstmatige intelligentie…
…en hoe we die gebruiken in de maatschappij…
…is een race tussen de kracht waarmee we technologieën ontwikkelen…
…en de wijsheid die we hebben om die te beheersen.
Er zijn voor de hand liggende morele en ethische bezwaren…
…bij het toevertrouwen van datgene wat onze smartphones aanstuurt…
…met de morele keuze om een leven te nemen.
Ik werk bij het Future of Life Institute, een gemeenschap van wetenschapsactivisten.
We willen laten zien…
…dat er een andere kant is aan het versnellen van automatisering.
We proberen ervoor te zorgen dat technologieën die we creëren…
…op een veilige en ethische manier worden gebruikt.
Laten we praten over de gevechtsregels…
…en gedragsnormen bij het gebruiken van AI in onze wapensystemen.
Want we zien nu technologie het slagveld opgaan…
…die zelfstandig kan doden.
In 2021 bracht de VN een verslag uit over het potentiële gebruik…
…van een dodelijk autonoom wapen op het slagveld in Libië.
Een panel van de VN zei dat een drone in de burgeroorlog in Libië…
…geprogrammeerd was om doelen zelfstandig aan te vallen.
Als de rapporten van de VN kloppen…
…is dit een keerpunt voor de mensheid.
Want dit markeert een situatie…
…waarin een AI de keuze maakte om een leven te nemen, en niet een mens.
Je ziet geavanceerde autonome wapens…
…op verschillende plekken voor het eerst gebruikt worden.
Er kwamen berichten uit Israël.
Azerbeidzjan gebruikte autonome systemen om Armeense luchtafweer uit te schakelen.
Hij kan urenlang rondvliegen op het slagveld…
…op zoek naar dingen om zelf aan te vallen…
…en zicht er dan op storten zonder menselijke tussenkomst.
En onlangs zagen we verschillende video's die in Oekraïne zijn gepost.
Het is onduidelijk in welke modus ze opereerden.
Was er een mens die koos welke doelen aangevallen werden…
…of deed de machine dat zelf?
Maar er zal zeker een moment komen…
…of het nu al is gebeurd in Libië, Oekraïne of ergens anders…
…waarin een machine zelf kiest wie hij doodt op het slagveld.
Machines die dodelijk geweld toepassen tegen mensen…
…zonder menselijke tussenkomst…
…is politiek onaanvaardbaar, moreel verwerpelijk.
Of de internationale gemeenschap slaagt in het beheersen van die uitdagingen…
…is een groot vraagteken.
Als we naar de toekomst kijken, zelfs een paar jaar vooruit…
…is het heel eng hoe de situatie er dan uitziet…
…aangezien het kapitaal en de mankracht die worden ingezet om AI beter te maken…
…en te gebruiken voor verschillende doeleinden immens is.
Mijn God, die vent. Hij weet dat hij niet kan winnen.
Ik vind het inspirerend als ik AI verschillende problemen zie overwinnen.
Een laatste wanhoopsdaad.
En je kunt die tactieken en technieken ook toepassen op echte vliegtuigen.
Goed gespeeld.
Oké, goed gespeeld.
Het verbaast me dat mensen blijven zeggen wat AI niet kan doen.
'Het kan nooit een wereldkampioen schaken verslaan.'
Een IBM-computer maakt een comeback…
…in de tweede partij tegen schaakkampioen Garry Kasparov.
Kasparov geeft het op.
Als ik zie dat m'n verstand te boven gaat…
…word ik bang. En dat ging m'n verstand te boven.
En toen zeiden mensen:
'Het zal nooit een wereldkampioen Go verslaan.'
Ik denk dat menselijke intuïtie…
…nog te geavanceerd is om ingehaald te worden door AI.
Go is een van de meest complexe spellen die er zijn…
…omdat het aantal mogelijke zetten, als je dat uitrekent…
…groter is dan het aantal atomen in het universum.
Er was een team bij Google, Deepmind, dat het programma AlphaGo creëerde…
…om de beste spelers ter wereld te verslaan.
Gefeliciteerd…
…AlphaGo.
Een computerprogramma heeft een 9-dan professional verslagen.
En toen koos DeepMind StarCraft als hun volgende AI-uitdaging.
StarCraft is mogelijk het populairste real-time strategiespel ooit.
AlphaStar werd beroemd toen het wereldkampioenen versloeg.
AlphaStar verplettert Immortal Arc.
Weet je wat?
Dit is geen gevecht dat de profs kunnen winnen.
Het is belachelijk.
Professionals zeiden: 'Ik zou die tactiek nooit proberen
Ik zou die strategie nooit proberen. Dat is niet menselijk.'
En dat was misschien wel het aha-moment voor mij.
Ik besefte dat dit het moment is.
Er is belangrijke technologie en een kans om een verschil te maken.
Ik kende alleen de problemen van 'n SEAL in gevechten op korte afstand…
…maar een van m'n vrienden die F-18-piloot is, vertelde me:
'We hebben hetzelfde probleem in de straaljagerwereld.
Ze verstoren communicatie.
Er is steeds meer luchtafweergeschut wat operaties te gevaarlijk maakt.'
Stel je voor dat we een straaljager bestuurd door AI hadden.
Welkom bij de AlphaDogfight-tests.
Nog maar een paar minuten tot de eerste halve finale.
DARPA, het Defense Advanced Reasearch Projects Agency…
…had AlphaGo en AlphaStar gezien…
…en zo werd het idee van de AlphaDogfight-competitie geboren.
Dit wil je menselijke piloten zien doen.
Dit lijkt een menselijk gevecht.
'Dogfighting' is een luchtgevecht tussen twee vliegtuigen.
Je kunt het zien als een bokswedstrijd in de lucht.
Misschien kennen mensen de film Top Gun.
Kunnen we ze afschudden?
Hun raketten en geweren niet. -Dan wordt het 'n luchtgevecht.
Meester worden in luchtgevechten kan acht tot tien jaar duren.
Het is een zeer complexe uitdaging om hier AI voor te bouwen.
Eerdere benaderingen van autonomie en luchtgevechten waren slap.
Machine learning leek ons de manier om dit probleem op te lossen.
In het begin wist de AI niks over de wereld waarin hij zat.
Het wist niet dat het vloog of wat een luchtgevecht was.
Het wist niet wat een F-16 was.
Het wist alleen welke acties het kon uitvoeren…
…en het begon die acties te proberen.
Het blauwe vliegtuig traint pas sinds kort.
Je ziet hem heen en weer schommelen…
…onvoorspelbaar vliegen, meestal weg van de tegenstander.
Naarmate het gevecht vordert zien we dat blauw een plan ontwikkelt.
Hij komt vaker in schietpositie.
Af en toe zei het algoritme: 'Dat was goed. Doe dat vaker.'
We kunnen computerkracht gebruiken om de agenten vaak te trainen in parallel.
Het is net basketbal.
In plaats van steeds met hetzelfde team te spelen…
…reizen we de wereld over en spelen we met 512 teams tegelijk.
Dan word je heel snel heel goed.
We konden die simulatie 24 uur per dag laten draaien…
…en 30 jaar pilotentraining in tien maanden uitvoeren.
We gingen van het vliegtuig amper beheersen…
…naar koelbloedige moordenaar.
Tijdens de training streden we alleen tegen andere kunstmatige intelligentie.
Maar rechtstreeks tegen mensen strijden was het uiteindelijke doel.
Ik ben Mike Benitez.
Ik ben luitenant-kolonel bij de luchtmacht en al 25 jaar actief in dienst.
Ik heb 250 gevechtsmissies gedaan en ben afgestudeerd aan de wapenschool.
Dat is de luchtmachtversie van Top Gun.
Ik heb nog nooit tegen AI gevlogen.
Ik ben heel benieuwd hoe goed ik het ga doen.
We hebben een frontale aanval op 1800 meter.
En vechten.
Hij is er geweest. -Dat is heel interessant.
Dood. -Hebbes. Vlekkeloze overwinning.
Oké, tweede ronde.
De kunstmatige intelligentie manoeuvreert met zo'n precisie…
…dat ik het niet bijhoud.
Recht eropaf.
Nu ben je er geweest.
Hebbes.
Hij had me toch.
AI is nooit bang.
Een AI heeft niet het menselijke emotionele element.
Een interessante strategie die onze AI ontwikkelde…
…was wat we het face shot noemen.
Een mens wil meestal van achteren schieten…
…omdat ze je dan moeilijk afschudden.
Ze proberen geen face shots omdat je dan kijkt wie er het bangst is.
Als we frontaal aankomen, ga je van 900 naar 150 meter afstand…
…in een oogwenk.
Dan is het risico op botsen hoog, dus mensen doen het niet.
De AI is niet bang voor de dood, tenzij je hem dat vertelt.
Het voelt alsof ik tegen een mens vecht.
Maar een roekeloos mens zonder oog voor veiligheid.
Deze laatste overleeft hij niet.
Hij heeft niet genoeg tijd.
Slaap lekker.
Ik ben dood.
Het maakt me nederig om te weten dat ik niet het beste voor de missie ben…
…en dat ding me ooit kan vervangen.
Weer 1800 meter. Compensatie van 300.
Met de AI-piloot in de straaljager wint hij meedogenloos. Hij domineert.
Hij wint niet gewoon met afstand.
Het is: 'Oké, hoe krijgen we dat in onze vliegtuigen?' Zo krachtig.
Het is realistisch om te verwachte dat AI F-16's zal vliegen…
…en dat zal niet lang meer duren.
Als je vecht tegen een AI-piloot met een winstpercentage van 99,99999%…
…maak je geen schijn van kans.
Als ik denk aan dat één AI-piloot onverslaanbaar is…
…denk ik aan wat een team van 50 of 100…
…of 1000 AI-piloten kan bereiken.
Zwermen is een team van zeer intelligente vliegtuigen…
…die samenwerken.
Ze delen informatie over wat ze doen, hoe ze een probleem kunnen oplossen.
Zwermen wordt een baanbrekende en transformationele functionaliteit…
…voor ons leger en onze bondgenoten.
Doelwit is gevonden, de drones volgen hem.
Hier komt de landing.
Het doel van het zwermonderzoek waar we nu aan werken…
…is het inzetten van een groot aantal drones…
…in een moeilijk te bereiken of gevaarlijk gebied.
Het onderzoekslab van het leger steunt dit onderzoeksproject.
Als je wil weten wat er in een gebied is, maar het is moeilijk bereikbaar of groot…
…is een zwerm een natuurlijke manier om het bereik van individuen te vergroten…
…en essentiële informatie voor de missie te verzamelen.
Als we nu een zwerm inzetten…
…geven we één commando om het doelwit op te sporen.
Dan gaan alle drones dat zelfstandig doen.
Door kunstmatige intelligentie kunnen de robots decentraal als zwerm bewegen.
In zwermen in de natuur…
…is er geen baas, niet één dier dat zegt wat ze moeten doen.
Het gedrag ontstaat doordat elk individueel dier…
…een paar simpele regels volgt.
En daaruit komt het collectieve gedrag dat je ziet voort.
Het ontzagwekkende aan zwermen in de natuur…
…is de sierlijkheid waarmee ze bewegen.
Het is alsof ze gemaakt zijn om deel van die groep te zijn.
In het ideale geval zouden we met onze dronezwerm graag zien dat er…
…net als in de natuurlijke zwerm…
…collectieve keuzes worden gemaakt door de groep.
Wat ons verder inspireert…
…is betrouwbaarheid en veerkracht.
Die zwerm gaat niet neer…
…als één dier niet doet wat het moet doen.
Zelfs als één van de eenheden uitvalt of in gebreke is…
…of de taak niet kan uitvoeren…
…gaat de zwerm door.
Dat is wat we uiteindelijk willen.
In gevechtsscenario's moeten we vijandige vliegtuigen identificeren…
…en daarvoor gebruikten we één persoon die één robot stuurde.
Naarmate de autonomie toeneemt…
…hoop ik dat we een groot aantal robots…
…gestuurd zien worden door een klein aantal mensen.
Ik zie geen reden waarom duizend onhaalbaar zou zijn…
…want elke eenheid zou zelfstandig kunnen handelen.
Niets is te gek.
We kunnen het leren opschalen…
We werken al geruime tijd in simulaties aan zwermen…
…en het is tijd om dat op echte vliegtuigen toe te passen.
We verwachten te beginnen met drie robots tegelijk op het netwerk…
…en beginnen dan meer mogelijkheden toe te voegen.
We willen het testen op kleinere systemen…
…maar diezelfde concepten toepassen op grotere systemen…
…zoals een straaljager.
We praten veel over…
…hoe je een peloton de gevechtskracht van een bataljon geeft.
Of een bataljon de gevechtskracht van een brigade.
Dat kan met zwermen.
Als je je de kracht van zwermen eigen maakt…
…heb je een nieuw afschrikmiddel tegen militaire agressie.
Het meest opwindende is het aantal jonge mannen en vrouwen…
…dat we kunnen redden als we dit goed doen.
Als we machines inruilen…
…in plaats van mensenlevens.
Sommigen beweren dat autonome wapens de oorlogvoering nauwkeuriger…
…en meer humaan maken.
Maar het is moeilijk te voorspellen…
…hoe autonome wapens de oorlogsvoering zullen veranderen.
Net als met het Gatling-geweer.
Richard Gatling was een uitvinder…
…en hij zag soldaten thuiskomen, verwond in de Burgeroorlog.
En hij zocht manieren om de oorlog meer humaan te maken.
Om het aantal soldaten dat gedood werd te verkleinen…
…door het aantal soldaten op het slagveld te verkleinen.
Dus hij vond het Gatling-geweer uit, een automatisch geweer met 'n hendel…
…die het vuren automatiseerde.
Het verhonderdvoudigde de vuurkracht van soldaten.
Soms hebben pogingen om oorlog preciezer en meer humaan te maken…
…een tegenovergesteld effect.
Denk aan het effect van één foutieve drone-aanval…
…op 't platteland…
…waardoor inwoners zich tegen de VS keren…
…of tegen de lokale regering. Zogenaamd de helden.
Vermenigvuldig dat met duizend.
De creatie van een wapensysteem…
…dat goedkoop en schaalbaar is en geen menselijke bestuurders nodig heeft…
…verandert de barrière voor conflict enorm.
Ik lig er wakker van als ik denk aan een wereld waarin overal oorlog is…
…en waarin we niet de menselijke en financiële kosten dragen…
…omdat we zo ver verwijderd zijn van…
…de levens die verloren gaan.
Dit achtervolgt me.
Ik had alleen een voorbeeld van misbruik van AI nodig.
De onverwachte gevolgen van dat simpele gedachte-experiment…
…zijn veel te ver gegaan.
AI IN GENEESMIDDELENONDERZOEK: MEER KWAAD DAN GOED DOEN VOORKOMEN
Toen ik de presentatie gaf over de giftige moleculen gecreëerd door AI…
…stond het publiek versteld.
DE 5000 HOOGST SCORENDE STOFFEN WAREN VX-ANALOGEN
De volgende beslissing was of we die informatie moesten publiceren.
Aan de ene kant wil je de wereld waarschuwen voor zulke mogelijkheden…
…maar aan de andere kant wil je iemand niet op ideeën brengen.
We besloten dat het het waard was…
…om zo manieren te vinden om misbruik van zulke AI te bestrijden…
…voordat het gebeurt.
DUAL-USE VAN AI-GESTUURD MEDICIJNONDERZOEK
HOE AI VOOR MEDICIJNONDERZOEK…
De algemene reactie was schokkend.
We kunnen zien hoeveel mensen de pagina bekijken.
Met de artikelen die we normaal schrijven, krijgen we met geluk…
…een paar duizend mensen die het bekijken in een periode van één of meerdere jaren.
Dit was 10.000 in een week.
Toen was het 20.000, toen 30.000, toen 40.000…
…en zaten we op 10.000 mensen per dag.
We stonden in The Economist, de Financial Times.
Radiolab zocht contact. Ik kende Radiolab.
Maar toen liepen de reacties uit de hand.
Toen we die tweets zagen, was het: 'God, kan het nog erger?'
Waarom deden ze dit?
DIE NERDS WORDEN ONZE DOOD
En toen kregen we 'n uitnodiging die ik nooit had verwacht.
Er was veel discussie in het Witte Huis over het artikel…
…en ze wilden ons dringend spreken.
Natuurlijk is het een eer om te spreken met mensen op dat niveau.
Maar dan besef je:
'Lieve hemel, dit is het Witte Huis. De baas.'
We moesten data-sets samenstellen die open-source waren…
In zes uur genereerde het model meer dan 40.000…
Ze vroegen hoeveel computerkracht ervoor nodig was.
We zeiden dat het niks bijzonders was.
Letterlijk een standaard, zes jaar oude Mac.
Daar stonden ze versteld van.
De mensen die de leiding hebben over het begrijpen van chemische wapens…
…de overheidsinstanties, hadden geen idee van deze mogelijkheid.
We hebben een kookboek om chemische wapens te maken…
…en in de handen van iemand met kwade bedoelingen…
…kan het afschuwelijk zijn.
Mensen moeten luisteren…
…en we moeten zorgen dat we de technologie reguleren…
…of beperken zodat het niet misbruikt kan worden.
Want de potentiële dodelijkheid…
…is angstaanjagend.
De kwestie van de ethiek van AI…
…wordt grotendeels behandeld door de maatschappij.
Niet door de ingenieurs, technologen of wiskundigen.
Van elke technologie die we uitbrengen, elke nieuwe innovatie…
…besluit de samenleving hoe we het moeten gebruiken.
Op dit moment zegt het ministerie van Defensie:
'Het enige wat zegt dat we iets gaan doden…
…op het slagveld, is een mens.'
Een machine kan het doden uitvoeren…
…maar alleen in opdracht van een menselijke bestuurder.
En dat zie ik niet veranderen.
Ze verzekeren ons ervan dat zulke technologie veilig is.
Maar het Amerikaanse leger heeft geen betrouwbare reputatie…
…met drone-oorlogsvoering.
Dus als het gaat om het vertrouwen van het Amerikaanse leger met AI…
…spreekt het verleden voor zich.
Het beleid van Defensie over het gebruik van autonomie in wapens…
…verbiedt geen enkel wapensysteem.
Zelfs als legers geen autonome wapens willen…
…kunnen we gaan zien dat ze meer keuzes overlaten aan machines…
…om concurrenten bij te houden.
Dat kan ertoe leiden dat legers keuzes automatiseren…
…waarvan ze dat niet willen.
Vladimir Poetin zei: 'Wie leidt in AI, zal over de wereld heersen.'
President Xi heeft duidelijk gemaakt dat AI een van de technologieën is…
…waarin China wil domineren.
We zitten duidelijk in een technologische race.
Je hoort mensen praten over vangrails, en ik denk dat mensen dat moeten doen.
Maar er is een echte race gaande om de superioriteit in AI.
En onze tegenstanders, of het nu China, Rusland of Iran is…
…denken geen seconde na over wat ons beleid over AI zegt.
Je ziet veel meer gesprekken rondom AI-beleid…
…maar ik wou dat meer leiders zouden zeggen:
'Hoe snel kunnen we dit bouwen?
Smijt er geld tegenaan en bouw het.'
JAARLIJKSE EXPOSITIE VAN DE AUSA
LEGER VAN DE VERENIGDE STATEN
We zijn op de grootste vakbeurs van de Associatie van het Amerikaanse leger.
Elke verkoper die een product of technologie aan het leger wil verkopen…
…presenteert die hier.
Luchtmachtbasis Tyndall heeft vier van onze robots…
…die 24/7 op hun basis patrouilleren.
We kunnen alles toevoegen, van camera's tot sensoren of wat dan ook.
Grijparmen. Alles om de missie van de klant te kunnen voltooien.
Wat als de vijand AI introduceert?
Een vechtsysteem dat sneller denkt en reageert dan jij…
…dan een mens zou kunnen? We moeten voorbereid zijn.
We trainen onze systemen om info over de vijand te verzamelen…
…en vijandige doelen te beheren met menselijk toezicht op de kill chain.
Dag, generaal. -Hoe gaat het?
Goed, meneer. Met u?
Niemand investeert meer in een AI-piloot. Onze AI-piloot heet Hivemind.
We hebben 't toegepast op onze quadcopter Nova…
…die gebouwen verkent voordat de speciale eenheden en infanterie komen.
We passen Hivemind toe op V-BAT.
Ik denk aan het lanceren van honderden van zulke teams…
…of het nu in de Straat van Taiwan of Oekraïne is…
…om vijanden af te schrikken. Ik ben er erg enthousiast over.
Oké, bedankt. -Bedankt, generaal.
AI-piloten kunnen tegen 2025, 2030 overal aanwezig zijn.
Het zal snel geadopteerd worden door legers over de hele wereld.
Wat doe je met het Roemeense leger, hun onbemande vliegsystemen?
Hightech in het leger.
We hebben al een half miljard uitgegeven aan het bouwen van een AI-piloot.
De komende vijf jaar geven we nog een miljard uit.
Dat is een belangrijke reden waarom we voorop lopen in de VS.
Te gek.
Het is indrukwekkend. Heb je die kunnen bewapenen?
Deze is nog niet bewapend.
Nog niet. Maar in de toekomst wel.
Klanten zien het als een truck. Wij zien het als een intelligente truck…
…die verschillende dingen kan.
Bedankt, maat. -Ja.
Ik neem contact met je op.
Als je over tien jaar terugkomt…
…zul je zien dat AI en autonomie deze hele markt domineren.
Troepen die worden ondersteund door AI en autonomie…
…zullen troepen zonder domineren en verpletteren.
Dat is vergelijkbaar met paarden die het opnemen tegen tanks.
Mensen met zwaarden tegen een machinegeweer.
Het komt niet eens in de buurt.
Het zal overal aanwezig zijn, in elk aspect van de oorlogsvoering.
Het tactische niveau. Het strategische niveau.
Werkend met snelheden die mensen nu niet kunnen bevatten.
Commandanten worden al overspoeld met te veel informatie.
Beelden van satellieten, drones en sensoren.
AI kan een commandant helpen om sneller te begrijpen wat er gebeurt…
…en welke beslissing hij moet maken.
Kunstmatige intelligentie zal rekening houden met alle factoren…
…die bepalen hoe een oorlog gevoerd wordt…
…strategieën bedenken…
…en aanbevelingen doen over hoe je een strijd wint.
CENTRUM VOOR INNOVATIE
Bij Lockheed Martin zien we, net als onze klant Defensie…
…kunstmatige intelligentie als…
…belangrijke technologie voor commandovoering.
Het verspreidt zich met 60 centimeter per seconde.
Dit gebied is ongeveer 280 hectare.
De oorlogsmist is zeker een realiteit bij Defensie…
…maar het heeft parallellen in het maken van keuzes bij bosbranden.
De Washburn-brand is net ten noorden van de stad Wawona.
Je moet keuzes maken met onvolledige informatie.
Dus hoe kan AI ons helpen met die oorlogsmist?
Bosbranden zijn erg chaotisch en complex.
Daarom passen we AI toe om ons te helpen keuzes te maken.
De Cognitieve Missiemanager is een programma dat infraroodbeelden…
…verwerkt met onze AI-algoritmes…
…om de toekomstige staat van de brand te voorspellen.
De Cognitieve Missiemanager zal in de toekomst simulaties gebruiken…
…en scenario's duizenden keren uitspelen om aanbevelingen te doen…
…over het effectief inzetten van middelen…
…om het vuur te onderdrukken in gebieden met hoge prioriteit.
Dan zegt het: 'Blus hier vanuit de lucht met een Firehawk.
Kap daar struikgewas weg.'
Het stuurt brandweerlieden naar gebieden met de hoogste prioriteit.
Die keuzes kunnen dan sneller en effectiever gemaakt worden.
AI geeft onze mensen het unieke vermogen…
…om de steeds veranderende omgeving bij te benen.
En er zijn veel overeenkomsten…
…met wat we bij Lockheed Martin doen voor Defensie.
Het leger heeft het niet alleen over het gebruik van AI…
…en individuele wapensystemen om keuzes te maken over doelwitten…
…maar het integreren van AI in de hele beslissingsstructuur van 't leger.
Het leger heeft 'n groot project genaamd Project Convergence.
De marine heeft Overmatch.
De luchtmacht heeft Advanced Battle Management System.
Defensie probeert uit te zoeken hoe we al die puzzelstukjes samenbrengen…
…zodat we sneller opereren dan de vijand…
…en echt een voordeel hebben.
Een AI-gevechtsmanager zou een hooggeplaatste generaal zijn…
…die de leiding heeft over de strijd.
Hij zou een groot aantal troepen bevelen geven…
…en de acties van alle wapens coördineren.
…met 'n snelheid die geen mens bij kan houden.
We hebben de afgelopen 70 jaar gebouwd aan het meest geavanceerde leger op aarde…
…en nu staan we voor de keus…
…om de controle over die infrastructuur over te geven aan een algoritme, software.
En het gevolg van die keus…
…kan de inzet zijn van ons volledige militaire arsenaal.
Dat is niet één Hiroshima, maar honderden.
Dit is het moment om actie te nemen.
Want het tijdslot om dit risico in te perken sluit snel.
Vanmiddag beginnen we met internationale veiligheidsuitdagingen…
…van nieuwe technologie…
…op het gebied van dodelijke autonome wapensystemen.
Er vinden gesprekken plaats binnen de Verenigde Naties…
…over de dreiging van autonome wapens…
…en 't verbod op systemen die AI gebruiken om mensen aan te vallen.
De technologie-experts zijn het erover eens.
We zijn tegen autonome wapens die mensen aanvallen.
Staten praten al jarenlang over het probleem van autonome wapens.
Het gaat om een gedeeld gevoel van veiligheid.
Maar dat is natuurlijk niet makkelijk.
Bepaalde landen, zeker militaire grootmachten…
…willen voorop lopen…
…zodat ze voorlopen op hun tegenstanders.
Maar iedereen moet het eens zijn om iets gedaan te krijgen.
Er is altijd één land met bezwaar.
En de VS en Rusland hebben duidelijk gemaakt…
…dat ze tegen een verdrag zijn dat autonome wapens verbiedt.
Als we kijken naar het aantal mensen dat werkt aan het versterken van AI…
…dan is dat een grote groep.
Als we kijken naar het aantal mensen dat probeert te zorgen dat AI veilig is…
…dan is dat een veel kleinere groep.
Maar ik ben ook erg optimistisch.
Als ik kijk naar het Verdrag inzake biologische wapens…
…wat ontstond midden in de Koude Oorlog…
…ondanks de spanningen tussen de Sovjet-Unie en de VS.
Ze beseften dat de ontwikkeling van biologische wapens…
…niet in het belang van beide partijen was…
…en niet in het belang van de wereld.
In een wapenwedloop gaat snelheid boven veiligheid.
Maar het is belangrijk om te beseffen…
…dat de prijs van snelheid op een bepaald moment te hoog wordt.
We kunnen dingen niet losstaand ontwikkelen…
…en ze uitbrengen zonder na te denken over wat ermee gedaan kan worden.
We moeten dat atoombommoment voorkomen.
Er staat veel op het spel in de AI-race.
Veel mensen hebben geen waardering voor de globale stabiliteit…
…die mogelijk is gemaakt door het hebben van een militaire grootmacht…
…in de afgelopen 75 jaar.
Dus de Verenigde Staten en onze bondgenoten…
…moeten beter presteren dan de vijandige AI.
Er is geen tweede plaats in oorlog.
China heeft een ambitieus plan om in 2030 wereldleider in AI te zijn.
Volgens sommigen verliest Amerika de race.
Versnel de adoptie van kunstmatige intelligentie…
…om ons militaire voordeel te behouden.
Deze technologie ontwikkelt zich snel.
Maar het is onduidelijk hoe ver we gaan.
Beheersen wij technologie of beheerst technologie ons?
We krijgen geen tweede kans.
Zodra je die stap neemt, neem je hem.
En dan kun je heel moeilijk terug.
Als we nu niets doen, is het te laat.
Misschien is het al te laat.
Ondertiteld door: Sander van Arnhem