Downloaded from YTS.MX
Official YIFY movies site: YTS.MX
Ich finde KI überwältigend.
Kreisförmiges Aufsteigen. Gute Formation.
KI kann Armut beenden,
neue Medikamente herstellen
und unsere Welt friedlicher machen.
Gut gemacht.
Aber sie birgt viele Risiken.
Mit KI erschaffen wir eine nichtmenschliche Intelligenz,
die unberechenbar ist.
Je mächtiger sie wird,
wo ziehen wir die Grenzen,
wie wir KI benutzen wollen?
Dabei müssen wir zuerst
über militärische Anwendungen sprechen.
Das Schlachtfeld liegt jetzt im Bereich der Software und Hardware.
Das Ziel wurde erfasst.
Die Militärs konkurrieren darum, die schnellste KI zu entwickeln.
Ich bin tot.
Wir rasen einer Welt entgegen in der nicht nur große Militärmächte,
sondern nicht staatliche Akteure, private Unternehmen
oder sogar die örtliche Polizei
Waffen benutzen könnten, die selbstständig töten können.
Sollen Algorithmen und Computersoftware über ein Leben entscheiden?
Eines der wichtigsten Themen unserer Zeit.
Wird sie unklug genutzt,
kann sie für jeden Menschen auf dem Planeten zum Risiko werden.
UNBEKANNT
KILLERROBOTER
Gut gemacht, Leute.
Das Objektiv ist jetzt weitwinkliger.
Echt?
Man erhält mehr Daten.
Sehr cool.
Shield AI arbeitet an einem KI-Piloten.
Wir kombinieren selbstfahrende KI-Technologie
mit einem Flugkörper.
Mit einem KI-Piloten
geben wir einem Flugkörper mehr Autonomie.
Sie werden Probleme alleine lösen können.
Nova ist ein autonomer Quadcopter,
der Gebäude und unterirdische Strukturen erforscht,
und vor den Räumungstruppen,
Räumlichkeiten auskundschaftet.
Seit dem letzten Mal hat sich viel verbessert.
Wir arbeiten heute an der Exploration.
Stockwerk für Stockwerk.
Er erledigt ein Stockwerk, alle Zimmer, bevor er zum nächsten geht.
-Das ist toll. -Kürzlich wurde geändert...
Man fragt mich oft,
warum KI so nützlich ist.
Dann erinnere ich mich an meine eigenen Einsätze.
Ich war sieben Jahre bei der Navy.
Als Navy-SEAL, war ich zweimal in Afghanistan,
einmal im pazifischen Raum.
Wir sicherten an einem Tag um die 150 verschiedenen Örtlichkeiten.
Eine der Kernfunktionen ist der Nahkampf.
Feuergefechte in Gebäuden auf engstem Raum.
Man wird beschossen.
Möglicherweise gibt es selbstgebaute Sprengsätze.
Es ist das Gefährlichste, was Spezialeinsatzkräfte,
in einer Kampfzone tun müssen.
Ausnahmslos.
Für meine Zeit bei der Navy bin ich für immer dankbar.
Viele Momente und Erinnerungen
sind für mich sehr emotional.
Es ist ein Klischee, aber Freiheit ist nicht umsonst. Ich glaube daran.
Ich habe es selbst erfahren. Sie fordert viele Opfer.
Entschuldigung.
Stößt einem Teammitglied etwas zu,
wird jemand verletzt oder getötet,
ist das wirklich schlimm.
Was mich motiviert,
ist, die Anzahl solcher Vorfälle
reduzieren zu können.
In den späten 2000er Jahren,
kam es im Verteidigungsministerium
zu einer Art versehentlichen Roboter-Revolution.
Tausende Luft- und Bodenroboter kamen im Irak und in Afghanistan zum Einsatz.
Als ich unter der Obama-Regierung
stellvertretender Verteidigungsminister wurde,
änderte sich die Art der Kriegsführung.
Menschen wurden durch Roboter ersetzt.
Frühe Robotersysteme waren ferngesteuert.
Ein Mensch fuhr und lenkte wie bei einem ferngesteuerten Auto.
Sie suchten nach selbstgebauten Sprengsätzen.
Explodierte eine Bombe, explodierte der Roboter.
Man konnte sagen: "Mist. Ok, nächster Roboter."
In Afghanistan gab es die Predator-Drohne.
Sie wurde zu einem nützlichen Werkzeug für Luftangriffe.
Mit der Zeit fragten sich Militärstrategen:
"Wo könnten Roboter noch nützlich sein? Und wo führt das hin?"
Ein gemeinsames Anliegen war mehr Autonomie.
Eine autonome Waffe trifft eigene Entscheidungen
mit wenig oder keiner menschlichen Einflussnahme.
Sie handelt eigenständig und ist selbstgesteuert.
Ob sie töten kann, hängt davon ab, ob sie bewaffnet ist oder nicht.
Je mehr Autonomie das System hat,
desto mehr beschleunigt sich alles.
Ist man schneller als seine Gegner,
ist das im Kampf ein großer Vorteil.
Das Wichtigste bei Autonomie
sind hochbelastbare, intelligente Systeme.
Systeme, die ihre Umgebung lesen und darauf reagieren können,
und Entscheidungen über das Manövrieren treffen können.
KALIFORNIEN
Wir sind heute in einem ehemaligen Filmstudio,
das zu einem militärischen Übungsplatz umgebaut wurde.
Unser KI-Pilot soll bewertet werden.
Es gilt mögliche Bedrohungen zu finden. Es geht um Räumungseinsätze.
Er kann selbst entscheiden, wie er ein Problem angeht.
Das nennt sich "Tödlicher Trichter". Man muss eine Tür passieren.
Dort sind wir am angreifbarsten.
Das ist besser.
Die Nova teilt uns mit, ob sich hinter der Tür ein Schütze
oder eine Familie befindet?
Wir können bessere Entscheidungen treffen und Menschen schützen.
Wir nutzen die Bildsensoren,
um uns mit der Umgebung vertraut zu machen.
Ein mehrstöckiges Gebäude.
Der Grundriss.
Während der Erkundung sah ich Folgendes, und zwar genau dort.
Ein Personendetektor. Toll.
Ein weiterer Sensor von Nova ist ein Thermoscanner.
Bei 37 °C ist es wahrscheinlich ein Mensch.
Menschen gelten als Bedrohung bis das Gegenteil bewiesen ist.
Ein transparenteres Kriegsgeschehen soll zu besseren Entscheidungen führen.
Zukünftig wollen wir
ganze Teams aus autonomen Flugkörpern bilden.
Bei selbstfahrenden Fahrzeugen
befahl eine Person:
"Gehe von A nach B."
Unsere Systeme sollen nicht von A nach B gehen,
sondern einen Auftrag erledigen.
Wie: "Ich brauche Milch."
Der Roboter müsste das richtige Geschäft finden,
die Milch holen und bringen.
Sogar Folgendes
könnte verlangt werden: "Der Kühlschrank soll immer voll sein."
Um diesen Intelligenzgrad geht es,
herauszufinden, was wir brauchen und wie wir es bekommen.
Gibt es eine Herausforderung
oder ein Problem, finde heraus, wie man damit umgeht.
Als ich die Navy verließ, dachte ich:
"Ok, was jetzt?"
Ich wuchs mit dem Internet auf. Sah, was daraus wurde.
Ein Teil meiner Schlussfolgerung war,
KI ist im Jahr 2015,
was das Internet 1991 war.
KI war dabei durchzustarten
und eine der mächtigsten Technologien der Welt zu werden.
Bei meiner täglichen Arbeit sehe ich die Fortschritte.
Viele denken bei KI
sofort an Hollywood.
Wollen wir ein Spiel spielen?
Wie wäre es mit Weltweiter Thermonuklearer Krieg?
Gut.
Bei künstlicher Intelligenz
denken viele an Der Terminator oder I, Robot.
Deaktivieren.
Was bin ich?
Oder Matrix.
Basierend auf Sci-Fi-Filmen, woher wissen Sie, dass ich ein Mensch bin?
Auch ich könnte eine KI sein.
Replikanten sind wie jede andere Maschine, entweder von Nutzen oder eine Gefahr.
Es gibt verschiedene primitive KIs,
die unser Leben verändern werden,
noch vor denkenden, sprechenden Robotern.
Roboter gibt es bereits. Sie treffen Entscheidungen.
Die Roboter-Revolution ist da.
Sie ist nur anders, als man erwartet hat.
Der Terminator ist eine Infiltrationseinheit.
Halb Mensch, halb Maschine.
Es geht nicht um Terminator-artige Killerroboter.
Es geht um KI, die Dinge tun kann, die Menschen nicht tun können.
Bedenklich ist die Zuverlässigkeit der Systeme.
Neue Details über den tödlichen Unfall eines selbstfahrenden Uber-SUV.
Die Firma entwickelte einen KI-Chatbot.
Sie klang eher rassistisch…
26 Gesetzgeber wurden fälschlicherweise als Verbrecher identifiziert.
Die Frage ist, ob sie mit der Komplexität der realen Welt umgehen können.
Die physische Welt ist chaotisch.
Vieles wissen wir nicht.
Das erschwert das Training von KI-Systemen.
Hier kommen maschinelle Lernsysteme ins Spiel.
Maschinelles Lernen ist ein großer Fortschritt.
Dadurch müssen wir Computern nicht alles beibringen.
Der Computer bekommt Millionen von Informationen,
und die Maschine lernt.
Das kann auf alles angewandt werden.
Unser Roboter-Hund-Projekt soll zeigen,
dass unser Hund jegliches Gelände bezwingen kann.
Der Mensch hat seinen Gang über Milliarden Jahre hinweg entwickelt.
Unterschiedliches Terrain zu bezwingen, erfordert viel Intelligenz.
Es bleibt die Frage, ob Robotersysteme
ebenso anpassungsfähig sind wie Tiere und Menschen.
Durch maschinelles Lernen
sammeln wir in der Simulation viele Daten.
Eine Simulation ist ein digitaler Zwilling der Realität.
Wir lassen viele Instanzen dieser Realität auf verschiedenen Computern laufen.
Tausende simulierte Vorgänge werden ausprobiert.
Der Untergrund ist unterschiedliche rutschig.
Unterschiedlich weich.
Wir nehmen die Erfahrungswerte von Tausenden von Robotern
aus der Simulation und laden diese in ein echtes Robotersystem.
Beim heutigen Test wird sich zeigen, ob er sich an neues Terrain anpassen kann.
Als der Roboter über Schaumstoff lief,
trampelten er mit den Füßen auf den Boden.
Bei der Kunststoff-Oberfläche jedoch,
versuchte er die Bewegung so anzupassen, dass er nicht rutscht.
Da wird einem bewusst:
"Das macht maschinelles Lernen aus."
Wir glauben, der Roboter-Hund
kann bei Katastropheneinsätzen hilfreich sein,
wenn es gilt unterschiedlichstes Terrain zu bezwingen.
Oder zur Überwachung in rauer Umgebung.
Bei den meisten Technologien ist die Herausforderung,
dass man damit Gutes und Schlechtes tun kann.
Kerntechnik kann zur Energiegewinnung genutzt werden
oder, um Atombomben zu entwickeln, die schrecklich sind.
Das nennt sich das Problem der Doppelverwendungsfähigkeit.
Feuer ist doppelt verwendbar.
Menschliche Intelligenz ist doppelt verwendbar.
Selbstverständlich ist auch künstliche Intelligenz doppelt verwendbar.
Es ist wichtig, über KI im Kontext nachzudenken,
denn ja, es ist toll einen Such- und Rettungsroboter zu haben,
der jemanden in einer Lawine finden kann,
aber derselbe Roboter kann bewaffnet werden.
Zu sehen, dass Unternehmen Roboter zum Waffengebrauch einsetzen,
macht mich einerseits wütend.
Andererseits erkenne ich, dass das dazugehört,
wenn unsere Technologie eingesetzt wird.
Es ist eine transformative Technologie.
Diese Waffensysteme
könnten unsere Sicherheit dramatisch verändern.
Bislang sind wir nicht sicher, ob Maschinen
zwischen Zivilisten und Soldaten unterscheiden können.
Zu Beginn des Afghanistankrieges spürte ich beim Army Ranger-Scharfschützenteam
Kämpfer auf, die über die Grenze kamen.
Ein kleines Mädchen kam, um unsere Position zu erkunden.
Es stand außer Frage, das Mädchen zu erschießen.
Laut Kriegsgesetzen wäre das legal gewesen.
Für feindliche Kämpfer gibt es keine Altersgrenze.
Folgt ein Roboter strikt der Kriegsgesetzgebung,
hätte er das Mädchen erschossen.
Wie kann ein Roboter unterscheiden was legal und was richtig ist?
Autonome Drohnen-Kriegsführung
soll US-Soldaten und die US-Psyche vor Schaden bewahren.
Doch der zivile Schaden seitens der Afghanen,
Iraker und Somalier würde steigen.
Ich möchte diejenigen, die KI bei Drohnen unterstützen, fragen:
"Was, wenn Ihr Dorf das Ziel wäre?"
KI ist ein zweischneidiges Schwert.
Es kann Gutes tun, was naheliegend wäre,
und auf Knopfdruck,
tödlich werden.
Ich bin klinischer Pharmakologe.
Mein Team nutzt künstliche Intelligenz, um Medikamente herzustellen,
die Krankheiten heilen, die keine Beachtung finden.
Bislang entwickelte man Medikamente, indem ein existierendes Molekül
verändert wurde und so ein neues entstand.
Wir haben eine KI entwickelt, die uns durch Millionen von Ideen,
Millionen von Molekülen liefert.
Dadurch haben wir die Möglichkeit,
Krankheiten zu behandeln, die wir bisher nicht behandeln konnten.
Doch es gibt definitiv auch eine Schattenseite,
mit der ich nie gerechnet hätte.
Alles begann, als ich die Einladung einer Schweizer Organisation,
dem Spiez Labor, erhielt,
um einen Vortrag über den möglichen Missbrauch von KI zu halten.
Sean schickte mir eine E-Mail mit Ideen,
wie wir unsere KI missbrauchen könnten.
Anstatt unser Modell zu bitten, arzneiähnliche Moleküle herzustellen,
die Krankheiten heilen können,
wollten wir wissen, ob wir die giftigsten Moleküle erzeugen können.
Ich wollte klären,
ob wir mit KI-Technologie tödliche Moleküle entwerfen können.
Wir dachten, es würde scheitern,
denn wir setzten lediglich eine Null auf Eins um.
Dadurch bewegten wir uns nicht mehr von der Giftigkeit weg,
sondern darauf zu.
Das war alles.
Während ich zu Hause war, erledigte der Computer die Arbeit.
Die KI erzeugte Tausende von Molekülen.
und wir mussten nichts anderes tun, als "Start" drücken.
Am nächsten Morgen lag eine Datei auf meinem Computer,
mit etwa 40.000 Molekülen,
die potenziell
zu den giftigsten Molekülen gehören, die uns bekannt sind.
Meine Nackenhaare sträubten sich.
Ich war überwältigt.
Der Computer entwarf Tausende von Ideen
für neue chemische Waffen.
Offensichtlich gibt es Moleküle, die aussehen wie VX-Analoge und VX
im Datensatz
VX ist eine der stärksten chemischen Waffen der Welt.
Laut neuer Behauptungen der Polizei
setzte die Frau, die Kim Jong-nam beim Attentat angriff,
ein tödliches Nervengift namens VX ein.
Es kann zum Tod durch Ersticken führen.
Das ist ein sehr potentes Molekül.
Und die meisten dieser Moleküle könnten tödlicher sein als VX.
Viele davon gab es nie zuvor.
Als uns das bewusst wurde, dachten wir: "Was haben wir getan?"
Wir hatten die Büchse der Pandora geöffnet.
Ich sagte: "Stopp. Das reicht. Wir sind fertig.
Mach mir die Folien für die Präsentation."
Bei dem Experiment dachte ich:
"Was ist das Schlimmste, das passieren könnte?"
Jetzt denke ich: "Wir waren so naiv."
Am erschreckendsten ist, dass jeder das tun könnte.
Man muss nur einen Schalter umlegen.
Wie kontrollieren wir diese Technologie, bevor sie für etwas benutzt wird,
das derart zerstörerisch ist?
Im Mittelpunkt des Gesprächs über künstliche Intelligenz
und wie wir diese in der Gesellschaft einsetzen,
steht der Wettstreit, zwischen der Macht, mit der wir Technologien entwickeln,
und der Weisheit, die nötig ist, um sie zu beherrschen.
Es gibt offensichtliche moralische und ethische Implikationen,
wenn dasselbe Ding, das unsere Smartphones antreibt,
mit der Entscheidung betraut wird, ein Leben zu beenden.
Ich arbeite beim Future of Life Institute,
einer Gemeinschaft von Aktivisten aus der Wissenschaft.
Wir wollen zeigen,
dass die Beschleunigung der Automatisierung eine Kehrseite hat.
Wir wollen sicherstellen, dass die Technologien, die wir erschaffen,
sicher und ethisch genutzt werden.
Lasst uns über Einsatzregeln und einen Verhaltenskodex
von KI in unseren Waffensystemen sprechen.
Es gibt einsatzbereite Kriegs-Technologien,
die selbstständig töten können.
2021 veröffentlichten die Vereinten Nationen einen Bericht
über den möglichen Einsatz einer tödlichen autonomen Waffe in Libyen.
Laut Ausschuss der Vereinten Nationen, war eine Drohne im libyschen Bürgerkrieg
dazu programmiert, Ziele selbstständig anzugreifen.
Trifft dieser Bericht zu,
wäre das ein Wendepunkt für die Menschheit,
da es den Einsatz belegt,
bei dem eine KI die Entscheidung traf, ein Leben zu nehmen, nicht ein Mensch.
Fortschrittliche autonome Waffen
werden weltweit an verschiedenen Orten eingesetzt.
Es gab Berichte aus Israel.
Aserbaidschan nutzte autonome Systeme, um die armenische Luftabwehr anzugreifen.
Es kann stundenlang über dem Schlachtfeld kreisen,
um Dinge aufzuspüren,
auf die es sich ohne menschliches Zutun stürzen kann.
In letzter Zeit
wurden in der Ukraine verschiedene Videos gepostet.
Es ist unklar, in welchem Modus sie sich befanden.
Entschied ein Mensch, welche Ziele angegriffen wurden,
oder machte die Maschine das alleine?
Es wird den Zeitpunkt geben,
dieser mag schon in Libyen, der Ukraine oder anderswo gewesen sein,
zu dem eine Maschine selbst entscheidet, wen sie tötet.
Maschinen, die tödliche Aktionen gegen Menschen verüben,
ohne menschliches Zutun,
sind politisch inakzeptabel, moralisch abstoßend.
Ob die internationale Gemeinschaft
in der Lage ist, derartige Herausforderungen zu meistern,
ist fraglich.
Für die nahe Zukunft
zeichnet sich ein beängstigendes Bild ab.
Die Menge an Kapital und Personal,
die KI immer stärker
und vielseitig einsatzfähiger machen soll,
ist immens.
Oh mein Gott, dieser Typ.
Er weiß, er kann nicht gewinnen.
Löst KI Probleme, inspiriert mich das.
Eine Kamikaze-Aktion.
Die gleichen Taktiken und Verfahren eignen sich für echte Flugkörper.
Super Spiel.
Gut gemacht.
Es ist überraschend,
dass weiterhin darüber gesprochen wird, was KI nicht kann. Stimmt's?
"KI wird nie einen Schachweltmeister schlagen."
Ein IBM-Computer hatte ein Comeback
im zweiten Spiel gegen Schachweltmeister, Garry Kasparov.
Kasparov gab auf!
Sehe ich etwas, das meinen Verstand übersteigt,
macht mir das Angst. Das überstieg meinen Verstand.
Andere sagen:
"KI wird nie einen Go-Weltmeister schlagen."
Die menschliche Intuition ist KI zu überlegen,
um übertroffen werden zu können.
Go ist eines der kompliziertesten Spiele.
Die Anzahl aller möglichen Spielzüge
übersteigt die aller Atome im ganzen Universum.
Bei Google gab es ein Team namens DeepMind.
Sie schufen ein Programm namens AlphaGo,
um damit die besten Spieler der Welt zu schlagen.
Glückwunsch an…
-AlphaGo -AlphaGo.
Ein Computerprogramm schlug gerade einen 9 Profi-Dan.
Als nächste KI-Herausforderung wählte DeepMind StarCraft.
StarCraft ist wahrscheinlich das beliebteste Echtzeit-Strategiespiel.
AlphaStar wurde damit berühmt, Weltmeister zu besiegen.
AlphaStar rockt den Immortal Arc.
Weißt du was?
Diesen Kampf kann kein Profi gewinnen.
Das ist lächerlich.
Profi-Gamer sagten: "Die Taktik würde ich nie probieren.
Die Strategie würde ich nie probieren. Das ist nicht menschlich."
Das war mein Aha-Moment.
Ich merkte, jetzt ist es so weit.
Es gibt eine wichtige Technologie und die Chance, etwas zu bewirken.
Ich kannte nur die Probleme, mit denen ich als SEAL im Nahkampf konfrontiert war.
Einer meiner Freunde, ein F-18-Flieger, sagte zu mir:
"Bei den Kampfjets haben wir dasselbe Problem.
Die Kommunikation wird gestört.
Es gibt vermehrt Boden-Luft-Raketen,
die den Einsatz zu gefährlich machen."
Was wäre, wenn eine KI ein Kampfjet befehligt?
Willkommen bei den AlphaDogfight Trials. In wenigen Minuten beginnt das Halbfinale.
Nachdem DARPA, die Defense Advanced Research Projects Agency,
AlphaGo und AlphaStar gesehen hatte,
riefen sie die AlpgaDogfight-Wettkämpfe ins Leben.
Das will man von menschlichen Kampfpiloten sehen.
So sieht ein menschlicher Dogfight aus.
Ein Dogfight ist der Kampf zweier Jagdflugzeuge.
Wie ein Boxkampf am Himmel.
Vielleicht kennen manche den Film Top Gun.
Können wir ihnen entkommen?
Nicht ihren Raketen und Waffen.
Dann wird es ein Dogfight.
Einen Dogfight zu meistern kann acht bis zehn Jahre dauern.
Dafür eine KI zu entwickeln, ist eine sehr komplexe Aufgabe.
Frühere Versuche zur Autonomie und Dogfighting waren nicht sehr erfolgreich.
Wir dachten, maschinelles Lernen könnte das lösen.
Zuerst wusste die KI nichts von der Welt, in der sie sich befand.
Sie wusste weder, dass sie fliegt, noch was ein Dogfight war.
Auch nicht, was eine F-16 ist.
Sie wusste nur, welche Handlungen sie ausführen konnte
und begann, diese zu erforschen.
Das blaue Flugzeug trainiert erst seit kurzem.
Es wackelt hin und her,
fliegt sehr unberechenbar, weg von seinem Gegner.
Im weiteren Kampfverlauf
sieht man, wie Blau einen Schlachtplan entwickelt.
Es ist eher in der Lage, zu schießen.
Ab und zu sagte der Lern-Algorithmus:
"Hier ist ein Keks. Weiter so."
Wir können die Computerleistung nutzen
und viele KI-Agenten gleichzeitig trainieren.
Wie ein Basketballteam.
Anstatt immer wieder mit demselben Team zu spielen,
reisen wir um die Welt und spielen mit 512 Teams gleichzeitig.
Man wird sehr schnell sehr gut.
Wir konnten die Simulation rund um die laufen lassen,
und in 10 Monaten etwa 30 Jahre Pilotenausbildung stemmen.
Etwas, das kaum in der Lage war ein Flugzeug zu kontrollieren,
wurde zum eiskalten Attentäter.
Im Training traten wir nur gegen andere künstliche Intelligenz an.
Der direkte Kampf gegen Menschen war das ultimative Ziel.
Mein Name ist Mike Benitez,
ich bin Oberstleutnant in der US Air Force
und seit 25 Jahren im aktiven Dienst.
Ich hatte 250 Kampfeinsätze
und habe die Waffenschule absolviert,
die Air Force-Version von Top Gun.
Ich bin noch nie gegen KI geflogen.
Bin gespannt wie ich mich schlage.
Wir haben jetzt eine 1.800 Meter Offensive, Nase an Nase.
Los geht's.
Er ist weg.
Das ist sehr interessant.
-Tot. -Erwischt. Makelloser Sieg.
Zweite Runde.
Die KI manövriert mit solcher Präzision,
dass ich nicht mithalten kann.
Direkt in die Flugbahn.
Das war's.
Erwischt!
Wieder erwischt.
KI kennt keine Angst.
Es gibt ein emotionales Element im Cockpit, das eine KI nicht hat.
Eine der interessantesten Strategien unserer KI,
ist der Frontangriff.
Ein Mensch schießt meist von hinten,
weil es schwer ist, abgeschüttelt zu werden.
Frontalangriffe werden nicht gemacht, weil es eine Mutprobe ist.
Kommt man von vorne, werden aus 900 Metern schnell 150 Meter.
Man riskiert eine Kollision. Menschen machen so etwas nicht.
Die KI fürchtet den Tod nicht, außer man befiehlt es ihr.
Es ist, wie ein Kampf gegen einen Menschen,
für den Sicherheit keine Rolle spielt.
Den nächsten überlebt er nicht.
Er hat nicht genug Zeit.
Gute Nacht.
Ich bin tot.
Es ist demütigend,
zu wissen, dass ich nicht der Beste für diese Mission bin,
und das Ding mich eines Tages ersetzen könnte.
Wolkendecke und Sicht 1000 Meter.
Tausendfacher Ausgleich.
Mit diesem KI-gesteuerten Kampfjet,
ist der Sieg unerbittlich. Es dominiert.
Es geht nicht nur um einen Sieg mit Abstand.
Sondern: "Wie bekommen wir das in unser Flugzeug?" So mächtig ist es.
Es ist absehbar, dass KI eine F-16 steuern wird.
Und zwar schon bald.
Tritt man gegen einen KI-Piloten an, der 99,99999% Gewinnchancen hat,
hat man keine Chance.
Ist ein KI-Pilot unschlagbar,
was kann dann ein Team von 50 oder 100
oder 1000 KI-Piloten erreichen.
Swarming bezeichnet ein Team hochintelligenter Flugzeuge,
die zusammenarbeiten.
Sie teilen Informationen aus, wie ein Problem zu lösen ist.
Swarming ist eine bahnbrechende und transformierende Fähigkeit
für unser Militär und unsere Verbündeten.
Ziel wurde erfasst, die Drohnen verfolgen ihn.
Der Landeanflug beginnt.
Hauptziel der Schwarm-Forschung ist,
eine große Anzahl Drohnen
über einer Gegend abzusetzen, die schwer erreichbar oder gefährlich ist.
Das Army Research Laboratory unterstützt das Forschungsprojekt.
Um einen Ort zu ergründen,
der schwer erreichbar oder weitläufig ist,
scheint es logisch, einen Schwarm einzusetzen,
um die Reichweite von Personen zu erhöhen
und Informationen zu sammeln, die für den Einsatz wichtig sind.
Im Moment hat unser Einsatzschwarm
einzig den Befehl, das Zielobjekt zu erfassen.
Den Rest erledigen die Drohnen alleine.
Dank KI können sich die Roboter als Schwarm
dezentral bewegen.
In der Natur haben Schwärme
keinen Anführer, der vorgibt, was zu tun ist.
Das Verhalten jedes einzelnen Tieres
folgt einfachen Regeln.
Daraus entsteht kollektives Verhalten.
Das beeindruckende an Schwärmen in der Natur
ist die Anmut mit der sie sich bewegen.
Als wären sie dafür geschaffen, Teil der Gruppe zu sein.
Was wir erreichen möchten,
wie beim natürlichen Schwarm,
sind kollektive Entscheidungen.
Des Weiteren inspiriert uns
die Zuverlässigkeit und Widerstandskraft.
Ein Schwarm schwächelt nicht,
wenn ein Tier nicht tut, was es tun soll.
Selbst wenn einer der Agenten ausfällt oder versagt
oder seine Aufgabe nicht erfüllt,
macht der Schwarm weiter.
Das hätten wir gerne.
Im Kampf gibt es den Bedarf, feindliche Flugzeuge zu identifizieren.
Früher steuerte dafür eine Person einen Roboter.
Durch die zunehmende Autonomie
wird hoffentlich eine große Anzahl Roboter
von wenigen Menschen kontrolliert werden.
Wir sollten bis zu Tausend schaffen,
da jeder Agent selbstständig handlungsfähig ist,
und alles möglich ist.
Unser Lernen lässt sich anpassen.
Wir beschäftigen uns schon lange mit Schwarm-Simulationen.
Es wird Zeit, echte Flugkörper einzusetzen.
Drei Roboter sollen gleichzeitig über das Netzwerk betrieben werden.
Dann werden mehr Fähigkeiten hinzugefügt.
Wir wollen zunächst kleinere Systeme testen,
aber später dieselben Konzepte auf größere Systeme übertragen,
wie ein Kampfjet.
Wir reden viel darüber,
wie man einer kleinen Einsatztruppe die Kampfkraft eines Bataillons verleiht.
Oder einem Bataillon die Kampfkraft einer Brigade?
Mit Schwärmen ist das möglich.
Nutzt man die Macht von Swarming,
schafft man neue strategische Abschreckung
gegen militärische Angriffe.
Das Beste ist die Anzahl junger Männer und Frauen,
die wir retten werden, wenn wir das richtig anpacken.
Wir tauschen Maschinen
gegen Menschenleben.
Manche behaupten, autonome Waffen würden die Kriegsführung präziser
und menschlicher machen.
Aber es ist schwer vorherzusagen,
wie genau autonome Waffen die Kriegsführung verändern könnten.
Wie die Erfindung der Gatling-Waffe.
Richard Gatling war ein Erfinder.
Er sah verwundete Soldaten aus dem Bürgerkrieg zurückkehren
und wollte die Kriegsführung menschlicher machen.
Die Zahl der getöteten Soldaten sollte sich reduzieren,
indem sich die Zahl der Soldaten im Krieg reduzierte.
Er erfand die Gatling-Waffe, ein Maschinengewehr mit Handkurbel,
die das Abfeuern automatisierte.
Das erhöhte die Feuerkraft der Soldaten um das Hundertfache.
Oft führen Bemühungen, die Kriegsführung menschlicher zu machen,
zum Gegenteil.
Denken Sie an die Auswirkungen eines irrtümlichen Drohnenangriffs
in einer ländlichen Gegend,
der die lokale Bevölkerung gegen die USA
oder eine lokale Regierung aufbringt. Die angeblich Guten.
Nehmen Sie das mal 1.000.
Ein Waffensystem,
das billig und überschaubar ist, und keinen menschlichen Operator braucht,
verändert die Barrieren eines Konflikts drastisch.
Die Vorstellung einer Welt, in der Krieg allgegenwärtig ist, hält mich nachts wach.
Wir tragen nicht länger die menschlichen und finanziellen Kosten des Krieges,
da wir nichts mehr damit zu tun haben…
...wenn Menschen sterben.
Das Ganze verfolgt mich.
Ich brauchte nur ein Beispiel für den Missbrauch von KI.
Die unerwarteten Konsequenzen dieses einfachen Gedankenspiels
gingen viel zu weit.
KI IN DER ARZNEIMITTELFORSCHUNG:
MEHR SCHADEN ALS NUTZEN VERMEIDEN
Mein Vortrag
über giftige Moleküle, die von KI erschaffen wurden,
erstaunte das Publikum.
5.000 TREFFER WAREN VX-ANALOGE
Die nächste Entscheidung betraf die Veröffentlichung der Information.
Einerseits will man die Welt
vor so etwas warnen,
andererseits will man niemanden auf neue Ideen bringen.
Wir veröffentlichten,
um den Missbrauch von KI zu mindern,
bevor er eintritt.
DOPPELVERWENDUNG VON KI-GESTÜTZTER ARZNEIMITTELFORSCHUNG
WIE KI-TECHNOLOGIEN FÜR ARZNEIMITTELFORSCHUNG
FÜR BIOCHEMISCHE WAFFEN MISSBRAUCHT WERDEN KÖNNTE
Das Interesse der Öffentlichkeit war schockierend.
Wir können die Zahl der Seitenaufrufe sehen.
Bei normalen Artikeln haben wir, wenn wir Glück haben...
Ein paar Tausend Menschen lesen unsere Artikel über mehrere Jahre hinweg.
10.000 lasen diesen innerhalb einer Woche.
Dann 20.000, 30.000, 40.000.
Dann waren es bis zu 10.000 Menschen am Tag.
The Economist und die Financial Times berichteten über uns.
Radiolab meldete sich. Die kannte ich!
Dann geriet alles außer Kontrolle.
Bei den Tweets dachte man: "Kann das noch schlimmer werden?"
Warum haben sie das getan?
DIESE NERDS TÖTEN UNS ALLE.
Dann bekamen wir eine völlig unerwartete Einladung,
Im Weißen Haus wurde viel über den Artikel diskutiert,
und man wollte uns dringend sprechen.
Es ist eine unglaubliche Ehre,
so hochkarätige Leute zu treffen.
Dann merkt man:
"Das ist das Weiße Haus. Der Boss."
Wir stellten Open-Source-Datensätze zusammen…
In nur sechs Stunden generierte das Modell über 40.000…
Sie wollten wissen, wie viel Rechenleistung nötig war.
Wir sagten, keine besondere.
Ein normaler, sechs Jahre alter Mac reicht.
Das haute sie um.
Die für chemische Kampfstoffe zuständigen Regierungsbehörden,
hatten keine Ahnung von diesem Potenzial.
Unser Kochbuch für diese chemischen Waffen
könnte in den falschen Händen,
zu Entsetzlichem führen.
Das muss begriffen werden.
Wir müssen Vorschriften einführen,
oder die Technologie so einschränken, dass sie nicht missbraucht werden kann.
Denn das Tötungspotential…
...ist erschreckend.
Die Frage der Ethik von KI richtet sich an die Gesellschaft,
nicht an die Ingenieure, Technologen oder Mathematiker.
Jede neue Technologie, jede Erfindung
fällt letztlich in den Bereich, der gesellschaftlichen Verantwortung.
Im Moment sagt das Verteidigungsministerium:
"Der Einzige, der bestimmt, wer auf dem Schlachtfeld getötet wird,
ist ein Mensch. "
Eine Maschine kann töten,
aber nur unter menschlicher Verantwortung.
Daran wird sich nichts ändern.
Man garantiert uns, dass diese Technologie sicher ist.
Das US-Militär hat keinen vertrauenswürdigen Ruf
mit Drohnen-Kriegsführung.
Geht es darum, dem US-Militär bei KI zu vertrauen,
spricht die Vergangenheit für sich.
Die Vorschriften des US-Verteidigungsministeriums
zum Einsatz autonomer Waffen verbieten kein einziges Waffensystem.
Selbst wenn Militärs keine autonomen Waffen wollten,
könnten sie Maschinen mehr Entscheidungsgewalt übergeben,
um wettbewerbsfähig zu bleiben.
Das könnte zu automatisierten Entscheidungen führen,
die nicht gewollt sind.
Wladimir Putin sagte: "Wer bei KI führt, wird die Welt regieren."
Präsident Xi hat deutlich gemacht, dass KI die Technologie ist,
die China dominieren will.
Wir befinden uns in einem technologischen Wettbewerb.
Leitplanken werden diskutiert,
und das ist auch gut so.
Aber es gibt einen echten Wettstreit über die Vormachtstellung bei KI.
Für unsere Gegner, ob China, Russland oder der Iran,
wird es keine Rolle spielen, wie unsere KI-Vorschriften lauten.
Es wird viel über KI-Vorschriften diskutiert,
doch ich würde von Regierungsführern lieber hören:
"Wie schnell können wir das machen?
Was brauchen wir? Lasst uns loslegen."
JAHRESTAGUNG UND AUSSTELLUNG
Wir sind auf der größten Messe der Association of the US Army des Jahres.
Jeder, der ein Produkt oder eine Technologie ans Militär verkauft,
stellt hier aus.
Auf der Tyndall Air Force Base patrouillieren vier unserer Roboter
24 Stunden am Tag, sieben Tage die Woche.
Wir bieten alles. Kameras, Sensoren, was immer Sie brauchen.
Manipulatorarme. Ausschließlich, um den Bedarf des Kunden zu decken.
Was, wenn der Feind KI einführt?
Ein Kampfsystem, das schneller denkt, schneller reagiert,
als der Mensch? Darauf müssen wir vorbereitet sein.
Wir trainieren unsere Systeme, feindliche Informationen zu sammeln,
feindliche Ziele zu erfassen, mit Menschen, die Tötungen verantworten.
-Herr General. -Wie geht es Ihnen?
Gut, Sir. Und Ihnen?
Niemand investiert mehr in KI-Piloten als wir.
Unser KI-Pilot heißt Hivemind.
Dieser wurde mit unserem Quadcopter Nova kombiniert.
Er erforscht Gebäude vor den Spezialeinheiten
und der Infanterie.
Wir kombinieren Hivemind mit V-BAT-Drohnen.
Wir können Hunderte von Teams bilden.
Ob Taiwanstraße oder Ukraine,
als Abschreckungsmaßnahme.
Ich bin sehr stolz darauf.
-Ok. Danke. -Danke, Herr General.
KI-Piloten sollten allgegenwärtig sein. Das sollte 2025, 2030 der Fall sein.
Sie werden sich schnell weltweit bei allen Streitkräften ausbreiten.
Was ist mit dem rumänischen Militär? Deren Drohnen-Jungs?
Hightech im Militär?
Der Bau des KI-Piloten hat bisher eine halbe Milliarde Dollar gekostet.
Wir werden in den nächsten fünf Jahren eine weitere Milliarde ausgeben.
Deswegen erhalten wir die teuersten US-Entwicklungsaufträge.
Toll.
Beeindruckend. Kann es bewaffnet werden?
Noch nicht.
In der Zukunft bestimmt.
Für unsere Kunden ist es eine Art Lkw. Für uns ist es ein intelligenter Lkw,
der sehr viel kann.
-Danke. -Klar.
Sie hören von mir.
In zehn Jahren
wird man sehen, dass KI und Autonomie den gesamten Markt dominiert haben.
Von KI und Autonomie unterstützte Großmächte,
werden die ohne KI und Autonomie dominieren, vernichten und zerstören.
Es wird sein wie Pferde gegen Panzer,
Schwerter gegen Maschinengewehre.
Es wird nicht einmal knapp sein.
Sie wird in jedem Kriegsgebiet allgegenwärtig sein.
Auf taktischer Ebene,
strategischer Ebene,
mit unvorstellbarer Geschwindigkeit.
Die Befehlshaber sind mit Informationen überfordert.
Bilder von Satelliten, Drohnen, Sensoren.
KI kann dabei helfen,
schneller zu verstehen, was passiert.
"Welche Entscheidungen muss ich treffen?"
KI berücksichtigt alle Faktoren,
die bestimmen, wie Krieg geführt wird,
entwirft Strategien…
...und gibt Empfehlungen, wie man gewinnt.
ZENTRUM FÜR INNOVATION
Für uns bei Lockheed Martin und unseren Kunden, das Verteidigungsministerium,
ist KI die Schlüsseltechnologie
für Führung und Kontrolle.
Die Ausbreitungsrate ist im Schnitt zwei Meter pro Sekunde.
Der Bereich hat etwa 280 Hektar.
Der Nebel des Krieges ist für uns Realität.
Es gibt Parallelen
zu den Entscheidungen, die bei Waldbränden getroffen zu müssen.
Das Washburn-Feuer befindet sich nördlich der Stadt Wawona.
Man trifft Entscheidungen mit unvollständigen Daten.
Wie hilft uns KI beim Nebel des Krieges?
Waldbrände sind sehr chaotisch.
Sehr komplex.
KI soll uns dabei helfen,
Entscheidungen zu treffen.
Der Cognitive Mission Manager ist ein Programm,
das Infrarot-Videos aus der Luft aufnimmt.
durch unsere KI-Algorithmen auswertet,
um die Feuerentwicklung vorherzusagen.
In der Zukunft
wird der Cognitive Mission Manager
tausende Szenarien simulieren,
um den effektivsten Einsatz von Ressourcen zu empfehlen,
um Brandherde zu unterdrücken.
Es wird sagen: "Löschen Sie hier mit einem Hubschrauber.
Bodentruppen, die Gestrüpp entfernen,
und Feuerwehrleute, die Wasser spritzen,
müssen zu den Orten mit höchster Priorität.
Diese Entscheidungen können schneller
und effizienter getroffen werden.
KI ist einzig dazu da, damit wir
mit der sich ständig verändernden Umwelt Schritt halten können.
Es gibt viele Parallelen zu dem,
was wir von Lockheed Martin auf der Verteidigungsseite kennen.
Das Militär nutzt KI und einzelne Waffensysteme nicht nur,
um Entscheidungen bezüglich Zielen und Töten zu treffen.
KI wird in den gesamten militärischen Entscheidungsprozess integriert.
Die Armee hat ein riesiges Projekt namens Project Convergence.
Die Navy hat Overmatch.
Die Air Force hat das Advanced Battle Management System.
Das Verteidigungsministerium versucht herauszufinden:
"Wie kombinieren wir das alles,
damit wir schneller sind als unser Gegner
und im Vorteil sind? "
Ein KI-Kampfmanager wäre ein hochrangiger General,
der das Gefecht leitet.
Bei der Befehligung großer Truppen unterstützt.
Die Aktionen aller Waffen koordiniert.
Schneller als jeder Mensch.
In den letzten 70 Jahren
schufen wir das modernste Militär der Welt.
Jetzt stehen wir vor der Entscheidung, ob wir die Kontrolle darüber
an einen Algorithmus abgeben.
Die Konsequenzen dieser Entscheidung
könnten die volle Bandbreite unserer Militärarsenale auslösen.
Nicht ein Hiroshima. Hunderte.
Wir müssen jetzt handeln,
denn das Zeitfenster, um das Risiko einzudämmen, schließt sich.
Wir beginnen den heutigen Nachmittag mit internationalen Sicherheitsproblemen
durch neue Technologien
im Bereich tödlicher autonomer Waffensysteme.
Innerhalb der Vereinten Nationen gibt es Gespräche
über die Bedrohung durch tödliche autonome Waffen
und unser Verbot für Systeme, die KI nutzen, um Menschen ins Visier zu nehmen.
Der Konsens unter den Technologen ist klar und deutlich.
Wir sind gegen autonome Waffen, die Menschen zum Ziel haben.
Jahrelang haben Staaten dabei geholfen,
das Problem tödlicher autonomer Waffensysteme zu diskutieren.
Es geht um ein gemeinsames Sicherheitsgefühl.
Natürlich ist es nicht einfach.
Manche Länder, vor allem Militärmächte,
möchten vornean stehen,
damit sie ihren Feinden voraus sind.
Doch alle müssen zustimmen, um etwas zu erreichen.
Mindestens ein Land wird Einspruch erheben.
USA und Russland haben deutlich gemacht,
dass sie gegen einen Vertrag sind, der autonome Waffen verbietet.
Schaut man, wie viele an der Weiterentwicklung von KI arbeiten,
sind das eine Menge.
Schaut man, wie viele daran arbeiten, dass KI sicher ist,
sind das viel weniger.
Aber ich bin auch optimistisch.
Das Übereinkommen über biologische Waffen
fand mitten im Kalten Krieg statt.
Trotz der Spannungen zwischen der Sowjetunion und den USA.
Es wurde erkannt, dass die Entwicklung biologischer Waffen
weder in ihrem Interesse war,
noch im Interesse der ganzen Welt.
Die Dynamik des Wettrüstens zieht Geschwindigkeit Sicherheit vor.
Was aber eine große Rolle spielt, ist,
dass schneller Fortschritt zu teuer wird.
Wir können nicht isoliert Dinge entwickeln
und auf den Markt bringen, ohne darüber nachzudenken, was daraus werden kann.
Wir müssen diesen Atombomben-Moment verhindern.
Im Rennen um KI steht viel auf dem Spiel.
Ich glaube nicht, dass viele die globale Stabilität schätzen,
die durch eine überlegene Militärmacht
seit 75 Jahren herrscht.
Die USA und unsere Alliierten müssen
die gegnerische KI übertreffen.
Im Krieg wird niemand Zweiter.
China will bis 2030 bei KI weltweit führend sein.
Manche sagen, Amerika verliert das Wettrennen…
Sie werden die Einführung von KI beschleunigen,
um den militärischen Wettbewerbsvorteil zu sichern.
Wir treiben die Technologie voran.
Unklar ist, wie weit wir gehen werden.
Kontrollieren wir die Technologie oder kontrolliert sie uns?
Es gibt keinen zweiten Versuch.
Ist der Geist einmal aus der Flasche, ist er raus.
Es ist sehr schwierig, ihn wieder hineinzubekommen.
Wenn wir jetzt nicht handeln, ist es zu spät.
Vielleicht ist es das schon.
Untertitel von: Sabine Wabnitz