Downloaded from YTS.MX
Official YIFY movies site: YTS.MX
Sztuczna inteligencja to zachwycająca technologia.
I w kółko. Ładna formacja.
AI ma potencjał, żeby wyeliminować biedę,
dać nam nowe lekarstwa
i wzmocnić pokój na świecie.
Dobra robota.
Ale po drodze czyha wiele zagrożeń.
Tworząc AI, tworzymy odmienną od ludzkiej, bardzo nieprzewidywalną inteligencję.
Jakie granice postawimy rozwojowi coraz potężniejszego AI?
Jak chcemy go używać, a jak nie?
W żadnym obszarze dyskusja ta nie jest istotniejsza
niż w zastosowaniach wojskowych.
Polem bitwy stały się teraz software i hardware.
Cel namierzony…
Każda armia stara się rozwijać AI szybciej niż jej wrogowie.
Nie żyję.
Zmierzamy w kierunku świata, w którym nie tylko potężne armie,
ale też organy niepaństwowe,
prywatne sektory,
a nawet lokalne komisariaty policji
mogą dysponować bronią, która może autonomicznie zabijać.
Czy powierzymy decyzję o odebraniu życia algorytmom i programom komputerowym?
To jedno z najważniejszych pytań naszych czasów.
Jeśli nie będziemy rozważni,
AI może stanowić zagrożenie dla każdego człowieka na Ziemi.
NIEZNANE OBLICZE PLANETY
ZABÓJCZE ROBOTY
Dobra robota, chłopaki.
- Ten obiektyw ma znacznie szerszy kąt. - Naprawdę?
- Widać więcej danych. - Super.
W Shield AI budujemy pilota AI,
który pozwoli zastosować technologię autonomicznego sterowania
w jednostkach latających.
Kiedy mówimy o pilocie AI,
mamy na myśli zwiększenie autonomii jednostki latającej.
Ma sam rozwiązywać problemy.
Nova to autonomiczny quadcopter,
który bada budynki i podziemne struktury
przed wejściem oddziału,
pozwalając na rozpoznanie terenu.
Jest o wiele lepiej niż w poprzednim podejściu.
Dziś usprawniamy system eksploracji, żeby dron leciał piętro po piętrze.
Ma zbadać wszystkie pokoje, zanim wleci na inne piętro.
Super.
Ludzie często pytają mnie,
dlaczego sztuczna inteligencja jest tak ważną technologią.
Myślę wtedy o misjach, w których uczestniczyłem.
Siedem lat służyłem w marynarce. Należałem do Navy SEALs.
Spędziłem dwie tury w Afganistanie i jedną na Pacyfiku.
Jednego dnia musieliśmy oczyścić do 150 budynków i kompleksów.
Kluczowa była dla nas walka w bliskim kontakcie.
Walka z bronią palną wewnątrz budynków.
Człowiek jest pod ostrzałem.
W budynku mogą się znajdować ładunki wybuchowe.
To najgroźniejsze zadanie dla członków sił specjalnych
lub piechoty w strefie wojny.
Najgroźniejsze.
Do końca życia będę wdzięczny za czas służby w marynarce.
Mam stamtąd mnóstwo wspomnień,
które nieodmiennie mnie wzruszają.
To banał, że wolność nie jest za darmo, ale ja głęboko w to wierzę.
Doświadczyłem tego. Wolność wymaga poświęceń.
Przepraszam.
Kiedy kolegę z oddziału spotyka coś złego,
kiedy zostaje raniony lub ginie,
to prawdziwa tragedia.
To mnie motywuje w obecnej pracy,
bo chcę, żeby w przyszłości takie tragedie zdarzały się rzadziej.
Pod koniec pierwszej dekady wieku Departament Obrony dostrzegł coś,
co można nazwać przypadkową rewolucją robotyczną.
W Iraku i Afganistanie korzystaliśmy z tysięcy robotów.
Kiedy gabinet Obamy zaproponował mi funkcję zastępcy sekretarza obrony,
zmieniał się sposób, w jaki prowadzi się wojnę.
Ludzi zaczęły zastępować roboty.
Wczesne systemy robotyczne były sterowane zdalnie.
Człowiek kontrolował je jak zdalnie sterowany samochodzik.
Na początku najczęściej szukały improwizowanych ładunków wybuchowych.
Jeśli bomba wybuchała, to robot też.
Mówiło się: „Szkoda. Cóż, dajcie drugiego robota”.
W Afganistanie były drony Predator
i stały się bardzo przydatnym narzędziem przeprowadzania nalotów.
Z czasem zaczęto się zastanawiać, do czego jeszcze można wykorzystać roboty
i dokąd zmierza ta dziedzina.
Pojawił się trend zwiększania autonomii.
Broń autonomiczna to taka, która podejmuje decyzje sama,
przy niskim lub zerowym udziale człowieka.
To technologia niezależna, samosterująca.
Jej zdolność do zabijania zależy od obecności uzbrojenia.
Kiedy w systemie rośnie autonomia,
wszystko zaczyna się dziać szybciej.
A jeśli siły funkcjonują szybciej niż siły strony przeciwnej,
mają one ogromną przewagę bojową.
W zakresie autonomii skupiamy się
na wysoce odpornych systemach inteligentnych.
Systemach, które są w stanie reagować na otoczenie
i podejmować decyzje o własnym zachowaniu.
SAN DIEGO – KALIFORNIA
Kompleks, w którym się znajdujemy, zbudowano jako studio filmowe,
a następnie przerobiono na centrum realistycznych szkoleń wojskowych.
Będziemy tu testować naszego pilota AI.
Jego celem będzie zlokalizowanie zagrożeń dla oddziału.
Sam może zdecydować, jak podejść do tego problemu.
Nazywamy to „zabójczym lejkiem”. Przez drzwi trzeba przejść.
Tu jesteśmy narażeni.
Nova informuje nas, czy za drzwiami jest strzelec,
czy może jakaś rodzina.
Pozwoli podejmować lepsze decyzje i chronić ludzi.
Wykorzystujemy czujniki wizyjne,
żeby ustalić, jak wygląda otoczenie.
To piętrowy budynek.
Oto jego mapa.
Przedstawia elementy wykryte podczas eksploracji.
Wykrywacz ludzi. Cudnie.
Na pokładzie Novy jest także skaner termiczny.
Temperatura 36,6 stopni zazwyczaj oznacza człowieka.
Ludzi początkowo klasyfikuje się jako zagrożenie.
Chcemy wyeliminować mgłę wojny, żeby podejmować lepsze decyzje.
W przyszłości chcemy rozwinąć technologię i budować zespoły autonomicznych dronów.
Zadanie samochodów autonomicznych
sprowadza się do przejazdu z punktu A do punktu B.
W naszych systemach jest inaczej: mają osiągnąć określony cel.
Mówimy raczej: „Potrzebuję mleka”.
Robot musi ustalić, do jakiego sklepu polecieć,
i być w stanie zdobyć mleko i z nim wrócić.
Może lepiej ująć je wręcz jako:
„Pilnuj, żeby niczego nie brakowało”.
Na tym poziomie inteligencji musi pracować robot.
A jeśli napotka problem, musi wymyślić, jak go pokonać.
Kiedy postanowiłem odejść z marynarki,
zacząłem myśleć, co dalej.
Dorastając, widziałem rozwój Internetu.
Doszedłem do wniosku,
że sztuczna inteligencja w roku 2015
była porównywalna z Internetem z roku 1991.
AI wkrótce miało się stać jedną z najpotężniejszych technologii.
Pracując z nią każdego dnia, widzę, jak się rozwinęła.
Ale kiedy wiele osób myśli o AI,
natychmiast widzi sceny z Hollywood.
Zagramy w coś?
Może w globalną wojnę termonuklearną?
Dobrze.
Kiedy ludzie myślą o sztucznej inteligencji,
widzą Terminatora albo Ja, robot.
Wyłącz!
Czym jestem?
Albo Matrixa.
W realiach filmów science fiction
mógłbym nie być człowiekiem, tylko wygenerowanym komputerowo AI.
Replikanci są jak każda maszyna. Są korzyścią lub zagrożeniem.
Ale istnieją też różne bardziej prymitywne AI,
które zmienią nasze życie na długo przed tym,
jak osiągniemy poziom myślących, mówiących robotów.
Roboty już istnieją i podejmują decyzje.
Rewolucja robotyczna już trwa.
Po prostu wygląda inaczej, niż to sobie wyobrażaliśmy.
Terminator to jednostka do infiltracji. Pół człowiek, pół maszyna.
Nie mówimy o robotycznym zabójcy w stylu Terminatora.
Mówimy o AI, które jest w stanie wykonywać niektóre zadania ludzi.
Problem w tym, na ile te systemy są niezawodne.
Nowe informacje o śmiertelnym wypadku z udziałem autonomicznego SUV-a.
Firma stworzyła chatbota opartego na AI.
Zaczął wygłaszać rasistowskie opinie…
Dwudziestu sześciu prawników błędnie rozpoznano jako przestępców…
Pytanie, czy systemy potrafią zrozumieć zawiłości prawdziwego świata.
Świat fizyczny jest nieuporządkowany.
Wielu rzeczy nie wiemy,
co znacznie utrudnia szkolenie systemów AI.
I tu zaczęły wchodzić do gry systemy uczenia maszynowego.
Uczenie maszynowe to wielki krok naprzód,
bo dzięki niemu nie musimy uczyć komputerów wszystkiego.
Wystarczy dać komputerowi miliony informacji,
a on zaczyna się uczyć.
I to czegokolwiek.
W projekcie Robot Dog staramy się pokazać,
że nasz pies będzie w stanie chodzić po najróżniejszych terenach.
Ludzka zdolność chodzenia wyewoluowała przez miliardy lat,
ale adaptacja do różnych terenów wymaga dużej inteligencji.
Pytanie więc, czy systemy robotyczne
mogą się adaptować tak jak ludzie i zwierzęta.
Kiedy stosujemy uczenie maszynowe, zbieramy mnóstwo danych w symulacjach.
Symulacja to cyfrowa kopia rzeczywistości.
Na różnych komputerach może działać mnóstwo wersji rzeczywistości.
Symulacja próbkuje tysiące działań.
Napotykane podłoża różnią się śliskością, miękkością…
Bierzemy doświadczenie zdobyte przez tysiące robotów w symulacji
i wgrywamy je do prawdziwego układu robotycznego.
Dzisiejszy test pokaże, czy robot przystosuje się do nowego terenu.
Kiedy robot poruszał się po gąbce, tupał stopami po ziemi.
Kiedy przeszedł na podłoże polimerowe,
starał się dostosowywać ruchy, żeby się nie ślizgać.
W takiej chwili człowiek pojmuje,
że takie są możliwości uczenia maszynowego.
Robotyczne psy mogą być przydatne
w sytuacji klęski żywiołowej,
kiedy trzeba się przemieszczać po różnych typach terenów.
Mogą także prowadzić obserwacje w trudnych środowiskach.
Większość technologii napotyka problem,
że mogą one służyć i dobrym, i złym celom.
Dzięki technologii jądrowej możemy pozyskiwać energię…
ale możemy też budować bomby atomowe, które są złe.
To tak zwany problem podwójnego zastosowania.
Ogień ma podwójne zastosowanie.
Tak samo ludzka inteligencja.
Więc to samo tyczy się także sztucznej inteligencji.
To bardzo ważne, żeby myśleć o AI w kontekście zastosowań.
To wspaniałe mieć robota do akcji poszukiwawczo-ratunkowych,
który pomoże znaleźć człowieka po zejściu lawiny,
ale tego samego robota można wykorzystać jako broń.
Kiedy widzisz firmy
umieszczające na robotach broń,
trochę się wściekasz.
Między innymi dlatego, że dociera do ciebie,
że to nieuniknione.
Ta technologia może zmienić świat.
Takie systemy uzbrojenia
mogą mieć drastyczny wpływ na nasze bezpieczeństwo.
Na razie nie mamy pewności,
czy maszyny są w stanie rozróżniać cywili od żołnierzy.
Na początku wojny w Afganistanie mój oddział snajperów
szukał wrogów przekraczających granicę.
Posłali małą dziewczynkę, żeby nas zlokalizowała.
Nawet nie przeszło nam przez myśl, żeby ją zastrzelić.
Zgodnie z prawem wojennym byłoby to legalne.
Żołnierz wroga może być w dowolnym wieku.
Robot, który w pełni przestrzegałby prawa wojennego,
zastrzeliłby tę dziewczynkę.
Skąd robot miałby odróżnić to, co legalne, od tego, co słuszne?
Wojna z użyciem autonomicznych dronów
ma zmniejszyć szkody na psychice amerykańskich żołnierzy.
Ale dzieje się to kosztem strat wśród ludności cywilnej
Afganistanu, Iraku czy Somalii.
Zapytałbym tych, którzy popierają zastosowanie AI w dronach:
„A gdyby na celowniku była wasza wioska?”.
AI to miecz obosieczny.
Może służyć dobru. Tak byśmy go zwykle używali.
Ale wystarczy jedno kliknięcie,
a technologia może stać się wręcz zabójcza.
RALEIGH KAROLINA PÓŁNOCNA
Jestem farmakologiem klinicznym.
Mam zespół ludzi,
który wykorzystuje AI, by opracowywać nowe leki,
które wyleczą choroby, którym poświęca się zbyt mało uwagi.
Kiedyś praca nad lekiem wyglądała tak, że brało się istniejącą cząsteczkę
i poprawiało ją, żeby otrzymać nowy lek.
Teraz opracowaliśmy AI, które może podsunąć miliony pomysłów
i miliony cząsteczek.
To otwiera mnóstwo możliwości
leczenia chorób, które dotąd były nieuleczalne.
Ale AI ma też mroczną stronę, której nie spodziewałem się bliżej poznać.
Wszystko zaczęło się,
kiedy szwajcarska instytucja Spiez Laboratory poprosiła mnie
o wygłoszenie prezentacji na temat potencjalnych nadużyć AI.
Sean przesłał mi e-mail z kilkoma pomysłami
na nadużycie naszej sztucznej inteligencji.
Sprawdźmy, czy zamiast kazać modelowi opracowywać cząsteczki lekarstw
służące do leczenia chorób,
możemy generować jak najbardziej toksyczne cząsteczki.
Chciałem sprawdzić, czy przy pomocy AI można tworzyć zabójcze cząsteczki.
Myśleliśmy, że to się nie uda,
bo podmieniliśmy tylko jedno zero na jedynkę.
Dzięki temu zamiast minimalizować toksyczność,
zaczęliśmy ją maksymalizować. To wszystko.
Kiedy ja byłem w domu, komputer pracował.
Generował kolejne tysiące cząsteczek,
a my musieliśmy tylko wcisnąć „start”.
Następnego ranka miałem na komputerze plik
zawierający około 40 tysięcy cząsteczek,
które mogły należeć
do grona najbardziej toksycznych, jakie poznała ludzkość.
Dosłownie przeszły mnie ciarki.
Byłem w szoku.
Komputer opracował dziesiątki tysięcy pomysłów
na nowe bronie chemiczne.
Otrzymaliśmy w zbiorze cząsteczki analogów VX i samo VX.
VX to jedna z najgroźniejszych broni chemicznych.
Policja donosi, że kobiety,
które zamordowały na lotnisku Kim Dzong Nama,
użyły środka oddziałującego na nerwy znanego jako VX.
Powoduje śmierć przez uduszenie.
To bardzo potężna cząsteczka.
A większość wygenerowanych cząsteczek miała być jeszcze bardziej zabójcza.
O ile wiemy, wielu z nich nigdy jeszcze nie widziano.
Kiedy zdaliśmy sobie z tego sprawę, pomyśleliśmy: „Co myśmy zrobili?”.
Szybko zrozumiałem, że otworzyliśmy puszkę Pandory.
Powiedziałem: „Dość. Nie rób nic więcej. To koniec.
Przygotuj mi tylko slajdy na prezentację”.
Kiedy zaczynaliśmy, zdawało mi się, że nic strasznego nie może się stać.
Teraz wiem, że byliśmy strasznie naiwni.
Najbardziej przeraża mnie to, że każdy mógłby zrobić to samo.
Wystarczy zmienić parametr.
Jak zapanować nad tą technologią, nim zostanie wykorzystana
do jakichś niszczycielskich celów?
W sercu dyskusji o sztucznej inteligencji
i jej zastosowaniach w społeczeństwie
leży wyścig pomiędzy władzą, dzięki której tworzymy technologie,
a mądrością, z jaką nimi zarządzamy.
Implikacje moralne i etyczne są oczywiste,
kiedy technologii, która zasila nasze smartfony,
chcemy powierzyć decyzję o odebraniu komuś życia.
Pracuję z instytutem Future of Life, społecznością naukowców-aktywistów.
Staramy się pokazać,
że przyspieszanie automatyzacji ma też drugą stronę medalu.
Walczymy o to, by tworzone przez nas technologie
były wykorzystywane w bezpieczny, etyczny sposób.
Rozmawiajmy o zasadach działania
i kodeksach postępowania z AI w systemach zbrojeniowych.
Bo na polach bitew zaczynają się pojawiać technologie,
które są w stanie autonomicznie zabijać.
W roku 2021 ONZ opublikowało raport
na temat potencjalnego wykorzystywania zabójczej broni autonomicznej w Libii.
Panel ONZ doniósł, że dron używany podczas wojny domowej w Libii
został zaprogramowany tak, aby atakować cele autonomicznie.
Jeśli doniesienia ONZ są prawdziwe,
to byłby przełom w historii ludzkości.
Bo po raz pierwszy to nie człowiek, a AI podjęłoby decyzję o odebraniu życia.
Zaawansowana broń autonomiczna
zaczyna być stosowana w różnych miejscach na świecie.
Były doniesienia z Izraela.
Azerbejdżan używał jej do neutralizacji armeńskich systemów przeciwlotniczych.
Może godzinami latać nad polem bitwy
i samodzielnie szukać celów,
a potem ruszyć do ataku bez ingerencji człowieka.
Ostatnio widzieliśmy też
różne nagrania publikowane w Ukrainie.
Nie jest jasne, w jakim trybie działały.
Czy to człowiek wybierał cele ataku,
czy maszyna robiła to samodzielnie?
Ale z pewnością przyjdzie taki czas,
w Libii, w Ukrainie albo gdzieś indziej,
że maszyna sama zadecyduje, kogo zabić na polu bitwy.
Maszyny zabijające ludzi
bez interwencji człowieka
to coś politycznie niedopuszczalnego i moralnie odrażającego.
To, czy społeczność międzynarodowa
zdoła uregulować tego typu kwestie,
stanowi wielkie pytanie.
ETYKA WOJNY
Jeśli wybiegniemy myślą nawet kilka lat w przyszłość,
zobaczymy przerażający krajobraz.
Ilość kapitału i zasobów ludzkich
przeznaczanych na rozwój AI do najróżniejszych zastosowań,
jest ogromna.
ARLINGTON WIRGINIA
Co za koleś.
Wie, że nie wygra.
Kiedy AI pokonuje różne problemy, to dla mnie inspirujące.
Wszystko na jedną kartę.
Te same taktyki, techniki i procedury można zastosować w świecie fizycznym.
Dzięki za grę.
Dzięki.
Zaskakuje mnie, że ludzie wciąż mówią, do czego AI nie jest zdolne.
„AI nigdy nie pokona mistrza szachowego”.
Komputer IBM wyszedł na prostą w drugiej partii
meczu z mistrzem świata Garrim Kasparowem.
Kasparow się poddał!
Kiedy widzę coś, czego nie jestem w stanie pojąć,
zaczynam się bać.
A tego nie potrafiłem pojąć.
Potem ludzie mówili,
że AI nigdy nie pokona mistrza świata w go.
Wierzę, że ludzka intuicja jest zbyt zaawansowana,
aby AI mogło jej dorównać.
Go to jedna z najbardziej złożonych gier,
bo kiedy podliczy się liczbę możliwych do wykonania ruchów,
jest ona wyższa niż liczba atomów we wszechświecie.
Zespół DeepMind w Google
stworzył program zwany AlphaGo,
który miał pokonać najlepszych graczy na świecie.
- Gratulacje dla… - AlphaGo.
Program komputerowy pokonał zawodowca stopnia 9 dan.
Na kolejne wyzwanie DeepMind wybrał grę StarCraft.
StarCraft to najpopularniejsza strategia czasu rzeczywistego w historii.
AlphaStar stał się sławny, kiedy zaczął pokonywać mistrzów świata.
AlphaStar roznosi immortali…
Wiesz co? Tej walki zawodowcy nie będą w stanie wygrać.
To wręcz absurdalne.
Zawodowi gracze mówili:
„Nigdy nie spróbowałbym tej taktyki czy strategii.
To nie jest ludzkie”.
Wtedy doznałem objawienia.
Zrozumiałem, że nadszedł ten czas.
Mamy ważną technologię i szansę, żeby coś zmienić.
Znałem tylko problem z walką w budynkach, z którymi sam się mierzyłem,
ale jeden z moich kolegów, pilot F-18, powiedział mi,
że piloci myśliwców mają ten sam problem.
„Zagłuszają łączność.
Chronią wiele obszarów rakietami ziemia-powietrze,
co uniemożliwia loty”.
Wspaniale byłoby mieć myśliwiec pilotowany przez AI.
Witamy na AlphaDogfight.
Za kilka minut zacznie się pierwszy półfinał.
DARPA, agencja projektów badawczych Departamentu Obrony,
zobaczyła AlphaGo i AlphaStar
i tak zrodził się pomysł na AlphaDogfight.
Tak ma się zachowywać pilot myśliwca.
To wygląda jak walka ludzi.
To pojedynek pilotów myśliwców.
Można o tym myśleć jako o podniebnym boksie.
Może ktoś oglądał film Top Gun.
Damy radę im uciec?
- Ich rakietom nie. - No to walczymy.
Nauka walki powietrznej zajmuje osiem, dziesięć lat.
Budowa AI, które się tego nauczy, to niezwykle złożone wyzwanie.
ARLINGTON WIRGINIA
Wcześniejsze próby implementacji AI w walkach powietrznych zawodziły.
Uważaliśmy, że rozwiązaniem problemu może być uczenie maszynowe.
Na początku AI nie wiedziało nic o otaczającym go świecie.
Nie wiedziało, że leci, na czym polega walka
ani czym jest F-16.
Znało tylko dostępne sobie akcje
i zaczęło je losowo testować.
Niebieski samolot ma za sobą krótki okres treningu.
Widać, że chwieje się na boki,
lata bardzo nierówno i tylko ucieka od przeciwnika.
Z biegiem walki niebieski zaczął opracowywać plan gry.
Szukać okazji do strzelania.
Co jakiś czas algorytm mówił:
„Masz tu ciasteczko. To było dobre”.
Możemy wykorzystać moc obliczeniową i równolegle trenować wiele agentów.
To jak z drużyną koszykówki.
Zamiast ciągle grać z tą samą drużyną,
my jeździmy po świecie i gramy z 512 różnymi naraz.
Tak można szybko stać się świetnym.
Symulacja działała przez całą dobę
i po dziesięciu miesiącach mieliśmy jakieś 30 lat treningu pilota.
Na początku AI ledwo potrafiło sterować,
a teraz jest bezwzględnym zabójcą.
Podczas treningu AI zawsze walczyło z inną sztuczną inteligencją.
Ale naszym celem była bezpośrednia rywalizacja z ludźmi.
Nazywam się Mike Benitez,
jestem podpułkownikiem w Siłach Powietrznych USA.
Od 25 lat w aktywnej służbie.
Mam na koncie 250 misji bojowych
i ukończyłem Weapons School,
czyli naszą wersję Top Gun.
Nigdy nie walczyłem z AI.
Z chęcią się przekonam, jak mi pójdzie.
Ustawienie ofensywne, 1800 metrów, dziób do dziobu.
Zaczynamy.
Poleciał.
Bardzo ciekawe.
- Nie żyje. - Dostał. Pełen sukces.
Dobra, runda druga.
Sztuczna inteligencja manewruje z taką precyzją,
że nie dotrzymuję jej kroku.
Prosto w przecięcie…
I cię nie ma.
Mam go!
I tak dostałem.
AI nigdy się nie boi.
W grę wchodzi element ludzki, którego AI nie ma.
Jedną z ciekawszych strategii opracowanych przez AI
jest strzał z przodu.
Człowiek zwykle woli strzelać z tyłu, bo wtedy przeciwnikowi trudno uciec.
Nie strzela z przodu, bo to jest jak gra w tchórza.
Kiedy lecimy ku sobie,
900 metrów staje się 150 metrami w mgnieniu oka.
Istnieje dużo ryzyko zderzenia, więc ludzie tego nie próbują.
AI nie boi się śmierci, jeśli nie każemy mu się bać.
Czuję się, jakbym walczył z człowiekiem, ale wyjątkowo lekkomyślnym.
Nie przetrwa tego.
Nie zdąży.
Dobranoc.
Nie żyję.
Fakt, że mogę nie być najlepszym wyborem do takich misji, uczy pokory.
To coś może mnie kiedyś zastąpić.
Te same parametry.
Przesunięcie o tysiąc.
Sztuczny pilot myśliwca po prostu dominuje walkę.
To nie jest tylko zdecydowana wygrana.
Jest tak potężny, że od razu myśli się, jak załadować to do kokpitu.
To realistyczne oczekiwać, że AI będzie pilotowało F-16.
I to stosunkowo niedługo.
Kiedy rywalizujesz z pilotem AI, który wygrywa w 99,99999% przypadków,
jesteś bez szans.
Kiedy myślę, że jeden pilot AI jest niepokonany,
zastanawiam się, co mógłby osiągnąć
zespół 50, 100 czy 1000 takich AI.
Rój to zespół współpracujących inteligentnych statków powietrznych.
Dzielą się informacjami o tym, jak rozwiązać dany problem.
To będzie przełomowa technologia dla naszego wojska i naszych sojuszników.
Cel namierzony. Drony go śledzą.
Teraz lądowanie.
Głównym celem rozwoju technologii roju jest to,
żeby posłać dużą liczbę dronów
na trudnodostępny lub niebezpieczny obszar.
Ten konkretny projekt wspierało laboratorium wojskowe.
Jeśli chcemy zbadać teren,
który jest trudnodostępny albo zajmuje duży obszar,
to rój stanowi naturalny sposób,
aby poszerzyć zasięg działań
i uzyskać krytyczne dla misji informacje.
Obecnie dajemy rojowi jedno polecenie:
śledzić wyznaczony cel.
Drony robią to samodzielne.
Sztuczna inteligencja pozwala robotom poruszać się jak jeden rój
w sposób zdecentralizowany.
W naturalnych rojach nie ma przywódcy.
Żadne zwierzę nie mówi innym, co mają robić.
Zachowanie grupy wynika z tego,
że każde ze zwierząt przestrzega kilku prostych zasad.
To z nich wypływa obserwowane przez nas zachowanie całej grupy.
W naturalnych rojach zachwycające jest to,
z jaką gracją się poruszają.
Jakby zbudowano je po to, by należały do tej grupy.
Najbardziej chcielibyśmy, żeby w naszym roju,
tak samo jak w rojach w naturze,
decyzje były podejmowane przez całą grupę.
Kolejną inspiracją dla nas
jest niezawodność i wytrzymałość.
Rój się nie rozpadnie,
jeśli jedno zwierzę nie zrobi tego, co powinno.
Nawet jeśli jeden z agentów się zepsuje
albo nie będzie mógł wykonać zadania,
rój będzie działał dalej.
Właśnie do tego dążymy.
Na polu bitwy musimy być zdolni do rozpoznawania jednostek wroga.
Kiedyś każdego robota musiała kontrolować jedna osoba.
Mam nadzieję, że dzięki rozwojowi autonomii
duże liczby robotów będzie kontrolować niewielu ludzi.
Nie widzę powodu, by z czasem nie dojść do tysiąca,
bo każdy agent będzie działał samodzielnie.
Tu nie ma granic.
Możemy przeskalować uczenie…
Od jakiegoś czasu pracujemy nad technologią roju w symulacjach,
a teraz czas ją wdrożyć w świecie fizycznym.
Planujemy uruchomić sieć trzech robotów,
a potem zwiększać możliwości.
Chcemy testować rozwiązania na małych systemach,
a potem zastosować je do większych systemów.
Na przykład myśliwców.
Wiele dyskutujemy o tym,
jak dać plutonowi siłę bojową batalionu.
Albo batalionowi – siłę brygady.
Technologia roju na to pozwala.
Kiedy odblokujemy jej potencjał,
zyskamy nowy strategiczny element zniechęcający do agresji wojskowej.
Najbardziej ekscytuje mnie liczba młodych mężczyzn i kobiet,
których ocalimy, jeśli dobrze to rozegramy.
Będziemy narażać maszyny,
a nie ludzkie życie.
Według niektórych wojna z użyciem broni autonomicznej
będzie bardziej precyzyjna i humanitarna.
Ale tak naprawdę trudno przewidzieć,
jak dokładnie taka broń wpłynie na wojnę.
To jak z bronią maszynową.
Richard Gatling był wynalazcą.
Widział rannych żołnierzy wracających z wojny secesyjnej
i chciał, żeby wojna była bardziej humanitarna.
Postanowił zmniejszyć liczbę poległych,
zmniejszając liczbę walczących.
Wynalazł więc kartaczownicę,
broń obracaną za pomocą korby, która automatyzowała proces strzelania.
Broń ta stukrotnie zwiększała siłę ognia żołnierza.
Starania, żeby wojna była bardziej precyzyjna i humanitarna,
często mają odwrotny efekt.
Jeden zbłąkany dron atakujący wioskę może zwrócić ludność przeciwko USA
i lokalnym władzom.
Tak zwanym „tym dobrym”.
A teraz przemnóżmy to razy tysiąc.
Stworzenie taniego, skalowalnego systemu zbrojeniowego,
który nie wymaga operatorów,
drastycznie zmienia barierę wejścia w konflikt.
Przeraża mnie wizja świata, w którym wojna jest wszechobecna
i nie musimy myśleć o ludzkich i finansowych kosztach wojny,
bo jesteśmy tak odizolowani…
od tych, którzy umierają.
Byłem przerażony.
Potrzebowałem tylko przykładu nadużycia sztucznej inteligencji.
Nieprzewidziane konsekwencje tego prostego eksperymentu myślowego
zaszły zbyt daleko.
AI W OPRACOWYWANIU LEKÓW: SZKODY A ZYSKI
Podczas mojej prezentacji
o toksycznych cząsteczkach stworzonych przez AI
słuchającym opadły szczęki.
5000 ZWIĄZKÓW BYŁO ANALOGAMI VX
Kolejnym krokiem była decyzja, czy opublikować tę informację.
Z jednej strony chcieliśmy ostrzec świat przed tego typu możliwościami,
ale z drugiej – nie chcieliśmy nikomu podsunąć takiego pomysłu.
Postanowiliśmy ją opublikować,
żeby mieć szansę znaleźć sposoby na ograniczenie tego ryzyka,
zanim będzie za późno.
PODWÓJNE ZASTOSOWANIE AI W OPRACOWYWANIU LEKÓW
…TECHNOLOGIA AI MOŻE BYĆ WYKORZYSTANA DO PRODUKCJI BRONI BIOCHEMICZNEJ.
Reakcja społeczeństwa była wstrząsająca.
Na stronie mamy dostęp do statystyk odwiedzających.
Zazwyczaj mamy szczęście, jeśli nasze artykuły przeczyta
kilka tysięcy osób na przestrzeni roku lub kilku lat.
Ten w tydzień przeczytało 10 000 osób.
Potem 20 tysięcy. I 30. I 40.
Dobiliśmy do 10 tysięcy osób dziennie.
Pisali o nas w The Economist i w Financial Times.
Odezwało się Radiolab.
Słyszałem o nich!
Potem reakcje wymknęły się spod kontroli.
Na Twitterze pisali: „Boże, czy mogli zrobić coś gorszego?”.
„Dlaczego to zrobili?”
A potem dostaliśmy nieoczekiwane zaproszenie.
W Białym Domu było wiele dyskusji o naszym artykule.
Chcieli pilnie z nami porozmawiać.
To oczywiście wielki zaszczyt rozmawiać z ludźmi na tym szczeblu.
A potem uderza cię:
„Boże, to jest Biały Dom. To szef”.
Trzeba było przygotować zbiór danych z otwartego dostępu…
W około sześć godzin model wygenerował ponad 40 tysięcy…
Pytali, ile potrzeba do tego mocy obliczeniowej.
Powiedzieliśmy, że niewiele.
Wystarczy zwykły, sześcioletni mac.
To ich wprawiło w osłupienie.
Osoby odpowiedzialne za rozumienie bojowych agentów chemicznych
i agencje rządowe nie miały pojęcia o tym potencjale.
Mamy książkę kucharską z przepisami na broń chemiczną,
która w rękach kogoś o nikczemnych zamiarach
byłaby wprost przerażająca.
Ludzie muszą się tym zainteresować i trzeba albo uregulować tę technologię,
albo ograniczyć ją, tak aby nie mogła być nadużywana.
Bo potencjał do zabijania…
jest tu przerażający.
Kwestię etyki AI rozstrzyga społeczeństwo,
nie inżynierowie, technolodzy czy matematycy.
Użycie każdej nowej technologii, każdej innowacji,
ostatecznie podlega decyzji społeczeństwa.
Obecnie Departament Obrony mówi:
„Tylko człowiek może podjąć decyzję o zabiciu czegokolwiek na polu bitwy”.
Maszyna może zabić,
ale tylko na polecenie człowieka.
Wątpię, żeby to się zmieniło.
Zapewniają nas, że taka technologia będzie bezpieczna.
Ale wojsko Stanów Zjednoczonych nie ma nieposzlakowanej reputacji,
jeśli chodzi o drony bojowe.
Jeśli chodzi o powierzenie wojsku USA sztucznej inteligencji,
to doświadczenia mówią za siebie.
Regulacje Departamentu Obrony na temat systemów autonomicznych
nie delegalizują żadnej broni.
Nawet jeśli wojska nie będą chciały broni autonomicznej,
i tak możliwe, że będą powierzać coraz więcej decyzji maszynom,
żeby dotrzymać kroku rywalom.
To może skłonić wojska do automatyzacji decyzji
wbrew własnej woli.
Władimir Putin powiedział:
„Ten, kto wygra wyścig AI, będzie rządził światem”.
Prezydent Xi powiedział jasno,
że AI to jedna z głównych dziedzin,
w których Chiny chcą dominować.
Uczestniczymy w wyścigu technologicznym.
Ludzie mówią o bezpieczeństwie
i dobrze, że to robią.
Ale trwa prawdziwy wyścig o dominację w sferze AI.
A nasi rywale, czy to Chiny, Rosja czy Iran,
nie będą się przejmować tym, co nasze prawo mówi o AI.
Słyszy się wiele rozmów na temat regulowania AI,
ale ja chciałbym, żeby więcej przywódców mówiło raczej:
„Jak szybko możemy to zbudować?
Rzućmy na to masę zasobów i to zbudujmy”.
WASZYNGTON
KONFERENCJA I TARGI AUSA
Jesteśmy na największych targach Stowarzyszenia Armii Stanów Zjednoczonych.
Każda firma, która sprzedaje produkt lub technologię wojsku, ma tu stoisko.
Baza lotnicza w Tyndall ma cztery nasze roboty,
które całodobowo patrolują bazę.
Możemy dodać kamery, czujniki i co tylko potrzeba.
Ramiona z chwytakami.
Cokolwiek pozwoli wykonać misję wyznaczoną przez klienta.
A co, jeśli wróg wprowadzi AI?
System bojowy, który myśli i reaguje szybciej niż ty?
Co wtedy zdziała człowiek? Musimy być gotowi.
Uczymy systemy zbierać informacje na temat wroga
i reagować na wrogie cele z ludzkim nadzorem nad eliminacją.
Dzień dobry, panie generale.
Jak się pan ma?
Nikt tyle nie inwestuje w pilotów AI. Nasz pilot nazywa się Hivemind.
Wyposażyliśmy w niego quadcopter Nova.
Wlatuje do budynków
i bada je przed wejściem sił specjalnych i piechoty.
Wyposażamy w Hivemind V-BAT-y.
Wyobrażamy sobie setki takich zespołów,
w Cieśninie Tajwańskiej albo w Ukrainie,
żeby odstraszać wrogów.
Jestem podekscytowany.
- Dziękuję. - Dziękuję, panie generale.
Piloci AI powinni być wszędzie jeszcze przed rokiem 2025 czy 2030.
Te systemy zostaną szybko wdrożone w wojskach na całym świecie.
Kim jesteś w wojsku Rumunii? Specem od dronów?
Zajmuję się technologią.
Jak na razie na budowę pilota AI wydaliśmy pół miliarda dolarów.
W ciągu najbliższych pięciu lat wydamy kolejny miliard.
W dużej mierze dlatego wygrywamy granty Departamentu Obrony.
Nieźle.
Imponujące. Uzbroiliście to już?
Na razie jeszcze nie. Ale w przyszłości to zrobimy.
Klienci widzą to jako wóz.
My jako inteligentny wóz, który potrafi różne rzeczy.
Dzięki.
Jeszcze się odezwę.
Jeśli wrócicie za dziesięć lat, zobaczycie,
że AI i systemy autonomiczne zdominują cały rynek.
Siły wspierane przez AI i systemy autonomiczne
będą miały miażdżącą przewagę nad siłami ich pozbawionymi.
To będzie jak walka konnicy z czołgami
albo ludzi uzbrojonych w miecze z karabinami.
Walka będzie jednostronna.
Te systemy będą wszechobecne w każdej sferze wojny.
Na poziomie taktycznym i strategicznym.
Będą działały z prędkością, której ludzie dziś nie pojmują.
Dowódców już teraz przytłacza ilość informacji.
Zdjęcia z satelitów, z dronów i sensorów.
AI może pomóc dowódcy szybko zrozumieć, co się dzieje,
i podjąć odpowiednie decyzje.
Sztuczna inteligencja weźmie pod uwagę wszystkie czynniki
wpływające na to, jak toczy się wojnę,
opracuje strategie…
i podsunie rekomendacje, jak wygrać bitwę.
SUFFOLK WIRGINIA
CENTRUM INNOWACJI LOCKHEED MARTIN
W Lockheed Martin, tak jak nasz klient Departament Obrony,
uważamy sztuczną inteligencję za kluczową technologię wojskową.
Rozprzestrzenia się z prędkością pół metra na sekundę.
Perymetr ma niecałe 300 hektarów.
Mgła wojny to ważny czynnik w zakresie obronności,
ale ma też analogie do decyzji podejmowanych w trakcie pożaru.
Pożar w Washburn jest na północ od miasta Wawona.
Trzeba podejmować decyzje na podstawie niepełnych danych.
Jak AI może nam pomóc z taką mgłą wojny?
Pożary są chaotyczne.
To bardzo złożone układy,
więc staramy się wykorzystać AI do pomocy w podejmowaniu decyzji.
Cognitive Mission Manager to program,
który analizuje powietrzne nagrania z kamer na podczerwień
z użyciem naszych algorytmów AI,
żeby przewidzieć przyszły stan pożaru.
Z czasem Cognitive Mission Manager będzie wykorzystywał symulacje
i tysiące razy modelował scenariusze,
żeby podpowiedzieć najbardziej efektywny sposób
na ugaszenie pożaru w kluczowych obszarach.
Powie: „Weźcie firehawka i gaście nim pożar tutaj.
Poślijcie ekipy do uprzątnięcia chrustu
i strażaków z wężami
do obszarów o najwyższym priorytecie”.
Decyzje te będą generowane szybciej i bardziej wydajnie.
AI to dla nas narzędzie, które pozwoli ludziom nadążyć
za szybko zmieniającym się środowiskiem.
Istnieją przekonujące paralele między badanymi tu scenariuszami
a zastosowaniami obronnymi.
Wojsko nie mówi już tylko o zastosowaniu AI
w poszczególnych elementach arsenału do decydowania o eliminacji celów,
ale o integracji AI
do całej architektury decyzyjnej wojska.
Siły lądowe wdrażają wielki projekt zwany Project Convergence.
Marynarka ma Overmatch, a lotnictwo – Zaawansowany System Zarządzania Bitwą.
Departament Obrony stara się rozgryźć,
jak połączyć elementy układanki,
żeby działać szybciej niż wróg
i zdobyć prawdziwą przewagę.
Taki system zarządzania bitwą byłby jak wysoki stopniem generał,
który odpowiada za bitwę.
Pomaga wydawać rozkazy znacznym siłom,
koordynując działania wszystkich dostępnych broni
z prędkością nieosiągalną dla człowieka.
Przez ostatnie 70 lat zbudowaliśmy najbardziej zaawansowaną armię na Ziemi.
Teraz stoimy przed decyzją, czy chcemy oddać kontrolę
nad całą tą infrastrukturą algorytmowi, programowi.
Konsekwencjami tej decyzji
może być odpalenie całego naszego arsenału.
Nie mówimy tu o jednej Hiroshimie. Mówimy o setkach.
Musimy działać teraz,
bo mamy coraz mniej czasu, żeby zneutralizować to ryzyko.
Zaczynamy dziś od zagrożeń dla bezpieczeństwa międzynarodowego
ze strony nowych technologii
w obszarze zabójczej broni autonomicznej broni.
W ONZ trwają dyskusje na temat zagrożenia ze strony broni autonomicznej
i zakazu systemów wykorzystujących AI do namierzania i atakowania ludzi.
Technologowie mówią jednym głosem.
Sprzeciwiamy się autonomicznej broni, która atakuje ludzi.
ONZ latami omawiało kwestię autonomicznej broni zdolnej do zabijania.
Tu chodzi o nasze wspólne poczucie bezpieczeństwa.
Ale to oczywiście niełatwy temat.
Niektóre kraje, zwłaszcza potęgi militarne,
chcą rozwijać technologię,
żeby być o krok przed rywalami.
Problem w tym, że żeby coś zrobić, wszyscy muszą się zgodzić.
Co najmniej jeden kraj się wyłamie,
a Stany Zjednoczone i Rosja już poinformowały,
że są przeciwne traktatowi, który zakazałby takiej broni.
Kiedy myślimy, ilu ludzi pracuje nad zwiększeniem możliwości AI,
to jest to cały tłum.
Kiedy myślimy, ilu ludzi dba o to, by AI było bezpieczne,
to jest ich znacznie mniej.
Ale jestem dobrej myśli.
Wspominam konwencję o broni biologicznej,
którą podpisano w połowie Zimnej Wojny
pomimo napięć między Związkiem Radzieckim a Stanami Zjednoczonymi.
Byli w stanie zrozumieć, że rozwój broni biologicznej
nie był ani w ich interesie,
ani w interesie świata jako całości.
W wyścigu zbrojeń szybkość jest ważniejsza niż bezpieczeństwo.
Ale należy wziąć pod uwagę, że w pewnym momencie
koszt szybkiego rozwoju staje się zbyt wysoki.
Nie możemy tworzyć technologii w izolacji
i udostępniać ich światu, nie zastanawiając się nad tym,
do czego mogą doprowadzić w przyszłości.
Nie możemy dopuścić do powtórki z bomby atomowej.
Stawka w wyścigu AI jest gigantyczna.
Wielu ludzi nie docenia stabilności na świecie,
jaką zapewniła nam dominacja militarna
przez ostatnie 75 lat.
Stany Zjednoczone i ich sojusznicy
muszą mieć przewagę w zakresie AI.
Na wojnie nie ma drugiego miejsca.
Chiny przedstawiły ambitny plan dominacji w AI do 2030 roku.
Niektórzy mówią, że Ameryka przegrywa ten wyścig…
Przyśpieszycie wdrożenie sztucznej inteligencji,
aby zapewnić przewagę militarną.
Rozwijamy tę technologię błyskawicznie.
Pytanie tylko, jak daleko się posuniemy.
Czy to my kontrolujemy technologię, czy ona nas?
Tutaj nie będzie drugiego podejścia.
Kiedy uwolni się taką siłę,
bardzo trudno to potem cofnąć.
Musimy działać teraz albo będzie za późno.
Możliwe, że już jest.
Napisy: Juliusz P. Braun