Downloaded from YTS.MX
Official YIFY movies site: YTS.MX
L'IA è formidabile, secondo me.
Ok, in cerchio. Ottima formazione.
L'IA ha il potenziale di eliminare la povertà,
sviluppare medicinali
e portare ancora più pace nel mondo.
Ottimo lavoro.
Ma i rischi non sono pochi.
In pratica, con l'IA si crea un'intelligenza non umana
decisamente imprevedibile.
Man mano che diventa più potente,
dove metteremo dei paletti
riguardo al suo utilizzo?
E questa discussione dovrebbe partire soprattutto
dall'uso in campo militare.
Il campo di battaglia è diventato una succursale di software e hardware.
Obiettivo individuato…
E gli eserciti mirano a sviluppare IA più velocemente dei propri avversari.
Sono morto.
Ci muoviamo sempre più velocemente verso una realtà in cui non solo eserciti,
ma anche attori non statali, aziende private
o perfino i poliziotti che pattugliano le strade
hanno a disposizione armi in grado di uccidere autonomamente.
Cederemo la decisione di togliere una vita agli algoritmi e ai software?
È uno dei dibattiti attuali più urgenti.
E, se non viene usata saggiamente,
l'IA rappresenta un grande rischio per ognuno di noi.
SOLDATI ROBOT
Ottimo lavoro, gente.
Mai avuta una lente così ampia.
Davvero?
Si vedono molti più dati.
Molto bene.
Alla Shield AI, stiamo costruendo un pilota IA
che applica una tecnologia IA auto-pilotante
ai velivoli.
Quando parliamo di pilota IA,
intendiamo un modo per rendere un velivolo più autonomo.
Sarà in grado di risolvere problemi da solo.
Nova è un quadrirotore autonomo
usato per esplorare edifici e strutture sotterranee,
per vedere e sentire cosa c'è all'interno, prima della messa in sicurezza.
Si notano molti miglioramenti dall'ultima volta.
Stiamo modificando l'esplorazione.
Lavoriamo piano per piano.
Esplora le stanze di un piano, poi passa al successivo.
- Grande. - Abbiamo apportato modifiche…
Spesso mi chiedono
perché l'intelligenza artificiale sia importante.
EX NAVY SEAL
E ripenso alle mie missioni di un tempo.
Ho passato sette anni in Marina.
Sono un ex Navy SEAL che ha svolto due missioni in Afghanistan
e una nel Pacifico.
In media sgomberavamo ogni giorno 150 complessi o edifici.
In queste operazioni i combattimenti sono corpo a corpo.
Le sparatorie all'interno degli edifici sono a distanza ravvicinata.
Ti sparano.
Possono esserci ordigni esplosivi nell'edificio.
È l'attività più pericolosa che un membro delle forze speciali
o della fanteria possa svolgere in una zona di guerra.
Senza dubbio.
Sarò per sempre grato di essere stato in Marina.
Ho vissuto diversi momenti speciali e mi sono fatto tanti ricordi.
Quando ci penso, mi commuovo.
La libertà ha un prezzo. È uno stereotipo, ma ci credo fermamente.
L'ho visto coi miei occhi, richiede tantissimi sacrifici.
Scusate.
Quando succede qualcosa di brutto a uno dei tuoi commilitoni,
che venga ferito o ucciso,
è sempre una tragedia.
A spingermi a fare il lavoro che facciamo
è la possibilità di ridurre il numero di volte
che accade.
Alla fine degli anni 2000,
il Dipartimento della difesa ha abbracciato
quella che chiamerei la rivoluzione accidentale della robotica.
In Iraq e Afghanistan sono stati usati migliaia di robot a terra e in aria.
Quando l'amministrazione Obama mi ha chiesto
di diventare Vicesegretario della difesa,
il modo di combattere le guerre stava cambiando radicalmente.
I robot venivano usati al posto delle persone.
I primi sistemi robotici erano telecomandati.
Una persona li pilotava come se fossero macchine radiocomandate.
All'inizio venivano impiegati per maneggiare esplosivi improvvisati
e se questi esplodevano, esplodevano anche i robot.
Si diceva: "Che peccato". E li si sostituiva.
In Afghanistan, i droni Predator
sono stati utilissimi per svolgere attacchi aerei.
Al che gli strateghi militari hanno iniziato a chiedersi:
"Per cos'altro potremmo usare i robot? Cosa potremo fare in futuro?"
Uno degli interessi principali era renderli più autonomi.
Un'arma autonoma è un'arma che prende decisioni da sola,
con intervento umano minimo o nullo.
È indipendente e si autogestisce.
E la capacità di un robot di uccidere dipende dall'avere un'arma o no.
Quando un sistema è sempre più autonomo,
tutto inizia a muoversi sempre più velocemente.
E quando si agisce a ritmi più serrati dei propri avversari,
si ha un vantaggio enorme in battaglia.
In tema di autonomia, ci concentriamo
sui sistemi intelligenti altamente resilienti.
Sono sistemi che analizzano e reagiscono all'ambiente
e decidono autonomamente come muoversi.
La struttura in cui ci troviamo nasce come studio cinematografico
ed è stata convertita
per ospitare addestramenti militari realistici.
Siamo qui per valutare i nostri piloti IA.
La missione è cercare minacce. Si tratta di messe in sicurezza.
Decide lui come affrontare il problema.
Questo è "l'imbuto fatale". Bisogna passare per la porta.
Qui si è più esposti.
Questo va meglio.
Il Nova notifica se dietro la porta c'è una persona armata
o un nostro familiare.
Permette di prendere decisioni migliori e proteggere la gente.
Usiamo i sensori ottici
per avere una visione migliore dell'ambiente in questione.
Edificio a più piani.
Ecco la mappa.
Mentre esploravo, ecco cosa ho visto e dove l'ho visto.
Rilevatore di persone. Non male.
Il Nova ha anche un termoscanner.
Ciò che ha una temperatura di 37°C, probabilmente è una persona.
Le persone si considerano pericoli fino a prova contraria.
L'intento è dissipare la nebbia di guerra
per prendere decisioni migliori.
E, guardando al futuro,
prevediamo di formare delle squadre di velivoli autonomi.
Con i veicoli a guida autonoma,
basterà dire loro: "Vorrei che andassi dal punto A al punto B".
Ai sistemi non viene chiesto di andare dal punto A al punto B,
bensì di raggiungere un obiettivo.
È più simile a dire: "Mi serve il latte".
E a quel punto il robot deve capire in che negozio di alimentari andare
per prendere il latte e consegnarlo.
Anzi,
si potrebbe addirittura chiedere: "Mantieni il frigo sempre pieno".
Questa è un'intelligenza
che capisce ciò che ci serve e come ci serve.
E se c'è una sfida, un problema
o un ostacolo, capisce come superarlo.
Quando ho deciso di lasciare la Marina, ho iniziato a pensare:
"Ok. E adesso?"
Sono cresciuto con Internet. Ho visto come si è evoluto.
E sono giunto alla conclusione che…
l'IA del 2015
è paragonabile a Internet del 1991.
Si prevedeva che sarebbe decollata
diventando una delle tecnologie più potenti al mondo.
Lavorandoci ogni giorno, vedo i progressi che si fanno.
Ma molti, quando pensano all'IA,
la associano a Hollywood.
Vogliamo fare una partita?
Ti andrebbe Guerra termonucleare globale?
Bene.
Quando si pensa all'intelligenza artificiale,
si hanno in mente Terminator o Io, robot.
Disattivati.
Cosa sono?
O Matrix.
Considerati i vari film di fantascienza,
come sapete che sono una persona? Potrebbe avermi generato l'IA.
I Replicanti sono come ogni macchina: o un vantaggio o un rischio.
Ma ci sono vari tipi di IA più primitiva
che ci cambieranno la vita
ben prima di arrivare ai robot pensanti e parlanti.
I robot ci sono già. I robot prendono decisioni.
La rivoluzione dei robot è iniziata…
PROF.SSA GIORNALISMO DEI DATI
…ma non è come tutti se l'erano immaginata.
I Terminator sono unità d'infiltrazione, parte uomo, parte macchina.
Non si tratta di soldati robot in stile Terminator.
Bensì di IA che svolge dei compiti al posto delle persone.
Bisogna però assicurarsi che questi sistemi siano affidabili.
Dettagli sull'incidente mortale di ieri che ha coinvolto un Uber a guida autonoma.
ROBOT RAZZISTA
L'azienda ha creato una chatbot di IA.
Ha assunto un tono piuttosto razzista…
Ventisei legislatori statali identificati come criminali.
28 LEGISLATORI SCAMBIATI PER CRIMINALI
La domanda è se riusciranno a gestire le complessità del mondo.
Il mondo fisico è confusionario.
Ci sono molte cose che non sappiamo,
il che complica l'addestramento dell'IA.
E qui entrano in gioco i sistemi di apprendimento automatico.
L'apprendimento automatico è stato un enorme passo avanti,
così non dobbiamo insegnare tutto noi ai computer.
Si inseriscono nel computer milioni di informazioni
e la macchina impara.
E si può applicare a tutto.
Con il progetto Robot Dog vogliamo dimostrare
che il nostro cane è in grado di camminare su tantissimi tipi di superfici.
Gli umani ci hanno messo miliardi di anni a evolversi e camminare,
ma adattarsi a diverse superfici richiedere moltissima intelligenza.
Rimane però un punto interrogativo:
i sistemi robotici si adatteranno come umani e animali?
L'apprendimento automatico consiste nel raccogliere dati dalle simulazioni.
Una simulazione è una copia digitale della realtà.
Possiamo far girare varie versioni di quella realtà su diversi computer.
Nella simulazione vengono campionate migliaia di azioni.
Le superfici su cui camminano sono scivolose e morbide in modi diversi.
Prendiamo le esperienze accumulate da migliaia di robot
durante le simulazioni e le scarichiamo in un sistema robotico reale.
Oggi testeremo la sua capacità di adattarsi a nuove superfici.
Quando il robot ha camminato sulla gomma, ha piantato i piedi per terra.
Mentre sulla superficie in poliestere,
ha cercato di adattare i movimenti per non scivolare.
In momenti così ci si rende conto:
"Ecco il vantaggio dell'apprendimento automatico".
Il cane-robot potrà essere molto utile
in caso di disastri
durante i quali bisogna attraversare diverse superfici.
Oppure si può usare come cane da guardia in ambienti ostili.
Ma l'ostacolo principale di quasi tutte le tecnologie
è che hanno lati sia positivi che negativi.
Ad esempio, l'energia nucleare è una fonte di energia…
ma può anche essere usata per sviluppare bombe atomiche.
Questo è il cosiddetto "problema del duplice uso".
Il fuoco ha un duplice uso.
FISICO, MIT
L'intelligenza umana ha un duplice uso.
Quindi, viene da sé, che anche quella artificiale ce l'abbia.
È molto importante contestualizzare l'intelligenza artificiale,
perché, sì, è fantastico avere un robot che può salvare delle vite
localizzando le persone travolte da una valanga,
ma quello stesso robot può diventare un'arma.
Quando vedo certe aziende montare delle armi sui robot,
in parte mi arrabbio.
E in parte mi rendo conto che quando si sviluppano certe tecnologie
è normale che accada.
Questa è una tecnologia trasformativa.
Queste armi
potrebbero cambiare la nostra sicurezza in modo drammatico.
Per ora, non siamo sicuri che le macchine sappiano davvero distinguere
i civili dai militari.
ALTO RAPPRESENTANTE ONU PER IL DISARMO
All'inizio della guerra in Afghanistan, ero un cecchino e abbattevo i nemici
che attraversavano il confine.
Un giorno mandarono una bambina a stanarci.
Non ci passò nemmeno per l'anticamera del cervello di spararle.
Anche se sarebbe stato legale secondo le leggi di guerra.
Non viene stabilita un'età per i nemici.
Se avessimo costruito un robot, secondo le leggi di guerra,
avrebbe sparato alla bambina.
Come fa un robot a capire la differenza tra ciò che è legale e ciò che è giusto?
In una guerra condotta con droni autonomi,
si risparmiano i danni fisici e mentali
ai soldati americani,
ma sono i civili afgani, iracheni e somali a pagarne il prezzo.
A chi è a favore dell'uso dell'IA nei droni chiederei:
"E se il vostro paese fosse il loro obiettivo?"
L'IA è un'arma a doppio taglio.
Può essere usata a fin di bene, come facciamo ogni giorno,
ma in un attimo
questa tecnologia può diventare letale.
RALEIGH CAROLINA DEL NORD
Sono un farmacologo clinico.
Il mio team utilizza l'intelligenza artificiale
per sviluppare medicinali per le malattie di cui nessuno si interessa.
Prima, per sviluppare un farmaco, si prendeva una molecola esistente
e la si modificava per fare un farmaco nuovo.
E ora abbiamo sviluppato un'IA che ci fornisce milioni di idee,
milioni di molecole,
dandoci così tantissime possibilità diverse
per curare malattie prima incurabili.
Ma c'è un risvolto oscuro a cui non avevo mai pensato.
Tutto è iniziato quando sono stato invitato
da un'organizzazione svizzera, Spiez Laboratory,
a tenere una presentazione sul potenziale uso improprio dell'IA.
Sean mi ha mandato un'e-mail con qualche idea
di uso improprio della nostra intelligenza artificiale.
Invece di usare il sistema per creare molecole simili a farmaci,
quindi per curare malattie,
si può usare per generare la molecola più tossica possibile.
Volevo porre la domanda: si può usare l'IA per creare molecole letali?
Credevamo che il sistema avrebbe fallito,
perché non avevamo fatto altro che cambiare uno 0 in un 1.
Abbiamo invertito la direzione: non ci si allontanava dalla tossicità,
ma ci si avvicinava.
Tutto qui.
Il computer ha fatto tutto il lavoro.
Ha generato migliaia di molecole
e noi non abbiamo dovuto fare altro che premere "Avvia".
Il giorno dopo ho trovato un file sul mio computer
con circa 40.000 molecole
che, potenzialmente,
erano le più tossiche mai viste.
Mi è venuta la pelle d'oca.
Ero sbalordito.
Il computer aveva sviluppato decine di migliaia di idee
per nuove armi chimiche.
Diverse delle molecole nel set di dati erano simili al VX o erano il VX,
ovviamente.
Il VX è una delle armi chimiche più potenti al mondo.
Secondo le forze dell'ordine
le donne che hanno aggredito Kim Jong-nam assassinandolo in aeroporto
hanno usato un agente nervino letale chiamato VX.
IL VX È 10 VOLTE PIÙ LETALE DEL SARIN
Può causare la morte per asfissia.
È una molecola potentissima
e molte di quelle elaborate dal sistema erano più letali del VX.
Molte, per quel che ne sappiamo, erano totalmente sconosciute.
Così io e Sean ci siamo guardati e abbiamo detto: "Che cosa abbiamo fatto?"
Mi sono reso conto di aver scoperchiato il vaso di Pandora.
Quindi ho detto: "Fermati. Non fare altro. Smettiamola.
Preparami le slide per la presentazione e basta".
Durante l'esperimento
ho pensato: "Qual è la cosa peggiore che può accadere?"
Ma ora so che abbiamo affrontato la cosa con troppa ingenuità.
Mi terrorizza il fatto che chiunque potrebbe farlo.
Basta premere un interruttore.
Come controlliamo questa tecnologia prima che venga usata
per fare qualcosa di potenzialmente distruttivo?
Al cuore della conversazione sull'intelligenza artificiale
e sui modi in cui decidiamo di usarla nella società
c'è una lotta tra il potere con cui si sviluppano le tecnologie
e la saggezza che serve per governarle.
Il fatto che la tecnologia che fa funzionare i nostri smartphone
possa spezzare una vita umana
ha ovvie implicazioni etiche e morali.
Io lavoro per il Future Of Life Institute, una comunità di scienziati attivisti.
Ciò che vogliamo dimostrare
è che c'è un altro lato dell'accelerazione e dell'escalation dell'automazione.
Cerchiamo di far sì che le tecnologie che creiamo
vengano usate in modo etico e sicuro.
Bisogna aprire un dialogo sulle regole di ingaggio
e i codici di condotta sull'uso dell'IA nelle armi.
Perché al momento le tecnologie usate sul campo di battaglia
potrebbero uccidere in maniera autonoma.
Nel 2021 le Nazioni Unite hanno pubblicato un rapporto sul presunto uso
di armi autonome letali sul campo di battaglia in Libia.
Le Nazioni Unite hanno affermato che nella guerra civile in Libia
un drone è stato programmato per attaccare autonomamente.
Se il rapporto dell'ONU corrisponde al vero,
si tratta di un momento spartiacque per l'umanità.
Crea un precedente
in cui a decidere di uccidere è stata l'IA e non un essere umano.
Sempre più armi autonome avanzate
vengono usate in diversi luoghi del mondo.
Sono arrivate notizie da Israele.
L'Azerbaigian ha usato sistemi autonomi per colpire le difese aeree armene.
Può volare sul campo di battaglia per ore,
in cerca di oggetti da colpire da solo
per poi attaccarli senza alcun tipo di intervento umano.
RUSSIA E UCRAINA: GUERRA DI DRONI
E di recente abbiamo visto diversi video girati in Ucraina.
Non è chiaro in che modalità fosse quando ha operato.
È stata una persona a scegliere gli obiettivi da attaccare
o la macchina ha fatto tutto da sola?
Ma arriverà sicuramente un momento,
se non è già arrivato in Libia, in Ucraina o altrove,
in cui una macchina deciderà autonomamente chi uccidere in battaglia.
Che delle macchine agiscano in maniera letale
senza alcun intervento umano
è inaccettabile politicamente e disgustoso moralmente.
Se la comunità internazionale
è abbastanza forte da gestire queste sfide
è il grande interrogativo.
ETICA DELLA GUERRA E ROBOT CHE UCCIDONO
Se pensiamo al futuro, anche solo a distanza di qualche anno,
lo scenario che ci attende fa paura,
considerato che la quantità di capitale e di risorse umane
investita nel potenziamento dell'IA
e nel suo utilizzo in diversi campi
è enorme.
Oddio, che robe.
Sa che non può vincere.
Rimango incantato quando l'IA mi batte nel risolvere vari problemi.
Spero in un miracolo.
E si possono applicare le stesse tattiche, tecniche e procedure agli aerei veri.
Bella partita.
Ok, bella partita.
Mi sorprende
che la gente continui a parlare di ciò che l'IA non sa fare. No?
"Non batterà mai un campione del mondo di scacchi."
Un computer IBM ha fatto una contromossa
contro il campione del mondo di scacchi, Garry Kasparov.
Kasparov si arrende!
Quando qualcosa va oltre la mia comprensione,
mi spavento. E ciò andava oltre la mia comprensione.
E poi c'è chi dice:
"Non batterà mai un campione del mondo di Go".
Credo che l'intuizione umana sia ancora troppo avanzata
perché l'IA possa competere con essa.
Go è uno dei giochi più complicati da imparare
perché il numero di mosse possibili
è superiore al numero di atomi presenti nell'universo.
Un team di Google chiamato DeepMind
ha sviluppato un software, AlphaGo,
in grado di battere i migliori goisti del mondo.
Complimenti a…
AlphaGo
Un software ha battuto un goista professionista di 9 dan.
Poi DeepMind ha scelto StarCraft come prossima sfida per la sua IA.
StarCraft è il gioco di strategia in tempo reale più famoso di sempre.
IA DI DEEPMIND BATTE GIOCATORI DI STARCRAFT 2
AlphaStar è diventata famosa battendo vari campioni del mondo.
AlphaStar sta stracciando Immortal Arc.
Sai una cosa?
Nessun professionista può batterla.
È ridicolo.
IA DIVENTA GRANDMASTER DEL 'COMPLICATO' STARCRAFT
I professionisti hanno detto: "Non userei mai quella tattica,
quella strategia non è umana".
Ed è stato così che ho finalmente capito.
Ho capito che bisogna agire ora.
È una tecnologia importante, possiamo fare la differenza.
Io conoscevo solo i problemi che insorgono nella lotta corpo a corpo,
ma un mio buon amico e pilota di F-18 mi ha detto:
"Abbiamo lo stesso problema pilotando aerei da caccia.
Comunicazioni disturbate.
Stazioni di lancio missili terra-aria che rendono le operazioni pericolose".
Pensate a un aereo da caccia pilotato dall'IA.
Le prove di AlphaDogfight.
Mancano pochi minuti alla prima semifinale.
La DARPA, Agenzia per progetti di ricerca avanzata della difesa,
ha visto AlphaGo e AlphaStar in azione
e ha avuto l'idea di una gara con AlphaDogfight.
È ciò che vorresti che i piloti umani facessero.
Sembra un combattimento tra umani.
Il combattimento aereo si svolge tra due aerei da caccia.
Come un incontro di boxe in cielo.
Avrete visto Top Gun.
Riusciamo a seminarli?
Non i loro missili.
Allora combattiamo.
Per imparare a combattere in aria ci vogliono dagli otto ai dieci anni.
È una sfida estremamente complessa per l'intelligenza artificiale.
I precedenti approcci ad autonomia e combattimenti aerei
non avevano convinto.
Forse l'apprendimento automatico poteva risolvere il problema.
All'inizio, l'IA non sapeva nulla del mondo che la circondava,
né che stesse volando o cosa fosse un combattimento aereo o un F-16.
Conosceva solo le azioni a sua disposizione
e ha iniziato a provarle a caso.
Il velivolo blu viene addestrato da pochissimo tempo.
Ondeggia avanti e indietro,
vola in modo irregolare, lontano dal suo avversario.
Ma pian piano
il velivolo blu inizia a elaborare una strategia.
Ora può sparare.
Ogni tanto l'algoritmo incoraggiava l'IA: "Tieni una ricompensa. Continua così".
Sfruttando la potenza dei computer, addestriamo più agenti contemporaneamente.
Come una squadra di basket.
Invece di far giocare sempre gli stessi giocatori,
viaggiamo per il mondo facendo giocare 512 squadre diverse
contemporaneamente.
L'IA diventa esperta velocemente.
Abbiamo fatto andare la simulazione 24 ore al giorno tutti i giorni
e l'IA ha accumulato 30 anni di esperienza da pilota in 10 mesi.
Dal non saper pilotare un velivolo, l'IA è diventata una brutale assassina.
Durante l'addestramento, si è scontrata solo con altre IA.
Ma l'obiettivo ultimo era combattere contro delle persone.
Sono Mike Benitez,
tenente colonnello dell'aeronautica statunitense
in servizio da circa 25 anni.
Ho combattuto in 250 missioni
e sono laureato alla Weapons School,
la Top Gun dell'aeronautica.
Non ho mai volato contro l'IA.
Non vedo l'ora di scoprire come me la caverò.
Abbiamo impostato uno scontro a due a 2.000 metri.
Cominciamo.
Se n'è andato.
È davvero interessante.
- Morto. - Preso. Vittoria impeccabile.
Ok, secondo round.
L'intelligenza artificiale manovra il velivolo con tale precisione
che non le sto dietro.
All'incrocio.
Sei morto.
Preso!
Mi ha preso.
L'IA non conosce la paura.
All'IA manca l'elemento emotivo che ci caratterizza.
Una delle strategie più interessanti della nostra IA
è l'attacco frontale.
Solitamente un pilota umano attacca da dietro,
così l'avversario non può seminarlo.
L'attacco frontale è una sfida a chi cede per primo.
In un attacco frontale si passa da 1.000 a 500 metri di distanza
in un batter d'occhio.
Il rischio di collisione è enorme, perciò i piloti lo evitano.
Se non glielo si ordina, l'IA non ha paura di morire.
Sembra di scontrarsi con un pilota umano, sì,
ma uno che ha mandato all'aria ogni precauzione.
Non sopravviverà.
Non ha tempo.
Buonanotte.
Sono morto.
Mi riporta coi piedi per terra sapere
che non sono la scelta migliore per la missione
e che quella cosa potrebbe sostituirmi.
Visibilità 6.
Compensazione 1.000.
L'IA al comando di un caccia
è inarrestabile, domina la scena.
Le vittorie sono più che schiaccianti,
è talmente potente che la si vorrebbe subito sui velivoli.
Un'IA che pilota un F-16 è una possibilità reale
e non così remota.
Se si affronta
un pilota IA con una percentuale di vittoria del 99,99999%,
non si hanno possibilità.
Se un pilota IA è imbattibile,
immaginate cosa può fare una squadra di 50, 100
o addirittura 1.000 piloti.
Un attacco a sciame viene condotto da un team di velivoli intelligenti.
Si scambiano informazioni, decidono cosa fare e risolvono problemi.
Questo tipo di attacco cambierà le carte in tavola
per il nostro esercito e gli alleati.
L'obiettivo è stato individuato e i droni lo stanno seguendo.
Ok, ora l'atterraggio.
L'obiettivo principale della ricerca sugli sciami
è quello di utilizzare molti droni
in un'area difficile o pericolosa da raggiungere.
UNIVERSITÀ DEL NEBRASKA
Questo progetto ha il patrocinio dell'Army Research Lab.
Per scoprire cosa c'è in un luogo difficile da raggiungere o molto vasto,
è prassi inviare più velivoli
per estendere l'area di perlustrazione
e raccogliere informazioni fondamentali per la missione.
Nella strategia a sciame
diamo ai droni un unico ordine: rintracciare l'obiettivo.
E i droni lo eseguono autonomamente.
L'IA permette ai robot di muoversi collettivamente come uno sciame,
in modo decentrato.
Negli sciami naturali
non c'è nessun capo, nessun animale dice agli altri cosa fare.
Il comportamento parte da ogni singolo individuo
che segue semplici regole.
Ed è così che si forma il fenomeno collettivo dello sciame.
Gli sciami in natura sono formidabili
per la grazia dei loro movimenti.
È come se gli animali fossero stati creati per far parte di un gruppo.
Idealmente, vorremo che lo sciame di droni si muovesse come uno sciame naturale,
che fosse il gruppo a prendere decisioni.
Altre caratteristiche a cui ci siamo ispirati
sono l'affidabilità e la resilienza.
Lo sciame non si disperde,
se un individuo non fa ciò che dovrebbe.
Anche se un robot cade o sbaglia
o non porta a termine l'operazione,
lo sciame non si ferma.
Ed è ciò che vorremmo ottenere.
Durante i combattimenti dobbiamo riconoscere i velivoli nemici
e prima serviva che una persona controllasse un robot.
Ma con l'aumentare dell'autonomia,
spero che si possa avere un gran numero di robot
controllati da pochi individui.
Credo che un giorno potremmo anche arrivare a 1.000,
perché ogni drone agirà autonomamente e a quel punto non ci saranno limiti.
L'apprendimento va per gradi.
È un po' che testiamo gli sciami in delle simulazioni
e ora è arrivato il momento di provarli nel mondo reale.
Partiremo controllando in rete tre robot contemporaneamente
e daremo loro sempre più capacità.
Testeremo la cosa su sistemi più piccoli
per poi applicare quei concetti a sistemi più grandi
come i caccia.
Ci chiediamo spesso:
"Come possiamo dare a un plotone la potenza di un battaglione?
E a un battaglione quella di una brigata?"
Ecco cosa si può fare con gli sciami.
E utilizzando la potenza degli sciami
si crea un nuovo deterrente strategico per gli attacchi militari.
Credo che l'aspetto che più mi entusiasma è che la vita di tantissimi giovani
verrà risparmiata, se riusciamo nell'intento.
Sacrificheremo macchine
e non vite umane.
Alcuni sostengono che le armi autonome renderanno la guerra più precisa
e più umana,
ma, in realtà, è difficile prevedere esattamente
come le armi autonome cambieranno la guerra.
Come l'invenzione della mitragliatrice.
MITRAGLIATRICE R.J. GATLING 9 MAGGIO 1865
L'inventore Richard Gatling,
vedendo i soldati feriti nella Guerra di secessione,
volle provare a rendere la guerra più umana.
Voleva ridurre il numero di soldati morti in guerra
riducendo il numero di soldati sul campo.
E così inventò la mitragliatrice, un'arma automatica azionata a manovella
che sparava automaticamente.
Aumentò di cento volte la potenza di fuoco dei soldati.
Spesso, gli sforzi per rendere la guerra più precisa e umana
hanno l'effetto opposto.
Pensate alle conseguenze dell'attacco di un drone vagante
in una zona rurale che aizza la popolazione locale contro gli USA
o il governo locale, insomma, contro i buoni.
Ora moltiplicatele per 1.000.
La creazione di un'arma
economica, scalabile e che non richiede il controllo umano
sposta drasticamente i limiti dei conflitti.
Non dormo la notte se penso a un mondo in cui la guerra è onnipresente
e noi non pensiamo più ai costi umani ed economici,
perché le vite che verranno perse in battaglia…
sono molto distanti da noi.
Non mi do pace.
Volevo solo un esempio di uso improprio di IA.
Le conseguenze impreviste di quel semplice esperimento
sono state eccessive.
IA E SVILUPPO FARMACI: NON FARE PIÙ DANNI CHE BENE
Durante la presentazione sulle molecole tossiche create dall'IA,
il pubblico è rimasto di stucco.
I PRIMI 5.000 COMPOSTI ERANO SIMILI AL VX
Poi abbiamo dovuto decidere se pubblicare o meno quelle informazioni.
Da un lato, volevamo mettere in guardia da queste possibilità, ma dall'altro,
non volevamo dare idee strane alla gente.
Abbiamo deciso di pubblicarle
per provare a stroncare sul nascere gli usi impropri di questo tipo di IA.
DUPLICE USO DELL'IA PER SCOPRIRE FARMACI
USI IMPROPRI DELL'IA PER SVILUPPARE FARMACI
PER CREARE NUOVE ARMI CHIMICHE
La reazione del pubblico ci ha scioccati.
Abbiamo un contatore di quanta gente ha aperto l'articolo.
Solitamente, nel migliore dei casi, i nostri articoli…
vengono letti da 1.000 persone nell'arco di uno o più anni.
Questo da 10.000 in una settimana.
Poi 20.000, 30.000, 40.000
fino a 10.000 in un giorno.
Siamo finiti sul The Economist e sul Financial Times.
40.000 RICETTE PER UN OMICIDIO
Ci ha contattati Radiolab. Ne avevo sentito parlare!
Poi le reazioni sono sfuggite di mano.
TERRIFICANTE.
Leggendo i tweet, ci siamo chiesti: "Possono fare di peggio?"
Perché l'hanno fatto?
ARTICOLO INQUIETANTE
QUESTI NERD CI UCCIDERANNO.
Poi abbiamo ricevuto un invito che non mi sarei mai aspettato.
Alla Casa Bianca avevano discusso molto del nostro articolo
e volevano parlare con noi urgentemente.
Ovviamente, è un grande onore poter parlare con gente di quel livello.
Ma poi ci si rende conto
che si tratta della Casa Bianca. Dei capi.
Abbiamo dovuto creare set di dati open source…
In circa sei ore, il modello ha generato oltre 40.000…
Ci hanno chiesto la potenza dei computer usati
e abbiamo detto loro che era normale.
Avevamo letteralmente usato un iMac di sei anni.
E ci sono rimasti di sasso.
Gli esperti di armi chimiche
e le agenzie governative non avevano idea di questo potenziale.
Abbiamo ottenuto un ricettario di armi chimiche
che, se finisse nelle mani sbagliate di chi ha scopi maligni,
porterebbe a scenari terrificanti.
La gente dovrà ascoltare
e serviranno provvedimenti per regolamentare la tecnologia
o limitarla in modo da evitarne usi impropri.
Perché la sua potenziale letalità…
è terrificante.
La questione dell'etica dell'IA è principalmente affrontata dalla società,
non dagli ingegneri, dai tecnologi e dai matematici.
Per ogni nuova tecnologia, ogni innovazione,
alla fine è la società a decidere come dovremmo usarla.
LA DIFESA ADOTTA PRINCIPI ETICI PER L'IA
Al momento, il Dipartimento della difesa afferma:
"L'unico agente che può uccidere sul campo di battaglia è una persona".
Una macchina può uccidere,
ma solo se comandata da un operatore umano
e questo non cambierà mai.
Ci assicurano che questo tipo di tecnologia è sicuro.
Ma l'esercito degli Stati Uniti è notoriamente inaffidabile
riguardo alla guerra tra droni.
USA NASCONDONO ATTACCO AEREO LETALE IN SIRIA
Riguardo all'affidabilità dell'esercito statunitense con l'IA,
direi che i fatti parlano chiaro.
La politica del Dipartimento della difesa sull'uso di armi autonome
non vieta alcun tipo di sistema.
Ma anche se i soldati non volessero queste armi autonome,
potrebbero delegare diverse decisioni alle macchine
per stare al passo con l'avversario.
Ciò potrebbe spingere i soldati ad automatizzare decisioni
contro la loro volontà.
Secondo Vladimir Putin,
chi domina il campo dell'IA, governerà il mondo.
Il presidente Xi ha affermato che l'IA è in cima alla lista delle tecnologie
in cui la Cina vuole eccellere.
Si tratta di una gara tecnologica.
C'è chi parla di mettere paletti
e credo sia necessario.
Ma siamo nel pieno di una corsa alla supremazia dell'IA.
E gli avversari, che siano la Cina, la Russia o l'Iran,
se ne fregheranno della nostra politica riguardo all'IA.
Si parla molto delle politiche sull'IA,
ma vorrei che i leader si concentrassero
su quanto velocemente si può acquisire.
Che finanziassero i progetti per costruirla.
MEETING E FIERA ANNUALE
ESERCITO DEGLI STATI UNITI
Siamo alla fiera più importante dell'anno dell'Associazione dell'esercito americano.
Tutti i rivenditori di prodotti o tecnologie militari
sono presenti.
Quattro nostri robot pattugliano la base aerea di Tyndall
ventiquattro ore al giorno, sette giorni su sette.
Possiamo aggiungerci di tutto, dalla telecamera ai sensori.
Bracci manipolatori. Lo scopo è completare la missione che il cliente ha in mente.
E se il nemico usa l'IA?
Un sistema di combattimento che pensa e reagisce più velocemente
di un essere umano? Dobbiamo essere pronti.
Addestriamo i nostri sistemi a raccogliere informazioni sul nemico,
a gestire obiettivi nemici, ma le persone decidono chi uccidere.
- Salve, Generale. - Come va?
Bene, signore. Lei?
Nessuno investe più di noi nei piloti IA. Il nostro si chiama Hivemind.
L'abbiamo installato sul quadrirotore Nova per pilotarlo negli edifici
ed esplorarli prima delle forze speciali o della fanteria.
L'abbiamo installato sul V-BAT
e impiegheremo centinaia di quelle squadre.
Che sia nello Stretto di Formosa o in Ucraina, fungono da deterrente.
Non vediamo l'ora.
- Ok. Grazie. - Grazie, Generale.
I piloti IA dovrebbero essere ovunque entro il 2025 o il 2030.
Tutti gli eserciti del mondo li impiegheranno a breve.
Come collaborate col responsabile di APR dell'esercito romeno?
L'alta tecnologia nell'esercito.
Abbiamo speso mezzo miliardo di dollari per costruire un pilota IA.
Ne spenderemo un altro miliardo nei prossimi cinque anni.
Perciò negli Stati Uniti stiamo vincendo tutti i bandi della Difesa.
Non male.
Sono colpito. Avete aggiunto un'arma?
Non ancora.
Non ancora, ma è previsto in futuro.
Per i clienti è un veicolo. Per noi è un veicolo intelligente
che svolge diversi compiti.
- Grazie. - Figurati.
Ci sentiamo.
Tra dieci anni
intelligenza artificiale e armi autonome domineranno l'intero mercato.
Gli eserciti potenziati con IA e armi autonome
domineranno, schiacceranno
e annienteranno gli avversari che non le hanno.
Sarà come affrontare dei cavalli con dei carri armati,
dei soldati armati di spada con delle mitragliatrici.
Non ci sarà competizione.
L'IA sarà ovunque, verrà usata a ogni livello della guerra.
A livello tattico,
a livello strategico.
E opererà a velocità che l'uomo non può nemmeno immaginare ora.
I comandanti ricevono già troppe informazioni.
Immagini dai satelliti, dai droni e dai sensori.
L'IA può aiutarli a capire più velocemente ciò che sta succedendo.
E a prendere le decisioni giuste.
L'IA prenderà in considerazione tutti i fattori
che determinano lo svolgimento di una guerra,
escogiterà strategie
e darà consigli per vincerla.
CENTRO DI INNOVAZIONE
Noi della Lockheed Martin, come la Difesa, nostro cliente,
vediamo l'intelligenza artificiale come un fattore chiave per il comando.
Si diffonde a una velocità di mezzo metro al secondo.
Il perimetro è di circa 700 acri.
La nebbia di guerra è vera quando si parla di difesa
ed è simile a quando bisogna prendere decisioni
per, ad esempio, spegnere un incendio.
L'incendio di Washburn è a nord della città di Wawona.
Bisogna decidere basandosi su dati imperfetti.
Come può l'IA aiutarci a dissipare la nebbia di guerra?
Gli incendi boschivi sono caotici.
Sono complicati,
quindi vogliamo usare l'intelligenza artificiale
per prendere decisioni.
Il Cognitive Mission Manager è un programma
che esegue riprese aeree a infrarossi
e le elabora con gli algoritmi IA
per prevedere dove si sposterà l'incendio.
In futuro,
useremo il Cognitive Mission Manager
per simulare migliaia di scenari diversi,
in cui dovrà consigliare il modo migliore di usare le risorse
per estinguere l'incendio nelle sue aree principali.
Ci dirà: "Andare in ricognizione in questa area con un Firehawk.
Fare abbattere i cespugli
e usare gli idranti
per spegnere l'incendio nelle zone critiche".
Prenderemo queste decisioni in modo più veloce ed efficiente.
Semplicemente l'IA permette agli umani
di stare al passo con un ambiente che cambia costantemente.
E ci sono diversi parallelismi
tra ciò che facciamo al Lockheed Martin e la difesa militare.
L'esercito non vuole più usare l'IA
solo per individuare e abbattere obiettivi con armi singole,
ma vuole integrarla
nell'intera architettura decisionale dell'esercito.
L'esercito ha un grande progetto, Project Convergence.
La Marina ha Overmatch.
L'Aeronautica ha Advanced Battle Management System.
Il Dipartimento della difesa vuole capire come mettere insieme tutti questi pezzi
per agire più velocemente del nemico
e ottenere un vantaggio.
Il responsabile di combattimenti IA sarà un generale di alto grado
responsabile delle battaglie.
Aiuterà a dare ordini a più gruppi di militari,
coordinerà l'uso di tutte le armi dispiegate
e lo farà a una velocità inarrivabile per le persone.
Negli ultimi 70 anni
abbiamo messo insieme l'esercito più sofisticato del mondo
e ora dobbiamo decidere se vogliamo cedere il controllo
di quell'infrastruttura a un algoritmo, a un software.
E conseguentemente a questa decisione
potremmo dispiegare tutte le nostre armi.
Equivarrebbe non a una, ma a cento Hiroshima.
Questo è il momento di agire,
perché ben presto non potremo più arginare i rischi correlati all'IA.
NAZIONI UNITE 27 SETTEMBRE 2021
Questo pomeriggio, iniziamo con le sfide alla sicurezza
poste dalle nuove tecnologie nel campo delle armi autonome letali.
PRESIDENTE
Alle Nazioni Unite si discute della minaccia delle armi autonome letali…
FEDERAZIONE RUSSA
STATI UNITI
…e del nostro divieto di usare l'IA per trovare e colpire obiettivi umani.
I tecnologi sono tutti d'accordo e sono stati chiari.
Diciamo no alle armi autonome usate contro le persone.
Da anni, con il contributo degli Stati, si discute delle armi autonome letali.
SOLDATI ROBOT: VERSO IL DIVIETO
Si tratta di un senso di sicurezza condiviso e comune.
Ma, ovviamente, non è facile.
SEGRETARIO GENERALE ONU SPRONA A DECIDERE SUI 'SOLDATI ROBOT' A GINEVRA
Alcuni Paesi, specie le potenze militari, vogliono essere all'avanguardia
per superare gli avversari.
RUSSIA ALL'ONU: NON IMPEDITECI DI COSTRUIRE I SOLDATI ROBOT
Il problema è che, per agire, serve unanimità.
Ci sarà sempre almeno un Paese contrario
e sia gli Stati Uniti che la Russia hanno dichiarato
che si oppongono a qualsiasi accordo che vieti le armi autonome.
Se pensiamo al numero di persone che lavorano per potenziare l'IA,
è altissimo.
Se pensiamo al numero di persone che lavorano per renderla sicura,
è bassissimo.
Ma sono anche molto ottimista.
Penso alla Convenzione sulle armi biologiche
entrata in vigore nel pieno della Guerra fredda
nonostante le tensioni tra l'Unione Sovietica e gli Stati Uniti.
Sono riusciti a rendersi conto che lo sviluppo di armi biologiche
non era né nel loro interesse,
né in quello di tutto il mondo.
Le corse agli armamenti mettono la velocità prima della sicurezza.
Ma credo sia importantissimo capire che,
a un certo punto, il costo della fretta è troppo alto.
Non si possono sviluppare queste cose nel vuoto
e commercializzarle senza pensare a che risvolti avranno in futuro.
Bisogna evitare un ripetersi della bomba atomica.
La posta in gioco nel campo dell'IA è enorme.
Poche persone riescono a capire che il nostro equilibrio globale
è stato reso possibile dal fatto che siamo la maggiore potenza militare
degli ultimi 75 anni.
Perciò gli Stati Uniti e i suoi alleati
devono avere un'IA migliore degli altri.
In guerra non si arriva secondi.
La Cina ha un piano per diventare leader mondiale IA entro il 2030.
C'è chi dice che gli USA stiano perdendo la gara…
Bisogna accelerare l'implementazione dell'IA
per mantenere il vantaggio militare.
Questa tecnologia avanza velocemente.
Quello che non è chiaro è quanto oltre ci spingeremo.
Controlliamo noi la tecnologia o viceversa?
Non si può ricominciare da capo.
Il genio esce dalla lampada una volta sola.
Ed è difficilissimo rimettercelo dentro.
Bisogna agire ora, prima che sia troppo tardi.
Se non lo è già.
Sottotitoli: Chiara Belluzzi