Downloaded from YTS.MX
Official YIFY movies site: YTS.MX
La inteligencia artificial me impresiona.
Vale, están formando un círculo. Buena formación.
La IA tiene potencial para eliminar la pobreza,
crear nuevas medicinas
y hacer que el mundo sea más pacífico.
Bien hecho.
Pero se corren muchos riesgos en el proceso.
Con la inteligencia artificial, estamos creando una inteligencia no humana
que es muy impredecible.
A medida que se vuelve más potente,
¿dónde trazamos el límite con la IA
en lo que a su función se refiere?
Para hablar de esto, lo mejor es empezar
por las aplicaciones militares.
El campo de batalla se ha convertido en el campo del software y del hardware.
Objetivo adquirido.
Y los ejércitos se apresuran a desarrollar la IA
antes que sus adversarios.
Estoy muerto.
Estamos avanzando hacia un mundo
donde no solo los grandes ejércitos,
sino actores no estatales,
empresas privadas
o incluso nuestra comisaría al final de la calle
podrían usar estas armas que pueden matar de forma autónoma.
¿Vamos a dejar que los algoritmos, los programas decidan si matar a alguien?
Es una cuestión vital de nuestro tiempo.
Y, si no se usa con prudencia,
supone un gran riesgo para todas las personas del planeta.
LO DESCONOCIDO
LOS ROBOTS ASESINOS
Buen trabajo, gente.
Tiene un objetivo más amplio.
¿En serio?
Se ven muchos más datos.
Qué guay.
En Shield AI, estamos construyendo un piloto de IA,
que utiliza tecnología de inteligencia artificial autónoma,
para ponerlo en un avión.
Cuando hablamos de un piloto de IA,
pensamos en darle a un avión un mayor nivel de autonomía.
Resolverán problemas por sí solos.
Nova es un cuadricóptero autónomo
que explora edificios y estructuras subterráneas
antes de que entren los soldados. Así no entrarán a ciegas.
Se notan muchas mejoras desde la última vez que lo vimos.
Estamos probando los cambios en la exploración piso por piso.
Termina la planta entera antes de pasar a la siguiente.
- Increíble. - Hemos hecho algunos cambios.
Mucha gente me pregunta
por qué la IA es una baza importante
y pienso en las misiones en las que he participado.
Estuve siete años en la Marina.
Soy exmiembro de la Marina. Me mandaron dos veces a Afganistán
y una vez al Pacífico.
A veces teníamos que despejar 150 recintos o edificios al día.
Una de las aplicaciones básicas es el combate cuerpo a cuerpo.
En los edificios, hay tiroteos a muy corta distancia.
Te disparan.
Es posible que haya artefactos explosivos.
Es lo más peligroso que puede hacer un miembro de las fuerzas especiales
o de la infantería en una zona de combate.
Sin excepción.
Siempre estaré agradecido por el tiempo que pasé en la Marina.
Hay una serie de momentos y de recuerdos
con los que me emociono cuando pienso en ellos.
Lo de que la libertad cuesta es un cliché, pero lo creo al 100 %.
Lo he experimentado y requiere mucho sacrificio.
Lo siento.
Cuando le pasa algo malo a uno de tus compañeros,
ya sea que lo hieren o lo matan,
es algo muy trágico.
Teniendo en cuenta el trabajo al que nos dedicamos,
me motiva poder reducir el número de veces
que eso vuelve a pasar.
A finales de la década de 2000, el Ministerio de Defensa abrió los ojos
a lo que podría llamarse la revolución robótica accidental.
Desplegamos miles de robots en Irak y en Afganistán.
Cuando el Gobierno de Obama me pidió que fuera secretario adjunto de Defensa,
estaba cambiando la forma en que se libraba la guerra.
Se usaron robots donde antaño se habría usado gente.
Los primeros sistemas se controlaban a distancia.
Lo controlaba un humano, como si fuera un coche teledirigido.
Empezaron a usarse con los artefactos explosivos improvisados
y, si la bomba explotaba, el robot explotaba.
Decías: "Qué rollo. Vale, saca el otro robot".
Se usó el dron Predator en Afganistán.
Se convirtió en una herramienta muy útil para llevar a cabo ataques aéreos.
Los estrategas militares empezaron a preguntarse:
"¿Para qué más se pueden usar?". ¿Y adónde nos iba a llevar esto?
Un tema recurrente era una mayor autonomía.
Un arma autónoma es aquella que toma decisiones por sí sola,
con poca o ninguna intervención humana.
Tiene una capacidad independiente y es autodirigido.
Que pueda matar depende de si está armado o no.
Cuando tu sistema tiene cada vez más autonomía,
todo empieza a moverse a mayor velocidad.
Y, cuando operas a un ritmo más rápido que tus adversarios,
supone una ventaja extraordinaria en el campo de batalla.
En cuanto a la autonomía, nos centramos
en sistemas de inteligencia muy resistentes.
Sistemas que leen y reaccionan en función de su entorno
y que deciden cómo maniobrar en ese mundo.
La instalación en la que estamos se construyó como un estudio de cine
que se reformó
para crear entornos de entrenamiento militar realistas.
Hemos venido a evaluar nuestro piloto de inteligencia artificial.
La misión consiste en buscar amenazas. Se trata de detectar elementos.
Puede decidir cómo abordar ese problema.
Esto se llama 'el embudo mortal'. Tienes que entrar por una puerta.
Se es muy vulnerable ahí.
Este tiene mejor pinta.
El Nova nos dirá si hay un tirador tras esa puerta
o una familia.
Podremos tomar mejores decisiones y proteger a la gente.
Usamos los sensores de visión
para entender cómo es el entorno.
Hay varios pisos.
Es el mapa.
Mientras exploraba, he visto esto y los he visto aquí.
Detecta personas. Increíble.
Otro de los sensores del Nova es un escáner térmico.
Si está a 37 grados, probablemente sea un humano.
Las personas son amenazas hasta que se considere lo contrario.
Se trata de eliminar la niebla de guerra para tomar mejores decisiones.
De cara al futuro,
tenemos la intención de construir equipos de aviones autónomos.
A los vehículos autónomos
les ordenas ir del punto A al punto B.
A nuestros sistemas no les pedimos ir del punto A al B, sino lograr un objetivo.
Se parece más a: "Necesito leche".
El robot tendría que averiguar a qué tienda ir,
coger esa leche y luego traerla.
Y, en mayor medida,
podría ser más apropiado decir: "Mantén el frigorífico lleno".
Es un nivel de inteligencia
que sabe qué necesitamos y cómo procurárnoslo.
Si surge un reto, una dificultad o un problema, averigua cómo resolverlo.
Cuando decidí dejar la Marina,
empecé a pensar:
"Vale, ¿y ahora qué?".
Crecí con Internet y vi en qué se ha convertido.
Y, en parte, llegué a la conclusión de…
que la IA en 2005
estaba donde estaba Internet en 1991.
Y la IA estaba lista para echar a volar
y ser una de las tecnologías más potentes del mundo.
Al trabajar en esto cada día, veo cómo progresa.
Pero, cuando mucha gente piensa en la IA,
piensan automáticamente en Hollywood.
¿Jugamos a algo?
¿Qué tal a la Guerra Termonuclear Global?
Vale.
Cuando la gente piensa en la IA,
piensan en Terminator o en Yo, robot.
Desactívate.
¿Qué soy?
O Matrix.
Teniendo en cuenta lo que se ve en el cine,
¿cómo sabes que soy humano? Podría ser una IA generada por ordenador.
Los replicantes son como una máquina: beneficiosos o peligrosos.
Pero hay todo tipo de inteligencia artificial primitiva
que cambiará nuestras vidas
mucho antes de llegar a la fase del robot que piensa y habla.
Los robots están aquí y toman decisiones.
La revolución robótica ha llegado.
Lo que pasa es que no es lo que nos imaginábamos.
Es una unidad de infiltración. Medio hombre, medio máquina.
No es un robot asesino a lo terminator,
sino una IA que hace algunas cosas que los humanos hacen.
La fiabilidad de estos sistemas preocupa.
Nuevos detalles sobre el accidente mortal con un Uber todoterreno autónomo.
La empresa ha creado un chatbot de IA.
Ha adoptado un tono bastante racista…
Ha identificado erróneamente a 26 legisladores como delincuentes.
ASOCIA A 28 CONGRESISTAS CON DELINCUENTES
La cuestión es si pueden hacerle frente a la complejidad del mundo real.
El mundo físico es difícil.
Hay muchas cosas que no sabemos,
por lo que cuesta más entrenar sistemas de IA.
Por eso han aparecido los sistemas de aprendizaje automático.
El aprendizaje automático ha supuesto un gran avance
porque no tenemos que enseñárselo todo a los ordenadores.
Le das a un ordenador millones de datos
y la máquina empieza a aprender.
Eso podría aplicarse a todo.
Nuestro perro robot intenta demostrar
que puede andar por muchos tipos de terrenos.
Los humanos han evolucionado durante millones de años para andar,
pero adaptarse a todos estos terrenos implica mucha inteligencia.
¿Los sistemas robóticos podrían adaptarse como los animales y los humanos?
Con el aprendizaje automático, recopilamos muchos datos en la simulación.
Una simulación es un gemelo digital de la realidad.
Podemos tener muchos ejemplos de esa realidad en diferentes ordenadores.
La simulación muestrea miles de acciones.
Andan por suelos con diferentes niveles de deslizamiento y blandura.
Cogemos toda la experiencia de estos miles de robots
de la simulación y la descargamos en un sistema robótico real.
La prueba de hoy consiste en ver si puede adaptarse a nuevos terrenos.
Cuando ha pasado por la espuma,
los movimientos de los pies golpeaban el suelo.
Pero, en la superficie de polietileno,
ha intentado ajustar el movimiento para no resbalarse.
Entonces te das cuenta
de que es gracias al aprendizaje automático.
Creemos que el perro robot podría ser muy útil
en casos de catástrofes
en los que hay que sortear muchos terrenos.
O podrían llevar a cabo tareas de vigilancia en entornos hostiles.
Pero la mayoría de la tecnología se enfrenta al problema
de que pueden hacer cosas buenas y malas.
Podemos usar la tecnología nuclear para generar energía…
pero también podemos crear bombas atómicas que son malas.
Es lo que se conoce como el problema del doble uso.
El fuego es de doble uso.
La inteligencia humana es de doble uso.
No hace falta decir que la IA también es de doble uso.
Es muy importante pensar en la inteligencia artificial en contexto
porque sí, es estupendo tener un robot de búsqueda y rescate
que puede localizar a alguien tras una avalancha,
pero ese mismo robot puede convertirse en un arma.
Cuando ves que las empresas usan la robótica para ponerles armas,
una parte de ti se enfada.
Y, en parte, es porque, cuando comercialicemos nuestra tecnología,
es lo que va a pasar.
Es una tecnología transformadora.
Son sistemas de armas
que podrían cambiar nuestra seguridad de forma significativa.
Por ahora no estamos seguros de que las máquinas puedan diferenciar
entre civiles y soldados.
Al principio de la guerra, estaba en un grupo de francotiradores
que buscaba a soldados enemigos.
Mandaron a una niña a explorar nuestra posición.
Nunca se nos ocurrió dispararle.
Según las leyes de la guerra, habría sido legal.
No fijan una edad para los enemigos.
Si hubieras construido un robot para acatar las leyes de la guerra,
le habría disparado.
¿Cómo diferenciaría un robot entre lo legal y lo correcto?
Cuando se trata de una guerra con drones,
no quieren que salgan heridos los soldados y la psique estadounidenses,
pero los que se llevarían la peor parte serían los afganos,
los iraquíes y somalíes.
Yo les preguntaría a los que apoyan que se use la IA en drones:
"¿Y si atacaran tu pueblo?".
La IA es un arma de doble filo.
Se puede usar para el bien, que es para lo que se usaría normalmente,
y, con solo pulsar un botón,
la tecnología se convierte en algo potencialmente mortal.
CAROLINA DEL NORTE
Soy farmacólogo clínico.
Tengo un equipo de gente que usa la IA para encontrar medicamentos
que curan enfermedades a las que no se les presta atención.
Se hacía descubriendo fármacos.
Cogías una molécula que ya existía
y la modificabas para conseguir otro fármaco.
Y ahora hemos desarrollado una IA que puede darnos millones de ideas,
millones de moléculas,
y eso le abre la puerta a muchas posibilidades
a la hora de tratar enfermedades que no podíamos tratar.
Pero tiene un lado oscuro que nunca pensé que visitaría.
ME ENCANTA LA QUÍMICA
Todo esto empezó cuando me invitó
una organización suiza llamada Laboratorio Spiez
para hacer una presentación sobre el uso indebido de la IA.
Sean me mandó un correo con algunas ideas
sobre los malos usos que se le podrían dar a nuestra IA.
Y, en vez de pedirle que creara moléculas parecidas a las medicinas
para tratar enfermedades,
intentamos generar las moléculas más tóxicas posibles.
Quería dejar claro que podíamos usar la IA para diseñar moléculas mortales.
Y, sinceramente, creíamos que fracasaríamos
porque bastó con cambiar este cero por un uno.
Y, al invertirlo, en vez de alejarnos de la toxicidad,
se volvió el objetivo.
Y ya está.
Mientras estaba en casa, el ordenador trabajaba por mí.
Decodificaba, generaba miles de moléculas
y no teníamos que hacer nada aparte de darle a Intro.
A la mañana siguiente, había un archivo en mi ordenador
y dentro había unas 40 000 moléculas
que eran potencialmente
algunas de las moléculas más tóxicas que conoce la humanidad.
Se me pusieron los pelos de punta.
Me quedé alucinando.
El ordenador creó miles de ideas para nuevas armas químicas.
Obviamente, tenemos moléculas que parecen y son análogas de VX y VX
en los datos.
El VX es una de las armas más potentes que hay.
La policía afirma
que las mujeres que atacaron a Kim Jong-nam en el aeropuerto
usaron un agente nervioso mortal llamado VX.
Puede causar la muerte por asfixia.
Es una molécula muy potente
y se predijo que casi todas estas serían incluso más mortíferas que el VX.
Por lo que sabemos, muchas no se han llegado a ver nunca.
Cuando Sean y yo nos dimos cuenta de esto, pensamos: "¿Qué hemos hecho?".
Me di cuenta enseguida de que habíamos abierto la caja de Pandora
y dije: "Para. No hagas nada más. Se acabó.
Hazme las diapositivas para la presentación".
Al hacer el experimento,
pensaba: "¿Qué es lo peor que podría pasar?".
Ahora pienso: "Fuimos ingenuos. Fuimos muy ingenuos al hacerlo".
Lo que me aterra es que cualquiera podría hacer lo mismo.
Basta con pulsar un botón.
¿Cómo controlamos esta tecnología antes de que se use
para hacer algo totalmente destructivo?
En el centro del debate sobre la inteligencia artificial
y sobre cómo la usamos en la sociedad,
hay una carrera entre la capacidad que tenemos para desarrollar tecnologías
y la sensatez con la que las controlamos.
Hay implicaciones morales y éticas obvias
a la hora de darle a un programa, como en un móvil,
la capacidad de decidir si matar a alguien o no.
Trabajo con el Instituto del Futuro de la Vida,
una comunidad de activistas científicos.
Intentamos mostrar
que la aceleración y la escalada de la automatización tiene otra faceta.
Pero intentamos asegurarnos de que las tecnologías que creamos
se usan de forma segura y ética.
Hablemos sobre las normas de intervención
y cómo debemos comportarnos al usar la IA en los sistemas de armas
porque están apareciendo tecnologías hechas para entrar en combate
que pueden matar de forma autónoma.
En 2021, las Naciones Unidas publicaron un informe sobre el posible uso
de un arma autónoma letal en el campo de batalla libio.
Las Naciones Unidas afirman que un dron de la guerra civil libia
fue programado para atacar objetivos de forma autónoma.
Si los informes son correctos,
sería un momento decisivo para la humanidad
porque implica el primer caso
en el que una inteligencia artificial ha decidido matar a un ser humano.
Empiezan a usarse armas avanzadas en diferentes lugares del mundo.
Hubo informes de Israel.
Azerbaiyán usó sistemas autónomos
para atacar las defensas aéreas armenias.
Puede volar durante horas,
buscando cosas a las que atacar
y luego las ataca sin ningún tipo de intervención humana.
Y hemos visto hace poco
todos estos vídeos que se publican en Ucrania.
No está claro en qué modo estaban cuando estaban funcionando.
¿Había un humano implicado que elegía qué objetivos atacar
o la máquina lo hacía sola?
Pero llegará un momento,
haya pasado o no en Libia, en Ucrania o donde sea,
en el que una máquina decidirá a quién matar en el campo de batalla.
Las máquinas que matan humanos
sin intervención humana
son políticamente inaceptables y moralmente repugnantes.
No sabemos si la comunidad internacional podrá hacerle frente a estos desafíos.
Es un gran interrogante.
Si miramos hacia el futuro, aunque solo sea dentro de unos años,
el panorama da mucho miedo
porque la cantidad de capital y recursos humanos
que se invierten para fortalecer la IA
y para darle todas estas aplicaciones
son enormes.
Dios mío, qué tío.
Sabe que no puede ganar.
Cuando veo que la IA gana en diferentes ámbitos, me inspira.
Voy a la desesperada.
Y puedes aplicar las mismas tácticas, técnicas y métodos a aviones reales.
Bien hecho.
Vale, bien hecho.
Me sorprende
que la gente siga opinando sobre lo que puede hacer o no la IA.
"Nunca vencerá a un campeón de ajedrez".
Un ordenador de IBM ha remontado
en su partida contra el campeón Garri Kaspárov.
¡Kaspárov ha renunciado!
Cuando veo algo que va más allá de mi comprensión,
me da miedo. Y eso estaba más allá de mi comprensión.
Y luego la gente dijo:
"Nunca podrá vencer a un campeón mundial de go".
Creo que la intuición humana es demasiado avanzada como para que la IA
esté a la altura.
El go es uno de los juegos más complicados que hay
porque el número de movimientos, cuando los calculas,
es superior a los átomos que hay en el universo.
PARTIDA DE DESAFÍO
El equipo DeepMind de Google
creó un programa llamado AlphaGo
para vencer a los mejores jugadores del mundo.
- Enhorabuena a… AlphaGo. - AlphaGo.
Un programa acaba de ganarle a un profesional.
Y luego DeepMind eligió StarCraft como su próximo desafío de IA.
StarCraft será el juego de estrategia en tiempo real más popular que hay.
DEEPMIND ESTÁ CASI INVICTO
AlphaStar se volvió famoso cuando empezó a derrotar a los campeones.
AlphaStar está aplastando a Immortal Arc.
¿Sabes qué?
Los profesionales no pueden ganar esta pelea.
LA INTELIGENCIA ARTIFICIAL SE CONVIERTE EN LA GRAN MAESTRA DE STARCRAFT II
Los profesionales decían: "Nunca usaría esa táctica.
Nunca usaría esa estrategia. No es humano".
Y ahí fue cuando me di cuenta.
Me di cuenta de que había llegado el momento.
Se puede marcar la diferencia con esta tecnología.
Solo conocía los problemas que había en el combate cuerpo a cuerpo,
pero un muy buen amigo mío, que es piloto de F-18, me dijo:
"Tenemos el mismo problema. Bloquean las comunicaciones.
Proliferan los emplazamientos de misiles tierra-aire
que nos ponen en peligro".
Imagina que tuviéramos un avión pilotado por una IA.
Bienvenidos a AlphaDogfight.
Queda poco para la primera semifinal.
DARPA, la Agencia de Proyectos de Investigación Avanzada,
había visto AlphaGo y AlphaStar,
así que se les ocurrió crear la competición AlphaDogfight.
Quieres que tus pilotos hagan esto.
Parece una pelea de perros humana.
En estas peleas, se enfrentan dos aviones de combate.
Es como un combate de boxeo en el cielo.
Puede que la gente haya visto Top Gun.
¿Podemos dejarlos atrás?
Sus misiles y armas no.
Pues pelea.
Puedes tardar entre ocho y diez años en dominar estas peleas.
Crear una IA que se encargue de esto supone un desafío complejo.
Los planteamientos anteriores sobre la autonomía eran frágiles.
Este problema se resolvería con el aprendizaje automático.
Al principio la IA no sabía nada de este mundillo.
No sabía que volaba o qué era una pelea.
No sabía qué era un F-16.
Solo sabía qué acciones podía tomar y empezó a explorar esas acciones al azar.
El avión azul lleva entrenándose poco tiempo.
Se ve que se tambalea de un lado a otro,
vuela de forma muy errática y se aleja de su adversario.
A medida que avanza la pelea, el azul establece una estrategia.
Está en posición de disparar.
A veces el algoritmo de aprendizaje decía: "Bien hecho, sigue así".
Podemos usar la potencia del ordenador y entrenar a los agentes en paralelo.
Es como un equipo.
No siempre nos enfrentamos al mismo equipo,
sino que vamos por el mundo enfrentándonos a 512 equipos
al mismo tiempo.
Puedes volverte bueno muy rápido.
La simulación estuvo ejecutándose sin parar
y conseguimos unos 30 años de entrenamiento
en diez meses.
Pasamos de apenas poder controlar el avión
a ser asesinos sin piedad.
Durante el entrenamiento, solo competíamos contra otra IA.
Pero el objetivo final era competir contra humanos.
Me llamo Mike Benitez.
Soy teniente coronel de las Fuerzas Aéreas.
Llevo unos 25 años en activo.
Tengo 250 misiones a mis espaldas
y me gradué en la Escuela Aérea.
Es Top Gun a lo Fuerza Aérea.
Nunca me he enfrentado a una IA.
Me hace mucha ilusión ver lo bien que puedo hacerlo.
Tenemos una ofensiva a 1,83 km dispuesta cara a cara.
Vamos allá.
Se ha ido.
Sí, qué interesante.
- Muerto. - Le he dado. Victoria impecable.
Vale, segunda ronda.
La inteligencia artificial maniobra con tal precisión
que no puedo seguirle el ritmo.
Justo en la fusión.
Ahora te has ido.
¡Le he dado!
Y me ha dado.
La IA nunca tiene miedo.
En la cabina, uno siente cosas que la IA no siente.
Una de las estrategias más interesantes que creó la IA fue el disparo frontal.
Un humano suele querer disparar por detrás porque cuesta dejar atrás al adversario.
No intentan disparar de frente. Es muy arriesgado.
Si estás de frente, puedes pasar de 900 a 150 m en un pispás.
Corres el riesgo de colisionar. Los humanos no lo intentan.
La IA no temerá a la muerte a menos que se lo digas.
Parece que me enfrento a un humano,
pero un humano que pasa olímpicamente de la seguridad.
No va a sobrevivir al último.
No dispone de tiempo.
Buenas noches.
Estoy muerto.
Supone una lección de humildad saber que no soy lo mejor para esto
y que esa cosa podría llegar a sustituirme.
Mismo techo y visibilidad.
Desplazamiento de 304.
Con este piloto de IA al mando,
la victoria es rotunda y absoluta.
No se trata solo de ganar por goleada,
sino de cómo incorporar la IA al avión. Es así de potente.
Es realista que la inteligencia artificial pilote un F-16
y la cosa no tardará mucho.
Si te enfrentas a un piloto de IA con una tasa de victorias del 99,99999 %,
estás acabado.
Cuando pienso que un único piloto de IA es imbatible,
pienso en lo que un equipo de 50, 100
o 1000 pilotos de inteligencia artificial pueden conseguir.
Un enjambre es un grupo de aviones muy inteligentes que trabajan juntos.
Comparten información sobre qué hacer y cómo resolver un problema.
Supondrá un cambio radical para nuestro ejército y nuestros aliados.
Objetivo adquirido.
Los drones lo están siguiendo.
Vale, toca aterrizar.
El objetivo del enjambre en el que trabajamos
es desplegar un gran número de drones
en una zona de difícil acceso o peligrosa.
El Centro de Investigación del Ejército ha estado apoyando este proyecto.
Si quieres saber qué hay en un lugar, pero cuesta llegar o es un lugar enorme,
desplegar un enjambre es una forma natural de ampliar el alcance humano
y de recopilar información crítica para la misión.
Cuando desplegamos un enjambre,
damos una única orden para rastrear al objetivo de interés.
Luego los drones van y lo hacen todo solos.
La IA permite que los robots se muevan colectivamente como un enjambre
de forma descentralizada.
En los enjambres naturales,
no hay un jefe o un animal principal que les diga qué hacer.
El comportamiento proviene de cada animal a nivel individual
siguiendo unas reglas sencillas.
De ahí surge este comportamiento colectivo emergente.
Lo impresionante de los enjambres en la naturaleza
es la elegante habilidad con la que se mueven.
Es como si estuvieran hechos para formar parte de ese grupo.
Lo que nos gustaría es que nuestros enjambres de drones fueran
como los de la naturaleza,
donde el grupo toma las decisiones.
Lo que también nos inspira
es su fiabilidad y resistencia.
Ese enjambre no se vendrá abajo
si un animal en particular no hace lo que debería hacer.
Aunque uno de los agentes se caiga, falle
o no pueda completar la tarea,
el enjambre seguirá adelante.
En resumidas cuentas, queremos eso.
Necesitamos identificar aviones enemigos en situaciones de combate
y antes necesitábamos que una persona controlara un robot.
A medida que aumente la autonomía, espero que veamos un gran número de robots
controlados por muy pocas personas.
No veo por qué no podríamos llegar a mil
porque cada agente podrá actuar por su cuenta
y no hay límites.
Podemos escalar el aprendizaje…
Llevamos bastante tiempo trabajando en la simulación de enjambres
y ya es hora de llevarlos al mundo de la aviación real.
Esperamos poder controlar tres robots a la vez a través de la red
y luego empezaremos a añadir cada vez más.
Queremos probarlo en sistemas más pequeños
y luego aplicarlo a sistemas más grandes, como un avión de combate.
Se habla mucho de…
cómo se le da a un pelotón la capacidad de combate de un batallón…
o cómo se le da a un batallón la capacidad de combate de una brigada.
Puede lograrse con el enjambre.
Y, cuando se logre esa capacidad,
habrás creado una estrategia de disuasión a la agresión militar.
Creo que lo más emocionante es la cantidad de hombres y mujeres
que salvaremos si lo hacemos bien.
Pondremos máquinas en juego
y no vidas humanas.
Algunos dicen que las armas autónomas harán que la guerra sea más precisa
y más humana,
pero cuesta predecir
exactamente cómo cambiarán la guerra antes de tiempo.
Es como la ametralladora Gatling.
Richard Gatling era inventor
y vio que los soldados volvían heridos de la Guerra Civil.
Quería intentar hacer la guerra más humana.
Quería reducir el número de soldados que morían
reduciendo su número en la batalla.
Inventó la ametralladora Gatling, un arma activada por una manivela
que automatizaba los disparos.
Aumentaba la potencia de fuego de los soldados por cien.
Cuando intentas hacer la guerra más precisa y humana,
suele pasar lo contrario.
Piensa en el efecto que tiene el ataque de un dron en una zona rural:
empuja a la población local contra EE. UU.
y el gobierno local.
Supuestamente los buenos.
Ahora multiplícalo por mil.
Un sistema armamentístico barato,
adaptable y que no requiera operarios humanos
cambia drásticamente las barreras del conflicto.
Me quita el sueño pensar en un mundo donde la guerra es omnipresente
y donde obviamos su coste humano y económico
porque nos hemos distanciado mucho de…
las personas que morirán.
Me atormenta.
Me bastaba con un ejemplo de mal uso de la IA.
Las consecuencias imprevistas de ese simple experimento teórico
han ido demasiado lejos.
LA IA Y LOS FÁRMACOS: CÓMO EVITAR PROVOCAR DAÑOS
Cuando hice la presentación sobre las moléculas creadas por la IA,
el público alucinó.
LOS MEJORES COMPUESTOS ERAN ANÁLOGOS DEL VX
Luego decidimos si publicar esa información o no.
Por un lado, quieres advertir al mundo de este tipo de capacidad,
pero tampoco quieres darle ideas a alguien que nos las tenía.
Decidimos publicarlo
para encontrar formas de mitigar el mal uso de este tipo de IA
antes de que ocurra.
DOBLE USO DEL DESCUBRIMIENTO DE FÁRMACOS IMPULSADO POR LA IA
ESTA TECNOLOGÍA PODRÍA USARSE PARA DISEÑAR ARMAS BIOQUÍMICAS
La reacción del público fue impactante.
Se ven las métricas en la página: cuánta gente ha accedido.
Con un artículo cualquiera, tenemos suerte si lo leen
unos cuantos miles de personas a lo largo de un año o varios años.
Lo leyeron 10 000 en una semana.
Luego fueron 20 000, 30 000, 40 000
y llegamos a 10 000 personas al día.
Salimos en The Economist y el Financial Times.
Nos contactó Radiolab. ¡He oído hablar de Radiolab!
Pero las reacciones se desbocaron.
Esos tuits decían: "No podrían haber hecho algo peor".
HOSTIA PUTA
"¿Por qué lo han hecho?".
UN ARTÍCULO SINIESTRO
ESOS FRIKIS NOS MATARÁN A TODOS
Y recibimos una invitación que nunca habría imaginado.
Se habló mucho del artículo en la Casa Blanca
y querían hablarnos con urgencia.
Supone un honor increíble
poder hablar con gente a este nivel.
Pero entonces te das cuenta: "Dios mío, es la Casa Blanca. Es el jefe".
Tuvimos que juntar series de datos de código abierto…
En unas seis horas, el modelo pudo generar más de 40 000…
Nos preguntaron cuánta potencia de cálculo se necesitaba
y dijimos que era algo normalito.
Un Mac normal y corriente de seis años.
Y se quedaron boquiabiertos.
Los encargados de entender los agentes de guerra química
y las agencias gubernamentales no tenían ni idea de este potencial.
Hay un libro de recetas para hacer armas químicas
y, si cae en manos de alguien malintencionado,
podría ser horrible.
La gente tiene que escuchar y tenemos que regular esta tecnología
o restringirla de forma que no se pueda usar mal.
Porque el potencial letal
es aterrador.
La sociedad es la que aborda la cuestión de la ética de la IA.
No son los ingenieros, tecnólogos o matemáticos.
La sociedad siempre acaba opinando sobre el uso que debemos darles
a la tecnología y a las innovaciones que presentamos.
Ahora mismo el Ministerio de Defensa dice:
"Solo un humano decidirá si debemos matar algo
en el campo de batalla".
Una máquina puede matar,
pero solo a instancias de un operador humano
y no creo que vaya a cambiar.
Nos aseguran que este tipo de tecnología será segura,
pero el ejército estadounidense no tiene una reputación fiable
con la guerra de drones.
Cuando se trata de confiarle la IA al ejército estadounidense,
el historial habla por sí solo.
La política de Defensa en relación con el uso de armas autónomas
no prohíbe ningún tipo de sistema de armas.
Incluso si los ejércitos no quieren armas autónomas,
podrían darles más poder de decisión a las máquinas
para seguirles el ritmo a los competidores.
Los ejércitos podrían automatizar decisiones que no quieren automatizar.
Vladímir Putin dijo:
"Quien lidere la IA gobernará el mundo".
El presidente Xi ha dejado claro que la IA es una de las principales tecnologías
que China quiere dominar.
Estamos en una competición tecnológica.
Se habla de barreras de seguridad
y creo que es lo que la gente debería hacer.
Pero la carrera por la superioridad de la IA es muy real.
Y a nuestros adversarios, ya sea China, Rusia o Irán,
les dará igual lo que diga nuestra política sobre la IA.
Se habla más de las políticas de IA,
pero me gustaría que más líderes hablaran de ello
en plan: "¿Cuánto tardaremos en montar esto?
Invirtamos en ello y construyámoslo".
EXPOSICIÓN ANUAL DEL EJÉRCITO
EJÉRCITO DE LOS ESTADOS UNIDOS
Estamos en la mayor feria anual de la Asociación del Ejército de EE. UU.
Cualquier vendedor que quiera venderle un producto o tecnología a un ejército
estará en la feria.
La base aérea de Tyndall tiene cuatro robots
que patrullan su base las 24 horas, todos los días.
Podemos añadir de todo: cámaras, sensores y lo que necesites.
Brazos manipuladores. Lo que el cliente necesite para completar su misión.
¿Y si tu enemigo usa IA?
¿Un sistema que piensa y responde más rápido que tú,
que un ser humano? Tenemos que estar preparados.
Entrenamos los sistemas para recopilar datos sobre el enemigo
y para gestionar los objetivos, pero un humano da la orden de abatirlos.
- Hola, general. - ¿Qué tal?
Bien, señor. ¿Qué tal?
Hemos invertido mucho en pilotos de IA. El nuestro se llama Hivemind.
Se lo hemos aplicado al cuadricóptero Nova.
Explora edificios antes de que entren las fuerzas especiales y la infantería.
Lo estamos aplicando a V-BAT.
Podríamos poner cientos de esos equipos
en el estrecho de Taiwán o en Ucrania para disuadir a nuestros adversarios.
Estoy muy emocionado.
- Vale, gracias. - Gracias, general.
Los pilotos de IA deberían generalizarse para 2025 o 2030.
Los ejércitos de todo el mundo los adoptarán enseguida.
¿Te encargas de los vehículos aéreos no tripulados rumanos?
Alta tecnología en el ejército.
Nos hemos gastado 500 millones de dólares en construir un piloto de IA.
Gastaremos otros mil millones en los próximos cinco años.
Por eso nos asignan los contratos de Defensa en EE. UU.
Estupendo.
Es impresionante. ¿Habéis conseguido convertirlo en un arma?
Aún no es un arma.
Aún no, pero lo haremos en el futuro.
Los clientes lo consideran una camioneta inteligente
que puede hacer muchas cosas.
- Gracias. - Sí.
Me aseguraré de contactarte.
Si vuelves en diez años, verás que…
la IA y la autonomía habrán dominado este mercado.
Los ejércitos que cuenten con IA y con autonomía
dominarán, aplastarán y destruirán a los ejércitos que no las tengan.
Será como caballos enfrentándose a tanques
o espadachines a ametralladoras.
Habrá una diferencia abismal.
Se generalizará. Se usará en todos los espectros bélicos:
a nivel táctico
y a nivel estratégico.
Operará a una velocidad inimaginable para los humanos.
Ya hay demasiada información que agobia a los comandantes:
imágenes de satélites, drones y sensores.
La IA puede ayudar a un comandante a entender qué pasa con mayor rapidez
y qué decisiones debe tomar.
La inteligencia artificial tendrá en cuenta todos los factores
que determinan cómo se libra la guerra,
ideará estrategias…
y recomendará cómo ganar una batalla.
CENTRO DE INNOVACIÓN
Lockheed Martin y su cliente, el Ministerio de Defensa,
consideran la IA un elemento clave para garantizar el mando y el control.
La velocidad de propagación es de 60 cm/s.
Este perímetro tiene unas 283 ha.
La niebla de guerra es una realidad bélica,
pero tiene paralelismos con el medioambiente
y la toma de decisiones en caso de incendios.
El incendio de Washburn está al norte de Wawona.
Tienes que tomar decisiones con datos imperfectos.
¿Y cómo nos ayuda la IA con esa niebla de guerra?
Los incendios son muy caóticos.
Son muy complejos,
así que estamos trabajando para utilizar la IA
para tomar decisiones.
El Encargado de Misión Cognitiva es un programa
que graba vídeos aéreos con infrarrojos
y que los procesa a través de nuestros algoritmos de IA
para poder predecir el futuro del incendio.
A medida que nos adentramos en el futuro, el programa usará la simulación
y ejecutará marcos hipotéticos a lo largo de miles de ciclos
para recomendar la forma más eficaz de desplegar recursos
para sofocar áreas de incendio de alta prioridad.
Dirá: "Manda un helicóptero Firehawk a este sitio.
Lleva a equipos que limpien la maleza
y a bomberos con mangueras
a zonas de alta prioridad".
Esas decisiones podrán generarse de forma más rápida y eficiente.
Consideramos que la IA nos permite
estar preparados frente a un medioambiente en constante cambio.
Y hay muchos paralelismos
entre lo que solemos hacer aquí y el aspecto bélico.
El ejército ya no habla de usar la IA
y los sistemas de armas individuales para decidir qué objetivos eliminar,
sino de integrar la IA
en la toma de decisiones a todos los niveles.
El Ejército tiene el Proyecto Convergencia.
La Marina tiene Overmatch.
Y las Fuerzas Aéreas tienen el Sistema de Gestión de Combate.
Defensa está intentando averiguar
cómo juntar todo esto
para operar más rápido que los adversarios
y llevarles ventaja.
Un encargado de batalla de IA sería un general de alto rango
que está al mando de la batalla.
Ayudaría a darles órdenes a las tropas,
coordinaría las acciones de las armas
y lo haría a una velocidad sobrehumana.
Llevamos 70 años creando el ejército más sofisticado del planeta
y ahora tenemos que decidir si cederle el control
de esa infraestructura a un algoritmo, a un software.
Y esa decisión
podría hacer que usáramos todos nuestros arsenales.
No es un Hiroshima. Son cientos.
Tenemos que actuar ya
porque nos estamos quedando sin tiempo para reducir este riesgo.
Empezamos con los retos de seguridad que plantean las nuevas tecnologías
en relación con los sistemas de armas autónomos.
En las Naciones Unidas, se habla
de la amenaza que suponen estas armas
y de que no permitimos sistemas de IA que seleccionan y abaten personas.
El consenso entre los tecnólogos es claro y rotundo.
Nos oponemos a las armas autónomas que abaten humanos.
Los estados llevan años discutiendo sobre los sistemas autónomos letales.
Se trata de la seguridad global.
Pero claro, no es fácil.
Algunos países, sobre todo las potencias militares,
quieren estar a la vanguardia
para llevarles ventaja a sus adversarios.
Para hacer algo, todo el mundo tiene que estar de acuerdo.
Habrá al menos un país que se oponga
y Estados Unidos y Rusia han dejado claro
que se oponen a un tratado que prohibiría estas armas.
La cantidad de personas que trabajan para hacer que la IA sea más potente
es elevadísima.
La cantidad de personas que trabajan para hacer que la IA sea segura
es bastante inferior.
Pero también soy muy optimista.
Pienso en la Convención sobre las Armas Biológicas
que ocurrió en plena Guerra Fría,
a pesar de las tensiones entre la Unión Soviética y Estados Unidos.
Pudieron darse cuenta de que el desarrollo de armas biológicas
no era lo mejor para ellos
ni para el mundo en general.
La carrera armamentística favorece la velocidad frente a la seguridad,
pero creo que se darán cuenta de que,
en un momento dado, ir demasiado rápido sale caro.
No podemos desarrollar cosas de forma aislada
y usarlas sin pensar en las consecuencias que podrían tener.
Tenemos que evitar lo que pasó con la bomba atómica.
Hay mucho en juego en la carrera por la IA.
No creo que mucha gente aprecie la estabilidad global
que se ha logrado al tener una fuerza militar superior
durante los últimos 75 años.
Por eso, EE. UU. y sus fuerzas aliadas
deben superar a la IA rival.
O se gana o se pierde.
China ha presentado un plan para ser la líder en IA para 2030.
EE. UU. está perdiendo la carrera.
Se acelerará la adopción de la inteligencia artificial
para asegurar nuestra ventaja militar competitiva.
Estamos avanzando con esta tecnología.
Lo que no está claro es hasta dónde llegaremos.
¿Controlamos la tecnología o ella a nosotros?
No habrá segundas oportunidades.
Cuando el problema se descontrole, se acabó.
Costará mucho encontrar una solución.
Y, si no actuamos ya, será demasiado tarde.
Puede que ya sea tarde.
Subtítulos: Mónica Morales Gómez