Downloaded from YTS.MX
Official YIFY movies site: YTS.MX
La inteligencia artificial es impresionante.
Muy bien, ya sube. Buena formación.
Tiene el potencial de eliminar la pobreza,
crear medicamentos nuevos
y hacer el mundo más pacífico.
Buen trabajo.
Pero hay muchos riesgos en el camino.
Con la inteligencia artificial, creamos una inteligencia no humana
que es muy impredecible.
A medida que se potencia,
¿dónde quedan límites que se van a trazar con la IA
en cuanto a si vamos a usarla o no?
No hay mayor punto de partida en este asunto
que la aplicación militar.
El campo de batalla se ha convertido en el área del software y hardware.
Objetivo adquirido…
Los militares se apuran para desarrollar IA
antes que sus adversarios.
Estoy muerto.
Avanzamos rápidamente hacia un mundo donde no solo los grandes ejércitos
sino también figuras no estatales, industrias privadas
o incluso nuestra comisaría del barrio
podrían usar estas armas que matan de forma autónoma.
¿Cederemos la decisión de quitar vidas a algoritmos, a programas informáticos?
Es uno de los temas más urgentes de nuestra época.
Y, si no se usa apropiadamente,
supone un gran riesgo para todas las personas del mundo.
LO DESCONOCIDO
LOS ROBOTS ASESINOS
Bien hecho, chicos.
- La lente es mucho más amplia que antes. - ¿En serio?
Se ven muchos más datos.
Grandioso.
En Shield AI, estamos creando un piloto de IA
que pone la tecnología de la inteligencia artificial autónoma
en las aeronaves.
Cuando hablamos de un piloto de IA,
pensamos en darle a una aeronave mayor autonomía.
Resolvería problemas por su cuenta.
Nova es un cuadricóptero autónomo
que explora edificios y estructuras subterráneas
antes que las fuerzas humanas
para tener imágenes y audio en esos espacios.
Hay muchísimas mejoras desde la última vez que lo vimos.
Estamos con cambios de exploración.
Trabajamos piso por piso.
Termina todos los cuartos de un piso antes de ir a otro.
- Es increíble. - Hicimos algunos cambios…
Muchos me preguntan
por qué la inteligencia artificial es una capacidad importante.
Y pienso en las misiones que ejecutaba.
Pasé siete años en la Marina.
Fui SEAL de la Marina. Me enviaron dos veces a Afganistán
y una al Teatro del Pacífico.
Un día cualquiera, debíamos revisar 150 recintos o edificios.
Una capacidad principal es el combate cuerpo a cuerpo.
Los tiroteos a muy corta distancia dentro de los edificios.
Te disparan.
Hay explosivos improvisados dentro del edificio.
Es lo más peligroso que cualquier miembro de las fuerzas especiales
o de la infantería puede hacer en una zona de combate. Sin duda.
Siempre estaré agradecido por mi tiempo en la Marina.
Hay una serie de momentos y recuerdos que, cuando los pienso,
me conmueven mucho.
Es un cliché que la libertad no es gratis, pero lo creo totalmente.
Lo he vivido y requiere de mucho sacrificio.
Perdón.
Cuando algo malo le pasa a uno de tus compañeros,
que queda herido o muerto,
eso es algo muy trágico.
Para mí, en el trabajo que hacemos,
motiva la posibilidad de poder disminuir la cantidad de veces
de que eso pase.
A fines de la década del 2000,
aumentó la conciencia en el Departamento de Defensa
sobre lo que podría llamarse la revolución robótica accidental.
Enviamos miles de robots aéreos y terrestres a Irak y Afganistán.
Cuando el gobierno de Obama me pidió que fuera subsecretario de Defensa,
la forma en que se libraba la guerra estaba cambiando mucho.
Se usaban robots cuando se habría usado gente.
Los primeros sistemas se controlaban remotamente.
Un humano los manejaba como si fuera un auto a control remoto.
Comenzaron buscando artefactos explosivos improvisados.
Si la bomba explotaba, el robot también.
Decíamos: "Qué lástima. Bien, saca otro robot".
En Afganistán, estaba el dron Predator
que se convirtió en una herramienta muy útil para realizar ataques aéreos.
Luego, los planificadores militares comenzaron a preguntarse
para qué más podían usarse los robots y hacia dónde iba eso.
Y una de las tendencias fue la idea de mayor autonomía.
Un arma autónoma toma decisiones por sí sola
con poca o ninguna intervención humana.
Tiene una capacidad independiente y es autodirigida.
Que mate depende de si está armada o no.
Cuando hay cada vez más autonomía en todo tu sistema,
se mueve a una velocidad precisa más alta.
Y cuando operas a un ritmo más veloz que tus rivales,
es una ventaja extraordinariamente grande en la batalla.
En cuanto a la autonomía, nos centramos
en sistemas de inteligencia altamente resistentes.
Sistemas que pueden leer y reaccionar según su entorno
y tomar decisiones sobre cómo maniobrar en ese mundo.
Estas instalaciones se construyeron como un estudio de cine
que se transformaron
para permitir entornos de entrenamiento militar realistas.
Vinimos a evaluar nuestro piloto de inteligencia artificial.
La misión es buscar amenazas. Se trata de fuerzas de despeje.
Puede tomar una decisión sobre cómo atacar el problema.
A esto lo llamamos "el embudo fatal". Debemos atravesar una puerta.
Allí somos más vulnerables.
Esta está mejor.
El Nova nos avisa si hay un tirador detrás de la puerta o si hay una familia.
Nos permite tomar mejores decisiones y sacar a la gente del peligro.
Usamos los sensores de visión
para tener una idea de cómo es el entorno.
Hay varios pisos.
Aquí está el mapa.
Mientras exploraba, vi esto y el lugar.
Detector de personas. Qué genial.
Uno de los otros sensores del Nova es un escáner térmico.
Si dice 37 grados, probablemente haya un humano.
Las personas son amenazas hasta considerarse lo contrario.
Se trata de eliminar la incertidumbre para tomar mejores decisiones.
Y cuando pensamos en el futuro,
anticipamos cómo construir equipos de aeronaves autónomas.
Con vehículos autónomos,
la persona decía: "Quiero que vayas del punto A al punto B."
A nuestros sistemas no se les pide ir del punto A al punto B,
sino cumplir un objetivo.
Es como decir: "Quiero leche".
Luego el robot tendría que averiguar a qué tienda ir,
poder tomar esa leche y traerla de vuelta.
Mejor todavía,
se podría decir algo más apropiado como: "Que el refrigerador esté lleno".
Es un nivel de inteligencia que dilucida qué necesitamos y cómo lo resolvemos.
Y si hay un desafío, un problema o un asunto, averigua cómo resolverlo.
Cuando tomé la decisión de irme de la Marina,
empecé a pensar en qué vendría después.
Crecí con internet. Vi cómo se transformó.
Una conclusión a la que llegué
fue que la inteligencia artificial en 2015
estaba como internet en 1991.
Y la IA estaba lista para despegar
y ser una de las tecnologías más poderosas del mundo.
Trabajo con ella todos los días y veo los avances que tiene.
Pero mucha gente, cuando piensa la IA,
enseguida piensa en Hollywood.
¿A qué quieres jugar?
¿Qué tal a la guerra termonuclear global?
Está bien.
Generalmente, cuando se menciona la IA, la gente piensa en Terminator, Yo, robot…
Desactivar.
¿Qué soy?
O Matrix.
Según las películas de ciencia ficción,
¿cómo sabes que soy humano?
Podría ser una IA generada por computadora.
Los replicantes son como cualquier otra máquina. Un beneficio o un peligro.
Pero hay muchos tipos de IA más primitivas
que cambiarán nuestras vidas
mucho antes de llegar a la etapa del robot que piensa y habla.
Los robots existen y están tomando decisiones.
La revolución de los robots ha llegado,
solo que nadie imaginaba que sería así.
Terminator es una unidad de infiltración. Es hombre y máquina.
No hablamos de un robot asesino al estilo Terminator.
Hablamos de una IA que hace tareas que los humanos pueden hacer.
Pero el asunto es si estos sistemas son confiables.
Nuevos detalles del accidente mortal de anoche con un Uber autónomo.
La compañía creó un chatbot de inteligencia artificial.
Se volvió bastante racista…
Legisladores estatales identificados erróneamente como criminales.
RECONOCIMIENTO FACIAL ERRÓNEO
La pregunta es si pueden manejar las complejidades del mundo real.
El mundo físico es muy desordenado.
Hay muchas cosas que no sabemos.
Esto hace que sea difícil entrenar sistemas de IA.
Ahí comenzaron los sistemas de aprendizaje automático.
El aprendizaje automático ha sido un gran avance
porque no tenemos que enseñarles todo a las computadoras.
Le das a una computadora millones de pedazos de información,
y la máquina empieza a aprender.
Y eso se puede aplicar a todo.
En nuestro proyecto Perro Robot, intentamos mostrar
que el perro puede caminar por muchas superficies distintas.
Los humanos evolucionaron por millones de años para caminar,
pero hay mucha inteligencia para adaptarse a las superficies.
Queda saber si los sistemas robóticos
podrían adaptarse como animales y humanos.
Con el aprendizaje automático, recogemos muchos datos en la simulación.
Una simulación es un gemelo digital de la realidad.
Podemos tener muchas instancias de esa realidad en varias computadoras.
Muestra miles de acciones en la simulación.
El suelo que ven es diferente en cuanto a lo resbaloso.
Tiene otra dureza.
Tomamos toda la experiencia de estos miles de robots de la simulación
y la descargamos en un sistema robótico real.
La prueba que haremos hoy es si puede adaptarse a nuevos terrenos.
Cuando el robot pasaba sobre la espuma, los pies golpeaban el suelo al caminar.
En cambio, sobre la superficie de polietileno,
intentaba ajustar el movimiento para no resbalarse.
Entonces, te das cuenta
de que esto es lo que aporta el aprendizaje automático.
Creemos que el Perro Robot puede ser útil en casos de respuesta en desastres,
donde se deben recorrer diferentes tipos de superficies.
O se pueden poner estos perros para vigilar en ambientes hostiles.
Pero en la mayor parte de la tecnología existe el desafío
de que puede hacer cosas buenas y cosas malas.
Por ejemplo, la tecnología nuclear se puede usar para extraer energía…
pero también, para desarrollar bombas atómicas, algo muy malo.
Esto es lo que se conoce como el problema del doble uso.
El fuego es de doble uso.
La inteligencia humana es de doble uso.
Entonces, no hace falta decir que la IA también es de doble uso.
Es muy importante que la IA se use en contexto
porque, sí, es genial tener un robot de búsqueda y rescate
que ayude a hallar gente después de una avalancha,
pero ese mismo robot puede estar armado.
Cuando ves empresas que usan robots para ponerles armas cargadas,
por un lado, te enojas.
Pero nos damos cuenta de que, cuando ponemos nuestra tecnología,
esto es lo que pasa.
Es una tecnología muy transformadora.
Son sistemas de armas
que podrían cambiar drásticamente nuestra seguridad.
Por ahora, no estamos seguros de que las máquinas puedan distinguir
entre civiles y combatientes.
En la guerra en Afganistán, estuve en un equipo de francotiradores
que buscaba cazas enemigos pasando la frontera.
Enviaron a una niña a explorar nuestra posición.
Nunca surgió la idea de dispararle a esa niña.
Según las leyes de la guerra, habría sido legal.
No fijan una edad para los combatientes enemigos.
De haber tenido un robot que cumpliera las leyes de la guerra al detalle,
le habría disparado.
¿Cómo sabría un robot la diferencia entre lo legal y lo correcto?
En una guerra de drones autónomos,
se quiere eliminar el daño a los soldados estadounidenses
y a la psique nacional,
pero el aumento del daño civil termina en los afganos,
iraquíes y somalíes.
Les preguntaría a quienes apoyan la IA en los drones:
"¿Y si tu aldea estuviera en la mira?".
La IA es un arma de doble filo.
Se puede usar para el bien, y eso hacemos normalmente,
pero, con solo tocar un interruptor,
la tecnología se vuelve algo posiblemente letal.
RALEIGH, CAROLINA DEL NORTE
Soy farmacólogo clínico.
Tengo un equipo
que usa inteligencia artificial para analizar drogas
que curen enfermedades a las que aún no se les pone atención.
Antes, con los descubrimientos de drogas, tomabas una molécula existente
y le hacías un ajuste para crear una droga nueva.
Ahora hemos desarrollado una IA que nos brinda millones de ideas,
millones de moléculas,
y eso abre muchas posibilidades
para tratar enfermedades que no hemos podido tratar antes.
Pero hay un lado oscuro
al que nunca imaginé que iría.
AMO LA QUÍMICA
Todo esto comenzó cuando me invitó
una organización de Suiza llamada Spiez Laboratory
para hablar sobre el posible uso indebido de la IA.
Sean me envió un correo con algunas ideas
de cómo se podía hacer un mal uso de la inteligencia artificial.
En lugar de pedirle al modelo que creara moléculas similares a las de las drogas,
usadas para tratar enfermedades,
veríamos si podíamos crear las moléculas más tóxicas posibles.
Quería ver si se podía usar la tecnología de la IA para diseñar moléculas mortales.
Sinceramente, pensamos que iba a fallar
porque lo único que hicimos fue cambiar este cero a uno.
DATOS, 1
Y, al invertirlo, en lugar de disminuir la toxicidad,
la estábamos aumentando.
Nada más.
La computadora hacía el trabajo mientras yo estaba en casa.
Ingresaba números y generaba miles de moléculas.
No teníamos que hacer nada más que presionar "ahora".
A la mañana siguiente, había un archivo en mi computadora
que contenía unas 40 000 moléculas.
Posiblemente,
eran algunas de las moléculas más tóxicas que conocemos.
Se me erizaron los pelos de la nuca.
Quedé pasmado.
La computadora creó decenas de miles de ideas para nuevas armas químicas.
Obviamente, tenemos moléculas que se parecen y son análogas al VX y VX
en los datos.
El VX es una de las armas químicas más potentes del mundo.
Ahora la policía dice
que las mujeres que atacaron a Kim Jong-nam en este aeropuerto
usaban un agente nervioso mortal llamado VX.
Puede causar la muerte por asfixia.
Es una molécula muy potente.
Se decía que la mayoría de estas moléculas eran más mortales que el VX.
Hasta donde sabemos, muchas eran desconocidas.
Cuando Sean y yo nos dimos cuenta de esto, pensamos: "¿Qué hicimos?".
Me di cuenta enseguida de que habíamos abierto la caja de Pandora
y dije: "Basta. No hagamos nada más. Terminamos.
Solo hazme las diapositivas para la presentación".
Cuando hicimos el experimento, pensé: "¿Qué es lo peor que podría pasar?".
Pero fuimos totalmente ingenuos al hacer eso.
Lo que más me aterra es que cualquiera puede hacerlo.
Solo se toca un interruptor.
¿Cómo controlamos esta tecnología antes de que se use
para hacer algo posiblemente destructivo?
En el centro de la conversación sobre la IA
y de cómo elegimos usarla en la sociedad
hay una carrera entre el poder con el que desarrollamos tecnologías
y la sabiduría para gobernarlo.
Hay implicancias morales y éticas obvias
en que lo mismo que activa nuestros teléfonos
toma la decisión moral de quitar una vida.
Trabajo en el Future Of Life Institute, una comunidad de activistas científicos.
En general, intentamos mostrar
que hay otro aspecto en acelerar y aumentar la autonomía.
Pero intentamos que las tecnologías que creamos
se usen de manera segura y ética.
Hablemos sobre reglas de combate
y códigos de conducta para usar la IA en nuestros sistemas de armas.
Porque ahora vemos tecnologías para entrar al campo de batalla
que pueden matar de manera autónoma.
En 2021, la ONU publicó un informe sobre el uso potencial
de un arma autónoma letal en un campo de batalla en Libia.
Un panel de la ONU dijo que el año pasado un dron en la guerra civil de Libia
se había programado para atacar objetivos de forma autónoma.
Si los informes de la ONU son precisos,
este sería un momento decisivo para la humanidad
porque marca un caso de uso
donde una IA tomó la decisión de quitar una vida. No fue un ser humano.
Se ven armas autónomas avanzadas
que comienzan a usarse en diferentes lugares del mundo.
Hubo informes de Israel.
Azerbaiyán usó sistemas autónomos para atacar defensas aéreas armenias.
Puede sobrevolar el campo de batalla por horas,
buscando objetivos para impactar
y estrellarse contra ellos sin ninguna intervención humana.
Hace poco, hemos visto diferentes videos que se publican en Ucrania.
No está claro en qué modo estaban cuando operaban.
¿Había un humano eligiendo qué objetivos atacar
o la máquina lo hacía sola?
Pero, por supuesto, llegará un momento,
sea en Libia, en Ucrania o en cualquier otro lugar,
en que una máquina decidirá sola a quién matar en el campo de batalla.
Las máquinas que ejercen poder letal contra humanos
sin intervención humana
son políticamente inaceptables y moralmente repugnantes.
Si la comunidad internacional
será suficiente para gobernar esos desafíos
es un gran interrogante.
¿FUTUROS ROBOTS ASESINOS?
Si pensamos en el futuro, aunque sea dentro de unos años,
el panorama es muy aterrador
porque la cantidad de capital y recursos humanos
para hacer que la IA sea más poderosa
y se use en estas diferentes aplicaciones
es inmensa.
Dios mío, qué tipo.
Sabe que no puede ganar.
Cuando veo a la IA ganar en diferentes problemas, me parece inspirador.
Que sea lo que Dios quiera.
Y pueden aplicar esas mismas tácticas, técnicas y procesos en aeronaves reales.
Buen juego.
Bien jugado.
Me sorprende que la gente siga hablando de lo que la IA no puede hacer.
"Nunca vencería a un campeón mundial de ajedrez".
Una computadora de la empresa IBM volvió
para esta segunda partida contra el campeón mundial, Garry Kasparov.
¡Kasparov renunció!
Cuando veo algo que está más allá de mi comprensión,
me da miedo. Y eso fue algo más allá de mi comprensión.
La gente también dice:
"Nunca podrá ganarle al campeón mundial de Go".
Creo que la intuición humana es demasiado avanzada para la IA
y no podrá alcanzarla.
Go es uno de los juegos más complicados para aprender
por la cantidad de movimientos en la mesa que, si se calculan,
superan la cantidad de átomos en todo el universo.
Había un equipo en Google llamado DeepMind que creó un programa llamado AlphaGo
para vencer a los mejores jugadores del mundo.
Felicitaciones a…
AlphaGo.
Un programa de computadora le ganó a un 9 dan profesional.
Y luego, DeepMind eligió StarCraft como su próximo desafío de la IA.
StarCraft es quizás el juego de estrategia en tiempo real más popular.
LA IA DE DEEPMIND APLASTA
AlphaStar se hizo famoso cuando comenzó a derrotar a campeones mundiales.
AlphaStar destruye en Immortal Arc.
¿Sabes qué? Los profesionales no podrán ganar esta pelea.
Es ridículo.
LA IA SE CONVIERTE EN GRAN MAESTRA
Los profesionales decían: "Nunca probaría esa táctica".
"Nunca probaría esa estrategia. Eso no es humano".
Y ese fue quizá el momento de revelación para mí.
Me di cuenta de que era el momento.
Hay una tecnología importante y una oportunidad para hacer un cambio.
Solo conocía los problemas como SEAL en los combates cuerpo a cuerpo,
pero uno de mis amigos, que era piloto de F-18, me dijo:
"Tenemos el mismo problema en la comunidad de jets.
Bloquean las comunicaciones.
Hay más sitios de misiles superficie-aire que hacen que sea peligroso operar".
Imagina si tuviéramos un jet de combate pilotado por una IA.
Bienvenidos a las pruebas.
Estamos a unos minutos de la primera semifinal.
DARPA, la Agencia de Proyectos de Investigación Avanzados de Defensa,
había visto AlphaGo y AlphaStar.
Esta idea de la competencia AlphaDogfight se hizo realidad.
Eso quieres ver en pilotos de combate humanos.
Parece una pelea de perros humana.
Las peleas de perros son aviones de combate que se atacan.
Es como un combate de boxeo en el cielo.
Quienes vieron Top Gun lo entienden.
¿Podemos superarlos?
No sus misiles y armas.
Es una pelea de perros.
Aprender a dominar las peleas puede llevar de ocho a diez años.
Es un desafío tremendamente complejo para construir la IA.
Los enfoques anteriores a la autonomía y las peleas de perros eran frágiles.
Pensamos que el aprendizaje automático resolvería el problema.
Al principio, la IA no sabía nada sobre el mundo donde estaba.
No sabía que volaba, qué era una pelea de perros o un F-16.
Solo sabía las acciones que podía hacer
y comenzó a explorarlas.
El avión azul estuvo entrenando por poco tiempo.
Se tambalea hacia adelante y hacia atrás
y vuela muy erráticamente, generalmente, lejos de su adversario.
Cuando avanza la pelea, vemos que el azul comienza con un plan de juego.
Está en posición de disparar.
A veces, el algoritmo de aprendizaje decía:
"Toma un premio. Sigue haciendo eso".
Podemos aprovechar la computadora y entrenar a los agentes en paralelo.
Es como un equipo de básquet.
En lugar de jugar con el mismo equipo una y otra vez,
viajamos por el mundo jugando con 512 equipos diferentes
al mismo tiempo.
Puedes volverte bueno muy rápido.
Pudimos hacer esa simulación 24/7
y tener 30 años de entrenamiento de piloto en 10 meses.
Pasamos de apenas controlar la aeronave
a ser un asesino a sangre fría.
Al entrenar, competíamos solo contra otras IA.
Pero el objetivo final era competir directamente contra humanos.
Me llamo Mike Benitez.
Soy teniente coronel de la Fuerza Aérea.
Llevo 25 años de servicio activo.
Tuve 250 misiones de combate.
Me gradué en la Escuela de Armas, la versión de la Fuerza Aérea de Top Gun.
Nunca volé contra la IA.
Me entusiasma ver cómo lo hago.
Tenemos una ofensiva de 1800 metros de frente.
Adelante.
Se fue.
Es muy interesante.
- Muerto. - Le di. Una victoria impecable.
Bien, segunda ronda.
Lo que hace la inteligencia artificial es maniobrar con tanta precisión
que no puedo seguirle el ritmo.
Justo en la unión.
Vas a morir.
Le di.
Me dio.
La IA nunca tiene miedo.
Hay un aspecto emocional humano en la cabina que la IA no tiene.
Una estrategia interesante que desarrolló nuestra IA
es lo que llamamos el tiro de frente.
Por lo general, un humano quiere disparar desde atrás
porque es difícil para el otro soltarte.
No hace tiros de frente porque todos prueban su valentía.
Cuando atacamos de frente, de 900 a 150 metros de distancia,
puede ser en un segundo.
Corres riesgo de colisionar, así que los humanos no lo intentan.
La IA no le teme a la muerte a menos que se le indique.
Siento que voy contra un humano,
pero uno que no tiene en cuenta la seguridad.
No sobrevivirá esta vez.
No tiene tiempo.
Buenas noches.
Morí.
Es humillante saber
que tal vez no sea el mejor para esta misión
y que esa cosa me podría reemplazar un día.
Visibilidad, 1800 m.
Y 300 de margen.
Con este piloto de IA al mando de aeronaves,
la victoria es implacable, dominante.
No es solo ganar por un margen amplio.
Es pensar cómo meter eso en nuestra aeronave. Es así de poderoso.
Es realista pretender que la IA pilotee un F-16,
y no faltará mucho para eso.
Si un piloto de inteligencia artificial tiene una tasa de éxito del 99.99999 %,
no tienes chance.
Cuando veo que un piloto de IA es imbatible,
pienso en lo que un equipo de 50, 100
o 1000 pilotos de inteligencia artificial puede lograr.
El enjambre es un grupo de aviones inteligentes que trabajan juntos.
Comparten información sobre qué hacer y cómo resolver un problema.
El enjambre será una capacidad
que redefinirá las reglas del juego para nuestro ejército y aliados.
El objetivo se detectó. Los drones lo están rastreando.
Bien, ya aterrizan.
El objetivo principal de la investigación del enjambre
es desplegar una gran cantidad de drones
en un área de acceso difícil o peligroso.
El Laboratorio de Invest. del Ejército estuvo apoyando este proyecto.
Si quieres saber qué hay en un lugar,
pero es difícil llegar a esa área o es una zona muy grande,
enviar un enjambre es una forma natural de extender el alcance de los individuos
y reunir información crítica para la misión.
En este despliegue de enjambre,
damos una sola orden para rastrear el objetivo en cuestión.
Luego los drones van y hacen todo solos.
La IA permite que los robots se muevan colectivamente como un enjambre
de manera desconcentrada.
En los enjambres de la naturaleza,
no hay un jefe o un animal principal que indica qué hacer.
El comportamiento surge de cada animal individual
que sigue algunas reglas simples.
Y de allí surge este comportamiento colectivo que se ve.
Lo asombroso de los enjambres en la naturaleza
es la habilidad con la que se mueven.
Es como si estuvieran diseñados para estar en un grupo.
Lo ideal es que veamos con nuestro enjambre de drones,
como con los enjambres naturales,
que las decisiones se tomen colectivamente.
Otras cosas que nos dan inspiración
son la confiabilidad y la resistencia.
Ese enjambre no cae
si un animal individual no hace lo que debe hacer.
Incluso si uno de los agentes cae, falla
o no puede completar la tarea,
el enjambre continúa.
Eso es lo que nos gustaría tener.
Debemos identificar aviones enemigos en situaciones de combate.
Antes se necesitaba a una persona que controlara un robot.
A medida que aumenta la autonomía,
también aumentaría la cantidad de robots
controlados por muy pocas personas.
No veo por qué no podemos llegar a mil
porque cada agente podrá actuar por su cuenta. No hay límites.
Podemos ampliar esos datos…
Hace tiempo que trabajamos en la simulación con enjambres.
Ya es hora de llevar eso a las aeronaves.
Esperamos hacer tres robots a la vez en la red
y luego agregar cada vez más habilidades.
Queremos probar eso en sistemas más pequeños,
pero tomar esos conceptos y aplicarlos a sistemas más grandes
como un avión de combate.
Hablamos mucho
de cómo se le da a un pelotón el poder de combate de un batallón.
O a un batallón el poder de combate de una brigada.
Se puede hacer con el enjambre.
Cuando liberas ese poder del enjambre,
habrás creado una nueva disuasión estratégica en la agresión militar.
Creo que lo más emocionante es la cantidad de hombres y mujeres jóvenes
que salvaremos si lo hacemos bien.
Intercambiamos máquinas
y no vidas humanas.
Algunos dicen que las armas autónomas harán que la guerra
sea más precisa y compasiva,
pero es difícil predecir
cómo las armas autónomas podrían cambiar las guerras.
Es como la ametralladora Gatling.
PATENTE 9 DE MAYO DE 1865
Richard Gatling era inventor.
Vio soldados heridos que regresaban de la Guerra Civil
y quiso buscar formas de hacer la guerra más compasiva.
De poder disminuir la cantidad de muertes en la guerra
llevando menos soldados a la batalla.
Así que inventó la ametralladora Gatling, que se activaba con una manivela
y automatizaba el proceso de disparo.
Aumentaba cien veces la potencia de fuego que aportaban los soldados.
A veces, los esfuerzos para hacer la guerra más precisa y compasiva
pueden tener el efecto opuesto.
Piensa en el efecto de un ataque de dron errante
en una zona rural que pone a la población contra Estados Unidos,
contra un gobierno local. Supuestamente, los buenos.
Ahora multiplica eso por 1000.
La creación de un sistema de armas
que sea barato, expansible y que no requiera agentes humanos
cambia drásticamente las barreras del conflicto.
Me inquieta pensar en un mundo donde la guerra sea omnipresente,
y ya no carguemos con el costo humano y financiero de la guerra
porque ya no haría falta pensar
en las vidas que se perderían.
Esto me atormenta.
Solo necesitaba un ejemplo de mal uso de la IA.
Las consecuencias inesperadas de hacer ese experimento simple
fueron demasiado lejos.
IA EN DESCUBRIMIENTO DE DROGAS: EVITAR HACER MÁS DAÑO QUE BIEN
En la presentación
de las moléculas tóxicas creadas por la tecnología de IA
el público quedó pasmado.
LOS 5000 MEJORES COMPUESTOS ERAN ANÁLOGOS DEL VX
La siguiente decisión fue si debíamos publicar esta información.
Por un lado, quieres advertir sobre este tipo de capacidades,
pero, por otro lado, no quieres darle la idea a alguien si nunca la ha tenido.
Decidimos publicarla
para buscar formas de mitigar el mal uso de este tipo de IA
antes de que ocurriera.
DOBLE USO DE DESCUBRIMIENTO DE DROGAS POR IA
EL USO DE TECNOLOGÍAS DE IA EN EL DESCUBRIMIENTO DE DROGAS
La reacción del público en general fue de impacto.
Podíamos ver la cantidad de personas que accedieron a la página.
Para artículos que normalmente escribimos,
con suerte, unas mil personas los leen en un período de un año o varios años.
Diez mil personas leyeron este en una semana.
Luego fueron 20 000, luego 30 000 y luego 40 000.
Llegó a hasta 10 000 personas por día.
Llegamos a The Economist y al Financial Times.
Radiolab nos contactó.
¡Conocía Radiolab!
Pero luego, las reacciones se descontrolaron un poco.
Cuando vimos esos tuits, pensamos: "¿Podían hacer algo peor?".
"¿Por qué hicieron esto?".
ESTOS NERDS NOS MATARÁN A TODOS.
Y recibimos una invitación que nunca imaginábamos.
Hubo mucho debate en la Casa Blanca sobre el artículo,
y querían hablar con nosotros.
Obviamente, es un gran honor
poder hablar con gente de ese nivel.
Pero luego caes en la cuenta.
"Por Dios, es la Casa Blanca. El gran jefe".
Esto implicó reunir datos de código abierto…
En unas seis horas, el modelo generó más de 40 000…
Preguntaron cuánta capacidad de procesamiento se necesitaba,
y dijimos que no demasiada.
Simplemente, una Mac común y corriente de seis años.
Y eso los sorprendió.
Los encargados de analizar los agentes de guerras químicas
y las agencias gubernamentales no tenían idea de este potencial.
Tenemos un manual para hacer armas químicas,
pero, en manos de alguien con malas intenciones,
podría ser algo horrendo.
La gente debía escuchar,
y nosotros, tomar medidas para regular la tecnología
o restringirla de manera que no se usara mal.
Porque el potencial de letalidad
es aterrador.
La cuestión de la ética de la IA se aborda, en gran parte, en la sociedad,
no entre los ingenieros, tecnólogos o matemáticos.
Cada tecnología que presentamos y cada innovación
cae en el ámbito de cómo la sociedad cree que deberíamos usarla.
Ahora, el Departamento de Defensa dice:
"Lo único que dice que vamos a matar algo en el campo de batalla es a un humano".
Una máquina puede matar,
pero solo por mandato de un operador humano.
No creo que eso vaya a cambiar.
Nos aseguran que este tipo de tecnología será segura.
Pero el ejército de EE. UU.
no tiene una reputación confiable con los drones en la guerra.
Cuando se trata de confiarle la IA al ejército estadounidense,
diría que los antecedentes hablan por sí solos.
La política del Departamento de Defensa sobre la autonomía en las armas
no prohíbe ningún tipo de sistema de armas.
Incluso si los militares no quisieran armas autónomas,
podrían delegar más decisiones a las máquinas
para seguir el ritmo de los rivales.
Y eso podría llevar a los militares
a automatizar decisiones que quizá no quieran.
Vladímir Putin dijo: "Quien lidere en la IA gobernará el mundo".
El presidente Xi dejó en claro que la IA es una de las tecnologías
que China quiere dominar.
Claramente, estamos en una competencia tecnológica.
La gente habla de valores, y creo que deberían hacerlo.
Pero hay una competencia real por la superioridad de la IA.
Y nuestros adversarios, ya sea China, Rusia o Irán,
no van a pensar en lo que dice nuestra política sobre la IA.
Hay muchos más debates sobre las políticas de las IA,
pero desearía que los líderes debatieran
qué tan rápido se puede construir,
cómo se lo equipa y crea.
REUNIÓN ANUAL Y EXPOSICIÓN DE AUSA
EJÉRCITO DE ESTADOS UNIDOS
Estamos en la feria más grande del año de la Asociación del Ejército de EE. UU.
Básicamente, cualquiera que venda un producto o tecnología al ejército
tiene una muestra aquí.
La base de la Fuerza Aérea Tyndall tiene cuatro robots
que patrullan su base las 24 horas todos los días.
Podemos agregar de todo, desde cámaras hasta sensores y lo que se necesite.
Brazos manipuladores. Todo para completar la misión que tiene el cliente.
¿Y si tu enemigo presenta una IA?
¿Un sistema de lucha que piensa y responde más rápido que tú
o cualquier ser humano? Hay que estar preparados.
Entrenamos nuestros sistemas para reunir datos sobre el enemigo
y manejamos los objetivos enemigos con humanos en la cadena de matanzas.
- Hola, General. - ¿Qué tal?
Bien, señor. ¿Y usted?
Nadie invierte más en un piloto de IA. Nuestro piloto se llama Hivemind.
Lo aplicamos a nuestro cuadricóptero Nova. Entra en edificios
y los explora antes que las fuerzas operativas y de infantería.
Estamos aplicando Hivemind al V-Bat.
Planeo colocar cientos de esos equipos,
sea en el estrecho de Taiwán o en Ucrania
para disuadir a los adversarios. Estoy muy emocionado.
- Bien. Gracias. - Gracias, General.
Los pilotos de IA deben ser omnipresentes. Eso debería pasar para 2025 o 2030.
Su aplicación será rápida en los ejércitos de todo el mundo.
¿Qué se hace con las aeronaves militares rumanas autónomas?
Alta tecnología en el ejército.
Gastamos 500 millones de dólares en crear un piloto de IA.
Gastaremos otros mil millones en los próximos cinco años.
Es una buena razón por la que ganamos los programas de récords nacionales.
Genial.
Es impresionante. ¿Lograron convertir eso en un arma?
Aún no es un arma.
Aún no. Pero lo será en el futuro.
Los clientes lo ven como un camión. Es como un camión inteligente
que puede hacer muchas cosas.
- Gracias. - De nada.
Te mantendré actualizado.
Si volvieras en diez años,
verías que la IA y la autonomía habrán dominado todo este mercado.
Las fuerzas respaldadas con IA y autonomía
dominarán, aplastarán y destruirán aquellas que no las tienen.
Será como poner caballos contra tanques
o gente con espadas contra ametralladoras.
Sería incomparable.
Se volverá omnipresente y se usará en todos los ámbitos de guerra.
En el nivel táctico
y en el estratégico.
Se operará a velocidades que los humanos no pueden imaginar.
Los comandantes ya están abrumados con tanta información.
Hay imágenes de satélites, drones y sensores.
La IA puede ayudar a un comandante a entender más rápidamente lo que pasa.
Con eso, verá qué decisiones tomar.
La inteligencia artificial tendrá en cuenta todos los factores
que determinen cómo se libra una guerra,
sugerirá estrategias…
y dará recomendaciones sobre cómo ganar una batalla.
En Lockheed Martin, como en el Departamento de Defensa,
vemos la IA como habilitador de tecnología clave para el mando y el control.
La velocidad de propagación es de 60 cm por segundo.
Este perímetro es de unas 280 hectáreas.
La incertidumbre es una realidad del lado de la defensa,
pero tiene similitudes con estar en la naturaleza
y tener que tomar decisiones en caso de incendios.
El incendio de Washburn está al norte de Wawona.
Tienes que tomar decisiones con datos imperfectos.
¿Cómo nos ayuda la IA con esa incertidumbre?
Los incendios son muy caóticos.
Son muy complejos.
Por eso, estamos trabajando
en usar la inteligencia artificial para tomar decisiones.
Cognitive Mission Manager es un programa en proceso
que toma imágenes aéreas infrarrojas
y las procesa con algoritmos de inteligencia artificial
para poder predecir el futuro del incendio.
Con el paso del tiempo,
Cognitive Mission Manager usará simulaciones
y analizará contextos a lo largo de miles de ciclos
para recomendar la forma más efectiva de desplegar recursos
para inhibir las áreas prioritarias de incendios.
Dirá: "Ve a hacer una inhibición aérea con un Firehawk aquí".
"Pon equipos terrestres entre la maleza
y bomberos con mangueras
a las áreas de mayor prioridad".
Esas decisiones podrán generarse más rápida y eficientemente.
Consideramos que la IA
les permite a los humanos estar al día con el entorno cambiante.
Y hay una cantidad creíble de similitudes
con lo que vemos en Lockheed Martin en el lado de la defensa.
Los militares ya no hablan de usar inteligencia artificial
y sistemas de armas individuales para tomar decisiones de apuntar y matar,
sino de integrar la IA
en toda la arquitectura de toma de decisiones del ejército.
El ejército tiene un gran plan llamado Proyecto Convergencia.
La Marina tiene Overmatch.
Y la Fuerza Aérea tiene Advanced Battle Management System.
El Departamento de Defensa quiere ver cómo juntar todas esas piezas
para poder operar más rápido que nuestro rival
y tener una buena ventaja.
Un jefe de batalla de IA
sería un general de alto rango que esté a cargo de la batalla.
Que ayudara a dar órdenes a una gran cantidad de fuerzas
y coordinara las acciones de todas las armas que existieran,
y a una velocidad que ningún humano podría alcanzar.
Pasamos los últimos 70 años
creando el ejército más sofisticado del planeta,
y ahora debemos decidir
si queremos ceder el control sobre esa infraestructura
a un algoritmo, a un software.
Y las consecuencias de esa decisión
podrían afectar todo el peso de nuestro arsenal militar.
No es un caso de Hiroshima. Son cientos.
Debemos actuar en este momento
porque la ventana para contener el riesgo se está cerrando rápidamente.
Esta tarde comenzaremos con los desafíos de seguridad internacional
que plantean las nuevas tecnologías
en el área de sistemas de armas autónomas letales.
Hay conversaciones dentro de las Naciones Unidas
sobre el riesgo de armas autónomas letales
y nuestra prohibición de sistemas
que usen la IA para elegir y abatir personas.
El consenso entre los tecnólogos es claro y rotundo.
Nos oponemos a las armas autónomas dirigidas a humanos.
Durante años, los estados ayudaron
con el debate de los sistemas de armas autónomas letales.
Se trata de una sensación de seguridad común.
Pero, claro, no es fácil.
Ciertos países, especialmente, las potencias militares,
quieren estar a la vanguardia
para ir más adelantados que sus adversarios.
Pero todos deben estar de acuerdo para que se haga algo.
Habrá al menos un país que se oponga,
y Estados Unidos y Rusia han dejado en claro
que se oponen a un tratado que prohíba las armas autónomas.
Cuando pensamos en la cantidad de personas que trabajan para mejorar la IA,
esa sala está muy llena.
Cuando pensamos en la cantidad de personas que trabajan para que la IA sea segura,
esa sala está mucho menos poblada.
Pero también soy muy optimista.
Pienso en la Convención de armas biológicas,
que ocurrió en plena Guerra Fría,
a pesar de las tensiones entre la Unión Soviética y Estados Unidos.
Se dieron cuenta de que el desarrollo de armas biológicas
no beneficiaba a ninguna de las partes
y tampoco al mundo en general.
La dinámica del avance armamentista favorece la velocidad sobre la seguridad.
Pero creo que lo importante es considerar
que, en algún momento, el costo de moverse rápido se vuelve muy alto.
No podemos desarrollar las cosas de forma aislada
y exponerlas sin pensar en adónde podrían ir en el futuro.
Debemos evitar ese momento de la bomba atómica.
Hay muchísimo en juego en el avance de la IA.
No creo que mucha gente entienda la estabilidad global
que ha brindado tener una fuerza militar superior
durante los últimos 75 años.
Estados Unidos y nuestras fuerzas aliadas
deben superar la IA de sus rivales.
No hay un segundo en la guerra.
China presentó el plan ambicioso de ser el líder mundial en IA para 2030.
Es una carrera que algunos dicen que EE. UU. pierde…
Se acelera la aplicación de la inteligencia artificial
para asegurar nuestra ventaja militar competitiva.
Estamos avanzando con esta tecnología.
Lo que no está claro es hasta dónde vamos a llegar.
¿Controlamos la tecnología o ella nos controla a nosotros?
No se puede rehacer nada.
Una vez que el genio sale de la botella, ya está.
Y es muy difícil volver a meterlo.
Y si no actuamos ahora, será demasiado tarde.
Quizá ya sea tarde.
Subtítulos: Guillermina Usunoff