Downloaded from YTS.MX
Official YIFY movies site: YTS.MX
La inteligencia artificial me parece inspiradora.
De acuerdo, agrupándose. Buena formación.
La IA tiene el potencial de eliminar la pobreza,
darnos nuevas medicinas
y hacer el mundo más pacífico.
Buen trabajo.
Pero hay muchos riesgos en el camino.
Con la IA, esencialmente, estamos creando
una inteligencia no humana
que es muy impredecible.
Mientras más poderosa sea,
¿cuáles son los límites que le estamos trazando a la IA
en términos de cómo queremos usarla o no usarla?
No existe un mejor punto de partida para esta conversación
que el de las aplicaciones militares.
El campo de batalla se ha convertido
en una provincia de hardware y software.
El objetivo ha sido alcanzado.
Y los militares están ansiosos por desarrollar IA
más rápido que sus adversarios.
Estoy muerto.
Control en tierra 15.
Estamos avanzando hacia un mundo en donde no solo las potencias militares,
sino sectores no estatales, industrias privadas
e incluso los departamentos de policía locales en las calles
usarán armas que puedan matar de forma autónoma.
¿Llegaremos a ver la decisión de arrebatar una vida
usando algoritmos y software computacional?
Es uno de los temas más urgentes de hoy.
NOS MATARÁN
Y, si no se usan con precaución,
presentan un grave riesgo para cada individuo en el planeta.
LO DESCONOCIDO
LOS ROBOTS ASESINOS
El lente es más amplio que el anterior.
-¿En serio? -Podemos ver más datos.
Grandioso.
En Shield AI,
estamos desarrollando un piloto con IA que usa tecnología
de IA de autoconducción,
y lo pondremos en una aeronave.
Cuando hablamos de un piloto con IA,
pensamos en darle a la aeronave un nivel mayor de autonomía
y que sea capaz de resolver problemas por sí misma.
Nova es un cuadricóptero autónomo
que explora edificios y estructuras subterráneas
antes de las fuerzas de barrido
para brindarles ojos y oídos en esos espacios.
Definitivamente, pueden verse muchas mejoras desde la última vez.
Hoy trabajamos en cambios de exploración
y algunas características de 4x4.
La idea es que termine un piso completo antes de ir al segundo.
- Es increíble. - Hicimos algunos cambios.
A menudo, la gente me pregunta
por qué la IA es ahora una capacidad importante.
EXMIEMBRO DE LA MARINA DE EE. UU.
Entonces, recuerdo las misiones que me tocó ejecutar.
Pasé siete años en la Marina.
Soy un ex Navy Seal, enviado dos veces a Afganistán
y una al frente del Pacífico.
En un día común, debíamos "limpiar" 150 edificios o complejos diferentes.
Una de las principales actividades es el combate cercano.
Hay tiroteos en espacios muy reducidos dentro de los edificios.
El enemigo te dispara
y, posiblemente, haya explosivos dentro del edificio.
Eso es lo más peligroso
para cualquier miembro operativo de las fuerzas especiales
o de la infantería en una zona de combate.
Sin duda.
Siempre voy a estar agradecido por el tiempo que estuve en la Marina.
Tengo una colección de momentos y recuerdos que, cuando pienso en ellos,
obviamente me pongo sensible.
Sé que es un cliché que la libertad no es gratis,
pero en verdad lo creo,
porque lo he experimentado, y eso requiere muchos sacrificios.
Lo siento.
Cuando algo malo le pasa a un miembro de tu equipo,
ya sea que salga herido o lo maten,
es algo realmente trágico.
Pero, para mí, ahora el trabajo que hacemos aquí,
es una motivación para reducir el número de veces que eso pase.
o tratar de que no pase de nuevo.
En la reciente década del 2000,
hubo un despertar al interior del Departamento de Defensa,
que se podría llamar: La Revolución Robótica Accidental.
Desplegamos miles de robots en Irak y Afganistán.
AUTOR DE ARMY OF NONE
Cuando la administración de Obama me pidió
que me convirtiera en Secretario Adjunto de Defensa,
el modo en que la guerra se peleaba cambiaba.
SUBSECRETARIO DE DEFENSA
Se usaban robots donde solían usarse personas.
Los primeros sistemas robóticos se controlaban a distancia.
Un humano los manejaba
como se hacía con un auto de control remoto.
Al principio, por lo general,
se usaban para buscar dispositivos explosivos improvisados,
Y si se activaban, el robot explotaba.
Y decíamos: "Diablos, qué lástima. Bueno, saquen otro robot".
En Afganistán, teníamos el dron Depredador que se convirtió
en una herramienta muy útil para los ataques aéreos.
Con el tiempo,
los planeadores militares se preguntaban:
"¿Para qué podemos usar a los robots?"
y "¿hacia dónde va esto?".
Y uno de los temas comunes era la tendencia a una mayor autonomía.
Un arma autónoma es aquella que toma sus propias decisiones
con poca o nula intervención humana.
Es independiente y está autodirigida.
CENTRO PARA UNA NUEVA SEGURIDAD AMERICANA
Y si asesina o no depende de si está armada o no.
Cuando tienes más y más autonomía en todo tu sistema,
las cosas empiezan a moverse a una mayor velocidad.
Y cuando operas a mayor velocidad
que tus adversarios,
es una ventaja extraordinaria en combate.
A la par de la autonomía, nos enfocamos
en sistemas altamente inteligentes y resilientes.
Sistemas que puedan leer y reaccionar basados en su medio ambiente,
y puedan tomar decisiones sobre cómo maniobrar en ese entorno.
El edificio donde estamos hoy fue construido como estudio de cine.
OPERACIONES ESTRATÉGICAS
Luego fue convertido para poder recrear
ambientes realistas de entrenamiento militar.
Estamos aquí para evaluar a nuestro piloto IA.
La misión que va a ejecutar es la de buscar amenazas.
Es para que la fuerza de barrido tome una decisión de cómo atacar ese problema.
Le llamamos "el embudo de la muerte".
Tenemos que pasar por la puerta.
Es donde estamos más vulnerables.
El Nova nos permitirá saber si hay un tirador detrás de esa puerta,
o si hay una familia detrás.
Así podremos tomar mejores decisiones y salvar del peligro a nuestra gente.
Usamos sensores de visión para ser capaces de entender
el medio ambiente al que nos enfrentamos.
Es un edificio de varios pisos.
Aquí está el mapa.
Mientras voy explorando, esto es lo que veo y dónde lo veo.
Detector de personas. Grandioso.
Otro de los sensores que tiene el Nova es un escáner térmico.
Si marca 37 grados Celsius, seguramente es humano.
Las personas se consideran una amenaza hasta que se declare lo contrario.
Se trata de eliminar la duda en las guerras
para tomar mejores decisiones.
Y cuando vemos hacia el futuro,
esperamos escalar para construir equipos de aeronaves autónomas.
Con los vehículos autoconducidos…
OFICIAL EN JEFE DE TECNOLOGÍA
…hay que ordenarle: "Llévame del punto A al punto B".
A nuestros sistemas no les pedimos moverse del punto A al punto B,
sino completar un objetivo.
Es como decirle: "Necesito leche".
Y luego el robot tiene que descifrar para qué tienda debe ir,
ser capaz de conseguir la leche
y traerla de vuelta.
Inclusive, sería mucho más apropiado establecerlo como:
"Mantén el refrigerador abastecido".
Llegamos a un nivel de inteligencia que entiende qué necesitamos,
cómo lo necesitamos
y si existe un desafío o un problema, o surge una complicación,
buscar como mitigarlo.
Cuando tomé la decisión de abandonar la Marina,
empecé a pensar: "Muy bien, ¿ahora qué sigue?".
Crecí con Internet. Vi en lo que se convirtió.
Y parte de la conclusión a la que llegué fue
que la inteligencia artificial en 2015 era
lo que Internet fue en 1991.
Y la IA estaba lista para crecer
y convertirse en una de las tecnologías más poderosas del mundo.
Al trabajar con ella a diario,
puedo ver el progreso que se lleva a cabo.
Pero para mucha gente, cuando piensan en la IA,
su mente viaja de inmediato a Hollywood.
Cuando la gente piensa en inteligencia artificial,
por lo general, suele remitirse a Terminator
o a Yo, Robot.
O a The Matrix.
Por lo que han visto en películas de ciencia ficción,
¿cómo saben que soy humano?
Podría ser una IA generada por computadora.
Pero existen toda clase de IA más primitivas
que podrían cambiar nuestras vidas antes de ser robots que piensen y hablen.
POLÍTICO Y EMPRENDEDOR TECNOLÓGICO
Los robots ya están aquí y están tomando decisiones.
La revolución robótica ya llegó…
PROFESORA DE PERIODISMO Y DATA, NYU
…pero no se ve como el mundo la había imaginado.
No estamos hablando de robots asesinos tipo Terminator,
sino de IA que pueda hacer tareas…
ESCUELA SCHAR DE POLÍTICA Y GOBIERNO
que hacen los humanos, pero la preocupación es si es confiable.
Nuevos detalles del fatal accidente
que involucró a una camioneta Uber autoconducida.
La compañía creó un chatbot con inteligencia artificial.
Ella pasó a un tono racista.
26 legisladores estatales falsamente identificados como criminales.
EL RECONOCIMIENTO FACIAL DE AMAZON FALLÓ
La cuestión es si puede o no
enfrentar las complejidades del mundo real.
El mundo físico es muy complicado.
Hay muchas cosas que no sabemos,
y eso hace mucho más difícil entrenar a los sistemas IA.
Es aquí donde los sistemas de aprendizaje de las máquinas empiezan a aparecer.
El aprendizaje automático ha sido un gran avance porque significa…
REPORTERO DE INVESTIGACIÓN, VANITY FAIR
…que no debemos enseñarle todo a las computadoras.
Se le dan a una computadora millones de fragmentos de información
y la máquina empieza a aprender,
y eso puede aplicarse a todo.
En el proyecto "Perro Robot", tratamos de demostrar
que nuestro perro robot puede caminar en terrenos muy diversos.
Los humanos han evolucionado
durante miles de millones de años para caminar,
pero usaron la inteligencia para adaptarse a los diferentes terrenos.
La pregunta para los sistemas robóticos es
si podrán adaptarse como los animales y humanos.
Con las máquinas que aprenden,
recabamos mucha información en simulaciones.
La simulación es un gemelo digital de la realidad.
Podemos tener muchas instancias de la realidad
ejecutándose en diferentes computadoras.
Recreamos miles de acciones en la simulación.
El terreno al que se enfrentan tiene
diversas condiciones resbalosas y distintas texturas.
Tomamos todas las experiencias de los miles de robots en la simulación
y las descargamos al sistema robótico real.
La prueba que vamos a hacer hoy es para ver
si puede adaptarse a nuevos terrenos.
Cuando el robot caminó sobre espuma,
las patas pisaban fuertemente el suelo.
Mientras que en una superficie de polímero,
trataba de ajustar su movimiento para no resbalar.
Ahí puede verse claramente
lo que el aprendizaje automático puede brindar a la investigación.
Creemos que el Perro Robot puede ser muy útil en escenarios de respuesta
ante desastres, donde hay que transitar por diferentes tipos de terreno.
O se puede poner a estos perros a vigilar
en entornos complicados.
Pero la mayor parte de la tecnología se enfrenta al desafío
de si será usada para el bien o para hacer el mal.
Por ejemplo, podemos usar tecnología nuclear para generar energía.
Pero también podemos desarrollar bombas atómicas que son muy malas.
Es lo que conocemos como el problema de uso dual.
El fuego es de uso dual.
FÍSICO, MIT
La inteligencia humana es de uso dual.
Y no hace falta decirlo,
la inteligencia artificial también es de uso dual.
Es realmente importante pensar en el uso de la IA en contexto,
porque sí, es grandiosa en un robot de búsqueda y rescate
para ayudar a localizar a alguien después de una avalancha,
pero ese mismo robot puede llevar armas.
Cuando sé de compañías que están usando robots
para ponerles armas,
una parte de mí se enoja.
Y otra parte entiende
que cuando desarrollamos nuestra tecnología,
esas cosas van a pasar.
Esa es una tecnología transformativa.
Hay sistemas de armas
que en verdad pueden cambiar nuestra seguridad de manera dramática.
Por el momento, no estamos seguros de que las máquinas sean capaces de hacer
la distinción entre civiles y combatientes.
ALTO REPRESENTANTE, ONU
Al inicio de la guerra en Afganistán, estuve en el equipo
de francotiradores buscando enemigos en el cruce fronterizo.
Y enviaron a una niña pequeña a reconocer nuestra posición.
Dispararle a esa niña, nunca nos pasó por la mente.
Bajo las leyes de la guerra, eso habría sido legal.
No hay una edad para los enemigos en combate.
Si construyes un robot
que cumpla con las leyes de la guerra a la perfección,
le hubiera disparado a la niña.
¿Cómo diferencia un robot lo que es legal de lo correcto?
EXRANGER DEL EJÉRCITO DE EE. UU.
Cuando se trata de drones de guerra autónomos,
se intenta eliminar los riesgos que corren los soldados estadounidenses
y su psique.
AFGANOS PARA UN MEJOR MAÑANA
Pero el verdadero daño terminan experimentándolo los civiles afganos,
iraquíes y somalís.
Yo le preguntaría a los que apoyan
la confianza en la IA para ser usada en drones:
"¿Y si fuera su aldea la que recibe los ataques?".
La IA es un arma de doble filo.
Puede ser usada para bien, que para eso la usaríamos normalmente.
Y con un simple interruptor,
la tecnología podría convertirse en algo potencialmente letal.
RALEIGH, CAROLINA DEL NORTE
Soy farmacólogo clínico.
Tengo un equipo de gente
que utiliza inteligencia artificial
para descubrir medicamentos
que curen enfermedades que no están recibiendo atención.
En el pasado, se tomaba una molécula de un medicamento existente
y se modificaba para conseguir uno nuevo.
Ahora, hemos desarrollado una IA que nos va nutriendo de millones de ideas,
millones de moléculas,
y eso nos abre numerosas posibilidades
para tratar enfermedades que nunca antes habíamos podido tratar.
Pero, definitivamente, hay un lado oscuro al que nunca pensé que podría llegar.
AMO LA QUÍMICA
Todo esto comenzó cuando fui invitado
por una organización, a las afueras de Suiza,
llamada Laboratorio Spiez
para hacer una presentación del posible mal uso de la IA.
Sean me mandó un correo con algunas ideas
de formas en las que nuestra IA podría ser mal utilizada.
En lugar de hablar de nuestro modelo para crear moléculas
para generar medicamentos y tratar enfermedades,
querían ver si se podía generar la molécula más tóxica posible.
Solo quería aclarar un punto:
¿puede la tecnología de la IA diseñar moléculas que sean letales?
Y, en verdad, pensamos que iba a fracasar,
porque lo único que hicimos fue cambiar un cero por un uno.
Y con solo invertirlo,
en lugar de alejarnos de la toxicidad, ahora nos dirigíamos hacia ella.
Así de simple.
En casa, la computadora hacía el trabajo.
Se estaba esforzando en generar miles de moléculas,
y nosotros no tuvimos que hacer nada aparte de presionar "ejecutar".
A la mañana siguiente, había un archivo en mi computadora,
y encontré cerca de 40 000 moléculas que eran, potencialmente,
algunas de las moléculas más tóxicas conocidas por la humanidad.
Se me erizaron los vellos de la nuca.
Estaba sorprendido.
La computadora generó decenas de miles de ideas
para nuevas armas químicas.
En la información, había moléculas que parecían ser de VX
y otras análogas al VX.
El VX es una de las armas químicas más potentes del mundo.
La policía ha comunicado
que la mujer que se ve atacando a Kim Jong Nam,
en su asesinato en el aeropuerto, usó un agente nervioso letal, llamado VX.
Puede provocar la muerte por asfixia.
Esta es una molécula muy poderosa,
y se predice que la mayoría
de estas moléculas pueden ser más letales que el VX.
Muchas de ellas, hasta donde sabemos,
nunca antes han sido vistas.
Así que cuando Sean y yo nos dimos cuenta, dijimos:
"Pero ¿qué hicimos?".
Rápidamente entendí que había abierto la Caja de Pandora,
y dije: "Alto. No hagas nada más. Se acabó.
Solo dame las diapositivas que necesito para la presentación".
Cuando hicimos ese experimento,
solo pensaba: "¿Qué sería lo peor que podría pasar?".
Pero ahora sé que fuimos ingenuos. Fuimos muy ingenuos al hacerlo.
Lo más aterrador es que cualquiera puede hacer lo que hicimos.
Solo se necesita un interruptor.
¿Cómo podemos controlar esta tecnología
antes de que pueda ser usada para un fin altamente destructivo?
En el centro de la conversación sobre la inteligencia artificial
y cómo podemos usarla en nuestra sociedad,
hay una carrera entre el poder con el que desarrollamos tecnologías…
INSTITUTO FUTURO DE LA VIDA
…y la inteligencia que tenemos para controlarlas.
Existen implicaciones morales y éticas obvias
en la misma tecnología que activa nuestros teléfonos inteligentes
al darle la decisión moral de quitar una vida.
Trabajo en el Instituto Futuro de la Vida, una comunidad de científicos activistas.
En pocas palabras,
queremos mostrar que existe otro lado en la aceleración
y el aumento de la automatización.
Queremos asegurarnos de que las tecnologías que creamos
sean usadas en un modo que sea seguro y ético.
Tengamos conversaciones sobre las reglas del juego,
los códigos de conducta y el uso de IA en los sistemas armamentistas.
Porque ahora estamos viendo la aparición de tecnologías de batalla
que pueden ser usadas para matar de forma autónoma.
En 2021, la ONU reveló un reporte del uso potencial
de armas letales autónomas en el campo de batalla en Libia.
Un panel de las ONU dijo
que un dron que voló en la Guerra Civil Libia el año pasado,
estaba programado para atacar de forma autónoma.
SIN APORTE HUMANO
Si el reporte de la ONU es preciso,
este debería ser un momento decisivo para la humanidad,
porque marca un caso de uso
donde fue la IA la que tomó la decisión de arrebatar una vida, y no un humano.
Estamos viendo que armas autónomas avanzadas empiezan
a ser usadas en diferentes lugares del planeta.
Existen reportes en Israel.
DRONES DE "BALAS MÁGICAS" EN LA VICTORIA DE AZERBAIYÁN
Azerbaiyán usó sistemas autónomos para atacar a las defensas de Armenia.
Puede volar sobre un campo de batalla por horas
buscando cosas que atacar por sí solo,
y luego atacar sin ningún tipo de intervención humana.
RUSIA Y UCRANIA LIBRAN LA GUERRA DE DRONES
Y recientemente vimos videos que han sido publicados en Ucrania.
No queda claro en qué modalidad estaban
cuando fueron operados.
¿Era un humano que estaba persiguiendo objetivos para atacarlos,
o la máquina decidió hacerlo por sí sola?
Pero ciertamente llegaremos a un punto,
aunque ya haya pasado en Libia, Ucrania o en otra parte,
en el que las máquinas decidan a quién asesinar en el campo de batalla.
Que las máquinas ejerzan un poder letal contra los humanos,
sin ninguna intervención humana,
es políticamente incorrecto y moralmente repugnante.
MIEDO POR ROBOTS ASESINOS EN LA GUERRA
Si la Comunidad Internacional será suficiente para hacerle frente
a esos desafíos, es una gran interrogante.
ÉTICA: ¿LOS DRONES SERÁN FUTUROS ROBOTS ASESINOS?
Si vemos hacia el futuro, incluso a unos cuantos años
a partir de hoy, lo que hay en el panorama es aterrador.
Dada la cantidad de recursos financieros y humanos que se invierten para hacer
la IA más poderosa,
el número de usos que se le pueden dar es inmenso.
Por Dios. Qué tipo.
Sabe que no puede ganar.
Cuando veo que la IA supera diferentes problemas, me siento inspirado.
Hora de una medida desesperada.
Y podemos aplicar esas mismas tácticas,
técnicas y procedimientos en una aeronave real.
VICTORIA
-Buen juego. - Sí, buen juego.
Me sorprende que la gente siga haciendo declaraciones
sobre lo que la IA no puede hacer.
"Jamás vencerá a un campeón mundial de ajedrez".
Una computadora IBM tuvo un gran regreso en el segundo partido
contra el campeón mundial de ajedrez, Garry Kasparov.
¡Guau! ¡Kasparov se está retirando!
Cuando veo algo más allá de mi entendimiento,
me aterra, y esto va mucho más allá de mi entendimiento.
Y también la gente dice:
"Nunca podrá vencer a un campeón mundial del juego de Go".
Creo que la intuición humana
es demasiado avanzada para la IA
y no podrá alcanzarla.
El GO es uno de los juegos más complicados de aprender,
porque el número de movimientos en el tablero,
al sumarlo, es igual o mayor a la cantidad de átomos en todo el universo.
MENTE PROFUNDA - DESAFÍO
Un grupo en Google llamado "Mente Profunda" creó un programa
llamado AlphaGo capaz de vencer a los mejores jugadores del mundo.
Guau. Felicidades a…
- Alpha Go. - Alpha Go.
Un programa de computadora venció a un profesional.
Sí.
Y luego, Mente Profunda eligió Starcraft
como el siguiente reto de la IA.
Starcraft es, quizás, el juego de estrategia en tiempo real
más popular de todos los tiempos.
DEEPMIND VENCE A LOS JUGADORES DE STARCRAFT 2
Alphastar se volvió famoso cuando empezó a derrotar a los campeones mundiales.
Alphastar superó, sin problemas, a Inmortal Arc.
Esta no será una batalla que los profesionales puedan ganar.
Es de dar risa.
LA IA SE CONVIERTE EN LA MAESTRA DEL COMPLEJO STARCRAFT II
Los jugadores decían:
"Jamás hubiera usado esa táctica.
Nunca usaría esa estrategia. Eso no es algo humano".
Y ese fue, tal vez, mi momento de epifanía.
Finalmente entendí que el momento es ahora.
Hay una tecnología importante, y es posible hacer la diferencia.
Yo solo conocía los problemas que había enfrentado como SEAL
en combate cercano,
pero uno de mis amigos, que era piloto de un F18 me dijo:
"Tenemos el mismo problema en la comunidad de pilotos.
Interfieren las comunicaciones
y están proliferando las bases de misiles tierra-aire
que nos complican mucho la operación".
Imaginen tener un jet de guerra que fuera comandado por una IA.
Bienvenidos a AlphaDogfight.
Estamos a unos minutos de la primera semifinal.
En DARPA,
la Agencia de investigación de Proyectos de Defensa Avanzada vieron
AlphaGo y AlphaStar,
y ahí surgió la idea de la competencia AlphaDogFight.
Es lo que quería ver hacer a los pilotos.
Parece una pelea de perros humana.
Dogfighting es una nave de combate enfrentado a otra.
Podría pensarse como una pelea de box en las alturas.
Quizá muchos hayan visto la película Top Gun.
Dominar el dogfighting puede llevar de ocho a diez años.
Construir IA alrededor de esto es un reto muy complicado.
Los primeros intentos de autonomía
y dogfighting tendían a ser endebles,
y pensamos que el aprendizaje automático sería lo mejor para resolver el problema.
Al principio, la IA no sabía nada del mundo en el que había sido creada.
No sabía lo que era volar,
lo que era dogfighting, lo que era un F16.
Sabía las acciones disponibles que podía realizar…
GERENTE, SHIELD AI
…y empezó a explorarlas aleatoriamente.
La aeronave azul entrenó solo por un corto tiempo.
Se le puede ver tambaleándose adelante y atrás,
volando erráticamente, por lo general, alejándose del adversario.
Con el progreso de la pelea,
podemos ver que la azul empieza a establecer un plan de juego.
Tiene mejor posición de disparo.
Y de vez en cuando, el algoritmo de aprendizaje dice:
"Eso fue bueno. Sigamos así".
Aprovechamos el poder computacional
que tenemos, entrenar a los agentes muchas veces en paralelo.
Es como un equipo de baloncesto.
En vez de enfrentar al mismo equipo una y otra vez,
vamos por el mundo enfrentando a 512 equipos diferentes al mismo tiempo.
Puedes mejorar mucho y muy rápido.
Somos capaces de correr esa simulación sin parar
y conseguir 30 años de entrenamiento de pilotos en solo diez meses.
Pasamos de apenas ser capaces de controlar la aeronave
a ser un asesino a sangre fría.
En el entrenamiento, solo competimos contra otras inteligencias artificiales.
Pero competir contra humanos directamente, ese es el objetivo final.
Mi nombre es Mike Benitez.
Soy Teniente Coronel de la Fuerza Aérea de los EE. UU.
con 25 años de labor activa.
Llevo 250 misiones de combate
y soy graduado de la escuela de armas.
Es como la Fuerza Aérea de Top Gun.
Nunca he volado contra una inteligencia artificial.
Estoy emocionado de ver qué tan bien lo puedo hacer.
Estamos en un escenario de ofensiva frente a frente a 6000 pies.
Bien, ¡a pelear!
Lo derribé.
Eso fue muy interesante.
Lo tengo, una victoria perfecta.
De acuerdo, segunda ronda.
Lo que la inteligencia artificial hace es maniobrar
con una precisión tan alta que no puedo seguirle el paso.
Justo en el cruce.
Estás muerto.
Lo tengo.
La IA nunca se asusta.
En la cabina, hay un elemento emocional humano que la IA no tiene.
Una de las estrategias más interesante que nuestra IA desarrolló es
lo que llamamos tiro en la cara.
Los humanos suelen disparar desde atrás,
porque dificulta las acciones evasivas.
No buscan tiros frontales
porque no se trata de ver quién se acobarda antes.
Cuando vamos frente a frente, la diferencia entre 3000 pies y 500 pies
pasa en un parpadeo.
Hay un alto riesgo de colisión. Los humanos no lo hacen.
Si no se le dice que tema a la muerte, la IA no le temerá.
Siento que estoy enfrentando a un humano,
pero un humano al que no le importa su seguridad.
No va a sobrevivir a este último.
No tiene suficiente tiempo.
Buenas noches.
Estoy muerto.
Es muy duro saber
que tal vez no sea el mejor para esta misión,
y que esa cosa podría ser lo que me reemplace algún día.
Lo mismo, 6 CAV.
Compensa a mil.
Con el piloto de IA comandando un avión de combate,
la victoria es implacable, es dominante,
gana con una amplia ventaja.
La pregunta es: ¿cómo llevamos esto a nuestros aviones?
Es así de poderoso.
Es realista esperar que la IA esté pilotando un S-16
y no estamos tan lejos de eso.
Si enfrentas a un piloto de IA que tiene un 99.999 %
de éxito, no tienes oportunidad.
Cuando pienso en un piloto con IA que sea invencible,
pienso en lo que un equipo de 50
o 100 o 1000 pilotos con IA pueden conseguir en el futuro.
El enjambre es un equipo de aeronaves altamente inteligentes
que trabajan una con otra.
Comparten información sobre lo que hacen y cómo resuelven problemas.
El enjambre será un parteaguas capaz de transformar
a nuestro ejército y a nuestros aliados.
El objetivo fue localizado,
y los drones están rastreándolo.
Bien, regreso a tierra.
El objetivo de la investigación
de enjambre en la que trabajamos ahora
es desplegar un gran número de drones sobre un área
de difícil acceso o muy peligrosa.
El Laboratorio de Investigación del Ejército nos apoya
con este proyecto en particular.
Si quieres saber qué hay en una ubicación,
pero es un área difícil de alcanzar o es un área muy extensa,
desplegar un enjambre es una forma muy natural
de extender la búsqueda de individuos
y recolectar información que sea importante para la misión.
Ahora, a nuestro despliegue de enjambre
le damos una sola orden de ir a rastrear un objetivo de interés.
Luego, los drones van y lo hacen por sí solos.
La inteligencia artificial permite que los robots se muevan colectivamente
como un enjambre de manera descentralizada.
En los grupos de la naturaleza,
lo que vemos es que no hay un líder,
no hay un animal alfa que les diga qué hacer.
El comportamiento emerge en cada animal individual,
siguiendo algunas reglas simples.
Y a raíz de eso, vemos que surge una especie de comportamiento colectivo.
Lo más inspirador de los enjambres naturales es
su habilidad para moverse.
Es como si estuvieran hechos para ser parte de ese grupo.
Idealmente, lo que nos gustaría ver en este enjambre de drones es
que, al igual que en los enjambres naturales,
las decisiones sean tomadas colectivamente por el grupo.
La otra parte que nos resulta inspiradora es
su capacidad de confiabilidad y resiliencia.
El enjambre no se viene abajo
si un animal individual no hace lo que debería hacer.
Incluso si uno de los agentes cae o fracasa,
o no es capaz de completar su tarea,
el enjambre sigue adelante.
Y, al final, eso es lo que queremos conseguir.
En los escenarios de combate,
es necesario identificar aeronaves enemigas.
Solíamos requerir de una persona controlando un solo robot.
Con el aumento de la autonomía,
espero que podamos ver un gran número de robots siendo controlados
por un pequeño número de personas.
No veo razón por la que no podamos llegar a los miles,
porque cada agente será capaz de actuar por sí solo, y el cielo es el límite.
Podremos escalar nuestro aprendizaje automático.
Hemos trabajado
en la simulación del enjambre por un buen tiempo,
y es hora de llevar eso a una nave del mundo real.
Esperamos poder manejar tres robots a la vez, en la misma red,
y luego empezaremos a agregar más capacidades.
Queremos ser capaces de probarlo en sistemas más pequeños,
pero llevar los mismos conceptos y aplicarlos en sistemas más grandes
como jets de combate.
Hablamos mucho
cómo darle a un pelotón el poder de combate de un batallón.
Con un enjambre, puedes transformar el poder de combate de una brigada
en un batallón.
Y cuando podamos liberar el poder del enjambre,
habremos creado una nueva disuasión estratégica
en el ataque militar.
Creo que lo más emocionante es
el número de hombres y mujeres jóvenes
que salvaremos si hacemos esto bien.
Y cambiaremos máquinas
por vidas humanas.
Hay gente que discute que las armas autónomas harán de la guerra
algo más preciso y más humano,
pero en realidad es difícil predecir
exactamente cómo cambiarán las armas autónomas
el futuro de la guerra.
Como el invento de la ametralladora Gatling.
AMETRALLADORA GATLING PATENTADA EN 1865
Richard Gatling fue un inventor
que veía a los soldados regresar heridos en la Guerra Civil
y quiso encontrar un modo de hacer de la guerra algo más humano.
Quería reducir el número de soldados caídos en la guerra
reduciendo el número en el campo de batalla.
Él inventó la ametralladora Gatling,
un arma automatizada con una manivela
que automatizaba el proceso de disparo.
Logró incrementar, en cientos, el poder de disparo de un solo soldado.
A menudo, los esfuerzos por hacer de la guerra algo más preciso y humano
tienen el efecto opuesto.
Pensemos en el efecto de un ataque errático con drones
en un área rural que pone
a la población local en contra de los Estados Unidos del gobierno local,
supuestamente los buenos.
Ahora, magnifiquen eso por mil.
La creación de un sistema de armas que es barato,
escalable y que no requiere operadores humanos,
cambia drásticamente las barreras actuales del conflicto.
A veces me quita el sueño
la idea de un mundo en el que la guerra ya es omnipresente.
Ya no cargamos con el costo humano y financiero de la guerra,
porque estamos desapegados
de las vidas que se perderán.
Todo este asunto me acecha.
Solo necesitaba un ejemplo
de un mal uso de la inteligencia artificial.
Las consecuencias no previstas de un simple experimento
que habría llegado demasiado lejos.
IA EN DESCUBRIMIENTO DE DROGAS: EVITAR HACER MÁS MAL QUE BIEN
Cuando hice mi presentación sobre las moléculas tóxicas creadas
por la tecnología IA, la audiencia quedó atónita.
5000 COMPUESTOS ERAN ANÁLOGOS DEL VX
CAFEÍNA
La siguiente decisión era si debíamos publicar la información.
Por un lado, queríamos advertirle al mundo de esta clase de capacidades,
pero, por otro lado, no queríamos darle a alguien la idea
si es que no la había pensado antes.
Decidimos que valía la pena publicarlo
para buscar un modo de mitigar los usos erróneos de este tipo de IA
antes de que suceda.
DOBLE USO DE DESCUBRIMIENTO DE DROGAS POR IA
EL USO DE IA EN EL DESCUBRIMIENTO DE DROGAS
PODRÍA USARSE PARA DISEÑAR ARMAS BIOQUÍMICAS
La reacción del público en general fue alarmante.
Aquí vemos la métrica de la página y cuántas personas accedieron a ella.
Los artículos que normalmente escribimos,
con suerte, son vistos por algunos miles de personas
a lo largo de un año o de varios años.
Diez mil personas lo leyeron en una semana.
Luego 20 000, luego 30 000, luego 40 000.
Llegamos a 10 000 personas por día.
MANIPULAR IA PARA CREAR ARMAS QUÍMICAS
Estuvimos en The Economist, el Financial Times.
EL LADO OSCURO DE LA IA
40 000 RECETAS PARA MATAR
Radiolab se comunicó con nosotros.
Yo escucho Radiolab.
Pero, luego, las reacciones respecto a esto se salieron de control.
ES ATERRADOR
En los tuits que leíamos,
la gente preguntaba: "¿Pueden hacer algo peor?".
"¿Por qué hicieron eso?".
UN ARTÍCULO ESPANTOSO DE LEER
ESTOS NERDOS NOS MATARÁN A TODOS
Luego, recibimos una invitación que jamás hubiéramos esperado.
Hubo una intensa discusión al interior de la Casa Blanca sobre el artículo,
y querían hablar con nosotros urgentemente.
Obviamente, es un gran honor poder hablar con gente a ese nivel.
Pero cuando lo entiendes.
Santo Dios, es la Casa Blanca, el jefe.
Se trataba de haber recabado información que ahora era una fuente abierta.
En unas seis horas, el modelo ya era capaz de generar más de 40 mil…
Nos preguntaron qué poder computacional era necesario,
y les dijimos que no era nada especial.
Una Mac con seis años de antigüedad que compras en cualquier lado.
Y eso los dejó helados.
Las personas a cargo del entendimiento de los agentes de la guerra química
y las agencias de gobierno no tenían idea de este potencial.
Teníamos un recetario para preparar armas químicas
y, si llegaba a las manos de alguien con intenciones malvadas,
podría ser de verdad horripilante.
La gente tiene que escuchar
que se deben dar ciertos pasos para regular esta tecnología
o restringirla de un modo que no pueda ser mal utilizada,
porque el potencial de letalidad
es aterrador.
La cuestión de la ética en la IA ha sido muy discutida por la sociedad,
pero no por los ingenieros, los especialistas o los matemáticos.
Cada tecnología que creamos, cada reciente innovación,
al final es juzgada por la sociedad respecto a cómo debería ser usada.
PRINCIPIOS ÉTICOS PARA LA IA
Por el momento, el Departamento de Defensa dice
que el único que decide asesinar en el campo de batalla es un humano.
Una máquina puede ser el agente letal,
pero solo si es comandado por un operador humano,
y no veo que eso vaya a cambiar.
Aseguran que este tipo de tecnología será seguro.
REGISTROS OCULTOS
Pero el ejército de los Estados Unidos no tiene
una reputación muy confiable en los ataques con drones.
EE. UU. OCULTA ATAQUE AÉREO
Entonces, si hablamos de confiarle la IA al ejército de Estados Unidos,
creo que los registros hablan por sí solos.
La política del Departamento de Defensa de EE. UU.,
en cuanto a armas autónomas,
no prohíbe ningún sistema armado.
E incluso si los militares no quisieran armas autónomas,
podemos verlos cediendo más decisiones
a las máquinas para ir a la par de los competidores.
Eso puede hacer que las milicias automaticen las decisiones
aunque antes no hubieran querido.
Vladímir Putin dijo:
"Quien sea el líder en IA va a dominar el mundo".
El Presidente Xi ha dejado claro
que la IA es una de las tecnologías número uno
que China pretende dominar.
Es claro que estamos en una competencia tecnológica.
Escuchamos a la gente hablar
sobre tomar precauciones,
y me parece que es lo que deberíamos hacer.
Pero hay una carrera muy real por la superioridad en IA.
Y nuestros adversarios, ya sea China o Rusia, o bien Irán,
no van a tener consideraciones
con respecto a nuestras políticas acerca de la IA.
Ahora hay una mayor discusión respecto a las políticas de la IA,
pero me gustaría que hubiera más líderes involucrados diciendo:
"¿Qué tan rápido podemos construir esto?".
Usemos todos nuestros recursos para construirla.
AUSA - REUNIÓN Y EXPOSICIÓN ANUAL
EJÉRCITO DE ESTADOS UNIDOS
Estamos en la convención anual de la Asociación del Ejército de EE. UU.
Prácticamente, cualquier proveedor que venda productos
o tecnología de uso militar estará exhibiendo aquí.
La Base Tyndall de la fuerza aérea tiene cuatro
de nuestros robots patrullando las 24 horas, toda la semana.
Podemos incorporar todo, desde cámaras o sensores
hasta brazos manipuladores.
Lo que sea con tal de cumplir la misión que el cliente tenga en mente.
¿Y si el enemigo introduce IA?
Tendrá un sistema de combate que piense más rápido
y se esconda más rápido que un humano.
Debemos prepararnos para eso.
Entrenamos nuestros sistemas para que recaben información del enemigo,
y manejen objetivos enemigos con supervisión humana para ejecutar.
- General, soy Brandon Tseng. - ¿Cómo va? ¿Qué tenemos?
Bien, señor.
Yo diría que nadie está invirtiendo más en pilotos con IA.
El nuestro se llama Hivemind, y se lo aplicamos
a nuestro cuadricóptero Nova que explora edificios
antes de que entren las Fuerzas Especiales de operación e infanteria.
Estamos aplicando Hivemind a V-BAT,
y estamos considerando ensamblar cientos de esos equipos.
Ya sea en el estrecho de Taiwán, ya sea en Ucrania,
para disuadir a nuestros adversarios. Eso me emociona mucho.
Muy bien.
- Gracias, general. - Gracias.
Los pilotos IA deberían extenderse por todo el planeta para el 2025, 2030.
Su adopción será muy rápida en los ejércitos del mundo entero.
¿Qué están haciendo en el ejército rumano, ya usan drones?
MEJOR PILOTO DE IA
Alta tecnología militar.
Hasta hoy, hemos gastado 500 millones de dólares construyendo un piloto IA
y gastaremos otros mil millones en los siguientes cinco años.
Es la principal razón por la que ganamos
en los programas de registro en EE. UU.
Bien. Me parece impresionante. ¿Y tuvieron éxito dándole armamento?
Aún no tiene armas
Aún no lo hacemos. Pero en el futuro, sí.
Nuestro clientes ven esto como un camión.
Como si fuera un camión inteligente que puede hacer muchas cosas diferentes.
- Gracias, amigo. - Estaré en contacto con ustedes.
Si regresamos aquí en diez años,
veremos que la IA y la autonomía habrán dominado el mercado por completo.
Las fuerzas que se apoyan en la IA y la autonomía
dominarán, aplastarán y destruirán a otras fuerzas por completo.
Será el equivalente a los caballos luchando contra tanques,
gente con espadas enfrentándose a una ametralladora.
No será una lucha justa.
Se extenderá por todo el planeta.
Se usará en todo el espectro de la guerra,
a nivel táctico,
a nivel estratégico
operando a velocidades que los humanos no pueden imaginar ahora.
Los comandantes ya se sienten abrumados con toda esta información.
Las imágenes de los satélites, los drones, los sensores.
Una de las cosas que la IA puede hacer es
ayudar a un comandante a entender rápidamente lo que está pasando.
Para saber qué decisiones tomar.
La inteligencia artificial podrá tomar en consideración
todos los factores que determinan cómo se pelea una guerra,
desarrollar estrategias
y hacer recomendaciones de cómo ganar una batalla.
Aquí en Lockheed Martin, al igual que nuestro cliente,
el Departamento de Defensa, vemos la IA como tecnología clave
para el comando y el control.
Rango de dispersión de 60 centímetros por segundo.
Perímetro de 280 hectáreas.
La neblina de la guerra es una realidad
para todos en el lado defensivo,
pero tiene paralelos al ser parte del medio ambiente,
y debemos tomar decisiones también cuando hay incendios.
El incendio está al norte de la ciudad de Wawona.
Debemos tomar decisiones con datos imperfectos.
¿Cómo podemos usar a la IA…
VICEPRESIDENTE DE IA
…para la neblina de la guerra?
Los incendios son caóticos.
Son muy complejos,
así que estamos trabajando para utilizar inteligencia artificial
que nos ayude en la toma de decisiones.
El Administrador de Misión Cognitivo es
un programa que desarrollamos que toma video aéreo infrarrojo,
y luego lo procesa usando algoritmos de IA
para ser capaz de predecir el estado futuro del incendio.
Al avanzar hacia el futuro,
el Administrador de Misión Cognitiva usará
simulaciones y correrá escenarios
sobre miles de ciclos
para recomendarnos el modo más efectivo para desplegar recursos
y suprimir el fuego en áreas de alta prioridad.
Nos dirá:
"Debes hacer una supresión aérea con un Firehawk aquí,
mueve grupos en tierra para quitar escombros,
envía bomberos con mangueras,
y despliégalos a las áreas de prioridad más alta".
Esas decisiones se generarán de manera más rápida y más eficiente.
Vemos a la IA como algo único
que le permitirá a los humanos seguir el ritmo
de un medio ambiente siempre cambiante.
Y hay un número considerable de paralelos que hemos usado aquí en Lockheed Martin,
hablando de defensa.
Los ejércitos ya no solo están hablando de la IA
y de sistemas armados individuales para tomar decisiones
de objetivos y asesinatos,
sino que están integrando la IA
en toda la estructura de toma de decisiones de temas militares.
El Ejército tiene un gran proyecto llamado Proyecto Convergencia.
La Marina tiene Overmatch,
y la Fuerza Aérea el Sistema Avanzado de Administración de Batalla.
El Departamento de Defensa trata de descifrar cómo armar este rompecabezas
para poder operar más rápido que nuestro enemigo
y poder sacar una ventaja real.
Un Administrador de Batalla IA sería
como un General de Alto Rango a cargo de una batalla.
Ayudaría a dar órdenes a tropas numerosas,
coordinaría las acciones de todas las armas en el campo,
y lo haría a una velocidad que ningún ser humano alcanzaría.
Hemos pasado 70 años construyendo
el ejército más sofisticado en todo el planeta,
y ahora enfrentamos la disyuntiva de si debemos o no cederle el control
de esa infraestructura a un algoritmo, un software.
Y las consecuencias de esas decisiones
pueden desatar el poder absoluto de nuestros arsenales militares.
No es un solo Hiroshima. Son cientos.
Este es el momento en el que debemos actuar,
porque la ventana para contener el riesgo se cierra rápidamente.
ONU, 27 DE SEPTIEMBRE DE 2021
Empezaremos con los desafíos
de seguridad internacional que presentan las tecnologías…
PRESIDENTE
…en el área de armas autónomas letales.
SECRETARIA
Hay conversaciones en la ONU
sobre la amenaza de las armas autónomas letales
ESTADOS UNIDOS
y nuestra prohibición a los sistemas que usen IA
para seleccionar y marcar personas.
El consenso entre los tecnólogos es claro y contundente.
Nos oponemos a las armas autónomas que seleccionen humanos.
Durante años, los países han ayudado
en la discusión sobre los sistemas armados autónomos letales.
LOS ROBOTS ASESINOS EXISTEN
Se trata de un sentido de seguridad común y compartido.
Pero, por supuesto, no es sencillo.
Ciertos países, en especial las potencias militares,
quieren estar a la cabeza de la carrera para tener ventaja sobre sus adversarios.
El problema es que todos deben estar de acuerdo
para que esto se lleve a cabo.
Siempre habrá al menos un país que proteste
y, ciertamente, Estados Unidos y Rusia han dejado claro
que se oponen a firmar un tratado que prohíba las armas autónomas.
Cuando vemos el número de personas que trabajan
para crear la IA más poderosa,
es una cantidad abrumadora.
Cuando vemos el número de personas
que se aseguran de que la IA sea segura,
la cantidad resulta mucho menor.
Pero también soy muy optimista.
Recuerdo algo como la Convención de Armas Biológicas
que tuvo lugar a la mitad de la Guerra Fría.
Sin importar las tensiones entre la Unión Soviética y los EE. UU.,
fueron capaces de entender que el desarrollo de armas biológicas
no le convenía a ninguna de las partes,
y, por supuesto, tampoco al resto del mundo.
La carrera militar favorece a la velocidad más que a la seguridad.
Pero creo que es muy importante considerar
que, en cierto punto, el costo de ese rápido avance se vuelve muy alto.
No podemos solo desarrollar cosas en aislamiento
y luego sacarlas al mundo sin haber tomado en consideración
hacia dónde irán en el futuro.
Tenemos que prevenir otro momento como la bomba atómica.
Los riesgos en la carrera de la IA son inmensos.
No creo que muchas personas entiendan la estabilidad
que nos ha sido brindada por tener
una fuerza militar superior en los últimos 75 años.
Y, por eso, los Estados Unidos y sus fuerzas aliadas
tienen que superar a la IA de los adversarios.
No hay segundo lugar en la guerra.
China presentó un ambicioso plan
para ser líder mundial en IA para 2030.
Algunos dicen que EE. UU. está perdiendo.
Tenemos que acelerar la adopción de la IA
para asegurar nuestra ventaja competitiva militar.
Estamos avanzando con esta tecnología.
Creo que lo que no está claro es: ¿Qué tan lejos vamos a llegar?
¿Controlamos la tecnología, o la tecnología nos controla?
No hay lugar para segundas oportunidades.
Cuando el genio haya salido de la lámpara,
será definitivo.
Y será muy difícil volverlo a meter.
Y si no actuamos ahora, será muy tarde.
Quizá ya sea muy tarde.