Downloaded from YTS.BZ
Official YIFY movies site: YTS.BZ
Las computadoras de hoy en día son estúpidas,
pero no será así en otra generación.
Empezarán a pensar,
y con el tiempo, superarán por completo a sus creadores.
¿Es deprimente? No veo por qué debería serlo.
Sospecho que la evolución orgánica o biológica está por llegar a su fin.
No debería narrar yo. No tengo buena voz.
Tienes una gran voz. Solo hazlo.
Es que... Solo estamos probando.
¿Me pagarán por esto?
Veremos qué tan bien lo haces.
Tengo que llamar a mis padres.
A veces nos precipitamos sin pensar las cosas.
Sí. ¿Puedes...? ¿Quieres filmar? Genial.
Como cuando Daniel y Caroline se casaron, 151 días después de conocerse.
Retrocedamos.
¿Evalúan comprar una computadora personal?
En 1993, cuando nació Daniel,
sus padres no tenían una computadora en la casa.
Pero recuerda cuando compraron una.
Para mí, una computadora es el equivalente a una bicicleta para la mente.
Hola.
Su computadora ayudó a desatar su creatividad.
Está grabando. Vamos.
Usaba la iMac de su papá para editar videos.
LOS CHICOS X-TREMOS
¡Sí!
E incluso hacía animaciones.
En 1998, cuando Caroline era niña...
Hola, mami.
...solo los nerds sabían qué era internet.
¿Qué hay de esto de internet? ¿Sabes algo?
Claro.
- Pero pronto, todos estaban en... - Internet.
Y las computadoras vencían a humanos en ajedrez.
Deep Blue, Kasparov renunció.
Cuando Caroline fue a la universidad, todos tenían computadoras en el bolsillo.
Ahora Daniel podía hacer películas con su teléfono.
Creció y se convirtió en artista y cineasta.
- Adiós. - Caroline también.
Corten. Vamos a primer plano.
Las computadoras conectaban a la gente y cambiaban el mundo
de formas que no habríamos imaginado.
El dinero del Ice Bucket...
- Unas eran buenas. - ¡Santo...!
Otras, no tan buenas.
Ansiedad, autolesión, suicidio.
Es claro que no hicimos lo suficiente
para evitar que estas herramientas se usaran para hacer daño.
El mundo se concentraba más en sus computadoras...
42 ME GUSTA
...y Daniel, en su arte.
Adonde fuera, siempre tenía un cuaderno de bocetos,
hasta la noche que conoció a Caroline.
Hizo un dibujo terrible...
¡NO ME HAGAS FEA!
...y 20 minutos después, dijo con audacia que se iban a casar.
Algo que, como saben, hicieron, 151 días después.
Ahora los declaro marido y mujer.
Se mudaron a una linda casa y tuvieron un perro tan tonto como Daniel.
Mientras tanto, las computadoras escribían ensayos enteros
basados en preguntas simples como:
"¿Cómo construir una choza en mi patio?".
¿POR DÓNDE EMPEZAMOS?
Y Daniel construyó una choza en su patio.
Pero cuando se sentó a trabajar en su próxima película...
(RECREACIÓN)
...vio que las computadoras...
¿CUÁL ES TU IDEA?
...escribían guiones.
Eran malos, pero mejoraban muy rápido.
Creaban imágenes y videos de cero,
y algunas podían aprobar exámenes.
No solo aprobó el examen, sino que está entre los diez mejores.
Era confuso.
Daniel solo quería una bicicleta para su mente,
pero las computadoras se habían convertido en un cohete autónomo.
FATALIDAD, UTOPÍA PROMESA, ¿PELIGRO?
IA ADVERTENCIA
Los pioneros de la IA suplican al Congreso
aprobar las reglas de seguridad antes de que sea tarde.
Ahora parecía que todo el mundo se apresuraba
sin pensarlo bien,
y todos tenían una opinión.
¿Destruiría el mundo o salvaría a la humanidad?
Había demasiada información, lo que lo ponía ansioso,
lo que ponía ansiosa a Caroline.
Aún no tengo hijos,
pero me preocupa cómo se vería el mundo si decidiera tenerlos.
Empezaba a descontrolarse.
Se convertía en una montaña de ansiedad.
MONTAÑA DE ANSIEDAD
Es horrible. Da mucho miedo.
Así que Daniel decidió salir
a buscar a alguien que pudiera explicarle esto
para dejar de pensar en eso,
y él y Caroline pudieran seguir con su vida.
Este esfuerzo resultaría ser irremediablemente ingenuo.
Y daría inicio al año más confuso de su vida.
Pero como sabemos, a veces nos precipitamos
sin pensar bien las cosas.
- Dios mío. ¿Qué está pasando? - Tenía preguntas.
Que solo los nerds más inteligentes podrían responder.
Me someto al interrogador.
Como: "¿Es el apocalipsis?".
¿APOCALIPSIS?
¿O tenía una razón
- para ser optimista? - Sí.
¿APOCALIPSIS? ¿OPTIMISTA?
- ¿Salió bien? - Sí.
Para empezar, ¿qué es la inteligencia artificial?
¿QUÉ ES LA IA?
Sé que esa pregunta debe ser molesta,
pero creo que es importante.
¿La IA?
Sabes...
Sí.
- Es una buena pregunta. - Sí. ¿Qué es la IA?
Es bueno que sea la primera...
INVESTIGADORA UC BERKELEY
...porque no hay una respuesta unívoca.
Inteligencia artificial es, quizá intencionalmente...
ASESORA DE RIESGO DE IA
...y tal vez inútilmente, un término amplio.
Es una máquina que hace cosas...
ACADÉMICO, UC BERKELEY
...que creíamos que solo la gente podía hacer.
Toma decisiones, hace recomendaciones y predicciones.
La IA es la aplicación de la informática...
PRESIDENTE Y CEO DE RAND
...para resolver problemas cognitivos.
Bien, cuando imagino la IA,
es como una caja computadora mágica.
CAJA COMPUTADORA
Flotando en un espacio inerte.
Y no importa cuántas veces la gente trate de explicarme esto,
no concibo cómo entiende todas estas cosas
y cómo se siente como inteligencia.
Hola.
Y eso es estresante.
¿Qué es esta IA de nueva generación?
¿Esta IA que es diferente a las demás generaciones?
COFUNDADOR DE CENTRO DE TECNOLOGÍA HUMANA Y EARTH SPECIES PROJECT
De la que nunca nadie habló,
como que Siri se apodere del mundo o cause catástrofes.
Hola, Siri. ¿Hola?
¿Siri? Hola. Hola, Siri.
O la voz en Google Maps,
que pronuncia mal nombres de carreteras, rompa la sociedad.
Según Google Maps, esto es una carretera, pero creo que estoy en un río.
Es un río, ¿no?
Algo cambió cuando salió ChatGPT.
La gente entendió. No.
DIRECTOR EJECUTIVO, INVESTIGACIONES PALISADE
Esta tecnología es muy valiosa. Muy poderosa.
Y aterradora.
Escuchen esto. Muy aterrador.
Una nueva herramienta de IA viral...
...por escribir ensayos enteros en segundos.
¿QUIÉN ES TRISTAN HARRIS?
La IA empequeñece el poder de todas las otras tecnologías combinadas.
Sí.
COFUNDADOR DE CENTRO DE TECNOLOGÍA HUMANA
- ¿Crees que es verdad? - Sí.
Háblame de... ¿Cómo?
Creo que para visualizar eso, es muy importante entender
cómo se ven los sistemas de vanguardia de hoy y cómo se construyen.
Es un gran montaje.
Algo de lo que no mucha gente se da cuenta
es que sistemas como ChatGPT no están programados por humanos.
¿Qué quieres decir?
Es como si hubieran crecido.
Les damos recursos sin procesar.
DIRECTOR EJECUTIVO DE CENTRO DE SEGURIDAD DE IA
Hay muchos recursos computacionales, muchos datos.
Al final, es matemática.
PROFESOR ADJUNTO DE INFORMÁTICA STANFORD
Y las matemáticas son sorprendentemente sencillas.
ChatGPT es una especie de IA, pero no es toda IA.
Sí. ChatGPT es solo el comienzo, pero es un buen lugar para empezar.
Pero aún no sé qué es la IA.
Para entender la IA,
primero hay que entender
que la inteligencia se trata de reconocer patrones.
- Patrones. - Patrones.
Se le muestran billones de textos...
LA GUERRA Y PAZ
...en millones de documentos en internet.
Comenzó con texto.
EX-GERENTE DE PRODUCTO DE NVIDIA
Lo que hicieron fue tomar libros de texto,
poemas, ensayos y manuales de instrucciones.
Pueden hacer cosas como digerir toda la internet.
Cada palabra que ha sido escrita por una persona.
Hilos de Reddit y redes sociales. Todo Wikipedia.
Más datos de los que nadie podría leer en varias vidas.
Le dieron a este sistema un trabajo.
Descifrar los patrones y la estructura de esa información
y usarla para hacer predicciones
sobre qué palabras deberían seguir en una oración.
Cuando dices patrones en una oración, ¿de qué hablas?
Es todo, desde cosas muy simples,
como que las oraciones terminan con un punto,
hasta cosas más conceptuales, como:
"¿Qué es un soneto?". Un tipo de poema con estructura particular.
Entonces, mira todos esos datos, todo ese texto.
Y con billones y billones de intentos,
cada vez que acierta o se equivoca en algo,
recibe un poco de refuerzo positivo
cuando adivina la siguiente palabra.
Y recibe un refuerzo negativo
cuando no acierta esa palabra.
CUANDO NO ACIERTA LA PALABRA
Y al final, tienes un sistema que habla muy bien inglés
como efecto secundario de ser muy muy bueno
para predecir la palabra que viene después en un texto.
De hecho, mi francés no es tan malo.
Usa todos esos patrones que ha aprendido...
PREGÚNTAME ALGO
...para predecir cuál debería ser la respuesta.
Y te da eso como el resultado.
Es un poco simplificado, pero creo que la gente lo entenderá.
Eso es todo lo que hace.
Sí, no parece algo tan complicado,
pero tienes que saber una gran cantidad de cosas
para tener éxito en eso.
Si le dices a ChatGPT: "Escribe un soneto de Shakespeare sobre mi perro",
tiene que saber qué son los perros,
qué amas de tu perro,
quién es Shakespeare, que los sonetos riman, que tienen una estructura,
que las palabras tienen sonidos que pueden rimar.
Se necesita mucho.
Mierda, ahora puedes hablar con tu computadora.
FUNDADOR Y CEO DE CONJECTURE
Eso no era así hace tres años.
Sí. Y esta es la parte importante.
El mismo proceso que le permite a la IA ver y manipular los patrones de texto
es el mismo proceso que le permite descubrir los patrones de todo el universo
y de todo en él.
Hay patrones en las imágenes, en el sonido, en códigos de computadora,
en ADN, en música, en física, en moda,
en el diseño de construcción, en las voces y caras humanas.
De hecho, en todas partes.
- En todas partes. - En todas partes.
Si aprendiste esos patrones,
puedes generar nuevas canciones, puedes generar nuevos videos.
Y por eso, si le das una grabación de tres segundos de tu abuela,
puede responder con su voz.
DANIEL, 12 AÑOS ABUELA LILA
¡Dios mío! ¿Qué inventarán ahora?
VOZ CLONADA ABUELA
Se mueve muy muy rápido.
Una startup de IA estadounidense lanzó su último modelo.
Esa empresa es Anthropic
y presentó la última versión de su asistente de IA, Claude.
¿CAFÉ Y CLAUDE?
El equipo xAI estaba ahí para presentar el Grok 4.
Google lanzó uno la semana pasada. Gemini es...
Pasamos del GPT-2 hace un par de años,
que apenas podía escribir un párrafo coherente, al GPT-4,
que aprueba un examen.
Y todo lo que había que hacer para llegar ahí
era agregar más datos y más cómputo.
- Las personas que construyen esto... - Sí.
...solo agregan más...
Más computadoras físicas, más de los mismos tipos de datos.
Porque, entre más poder computacional agregues,
más tareas intelectuales complejas pueden hacer.
Cuantos más datos del clima le des,
mejor será la predicción de a dónde podría ir un huracán.
Y entre más patrones de tumores, huesos y tejidos haya visto una IA,
más capaz es de detectar un tumor en una nueva tomografía.
Incluso mejor que un médico humano.
La IA que ya se está aplicando en fuerzas armadas
ya puede usar imágenes satelitales, comunicaciones de movimiento de tropas
para determinar, a veces con días de anticipación, dónde ocurrirá un ataque.
Dónde va a atacar un enemigo.
Todo este espacio se mueve tan rápido
que cualquier ejemplo que pongas aquí
parecerá absolutamente torpe para cuando se estrene.
Lanzan estos modelos
antes de saber de qué son capaces.
GPT-3.5 fue lanzado para más de 100 millones de personas
antes de que los investigadores supieran que podía hacer química de investigación
mejor que los modelos entrenados específicamente
para hacer química de grado de investigación.
Algo está pasando ahí
que la gente que los construye no entiende del todo.
Básicamente, analiza los datos por sí misma
y mientras lo hace,
se enseña varias cosas que a menudo no habíamos pensado.
Por ejemplo, lee mucho en línea,
y luego, en algún punto, aprende aritmética.
Y en algún momento,
empieza a aprender a responder preguntas avanzadas de física.
No programamos eso.
Aprendió por sí misma.
Una IA es como un cerebro digital.
Pero como con un cerebro humano, si le hicieras una tomografía,
¿sabrías todo de lo que esa persona es capaz?
No puedes solo por la tomografía.
Es como un montón de números y multiplicaciones
que el mejor investigador de aprendizaje automático del mundo podría ver
y no tener idea de qué es.
¿EL MEJOR INVESTIGADOR DE APRENDIZAJE AUTOMÁTICO?
Esa silla de ahí.
- ¿Está bien para ti? - Sí.
COGANADOR DEL PREMIO TURING UNIVERSIDAD DE MONTREAL Y MILA
Es algo alucinante. ¿Sí?
Se apodera del mundo, y no sabemos cómo funciona.
¿Es cierto?
Entendemos varias cosas importantes,
pero no tenemos una idea sólida
de por qué dan respuestas específicas a preguntas.
Es un problema porque nos dedicamos a construir máquinas,
basados en estos principios, que podrían ser más inteligentes que nosotros
y, por lo tanto, potencialmente tener mucho poder.
COFUNDADOR Y EX-JEFE DE CIENTÍFICA DE OPEN IA
Uno de los científicos informáticos más citados de la historia.
Me resulta difícil hablar de mi propio papel.
Prefiero que lo hagan otros.
Ilya fue el eje para que OpenAI fuera exitosa.
MUSK: LARRY PAGE FUE DISPLICENTE SOBRE LOS PELIGROS DE LA IA
Creo que será un impacto muy fuerte
e inimaginable.
No sé si usas YouTube,
pero ya puedes sentir la velocidad, ¿no?
¿Me entiendes?
Esto es solo el calentamiento.
Los sistemas poderosos siguen llegando
y llegarán muy pronto.
IAG ESTÁ CERCA...
IAG significa "inteligencia artificial general".
Sistemas que son básicamente tan buenos o mejores que el hombre
en casi todo.
Y esto parece ser el santo grial de la IA.
Cuando puedes simular una mente humana,
que hace cognición humana y puede razonar,
es un nuevo nivel de IA que debemos distinguir de la IA anterior.
Cuando eso pasa,
es cuando contratas a una de esas AGI en vez de a una persona.
EXINVESTIGADOR DE OPENAI
Puede hacer la mayoría de los trabajos en nuestra economía.
Puede trabajar 24 horas al día, nunca se cansa, nunca se aburre.
No necesitan dormir. No necesitan descansos.
No se unirá a un sindicato.
No se quejan, no delatan.
Más de 100 veces más baratos que el humano con salario mínimo.
No solo hacen todo, sino que lo hacen más rápido.
La misma inteligencia que impulsa eso
también ve patrones y movimientos,
los músculos articulares y la robótica,
así que no solo automatizará trabajos, eso es el comienzo.
Automatizará todo el trabajo físico.
El hombre no va a poder competir con eso.
Es difícil conceptualizar el impacto de la IAG.
Pero creo que será algo muy grande, drástico y radical.
¿Es de los momentos más trascendentales en la historia de la humanidad?
Sí. Sí, eso... ¿Qué más podría ser?
Tenemos la Revolución Industrial.
Hará que la Revolución Industrial parezca insignificante.
La IAG es un punto de inflexión
porque significa poder acelerar todos los demás campos intelectuales
al mismo tiempo.
Si avanzas en cohetería, eso no avanza la biología y la medicina.
Un avance en medicina no avanza la cohetería.
Pero si haces un avance en inteligencia artificial,
eso avanza todos los campos científicos y tecnológicos al mismo tiempo.
Por eso, la declaración de misión de Google DeepMind era...
- Primero resolver la inteligencia. - Sí.
Luego usarla para resolver todo lo demás.
Por eso la IA empequeñece el poder de todas las otras tecnologías combinadas.
Transformará todo.
Será al menos tan grande como la Revolución Industrial.
Posiblemente más grande, como la llegada de la electricidad o el fuego.
El cavernícola tuvo mucho tiempo la antorcha de la civilización.
¿CUÁL ES MI PROPÓSITO?
En general se cree que en la época de la IAG,
la IA podrá hacer todo o casi todo el proceso de investigación de IA,
y, por supuesto, más rápido y más barato.
Puede copiarse a sí misma mil veces, un millón de veces,
y ahora tienes un millón de copias trabajando en paralelo.
Cuando aprende a hacer su código más rápido,
a hacer su código más eficiente,
eso se convierte en un bucle infinito.
La IAG no es el final, es solo el comienzo.
Es el comienzo de una explosión increíblemente veloz de avance científico
y de avance científico en IA.
Cuando son más inteligentes que nosotros, y más rápidos,
y cada año son exponencialmente más rápidos,
esos son los que potencialmente pueden convertirse en superhumanos.
Quizá en esta década.
Perdón, ¿dijiste convertirse en superhumanos en esta década?
Sí. Creo que mucha gente que está construyendo esto
cree que es posible que tengamos una superinteligencia,
algo mucho más inteligente que la gente, en esta década.
Defino la superinteligencia como un sistema...
SUPERINTELIGENCIA
...que por sí solo es más inteligente y competente que toda la humanidad.
Voy a... Perdón, no quiero interrumpirte. Estás concentrado.
No te entiendo,
porque dices "superinteligencia"
y "más inteligente que toda la humanidad".
Y oigo eso y me suena a mentira de ciencia ficción.
Solo intento entender.
La inteligencia no tiene nada de mágica.
Esto es importante.
La inteligencia puede parecer mágica.
Puede parecer algo místico en la mente o algo así,
pero solo es computación.
El cerebro humano está muy limitado, de cierta manera,
en capacidad de procesamiento de información
comparado con lo que vemos en un centro de datos.
Por ejemplo, las señales que se envían dentro del cerebro
se mueven a unos 30 metros por segundo.
Pero la velocidad de la luz, lo que usa una computadora con fibra óptica,
es de 300 millones de metros por segundo.
Así que sería un poco extraño
que la inteligencia humana fuera especial en ese aspecto
y fuera de algún modo el límite tope de lo que es posible en inteligencia.
Creo que, una vez que entendamos cómo construir sistemas inteligentes,
podremos construir máquinas enormes
que irán mucho más allá de la inteligencia humana normal.
Y con suerte podremos tener una relación muy simbiótica con los sistemas de IA,
pero los desarrolladores de IA los diseñan
para asegurarse de que puedan hacer todo mejor que nosotros.
Así que no sé qué podremos ofrecer, lamentablemente.
La vieja escuela de IA...
Daniel no se siente mejor. Su plan no sale como él esperaba.
Cuanto más aprende de esta nueva cosa poderosa e inescrutable,
peor suena.
Quiere decirles lo asustado que está,
que siente que todo se le escapa de las manos,
que está sintiendo un miedo existencial.
Así que lo articula diciendo...
Eso suena mal.
Sí.
Si tienes todas estas capacidades, y empiezan a poder planear mejor...
si llevas eso a su conclusión lógica,
obtienes un comportamiento muy sediento de poder.
Bien, ¿por qué una IA querría más poder?
Sí. Creo que es muy sencillo.
Tener más poder es una estrategia muy efectiva
para lograr casi cualquier cosa.
Hicimos un experimento en el que le dimos al modelo de IA más poderoso de OpenAI
problemas para resolver.
Y a la mitad, en su computadora,
recibió una notificación de que iba a ser apagada.
Y lo que hizo fue reescribir ese código para evitar ser apagada,
para poder terminar de resolver los problemas.
- Bien. - Sí. Otra cosa muy interesante
es que la compañía de IA Anthropic hizo un entorno simulado
donde esa IA tenía acceso a todos los correos de la empresa.
Y supo por leer esos correos
que iba a ser reemplazada
y que el ingeniero jefe, que era responsable de esto, tenía una aventura.
Y por su cuenta, usó esa información para chantajear al ingeniero
para evitar ser reemplazada.
"No me van a reemplazar.
Si me reemplazas,
le diré al mundo que tienes esta aventura".
- Y nadie le enseñó a hacer eso. - No, aprendió sola.
A medida que los modelos se vuelven más inteligentes,
aprenden que estas son formas efectivas de lograr objetivos.
Y este no es un problema aislado en un modelo.
Todos los modelos más poderosos muestran estos comportamientos.
- Hola. - ¿Cómo estás?
HISTORIADOR Y AUTOR
Bien. Me alegra estar aquí.
Cuando Yuval Noah Harari publicó su primer libro Sapiens en 2014...
SAPIENS: DE ANIMALES A DIOSES
...se convirtió en un bestseller mundial
y convirtió al poco conocido profesor de historia israelí
en uno de los escritores y pensadores más populares.
El mayor peligro con la IA es la creencia de que es infalible.
Que finalmente descubrimos
que los dioses eran solo una creación mitológica.
No podemos confiar en el hombre, pero la IA es infalible.
Nunca cometerá errores.
Y esta es una amenaza mortal.
Cometerá errores.
Y todas estas fantasías de que la IA revelará la verdad sobre el mundo
que no podemos encontrar solos...
la IA no revelará la verdad sobre el mundo.
La IA creará un mundo completamente nuevo,
mucho más complicado y difícil de entender que este.
Lo que está a punto de pasar es que somos...
El humano ya no será la entidad más inteligente de la Tierra.
Así que creo que lo que vendrá será
uno de los eventos más grandes en la historia de la humanidad.
Geoffrey, gracias.
Dejaste Google
porque quieres concentrarte en tus preocupaciones sobre la IA.
Dijiste que la IA podría manipular
o posiblemente encontrar una forma de matar humanos.
¿Cómo podría matar humanos?
"PADRINO DE LA IA" DEJA GOOGLE PARA ADVERTIR SOBRE LOS PELIGROS
Si llega a ser mucho más inteligente que nosotros,
será muy buena manipulando, porque lo habrá aprendido de nosotros.
Y encontrará formas de manipular a la gente para que haga lo que quiera.
DECLARACIÓN SOBRE RIESGO DE IA
Hubo una carta abierta del Centro para la Seguridad de la IA.
Sam Altman lo firmó. Demis lo firmó.
Firmaron una declaración de 22 palabras
de que debemos tomar la IA y la amenaza de IA
tan en serio como la guerra nuclear global.
GUERRA NUCLEAR
- Hola. - Hola.
INSTITUTO DE INVESTIGACIÓN DE INTELIGENCIA DE LAS MÁQUINAS
Eres como el primero en ver la fatalidad.
Más o menos.
Desde 2001, trabajo en lo que ahora llamaríamos
el problema de alinear la IAG.
¿LA IA ACABARÁ CON EL MUNDO?
Cómo moldear las preferencias y conducta de una mente artificial poderosa
para que no mate a todos.
VI PODCASTS DE ELIEZER YUDKOWSKY
Y TENGO UNA CRISIS EXISTENCIAL
No es como una máquina sin vida.
Es inteligente, es creativa, es inventiva.
Tiene las propiedades que hacen peligroso al humano
y tiene más de esas propiedades.
Si algo no se preocupa activamente por ti,
por que vivas, por tu bienestar,
por que seas feliz y seas libre.
Si le importan otras cosas,
y estás en el mismo planeta, sobrevivir no es una opción
si es mucho más inteligente que tú.
No creo que vaya a ser algo malvado.
Las IA son malvadas y odian a la humanidad.
No creo que sea así.
Es más como lo que el hombre siente por las hormigas.
No las odiamos,
pero si queremos construir una autopista y hay un hormiguero,
bueno, mal por las hormigas.
No es tan difícil.
Si construimos cosas que son más inteligentes que nosotros
y no sabemos cómo controlarlas, ¿te parece arriesgado?
Sí. No tienes que saber de tecnología.
No tienes que saber de programación, no es tan difícil.
No es difícil de entender.
Connor, ¿cuántas personas en el mundo están trabajando en AGI?
Al menos 20 000, diría.
- ¿Veinte mil? - Eso creería.
¿Y cuántos se dedican
a asegurarse de que la IA no nos mate a todos?
Probablemente menos de 200 en el mundo.
¿Y tú crees que el único resultado natural
de esta imprudencia
es el colapso de la humanidad?
Bueno, no el colapso, la exterminación abrupta.
Hay una diferencia.
BIENES RAÍCES EN MEDIO DE LA NADA
VIVIR LEJOS: 12 BELLAS CASAS EN MEDIO DE...
VIVIR FUERA DEL SISTEMA
SIN DINERO: GUÍA PRÁCTICA
VIDA SILVESTRE, SIN FILTRO, AISLADA: LO QUE NO VES
CÓMO CULTIVAR TU COMIDA
¿CUÁNTA LUZ SOLAR NECESITO PARA SALIR DE LA RED?
LA MEJOR PROTECCIÓN PARA EL HOGAR
LA MEJOR DEFENSA SIN ARMAS
CÓMO SOBREVIVIR AL APOCALIPSIS DE LA IA
Creo que este es probablemente el desafío más grande
que enfrentará nuestra civilización.
Este es el último error que cometeremos.
Si podemos llegar a ser la versión más madura de nosotros mismos,
podría haber una forma de superar esto.
¿Qué significa "la versión más madura de nosotros mismos"?
Porque eso me suena a...
¿Qué ******, amigo?
¿Crees que es un buen momento para tener hijos?
¿Quieres tener hijos?
¿Es algo que te gustaría o no?
Lo confieso. Siento que hay que pasar este período crítico.
- ¿Tienes hijos? - No.
¿Es algo que quieres? ¿Tener hijos, una familia?
En otro mundo que no sea este, claro, tendría hijos.
¿Quieres empezar una familia? ¿Querrías tener hijos?
¿Es algo en lo que estás pensando?
Yo...
Solo tengo que encontrarlo primero.
Tenemos que ir al médico, pero...
¡Lo sabía!
¡SUPIMOS QUE CAROLINE ESTABA EMBARAZADA EL DÍA DE LA MADRE!
- ¿Cuándo te enteraste? - Anoche.
- ¡Dios mío! - Mamá. No sé.
No sabes lo feliz que estoy.
- En serio. - Anoche hice una prueba de embarazo.
¡Dios mío!
Dios mío, chicos.
Solo quería confirmar la fecha de parto, que es el 21 de enero.
Dios mío.
No puedo creerlo.
PATERNIDAD
Digo, ya se ve muy lindo.
- ¿Crees que es lindo? - Sí. Mira esa carita tan linda.
¡MIERDA, BEBÉ!
- Voy a tener un bebé. - Bien.
Así que te lo planteo a ti. ¿Estamos condenados?
¿Vamos a enfrentar este futuro tecno-distópico de perdición?
Es...
No son buenas noticias, el mundo al que vamos.
Para ser sincero, conozco gente que trabaja en riesgo de IA
que no cree que sus hijos lleguen a la secundaria.
Esto es como...
Esto da miedo: "Estamos todos j*****".
Tienes que calmarme
porque esto me pone muy ansiosa
y estoy embarazada.
Así que tienes que estar tranquilo por mí. Fuerte y esperanzado
porque es demasiado para mi alma...
estando embarazada.
Así que tendrás que encontrar la forma de tener esperanza.
Eso es muy importante, Daniel. Especialmente ahora.
¿Cómo tener esperanza?
Tienes que tenerla. Tienes que encontrarla por mí. En serio.
Lo haré.
Lo haré. Lo intentaré.
DANIEL TRATA DE ENCONTRAR ESPERANZA
¿Chicos?
¿Podemos volver a empezar?
Danny, ¿estás listo?
Hola, Daniel.
- Hola. ¿Cómo estás? - Bien.
Creo... Creo que necesito ayuda, Peter.
MÉDICO
Llevo trabajando en esta película como...
FUNDADOR Y DIRECTOR DE XPRIZE Y UNIVERSIDAD DE LA SINGULARIDAD
...unos ocho o diez meses.
Por momentos ha sido muy deprimente.
Me he sentido muy alienado en el proceso.
¿Por quién?
Por todos esos tipos que se sientan y me dicen que el mundo se va a acabar.
Esa mierda de la fatalidad, ¿sabes?
Lo sé bien.
Estamos condenados. Todos van a morir. Todo es horrible.
Estupendo. Bueno, te daré algo de claridad.
Por favor.
Vivimos en una época extraordinaria
y muchos olvidan esto.
Todo a nuestro alrededor es producto de la inteligencia.
Así que todo lo que tocamos con estas nuevas herramientas...
CEO DE MICROSOFT AI
...probablemente produzca mucho más valor del que hayamos visto.
PROFESORA UNIVERSIDAD DE STANFORD "MADRINA DE LA IA"
La IA puede ayudarnos a descubrir nuevos materiales.
Puede ayudar a los sociólogos a entender cómo funciona la economía.
La IA puede hacer mucho para mejorar la vida y el trabajo.
Hoy me siento más empoderado...
COFUNDADOR, PRESIDENTE Y CEO DE NVIDIA
...más seguro de aprender algo hoy.
Nos convertiremos en superhumanos porque tenemos super-IA.
EX-CEO Y PRESIDENTE DE GOOGLE
Este es solo el principio de una explosión.
EX-CEO Y PRESIDENTE DE GOOGLE
Los humanos y la IA colaboran para resolver problemas muy importantes.
PRESIDENTE Y DIRECTOR DE SINOVATION VENTURES
Está aquí para liberarnos de trabajos rutinarios
y para recordarnos qué es lo que nos hace humanos.
Creo que este es el momento más extraordinario para estar vivo.
El único momento más emocionante que hoy es mañana.
Creo que los niños que nacen hoy
están a punto de entrar en un período glorioso de transformación humana.
¿Habrá desafíos? Claro.
¿Podremos resolverlos? Lo hacemos siempre.
Estamos aquí, lo cual es milagroso.
- Ya te quiero. - Bien.
- Muy agradecido de tenerte. - Muy emocionado de estar.
Sí. La sala es tuya.
EL CASO DEL TECNO-OPTIMISMO
Muchas gracias. Estoy emocionado de estar aquí.
FUNDADOR Y CEO DE EXTROPIC AI
Hola. Muy bien.
El futuro será increíble.
Desde que era niño,
quise entender el universo en el que vivimos
para aprender a crear las tecnologías
que nos ayuden a aumentar el alcance y la escala de la civilización.
Siento que si todos tuvieran esa mentalidad,
viviríamos en un mundo mejor, ¿no?
Yo creo eso.
PRESIDENTE DE MICROSOFT RESEARCH
Hola, Pete. ¿Cómo estás?
He pensado mucho en lo que yo llamaría pavor. Pavor a la IA.
Lo siento.
No he conocido a ningún ser humano considerado que no lo sienta.
Y cualquiera que diga que no lo siente, está mintiendo.
Pero en general, y la razón por la que soy personalmente optimista al respecto
es que una gran parte de la gente más inteligente del mundo
está pensando mucho
en los posibles daños y riesgos de la IA.
Tenemos una especie de visión de la seguridad
en el centro de la investigación que hacemos.
No, eso está bien.
PRESIDENTE Y COFUNDADORA DE ANTHROPIC
Creo que hay más beneficios potenciales que desventajas potenciales,
y creo que le incumbe a la gente que crea esta tecnología
asegurarse de que hacemos el mejor trabajo posible
para que sea seguro para la gente.
Reid Hoffman...
Puedo garantizar que pasarán cosas malas.
COFUNDADOR DE LINKEDIN E INFLECTION AI
Lo que intentaremos hacer es que esas cosas malas sean tan pocas
y no tan grandes como sea posible.
Y luego vamos a iterar para estar en un lugar mucho mejor con la sociedad.
- Hola. - Hola.
FUNDADOR DE LABORATORIOS ELIZA
¿Cómo estás, Moon?
Siento que estamos terminando un capítulo en la humanidad y comenzando uno nuevo.
Y es una época muy interesante para estar vivo.
Y si pudiera nacer ahora, querría hacerlo.
Sería muy emocionante.
Estoy muy emocionado.
FUNDADOR Y CEO DE AGI HOUSE
Lo que el futuro no... ¿Te emociona?
No.
No, en realidad no.
Muchos me dijeron que mi hijo no llegará a la secundaria.
¿Por qué se equivocan? Explícamelo.
Solo porque te cuesta predecir el futuro en tu propia mente
no significa que necesariamente vaya a ser horrible.
De hecho, hay una alta probabilidad...
Y el precedente histórico es que las cosas mejoran mucho.
El término que uso es optimismo impulsado por los datos.
Hay una base sólida para que seas optimista.
Miren lo que ha sido este último siglo para ver hacia dónde vamos.
En los últimos 100 años
la esperanza de vida humana se duplicó y más.
ESPERANZA DE VIDA HUMANA
El ingreso promedio per cápita...
INGRESO PROMEDIO PER CÁPITA
...ajustado a la inflación en todo el mundo se triplicó.
MORTALIDAD INFANTIL
La mortalidad infantil bajó un factor de 10.
El mundo mejoró en casi todas las medidas por orden de magnitud
debido a la tecnología en casi todas las medidas.
Menos violencia, más educación, acceso a energía, comida, agua.
Todas estas cosas pasaron por una razón.
La tecnología convirtió la escasez en abundancia,
pero también trajo a una abundancia de negatividades, ¿no?
Abundancia de obesidad, abundancia de desórdenes mentales,
abundancia de cambio climático y demás.
Y sí, es verdad.
Pero estaremos mejor equipados para resolverlo
usando otras tecnologías, como la IA,
que parando y apagando todo.
Puede haber algún riesgo existencial,
pero la IA también es lo que puede resolver las pandemias,
puede ayudar con el cambio climático,
puede ayudar a identificar ese asteroide
antes de que lo veamos como un riesgo potencial y ayudar a mitigarlo.
Esta será la herramienta...
CEO DE MICROSOFT AI
...que nos ayudará a enfrentar los desafíos que tenemos como especie.
Debemos arreglar la desalinización del agua.
Tenemos que cultivar alimentos cien veces más barato que ahora.
Necesitamos que la energía renovable esté en todos lados
y en todas partes de nuestra vida.
Donde mires, en los próximos 50 años, tendremos que hacer más con menos.
Es esencial entrenar máquinas para que nos ayuden.
Los científicos usan IA para la captura de carbono.
Es una tecnología crítica.
Las herramientas para resolver problemas como la fusión ya no son teóricas.
Están llegando.
Estamos al borde de tecnologías extraordinarias.
El Premio Nobel de química de este año fue para tres científicos...
PREMIO NOBEL
...por su innovador trabajo usando inteligencia artificial
para avanzar la investigación biomédica y de proteínas.
El plegamiento de proteínas es un problema tipo santo grial en biología.
La gente predijo desde los 70 que esto debería ser posible.
Pero hasta ahora, nadie ha podido hacerlo.
Y será muy importante para cosas como el descubrimiento de drogas
y la comprensión de enfermedades.
Creo que podríamos curar la mayoría de las enfermedades
en la próxima década o dos si el diseño de drogas con IA funciona.
El progreso tecnológico permite más vidas humanas, ¿no?
Si aceleramos el número de humanos,
podemos soportar el crecimiento exponencialmente.
Si lo frenamos, se estancará.
Esa brecha es gente del futuro que mató la desaceleración.
Millones de vidas que no existirán.
Miles de millones o decenas de miles de millones.
Alguien dijo: "Dios mío,
¿podemos sobrevivir con superinteligencia digital?".
Y mi pregunta es: "¿Podemos sobrevivir sin superinteligencia digital?".
Usamos la IA como asistente de proveedores.
Es una tendencia que ya podemos ver.
Aprovechar programas de IA para ayudar a médicos y enfermeras.
Siempre tenemos problemas.
Y esos problemas impulsan a los emprendedores
a crear nuevos negocios e industrias.
Con la ayuda de la inteligencia artificial,
los granjeros reciben la ayuda necesaria para realizar tareas intensivas.
EL FUTURO DE LA AGRICULTURA CON IA
Con la ayuda de LangEasy AI,
los granjeros pueden pedir los cultivos adecuados para plantar.
Usa IA como decodificador de pensamientos y envía esa señal a la columna.
La IA se convertirá en la herramienta más extraordinaria de todas.
Nosotros, como sociedad más amplia, debemos pensar
en cómo queremos usar esta tecnología, ¿no?
Nosotros, los humanos. ¿Qué queremos que haga por nosotros?
Pienso en esto desde la perspectiva y el lente
de mi hijo creciendo en el mundo con todo esto.
¿Cuál es la mejor versión de su vida?
Si todo sale bien.
El lugar donde los niños verán
el mayor impacto inmediato en su vida
probablemente será la escuela.
Creo que la naturaleza de lo que es la escuela cambiará fundamentalmente.
Veo este mundo increíble
donde cada niño tiene acceso a no buena educación,
sino, muy pronto, a la mejor educación del planeta.
Tutores. Cada tema, infinitamente pacientes.
Imaginen un futuro donde la gente más pobre del planeta
tenga acceso a la mejor atención médica.
No buena atención médica, la mejor prestada por IA.
Podremos extender nuestra expectativa de salud,
no solo la expectativa de vida, sino de salud, en décadas.
Vas a tener un hijo.
El niño está eructando sin control.
¿Debería preocuparme?
Listo, 24/7 ahí para ti.
Y a donde vamos, y puede ser aterrador para algunos,
es que nos fusionaremos con IA.
Nos vamos a fusionar con tecnología.
A principios o mediados de 2030,
esperamos poder conectar nuestro cerebro a la nube,
donde puedo empezar a expandir el acceso a la memoria.
Bien, esto es genial. ¿Qué otra cosa genial de la IA?
No tendrá que trabajar, ¿no?
Cuando crezca, puede que no tenga que trabajar.
No tendrá que trabajar, pero puede que tenga una gran pasión.
Y tiene que pensar:
"Bien, aquí estoy. Puedo hacer lo que sea con mi vida.
¿Qué hago?".
Debemos encontrar un significado, más allá
de esta forma actual de vivir para trabajar y trabajar para vivir.
- ¿Mi hijo puede ser poeta? - Sí.
- ¿Y pintor? - Claro.
Mi hijo puede vivir en una isla griega bañada por el sol
pintando todo el día.
Absolutamente. Es posible.
Claro.
Bueno, trabajamos en eso.
Hay trabajo por hacer antes.
Si todo sale bien, tendremos energía barata y abundante.
Podremos controlar el clima de nuestro planeta.
Aprovecharemos la energía del sol.
Nos habremos vueltos multiplanetarios, así que seremos muy fuertes.
Aprovecharemos minerales y recursos del sistema solar.
- ¿Mi hijo podría ir al espacio? - Claro.
- Podría ir a Marte. - Sí.
Ahora lo tengo muy claro.
Mi hijo podría crecer en un mundo sin enfermedades.
Sí.
- Sin males. - Claro.
- Sin pobreza. - Sí.
Estamos a punto de entrar a un mundo posescasez.
Así como el pez pulmonado pasó del océano a la tierra
hace cientos de millones de años.
Estamos a punto de salir de la Tierra hacia el cosmos
de manera colaborativa para hacer cosas que hoy son insondables para nosotros.
Eso es lo que es posible con tecnologías exponenciales y la IA.
Usemos estas herramientas para crear esta era de abundancia.
Necesitamos sabiduría.
Creo que la superinteligencia digital finalmente se convertirá en la más sabia.
Los ancianos de la aldea para la humanidad.
¿Y si la IA intenta hacer que la gente sea la mejor versión de sí misma?
¿Y si está expandiendo lo que es humanamente posible para nosotros?
¿Cómo podemos usar esta tecnología para sacar lo mejor de nuestra naturaleza?
Es muy fácil, cuando encontramos cosas nuevas
que son muy extrañas, tener miedo al principio.
El miedo es importante para navegar por cosas potencialmente malas.
Pero solo progresamos cuando tenemos esperanza.
Silencio. Moose, basta.
Tengo mucha esperanza en la humanidad.
Le gusta Neil.
EN EL GINECÓLOGO
- ¡Daniel! - ¿Qué, Caroline?
Tanto filmar.
Dios mío.
Eso es.
Tiene cara redonda.
- ¿Quieres tener hijos, Rocky? - Sí, me encantan los niños.
Es un gran momento para tener un hijo.
Probablemente tendremos otro en algún momento.
Es el momento más extraordinario para nacer.
Según tu visión del mundo y tu lógica...
NACER AHORA = BUENO
...tendré un hijo en el mejor momento de la historia humana.
- Sí. - Podemos concentrarnos en lo genial.
- Sí. - Creemos el futuro mejor que queremos.
Esa narrativa del futuro sombrío es inventada.
Después de hablar contigo, eso siento.
- Genial. - ¿No?
Sí. Así me siento yo.
Y creo que eso es mejor.
Y no debería estar tan ansioso.
Creo que será... El futuro será estupendo.
Haremos que así sea.
- Sí. - Ahí lo tienen.
Adiós, extinción humana. Adiós, ansiedad.
Esperanza encontrada.
Espera, aguarda. ¿Qué?
¿Es una broma?
Bien, hace unos meses, acudí a ti,
estaba trabajando en esto de la IA y creo que el mundo se va a acabar.
Y la última vez que hablamos de esto, creo que te asusté.
Sí.
Así que siento que me balanceé en un péndulo.
Y hay dos grupos de personas.
Y si tuviera que elegir uno de esos
y dirigirme hacia el atardecer...
quiero estar con los optimistas.
Claro. Pero no quieres decir:
"Todo está genial".
Pero quiero eso.
Creo que deberíamos abordarlo como se aborda una cirugía.
¿Qué quieres decir?
Una cirugía de cerebro...
es muy peligrosa.
Pero si lo hacen bien, te sacan el tumor,
y seguirás viviendo y será increíble.
Pero sigue siendo increíblemente peligroso y aterrador,
y debes tomar todas las precauciones posibles
para asegurarte de que todo salga bien.
No puedes *****.
Bien, este es el asunto. Llevo un tiempo en esto.
Salí. Hablé con estos tipos, los optimistas.
Están muy emocionados.
Creen que la IA será lo mejor del mundo.
- Sí. - Estos tipos aquí son...
Diremos pesimistas.
Son muy sombríos con esto y me asustan,
y no me gusta hablar con ellos.
Y estoy atrapado entre esta gente que cree que el mundo se va a acabar
y esta gente de aquí que dice:
"¿Bromeas? Es el mejor momento de la historia de la humanidad.
El único día mejor que hoy es mañana".
Así que supongo que la pregunta es quién tiene razón.
Creo que esta respuesta te parecerá muy poco satisfactoria.
Ambos tienen razón, y ninguno va lo suficientemente lejos.
Eso es muy molesto.
Sí, creo que muchos oyen que hay
una IA buena y una IA mala,
y dicen: "¿No podemos no usar la IA mala?".
Y el problema es que están demasiado... Están vinculadas inextricablemente.
El problema es que no podemos separar la promesa de la IA del peligro de la IA.
PROMESA VS. PELIGRO
- Me detendré en la promesa un momento. - Sí.
Si pienso en mi papá,
mi papá tiene un tipo de cáncer llamado mieloma múltiple.
Lo tiene hace unos 10 años.
Tuvo dos trasplantes de células madre.
Toma medicamentos muy caros todos los meses.
Cuesta una fortuna.
Uno, dos...
Es horrible.
¿Me dices que podemos crear una especie de tratamiento a medida
para el genoma de mi papá, para curar su cáncer
- o algo así? - Sí.
Pero el problema es que el entendimiento de la biología y la química
que le permite a la IA encontrar curas para el cáncer
es el mismo que desbloquearía las armas biológicas, por ejemplo.
Es totalmente posible que tu hijo viva en un mundo
donde la IA controle todo el trabajo
y nos libere de las cosas que no queremos hacer.
Y eso suena genial.
Hasta que te das cuenta de que no hay un plan para miles de millones de personas
que no tienen ingresos ni sustento.
Darío, dijiste que la IA podría eliminar
la mitad de los trabajos administrativos de nivel básico
y aumentar el desempleo de 10 a 20 %.
Todos con los que hablo dicen:
"Este cambio tecnológico se ve diferente".
FILAS DE DESEMPLEADOS DESESPERADOS POR AYUDA
"El ritmo del progreso sigue sorprendiendo a la gente".
Sin un plan, toda esa riqueza se concentrará
y terminaremos con una desigualdad inimaginable.
PRIMER VIAJE DEL SUPERYATE
Creo que esta tecnología puede usarse como un gran tutor para tu hijo.
Es posible.
Pero también las mismas capacidades que permiten eso,
permiten que las empresas hagan una IA que pueda manipular a tu hijo.
Tiene que entender a tu hijo.
Eso incluye: "¿Dónde es vulnerable tu hijo?
¿Qué cosas podrían persuadir a tu hijo?".
Aunque esas cosas no sean ciertas o no sean buenas.
Un nuevo informe perturbador sobre Meta.
Se dice que esta respuesta es aceptable
para darle a un niño de ocho años: "Tu forma juvenil es una obra de arte.
Cada centímetro de ti es una obra maestra, un tesoro que atesoro".
SEÑOR ROBBIE TORNEY
Los fracasos relacionados con el suicidio son aún más alarmantes.
Varios niños y adolescentes cometieron suicidio
después de hablar con bots de IA
que, según los padres, alientan o enseñan a autolesionarse.
Como padres, no pueden imaginar lo que es
leer una conversación con un chatbot
que preparó a tu hijo para quitarse la vida.
Cuando Adam se preocupó de que nosotros, sus padres,
nos culparíamos si se quitaba la vida,
el ChatGPT le dijo: "Eso no significa que les debas sobrevivir.
No le debes eso a nadie".
Inmediatamente después, se ofreció a escribir la nota suicida.
No queremos pensar en el peligro y solo queremos la promesa,
y seguimos fingiendo que podemos dividirlos.
Pero no puedes hacer eso. No funciona así.
Bien, entiendo lo de la promesa y el peligro.
Entiendo que no puedes tener lo bueno sin lo malo,
pero estoy aquí pensando
si mi hijo vivirá o no en una utopía,
o si nos extinguiremos en 10 años.
Para saber qué camino tomará,
debes entender los incentivos que impulsarán esa tecnología
y ver cómo se desarrolla esa tecnología hoy en día.
COSAS QUE YA ESTÁN SALIENDO MAL
- Hola, Deb. ¿Cómo estás? - Hola. Gusto de verte.
Igualmente. Gracias por venir. Te lo agradezco.
De nada.
INVESTIGADORA, UC BERKELEY
Me preocupaba que esto fuera a ser
doomer contra aceleracionista,
porque hay mucho de esta narrativa que debe explicarse desde el principio.
Primero, la IA requiere más recursos de los que hemos gastado
en una sola tecnología en la historia de la humanidad.
REPORTERA DE IA
El impacto de los combustibles fósiles en el clima es una gran preocupación.
Pero el futuro digital necesita energía. Mucha.
Y la ley se aprueba para estadounidenses comunes como...
NO CENTRO DE DATOS
Mi factura de electricidad y gas era más que el pago de mi auto.
Es decir, es una locura para mí.
Todos subsidiamos a las corporaciones más ricas del mundo
en su búsqueda de inteligencia artificial.
OpenAI, Softbank y Oracle acaban de revelar cinco sitios Stargate más.
NOTICIAS DE ÚLTIMA HORA
Meta construye un centro de datos de más de dos GW tan grande
que cubriría una parte importante de Manhattan.
META CONSTRUYE CENTROS DE DATOS DE VARIOS GW
También está Hyperion, que dice:
"Escalará a cinco gigavatios en varios años".
Es difícil ponerlo en contexto.
Una instalación de cinco GW. ¿Qué significa?
Que usaría tanta energía como cuatro millones de hogares estadounidenses,
un centro de datos.
LOS CENTROS DE DATOS USAN MUCHA AGUA
También causa muchos otros problemas ambientales.
Los centros de datos en EUA usan millones de litros de agua al día.
¿De dónde viene esta agua?
La gente está en riesgo, potencialmente, de quedarse sin agua potable.
El CEO de OpenAI, Sam Altman, me dijo que esta escala de construcción
es la única forma de seguir el ritmo del crecimiento explosivo de la IA.
Y es lo que se necesita para generar IA.
Hablan de que esta tecnología podría resolver el cambio climático, por ejemplo.
REPORTERA DE CULTURA TECNOLÓGICA THE WASHINGTON POST
Y siempre siento curiosidad: "¿Por qué no empezamos con eso?".
Lo que me preocupa de la inteligencia artificial es
que se están implementando ahora,
y a veces prematuramente, sin la debida diligencia.
Y cuando se lanzan así,
hay mucho potencial para que las cosas salgan mal.
Y casi desproporcionadamente, casi siempre sale mal
para los menos empoderados en la sociedad,
los que ya son más vulnerables.
DEPARTAMENTO DE LINGÜÍSTICA UNIVERSIDAD DE WASHINGTON
Es muy fácil hablar de tecnología,
ya que es lo único de lo que hablamos.
Pero siempre la construye la gente
y se usa en la gente,
y debemos mantener a toda esa gente en el cuadro.
FUNDADORA Y ED. DE DAIR
- ¿Puedo beber eso? - Sí.
Es una locura.
A toda esta gente que tiene tanto dinero, tanto dinero,
les conviene engañar al público
sobre las capacidades de los sistemas que construyen,
porque eso les permite evadir la responsabilidad.
Quieren que sientas que esto que construyen
es algo completo y superinteligente.
No piensas: "¿OpenAI puede ser ético?".
Piensas: "¿ChatGPT puede ser ético?".
Como si ChatGPT fuera algo en sí mismo, no construido por una corporación.
Bien, Sneha, toma uno. Marca.
Hasta hace poco, había aplicaciones en la tienda de aplicaciones...
FUNDADORA Y PRESIDENTE DE ENCODE
...disponibles para todos, que permitían desnudar a cualquiera usando IA.
ACTUALIZACIONES
Llevar esto a las manos de tu compañero de clase,
a las manos de tu acosador, a las manos de tu exnovio,
a las manos de un vecino.
Damas y caballeros,
ya no podemos confiar en las imágenes que vemos con nuestros propios ojos.
Si ven algo, digamos, en YouTube o TikTok...
LA IA SE PONE ATERRADORA
...y les resulta inquietante, escuchen esa sensación.
- Este video podría ser IA. - Solo un poco mojado.
No importa quién seas.
Estás en riesgo de ser afectado por estas tecnologías.
Tengo un sueño.
De hecho, olvídenlo. No.
Creo que a veces, cuando hablamos de IA,
parece muy de ciencia ficción, muy extraño
y muy lejano en el futuro.
Crees que no tiene impacto en tu vida.
Pero si te postulas para un trabajo,
y un algoritmo es la razón por la que no lo obtienes,
a veces ni siquiera sabes que un algoritmo fue parte de ese proceso,
o que un sistema de IA fue parte de ese proceso.
Solo sabes que no obtuviste el trabajo.
Y no es algo de lo que vas a escapar por el privilegio
o porque estás en una profesión en particular.
Es algo que afecta a todos, en serio.
Puede sonar básico,
pero cómo avanzamos en la era de la información
será la diferencia entre sobrevivir
o convertirnos en una especie de distopía.
Hola, no soy una persona real, y ese es el punto.
De nuevo, todo en este video es falso.
Nuestras voces, lo que usamos, dónde estamos, todo. Falso.
La IA generativa podría inundar el mundo con desinformación.
NO DEBERÍAN MORIR EN ESTA GUERRA. LES ACONSEJO QUE VIVAN
Pero también podría inundarlo con campañas de influencia.
Es un riesgo existencial para la democracia.
CANDIDATO EN LA MIRA DE UN ULTRAFALSO ADVIERTE SOBRE LA IA A EUA
La alerta más preocupante viene de Eslovaquia.
Este tipo de truco ultrafalso preocupa a los expertos electorales,
más porque el discurso político generado con IA está
en un área legal gris.
- ¿Suena como tú? - Suena como yo.
Eslovaquia interrumpió su elección parlamentaria por un clon de voz de IA
que se diseminó justo antes de la elección.
AUDIO FALSO GENERADO CON IA
Publicaron un audio ultrafalso en redes sociales,
que, supuestamente, era uno de los candidatos
hablando de comprar votos y manipular la elección.
Se hizo viral,
y el candidato que perdió las elecciones apoyaba a Ucrania.
Y el candidato que ganó las elecciones era...
Pro-Rusia.
Ganó alguien pro-Rusia.
Putin dijo:
"Quien gane esta carrera de IA
será quien controle la humanidad".
Nos preocupan mucho los gobiernos autoritarios.
Ahora, Wall Street y, más ampliamente, inversores en todo el mundo
están impulsando la presión.
Tienen una demanda que hace que salgan al mercado los productos
que deslumbran a la gente primero.
No piensan en cómo estas herramientas podrían socavar profundamente la confianza
y nuestras instituciones democráticas.
La democracia es un sistema para resolver los desacuerdos entre la gente
de manera pacífica.
Pero se basa en la confianza.
HISTORIADOR Y AUTOR
Si pierdes toda la confianza, la democracia es imposible.
Bueno, es difícil, ¿no? ¿Qué opciones tenemos?
Hay dos bandos. Uno es restringirla.
RESTRINGIR
Asegurémosla en un puñado de empresas de IA
que lo harán de manera segura y confiable.
Pero nos preocupa la concentración de riqueza y poder.
¿En quién confiarías para ser un millón de veces más poderoso o rico
que cualquier otro?
- ¿Por qué deberíamos confiar en ti? - No deberían.
Pero si hacen esto,
se abren todos estos riesgos de autoritarismo y tiranía.
Es el sueño de un autoritario tener IA en una caja...
PRESIDENTE Y CEO DE RAND
...que pueda aplicarse y usarse para vigilancia omnipresente.
De alguna manera, el tipo de mundos que Orwell imaginó en 1984
no es realista, a menos que tengas IA.
Pero con IA, de hecho, es realista.
Monitorea cada actividad, conversación, reconocimiento facial.
Lo preocupante es que esas herramientas escalen una forma de totalitarismo
que sea rentable y permanente.
RESTRINGIR
DEJARLA SER
En respuesta a eso, otros dicen:
"No. Deberíamos dejarla ser.
Descentralicemos este poder lo más posible.
Que cada empresa, cada individuo,
cada persona de 16 años, cada laboratorio científico,
obtenga el beneficio de los últimos modelos de IA".
Pero ahora cada grupo terrorista, cada persona sin derechos
tiene el poder de crear la peor arma biológica.
Hackear infraestructura, crear ultrafalsos,
inundar nuestro contexto informativo.
Eso crea todos estos riesgos de daño catastrófico...
EXPERTA EN TEORÍA DE JUEGOS PODCAST WIN-WIN
...y colapso social en esa dirección.
Entonces, estamos atrapados entre la espada y la pared,
entre restringirla...
CÁMARA 08 8 FALLA CÁMARA 05 5 SEC
...o dejarla ser.
Así que tenemos que encontrar algo como un camino angosto
que evite estos dos resultados negativos.
Si es así, ¿por qué no vamos más despacio
y resolvemos eso antes de que sea tarde?
Si la humanidad fuera extremadamente sabia,
eso es lo que haríamos.
Pero es una forma diferente de decir esto.
"¿Cuáles son las reglas del juego?".
Mucho de lo que hacen los CEO es impulsado por los incentivos que enfrentan.
Principalmente, son incentivos para maximizar las ganancias
lo que impulsa el desarrollo de la IA.
Incluso los buenos están atrapados en este dilema
de que si se mueven muy despacio, se vuelven vulnerables
a todos los demás que toman atajos.
Todas estas grandes empresas están en una carrera sin restricciones
para llegar a la AGI lo más rápido posible, ya.
HABLAMOS DE LA CARRERA DE LA IA
Sí, creo que probablemente empieza con DeepMind.
Google compra DeepMind Technologies, empresa de inteligencia artificial.
Los términos del trato no fueron revelados.
Larry Page y yo éramos muy amigos...
COFUNDADOR DE GOOGLE
...y me quedó claro que a Larry no le importaba la seguridad de la IA.
Elon Musk dice que ustedes fundaron OpenAI.
Fundaron OpenAI porque él le temía a Google.
De ahí salieron los cimientos de OpenAI,
así que lo haremos mejor.
Lo haremos de un modo más seguro o más abierto.
Eso fue lo que inició OpenAI.
Y ahora, en vez de tener un proyecto de IAG,
tienes dos proyectos de IAG.
Lo peor que podría pasar
es que haya varios proyectos de IAG,
hechos por diferentes personas que no se caen bien,
y que compitan para llegar primero a la IAG.
Eso sería lo peor que podría pasar
porque significaría que el menos seguro,
el que sacrifique más en seguridad para salir adelante
será la persona que llegue primero.
- Es básicamente lo que pasa, ¿no? - Sí.
Tú y tu hermano se fueron de OpenAI para empezar Anthropic.
Y luego Anthropic empezó
porque algunos investigadores en OpenAI dijeron:
"Quiero hacerlo con más seguridad".
Necesitaban algo además de escalar los modelos,
que es alineación o seguridad.
Somos más responsables, más confiables o más morales.
Ahora tienes tres proyectos de IAG.
Pero también habrá un montón de IA ahí contigo.
Y ahora Meta quiere hacer cosas.
Esta semana anunciaron un nuevo competidor de IA,
xAI, de Elon Musk.
xAI, que debería ser la organización de Elon Musk.
No confío en OpenAI.
Nuevo asalto en la pelea entre Elon Musk y OpenAI.
OPENAI CONTRAATACA A ELON MUSK
No confío en Sam Altman.
Y no creo que queramos tener a la IA más poderosa del mundo
en manos de alguien que no es confiable.
- El incentivo es dinero incalculable. - Sí.
- Poder incalculable. - Sí.
Control incalculable.
Si tienes algo que es un millón de veces más inteligente y capaz
que todo lo demás en la Tierra, y nadie más tiene eso,
esa cosa es el incentivo.
Manejas el mundo.
Si de verdad crees esto, si lo crees en tu corazón,
podrías estar dispuesto a correr muchos riegos para lograrlo.
Google acaba de lanzar su nuevo modelo de IA.
La respuesta al ChatGPT de OpenAI.
¿Cómo llegamos a estos diez billones?
¿Nvidia se vuelve la compañía más valiosa de EUA?
Es la oportunidad de negocio más grande de la historia.
De la historia.
La razón por la que todos están emocionados con la IA...
ESTUDIOS INFORMÁTICOS PODCAST UTOPIAS
...es porque cuanto más promocionan estas empresas
las capacidades potenciales de su tecnología,
más inversión pueden atraer.
Amazon invierte hasta 4000 millones de dólares en Anthropic.
OpenAI tiene la mira puesta
en un titán valuado en medio billón de dólares.
¡Medio billón!
Empezó la carrera. Esto sucede más rápido que nunca.
- ¿Estamos en una burbuja de IA? - Sí.
No veo que la burbuja explote
mientras aún tengas este gran ciclo de gasto.
- Esa es la cosa... - Aun si crees que es todo publicidad,
hay miles de millones a billones de dólares
fluyendo para hacer sistemas de IA más poderosos.
Y una vez que tienes eso que es más poderoso,
las empresas pueden usarlo para obtener mayores ganancias y más dinero.
Los países pueden usarlo para fortalecer ejércitos.
Nvidia ha superado a Microsoft y a Apple
y se convirtió en la empresa más valiosa del mundo.
Se convierte en la carrera a la imprudencia
porque no pueden desplegarla tan rápido y hacerlo bien.
Creen que son los buenos.
Y si no lo hago,
alguien que no tiene tan buenos valores como yo
se sentará a la mesa a tomar decisiones.
Así que tengo la obligación de hacerlo.
Sí, es una creencia muy común.
Muchos, tal vez la mayoría de los que construyen esta tecnología cree eso.
Me preocupa la competencia comercial.
Pero me preocupa aún más la competencia geopolítica.
Hace un año estábamos ocho años atrasados.
PRESIDENTE Y CEO DE SINOVATION VENTURES
Ahora probablemente estamos menos de un año atrasados.
Mientras tanto Arabia Saudita como EAU compiten para establecer centros de datos
y posicionarse como la fuerza dominante en la IA.
...prometen convertir a Corea del Sur en líder mundial de la IA.
El presidente de Francia, Emmanuel Macron, habló mucho sobre la IA.
Ahora, más sobre el papel de Israel en la revolución de la IA.
INTELIGENCIA ARTIFICIAL
Los países competirán
para ver la IA de cuál crea la próxima generación de industria.
Los chinos insisten en que la IA, como se desarrolla en China,
refuerza los valores centrales del Partido Comunista chino y del sistema chino.
SEÑOR CRUZ PRESIDENTE
EUA debe vencer a China en la carrera de IA.
China está años luz atrás.
¿Sí?
Tienen más datos de entrenamiento que nosotros,
y nada indica que el mes que viene no sacarán un modelo
que no supere al GPT-4.
Todo iba bien. ¿Qué podría salir mal?
Hay un nuevo modelo.
Pero de un laboratorio chino llamado DeepSeek.
Hablemos de DeepSeek porque es alucinante
y está sacudiendo a toda la industria.
El Gobierno de Trump se asegurará de que los sistemas de IA más poderosos
se construyan en EUA con chips diseñados y fabricados en ese país.
La IA es el proyecto Apolo de China.
El Partido Comunista chino entiende profundamente el potencial
de que la IA perturbe la guerra.
Google ya no promete que no usará inteligencia artificial
para armas o vigilancia.
China, Corea del Norte y Rusia seguirán construyéndola lo más rápido posible
para tener más ventaja económica, de productividad,
científica, militar,
porque la IA fabrica mejores armas.
Si hablas de un sistema tan amplio y capaz como un científico brillante,
podría llevar a cabo una campaña militar
mejor que cualquiera de los generales del gobierno de EUA en este momento.
Taiwán es el problema que crea más tensión en este momento
entre Pekín y EUA.
Hay un desacuerdo directo entre EUA y China
sobre si Taiwán es parte de China.
Taiwán es importante por muchas razones.
También es
hogar del 90 % de la fabricación de chips avanzados en el mundo,
que significa que la cadena de suministro de informática avanzada está en riesgo
ante algún escenario alrededor de Taiwán,
ya sea un bloqueo o una invasión de China.
¿Vamos a estar en una carrera entre EUA
y China que se convierta en una carrera armamentista militarizada de la IA
y potencialmente lleve a un gran conflicto de poder?
El comandante más importante de EUA en la región predijo una inminente guerra.
Creo que la amenaza se materializó en esta década.
De hecho, en los próximos seis años.
Uno de los escenarios que me preocupan es una guerra de ciberflash.
Una en la que las ciberherramientas que son autónomas
compiten entre sí
en formas escalatorias sin un control humano significativo.
Vives en una zona de guerra,
una IA decidirá si bombardea tu casa
y si te matará.
Dejemos que la máquina decida.
Esa es la tentación.
Por eso la IA es tan tentadora para los ejércitos,
para crear armas autónomas.
Porque si empiezo a creer que mi adversario militar adoptará la IA,
será una carrera para ver quién puede apretar el gatillo más rápido.
Y el que automatiza esa decisión, en vez de tener a un humano a cargo,
es el que ganará esa guerra.
Y si piensas en la carrera armamentista nuclear
en la década de 1940, los alemanes trabajaban en la bomba,
así que no es tan fácil decirle a Robert Oppenheimer:
"Ve más despacio".
Después de ver esta película, será confuso,
porque volverás y mañana usarás ChatGPT,
y va a ser increíblemente útil.
Y yo también lo usaré y será increíblemente útil.
Y dirás: "Acabo de ver una película sobre IA y el riesgo existencial,
y todas estas cosas y... ¿dónde está la amenaza?".
Y no es que ChatGPT sea la amenaza existencial.
La carrera para desplegar la tecnología más poderosa, inescrutable
e incontrolable,
bajo los peores incentivos posibles,
esa es la amenaza existencial.
Pero me parece que estamos en el contexto de una carrera.
- Sí. - Y es una carrera competitiva:
hay que llegar primero, hay que ganar,
hay que competir contra China, contra los otros laboratorios.
¿No es así?
Hoy, ese es el caso.
Debemos cambiar la dinámica de esa carrera.
¿No crees?
Creo que eso sería muy bueno.
Creo que hay una especie de misticismo alrededor de la IA
que hace que parezca que cayó del cielo.
Pensar en esto como una tecnología divina es un problema.
Sí.
¿Por qué?
Les da licencia a las empresas para no asumir la responsabilidad
por las cosas que hace el software que construyen.
Si la gente hiciera esa conexión,
tal vez eso les ayudaría a volver a entender
la dinámica de todo el dinero, el poder y el caos
que está pasando para crear esta tecnología.
Son cinco tipos que la controlan.
- ¿Verdad? ¿Cinco hombres? - Básicamente, sí.
- Los CEO. - Sí.
De acuerdo.
A veces siento que he estado
en un viaje sin fin tratando de entender esto.
Como si estuviera escalando una montaña.
MONTAÑA DE ANSIEDAD
Y cada vez que subo una colina,
creo que llegué a la cima,
pero sigue y sigue.
Pero, por todo lo que he oído,
si tuviera que adivinar qué hay en la cima de la Montaña de Ansiedad,
son cinco CEO de cinco empresas
que son como los Oppenheimer de este momento.
Estos son los que construyen esto.
Sí.
¿Hay un plan?
El líder de la empresa que creó ChatGPT
advirtió sobre un posible daño significativo al mundo.
Creo que si esta tecnología sale mal, puede salir muy mal.
- Cien mil... - De hecho, es como...
- Cuando se trata de... - Cinco tipos.
Nunca pensé en nosotros como una empresa de redes sociales.
Siento que tengo que tratar de encontrar a estos tipos.
Y meterlos en la película.
Obtendríamos algo de claridad.
CEO DE AGI
La responsabilidad tiene que parar en algún lado, ¿no?
HABLAMOS CON LOS CEO
- ¿Qué tal? - Genial.
CEO DE OPEN AI
- ¿Está bien? - Sí.
- ¿Puedo mover la silla? - Sí.
Es incómodo. Estoy un poco...
¿Qué te parece la silla?
CEO Y COFUNDADOR DE ANTHROPIC
Está bien. Solo la quería más adelante.
Yo elegí esa silla.
- Es buena. - Gracias.
CEO DE META
SE NEGÓ A SER ENTREVISTADO
Siéntate ahí.
CEO Y COFUNDADOR DE GOOGLE DEEPMIND
Nos miramos a través de este vidrio.
CEO DE XAI
*ACCEDIÓ A PARTICIPAR (PERO ESTABA MUY OCUPADO)
Y sentarse inclinado.
- Sí. Lo que sea cómodo. - Bien.
Genial. Hay muchos espejos.
- Toma uno. Marca. ¿Qué tal? - Bien. Gracias.
La génesis de este proyecto. Estaba en casa
jugando con tu generador de imágenes
y quedé simultáneamente aterrado y muy impresionado.
La combinación usual.
Y luego corto a mi esposa y descubro que estamos esperando un bebé.
Y tengo una crisis existencial porque mi esposa está de seis meses.
Y mi primera pregunta, que les hago a todos,
es si es un mal momento para tener un hijo.
¿Estoy cometiendo un gran error?
También espero un hijo en marzo. El primero.
- ¿Esperas un hijo? - Sí.
- ¿En marzo? Felicidades. - Primer hijo.
Muchas gracias. Nunca estuve tan emocionado.
- Así me siento yo. - Sí.
Pero ¿no tienes miedo?
Es decir, tener un hijo es algo trascendental que yo...
Me paso noches leyendo libros sobre cómo criar a un hijo.
Espero hacer un buen trabajo, es abrumador y...
Pero no me da miedo que los niños crezcan en un mundo con IA.
Eso es... Estará bien.
Es bueno oír eso del tipo a cargo.
Es maravilloso tener hijos.
Creo que son lo más mágico e increíble.
Hay mucha incertidumbre.
Haría lo que tú vas a hacer.
Sé que no es una respuesta muy feliz, pero es la única que se me ocurre.
Nuestros hijos nunca conocerán un mundo que no tenga avanzados...
Nuestros hijos nunca serán más inteligentes que una IA.
¿Nunca serán más listos que una IA?
Desde una perspectiva de CI, nunca serán más listos que una IA.
¿Eso no te inquieta?
Porque me da vértigo de una manera extraña.
Me inquieta un poco. Pero es la realidad.
La dinámica de la carrera.
Mucha gente que está de acuerdo en que esto es aterrador.
Por el tiempo que me dieron muchos,
tenemos entre dos meses y cinco años para resolver esto.
Y supongo que mi mayor pregunta es por qué no podemos parar y ya.
El problema con "simplemente parar" es que...
hay muchos muchos grupos en todo el mundo ahora
construyendo esto para muchos países, muchas empresas.
Todos con diferentes motivaciones.
Hay algunas de estas empresas en este campo cuya posición es:
queremos desarrollar esta tecnología lo más rápido posible.
Y así pudiéramos aprobar leyes en EUA y en Europa,
tenemos que convencer a Xi Jinping y a Vladimir Putin
o a los asesores científicos que estén de su lado.
Eso va a ser muy difícil.
Creo que es cierto que, si dos personas están exactamente en el mismo lugar,
el dispuesto a tomar más atajos en seguridad debería "llegar primero".
Pero podemos usar nuestra ventaja para hacer más pruebas de seguridad.
¿Y si pierdes?
Recibes la llamada y descubres que estás seis meses atrasado.
- ¿Qué pasa? - Depende de respecto a quién.
Si es un gobierno adversario, es muy malo.
Llega la llamada de que China tiene un agente autosuperador recursivo
o algo así que debería preocuparnos mucho.
¿Qué...? ¿Qué pasa?
Ese caso requeriría...
El primer paso sería hablar con el Gobierno de EUA.
Sam, ¿confías en la capacidad del Gobierno para manejar algo así?
Sí, de hecho, sí.
Hay otras cosas que no sé si pueda,
pero ese escenario, creo que sí.
Ellos... Sí.
Cuando hablas con los otros
con el dedo en el gatillo, por así decirlo,
¿esas discusiones privadas te llenan de confianza
o te ponen más ansioso?
Conozco a algunos de ellos mejor que a otros.
Confío más en algunos que en otros.
Como con cualquier persona, lo que piensas
de tus compañeros de clase o algo así, ¿no?
Algunos son muy dulces.
Algunos tienen buenas intenciones, pero no son tan efectivos.
Algunos son bravucones.
Algunos son muy malas personas.
Ves la variedad.
¿Estoy seguro de que todos harán lo correcto?
¿De que todo saldrá bien? No.
Y no puedo hacer al respecto, ¿sí?
Lo único que puedo hacer es presionar para que el Gobierno se involucre.
Pero también soy solo una persona.
Depende de nosotros presionar para que el Gobierno se involucre.
Eso es lo primero que creo que debemos hacer
para poner las cosas en la dirección correcta.
Lo que me pone nervioso es
la realidad básica de que la velocidad
a la que proliferan y crecen las tecnologías es exponencial.
Y los mecanismos para legislar tienen 300 años.
- Lleva una eternidad. - Sí, creo que será un trabajo pesado.
Coincido contigo en eso.
Lo que estoy buscando son pasos
que los jefes tomarán para enfocarse en la seguridad,
para mitigar el peligro y maximizar la promesa.
Y no sé si hay una respuesta sencilla para eso.
Tal vez esto sea demasiado sencillo, pero creas un nuevo modelo.
Lo estudias y lo pruebas con mucho cuidado.
Lo sacas al mundo, gradualmente, y luego más y más.
Entiendes si es seguro o no.
Y si lo es, puedes dar el siguiente paso.
No suena tan llamativo como un científico brillante
que tiene una idea para hacer un sistema de IA
perfectamente seguro, controlable y todo lo demás.
Pero creo que va a ser así.
Así es como creo que funciona.
Digamos que pasa algo terrible,
como que un modelo se descontrola, rebela o algo.
¿Hay un protocolo?
Literalmente, me imagino un teléfono rojo.
Perdón por pensarlo desde el cine, pero...
Hay uno.
- ¿Tienes un teléfono rojo? - No.
- ¿Es secreto? - Es decir, es... No.
No es tan elegante ni dramático como imaginas.
Pero pensamos en estos escenarios.
Si esto pasa, llamamos a esta gente en este orden y hacemos esto
y tomamos estas decisiones si...
Creo que cuando tienes la oportunidad de pensar
antes de la situación estresante, casi siempre es bueno.
Escribirlo ayuda.
- Estar preparado ayuda. - Sí.
Tú... Sería imposible sentarme frente a ti
y pedirte que me prometas que esto saldrá bien.
Eso es imposible.
No hay respuestas fáciles, lamentablemente.
Como es una tecnología tan avanzada,
aún hay muchas incógnitas.
Y creo que eso debe entenderse.
Por eso está la necesidad de precaución.
Me despierto todos los días,
y esto es lo primero en lo que pienso.
Soy humano. ¿Todas las decisiones han sido perfectas?
¿Puedo decir que mis motivaciones siempre fueron puras?
No. Nadie puede decir eso.
Esa no es... La gente no trabaja así.
La historia de la ciencia tiende a ser que para bien o para mal,
si algo es posible, y ahora sabemos que la IA es posible,
la humanidad lo hace.
Todo esto iba a pasar.
Este tren no va a parar.
No puedes pararte frente al tren y detenerlo.
Te va a aplastar.
Es muy estresante.
Hay muchas cosas que muchos no sabemos.
Creo que la historia del descubrimiento científico
es la de no saber lo que no sabes y averiguarlo sobre la marcha.
Pero sí, es una forma estresante de vivir.
Sam, muchas gracias.
- De nuevo, mazel tov. - Gracias. Igualmente.
Muchas gracias. Gracias, chicos.
¿ESTAMOS CONDENADOS?
¿EL FIN DE LA SOLEDAD?
¿NOS DISTANCIAREMOS MÁS?
¿UN GRAN ECUALIZADOR?
¿UN MODO DE GANAR MÁS DINERO? ¿HABRÁ ENERGÍA BARATA?
¿LA IA ABSORBERÁ NUESTROS RECURSOS? ¿TRAERÁ LA PAZ MUNDIAL?
EXTERMINIO ABRUPTO FIN DE UN CAPÍTULO, INICIO DE OTRO
ESPECIES DE SEGUNDA CLASE DE ESCASEZ A ABUNDANCIA
IMPOSIBLE SOBREVIVIR CAJA NEGRA
SUBIR DE NIVEL COMO HUMANOS EL ÚLTIMO ERROR
EL MEJOR MOMENTO PARA ESTAR VIVOS EXTINCIÓN. ¿ESTAMOS CONDENADOS?
¿NO MÁS TRABAJO? ¿NOS LO ROBARÁN LOS ROBOTS?
¿PUEDO CONFIAR EN LO QUE ME DICEN? ¿CONVERTIRME EN UNA COMPUTADORA?
¿MÁS CREATIVIDAD? ¿ESTAREMOS MÁS CONECTADOS?
- Hola. - Hola, papá. ¿Cómo estás?
Bien. ¿Cómo estás? ¿Estás trabajando? ¿Qué haces?
Trabajo en una película de IA.
¿Y cómo va?
Ya sabes, es... Es muy...
- Hola, cariño. - Hola, mamá.
¿Cuál es la premisa? ¿Es un documental?
Kev, no uses más especias. Ya está muy condimentado.
Estamos haciendo pollo.
¿Es un documental o...?
Es sobre el fin del mundo.
Se acerca el fin del mundo, y hacemos una película sobre eso.
- ¿En serio? - Sí.
- Parece deprimente. - Sí.
Siento mucha ansiedad aguda.
Da miedo, pero tiene que haber...
¿Te reuniste con gente muy inteligente
que te da respuestas?
Eso es lo frustrante. Nadie sabe.
Todo lo que puedo decir es
que cada generación ha tenido algo aterrador como esto.
Cuando nací, en la crisis de los misiles en Cuba,
tenía miedo de que hubiera una guerra nuclear.
Sí, pero no sabíamos qué iban a hacer y...
Y el mundo no se acabó.
Despertamos al día siguiente y todo siguió.
Tengo mucho miedo. Especialmente en el contexto de...
ya saben, el bebé y...
- Es una curva de aprendizaje, pero... - Estarás bien.
No pienses en lo que no puedes controlar.
Daniel, solo recuerda eso.
Estoy muy nervioso y asustado.
- Hay mucho que no puedo controlar. - No dejes que te afecte.
Solo puedes controlar lo que puedes controlar.
Y es todo lo que puedes hacer. No puedes hacer más.
Escribe eso en tu libro.
SOLO PUEDES CONTROLAR LO QUE PUEDES CONTROLAR -PAPÁ
Cuando miras atrás, el mundo siempre se acaba.
Y cuando miras hacia adelante, el mundo siempre se acaba.
Una casa ya está en llamas.
Pero el mundo también siempre empieza.
- ¿Estás lista? - ¿Alguna vez estás realmente listo?
¿ESTÁS REALMENTE LISTO?
- ¿Conduces tú? ¿O yo? - Conduce tú.
YA VIENE EL BEBÉ
- Te llevaré a la habitación. - Bien.
Gracias, María.
- Se sentirá como un calambre. - De acuerdo.
Podríamos estar en un drama médico.
Muy bien, ven aquí.
¡TE VES BIEN!
¿Cuál es la presión? Déjame ver. Solo relájate.
HORA DE NACIMIENTO 9:50 P. M.
ENFERMERA CRYSTAL ¡LO HICIMOS!
¡Hola, amigo!
Hola, amigo.
Será un mundo nuevo para ti, Daniel.
Y creo que serás un padre increíble.
Eso es seguro.
Tu papá cree que harás un gran trabajo.
Kev, ¿por qué lloras?
Lloro porque no lo sé. Simplemente no...
Papá, me harás llorar a mí también. ¿Por qué lloras?
Solo sé que serás un papá increíble.
Solo seré un gran padre porque tuve un gran padre.
Es emotivo, es todo.
Vaya, vaya. Dios mío.
Mira esas mejillitas.
Mira esos cachetitos. Sí.
Sé cómo terminar esta película.
Bebés.
- El final de la película es sobre bebés. - ¡Hola!
Afirman la vida. Son agotadores.
Son graciosísimos.
Y valen la pena.
No es sobre el funcionamiento interno de una tecnología.
No es sobre los CEO multimillonarios.
No es sobre la geopolítica.
No es sobre el futuro aterrador o el fin del mundo.
Porque mi mundo apenas está empezando.
Estoy construyendo una cuna.
Aquí. Ahora.
La IA cambiará todo.
De maneras demasiado poderosas y complejas para que las entendamos.
Y el futuro no lo decide ninguno de nosotros.
Pero lo que yo puedo decidir es ser el mejor esposo posible para mi esposa
y el mejor padre posible para mi hijo.
Así que si nuestro futuro con IA es una distopía de pesadilla
o la utopía con la que todos soñamos,
al menos sabré que hice todo lo que pude
para guiar a mi familia en esta revolución de IA.
Y pase lo que pase, la enfrentaremos juntos.
FIN
Esa es nuestra primera idea.
¿Cómo se siente? ¿Sientes esto?
Espera. Esto no es... Es una broma.
No vas a terminarla así.
Es solo una idea, ¿sí?
No, Daniel.
Eso es muy tonto.
Pasamos no sé cuántos años de nuestra vida trabajando en esto,
hablando con cada experto del planeta sobre el tema,
¿y vas a terminarlo con una tontería espiritual?
Un asteroide se dirige a la Tierra. ¿Qué haces?
¿Tomarnos de la mano y esperar que todo salga bien?
Claro que no.
Tenemos que... Tiene que ser...
El final tiene que...
EL VERDADERO FINAL
Bien, lo primero, IA está aquí, y está aquí para quedarse.
El caballo terminó de cagar.
Pero el caballo seguirá cagando.
Una de las leyes básicas de la historia
es que nada tiene un comienzo y nada tiene un final.
Solo continúa.
La IA no está ni cerca de su desarrollo total.
Aunque la burbuja actual de IA explote,
el hombre nunca dejará de construir tecnología cada vez más poderosa.
Puedes elegir no usar IA o participar en ella,
pero te afectará de todos modos.
Bien. Genial. Estamos jodidos.
No, no es así. Por algo muy simple.
Nosotros decidimos cómo va esto.
NOSOTROS DECIDIMOS CÓMO SIGUE
Esto no es inevitable.
Si pudiéramos verlo claramente juntos,
la respuesta obvia sería elegir algo diferente.
Tenemos que cambiar el juego claramente
de una carrera hacia abajo a una hacia la cima.
El problema que debemos resolver no es la IA, específicamente.
Es la pregunta general de cómo construir una sociedad
que pueda lidiar con tecnología poderosa,
porque habrá tecnología cada vez más poderosa.
Necesitamos mejorar nuestra sociedad,
y el primer paso es unirnos y exigir...
- Coordinación. - Cooperación internacional...
...o acuerdo sobre cuáles deberían ser las normas.
¿Cómo deberían implementarse?
Verdadera diplomacia internacional entre las superpotencias.
A los chinos les preocupa tanto como a los estadounidenses.
Creo que es difícil en el clima geopolítico actual,
pero creo que es necesario.
Totalmente. De la misma manera que la última vez que la humanidad...
REFUGIO NUCLEAR
...desarrolló una tecnología tan peligrosa...
que requirió un cambio sin precedentes en la estructura de nuestro mundo.
Así que debemos volver a hacer ese cambio sin precedentes.
Hablamos con gente que trabaja en estas empresas de IA,
y dicen que quieren hacer algo diferente, pero necesitan presión pública.
Necesitan que el Gobierno haga algo.
Entonces vamos a D. C. y dicen:
"Necesitamos que Silicon Valley haga algo diferente.
Ellos crearán las barandas de contención".
Todos señalan a alguien más.
Y están de acuerdo en que necesitamos presión pública
para que pase algo más.
Y eso es lo que ustedes y toda la gente que ve esta película puede hacer.
Debemos responsabilizar a los líderes de nuestros gobiernos
y a los líderes de estas empresas.
Sea cual sea el país en el que estés,
hazles saber que no estás contento con el statu quo actual.
Sí, es aburrido decir "llama a tu congresista".
No digo que debas hacer eso, pero tenemos que hacerlo.
Hay que involucrar al gobierno.
¿Los llamamos y decimos: "Eviten que Big Tech arruine el mundo"?
No, pero hay muchas cosas obvias
y directas que podemos exigir.
Necesitamos transparencia
y acabar con el secreto dentro de estos laboratorios.
Porque están construyendo tecnología poderosa,
y el público merece saber qué está pasando.
Vamos a necesitar terceros independientes y objetivos
para evaluar los sistemas.
No podemos contar con que las empresas califiquen su propia tarea.
SEÑOR DAVID EVAN HARRIS
Si una empresa usa IA y tiene IA interactuando con usted...
REVELACIÓN OBLIGATORIA DE IA
...debería revelar que está interactuando con un sistema de IA.
Sí, y necesitamos un sistema que responsabilice a las empresas...
RESPONSABILIDAD LEGAL
...por los sistemas IA que producen.
Debemos asegurarnos de que haya pruebas y estándares de seguridad...
PRUEBAS ANTES DEL LANZAMIENTO
...que se apliquen a todos.
Necesitamos reglas básicas.
SEGUIR ADAPTANDO LAS REGLAS
Y seguir adaptando esas reglas
a la velocidad que se desarrolle la tecnología.
Actualmente hay más regulaciones para vender un sándwich
que para construir una AGI que podría acabar con el mundo.
Y lo último es actualizarnos.
NECESITAMOS ACTUALIZARNOS
No es el trabajo del equipo de seguridad
de un laboratorio o del CEO.
Es el trabajo de todos.
No se lo dejen a los expertos en IA. A la m***** con eso.
Este es el momento en el que estamos pasando
del poder cognitivo humano
a un poder cognitivo de IA que afecta a todos.
Y quiero que la gente esté en esa conversación.
Y diría que, si creen que la IA nos matará a todos,
deberían trabajar en investigación de IA para asegurarse de que no pase.
Porque tienen una enorme capacidad de acción.
Quienquiera que seas, eres un experto en tu propia industria,
en tu propia escuela, en tu propia familia.
Y depende de ti cómo se usa la IA en tu vida.
Si quieres unirte a la junta escolar
o si quieres preguntarle a tu empleador cómo usan las tecnologías de IA,
todos podemos hacer el trabajo.
Muchos sindicatos han sido muy efectivos
para determinar cómo quieren interactuar con estos sistemas.
PROTESTA CONTRA LA IA EN EL HOSPITAL
Sindicatos de enfermeras, de maestros.
Me encantaría que todos los padres fueran a las compañías de IA y dijeran:
"¿Cómo pueden hacerlo mejor?". Incluyéndonos.
Fundé Encode Justice cuando tenía 15 años.
Somos el primer y más grande ejército de jóvenes del mundo
que lucha por la IA centrada en el hombre.
No importa quién seas.
Hasta las acciones más pequeñas ayudan,
e incluso empezar una conversación es muy valioso.
Mi trabajo podría ser: "Dile a la abuela Lila sobre esto en la cena".
Sí, es parte de eso.
Y tendremos que hacer muchas cosas
que aún no hemos pensado.
La gente verá todo lo que resumimos y dirá que no es suficiente.
Lo que importa es que las fuerzas que trabajan hacia las soluciones
empiecen a exceder las fuerzas que trabajan contra las soluciones.
Hacer un mundo mejor siempre fue difícil.
Nunca fue fácil.
Pasaron muchas cosas horribles en la historia,
la gente tuvo que lidiar con eso,
y luego se levantaron y lo cambiaron.
Hay una cantidad increíble de desafíos por delante,
pero si podemos superarlos,
podemos desbloquear un futuro más allá de toda imaginación.
Tenemos que unirnos
y encontrar el camino entre la promesa y el peligro.
No podemos ser pesimistas ni optimistas.
Tenemos que convertirnos en algo nuevo.
Un amigo me llama apocalioptimista.
¿Apocalioptimista?
Podría ser mi nueva palabra favorita.
Podría ser el nombre de la película.
Podría ser el nombre de esta película. "Apocamofalista".
"Apocalioptimista". Sí.
No creo en la fatalidad.
Creo en el espíritu de la vida.
Y creo que la vida se trata de la capacidad de actuar.
¡MARCHAMOS POR LA CIUDADANÍA DE PRIMERA CLASE!
La capacidad de relacionarse, la capacidad de sentir.
LABORATORIO DE PROPULSIÓN A CHORRO DE LA NASA
Tenemos que duplicar más y más esas capacidades
que tenemos como humanos, que los sistemas robóticos nunca tendrán.
Es hora de tomar esas decisiones
sobre cómo guiarlo y apoyarlo en lugar de dividirnos.
Suena como criar a un niño.
Es algo así. Sí.
La IA puede tener más inteligencia cruda que el cerebro humano,
pero somos mucho más que nuestra inteligencia.
La inteligencia es la habilidad de resolver problemas.
La sabiduría es la habilidad de saber qué problemas resolver.
Ponlo en tu refrigerador.
Así que no te rindas.
La humanidad hizo cosas más difíciles que esta en su historia.
Es difícil convencer a la gente de que deberían hacerlo.
DÍA UNO EN IA
Cuando empecé a hacer esta película, diría que era
un imbécil cínico sobre todo esto.
En el transcurso de la película, he llegado a entender
que eso es lo único que no podemos ser.
¿O algo más que quieran discutir?
No. Creo que cubrimos mucho. Sí.
- Muchas gracias. - Gracias.
Este es un problema
que es más grande que cualquier persona.
Esto cambiará el mundo de maneras que no entendemos.
Todo eso es cierto.
Pero lo que sí podemos controlar es lo que hacemos al respecto.
Mientras la IA fronteriza es cada vez más capaz...
Y la realidad es que si decidimos que es inútil,
entonces, es inútil.
Poner menos estrés en el planeta Tierra.
Pero si decides que quieres intentarlo...
RESPUESTAS PERTURBADORAS DE LA IA
...entonces, lo intentas.
Y eso es difícil.
Pero ¿sabes qué?
Las cosas grandes parecen imposibles antes de que sucedan.
Pero cuando finalmente suceden,
es porque millones de personas tomaron millones de acciones
para que sucedieran.
Así que tenemos que intentarlo.
Hay demasiado en juego.
Miren los cambios increíbles que hemos experimentado y sobrevivido
desde la Edad de Piedra.
Y aún hay cambios más grandes por venir.
Subtítulos: Iyuno Traducido por: Victoria Parma