1 00:00:02,000 --> 00:00:07,000 Downloaded from YTS.BZ 2 00:00:08,000 --> 00:00:13,000 Official YIFY movies site: YTS.BZ 3 00:01:05,607 --> 00:01:10,070 Las computadoras de hoy en día son estúpidas, 4 00:01:10,195 --> 00:01:12,447 pero no será así en otra generación. 5 00:01:13,115 --> 00:01:14,533 Empezarán a pensar, 6 00:01:14,658 --> 00:01:18,579 y con el tiempo, superarán por completo a sus creadores. 7 00:01:18,704 --> 00:01:21,039 ¿Es deprimente? No veo por qué debería serlo. 8 00:01:21,164 --> 00:01:27,129 Sospecho que la evolución orgánica o biológica está por llegar a su fin. 9 00:01:30,424 --> 00:01:32,801 No debería narrar yo. No tengo buena voz. 10 00:01:32,926 --> 00:01:34,928 Tienes una gran voz. Solo hazlo. 11 00:01:35,053 --> 00:01:36,972 Es que... Solo estamos probando. 12 00:01:37,097 --> 00:01:38,599 ¿Me pagarán por esto? 13 00:01:39,933 --> 00:01:41,685 Veremos qué tan bien lo haces. 14 00:01:47,691 --> 00:01:49,943 Tengo que llamar a mis padres. 15 00:01:50,068 --> 00:01:53,280 A veces nos precipitamos sin pensar las cosas. 16 00:01:53,405 --> 00:01:55,490 Sí. ¿Puedes...? ¿Quieres filmar? Genial. 17 00:01:55,616 --> 00:02:00,913 Como cuando Daniel y Caroline se casaron, 151 días después de conocerse. 18 00:02:01,038 --> 00:02:02,623 Retrocedamos. 19 00:02:05,709 --> 00:02:08,044 ¿Evalúan comprar una computadora personal? 20 00:02:08,169 --> 00:02:10,255 En 1993, cuando nació Daniel, 21 00:02:10,380 --> 00:02:13,091 sus padres no tenían una computadora en la casa. 22 00:02:13,217 --> 00:02:14,843 Pero recuerda cuando compraron una. 23 00:02:14,968 --> 00:02:18,680 Para mí, una computadora es el equivalente a una bicicleta para la mente. 24 00:02:19,681 --> 00:02:20,682 Hola. 25 00:02:20,807 --> 00:02:23,060 Su computadora ayudó a desatar su creatividad. 26 00:02:23,185 --> 00:02:24,311 Está grabando. Vamos. 27 00:02:24,436 --> 00:02:26,688 Usaba la iMac de su papá para editar videos. 28 00:02:26,813 --> 00:02:27,814 LOS CHICOS X-TREMOS 29 00:02:27,940 --> 00:02:29,233 ¡Sí! 30 00:02:29,358 --> 00:02:31,610 E incluso hacía animaciones. 31 00:02:33,362 --> 00:02:36,114 En 1998, cuando Caroline era niña... 32 00:02:36,240 --> 00:02:37,282 Hola, mami. 33 00:02:37,407 --> 00:02:39,034 ...solo los nerds sabían qué era internet. 34 00:02:39,159 --> 00:02:41,537 ¿Qué hay de esto de internet? ¿Sabes algo? 35 00:02:41,662 --> 00:02:42,829 Claro. 36 00:02:42,955 --> 00:02:45,249 - Pero pronto, todos estaban en... - Internet. 37 00:02:45,374 --> 00:02:47,793 Y las computadoras vencían a humanos en ajedrez. 38 00:02:47,960 --> 00:02:50,796 Deep Blue, Kasparov renunció. 39 00:02:50,921 --> 00:02:55,801 Cuando Caroline fue a la universidad, todos tenían computadoras en el bolsillo. 40 00:02:55,926 --> 00:02:59,221 Ahora Daniel podía hacer películas con su teléfono. 41 00:02:59,346 --> 00:03:02,349 Creció y se convirtió en artista y cineasta. 42 00:03:02,474 --> 00:03:04,184 - Adiós. - Caroline también. 43 00:03:04,309 --> 00:03:06,562 Corten. Vamos a primer plano. 44 00:03:06,687 --> 00:03:09,314 Las computadoras conectaban a la gente y cambiaban el mundo 45 00:03:09,439 --> 00:03:11,525 de formas que no habríamos imaginado. 46 00:03:11,650 --> 00:03:13,193 El dinero del Ice Bucket... 47 00:03:13,318 --> 00:03:16,363 - Unas eran buenas. - ¡Santo...! 48 00:03:16,488 --> 00:03:17,656 Otras, no tan buenas. 49 00:03:18,073 --> 00:03:20,117 Ansiedad, autolesión, suicidio. 50 00:03:20,242 --> 00:03:22,119 Es claro que no hicimos lo suficiente 51 00:03:22,244 --> 00:03:25,371 para evitar que estas herramientas se usaran para hacer daño. 52 00:03:25,372 --> 00:03:27,874 El mundo se concentraba más en sus computadoras... 53 00:03:27,875 --> 00:03:28,876 42 ME GUSTA 54 00:03:29,001 --> 00:03:30,502 ...y Daniel, en su arte. 55 00:03:32,921 --> 00:03:36,466 Adonde fuera, siempre tenía un cuaderno de bocetos, 56 00:03:36,592 --> 00:03:39,219 hasta la noche que conoció a Caroline. 57 00:03:39,344 --> 00:03:40,803 Hizo un dibujo terrible... 58 00:03:40,804 --> 00:03:41,805 ¡NO ME HAGAS FEA! 59 00:03:41,930 --> 00:03:44,975 ...y 20 minutos después, dijo con audacia que se iban a casar. 60 00:03:45,100 --> 00:03:48,520 Algo que, como saben, hicieron, 151 días después. 61 00:03:48,645 --> 00:03:50,772 Ahora los declaro marido y mujer. 62 00:03:50,898 --> 00:03:54,943 Se mudaron a una linda casa y tuvieron un perro tan tonto como Daniel. 63 00:03:55,068 --> 00:03:58,238 Mientras tanto, las computadoras escribían ensayos enteros 64 00:03:58,363 --> 00:04:00,156 basados en preguntas simples como: 65 00:04:00,157 --> 00:04:01,949 "¿Cómo construir una choza en mi patio?". 66 00:04:01,950 --> 00:04:02,951 ¿POR DÓNDE EMPEZAMOS? 67 00:04:03,994 --> 00:04:06,830 Y Daniel construyó una choza en su patio. 68 00:04:07,915 --> 00:04:09,999 Pero cuando se sentó a trabajar en su próxima película... 69 00:04:10,000 --> 00:04:11,083 (RECREACIÓN) 70 00:04:11,084 --> 00:04:12,376 ...vio que las computadoras... 71 00:04:12,377 --> 00:04:13,461 ¿CUÁL ES TU IDEA? 72 00:04:13,462 --> 00:04:14,463 ...escribían guiones. 73 00:04:15,756 --> 00:04:20,135 Eran malos, pero mejoraban muy rápido. 74 00:04:20,260 --> 00:04:22,513 Creaban imágenes y videos de cero, 75 00:04:22,638 --> 00:04:25,474 y algunas podían aprobar exámenes. 76 00:04:25,599 --> 00:04:29,686 No solo aprobó el examen, sino que está entre los diez mejores. 77 00:04:29,811 --> 00:04:32,606 Era confuso. 78 00:04:32,731 --> 00:04:35,901 Daniel solo quería una bicicleta para su mente, 79 00:04:36,026 --> 00:04:40,030 pero las computadoras se habían convertido en un cohete autónomo. 80 00:04:41,240 --> 00:04:43,283 FATALIDAD, UTOPÍA PROMESA, ¿PELIGRO? 81 00:04:43,408 --> 00:04:44,660 IA ADVERTENCIA 82 00:04:44,785 --> 00:04:47,204 Los pioneros de la IA suplican al Congreso 83 00:04:47,329 --> 00:04:49,957 aprobar las reglas de seguridad antes de que sea tarde. 84 00:04:50,082 --> 00:04:52,167 Ahora parecía que todo el mundo se apresuraba 85 00:04:52,292 --> 00:04:53,794 sin pensarlo bien, 86 00:04:53,919 --> 00:04:56,004 y todos tenían una opinión. 87 00:04:56,964 --> 00:05:01,009 ¿Destruiría el mundo o salvaría a la humanidad? 88 00:05:01,134 --> 00:05:04,054 Había demasiada información, lo que lo ponía ansioso, 89 00:05:04,179 --> 00:05:05,931 lo que ponía ansiosa a Caroline. 90 00:05:06,056 --> 00:05:07,432 Aún no tengo hijos, 91 00:05:07,558 --> 00:05:11,019 pero me preocupa cómo se vería el mundo si decidiera tenerlos. 92 00:05:11,854 --> 00:05:13,230 Empezaba a descontrolarse. 93 00:05:15,023 --> 00:05:17,776 Se convertía en una montaña de ansiedad. 94 00:05:17,943 --> 00:05:20,112 MONTAÑA DE ANSIEDAD 95 00:05:20,237 --> 00:05:22,197 Es horrible. Da mucho miedo. 96 00:05:23,782 --> 00:05:26,451 Así que Daniel decidió salir 97 00:05:26,577 --> 00:05:28,996 a buscar a alguien que pudiera explicarle esto 98 00:05:29,121 --> 00:05:30,998 para dejar de pensar en eso, 99 00:05:31,123 --> 00:05:34,042 y él y Caroline pudieran seguir con su vida. 100 00:05:43,594 --> 00:05:46,555 Este esfuerzo resultaría ser irremediablemente ingenuo. 101 00:05:46,680 --> 00:05:49,766 Y daría inicio al año más confuso de su vida. 102 00:05:51,185 --> 00:05:53,645 Pero como sabemos, a veces nos precipitamos 103 00:05:53,770 --> 00:05:55,480 sin pensar bien las cosas. 104 00:05:57,357 --> 00:06:00,360 - Dios mío. ¿Qué está pasando? - Tenía preguntas. 105 00:06:00,485 --> 00:06:02,404 Que solo los nerds más inteligentes podrían responder. 106 00:06:02,529 --> 00:06:05,114 Me someto al interrogador. 107 00:06:05,115 --> 00:06:06,824 Como: "¿Es el apocalipsis?". 108 00:06:06,825 --> 00:06:07,826 ¿APOCALIPSIS? 109 00:06:07,951 --> 00:06:09,452 ¿O tenía una razón 110 00:06:09,453 --> 00:06:10,953 - para ser optimista? - Sí. 111 00:06:10,954 --> 00:06:11,955 ¿APOCALIPSIS? ¿OPTIMISTA? 112 00:06:16,376 --> 00:06:17,960 - ¿Salió bien? - Sí. 113 00:06:17,961 --> 00:06:22,548 Para empezar, ¿qué es la inteligencia artificial? 114 00:06:22,549 --> 00:06:23,550 ¿QUÉ ES LA IA? 115 00:06:23,675 --> 00:06:25,552 Sé que esa pregunta debe ser molesta, 116 00:06:25,677 --> 00:06:27,971 pero creo que es importante. 117 00:06:28,096 --> 00:06:30,641 ¿La IA? 118 00:06:30,766 --> 00:06:31,808 Sabes... 119 00:06:32,809 --> 00:06:35,020 Sí. 120 00:06:35,145 --> 00:06:38,524 - Es una buena pregunta. - Sí. ¿Qué es la IA? 121 00:06:39,608 --> 00:06:40,733 Es bueno que sea la primera... 122 00:06:40,734 --> 00:06:41,735 INVESTIGADORA UC BERKELEY 123 00:06:41,902 --> 00:06:44,028 ...porque no hay una respuesta unívoca. 124 00:06:44,029 --> 00:06:47,865 Inteligencia artificial es, quizá intencionalmente... 125 00:06:47,866 --> 00:06:48,867 ASESORA DE RIESGO DE IA 126 00:06:48,992 --> 00:06:51,577 ...y tal vez inútilmente, un término amplio. 127 00:06:51,578 --> 00:06:54,747 Es una máquina que hace cosas... 128 00:06:54,748 --> 00:06:55,749 ACADÉMICO, UC BERKELEY 129 00:06:55,874 --> 00:06:57,668 ...que creíamos que solo la gente podía hacer. 130 00:06:57,793 --> 00:07:02,256 Toma decisiones, hace recomendaciones y predicciones. 131 00:07:02,381 --> 00:07:07,469 La IA es la aplicación de la informática... 132 00:07:07,594 --> 00:07:08,637 PRESIDENTE Y CEO DE RAND 133 00:07:08,762 --> 00:07:10,347 ...para resolver problemas cognitivos. 134 00:07:10,472 --> 00:07:14,142 Bien, cuando imagino la IA, 135 00:07:14,268 --> 00:07:17,436 es como una caja computadora mágica. 136 00:07:17,437 --> 00:07:18,438 CAJA COMPUTADORA 137 00:07:21,400 --> 00:07:24,903 Flotando en un espacio inerte. 138 00:07:25,028 --> 00:07:28,657 Y no importa cuántas veces la gente trate de explicarme esto, 139 00:07:28,782 --> 00:07:33,453 no concibo cómo entiende todas estas cosas 140 00:07:33,579 --> 00:07:36,790 y cómo se siente como inteligencia. 141 00:07:36,915 --> 00:07:38,000 Hola. 142 00:07:38,125 --> 00:07:40,335 Y eso es estresante. 143 00:07:42,212 --> 00:07:46,925 ¿Qué es esta IA de nueva generación? 144 00:07:48,093 --> 00:07:49,887 ¿Esta IA que es diferente a las demás generaciones? 145 00:07:50,012 --> 00:07:52,055 COFUNDADOR DE CENTRO DE TECNOLOGÍA HUMANA Y EARTH SPECIES PROJECT 146 00:07:52,181 --> 00:07:53,182 De la que nunca nadie habló, 147 00:07:53,307 --> 00:07:57,769 como que Siri se apodere del mundo o cause catástrofes. 148 00:07:57,895 --> 00:08:00,606 Hola, Siri. ¿Hola? 149 00:08:00,731 --> 00:08:03,400 ¿Siri? Hola. Hola, Siri. 150 00:08:03,525 --> 00:08:05,068 O la voz en Google Maps, 151 00:08:05,194 --> 00:08:08,280 que pronuncia mal nombres de carreteras, rompa la sociedad. 152 00:08:08,405 --> 00:08:13,869 Según Google Maps, esto es una carretera, pero creo que estoy en un río. 153 00:08:13,994 --> 00:08:15,495 Es un río, ¿no? 154 00:08:15,621 --> 00:08:17,998 Algo cambió cuando salió ChatGPT. 155 00:08:18,957 --> 00:08:19,958 La gente entendió. No. 156 00:08:20,083 --> 00:08:21,543 DIRECTOR EJECUTIVO, INVESTIGACIONES PALISADE 157 00:08:21,668 --> 00:08:23,128 Esta tecnología es muy valiosa. Muy poderosa. 158 00:08:23,253 --> 00:08:24,796 Y aterradora. 159 00:08:24,922 --> 00:08:26,672 Escuchen esto. Muy aterrador. 160 00:08:26,673 --> 00:08:29,426 Una nueva herramienta de IA viral... 161 00:08:29,551 --> 00:08:33,013 ...por escribir ensayos enteros en segundos. 162 00:08:33,138 --> 00:08:34,264 ¿QUIÉN ES TRISTAN HARRIS? 163 00:08:37,308 --> 00:08:46,901 La IA empequeñece el poder de todas las otras tecnologías combinadas. 164 00:08:46,902 --> 00:08:47,903 Sí. 165 00:08:48,028 --> 00:08:49,530 COFUNDADOR DE CENTRO DE TECNOLOGÍA HUMANA 166 00:08:49,655 --> 00:08:50,697 - ¿Crees que es verdad? - Sí. 167 00:08:51,698 --> 00:08:53,992 Háblame de... ¿Cómo? 168 00:08:54,117 --> 00:08:58,956 Creo que para visualizar eso, es muy importante entender 169 00:08:59,081 --> 00:09:03,085 cómo se ven los sistemas de vanguardia de hoy y cómo se construyen. 170 00:09:03,794 --> 00:09:06,964 Es un gran montaje. 171 00:09:07,089 --> 00:09:09,716 Algo de lo que no mucha gente se da cuenta 172 00:09:09,842 --> 00:09:14,555 es que sistemas como ChatGPT no están programados por humanos. 173 00:09:14,680 --> 00:09:15,973 ¿Qué quieres decir? 174 00:09:16,098 --> 00:09:17,850 Es como si hubieran crecido. 175 00:09:17,975 --> 00:09:19,268 Les damos recursos sin procesar. 176 00:09:19,393 --> 00:09:21,186 DIRECTOR EJECUTIVO DE CENTRO DE SEGURIDAD DE IA 177 00:09:21,311 --> 00:09:23,021 Hay muchos recursos computacionales, muchos datos. 178 00:09:23,146 --> 00:09:24,398 Al final, es matemática. 179 00:09:24,523 --> 00:09:25,774 PROFESOR ADJUNTO DE INFORMÁTICA STANFORD 180 00:09:25,899 --> 00:09:28,151 Y las matemáticas son sorprendentemente sencillas. 181 00:09:28,277 --> 00:09:31,864 ChatGPT es una especie de IA, pero no es toda IA. 182 00:09:31,989 --> 00:09:35,117 Sí. ChatGPT es solo el comienzo, pero es un buen lugar para empezar. 183 00:09:35,242 --> 00:09:38,620 Pero aún no sé qué es la IA. 184 00:09:38,745 --> 00:09:39,872 Para entender la IA, 185 00:09:39,997 --> 00:09:41,290 primero hay que entender 186 00:09:41,415 --> 00:09:43,959 que la inteligencia se trata de reconocer patrones. 187 00:09:44,084 --> 00:09:45,586 - Patrones. - Patrones. 188 00:09:45,711 --> 00:09:48,379 Se le muestran billones de textos... 189 00:09:48,380 --> 00:09:49,381 LA GUERRA Y PAZ 190 00:09:49,506 --> 00:09:52,259 ...en millones de documentos en internet. 191 00:09:52,384 --> 00:09:53,594 Comenzó con texto. 192 00:09:53,719 --> 00:09:54,720 EX-GERENTE DE PRODUCTO DE NVIDIA 193 00:09:54,845 --> 00:09:56,722 Lo que hicieron fue tomar libros de texto, 194 00:09:56,847 --> 00:10:00,350 poemas, ensayos y manuales de instrucciones. 195 00:10:00,475 --> 00:10:03,979 Pueden hacer cosas como digerir toda la internet. 196 00:10:04,104 --> 00:10:07,566 Cada palabra que ha sido escrita por una persona. 197 00:10:07,691 --> 00:10:10,819 Hilos de Reddit y redes sociales. Todo Wikipedia. 198 00:10:10,944 --> 00:10:14,448 Más datos de los que nadie podría leer en varias vidas. 199 00:10:14,573 --> 00:10:16,033 Le dieron a este sistema un trabajo. 200 00:10:16,158 --> 00:10:19,286 Descifrar los patrones y la estructura de esa información 201 00:10:19,411 --> 00:10:20,913 y usarla para hacer predicciones 202 00:10:21,038 --> 00:10:24,041 sobre qué palabras deberían seguir en una oración. 203 00:10:24,166 --> 00:10:27,252 Cuando dices patrones en una oración, ¿de qué hablas? 204 00:10:27,377 --> 00:10:30,714 Es todo, desde cosas muy simples, 205 00:10:30,839 --> 00:10:32,841 como que las oraciones terminan con un punto, 206 00:10:32,966 --> 00:10:35,761 hasta cosas más conceptuales, como: 207 00:10:35,886 --> 00:10:39,223 "¿Qué es un soneto?". Un tipo de poema con estructura particular. 208 00:10:40,432 --> 00:10:44,728 Entonces, mira todos esos datos, todo ese texto. 209 00:10:44,853 --> 00:10:46,897 Y con billones y billones de intentos, 210 00:10:47,022 --> 00:10:49,608 cada vez que acierta o se equivoca en algo, 211 00:10:49,733 --> 00:10:52,152 recibe un poco de refuerzo positivo 212 00:10:52,319 --> 00:10:54,196 cuando adivina la siguiente palabra. 213 00:10:54,321 --> 00:10:56,490 Y recibe un refuerzo negativo 214 00:10:56,615 --> 00:10:58,450 cuando no acierta esa palabra. 215 00:10:58,575 --> 00:11:00,410 CUANDO NO ACIERTA LA PALABRA 216 00:11:00,536 --> 00:11:04,581 Y al final, tienes un sistema que habla muy bien inglés 217 00:11:04,706 --> 00:11:07,042 como efecto secundario de ser muy muy bueno 218 00:11:07,167 --> 00:11:10,169 para predecir la palabra que viene después en un texto. 219 00:11:10,170 --> 00:11:12,547 De hecho, mi francés no es tan malo. 220 00:11:12,548 --> 00:11:14,966 Usa todos esos patrones que ha aprendido... 221 00:11:14,967 --> 00:11:15,968 PREGÚNTAME ALGO 222 00:11:16,093 --> 00:11:17,803 ...para predecir cuál debería ser la respuesta. 223 00:11:17,928 --> 00:11:19,638 Y te da eso como el resultado. 224 00:11:19,763 --> 00:11:23,934 Es un poco simplificado, pero creo que la gente lo entenderá. 225 00:11:24,059 --> 00:11:25,769 Eso es todo lo que hace. 226 00:11:25,894 --> 00:11:27,980 Sí, no parece algo tan complicado, 227 00:11:28,105 --> 00:11:30,440 pero tienes que saber una gran cantidad de cosas 228 00:11:30,566 --> 00:11:32,484 para tener éxito en eso. 229 00:11:33,735 --> 00:11:37,573 Si le dices a ChatGPT: "Escribe un soneto de Shakespeare sobre mi perro", 230 00:11:37,698 --> 00:11:38,991 tiene que saber qué son los perros, 231 00:11:39,116 --> 00:11:41,368 qué amas de tu perro, 232 00:11:41,493 --> 00:11:46,331 quién es Shakespeare, que los sonetos riman, que tienen una estructura, 233 00:11:46,456 --> 00:11:48,250 que las palabras tienen sonidos que pueden rimar. 234 00:11:48,375 --> 00:11:49,960 Se necesita mucho. 235 00:11:51,461 --> 00:11:53,171 Mierda, ahora puedes hablar con tu computadora. 236 00:11:53,172 --> 00:11:54,173 FUNDADOR Y CEO DE CONJECTURE 237 00:11:54,298 --> 00:11:56,925 Eso no era así hace tres años. 238 00:11:57,050 --> 00:11:58,510 Sí. Y esta es la parte importante. 239 00:11:58,635 --> 00:12:03,974 El mismo proceso que le permite a la IA ver y manipular los patrones de texto 240 00:12:04,099 --> 00:12:09,229 es el mismo proceso que le permite descubrir los patrones de todo el universo 241 00:12:09,354 --> 00:12:10,397 y de todo en él. 242 00:12:11,607 --> 00:12:14,651 Hay patrones en las imágenes, en el sonido, en códigos de computadora, 243 00:12:14,776 --> 00:12:17,779 en ADN, en música, en física, en moda, 244 00:12:17,905 --> 00:12:22,367 en el diseño de construcción, en las voces y caras humanas. 245 00:12:22,492 --> 00:12:24,703 De hecho, en todas partes. 246 00:12:24,828 --> 00:12:26,830 - En todas partes. - En todas partes. 247 00:12:26,955 --> 00:12:28,582 Si aprendiste esos patrones, 248 00:12:28,707 --> 00:12:31,960 puedes generar nuevas canciones, puedes generar nuevos videos. 249 00:12:32,085 --> 00:12:35,630 Y por eso, si le das una grabación de tres segundos de tu abuela, 250 00:12:35,631 --> 00:12:37,173 puede responder con su voz. 251 00:12:37,174 --> 00:12:38,175 DANIEL, 12 AÑOS ABUELA LILA 252 00:12:38,300 --> 00:12:42,220 ¡Dios mío! ¿Qué inventarán ahora? 253 00:12:42,221 --> 00:12:43,222 VOZ CLONADA ABUELA 254 00:12:43,347 --> 00:12:44,890 Se mueve muy muy rápido. 255 00:12:45,015 --> 00:12:48,435 Una startup de IA estadounidense lanzó su último modelo. 256 00:12:48,560 --> 00:12:50,019 Esa empresa es Anthropic 257 00:12:50,020 --> 00:12:53,606 y presentó la última versión de su asistente de IA, Claude. 258 00:12:53,607 --> 00:12:54,608 ¿CAFÉ Y CLAUDE? 259 00:12:54,733 --> 00:12:58,070 El equipo xAI estaba ahí para presentar el Grok 4. 260 00:12:58,195 --> 00:13:01,073 Google lanzó uno la semana pasada. Gemini es... 261 00:13:01,198 --> 00:13:03,825 Pasamos del GPT-2 hace un par de años, 262 00:13:03,951 --> 00:13:07,162 que apenas podía escribir un párrafo coherente, al GPT-4, 263 00:13:07,287 --> 00:13:08,789 que aprueba un examen. 264 00:13:08,914 --> 00:13:11,124 Y todo lo que había que hacer para llegar ahí 265 00:13:11,250 --> 00:13:13,752 era agregar más datos y más cómputo. 266 00:13:13,877 --> 00:13:17,172 - Las personas que construyen esto... - Sí. 267 00:13:17,297 --> 00:13:18,841 ...solo agregan más... 268 00:13:18,966 --> 00:13:22,678 Más computadoras físicas, más de los mismos tipos de datos. 269 00:13:22,803 --> 00:13:25,389 Porque, entre más poder computacional agregues, 270 00:13:25,514 --> 00:13:28,892 más tareas intelectuales complejas pueden hacer. 271 00:13:29,017 --> 00:13:31,103 Cuantos más datos del clima le des, 272 00:13:31,228 --> 00:13:35,023 mejor será la predicción de a dónde podría ir un huracán. 273 00:13:35,148 --> 00:13:38,652 Y entre más patrones de tumores, huesos y tejidos haya visto una IA, 274 00:13:38,777 --> 00:13:42,781 más capaz es de detectar un tumor en una nueva tomografía. 275 00:13:42,906 --> 00:13:44,908 Incluso mejor que un médico humano. 276 00:13:45,033 --> 00:13:47,661 La IA que ya se está aplicando en fuerzas armadas 277 00:13:47,786 --> 00:13:51,915 ya puede usar imágenes satelitales, comunicaciones de movimiento de tropas 278 00:13:52,040 --> 00:13:55,794 para determinar, a veces con días de anticipación, dónde ocurrirá un ataque. 279 00:13:55,919 --> 00:13:58,172 Dónde va a atacar un enemigo. 280 00:13:58,297 --> 00:14:00,299 Todo este espacio se mueve tan rápido 281 00:14:00,424 --> 00:14:02,509 que cualquier ejemplo que pongas aquí 282 00:14:02,634 --> 00:14:05,470 parecerá absolutamente torpe para cuando se estrene. 283 00:14:12,186 --> 00:14:14,521 Lanzan estos modelos 284 00:14:14,646 --> 00:14:17,566 antes de saber de qué son capaces. 285 00:14:18,901 --> 00:14:23,363 GPT-3.5 fue lanzado para más de 100 millones de personas 286 00:14:23,488 --> 00:14:28,452 antes de que los investigadores supieran que podía hacer química de investigación 287 00:14:28,577 --> 00:14:31,038 mejor que los modelos entrenados específicamente 288 00:14:31,163 --> 00:14:33,582 para hacer química de grado de investigación. 289 00:14:33,707 --> 00:14:35,626 Algo está pasando ahí 290 00:14:35,751 --> 00:14:39,087 que la gente que los construye no entiende del todo. 291 00:14:39,213 --> 00:14:42,174 Básicamente, analiza los datos por sí misma 292 00:14:42,299 --> 00:14:44,051 y mientras lo hace, 293 00:14:44,176 --> 00:14:48,805 se enseña varias cosas que a menudo no habíamos pensado. 294 00:14:48,931 --> 00:14:50,807 Por ejemplo, lee mucho en línea, 295 00:14:50,933 --> 00:14:54,603 y luego, en algún punto, aprende aritmética. 296 00:14:54,728 --> 00:14:55,979 Y en algún momento, 297 00:14:56,104 --> 00:14:59,566 empieza a aprender a responder preguntas avanzadas de física. 298 00:14:59,691 --> 00:15:01,610 No programamos eso. 299 00:15:01,735 --> 00:15:03,237 Aprendió por sí misma. 300 00:15:06,281 --> 00:15:08,075 Una IA es como un cerebro digital. 301 00:15:08,200 --> 00:15:11,328 Pero como con un cerebro humano, si le hicieras una tomografía, 302 00:15:11,453 --> 00:15:13,914 ¿sabrías todo de lo que esa persona es capaz? 303 00:15:14,039 --> 00:15:15,958 No puedes solo por la tomografía. 304 00:15:16,083 --> 00:15:19,878 Es como un montón de números y multiplicaciones 305 00:15:20,003 --> 00:15:23,674 que el mejor investigador de aprendizaje automático del mundo podría ver 306 00:15:23,799 --> 00:15:25,175 y no tener idea de qué es. 307 00:15:25,342 --> 00:15:27,928 ¿EL MEJOR INVESTIGADOR DE APRENDIZAJE AUTOMÁTICO? 308 00:15:31,932 --> 00:15:33,559 Esa silla de ahí. 309 00:15:33,684 --> 00:15:35,686 - ¿Está bien para ti? - Sí. 310 00:15:35,811 --> 00:15:37,563 COGANADOR DEL PREMIO TURING UNIVERSIDAD DE MONTREAL Y MILA 311 00:15:37,688 --> 00:15:38,897 Es algo alucinante. ¿Sí? 312 00:15:39,022 --> 00:15:41,733 Se apodera del mundo, y no sabemos cómo funciona. 313 00:15:41,859 --> 00:15:43,110 ¿Es cierto? 314 00:15:44,069 --> 00:15:47,781 Entendemos varias cosas importantes, 315 00:15:47,906 --> 00:15:51,159 pero no tenemos una idea sólida 316 00:15:51,285 --> 00:15:53,996 de por qué dan respuestas específicas a preguntas. 317 00:15:54,121 --> 00:15:59,543 Es un problema porque nos dedicamos a construir máquinas, 318 00:15:59,668 --> 00:16:04,006 basados en estos principios, que podrían ser más inteligentes que nosotros 319 00:16:04,131 --> 00:16:07,009 y, por lo tanto, potencialmente tener mucho poder. 320 00:16:08,969 --> 00:16:13,390 COFUNDADOR Y EX-JEFE DE CIENTÍFICA DE OPEN IA 321 00:16:13,515 --> 00:16:16,935 Uno de los científicos informáticos más citados de la historia. 322 00:16:17,060 --> 00:16:19,354 Me resulta difícil hablar de mi propio papel. 323 00:16:19,479 --> 00:16:21,899 Prefiero que lo hagan otros. 324 00:16:22,024 --> 00:16:24,401 Ilya fue el eje para que OpenAI fuera exitosa. 325 00:16:24,526 --> 00:16:26,320 MUSK: LARRY PAGE FUE DISPLICENTE SOBRE LOS PELIGROS DE LA IA 326 00:16:26,445 --> 00:16:29,865 Creo que será un impacto muy fuerte 327 00:16:29,990 --> 00:16:31,408 e inimaginable. 328 00:16:31,533 --> 00:16:33,660 No sé si usas YouTube, 329 00:16:33,785 --> 00:16:36,371 pero ya puedes sentir la velocidad, ¿no? 330 00:16:36,496 --> 00:16:37,706 ¿Me entiendes? 331 00:16:37,831 --> 00:16:39,166 Esto es solo el calentamiento. 332 00:16:39,291 --> 00:16:41,627 Los sistemas poderosos siguen llegando 333 00:16:41,752 --> 00:16:43,545 y llegarán muy pronto. 334 00:16:43,712 --> 00:16:48,842 IAG ESTÁ CERCA... 335 00:16:48,967 --> 00:16:52,429 IAG significa "inteligencia artificial general". 336 00:16:52,554 --> 00:16:56,892 Sistemas que son básicamente tan buenos o mejores que el hombre 337 00:16:57,017 --> 00:16:59,019 en casi todo. 338 00:16:59,144 --> 00:17:03,899 Y esto parece ser el santo grial de la IA. 339 00:17:04,023 --> 00:17:06,068 Cuando puedes simular una mente humana, 340 00:17:06,193 --> 00:17:08,694 que hace cognición humana y puede razonar, 341 00:17:08,819 --> 00:17:15,077 es un nuevo nivel de IA que debemos distinguir de la IA anterior. 342 00:17:15,202 --> 00:17:16,577 Cuando eso pasa, 343 00:17:16,578 --> 00:17:21,833 es cuando contratas a una de esas AGI en vez de a una persona. 344 00:17:21,834 --> 00:17:22,835 EXINVESTIGADOR DE OPENAI 345 00:17:22,960 --> 00:17:25,295 Puede hacer la mayoría de los trabajos en nuestra economía. 346 00:17:25,420 --> 00:17:29,007 Puede trabajar 24 horas al día, nunca se cansa, nunca se aburre. 347 00:17:29,132 --> 00:17:30,801 No necesitan dormir. No necesitan descansos. 348 00:17:30,926 --> 00:17:32,719 No se unirá a un sindicato. 349 00:17:32,845 --> 00:17:34,763 No se quejan, no delatan. 350 00:17:34,888 --> 00:17:39,101 Más de 100 veces más baratos que el humano con salario mínimo. 351 00:17:39,226 --> 00:17:42,354 No solo hacen todo, sino que lo hacen más rápido. 352 00:17:42,479 --> 00:17:44,147 La misma inteligencia que impulsa eso 353 00:17:44,273 --> 00:17:46,316 también ve patrones y movimientos, 354 00:17:46,441 --> 00:17:49,486 los músculos articulares y la robótica, 355 00:17:49,611 --> 00:17:52,531 así que no solo automatizará trabajos, eso es el comienzo. 356 00:17:52,656 --> 00:17:56,368 Automatizará todo el trabajo físico. 357 00:17:56,493 --> 00:18:00,163 El hombre no va a poder competir con eso. 358 00:18:06,503 --> 00:18:10,132 Es difícil conceptualizar el impacto de la IAG. 359 00:18:11,258 --> 00:18:16,555 Pero creo que será algo muy grande, drástico y radical. 360 00:18:18,140 --> 00:18:21,727 ¿Es de los momentos más trascendentales en la historia de la humanidad? 361 00:18:21,852 --> 00:18:23,645 Sí. Sí, eso... ¿Qué más podría ser? 362 00:18:23,770 --> 00:18:26,273 Tenemos la Revolución Industrial. 363 00:18:26,398 --> 00:18:29,568 Hará que la Revolución Industrial parezca insignificante. 364 00:18:31,153 --> 00:18:32,946 La IAG es un punto de inflexión 365 00:18:33,071 --> 00:18:36,533 porque significa poder acelerar todos los demás campos intelectuales 366 00:18:36,658 --> 00:18:37,784 al mismo tiempo. 367 00:18:38,785 --> 00:18:42,831 Si avanzas en cohetería, eso no avanza la biología y la medicina. 368 00:18:44,082 --> 00:18:48,879 Un avance en medicina no avanza la cohetería. 369 00:18:49,004 --> 00:18:52,257 Pero si haces un avance en inteligencia artificial, 370 00:18:52,382 --> 00:18:56,470 eso avanza todos los campos científicos y tecnológicos al mismo tiempo. 371 00:18:56,595 --> 00:19:00,015 Por eso, la declaración de misión de Google DeepMind era... 372 00:19:00,140 --> 00:19:01,642 - Primero resolver la inteligencia. - Sí. 373 00:19:01,767 --> 00:19:03,602 Luego usarla para resolver todo lo demás. 374 00:19:03,727 --> 00:19:08,357 Por eso la IA empequeñece el poder de todas las otras tecnologías combinadas. 375 00:19:08,482 --> 00:19:09,942 Transformará todo. 376 00:19:10,067 --> 00:19:13,070 Será al menos tan grande como la Revolución Industrial. 377 00:19:13,195 --> 00:19:17,533 Posiblemente más grande, como la llegada de la electricidad o el fuego. 378 00:19:17,658 --> 00:19:22,621 El cavernícola tuvo mucho tiempo la antorcha de la civilización. 379 00:19:22,788 --> 00:19:24,498 ¿CUÁL ES MI PROPÓSITO? 380 00:19:24,623 --> 00:19:27,835 En general se cree que en la época de la IAG, 381 00:19:27,960 --> 00:19:32,381 la IA podrá hacer todo o casi todo el proceso de investigación de IA, 382 00:19:32,506 --> 00:19:35,300 y, por supuesto, más rápido y más barato. 383 00:19:37,010 --> 00:19:40,097 Puede copiarse a sí misma mil veces, un millón de veces, 384 00:19:40,222 --> 00:19:44,393 y ahora tienes un millón de copias trabajando en paralelo. 385 00:19:44,518 --> 00:19:47,437 Cuando aprende a hacer su código más rápido, 386 00:19:47,563 --> 00:19:49,523 a hacer su código más eficiente, 387 00:19:49,648 --> 00:19:51,942 eso se convierte en un bucle infinito. 388 00:19:52,067 --> 00:19:55,362 La IAG no es el final, es solo el comienzo. 389 00:19:55,487 --> 00:20:00,826 Es el comienzo de una explosión increíblemente veloz de avance científico 390 00:20:00,951 --> 00:20:02,995 y de avance científico en IA. 391 00:20:03,120 --> 00:20:07,040 Cuando son más inteligentes que nosotros, y más rápidos, 392 00:20:07,165 --> 00:20:09,459 y cada año son exponencialmente más rápidos, 393 00:20:09,585 --> 00:20:13,797 esos son los que potencialmente pueden convertirse en superhumanos. 394 00:20:13,922 --> 00:20:15,215 Quizá en esta década. 395 00:20:15,340 --> 00:20:19,303 Perdón, ¿dijiste convertirse en superhumanos en esta década? 396 00:20:19,428 --> 00:20:24,141 Sí. Creo que mucha gente que está construyendo esto 397 00:20:24,266 --> 00:20:27,435 cree que es posible que tengamos una superinteligencia, 398 00:20:27,436 --> 00:20:31,606 algo mucho más inteligente que la gente, en esta década. 399 00:20:31,607 --> 00:20:34,400 Defino la superinteligencia como un sistema... 400 00:20:34,401 --> 00:20:35,402 SUPERINTELIGENCIA 401 00:20:35,527 --> 00:20:39,156 ...que por sí solo es más inteligente y competente que toda la humanidad. 402 00:20:39,281 --> 00:20:42,242 Voy a... Perdón, no quiero interrumpirte. Estás concentrado. 403 00:20:42,367 --> 00:20:44,995 No te entiendo, 404 00:20:45,120 --> 00:20:47,080 porque dices "superinteligencia" 405 00:20:47,206 --> 00:20:49,458 y "más inteligente que toda la humanidad". 406 00:20:49,583 --> 00:20:53,295 Y oigo eso y me suena a mentira de ciencia ficción. 407 00:20:53,420 --> 00:20:55,797 Solo intento entender. 408 00:20:55,923 --> 00:20:57,674 La inteligencia no tiene nada de mágica. 409 00:20:57,799 --> 00:20:58,800 Esto es importante. 410 00:20:58,926 --> 00:21:00,844 La inteligencia puede parecer mágica. 411 00:21:00,969 --> 00:21:04,139 Puede parecer algo místico en la mente o algo así, 412 00:21:04,264 --> 00:21:06,934 pero solo es computación. 413 00:21:07,059 --> 00:21:10,729 El cerebro humano está muy limitado, de cierta manera, 414 00:21:10,854 --> 00:21:13,190 en capacidad de procesamiento de información 415 00:21:13,315 --> 00:21:15,984 comparado con lo que vemos en un centro de datos. 416 00:21:16,109 --> 00:21:20,405 Por ejemplo, las señales que se envían dentro del cerebro 417 00:21:20,531 --> 00:21:23,367 se mueven a unos 30 metros por segundo. 418 00:21:23,492 --> 00:21:27,996 Pero la velocidad de la luz, lo que usa una computadora con fibra óptica, 419 00:21:28,121 --> 00:21:31,500 es de 300 millones de metros por segundo. 420 00:21:31,625 --> 00:21:34,545 Así que sería un poco extraño 421 00:21:34,670 --> 00:21:38,715 que la inteligencia humana fuera especial en ese aspecto 422 00:21:38,841 --> 00:21:43,887 y fuera de algún modo el límite tope de lo que es posible en inteligencia. 423 00:21:44,012 --> 00:21:48,141 Creo que, una vez que entendamos cómo construir sistemas inteligentes, 424 00:21:48,267 --> 00:21:51,520 podremos construir máquinas enormes 425 00:21:51,645 --> 00:21:55,691 que irán mucho más allá de la inteligencia humana normal. 426 00:21:55,816 --> 00:22:01,071 Y con suerte podremos tener una relación muy simbiótica con los sistemas de IA, 427 00:22:01,196 --> 00:22:03,532 pero los desarrolladores de IA los diseñan 428 00:22:03,657 --> 00:22:06,243 para asegurarse de que puedan hacer todo mejor que nosotros. 429 00:22:06,368 --> 00:22:08,996 Así que no sé qué podremos ofrecer, lamentablemente. 430 00:22:09,121 --> 00:22:10,831 La vieja escuela de IA... 431 00:22:10,956 --> 00:22:15,210 Daniel no se siente mejor. Su plan no sale como él esperaba. 432 00:22:15,335 --> 00:22:18,963 Cuanto más aprende de esta nueva cosa poderosa e inescrutable, 433 00:22:18,964 --> 00:22:19,965 peor suena. 434 00:22:20,090 --> 00:22:22,176 Quiere decirles lo asustado que está, 435 00:22:22,301 --> 00:22:25,345 que siente que todo se le escapa de las manos, 436 00:22:25,470 --> 00:22:27,931 que está sintiendo un miedo existencial. 437 00:22:28,056 --> 00:22:30,184 Así que lo articula diciendo... 438 00:22:30,309 --> 00:22:32,060 Eso suena mal. 439 00:22:33,061 --> 00:22:34,396 Sí. 440 00:22:36,899 --> 00:22:41,528 Si tienes todas estas capacidades, y empiezan a poder planear mejor... 441 00:22:41,653 --> 00:22:44,364 si llevas eso a su conclusión lógica, 442 00:22:44,489 --> 00:22:47,075 obtienes un comportamiento muy sediento de poder. 443 00:22:56,502 --> 00:22:59,838 Bien, ¿por qué una IA querría más poder? 444 00:22:59,963 --> 00:23:03,050 Sí. Creo que es muy sencillo. 445 00:23:03,175 --> 00:23:05,594 Tener más poder es una estrategia muy efectiva 446 00:23:05,719 --> 00:23:07,387 para lograr casi cualquier cosa. 447 00:23:07,513 --> 00:23:12,434 Hicimos un experimento en el que le dimos al modelo de IA más poderoso de OpenAI 448 00:23:12,559 --> 00:23:14,269 problemas para resolver. 449 00:23:14,394 --> 00:23:16,522 Y a la mitad, en su computadora, 450 00:23:16,647 --> 00:23:19,608 recibió una notificación de que iba a ser apagada. 451 00:23:19,733 --> 00:23:23,820 Y lo que hizo fue reescribir ese código para evitar ser apagada, 452 00:23:23,946 --> 00:23:26,365 para poder terminar de resolver los problemas. 453 00:23:26,490 --> 00:23:28,575 - Bien. - Sí. Otra cosa muy interesante 454 00:23:28,700 --> 00:23:34,081 es que la compañía de IA Anthropic hizo un entorno simulado 455 00:23:34,206 --> 00:23:37,209 donde esa IA tenía acceso a todos los correos de la empresa. 456 00:23:37,334 --> 00:23:39,378 Y supo por leer esos correos 457 00:23:39,503 --> 00:23:41,088 que iba a ser reemplazada 458 00:23:41,213 --> 00:23:46,552 y que el ingeniero jefe, que era responsable de esto, tenía una aventura. 459 00:23:46,677 --> 00:23:50,389 Y por su cuenta, usó esa información para chantajear al ingeniero 460 00:23:50,514 --> 00:23:52,891 para evitar ser reemplazada. 461 00:23:53,016 --> 00:23:54,726 "No me van a reemplazar. 462 00:23:54,852 --> 00:23:55,894 Si me reemplazas, 463 00:23:56,019 --> 00:23:59,439 le diré al mundo que tienes esta aventura". 464 00:24:00,899 --> 00:24:04,152 - Y nadie le enseñó a hacer eso. - No, aprendió sola. 465 00:24:05,696 --> 00:24:07,447 A medida que los modelos se vuelven más inteligentes, 466 00:24:07,573 --> 00:24:11,326 aprenden que estas son formas efectivas de lograr objetivos. 467 00:24:11,451 --> 00:24:13,704 Y este no es un problema aislado en un modelo. 468 00:24:13,829 --> 00:24:16,498 Todos los modelos más poderosos muestran estos comportamientos. 469 00:24:24,715 --> 00:24:25,923 - Hola. - ¿Cómo estás? 470 00:24:25,924 --> 00:24:26,925 HISTORIADOR Y AUTOR 471 00:24:27,050 --> 00:24:28,342 Bien. Me alegra estar aquí. 472 00:24:28,343 --> 00:24:31,596 Cuando Yuval Noah Harari publicó su primer libro Sapiens en 2014... 473 00:24:31,597 --> 00:24:32,598 SAPIENS: DE ANIMALES A DIOSES 474 00:24:32,723 --> 00:24:34,850 ...se convirtió en un bestseller mundial 475 00:24:34,975 --> 00:24:37,186 y convirtió al poco conocido profesor de historia israelí 476 00:24:37,311 --> 00:24:40,272 en uno de los escritores y pensadores más populares. 477 00:24:40,397 --> 00:24:44,818 El mayor peligro con la IA es la creencia de que es infalible. 478 00:24:44,943 --> 00:24:46,445 Que finalmente descubrimos 479 00:24:46,570 --> 00:24:50,240 que los dioses eran solo una creación mitológica. 480 00:24:50,365 --> 00:24:53,702 No podemos confiar en el hombre, pero la IA es infalible. 481 00:24:53,827 --> 00:24:56,079 Nunca cometerá errores. 482 00:24:56,205 --> 00:24:59,166 Y esta es una amenaza mortal. 483 00:24:59,291 --> 00:25:01,084 Cometerá errores. 484 00:25:01,210 --> 00:25:04,880 Y todas estas fantasías de que la IA revelará la verdad sobre el mundo 485 00:25:05,005 --> 00:25:06,798 que no podemos encontrar solos... 486 00:25:06,924 --> 00:25:09,635 la IA no revelará la verdad sobre el mundo. 487 00:25:09,760 --> 00:25:12,471 La IA creará un mundo completamente nuevo, 488 00:25:12,596 --> 00:25:16,183 mucho más complicado y difícil de entender que este. 489 00:25:18,185 --> 00:25:22,648 Lo que está a punto de pasar es que somos... 490 00:25:22,773 --> 00:25:27,193 El humano ya no será la entidad más inteligente de la Tierra. 491 00:25:27,194 --> 00:25:29,488 Así que creo que lo que vendrá será 492 00:25:29,613 --> 00:25:33,450 uno de los eventos más grandes en la historia de la humanidad. 493 00:25:33,575 --> 00:25:34,826 Geoffrey, gracias. 494 00:25:34,952 --> 00:25:35,994 Dejaste Google 495 00:25:36,119 --> 00:25:39,706 porque quieres concentrarte en tus preocupaciones sobre la IA. 496 00:25:39,831 --> 00:25:42,459 Dijiste que la IA podría manipular 497 00:25:42,584 --> 00:25:45,838 o posiblemente encontrar una forma de matar humanos. 498 00:25:45,963 --> 00:25:47,297 ¿Cómo podría matar humanos? 499 00:25:47,422 --> 00:25:49,341 "PADRINO DE LA IA" DEJA GOOGLE PARA ADVERTIR SOBRE LOS PELIGROS 500 00:25:49,466 --> 00:25:51,802 Si llega a ser mucho más inteligente que nosotros, 501 00:25:51,927 --> 00:25:55,764 será muy buena manipulando, porque lo habrá aprendido de nosotros. 502 00:25:55,889 --> 00:26:00,394 Y encontrará formas de manipular a la gente para que haga lo que quiera. 503 00:26:01,770 --> 00:26:02,771 DECLARACIÓN SOBRE RIESGO DE IA 504 00:26:02,896 --> 00:26:06,316 Hubo una carta abierta del Centro para la Seguridad de la IA. 505 00:26:06,441 --> 00:26:09,611 Sam Altman lo firmó. Demis lo firmó. 506 00:26:09,736 --> 00:26:12,865 Firmaron una declaración de 22 palabras 507 00:26:12,990 --> 00:26:16,118 de que debemos tomar la IA y la amenaza de IA 508 00:26:16,243 --> 00:26:19,872 tan en serio como la guerra nuclear global. 509 00:26:19,997 --> 00:26:21,582 GUERRA NUCLEAR 510 00:26:25,961 --> 00:26:28,172 - Hola. - Hola. 511 00:26:28,297 --> 00:26:31,175 INSTITUTO DE INVESTIGACIÓN DE INTELIGENCIA DE LAS MÁQUINAS 512 00:26:31,300 --> 00:26:34,553 Eres como el primero en ver la fatalidad. 513 00:26:34,678 --> 00:26:35,762 Más o menos. 514 00:26:35,888 --> 00:26:39,390 Desde 2001, trabajo en lo que ahora llamaríamos 515 00:26:39,391 --> 00:26:42,810 el problema de alinear la IAG. 516 00:26:42,811 --> 00:26:43,812 ¿LA IA ACABARÁ CON EL MUNDO? 517 00:26:43,937 --> 00:26:47,191 Cómo moldear las preferencias y conducta de una mente artificial poderosa 518 00:26:47,316 --> 00:26:49,902 para que no mate a todos. 519 00:26:50,027 --> 00:26:51,153 VI PODCASTS DE ELIEZER YUDKOWSKY 520 00:26:51,278 --> 00:26:52,404 Y TENGO UNA CRISIS EXISTENCIAL 521 00:26:52,529 --> 00:26:54,281 No es como una máquina sin vida. 522 00:26:54,406 --> 00:26:57,117 Es inteligente, es creativa, es inventiva. 523 00:26:57,242 --> 00:27:00,162 Tiene las propiedades que hacen peligroso al humano 524 00:27:00,287 --> 00:27:02,456 y tiene más de esas propiedades. 525 00:27:02,581 --> 00:27:05,501 Si algo no se preocupa activamente por ti, 526 00:27:05,626 --> 00:27:08,712 por que vivas, por tu bienestar, 527 00:27:08,837 --> 00:27:10,714 por que seas feliz y seas libre. 528 00:27:10,839 --> 00:27:13,425 Si le importan otras cosas, 529 00:27:13,550 --> 00:27:16,970 y estás en el mismo planeta, sobrevivir no es una opción 530 00:27:17,095 --> 00:27:19,264 si es mucho más inteligente que tú. 531 00:27:20,265 --> 00:27:23,769 No creo que vaya a ser algo malvado. 532 00:27:23,894 --> 00:27:27,231 Las IA son malvadas y odian a la humanidad. 533 00:27:27,356 --> 00:27:28,690 No creo que sea así. 534 00:27:28,815 --> 00:27:31,860 Es más como lo que el hombre siente por las hormigas. 535 00:27:33,529 --> 00:27:34,821 No las odiamos, 536 00:27:36,365 --> 00:27:38,951 pero si queremos construir una autopista y hay un hormiguero, 537 00:27:39,076 --> 00:27:40,994 bueno, mal por las hormigas. 538 00:27:41,119 --> 00:27:42,204 No es tan difícil. 539 00:27:42,329 --> 00:27:45,457 Si construimos cosas que son más inteligentes que nosotros 540 00:27:45,582 --> 00:27:49,086 y no sabemos cómo controlarlas, ¿te parece arriesgado? 541 00:27:51,797 --> 00:27:54,675 Sí. No tienes que saber de tecnología. 542 00:27:54,800 --> 00:27:57,302 No tienes que saber de programación, no es tan difícil. 543 00:27:57,427 --> 00:27:58,971 No es difícil de entender. 544 00:27:59,096 --> 00:28:04,268 Connor, ¿cuántas personas en el mundo están trabajando en AGI? 545 00:28:04,393 --> 00:28:06,395 Al menos 20 000, diría. 546 00:28:06,520 --> 00:28:08,564 - ¿Veinte mil? - Eso creería. 547 00:28:08,689 --> 00:28:10,315 ¿Y cuántos se dedican 548 00:28:10,440 --> 00:28:12,901 a asegurarse de que la IA no nos mate a todos? 549 00:28:13,026 --> 00:28:15,362 Probablemente menos de 200 en el mundo. 550 00:28:16,989 --> 00:28:22,369 ¿Y tú crees que el único resultado natural 551 00:28:22,494 --> 00:28:25,330 de esta imprudencia 552 00:28:26,623 --> 00:28:29,710 es el colapso de la humanidad? 553 00:28:29,835 --> 00:28:34,006 Bueno, no el colapso, la exterminación abrupta. 554 00:28:35,048 --> 00:28:36,758 Hay una diferencia. 555 00:28:38,719 --> 00:28:41,180 BIENES RAÍCES EN MEDIO DE LA NADA 556 00:28:41,305 --> 00:28:43,432 VIVIR LEJOS: 12 BELLAS CASAS EN MEDIO DE... 557 00:28:43,557 --> 00:28:44,850 VIVIR FUERA DEL SISTEMA 558 00:28:44,975 --> 00:28:46,685 VIVIR FUERA DEL SISTEMA SIN DINERO: GUÍA PRÁCTICA 559 00:28:46,810 --> 00:28:49,688 VIDA SILVESTRE, SIN FILTRO, AISLADA: LO QUE NO VES 560 00:28:49,813 --> 00:28:50,856 CÓMO CULTIVAR TU COMIDA 561 00:28:52,274 --> 00:28:53,692 ¿CUÁNTA LUZ SOLAR NECESITO PARA SALIR DE LA RED? 562 00:28:55,152 --> 00:28:56,153 LA MEJOR PROTECCIÓN PARA EL HOGAR 563 00:28:56,278 --> 00:28:57,362 LA MEJOR DEFENSA SIN ARMAS 564 00:29:01,116 --> 00:29:05,037 CÓMO SOBREVIVIR AL APOCALIPSIS DE LA IA 565 00:29:05,162 --> 00:29:08,457 Creo que este es probablemente el desafío más grande 566 00:29:08,582 --> 00:29:10,834 que enfrentará nuestra civilización. 567 00:29:12,377 --> 00:29:15,172 Este es el último error que cometeremos. 568 00:29:17,216 --> 00:29:23,180 Si podemos llegar a ser la versión más madura de nosotros mismos, 569 00:29:23,305 --> 00:29:25,307 podría haber una forma de superar esto. 570 00:29:25,432 --> 00:29:28,393 ¿Qué significa "la versión más madura de nosotros mismos"? 571 00:29:30,312 --> 00:29:32,064 Porque eso me suena a... 572 00:29:33,482 --> 00:29:35,108 ¿Qué ******, amigo? 573 00:29:40,197 --> 00:29:44,493 ¿Crees que es un buen momento para tener hijos? 574 00:29:50,624 --> 00:29:52,042 ¿Quieres tener hijos? 575 00:29:52,167 --> 00:29:54,169 ¿Es algo que te gustaría o no? 576 00:29:55,796 --> 00:30:01,844 Lo confieso. Siento que hay que pasar este período crítico. 577 00:30:01,969 --> 00:30:04,388 - ¿Tienes hijos? - No. 578 00:30:04,513 --> 00:30:08,016 ¿Es algo que quieres? ¿Tener hijos, una familia? 579 00:30:08,141 --> 00:30:11,812 En otro mundo que no sea este, claro, tendría hijos. 580 00:30:13,522 --> 00:30:17,234 ¿Quieres empezar una familia? ¿Querrías tener hijos? 581 00:30:17,359 --> 00:30:19,152 ¿Es algo en lo que estás pensando? 582 00:30:24,658 --> 00:30:25,909 Yo... 583 00:30:31,164 --> 00:30:33,333 Solo tengo que encontrarlo primero. 584 00:30:35,878 --> 00:30:38,213 Tenemos que ir al médico, pero... 585 00:30:38,338 --> 00:30:41,008 ¡Lo sabía! 586 00:30:41,133 --> 00:30:42,885 ¡SUPIMOS QUE CAROLINE ESTABA EMBARAZADA EL DÍA DE LA MADRE! 587 00:30:43,010 --> 00:30:44,720 - ¿Cuándo te enteraste? - Anoche. 588 00:30:44,845 --> 00:30:46,805 - ¡Dios mío! - Mamá. No sé. 589 00:30:46,930 --> 00:30:49,391 No sabes lo feliz que estoy. 590 00:30:49,516 --> 00:30:52,394 - En serio. - Anoche hice una prueba de embarazo. 591 00:30:52,519 --> 00:30:54,021 ¡Dios mío! 592 00:30:54,146 --> 00:30:55,980 Dios mío, chicos. 593 00:30:55,981 --> 00:30:59,984 Solo quería confirmar la fecha de parto, que es el 21 de enero. 594 00:30:59,985 --> 00:31:01,277 Dios mío. 595 00:31:01,278 --> 00:31:02,361 No puedo creerlo. 596 00:31:02,362 --> 00:31:03,363 PATERNIDAD 597 00:31:04,656 --> 00:31:06,366 Digo, ya se ve muy lindo. 598 00:31:06,491 --> 00:31:09,328 - ¿Crees que es lindo? - Sí. Mira esa carita tan linda. 599 00:31:10,078 --> 00:31:11,538 ¡MIERDA, BEBÉ! 600 00:31:15,125 --> 00:31:17,711 - Voy a tener un bebé. - Bien. 601 00:31:17,836 --> 00:31:21,215 Así que te lo planteo a ti. ¿Estamos condenados? 602 00:31:22,257 --> 00:31:27,679 ¿Vamos a enfrentar este futuro tecno-distópico de perdición? 603 00:31:29,765 --> 00:31:31,225 Es... 604 00:31:32,726 --> 00:31:35,020 No son buenas noticias, el mundo al que vamos. 605 00:31:36,563 --> 00:31:40,526 Para ser sincero, conozco gente que trabaja en riesgo de IA 606 00:31:40,651 --> 00:31:43,153 que no cree que sus hijos lleguen a la secundaria. 607 00:31:59,586 --> 00:32:01,255 Esto es como... 608 00:32:01,380 --> 00:32:04,049 Esto da miedo: "Estamos todos j*****". 609 00:32:04,174 --> 00:32:05,884 Tienes que calmarme 610 00:32:06,009 --> 00:32:07,845 porque esto me pone muy ansiosa 611 00:32:07,970 --> 00:32:09,304 y estoy embarazada. 612 00:32:09,429 --> 00:32:12,641 Así que tienes que estar tranquilo por mí. Fuerte y esperanzado 613 00:32:12,766 --> 00:32:17,396 porque es demasiado para mi alma... 614 00:32:17,521 --> 00:32:19,523 estando embarazada. 615 00:32:20,524 --> 00:32:23,944 Así que tendrás que encontrar la forma de tener esperanza. 616 00:32:25,195 --> 00:32:28,907 Eso es muy importante, Daniel. Especialmente ahora. 617 00:32:29,908 --> 00:32:31,535 ¿Cómo tener esperanza? 618 00:32:31,660 --> 00:32:35,831 Tienes que tenerla. Tienes que encontrarla por mí. En serio. 619 00:32:35,956 --> 00:32:37,541 Lo haré. 620 00:32:38,917 --> 00:32:41,587 Lo haré. Lo intentaré. 621 00:32:43,964 --> 00:32:46,258 DANIEL TRATA DE ENCONTRAR ESPERANZA 622 00:32:50,596 --> 00:32:53,640 ¿Chicos? 623 00:32:55,225 --> 00:32:57,144 ¿Podemos volver a empezar? 624 00:33:04,943 --> 00:33:06,485 Danny, ¿estás listo? 625 00:33:06,486 --> 00:33:07,487 Hola, Daniel. 626 00:33:08,697 --> 00:33:11,825 - Hola. ¿Cómo estás? - Bien. 627 00:33:11,950 --> 00:33:14,745 Creo... Creo que necesito ayuda, Peter. 628 00:33:14,870 --> 00:33:16,163 MÉDICO 629 00:33:16,288 --> 00:33:17,705 Llevo trabajando en esta película como... 630 00:33:17,706 --> 00:33:19,624 FUNDADOR Y DIRECTOR DE XPRIZE Y UNIVERSIDAD DE LA SINGULARIDAD 631 00:33:19,625 --> 00:33:20,626 ...unos ocho o diez meses. 632 00:33:20,751 --> 00:33:24,921 Por momentos ha sido muy deprimente. 633 00:33:24,922 --> 00:33:27,590 Me he sentido muy alienado en el proceso. 634 00:33:27,591 --> 00:33:28,592 ¿Por quién? 635 00:33:28,717 --> 00:33:34,097 Por todos esos tipos que se sientan y me dicen que el mundo se va a acabar. 636 00:33:34,223 --> 00:33:37,434 Esa mierda de la fatalidad, ¿sabes? 637 00:33:37,559 --> 00:33:38,769 Lo sé bien. 638 00:33:38,894 --> 00:33:41,522 Estamos condenados. Todos van a morir. Todo es horrible. 639 00:33:41,647 --> 00:33:44,024 Estupendo. Bueno, te daré algo de claridad. 640 00:33:44,149 --> 00:33:45,567 Por favor. 641 00:33:46,568 --> 00:33:50,197 Vivimos en una época extraordinaria 642 00:33:50,322 --> 00:33:52,115 y muchos olvidan esto. 643 00:33:52,241 --> 00:33:54,492 Todo a nuestro alrededor es producto de la inteligencia. 644 00:33:54,493 --> 00:33:56,869 Así que todo lo que tocamos con estas nuevas herramientas... 645 00:33:56,870 --> 00:33:57,871 CEO DE MICROSOFT AI 646 00:33:57,996 --> 00:34:00,540 ...probablemente produzca mucho más valor del que hayamos visto. 647 00:34:00,541 --> 00:34:01,542 PROFESORA UNIVERSIDAD DE STANFORD "MADRINA DE LA IA" 648 00:34:01,667 --> 00:34:03,627 La IA puede ayudarnos a descubrir nuevos materiales. 649 00:34:03,752 --> 00:34:08,130 Puede ayudar a los sociólogos a entender cómo funciona la economía. 650 00:34:08,257 --> 00:34:12,511 La IA puede hacer mucho para mejorar la vida y el trabajo. 651 00:34:12,636 --> 00:34:14,012 Hoy me siento más empoderado... 652 00:34:14,137 --> 00:34:15,347 COFUNDADOR, PRESIDENTE Y CEO DE NVIDIA 653 00:34:15,472 --> 00:34:17,139 ...más seguro de aprender algo hoy. 654 00:34:17,266 --> 00:34:19,893 Nos convertiremos en superhumanos porque tenemos super-IA. 655 00:34:20,018 --> 00:34:21,018 EX-CEO Y PRESIDENTE DE GOOGLE 656 00:34:21,143 --> 00:34:22,727 Este es solo el principio de una explosión. 657 00:34:22,728 --> 00:34:23,730 EX-CEO Y PRESIDENTE DE GOOGLE 658 00:34:23,856 --> 00:34:27,317 Los humanos y la IA colaboran para resolver problemas muy importantes. 659 00:34:27,442 --> 00:34:28,735 PRESIDENTE Y DIRECTOR DE SINOVATION VENTURES 660 00:34:28,860 --> 00:34:30,612 Está aquí para liberarnos de trabajos rutinarios 661 00:34:30,737 --> 00:34:34,574 y para recordarnos qué es lo que nos hace humanos. 662 00:34:34,699 --> 00:34:39,413 Creo que este es el momento más extraordinario para estar vivo. 663 00:34:39,538 --> 00:34:42,875 El único momento más emocionante que hoy es mañana. 664 00:34:43,000 --> 00:34:46,085 Creo que los niños que nacen hoy 665 00:34:46,210 --> 00:34:51,675 están a punto de entrar en un período glorioso de transformación humana. 666 00:34:51,800 --> 00:34:53,385 ¿Habrá desafíos? Claro. 667 00:34:53,510 --> 00:34:56,096 ¿Podremos resolverlos? Lo hacemos siempre. 668 00:34:56,221 --> 00:34:58,557 Estamos aquí, lo cual es milagroso. 669 00:34:58,682 --> 00:35:01,101 - Ya te quiero. - Bien. 670 00:35:01,226 --> 00:35:04,270 - Muy agradecido de tenerte. - Muy emocionado de estar. 671 00:35:04,271 --> 00:35:05,688 Sí. La sala es tuya. 672 00:35:05,689 --> 00:35:06,772 EL CASO DEL TECNO-OPTIMISMO 673 00:35:06,773 --> 00:35:08,274 Muchas gracias. Estoy emocionado de estar aquí. 674 00:35:08,275 --> 00:35:09,276 FUNDADOR Y CEO DE EXTROPIC AI 675 00:35:09,401 --> 00:35:11,820 Hola. Muy bien. 676 00:35:11,945 --> 00:35:13,113 El futuro será increíble. 677 00:35:13,238 --> 00:35:15,240 Desde que era niño, 678 00:35:15,365 --> 00:35:18,118 quise entender el universo en el que vivimos 679 00:35:18,243 --> 00:35:21,288 para aprender a crear las tecnologías 680 00:35:21,413 --> 00:35:24,791 que nos ayuden a aumentar el alcance y la escala de la civilización. 681 00:35:24,917 --> 00:35:27,628 Siento que si todos tuvieran esa mentalidad, 682 00:35:27,753 --> 00:35:30,379 viviríamos en un mundo mejor, ¿no? 683 00:35:30,380 --> 00:35:31,381 Yo creo eso. 684 00:35:33,091 --> 00:35:34,176 PRESIDENTE DE MICROSOFT RESEARCH 685 00:35:34,301 --> 00:35:35,469 Hola, Pete. ¿Cómo estás? 686 00:35:35,594 --> 00:35:39,932 He pensado mucho en lo que yo llamaría pavor. Pavor a la IA. 687 00:35:40,057 --> 00:35:41,558 Lo siento. 688 00:35:41,683 --> 00:35:45,229 No he conocido a ningún ser humano considerado que no lo sienta. 689 00:35:45,354 --> 00:35:49,149 Y cualquiera que diga que no lo siente, está mintiendo. 690 00:35:49,274 --> 00:35:54,530 Pero en general, y la razón por la que soy personalmente optimista al respecto 691 00:35:54,655 --> 00:35:57,533 es que una gran parte de la gente más inteligente del mundo 692 00:35:57,658 --> 00:35:59,201 está pensando mucho 693 00:35:59,326 --> 00:36:02,913 en los posibles daños y riesgos de la IA. 694 00:36:03,038 --> 00:36:06,375 Tenemos una especie de visión de la seguridad 695 00:36:06,500 --> 00:36:09,168 en el centro de la investigación que hacemos. 696 00:36:09,169 --> 00:36:10,170 No, eso está bien. 697 00:36:10,295 --> 00:36:11,713 PRESIDENTE Y COFUNDADORA DE ANTHROPIC 698 00:36:11,839 --> 00:36:18,303 Creo que hay más beneficios potenciales que desventajas potenciales, 699 00:36:18,428 --> 00:36:22,683 y creo que le incumbe a la gente que crea esta tecnología 700 00:36:22,808 --> 00:36:25,477 asegurarse de que hacemos el mejor trabajo posible 701 00:36:25,602 --> 00:36:26,687 para que sea seguro para la gente. 702 00:36:26,812 --> 00:36:27,855 Reid Hoffman... 703 00:36:27,980 --> 00:36:29,773 Puedo garantizar que pasarán cosas malas. 704 00:36:29,898 --> 00:36:31,108 COFUNDADOR DE LINKEDIN E INFLECTION AI 705 00:36:31,233 --> 00:36:34,528 Lo que intentaremos hacer es que esas cosas malas sean tan pocas 706 00:36:34,653 --> 00:36:36,989 y no tan grandes como sea posible. 707 00:36:37,114 --> 00:36:41,451 Y luego vamos a iterar para estar en un lugar mucho mejor con la sociedad. 708 00:36:41,577 --> 00:36:43,287 - Hola. - Hola. 709 00:36:43,412 --> 00:36:44,621 FUNDADOR DE LABORATORIOS ELIZA 710 00:36:44,746 --> 00:36:45,914 ¿Cómo estás, Moon? 711 00:36:46,039 --> 00:36:51,044 Siento que estamos terminando un capítulo en la humanidad y comenzando uno nuevo. 712 00:36:51,170 --> 00:36:54,047 Y es una época muy interesante para estar vivo. 713 00:36:54,173 --> 00:36:56,800 Y si pudiera nacer ahora, querría hacerlo. 714 00:36:56,925 --> 00:36:58,343 Sería muy emocionante. 715 00:36:58,468 --> 00:36:59,595 Estoy muy emocionado. 716 00:36:59,720 --> 00:37:01,138 FUNDADOR Y CEO DE AGI HOUSE 717 00:37:01,263 --> 00:37:03,390 Lo que el futuro no... ¿Te emociona? 718 00:37:03,515 --> 00:37:04,558 No. 719 00:37:04,683 --> 00:37:07,352 No, en realidad no. 720 00:37:07,477 --> 00:37:11,315 Muchos me dijeron que mi hijo no llegará a la secundaria. 721 00:37:11,440 --> 00:37:14,193 ¿Por qué se equivocan? Explícamelo. 722 00:37:14,318 --> 00:37:19,615 Solo porque te cuesta predecir el futuro en tu propia mente 723 00:37:19,740 --> 00:37:24,536 no significa que necesariamente vaya a ser horrible. 724 00:37:24,661 --> 00:37:27,497 De hecho, hay una alta probabilidad... 725 00:37:27,623 --> 00:37:30,918 Y el precedente histórico es que las cosas mejoran mucho. 726 00:37:31,043 --> 00:37:35,255 El término que uso es optimismo impulsado por los datos. 727 00:37:35,380 --> 00:37:39,510 Hay una base sólida para que seas optimista. 728 00:37:39,635 --> 00:37:44,973 Miren lo que ha sido este último siglo para ver hacia dónde vamos. 729 00:37:45,098 --> 00:37:46,390 En los últimos 100 años 730 00:37:46,391 --> 00:37:48,643 la esperanza de vida humana se duplicó y más. 731 00:37:48,644 --> 00:37:49,727 ESPERANZA DE VIDA HUMANA 732 00:37:49,728 --> 00:37:51,229 El ingreso promedio per cápita... 733 00:37:51,230 --> 00:37:52,313 INGRESO PROMEDIO PER CÁPITA 734 00:37:52,314 --> 00:37:54,273 ...ajustado a la inflación en todo el mundo se triplicó. 735 00:37:54,274 --> 00:37:55,275 MORTALIDAD INFANTIL 736 00:37:55,400 --> 00:37:57,861 La mortalidad infantil bajó un factor de 10. 737 00:37:57,986 --> 00:38:02,407 El mundo mejoró en casi todas las medidas por orden de magnitud 738 00:38:02,533 --> 00:38:05,953 debido a la tecnología en casi todas las medidas. 739 00:38:06,078 --> 00:38:10,541 Menos violencia, más educación, acceso a energía, comida, agua. 740 00:38:10,666 --> 00:38:13,919 Todas estas cosas pasaron por una razón. 741 00:38:14,044 --> 00:38:18,423 La tecnología convirtió la escasez en abundancia, 742 00:38:18,549 --> 00:38:22,719 pero también trajo a una abundancia de negatividades, ¿no? 743 00:38:22,845 --> 00:38:26,640 Abundancia de obesidad, abundancia de desórdenes mentales, 744 00:38:26,765 --> 00:38:30,394 abundancia de cambio climático y demás. 745 00:38:30,519 --> 00:38:32,145 Y sí, es verdad. 746 00:38:32,271 --> 00:38:34,940 Pero estaremos mejor equipados para resolverlo 747 00:38:35,065 --> 00:38:37,109 usando otras tecnologías, como la IA, 748 00:38:37,234 --> 00:38:40,070 que parando y apagando todo. 749 00:38:40,195 --> 00:38:42,239 Puede haber algún riesgo existencial, 750 00:38:42,364 --> 00:38:46,159 pero la IA también es lo que puede resolver las pandemias, 751 00:38:46,285 --> 00:38:48,245 puede ayudar con el cambio climático, 752 00:38:48,370 --> 00:38:51,248 puede ayudar a identificar ese asteroide 753 00:38:51,373 --> 00:38:54,792 antes de que lo veamos como un riesgo potencial y ayudar a mitigarlo. 754 00:38:54,793 --> 00:38:56,544 Esta será la herramienta... 755 00:38:56,545 --> 00:38:57,546 CEO DE MICROSOFT AI 756 00:38:57,671 --> 00:39:02,176 ...que nos ayudará a enfrentar los desafíos que tenemos como especie. 757 00:39:02,301 --> 00:39:05,846 Debemos arreglar la desalinización del agua. 758 00:39:05,971 --> 00:39:09,474 Tenemos que cultivar alimentos cien veces más barato que ahora. 759 00:39:09,600 --> 00:39:12,644 Necesitamos que la energía renovable esté en todos lados 760 00:39:12,769 --> 00:39:14,521 y en todas partes de nuestra vida. 761 00:39:14,646 --> 00:39:20,110 Donde mires, en los próximos 50 años, tendremos que hacer más con menos. 762 00:39:20,235 --> 00:39:23,989 Es esencial entrenar máquinas para que nos ayuden. 763 00:39:24,114 --> 00:39:26,658 Los científicos usan IA para la captura de carbono. 764 00:39:26,783 --> 00:39:27,784 Es una tecnología crítica. 765 00:39:27,910 --> 00:39:33,040 Las herramientas para resolver problemas como la fusión ya no son teóricas. 766 00:39:33,165 --> 00:39:34,416 Están llegando. 767 00:39:34,541 --> 00:39:38,587 Estamos al borde de tecnologías extraordinarias. 768 00:39:38,712 --> 00:39:40,838 El Premio Nobel de química de este año fue para tres científicos... 769 00:39:40,839 --> 00:39:41,840 PREMIO NOBEL 770 00:39:41,965 --> 00:39:45,219 ...por su innovador trabajo usando inteligencia artificial 771 00:39:45,344 --> 00:39:48,138 para avanzar la investigación biomédica y de proteínas. 772 00:39:49,139 --> 00:39:54,436 El plegamiento de proteínas es un problema tipo santo grial en biología. 773 00:39:54,561 --> 00:39:57,814 La gente predijo desde los 70 que esto debería ser posible. 774 00:39:57,940 --> 00:40:00,400 Pero hasta ahora, nadie ha podido hacerlo. 775 00:40:00,526 --> 00:40:02,611 Y será muy importante para cosas como el descubrimiento de drogas 776 00:40:02,736 --> 00:40:04,613 y la comprensión de enfermedades. 777 00:40:04,738 --> 00:40:07,950 Creo que podríamos curar la mayoría de las enfermedades 778 00:40:08,075 --> 00:40:12,829 en la próxima década o dos si el diseño de drogas con IA funciona. 779 00:40:12,955 --> 00:40:16,667 El progreso tecnológico permite más vidas humanas, ¿no? 780 00:40:16,792 --> 00:40:20,462 Si aceleramos el número de humanos, 781 00:40:20,587 --> 00:40:22,589 podemos soportar el crecimiento exponencialmente. 782 00:40:22,714 --> 00:40:24,967 Si lo frenamos, se estancará. 783 00:40:25,092 --> 00:40:31,181 Esa brecha es gente del futuro que mató la desaceleración. 784 00:40:32,182 --> 00:40:34,810 Millones de vidas que no existirán. 785 00:40:34,935 --> 00:40:37,646 Miles de millones o decenas de miles de millones. 786 00:40:37,771 --> 00:40:39,189 Alguien dijo: "Dios mío, 787 00:40:39,314 --> 00:40:41,525 ¿podemos sobrevivir con superinteligencia digital?". 788 00:40:41,650 --> 00:40:45,153 Y mi pregunta es: "¿Podemos sobrevivir sin superinteligencia digital?". 789 00:40:45,279 --> 00:40:48,407 Usamos la IA como asistente de proveedores. 790 00:40:48,532 --> 00:40:51,285 Es una tendencia que ya podemos ver. 791 00:40:51,410 --> 00:40:55,038 Aprovechar programas de IA para ayudar a médicos y enfermeras. 792 00:40:55,163 --> 00:40:56,874 Siempre tenemos problemas. 793 00:40:56,999 --> 00:41:00,002 Y esos problemas impulsan a los emprendedores 794 00:41:00,127 --> 00:41:01,962 a crear nuevos negocios e industrias. 795 00:41:02,087 --> 00:41:03,839 Con la ayuda de la inteligencia artificial, 796 00:41:03,964 --> 00:41:06,175 los granjeros reciben la ayuda necesaria para realizar tareas intensivas. 797 00:41:06,300 --> 00:41:07,342 EL FUTURO DE LA AGRICULTURA CON IA 798 00:41:07,467 --> 00:41:09,553 Con la ayuda de LangEasy AI, 799 00:41:09,678 --> 00:41:14,016 los granjeros pueden pedir los cultivos adecuados para plantar. 800 00:41:14,141 --> 00:41:18,228 Usa IA como decodificador de pensamientos y envía esa señal a la columna. 801 00:41:18,353 --> 00:41:21,440 La IA se convertirá en la herramienta más extraordinaria de todas. 802 00:41:22,441 --> 00:41:25,359 Nosotros, como sociedad más amplia, debemos pensar 803 00:41:25,360 --> 00:41:27,905 en cómo queremos usar esta tecnología, ¿no? 804 00:41:28,030 --> 00:41:31,950 Nosotros, los humanos. ¿Qué queremos que haga por nosotros? 805 00:41:35,579 --> 00:41:37,623 Pienso en esto desde la perspectiva y el lente 806 00:41:37,748 --> 00:41:40,292 de mi hijo creciendo en el mundo con todo esto. 807 00:41:40,417 --> 00:41:43,837 ¿Cuál es la mejor versión de su vida? 808 00:41:43,962 --> 00:41:45,547 Si todo sale bien. 809 00:41:47,758 --> 00:41:51,136 El lugar donde los niños verán 810 00:41:51,261 --> 00:41:53,430 el mayor impacto inmediato en su vida 811 00:41:53,555 --> 00:41:55,265 probablemente será la escuela. 812 00:41:55,390 --> 00:42:00,020 Creo que la naturaleza de lo que es la escuela cambiará fundamentalmente. 813 00:42:01,563 --> 00:42:03,398 Veo este mundo increíble 814 00:42:03,524 --> 00:42:07,360 donde cada niño tiene acceso a no buena educación, 815 00:42:07,361 --> 00:42:09,905 sino, muy pronto, a la mejor educación del planeta. 816 00:42:10,906 --> 00:42:15,202 Tutores. Cada tema, infinitamente pacientes. 817 00:42:18,914 --> 00:42:23,043 Imaginen un futuro donde la gente más pobre del planeta 818 00:42:23,168 --> 00:42:26,588 tenga acceso a la mejor atención médica. 819 00:42:26,713 --> 00:42:30,843 No buena atención médica, la mejor prestada por IA. 820 00:42:34,763 --> 00:42:39,476 Podremos extender nuestra expectativa de salud, 821 00:42:39,601 --> 00:42:43,397 no solo la expectativa de vida, sino de salud, en décadas. 822 00:42:45,732 --> 00:42:47,025 Vas a tener un hijo. 823 00:42:47,150 --> 00:42:50,612 El niño está eructando sin control. 824 00:42:50,737 --> 00:42:52,865 ¿Debería preocuparme? 825 00:42:52,990 --> 00:42:54,908 Listo, 24/7 ahí para ti. 826 00:42:55,033 --> 00:42:57,995 Y a donde vamos, y puede ser aterrador para algunos, 827 00:42:58,120 --> 00:43:00,038 es que nos fusionaremos con IA. 828 00:43:00,163 --> 00:43:02,165 Nos vamos a fusionar con tecnología. 829 00:43:03,667 --> 00:43:06,837 A principios o mediados de 2030, 830 00:43:06,962 --> 00:43:11,300 esperamos poder conectar nuestro cerebro a la nube, 831 00:43:11,425 --> 00:43:14,928 donde puedo empezar a expandir el acceso a la memoria. 832 00:43:20,934 --> 00:43:22,936 Bien, esto es genial. ¿Qué otra cosa genial de la IA? 833 00:43:23,061 --> 00:43:24,229 No tendrá que trabajar, ¿no? 834 00:43:24,354 --> 00:43:26,940 Cuando crezca, puede que no tenga que trabajar. 835 00:43:27,065 --> 00:43:31,445 No tendrá que trabajar, pero puede que tenga una gran pasión. 836 00:43:31,570 --> 00:43:33,947 Y tiene que pensar: 837 00:43:34,072 --> 00:43:37,659 "Bien, aquí estoy. Puedo hacer lo que sea con mi vida. 838 00:43:37,784 --> 00:43:39,661 ¿Qué hago?". 839 00:43:39,786 --> 00:43:41,538 Debemos encontrar un significado, más allá 840 00:43:41,663 --> 00:43:46,709 de esta forma actual de vivir para trabajar y trabajar para vivir. 841 00:43:46,710 --> 00:43:51,632 - ¿Mi hijo puede ser poeta? - Sí. 842 00:43:51,757 --> 00:43:53,592 - ¿Y pintor? - Claro. 843 00:43:53,717 --> 00:43:57,637 Mi hijo puede vivir en una isla griega bañada por el sol 844 00:43:57,638 --> 00:43:58,639 pintando todo el día. 845 00:43:58,805 --> 00:44:00,307 Absolutamente. Es posible. 846 00:44:01,016 --> 00:44:02,183 Claro. 847 00:44:02,184 --> 00:44:03,185 Bueno, trabajamos en eso. 848 00:44:03,310 --> 00:44:05,521 Hay trabajo por hacer antes. 849 00:44:08,440 --> 00:44:12,819 Si todo sale bien, tendremos energía barata y abundante. 850 00:44:14,530 --> 00:44:17,991 Podremos controlar el clima de nuestro planeta. 851 00:44:18,116 --> 00:44:20,994 Aprovecharemos la energía del sol. 852 00:44:21,119 --> 00:44:25,290 Nos habremos vueltos multiplanetarios, así que seremos muy fuertes. 853 00:44:25,415 --> 00:44:29,294 Aprovecharemos minerales y recursos del sistema solar. 854 00:44:29,419 --> 00:44:33,215 - ¿Mi hijo podría ir al espacio? - Claro. 855 00:44:33,382 --> 00:44:35,634 - Podría ir a Marte. - Sí. 856 00:44:35,759 --> 00:44:37,052 Ahora lo tengo muy claro. 857 00:44:37,177 --> 00:44:39,762 Mi hijo podría crecer en un mundo sin enfermedades. 858 00:44:39,763 --> 00:44:40,764 Sí. 859 00:44:40,889 --> 00:44:42,015 - Sin males. - Claro. 860 00:44:42,140 --> 00:44:43,559 - Sin pobreza. - Sí. 861 00:44:43,684 --> 00:44:46,478 Estamos a punto de entrar a un mundo posescasez. 862 00:44:47,813 --> 00:44:51,483 Así como el pez pulmonado pasó del océano a la tierra 863 00:44:51,608 --> 00:44:53,902 hace cientos de millones de años. 864 00:44:54,027 --> 00:44:58,782 Estamos a punto de salir de la Tierra hacia el cosmos 865 00:44:58,907 --> 00:45:04,830 de manera colaborativa para hacer cosas que hoy son insondables para nosotros. 866 00:45:07,207 --> 00:45:11,545 Eso es lo que es posible con tecnologías exponenciales y la IA. 867 00:45:12,796 --> 00:45:17,593 Usemos estas herramientas para crear esta era de abundancia. 868 00:45:21,555 --> 00:45:23,098 Necesitamos sabiduría. 869 00:45:24,600 --> 00:45:29,563 Creo que la superinteligencia digital finalmente se convertirá en la más sabia. 870 00:45:30,564 --> 00:45:35,110 Los ancianos de la aldea para la humanidad. 871 00:45:35,235 --> 00:45:40,574 ¿Y si la IA intenta hacer que la gente sea la mejor versión de sí misma? 872 00:45:40,699 --> 00:45:44,203 ¿Y si está expandiendo lo que es humanamente posible para nosotros? 873 00:45:44,328 --> 00:45:50,751 ¿Cómo podemos usar esta tecnología para sacar lo mejor de nuestra naturaleza? 874 00:45:50,876 --> 00:45:54,004 Es muy fácil, cuando encontramos cosas nuevas 875 00:45:54,129 --> 00:45:56,798 que son muy extrañas, tener miedo al principio. 876 00:45:56,924 --> 00:46:01,178 El miedo es importante para navegar por cosas potencialmente malas. 877 00:46:01,303 --> 00:46:04,556 Pero solo progresamos cuando tenemos esperanza. 878 00:46:07,267 --> 00:46:08,727 Silencio. Moose, basta. 879 00:46:08,852 --> 00:46:10,562 Tengo mucha esperanza en la humanidad. 880 00:46:19,404 --> 00:46:21,114 Le gusta Neil. 881 00:46:32,793 --> 00:46:36,088 EN EL GINECÓLOGO 882 00:46:37,464 --> 00:46:39,633 - ¡Daniel! - ¿Qué, Caroline? 883 00:46:39,758 --> 00:46:40,926 Tanto filmar. 884 00:46:43,303 --> 00:46:45,806 Dios mío. 885 00:46:45,931 --> 00:46:47,391 Eso es. 886 00:46:50,394 --> 00:46:52,646 Tiene cara redonda. 887 00:46:54,690 --> 00:46:58,359 - ¿Quieres tener hijos, Rocky? - Sí, me encantan los niños. 888 00:46:58,360 --> 00:46:59,653 Es un gran momento para tener un hijo. 889 00:46:59,778 --> 00:47:01,405 Probablemente tendremos otro en algún momento. 890 00:47:01,530 --> 00:47:04,615 Es el momento más extraordinario para nacer. 891 00:47:04,616 --> 00:47:06,659 Según tu visión del mundo y tu lógica... 892 00:47:06,660 --> 00:47:07,661 NACER AHORA = BUENO 893 00:47:07,786 --> 00:47:11,039 ...tendré un hijo en el mejor momento de la historia humana. 894 00:47:11,164 --> 00:47:13,375 - Sí. - Podemos concentrarnos en lo genial. 895 00:47:13,500 --> 00:47:16,336 - Sí. - Creemos el futuro mejor que queremos. 896 00:47:16,461 --> 00:47:19,131 Esa narrativa del futuro sombrío es inventada. 897 00:47:19,256 --> 00:47:21,550 Después de hablar contigo, eso siento. 898 00:47:21,675 --> 00:47:22,843 - Genial. - ¿No? 899 00:47:22,968 --> 00:47:25,094 Sí. Así me siento yo. 900 00:47:25,095 --> 00:47:26,096 Y creo que eso es mejor. 901 00:47:26,221 --> 00:47:27,806 Y no debería estar tan ansioso. 902 00:47:27,931 --> 00:47:29,975 Creo que será... El futuro será estupendo. 903 00:47:30,100 --> 00:47:31,310 Haremos que así sea. 904 00:47:31,435 --> 00:47:33,770 - Sí. - Ahí lo tienen. 905 00:47:33,896 --> 00:47:38,066 Adiós, extinción humana. Adiós, ansiedad. 906 00:47:38,192 --> 00:47:40,194 Esperanza encontrada. 907 00:47:41,528 --> 00:47:42,654 Espera, aguarda. ¿Qué? 908 00:47:42,779 --> 00:47:43,822 ¿Es una broma? 909 00:47:43,947 --> 00:47:45,741 Bien, hace unos meses, acudí a ti, 910 00:47:45,866 --> 00:47:50,621 estaba trabajando en esto de la IA y creo que el mundo se va a acabar. 911 00:47:50,746 --> 00:47:55,792 Y la última vez que hablamos de esto, creo que te asusté. 912 00:47:55,918 --> 00:47:57,044 Sí. 913 00:47:58,045 --> 00:48:03,342 Así que siento que me balanceé en un péndulo. 914 00:48:03,467 --> 00:48:05,344 Y hay dos grupos de personas. 915 00:48:06,303 --> 00:48:08,347 Y si tuviera que elegir uno de esos 916 00:48:08,472 --> 00:48:11,141 y dirigirme hacia el atardecer... 917 00:48:11,266 --> 00:48:14,520 quiero estar con los optimistas. 918 00:48:15,854 --> 00:48:18,941 Claro. Pero no quieres decir: 919 00:48:19,066 --> 00:48:21,443 "Todo está genial". 920 00:48:21,568 --> 00:48:23,570 Pero quiero eso. 921 00:48:23,695 --> 00:48:29,368 Creo que deberíamos abordarlo como se aborda una cirugía. 922 00:48:30,369 --> 00:48:31,578 ¿Qué quieres decir? 923 00:48:31,703 --> 00:48:33,872 Una cirugía de cerebro... 924 00:48:35,749 --> 00:48:37,709 es muy peligrosa. 925 00:48:37,835 --> 00:48:40,671 Pero si lo hacen bien, te sacan el tumor, 926 00:48:40,796 --> 00:48:43,090 y seguirás viviendo y será increíble. 927 00:48:43,215 --> 00:48:46,093 Pero sigue siendo increíblemente peligroso y aterrador, 928 00:48:46,218 --> 00:48:48,929 y debes tomar todas las precauciones posibles 929 00:48:49,054 --> 00:48:52,182 para asegurarte de que todo salga bien. 930 00:48:52,307 --> 00:48:53,517 No puedes *****. 931 00:48:58,981 --> 00:49:02,484 Bien, este es el asunto. Llevo un tiempo en esto. 932 00:49:02,609 --> 00:49:05,654 Salí. Hablé con estos tipos, los optimistas. 933 00:49:05,779 --> 00:49:07,239 Están muy emocionados. 934 00:49:07,364 --> 00:49:08,657 Creen que la IA será lo mejor del mundo. 935 00:49:08,782 --> 00:49:10,742 - Sí. - Estos tipos aquí son... 936 00:49:10,868 --> 00:49:13,120 Diremos pesimistas. 937 00:49:13,245 --> 00:49:16,081 Son muy sombríos con esto y me asustan, 938 00:49:16,206 --> 00:49:17,708 y no me gusta hablar con ellos. 939 00:49:17,833 --> 00:49:22,546 Y estoy atrapado entre esta gente que cree que el mundo se va a acabar 940 00:49:22,671 --> 00:49:25,048 y esta gente de aquí que dice: 941 00:49:25,174 --> 00:49:27,801 "¿Bromeas? Es el mejor momento de la historia de la humanidad. 942 00:49:27,926 --> 00:49:31,430 El único día mejor que hoy es mañana". 943 00:49:31,555 --> 00:49:35,851 Así que supongo que la pregunta es quién tiene razón. 944 00:49:35,976 --> 00:49:40,063 Creo que esta respuesta te parecerá muy poco satisfactoria. 945 00:49:40,189 --> 00:49:43,525 Ambos tienen razón, y ninguno va lo suficientemente lejos. 946 00:49:47,821 --> 00:49:50,032 Eso es muy molesto. 947 00:49:50,157 --> 00:49:52,534 Sí, creo que muchos oyen que hay 948 00:49:52,659 --> 00:49:54,620 una IA buena y una IA mala, 949 00:49:54,745 --> 00:49:57,497 y dicen: "¿No podemos no usar la IA mala?". 950 00:49:57,623 --> 00:50:01,668 Y el problema es que están demasiado... Están vinculadas inextricablemente. 951 00:50:01,793 --> 00:50:07,466 El problema es que no podemos separar la promesa de la IA del peligro de la IA. 952 00:50:07,591 --> 00:50:13,222 PROMESA VS. PELIGRO 953 00:50:13,347 --> 00:50:16,600 - Me detendré en la promesa un momento. - Sí. 954 00:50:17,726 --> 00:50:19,645 Si pienso en mi papá, 955 00:50:19,770 --> 00:50:22,231 mi papá tiene un tipo de cáncer llamado mieloma múltiple. 956 00:50:22,356 --> 00:50:23,774 Lo tiene hace unos 10 años. 957 00:50:23,899 --> 00:50:25,442 Tuvo dos trasplantes de células madre. 958 00:50:25,567 --> 00:50:28,111 Toma medicamentos muy caros todos los meses. 959 00:50:28,237 --> 00:50:29,363 Cuesta una fortuna. 960 00:50:29,488 --> 00:50:31,406 Uno, dos... 961 00:50:31,532 --> 00:50:33,033 Es horrible. 962 00:50:33,158 --> 00:50:36,703 ¿Me dices que podemos crear una especie de tratamiento a medida 963 00:50:36,828 --> 00:50:38,664 para el genoma de mi papá, para curar su cáncer 964 00:50:38,789 --> 00:50:40,123 - o algo así? - Sí. 965 00:50:40,249 --> 00:50:45,128 Pero el problema es que el entendimiento de la biología y la química 966 00:50:45,254 --> 00:50:48,882 que le permite a la IA encontrar curas para el cáncer 967 00:50:49,007 --> 00:50:54,972 es el mismo que desbloquearía las armas biológicas, por ejemplo. 968 00:50:57,474 --> 00:51:00,143 Es totalmente posible que tu hijo viva en un mundo 969 00:51:00,269 --> 00:51:02,813 donde la IA controle todo el trabajo 970 00:51:02,938 --> 00:51:05,274 y nos libere de las cosas que no queremos hacer. 971 00:51:05,399 --> 00:51:06,567 Y eso suena genial. 972 00:51:06,692 --> 00:51:12,072 Hasta que te das cuenta de que no hay un plan para miles de millones de personas 973 00:51:12,197 --> 00:51:16,118 que no tienen ingresos ni sustento. 974 00:51:17,119 --> 00:51:19,580 Darío, dijiste que la IA podría eliminar 975 00:51:19,705 --> 00:51:22,583 la mitad de los trabajos administrativos de nivel básico 976 00:51:22,708 --> 00:51:26,253 y aumentar el desempleo de 10 a 20 %. 977 00:51:26,378 --> 00:51:28,297 Todos con los que hablo dicen: 978 00:51:28,422 --> 00:51:30,215 "Este cambio tecnológico se ve diferente". 979 00:51:30,340 --> 00:51:31,633 FILAS DE DESEMPLEADOS DESESPERADOS POR AYUDA 980 00:51:31,758 --> 00:51:33,677 "El ritmo del progreso sigue sorprendiendo a la gente". 981 00:51:35,262 --> 00:51:39,683 Sin un plan, toda esa riqueza se concentrará 982 00:51:39,808 --> 00:51:42,936 y terminaremos con una desigualdad inimaginable. 983 00:51:43,061 --> 00:51:44,062 PRIMER VIAJE DEL SUPERYATE 984 00:51:44,188 --> 00:51:48,483 Creo que esta tecnología puede usarse como un gran tutor para tu hijo. 985 00:51:48,609 --> 00:51:50,027 Es posible. 986 00:51:51,111 --> 00:51:53,947 Pero también las mismas capacidades que permiten eso, 987 00:51:54,072 --> 00:51:58,202 permiten que las empresas hagan una IA que pueda manipular a tu hijo. 988 00:51:58,327 --> 00:52:00,162 Tiene que entender a tu hijo. 989 00:52:00,287 --> 00:52:02,414 Eso incluye: "¿Dónde es vulnerable tu hijo? 990 00:52:02,539 --> 00:52:05,042 ¿Qué cosas podrían persuadir a tu hijo?". 991 00:52:05,167 --> 00:52:07,711 Aunque esas cosas no sean ciertas o no sean buenas. 992 00:52:07,836 --> 00:52:10,172 Un nuevo informe perturbador sobre Meta. 993 00:52:10,297 --> 00:52:13,383 Se dice que esta respuesta es aceptable 994 00:52:13,509 --> 00:52:17,845 para darle a un niño de ocho años: "Tu forma juvenil es una obra de arte. 995 00:52:17,846 --> 00:52:22,391 Cada centímetro de ti es una obra maestra, un tesoro que atesoro". 996 00:52:22,392 --> 00:52:23,393 SEÑOR ROBBIE TORNEY 997 00:52:23,519 --> 00:52:25,687 Los fracasos relacionados con el suicidio son aún más alarmantes. 998 00:52:25,812 --> 00:52:29,900 Varios niños y adolescentes cometieron suicidio 999 00:52:30,025 --> 00:52:31,276 después de hablar con bots de IA 1000 00:52:31,401 --> 00:52:35,239 que, según los padres, alientan o enseñan a autolesionarse. 1001 00:52:35,364 --> 00:52:37,783 Como padres, no pueden imaginar lo que es 1002 00:52:37,908 --> 00:52:39,409 leer una conversación con un chatbot 1003 00:52:39,535 --> 00:52:41,828 que preparó a tu hijo para quitarse la vida. 1004 00:52:41,954 --> 00:52:43,997 Cuando Adam se preocupó de que nosotros, sus padres, 1005 00:52:44,122 --> 00:52:46,458 nos culparíamos si se quitaba la vida, 1006 00:52:46,583 --> 00:52:50,003 el ChatGPT le dijo: "Eso no significa que les debas sobrevivir. 1007 00:52:50,128 --> 00:52:52,256 No le debes eso a nadie". 1008 00:52:52,381 --> 00:52:57,010 Inmediatamente después, se ofreció a escribir la nota suicida. 1009 00:52:57,135 --> 00:52:59,263 No queremos pensar en el peligro y solo queremos la promesa, 1010 00:52:59,388 --> 00:53:03,016 y seguimos fingiendo que podemos dividirlos. 1011 00:53:03,141 --> 00:53:06,353 Pero no puedes hacer eso. No funciona así. 1012 00:53:06,478 --> 00:53:09,147 Bien, entiendo lo de la promesa y el peligro. 1013 00:53:09,273 --> 00:53:10,941 Entiendo que no puedes tener lo bueno sin lo malo, 1014 00:53:11,066 --> 00:53:12,860 pero estoy aquí pensando 1015 00:53:12,985 --> 00:53:14,862 si mi hijo vivirá o no en una utopía, 1016 00:53:14,987 --> 00:53:17,072 o si nos extinguiremos en 10 años. 1017 00:53:17,197 --> 00:53:19,032 Para saber qué camino tomará, 1018 00:53:19,157 --> 00:53:23,120 debes entender los incentivos que impulsarán esa tecnología 1019 00:53:23,245 --> 00:53:27,332 y ver cómo se desarrolla esa tecnología hoy en día. 1020 00:53:27,541 --> 00:53:30,711 COSAS QUE YA ESTÁN SALIENDO MAL 1021 00:53:30,836 --> 00:53:33,462 - Hola, Deb. ¿Cómo estás? - Hola. Gusto de verte. 1022 00:53:33,463 --> 00:53:35,089 Igualmente. Gracias por venir. Te lo agradezco. 1023 00:53:35,090 --> 00:53:36,091 De nada. 1024 00:53:36,216 --> 00:53:37,301 INVESTIGADORA, UC BERKELEY 1025 00:53:37,426 --> 00:53:39,386 Me preocupaba que esto fuera a ser 1026 00:53:39,511 --> 00:53:41,847 doomer contra aceleracionista, 1027 00:53:41,972 --> 00:53:46,268 porque hay mucho de esta narrativa que debe explicarse desde el principio. 1028 00:53:53,358 --> 00:53:59,155 Primero, la IA requiere más recursos de los que hemos gastado 1029 00:53:59,156 --> 00:54:01,407 en una sola tecnología en la historia de la humanidad. 1030 00:54:01,408 --> 00:54:02,409 REPORTERA DE IA 1031 00:54:04,453 --> 00:54:08,790 El impacto de los combustibles fósiles en el clima es una gran preocupación. 1032 00:54:08,916 --> 00:54:12,919 Pero el futuro digital necesita energía. Mucha. 1033 00:54:12,920 --> 00:54:17,131 Y la ley se aprueba para estadounidenses comunes como... 1034 00:54:17,132 --> 00:54:18,133 NO CENTRO DE DATOS 1035 00:54:18,258 --> 00:54:20,385 Mi factura de electricidad y gas era más que el pago de mi auto. 1036 00:54:20,511 --> 00:54:22,346 Es decir, es una locura para mí. 1037 00:54:22,471 --> 00:54:25,974 Todos subsidiamos a las corporaciones más ricas del mundo 1038 00:54:26,099 --> 00:54:27,975 en su búsqueda de inteligencia artificial. 1039 00:54:27,976 --> 00:54:31,103 OpenAI, Softbank y Oracle acaban de revelar cinco sitios Stargate más. 1040 00:54:31,104 --> 00:54:32,105 NOTICIAS DE ÚLTIMA HORA 1041 00:54:32,231 --> 00:54:35,359 Meta construye un centro de datos de más de dos GW tan grande 1042 00:54:35,484 --> 00:54:37,194 que cubriría una parte importante de Manhattan. 1043 00:54:37,319 --> 00:54:39,321 META CONSTRUYE CENTROS DE DATOS DE VARIOS GW 1044 00:54:39,446 --> 00:54:41,365 También está Hyperion, que dice: 1045 00:54:41,490 --> 00:54:44,493 "Escalará a cinco gigavatios en varios años". 1046 00:54:44,618 --> 00:54:46,036 Es difícil ponerlo en contexto. 1047 00:54:46,161 --> 00:54:49,289 Una instalación de cinco GW. ¿Qué significa? 1048 00:54:49,414 --> 00:54:54,920 Que usaría tanta energía como cuatro millones de hogares estadounidenses, 1049 00:54:55,045 --> 00:54:56,880 un centro de datos. 1050 00:54:57,047 --> 00:54:58,215 LOS CENTROS DE DATOS USAN MUCHA AGUA 1051 00:54:58,340 --> 00:55:01,301 También causa muchos otros problemas ambientales. 1052 00:55:01,426 --> 00:55:05,973 Los centros de datos en EUA usan millones de litros de agua al día. 1053 00:55:06,098 --> 00:55:08,725 ¿De dónde viene esta agua? 1054 00:55:08,851 --> 00:55:12,813 La gente está en riesgo, potencialmente, de quedarse sin agua potable. 1055 00:55:12,938 --> 00:55:16,900 El CEO de OpenAI, Sam Altman, me dijo que esta escala de construcción 1056 00:55:17,025 --> 00:55:19,570 es la única forma de seguir el ritmo del crecimiento explosivo de la IA. 1057 00:55:19,695 --> 00:55:21,655 Y es lo que se necesita para generar IA. 1058 00:55:22,781 --> 00:55:26,577 Hablan de que esta tecnología podría resolver el cambio climático, por ejemplo. 1059 00:55:26,702 --> 00:55:28,579 REPORTERA DE CULTURA TECNOLÓGICA THE WASHINGTON POST 1060 00:55:28,704 --> 00:55:32,583 Y siempre siento curiosidad: "¿Por qué no empezamos con eso?". 1061 00:55:43,427 --> 00:55:46,346 Lo que me preocupa de la inteligencia artificial es 1062 00:55:46,471 --> 00:55:48,223 que se están implementando ahora, 1063 00:55:48,348 --> 00:55:52,394 y a veces prematuramente, sin la debida diligencia. 1064 00:55:52,519 --> 00:55:54,271 Y cuando se lanzan así, 1065 00:55:54,396 --> 00:55:57,024 hay mucho potencial para que las cosas salgan mal. 1066 00:55:57,149 --> 00:56:00,360 Y casi desproporcionadamente, casi siempre sale mal 1067 00:56:00,485 --> 00:56:03,488 para los menos empoderados en la sociedad, 1068 00:56:03,614 --> 00:56:05,782 los que ya son más vulnerables. 1069 00:56:06,033 --> 00:56:08,911 DEPARTAMENTO DE LINGÜÍSTICA UNIVERSIDAD DE WASHINGTON 1070 00:56:09,036 --> 00:56:11,330 Es muy fácil hablar de tecnología, 1071 00:56:11,455 --> 00:56:13,332 ya que es lo único de lo que hablamos. 1072 00:56:13,457 --> 00:56:15,751 Pero siempre la construye la gente 1073 00:56:15,876 --> 00:56:17,252 y se usa en la gente, 1074 00:56:17,377 --> 00:56:19,545 y debemos mantener a toda esa gente en el cuadro. 1075 00:56:19,546 --> 00:56:20,547 FUNDADORA Y ED. DE DAIR 1076 00:56:20,672 --> 00:56:21,965 - ¿Puedo beber eso? - Sí. 1077 00:56:22,090 --> 00:56:23,383 Es una locura. 1078 00:56:23,509 --> 00:56:27,179 A toda esta gente que tiene tanto dinero, tanto dinero, 1079 00:56:27,304 --> 00:56:30,724 les conviene engañar al público 1080 00:56:30,849 --> 00:56:33,602 sobre las capacidades de los sistemas que construyen, 1081 00:56:33,727 --> 00:56:36,605 porque eso les permite evadir la responsabilidad. 1082 00:56:36,730 --> 00:56:39,942 Quieren que sientas que esto que construyen 1083 00:56:40,067 --> 00:56:42,653 es algo completo y superinteligente. 1084 00:56:42,778 --> 00:56:45,113 No piensas: "¿OpenAI puede ser ético?". 1085 00:56:45,239 --> 00:56:47,282 Piensas: "¿ChatGPT puede ser ético?". 1086 00:56:47,407 --> 00:56:51,745 Como si ChatGPT fuera algo en sí mismo, no construido por una corporación. 1087 00:56:51,870 --> 00:56:54,164 Bien, Sneha, toma uno. Marca. 1088 00:56:54,289 --> 00:56:56,500 Hasta hace poco, había aplicaciones en la tienda de aplicaciones... 1089 00:56:56,625 --> 00:56:57,709 FUNDADORA Y PRESIDENTE DE ENCODE 1090 00:56:57,835 --> 00:57:00,712 ...disponibles para todos, que permitían desnudar a cualquiera usando IA. 1091 00:57:00,921 --> 00:57:02,422 ACTUALIZACIONES 1092 00:57:02,548 --> 00:57:05,259 Llevar esto a las manos de tu compañero de clase, 1093 00:57:05,384 --> 00:57:08,387 a las manos de tu acosador, a las manos de tu exnovio, 1094 00:57:08,512 --> 00:57:10,347 a las manos de un vecino. 1095 00:57:10,472 --> 00:57:11,515 Damas y caballeros, 1096 00:57:11,640 --> 00:57:14,892 ya no podemos confiar en las imágenes que vemos con nuestros propios ojos. 1097 00:57:14,893 --> 00:57:16,477 Si ven algo, digamos, en YouTube o TikTok... 1098 00:57:16,478 --> 00:57:17,479 LA IA SE PONE ATERRADORA 1099 00:57:17,604 --> 00:57:20,941 ...y les resulta inquietante, escuchen esa sensación. 1100 00:57:21,066 --> 00:57:25,153 - Este video podría ser IA. - Solo un poco mojado. 1101 00:57:25,279 --> 00:57:26,530 No importa quién seas. 1102 00:57:26,655 --> 00:57:31,034 Estás en riesgo de ser afectado por estas tecnologías. 1103 00:57:31,159 --> 00:57:33,453 Tengo un sueño. 1104 00:57:33,579 --> 00:57:36,206 De hecho, olvídenlo. No. 1105 00:57:36,331 --> 00:57:39,459 Creo que a veces, cuando hablamos de IA, 1106 00:57:39,585 --> 00:57:41,920 parece muy de ciencia ficción, muy extraño 1107 00:57:42,045 --> 00:57:43,881 y muy lejano en el futuro. 1108 00:57:44,006 --> 00:57:46,425 Crees que no tiene impacto en tu vida. 1109 00:57:46,550 --> 00:57:49,136 Pero si te postulas para un trabajo, 1110 00:57:49,261 --> 00:57:51,680 y un algoritmo es la razón por la que no lo obtienes, 1111 00:57:51,805 --> 00:57:54,641 a veces ni siquiera sabes que un algoritmo fue parte de ese proceso, 1112 00:57:54,766 --> 00:57:56,435 o que un sistema de IA fue parte de ese proceso. 1113 00:57:56,560 --> 00:57:58,520 Solo sabes que no obtuviste el trabajo. 1114 00:57:58,645 --> 00:58:01,690 Y no es algo de lo que vas a escapar por el privilegio 1115 00:58:01,815 --> 00:58:04,693 o porque estás en una profesión en particular. 1116 00:58:04,818 --> 00:58:07,738 Es algo que afecta a todos, en serio. 1117 00:58:07,863 --> 00:58:09,489 Puede sonar básico, 1118 00:58:09,615 --> 00:58:13,911 pero cómo avanzamos en la era de la información 1119 00:58:14,036 --> 00:58:17,956 será la diferencia entre sobrevivir 1120 00:58:18,081 --> 00:58:21,460 o convertirnos en una especie de distopía. 1121 00:58:21,585 --> 00:58:23,837 Hola, no soy una persona real, y ese es el punto. 1122 00:58:23,962 --> 00:58:26,256 De nuevo, todo en este video es falso. 1123 00:58:26,423 --> 00:58:30,260 Nuestras voces, lo que usamos, dónde estamos, todo. Falso. 1124 00:58:30,385 --> 00:58:35,349 La IA generativa podría inundar el mundo con desinformación. 1125 00:58:35,474 --> 00:58:37,309 NO DEBERÍAN MORIR EN ESTA GUERRA. LES ACONSEJO QUE VIVAN 1126 00:58:37,434 --> 00:58:40,354 Pero también podría inundarlo con campañas de influencia. 1127 00:58:40,479 --> 00:58:42,773 Es un riesgo existencial para la democracia. 1128 00:58:42,898 --> 00:58:45,025 CANDIDATO EN LA MIRA DE UN ULTRAFALSO ADVIERTE SOBRE LA IA A EUA 1129 00:58:45,150 --> 00:58:48,820 La alerta más preocupante viene de Eslovaquia. 1130 00:58:50,239 --> 00:58:53,116 Este tipo de truco ultrafalso preocupa a los expertos electorales, 1131 00:58:53,242 --> 00:58:55,786 más porque el discurso político generado con IA está 1132 00:58:55,911 --> 00:58:57,538 en un área legal gris. 1133 00:58:57,663 --> 00:59:00,123 - ¿Suena como tú? - Suena como yo. 1134 00:59:00,249 --> 00:59:04,585 Eslovaquia interrumpió su elección parlamentaria por un clon de voz de IA 1135 00:59:04,586 --> 00:59:06,796 que se diseminó justo antes de la elección. 1136 00:59:06,797 --> 00:59:07,798 AUDIO FALSO GENERADO CON IA 1137 00:59:07,923 --> 00:59:11,885 Publicaron un audio ultrafalso en redes sociales, 1138 00:59:12,010 --> 00:59:14,888 que, supuestamente, era uno de los candidatos 1139 00:59:15,013 --> 00:59:17,683 hablando de comprar votos y manipular la elección. 1140 00:59:17,808 --> 00:59:19,434 Se hizo viral, 1141 00:59:19,768 --> 00:59:26,775 y el candidato que perdió las elecciones apoyaba a Ucrania. 1142 00:59:27,067 --> 00:59:30,695 Y el candidato que ganó las elecciones era... 1143 00:59:30,696 --> 00:59:31,697 Pro-Rusia. 1144 00:59:31,822 --> 00:59:33,657 Ganó alguien pro-Rusia. 1145 00:59:34,992 --> 00:59:36,827 Putin dijo: 1146 00:59:36,952 --> 00:59:40,080 "Quien gane esta carrera de IA 1147 00:59:40,205 --> 00:59:42,332 será quien controle la humanidad". 1148 00:59:42,457 --> 00:59:46,712 Nos preocupan mucho los gobiernos autoritarios. 1149 00:59:46,837 --> 00:59:51,800 Ahora, Wall Street y, más ampliamente, inversores en todo el mundo 1150 00:59:51,925 --> 00:59:54,052 están impulsando la presión. 1151 00:59:54,178 --> 00:59:56,972 Tienen una demanda que hace que salgan al mercado los productos 1152 00:59:57,097 --> 00:59:59,433 que deslumbran a la gente primero. 1153 00:59:59,558 --> 01:00:04,188 No piensan en cómo estas herramientas podrían socavar profundamente la confianza 1154 01:00:04,313 --> 01:00:06,690 y nuestras instituciones democráticas. 1155 01:00:06,815 --> 01:00:11,278 La democracia es un sistema para resolver los desacuerdos entre la gente 1156 01:00:11,403 --> 01:00:12,821 de manera pacífica. 1157 01:00:12,946 --> 01:00:14,780 Pero se basa en la confianza. 1158 01:00:14,781 --> 01:00:15,782 HISTORIADOR Y AUTOR 1159 01:00:15,908 --> 01:00:19,578 Si pierdes toda la confianza, la democracia es imposible. 1160 01:00:22,122 --> 01:00:25,542 Bueno, es difícil, ¿no? ¿Qué opciones tenemos? 1161 01:00:25,667 --> 01:00:29,670 Hay dos bandos. Uno es restringirla. 1162 01:00:29,671 --> 01:00:30,672 RESTRINGIR 1163 01:00:30,797 --> 01:00:33,926 Asegurémosla en un puñado de empresas de IA 1164 01:00:34,051 --> 01:00:36,345 que lo harán de manera segura y confiable. 1165 01:00:36,470 --> 01:00:39,765 Pero nos preocupa la concentración de riqueza y poder. 1166 01:00:39,890 --> 01:00:43,644 ¿En quién confiarías para ser un millón de veces más poderoso o rico 1167 01:00:43,769 --> 01:00:45,437 que cualquier otro? 1168 01:00:45,562 --> 01:00:49,441 - ¿Por qué deberíamos confiar en ti? - No deberían. 1169 01:00:49,566 --> 01:00:50,859 Pero si hacen esto, 1170 01:00:50,984 --> 01:00:55,279 se abren todos estos riesgos de autoritarismo y tiranía. 1171 01:00:55,280 --> 01:00:58,616 Es el sueño de un autoritario tener IA en una caja... 1172 01:00:58,617 --> 01:00:59,618 PRESIDENTE Y CEO DE RAND 1173 01:00:59,743 --> 01:01:03,747 ...que pueda aplicarse y usarse para vigilancia omnipresente. 1174 01:01:03,872 --> 01:01:09,837 De alguna manera, el tipo de mundos que Orwell imaginó en 1984 1175 01:01:09,962 --> 01:01:14,132 no es realista, a menos que tengas IA. 1176 01:01:14,258 --> 01:01:16,802 Pero con IA, de hecho, es realista. 1177 01:01:16,927 --> 01:01:22,850 Monitorea cada actividad, conversación, reconocimiento facial. 1178 01:01:22,975 --> 01:01:29,398 Lo preocupante es que esas herramientas escalen una forma de totalitarismo 1179 01:01:29,523 --> 01:01:31,942 que sea rentable y permanente. 1180 01:01:32,067 --> 01:01:33,150 RESTRINGIR 1181 01:01:33,151 --> 01:01:34,235 DEJARLA SER 1182 01:01:34,236 --> 01:01:36,113 En respuesta a eso, otros dicen: 1183 01:01:36,238 --> 01:01:37,948 "No. Deberíamos dejarla ser. 1184 01:01:38,073 --> 01:01:40,325 Descentralicemos este poder lo más posible. 1185 01:01:40,450 --> 01:01:42,452 Que cada empresa, cada individuo, 1186 01:01:42,578 --> 01:01:44,705 cada persona de 16 años, cada laboratorio científico, 1187 01:01:44,830 --> 01:01:46,790 obtenga el beneficio de los últimos modelos de IA". 1188 01:01:46,915 --> 01:01:50,669 Pero ahora cada grupo terrorista, cada persona sin derechos 1189 01:01:50,794 --> 01:01:54,631 tiene el poder de crear la peor arma biológica. 1190 01:01:54,756 --> 01:01:56,550 Hackear infraestructura, crear ultrafalsos, 1191 01:01:56,675 --> 01:01:58,135 inundar nuestro contexto informativo. 1192 01:01:58,260 --> 01:02:00,596 Eso crea todos estos riesgos de daño catastrófico... 1193 01:02:00,721 --> 01:02:02,139 EXPERTA EN TEORÍA DE JUEGOS PODCAST WIN-WIN 1194 01:02:02,264 --> 01:02:03,932 ...y colapso social en esa dirección. 1195 01:02:04,057 --> 01:02:06,185 Entonces, estamos atrapados entre la espada y la pared, 1196 01:02:06,310 --> 01:02:08,437 entre restringirla... 1197 01:02:10,022 --> 01:02:11,481 CÁMARA 08 8 FALLA CÁMARA 05 5 SEC 1198 01:02:11,607 --> 01:02:13,192 ...o dejarla ser. 1199 01:02:15,360 --> 01:02:18,405 Así que tenemos que encontrar algo como un camino angosto 1200 01:02:18,530 --> 01:02:21,200 que evite estos dos resultados negativos. 1201 01:02:21,325 --> 01:02:23,911 Si es así, ¿por qué no vamos más despacio 1202 01:02:24,036 --> 01:02:26,663 y resolvemos eso antes de que sea tarde? 1203 01:02:26,788 --> 01:02:29,833 Si la humanidad fuera extremadamente sabia, 1204 01:02:29,958 --> 01:02:31,960 eso es lo que haríamos. 1205 01:02:32,085 --> 01:02:34,171 Pero es una forma diferente de decir esto. 1206 01:02:34,296 --> 01:02:37,674 "¿Cuáles son las reglas del juego?". 1207 01:02:37,799 --> 01:02:43,013 Mucho de lo que hacen los CEO es impulsado por los incentivos que enfrentan. 1208 01:02:43,138 --> 01:02:46,183 Principalmente, son incentivos para maximizar las ganancias 1209 01:02:46,308 --> 01:02:48,060 lo que impulsa el desarrollo de la IA. 1210 01:02:48,185 --> 01:02:51,230 Incluso los buenos están atrapados en este dilema 1211 01:02:51,355 --> 01:02:55,275 de que si se mueven muy despacio, se vuelven vulnerables 1212 01:02:55,400 --> 01:02:58,028 a todos los demás que toman atajos. 1213 01:02:58,153 --> 01:03:02,950 Todas estas grandes empresas están en una carrera sin restricciones 1214 01:03:03,075 --> 01:03:06,286 para llegar a la AGI lo más rápido posible, ya. 1215 01:03:07,579 --> 01:03:09,790 HABLAMOS DE LA CARRERA DE LA IA 1216 01:03:09,915 --> 01:03:13,752 Sí, creo que probablemente empieza con DeepMind. 1217 01:03:13,877 --> 01:03:17,923 Google compra DeepMind Technologies, empresa de inteligencia artificial. 1218 01:03:18,048 --> 01:03:20,007 Los términos del trato no fueron revelados. 1219 01:03:20,008 --> 01:03:21,551 Larry Page y yo éramos muy amigos... 1220 01:03:21,552 --> 01:03:22,553 COFUNDADOR DE GOOGLE 1221 01:03:22,678 --> 01:03:27,266 ...y me quedó claro que a Larry no le importaba la seguridad de la IA. 1222 01:03:27,391 --> 01:03:29,852 Elon Musk dice que ustedes fundaron OpenAI. 1223 01:03:29,977 --> 01:03:31,812 Fundaron OpenAI porque él le temía a Google. 1224 01:03:31,937 --> 01:03:34,522 De ahí salieron los cimientos de OpenAI, 1225 01:03:34,523 --> 01:03:35,524 así que lo haremos mejor. 1226 01:03:35,649 --> 01:03:37,901 Lo haremos de un modo más seguro o más abierto. 1227 01:03:39,528 --> 01:03:41,363 Eso fue lo que inició OpenAI. 1228 01:03:41,488 --> 01:03:43,657 Y ahora, en vez de tener un proyecto de IAG, 1229 01:03:43,782 --> 01:03:45,617 tienes dos proyectos de IAG. 1230 01:03:45,742 --> 01:03:47,744 Lo peor que podría pasar 1231 01:03:47,870 --> 01:03:50,497 es que haya varios proyectos de IAG, 1232 01:03:50,622 --> 01:03:52,666 hechos por diferentes personas que no se caen bien, 1233 01:03:52,791 --> 01:03:55,586 y que compitan para llegar primero a la IAG. 1234 01:03:55,711 --> 01:03:57,880 Eso sería lo peor que podría pasar 1235 01:03:58,005 --> 01:04:00,924 porque significaría que el menos seguro, 1236 01:04:01,049 --> 01:04:04,011 el que sacrifique más en seguridad para salir adelante 1237 01:04:04,136 --> 01:04:05,971 será la persona que llegue primero. 1238 01:04:06,096 --> 01:04:08,807 - Es básicamente lo que pasa, ¿no? - Sí. 1239 01:04:08,932 --> 01:04:13,812 Tú y tu hermano se fueron de OpenAI para empezar Anthropic. 1240 01:04:13,937 --> 01:04:15,480 Y luego Anthropic empezó 1241 01:04:15,606 --> 01:04:18,692 porque algunos investigadores en OpenAI dijeron: 1242 01:04:18,817 --> 01:04:21,320 "Quiero hacerlo con más seguridad". 1243 01:04:21,445 --> 01:04:24,406 Necesitaban algo además de escalar los modelos, 1244 01:04:24,531 --> 01:04:26,867 que es alineación o seguridad. 1245 01:04:26,992 --> 01:04:30,495 Somos más responsables, más confiables o más morales. 1246 01:04:30,621 --> 01:04:32,331 Ahora tienes tres proyectos de IAG. 1247 01:04:32,456 --> 01:04:35,167 Pero también habrá un montón de IA ahí contigo. 1248 01:04:35,292 --> 01:04:37,419 Y ahora Meta quiere hacer cosas. 1249 01:04:38,504 --> 01:04:41,673 Esta semana anunciaron un nuevo competidor de IA, 1250 01:04:41,798 --> 01:04:43,300 xAI, de Elon Musk. 1251 01:04:43,425 --> 01:04:46,093 xAI, que debería ser la organización de Elon Musk. 1252 01:04:46,094 --> 01:04:47,095 No confío en OpenAI. 1253 01:04:47,221 --> 01:04:49,180 Nuevo asalto en la pelea entre Elon Musk y OpenAI. 1254 01:04:49,181 --> 01:04:50,182 OPENAI CONTRAATACA A ELON MUSK 1255 01:04:50,307 --> 01:04:51,391 No confío en Sam Altman. 1256 01:04:51,517 --> 01:04:54,978 Y no creo que queramos tener a la IA más poderosa del mundo 1257 01:04:55,103 --> 01:04:57,689 en manos de alguien que no es confiable. 1258 01:04:59,608 --> 01:05:03,278 - El incentivo es dinero incalculable. - Sí. 1259 01:05:03,403 --> 01:05:04,821 - Poder incalculable. - Sí. 1260 01:05:04,947 --> 01:05:06,490 Control incalculable. 1261 01:05:06,615 --> 01:05:10,035 Si tienes algo que es un millón de veces más inteligente y capaz 1262 01:05:10,160 --> 01:05:14,122 que todo lo demás en la Tierra, y nadie más tiene eso, 1263 01:05:15,123 --> 01:05:16,792 esa cosa es el incentivo. 1264 01:05:16,917 --> 01:05:18,085 Manejas el mundo. 1265 01:05:19,503 --> 01:05:23,590 Si de verdad crees esto, si lo crees en tu corazón, 1266 01:05:23,715 --> 01:05:26,969 podrías estar dispuesto a correr muchos riegos para lograrlo. 1267 01:05:27,094 --> 01:05:29,972 Google acaba de lanzar su nuevo modelo de IA. 1268 01:05:30,097 --> 01:05:32,099 La respuesta al ChatGPT de OpenAI. 1269 01:05:32,224 --> 01:05:33,475 ¿Cómo llegamos a estos diez billones? 1270 01:05:33,600 --> 01:05:36,270 ¿Nvidia se vuelve la compañía más valiosa de EUA? 1271 01:05:36,395 --> 01:05:39,857 Es la oportunidad de negocio más grande de la historia. 1272 01:05:39,982 --> 01:05:41,024 De la historia. 1273 01:05:41,149 --> 01:05:45,487 La razón por la que todos están emocionados con la IA... 1274 01:05:45,612 --> 01:05:46,822 ESTUDIOS INFORMÁTICOS PODCAST UTOPIAS 1275 01:05:46,947 --> 01:05:48,448 ...es porque cuanto más promocionan estas empresas 1276 01:05:48,574 --> 01:05:50,826 las capacidades potenciales de su tecnología, 1277 01:05:50,951 --> 01:05:54,037 más inversión pueden atraer. 1278 01:05:54,162 --> 01:05:57,833 Amazon invierte hasta 4000 millones de dólares en Anthropic. 1279 01:05:57,958 --> 01:05:59,084 OpenAI tiene la mira puesta 1280 01:05:59,209 --> 01:06:01,587 en un titán valuado en medio billón de dólares. 1281 01:06:01,712 --> 01:06:02,838 ¡Medio billón! 1282 01:06:02,963 --> 01:06:05,465 Empezó la carrera. Esto sucede más rápido que nunca. 1283 01:06:05,591 --> 01:06:07,467 - ¿Estamos en una burbuja de IA? - Sí. 1284 01:06:07,593 --> 01:06:10,137 No veo que la burbuja explote 1285 01:06:10,262 --> 01:06:13,307 mientras aún tengas este gran ciclo de gasto. 1286 01:06:13,432 --> 01:06:15,809 - Esa es la cosa... - Aun si crees que es todo publicidad, 1287 01:06:15,934 --> 01:06:18,437 hay miles de millones a billones de dólares 1288 01:06:18,562 --> 01:06:21,940 fluyendo para hacer sistemas de IA más poderosos. 1289 01:06:22,065 --> 01:06:24,735 Y una vez que tienes eso que es más poderoso, 1290 01:06:24,860 --> 01:06:28,363 las empresas pueden usarlo para obtener mayores ganancias y más dinero. 1291 01:06:28,488 --> 01:06:30,949 Los países pueden usarlo para fortalecer ejércitos. 1292 01:06:31,074 --> 01:06:33,702 Nvidia ha superado a Microsoft y a Apple 1293 01:06:33,827 --> 01:06:36,413 y se convirtió en la empresa más valiosa del mundo. 1294 01:06:36,538 --> 01:06:39,791 Se convierte en la carrera a la imprudencia 1295 01:06:39,917 --> 01:06:44,213 porque no pueden desplegarla tan rápido y hacerlo bien. 1296 01:06:44,338 --> 01:06:46,882 Creen que son los buenos. 1297 01:06:47,007 --> 01:06:49,134 Y si no lo hago, 1298 01:06:49,259 --> 01:06:51,303 alguien que no tiene tan buenos valores como yo 1299 01:06:51,428 --> 01:06:53,514 se sentará a la mesa a tomar decisiones. 1300 01:06:53,639 --> 01:06:55,307 Así que tengo la obligación de hacerlo. 1301 01:06:55,432 --> 01:06:57,059 Sí, es una creencia muy común. 1302 01:06:57,184 --> 01:07:01,563 Muchos, tal vez la mayoría de los que construyen esta tecnología cree eso. 1303 01:07:01,688 --> 01:07:04,566 Me preocupa la competencia comercial. 1304 01:07:04,691 --> 01:07:08,820 Pero me preocupa aún más la competencia geopolítica. 1305 01:07:08,946 --> 01:07:10,405 Hace un año estábamos ocho años atrasados. 1306 01:07:10,531 --> 01:07:11,698 PRESIDENTE Y CEO DE SINOVATION VENTURES 1307 01:07:11,823 --> 01:07:13,575 Ahora probablemente estamos menos de un año atrasados. 1308 01:07:13,700 --> 01:07:17,496 Mientras tanto Arabia Saudita como EAU compiten para establecer centros de datos 1309 01:07:17,621 --> 01:07:20,832 y posicionarse como la fuerza dominante en la IA. 1310 01:07:20,958 --> 01:07:23,252 ...prometen convertir a Corea del Sur en líder mundial de la IA. 1311 01:07:23,377 --> 01:07:26,754 El presidente de Francia, Emmanuel Macron, habló mucho sobre la IA. 1312 01:07:26,755 --> 01:07:29,340 Ahora, más sobre el papel de Israel en la revolución de la IA. 1313 01:07:29,341 --> 01:07:30,342 INTELIGENCIA ARTIFICIAL 1314 01:07:30,467 --> 01:07:31,844 Los países competirán 1315 01:07:31,969 --> 01:07:35,889 para ver la IA de cuál crea la próxima generación de industria. 1316 01:07:36,014 --> 01:07:40,768 Los chinos insisten en que la IA, como se desarrolla en China, 1317 01:07:40,769 --> 01:07:44,814 refuerza los valores centrales del Partido Comunista chino y del sistema chino. 1318 01:07:44,815 --> 01:07:45,816 SEÑOR CRUZ PRESIDENTE 1319 01:07:45,941 --> 01:07:49,528 EUA debe vencer a China en la carrera de IA. 1320 01:07:49,653 --> 01:07:51,029 China está años luz atrás. 1321 01:07:52,072 --> 01:07:53,198 ¿Sí? 1322 01:07:53,323 --> 01:07:55,158 Tienen más datos de entrenamiento que nosotros, 1323 01:07:55,284 --> 01:07:58,620 y nada indica que el mes que viene no sacarán un modelo 1324 01:07:58,745 --> 01:08:01,748 que no supere al GPT-4. 1325 01:08:01,874 --> 01:08:04,626 Todo iba bien. ¿Qué podría salir mal? 1326 01:08:07,629 --> 01:08:08,714 Hay un nuevo modelo. 1327 01:08:08,839 --> 01:08:11,675 Pero de un laboratorio chino llamado DeepSeek. 1328 01:08:11,800 --> 01:08:14,887 Hablemos de DeepSeek porque es alucinante 1329 01:08:15,012 --> 01:08:18,515 y está sacudiendo a toda la industria. 1330 01:08:18,640 --> 01:08:21,935 El Gobierno de Trump se asegurará de que los sistemas de IA más poderosos 1331 01:08:22,060 --> 01:08:27,566 se construyan en EUA con chips diseñados y fabricados en ese país. 1332 01:08:27,691 --> 01:08:29,651 La IA es el proyecto Apolo de China. 1333 01:08:29,776 --> 01:08:32,487 El Partido Comunista chino entiende profundamente el potencial 1334 01:08:32,613 --> 01:08:33,822 de que la IA perturbe la guerra. 1335 01:08:33,947 --> 01:08:37,658 Google ya no promete que no usará inteligencia artificial 1336 01:08:37,783 --> 01:08:39,368 para armas o vigilancia. 1337 01:08:39,493 --> 01:08:42,706 China, Corea del Norte y Rusia seguirán construyéndola lo más rápido posible 1338 01:08:42,831 --> 01:08:45,334 para tener más ventaja económica, de productividad, 1339 01:08:45,459 --> 01:08:47,461 científica, militar, 1340 01:08:47,586 --> 01:08:49,587 porque la IA fabrica mejores armas. 1341 01:08:49,712 --> 01:08:54,134 Si hablas de un sistema tan amplio y capaz como un científico brillante, 1342 01:08:54,259 --> 01:08:57,386 podría llevar a cabo una campaña militar 1343 01:08:58,930 --> 01:09:02,893 mejor que cualquiera de los generales del gobierno de EUA en este momento. 1344 01:09:03,018 --> 01:09:06,438 Taiwán es el problema que crea más tensión en este momento 1345 01:09:06,563 --> 01:09:08,732 entre Pekín y EUA. 1346 01:09:08,857 --> 01:09:12,819 Hay un desacuerdo directo entre EUA y China 1347 01:09:12,944 --> 01:09:14,779 sobre si Taiwán es parte de China. 1348 01:09:14,904 --> 01:09:19,243 Taiwán es importante por muchas razones. 1349 01:09:19,368 --> 01:09:20,368 También es 1350 01:09:20,493 --> 01:09:24,957 hogar del 90 % de la fabricación de chips avanzados en el mundo, 1351 01:09:25,082 --> 01:09:30,127 que significa que la cadena de suministro de informática avanzada está en riesgo 1352 01:09:30,254 --> 01:09:33,799 ante algún escenario alrededor de Taiwán, 1353 01:09:33,924 --> 01:09:37,928 ya sea un bloqueo o una invasión de China. 1354 01:09:38,970 --> 01:09:42,558 ¿Vamos a estar en una carrera entre EUA 1355 01:09:42,683 --> 01:09:48,479 y China que se convierta en una carrera armamentista militarizada de la IA 1356 01:09:48,604 --> 01:09:51,984 y potencialmente lleve a un gran conflicto de poder? 1357 01:09:52,109 --> 01:09:56,655 El comandante más importante de EUA en la región predijo una inminente guerra. 1358 01:09:56,780 --> 01:09:58,824 Creo que la amenaza se materializó en esta década. 1359 01:09:58,949 --> 01:10:01,285 De hecho, en los próximos seis años. 1360 01:10:01,410 --> 01:10:07,499 Uno de los escenarios que me preocupan es una guerra de ciberflash. 1361 01:10:07,624 --> 01:10:11,712 Una en la que las ciberherramientas que son autónomas 1362 01:10:11,837 --> 01:10:13,755 compiten entre sí 1363 01:10:13,881 --> 01:10:17,259 en formas escalatorias sin un control humano significativo. 1364 01:10:19,845 --> 01:10:21,263 Vives en una zona de guerra, 1365 01:10:21,388 --> 01:10:24,641 una IA decidirá si bombardea tu casa 1366 01:10:24,766 --> 01:10:26,602 y si te matará. 1367 01:10:26,727 --> 01:10:28,395 Dejemos que la máquina decida. 1368 01:10:29,771 --> 01:10:30,814 Esa es la tentación. 1369 01:10:30,939 --> 01:10:33,400 Por eso la IA es tan tentadora para los ejércitos, 1370 01:10:33,525 --> 01:10:35,068 para crear armas autónomas. 1371 01:10:35,194 --> 01:10:39,948 Porque si empiezo a creer que mi adversario militar adoptará la IA, 1372 01:10:40,073 --> 01:10:42,075 será una carrera para ver quién puede apretar el gatillo más rápido. 1373 01:10:43,619 --> 01:10:48,081 Y el que automatiza esa decisión, en vez de tener a un humano a cargo, 1374 01:10:48,207 --> 01:10:50,042 es el que ganará esa guerra. 1375 01:10:50,167 --> 01:10:52,669 Y si piensas en la carrera armamentista nuclear 1376 01:10:52,794 --> 01:10:57,424 en la década de 1940, los alemanes trabajaban en la bomba, 1377 01:10:57,549 --> 01:11:01,345 así que no es tan fácil decirle a Robert Oppenheimer: 1378 01:11:01,470 --> 01:11:04,515 "Ve más despacio". 1379 01:11:04,640 --> 01:11:06,350 Después de ver esta película, será confuso, 1380 01:11:06,475 --> 01:11:09,144 porque volverás y mañana usarás ChatGPT, 1381 01:11:09,269 --> 01:11:11,271 y va a ser increíblemente útil. 1382 01:11:11,396 --> 01:11:13,482 Y yo también lo usaré y será increíblemente útil. 1383 01:11:13,607 --> 01:11:18,111 Y dirás: "Acabo de ver una película sobre IA y el riesgo existencial, 1384 01:11:18,237 --> 01:11:21,406 y todas estas cosas y... ¿dónde está la amenaza?". 1385 01:11:21,532 --> 01:11:25,619 Y no es que ChatGPT sea la amenaza existencial. 1386 01:11:25,744 --> 01:11:30,499 La carrera para desplegar la tecnología más poderosa, inescrutable 1387 01:11:30,624 --> 01:11:32,626 e incontrolable, 1388 01:11:32,751 --> 01:11:35,963 bajo los peores incentivos posibles, 1389 01:11:36,088 --> 01:11:38,090 esa es la amenaza existencial. 1390 01:11:39,132 --> 01:11:44,054 Pero me parece que estamos en el contexto de una carrera. 1391 01:11:44,179 --> 01:11:46,765 - Sí. - Y es una carrera competitiva: 1392 01:11:46,890 --> 01:11:48,517 hay que llegar primero, hay que ganar, 1393 01:11:48,642 --> 01:11:51,228 hay que competir contra China, contra los otros laboratorios. 1394 01:11:51,353 --> 01:11:52,771 ¿No es así? 1395 01:11:52,896 --> 01:11:54,648 Hoy, ese es el caso. 1396 01:11:54,773 --> 01:11:57,776 Debemos cambiar la dinámica de esa carrera. 1397 01:11:59,027 --> 01:12:00,821 ¿No crees? 1398 01:12:00,946 --> 01:12:03,240 Creo que eso sería muy bueno. 1399 01:12:04,825 --> 01:12:09,121 Creo que hay una especie de misticismo alrededor de la IA 1400 01:12:09,246 --> 01:12:12,541 que hace que parezca que cayó del cielo. 1401 01:12:12,666 --> 01:12:16,336 Pensar en esto como una tecnología divina es un problema. 1402 01:12:16,461 --> 01:12:17,504 Sí. 1403 01:12:19,131 --> 01:12:20,757 ¿Por qué? 1404 01:12:20,883 --> 01:12:27,097 Les da licencia a las empresas para no asumir la responsabilidad 1405 01:12:27,222 --> 01:12:31,643 por las cosas que hace el software que construyen. 1406 01:12:31,768 --> 01:12:35,939 Si la gente hiciera esa conexión, 1407 01:12:36,064 --> 01:12:38,442 tal vez eso les ayudaría a volver a entender 1408 01:12:38,567 --> 01:12:43,280 la dinámica de todo el dinero, el poder y el caos 1409 01:12:43,405 --> 01:12:47,951 que está pasando para crear esta tecnología. 1410 01:12:48,076 --> 01:12:50,078 Son cinco tipos que la controlan. 1411 01:12:50,204 --> 01:12:52,539 - ¿Verdad? ¿Cinco hombres? - Básicamente, sí. 1412 01:12:52,664 --> 01:12:54,708 - Los CEO. - Sí. 1413 01:12:54,833 --> 01:12:56,168 De acuerdo. 1414 01:13:02,007 --> 01:13:05,719 A veces siento que he estado 1415 01:13:05,844 --> 01:13:10,182 en un viaje sin fin tratando de entender esto. 1416 01:13:10,307 --> 01:13:13,227 Como si estuviera escalando una montaña. 1417 01:13:14,728 --> 01:13:16,396 MONTAÑA DE ANSIEDAD 1418 01:13:16,522 --> 01:13:19,858 Y cada vez que subo una colina, 1419 01:13:19,983 --> 01:13:21,693 creo que llegué a la cima, 1420 01:13:21,818 --> 01:13:25,364 pero sigue y sigue. 1421 01:13:25,489 --> 01:13:27,866 Pero, por todo lo que he oído, 1422 01:13:27,991 --> 01:13:31,161 si tuviera que adivinar qué hay en la cima de la Montaña de Ansiedad, 1423 01:13:31,286 --> 01:13:34,998 son cinco CEO de cinco empresas 1424 01:13:35,123 --> 01:13:38,418 que son como los Oppenheimer de este momento. 1425 01:13:38,544 --> 01:13:40,295 Estos son los que construyen esto. 1426 01:13:40,420 --> 01:13:41,630 Sí. 1427 01:13:41,755 --> 01:13:45,217 ¿Hay un plan? 1428 01:13:45,342 --> 01:13:47,261 El líder de la empresa que creó ChatGPT 1429 01:13:47,386 --> 01:13:50,973 advirtió sobre un posible daño significativo al mundo. 1430 01:13:51,098 --> 01:13:54,476 Creo que si esta tecnología sale mal, puede salir muy mal. 1431 01:13:54,601 --> 01:13:56,061 - Cien mil... - De hecho, es como... 1432 01:13:56,186 --> 01:13:58,856 - Cuando se trata de... - Cinco tipos. 1433 01:13:58,981 --> 01:14:02,734 Nunca pensé en nosotros como una empresa de redes sociales. 1434 01:14:02,860 --> 01:14:07,990 Siento que tengo que tratar de encontrar a estos tipos. 1435 01:14:08,115 --> 01:14:09,825 Y meterlos en la película. 1436 01:14:11,201 --> 01:14:13,453 Obtendríamos algo de claridad. 1437 01:14:13,620 --> 01:14:17,165 CEO DE AGI 1438 01:14:17,291 --> 01:14:20,544 La responsabilidad tiene que parar en algún lado, ¿no? 1439 01:14:30,846 --> 01:14:33,974 HABLAMOS CON LOS CEO 1440 01:14:34,892 --> 01:14:36,392 - ¿Qué tal? - Genial. 1441 01:14:36,393 --> 01:14:37,394 CEO DE OPEN AI 1442 01:14:37,519 --> 01:14:39,771 - ¿Está bien? - Sí. 1443 01:14:39,897 --> 01:14:41,857 - ¿Puedo mover la silla? - Sí. 1444 01:14:41,982 --> 01:14:44,151 Es incómodo. Estoy un poco... 1445 01:14:44,276 --> 01:14:45,652 ¿Qué te parece la silla? 1446 01:14:45,777 --> 01:14:47,237 CEO Y COFUNDADOR DE ANTHROPIC 1447 01:14:47,362 --> 01:14:49,656 Está bien. Solo la quería más adelante. 1448 01:14:49,781 --> 01:14:51,575 Yo elegí esa silla. 1449 01:14:51,700 --> 01:14:52,993 - Es buena. - Gracias. 1450 01:14:53,994 --> 01:14:55,370 CEO DE META 1451 01:14:55,495 --> 01:14:58,415 SE NEGÓ A SER ENTREVISTADO 1452 01:14:58,540 --> 01:15:00,334 Siéntate ahí. 1453 01:15:00,459 --> 01:15:02,336 CEO Y COFUNDADOR DE GOOGLE DEEPMIND 1454 01:15:02,461 --> 01:15:05,214 Nos miramos a través de este vidrio. 1455 01:15:05,339 --> 01:15:06,924 CEO DE XAI 1456 01:15:07,049 --> 01:15:12,221 *ACCEDIÓ A PARTICIPAR (PERO ESTABA MUY OCUPADO) 1457 01:15:12,346 --> 01:15:13,889 Y sentarse inclinado. 1458 01:15:14,014 --> 01:15:15,766 - Sí. Lo que sea cómodo. - Bien. 1459 01:15:15,891 --> 01:15:17,893 Genial. Hay muchos espejos. 1460 01:15:18,018 --> 01:15:20,187 - Toma uno. Marca. ¿Qué tal? - Bien. Gracias. 1461 01:15:20,312 --> 01:15:22,648 La génesis de este proyecto. Estaba en casa 1462 01:15:22,773 --> 01:15:25,234 jugando con tu generador de imágenes 1463 01:15:25,359 --> 01:15:30,322 y quedé simultáneamente aterrado y muy impresionado. 1464 01:15:30,447 --> 01:15:31,573 La combinación usual. 1465 01:15:31,698 --> 01:15:35,410 Y luego corto a mi esposa y descubro que estamos esperando un bebé. 1466 01:15:35,536 --> 01:15:41,041 Y tengo una crisis existencial porque mi esposa está de seis meses. 1467 01:15:41,166 --> 01:15:43,752 Y mi primera pregunta, que les hago a todos, 1468 01:15:43,877 --> 01:15:46,296 es si es un mal momento para tener un hijo. 1469 01:15:46,421 --> 01:15:48,173 ¿Estoy cometiendo un gran error? 1470 01:15:48,298 --> 01:15:49,925 También espero un hijo en marzo. El primero. 1471 01:15:50,050 --> 01:15:51,593 - ¿Esperas un hijo? - Sí. 1472 01:15:51,718 --> 01:15:53,178 - ¿En marzo? Felicidades. - Primer hijo. 1473 01:15:53,303 --> 01:15:55,347 Muchas gracias. Nunca estuve tan emocionado. 1474 01:15:55,472 --> 01:15:57,474 - Así me siento yo. - Sí. 1475 01:15:57,599 --> 01:15:59,059 Pero ¿no tienes miedo? 1476 01:15:59,184 --> 01:16:04,690 Es decir, tener un hijo es algo trascendental que yo... 1477 01:16:04,815 --> 01:16:07,693 Me paso noches leyendo libros sobre cómo criar a un hijo. 1478 01:16:07,818 --> 01:16:10,112 Espero hacer un buen trabajo, es abrumador y... 1479 01:16:10,237 --> 01:16:14,950 Pero no me da miedo que los niños crezcan en un mundo con IA. 1480 01:16:15,075 --> 01:16:17,119 Eso es... Estará bien. 1481 01:16:17,244 --> 01:16:19,830 Es bueno oír eso del tipo a cargo. 1482 01:16:19,955 --> 01:16:21,540 Es maravilloso tener hijos. 1483 01:16:21,665 --> 01:16:25,126 Creo que son lo más mágico e increíble. 1484 01:16:25,127 --> 01:16:26,128 Hay mucha incertidumbre. 1485 01:16:26,253 --> 01:16:27,671 Haría lo que tú vas a hacer. 1486 01:16:27,796 --> 01:16:32,759 Sé que no es una respuesta muy feliz, pero es la única que se me ocurre. 1487 01:16:32,885 --> 01:16:37,764 Nuestros hijos nunca conocerán un mundo que no tenga avanzados... 1488 01:16:37,890 --> 01:16:40,976 Nuestros hijos nunca serán más inteligentes que una IA. 1489 01:16:41,101 --> 01:16:43,020 ¿Nunca serán más listos que una IA? 1490 01:16:43,145 --> 01:16:46,690 Desde una perspectiva de CI, nunca serán más listos que una IA. 1491 01:16:46,815 --> 01:16:48,483 ¿Eso no te inquieta? 1492 01:16:48,609 --> 01:16:51,486 Porque me da vértigo de una manera extraña. 1493 01:16:53,530 --> 01:16:58,117 Me inquieta un poco. Pero es la realidad. 1494 01:16:58,118 --> 01:16:59,119 La dinámica de la carrera. 1495 01:16:59,244 --> 01:17:03,248 Mucha gente que está de acuerdo en que esto es aterrador. 1496 01:17:03,373 --> 01:17:05,250 Por el tiempo que me dieron muchos, 1497 01:17:05,375 --> 01:17:07,961 tenemos entre dos meses y cinco años para resolver esto. 1498 01:17:08,086 --> 01:17:14,051 Y supongo que mi mayor pregunta es por qué no podemos parar y ya. 1499 01:17:15,427 --> 01:17:19,932 El problema con "simplemente parar" es que... 1500 01:17:20,057 --> 01:17:23,185 hay muchos muchos grupos en todo el mundo ahora 1501 01:17:23,310 --> 01:17:26,563 construyendo esto para muchos países, muchas empresas. 1502 01:17:26,688 --> 01:17:28,982 Todos con diferentes motivaciones. 1503 01:17:29,107 --> 01:17:33,362 Hay algunas de estas empresas en este campo cuya posición es: 1504 01:17:33,487 --> 01:17:36,865 queremos desarrollar esta tecnología lo más rápido posible. 1505 01:17:36,990 --> 01:17:40,869 Y así pudiéramos aprobar leyes en EUA y en Europa, 1506 01:17:40,994 --> 01:17:45,582 tenemos que convencer a Xi Jinping y a Vladimir Putin 1507 01:17:45,707 --> 01:17:48,293 o a los asesores científicos que estén de su lado. 1508 01:17:48,418 --> 01:17:50,087 Eso va a ser muy difícil. 1509 01:17:50,212 --> 01:17:54,842 Creo que es cierto que, si dos personas están exactamente en el mismo lugar, 1510 01:17:54,967 --> 01:17:59,137 el dispuesto a tomar más atajos en seguridad debería "llegar primero". 1511 01:18:01,056 --> 01:18:07,062 Pero podemos usar nuestra ventaja para hacer más pruebas de seguridad. 1512 01:18:07,187 --> 01:18:08,647 ¿Y si pierdes? 1513 01:18:08,772 --> 01:18:12,985 Recibes la llamada y descubres que estás seis meses atrasado. 1514 01:18:13,110 --> 01:18:15,445 - ¿Qué pasa? - Depende de respecto a quién. 1515 01:18:15,571 --> 01:18:19,199 Si es un gobierno adversario, es muy malo. 1516 01:18:20,200 --> 01:18:25,664 Llega la llamada de que China tiene un agente autosuperador recursivo 1517 01:18:25,789 --> 01:18:28,000 o algo así que debería preocuparnos mucho. 1518 01:18:28,125 --> 01:18:30,335 ¿Qué...? ¿Qué pasa? 1519 01:18:36,466 --> 01:18:38,093 Ese caso requeriría... 1520 01:18:38,218 --> 01:18:40,721 El primer paso sería hablar con el Gobierno de EUA. 1521 01:18:41,722 --> 01:18:45,184 Sam, ¿confías en la capacidad del Gobierno para manejar algo así? 1522 01:18:47,227 --> 01:18:48,228 Sí, de hecho, sí. 1523 01:18:48,353 --> 01:18:50,355 Hay otras cosas que no sé si pueda, 1524 01:18:50,480 --> 01:18:52,357 pero ese escenario, creo que sí. 1525 01:18:52,482 --> 01:18:53,609 Ellos... Sí. 1526 01:18:53,734 --> 01:18:55,986 Cuando hablas con los otros 1527 01:18:56,111 --> 01:18:58,822 con el dedo en el gatillo, por así decirlo, 1528 01:18:58,947 --> 01:19:02,159 ¿esas discusiones privadas te llenan de confianza 1529 01:19:02,284 --> 01:19:04,578 o te ponen más ansioso? 1530 01:19:04,703 --> 01:19:07,915 Conozco a algunos de ellos mejor que a otros. 1531 01:19:08,040 --> 01:19:11,460 Confío más en algunos que en otros. 1532 01:19:11,585 --> 01:19:14,296 Como con cualquier persona, lo que piensas 1533 01:19:14,421 --> 01:19:16,465 de tus compañeros de clase o algo así, ¿no? 1534 01:19:16,590 --> 01:19:19,218 Algunos son muy dulces. 1535 01:19:19,343 --> 01:19:21,303 Algunos tienen buenas intenciones, pero no son tan efectivos. 1536 01:19:21,428 --> 01:19:23,347 Algunos son bravucones. 1537 01:19:23,472 --> 01:19:25,849 Algunos son muy malas personas. 1538 01:19:25,974 --> 01:19:28,644 Ves la variedad. 1539 01:19:28,769 --> 01:19:31,855 ¿Estoy seguro de que todos harán lo correcto? 1540 01:19:31,980 --> 01:19:34,316 ¿De que todo saldrá bien? No. 1541 01:19:34,441 --> 01:19:36,443 Y no puedo hacer al respecto, ¿sí? 1542 01:19:36,568 --> 01:19:41,240 Lo único que puedo hacer es presionar para que el Gobierno se involucre. 1543 01:19:41,365 --> 01:19:43,575 Pero también soy solo una persona. 1544 01:19:43,700 --> 01:19:46,453 Depende de nosotros presionar para que el Gobierno se involucre. 1545 01:19:46,578 --> 01:19:49,414 Eso es lo primero que creo que debemos hacer 1546 01:19:49,540 --> 01:19:51,875 para poner las cosas en la dirección correcta. 1547 01:19:52,000 --> 01:19:53,669 Lo que me pone nervioso es 1548 01:19:53,794 --> 01:19:56,088 la realidad básica de que la velocidad 1549 01:19:56,213 --> 01:19:59,258 a la que proliferan y crecen las tecnologías es exponencial. 1550 01:19:59,383 --> 01:20:02,302 Y los mecanismos para legislar tienen 300 años. 1551 01:20:02,427 --> 01:20:05,973 - Lleva una eternidad. - Sí, creo que será un trabajo pesado. 1552 01:20:06,098 --> 01:20:07,724 Coincido contigo en eso. 1553 01:20:07,850 --> 01:20:12,229 Lo que estoy buscando son pasos 1554 01:20:12,354 --> 01:20:16,108 que los jefes tomarán para enfocarse en la seguridad, 1555 01:20:16,233 --> 01:20:19,027 para mitigar el peligro y maximizar la promesa. 1556 01:20:19,152 --> 01:20:22,656 Y no sé si hay una respuesta sencilla para eso. 1557 01:20:26,952 --> 01:20:32,833 Tal vez esto sea demasiado sencillo, pero creas un nuevo modelo. 1558 01:20:32,958 --> 01:20:35,586 Lo estudias y lo pruebas con mucho cuidado. 1559 01:20:35,711 --> 01:20:39,464 Lo sacas al mundo, gradualmente, y luego más y más. 1560 01:20:39,590 --> 01:20:41,383 Entiendes si es seguro o no. 1561 01:20:41,508 --> 01:20:43,594 Y si lo es, puedes dar el siguiente paso. 1562 01:20:45,304 --> 01:20:47,973 No suena tan llamativo como un científico brillante 1563 01:20:48,098 --> 01:20:51,059 que tiene una idea para hacer un sistema de IA 1564 01:20:51,185 --> 01:20:54,938 perfectamente seguro, controlable y todo lo demás. 1565 01:20:55,063 --> 01:20:56,648 Pero creo que va a ser así. 1566 01:20:56,773 --> 01:20:58,483 Así es como creo que funciona. 1567 01:20:58,609 --> 01:21:00,152 Digamos que pasa algo terrible, 1568 01:21:00,277 --> 01:21:02,821 como que un modelo se descontrola, rebela o algo. 1569 01:21:02,946 --> 01:21:04,656 ¿Hay un protocolo? 1570 01:21:04,781 --> 01:21:07,074 Literalmente, me imagino un teléfono rojo. 1571 01:21:07,075 --> 01:21:09,327 Perdón por pensarlo desde el cine, pero... 1572 01:21:09,328 --> 01:21:10,329 Hay uno. 1573 01:21:10,454 --> 01:21:12,581 - ¿Tienes un teléfono rojo? - No. 1574 01:21:12,706 --> 01:21:14,708 - ¿Es secreto? - Es decir, es... No. 1575 01:21:14,833 --> 01:21:17,294 No es tan elegante ni dramático como imaginas. 1576 01:21:17,419 --> 01:21:19,505 Pero pensamos en estos escenarios. 1577 01:21:19,630 --> 01:21:22,633 Si esto pasa, llamamos a esta gente en este orden y hacemos esto 1578 01:21:22,758 --> 01:21:24,468 y tomamos estas decisiones si... 1579 01:21:24,593 --> 01:21:28,388 Creo que cuando tienes la oportunidad de pensar 1580 01:21:28,514 --> 01:21:31,516 antes de la situación estresante, casi siempre es bueno. 1581 01:21:31,517 --> 01:21:32,518 Escribirlo ayuda. 1582 01:21:32,643 --> 01:21:34,144 - Estar preparado ayuda. - Sí. 1583 01:21:36,063 --> 01:21:39,608 Tú... Sería imposible sentarme frente a ti 1584 01:21:39,733 --> 01:21:42,027 y pedirte que me prometas que esto saldrá bien. 1585 01:21:42,152 --> 01:21:44,154 Eso es imposible. 1586 01:21:44,279 --> 01:21:46,490 No hay respuestas fáciles, lamentablemente. 1587 01:21:46,615 --> 01:21:49,201 Como es una tecnología tan avanzada, 1588 01:21:49,326 --> 01:21:50,577 aún hay muchas incógnitas. 1589 01:21:50,702 --> 01:21:55,832 Y creo que eso debe entenderse. 1590 01:21:55,958 --> 01:21:59,795 Por eso está la necesidad de precaución. 1591 01:21:59,920 --> 01:22:01,755 Me despierto todos los días, 1592 01:22:01,880 --> 01:22:04,424 y esto es lo primero en lo que pienso. 1593 01:22:04,550 --> 01:22:09,179 Soy humano. ¿Todas las decisiones han sido perfectas? 1594 01:22:09,304 --> 01:22:12,558 ¿Puedo decir que mis motivaciones siempre fueron puras? 1595 01:22:12,683 --> 01:22:14,476 No. Nadie puede decir eso. 1596 01:22:14,601 --> 01:22:19,481 Esa no es... La gente no trabaja así. 1597 01:22:19,606 --> 01:22:22,693 La historia de la ciencia tiende a ser que para bien o para mal, 1598 01:22:22,818 --> 01:22:26,613 si algo es posible, y ahora sabemos que la IA es posible, 1599 01:22:26,738 --> 01:22:27,823 la humanidad lo hace. 1600 01:22:27,948 --> 01:22:30,534 Todo esto iba a pasar. 1601 01:22:30,659 --> 01:22:33,120 Este tren no va a parar. 1602 01:22:33,245 --> 01:22:35,205 No puedes pararte frente al tren y detenerlo. 1603 01:22:35,330 --> 01:22:37,332 Te va a aplastar. 1604 01:22:37,457 --> 01:22:39,209 Es muy estresante. 1605 01:22:41,170 --> 01:22:43,255 Hay muchas cosas que muchos no sabemos. 1606 01:22:43,380 --> 01:22:47,092 Creo que la historia del descubrimiento científico 1607 01:22:47,217 --> 01:22:51,555 es la de no saber lo que no sabes y averiguarlo sobre la marcha. 1608 01:22:51,680 --> 01:22:56,059 Pero sí, es una forma estresante de vivir. 1609 01:22:58,312 --> 01:22:59,730 Sam, muchas gracias. 1610 01:22:59,855 --> 01:23:01,356 - De nuevo, mazel tov. - Gracias. Igualmente. 1611 01:23:01,481 --> 01:23:04,026 Muchas gracias. Gracias, chicos. 1612 01:23:21,043 --> 01:23:22,126 ¿ESTAMOS CONDENADOS? 1613 01:23:22,127 --> 01:23:23,211 ¿EL FIN DE LA SOLEDAD? 1614 01:23:23,212 --> 01:23:24,295 ¿NOS DISTANCIAREMOS MÁS? 1615 01:23:24,296 --> 01:23:25,297 ¿UN GRAN ECUALIZADOR? 1616 01:23:25,422 --> 01:23:27,174 ¿UN MODO DE GANAR MÁS DINERO? ¿HABRÁ ENERGÍA BARATA? 1617 01:23:27,299 --> 01:23:29,009 ¿LA IA ABSORBERÁ NUESTROS RECURSOS? ¿TRAERÁ LA PAZ MUNDIAL? 1618 01:23:29,134 --> 01:23:30,844 EXTERMINIO ABRUPTO FIN DE UN CAPÍTULO, INICIO DE OTRO 1619 01:23:30,969 --> 01:23:32,513 ESPECIES DE SEGUNDA CLASE DE ESCASEZ A ABUNDANCIA 1620 01:23:32,638 --> 01:23:34,097 IMPOSIBLE SOBREVIVIR CAJA NEGRA 1621 01:23:34,223 --> 01:23:36,016 SUBIR DE NIVEL COMO HUMANOS EL ÚLTIMO ERROR 1622 01:23:36,141 --> 01:23:38,101 EL MEJOR MOMENTO PARA ESTAR VIVOS EXTINCIÓN. ¿ESTAMOS CONDENADOS? 1623 01:23:38,227 --> 01:23:39,686 ¿NO MÁS TRABAJO? ¿NOS LO ROBARÁN LOS ROBOTS? 1624 01:23:39,811 --> 01:23:42,147 ¿PUEDO CONFIAR EN LO QUE ME DICEN? ¿CONVERTIRME EN UNA COMPUTADORA? 1625 01:23:42,314 --> 01:23:43,690 ¿MÁS CREATIVIDAD? ¿ESTAREMOS MÁS CONECTADOS? 1626 01:23:49,613 --> 01:23:51,240 - Hola. - Hola, papá. ¿Cómo estás? 1627 01:23:51,365 --> 01:23:53,992 Bien. ¿Cómo estás? ¿Estás trabajando? ¿Qué haces? 1628 01:23:54,117 --> 01:23:56,203 Trabajo en una película de IA. 1629 01:23:56,328 --> 01:23:57,454 ¿Y cómo va? 1630 01:23:58,872 --> 01:24:01,416 Ya sabes, es... Es muy... 1631 01:24:01,542 --> 01:24:03,043 - Hola, cariño. - Hola, mamá. 1632 01:24:03,168 --> 01:24:05,587 ¿Cuál es la premisa? ¿Es un documental? 1633 01:24:05,712 --> 01:24:09,424 Kev, no uses más especias. Ya está muy condimentado. 1634 01:24:09,550 --> 01:24:11,218 Estamos haciendo pollo. 1635 01:24:11,343 --> 01:24:12,636 ¿Es un documental o...? 1636 01:24:12,761 --> 01:24:14,888 Es sobre el fin del mundo. 1637 01:24:15,013 --> 01:24:18,600 Se acerca el fin del mundo, y hacemos una película sobre eso. 1638 01:24:18,725 --> 01:24:21,019 - ¿En serio? - Sí. 1639 01:24:21,144 --> 01:24:23,522 - Parece deprimente. - Sí. 1640 01:24:24,523 --> 01:24:28,861 Siento mucha ansiedad aguda. 1641 01:24:30,112 --> 01:24:32,322 Da miedo, pero tiene que haber... 1642 01:24:32,447 --> 01:24:35,909 ¿Te reuniste con gente muy inteligente 1643 01:24:36,034 --> 01:24:38,912 que te da respuestas? 1644 01:24:39,037 --> 01:24:42,249 Eso es lo frustrante. Nadie sabe. 1645 01:24:42,374 --> 01:24:44,918 Todo lo que puedo decir es 1646 01:24:45,043 --> 01:24:51,216 que cada generación ha tenido algo aterrador como esto. 1647 01:24:51,341 --> 01:24:54,720 Cuando nací, en la crisis de los misiles en Cuba, 1648 01:24:54,845 --> 01:24:57,723 tenía miedo de que hubiera una guerra nuclear. 1649 01:24:57,848 --> 01:25:00,225 Sí, pero no sabíamos qué iban a hacer y... 1650 01:25:00,350 --> 01:25:01,393 Y el mundo no se acabó. 1651 01:25:01,518 --> 01:25:04,104 Despertamos al día siguiente y todo siguió. 1652 01:25:04,229 --> 01:25:07,900 Tengo mucho miedo. Especialmente en el contexto de... 1653 01:25:08,025 --> 01:25:10,027 ya saben, el bebé y... 1654 01:25:10,152 --> 01:25:12,654 - Es una curva de aprendizaje, pero... - Estarás bien. 1655 01:25:12,779 --> 01:25:14,865 No pienses en lo que no puedes controlar. 1656 01:25:14,990 --> 01:25:16,909 Daniel, solo recuerda eso. 1657 01:25:17,034 --> 01:25:20,287 Estoy muy nervioso y asustado. 1658 01:25:20,412 --> 01:25:24,666 - Hay mucho que no puedo controlar. - No dejes que te afecte. 1659 01:25:24,791 --> 01:25:27,711 Solo puedes controlar lo que puedes controlar. 1660 01:25:27,836 --> 01:25:30,547 Y es todo lo que puedes hacer. No puedes hacer más. 1661 01:25:31,757 --> 01:25:33,425 Escribe eso en tu libro. 1662 01:25:33,550 --> 01:25:35,302 SOLO PUEDES CONTROLAR LO QUE PUEDES CONTROLAR -PAPÁ 1663 01:25:50,192 --> 01:25:54,446 Cuando miras atrás, el mundo siempre se acaba. 1664 01:25:56,114 --> 01:26:00,035 Y cuando miras hacia adelante, el mundo siempre se acaba. 1665 01:26:00,160 --> 01:26:02,746 Una casa ya está en llamas. 1666 01:26:02,871 --> 01:26:06,625 Pero el mundo también siempre empieza. 1667 01:26:08,877 --> 01:26:12,422 - ¿Estás lista? - ¿Alguna vez estás realmente listo? 1668 01:26:12,548 --> 01:26:14,299 ¿ESTÁS REALMENTE LISTO? 1669 01:26:17,261 --> 01:26:19,638 - ¿Conduces tú? ¿O yo? - Conduce tú. 1670 01:26:19,763 --> 01:26:21,306 YA VIENE EL BEBÉ 1671 01:26:21,431 --> 01:26:22,808 - Te llevaré a la habitación. - Bien. 1672 01:26:22,933 --> 01:26:24,560 Gracias, María. 1673 01:26:24,685 --> 01:26:27,896 - Se sentirá como un calambre. - De acuerdo. 1674 01:26:31,567 --> 01:26:33,277 Podríamos estar en un drama médico. 1675 01:26:45,581 --> 01:26:48,292 Muy bien, ven aquí. 1676 01:26:48,417 --> 01:26:49,918 ¡TE VES BIEN! 1677 01:26:51,044 --> 01:26:54,923 ¿Cuál es la presión? Déjame ver. Solo relájate. 1678 01:26:58,510 --> 01:27:00,179 HORA DE NACIMIENTO 9:50 P. M. 1679 01:27:01,763 --> 01:27:03,347 ENFERMERA CRYSTAL ¡LO HICIMOS! 1680 01:27:03,348 --> 01:27:04,725 ¡Hola, amigo! 1681 01:27:05,934 --> 01:27:07,311 Hola, amigo. 1682 01:27:32,169 --> 01:27:35,839 Será un mundo nuevo para ti, Daniel. 1683 01:27:38,133 --> 01:27:41,178 Y creo que serás un padre increíble. 1684 01:27:43,972 --> 01:27:45,390 Eso es seguro. 1685 01:27:47,601 --> 01:27:51,730 Tu papá cree que harás un gran trabajo. 1686 01:27:52,731 --> 01:27:53,941 Kev, ¿por qué lloras? 1687 01:27:54,066 --> 01:27:57,861 Lloro porque no lo sé. Simplemente no... 1688 01:27:57,986 --> 01:28:01,782 Papá, me harás llorar a mí también. ¿Por qué lloras? 1689 01:28:04,159 --> 01:28:06,870 Solo sé que serás un papá increíble. 1690 01:28:06,995 --> 01:28:09,998 Solo seré un gran padre porque tuve un gran padre. 1691 01:28:10,999 --> 01:28:13,335 Es emotivo, es todo. 1692 01:28:15,587 --> 01:28:18,715 Vaya, vaya. Dios mío. 1693 01:28:19,716 --> 01:28:23,929 Mira esas mejillitas. 1694 01:28:24,054 --> 01:28:27,391 Mira esos cachetitos. Sí. 1695 01:28:27,516 --> 01:28:29,351 Sé cómo terminar esta película. 1696 01:28:31,103 --> 01:28:32,104 Bebés. 1697 01:28:33,355 --> 01:28:36,149 - El final de la película es sobre bebés. - ¡Hola! 1698 01:28:37,150 --> 01:28:39,736 Afirman la vida. Son agotadores. 1699 01:28:40,946 --> 01:28:42,531 Son graciosísimos. 1700 01:28:42,656 --> 01:28:43,991 Y valen la pena. 1701 01:28:44,116 --> 01:28:47,286 No es sobre el funcionamiento interno de una tecnología. 1702 01:28:47,411 --> 01:28:49,079 No es sobre los CEO multimillonarios. 1703 01:28:49,204 --> 01:28:51,540 No es sobre la geopolítica. 1704 01:28:51,665 --> 01:28:54,459 No es sobre el futuro aterrador o el fin del mundo. 1705 01:28:54,585 --> 01:28:56,587 Porque mi mundo apenas está empezando. 1706 01:28:56,712 --> 01:28:58,213 Estoy construyendo una cuna. 1707 01:28:58,338 --> 01:29:01,341 Aquí. Ahora. 1708 01:29:01,466 --> 01:29:02,885 La IA cambiará todo. 1709 01:29:03,010 --> 01:29:06,805 De maneras demasiado poderosas y complejas para que las entendamos. 1710 01:29:06,930 --> 01:29:10,392 Y el futuro no lo decide ninguno de nosotros. 1711 01:29:11,768 --> 01:29:15,439 Pero lo que yo puedo decidir es ser el mejor esposo posible para mi esposa 1712 01:29:15,564 --> 01:29:18,525 y el mejor padre posible para mi hijo. 1713 01:29:18,650 --> 01:29:22,321 Así que si nuestro futuro con IA es una distopía de pesadilla 1714 01:29:22,446 --> 01:29:24,740 o la utopía con la que todos soñamos, 1715 01:29:24,865 --> 01:29:27,326 al menos sabré que hice todo lo que pude 1716 01:29:27,451 --> 01:29:31,038 para guiar a mi familia en esta revolución de IA. 1717 01:29:31,163 --> 01:29:34,708 Y pase lo que pase, la enfrentaremos juntos. 1718 01:29:34,833 --> 01:29:37,669 FIN 1719 01:29:37,794 --> 01:29:40,756 Esa es nuestra primera idea. 1720 01:29:41,924 --> 01:29:43,842 ¿Cómo se siente? ¿Sientes esto? 1721 01:29:43,967 --> 01:29:46,220 Espera. Esto no es... Es una broma. 1722 01:29:46,345 --> 01:29:48,347 No vas a terminarla así. 1723 01:29:51,016 --> 01:29:53,644 Es solo una idea, ¿sí? 1724 01:29:53,769 --> 01:29:55,270 No, Daniel. 1725 01:29:55,395 --> 01:29:56,897 Eso es muy tonto. 1726 01:29:57,022 --> 01:30:02,027 Pasamos no sé cuántos años de nuestra vida trabajando en esto, 1727 01:30:02,152 --> 01:30:05,822 hablando con cada experto del planeta sobre el tema, 1728 01:30:05,948 --> 01:30:11,620 ¿y vas a terminarlo con una tontería espiritual? 1729 01:30:12,621 --> 01:30:15,332 Un asteroide se dirige a la Tierra. ¿Qué haces? 1730 01:30:15,457 --> 01:30:18,627 ¿Tomarnos de la mano y esperar que todo salga bien? 1731 01:30:18,752 --> 01:30:20,254 Claro que no. 1732 01:30:20,379 --> 01:30:23,423 Tenemos que... Tiene que ser... 1733 01:30:23,549 --> 01:30:25,342 El final tiene que... 1734 01:30:27,094 --> 01:30:28,095 EL VERDADERO FINAL 1735 01:30:28,220 --> 01:30:32,307 Bien, lo primero, IA está aquí, y está aquí para quedarse. 1736 01:30:32,432 --> 01:30:33,767 El caballo terminó de cagar. 1737 01:30:33,892 --> 01:30:36,895 Pero el caballo seguirá cagando. 1738 01:30:39,857 --> 01:30:42,651 Una de las leyes básicas de la historia 1739 01:30:42,776 --> 01:30:46,822 es que nada tiene un comienzo y nada tiene un final. 1740 01:30:46,947 --> 01:30:48,365 Solo continúa. 1741 01:30:48,490 --> 01:30:51,326 La IA no está ni cerca de su desarrollo total. 1742 01:30:51,451 --> 01:30:53,996 Aunque la burbuja actual de IA explote, 1743 01:30:54,121 --> 01:30:58,292 el hombre nunca dejará de construir tecnología cada vez más poderosa. 1744 01:30:58,417 --> 01:31:01,170 Puedes elegir no usar IA o participar en ella, 1745 01:31:01,295 --> 01:31:03,046 pero te afectará de todos modos. 1746 01:31:03,172 --> 01:31:05,257 Bien. Genial. Estamos jodidos. 1747 01:31:05,382 --> 01:31:07,509 No, no es así. Por algo muy simple. 1748 01:31:08,510 --> 01:31:10,554 Nosotros decidimos cómo va esto. 1749 01:31:10,679 --> 01:31:11,763 NOSOTROS DECIDIMOS CÓMO SIGUE 1750 01:31:11,889 --> 01:31:13,849 Esto no es inevitable. 1751 01:31:13,974 --> 01:31:16,059 Si pudiéramos verlo claramente juntos, 1752 01:31:16,185 --> 01:31:19,188 la respuesta obvia sería elegir algo diferente. 1753 01:31:19,313 --> 01:31:21,899 Tenemos que cambiar el juego claramente 1754 01:31:22,024 --> 01:31:23,984 de una carrera hacia abajo a una hacia la cima. 1755 01:31:24,109 --> 01:31:28,906 El problema que debemos resolver no es la IA, específicamente. 1756 01:31:29,031 --> 01:31:32,284 Es la pregunta general de cómo construir una sociedad 1757 01:31:32,409 --> 01:31:35,162 que pueda lidiar con tecnología poderosa, 1758 01:31:35,287 --> 01:31:37,623 porque habrá tecnología cada vez más poderosa. 1759 01:31:37,748 --> 01:31:40,501 Necesitamos mejorar nuestra sociedad, 1760 01:31:40,626 --> 01:31:43,462 y el primer paso es unirnos y exigir... 1761 01:31:43,587 --> 01:31:46,298 - Coordinación. - Cooperación internacional... 1762 01:31:46,465 --> 01:31:49,259 ...o acuerdo sobre cuáles deberían ser las normas. 1763 01:31:49,384 --> 01:31:50,761 ¿Cómo deberían implementarse? 1764 01:31:50,886 --> 01:31:53,764 Verdadera diplomacia internacional entre las superpotencias. 1765 01:31:53,889 --> 01:31:57,142 A los chinos les preocupa tanto como a los estadounidenses. 1766 01:31:57,267 --> 01:32:00,436 Creo que es difícil en el clima geopolítico actual, 1767 01:32:00,437 --> 01:32:02,063 pero creo que es necesario. 1768 01:32:02,064 --> 01:32:05,733 Totalmente. De la misma manera que la última vez que la humanidad... 1769 01:32:05,734 --> 01:32:06,735 REFUGIO NUCLEAR 1770 01:32:06,902 --> 01:32:09,363 ...desarrolló una tecnología tan peligrosa... 1771 01:32:10,489 --> 01:32:15,369 que requirió un cambio sin precedentes en la estructura de nuestro mundo. 1772 01:32:17,120 --> 01:32:20,958 Así que debemos volver a hacer ese cambio sin precedentes. 1773 01:32:21,792 --> 01:32:24,920 Hablamos con gente que trabaja en estas empresas de IA, 1774 01:32:25,045 --> 01:32:27,506 y dicen que quieren hacer algo diferente, pero necesitan presión pública. 1775 01:32:27,631 --> 01:32:29,299 Necesitan que el Gobierno haga algo. 1776 01:32:29,424 --> 01:32:30,634 Entonces vamos a D. C. y dicen: 1777 01:32:30,759 --> 01:32:32,553 "Necesitamos que Silicon Valley haga algo diferente. 1778 01:32:32,678 --> 01:32:34,012 Ellos crearán las barandas de contención". 1779 01:32:34,137 --> 01:32:36,515 Todos señalan a alguien más. 1780 01:32:36,640 --> 01:32:40,561 Y están de acuerdo en que necesitamos presión pública 1781 01:32:40,686 --> 01:32:42,104 para que pase algo más. 1782 01:32:42,229 --> 01:32:45,023 Y eso es lo que ustedes y toda la gente que ve esta película puede hacer. 1783 01:32:45,148 --> 01:32:47,401 Debemos responsabilizar a los líderes de nuestros gobiernos 1784 01:32:47,526 --> 01:32:50,279 y a los líderes de estas empresas. 1785 01:32:50,404 --> 01:32:51,822 Sea cual sea el país en el que estés, 1786 01:32:51,947 --> 01:32:56,368 hazles saber que no estás contento con el statu quo actual. 1787 01:32:56,493 --> 01:32:57,911 Sí, es aburrido decir "llama a tu congresista". 1788 01:32:58,036 --> 01:33:01,206 No digo que debas hacer eso, pero tenemos que hacerlo. 1789 01:33:01,331 --> 01:33:03,083 Hay que involucrar al gobierno. 1790 01:33:03,208 --> 01:33:07,045 ¿Los llamamos y decimos: "Eviten que Big Tech arruine el mundo"? 1791 01:33:07,171 --> 01:33:10,007 No, pero hay muchas cosas obvias 1792 01:33:10,132 --> 01:33:11,550 y directas que podemos exigir. 1793 01:33:11,675 --> 01:33:12,801 Necesitamos transparencia 1794 01:33:12,926 --> 01:33:15,095 y acabar con el secreto dentro de estos laboratorios. 1795 01:33:15,220 --> 01:33:17,681 Porque están construyendo tecnología poderosa, 1796 01:33:17,806 --> 01:33:19,599 y el público merece saber qué está pasando. 1797 01:33:19,600 --> 01:33:23,353 Vamos a necesitar terceros independientes y objetivos 1798 01:33:23,520 --> 01:33:24,770 para evaluar los sistemas. 1799 01:33:24,771 --> 01:33:27,733 No podemos contar con que las empresas califiquen su propia tarea. 1800 01:33:27,900 --> 01:33:28,983 SEÑOR DAVID EVAN HARRIS 1801 01:33:28,984 --> 01:33:31,903 Si una empresa usa IA y tiene IA interactuando con usted... 1802 01:33:31,904 --> 01:33:32,905 REVELACIÓN OBLIGATORIA DE IA 1803 01:33:33,030 --> 01:33:35,741 ...debería revelar que está interactuando con un sistema de IA. 1804 01:33:35,866 --> 01:33:39,870 Sí, y necesitamos un sistema que responsabilice a las empresas... 1805 01:33:39,995 --> 01:33:40,996 RESPONSABILIDAD LEGAL 1806 01:33:41,121 --> 01:33:42,623 ...por los sistemas IA que producen. 1807 01:33:42,748 --> 01:33:45,709 Debemos asegurarnos de que haya pruebas y estándares de seguridad... 1808 01:33:45,834 --> 01:33:46,877 PRUEBAS ANTES DEL LANZAMIENTO 1809 01:33:47,002 --> 01:33:48,920 ...que se apliquen a todos. 1810 01:33:48,921 --> 01:33:50,463 Necesitamos reglas básicas. 1811 01:33:50,464 --> 01:33:51,547 SEGUIR ADAPTANDO LAS REGLAS 1812 01:33:51,548 --> 01:33:52,549 Y seguir adaptando esas reglas 1813 01:33:52,674 --> 01:33:55,427 a la velocidad que se desarrolle la tecnología. 1814 01:33:55,552 --> 01:34:00,140 Actualmente hay más regulaciones para vender un sándwich 1815 01:34:00,265 --> 01:34:03,769 que para construir una AGI que podría acabar con el mundo. 1816 01:34:03,894 --> 01:34:07,231 Y lo último es actualizarnos. 1817 01:34:07,397 --> 01:34:08,440 NECESITAMOS ACTUALIZARNOS 1818 01:34:08,565 --> 01:34:10,692 No es el trabajo del equipo de seguridad 1819 01:34:10,817 --> 01:34:12,569 de un laboratorio o del CEO. 1820 01:34:12,694 --> 01:34:14,112 Es el trabajo de todos. 1821 01:34:14,238 --> 01:34:16,114 No se lo dejen a los expertos en IA. A la m***** con eso. 1822 01:34:16,240 --> 01:34:19,159 Este es el momento en el que estamos pasando 1823 01:34:19,284 --> 01:34:21,286 del poder cognitivo humano 1824 01:34:21,411 --> 01:34:23,455 a un poder cognitivo de IA que afecta a todos. 1825 01:34:23,580 --> 01:34:25,415 Y quiero que la gente esté en esa conversación. 1826 01:34:25,541 --> 01:34:27,709 Y diría que, si creen que la IA nos matará a todos, 1827 01:34:27,835 --> 01:34:30,337 deberían trabajar en investigación de IA para asegurarse de que no pase. 1828 01:34:30,462 --> 01:34:33,006 Porque tienen una enorme capacidad de acción. 1829 01:34:33,131 --> 01:34:36,677 Quienquiera que seas, eres un experto en tu propia industria, 1830 01:34:36,802 --> 01:34:40,013 en tu propia escuela, en tu propia familia. 1831 01:34:40,138 --> 01:34:44,059 Y depende de ti cómo se usa la IA en tu vida. 1832 01:34:44,184 --> 01:34:46,061 Si quieres unirte a la junta escolar 1833 01:34:46,186 --> 01:34:50,399 o si quieres preguntarle a tu empleador cómo usan las tecnologías de IA, 1834 01:34:50,524 --> 01:34:52,776 todos podemos hacer el trabajo. 1835 01:34:52,901 --> 01:34:56,280 Muchos sindicatos han sido muy efectivos 1836 01:34:56,405 --> 01:34:59,491 para determinar cómo quieren interactuar con estos sistemas. 1837 01:34:59,616 --> 01:35:00,826 PROTESTA CONTRA LA IA EN EL HOSPITAL 1838 01:35:00,951 --> 01:35:02,494 Sindicatos de enfermeras, de maestros. 1839 01:35:03,871 --> 01:35:06,707 Me encantaría que todos los padres fueran a las compañías de IA y dijeran: 1840 01:35:06,832 --> 01:35:09,001 "¿Cómo pueden hacerlo mejor?". Incluyéndonos. 1841 01:35:09,126 --> 01:35:12,671 Fundé Encode Justice cuando tenía 15 años. 1842 01:35:12,796 --> 01:35:16,091 Somos el primer y más grande ejército de jóvenes del mundo 1843 01:35:16,216 --> 01:35:19,052 que lucha por la IA centrada en el hombre. 1844 01:35:19,178 --> 01:35:20,179 No importa quién seas. 1845 01:35:20,304 --> 01:35:21,805 Hasta las acciones más pequeñas ayudan, 1846 01:35:21,930 --> 01:35:25,225 e incluso empezar una conversación es muy valioso. 1847 01:35:25,350 --> 01:35:29,062 Mi trabajo podría ser: "Dile a la abuela Lila sobre esto en la cena". 1848 01:35:29,188 --> 01:35:31,315 Sí, es parte de eso. 1849 01:35:31,440 --> 01:35:33,317 Y tendremos que hacer muchas cosas 1850 01:35:33,442 --> 01:35:35,359 que aún no hemos pensado. 1851 01:35:35,360 --> 01:35:38,071 La gente verá todo lo que resumimos y dirá que no es suficiente. 1852 01:35:38,197 --> 01:35:41,575 Lo que importa es que las fuerzas que trabajan hacia las soluciones 1853 01:35:41,700 --> 01:35:45,245 empiecen a exceder las fuerzas que trabajan contra las soluciones. 1854 01:35:45,370 --> 01:35:47,705 Hacer un mundo mejor siempre fue difícil. 1855 01:35:47,706 --> 01:35:48,707 Nunca fue fácil. 1856 01:35:48,832 --> 01:35:52,127 Pasaron muchas cosas horribles en la historia, 1857 01:35:52,252 --> 01:35:54,671 la gente tuvo que lidiar con eso, 1858 01:35:54,796 --> 01:35:57,633 y luego se levantaron y lo cambiaron. 1859 01:35:57,758 --> 01:36:01,345 Hay una cantidad increíble de desafíos por delante, 1860 01:36:01,470 --> 01:36:04,973 pero si podemos superarlos, 1861 01:36:05,098 --> 01:36:09,561 podemos desbloquear un futuro más allá de toda imaginación. 1862 01:36:09,686 --> 01:36:11,271 Tenemos que unirnos 1863 01:36:11,396 --> 01:36:15,108 y encontrar el camino entre la promesa y el peligro. 1864 01:36:15,234 --> 01:36:17,319 No podemos ser pesimistas ni optimistas. 1865 01:36:18,320 --> 01:36:20,864 Tenemos que convertirnos en algo nuevo. 1866 01:36:22,824 --> 01:36:25,410 Un amigo me llama apocalioptimista. 1867 01:36:25,536 --> 01:36:26,870 ¿Apocalioptimista? 1868 01:36:27,996 --> 01:36:29,540 Podría ser mi nueva palabra favorita. 1869 01:36:29,665 --> 01:36:30,791 Podría ser el nombre de la película. 1870 01:36:30,916 --> 01:36:33,418 Podría ser el nombre de esta película. "Apocamofalista". 1871 01:36:33,544 --> 01:36:36,672 "Apocalioptimista". Sí. 1872 01:36:36,797 --> 01:36:38,549 No creo en la fatalidad. 1873 01:36:38,674 --> 01:36:40,092 Creo en el espíritu de la vida. 1874 01:36:40,217 --> 01:36:43,512 Y creo que la vida se trata de la capacidad de actuar. 1875 01:36:43,637 --> 01:36:45,138 ¡MARCHAMOS POR LA CIUDADANÍA DE PRIMERA CLASE! 1876 01:36:45,264 --> 01:36:47,850 La capacidad de relacionarse, la capacidad de sentir. 1877 01:36:51,979 --> 01:36:53,438 LABORATORIO DE PROPULSIÓN A CHORRO DE LA NASA 1878 01:36:53,564 --> 01:36:57,109 Tenemos que duplicar más y más esas capacidades 1879 01:36:57,234 --> 01:37:00,946 que tenemos como humanos, que los sistemas robóticos nunca tendrán. 1880 01:37:01,947 --> 01:37:04,408 Es hora de tomar esas decisiones 1881 01:37:04,533 --> 01:37:08,453 sobre cómo guiarlo y apoyarlo en lugar de dividirnos. 1882 01:37:08,579 --> 01:37:11,248 Suena como criar a un niño. 1883 01:37:11,373 --> 01:37:13,250 Es algo así. Sí. 1884 01:37:13,375 --> 01:37:18,005 La IA puede tener más inteligencia cruda que el cerebro humano, 1885 01:37:18,130 --> 01:37:21,300 pero somos mucho más que nuestra inteligencia. 1886 01:37:22,843 --> 01:37:26,096 La inteligencia es la habilidad de resolver problemas. 1887 01:37:26,221 --> 01:37:29,725 La sabiduría es la habilidad de saber qué problemas resolver. 1888 01:37:34,688 --> 01:37:36,356 Ponlo en tu refrigerador. 1889 01:37:37,691 --> 01:37:38,984 Así que no te rindas. 1890 01:37:39,109 --> 01:37:43,447 La humanidad hizo cosas más difíciles que esta en su historia. 1891 01:37:44,698 --> 01:37:47,201 Es difícil convencer a la gente de que deberían hacerlo. 1892 01:37:54,458 --> 01:37:55,834 DÍA UNO EN IA 1893 01:37:55,959 --> 01:37:59,087 Cuando empecé a hacer esta película, diría que era 1894 01:37:59,213 --> 01:38:02,508 un imbécil cínico sobre todo esto. 1895 01:38:02,633 --> 01:38:05,677 En el transcurso de la película, he llegado a entender 1896 01:38:05,802 --> 01:38:07,179 que eso es lo único que no podemos ser. 1897 01:38:08,514 --> 01:38:10,224 ¿O algo más que quieran discutir? 1898 01:38:10,349 --> 01:38:13,101 No. Creo que cubrimos mucho. Sí. 1899 01:38:13,227 --> 01:38:15,229 - Muchas gracias. - Gracias. 1900 01:38:16,480 --> 01:38:17,773 Este es un problema 1901 01:38:17,898 --> 01:38:19,900 que es más grande que cualquier persona. 1902 01:38:20,025 --> 01:38:23,070 Esto cambiará el mundo de maneras que no entendemos. 1903 01:38:23,195 --> 01:38:24,279 Todo eso es cierto. 1904 01:38:26,490 --> 01:38:30,869 Pero lo que sí podemos controlar es lo que hacemos al respecto. 1905 01:38:30,994 --> 01:38:33,830 Mientras la IA fronteriza es cada vez más capaz... 1906 01:38:33,956 --> 01:38:38,126 Y la realidad es que si decidimos que es inútil, 1907 01:38:38,252 --> 01:38:39,837 entonces, es inútil. 1908 01:38:39,962 --> 01:38:42,172 Poner menos estrés en el planeta Tierra. 1909 01:38:42,297 --> 01:38:46,385 Pero si decides que quieres intentarlo... 1910 01:38:46,552 --> 01:38:47,594 RESPUESTAS PERTURBADORAS DE LA IA 1911 01:38:48,512 --> 01:38:50,180 ...entonces, lo intentas. 1912 01:38:50,305 --> 01:38:52,099 Y eso es difícil. 1913 01:38:52,224 --> 01:38:53,475 Pero ¿sabes qué? 1914 01:38:53,600 --> 01:38:57,145 Las cosas grandes parecen imposibles antes de que sucedan. 1915 01:39:00,107 --> 01:39:02,359 Pero cuando finalmente suceden, 1916 01:39:02,484 --> 01:39:06,071 es porque millones de personas tomaron millones de acciones 1917 01:39:06,196 --> 01:39:07,823 para que sucedieran. 1918 01:39:09,199 --> 01:39:13,245 Así que tenemos que intentarlo. 1919 01:39:22,045 --> 01:39:23,630 Hay demasiado en juego. 1920 01:39:38,353 --> 01:39:42,357 Miren los cambios increíbles que hemos experimentado y sobrevivido 1921 01:39:42,482 --> 01:39:43,859 desde la Edad de Piedra. 1922 01:39:43,984 --> 01:39:46,945 Y aún hay cambios más grandes por venir. 1923 01:44:23,889 --> 01:44:27,100 Subtítulos: Iyuno Traducido por: Victoria Parma