Downloaded from YTS.MX
Official YIFY movies site: YTS.MX
Acho que a inteligência artificial inspira admiração.
Muito bem, a subir em círculo. Boa formação.
A inteligência artificial tem o potencial de eliminar a pobreza,
dar-nos novos medicamentos
e tornar o nosso mundo ainda mais pacífico.
Muito bem.
Mas há tantos riscos pelo caminho.
Com a IA, estamos a criar uma inteligência não humana
muito imprevisível.
À medida que se torna mais poderosa,
onde estão os limites que vamos traçar
a nível de como a queremos empregar ou não?
Não há nada mais importante nesta conversa
do que as aplicações militares.
O campo de batalha tornou-se o território do software e do hardware.
O alvo está na mira.
As forças armadas estão numa corrida para desenvolver a IA antes dos inimigos.
Estou morto.
Estamos a avançar para um mundo em que não só os grandes exércitos,
mas também agentes não-governamentais, indústrias privadas
e até a esquadra da Polícia da nossa rua,
podem usar essas armas que matam com autonomia.
Vamos dar a decisão de tirar uma vida a algoritmos, a software de computador?
É uma das questões mais urgentes do nosso tempo.
Se não for usada com bom senso,
representa um grave risco para todas as pessoas no planeta.
DESCONHECIDO
ROBÔS ASSASSINOS
Bom trabalho, pessoal.
Uma objetiva mais ampla do que antes.
A sério?
Podemos ver muito mais dados.
Muito fixe.
Na Shield AI, construímos um piloto de IA
que aplica a tecnologia IA de carros autónomos
a aeronaves.
Quando falamos de um piloto de IA,
pensamos em dar um maior grau de autonomia a uma aeronave.
Vai resolver problemas sozinho.
O Nova é um quadricóptero autónomo
que explora edifícios e estruturas subterrâneas
à frente das forças de desminagem
para proporcionar vigilância nesses espaços.
Notam-se imensas melhorias desde a última vez que o vimos.
Estamos a fazer umas mudanças na exploração.
Estamos a trabalhar piso a piso.
Acaba um andar, todas as salas, antes de ir para o segundo.
- É espantoso. - Fizemos umas alterações…
Muitas pessoas perguntam
porque a inteligência artificial é uma competência importante
e eu lembro-me das missões que executei.
Passei sete anos na Marinha.
Fui um SEAL da Marinha destacado duas vezes para o Afeganistão
e uma vez para o Pacífico.
Num dado dia, podíamos ter de examinar 150 complexos ou edifícios.
Uma das capacidades essenciais é o combate corpo a corpo.
Tiroteios à queima-roupa dentro de edifícios.
Somos alvejados.
Pode haver bombas caseiras no edifício.
É a coisa mais perigosa que qualquer membro das forças especiais
ou membro da infantaria pode fazer numa zona de combate.
Sem exceção.
Estarei grato pelo tempo que passei na Marinha para o resto da vida.
Tenho uma coleção de momentos e memórias
que sempre me comovem quando penso neles.
É um cliché que a liberdade não é de graça, mas eu acredito nele.
Passei por isso e exige muito sacrifício.
Desculpem.
Quando algo de mau acontece a um dos colegas,
que fica ferido ou morre,
é uma coisa muito trágica.
Para mim, agora, no trabalho que fazemos,
é uma motivação poder reduzir o número de vezes
que isso acontece.
No final dos anos 2000,
houve um despertar dentro do Departamento de Defesa
para o que podemos chamar a revolução robótica acidental.
Enviámos milhares de robôs aéreos e terrestres
para o Iraque e o Afeganistão.
Quando a administração Obama me pediu
para ser Vice-Secretário da Defesa,
a forma como a guerra era travada estava a mudar.
Usavam robôs onde teriam usado pessoas.
Os primeiros sistemas eram controlados à distância.
Um humano controla-o como um carro controlado à distância.
Começaram a procurar bombas caseiras
e, se a bomba explodia, o robô também explodia.
E diziam: "Que chatice. Traz o outro robô."
No Afeganistão, havia o drone Predator
e tornou-se uma ferramenta muito útil para os ataques aéreos.
Os estrategas militares começaram a questionar-se:
"Para que mais podem ser usados os robôs?" Aonde é que isto vai dar?"
Um dos temas comuns era a tendência para maior autonomia.
Uma arma autónoma toma decisões por conta própria,
com pouca ou nenhuma intervenção humana.
Tem uma capacidade independente e é autodirigida.
Consegue matar se estiver armada.
Quando se tem cada vez mais autonomia em todo o sistema,
tudo começa a andar mais depressa.
Quando andamos mais depressa do que os adversários,
é uma enorme vantagem na batalha.
No que se refere à autonomia, concentramo-nos
em sistemas de inteligência altamente resistentes.
Sistemas que podem ler e reagir com base no ambiente
e tomar decisões sobre como manobrar nesse mundo.
Estas instalações foram construídas como um estúdio de cinema
que foi convertido
para permitir ambientes de treino militar realistas.
Viemos avaliar o nosso piloto de IA.
A sua missão será procurar ameaças. Trata de forças de desminagem.
Pode tomar uma decisão sobre como lidar com esse problema.
Chamamos a isto "o funil fatal". Temos de passar por uma porta.
É onde ficamos mais vulneráveis.
Esta parece melhor.
O Nova diz-nos se há um atirador atrás daquela porta.
Se há uma família atrás da porta.
Vai permitir-nos a tomar decisões melhores e proteger pessoas.
Usamos os sensores de visão
para perceber como é o ambiente.
Um prédio de vários andares.
Eis o mapa.
Enquanto eu explorava, eis o que vi e onde os vi.
Detetor de pessoas. Que fixe.
Um dos outros sensores do Nova é um scanner térmico.
Se são 37 graus, talvez seja um ser humano.
As pessoas são consideradas ameaças até prova em contrário.
Trata-se de eliminar a névoa da guerra para tomar decisões melhores.
Quando olhamos para o futuro,
estamos a planear construir equipas de aviões autónomos.
Com os veículos autónomos,
a pessoa disse-lhes:
"Quero que vás do ponto A ao ponto B."
Não pedimos aos nossos sistemas para irem do ponto A ao ponto B,
mas para atingirem um objetivo.
É mais parecido com: "Preciso de leite."
Depois o robô tem de descobrir a que mercearia ir,
obter o leite e trazê-lo de volta.
Mais ainda,
pode ser mais apropriado dizer: "Mantém o frigorífico abastecido."
Portanto, há um nível de inteligência
para perceber do que precisamos e como o fazemos.
Se houver um desafio ou um problema
ou surgir uma dificuldade, descobre como resolver a situação.
Quando decidi deixar a Marinha, comecei a pensar:
"Muito bem. O que se segue?"
Cresci com a Internet. Vi no que se tornou.
E parte da conclusão a que cheguei
foi que a IA em 2015
estava no mesma situação da Internet em 1991.
A IA estava prestes a explodir
e ser uma das tecnologias mais poderosas do mundo.
Trabalhando com ela todos os dias, vejo o progresso que está a acontecer.
Mas quando muita gente pensa em inteligência artificial,
pensa logo em Hollywood.
Jogamos o jogo?
Que tal Guerra Termonuclear Global?
Está bem.
Quando as pessoas pensam na inteligência artificial,
pensam em O Exterminador Implacável. Ou no Eu, Robot.
Desativar!
O que sou eu?
Ou no Matrix.
Com base no que vemos nos filmes de ficção científica,
como sabem que sou humano? Podia ser uma IA gerada por computador.
Os replicantes são como qualquer máquina. Ou são um benefício ou um perigo.
Mas há muitas IA mais primitivas
que vão mudar as nossas vidas
muito antes de chegarmos à fase do robô pensante e falante.
Os robôs já cá estão. Estão a tomar decisões.
A revolução dos robôs chegou,
mas não se parece com o que se imaginava.
O Exterminador é uma unidade de infiltração. Meio humano, meio máquina.
Não falamos de um robô assassino ao estilo do Exterminador.
Falamos de uma IA capaz de fazer algumas tarefas que os humanos fazem.
Mas a preocupação é se os sistemas são fiáveis.
Mais detalhes do acidente de ontem à noite com um SUV autónomo.
A empresa criou um chatbot de inteligência artificial.
Ela adquiriu um tom bastante racista…
Vinte e seis legisladores estaduais falsamente identificados como criminosos.
A questão é se conseguem lidar com as complexidades do mundo real.
O mundo físico é uma confusão.
Há muitas coisas que não sabemos,
o que dificulta o treino de sistemas de IA.
Foi quando os sistemas de aprendizagem automática começaram a aparecer.
A aprendizagem automática foi um grande avanço,
significa que não temos de ensinar tudo aos computadores.
Damos milhões de informações a um computador
e a máquina começa a aprender.
Isso pode ser aplicado a qualquer coisa.
No nosso projeto do Cão Robô, estamos a tentar mostrar
que o nosso cão pode atravessar muitos terrenos diferentes.
Os humanos evoluíram ao longo de milhares de milhões de anos para andar,
mas há muita inteligência na adaptação a terrenos diferentes.
A questão que se mantém para os sistemas robóticos
é se também se podem adaptar como animais e humanos?
Com a aprendizagem automática, recolhemos muitos dados na simulação.
Uma simulação é um gémeo digital da realidade.
Podemos ter muitas réplicas dessa realidade em computadores diferentes.
Analisam milhares de ações em simulação.
O terreno que encontram tem diferentes graus de derrapagem.
Tem firmezas diferentes.
Pegamos nas experiências desses milhares de robôs
da simulação e transferimo-las para um sistema robótico real.
O teste que vamos fazer hoje é ver se se adapta a novos terrenos.
Quando o robô passava por cima da espuma,
os pés pisavam o chão com força.
Mas não na superfície oleosa,
estava a ajustar o movimento para não escorregar.
É aí que percebemos:
"Esta é a contribuição da aprendizagem automática."
Achamos que o Cão Robô pode ser muito útil
em cenários de resposta a desastres
em que é preciso lidar com vários tipos de terreno.
Ou usar os cães para vigilância em ambientes hostis.
Mas a maioria das tecnologias depara-se com o dilema
de tanto poder fazer coisas boas como coisas más.
Por exemplo, podemos usar a tecnologia nuclear para energia…
… mas também podemos desenvolver bombas atómicas, que são muito más.
É o chamado problema da dupla utilização.
O fogo é de dupla utilização.
A inteligência humana é de dupla utilização.
Escusado será dizer que a inteligência artificial também é.
É muito importante pensar no uso da IA no contexto certo.
Porque sim, é fantástico ter um robô de busca e salvamento.
que ajuda a localizar alguém após uma avalanche,
mas esse mesmo robô pode ser usado como uma arma.
Quando vemos empresas a usar robótica com armas,
algo em nós se zanga.
Parte disso é a constatação de que, quando criamos a nossa tecnologia,
isso acontecerá.
É uma tecnologia transformadora.
São sistemas de armas
que podem mudar a nossa segurança de forma dramática.
Atualmente não temos a certeza de que as máquinas consigam distinguir
entre civis e combatentes.
No início da guerra no Afeganistão, integrei uma equipa de atiradores
em busca de inimigos a atravessar a fronteira.
Enviaram uma menina para investigar a nossa posição.
Nunca nos ocorreu matar essa menina.
Segundo as leis da guerra, teria sido legal.
Os combatentes inimigos não têm uma idade mínima.
Se construíssemos um robô que cumprisse a lei da guerra,
ele teria matado a menina.
Como é que um robô sabe a diferença entre o que é legal e o que é certo?
Quando se trata de guerra com drones autónomos,
querem eliminar o mal que causa aos soldados americanos
e ao moral americano,
mas há um aumento de danos civis para os afegãos,
iraquianos e somalis.
Eu perguntaria aos que apoiam o uso da IA em drones:
"E se a vossa aldeia fosse vítima disso?"
É uma faca de dois gumes.
Pode ser usada para o bem o que faríamos normalmente,
mas basta ligar um interruptor
e a tecnologia torna-se potencialmente letal.
Sou farmacêutico clínico.
Tenho uma equipa
que usa inteligência artificial para descobrir fármacos
que curarão doenças que não estão a receber atenção.
Dantes faziam-se ajustes às moléculas de fármacos já existentes
para descobrir fármacos novos.
Agora desenvolvemos uma IA que nos pode dar milhões de ideias,
milhões de moléculas.
Isso proporciona tantas possibilidades
para tratar doenças que nunca pudemos tratar.
Mas há um lado sinistro aonde eu nunca pensei ir parar.
Tudo começou quando fui convidado
por uma organização na Suíça, o Laboratório Spiez,
para dar uma palestra sobre o uso indevido da IA.
O Sean mandou-me um e-mail com algumas ideias
de como podemos usar mal a nossa inteligência artificial.
Em vez de pedirmos ao nosso modelo para criar moléculas parecidas com fármacos
para tratar doenças,
vamos ver se conseguimos gerar as moléculas mais tóxicas de todas.
Eu queria determinar
se podemos usar a tecnologia de IA para criar moléculas mortais?
Para ser sincero, pensámos que ia falhar,
porque tudo o que fizemos foi transformar um 0 num 1.
Ao invertê-lo, em vez de nos afastarmos da toxicidade,
dirigimo-nos para ela.
E pronto.
Enquanto eu estava em casa, o computador trabalhava.
Estava a avançar, gerando milhares de moléculas,
e não tínhamos de fazer nada além de premir "avançar".
Na manhã seguinte, havia um ficheiro no meu computador
que continha cerca de 40 mil moléculas
que eram potencialmente
das moléculas mais tóxicas que se conhecem.
Os pelos da minha nuca eriçaram-se.
Fiquei sem fala.
O computador fez dezenas de milhares de ideias
para novas armas químicas.
Claro que temos moléculas que parecem e são VX e análogos de VX
nos dados.
O VX é uma das armas químicas mais potentes do mundo.
Há novas alegações da Polícia
de que as mulheres vistas a atacar Kim Jong-nam neste homicídio no aeroporto
usaram um agente nervoso mortal chamado VX.
Pode causar morte por asfixia.
É uma molécula muito potente
e a maioria destas moléculas deveria ser ainda mais mortal do que VX.
Tanto quanto sabemos, muitas delas nunca tinham sido vistas.
Quando o Sean e eu percebemos isto, pensámos: "O que fizemos nós?"
Percebi logo que tínhamos aberto a caixa de Pandora
e disse: "Para. Não faças mais nada. Acabámos.
Imprime os diapositivos de que preciso para a palestra."
Quando fizemos a experiência,
pensei: "Qual é a pior coisa que pode acontecer?"
Mas agora acho que fomos completamente ingénuos ao fazê-lo.
O que mais me aterroriza é que qualquer pessoa pode fazer o mesmo.
Basta ligar um interruptor.
Como controlamos esta tecnologia antes de ser usada
para fazer algo totalmente destrutivo?
No âmago da conversa sobre inteligência artificial
e como escolhemos usá-la na sociedade
está uma corrida entre o poder com o qual desenvolvemos tecnologias
e o bom senso que temos para as governar.
Há as implicações morais e éticas evidentes
de confiarmos à mesma coisa que dá energia aos telemóveis
com tomar a decisão moral de tirar vidas.
Trabalho no Future of Life Institute, uma comunidade de cientistas ativistas.
Estamos a tentar demonstrar
que existe este outro lado da aceleração da automatização.
Mas estamos a tentar assegurar que as tecnologias que criamos
são usadas de forma segura e ética.
Vamos falar sobre as regras de combate
e os códigos de conduta no uso da IA nos nossos sistemas de armamento.
Porque estamos a ver tecnologias a entrar no campo de batalha
que podem ser usadas para matar com autonomia.
Em 2021, a ONU divulgou um relatório sobre o uso potencial
de uma arma autónoma letal no campo de batalha, na Líbia.
A ONU disse que um drone na guerra civil da Líbia no ano passado
tinha sido programado para atacar alvos com autonomia.
Se os relatórios da ONU estiverem certos,
terá sido um momento decisivo para a humanidade.
Porque assinala um caso
em que uma IA tomou a decisão de tirar uma vida, não um ser humano.
Vemos armas autónomas de ponta
começarem a ser usadas por todo o mundo.
Houve relatos de Israel.
O Azerbaijão usou sistemas autónomos para alvejar as defesas aéreas arménias.
Pode voar pelo campo de batalha durante horas
à procura de alvos para atacar sozinho,
depois atacá-los sem qualquer intervenção humana.
Vimos recentemente
uns vídeos publicados na Ucrânia.
Não se sabe em que modo estavam quando atacaram.
Estava um humano a escolher os alvos para atacar
ou a máquina fê-lo sozinha?
Mas sem dúvida que chegará um momento,
quer já tenha acontecido na Líbia, na Ucrânia ou noutro lugar,
em que uma máquina decidirá a quem matar no campo de batalha.
As máquinas que exercem poder letal sobre seres humanos
sem intervenção humana
são politicamente inaceitáveis e moralmente repugnantes.
Será que a comunidade internacional
basta para governar esses desafios?
É uma grande incógnita.
Se olharmos para o futuro, mesmo só daqui a uns anos,
o cenário é aterrador,
dado que a quantidade de capital e recursos humanos
investidos para tornar a IA mais poderosa
e usá-la em tantas aplicações diferentes é vasta.
Meu Deus, este gajo.
Ele sabe que não pode ganhar.
Quando vejo a IA superar problemas diferentes, acho inspirador.
Esta é com o credo na boca.
Podem aplicar-se essas mesmas táticas, técnicas e processos a aeronaves reais.
Belo jogo.
Boa, belo jogo.
Surpreende-me
que as pessoas continuem a falar do que a IA não pode fazer. Certo?
"Nunca conseguirá vencer um campeão mundial de xadrez."
Um computador da IBM recuperou
no segundo jogo com o campeão mundial de xadrez, Garry Kasparov.
Kasparov desistiu!
Quando vejo algo além da minha compreensão,
tenho medo. E aquilo foi muito além da minha compreensão.
Depois as pessoas diziam:
"Não conseguirá vencer um campeão mundial no jogo de go."
Acho que a intuição humana ainda é muito avançada para a IA
a conseguir apanhar.
O go é um dos jogos mais complicados que se pode aprender,
porque a quantidade de jogadas no tabuleiro, fazendo as contas,
é maior do que o número de átomos no universo.
Havia uma equipa na Google chamada DeepMind
e criaram um programa chamado AlphaGo
para derrotar os melhores jogadores do mundo.
Parabéns a…
Ao AlphaGo.
Um programa de computador derrotou um profissional do nono dan.
Depois a DeepMind escolheu o StarCraft como o próximo desafio de IA.
O StarCraft é talvez o jogo de estratégia em tempo real mais popular de sempre.
O AlphaStar ficou famoso quando começou a derrotar os campeões do mundo.
AlphaStar a aniquilar o Immortal Arc.
Sabes que mais?
Os profissionais não poderão ganhar esta batalha.
É algo ridículo.
Os jogadores profissionais diziam: "Eu não tentaria essa tática.
Nunca tentaria essa estratégia. É algo que não é humano."
Esse foi talvez o momento "eureca" para mim.
Percebi que a altura certa era agora.
Há uma tecnologia importante e uma hipótese de marcar uma diferença.
Eu só conhecia os problemas de um SEAL no combate a curta distância,
mas um dos meus amigos que era piloto de F-18 disse-me:
"Temos o mesmo problema na comunidade de caças a jato.
Bloqueiam as comunicações.
Há muitos mísseis terra-ar e é demasiado perigoso combater lá."
Imaginem se houvesse um avião de combate comandado por uma IA.
Bem-vindos às provas AlphaDogfight.
Estamos a poucos minutos da primeira semifinal.
A DARPA, a Agência de Projetos de Investigação Avançados,
tinha visto o AlphaGo e o AlphaStar
e surgiu a ideia do concurso AlphaDogfight.
É o que queremos que os pilotos humanos façam.
Parece um combate aéreo humano.
O combate aéreo é um duelo entre dois caças.
É como um combate de boxe no céu.
Talvez tenham visto o filme Top Gun.
Não podemos fugir-lhes?
- Não aos mísseis e canhões. - Então é um combate aéreo.
Aprender a dominar combates aéreos pode demorar oito a dez anos.
É um desafio muito complexo para a IA.
As tentativas anteriores de autonomia nos combates aéreos não foram robustas.
Achámos que a aprendizagem automática era a forma de resolver este problema.
No início, a IA não sabia nada sobre o mundo em que a metemos.
Não sabia que estava a voar nem o que era um combate.
Não sabia o que era um F-16.
Só sabia as ações que tinha disponíveis
e começou a explorá-las aleatoriamente.
O avião azul está a treinar há pouco tempo.
Nota-se que baloiça para a frente e para trás,
voa de forma muito errática e afasta-se do adversário.
O combate avança
e vemos o azul começar a estabelecer o plano de jogo.
Está mais em posição de disparar.
Por vezes o algoritmo de aprendizagem dizia:
"Muito bem. Toma um biscoito. Faz isso mais vezes."
Podemos aproveitar o poder do computador e treinar os agentes muitas vezes
em paralelo.
Como uma equipa de básquete.
Em vez de jogar com a mesma equipa vezes sem conta,
viajamos pelo mundo a jogar com 512 equipas diferentes,
todas ao mesmo tempo.
Podemos melhorar muito depressa.
Fizemos essa simulação 24 horas por dia, todos os dias,
e obtivemos 30 anos de formação de pilotos em dez meses.
Passámos de mal saber pilotar o avião
a ser um assassino a sangue-frio.
No treino, competimos apenas com outra inteligência artificial.
Mas competir contra humanos era o objetivo final.
Chamo-me Mike Benitez
e sou tenente-coronel da Força Aérea dos EUA,
no ativo há cerca de 25 anos.
Fiz 250 missões de combate
e sou formado pela escola de armas,
a versão da Força Aérea do Top Gun.
Nunca voei contra uma inteligência artificial.
Estou ansioso por ver se me saio bem.
Temos preparado um ataque a 1800 m, frente a frente.
Começa o combate.
Já se foi.
Muito interessante.
- Morto. - Apanhou-o. Vitória impecável.
Muito bem, segundo assalto.
A inteligência artificial está a manobrar com tanta precisão
que não a consigo acompanhar.
Mesmo na mira.
Agora já foste.
Apanhou-o!
Ainda me apanhou.
A IA nunca tem medo.
Há um elemento emocional humano no cockpit que a IA não tem.
Uma das estratégias mais interessantes da nossa IA
foi o chamado tiro frontal.
Um humano só quer dispara de trás
porque não se conseguem livrar de nós.
Não tentamos tiros frontais porque é uma guerra de nervos.
Quando nos deparamos frente a frente a uma distância de 900 m ou 150 m,
pode acontecer num ápice.
Há um grande risco de colisão, por isso os humanos não tentam.
A IA só receia a morte se lhe disserem para o fazer.
Parece que estou a lutar contra um humano
que não quer saber da segurança.
Não vai sobreviver a este último.
Não tem tempo suficiente.
Boa noite.
Estou morto.
Fico sensibilizado
por saber que talvez eu não seja o melhor para a missão
e que aquilo me poderá substituir um dia.
Os mesmos 1800.
Compensa 300.
Com este piloto de IA a comandar aviões de caça,
a vitória é implacável e dominante.
Não só ganha por muito.
É tão poderoso que o queremos pôr nos nossos aviões.
Creio que a IA vai pilotar um F-16
e que não vai demorar muito.
Se enfrentarmos um piloto de IA com uma taxa de vitória de 99,99999 %,
não temos hipótese.
Quando penso que um piloto de IA é imbatível,
penso no que uma equipa de 50, cem
ou mil pilotos de IA poderá conseguir.
Um enxame é uma equipa de aeronaves altamente inteligentes
a trabalhar em conjunto.
Partilham informações sobre o que fazer, como resolver um problema.
Os exames serão uma competência revolucionária de transformação
para os nossos militares e aliados.
O alvo foi detetado e os drones seguem-no.
Muito bem, vão aterrar.
O objetivo principal da pesquisa de enxames atual
é destacar um grande número de drones
numa área de difícil acesso ou perigosa.
O Laboratório de Pesquisa do Exército tem apoiado este projeto de investigação.
Se queremos saber o que está em dado sítio
mas é difícil lá chegar ou é uma área muito grande,
destacar um enxame é uma forma muito natural
de aumentar o alcance dos indivíduos
e recolher informações essenciais para a missão.
Atualmente, quando destacamos um enxame,
damos uma ordem única para seguir o alvo de interesse.
E os drones fazem isso sozinhos.
A inteligência artificial permite que os robôs se movam coletivamente em enxame
de forma descentralizada.
Nos enxames da natureza
não há um líder, um animal principal a dar indicações.
O comportamento vem de cada animal,
seguindo umas regras simples.
O comportamento coletivo emergente que vemos vem daí.
O que é admirável nos enxames da natureza
é a elegância com que se movem.
Como se tivessem sido feitos para integrar o grupo.
O que gostaríamos de ver no nosso enxame de drones,
como nos enxames da natureza,
são decisões tomadas pelo grupo coletivamente.
A outra fonte de inspiração para nós
vem da robustez e resistência.
O enxame não cai
se um dado animal não fizer o que devia fazer.
Mesmo que um dos agentes caia, falhe
ou não consiga completar a tarefa,
o enxame continua.
Em última análise, é isso que queremos.
Nos cenários de combate, precisamos de identificar aviões inimigos
e dantes uma pessoa era necessária para controlar um robô.
Com o aumento da autonomia,
antecipo que haja um grande número de robôs
a ser controlado por um número muito pequeno de pessoas.
Não vejo razão para não chegarmos aos mil,
pois cada agente agirá com independência
e não há limites.
Podemos aumentar a aprendizagem…
Trabalhamos com simulações de enxames há bastante tempo
e são horas de passarmos às aeronaves reais.
Esperamos controlar três robôs ao mesmo tempo pela rede,
depois acrescentar mais competências.
Queremos testá-lo em sistemas menores,
mas usar os mesmos conceitos e aplicá-los a sistemas maiores,
como um caça a jato.
Falamos muito
em dar a um pelotão o poder de combate de um batalhão.
Ou dar a um batalhão o poder de combate de uma brigada.
Podemos fazer isso com enxames.
Quando se liberta o poder do enxame,
criamos uma nova estratégia de dissuasão à agressão militar.
Acho que o mais empolgante é o número de vidas jovens
que salvaremos se fizermos isto bem
e trocarmos máquinas
em vez de vidas humanas.
Há quem diga que as armas autónomas tornarão a guerra mais precisa
e compassiva,
mas é difícil antecipar com exatidão
a forma como as armas autónomas mudarão a guerra.
Como a invenção da metralhadora Gatling.
Richard Gatling era um inventor
que viu soldados a regressar feridos da Guerra Civil Americana.
Ele quis encontrar formas de tornar a guerra mais compassiva.
Reduzir o número de soldados mortos na guerra
pondo menos soldados no campo de batalha.
Por isso inventou a metralhadora Gatling, uma arma automática com manivela
que automatizava os disparos.
Aumentava cem vezes os disparos dos soldados.
Muitas vezes, os esforços para tornar a guerra mais compassiva
têm o efeito contrário.
Pensem no efeito de um ataque de drone errante
numa zona rural que insurge a população local contra os EUA
e o governo local. Os "bons".
Agora multipliquem isso por mil.
A criação de um sistema de armas
que é barato, expansível e não exija operadores humanos
muda radicalmente os limites reais do conflito.
Perco sono a pensar num mundo em que a guerra é omnipresente
e já não suportamos o custo humano e financeiro da guerra,
porque estamos tão afastados
das vidas que se perdem.
Isto tudo me atormenta.
Só precisava de um exemplo do uso indevido da inteligência artificial.
As consequências imprevistas dessa simples experiência mental
foram longe de mais.
IA NA DESCOBERTA DE FÁRMACOS: EVITAR FAZER MAIS MAL QUE BEM
Quando dei a palestra
sobre as moléculas tóxicas criadas pela tecnologia de IA,
o público ficou estupefacto.
5000 COMPONENTES ERAM ANÁLOGOS AO VX
A decisão seguinte foi se devíamos publicar a informação.
Por um lado, queremos avisar o mundo
sobre estas capacidades, mas, por outro,
não queremos dar uma ideia a alguém que nunca a tenha tido.
Decidimos que era melhor publicar
para encontrar formas de minimizar o uso indevido deste tipo de IA
antes que aconteça.
A UTILIZAÇÃO DUPLA DA DESCOBERTA DE FÁRMACOS POR IA:
COMO A TECNOLOGIA DE IA PARA A DESCOBERTA DE FÁRMACOS
A reação do público em geral foi chocante.
Veem-se as métricas na página, quantas pessoas a acederam.
O tipo de artigos que costumamos escrever, temos sorte se conseguirmos…
Poucos milhares de pessoas leem o artigo ao longo de um ou vários anos.
Dez mil pessoas leram-no numa semana.
Depois foram 20 mil, 30 mil, 40 mil
e chegámos às dez mil pessoas diárias.
Aparecemos no The Economist, no Financial Times.
A Radiolab contactou-nos. Já ouvi falar da Radiolab!
Depois as reações tornaram-se numa coisa descontrolada.
Quando vemos os tweets, são tipo: "Meu Deus, podiam fazer coisa pior?"
Porque fizeram isto?
Depois recebemos um convite que eu nunca teria previsto.
Houve muito debate na Casa Branca sobre o artigo
e quiseram falar connosco com urgência.
Claro que é uma incrível honra
poder falar com pessoas a esse nível.
Mas depois assimilámos.
"Meu Deus, é a Casa Branca. O chefe."
Tratou de reunir conjuntos de dados que eram de código aberto…
Em cerca de seis horas, o modelo conseguiu gerar cerca de 40 mil…
Fizeram perguntas sobre a potência informática necessária
e dissemos que não era nada de especial.
Um Mac vulgar com seis anos.
Ficaram abismados.
Os responsáveis pela compreensão dos agentes químicos
das agências governamentais não faziam ideia desse potencial.
Temos um livro de receitas para fazer armas químicas
e, nas mãos erradas com más intenções,
pode ser verdadeiramente horrível.
Há que prestar atenção
e tomar medidas para regular a tecnologia
ou restringi-la de forma a não permitir o seu uso indevido.
Porque o potencial das fatalidades
é aterrador.
A questão da ética da IA é abordada em grande parte pela sociedade,
não pelos engenheiros, tecnólogos ou matemáticos.
Cada tecnologia que apresentamos, cada inovação,
acaba por ser sujeita à forma como a sociedade acha que a devemos usar.
Atualmente o Departamento de Defesa diz:
"A única coisa que diz que vamos matar
no campo de batalha é um ser humano."
Uma máquina pode matar,
mas só a mando de um operador humano
e não creio que isso venha a mudar.
Garantem-nos de que este tipo de tecnologia é seguro.
Mas as forças armadas dos EUA não têm uma reputação suficientemente fiável
na guerra de drones.
Quando se trata de confiar a IA às forças armadas dos EUA,
eu diria que o historial fala por si.
A política do Departamento de Defesa dos EUA sobre o uso de armas autónomas
não proíbe qualquer sistema de armas.
Mesmo que os militares não queiram armas autónomas,
prevê-se que entreguem cada vez mais decisões às máquinas
só para acompanhar os adversários.
Isso pode levar os militares a automatizar decisões
contra a sua vontade.
Vladimir Putin disse: "Quem liderar na IA vai liderar o mundo."
O Presidente Xi deixou claro que a IA é uma das principais tecnologias
que a China quer dominar.
Estamos numa corrida tecnológica.
Ouvimos falar de barreiras de segurança
e acho que é isso que as pessoas devem fazer.
Mas há uma autêntica corrida à superioridade da IA.
E os nossos adversários, sejam a China, a Rússia ou o Irão,
estão-se a marimbar para a nossa política de IA.
Há muito mais conversas sobre a política de IA
mas eu gostaria que mais líderes pensassem
na rapidez com que a podem construir.
"Vamos dar-lhe recursos e construí-la."
ENCONTRO E EXPOSIÇÃO ANUAL DA AUSA
EXÉRCITO DOS EUA
Estamos na maior feira anual da Associação do Exército dos EUA.
Qualquer empresa que vende produtos ou tecnologias às forças armadas
estará a expor.
A Base Aérea de Tyndall tem quatro dos nossos robôs
a patrulhar diariamente a base, 24 horas por dia.
Podemos acrescentar tudo: câmaras, sensores e tudo o que precisarem.
Braços manipuladores. Tudo para completar a missão que o cliente deseja.
E se o inimigo começar a usar IA?
Um sistema de combate que pensa e reage
mais depressa do que um ser humano. Temos de estar prontos.
Treinamos os nossos sistemas para recolher informações sobre o inimigo,
gerindo alvos inimigos com humanos a supervisionar a cadeia de destruição.
- Olá, general. - Tudo bem?
Tudo. Como está?
Só direi que ninguém está a investir mais num piloto de IA.
O nosso piloto de IA chama-se Hivemind
e aplicámo-lo ao nosso quadricóptero Nova. Entra nos edifícios e explora-os
à frente das forças das operações especiais
e de infantaria.
Vamos aplicar o Hivemind ao V-BAT.
Penso em destacar centenas dessas equipas,
seja no Estreito de Taiwan
ou na Ucrânia, a dissuadir os adversários.
Estou muito empolgado.
- Muito bem. Obrigado. - Obrigado, general.
Os pilotos de IA devem ser omnipresentes e isso deve acontecer até 2025 ou 2030.
A sua assimilação será rápida nos exércitos de todo o mundo.
O que faz no Exército romeno, sistemas aéreos autónomos?
Alta tecnologia no exército.
Gastámos 500 milhões de dólares para construir um piloto de IA.
Gastaremos mais mil milhões de dólares nos próximos cinco anos.
É um dos principais motivos pelos quais estamos a ganhar os programas nos EUA.
Muito bem.
Impressionante. Conseguiram transformar isso numa arma?
Ainda não está armado.
Ainda não. Mas no futuro, sim.
Os nossos clientes veem um camião. Nós vemos um camião inteligente
que faz muitas coisas diferentes.
Obrigado, meu amigo.
Entrarei em contacto consigo.
Se voltarem daqui a dez anos,
verão que a IA e a autonomia terão dominado este mercado.
As forças apoiadas pela IA e pela autonomia
dominarão, aniquilarão e destruirão as outras forças armadas.
Será o equivalente de cavalos a enfrentar tanques
ou pessoas com espadas a enfrentar metralhadoras.
Não terão hipótese.
Tornar-se-á omnipresente, usada em todos os tipos de guerra,
a nível tático
e estratégico,
a velocidades que os humanos ainda nem conseguem imaginar.
Os comandantes já estão sobrecarregados com demasiada informação.
Imagens de satélites, drones e sensores.
Uma das coisas que a IA faz
é ajudar o comandante a perceber mais depressa o que se passa.
E depois: "Que decisões devo tomar?"
A inteligência artificial levará em conta todos os fatores
que decidem a forma de travar uma guerra,
conceber estratégias…
… e fazer recomendações sobre como ganhar a batalha.
CENTRO DE INOVAÇÃO
A Lockheed Martin, tal como o Departamento de Defesa, cliente nosso,
vê a inteligência artificial como um catalisador tecnológico
para comandar e controlar.
A taxa de propagação média é de 60 cm por segundo.
O perímetro são cerca de 280 hectares.
A névoa da guerra é real para nós que trabalhamos na defesa,
mas é semelhante ao ambiente
e às decisões relacionadas com os incêndios florestais.
O incêndio de Washburn fica a norte da cidade de Wawona.
Temos de tomar decisões com dados insuficientes.
Como pode a IA ajudar com a névoa da guerra?
Os incêndios florestais são caóticos.
São muito complexos
e estamos a tentar usar a inteligência artificial
para ajudar nas decisões.
O Gestor Cognitivo de Missão é um programa nosso
que grava vídeo aéreo de infravermelhos
e o processa através dos nossos algoritmos de IA
para prever o estado futuro do incêndio.
No futuro,
o Gestor Cognitivo de Missão fará simulações,
executando cenários em milhares de ciclos
para recomendar a forma mais eficaz de utilizar os recursos,
para suprimir as zonas prioritárias de fogo.
Dirá: "Façam uma supressão aérea com um Firehawk aqui.
Peguem nas equipas do solo e desmatem aqui.
Usem bombeiros com mangueiras aqui
e levem-nos para as zonas prioritárias."
Essas decisões poderão ser geradas com maior rapidez
e eficiência.
Vemos a IA como uma forma única para os humanos
conseguirem acompanhar o ambiente em constante mudança.
Há uma série de parâmetros comparáveis
ao que estamos habituados na Lockheed Martin, no lado da defesa.
As Forças Armadas já não falam só em usar a IA
e sistemas de armas individuais para tomar decisões sobre alvos e destruição,
mas em integrar a IA
na arquitetura da tomada de decisões das Forças Armadas.
O Exército tem um grande projeto chamado Project Convergence.
A Marinha tem o Overmatch
e a Força Aérea tem o Sistema de Gestão de Combate Avançado.
O Departamento de Defesa tenta perceber:
"Como juntamos todas estas peças
para operar mais depressa do que os adversários
e conseguir uma vantagem?"
Um Gestor de Combate de IA seria um general de alto escalão
encarregado da batalha.
A ajudar a dar ordens a um grande número de forças,
a coordenar as ações de todas as armas em campo,
a uma velocidade que nenhum humano poderia acompanhar.
Passámos os últimos 70 anos
a construir o exército mais sofisticado do planeta
e agora enfrentamos a decisão de ceder o controlo dessa infraestrutura
a um algoritmo, um programa informático.
As consequências dessa decisão
poderão desencadear a totalidade dos nossos arsenais militares em peso.
Não é uma Hiroshima. São centenas.
Temos de agir agora,
porque a oportunidade para conter o risco está a desaparecer rapidamente.
Começamos esta tarde com os desafios da segurança internacional
das tecnologias emergentes
na área dos sistemas de armas autónomas letais.
A conversa está a ter lugar nas Nações Unidas
sobre a ameaça de armas autónomas letais.
e a proibição dos sistemas que usem IA para identificar pessoas como alvos.
O consenso entre os tecnólogos é claro e retumbante.
Opomo-nos a armas autónomas que visem humanos.
Há anos que os Estados debatem a questão
dos sistemas letais de armas autónomas.
Trata-se de um conceito de segurança partilhada.
Mas claro que não é fácil.
Certos países, sobretudo as potências militares,
querem estar à frente na tecnologia
para estarem à frente dos adversários.
O problema é que todos têm de concordar para que se faça alguma coisa.
Haverá pelo menos um país que se opõe
e os Estados Unidos e a Rússia já deixaram claro
que se opõem a um tratado que proíba as armas autónomas.
Quando pensamos no número de pessoas a trabalhar para tornar a IA mais potente,
a sala está a abarrotar.
Quando pensamos na sala das pessoas que garante que a IA seja segura,
a sala tem muito menos gente.
Mas também sou muito otimista.
Penso na Convenção de Armas Biológicas,
que aconteceu no meio da Guerra Fria,
apesar da tensão entre a União Soviética e os Estados Unidos.
Conseguiram perceber que o desenvolvimento de armas biológicas
não interessava a nenhuma das duas nações
nem ao mundo em geral.
As corridas às armas dão mais importância à velocidade do que à segurança.
Mas acho que é importante ter em conta
que, a certa altura, o custo do excesso de velocidade se torna demasiado alto.
Não podemos desenvolver as coisas isoladamente
e produzi-las sem pensar aonde podem ir para no futuro.
Temos de evitar o momento da bomba atómica.
As apostas na corrida à IA são enormes.
Acho que pouca gente imagina a estabilidade global
que foi proporcionada por uma força militar superior
nos últimos 75 anos.
Por isso os Estados Unidos e as nossas forças aliadas
têm de superar a IA dos adversários.
Na guerra não há segundo lugar.
A China traçou um plano ambicioso para ser líder mundial em IA até 2030.
Há quem diga que a América está a perder…
Vai acelerar a adoção de inteligência artificial
para garantir a nossa vantagem militar.
Estamos a avançar com esta tecnologia.
Acho que não está claro até onde iremos.
Nós controlamos a tecnologia ou é ela que nos controla?
Não haverá segundas oportunidades.
Quando se abre a caixa de Pandora, fica aberta.
É muito difícil voltar a fechá-la.
Se não agirmos agora, será tarde de mais.
Talvez já seja tarde de mais.
Legendas: Rodrigo Vaz