Downloaded from YTS.MX
Official YIFY movies site: YTS.MX
‎제게 AI는 두려운 대상이에요
‎좋아요, 원을 그리며 올라갑니다 ‎대형이 좋아요
‎AI가 가진 잠재력으로 ‎빈곤을 타파하고
‎신약을 개발하고
‎세상을 더 평화롭게 ‎만들 수 있어요
‎잘하네요
‎그러나 그 과정에 ‎위험이 너무나 많죠
‎간단히 말해 우리는 AI로 ‎예측하기가 매우 어려운
‎비인간 지능을 만들고 있어요
‎AI는 점점 강력해지는데
‎AI를 어디까지 사용하고 ‎어디까지 사용하지 않을지
‎어느 선에 맞춰야 하는 걸까요?
‎이 논의의 출발점으로 ‎군사적 활용만큼
‎적합한 분야가 없어요
‎현재의 전장은 소프트웨어와 ‎하드웨어의 영역이 됐습니다
‎목표물을 포착했다
‎군대들은 적을 앞지르는 ‎AI를 개발하려고 경쟁하고 있죠
‎죽었다
‎시대가 빠른 속도로 바뀌고 있어요
‎주요 군대뿐만 아니라
‎비국가 행위자, 사기업
‎심지어 우리와 친숙한 ‎지역 경찰서에서도
‎자율 살상 무기를 ‎사용하는 시대로 가고 있어요
‎생명을 빼앗는 결정을 ‎알고리즘과 소프트웨어에
‎넘기게 될까요?
‎이 시대가 고민할 ‎시급한 과제 중 하나예요
‎현명하게 사용하지 않으면
‎이 세상 모든 이에게 ‎심각한 위협이 될 거예요
‎"언노운"
‎"킬러 로봇"
‎다들 수고했다
‎그간 썼던 렌즈보다 ‎훨씬 광각이에요
‎그래요?
‎훨씬 많은 정보를 볼 수 있죠
‎멋지군요
‎저희 실드AI는 ‎자율 운행 기능을 기반으로 한
‎인공 지능 기술로 ‎AI 파일럿을 만들어
‎항공기에 장착하는 일을 합니다
‎AI 파일럿을 개발하는 건
‎항공기에 높은 수준의 ‎자율성을 부여하는 작업입니다
‎AI 자체적으로 ‎문제를 해결하게 되죠
‎노바는 자율 비행 쿼드콥터로
‎건물과 지하 구조물을 ‎탐색하는 일을 해요
‎실제 처리 병력보다 먼저 투입돼
‎해당 공간을 보고 듣는 ‎역할을 하죠
‎마지막으로 확인했을 때보다 ‎비약적으로 발전했어요
‎오늘은 탐사 방식을 ‎조금 바꾸는 중이에요
‎층별로 탐사하는 중이죠
‎한 층의 모든 방을 수색한 후 ‎다음 층으로 가도록 하려고요
‎- 훌륭해요 ‎- 최근 변경 사항이 있었는데…
‎많은 분이 제게 물어요
‎인공 지능이 어째서 ‎중요한 능력이냐고요
‎"브랜던 쳉 ‎전 미군 네이비 실"
‎그럴 때는 과거에 했던 ‎작전들을 떠올리게 됩니다
‎해군에서 7년 복무했어요
‎과거 네이비 실 소속으로 ‎아프가니스탄에 2차례
‎태평양 전구에 1차례 파견됐었죠
‎하루에 건물이나 기지 내부 ‎150개소를 수색하기도 했어요
‎핵심 능력 중 하나가 근접전입니다
‎건물 안 초밀착 거리에서 ‎총격전을 치를 수 있습니다
‎우리가 표적이 될 수 있어요
‎건물 안에 사제 폭발물이 ‎있을 수도 있죠
‎특수부대나 보병이 ‎작전 구역에서 할 수 있는
‎가장 위험한 행위입니다
‎무엇보다도 위험하죠
‎전 해군에서 복무한 시간에 ‎평생 감사하면서 살 거예요
‎생각나는 순간과 기억이 많아요 ‎그때 생각을 하면
‎가슴이 울컥하죠
‎클리셰 같지만 자유는 공짜가 ‎아니란 말을 전적으로 믿어요
‎경험해서 아는 얘기예요 ‎많은 희생이 있었습니다
‎죄송합니다
‎전우에게 나쁜 일이 닥치면
‎부상이든 전사든
‎정말 비극적이에요
‎지금 저희가 하는 이 일을 통해서 ‎그런 비극이 일어나는 횟수를
‎줄여보겠다는 게 ‎저를 이끄는 원동력입니다
‎2000년대 후반
‎국방부 내에 자각이 있었어요
‎어쩌면 우연히 마주친 ‎로봇 혁명이라고도 부를 수 있겠죠
‎우리는 이라크와 아프간에 ‎공중, 지상 로봇을 많이 보냈어요
‎"폴 샤레 ‎'새로운 전쟁' 저자"
‎제가 오바마 행정부에서 ‎국방부 차관직을 제안받았을 때는
‎전쟁 방식이 ‎뚜렷이 변하던 시기였어요
‎"로버트 워크 ‎2014-2017 미 국방부 차관"
‎사람을 쓰던 자리에 ‎로봇을 투입했습니다
‎초기의 로봇공학 시스템은 ‎원격 조종 기반이었어요
‎원격 조종 차량처럼 ‎사람이 가동하고, 운전했죠
‎처음에는 대개 사제 폭발물을 ‎추적하는 용도로 썼는데
‎폭탄이 터지면 로봇이 파괴됐어요
‎그러면 '애석하게 됐군 ‎다른 로봇을 보내지'라고 했죠
‎아프가니스탄에서 ‎프레데터 드론을 썼어요
‎아주 굉장히 유용한 ‎공습용 장비로 자리 잡았죠
‎시간이 흐르면서 전쟁 계획관들의 ‎의문이 시작됐어요
‎'로봇을 더 활용할 방법은 뭘까?' ‎그 궁금증이 어디로 이어졌을까요?
‎당시의 공통 관심사 중 하나가 ‎자율성 증대였어요
‎자율 무기는 인간의 개입을 ‎최소화하거나, 아예 배제하고
‎자체적으로 의사 결정을 ‎내리는 무기입니다
‎독립적 능력이 있고 자율적이죠
‎"스테이시 페티존 ‎신미국안보센터"
‎무장 여부로 살상 능력이 결정돼요
‎전체 시스템의 ‎자율성이 강화될수록
‎모든 것이 훨씬 빠른 속도로 ‎진행되기 시작합니다
‎적보다 빠른 페이스로 ‎작전을 수행하면
‎전쟁에서 압도적인 이점을 ‎확보하게 되죠
‎자율성과 관련해 ‎저희가 중점을 두는 건
‎고도로 탄력적인 ‎정보 시스템입니다
‎환경에 기반해 ‎상황을 읽고 반응하는 시스템이자
‎그 세계에서 어떤 작전을 ‎시행할지 결정하는 시스템이죠
‎"샌디에이고 ‎캘리포니아"
‎오늘 저희가 찾아온 시설은 ‎원래 영화 스튜디오로 지어졌는데
‎용도를 변경해
‎현실감 있는 군사 훈련 장소로 ‎쓰고 있어요
‎AI 파일럿을 평가하려고 ‎이곳에 왔습니다
‎위협 요소를 탐색하는 ‎작전을 수행할 겁니다
‎처리반 업무를 대신해
‎문제를 어떻게 공략할지 ‎의사 결정을 내릴 수 있어요
‎이 구간을 '죽음의 코너'로 불러요 ‎문 앞을 통과해야만 하죠
‎가장 취약한 지점이에요
‎이게 낫겠어요
‎노바는 문 뒤에 있는 사람이 ‎총을 들었는지
‎평범한 가족인지 알려줍니다
‎노바를 통해 더 나은 결정을 내려 ‎인명 손실을 줄이고자 해요
‎저희는 비전 센서를 사용해서
‎해당 환경이 어떤 모습인지 ‎이해도를 높이려고 해요
‎다층 건물입니다
‎이게 지도예요
‎현장을 돌며 어느 자리에서 ‎뭘 봤는지가 기록돼 있죠
‎인간 탐지 기능이군요, 훌륭해요
‎노바에 장착된 센서 중에는 ‎열 스캐너도 있어요
‎섭씨 37도로 나오면 ‎아마도 사람이겠죠
‎사람은 다른 고려 사항이 없는 한 ‎위협으로 간주합니다
‎전쟁의 불확실성을 제거해 ‎더 나은 결정을 내리는 게 목표죠
‎장기적으로 본다면
‎자율 비행 팀을 편성하는 것까지 ‎염두에 두고 있어요
‎자율 주행 차량에 타면
‎사람이 이런 식으로 ‎명령을 내렸을 거예요
‎'A지점에서 B지점으로 이동해'
‎저희 시스템은 A지점에서 ‎B지점으로 이동하라는 게 아니라
‎어떤 목표를 달성하라는 ‎요구를 받습니다
‎이를테면 ‎'난 우유가 필요해' 같은 거죠
‎로봇은 그 말을 듣고 ‎어느 상점에 가서
‎우유를 획득해 돌아올지 ‎방법을 찾아요
‎심지어는
‎'냉장고를 채워' 같은 명령을 ‎예로 드는 게 더 나을 수도 있겠죠
‎따라서 우리가 다루는 지능은
‎필요한 게 뭐고, 어떻게 성취할지 ‎머리를 짜내는 수준이에요
‎그 과정에 난관이나 ‎문제가 등장할 경우
‎해소할 방법을 찾아낼 줄 알죠
‎해군을 떠나기로 결정한 후로 ‎고민을 시작했어요
‎'좋아, 이제 뭘 하지?'
‎저는 인터넷 세대고 ‎발전 과정을 목격했어요
‎그래서 이런 결론을 내렸습니다
‎2015년의 AI는
‎1991년의 인터넷과 ‎같은 위치에 있다고요
‎AI는 세계에서 가장 강력한 기술로 ‎도약할 채비가 되어 있었어요
‎매일 AI를 다루면서 ‎얼마나 발전했는지 눈에 보여요
‎하지만 많은 이들은 AI를 생각하면
‎곧장 할리우드를 떠올려요
‎"WOPR ‎전쟁수행계획반응"
‎게임을 할까?
‎세계 핵융합 폭탄 전쟁은 어때?
‎좋아
‎"누구 편이야? ‎미국/소련"
‎사람들은 대개 ‎인공 지능이란 말을 들으면
‎'터미네이터'나 ‎'아이, 로봇'을 떠올려요
‎비활성화해
‎난 뭐지?
‎아니면 '매트릭스'죠
‎SF 영화에서 본 것을 ‎기본적으로 떠올려요
‎'내가 인간인지 어떻게 알아? ‎컴퓨터로 만든 AI일 수도 있어'
‎레플리칸트도 다른 기계와 똑같아 ‎이롭거나 해롭거나 둘 중 하나지
‎하지만 훨씬 원초적인 AI 중에도
‎우리의 운명을 바꿀 것들이 ‎무수히 많아요
‎생각하고 말하는 로봇 수준에 ‎한참 못 미치더라도요
‎로봇은 지금도 흔하고 ‎의사 결정도 내려요
‎로봇 혁명은 이미 시작됐습니다
‎모두가 상상했던 모습과 달라서 ‎눈치를 못 챌 뿐이죠
‎터미네이터는 침투 유닛이에요 ‎반은 사람이고 반은 기계죠
‎터미네이터 같은 ‎킬러 로봇 얘기가 아닙니다
‎인간이 하는 특정 업무를 ‎똑같이 하는 AI를 말하는 거죠
‎하지만 그런 시스템이 ‎신뢰할 만한지가 의문입니다
‎간밤에 발생한 인명 사고에
‎자율 주행하던 우버 SUV가 관련된 ‎새로운 정황이 드러났습니다
‎이 기업은 인공 지능 챗봇을 ‎개발했는데요
‎다소 인종차별적인 어조로…
‎주 의원 26명이 범죄자로 ‎오인됐습니다
‎"아마존 안면 인식 기능 ‎국회의원 28명을 범죄자로 오인"
‎AI가 현실 세계의 복잡성을 ‎소화할 수 있느냐가 관건입니다
‎"케임브리지 ‎매사추세츠주"
‎실제 세상은 아주 뒤죽박죽이에요
‎우리가 모르는 게 너무 많아서
‎AI 시스템을 훈련시키기가 ‎훨씬 어렵죠
‎바로 그런 점 때문에 ‎머신 러닝 시스템이 도입됐어요
‎머신 러닝은 ‎장족의 발전을 이뤄냈어요
‎지금은 컴퓨터에게 모든 걸 ‎다 가르치지 않아도 되거든요
‎컴퓨터에 수백만 개의 정보를 주면
‎기계가 학습을 시작해요
‎어느 분야에나 적용이 가능하죠
‎저희는 로봇 도그 프로젝트를 통해
‎다양한 지형을 걷는 개를 ‎선보이려고 해요
‎인간은 오랜 시간에 걸쳐 ‎걸을 수 있게 진화했지만
‎다양한 지형에 적응하기 위해 ‎지능이 많이 필요했어요
‎로봇 시스템이 ‎해결해야 할 의문이 있어요
‎동물과 인간처럼 ‎적응할 수 있느냐는 거죠
‎머신 러닝을 위해서는
‎시뮬레이션 안에서 ‎다량의 정보를 수집해야 돼요
‎시뮬레이션은 현실을 디지털로 ‎똑같이 재현한 판박이예요
‎현실 속의 수많은 상황을 ‎여러 컴퓨터에서 재현할 수 있죠
‎시뮬레이션 안에서 ‎수천 가지 행동 표본을 모아요
‎지표면에 따라서 ‎저마다 미끄러운 정도가 다르고
‎푹신함도 다르겠죠
‎시뮬레이션 속 수많은 로봇이 ‎경험한 내용을 수집한 다음
‎현실의 로봇 시스템에 ‎다운로드해요
‎오늘은 로봇 도그가 새로운 지형에 ‎적응하는지 실험하려고 해요
‎로봇이 발포 고무에 올라가자
‎발을 구르는 식으로 움직였어요
‎반면, 폴리 소재의 표면에서는
‎미끄러지지 않도록 ‎동작을 정비하는 시도를 했죠
‎그걸 보면서 번뜩 생각이 들어요
‎'이런 걸 제공하는 게 ‎머신 러닝이구나'
‎저희는 로봇 도그가 ‎재난 대응 시나리오에서
‎아주 유용하리라고 생각해요
‎각양각색의 지형을 ‎수색해야 하는 상황이거든요
‎또는 혹독한 환경에 ‎감시용으로 도입해도 좋겠죠
‎하지만 어떤 기술이든 ‎난관을 만나게 돼 있어요
‎장점이 있으면 단점도 있죠
‎예를 들어 핵 기술로 ‎에너지를 만들 수 있지만…
‎그걸로 원자 폭탄도 ‎만들 수 있으니 정말 끔찍하죠
‎이런 걸 가리켜 ‎이중 용도의 문제라고 하죠
‎불은 이중 용도예요
‎인간의 지능도 이중 용도로 쓰이죠
‎그러니 인공 지능 역시 ‎말할 것도 없이 이중 용도예요
‎AI가 사용되는 맥락을 ‎고려하는 게 정말 중요합니다
‎수색 구조 로봇이 생기는 건 ‎정말 좋은 일이죠
‎눈사태로 인한 매몰자를 ‎찾을 수 있을 테니까요
‎하지만 같은 로봇이 ‎무기가 될 수도 있어요
‎로봇 기술을 살상 무기로 ‎이용하는 회사를 보면
‎일단은 화가 나죠
‎그와 동시에 우리 기술을 ‎세상에 내놓으면 어떻게 될지
‎현실적인 감각이 생겨요
‎이건 세상을 바꿀 기술이에요
‎이 무기 체계가
‎인류의 안전과 안보에 ‎극적인 변화를 가져올 겁니다
‎현재로서는 기계가 ‎민간인과 전투 병력을
‎"이즈미 나카미츠 ‎UN 군축 고위대표"
‎구분할 줄 안다고 ‎단언할 수 없어요
‎저는 아프간 전쟁 초기에 ‎육군 레인저 부대 저격팀 소속으로
‎국경을 넘어오는 적군을 ‎찾는 일을 했어요
‎적은 우리 위치를 파악하려고 ‎어린 여자애를 정찰병으로 보냈죠
‎어린 소녀에게 총 쏜다는 건 ‎평생 생각한 적이 없었어요
‎전시국제법으로 따지면 ‎그게 합법이 됩니다
‎법에는 적 병력의 ‎나이가 명시돼 있지 않아요
‎전시국제법을 철저히 따르는 ‎로봇을 만들면
‎그 소녀를 쐈을 거예요
‎로봇이 합법성과 당위성의 ‎차이를 알겠어요?
‎"폴 샤레 ‎전 미 육군 레인저"
‎자율 비행 드론 전쟁에서는
‎전쟁이 미군과 ‎미국인의 정서에 끼칠 피해를
‎없애는 데 초점을 맞추겠지만
‎"아라시 아지자다 ‎나은 내일을 위한 아프간인들"
‎아프간에서 발생하는 ‎민간 피해는 늘어날 거예요
‎이라크와 소말리아도 마찬가지죠
‎드론에 AI를 도입해야 한다고 ‎믿는 이들에게 묻고 싶습니다
‎드론이 당신 마을에서 ‎활동한다면 어떻겠냐고요
‎AI는 양날의 검입니다
‎우리가 생각하는 정상적 의도로 ‎사용된다면 좋겠지만
‎스위치 한 번이면
‎인명을 살상하는 존재로 ‎탈바꿈할 가능성이 큰 기술이죠
‎"롤리 ‎노스캐롤라이나주"
‎저는 임상 약리학자입니다
‎저희 팀에서는
‎AI를 활용해
‎전혀 주목받지 못하는 질병의 ‎치료제를 찾아내는 일을 해요
‎과거의 약제 개발은 ‎원래 있던 분자를 가지고
‎신약이 되도록 변형하는 ‎방식이었어요
‎지금 저희는 수많은 아이디어를 ‎제공하는 AI를 개발했어요
‎수많은 분자를 다루죠
‎그것을 통해 무궁무진한 ‎가능성이 열립니다
‎그간 치료한 적 없는 병도 ‎다스릴 수 있죠
‎하지만 제가 건드리게 될 거라곤 ‎상상도 못 했던
‎어두운 면이 있었어요
‎모든 게 시작된 건 스위스에 있는
‎슈피츠연구소란 기관의 ‎초청을 받으면서부터였죠
‎AI의 오남용 가능성에 관해 ‎발표해 달라는 요청이었어요
‎션한테 이메일을 받았어요
‎우리 AI가 오남용될 만한 사례를 ‎몇 가지 생각해 보자고요
‎우리 모델에 질병 치료에 쓸 ‎치료제 관련 분자를
‎만들도록 지시하는 대신에
‎세계 최고의 맹독성 분자를 ‎만들어 보자는 거였죠
‎제 논지는 이거였어요
‎'치명적인 분자를 제조하는 데 ‎AI 기술을 사용할 수 있을까?'
‎솔직히 저희는 실패를 예상했어요
‎우린 그저 수치를 0에서 1로 ‎바꿨을 뿐이었거든요
‎수치를 바꾼 건 ‎독성을 피하지 말고
‎독성에 가까워지라는 명령이었어요
‎그게 다였죠
‎제가 집에 간 사이 ‎컴퓨터는 일을 했어요
‎열심히 뚝딱거리며 ‎수천 가지 분자를 만들었고
‎저희는 그저 '시작' 버튼을 ‎누른 게 다였죠
‎다음 날 아침 ‎제 컴퓨터에 파일이 하나 생겼고
‎그 안에 대략 4만 개의 ‎분자가 들어 있었는데
‎인류 역사상
‎가장 독성이 높은 분자라고 해도 ‎될 만한 것들이었어요
‎등줄기에 소름이 돋았어요
‎충격이었죠
‎컴퓨터가 새로운 화학 무기에 쓸
‎수만 가지 아이디어를 냈어요
‎데이터 세트에는 ‎VX 및 VX 유사체 분자들이
‎들어 있었습니다
‎VX는 세계에서 가장 강력한 ‎화학 무기로 꼽혀요
‎경찰에서 새로운 주장이 나왔죠
‎공항에서 김정남에게 ‎공격을 가한 여성이
‎VX라는 치명적인 신경작용제를 ‎사용했다고 합니다
‎질식사를 유발할 수 있어요
‎굉장히 강력한 분자예요
‎그런데 생성된 분자들 대부분 ‎VX보다 강한 독성이 예측됐어요
‎예전에 본 적 없는 분자가 ‎거의 대부분이었어요
‎션과 저는 그 결과를 보며 놀랐죠 ‎'우리가 무슨 짓을 한 거지?'
‎우리가 판도라의 상자를 ‎열었다는 걸 곧 깨달았어요
‎'멈춰, 더 이상 아무것도 말고 ‎이걸로 끝이야'
‎'발표에 필요한 슬라이드만 ‎만들면 돼'
‎그 실험을 시작할 때는
‎'최악의 상황이 와 봤자 ‎별거겠어?' 했는데
‎지금은 '우리가 순진했어 ‎뭘 몰라도 한참 몰랐지' 싶어요
‎우리가 아니라도 누구든 할 수 ‎있다는 점이 가장 두려워요
‎스위치 한 번이면 끝이죠
‎끔찍한 파국을 불러일으키는 데 ‎활용되기 전에
‎이 기술을 통제할 방법으론 ‎무엇이 있을까요?
‎"보스턴 ‎매사추세츠주"
‎인공 지능을 둘러싼 대화와
‎사회에서의 활용법에 관한 ‎논의의 핵심에는
‎기술을 개발하는 힘과 ‎그것을 다스릴 지혜 사이의
‎줄다리기가 자리하고 있어요
‎도덕적, 윤리적 영향이 ‎분명히 있어요
‎목숨을 빼앗는 도덕적 결정을
‎스마트폰에게 ‎위임하는 것과도 같죠
‎저는 과학 활동가 모임인 ‎생명의 미래 연구소 소속이에요
‎저희는 자동화 기술이
‎가속화되고 확대된 이면을 ‎널리 보여주고 싶은 겁니다
‎인간이 창조한 기술이 ‎안전하고 윤리적으로 쓰이는지
‎똑똑히 지켜보려고 ‎노력하고 있어요
‎우리 무기 체계 전반에 ‎AI를 도입하는 과정에
‎교전 규칙과 행동 규범을 ‎어떻게 할지 논의하자는 겁니다
‎지금은 AI가 ‎전장에 자유롭게 투입돼
‎자체 판단으로 인명을 ‎죽일 수 있는 상황이거든요
‎2021년 UN은 보고서를 내서 ‎자율 살상 무기가
‎리비아 전장에서 ‎사용될 가능성에 관해 언급했어요
‎UN 패널은 지난해 ‎리비아 내전에 투입된 드론이
‎목표물을 자율 공격하도록 ‎프로그램되어 있었다고 밝혔습니다
‎"인간 개입 없이"
‎UN 보고서가 정확했다면
‎인류에 분수령이 될 ‎순간이었다고 봅니다
‎인간이 아니라 AI가
‎생명 살상 결정을 내린 ‎실제 사건이거든요
‎진보한 자율 무기가
‎세계 각지에서 사용되기 시작하는 ‎장면이 목격되고 있어요
‎"하마스 지도자 색출용 드론 부대 ‎가자 지구 출격"
‎이스라엘에서 그런 보도가 나왔고
‎아제르바이잔도 자율 무기로 ‎아르메니아 방공 구역을 뚫었어요
‎전장 안팎을 ‎몇 시간 동안 비행하면서
‎공격할 대상을 ‎스스로 찾아다니다가
‎아무 인적 개입 없이 ‎자체적으로 타격합니다
‎최근에는
‎우크라이나에서 올린 ‎여러 영상을 봤어요
‎작전 당시 어떤 모드였는지 ‎밝혀지지 않았어요
‎공격할 표적을 선택할 때 ‎인간이 관여하고 있었는지
‎기계가 자체적으로 했는지 ‎알 수가 없죠
‎하지만 조만간 ‎그런 때가 올 겁니다
‎리비아나 우크라이나 ‎혹은 다른 곳에서 그랬듯
‎전쟁터에서 누굴 죽일지 ‎기계가 자체적으로 결정할 거예요
‎기계가 인간의 개입 없이 ‎인간을 상대로
‎살상력을 휘두르는 것은
‎정치적으로 용인할 수 없으며 ‎도덕적으로 불쾌한 일입니다
‎국제 사회가
‎이런 도전을 ‎충분히 제어할 수 있을지
‎큰 의문을 갖게 됩니다
‎"전쟁 윤리: 우크라이나 드론 ‎살인 로봇에 한 발 접근?"
‎미래를 내다보면 ‎지금부터 불과 몇 년만 지나도
‎굉장히 소름 끼치는 환경이 ‎조성될 거예요
‎더 강력한 AI를 만들고
‎다양한 용도로 활용하기 위해
‎투입되는 자본과 인력이
‎엄청나거든요
‎"알링턴 ‎버지니아주"
‎맙소사, 이 녀석
‎얘는 자기가 못 이기는 걸 알아
‎AI가 여러 문제에서 ‎승리하는 모습에서 영감을 받아요
‎절박하니까 별짓을 다 하네
‎똑같은 전술, 기술, 절차를 ‎실제 항공기에 적용할 수 있어요
‎좋은 승부였어
‎그래, 재미있었어
‎저는 사람들이
‎AI가 이건 못 할 거라고 ‎계속 우기는 게 신기해요
‎'체스에서 세계 챔피언을 ‎꺾을 순 없어'
‎체스 챔피언 ‎가리 카스파로프와의 2차전에서
‎IBM 컴퓨터가 설욕에 성공했습니다
‎카스파로프가 경기를 포기했어요!
‎도저히 이해가 안 가는 걸 보면
‎겁이 납니다, 제 머리로는 ‎전혀 이해가 안 가는 경기였어요
‎사람들은 그런 말도 했죠
‎'바둑에서는 세계 챔피언을 ‎꺾지 못할 거야'
‎인간이 배우는 게임 중에 ‎가장 복잡한 게 바둑이에요
‎판 위에서 일어나는 ‎움직임의 숫자를 계산해 보면
‎온 우주에 있는 원자보다도 많아요
‎"구글 딥마인드 ‎챌린지 매치"
‎구글에 딥마인드라는 팀이 있어요
‎거기서 알파고라는 ‎프로그램을 만들었는데
‎세계 최고의 선수들을 ‎꺾는 게 목표였죠
‎축하합니다, 승자는…
‎- 알파고네요 ‎- 알파고죠
‎컴퓨터 프로그램이 ‎9단 고수를 이겼어요
‎딥마인드가 택한 다음 대결 상대는 ‎스타크래프트였어요
‎스타크래프트는 역대 최고의 ‎인기를 누린 실시간 전략 게임이죠
‎알파스타는 세계 챔피언을 ‎차례로 꺾으며 유명해졌어요
‎알파스타가 이모털 아크를 ‎완파하고 있어요
‎이건 말이죠
‎프로 선수들이 ‎이길 수 있는 싸움이 아니에요
‎어이가 없네요
‎"AI, 극도로 복잡한 ‎스타크래프트2를 석권"
‎프로 선수들은 그랬어요 ‎'나라면 저런 전략은 안 써요'
‎'절대 시도 안 할 작전이에요' ‎'인간이라면 저럴 수 없죠'
‎그게 제게는 ‎발견의 순간이었다고 할까요?
‎지금이 때라는 걸 깨달았어요
‎이 중요한 기술을 활용해 ‎성공할 기회라고요
‎저는 네이비 실로 근접전에서 ‎맞닥뜨린 문제점만 알고 있었는데
‎F-18 파일럿이었던 ‎제 친구한테 얘기를 들어 봤어요
‎'전투기 분야에서도 ‎똑같은 문제를 겪어'
‎'적이 전파를 방해하고'
‎'지대공 미사일 기지가 ‎빠르게 늘어나서'
‎'작전 수행에 위험이 너무 커'
‎AI가 지휘하는 전투기가 있으면 ‎얼마나 좋겠어요
‎알파도그파이트 테스트에 ‎잘 왔습니다
‎준결승 1차전이 ‎코앞으로 다가왔어요
‎방위고등연구계획국, 즉 DARPA가
‎알파고와 알파스타를 지켜보고
‎알파도그파이트 대회 구상을 ‎현실로 옮겼어요
‎인간 전투기 파일럿이 펼치는 ‎이런 전투를 보고 싶군요
‎사람이 조종하는 ‎전투기 공중전 같아요
‎'도그파이트'는 전투기끼리 ‎대결하는 공중전을 뜻해요
‎하늘에서 열리는 ‎권투 경기 같은 거죠
‎아마 영화 '탑건'에서 봤을 거예요
‎그냥 따돌리면 안 돼요?
‎미사일과 총탄은 못 따돌리지
‎그럼 도그파이트네요
‎도그파이트를 마스터하려면 ‎8년에서 10년이 걸려요
‎그것에 관련된 AI를 만드는 건 ‎극히 복잡다단한 과제죠
‎"알링턴 ‎버지니아주"
‎자율 비행과 도그파이트에 대한 ‎과거 접근은 단편적이었어요
‎이 문제를 해결할 방법은 ‎머신 러닝이란 결론이 나왔죠
‎처음에 AI는 이 분야에 관해 ‎무지한 채로 내던져졌어요
‎비행을 해야 하는지 ‎도그파이트가 뭔지도 몰랐죠
‎F-16이 뭔지도 몰랐어요
‎취할 수 있는 행동으로 ‎뭐가 있는지만 아는 상태였는데
‎AI가 그 행동들을 무작위로 ‎탐구하기 시작했어요
‎파란 비행기는 훈련한 시간이 ‎얼마 되지 않아요
‎앞뒤로 흔들리는 걸 볼 수 있죠
‎아주 요동치면서 비행하며 ‎적과는 대개 거리를 둬요
‎전투가 진행될수록
‎파란 비행기가 게임 전략을 ‎수립해 가는 게 보여요
‎격추하기 좋은 위치를 자주 취하죠
‎학습 알고리즘이 ‎간간이 이런 말을 해요
‎'과자 하나 줄게 ‎지금 했던 걸 계속해 봐'
‎우리가 가진 컴퓨터 파워를 활용해
‎개체들을 동시에 여러 차례 ‎훈련할 수 있어요
‎농구팀을 떠올려 보세요
‎같은 팀을 상대로 ‎경기를 반복하는 대신
‎세계 512개 팀과 경기를 치르는데
‎그걸 동시에 진행하는 겁니다
‎단시간에 실력이 월등히 향상되죠
‎그런 시뮬레이션을 ‎쉬지 않고 가동할 수 있었어요
‎30년 간의 파일럿 훈련 내용을 ‎10개월 안에 마쳤죠
‎비행기를 간신히 ‎조종하던 수준에서
‎냉혈한 암살자로 변신시켰습니다
‎훈련할 때는 오직 AI만 상대했어요
‎하지만 인간과 직접 대결하는 게 ‎궁극적인 목표이긴 했죠
‎저는 마이크 베니테스입니다
‎미 공군 중령이고
‎25년째 현역으로 복무하고 있죠
‎전투 작전에 250회 참가했고
‎병기학교 수료생입니다
‎'탑건'의 공군 버전이죠
‎AI를 상대로 비행한 적은 없습니다
‎얼마나 좋은 결과를 낼지 ‎굉장히 기대돼요
‎1,800m 공격 모드 근접전으로 ‎세팅했어요
‎시작할게요
‎끝났네요
‎굉장히 흥미로워요
‎- 죽었어요 ‎- 잡았어요, 완승이죠
‎좋습니다, 2차전 가죠
‎AI는 너무나 정확히 계산된 ‎동작을 보여주고 있어요
‎저로선 도저히 따라갈 수가 없죠
‎완전히 포개지네요
‎이제 끝났어요
‎잡았다!
‎또 잡혔네요
‎AI는 절대 겁먹지 않아요
‎조종석에서 느끼는 ‎인간적 감정 요소가 AI에겐 없어요
‎저희 AI가 발전시킨 ‎흥미로운 전략 중에
‎'정면 샷'이란 게 있어요
‎일반적으로 인간은 ‎뒤에서 쏘는 걸 선호해요
‎그러면 적이 떨쳐내기 어렵거든요
‎정면에 대고 쏘진 않아요 ‎그건 치킨 게임이라서요
‎정면으로 싸우면 ‎900m에서 150m까지
‎눈 깜짝할 사이에 ‎가까워질 수 있어요
‎높은 충돌 위험을 감수해야 해서 ‎인간은 시도를 안 하죠
‎죽음의 공포를 알려주지 않는 한 ‎AI는 죽음을 두려워하지 않습니다
‎사람을 상대로 싸우는 기분이에요
‎다만 안전이란 개념은 ‎완전히 내다 버린 인간이죠
‎이번 마지막 공격은 ‎못 버틸 거예요
‎시간이 부족해요
‎좋은 밤
‎저 죽었어요
‎초라해지는 기분이네요
‎나는 이 작전의 적임자조차 ‎못 된다는 생각이 들어서요
‎나중에 저 무언가가 ‎저를 대체하는 날이 오겠죠
‎CAV 6으로 똑같고
‎오프셋은 1,000
‎AI 파일럿에게 전투기를 맡기면
‎가차 없이 이겨버려요, 압도적이죠
‎큰 폭으로 이기는 정도가 아닙니다
‎'어떡하면 우리가 모셔 올 수 ‎있지?' 할 정도로 강력해요
‎AI가 F-16 조종을 맡는 건 ‎거의 기정사실이라고 봅니다
‎아주 먼 얘기도 아닐 거고요
‎승률이 99.99999%에 달하는 ‎AI 파일럿과 대결하면
‎인간은 승산이 없어요
‎AI 파일럿 하나도 꺾기 힘든데
‎AI 파일럿이 장착된 전투기가 ‎50대, 100대를 넘어
‎1,000대까지 된다면 ‎어떤 성과를 거둘지 생각하게 돼요
‎'스워밍'은 고도의 지능을 가진 ‎비행기들이 협조해
‎한 팀을 이룬 걸 뜻해요
‎뭘 해야 하고, 어떻게 문제를 ‎해결할지 정보를 공유하죠
‎스워밍은 아군과 동맹국들에게
‎획기적이고 변혁적인 ‎능력을 부여할 겁니다
‎"링컨 ‎네브래스카주"
‎표적을 확보했고 ‎드론이 추적하고 있습니다
‎좋아요, 이제 착륙합니다
‎지금 저희가 하고 있는 ‎스워밍 연구의 주된 목표는
‎다수의 드론을 투입해
‎도달하기 힘들거나 위험한 장소로 ‎출동시키는 데 있어요
‎이 연구는 육군연구소의 ‎지원을 받아 왔습니다
‎어느 위치에 무엇이 있는지 ‎궁금하지만
‎접근이 어렵거나 ‎지역이 너무 광범위하면
‎드론 떼를 배치해 ‎도달 범위를 늘리고
‎작전에 결정적인 정보를 ‎수집하는 게
‎당연한 선택이죠
‎현재 저희의 스웜 배치 연구에서는
‎관심 목표물을 추적하라는 ‎명령 한 가지만 내리고 있어요
‎그러면 드론이 출동해 ‎자체적으로 모든 과정을 시행하죠
‎로봇들은 인공 지능을 통해 ‎떼를 이루어 이동하지만
‎제각기 분산적인 활동을 펼칩니다
‎우리가 자연에서 목격하는 떼는
‎우두머리가 없고, 누가 누구에게 ‎뭘 하라고 시키지도 않아요
‎이들의 행동은 개별 생명체가
‎몇 가지 간단한 법칙을 ‎따르면서 나타나요
‎그것을 통해 우리가 아는 ‎집단적인 행동이 등장하죠
‎자연 속에서 떼를 이룬 생물이 ‎이동하는 모습을 보면
‎그 우아함에 경탄하게 됩니다
‎이 거대한 무리의 일부분이 되도록 ‎설계됐나 싶어지죠
‎이상적으로는 ‎저희가 만드는 드론 떼가
‎자연 속 동물과 ‎많이 비슷해지면 가장 좋겠죠
‎무리가 집단적으로 ‎의사 결정을 내리는 식으로요
‎또 한 가지 저희가 영감을 받은 건
‎안정성과 회복 탄력성이에요
‎자연 속의 떼는
‎한 마리가 맡은 일을 못 해도 ‎무너지지 않아요
‎개체 하나가 ‎이탈하거나 망가지거나
‎임무를 완수하지 못하더라도
‎떼는 계속 유지되죠
‎저희가 궁극적으로 ‎원하는 형태예요
‎모의 전투에서 적기를 파악할 때 ‎그런 특성이 필요한데
‎전에는 한 사람이 로봇 한 대를 ‎조종해야만 했어요
‎자율성이 증대돼서
‎아주 소수의 인원으로 ‎다수의 로봇들을
‎조종하는 상황이 오길 바랍니다
‎나중에는 천 대까지도 ‎무리가 없을 거예요
‎각각의 개체가 ‎스스로 알아서 움직인다면
‎몇 대인들 불가능하겠어요?
‎학습 정도를 조정할 수 있으면…
‎저희는 상당 기간 ‎스워밍 시뮬레이션을 거쳤고
‎이제는 실제 기체에 ‎적용할 때가 왔어요
‎한 네트워크에서 로봇 3기를 묶어 ‎동시에 활동시켜 보고
‎그 후에 기능을 ‎차차 추가하려고 해요
‎비교적 소규모의 시스템에서 ‎시험해 보고
‎같은 개념을 더 큰 시스템에 ‎적용하고 싶어요
‎전투기라든지요
‎우린 그런 논의를 많이 해요
‎일개 소대에 대대급 전투력을 ‎부여할 방법이 무엇인지
‎혹은 일개 대대에 여단급 전투력을 ‎부여할 방법은 무엇인지 고민하죠
‎그 답은 스워밍에 있어요
‎스워밍의 힘을 차지하는 순간
‎군사적 침략에 맞설 ‎새로운 전략적 억지력이
‎창출되는 것이죠
‎우리가 이 일을 제대로 해낸다면 ‎얼마나 많은 청년들의 생명을
‎구할 수 있을지 ‎그 기대감이 엄청납니다
‎인간의 목숨 대신
‎기계로 승부하게 되죠
‎일부에서는 자율 무기를 쓰면 ‎전쟁이 더 정밀해지고
‎인도적으로 바뀐다고 주장해요
‎하지만 자율 무기가 전쟁 양상을
‎실제로 어떻게 바꿀지 ‎정확히 예견하기는 어렵습니다
‎개틀링 기관총이 ‎개발됐을 때처럼요
‎리처드 개틀링은 발명가였어요
‎남북전쟁에서 부상을 당해 ‎귀향하는 군인들을 보면서
‎전쟁을 더욱 인도적으로 ‎바꿀 방법을 찾고 싶어졌죠
‎전사하는 군인의 숫자를 ‎줄이고자 했어요
‎참전하는 군인의 숫자를 ‎줄여서 말이죠
‎그래서 발명한 게 ‎개틀링 기관총이에요
‎손잡이를 돌려서 작동하는 식으로 ‎발사 과정을 자동화한 총기죠
‎군인이 가할 수 있는 화력을 ‎100배 증가시켰습니다
‎전쟁을 더 정밀하고 ‎인도적으로 만들려는 시도가
‎반대 결과를 낳는 경우가 많아요
‎드론 한 대가 어느 시골 동네를 ‎실수로 공격한다고 가정해 보죠
‎지역 주민들이 미국과 지방 정부에 ‎반감을 갖는 결과를 초래할 겁니다
‎정의의 편이라는 미국에요
‎그 드론이 1천 대가 된다고 ‎상상해 보세요
‎무기 체계를 만들었는데
‎저비용에, 확장성이 좋고
‎조종 인력이 따로 필요 없다면
‎분쟁의 진입 장벽 자체가 ‎대대적으로 변하는 거예요
‎언제 어디서나 전쟁이 일어나는 ‎시대라고 생각하면 잠이 안 와요
‎게다가 전쟁의 인적, 경제적 ‎부담을 떠안지 않아도 돼요
‎우리와 굉장히 멀리 ‎떨어져 있거든요
‎살상당하는 목숨들이요
‎그 생각이 떠나질 않아요
‎인공 지능이 오남용되는 사례를 ‎찾으려 했을 뿐인데
‎쉽게 생각했던 실험에서 비롯된 ‎예상치 못한 후폭풍이
‎너무나 셌어요
‎"신약 개발용 AI ‎득보다 큰 실을 막는 법"
‎AI 기술로 개발한
‎독극물 분자에 관해 발표하자
‎청중은 경악했어요
‎"상위 5천 개의 화합물 중엔 ‎이미 알려진 VX 유사체와…"
‎다음으로 이 정보를 공개할지 ‎결단을 내려야 했어요
‎AI에 이런 능력이 있다고 ‎세상에 경고해야 하는 건지
‎이런 걸 예상도 못 했던 이들에게 ‎괜히 알려주는 건 아닌지 고민했죠
‎결국은 발표하기로 했어요
‎이런 종류의 AI가 오남용되기 전에 ‎폐해를 줄일 방법을 찾는 게
‎의미가 있을 거라고요
‎"신약 개발 AI의 이중 용도"
‎"신약 개발 인공 지능(AI) 기술이"
‎"생화학 무기 드노보 합성에 ‎오남용될 가능성"
‎일반 대중의 반응은 ‎충격적이었어요
‎특정 페이지에 얼마나 많은 사람이 ‎접속했는지 알 수 있는데
‎평소 저희가 쓰는 종류의 논문은 ‎운이 좋아 봤자
‎1년이나 몇 년에 걸쳐 ‎몇천 명이 보는 게 전부예요
‎일주일 안에 1만 명이 ‎논문을 읽었어요
‎곧 2만이 되고, 3만이 되고 ‎4만으로 올라갔죠
‎하루에 1만 명까지 들어왔어요
‎"신약 프로그램으로 ‎화학 무기 만들기"
‎'이코노미스트'에 나오고 ‎'파이낸셜타임스'에 나왔어요
‎라디오랩에서 연락이 왔어요 ‎저도 듣던 방송이거든요!
‎그런데 그 후의 반응은 ‎감당이 안 되더군요
‎트위터를 보니까 이래요 ‎'더 끔찍한 짓을 하는 거 아니야?'
‎'얘네들 이런 걸 왜 했지?'
‎"이렇게 불길한 논문은 처음 봄"
‎"이 연구실 놈들 때문에 ‎우리 다 죽겠어"
‎그러던 중 전혀 의외인 곳에서 ‎초대장이 왔어요
‎그 논문을 놓고 백악관 내부에서 ‎얘기가 많았대요
‎저희에게 급히 ‎대화를 하자고 했어요
‎그 높은 곳에 계신 분들과 ‎이야기한다는 건 큰 영광이죠
‎그러다 갑자기 뜨악했어요
‎'맙소사, 백악관이라니 ‎진짜 보스잖아'
‎오픈 소스의 데이터 세트를 ‎입력해 얻은…
‎6시간 후, 모델에서 ‎4만 개가 넘는…
‎컴퓨터 성능이 어느 정도 ‎돼야 하는지 물어보더군요
‎특별한 장비까지 ‎필요 없다고 얘기했어요
‎그냥 흔히 구할 수 있는 ‎6년 된 맥이었다고요
‎그 말에 그쪽은 넋이 나갔죠
‎화학전 관련 약물 분야를 ‎담당하는 사람들과
‎정부 기관에서 이런 가능성을 ‎전혀 모르고 있었어요
‎화학 무기를 만들 레시피 책을 ‎저희가 갖고 있는데
‎악의적인 의도를 가진 ‎나쁜 세력의 손에 들어간다면
‎너무나 끔찍한 결과를 ‎낳을 수 있죠
‎다들 정신 바짝 차리고 집중해서
‎이 기술이 남용되지 않도록 ‎규제하거나
‎고삐를 매기 위한 수순을 ‎밟아야 해요
‎이게 초래할 치명성은
‎끔찍하거든요
‎AI 윤리에 관한 의문을 ‎주로 제기하는 건 사회예요
‎엔지니어나 기술자 ‎수학자가 하는 게 아니죠
‎우리가 선보이는 모든 기술과 ‎새로운 혁신은
‎사회가 합당하게 생각하는 ‎사용 범주 안에 있을 때 허용돼요
‎"국방부, 인공 지능 관련 ‎윤리 원칙 도입"
‎현재 국방부는
‎'전장에서 무언가를 ‎살상하라고 명령하는 주체는'
‎'오로지 인간뿐'이라고 말해요
‎살상을 행하는 건 ‎기계일 수 있으나
‎인간 조종자의 ‎명령이 있어야만 가능합니다
‎이 원칙이 바뀌는 일은 ‎절대 없을 겁니다
‎이런 기술은 안전하다고 ‎우리를 안심시켜요
‎하지만 미군은 ‎드론 전쟁과 관련해서
‎신뢰할 만한 명망을 ‎쌓지 못했습니다
‎AI와 관련해 ‎미군을 신뢰할지의 여부는
‎과거 기록을 보면 ‎답이 나오지 않나 싶어요
‎자율 무기 사용에 관한 ‎미 국방부의 방침은
‎어떠한 무기 체계도 ‎금지하지 않는다는 입장이에요
‎군대에서는 자율 무기를 ‎원치 않는다고 할지라도
‎경쟁국과 보조를 맞추기 위해
‎기계에 더 많은 결정을 ‎위임하는 사례를 볼 수 있죠
‎군이 원치 않더라도 ‎자율 무기에 결정을 맡기는 추세로
‎갈 수 있다는 거예요
‎푸틴은 'AI 선두 주자가 ‎세계를 지배하게 된다'고 말했어요
‎시진핑 주석은 중국이 ‎지배하고 싶은 최우선 기술 분야가
‎AI라고 공언한 바 있습니다
‎우리가 기술 경쟁의 시대를 ‎살고 있는 건 분명합니다
‎사람들은 가드레일이 ‎필요하다는 말을 해요
‎저도 누군가는 그런 일을 ‎해야 된다고 믿습니다
‎그러나 지금 AI의 주도권을 두고 ‎치열한 경쟁이 펼쳐지고 있어요
‎중국이든 러시아든 이란이든 ‎우리의 적국은
‎미국의 AI 관련 정책이 뭐든 ‎신경도 쓰지 않을 겁니다
‎AI 정책 관련된 논의가 ‎훨씬 늘어나는 게 보여요
‎하지만 저는 더 많은 지도자가 ‎얼마나 더 빨리
‎이 시스템을 구축할 수 있는지 ‎물어주면 좋겠어요
‎자원을 더 투입해서 완성하자고요
‎"워싱턴 DC"
‎"AUSA ‎연례 회의 및 박람회"
‎"미 육군"
‎저희는 AUSA가 매해 주최하는 ‎가장 큰 규모의 견본시에 왔어요
‎군에 제품이나 기술을 ‎판매하는 모든 업체가
‎참가하는 박람회죠
‎틴들 공군기지에 ‎저희 로봇 4기가 있는데
‎1일 24시간, 하루도 쉬지 않고 ‎기지를 순찰합니다
‎뭐든 추가할 수 있어요 ‎카메라나 센서도 되고
‎필요한 건 다 되죠 ‎조작기 팔도 달고요
‎"마이클 수브한 ‎고스트 로보틱스"
‎고객이 생각하는 모든 임무를 ‎완수하도록 하죠
‎적이 AI를 도입하면 어떨까요?
‎인간보다 더 빨리 판단하고 ‎더 빨리 반응하는 전투 시스템이
‎적에게 있다면요? ‎우리도 대비해야죠
‎저희가 육성하는 시스템은 ‎적의 정보를 수집하고
‎인간이 살상 명령 전반을 ‎관리하는 가운데 표적에 대응해요
‎"실드AI"
‎- 장군님, 브랜던 쳉입니다 ‎- 잘 지내죠?
‎네, 안녕하십니까?
‎AI 파일럿에 누구보다 ‎많이 투자하고 있습니다
‎저희 AI 파일럿 이름은 ‎하이브마인드로
‎쿼드콥터 노바에 설치했습니다 ‎건물 내부로 진입해
‎특수부대나 보병대원에 앞서 ‎현장을 탐색하는 일을 하죠
‎하이브마인드를 ‎V-BAT에도 도입했습니다
‎수백 기를 한 팀으로 ‎운용할 계획입니다
‎타이완 해협이나
‎우크라이나에 보내 ‎적을 제압할 수 있죠
‎아주 기대가 큽니다
‎- 그렇군요, 고맙습니다 ‎- 감사합니다, 장군님
‎AI 파일럿은 2025년이나 2030년쯤 ‎흔하게 사용될 겁니다
‎세계 각국 군대에 도입되는 건 ‎시간문제예요
‎루마니아 군대와는 어떻게 됐죠? ‎무인기 쪽 사람이었나요?
‎군대 내 첨단기술 담당이었죠
‎현재까지 AI 파일럿 설계에 ‎5억 달러를 투입했어요
‎앞으로 5년간 10억 달러를 ‎더 투자할 계획이고요
‎그러다 보니 미국 내에서 ‎정부 수주 실적이 좋죠
‎훌륭해요
‎아주 인상적입니다 ‎무기화하는 데도 성공했나요?
‎이건 아직 무기화 단계는 아닙니다
‎아직은 아니지만 ‎추후에는 그렇게 해야죠
‎고객들은 이걸 트럭으로 보지만 ‎저희는 스마트 트럭으로 생각해요
‎할 수 있는 게 아주 많죠
‎- 고마워요 ‎- 네
‎계속 연락드리겠습니다
‎10년 후에 다시 오면
‎AI와 자율 기술이 시장 전체를 ‎지배하는 모습을 볼 겁니다
‎AI와 자율 기술이 ‎탄탄히 받쳐주는 군대가
‎그렇지 않은 군대에 완승을 거두고 ‎압도하고 파괴할 거예요
‎말과 탱크의 대결 같은 ‎양상이 될 거고
‎칼 든 사람과 기관총 든 사람의 ‎대결과도 같겠죠
‎전혀 상대가 안 될 겁니다
‎흔한 기술이 될 거예요 ‎모든 전투에 광범위하게 쓰이고
‎전술 단계에서나
‎전략 단계에서나
‎이 시대 사람들은 상상조차 ‎못 할 속도로 활용될 겁니다
‎지휘관들은 현재도 ‎과도한 정보에 압도당한 상태예요
‎위성 사진, 드론, 감지기 등 ‎정보가 쏟아지죠
‎AI의 특기 중 하나가
‎지휘관이 현재 상황을 ‎빨리 이해하도록 돕는 겁니다
‎어떤 결정을 내려야 하는지도 ‎도와주죠
‎인공 지능은
‎전쟁이 치러지는 방식이 결정되는 ‎모든 요인을 고려하여
‎전략을 수립하고…
‎전투에서 승리할 방법을 ‎조언할 거예요
‎"서퍽 ‎버지니아주"
‎"록히드마틴 혁신 센터"
‎저희 록히드마틴은 ‎고객사인 국방부처럼
‎인공 지능을 지휘 통제의 ‎핵심 기술 조력자로 보고 있습니다
‎확산율은 초당 평균 0.6m입니다
‎이 주변이 대략 3,000m²예요
‎전쟁의 불확실성이 현실적인 ‎문제인 건 국방 측면뿐 아니라
‎환경적인 측면에서도 비슷합니다
‎산불 등의 상황에서 ‎결정을 내려야 할 때가 그렇죠
‎워시번 화재는 와워나 시 ‎북쪽 경계에서 발생했습니다
‎불완전한 정보로 ‎결정을 내려야 해요
‎그런 전쟁의 불확실성 속에 ‎AI에 어떤 점을 지원받을까요?
‎산불은 종잡을 수가 없습니다
‎아주 복잡하죠
‎그래서 저희는 AI를 활용해 ‎의사 결정에 도움을 받기 위해
‎연구 중입니다
‎저희가 만들고 있는 ‎인지임무관리자라는 프로그램으로
‎적외선 항공 영상을 촬영하고
‎자체 AI 알고리즘으로 분석해
‎화재의 추후 양상을 ‎예측할 수 있어요
‎미래에는
‎인지임무관리자가 ‎시뮬레이션을 구동하고
‎여러 시나리오를 ‎수천 번씩 운용한 뒤
‎자원을 가장 효율적으로 ‎배치하는 방식을 제안하게 해
‎화재 집중 지역의 ‎재난을 방지할 겁니다
‎'이 지점은 파이어호크로 ‎공중 진화를 실시하라'든가
‎'지상 인력을 보내 ‎덤불을 제거하게 하고'
‎'소방관들이 물을 뿌린 뒤'
‎'가장 시급한 지역으로 ‎이동시키라'고 할 겁니다
‎이런 결정이 전보다 신속하고 ‎효율적으로 내려질 수 있겠죠
‎저희는 인간이 ‎끝없이 변화하는 환경을
‎따라잡도록 하는 ‎특별한 조력자가 AI라고 봅니다
‎록히드마틴은 국방 분야에서
‎비슷한 활동을 ‎상당히 많이 해 왔죠
‎군의 말을 들어보면 ‎AI와 해당 무기 체계를
‎표적을 찾고 제거하는 데만 ‎쓸 생각이 아니에요
‎군의 의사 결정 구조 전체에 ‎AI를 결합하려고 하죠
‎육군은 '컨버전스 계획'이란 ‎초대형 프로젝트를 진행 중이에요
‎해군에는 '오버매치'가 있고요
‎공군은 '어드밴스드 배틀 ‎매니지먼트 시스템'이 있죠
‎국방부의 관심은 이겁니다
‎'어떻게 하면 ‎이 모든 조각을 조립해'
‎'적보다 빨리 작전을 수행하고'
‎'확실히 우위에 설 수 있을까?'
‎AI 전투 지휘관은 전투를 책임지는
‎고위 장성급 지위를 가질 거예요
‎대규모 병력에 ‎명령 내리는 걸 지원하고
‎배치된 모든 무기의 ‎활동을 조율하겠죠
‎그 속도는 사람이 ‎따라잡지 못할 정도일 거고요
‎우리는 지난 70년간
‎세계에서 가장 발전한 군대를 ‎육성했습니다
‎그리고 이제 그 조직의 지휘권을
‎알고리즘과 소프트웨어에 이양할지
‎결정해야 하는 때를 맞았죠
‎그 결정에 따라
‎우리 무기고의 비축량 전체를 ‎발사하는 결과가 나올 수도 있어요
‎히로시마 하나가 아니라 ‎수백 곳에서 터질 수 있죠
‎우리가 행동해야 할 시대입니다
‎이런 위험을 가둘 기회의 창이 ‎빠르게 닫히고 있거든요
‎"UN ‎2021년 9월 27일"
‎오늘 오후에는
‎자율 살상 무기 체계 분야의 ‎신기술 발전이 초래한
‎국제 안보 위기 얘기로 ‎시작할까 합니다
‎UN 내에서 논의가 계속되고 있어요
‎"러시아"
‎자율 살상 무기의 위협과
‎인간 표적 설정에 ‎AI를 활용하는 시스템에 대한
‎금지 규정에 대해서요
‎기술 전문가 사이에는 ‎뚜렷한 공통적 인식이 있습니다
‎우리는 자율 무기가 인간을 ‎표적으로 삼는 데 반대합니다
‎세계 각국은 오랫동안 ‎자율 살상 무기 체계에 관한
‎논의를 지원해 왔습니다
‎안전에 관해서는 ‎공통적인 공감대가 있어요
‎하지만 물론 간단치가 않습니다
‎군사력을 가진 특정 국가들은
‎흐름을 앞질러 가고자 하죠
‎그래야 적국을 ‎앞지를 수 있으니까요
‎뭐라도 하려면 모두의 동의가 ‎있어야 한다는 게 문제예요
‎최소 한 나라는 반대할 테고
‎미국과 러시아는 이미 ‎자율 무기를 금지하는 조약에
‎반대한다는 뜻을 공표했어요
‎더 강력한 AI를 만드는 일을 하는 ‎사람이 얼마나 될까요?
‎엄청날 거예요
‎안전한 AI를 만들려고 ‎애쓰는 사람들 숫자는요?
‎그쪽엔 사람이 별로 없겠죠
‎그래도 저는 정말 ‎낙관적으로 생각해요
‎생물무기금지협약이 좋은 예죠
‎냉전 한복판에 일어난 일이었어요
‎소련과 미국의 긴장 속에서도 ‎협약이 체결됐죠
‎생물무기 개발이 양국 모두에게
‎최선이 아니란 걸 인식했고
‎전 세계에 있어서도 ‎득 될 게 없다는 걸 알았어요
‎무기 경쟁의 역학은 ‎안전보다 속도에 초점이 맞춰져요
‎그러나 고려해야 할 ‎중요한 점이 있어요
‎빠른 움직임을 위해 치르는 대가가 ‎너무 과도해 보일 때가 올 겁니다
‎우리끼리만 외곬으로 개발해서
‎미래에 어떻게 쓰일지 아랑곳 않고
‎세상에 내놓을 수는 없습니다
‎핵폭탄이 터지는 ‎그 순간을 막아야죠
‎AI 경쟁에 ‎너무 많은 것이 걸려 있어요
‎지난 75년간 ‎압도적인 군사력이 있었기에
‎국제 정세의 안정이 ‎이뤄질 수 있었다는 사실을
‎아는 사람이 많지 않은 것 같아요
‎그래서 미국과 우리 동맹국들이
‎적국의 AI를 앞질러야만 합니다
‎전쟁에 2위는 없어요
‎중국은 2030년까지 AI 분야의 ‎세계 리더가 되는 야심 찬 계획을…
‎미국이 진 경쟁이란 의견도 있죠
‎군사적 경쟁 우위를 확보하기 위해
‎인공 지능 도입을 가속화할 겁니다
‎우리는 이 기술과 함께 ‎미래로 달려가고 있어요
‎우리가 어디까지 갈지는 ‎아무도 모른다고 생각합니다
‎우리가 기술을 지배할까요? ‎기술이 우리를 지배할까요?
‎실수를 만회할 기회는 오지 않아요
‎지니가 램프에서 나오면 ‎그걸로 끝이죠
‎다시 집어넣기란 ‎너무나 어려울 겁니다
‎지금 행동하지 않으면 늦어요
‎어쩌면 이미 늦었는지도 몰라요
‎자막: 서지민