Downloaded from YTS.MX
Official YIFY movies site: YTS.MX
Bagiku, kecerdasan buatan itu menakjubkan.
Baiklah, berputar-putar. Formasi bagus.
Kecerdasan buatan berpotensi menghapus kemiskinan,
menciptakan obat baru,
dan membuat dunia kita lebih damai.
Kerja bagus.
Namun, ada banyak risiko dalam prosesnya.
Dengan kecerdasan buatan, pada dasarnya kita menciptakan
kecerdasan nonmanusia yang sangat sulit ditebak.
Karena makin kuat kecerdasan buatan,
di mana batasan yang akan kita buat dengan kecerdasan buatan
perihal cara kita ingin memakainya atau sebaliknya?
Tidak ada tempat yang lebih pantas untuk percakapan ini
daripada aplikasi militer.
Medan perang kini telah menjadi wilayah perangkat lunak dan keras.
Target ditemukan…
Dan militer berlomba mengembangkan kecerdasan buatan
lebih cepat daripada musuh mereka.
Aku mati.
Kita bergerak cepat menuju dunia tempat tak hanya militer besar,
tetapi juga aktor nonnegara, industri swasta,
atau bahkan kepolisian setempat di ujung jalan
bisa memakai senjata yang dapat membunuh secara otomat.
Akankah kita menyerahkan keputusan untuk membunuh
kepada algoritma, kepada perangkat lunak komputer?
Itu adalah salah satu isu paling mendesak di zaman kita.
Dan, jika tak digunakan dengan bijak,
itu bisa menimbulkan risiko besar bagi setiap orang di planet ini.
Kerja bagus, Semuanya.
Itu lensa yang jauh lebih lebar daripada sebelumnya.
Sungguh?
- Kalian bisa melihat lebih banyak data. - Keren.
Di Shield AI, kami mengembangkan pilot kecerdasan buatan
memakai teknologi kecerdasan buatan yang dapat terbang sendiri
dan memasangnya di pesawat terbang.
Saat membahas pilot kecerdasan buatan,
kita berpikir untuk memberi pesawat tingkat otomatisasi yang lebih tinggi.
Ia akan memecahkan masalah sendiri.
Nova adalah sebuah quadcopter otomat
yang menjelajah bangunan dan struktur bawah tanah
dan memandu pasukan pengamanan
sebagai pengintai di ruang itu.
Kalian dapat melihat banyak peningkatan sejak terakhir kita melihatnya.
Kami mengerjakan perubahan eksplorasi hari ini.
Kami mengerjakan lantai demi lantai.
Ini akan menyelesaikan satu lantai, semua ruangannya, sebelum lantai dua.
- Luar biasa. - Ada beberapa perubahan baru-baru ini…
Banyak orang sering menanyaiku
kenapa kecerdasan buatan merupakan sebuah kemampuan penting.
Dan aku mengingat kembali misi yang kujalankan.
Menghabiskan tujuh tahun di Angkatan Laut.
Aku mantan anggota SEAL Angkatan Laut yang dikirim dua kali ke Afganistan,
sekali ke Teater Pasifik.
Dalam sehari,
kami mungkin harus mengamankan 150 kompleks atau bangunan berbeda.
Salah satu kemampuan inti adalah pertempuran jarak dekat.
Baku tembak pada jarak yang sangat dekat di dalam gedung.
Kau ditembaki.
Mungkin ada IED di dalam gedung.
Itu tugas paling berbahaya bagi anggota pasukan operasi khusus
dan anggota infanteri di zona pertempuran.
Tanpa pengecualian.
Selama sisa hidupku, aku bersyukur atas waktuku di Angkatan Laut.
Ada kumpulan momen dan kenangan yang, saat kuingat,
membuatku emosional.
Klise bahwa kebebasan ada harganya, tetapi aku sangat memercayai itu,
aku sudah mengalaminya, dan itu butuh banyak pengorbanan.
Maaf.
Saat hal buruk terjadi kepada salah satu rekan timmu,
entah mereka terluka atau terbunuh,
itu sesuatu yang sangat tragis.
Bagiku sekarang dalam pekerjaan yang kami lakukan,
itu memotivasi untuk dapat mengurangi beberapa kali
itu terjadi lagi.
Pada akhir tahun 2000-an,
ada kebangkitan di Departemen Pertahanan
atas apa yang disebut revolusi robotika tak disengaja.
Kami mengerahkan ribuan robot udara dan darat ke Irak dan Afganistan.
Saat aku diminta oleh pemerintahan Obama
untuk menjadi wakil menteri pertahanan,
cara perang dihadapi jelas berubah.
Orang-orang menggunakan robot di tempat yang seharusnya.
Sistem robotika awal dikendalikan dari jauh.
Ada manusia yang mengoperasikannya seperti mobil yang dikendalikan dari jauh.
Mereka mulai mengincar alat peledak terimprovisasi.
Jika bom meledak, robot akan meledak.
Lalu kau berkata, "Sayang sekali. Baik, keluarkan robot satunya."
Di Afganistan, ada drone Predator
dan itu menjadi alat yang sangat berguna untuk melakukan serangan udara.
Seiring waktu, perencana militer mulai bertanya-tanya,
"Apa lagi yang bisa robot lakukan?" Ke mana arahnya?
Salah satu tema umumnya adalah tren ke arah otomatisasi yang lebih besar.
Senjata otomat dapat membuat keputusan sendiri
dengan sedikit atau tanpa campur tangan manusia.
Jadi, ia memiliki kapasitas mandiri dan mengarahkan sendiri.
Dan apa ia dapat membunuh tergantung apa ia bersenjata atau tidak.
Ketika kau punya lebih banyak otomatisasi di seluruh sistemmu,
semuanya mulai bergerak pada kecepatan yang lebih tinggi.
Dan ketika kau beroperasi lebih cepat daripada musuhmu,
itu keuntungan yang luar biasa besar dalam pertempuran.
Fokus kami terkait otomatisasi adalah
sistem intelijen yang sangat tangguh.
Sistem yang dapat membaca dan bereaksi berdasarkan lingkungan
serta membuat keputusan tentang cara bermanuver di dunia tersebut.
Fasilitas yang kami miliki saat ini awalnya dibangun sebagai studio film
yang diubah
guna menciptakan lingkungan pelatihan militer yang realistis ini.
Kami di sini untuk mengevaluasi pilot kecerdasan buatan kami.
Misi untuk mencari ancaman. Ini tentang pasukan pengamanan.
Ia dapat membuat keputusan tentang cara menyerang masalah itu.
Kami menyebut ini "jalur fatal". Kau harus melewati sebuah pintu.
Di sanalah kami paling rentan.
Yang ini lebih baik.
Nova memberi tahu kami, apa ada penembak di balik pintu itu,
apa ada keluarga di balik pintu itu?
Itu memungkinkan kami membuat keputusan lebih baik dan jauhkan bahaya.
Kami menggunakan sensor penglihatan
agar dapat memahami seperti apa sebuah lingkungan.
Ini gedung bertingkat.
Ini petanya.
Saat aku menjelajah, ini yang kulihat dan di mana aku melihatnya.
Pendeteksi manusia. Luar biasa.
Salah satu sensor lain pada Nova adalah pemindai termal.
Jika suhunya 37 derajat Celsius, mungkin itu manusia.
Manusia dianggap ancaman sampai dianggap sebaliknya.
Ini soal menghilangkan kabut perang untuk membuat keputusan yang lebih baik.
Dan saat melihat ke masa depan,
kami berantisipasi untuk mengembangkan tim pesawat otomat.
Dengan kendaraan swakemudi,
pada akhirnya orang bisa berkata, "Pergilah dari titik A ke titik B."
Sistem kami diminta untuk tak pergi dari titik A ke titik B,
tetapi mencapai tujuan.
Itu lebih seperti, "Aku butuh susu."
Lalu robot harus mencari tahu toko kelontong mana yang dituju,
mendapatkan susu itu, lalu membawanya kembali.
Lebih daripada itu,
mungkin lebih tepat dinyatakan sebagai, "Penuhi lemari esnya."
Jadi, ini adalah tingkat kecerdasan
dalam hal mencari tahu apa yang dibutuhkan dan cara melakukannya.
Jika ada tantangan, kesulitan,
atau isu yang muncul, cari cara untuk meringankannya.
Saat memutuskan untuk meninggalkan Angkatan Laut, aku mulai berpikir,
"Baiklah. Apa selanjutnya?"
Aku besar dengan Internet. Melihat perkembangannya.
Dan bagian dari kesimpulan yang kucapai ialah
kecerdasan buatan pada tahun 2015
sama seperti Internet pada tahun 1991.
Dan kecerdasan buatan siap untuk lepas landas
dan menjadi salah satu teknologi terkuat di dunia.
Bekerja dengan itu setiap hari, aku bisa melihat kemajuan yang dibuat.
Namun, bagi banyak orang,
saat mereka memikirkan "kecerdasan buatan",
pikiran mereka langsung tertuju ke Hollywood.
Mau bermain gim?
Bagaimana kalau Perang Termonuklir Global?
Baik.
Saat orang memikirkan kecerdasan buatan,
mereka mungkin memikirkan The Terminator atau I, Robot.
Nonaktifkan.
Aku ini apa?
Atau The Matrix.
Berdasarkan yang kau lihat di film fiksi ilmiah,
bagaimana kau tahu aku manusia? Bisa jadi aku kecerdasan buatan komputer.
Replicant itu seperti mesin biasa. Bisa menguntungkan atau membahayakan.
Namun, ada banyak jenis kecerdasan buatan yang lebih primitif,
yang masih akan mengubah hidup kita
sebelum kita mencapai tahap robot yang berpikir dan berbicara.
Robot sudah ada. Robot membuat keputusan.
Revolusi robot telah tiba,
tetapi tak seperti bayangan orang-orang.
Terminator adalah unit penyusup. Separuh manusia, separuh mesin.
Kita tak membicarakan robot pembunuh ala Terminator.
Kita membicarakan kecerdasan buatan yang dapat melaksanakan tugas manusia.
Namun, kekhawatirannya adalah apakah sistem ini dapat diandalkan.
Detail baru dalam kecelakaan maut semalam yang melibatkan Uber SUV swakemudi.
Perusahaan menciptakan bot obrolan kecerdasan buatan.
Dia bicara agak rasis…
Dua puluh enam legislator negara bagian salah diidentifikasi sebagai penjahat.
Pertanyaannya adalah
apakah mereka dapat menangani kerumitan dunia nyata.
Dunia fisik sangat kacau.
Ada banyak hal yang tak kita ketahui,
membuatnya lebih sulit untuk melatih sistem kecerdasan buatan.
Di situlah sistem pembelajaran mesin mulai ada.
Pembelajaran mesin telah mengalami kemajuan besar
karena itu berarti kita tak perlu ajarkan komputer segalanya.
Kau memberi komputer jutaan informasi
dan mesin mulai belajar.
Itu dapat diterapkan kepada apa pun.
Proyek Anjing Robot kami, kami mencoba menunjukkan
bahwa anjing kami bisa berjalan melintasi banyak medan yang beragam.
Manusia telah berevolusi selama miliaran tahun untuk berjalan,
tetapi ada banyak kecerdasan dalam beradaptasi
dengan medan yang berbeda ini.
Yang masih jadi pertanyaan soal sistem robot adalah
bisakah robot juga beradaptasi seperti hewan dan manusia?
Dengan pembelajaran mesin,
kami mengumpulkan banyak data dalam simulasi.
Simulasi adalah kembaran digital dari realitas.
Kita bisa membuat banyak contoh kenyataan berjalan di komputer yang berbeda.
Ia membuat sampel ribuan aksi dalam simulasi.
Permukaan yang mereka hadapi memiliki kelicinan yang berbeda.
Ada kelembutan yang berbeda.
Kami mengambil semua pengalaman ribuan robot ini
dari simulasi dan mengunduh ini ke sistem robot nyata.
Tes hari ini bertujuan untuk melihat apa ia bisa beradaptasi dengan medan baru.
Saat robot berjalan melewati busa,
gerakan kakinya mengentak tanah.
Dibandingkan saat berjalan di permukaan poliester,
ia mencoba menyesuaikan gerakannya agar tak tergelincir.
Saat itulah kau sadar,
"Inilah yang ditawarkan pembelajaran mesin."
Kami berpikir Anjing Robot bisa sangat membantu
dalam skenario tanggap bencana
ketika kau harus menavigasi berbagai jenis medan.
Atau memerintahkan anjing-anjing ini untuk mengawasi di lingkungan ekstrem.
Namun, sebagian besar teknologi menghadapi tantangan
bahwa ada hal baik dan buruk yang dapat mereka lakukan.
Misalnya, kita dapat menggunakan teknologi nuklir untuk energi…
tetapi kita juga dapat mengembangkan bom atom dan itu sangat buruk.
Inilah yang dikenal sebagai masalah fungsi ganda.
Api adalah fungsi ganda.
Kecerdasan manusia adalah fungsi ganda.
Jadi, tentu saja, kecerdasan buatan juga fungsi ganda.
Sangat penting untuk memikirkan penggunaan kecerdasan buatan dalam konteks
karena, ya, luar biasa bahwa ada robot pencari dan penyelamat
yang dapat membantu menemukan seseorang setelah longsor,
tetapi robot itu juga dapat dipersenjatai.
Saat kau melihat perusahaan memakai robot bersenjata,
sebagian dirimu jadi marah.
Sebagiannya lagi adalah kesadaran bahwa saat kita menggunakan teknologi,
inilah yang akan terjadi.
Ini adalah teknologi transformatif nyata.
Ini adalah sistem persenjataan
yang dapat mengubah keselamatan dan keamanan kita secara dramatis.
Saat ini, kita tak yakin mesin dapat benar-benar membedakan
antara warga sipil dan petempur.
Di awal peperangan di Afganistan, aku dulu bagian dari tim penembak runduk Ranger AS,
mengawasi musuh yang melewati perbatasan.
Mereka mengirim gadis kecil untuk mengintai posisi kami.
Satu hal yang tak pernah terpikirkan ialah menembak gadis ini.
Di bawah hukum perang, itu seharusnya legal.
Mereka tak menetapkan usia bagi petempur musuh.
Jika kau menciptakan robot untuk mematuhi hukum perang,
ia akan menembak gadis kecil ini.
Bagaimana robot tahu perbedaan antara apa yang legal dan benar?
Saat itu menyangkut perang drone otomat,
mereka ingin menghilangkan bahaya yang ditimbulkannya pada tentara Amerika
dan jiwa Amerika,
tetapi peningkatan korban sipil terjadi kepada warga Afganistan,
Irak, dan Somalia.
Aku akan menanyai mereka yang mendukung kecerdasan buatan pada drone,
"Bagaimana jika desa kalian jadi korban?"
Kecerdasan buatan adalah pedang bermata dua.
Itu dapat digunakan untuk kebaikan, yang biasanya kami manfaatkan untuk itu,
dan dalam sekejap,
teknologi berpotensi menjadi sesuatu yang bisa mematikan.
RALEIGH CAROLINA UTARA
Aku seorang farmasis klinis.
Aku punya tim
yang menggunakan kecerdasan buatan untuk menemukan obat
yang akan menyembuhkan penyakit yang tak mendapat perhatian.
Dahulu dengan penemuan obat, kau mengambil molekul yang ada
dan mengembangkannya untuk mendapatkan obat baru.
Kini kami mengembangkan kecerdasan buatan yang dapat memberi kami jutaan ide,
jutaan molekul,
dan itu membuka begitu banyak kemungkinan
untuk mengobati penyakit yang belum pernah diobati.
Namun, jelas ada sisi gelap yang tak pernah terpikirkan
untuk kulakukan.
Semua ini dimulai saat aku diundang
oleh organisasi dari Swiss bernama Spiez Laboratory
untuk mempresentasikan potensi penyalahgunaan kecerdasan buatan.
Sean baru saja mengirimiku surel berisi gagasan
tentang beberapa cara penyalahgunaan kecerdasan buatan.
Alih-alih meminta model kami untuk membuat molekul mirip obat,
untuk mengobati penyakit,
mari lihat apa kami bisa menghasilkan molekul paling beracun.
Aku ingin menegaskan, bisakah kami memakai teknologi kecerdasan buatan
untuk merancang molekul yang mematikan?
Sejujurnya, kami berpikir itu akan gagal
karena yang kami lakukan hanyalah mengubah angka nol menjadi satu.
Dan dengan mengubahnya, alih-alih menjauh dari racun,
kini kami menuju ke arahnya.
Begitulah.
Saat aku di rumah, komputer bekerja.
Ia melakukan tugasnya, menghasilkan ribuan molekul,
dan kami tak perlu melakukan apa pun selain hanya menekan "mulai".
Keesokan paginya, ada sebuah fail di komputerku
dan di dalamnya ada sekitar 40.000 molekul
yang bisa jadi
beberapa molekul paling beracun yang diketahui oleh manusia.
Bulu-bulu di belakang leherku berdiri.
Aku terkejut.
Komputer membuat puluhan ribu ide
untuk senjata kimia baru.
Jelas, kita punya molekul yang serupa dan merupakan analog VX dan VX
di kumpulan data.
VX adalah salah satu senjata kimia terkuat di dunia.
Klaim baru dari polisi
bahwa wanita yang terlihat menyerang Kim Jong-nam dalam pembunuhan di bandara
menggunakan agen saraf mematikan yang disebut VX.
Itu bisa menyebabkan kematian karena sesak napas.
Itu adalah molekul yang sangat kuat
dan sebagian besar molekul ini diprediksi lebih mematikan daripada VX.
Sebagian besar molekul tersebut, sepengetahuan kami, belum pernah dilihat.
Jadi, saat Sean dan aku menyadari ini, kami berpikir, "Apa yang kami lakukan?"
Aku segera menyadari bahwa kami telah membuka kotak Pandora
dan aku berkata, "Berhenti. Jangan lakukan apa pun lagi. Cukup.
Buat salindia yang kubutuhkan untuk presentasi."
Dalam eksperimen ini, aku berpikir, "Apa hal terburuk yang mungkin terjadi?"
Namun, sekarang aku berkata, "Kami naif. Kami sangat naif dalam melakukannya."
Yang paling kutakutkan ialah siapa pun bisa melakukan apa yang kami lakukan.
Hanya perlu mengubahnya.
Bagaimana kita mengendalikan teknologi ini sebelum digunakan
untuk mungkin melakukan sesuatu yang sangat merusak?
Inti pembahasan seputar kecerdasan buatan
dan bagaimana kita menggunakannya di masyarakat
ialah persaingan antara kekuatan,
yang dengannya kita mengembangkan teknologi
dan kebijaksanaan yang kita miliki untuk mengaturnya.
Ada implikasi moral dan etika yang jelas
dari hal yang sama yang menggerakkan ponsel cerdas kita
dipercayakan dengan keputusan moral untuk merenggut nyawa.
Aku bekerja dengan Future of Life Institute,
sebuah komunitas aktivis ilmuwan.
Kami berusaha menunjukkan
bahwa ada sisi lain guna mempercepat dan meningkatkan otomatisasi.
Namun, kami berusaha memastikan bahwa teknologi yang kami ciptakan
digunakan secara aman dan etis.
Mari bahas aturan keterlibatan dan kode etik
dalam kecerdasan buatan di seluruh sistem persenjataan kita.
Karena kita sekarang melihat teknologi "masuk ke medan perang"
yang dapat digunakan untuk membunuh secara otomat.
Pada tahun 2021, PBB merilis laporan tentang potensi penggunaan
senjata otomat mematikan di medan perang di Libya.
Panel PBB mengatakan drone yang terbang dalam perang saudara Libya tahun lalu
telah diprogram untuk menyerang target secara otomat.
Jika laporan PBB akurat,
ini akan menjadi titik balik bagi umat manusia
karena itu menandai kasus penggunaan
ketika kecerdasan buatan membuat keputusan untuk membunuh tanpa kontrol manusia.
Kau melihat senjata otomat canggih
mulai digunakan di berbagai tempat di seluruh dunia.
Ada laporan dari Israel.
Azerbaijan menggunakan sistem otomat guna menyasar pertahanan udara Armenia.
Ia mampu terbang di medan perang selama berjam-jam,
mencari target untuk diserang secara otomat,
lalu menyerang mereka tanpa campur tangan manusia.
Dan baru-baru ini kita melihat video berbeda yang diunggah di Ukraina.
Tidak jelas mode apa yang mereka gunakan saat beroperasi.
Apa ada campur tangan manusia, yang memilih target serangan,
atau apa mesin melakukannya sendiri?
Namun, pasti akan tiba saatnya,
entah itu sudah terjadi di Libya, Ukraina, atau di tempat lain,
saat mesin membuat keputusan sendiri untuk bunuh target tertentu saat perang.
Mesin menggunakan kekuatan mematikan terhadap manusia
tanpa campur tangan manusia
secara politik tidak dapat diterima dan secara moral ditentang.
Apakah komunitas internasional akan cukup untuk mengatasi tantangan itu
adalah tanda tanya besar.
Jika kita melihat ke masa depan, bahkan hanya beberapa tahun dari sekarang,
seperti apa pemandangannya sangatlah menakutkan,
mengingat jumlah sumber daya modal dan manusia
untuk membuat kecerdasan buatan lebih kuat
dan menerapkannya ke berbagai hal sangatlah besar.
Astaga, orang ini.
Dia tahu dia tak bisa menang.
Saat aku melihat kecerdasan buatan menang di berbagai masalah, itu menginspirasi.
Hanya bisa berdoa dan pasrah.
Dan kau bisa menerapkan taktik, teknik, dan prosedur serupa ke pesawat sungguhan.
Permainan bagus.
Baiklah, permainan yang bagus.
Bagiku, itu mengejutkan
bahwa orang terus menyatakan apa yang tak bisa dilakukan kecerdasan buatan,
misal, "Ia takkan bisa mengalahkan juara dunia catur."
Sebuah komputer IBM membalikkan keadaan
dalam permainan kedua melawan juara catur dunia, Garry Kasparov.
Kasparov menyerah!
Saat melihat sesuatu di luar pemahamanku,
aku takut. Itu sesuatu di luar pemahamanku.
Lalu orang-orang berkata,
"Ia takkan pernah bisa mengalahkan juara dunia go."
Aku percaya intuisi manusia lebih baik dibanding kecerdasan buatan
untuk mengejar ketinggalan.
Go adalah salah satu permainan tersulit yang bisa dipelajari siapa pun
karena jumlah langkah di papan, ketika kau menghitungnya,
sama dengan lebih banyak atom daripada di seluruh alam semesta.
Ada sebuah tim di Google bernama DeepMind
dan mereka menciptakan program bernama AlphaGo
untuk bisa mengalahkan pemain terbaik dunia.
Selamat kepada…
- AlphaGo. - AlphaGo.
Program komputer baru saja mengalahkan profesional 9 dan.
Lalu DeepMind memilih StarCraft sebagai tantangan kecerdasan buatan.
StarCraft mungkin gim strategi waktu nyata paling populer sepanjang masa.
AlphaStar menjadi terkenal saat mulai mengalahkan para juara dunia.
AlphaStar benar-benar menghancurkan Immortal Arc.
Kau tahu?
Ini bukan peperangan yang dapat dimenangkan para profesional.
Ini agak konyol.
Pemain gim profesional berkata, "Aku takkan pernah mencoba taktik itu.
Aku takkan pernah mencoba strategi itu. Itu sesuatu yang bukan manusia."
Dan itu mungkin adalah momen yang mencelikkan bagiku.
Aku pun sadar inilah waktunya.
Ada sebuah teknologi penting dan peluang untuk membuat perbedaan.
Aku hanya tahu masalah yang kuhadapi sebagai anggota petempur jarak dekat SEAL,
tetapi salah satu kawan baikku, seorang pilot F-18, berkata,
"Kami punya masalah yang sama di komunitas jet tempur.
Mereka mengganggu komunikasi.
Ada banyak situs rudal darat-ke-udara yang membuat operasi terlalu berbahaya."
Bayangkan jika kita punya jet tempur yang diperintah kecerdasan buatan.
Selamat datang di uji AlphaDogfight.
Kita beberapa menit sebelum semifinal pertama.
DARPA, Defense Advanced Research Projects Agency,
telah melihat AlphaGo dan AlphaStar
sehingga gagasan kompetisi AlphaDogfight menjadi nyata.
Ini pilot pesawat tempur yang ingin kau lihat.
Ini seperti dogfighting manusia.
Dogfighting adalah adu pesawat tempur.
Kau bisa menganggapnya sebagai pertandingan tinju di langit.
Mungkin orang-orang sudah menonton Top Gun.
Bisa lebih cepat dari mereka?
Bukan misil dan senjata mereka.
Kalau begitu dogfight.
Belajar menguasai dogfighting bisa memakan waktu
delapan sampai sepuluh tahun.
Itu tantangan yang sangat rumit untuk mengembangkan kecerdasan buatan.
Pendekatan sebelumnya terhadap otomatisasi dan dogfighting cenderung rapuh.
Kami baru mengetahui pembelajaran mesin mungkin cara untuk memecahkan masalah ini.
Awalnya kecerdasan buatan tak tahu apa-apa tentang dunia tempat ia ditempatkan.
Ia tak tahu ia terbang atau apa itu pertempuran udara.
Ia tak tahu apa itu F-16.
Yang ia tahu hanyalah tindakan yang bisa ia ambil
dan ia akan mulai menjelajah itu secara acak.
Pesawat biru baru berlatih sebentar.
Kau bisa melihatnya bergerak maju mundur,
terbang dengan sangat tak menentu, umumnya menjauh dari musuhnya.
Selama pertempuran,
kita bisa melihat biru mulai membuat rencana permainannya.
Ia mulai membuat posisi menembak.
Sesekali, algoritma pembelajaran berkata,
"Ambil kukis ini. Terus lakukan itu."
Kita bisa memanfaatkan kekuatan komputer dan melatih para agen berkali-kali
secara paralel.
Seperti tim basket.
Alih-alih terus-menerus memainkan tim yang sama,
kita berkeliling dunia memainkan 523 tim berbeda,
semua bersamaan.
Kau bisa jadi sangat pandai, sangat cepat.
Kami bisa menjalankan simulasi itu 24/7
dan mendapatkan waktu pelatihan pilot selama 30 tahun dalam 10 bulan.
Kami berubah dari nyaris tak bisa mengendalikan pesawat
menjadi pembunuh keji.
Di bawah pelatihan, kami hanya bersaing dengan kecerdasan buatan lain.
Namun, bersaing melawan manusia secara langsung adalah target utama.
Namaku Mike Benitez.
Aku Letnan Kolonel Angkatan Udara AS
dan aktif sekitar 25 tahun.
Aku punya 250 misi tempur
dan lulusan sekolah pelatihan senjata,
Top Gun versi Angkatan Udara.
Aku tak pernah terbang melawan kecerdasan buatan.
Aku antusias untuk menujukkan kebolehanku.
Ada serangan langsung jarak 1.800 meter.
Baik, mulai.
Ya, itu sangat menarik.
- Mati. - Kena. Kemenangan sempurna.
Baiklah, babak kedua.
Kecerdasan buatan bermanuver dengan presisi yang begitu menakjubkan
sampai aku tak bisa mengikutinya.
Saling berhadapan.
Mati kau.
Kena!
Masih kena.
Kecerdasan buatan tak pernah takut.
Ada elemen emosional manusia di kokpit yang tak dimilikinya.
Salah satu strategi menarik yang dikembangkan kecerdasan buatan kami
disebut menembak dari depan.
Biasanya manusia ingin menembak dari belakang
karena sulit bagi musuh untuk melepaskanmu.
Mereka tak mencoba menembak dari depan karena kau bermain seperti pengecut.
Saat kita menghampiri secara langsung, jarak 900 hingga 150 meter
bisa terjadi dalam sekejap.
Kau berisiko tinggi bertabrakan, jadi manusia tak mencobanya.
Kecerdasan buatan, kecuali disuruh untuk takut mati, takkan takut mati.
Aku seperti bertempur melawan manusia,
tetapi manusia yang nekat mengabaikan keselamatan.
Yang terakhir ini, dia takkan selamat.
Waktunya tak cukup.
Selamat malam.
Aku mati.
Aku jadi tahu diri
bahwa aku mungkin bukan yang terbaik untuk misi ini
dan teknologi itu bisa menggantikanku suatu hari nanti.
6 CAV sama.
Seribu ofset.
Dengan pilot kecerdasan buatan yang perintah pesawat tempur,
kemenangannya tanpa henti, dominan.
Bukan hanya menang jauh.
Itu, "Bagaimana kita bisa memasangnya di pesawat?" Itu sangat kuat.
Sangat realistis untuk berharap kecerdasan buatan akan menerbangkan F-16
dan itu takkan lama lagi.
Jika melawan pilot kecerdasan buatan yang punya tingkat kemenangan 99,99999%,
kau tak punya peluang.
Saat memikirkan pilot kecerdasan buatan yang tak terkalahkan,
aku memikirkan bagaimana satu tim dengan 50, 100,
atau 1.000 pilot kecerdasan buatan bisa terus berhasil.
Swarming adalah tim pesawat sangat cerdas yang bekerja sama.
Mereka berbagi informasi tentang apa yang harus dilakukan, memecahkan masalah.
Swarming akan menjadi kemampuan inovatif dan transformasional
bagi militer dan sekutu kami.
Target telah ditemukan dan drone mengikutinya.
Baik, waktunya mendarat.
Tujuan utama dari penelitian swarming yang sedang kami garap
ialah mengerahkan sejumlah besar drone
ke area yang sulit dijangkau atau berbahaya.
Army Research Lab mendukung proyek penelitian ini.
Jika kau ingin mengetahui sebuah lokasi,
tetapi sulit untuk mencapai area itu atau areanya sangat luas,
mengerahkan swarm adalah cara yang sangat natural
guna memperluas jangkauan individu
dan mengumpulkan informasi yang penting bagi misi.
Jadi, saat ini dalam pengerahan swarm kami,
pada dasarnya kami memberi satu perintah untuk melacak target yang diinginkan.
Lalu drone terbang dan melakukan semua itu sendiri.
Kecerdasan buatan memungkinkan robot bergerak kolektif sebagai kawanan
secara terdesentralisasi.
Dalam kawanan di alam yang kita lihat,
tak ada pemimpin, tak ada hewan utama yang memerintah mereka.
Perilaku itu muncul dari tiap hewan
mengikuti beberapa aturan sederhana.
Dari situ tumbuh perilaku kolektif yang kau lihat.
Yang menakjubkan dari kawanan di alam
ialah kemampuan anggun saat mereka bergerak.
Seolah-olah mereka diciptakan untuk jadi bagian dari grup ini.
Idealnya, yang ingin kami lihat dengan kawanan drone kami adalah,
seperti kawanan hewan di alam,
keputusan yang dibuat oleh kelompok secara kolektif.
Inspirasi lain bagi kami
datang dalam bentuk reliabilitas dan resiliensi.
Kawanan itu takkan tumbang
jika satu hewan tak melakukan apa yang seharusnya dilakukan.
Meski salah satu agen jatuh, gagal,
atau tak bisa menyelesaikan tugas,
kawanan itu takkan berhenti.
Dan pada akhirnya, itu yang kami inginkan.
Kami punya sebuah kebutuhan dalam skenario pertempuran
untuk mengidentifikasi pesawat musuh
dan dulu kami butuh satu orang untuk mengendalikan satu robot.
Saat otomatisasi meningkat,
kuharap kita akan bisa melihat sejumlah besar robot
yang dikendalikan sejumlah kecil orang.
Aku tak melihat alasan kita tak sanggup mencapai seribu
karena tiap agen akan mampu bertindak atas kemauannya sendiri
dan langit adalah batasnya.
Kita bisa meningkatkan pembelajaran kita…
Kami sudah cukup lama mengembangkan swarming dalam simulasi
dan ini waktunya untuk menerapkannya ke pesawat asli.
Kami berharap dapat membuat tiga robot sekaligus melalui jaringan,
lalu mulai menambahkan lebih banyak kemampuan.
Kami ingin bisa mengujinya ke sistem yang lebih kecil,
tetapi ambil konsep yang sama dan terapkan ke sistem yang lebih besar
seperti jet tempur.
Kami sering membicarakan
bagaimana kau memberi satu peleton kekuatan tempur yang setara satu batalion.
Atau satu batalion dengan kekuatan tempur yang setara satu brigade.
Kau bisa melakukannya dengan swarming.
Dan jika bisa membuka kekuatan swarming itu,
kau baru saja menciptakan deterens strategis baru
terhadap agresi militer.
Kurasa hal yang paling menarik ialah jumlah pria dan wanita muda
yang akan kita selamatkan jika kita melakukan ini dengan benar.
Kita bertukar mesin
alih-alih nyawa manusia.
Beberapa berpendapat
bahwa senjata otomat akan membuat perang lebih tepat dan lebih manusiawi,
tetapi sebenarnya sulit diprediksi
bagaimana senjata otomat bisa mengubah perang sebelumnya.
Itu seperti penemuan senapan Gatling.
Richard Gatling adalah seorang penemu.
Dia melihat tentara kembali, terluka dalam Perang Saudara,
dan ingin mencari cara untuk membuat perang lebih manusiawi.
Untuk mengurangi jumlah tentara yang tewas dalam perang
dengan mengurangi jumlah tentara dalam pertempuran.
Jadi, dia menciptakan senapan Gatling, senapan yang diputar dengan engkol
yang dapat mengotomatiskan proses penembakan.
Itu meningkatkan daya tembak sebanyak seratus kali lipat oleh tentara.
Sering kali, upaya untuk membuat perang lebih tepat dan manusiawi
bisa memiliki efek sebaliknya.
Pikirkan efek dari drone yang salah sasaran di daerah pedesaan
yang mendorong penduduk lokal menentang Amerika Serikat,
menentang pemerintah lokal, padahal niat mereka baik.
Sekarang perbesar itu 1.000 kali.
Penciptaan sistem persenjataan
yang murah, terukur, dan tak memerlukan operator manusia
secara drastis mengubah barier konflik yang sebenarnya.
Itu membuatku terjaga pada malam hari karena memikirkan dunia penuh peperangan
dan kita tak lagi menanggung biaya manusia dan finansial perang
karena kita sangat jauh dari…
nyawa yang akan hilang.
Semua ini menghantuiku.
Aku hanya butuh contoh penyalahgunaan kecerdasan buatan.
Konsekuensi tak terduga dari eksperimen pikiran sederhana itu
sudah terlalu berlebihan.
KECERDASAN BUATAN DALAM PENEMUAN OBAT: MENGHINDARI LEBIH BANYAK KERUSAKAN
Saat aku memberikan presentasi
tentang molekul beracun yang diciptakan teknologi kecerdasan buatan,
para audiens ternganga.
SENYAWA TOP 5.000 DIKENAL SEBAGAI ANALOG VX
Keputusan berikutnya adalah apa kami harus menerbitkan informasi ini.
Di satu sisi, kau ingin memperingatkan dunia
tentang kemampuan semacam ini, tetapi di sisi lain,
kau tak ingin memberi seseorang gagasan apa mereka belum pernah memilikinya.
Kami memutuskan itu layak diterbitkan
untuk mungkin mencari cara mengurangi penyalahgunaan jenis kecerdasan buatan ini
sebelum itu terjadi.
FUNGSI GANDA PENEMUAN OBAT YANG DIDUKUNG KECERDASAN BUATAN
BAGAIMANA TEKNOLOGI KECERDASAN BUATAN UNTUK PENEMUAN OBAT
Reaksi masyarakat umum mengejutkan.
Kami bisa melihat metrik di laman, berapa banyak orang yang mengaksesnya.
Jenis artikel yang biasa kami tulis, kami beruntung jika bisa…
Beberapa ribu orang melihat artikel kami selama setahun atau beberapa tahun.
Sudah 10.000 orang membacanya dalam sepekan.
Lalu 20.000, 30.000, 40.000,
dan kami mencapai hingga 10.000 orang per hari.
Kami berkolaborasi dengan The Economist, Financial Times.
Radiolab juga menghubungi. Aku pernah dengar Radiolab!
Namun, kemudian reaksi berubah menjadi tak terkendali.
Saat melihat cuitan itu, kami berpikir, "Apa itu bisa melakukan yang lebih buruk?"
Kenapa mereka melakukan ini?
KUTU BUKU INI AKAN MEMBUNUH KITA SEMUA.
Lalu kami mendapat undangan yang tak kusangka-sangka.
Ada banyak diskusi di Gedung Putih tentang artikel itu
dan mereka ingin segera bicara dengan kami.
Jelas, itu kehormatan luar biasa bisa bicara dengan orang pada tingkat ini.
Namun, kau berpikir, "Astaga, ini Gedung Putih. Para petinggi."
Itu melibatkan menyusun kumpulan data sumber terbuka…
Enam jam lagi, model itu bisa menghasilkan lebih dari 40.000…
Mereka bertanya berapa banyak daya komputasi yang kami butuhkan
dan kami bilang tak ada yang istimewa.
Hanya Mac biasa berusia enam tahun.
Dan itu mengejutkan mereka.
Orang-orang yang bertugas memahami agen perang kimia
dan badan pemerintah, mereka tak mengetahui potensi ini.
Kami punya buku resep untuk membuat senjata kimia ini
dan di tangan aktor jahat yang punya niat buruk,
itu bisa sangat mengerikan.
Mereka duduk dan mendengarkan.
Kami harus mengambil langkah untuk mengatur teknologi
atau membatasinya agar itu tak bisa disalahgunakan
karena potensi kematiannya…
mengerikan.
Pertanyaan tentang etika kecerdasan buatan sebagian besar diatasi oleh masyarakat,
bukan oleh para insinyur, teknolog, atau matematikawan.
Setiap teknologi yang kita hasilkan, setiap inovasi baru,
pada akhirnya berada di bawah lingkup kepercayaan masyarakat terhadap itu.
Saat ini, Departemen Pertahanan berkata,
"Satu-satunya yang mengatakan kita akan membunuh sesuatu
di medan perang adalah manusia."
Mesin bisa membunuh,
tetapi hanya atas perintah operator manusia
dan aku tak melihat itu berubah.
Mereka meyakinkan kita bahwa jenis teknologi ini akan aman.
Namun, militer AS tak punya reputasi yang dapat dipercaya
dengan perang drone.
Jadi, saat memercayai militer Amerika dengan kecerdasan buatan,
menurutku rekam jejaknya sudah cukup menggambarkan.
Kebijakan Departemen Pertahanan AS tentang otomatisasi dalam senjata
tak melarang sistem persenjataan apa pun.
Dan meski militer mungkin tak menginginkan senjata otomat,
kita bisa melihat militer menyerahkan lebih banyak keputusan kepada mesin
hanya untuk mengimbangi pesaing.
Itu bisa mendorong militer untuk membuat keputusan
yang mungkin tak mereka inginkan.
Vladimir Putin pernah berkata, "Kuasai kecerdasan buatan,
kuasai dunia."
Presiden Xi telah menegaskan
kecerdasan buatan adalah salah satu teknologi nomor satu
yang ingin dikuasai Tiongkok.
Kita jelas berada dalam kompetisi teknologi.
Kau mendengar orang membicarakan pembatas
dan aku yakin itu yang harus mereka lakukan.
Namun, ada persaingan yang sangat serius untuk keunggulan kecerdasan buatan.
Dan musuh kami, entah itu Tiongkok, Rusia, atau Iran
takkan menghiraukan kebijakan kami mengenai kecerdasan buatan.
Kau melihat lebih banyak percakapan tentang kebijakan soal kecerdasan buatan,
tetapi aku berharap lebih banyak pemimpin membicarakan,
"Secepat apa kita bisa membuatnya?
Mari kumpulkan sumber dayanya lalu buat."
PERTEMUAN & EKSPOSISI TAHUNAN AUSA WASHINGTON, DC
ANGKATAN DARAT AMERIKA SERIKAT
Kami ada di pameran dagang terbesar Asosiasi Angkatan Darat AS tahun ini.
Intinya, vendor mana pun yang menjual produk atau teknologi kepada militer
akan berpameran.
Pangkalan Angkatan Udara Tyndall memiliki empat robot kami
yang berpatroli di pangkalan mereka 24 jam sehari, 7 hari seminggu.
Kami bisa menambahkan mulai dari kamera, sensor, hingga apa pun yang kau butuhkan.
Lengan manipulator.
Sekali lagi, hanya untuk menyelesaikan misi para pelanggan.
Bagaimana jika musuh perkenalkan kecerdasan buatan?
Sistem petempur yang berpikir lebih cepat, merespons lebih cepat
daripada apa yang bisa dilakukan manusia. Kita harus siap.
Kami melatih sistem kami untuk mengumpulkan informasi musuh,
mengelola target musuh dengan manusia mengawasi keberhasilan membunuh.
- Hai, Jenderal. - Apa kabar?
Baik, Pak. Apa kabar?
Tak ada yang berinvestasi lebih banyak dalam pilot kecerdasan buatan.
Pilot kami bernama Hivemind.
Kami menerapkannya ke Nova, quadcopter kami. Ia masuk ke gedung,
memandu pasukan operasi khusus dan pasukan infanteri.
Kami menerapkan Hivemind ke V-Bat,
jadi aku berpikir untuk mengerahkan ratusan tim itu.
Entah itu di Selat Taiwan,
Ukraina, menghalangi musuh kita.
Jadi, aku cukup antusias.
- Baiklah. Terima kasih. - Terima kasih, Jenderal.
Pilot kecerdasan buatan harus ubikuitas, terutama pada tahun 2025, 2030.
Adopsinya akan cepat di seluruh militer di dunia.
Apa yang kau lakukan dengan militer Rumania, orang UAS mereka?
Teknologi tinggi di militer.
Kami menghabiskan setengah miliar dolar untuk membangun pilot kecerdasan buatan.
Kami akan menghabiskan miliaran dolar lagi selama lima tahun ke depan.
Itu alasan utama kami memenangkan program catatan di Amerika Serikat.
Bagus.
Itu mengesankan. Kalian berhasil mempersenjatai itu?
Ini belum dipersenjatai.
Jadi, belum. Tetapi ya, di masa depan.
Pelanggan kami menganggapnya sebagai truk. Kami menganggapnya sebagai truk cerdas
yang dapat melakukan banyak hal berbeda.
- Terima kasih. - Ya.
Aku akan memastikan untuk menghubungimu.
Jika kembali 10 tahun lagi, kau akan melihat
kecerdasan buatan dan otomatisasi akan mendominasi seluruh pasar ini.
Pasukan yang didukung oleh kecerdasan buatan dan otomatisasi
pasti akan mendominasi, menghancurkan,
dan membinasakan pasukan tanpa dukungan itu.
Itu seperti kuda melawan tank,
orang dengan pedang melawan senapan mesin.
Itu pasti berbeda jauh.
Itu akan menjadi ubikuitas, digunakan pada setiap spektrum peperangan,
tingkat taktis,
tingkat strategis,
beroperasi dengan kecepatan yang tak dapat dipahami manusia saat ini.
Komandan sudah kewalahan dengan terlalu banyak informasi.
Citra dari satelit, drone, dan sensor.
Salah satu fungsi kecerdasan buatan
ialah membantu komandan lebih cepat memahami apa yang terjadi.
Lalu, "Keputusan apa yang harus kubuat?"
Kecerdasan buatan akan mempertimbangkan semua faktor
yang menentukan cara perang dilaksanakan,
memikirkan strategi…
dan memberikan rekomendasi tentang cara memenangkan pertempuran.
LOCKHEED MARTIN PUSAT INOVASI
Kami di Lockheed Martin, seperti pelanggan dari Departemen Pertahanan,
menganggap kecerdasan buatan sebagai pendukung teknologi utama
untuk komando dan kendali.
Tingkat penyebaran rata-rata 0,6 meter per detik.
Perimeter ini kira-kira 283,3 hektar.
Kabut perang jelas merupakan kenyataan bagi kami di sisi pertahanan,
tetapi itu memiliki kesamaan dengan berada di lingkungan
dan harus membuat keputusan untuk kebakaran hutan juga.
Kebakaran Washburn terjadi di utara kota Wawona.
Kau harus membuat keputusan dengan data yang tak sempurna.
Bagaimana kecerdasan buatan membantu kami dengan kabut perang itu?
Kebakaran hutan sangat kacau.
Sangat kompleks,
jadi kami memanfaatkan kecerdasan buatan untuk membantu membuat keputusan.
Kami mengembangkan program Cognitive Mission Manager
guna merekam video inframerah udara
lalu memprosesnya melalui algoritma kecerdasan buatan kami
untuk bisa memprediksi kebakaran di masa depan.
Saat kita bergerak ke masa depan,
Cognitive Mission Manager akan menggunakan simulasi,
menjalankan skenario selama ribuan siklus
untuk merekomendasikan cara paling efektif guna mengerahkan sumber daya
untuk menekan area kebakaran prioritas tinggi.
Ia akan berkata, "Lakukan penekanan udara dengan Firehawk di sini.
Perintahkan petugas darat untuk membersihkan semak,
pemadam kebakaran untuk menyemprotkan air,
lalu tarik mereka ke area prioritas tertinggi."
Keputusan itu akan bisa dihasilkan lebih cepat dan efisien.
Kami melihat kecerdasan buatan secara unik memungkinkan manusia
untuk dapat mengikuti lingkungan yang terus berubah.
Dan ada banyak kesamaan
dengan yang biasa kami lakukan di Lockheed Martin di sisi pertahanan.
Militer tak lagi bicara soal penggunaan kecerdasan buatan
dan sistem persenjataan individu untuk membuat
keputusan penargetan dan pembunuhan,
tetapi mengintegrasikannya ke arsitektur pengambilan keputusan militer.
Angkatan Darat punya proyek besar bernama Project Convergence.
Angkatan Laut punya Overmatch.
Dan Angkatan Udara punya Advanced Battle Management System.
Departemen Pertahanan berusaha mencari tahu,
"Bagaimana kita menyatukan semua ini
agar bisa beroperasi lebih cepat daripada musuh kita
dan benar-benar mendapat keuntungan?"
Manajer Pertempuran Kecerdasan Buatan harus jenderal berpangkat tinggi
yang memimpin pertempuran.
Membantu memberi perintah kepada sejumlah besar pasukan,
mengoordinasikan aksi semua senjata yang ada di luar sana,
dan melakukannya dengan kecepatan yang tak tertandingi.
Kami menghabiskan 70 tahun terakhir
mengembangkan militer tercanggih di planet ini
dan sekarang kami menghadapi keputusan apa kami ingin menyerahkan kendali
atas infrastruktur itu kepada algoritma, perangkat lunak.
Dan konsekuensi dari keputusan itu
bisa memicu seluruh persenjataan militer kita.
Itu bukan satu Hiroshima, melainkan ratusan.
Ini saatnya kami bertindak
karena jendela untuk menahan risiko ini tertutup dengan cepat.
PBB 27 SEPTEMBER 2021
Sore ini, kami mulai dengan tantangan keamanan internasional
yang ditimbulkan oleh teknologi baru
di area sistem persenjataan otomat yang mematikan.
Percakapan terjadi di PBB
tentang ancaman senjata otomat mematikan
dan larangan kami pada sistem
yang menggunakan kecerdasan buatan untuk memilih dan menyasar orang.
Konsensus di antara para teknolog jelas dan bergaung.
Kami menentang senjata otomat yang menyasar manusia.
Selama bertahun-tahun, negara bagian membantu, membahas
isu sistem persenjataan otomat yang mematikan ini.
Ini tentang rasa aman bersama.
Namun, tentu saja, itu tak mudah.
Negara tertentu, terutama kekuatan militer,
mereka ingin jadi yang terdepan
agar lebih unggul daripada musuh mereka.
Masalahnya, semua orang harus setuju untuk menyelesaikan apa pun.
Akan ada setidaknya satu negara yang keberatan
dan tentu saja Amerika Serikat serta Rusia telah menegaskan
bahwa mereka menentang perjanjian yang akan melarang senjata otomat.
Saat kita memikirkan jumlah orang yang membuat kecerdasan buatan lebih kuat,
ruangan itu sangat penuh.
Saat kita memikirkan ruangan berisi orang, memastikan bahwa kecerdasan buatan aman,
ruangan itu jauh lebih sepi.
Namun, aku juga amat optimistis.
Aku melihat sesuatu seperti Konvensi Senjata Biologis,
yang terjadi di tengah Perang Dingin
meski ada ketegangan antara Uni Soviet dan Amerika Serikat.
Mereka mampu menyadari bahwa pengembangan senjata biologis
bukan demi kepentingan terbaik mereka
dan bukan demi kepentingan dunia pada umumnya.
Dinamika persaingan persenjataan utamakan kecepatan daripada keselamatan.
Namun, kurasa yang penting untuk dipertimbangkan ialah
pada titik tertentu, biaya bergerak cepat menjadi terlalu tinggi.
Kita tak bisa mengembangkan sesuatu secara terpisah begitu saja
dan menempatkannya di luar sana tanpa pertimbangkan arahnya di masa depan.
Kita harus mencegah momen bom atom itu.
Taruhan dalam persaingan kecerdasan buatan sangat besar.
Kurasa tak banyak orang menghargai stabilitas global
yang telah disediakan dengan memiliki kekuatan militer yang unggul
selama 75 tahun terakhir.
Jadi, Amerika Serikat dan pasukan sekutu kami
harus mengungguli kecerdasan buatan.
Tak ada juara kedua di perang.
Tiongkok berencana besar untuk unggul di bidang kecerdasan buatan sebelum 2030.
Ada yang bilang Amerika kalah dalam persaingan ini…
Kalian akan mempercepat adopsi kecerdasan buatan
guna memastikan keunggulan kompetitif militer kita.
Kami berlomba dengan teknologi ini.
Aku merasa pertanyaannya adalah seberapa jauh ini akan berlangsung?
Kita mengendalikan teknologi atau teknologi mengendalikan kita?
Tidak ada kesempatan untuk mengulang.
Begitu dilepas, itu akan sulit untuk dikendalikan.
Dan sangat sulit untuk menghentikannya.
Jika kita tak bertindak sekarang, semuanya akan terlambat.
Mungkin sudah terlambat.
Terjemahan subtitle oleh Muhammad Pandu Abdillah