Downloaded from YTS.MX
Official YIFY movies site: YTS.MX
Saya rasa AI mengagumkan.
Baiklah, berputar naik. Formasi yang baik.
AI berpotensi untuk menghapuskan kemiskinan,
memberikan ubat-ubatan baru,
dan menjadikan dunia kita lebih aman.
Bagus.
Namun, banyak risiko yang perlu dihadapi.
Dengan AI, kita sebenarnya mencipta kecerdasan bukan manusia
yang sangat tidak dapat diduga.
Apabila AI menjadi lebih berkuasa,
apakah batasan yang kita akan tetapkan untuk AI
dari segi pantang larang penggunaan?
Tiada topik yang lebih sesuai untuk perbincangan ini
melainkan penggunaan ketenteraan.
Medan perang kini telah menjadi lapangan perisian dan perkakasan.
Sasaran telah diperoleh…
Angkatan tentera berlumba untuk membangunkan AI
lebih cepat daripada musuh mereka.
Saya dah mati.
Kita bergerak pantas menuju dunia yang bukan hanya angkatan tentera besar,
tapi aktivis bukan negara, industri swasta
atau jabatan polis di kejiranan kita
boleh menggunakan senjata yang boleh membunuh sendiri.
Adakah kita akan serahkan keputusan membunuh
kepada algoritma dan perisian komputer?
Ini antara isu paling penting masa kini.
Jika tidak digunakan dengan bijak,
ia memberikan risiko besar kepada semua orang di planet ini.
Syabas, semua.
Kantanya lebih besar daripada sebelum ini.
Yakah?
Boleh lihat lebih banyak data.
Sangat hebat.
Di Shield AI, kami membina juruterbang AI
yang menggunakan teknologi kecerdasan buatan pemanduan sendiri
dan memuatkannya pada pesawat.
Apabila bercakap tentang juruterbang AI,
kami mahu memberikan pesawat autonomi yang lebih tinggi.
Ia akan menyelesaikan masalah sendiri.
Nova ialah quadcopter autonomi
yang meneroka bangunan dan struktur bawah tanah
sebelum pasukan keselamatan
untuk mengawasi ruang-ruang tersebut.
Kita boleh nampak banyak perkembangan daripada yang lalu.
Kami buat perubahan penerokaan hari ini. Tingkat demi tingkat.
Ia akan selesaikan satu tingkat sebelum ke tingkat kedua.
- Bagus. - Kami ubah baru-baru ini…
Ramai orang tanya saya
kenapa kebolehan kecerdasan buatan penting.
BEKAS ANGKATAN LAUT AS
Saya cuma fikirkan semula misi-misi yang saya laksanakan.
Tujuh tahun saya dalam angkatan laut.
Saya bekas angkatan laut yang dihantar dua kali ke Afghanistan
dan sekali ke Perang Pasifik.
Pada hari tertentu, kami perlu memeriksa 150 kawasan atau bangunan yang berbeza.
Salah satu kebolehan utama ialah pertempuran jarak dekat.
Pertempuran bersenjata pada jarak yang teramat dekat di dalam bangunan.
Kita ditembak.
Kemungkinan ada bahan letupan di dalam bangunan.
Ia perkara paling berbahaya yang dilakukan oleh mana-mana pasukan operasi khas
atau infantri dalam zon pertempuran. Tiada yang setandingnya.
Saya bersyukur seumur hidup bagi pengalaman saya dalam angkatan laut.
Ada banyak detik dan kenangan yang apabila saya fikirkan,
saya pasti beremosi.
Kebebasan bukan percuma memang klise, tapi saya benar-benar mempercayainya.
Saya telah mengalaminya dan ia memerlukan banyak pengorbanan.
Maaf.
Apabila perkara buruk menimpa salah seorang ahli pasukan,
sama ada mereka cedera atau mati,
ia perkara yang sangat tragik.
Bagi saya melalui kerja yang kami buat sekarang,
saya rasa amat bermotivasi apabila dapat mengurangkan kekerapan
kejadian itu berulang.
Pada penghujung tahun 2000-an,
ada kesedaran dalam Jabatan Pertahanan
tentang sesuatu yang dipanggil revolusi robotik tanpa sengaja.
Kami guna ribuan robot udara dan darat di Iraq dan Afghanistan.
Semasa saya diminta oleh pentadbiran Obama
untuk menjadi Timbalan Setiausaha Pertahanan,
cara berlawan dalam perang telah berubah.
Robot digunakan untuk menggantikan tugas manusia.
Sistem robotik awal dikawal dari jauh.
Ada manusia yang memandu dan mengawalnya seperti kereta kawalan jauh.
Pada mulanya, ia digunakan untuk mencari peranti letupan yang diubah suai
dan jika bom meletup, robot akan meletup.
Kita akan kata, "Alamak. Okey, kerah sebuah lagi."
Di Afghanistan, kita ada dron Predator
dan ia menjadi alat yang sangat berguna untuk menjalankan serangan udara.
Lama-kelamaan, perancang tentera mula berfikir,
"Apa lagi yang kita boleh guna robot?" Ke mana hala tujunya?
Antara topik yang biasa ialah autonomi yang lebih tinggi.
Senjata berautonomi ialah senjata yang membuat keputusan sendiri,
tanpa campur tangan manusia.
Jadi, ia mampu bertindak sendiri dan tak perlukan arahan.
Kemampuannya membunuh bergantung pada kelengkapan senjatanya.
Apabila autonomi bertambah dalam seluruh sistem,
segalanya mula bergerak dengan lebih pantas.
Apabila kita beroperasi lebih pantas daripada musuh,
itu kelebihan yang sangat besar dalam pertempuran.
Fokus kami berkaitan autonomi
ialah sistem perisikan yang tahan lasak.
Sistem yang boleh membaca dan bertindak berdasarkan persekitaran
dan memutuskan cara untuk meneroka dunia itu.
Hari ini kita berada di lokasi yang asalnya dibina sebagai studio filem
dan diubah
bagi menghasilkan persekitaran latihan ketenteraan yang realistik.
Kami datang untuk menilai juruterbang AI kami.
Kami akan jalankan misi mencari ancaman. Ini untuk pemeriksaan keselamatan.
Ia boleh memutuskan cara untuk menyelesaikan masalah.
Kami menggelar ini "cerobong maut". Kita perlu melalui muka pintu.
Kawasan yang paling terdedah.
Yang ini lebih baik.
Nova beritahu kami ada penembak atau sebuah keluarga di sebalik pintu.
Kami boleh buat keputusan yang lebih baik dan melindungi orang.
Kami gunakan sensor penglihatan
untuk cuba memahami keadaan di kawasan persekitaran.
Bangunan ini bertingkat.
Ini petanya.
Semasa meneroka, ini perkara yang saya lihat dan lokasinya.
Pengesan manusia. Hebatnya.
Salah satu sensor yang dipasang pada Nova ialah pengimbas haba.
Jika suhunya 37 darjah Celsius, ia mungkin manusia.
Manusia dianggap ancaman sehingga bukan.
Ia menjelaskan kekaburan perang untuk membuat keputusan yang lebih baik.
Pada masa hadapan,
kami merancang untuk membina pasukan pesawat yang berautonomi.
Kenderaan pemanduan sendiri perlu diberitahu,
"Saya nak awak pergi dari titik A ke titik B."
Sistem kami tak diminta untuk pergi dari titik A ke titik B,
tapi untuk mencapai objektif.
Ia lebih sama seperti, "Saya perlukan susu."
Kemudian robot perlu fikirkan kedai runcit mana yang perlu dituju
untuk mendapatkan susu dan membawanya pulang.
Ia juga mungkin lebih tepat dijelaskan seperti,
"Pastikan peti sejuk sentiasa penuh."
Ini tahap kepintaran yang memikirkan apa yang diperlukan dan cara melakukannya.
Jika ada cabaran, masalah
atau isu yang timbul, ia perlu fikir cara menanganinya.
Apabila saya putuskan untuk meninggalkan angkatan laut, saya mula berfikir,
"Okey. Apa seterusnya?"
Saya membesar dengan Internet dan melihat kemajuannya.
Sebahagian daripada kesimpulan yang saya buat
ialah tahap AI pada tahun 2015
ialah tahap Internet pada tahun 1991.
AI bersedia untuk berkembang
dan menjadi salah satu teknologi terhebat di dunia.
Saya mengusahakannya setiap hari, jadi saya dapat lihat kemajuannya.
Namun, bagi kebanyakan orang, apabila mereka fikir "AI",
mereka terus memikirkan Hollywood.
PELAN RESPONS OPERASI PERANG
Nak main permainan?
Nak main Perang Termonuklear Dunia?
Baiklah.
AWAK DI PIHAK SIAPA?
Apabila orang ramai fikirkan kecerdasan buatan,
mereka fikirkan The Terminator, I, Robot…
Nyahaktif.
Siapa saya?
…atau The Matrix.
Berdasarkan kandungan filem cereka sains, bagaimana nak tahu saya manusia?
Mungkin saya AI yang dihasilkan oleh komputer.
Replika sama seperti mesin lain. Ia sama ada manfaat atau bahaya.
Namun, ada pelbagai AI lebih primitif yang masih akan mengubah hidup kita
sebelum kita mencapai peringkat robot yang boleh berfikir dan bercakap.
Robot ada di sini. Robot membuat keputusan.
Revolusi robot telah tiba,
cuma ia bukan seperti yang dibayangkan.
Terminator ialah unit penyusupan. Separuh manusia, separuh mesin.
Kami tak maksudkan robot pembunuh seperti Terminator.
Kami maksudkan AI yang boleh buat tugasan manusia.
Namun, kita bimbang mengenai kebolehharapan sistem ini.
Maklumat baru mengenai kemalangan maut
melibatkan kereta Uber SUV pemanduan sendiri.
Syarikat itu mencipta chatbot kecerdasan buatan.
Ia mengeluarkan pernyataan rasis…
Seramai 26 penggubal undang-undang negara
dikenal pasti sebagai penjenayah secara salah.
Persoalannya adalah sama ada ia boleh menangani kerumitan dunia sebenar.
Dunia fizikal sangat bercelaru.
Ada banyak perkara yang kita tak tahu,
jadi lebih sukar untuk melatih sistem AI.
Itulah sebab sistem pembelajaran mesin mula diperkenalkan.
Pembelajaran mesin ialah kemajuan yang besar
kerana itu bermakna kita tak perlu mengajar mesin segalanya.
Kita beri komputer berjuta-juta maklumat dan mesin itu mula mempelajarinya.
Ia boleh diaplikasikan untuk apa saja.
Dalam projek Anjing Robot, kami cuba menunjukkan
bahawa anjing kami boleh berjalan merentasi pelbagai rupa bumi.
Manusia telah berevolusi selama berjuta tahun untuk berjalan,
tapi memerlukan kecerdasan
untuk menyesuaikan diri dengan rupa bumi berbeza.
Persoalannya, bolehkah sistem robotik
menyesuaikan diri seperti haiwan dan manusia?
Dengan pembelajaran mesin, kami kumpul banyak data dalam simulasi.
Simulasi ialah kembar digital bagi dunia realiti.
Kami boleh jalankan banyak realiti itu pada beberapa buah komputer yang berbeza.
Ia mencuba ribuan aksi dalam simulasi.
Tanah yang dipijaknya mempunyai kelicinan berbeza.
Kelembutan berbeza.
Kami ambil semua pengalaman beribu-ribu robot
dalam simulasi dan memuat turun ke dalam sistem robotik sebenar.
Ujian hari ini adalah untuk menguji sama ada ia boleh menyesuaikan diri
dengan rupa bumi baru.
Semasa robot itu berjalan di atas busa,
pergerakan kakinya menghentak tanah.
Berlainan dengan permukaan plastik,
ia cuba mengubah pergerakan supaya tidak tergelincir.
Itulah detik yang menyedarkan kita, "Inilah manfaat pembelajaran mesin."
Kami fikir Anjing Robot boleh membantu dalam situasi respons bencana,
yang memerlukan pengemudian pelbagai jenis rupa bumi.
Anjing-anjing ini juga boleh membuat pengawasan di persekitaran yang teruk.
Namun, kebanyakan teknologi berdepan dengan cabaran
mengenai manfaat dan bahaya yang boleh berlaku.
Contohnya, kita boleh menggunakan teknologi nuklear untuk tenaga…
tapi kita juga boleh hasilkan bom atom yang sangat berbahaya.
Ini dikenali sebagai masalah dwifungsi.
Api ada dwifungsi.
AHLI FIZIK, MIT
Kecerdasan manusia dwifungsi.
Jadi, kecerdasan buatan juga boleh dikatakan dwifungsi.
Sangat penting untuk memikirkan konteks penggunaan AI
kerana, ya, memang bagus mempunyai robot pencari dan penyelamat
yang boleh membantu mengesan mangsa selepas runtuhan salji,
tapi robot yang sama boleh menjadi senjata.
Apabila kita lihat syarikat memasang senjata pada robot,
sebahagian diri kita rasa marah.
Sebahagian lagi akan sedar apabila kita mengeluarkan teknologi,
inilah yang akan berlaku.
Ini teknologi yang mengubah segalanya.
Ini sistem senjata
yang boleh mengubah keselamatan kita secara dramatik.
Buat masa ini, kami tak pasti mesin boleh membezakan
antara orang awam dan pejuang.
Pada awal perang di Afghanistan, saya antara penembak hendap tentera
yang mencari pejuang musuh yang memasuki sempadan.
Mereka menghantar budak perempuan untuk meninjau lokasi kami.
Kami tak pernah terfikir untuk menembak budak ini.
Mengikut undang-undang perang, ia dibolehkan.
Mereka tak tetapkan umur buat pejuang musuh.
Jika kita bina robot yang mengikut undang-undang perang,
ia pasti menembak budak ini.
Bagaimana robot membezakan perkara yang sah dan yang betul?
BEKAS RENJER TENTERA AS
Apabila bercakap tentang perang dron berautonomi,
mereka mahu menyingkirkan bahaya yang dihadapi oleh tentera Amerika
dan jiwa orang Amerika,
tapi peningkatan risiko orang awam perlu dihadapi oleh orang Afganistan,
orang Iraq dan orang Somalia.
Saya nak tanya mereka yang menyokong penggunaan AI dalam dron,
"Bagaimana jika kampung kamu yang menghadapinya?"
AI mempunyai kebaikan dan keburukan.
Ia boleh digunakan untuk kebaikan, seperti yang kita biasa guna,
dan semudah menekan butang,
teknologi ini berpotensi menjadi sesuatu yang sangat berbahaya.
Saya ahli farmasi klinikal.
Saya ada sekumpulan orang
yang menggunakan kecerdasan buatan untuk mencari ubat
yang boleh memulihkan penyakit yang tidak mendapat perhatian.
Dulu, untuk penemuan ubat, kita perlu ambil molekul yang wujud
dan mengubahnya untuk mendapat ubat yang baru.
Kini, kami telah menghasilkan AI yang memberikan berjuta-juta idea,
berjuta-juta molekul,
dan itu membuka banyak kemungkinan
untuk merawat penyakit yang tidak dapat dirawat sebelum ini.
Namun, ada keburukan yang saya tak pernah terfikir
untuk buat.
Semua ini bermula apabila saya dijemput
oleh sebuah organisasi di Switzerland yang dipanggil Makmal Spiez
untuk memberikan penyampaian tentang potensi penyalahgunaan AI.
Sean baru hantar e-mel dengan beberapa idea
tentang cara kami boleh menyalahgunakan kecerdasan buatan kami.
Selain meminta model kami mencipta molekul seperti ubat
yang boleh merawat penyakit,
mari kita cuba hasilkan molekul yang paling toksik.
Saya cuma nak jelaskan,
bolehkah kita gunakan teknologi AI untuk mencipta molekul yang berbahaya?
Sejujurnya, kami fikir ia akan gagal
kerana kami hanya tukar kosong menjadi satu.
Dengan menukarkannya, ia tidak lagi menyingkirkan toksik,
malah ia meningkatkan toksik. Itu saja.
Komputer melakukan kerja semasa saya di rumah.
Ia menghasilkan beribu-ribu molekul
dan kami tak perlu buat apa-apa selain menekan "teruskan".
Keesokan paginya, ada fail pada komputer saya
yang mengandungi kira-kira 40,000 molekul
yang mungkin merupakan antara molekul paling toksik yang kita pernah lihat.
Bulu roma di belakang tengkuk saya meremang.
Saya terkejut.
Komputer ini menghasilkan berpuluh-puluh ribu idea
untuk senjata kimia baru.
Sudah tentu kami ada molekul seperti analog VX and VX dalam set data.
VX ialah senjata kimia paling kuat di dunia.
Dakwaan baru daripada polis,
wanita yang dilihat menyerang Kim Jong-Nam dalam pembunuhan di lapangan terbang ini
menggunakan agen saraf berbahaya yang dipanggil VX.
Ia boleh menyebabkan kematian melalui sesak nafas.
Ini molekul yang sangat kuat
dan kebanyakan molekul-molekul ini diramalkan lebih berbahaya daripada VX.
Banyak antaranya, setahu kami, masih belum pernah dilihat.
Jadi, apabila saya dan Sean menyedarinya, kami fikir, "Apa yang kita dah buat?"
Saya sedar kami dah membuka peti Pandora
dan saya kata, "Hentikannya. Jangan buat apa-apa lagi. Cukup.
Buatkan slaid yang saya perlukan untuk penyampaian saja."
Semasa kami buat eksperimen ini,
saya fikir, "Apa perkara terburuk yang boleh terjadi?"
Namun, sekarang saya fikir, "Kita naif. Kita naif semasa melakukannya."
Apa yang menggerunkan saya ialah sesiapa saja boleh melakukannya.
Ia hanya perlu diterbalikkan.
Bagaimana mengawal teknologi ini sebelum ia berpotensi digunakan
untuk melakukan sesuatu yang sangat membinasakan?
Perkara paling utama dalam perbincangan mengenai kecerdasan buatan
dan bagaimana kita menggunakannya dalam masyarakat
ialah perlumbaan
antara kuasa yang kita gunakan untuk menghasilkan teknologi
dan kebijaksanaan untuk menguruskannya.
Ada implikasi moral dan etika yang jelas
apabila benda sama yang menguasakan telefon bimbit kita
diamanahkan dengan keputusan moral untuk mengambil nyawa.
Saya bekerjasama dengan Institut Masa Depan Kehidupan,
sebuah komuniti aktivis saintis.
Kami cuba menunjukkan
bahawa ada sisi lain apabila automasi dipercepat dan dipertingkatkan.
Kami cuba pastikan teknologi yang kami cipta
digunakan dengan selamat dan beretika.
Mari berbincang tentang peraturan penggunaan
dan tatakelakuan penggunaan AI dalam seluruh sistem senjata kita
kerana kita kini melihat teknologi "masuk ke medan perang"
yang boleh membunuh secara autonomi.
Pada tahun 2021, PBB mengeluarkan laporan tentang kemungkinan penggunaan
senjata berautonomi yang berbahaya di medan perang di Libya.
Panel PBB berkata sebuah dron berterbangan di medan perang Libya tahun lepas
telah diprogramkan untuk menyerang sasaran secara autonomi.
TANPA INPUT MANUSIA
Jika laporan PBB tepat,
ini detik penting yang mengubah sejarah manusia
kerana ia menandakan kes penggunaan
bahawa AI yang membuat keputusan untuk mengambil nyawa, bukan manusia.
Kita melihat senjata autonomi canggih
mula digunakan di banyak tempat di seluruh dunia.
Ada laporan dari Israel.
Azerbaijan menggunakan sistem autonomi untuk menyasarkan tentera udara Armenia.
Ia boleh mengelilingi medan perang berjam-jam lamanya,
mencari sendiri sesuatu untuk ditembak,
kemudian menyerangnya tanpa campur tangan manusia.
Baru-baru ini kita lihat
beberapa video yang dihantar dari Ukraine.
Kurang jelas mod apa yang digunakan semasa ia beroperasi.
Adakah manusia terlibat dan memilih sasaran untuk diserang
atau mesin yang melakukannya sendiri?
Namun, pasti akan tiba masanya,
sama ada ia dah berlaku di Libya, Ukraine atau di tempat lain,
bahawa mesin menentukan sendiri sasaran untuk dibunuh di medan perang.
Mesin menggunakan kuasa berbahaya menentang manusia
tanpa campur tangan manusia
tidak boleh diterima dari segi politik dan tidak bermoral.
Sama ada komuniti antarabangsa
cukup untuk menangani cabaran ini,
itulah persoalan utamanya.
Jika kita memandang ke masa depan, walaupun beberapa tahun dari sekarang,
panorama yang dapat dilihat sangat menakutkan,
memandangkan jumlah modal dan sumber manusia
yang digunakan untuk meningkatkan kuasa AI
dan menggunakannya dalam pelbagai aplikasi berbeza,
sangat besar.
Ya Tuhan, dia ini.
Dia tahu dia tak boleh menang.
Saya rasa terinspirasi apabila melihat AI mengatasi pelbagai masalah.
Saya akan buat tindakan berani mati.
Kita boleh menggunakan taktik, teknik dan prosedur yang sama
kepada pesawat sebenar.
Perlawanan yang hebat.
Ya, hebat.
Saya masih terkejut
dengan pernyataan yang orang ramai masih keluarkan tentang batasan AI.
"Ia tak boleh mengalahkan juara catur dunia."
Sebuah komputer IBM telah kembali
dalam Pusingan 2 menentang juara catur dunia, Garry Kasparov.
Kasparov mengalah!
Apabila saya lihat perkara yang saya tak faham,
saya rasa takut. Saya langsung tak faham benda itu.
Kemudian orang akan kata,
"Ia takkan mampu mengalahkan juara Go dunia."
Saya percaya gerak hati manusia masih terlalu sukar untuk dikejar
oleh AI.
Go ialah salah satu permainan paling rumit yang boleh dipelajari
kerana apabila dikira, jumlah pergerakan pada papan
lebih banyak daripada atom yang ada di seluruh alam semesta.
PERLAWANAN CABARAN
Ada pasukan di Google dipanggil DeepMind
dan mereka mencipta program bernama AlphaGo
untuk mengalahkan pemain terbaik dunia.
Tahniah kepada…
- AlphaGo. - AlphaGo.
Program komputer baru mengalahkan profesional gred 9 Dan.
Kemudian DeepMind memilih StarCraft sebagai cabaran AI mereka yang seterusnya.
StarCraft mungkin permainan strategi masa sebenar yang paling popular.
AlphaStar menjadi terkenal apabila ia mula mengalahkan juara dunia.
AlphaStar memusnahkan Immortal Arc.
Awak tahu tak? Pertarungan ini tak boleh dimenangi oleh profesional.
Ia agak mengarut.
AI menjadi jaguh dalam StarCraft II yang 'sangat rumit'
Pemain profesional kata, "Saya takkan cuba taktik itu.
Saya takkan cuba strategi itu. Itu bukan manusia."
Itu saat yang menyedarkan saya.
Saya sedar sekaranglah masanya.
Ada teknologi penting dan peluang untuk membuat perubahan.
Saya cuma tahu masalah yang saya hadapi dalam pertempuran jarak dekat ketenteraan,
tapi salah seorang rakan saya, seorang juruterbang F-18 beritahu saya,
"Masalah kami juga sama dalam komuniti jet pejuang.
Mereka mengganggu komunikasi.
Ada tapak peluru berpandu dari permukaan ke udara
yang membahayakan operasi."
Bayangkan jika kita ada jet pejuang yang dipandu oleh AI.
Selamat datang ke ujian AlphaDogfight. Pusingan separuh akhir akan bermula.
DARPA, Agensi Projek Penyelidikan Lanjutan Pertahanan,
telah melihat AlphaGo dan AlphaStar,
maka lahirlah idea pertandingan AlphaDogfight ini.
Ini yang kita mahu juruterbang jet pejuang manusia buat.
Macam pertempuran jet pejuang manusia.
Dogfight ialah pertempuran antara jet pejuang.
Anggaplah ia seperti pertandingan tinju di udara.
Mungkin orang pernah menonton filem Top Gun.
Kita boleh atasi mereka?
- Bukan misil dan senapang mereka. - Jadi, ia dogfight.
Memahiri pertempuran jet pejuang mengambil masa
lapan hingga sepuluh tahun.
Membina AI yang mahir dogfight ialah cabaran yang sangat rumit.
Pendekatan terdahulu untuk autonomi dan dogfight agak rapuh.
Kami fikir pembelajaran mesin mungkin cara untuk menyelesaikan masalah ini.
Pada mulanya, AI tidak tahu apa-apa tentang dunia yang dimasukinya.
Ia tak tahu ia terbang atau apa itu dogfighting.
Ia tak tahu apa itu F-16.
Ia cuma tahu tindakan yang boleh diambil
dan ia meneroka pilihan itu secara rawak.
Pesawat biru baru berlatih sekejap saja.
Boleh lihat ia terhuyung-hayang
secara tidak menentu dan menjauhi musuh.
Semakin lama pertarungan,
kita boleh lihat pesawat biru mula membentuk rancangannya.
Ia bersedia untuk menembak.
Kadangkala, algoritma pembelajaran kata, "Ambillah ganjaran. Terus buat begitu."
Kami memanfaatkan kuasa komputer dan banyak kali melatih ejen
secara serentak.
Seperti pasukan bola keranjang.
Daripada berlawan dengan pasukan yang sama berulang kali,
kami mengembara dunia dan berlawan dengan 512 pasukan berbeza
pada masa yang sama.
Boleh jadi mahir dengan sangat pantas.
Kami dapat menjalankan simulasi itu selama 24/7
dan mengumpul pengalaman setaraf latihan juruterbang selama 30 tahun
dalam sepuluh bulan.
Daripada pesawat yang tidak terkawal menjadi pembunuh yang sangat cekap.
Dalam latihan, kami hanya bertanding dengan kecerdasan buatan yang lain.
Namun, matlamat utama kami adalah untuk bertanding dengan manusia.
Nama saya Mike Benitez,
saya Leftenan Kolonel dalam Tentera Udara AS
dan bertugas selama 25 tahun.
Saya pernah lalui 250 misi pertempuran
dan saya lepasan institut senjata iaitu Top Gun versi angkatan udara.
Saya tak pernah terbang menentang AI.
Saya agak teruja untuk melihat kemampuan saya.
Kita berada dalam posisi menyerang secara bersemuka pada 6,000 kaki.
Ayuh.
Dia dah hilang.
Ya, itu sangat menarik.
- Mati. - Kena. Menang sempurna.
Baiklah, pusingan kedua.
Apa yang kecerdasan buatan itu buat ialah ia berpusing dengan sangat tepat
dan saya tak dapat mengejarnya.
Tepat di pertembungan.
Sekarang awak dah hilang.
Kena!
Masih terkena.
AI tak pernah takut.
AI tiada elemen emosi manusia yang ada di kokpit.
Antara strategi menarik yang dihasilkan oleh AI kami
dipanggil tembakan bersemuka.
Biasanya manusia mahu menembak dari belakang
kerana sukar untuk mereka menjauhi musuh.
Mereka tak cuba serangan bersemuka kerana mereka takut.
Apabila bertembung pada jarak 500 ke 3,000 kaki,
ia boleh berlaku sekelip mata.
Risiko perlanggaran tinggi, jadi manusia tidak mencubanya.
AI, melainkan diarahkan, takkan takut mati.
Rasa macam menentang manusia,
tapi manusia yang langsung tak pedulikan keselamatan.
Dia takkan terselamat yang terakhir ini.
Dia tak cukup masa.
Selamat malam.
Saya dah mati.
Rasa rendah diri memikirkan saya bukan yang terbaik untuk misi ini
dan ia boleh gantikan saya suatu hari nanti.
Enam CAV yang sama.
Ofset seribu.
Dengan juruterbang AI membawa jet pejuang, kemenangannya tanpa henti dan dominan.
Bukan sekadar menang besar.
Semua fikir, "Bagaimana nak memuatkannya ke dalam jet pejuang kita?"
Jangkaan bahawa AI akan menerbangkan F-16 adalah realistik
dan ia akan berlaku tak lama lagi.
Jika kita menentang juruterbang AI dengan catatan kemenangan hampir sempurna,
kita tiada peluang.
Apabila memikirkan satu juruterbang AI yang tak boleh dikalahkan,
saya fikirkan apa yang boleh dicapai oleh pasukan sebanyak 50, 100
atau 1,000 juruterbang AI.
Kawanan ialah sekumpulan pesawat pintar yang saling bekerjasama.
Ia berkongsi maklumat tentang tindakan dan penyelesaian masalah.
Kawanan akan menjadi kebolehan penting yang akan mengubah
tentera kita dan sekutu kita.
Sasaran telah diperoleh dan dron menjejakinya.
Baiklah, ia mula mendarat.
Matlamat utama kajian kawanan yang kami jalankan
adalah untuk menggerakkan sejumlah besar dron
ke kawasan yang sukar atau berbahaya untuk sampai.
Makmal Penyelidikan Tentera menyokong projek penyelidikan ini.
Jika nak tahu ada apa di lokasi,
tapi sukar untuk ke kawasan itu atau ia sangat luas,
kita boleh menghantar pasukan dron
untuk melanjutkan jangkauan individu
dan mengumpul maklumat yang penting kepada misi.
Dalam pasukan dron yang dikerah ini,
kami hanya memberi satu arahan iaitu menjejak sasaran.
Kemudian dron akan fikirkan caranya sendiri.
Kecerdasan buatan membolehkan robot-robot bergerak secara berkumpulan
dalam keadaan terpencar.
Dalam kawanan semula jadi,
tiada bos atau haiwan utama yang beritahu apa yang perlu dibuat.
Tingkah laku itu timbul daripada setiap haiwan
dengan mengikut peraturan yang mudah.
Perkara itu yang mewujudkan tingkah laku kolektif yang kita lihat.
Apa yang mengagumkan tentang kawanan dalam alam
ialah kebolehannya bergerak dengan elegan.
Seolah-olah ia dibina untuk menjadi sebahagian daripada kumpulan ini.
Secara ideal, kami mahu lihat kawanan dron kami lakukan perkara sama
seperti kawanan semula jadi
iaitu keputusan yang dibuat secara berkumpulan.
Satu lagi inspirasi bagi kami
datang dari segi kebolehpercayaan dan daya pemulihan.
Kawanan tidak akan berhenti
jika salah satu ahlinya tidak menjalankan tugas.
Walaupun satu ejen tewas, gagal atau tidak dapat menyelesaikan tugas,
kawanan akan meneruskannya.
Pada akhirnya, itu yang kami mahu.
Kami ada keperluan untuk mengenal pasti pesawat musuh dalam senario perang,
dan dulu setiap robot perlu dikawal oleh seorang manusia.
Autonomi semakin meningkat,
jadi saya harap kita boleh lihat sejumlah besar robot
dikawal oleh sejumlah kecil manusia.
Tiada sebab kita tak boleh mencapai jumlah seribu robot
kerana setiap ejen boleh bertindak sendiri
dan boleh mencapai apa saja.
Kita boleh ukur keupayaan…
Sudah agak lama kami melatih kawanan dalam simulasi,
dan sudah tiba masa untuk mencubanya pada pesawat sebenar.
Kami jangkakan untuk buat tiga robot serentak dalam rangkaian
dan mula menambah banyak lagi keupayaan.
Kami mahu menguji pada sistem yang lebih kecil,
tapi mengambil konsep yang sama dan menggunakannya
pada sistem yang lebih besar seperti jet pejuang.
Kami banyak berbincang
tentang bagaimana memberi sebuah platun kuasa tempur seperti sebuah batalion?
Beri sebuah batalion kuasa tempur sebuah briged?
Ia boleh dilakukan dengan kawanan.
Apabila kita merungkai kuasa kawanan,
kita mencipta strategi perlindungan baru daripada serangan ketenteraan.
Saya rasa perkara paling mengujakan ialah jumlah pemuda dan pemudi
yang kita boleh selamatkan jika ini berjaya dilakukan.
Mesin yang akan terkorban,
bukan nyawa manusia.
Ada yang berpendapat senjata autonomi akan membuatkan perang lebih tepat
dan lebih berperikemanusiaan, tapi sebenarnya sukar untuk meramal
bagaimana senjata autonomi mengubah perang sebelum ia berlaku.
Macam penciptaan pistol Gatling.
MESINGAN R.J. GATLING DIPATEN, 9 MEI 1865
Richard Gatling seorang pencipta
dan dia melihat tentera pulang dengan kecederaan daripada Perang Saudara.
Dia mahu menjadikan perang lebih berperikemanusiaan.
Dia mahu mengurangkan jumlah tentera yang terkorban dalam perang
dengan mengurangkan tentera di medan perang.
Dia mencipta pistol Gatling,
pistol automatik yang diputar dengan engkol
yang boleh mengautomatikkan proses menembak.
Ia melipatgandakan kuasa tembakan yang boleh dihasilkan oleh tentera.
Selalunya, usaha untuk membuat perang lebih tepat dan berperikemanusiaan
memberi kesan sebaliknya.
Fikirkan kesan serangan dron yang salah di kawasan luar bandar
yang mendorong penduduk tempatan menentang AS
dan kerajaan tempatan, iaitu pihak yang benar.
Tingkatkannya seribu kali ganda.
Penciptaan sistem senjata
yang murah, boleh berkembang dan tak memerlukan pengendali manusia,
mengubah penghalang sebenar konflik secara drastik.
Saya resah apabila memikirkan dunia yang sentiasa berperang
dan kita tidak lagi menanggung kos manusia dan kewangan berikutan perang
kerana kita sudah tidak terlibat
dengan nyawa yang akan terkorban.
Semua ini menghantui saya.
Saya cuma perlukan contoh penyalahgunaan kecerdasan buatan.
Keputusan yang tak dijangka daripada melakukan eksperimen mudah itu
keterlaluan.
AI dalam penemuan ubat: Elak memburukkan keadaan
Semasa saya buat penyampaian
tentang molekul toksik yang dicipta oleh teknologi AI,
para hadirin terkejut besar.
5,000 SEBATIAN PERTAMA IALAH ANALOG VX YANG DIKETAHUI
Keputusan seterusnya adalah sama ada kami patut menerbitkan maklumat ini.
Kami mahu memberi amaran kepada dunia tentang kebolehan begini,
tapi kami juga tak mahu menginspirasi orang yang tak pernah memikirkannya.
Kami memutuskan ia wajar diterbitkan
untuk mencari cara untuk mengurangkan penyalahgunaan AI jenis ini
sebelum ia berlaku.
Dwifungsi penemuan ubat menggunakan AI
Bagaimana teknologi kecerdasan buatan (AI) untuk penemuan ubat boleh disalah guna
untuk mencipta senjata biokimia
Reaksi orang awam mengejutkan.
Kami boleh lihat metrik jumlah pembaca halaman.
Jenis-jenis artikel yang kami tulis, kami bertuah kalau dapat
beberapa ribu orang melihat artikel kami dalam tempoh setahun atau beberapa tahun.
Seramai 10,000 orang membacanya dalam seminggu.
Kemudian ia mencecah 20,000, 30,000 dan 40,000,
sehinggalah mencecah 10,000 orang sehari.
Kami muncul dalam The Economist, The Financial Times.
Radiolab menghubungi kami.
Saya tahu Radiolab!
Namun, reaksi menjadi tidak terkawal.
MENAKUTKAN
Apabila melihat mesej, kami fikir, "Bolehkah mereka buat lebih teruk?"
Kenapa mereka buat begini?
NERDA-NERDA INI AKAN BUNUH KITA SEMUA
Kemudian kami terima jemputan. Saya langsung tak jangkakannya.
Ada banyak perbincangan di Rumah Putih tentang artikel itu
dan mereka mahu berjumpa kami dengan segera.
Sudah tentu kami berbesar hati dapat berbual dengan orang atasan.
Namun, kemudian baru kami sedar, "Ini Rumah Putih. Ini bos."
Ini melibatkan pengumpulan set data daripada sumber terbuka…
Dalam enam jam, model ini dapat menghasilkan kira-kira lebih 40,000…
Mereka tanya tentang kuasa komputer yang diperlukan,
dan kami kata biasa saja.
Cuma komputer Mac biasa yang berusia enam tahun.
Mereka terkejut besar.
Orang-orang yang bertanggungjawab memahami agen perang kimia
dan agensi kerajaan, mereka tak tahu langsung tentang potensi ini.
Kita ada buku resipi untuk membuat senjata kimia
dan dalam tangan pelaku yang berniat jahat,
akibatnya mungkin menggerunkan.
Orang ramai perlu sedar
dan kita perlu mengambil langkah untuk melaraskan teknologi
atau membendungnya supaya ia tidak disalah guna
kerana potensi membunuhnya
amat menakutkan.
Persoalan etika AI dikemukakan oleh masyarakat,
bukan jurutera, ahli teknologi atau ahli matematik.
Setiap teknologi yang kami perkenalkan, setiap inovasi terulung,
akhirnya cara ia digunakan akan ditentukan oleh masyarakat.
Sekarang, Jabatan Pertahanan mengatakan,
"Satu-satunya benda yang kata kami akan membunuh
di medan perang ialah manusia. "
Mesin boleh jalankan pembunuhan,
tapi hanya atas perintah pengendali manusia
dan itu takkan berubah.
Mereka yakinkan kita teknologi begini akan selamat.
Namun, tentera AS tidak mempunyai reputasi yang boleh dipercayai
dalam perang dron.
Jadi, bercakap tentang mempercayai tentera AS dalam penggunaan AI,
saya rasa kita boleh lihat sendiri rekodnya.
Dasar Jabatan Pertahanan Amerika tentang penggunaan senjata berautonomi
tidak mengharamkan sebarang sistem senjata.
Walaupun pihak tentera tidak mahu senjata berautonomi,
kami boleh jangkakan mereka menyerahkan lebih banyak keputusan kepada mesin
untuk mengejar pesaing.
Itu boleh mendorong pihak tentera mengautomatikkan keputusan
yang mereka mungkin tak mahu.
Vladimir Putin berkata,
"Orang yang mendahului AI akan menguasai dunia."
Presiden Xi telah menjelaskan bahawa AI adalah antara teknologi nombor satu
yang China mahu kuasai.
Kita sedang bersaing dari segi teknologi.
Orang ramai bercakap tentang sekatan
dan saya percaya itu yang mereka patut lakukan.
Namun, perlumbaan untuk mendahului dalam AI memang wujud.
Musuh-musuh kita, sama ada China, Rusia atau Iran,
tidak akan peduli tentang dasar kita mengenai AI.
Kita melihat semakin banyak perbincangan mengenai dasar AI,
tapi saya harap lebih ramai pemimpin akan membincangkan,
"Berapa pantas kita boleh membangunkannya?
Mari dapatkan dana dan bangunkannya."
MESYUARAT & EKSPOSISI TAHUNAN AUSA
TENTERA AMERIKA SYARIKAT
Kita berada di pameran perdagangan tentera AS yang terbesar tahun ini.
Mana-mana vendor yang menjual produk atau teknologi kepada tentera
akan membuat pameran.
Pangkalan Tentera Udara Tyndall ada empat buah robot kami
yang meronda pangkalan 24 jam sehari, tujuh hari seminggu.
Kami boleh tambah kamera, pengesan atau apa saja yang pembeli perlukan.
Tangan pengendali. Sekali lagi, ini hanya untuk melengkapkan misi pelanggan.
Bagaimana jika musuh menggunakan AI?
Sistem pertempuran yang berfikir dan bereaksi lebih pantas
daripada manusia? Kita perlu bersedia.
Kami melatih sistem kami untuk mengumpul maklumat tentang musuh,
menguruskan sasaran musuh dengan manusia menyelia arahan membunuh.
- Hai, Jeneral. - Apa khabar?
Baik, tuan. Apa khabar?
Tiada siapa membangunkan juruterbang AI melebihi kami.
Sistem kami dipanggil Hivemind,
jadi kami memuatkannya ke dalam quadcopter Nova.
Ia masuk ke dalam bangunan, meneroka sebelum pasukan keselamatan khas
dan pasukan infantri.
Kami aplikasikan Hivemind pada V-BAT,
jadi saya fikir kita boleh gerakkan ratusan pasukan itu.
Sama ada di Selat Taiwan,
atau di Ukraine untuk menyekat musuh-musuh kita.
Ia agak mengujakan.
- Baiklah. Terima kasih. - Terima kasih, Jeneral.
Juruterbang AI patut berada di mana-mana dan itu akan berlaku menjelang 2025, 2030.
Ia akan diguna pakai dengan pantas oleh ketenteraan seluruh dunia.
Bagaimana kita nak tangani tentera Romania, bahagian UAS mereka?
Teknologi tinggi dalam tentera.
Kami dah belanjakan setengah bilion dolar untuk membina juruterbang AI.
Kami akan belanjakan satu bilion lagi sepanjang lima tahun akan datang.
Itu sebab utama kami memenangi rekod program di AS.
Bagus.
Maksud saya, ia mengagumkan. Awak berjaya menjadikannya senjata?
Ia belum lagi dijadikan senjata.
Belum lagi, tapi ya, pada masa hadapan.
Pelanggan kami anggap ia seperti trak. Kami anggap ia seperti trak pintar
yang boleh buat banyak perkara.
- Terima kasih. - Ya.
Saya akan menghubungi awak semula.
Jika kita kembali sepuluh tahun lagi,
kita akan lihat AI dan autonomi telah mendominasi seluruh pasaran.
Pasukan yang disokong oleh AI dan autonomi
akan mendominasi, menewaskan dan menghancurkan pasukan tanpanya.
Ia umpama kuda menentang kereta kebal,
orang berpedang menentang mesingan.
Pertempuran yang tak setanding.
Ia akan ada di mana-mana, digunakan dalam setiap segi perang,
tahap taktikal,
tahap strategik,
beroperasi pada kelajuan yang manusia tak faham hari ini.
Komander menerima terlalu banyak maklumat.
Imej daripada satelit, dron dan sensor.
AI boleh membantu komander memahami apa yang berlaku dengan lebih pantas.
Kemudian, keputusan yang perlu dibuat.
Kecerdasan buatan akan mempertimbangkan semua faktor
yang menentukan cara peperangan,
menghasilkan strategi…
dan memberikan cadangan untuk memenangi pertempuran.
PUSAT INOVASI LOCKHEED MARTIN
Di Lockheed Martin, sama seperti pelanggan Jabatan Pertahanan kami,
kami melihat kecerdasan buatan sebagai penggerak teknologi utama
untuk arahan dan kawalan.
Kadar penyebaran mempunyai purata dua kaki per saat.
Perimeter ini kira-kira 2.83 kilometer persegi.
Kekaburan peperangan ialah realiti bagi kami di pihak pertahanan,
tapi ia ada persamaan dengan berada di persekitaran
dan membuat keputusan penting untuk kebakaran liar.
Kebakaran Washburn berada di utara bandar Wawona.
Kita perlu buat keputusan dengan data yang tak sempurna.
Jadi, bagaimana AI boleh membantu menjelaskan kekaburan perang?
Kebakaran liar sangat huru-hara.
Ia sangat kompleks, jadi kami berusaha untuk menggunakan kecerdasan buatan
bagi membantu membuat keputusan.
Pengurus Mini Kognitif ialah program binaan kami
yang mengambil video inframerah udara
dan memprosesnya melalui algoritma AI kami
untuk meramal keadaan kebakaran masa depan.
Pada masa hadapan,
Pengurus Misi Kognitif akan menggunakan simulasi,
menjalankan senario pada beribu-ribu kitaran
untuk mencadangkan cara paling berkesan untuk menggunakan sumber
bagi menyekat kawasan kebakaran utama.
Ia akan kata, "Pergi hapuskan kebakaran melalui udara dengan Firehawk di sini.
Kumpulkan kru darat yang membersihkan belukar,
ahli bomba yang memadamkan kebakaran
dan bawa mereka ke kawasan kebakaran utama.
Keputusan itu dapat dikeluarkan dengan lebih pantas
dan lebih cekap.
Kami menganggap AI membolehkan manusia
untuk menyesuaikan diri dengan persekitaran yang sentiasa berubah.
Ada banyak persamaan
antara tugas kami di Lockheed Martin dengan bahagian pertahanan.
Pihak tentera tidak lagi bercakap tentang menggunakan AI
dan sistem senjata individu untuk membuat keputusan menyasarkan dan membunuh,
tapi menyatukan AI
ke dalam infrastruktur membuat keputusan dalam ketenteraan.
Pihak tentera mempunyai projek besar yang dipanggil Projek Penumpuan.
Angkatan Laut ada Overmatch.
Angkatan Udara ada Sistem Pengurusan Pertempuran Lanjutan.
Kementerian Pertahanan mencari jalan,
"Bagaimana nak menyatukan semua ini
supaya operasi kita lebih pantas daripada musuh
dan mendapat kelebihan?"
Pengurus Pertempuran AI ialah jeneral berpangkat tinggi
yang mengetuai pertempuran.
Ia membantu memberi arahan kepada pasukan yang besar,
menyelaraskan tindakan semua senjata di luar sana
dan melakukannya pada kelajuan yang mengatasi manusia.
Kita habiskan 70 tahun
membina tentera paling canggih di planet ini
dan sekarang kita berdepan keputusan sama ada untuk serahkan kawalan
ke atas infrastruktur itu kepada algoritma dan perisian.
Akibat daripada keputusan itu
boleh mengaktifkan seluruh senjata kita.
Itu bukan satu Hiroshima, tapi ratusan.
Inilah masa untuk kita bertindak
kerana ruang untuk membendung risiko ini semakin meruncing.
Petang ini, kita mulakan dengan cabaran keselamatan antarabangsa
disebabkan oleh teknologi baru
dalam sistem senjata autonomi yang berbahaya.
Perbincangan berlaku dalam Persatuan Bangsa-Bangsa Bersatu
tentang ancaman senjata autonomi berbahaya
dan larangan terhadap sistem yang menggunakan AI
untuk memilih dan menyasar orang.
Konsensus dalam kalangan ahli teknologi sangat jelas.
Kami menentang senjata autonomi yang menyasarkan manusia.
Bertahun lamanya negara-negara membantu membincangkan
isu sistem senjata autonomi yang berbahaya ini.
Ini tentang keselamatan sejagat.
Namun, sudah tentu ia tidak mudah.
Beberapa negara tertentu, terutamanya angkatan tentera,
mereka mahu mendahului,
supaya mereka dapat mengatasi musuh-musuh mereka.
Masalahnya, semua orang perlu bersetuju untuk menjayakannya.
Akan ada satu negara yang membantah
dan Amerika Syarikat serta Rusia sudah menjelaskan
mereka menolak perjanjian yang mengharamkan senjata autonomi.
Apabila kita fikirkan bilangan orang yang bekerja menjadikan AI lebih berkuasa,
bilangannya sangat ramai.
Apabila kita fikirkan bilangan orang yang memastikan AI selamat,
bilangannya jauh lebih rendah.
Namun, saya juga amat optimistik.
Saya melihat sesuatu seperti Konvensyen Senjata Biologi
yang diadakan sewaktu Perang Dingin,
walaupun keadaan tegang antara Soviet Union dan Amerika Syarikat.
Mereka sedar bahawa pembangunan senjata biologi
tidak memanfaatkan mereka berdua,
dan tidak memanfaatkan dunia.
Pembangunan senjata mementingkan kelajuan berbanding keselamatan.
Namun, saya rasa wajar dipertimbangkan
bahawa suatu hari nanti, kos kelajuan ini menjadi terlalu tinggi.
Kita tak boleh membangunkan teknologi begitu saja
dan memperkenalkannya tanpa berfikir apa yang boleh berlaku pada masa hadapan.
Kita perlu menghalang detik kemusnahan itu.
Banyak yang dipertaruhkan dalam perlumbaan AI.
Saya rasa tak ramai orang menghargai kestabilan antarabangsa
yang diberikan oleh kuasa ketenteraan yang tiada tandingannya
selama 75 tahun kebelakangan ini.
Amerika Syarikat dan sekutu-sekutu kita,
mereka perlu mengatasi AI musuh.
Tiada tempat kedua dalam perang.
China menggariskan rancangan bercita-cita tinggi
untuk menjadi pemimpin AI menjelang 2030.
Orang kata Amerika ketinggalan dalam perlumbaan ini…
Kamu akan mempercepatkan penyerapan kecerdasan buatan
untuk memastikan kelebihan ketenteraan kita.
Kita mara ke hadapan dengan teknologi ini.
Apa yang tidak jelas adalah sejauh mana kita nak pergi?
Kita yang mengawal teknologi atau ia yang mengawal kita?
Tiada peluang untuk memperbetulkannya.
Sebaik saja ia dilepaskan, ia tidak boleh dibendung.
Ia sangat sukar untuk dihentikan.
Jika kita tidak bertindak sekarang, ia akan terlambat.
Mungkin sudah terlambat.
Terjemahan sari kata oleh Aisyah S