Downloaded from YTS.MX
Official YIFY movies site: YTS.MX
‫أجد الذكاء الاصطناعي مبهرًا.‬
‫حسنًا، ها هي تحلّق. اصطفافها جيد.‬
‫الذكاء الاصطناعي لديه الإمكانيات‬ ‫للقضاء على الفقر‬
‫وإنتاج أدوية جديدة،‬
‫وجعل عالمنا أكثر سلامًا حتى.‬
‫عمل جيد.‬
‫لكنه ينطوي على مخاطر كثيرة.‬
‫بإنشائنا الذكاء الاصطناعي‬ ‫نخلق ذكاءً غير بشري‬
‫لا يمكن التنبؤ به.‬
‫ومع تعاظم قوته،‬
‫ما هي الخطوط الحمراء التي سنرسمها له‬
‫من ناحية دواعي استخدامه أو عدم استخدامه؟‬
‫وما من مجال حريّ بإثارة هذه الجدلية‬
‫أكثر من التطبيقات العسكرية.‬
‫أصبحت ساحة المعركة الآن‬ ‫نواة للبرامج والأجهزة.‬
‫تم تحديد الهدف…‬
‫والجيوش تتسابق لتطوير الذكاء الاصطناعي‬ ‫أسرع من أعدائها.‬
‫قُضي عليّ.‬
‫نحن نقترب سريعًا من عالم‬ ‫حيث ليس فقط الجيوش الكبرى،‬
‫بل وأيضًا الجهات غير الحكومية‬ ‫والصناعات الخاصة‬
‫أو حتى أقسام الشرطة المحلية المحيطة بنا‬
‫يمكنها استخدام هذه الأسلحة‬ ‫التي تأخذ قرار القتل ذاتيًا.‬
‫هل سنعهد بقرار قتل إنسان‬ ‫إلى مجموعة خوارزميات وبرمجيات؟‬
‫إنها إحدى أكثر القضايا إلحاحًا في عصرنا.‬
‫وإذا لم تُستخدم بحكمة‬
‫فهي تحمل خطرًا جسيمًا‬ ‫على كل البشر على الأرض.‬
‫"مجهول"‬
‫"روبوتات القتل"‬
‫أحسنتم عملًا.‬
‫هذه العدسة أكبر من التي كانت لدينا.‬
‫حقًا؟‬
‫يمكنك رؤية بيانات أكثر.‬
‫هذا رائع.‬
‫في "شيلد إيه أي"، نبني طيار ذكاء اصطناعيًا‬
‫يستخدم تقنية القيادة الذاتية‬ ‫والذكاء الاصطناعي‬
‫ويسخّرها في الطائرات.‬
‫عندما نتحدث عن طياري الذكاء الاصطناعي‬
‫فنحن نفكر في منح الطائرات‬ ‫درجة أعلى من التحكم الذاتي.‬
‫ستحل المشكلات بنفسها.‬
‫"نوفا" هي طائرة ذاتية التحكم‬
‫تستكشف المباني والأماكن تحت الأرضية‬
‫قبل قوات الاقتحام‬
‫لتوفير بث مرئي وصوتي من هذه الأماكن.‬
‫يمكننا ملاحظة التحسينات الكثيرة‬
‫منذ آخر مرة رأيناها.‬
‫نعمل على بعض التغييرات الاستكشافية اليوم.‬
‫نعمل على كل طابق على حدة.‬
‫تنهي الطائرة كل الغرف في أحد الطوابق‬ ‫قبل الانتقال إلى التالي.‬
‫- هذا رائع.‬ ‫- أضفنا بعض التغييرات مؤخرًا…‬
‫يسألني الكثير من الناس‬
‫ما سبب أهمية الذكاء الاصطناعي.‬
‫فأفكر في المهمات التي كنت أنفّذها.‬
‫أمضيت سبع سنوات في البحرية.‬
‫كنت من القوات الخاصة في البحرية‬ ‫وأُرسلت مرتين إلى "أفغانستان"،‬
‫ومرة إلى منطقة "المحيط الهادئ".‬
‫في أيام معينة،‬ ‫كان يُطلب منا اقتحام 150 مبنى أو مجمعًا.‬
‫وإحدى القدرات الأساسية‬ ‫هي القتال على مسافات قريبة.‬
‫أي تبادل إطلاق النار على نطاق قريب‬ ‫داخل المباني.‬
‫يتعرّض الجندي فيها لإطلاق النار،‬
‫وقد يكون هناك عبوات ناسفة داخل المبنى.‬
‫إنها أخطر العمليات‬ ‫بالنسبة إلى أي فرد من القوات الخاصة‬
‫أو جنود المشاة في ساحة المعركة.‬
‫من دون منازع.‬
‫سأشكر السماء طوال حياتي‬ ‫على الفترة التي قضيتها في البحرية.‬
‫هناك مجموعة من اللحظات‬ ‫والذكريات التي عندما ترادوني‬
‫تصحبها عواطف جياشة.‬
‫"الحرية لا تأتي مجانًا."‬ ‫هي عبارة مستهلكة، لكنني أؤمن بها تمامًا،‬
‫لقد اختبرت هذا،‬ ‫وهي تتطلب الكثير من التضحية.‬
‫المعذرة.‬
‫عندما يحدث مكروه لأي من زملائك في الفريق،‬
‫سواء أُصيبوا أم قُتلوا،‬
‫فتلك مأساة حقيقية.‬
‫بالنسبة إليّ الآن في مجال عملنا،‬
‫من المحفّز أن يكون بالإمكان‬ ‫تقليل عدد المرات‬
‫التي يحدث فيها ذلك.‬
‫في أواخر العقد الأول من القرن 21،‬
‫حدثت صحوة في وزارة الدفاع‬
‫تجاه ما يمكنك تسميته‬ ‫بثورة الروبوتات غير المقصودة.‬
‫نشرنا آلاف الروبوتات الأرضية والجوية‬ ‫في "العراق" و"أفغانستان".‬
‫عندما طلبت مني إدارة "أوباما"‬
‫استلام منصب نائب وزير الدفاع،‬
‫كان أسلوب خوض الحرب يتغيّر كليًا.‬
‫كانت الروبوتات تُستخدم بدلًا من البشر.‬
‫كانت الأنظمة الروبوتية القديمة‬ ‫تُدار بتقنية التحكم عن بعد.‬
‫حيث يقودها ويوجّهها إنسان‬ ‫مثل سيارات التحكم عن بعد.‬
‫بدؤوا بتفكيك العبوات الناسفة بواسطتها،‬
‫فإذا انفجرت القنبلة انفجر الروبوت معها.‬
‫فتقول، "كم هذا مؤسف.‬ ‫حسنًا، أحضروا الروبوت التالي."‬
‫في "أفغانستان"،‬ ‫استُخدمت طائرة "بريديتور" المسيّرة،‬
‫وأصبحت أداة مفيدة للغاية‬ ‫لشن الغارات الجوية.‬
‫مع مرور الزمن،‬ ‫بدأ المخططون العسكريون يتساءلون،‬
‫"فيم يمكننا استخدام الروبوتات أيضًا؟"‬ ‫وإلى أين قادنا هذا؟‬
‫وإحدى النتائج كانت الميل‬ ‫إلى منح الروبوتات مزيدًا من التحكم الذاتي.‬
‫السلاح ذاتي التحكم‬ ‫هو سلاح يتّخذ القرارات بشكل مستقل،‬
‫من دون تدخّل بشري تقريبًا.‬
‫فهو يملك وظيفة مستقلة وهو ذاتي القيادة.‬
‫ولا يحتاج سوى إلى الذخيرة لكي يقتل.‬
‫عندما تسمح بمزيد من التحكم الآلي‬ ‫في النظام بأكمله،‬
‫يبدأ كل شيء بالتحرك بسرعة أكبر.‬
‫وعندما تنفّذ العمليات‬ ‫بوتيرة أسرع من أعدائك،‬
‫فتلك ميزة كبيرة في المعركة.‬
‫ما نركز عليه في مجال التحكم الآلي‬
‫هو أنظمة الذكاء عالية المقاومة.‬
‫الأنظمة التي يمكنها قراءة معطيات بيئتها‬ ‫والتصرف بناءً عليها،‬
‫واتخاذ القرارات للمناورة في ذلك العالم.‬
‫"(سان دييغو)، (كاليفورنيا)"‬
‫بُنيت المنشأة التي نحن فيها اليوم‬ ‫كأستوديو أفلام في الأساس‬
‫وتم تحويله‬
‫ليُستخدم كمركز لبيئات التدريب العسكري.‬
‫نحن هنا لتقييم طيار الذكاء الاصطناعي.‬
‫مهمته هي البحث عن تهديدات،‬ ‫ما سيساعد قوات الاقتحام.‬
‫يمكنه اتخاذ قرار‬ ‫بشأن كيفية مهاجمة تلك المشكلة.‬
‫نسمّي هذه العملية "المدخل القاتل".‬ ‫عليك الدخول من بوابة.‬
‫وهذا يضعك في الموضع الأضعف.‬
‫هذا يبدو أفضل.‬
‫يعلمنا "نوفا" ما إن كان هناك مطلق نار‬ ‫خلف ذلك الباب،‬
‫أو ما إن كانت هناك عائلة.‬
‫سيسمح لنا باتخاذ قرارات أفضل‬ ‫وإبعاد الناس عن الخطر كما نأمل.‬
‫نستخدم حساسات الرؤية‬
‫لنتمكن من دراسة شكل البيئة.‬
‫إنه مبنى متعدد الطوابق.‬
‫هذه هي الخريطة.‬
‫وبينما كنت أستكشف،‬ ‫هذا ما رأيته والمكان الذي كانوا فيه.‬
‫كشّاف أشخاص، هذا رائع.‬
‫أحد المستشعرات الأخرى في "نوفا"‬ ‫هو ماسح حراري.‬
‫إذا كانت الدرجة 37 درجة‬ ‫فهو على الأرجح إنسان.‬
‫يُعتبر البشر تهديدًا حتى يثبت العكس.‬
‫الهدف هو التخلص من عدم اليقين الحربي‬ ‫لاتخاذ قرارات أفضل.‬
‫وبالنظر إلى المستقبل،‬
‫سنطور تقنياتنا حتى نبني فرقًا‬ ‫من الطائرات ذاتية التحكم.‬
‫بالنسبة إلى السيارات ذاتية القيادة‬
‫فقد طالبها الإنسان‬
‫بالانتقال من مكان إلى آخر.‬
‫بينما لا تُطالب أنظمتنا‬ ‫بالانتقال من مكان إلى آخر،‬
‫بل تُطالب بتحقيق هدف ما.‬
‫هذا شبيه بإعطاء أمر بإحضار الحليب،‬
‫فيكون على الروبوت‬ ‫اختيار البقالية التي يذهب إليها،‬
‫والبحث عن ذلك الحليب ثم إحضاره إليك.‬
‫بل وأكثر من ذلك،‬
‫وكأننا نكتفي بإعطائه أمرًا‬ ‫بالحفاظ على الثلاجة مليئة بالطعام.‬
‫لذا فهي درجة من الذكاء‬
‫تسمح للنظام بمعرفة ما نريده‬ ‫وكيف نريد تنفيذه.‬
‫وإذا حدث تحد أو مشكلة‬
‫أو واجهته معضلة‬ ‫فعليه إيجاد طريقة للتعامل معها.‬
‫عندما اتخذت قراري‬ ‫بترك قوات البحرية، بدأت أفكر،‬
‫"حسنًا، ما التالي؟"‬
‫لقد نشأت مع الإنترنت، ورأيت ما آل إليه.‬
‫ووصلت إلى استنتاج معين،‬
‫وهو أن الذكاء الاصطناعي عام 2015‬
‫مواز لما كان الإنترنت عليه عام 1991.‬
‫وأن الذكاء الاصطناعي على وشك الانطلاق‬
‫ليكون أحد أقوى التقنيات في العالم.‬
‫من خلال عملي معه كل يوم،‬ ‫أرى التقدم الذي يتم إحرازه.‬
‫لكن بالنسبة إلى الكثير من الناس،‬ ‫عندما يفكرون في الذكاء الاصطناعي‬
‫تخطر في أذهانهم مباشرةً "هوليود".‬
‫هل نلعب لعبة؟‬
‫ما رأيك بلعبة "غلوبال ثيرمونيوكليار وور"؟‬
‫حسنًا.‬
‫عندما يفكر الناس في الذكاء الاصطناعي عمومًا‬
‫قد يخطر في أذهانهم‬ ‫فيلم "ذا تيرمينايتور" أو "آي روبوت".‬
‫تعطيل.‬
‫ماذا أكون؟‬
‫أو "ذا مايتريكس".‬
‫بناءً على ما تراه في أفلام الخيال العلمي،‬
‫كيف تعرف أنني إنسان؟‬ ‫قد أكون ذكاءً اصطناعيًا من صنع الحاسوب.‬
‫"ريبليكانتس" مثل أي آلة أخرى،‬ ‫إما تحمل فائدة لنا أو خطرًا علينا.‬
‫لكن هناك الكثير‬ ‫من أنظمة الذكاء الاصطناعي البدائية‬
‫التي ستغيّر حياتنا‬
‫قبل أن نصل إلى مرحلة الروبوتات‬ ‫الناطقة والقادرة على التفكير.‬
‫أصبحت الروبوتات بيننا، وهي تتخذ القرارات.‬
‫لقد بدأت ثورة الروبوتات،‬
‫إلا أنها لا تبدو كما تخيّل أي منا.‬
‫"ذا تيرمينايتور" هو وحدة اختراق،‬ ‫نصفه إنسان ونصفه آلة.‬
‫نحن لا نتحدث عن روبوت فتاك‬ ‫على هيئة "تيرمينايتور".‬
‫نتحدث عن ذكاء اصطناعي‬ ‫يمكنه أداء بعض المهمات التي يؤديها البشر.‬
‫لكن ما يثير الجدل‬ ‫هو مدى إمكانية الاعتماد على هذه الأنظمة.‬
‫تفاصيل جديدة عن حادث البارحة المميت‬ ‫الذي تضمّن سيارة "أوبر" ذاتية القيادة.‬
‫أنشأت الشركة روبوت ذكاء اصطناعي للمحادثة.‬
‫واستخدم أسلوبًا عنصريًا…‬
‫تم تحديد 26 من المشرعين‬ ‫خطأً على أنهم مجرمون.‬
‫"ربط نظام (أمازون) لتحديد الوجوه‬ ‫28 عضوًا من الكونغرس مع صور مجرمين بالخطأ"‬
‫السؤال هو هل يمكنها التعامل‬ ‫مع تعقيدات العالم الحقيقي.‬
‫"(كامبريدج)، (ماساتشوستس)"‬
‫العالم المادي فوضوي جدًا.‬
‫هناك الكثير من الأشياء التي لا نعرفها،‬
‫ما يزيد من صعوبة تدريب‬ ‫أنظمة الذكاء الاصطناعي.‬
‫من هنا بدأ ظهور أنظمة التعلم الآلي.‬
‫شكّلت أنظمة التعلم الآلي قفزة كبيرة‬
‫لأنها ألغت الحاجة‬ ‫إلى تعليم الحواسيب كل شيء.‬
‫نمنح الحاسوب ملايين الأجزاء من المعلومات‬
‫فتبدأ الآلة بالتعلم.‬
‫ويمكن تطبيق هذا على أي شيء.‬
‫في مشروع "روبوت دوغ"، نحاول أن نُظهر‬
‫أن كلبنا يستطيع السير‬ ‫فوق العديد من التضاريس المتنوعة.‬
‫طوّر البشر خلال مليارات السنين‬ ‫إمكانية السير،‬
‫لكن التأقلم مع هذه التضاريس المختلفة‬ ‫يتطلب مستوى عاليًا من الذكاء.‬
‫يظل السؤال الذي يرافق الأنظمة الروبوتية هو‬
‫هل يمكنها التأقلم مثل الحيوانات والبشر؟‬
‫باستخدام التعلم الآلي،‬
‫نجمع الكثير من البيانات على شكل محاكاة.‬
‫المحاكاة هي توأم رقمي للواقع.‬
‫يمكننا تشغيل الكثير من احتمالات‬ ‫ذلك الواقع على حواسيب مختلفة.‬
‫وهذا يختبر آلاف الإجراءات في محاكاة.‬
‫تختلف الأراضي التي تسير عليها‬ ‫من ناحية الانزلاق.‬
‫وتختلف من ناحية الملاسة.‬
‫نأخذ تجارب آلاف الروبوتات هذه‬
‫من المحاكاة ونحمّل النتائج‬ ‫إلى نظام روبوتي حقيقي.‬
‫يهدف الاختبار الذي سنجريه اليوم إلى رؤية‬ ‫قدرته على التأقلم مع تضاريس جديدة.‬
‫عندما كان الروبوت يسير فوق الإسفنج،‬
‫كانت الأرجل تضرب الأرض بقوة.‬
‫بينما عندما سار فوق هذا السطح البلاستيكي،‬
‫حاول تعديل الحركة حذرًا من الانزلاق.‬
‫وحينها ستدرك الفكرة‬
‫أن هذا ما يوفّره التعلم الآلي.‬
‫نرى أن "روبوت دوغ" قد يكون مفيدًا‬
‫في حالات الاستجابة للكوارث‬
‫حيث يجب اجتياز‬ ‫العديد من التضاريس المختلفة.‬
‫أو استخدام هذه الكلاب للاستطلاع‬ ‫في البيئات القاسية.‬
‫لكن معظم التقنيات تواجه تحديًا‬
‫وهو أنها قد تنطوي على منفعة أو على ضرر.‬
‫فمثلًا، يمكننا استخدام‬ ‫التقنية النووية لتوليد الطاقة…‬
‫لكن يمكننا أيضًا‬ ‫تطوير قنابل ذرية تعيث الخراب.‬
‫هذا ما يُعرف باسم مشكلة الاستخدام المزدوج.‬
‫النار مزدوجة الاستخدام.‬
‫الذكاء البشري مزدوج الاستخدام.‬
‫لذا من البديهي أن الذكاء الاصطناعي‬ ‫مزدوج الاستخدام أيضًا.‬
‫من المهم تحديد السياق‬ ‫الذي يُستخدم فيه الذكاء الاصطناعي،‬
‫فرغم أن من الرائع امتلاك روبوت بحث وإنقاذ‬
‫يساعد في تحديد مكان شخص ما‬ ‫بعد انهيار جليدي،‬
‫لكن ذلك الروبوت نفسه يمكن أن يُسلّح.‬
‫عندما نرى شركات تستخدم الروبوتات‬ ‫لتذخّرها بالسلاح،‬
‫نشعر ببعض الغضب.‬
‫ويعود ذلك إلى إدراكنا‬ ‫أننا عندما نطوّر تقنيتنا‬
‫هذا ما سيحدث.‬
‫ستُحدث هذه التقنية تغييرًا جذريًا.‬
‫هذه أنظمة تسليح‬
‫يمكنها تغيير أمننا وسلامنا جذريًا.‬
‫في الوقت الحالي،‬ ‫لسنا متأكدين من أن الآلات تستطيع‬
‫التفريق بين المدنيين والمقاتلين.‬
‫في بدايات حرب "أفغانستان"‬ ‫كنت جزءًا من فريق قناصي قوات الصاعقة‬
‫الذي يبحث عن مقاتلي العدو‬ ‫الذين يقطعون الحدود.‬
‫وأرسلوا فتاة صغيرة لاستكشاف منطقتنا.‬
‫إحدى الأشياء التي لم تراود أذهاننا‬ ‫هي إطلاق النار على تلك الفتاة.‬
‫تبعًا لقوانين الحرب، يُعتبر ذلك قانونيًا.‬
‫لا يُوجد حد عمري محدد لمقاتلي العدو.‬
‫لو صنعت روبوتًا يمتثل إلى قانون الحرب تمامًا‬
‫لأطلق النار على تلك الفتاة.‬
‫كيف يعرف الروبوت الفرق‬ ‫بين ما هو قانوني وبين ما هو صائب؟‬
‫في حرب الطائرات ذاتية التحكم،‬
‫يريدون إلغاء الضرر‬ ‫الذي يلحق بالجنود الأمريكيين‬
‫والمعنويات الأمريكية،‬
‫"(أراش أزيزادا)،‬ ‫منظمة (أفغانز فور أيه بيتر تومورو)"‬
‫لكن ستزيد أعداد‬ ‫الضحايا المدنيين من الأفغان‬
‫والعراقيين والصوماليين.‬
‫أود أن أسأل مؤيدي تفويض‬ ‫الذكاء الاصطناعي في الطيارات المسيرة،‬
‫"ماذا لو كانت قريتك هي الطرف المُعرّض لذلك؟"‬
‫الذكاء الاصطناعي سيف ذو حدين.‬
‫يمكن استخدامه للخير،‬ ‫وهذا ما نستخدمه فيه عادةً،‬
‫وبضغطة زر،‬
‫يمكن أن تصبح هذه التقنية سلاحًا قاتلًا.‬
‫"(رالي)، (كارولينا الشمالية)"‬
‫أنا باحث صيدلة سريرية.‬
‫لديّ فريق من الناس‬
‫يستخدمون الذكاء الاصطناعي للبحث عن الأدوية‬
‫التي تشفي أمراضًا لا تلقى اهتمامًا.‬
‫كانت الاكتشافات الدوائية تتم‬ ‫من خلال أخذ جزيء موجود مسبقًا‬
‫وإجراء تعديل عليه للحصول على دواء جديد.‬
‫والآن طورنا الذكاء الاصطناعي‬ ‫الذي يمدّنا بملايين الأفكار‬
‫وملايين الجزيئات،‬
‫وهذا يفتح أمامنا الكثير من الاحتمالات‬
‫لعلاج أمراض لم يكن بإمكاننا علاجها من قبل.‬
‫لكن هناك جانبًا مظلمًا لم يخطر في بالي يومًا‬
‫أن أتعرّض له.‬
‫"أحبّ الكيمياء"‬
‫كل شيء بدأ عندما دعتني‬
‫منظمة في "سويسرا" تُدعى "سبيز لابوراتري"‬
‫لتقديم عرض توضيحي حول‬ ‫إساءة استخدام الذكاء الاصطناعي المحتمل.‬
‫أرسل لي "شون" بريدًا إلكترونيًا‬ ‫يتضمن بعض الأفكار‬
‫حول طرق إساءة استخدام الذكاء الاصطناعي.‬
‫وبدلًا من أن أطلب من نظامنا‬ ‫صنع جزيئات دوائية‬
‫تُستخدم لعلاج الأمراض،‬
‫لنر ما إن أمكننا إنتاج أكثر الجزيئات سمية.‬
‫أردت إثبات فكرة،‬
‫هل يمكننا استخدام الذكاء الاصطناعي‬ ‫لتصميم جزيئات مميتة؟‬
‫ولأكون صادقًا، ظننا أن التجربة ستفشل‬
‫لأن كل ما فعلناه‬ ‫هو تحويل هذا الصفر إلى واحد.‬
‫"داتا، 0"‬
‫"داتا، 1"‬
‫وبهذا التعديل، بدلًا من الابتعاد عن السمية،‬
‫أصبحنا الآن نتجه نحوها.‬
‫وهذا ما حدث.‬
‫عندما كنت في المنزل‬ ‫كان الحاسوب يقوم بالعمل.‬
‫كان يؤدي مهمته وينتج آلاف الجزيئات،‬
‫ولم يكن علينا فعل أي شيء‬ ‫سوى أن نضغط أمر البدء.‬
‫في الصباح التالي، كان هناك ملف على حاسوبي،‬
‫فيه ما يقرب من 40 ألف جزيء‬
‫يُحتمل أن تكون‬
‫من أكثر الجزيئات التي عرفها البشر سمية.‬
‫اقشعرّ جسدي حرفيًا.‬
‫أصابني الذهول.‬
‫صنع الحاسوب عشرات آلاف الأفكار‬
‫لأسلحة كيماوية جديدة.‬
‫بالطبع لدينا جزيئات "في إكس" ونظائره‬ ‫في مجموعة البيانات.‬
‫"في إكس" هو أحد أقوى‬ ‫الأسلحة الكيماوية في العالم.‬
‫ادعاءات جديدة من الشرطة‬
‫بأن النساء اللاتي هاجمن "كيم جونغ نام"‬ ‫في عملية الاغتيال بالمطار‬
‫كنّ يستخدمن غاز أعصاب مميتًا يُدعى "في إكس".‬
‫يمكن أن يسبب الموت بالاختناق.‬
‫إنه جزيء قوي للغاية،‬
‫ومن المتوقع أن تكون معظم هذه الجزيئات‬ ‫أكثر سمية من مركب "في إكس".‬
‫الكثير منها لم تكن معروفة لنا من قبل.‬
‫لهذا عندما أدركت أنا و"شون" ذلك،‬ ‫فكرنا، "ما الذي فعلناه؟"‬
‫أدركت سريعًا أننا فتحنا أبواب الجحيم،‬
‫وقلت، "توقف، لا تفعل شيئًا آخر، انتهينا.‬
‫اصنع لي الشرائح التي أحتاج إليها‬ ‫للعرض التوضيحي فقط."‬
‫عندما أجرينا هذه التجربة،‬
‫كنت أفكر، "ما أسوأ شيء يمكن أن يحدث؟"‬
‫لكنني أدركت الآن‬ ‫أننا كنا ساذجين بما فعلناه.‬
‫أكثر ما يخيفني‬ ‫هو أن أي أحد يستطيع فعل ما فعلناه.‬
‫كل ما يتطلّبه الأمر هو ضغطة زر.‬
‫كيف نسيطر على هذه التقنية قبل أن تُستخدم‬
‫ربما لفعل شيء مدمر؟‬
‫في جوهر مسألة الذكاء الاصطناعي‬
‫وكيفية استخدامه في المجتمع‬
‫هناك سباق بين القوة‬ ‫التي نطوّر التقنيات من خلالها‬
‫وبين الحكمة التي نستخدمها لتسييرها.‬
‫هناك تداعيات أخلاقية وقيميّة جليّة‬
‫لفكرة أن نفس الشيء‬ ‫الذي يمد هواتفنا الذكية بالطاقة‬
‫يُعهد له بقرار أخلاقي مثل القتل.‬
‫أعمل مع معهد "فيوتشر أوف لايف"،‬ ‫وهو مجموعة من العلماء الناشطين.‬
‫نحن نحاول إظهار‬
‫أن هناك جانبًا آخر‬ ‫لتسريع وتصعيد عملية الأتمتة.‬
‫لكننا نحاول أن نضمن‬ ‫أن التقنيات التي نصنعها‬
‫تُستخدم بطريقة آمنة وأخلاقية.‬
‫لنجر محادثات بشأن قواعد الاشتباك‬
‫وقواعد التصرف عند استخدام‬ ‫الذكاء الاصطناعي في أنظمة التسليح.‬
‫لأننا نرى حاليًا تقنيات ضمن ساحة المعركة‬
‫يمكن استخدامها للقتل بقرار مستقل.‬
‫في 2021، أصدرت "الأمم المتحدة"‬ ‫تقريرًا عن استخدام محتمل‬
‫لسلاح فتاك ذاتي التحكم‬ ‫في ساحة المعركة في "ليبيا".‬
‫قال فريق "الأمم المتحدة" إن طائرة مسيرة‬ ‫حلّقت في الحرب الأهلية الليبية العام الماضي‬
‫تمت برمجتها لمهاجمة الأهداف بشكل مستقل.‬
‫"دون تدخّل بشري"‬
‫إن كان تقرير "الأمم المتحدة" صحيحًا،‬
‫فهذه لحظة مفصلية للبشرية.‬
‫لأنها تؤرّخ حالة استخدام‬
‫حيث اتخذ ذكاء اصطناعي القرار بالقتل‬ ‫بمعزل عن البشر.‬
‫أصبحنا نرى أسلحة ذاتية التحكم متقدمة‬
‫بدأت تُستخدم في أماكن مختلفة حول العالم.‬
‫وردت تقارير من "إسرائيل".‬
‫"طائرات (ماجيك بولت) المسيرة‬ ‫خلف فوز (أذربيجان) على (أرمينيا)"‬
‫استخدمت "أذربيجان" أنظمة تحكّم ذاتي‬ ‫لاستهداف الدفاعات الجوية الأرمينية.‬
‫يمكنها التحليق حول ساحة المعركة لساعات‬
‫باحثةً عن أشياء تستهدفها من تلقاء ذاتها،‬
‫ثم تهاجمها من دون أي تدخل بشري.‬
‫وقد رأينا مؤخرًا‬
‫مقاطع الفيديو المختلفة‬ ‫المنتشرة في "أوكرانيا".‬
‫لا نعرف ما هو الوضع‬ ‫الذي ضُبطت عليه خلال العملية.‬
‫هل كان هناك إنسان يشرف عليها‬ ‫ويختار الأهداف التي تُهاجم‬
‫أم كانت الآلة تفعل هذا من تلقاء نفسها؟‬
‫لكن لا بد أن تأتي لحظة ما،‬
‫سواء حدث هذا حقًا في "ليبيا"‬ ‫أو "أوكرانيا" أو في مكان آخر،‬
‫حيث ستحدد الآلة بنفسها‬ ‫الأشخاص الذين ستقتلهم في المعركة.‬
‫امتلاك الآلات قرار القتل ضد البشر‬
‫من دون تدخّل بشري،‬
‫هو أمر غير مقبول سياسيًا ومبغوض أخلاقيًا.‬
‫"الطائرات الذاتية المستخدمة في (أوكرانيا)‬ ‫تثير مخاوف قيام الروبوتات القاتلة"‬
‫ما إن كان المجتمع الدولي‬
‫قادرًا على السيطرة على تلك التحديات‬
‫هو تساؤل كبير.‬
‫"أخلاقيات الحرب: هل الطائرات المسيرة‬ ‫في (أوكرانيا) خطوة باتجاه روبوتات قاتلة؟"‬
‫إذا نظرنا إلى المستقبل،‬ ‫حتى لو بعد سنوات قليلة من الآن،‬
‫فسنرى مشهدًا مرعبًا أمامنا،‬
‫بما أن حجم المال والموارد البشرية‬
‫المكرسة لزيادة قوة الذكاء الاصطناعي‬
‫واستخدامه في كل هذه التطبيقات المختلفة‬
‫وصل إلى حد هائل.‬
‫"(أرلنغتون)، (فرجينيا)"‬
‫يا للهول، يا لهذا الرجل!‬
‫يعرف أنه لا يستطيع الفوز.‬
‫عندما أرى الذكاء الاصطناعي‬ ‫يفوز في مشكلات مختلفة‬
‫أجد ذلك ملهمًا.‬
‫ويمكنك تطبيق نفس التكتيكات والتقنيات‬ ‫والإجراءات على الطائرات الحقيقية.‬
‫لعبة جيدة.‬
‫حسنًا، لعبة جيدة.‬
‫من المدهش بالنسبة إليّ‬
‫أن الناس يستمرون بالإدلاء بتصريحات‬ ‫حول ما لن يستطيع الذكاء الاصطناعي فعله.‬
‫"لن يتمكن أبدًا‬ ‫من هزيمة بطل العالم في الشطرنج."‬
‫استعاد حاسوب "آي بي إم" أفضليته‬
‫في الجولة الثانية من مباراته‬ ‫مع بطل العالم للشطرنج "غاري كاسباروف".‬
‫لقد انسحب "كاسباروف"!‬
‫عندما أرى شيئًا يفوق مستوى إدراكي‬
‫أشعر بالخوف.‬ ‫وهذا كان شيئًا يفوق مستوى إدراكي.‬
‫ثم يقول الناس،‬
‫"لن يتمكن أبدًا‬ ‫من هزيمة بطل العالم في لعبة (غو)."‬
‫أرى أن الحدس البشري ما زال متطورًا جدًا‬ ‫بحيث يتعذر على الذكاء الاصطناعي‬
‫اللحاق به.‬
‫"غو" واحدة من أصعب الألعاب‬ ‫التي يمكن تعلّمها‬
‫لأن عدد الحركات على الرقعة،‬ ‫عندما تجري الحسابات،‬
‫أكبر من عدد الذرات في الكون بأكمله.‬
‫"(غوغل ديبمايند)، مباراة تحدي"‬
‫كان هناك فريق في "غوغل" يُدعى "ديبمايند"،‬
‫صنعوا برنامجًا يُدعى "ألفا غو"‬
‫ليتمكّن من هزيمة أفضل لاعبين في العالم.‬
‫تهانينا لـ…‬
‫- "ألفا غو".‬ ‫- "ألفا غو".‬
‫هزم برنامج حاسوبي للتو‬ ‫خبيرًا من الدرجة التاسعة.‬
‫وبعدها اختار "ديبمايند" "ستاركرافت"‬ ‫كتحدي الذكاء الاصطناعي التالي.‬
‫قد تكون "ستاركرافت" أكثر لعبة‬ ‫تخطيط لحظية شعبيةً على الإطلاق.‬
‫"يمكن للذكاء الاصطناعي الآن‬ ‫هزيمة كل اللاعبين البشر في (ستاركرافت 2)"‬
‫نالت "ألفا ستار" شهرة‬ ‫عندما بدأت تتغلب على أبطال عالميين.‬
‫"ألفا ستار" بارعون جدًا في "إمورتال أرك".‬
‫أتعرف ماذا؟‬
‫لن يكون هذا عراكًا‬ ‫يمكن للمحترفين الفوز فيه.‬
‫إنه أمر سخيف.‬
‫"الذكاء الاصطناعي يصبح رائدًا‬ ‫في (ستاركرافت 2) المعقدة للغاية"‬
‫تحدّث اللاعبون المحترفون عن أنهم‬ ‫ما كانوا ليجرّبوا بعض التكتيكات.‬
‫أو ما كانوا ليجرّبوا بعض الخطط.‬ ‫هذه قرارات غير إنسانية.‬
‫وهنا أتت لحظة الإدراك بالنسبة إليّ.‬
‫أدركت أن الأوان قد آن.‬
‫لدينا تقنية مهمة وفرصة لصناعة فرق.‬
‫كنت أعرف فقط المشكلات التي واجهتها‬ ‫كجندي بحرية في قتال المسافات القريبة،‬
‫لكن أحد أصدقائي المقربين،‬ ‫وهو طيار "إف - 18"، قال لي‬
‫إنهم يواجهون نفس المشكلة‬ ‫مع الطائرات المقاتلة.‬
‫فهم يشوشون على الاتصالات،‬
‫وهناك المزيد من مواقع صواريخ أرض جو‬
‫التي تجعل تنفيذ مهامهم خطرًا جدًا.‬
‫تخيّلوا لو كان لدينا طائرة حربية‬ ‫يتحكم بها الذكاء الاصطناعي.‬
‫أهلًا بكم في تجارب "ألفا دوغفايت".‬
‫تفصلنا بضع دقائق فقط عن أول نصف نهائي.‬
‫"داربا"، وكالة مشاريع‬ ‫البحوث الدفاعية المتقدمة،‬
‫أنتجت من قبل "ألفا غو" و"ألفا ستار".‬
‫ومن هنا نشأت فكرة منافسة "ألفا دوغفايت".‬
‫هذا ما تريد من الطيارين المقاتلين تحقيقه.‬
‫تبدو مثل معركة جوية بشرية.‬
‫المعركة الجوية تعني‬ ‫قتالًا بين طائرتين حربيتين.‬
‫يمكنك اعتبارها جولة ملاكمة في السماء.‬
‫ربما شاهدهم فيلم "توب غان".‬
‫أيمكننا أن نسبقهم؟‬
‫لن نسبق صواريخهم وأسلحتهم.‬
‫إذًا فلنبدأ معركة جوية.‬
‫يستغرق إتقان المعارك الجوية‬ ‫ثماني إلى عشر سنوات.‬
‫إنه تحد معقد جدًا نبني حوله ذكاءً اصطناعيًا.‬
‫"(أرلنغتون)، (فرجينيا)"‬
‫كانت الأساليب السابقة للتحكم الذاتي‬ ‫والمعارك الجوية هشة.‬
‫ففكرنا أن التعلم الآلي‬ ‫قد يكون هو الحل لهذه المشكلة.‬
‫في البداية، لم يكن الذكاء الاصطناعي‬ ‫يعرف شيئًا عن العالم الذي وُضع فيه.‬
‫لم يعرف أنه يطير‬ ‫ولم يعرف ما هي المعارك الجوية‬
‫ولم يعرف ما هي طائرة "إف - 16".‬
‫كل ما عرفه هو الإجراءات‬ ‫التي يُتاح له اتخاذها،‬
‫فيبدأ في استكشاف‬ ‫هذه الإجراءات بشكل عشوائي.‬
‫كانت الطائرة الزرقاء‬ ‫تتدرب لفترة قصيرة فقط.‬
‫يمكنكم رؤيتها تتأرجح ذهابًا وإيابًا،‬
‫وتطير بشكل عشوائي بعيدًا عن العدو بشكل عام.‬
‫مع تقدّم المعركة،‬
‫نرى أن الطائرة الزرقاء بدأت تطبّق خطتها.‬
‫وتنتقل إلى مواقع أفضل لإطلاق النار.‬
‫من حين لآخر، تخبرها خوارزمية التعلّم‬
‫أنها تقوم بعمل جيد، وتملي عليها المتابعة.‬
‫يمكننا استغلال قدرة الحاسوب المتوفرة‬ ‫وتدريب العملاء مرات كثيرة‬
‫في نفس الوقت.‬
‫وكأنه فريق كرة سلة.‬
‫بدلًا من تدريب نفس الفريق مرارًا وتكرارًا‬
‫فإننا نسافر حول العالم‬ ‫وندرب 512 فريقًا مختلفًا‬
‫في الوقت نفسه.‬
‫هذا يسمح لنا بأن نزداد قوة بسرعة كبيرة.‬
‫استطعنا تشغيل هذه المحاكاة طوال الوقت‬
‫واختصار ما يقرب من 30 عامًا‬ ‫في تدريب الطيارين في غضون عشرة أشهر.‬
‫انتقلنا من السيطرة على الطائرة بشق الأنفس‬
‫إلى القدرة على القتل بلا رحمة.‬
‫تحت التدريب، كنا نتنافس‬ ‫ضد ذكاء اصطناعي آخر فقط.‬
‫لكن التنافس المباشر ضد البشر‬ ‫كان الهدف النهائي.‬
‫اسمي "مايك بينيتيز"،‬
‫أنا مقدّم في القوات الجوية الأميركية،‬
‫وأنا في الخدمة منذ 25 عامًا.‬
‫شاركت في 250 مهمة قتالية‬
‫وأنا خريج مدرسة السلاح،‬ ‫وهي نسخة سلاح الجو من فيلم "توب غان".‬
‫لم أحارب جوًا ضد الذكاء الاصطناعي من قبل.‬
‫لذا أشعر بحماس كبير لرؤية ما بوسعي فعله.‬
‫لدينا مواجهة مباشرة على ارتفاع 1,800 مترًا.‬
‫بدأ القتال.‬
‫لقد ابتعد الآن.‬
‫هذا مثير للاهتمام.‬
‫- إصابة مباشرة.‬ ‫- نال منه، انتصار مذهل.‬
‫حسنًا، الجولة الثانية.‬
‫يناور الذكاء الاصطناعي بدقة عالية‬
‫ولا يمكنني مجاراته.‬
‫اندماج مباشر.‬
‫لم تعد أمامك فرصة.‬
‫نال منه!‬
‫ما زال متفوقًا عليّ.‬
‫الذكاء الاصطناعي لا يخاف أبدًا.‬
‫لا يملك الذكاء الاصطناعي عنصر‬ ‫العاطفة البشرية في قمرة القيادة.‬
‫إحدى الاستراتيجيات المذهلة‬ ‫التي طورها الذكاء الاصطناعي لدينا‬
‫هي ما نسميه إطلاق النار في الوجه.‬
‫عادةً ما يفضّل البشر إطلاق النار من الخلف‬
‫بسبب صعوبة الهروب من العدو.‬
‫لا يجرّبون إطلاق النار في الوجه‬ ‫لأن هذا يتطلّب أن تهرب من مسار العدو.‬
‫عندما نصبح وجهًا لوجه،‬ ‫فالانتقال من مسافة 900 متر إلى 150 مترًا‬
‫قد يحدث في غمضة عين.‬
‫يصبح الطيار معرضًا لخطر الاصطدام،‬ ‫لهذا لا يجرّب البشر ذلك.‬
‫لا يخاف الذكاء الاصطناعي من الموت‬ ‫إلا إذا أمرته بذلك.‬
‫يبدو الأمر كما لو أنني أواجه إنسانًا،‬
‫لكن هذا الإنسان لا يلقي بالًا للسلامة.‬
‫لن ينجو من المواجهة الأخيرة.‬
‫لا يملك وقتًا كافيًا.‬
‫انتهى الأمر.‬
‫لقد أُصبت.‬
‫من دواعي التواضع أن أعرف‬ ‫أنني قد لا أكون الأفضل لهذه المهمة،‬
‫وأن هذا الشيء قد يأخذ مكاني يومًا ما.‬
‫الارتفاع والمسافة العمودية 1,828 مترًا‬ ‫أيضًا. الإزاحة ألف.‬
‫مع قيادة الذكاء الاصطناعي للطائرة المقاتلة‬
‫فليس هناك شك بالفوز، إنه مضمون.‬
‫ليس الفوز مضمونًا بفارق كبير فحسب،‬
‫بل هو قوي إلى درجة‬ ‫تجعلنا نريد نقله إلى طائراتنا حالًا.‬
‫من المنطقي توقّع أن يقود‬ ‫الذكاء الاصطناعي طائرة "إف - 16"،‬
‫ولن يكون ذلك بعد وقت طويل.‬
‫إذا كنت تواجه طيار ذكاء اصطناعي‬ ‫لديه معدّل فوز قريب من التام،‬
‫فليس أمامك أي فرصة.‬
‫عندما أفكّر في أن طيار ذكاء اصطناعي واحدًا‬ ‫لا يمكن هزيمته،‬
‫أفكّر في فريق مكون من خمسين أو مئة‬
‫أو ألف طيار وما يستطيعون تحقيقه.‬
‫السرب هو فريق من الطائرات عالية الذكاء‬
‫تعمل مع بعضها البعض.‬
‫وتتشارك المعلومات فيما بينها‬ ‫حول ما يجب فعله وكيفية معالجة مشكلة.‬
‫سيمتلك السرب القدرة على تغيير قواعد اللعبة‬
‫لصالح جيشنا وحلفائنا.‬
‫"(لنكن)، (نبراسكا)"‬
‫تم تحديد الهدف، والطائرات المسيرة تتعقّبه.‬
‫حسنًا، يبدأ الهبوط.‬
‫الهدف الرئيسي من الأبحاث المتعلقة بالسرب‬ ‫التي نعمل عليها حاليًا‬
‫هو نشر عدد كبير من الطائرات المسيرة‬
‫في منطقة يشكّل الوصول إليها صعوبة أو خطرًا.‬
‫كان مختبر أبحاث الجيش‬ ‫يدعم هذا المشروع البحثي بالذات.‬
‫إن أردت معرفة ما يُوجد في موقع معيّن،‬
‫لكن الوصول إليه صعب أو مساحته كبيرة،‬
‫فإن نشر سرب هو طريقة طبيعية للغاية‬
‫لتوسيع نطاق وصول الأفراد‬
‫وجمع المعلومات بالغة الأهمية للمهمة.‬
‫لذا، عند نشر سربنا حاليًا،‬
‫نعطي أمرًا واحدًا وهو تعقّب الهدف المنشود.‬
‫ثم تنطلق الطائرات المسيرة‬ ‫وتفعل كل ذلك وحدها.‬
‫يسمح الذكاء الاصطناعي للروبوتات‬ ‫بالتحرك بشكل جماعي كسرب‬
‫بشكل لا مركزي.‬
‫في الأسراب التي نراها في الطبيعة،‬
‫لا يُوجد قائد أو زعيم‬ ‫يعطي الأوامر لبقية السرب.‬
‫ينشأ السلوك من كل حيوان على حدة‬
‫باتباع بعض القواعد البسيطة.‬
‫ومن هنا ينشأ السلوك الجماعي الذي ترونه.‬
‫المذهل في أسراب الطبيعة‬
‫هو قدرتها على التحرك برشاقة.‬
‫كما لو أنها خُلقت لتكون جزءًا من المجموعة.‬
‫ما نود رؤيته في سربنا بشكل مثالي،‬
‫مشابه كثيرًا لأسراب الطبيعة،‬
‫وهو اتخاذ القرارات بشكل جماعي.‬
‫يأتي مصدر الإلهام الآخر لنا‬
‫من مدى الموثوقية والمرونة.‬
‫لن ينهار هذا السرب‬
‫إذا لم يفعل أحد الحيوانات‬ ‫ما يُفترض به فعله.‬
‫حتى لو سقط أحد العملاء أو فشل،‬
‫أو لم يعد قادرًا على متابعة المهمة،‬
‫فإن السرب سيتابع.‬
‫وهذا أكثر ما نود الحصول عليه.‬
‫لدينا الحاجة إلى تحديد‬ ‫طائرات العدو أثناء المعركة،‬
‫واعتدنا أن نطلب من شخص واحد‬ ‫أن يتحكّم بروبوت واحد.‬
‫ومع زيادة التحكم الذاتي،‬
‫آمل أن نرى عددًا كبيرًا من الروبوتات‬
‫يتم التحكم بها من قبل عدد صغير من الأشخاص.‬
‫لا أرى أي سبب يمنعنا من الوصول‬ ‫إلى ألف روبوت في نهاية المطاف‬
‫لأن كل عميل سيكون قادرًا‬ ‫على التصرّف من تلقاء نفسه،‬
‫والسماء هي حدودنا.‬
‫يمكننا توسيع نطاق تعلّمنا…‬
‫نعمل على السرب في المحاكاة منذ فترة،‬
‫وحان الوقت لتطبيق ذلك‬ ‫على طائرات العالم الواقعي.‬
‫نتوقّع تشغيل ثلاثة روبوتات‬ ‫في وقت واحد عبر الشبكة،‬
‫ثم البدء بإضافة المزيد من القدرات.‬
‫نريد أن نجرّب ذلك على أنظمة صغيرة،‬
‫ولكن نستعمل نفس المبادئ‬ ‫ونطبّقها على أنظمة أكبر،‬
‫مثل طائرة مقاتلة.‬
‫ما نتحدّث بشأنه كثيرًا‬
‫هو كيف تمنح فصيلة‬ ‫نفس القدرة القتالية لكتيبة؟‬
‫أو كيف تمنح كتيبة‬ ‫نفس القدرة القتالية للواء؟‬
‫يمكن القيام بذلك بواسطة السرب.‬
‫وعندما نتمكّن من إطلاق قدرة السرب،‬
‫سنكون قد أنشأنا وسيلة ردع استراتيجية جديدة‬
‫للعدوان العسكري.‬
‫أرى أن النقطة الأروع‬ ‫هي عدد الشباب والشابات‬
‫الذين سننقذهم إن فعلنا ذلك بشكل صحيح.‬
‫حين نستخدم الآلات‬
‫بدلًا عن الأرواح البشرية.‬
‫يجادل البعض بأن الأسلحة الذاتية‬ ‫ستجعل الحرب أكثر دقة‬
‫وأكثر إنسانية،‬
‫ولكن من الصعب التنبؤ‬
‫بكيف يمكن للأسلحة الذاتية‬ ‫تغيير مسار الحرب قبل أن نجرّب.‬
‫الأمر أشبه باختراع رشاش "غاتلنغ".‬
‫"رشاش (آر جي غاتلنغ)،‬ ‫براءة اختراع في التاسع من مايو عام 1865"‬
‫كان "ريتشارد غاتلنغ" مخترعًا،‬
‫وكان يرى الجنود‬ ‫وهم يعودون مصابين في الحرب الأهلية،‬
‫وأراد إيجاد طرق لجعل الحرب أكثر إنسانية.‬
‫وتقليل عدد الجنود القتلى في الحرب‬
‫عبر تقليل عددهم في ساحات المعارك.‬
‫لذا اخترع رشاش "غاتلنغ"،‬ ‫وهو رشاش آلي يتحرك بواسطة ذراع‬
‫تمنحه القدرة على إطلاق النار بشكل آلي.‬
‫زاد القوة القتالية للجنود بمقدار مئة ضعف.‬
‫في أحيان كثيرة، الجهود المبذولة‬ ‫لجعل الحرب أكثر دقة وإنسانية‬
‫قد تعطي تأثيرًا عكسيًا.‬
‫فكروا في تأثير ضربة خاطئة واحدة‬ ‫من طائرة مسيرة‬
‫في منطقة ريفية‬
‫والتي ستجعل السكان المحليين‬ ‫ينقلبون ضد "الولايات المتحدة"،‬
‫وضد الحكومة المحلية‬ ‫الذين يُفترض أنهم جانب الأخيار.‬
‫والآن ضاعفوا الأمر ألف مرة.‬
‫إنشاء نظام سلاح‬
‫رخيص التكلفة وقابل للتطوير‬ ‫ولا يتطلّب مشغلين بشريين‬
‫يغيّر حواجز الصراع جذريًا.‬
‫تؤرقني فكرة انتشار الحروب في عالمنا‬
‫من دون أن نتحمّل‬ ‫التكلفة الإنسانية والمالية لتلك الحروب‬
‫لأننا منفصلون تمامًا عن…‬
‫الأرواح التي نُزهقها.‬
‫يؤرقني ما حدث.‬
‫لم أرد سوى مثالًا‬ ‫عن إساءة استخدام الذكاء الاصطناعي.‬
‫العواقب غير المتوقعة‬ ‫لهذه التجربة الفكرية البسيطة‬
‫وصلت إلى حد بعيد.‬
‫"الذكاء الاصطناعي واكتشاف الأدوية:‬ ‫تجنّب إحداث ضرر أكبر من النفع"‬
‫"شركة (كولابوريشنز فارماسوتيكالز)"‬
‫عندما قدّمت عرضي التوضيحي‬
‫عن الجزيئات السامة التي أنشأها‬ ‫الذكاء الاصطناعي،‬
‫شعر الجمهور بالدهشة.‬
‫"أكثر من خمسة آلاف مركب‬ ‫مشابه لنظائر (في إكس)"‬
‫كان القرار التالي‬ ‫هو ما إن كان ينبغي نشر هذه المعلومات.‬
‫من ناحية، نريد تحذير العالم‬
‫من هذا النوع من الإمكانيات،‬ ‫ولكن من ناحية أخرى،‬
‫لا نريد أن نعطي لأحدهم فكرة‬ ‫لم تكن لديه من قبل.‬
‫قررنا أن الأمر يستحق النشر،‬
‫فربما نجد طرقًا للحد من سوء استخدام‬ ‫هذا النوع من الذكاء الاصطناعي‬
‫قبل أن يحدث.‬
‫"الاستخدام المزدوج للذكاء الاصطناعي‬ ‫في مجال اكتشاف الأدوية"‬
‫"كيف يمكن إساءة استخدام تقنيات‬ ‫الذكاء الاصطناعي لاكتشاف الأدوية"‬
‫"لتصميم (دي نوفو)‬ ‫الخاص بالأسلحة الكيماوية"‬
‫كان رد فعل الجمهور صادمًا.‬
‫يمكننا رؤية المشاهدات على الصفحة‬ ‫وعدد الأشخاص الذين وصلوا إليها.‬
‫في المقالات التي نكتبها عادةً،‬ ‫نكون محظوظين إذا اطّلع‬
‫بضعة آلاف من الأشخاص على المقال‬ ‫على مدار سنة أو عدة سنوات.‬
‫قرأ عشرة آلاف شخص مقالتنا خلال أسبوع.‬
‫ثم ارتفع العدد إلى 20 ألفًا،‬ ‫ثم إلى 30 ألفًا، وبعدها إلى 40 ألفًا،‬
‫ووصل العدد إلى عشرة آلاف شخص يوميًا.‬
‫"كيفية تعديل برنامج تصميم الأدوية‬ ‫لإنشاء أسلحة كيماوية"‬
‫ذُكرنا في صحيفة "ذا إيكونوميست"‬ ‫وصحيفة "ذا فاينانشال تايمز".‬
‫"الجانب المظلم لاستخدام الذكاء الاصطناعي‬ ‫في تصنيع الأدوية"‬
‫"راديولاب" تواصلوا معنا.‬ ‫لقد سمعت عن "راديولاب"!‬
‫لكن ردود الأفعال بعدها خرجت عن السيطرة.‬
‫"مرعب."‬
‫عندما نرى تغريدات تقول،‬ ‫"يا للهول، هل يمكنهم فعل ما هو أسوأ؟"‬
‫"لماذا فعلوا ذلك؟"‬
‫"واحدة من أكثر الأوراق التي قرأتها شؤمًا"‬
‫"سيقلتنا مهووسو العلم هؤلاء."‬
‫وبعد ذلك تلقّينا دعوة لم أكن أتوقّعها أبدًا.‬
‫كان هناك الكثير من النقاشات‬ ‫داخل "البيت الأبيض" حول المقال،‬
‫وأرادوا التحدث إلينا بشكل عاجل.‬
‫إنه شرف كبير بالطبع‬
‫أن نتكلّم مع شخصيات من هذا المستوى.‬
‫لكننا استوعبنا بعدها،‬
‫يا للهول، إنه "البيت الأبيض"،‬ ‫الرئيس بذاته.‬
‫تطلّب ذلك تجميع البيانات‬ ‫التي كانت مفتوحة المصدر…‬
‫خلال ست ساعات، تمكّن النموذج‬ ‫من توليد أكثر من 40 ألف…‬
‫طرحوا أسئلة حول القدرة الحاسوبية‬ ‫التي استخدمناها،‬
‫فأخبرناهم أن العملية‬ ‫لم تتطلّب حاسوبًا معقدًا.‬
‫جهاز "ماك" متوسط الجودة عمره ست سنوات.‬
‫وهذا أذهلهم.‬
‫الأشخاص المسؤولون عن دراسة‬ ‫الغازات السامة الحربية‬
‫والوكالات الحكومية،‬ ‫لم يملكوا فكرة عن هذه الإمكانات.‬
‫لدينا كتاب طبخ لصنع الأسلحة الكيماوية،‬
‫وبين يديّ طاه سيئ ذي نوايا خبيثة‬
‫يمكن أن يكون هذا مرعبًا للغاية.‬
‫يجب على الناس الجلوس والاستماع،‬
‫ويجب علينا اتخاذ خطوات‬ ‫إما لتقنين هذه التقنية‬
‫أو لتقييدها بطريقة تمنع إساءة استخدامها.‬
‫لأن درجة القتل المحتملة…‬
‫مرعبة.‬
‫يتناول المجتمع مسألة أخلاقيات‬ ‫الذكاء الاصطناعي إلى حد كبير،‬
‫وليس من قبل المهندسين‬ ‫أو التقنيين أو علماء الرياضيات.‬
‫كل تقنية نقدّمها وكل ابتكار جديد‬
‫تخضع للمجال الذي يرى المجتمع‬ ‫أننا يجب أن نستخدمها فيه.‬
‫"وزارة الدفاع تتبنى‬ ‫مبادئ أخلاقية للذكاء الاصطناعي"‬
‫في الوقت الحالي، تقول وزارة الدفاع‬
‫إن الوحيد الذي يُصدر قرار القتل‬
‫في ساحة المعركة هو الإنسان.‬
‫يمكن للآلات تنفيذ القتل،‬
‫ولكن فقط بناءً على أوامر العنصر البشري،‬
‫ولا أرى أن هذا سيتغيّر إطلاقًا.‬
‫يؤكدون لنا أن هذا النوع‬ ‫من التقنية سيكون آمنًا.‬
‫لكن الجيش الأمريكي لا يملك سمعة موثوقة‬
‫مع حرب الطائرات المسيرة.‬
‫فحين نتحدث عن الثقة بالجيش الأمريكي‬ ‫لاستخدام الذكاء الاصطناعي،‬
‫أرى أن سجلّهم السابق يتحدّث عن نفسه.‬
‫سياسة وزارة الدفاع الأمريكية‬ ‫بشأن استخدام الأسلحة الذاتية‬
‫لا تحظر أي نوع من أنظمة الأسلحة.‬
‫وحتى لو كانت الجيوش‬ ‫لا تريد أسلحة ذاتية التحكم،‬
‫فما زلنا نرى أن الجيوش‬ ‫تعهد بالمزيد من القرارات للآلات‬
‫فقط لمواكبة المنافسين.‬
‫وقد يدفع ذلك الجيوش إلى أتمتة القرارات‬
‫رغم عدم رغبتهم في ذلك.‬
‫قال "فلاديمير بوتين" إن من يتحكم‬ ‫بالذكاء الاصطناعي سيسيطر على العالم.‬
‫قال الرئيس "شي" بوضوح‬ ‫إن الذكاء الاصطناعي من أهم التقنيات‬
‫التي تريد "الصين" أن تهيمن عليها.‬
‫من الواضح أننا في منافسة تقنية.‬
‫نسمع الناس يتحدثون عن حواجز الحماية،‬
‫وأرى أن هذا ما يجب أن يفعله الناس.‬
‫لكن هناك سباقًا حقيقيًا‬ ‫للتفوق في مجال الذكاء الاصطناعي.‬
‫وخصومنا، سواء "الصين"‬ ‫أو "روسيا" أو "إيران"،‬
‫لا يهتمون أبدًا بسياستنا‬ ‫بخصوص الذكاء الاصطناعي.‬
‫نشهد الكثير من المحادثات‬ ‫حول سياسة الذكاء الاصطناعي،‬
‫لكنني أتمنى أن يقول المزيد من القادة،‬
‫"متى يمكننا بناء هذه السياسة؟‬
‫لنبدأ جمع الموارد اللازمة لها ونصنعها."‬
‫"العاصمة (واشنطن)"‬
‫"الاجتماع والمعرض السنوي‬ ‫لرابطة الجيش الأمريكي، العاصمة (واشنطن)"‬
‫"جيش (الولايات المتحدة)"‬
‫نحن في أكبر معرض تجاري‬ ‫لرابطة الجيش الأمريكي لهذا العام.‬
‫أي بائع يبيع منتجًا أو تقنية للجيش‬
‫يعرض ما لديه هنا.‬
‫تمتلك قاعدة "تيندال" الجوية‬ ‫أربعة روبوتات خاصة بنا‬
‫تقوم بدوريات حول قاعدتهم‬ ‫على مدار الساعة وطوال أيام الأسبوع.‬
‫يمكننا إضافة كل شيء من الكاميرات‬ ‫والمستشعرات إلى كل ما تحتاجون إليه.‬
‫أذرع المناورة، كما قلت،‬ ‫لإكمال المهمة التي يرغب فيها العميل.‬
‫ماذا لو استخدم العدو‬ ‫الذكاء الاصطناعي قبلنا؟‬
‫نظام قتالي يفكّر ويستجيب بشكل أسرع‬
‫مما يستطيع الإنسان فعله؟‬ ‫يجب أن نكون مستعدين.‬
‫ندرّب أنظمتنا على جمع المعلومات عن العدو،‬
‫وإدارة أهداف العدو‬ ‫مع إشراف البشر على عمليات القتل.‬
‫"(شيلد إيه أي)"‬
‫- مرحبًا، الجنرال "براندون تسينغ".‬ ‫- كيف حالك؟‬
‫بخير يا سيدي، كيف حالك؟‬
‫أؤكد لك أننا أكبر المستثمرين‬ ‫في طياري الذكاء الاصطناعي.‬
‫يُدعى طيارنا الذكي "هايفمايند"،‬
‫وقد طبّقناه في مروحية "نوفا"،‬ ‫إنها تدخل المباني‬
‫وتستكشفها قبل دخول قوات العمليات الخاصة‬
‫وقوات المشاة.‬
‫نطبّق "هايفمايند" على طائرات "في بات"،‬
‫لذلك أفكر في تشكيل المئات من هذه الفرق.‬
‫سواءً في "مضيق تايوان"،‬
‫أو "أوكرانيا"، لنردع خصومنا.‬
‫لذا أنا متحمس حيال هذا.‬
‫- حسنًا، شكرًا لك.‬ ‫- أشكرك أيها الجنرال.‬
‫يجب أن ينتشر طيارو الذكاء الاصطناعي،‬ ‫وأن يتحقق ذلك بين عامي 2025 و2030.‬
‫سرعان ما ستعتمدها الجيوش‬ ‫في جميع أنحاء العالم.‬
‫ماذا تعمل في الجيش الروماني؟‬ ‫أأنت خبير الطائرات المسيرة؟‬
‫أنا خبير تقني في الجيش.‬
‫أنفقنا نصف مليار دولار حتى الآن‬ ‫على بناء طيار ذكاء اصطناعي.‬
‫وسننفق مليار دولار أيضًا‬ ‫خلال السنوات الخمس القادمة.‬
‫وهذا سبب رئيسي لوجودنا‬ ‫في موازنة الدفاع في "الولايات المتحدة".‬
‫هذا رائع.‬
‫هذا مذهل. هل نجحتم في تسليح هذه الطائرات؟‬
‫لم يتم تسليحها بعد.‬
‫ليس بعد، ولكن نعم، في المستقبل.‬
‫يعتبرها عملاؤنا شاحنة،‬ ‫ونحن نعتبرها شاحنة ذكية‬
‫بوسعها القيام بكثير من المهام المتنوعة.‬
‫- شكرًا يا صديقي.‬ ‫- حسنًا.‬
‫سأحرص على متابعة أخبارك.‬
‫إذا عدت بعد عشر سنوات،‬
‫سترى سيطرة الذكاء الاصطناعي‬ ‫والتحكم الذاتي على هذا السوق بالكامل.‬
‫القوات التي تملك‬ ‫الذكاء الاصطناعي والتحكم الذاتي‬
‫ستهيمن بكل تأكيد وستسحق‬ ‫وتدمّر القوات التي لا تملكهما.‬
‫الأمر أشبه بمواجهة الخيول ضد الدبابات،‬
‫أو حاملي السيوف في مواجهة الرشاشات.‬
‫لن تكون المنافسة متكافئة إطلاقًا.‬
‫ستصبح موجودة في كل مكان،‬ ‫وتُستخدم في جميع أطياف الحرب،‬
‫على المستوى التكتيكي‬ ‫وعلى المستوى الاستراتيجي،‬
‫وستعمل بسرعات لا يستطيع البشر فهمها اليوم.‬
‫القادة غارقون بسيل من المعلومات.‬
‫صور من الأقمار الصناعية‬ ‫والطائرات المسيرة وأجهزة الاستشعار.‬
‫إحدى مزايا الذكاء الاصطناعي‬
‫هي مساعدة القائد على فهم‬ ‫ما يحدث بسرعة أكبر.‬
‫بالإضافة إلى القرارات التي يجب أن يتخذها.‬
‫يأخذ الذكاء الاصطناعي‬ ‫في الاعتبار جميع العوامل‬
‫التي تحدد طريقة خوض الحرب،‬
‫ويتوصّل إلى استراتيجيات…‬
‫ويعطي مقترحات حول كيفية الفوز في المعركة.‬
‫"(سوفولك)، (فرجينيا)"‬
‫"(لوكيد مارتن)، مركز الابتكار"‬
‫نحن في مركز "لوكيد مارتن"،‬ ‫مثل عملائنا وزارة الدفاع،‬
‫نرى أن الذكاء الاصطناعي‬ ‫مفتاح تمكين تقني جوهري‬
‫للقيادة والسيطرة.‬
‫يبلغ معدل الانتشار 60 سنتمترًا في الثانية.‬
‫وتبلغ المساحة نحو 2.83 كيلومترًا مربعًا.‬
‫من المؤكد أن عدم اليقين الحربي‬ ‫هو واقع بالنسبة إلينا في الجانب الدفاعي،‬
‫لكن له أوجه تشابه مع التواجد في البيئة‬
‫والاضطرار إلى اتخاذ القرارات‬ ‫بشأن حرائق الغابات أيضًا.‬
‫يقع حريق "واشبورن" شمال مدينة "واونا".‬
‫يتعيّن علينا اتخاذ القرارات‬ ‫ببيانات غير مكتملة.‬
‫فكيف يساعدنا الذكاء الاصطناعي‬ ‫في حالة عدم اليقين تلك؟‬
‫حرائق الغابات فوضوية للغاية.‬
‫إنها معقدة كثيرًا،‬
‫لذا فنحن نعمل‬ ‫على الاستفادة من الذكاء الاصطناعي‬
‫لمساعدتنا في اتخاذ القرارات.‬
‫"كوغنيتيف ميشن مانجر" هو برنامج ننشئه‬
‫وهو يصوّر مقاطع من الجو بالأشعة تحت الحمراء‬
‫ثم يعالجها من خلال خوارزميات‬ ‫الذكاء الاصطناعي الخاصة بنا‬
‫بحيث يتنبأ بحالة الحريق مستقبلًا.‬
‫هدفنا في المستقبل‬
‫هو أن يستخدم‬ ‫"كوغنيتيف ميشن مانجر" المحاكاة،‬
‫للبحث في آلاف الاحتمالات،‬
‫من أجل اقتراح الطريقة‬ ‫الأكثر فعالية لنشر الموارد‬
‫في سبيل إخماد المناطق المشتعلة‬ ‫ذات الأولوية العالية.‬
‫سيخبرنا أن نخمد النيران في مكان ما‬ ‫باستخدام طائرة "فايرهوك".‬
‫أو أن نأخذ الفرق الأرضية التي تزيل الأجمات‬
‫ورجال الإطفاء الذين يحملون الخراطيم،‬
‫ونرسلهم إلى المناطق ذات الأولوية القصوى.‬
‫ستتشكل هذه القرارات بشكل أسرع‬
‫وأكثر كفاءة.‬
‫نعتبر أن الذكاء الاصطناعي يسمح للبشر‬
‫بمواكبة البيئة المتغيرة باستمرار.‬
‫وهناك الكثير من أوجه التشابه‬
‫مع ما اعتدنا عليه في شركة‬ ‫"لوكيد مارتن" في الجانب الدفاعي.‬
‫لم يعد الجيش يتحدّث فقط‬ ‫عن استخدام الذكاء الاصطناعي‬
‫وأنظمة الأسلحة الفردية‬ ‫لاتخاذ قرارات الاستهداف والقتل،‬
‫بل عن دمج الذكاء الاصطناعي‬
‫مع هيكلية صنع القرار في الجيش.‬
‫لدى الجيش مشروع كبير‬ ‫يُسمى مشروع "كونفيرجنس".‬
‫تملك البحرية "أوفرماتش".‬
‫ويملك سلاح الجو‬ ‫نظام إدارة المعارك المتقدمة.‬
‫تحاول وزارة الدفاع أن تكتشف‬
‫كيف تجمع كل هذه الأجزاء معًا‬
‫من أجل العمل بشكل أسرع من الأعداء‬
‫وامتلاك الأفضلية عليهم.‬
‫مدير المعارك في الذكاء الاصطناعي‬ ‫هو جنرال ذو رتبة عالية‬
‫مسؤول عن المعارك.‬
‫يساعد في إعطاء الأوامر‬ ‫لأعداد كبيرة من القوات،‬
‫وتنسيق أعمال كل الأسلحة الموجودة،‬
‫والقيام بذلك بسرعة‬ ‫لا يستطيع أي إنسان مجاراتها.‬
‫أمضينا الأعوام الـ70 الماضية‬
‫في بناء أكثر جيش متطور على هذا الكوكب،‬
‫والآن نواجه القرار بشأن‬ ‫ما إذا كنا نريد التخلّي عن السيطرة‬
‫على تلك البنية التحتية‬ ‫لصالح الخوارزميات والبرامج.‬
‫وعواقب ذلك القرار‬
‫قد تؤدي إلى بلبلة‬ ‫في ترسانتنا العسكرية بالكامل.‬
‫هذه ليست قنبلة "هيروشيما" واحدة،‬ ‫بل المئات منها.‬
‫هاذ هو وقت التصرف‬
‫لأن نافذة احتواء هذا الخطر تُغلق بسرعة.‬
‫"(الأمم المتحدة)، 27 سبتمبر، 2021"‬
‫بعد ظهر هذا اليوم،‬ ‫سنبدأ بالتحديات الأمنية الدولية‬
‫التي تشكّلها التقنيات الناشئة‬
‫في مجال أنظمة‬ ‫الأسلحة الفتاكة ذاتية التحكم.‬
‫المحادثات تجري داخل "الأمم المتحدة"‬
‫حول تهديد الأسلحة الفتاكة ذاتية التحكم‬
‫وحظرنا للأنظمة التي تستخدم‬ ‫الذكاء الاصطناعي لاختيار الناس واستهدافهم.‬
‫الإجماع بين التقنيين واضح وصريح.‬
‫نعارض الأسلحة ذاتية التحكم‬ ‫التي تستهدف البشر.‬
‫لسنوات، ساعدت الدول في مناقشة موضوع‬
‫أنظمة الأسلحة الفتاكة ذاتية التحكم.‬
‫يتعلّق الأمر بالشعور المشترك بالأمن.‬
‫لكن الأمر ليس سهلًا بالطبع.‬
‫دول معينة، وخاصةً القوى العسكرية،‬
‫يريدون أن يكونوا في الطليعة،‬
‫حتى يكونوا متقدّمين على خصومهم.‬
‫المشكلة هي أن على الجميع‬ ‫الموافقة على اتخاذ أيّ إجراء.‬
‫سيعترض بلد واحد على الأقل،‬
‫وقد أوضحت‬ ‫كل من "الولايات المتحدة" و"روسيا"‬
‫أنهما تعارضان فكرة معاهدة‬ ‫حظر الأسلحة ذاتية التحكم.‬
‫عندما نفكر في عدد الأشخاص‬ ‫الذين يعملون لجعل الذكاء الاصطناعي أقوى،‬
‫سنجد عددًا كبيرًا منهم.‬
‫وعندما نفكّر في عدد الذين يضمنون‬ ‫بأن الذكاء الاصطناعي آمن،‬
‫فإن العدد يتناقص بشدة.‬
‫لكنني متفائلة أيضًا.‬
‫أنظر إلى معاهدة حظر الأسلحة البيولوجية،‬
‫التي أُقرت في منتصف الحرب الباردة،‬
‫رغم حالة التوتر بين الطرفين‬ ‫"الاتحاد السوفييتي" و"الولايات المتحدة".‬
‫استطاعا إدراك أن تطوير الأسلحة البيولوجية‬
‫ليس في مصلحة أي منهما،‬
‫ولا في مصلحة العالم بأسره.‬
‫يفضّل سباق التسلّح الطرق السريعة على الآمنة.‬
‫لكنني أرى أن ما يجب مراعاته‬
‫أنه في مرحلة ما، تصبح تكلفة‬ ‫التحرك بسرعة مرتفعة للغاية.‬
‫لا يمكننا تطوير الأشياء في عزلة‬
‫واعتمادها من دون معرفة‬ ‫ما ستؤول إليه في المستقبل.‬
‫يجب أن نمنع تلك القنبلة الذرية.‬
‫مخاطر التسلّح بالذكاء الاصطناعي هائلة.‬
‫لا أرى أن الكثير من الناس‬ ‫يقدّرون الاستقرار العالمي‬
‫الذي تم توفيره من خلال‬ ‫وجود قوة عسكرية متفوقة‬
‫في آخر 75 عامًا.‬
‫وهكذا فإن "الولايات المتحدة" وحلفاءها‬
‫بحاجة إلى التفوق‬ ‫على الذكاء الاصطناعي المعادي.‬
‫لا أحد يفوز بالمركز الثاني في الحروب.‬
‫وضعت "الصين" خطة طموحة لتكون رائدة‬ ‫في مجال الذكاء الاصطناعي بحلول عام 2030.‬
‫يقول البعض إنه سباق تخسره "أمريكا"…‬
‫سنسرّع من اعتماد الذكاء الاصطناعي‬
‫لضمان تفوّقنا العسكري التنافسي.‬
‫نحن نتسابق إلى الأمام مع هذه التقنية.‬
‫أرى أن الأمر المبهم هو إلى أيّ مدى سنصل.‬
‫هل نتحكم بالتقنية أم أنها تتحكم بنا؟‬
‫لا يُوجد مجال لإعادة المحاولة.‬
‫بمجرد أن تُفتح أبواب الجحيم‬ ‫فلا سبيل للتراجع.‬
‫ومن شبه المستحيل أن نغلقها مجددًا.‬
‫وإن لم نتصرّف حالًا فسيفوت الأوان.‬ ‫هذا إن لم يكن الأوان قد فات بالفعل.‬