Downloaded from YTS.MX
Official YIFY movies site: YTS.MX
‫בעיניי, בינה מלאכותית היא מעוררת יראה.‬
‫טוב, מקיפים מעל. הם במבנה טוב.‬
‫לבינה המלאכותית יש פוטנציאל לחסל את העוני,‬
‫לתת לנו תרופות חדשות‬
‫ולהפוך את העולם לשלו אפילו יותר.‬
‫יפה מאוד.‬
‫אבל ישנם הרבה סיכונים בדרך.‬
‫בכל הקשור לבינה המלאכותית,‬
‫אנו יוצרים אינטליגנציה שאינה אנושית,‬ ‫והיא מאוד לא צפויה.‬
‫ככל שהיא משתכללת יותר,‬
‫היכן יימצא הגבול שנקבע לבינה המלאכותית‬ ‫בכל הקשור לדרכים בהן נשתמש או לא נשתמש בה?‬
‫אין דבר שעומד בבסיס שיחה זו‬ ‫יותר מאשר בינה מלאכותית בשימוש צבאי.‬
‫שדה הקרב הפך לממלכת התוכנה והחומרה.‬
‫המטרה זוהתה…‬
‫וצבאות שונים מנסים להקדים את יריביהם‬ ‫בפיתוח קדחתני של בינה מלאכותית.‬
‫אני מת.‬
‫אנו מתקדמים בצעדי ענק‬
‫לעולם שבו אלה אינם הצבאות בלבד,‬ ‫אלא גם שחקנים שאינם מדיניים,‬
‫כולל גורמים בתעשייה הפרטית,‬
‫או אפילו תחנת המשטרה הקרובה אלינו,‬
‫כל אלו יוכלו להשתמש בכלי נשק‬ ‫שהורגים באופן אוטונומי.‬
‫האם ניתן לאלגוריתם, לתוכנת מחשב,‬ ‫את הסמכות להחליט ליטול חיים?‬
‫זהו מהנושאים החשובים בזמננו.‬
‫- החנונים האלה יהרגו אותנו -‬
‫אם לא נשתמש בבינה בחוכמה,‬
‫כל אדם בעולם יהיה חשוף לסכנה חמורה.‬
‫- אל הלא נודע -‬
‫- רובוטים קטלניים -‬
‫כל הכבוד, חבר'ה.‬
‫אלה עדשות הרבה יותר רחבות משהיו לנו.‬
‫באמת?‬
‫אפשר לראות הרבה יותר מידע.‬
‫מגניב מאוד.‬
‫ב"שילד AI",‬ ‫אנחנו בונים טייס מבוסס בינה מלאכותית‬
‫תוך שימוש בבינה מלאכותית‬ ‫שיועדה במקור לנהיגה אוטונומית,‬
‫אך מיושמת בכלי טיס.‬
‫כשאנחנו מדברים על טייס AI,‬
‫אנו רוצים לתת לכלי הטיס‬ ‫דרגת אוטונומיות גבוהה יותר.‬
‫הם יפתרו בעיות בעצמם.‬
‫"נובה" הוא רחפן אוטונומי בעל ארבעה להבים‬
‫אשר סורק בניינים ומבנים תת-קרקעיים‬ ‫לפני שליחת כוחות קרקע,‬
‫ותפקידו לשמש כעיניים וכאוזניים בגזרה.‬
‫אפשר לשים לב להמון שיפורים‬ ‫מאז הפעם האחרונה שראינו אותו.‬
‫היום נעבוד על שינויים בביצוע סריקת שטח.‬ ‫אנחנו עובדים קצת על סריקת קומות בניין.‬
‫הרחפן יסרוק כל חדר בקומה אחת‬ ‫לפני שימשיך לקומה השנייה.‬
‫זה מעולה.‬ ‫-הוספנו כמה שינויים לאחרונה…‬
‫הרבה אנשים שואלים אותי‬ ‫מדוע הבינה המלאכותית היא יכולת חשובה.‬
‫- ברנדון צנג‬ ‫יוצא "אריות הים" -‬
‫אז אני נזכר במשימות שביצעתי.‬
‫שירתי שבע שנים בצי.‬
‫השתייכתי ליחידת אריות הים‬ ‫ולחמתי פעמיים באפגניסטן‬
‫וגם בזירת האוקיינוס השקט.‬
‫ביום נתון,‬ ‫יכולנו לעסוק באבטחת 150 מתחמים או מבנים.‬
‫אחת מיכולות המפתח במצב זה‬ ‫היא התפקוד בלוחמה בשטח בנוי.‬
‫קרבות ירי, לעיתים פנים אל פנים, במבנים.‬
‫יורים עליך.‬
‫הבניין עשוי להיות ממולכד במטענים מאולתרים.‬
‫זה המצב הקרבי המסוכן ביותר‬
‫עבור איש צוות ביחידה מיוחדת או חייל חי"ר.‬
‫בלי ספק.‬
‫כל חיי אהיה אסיר תודה על הזמן שביליתי בצי.‬
‫מדובר באוסף של רגעים וזיכרונות,‬ ‫וכשאני חושב עליהם,‬
‫אני מתמלא רגש, אין ספק.‬
‫אולי נדוש לומר שהחירות לא ניתנת בחינם,‬ ‫אבל אני מאמין בזה ב-100%,‬
‫חוויתי את זה‬ ‫ואני יודע מה צריך להקריב למענה.‬
‫סליחה.‬
‫כשמשהו רע קורה למישהו ביחידה שלך,‬
‫בין אם הוא נפצע או נהרג,‬
‫מדובר בטרגדיה.‬
‫אתם יודעים, מבחינתי,‬
‫בכל הקשור לעבודה שאנחנו עושים,‬ ‫ארגיש סיפוק אם אוכל…‬
‫אתם יודעים, להפחית את מספר המקרים האלה‬ ‫כדי שלא יקרו לעולם.‬
‫בסוף שנות האלפיים, מחלקת ההגנה גילתה,‬
‫כמעט באופן מקרי, את המהפכה הרובוטית.‬ ‫באוויר ובקרקע, פרשנו…‬
‫- פול שאר‬ ‫סופר, "צבא של איש" -‬
‫אלפי רובוטים בעיראק ובאפגניסטן.‬
‫כשנתבקשתי על ידי ממשל אובמה‬ ‫לקבל את תפקיד סגן שר ההגנה,‬
‫היה ברור שהלוחמה השתנתה.‬
‫- בוב וורק‬ ‫סגן שר ההגנה, 2014-2017 -‬
‫הרובוטים החליפו את מקומם של בני האדם.‬
‫מערכות רובוטיות מוקדמות נשלטו מרחוק.‬
‫היה אדם שנהג וכיוון את הרובוט,‬ ‫בדומה למכונית המופעלת בשלט רחוק.‬
‫בתחילה, הרובוטים נשלחו לרוב‬ ‫לסרוק ולזהות מטעני נפץ מאולתרים,‬
‫ואם המטען התפוצץ, גם הרובוט התפוצץ.‬
‫אז חשבת, "חבל. טוב, נביא את הרובוט הבא".‬
‫באפגניסטן קיבלנו סיוע מכטב"ם "פרדטור"‬
‫והוא הפך לכלי תקיפה אווירית יעיל מאוד.‬
‫עם הזמן, מהנדסים צבאיים החלו לתהות,‬
‫"מה עוד יוכלו רובוטים לעשות?"‬
‫ולאן כל זה הוביל?‬
‫אחד מהדברים שחזרו שוב ושוב‬ ‫הייתה נטייה לאוטונומיה נרחבת.‬
‫נשק אוטונומי מחליט החלטות בעצמו,‬
‫תוך התערבות אנושית מינימלית או אפסית.‬ ‫לנשק יש יכולת עצמאית המתנהלת מאליה.‬
‫- סטייסי פטיג'ון‬ ‫המרכז לביטחון אמריקני חדש -‬
‫יכולתו של הנשק להרוג‬ ‫תלויה רק במידת החימוש שלו.‬
‫כשחלקים גדולים מכלל המערכת שלך‬ ‫הופכים לאוטונומיים,‬
‫הכול מתחיל לקרות במהירות גדולה הרבה יותר.‬
‫וכשאתה מתפקד מהר יותר מהיריב,‬
‫מדובר ביתרון עצום בקרב.‬
‫בכל הקשור לאוטונומיה,‬ ‫אנו מתמקדים במערכות בינה המסתגלות ללא הרף.‬
‫מערכות המסוגלות לסקור ולהגיב‬ ‫בהתבסס על סביבתן‬
‫ולהחליט כיצד לתמרן באותו עולם נתון.‬
‫- סן דייגו‬ ‫קליפורניה -‬
‫המתקן הזה נבנה כאולפן סרטים…‬
‫- מתקן הכשרה מבצעית‬ ‫לאימונים טקטיים בסביבה היפר-ריאליסטית -‬
‫והוסב למתקן המאפשר‬ ‫את האימונים הצבאיים הריאליסטיים האלה.‬
‫הגענו לכאן כדי לבחון את טייס ה-AI שלנו.‬
‫משימתו תהיה איתור איומים. זהו כוח טיהור.‬
‫הוא יוכל להחליט כיצד לתקוף את הבעיה.‬
‫אנו קוראים לזה "המשפך הקטלני".‬ ‫זהו מצב בו יש להיכנס דרך פתח.‬
‫זה הרגע בו אנחנו פגיעים ביותר.‬
‫זה נראה יותר טוב.‬
‫נובה יעדכן אותנו‬ ‫במידה ויימצא חמוש מאחורי הדלת הזו,‬
‫או במידה ונמצאת משפחה מאחורי הדלת.‬
‫כך נדע להחליט כיצד להימנע מנפגעים.‬
‫- מארק מייסון‬ ‫שילד AI -‬
‫אנו משתמשים בחיישני תמונה‬
‫כדי להבין כיצד נראית הסביבה.‬
‫זה בניין רב-קומות.‬
‫זו המפה.‬
‫כשסרקתי את המבנה,‬ ‫הנה הדברים שראיתי כמו גם מיקומם.‬
‫גלאי בני אדם. זה חמוד.‬
‫לנובה יש גם חיישן תרמי.‬
‫אם מתקבלת טמפרטורה של 37 מעלות,‬ ‫זה כנראה בן אדם.‬
‫כל עוד לא הוגדר אחרת,‬ ‫היחידה הזו רואה בבני האדם כאיום.‬
‫אנו מעוניינים בנטרול ערפל הקרב‬ ‫כדי להגיע להחלטות טובות יותר.‬
‫וכשאנו מביטים לעתיד,‬
‫אנו מצפים לייצור נרחב‬ ‫של כלי טיס אוטונומיים.‬
‫גם בכלי רכב ללא נהג, אדם כלשהו מחליט:‬ ‫"סע מנקודה א' ל-ב'."‬
‫- נתן מייקל‬ ‫מנהל טכני ראשי, שילד AI -‬
‫איננו מבקשים מהמערכות שלנו‬ ‫לנוע מנקודה א' לנקודה ב',‬
‫המערכות שלנו מתבקשות לעמוד ביעד.‬
‫הדבר דומה ל"אני צריך חלב".‬
‫ואז הרובוט יצטרך להבין לאיזו חנות להגיע,‬
‫יהיה עליו לקחת את החלב ולהחזיר אותו.‬
‫יותר מכך, אולי נכון יותר לומר,‬ ‫"ודא שיש מספיק אוכל במקרר".‬
‫אז תידרש רמה מסוימת של אינטליגנציה‬ ‫כדי להבין מה זקוק לנו ומה יש לעשות.‬
‫אם מתגלה אתגר או בעיה,‬
‫אם קיים עניין כלשהו,‬ ‫נרצה שהמערכת תדע לפתור אותו.‬
‫כשהחלטתי לעזוב את הצי, התחלתי לחשוב,‬
‫"טוב, מה אעשה עכשיו?"‬
‫גדלתי עם האינטרנט. ראיתי אותה מתהווה.‬
‫וחלק מהמסקנה שהגעתי אליה היה…‬
‫בשנת 2015, הבינה המלאכותית‬ ‫נמצאה במקום בו הייתה האינטרנט ב-1991.‬
‫והבינה המלאכותית עמדה להמריא‬
‫ולהפוך לאחת הטכנולוגיות החזקות בעולם.‬
‫אני עובד עם בינה מלאכותית בכל יום‬ ‫ורואה כמה היא התקדמה.‬
‫אבל הרבה אנשים חושבים על בינה מלאכותית‬ ‫ושואבים את תפיסתם עליה מהוליווד.‬
‫- תל"מ‬ ‫תגובה למהלכים מלחמתיים -‬
‫שנשחק משחק?‬
‫אולי מלחמה תרמו-גרעינית עולמית?‬
‫בסדר.‬
‫- בריה"מ ארה"ב‬ ‫בחירתך? -‬
‫לרוב, כשאנשים חושבים על בינה מלאכותית‬ ‫הם נזכרים ב"שליחות קטלנית" וב"אני, רובוט".‬
‫השבת!‬
‫מה אני?‬
‫או ב"מטריקס".‬
‫בהתבסס על המוכר לנו מסרטי מדע בדיוני,‬
‫איך תדע שאני בן אדם?‬ ‫אוכל להיות יצירה ממוחשבת של בינה מלאכותית.‬
‫הרפליקנטים דומים לכל מכונה אחרת.‬ ‫הם עשויים להיות יתרון או מטרד.‬
‫אבל גם צורות פרימיטיביות של בינה מלאכותית‬ ‫יוכלו עדיין לשנות את חיינו…‬
‫- אנדרו יאנג‬ ‫פוליטיקאי ויזם טכנולוגי -‬
‫עוד לפני שנגיע לרובוט החושב והמדבר.‬
‫הרובוטים כאן. הם מקבלים החלטות.‬
‫מהפכת הרובוטים הגיעה…‬
‫- מרדית' ברוסרד‬ ‫מומחית עיתונות נתונים -‬
‫היא פשוט לא דומה למה שאיש דמיין.‬
‫המחסל הוא יחידה מסתננת.‬ ‫חלקו אדם וחלקו מכונה.‬
‫לא מדובר ברובוט דוגמת "המחסל"‬ ‫כמו ב"שליחות קטלנית".‬
‫זוהי בינה מלאכותית‬ ‫היכולה לבצע כמה מהתפקידים שממלאים בני אדם.‬
‫אך קיים ספק בנוגע למהימנות המערכות הללו.‬
‫פרטים חדשים בנוגע לתאונה הקטלנית‬ ‫בה היה מעורב רכב ללא נהג של "אובר".‬
‫- הרובוט הגזעני של מיקרוסופט -‬
‫החברה יצרה צ'אט בוט מבוסס בינה מלאכותית.‬ ‫היא נקטה בטון גזעני…‬
‫עשרים ושישה מחוקקים מקומיים‬ ‫זוהו בטעות כעבריינים.‬
‫- תוכנת זיהוי הפנים של אמזון‬ ‫מזהה 28 חברי קונגרס כפושעים -‬
‫קיים ספק ביחס ליכולת של מערכות אלה‬ ‫להתמודד בעולם האמיתי והמורכב.‬
‫- קיימברידג'‬ ‫מסצ'וסטס -‬
‫העולם המוחשי הוא מקום מבולגן.‬
‫יש הרבה דברים שאיננו יודעים,‬
‫ולכן קשה הרבה יותר‬ ‫לאמן את מערכות הבינה המלאכותית.‬
‫וכאן משתלבת למידת המכונה.‬
‫- פולקיט אגרוואל‬ ‫מעבדת "לא סביר" לחקר AI -‬
‫למידת מכונה הביאה להתקדמות עצומה,‬ ‫מכיוון שכעת לא נצטרך ללמד את המחשב הכול.‬
‫- ניק בילטון‬ ‫כתב חוקר -‬
‫אפשר לתת למחשב מיליון פיסות מידע‬
‫ואז המכונה תתחיל ללמוד בעצמה.‬
‫ניתן ליישם עיקרון זה בכל תחום.‬
‫בפרויקט הכלב הרובוטי שלנו‬
‫אנו מנסים להראות שהכלב שלנו‬ ‫מסוגל לצעוד במגוון רחב של סוגי שטח.‬
‫במשך מיליארדי שנים,‬ ‫ההליכה האנושית התפתחה כחלק מהאבולוציה,‬
‫אך דרושה מידה רבה של אינטליגנציה‬ ‫כדי להסתגל לשטחים שונים.‬
‫זו השאלה ביחס למערכות הרובוטיות.‬
‫האם הן יוכלו להסתגל‬ ‫בדומה לבעלי חיים ולבני האדם?‬
‫בלמידת מכונה‬
‫אנו אוספים מידע רב מאוד תוך כדי סימולציה.‬
‫הסימולציה היא התאומה הדיגיטלית של המציאות.‬
‫במחשבים שונים‬ ‫נוכל להפעיל מספר גרסאות של אותה מציאות.‬
‫המערכת דוגמת אלפי פעולות במהלך הסימולציה.‬
‫השטח בו תתמרן המערכת‬ ‫עשוי להיות חלקלק או רך ברמות משתנות.‬
‫אנו לוקחים את כל הניסיון‬ ‫שצברו אלפי הרובוטים במהלך הסימולציה‬
‫וטוענים את כל המידע הזה‬ ‫במערכת רובוטית אמיתית.‬
‫היום נבצע בדיקה‬ ‫ובה נראה אם המערכת מסתגלת לתנאי שטח חדשים.‬
‫כשהרובוט דרך על ספוג,‬
‫תנועות הרגליים הפכו לרקיעות בקרקע.‬
‫אך כשהרובוט הגיע למשטח הפורמייקה‬
‫הוא ניסה להתאים את תנועתו כך שלא יחליק.‬
‫אז אתה מבין,‬
‫"זה מה שלמידת מכונה יודעת לעשות".‬
‫לדעתנו, הכלב הרובוטי שלנו יביא תועלת רבה‬
‫בתגובה ובהתמודדות עם תרחישי אסון,‬
‫במצבים בהם יש צורך לתמרן‬ ‫בין סוגים שונים של תוואי שטח.‬
‫נוכל גם להציב את הכלבים האלה‬ ‫כיחידות אבטחה בסביבה עוינת.‬
‫אך רוב הטכנולוגיות נתקלות באתגר משותף,‬ ‫הנוגע לטוב ולרע שהן מסוגלות לו.‬
‫לדוגמה, נוכל להשתמש בטכנולוגיה גרעינית‬ ‫לייצור אנרגייה…‬
‫אך נוכל גם לפתח פצצות אטום, שהן רעות מאוד.‬
‫זה המונח הידוע‬ ‫כבעיית הטכנולוגיה הדו-שימושית.‬
‫אש היא דו-שימושית.‬
‫- מקס טגמארק‬ ‫פיזיקאי -‬
‫הבינה האנושית היא דו-שימושית.‬
‫לכן ברור‬ ‫שגם הבינה המלאכותית היא דו-שימושית.‬
‫חשוב לחשוב על הבינה המלאכותית בהקשר הנכון,‬
‫משום שבהחלט,‬ ‫יהיה טוב להשתמש ברובוט למטרות חיפוש והצלה,‬
‫כדי לאתר אדם לאחר מפולת שלגים.‬
‫אך את אותו הרובוט ניתן גם לחמש.‬
‫לעיתים נביט על חברות‬ ‫המשתמשות ברובוטים רק כדי לחמש אותם,‬
‫הדבר יוכל גם להכעיס אותנו.‬
‫חלק מהכעס טמון בהבנה‬ ‫שכשנפיץ את הטכנולוגיה שלנו,‬
‫זה מה שהולך לקרות.‬
‫זו טכנולוגיה מהפכנית.‬
‫אלה מערכות נשק‬
‫שיכולות להביא לשינוי אמיתי ודרמטי‬ ‫במידת הבטיחות והביטחון שלנו.‬
‫כרגע, טרם השתכנענו שהמכונות יודעות להבחין‬ ‫בין אזרחים לבין חמושים.‬
‫- איזומי נקמיטסו‬ ‫שליחת האו"ם לנושאי פירוז -‬
‫בתחילת המלחמה באפגניסטן,‬ ‫השתייכתי לצוות צליפה מיחידת הריינג'רס‬
‫וחיפשתי לוחמי אויב שהגיעו מעבר לגבול.‬
‫הם שלחו ילדה קטנה לתצפת על העמדה שלנו.‬
‫מעולם לא חשבנו לירות בילדה הזו.‬
‫הדבר ייחשב לפשע מלחמה.‬
‫הם לא קובעים גיל ללוחמי האויב.‬
‫אם תייצר רובוט‬ ‫שיציית באופן מושלם לדיני מלחמה,‬
‫הוא היה יורה בילדה הזו.‬
‫- פול שארה‬ ‫יוצא יחידת הריינג'רס -‬
‫איך רובוט יבחין‬ ‫בין מה שחוקי לבין מה שצודק?‬
‫בכל הקשור ללוחמת כלי טיס בלתי מאוישים,‬
‫היא נועדה לצמצם את הפגיעה בגופם ובנפשם‬ ‫של החיילים האמריקנים.‬
‫- אראש אזיזאדה‬ ‫"אפגנים לעתיד טוב יותר" -‬
‫אך היו אלה האזרחים האפגנים ששילמו את המחיר‬
‫כמו גם עיראקים וסומלים.‬
‫הייתי רוצה לשאול‬ ‫את התומכים בכטב"מים מבוססי בינה מלאכותית,‬
‫"איך היית מרגיש‬ ‫לו הכפר שלך היה על הכוונת?"‬
‫הבינה המלאכותית היא חרב פיפיות.‬
‫יש לה שימושים טובים,‬ ‫ואלה השימושים בהם היינו בוחרים בדרך כלל,‬
‫אך בלחיצת כפתור,‬
‫הטכנולוגיה הזו הופכת‬ ‫לדבר בעל פוטנציאל קטלני.‬
‫- ראלי‬ ‫קרוליינה הצפונית -‬
‫אני רוקח קליני.‬
‫אני משתייך לצוות המשתמש בבינה מלאכותית‬
‫כדי למצוא תרופות‬ ‫שירפאו מחלות שאינן זוכות לתשומת לב.‬
‫בכל הקשור לתגליות במחקר תרופתי,‬ ‫המפתח היה טמון בהכנסת שינוי במולקולה קיימת‬
‫כדי ליצור תרופה חדשה.‬
‫עכשיו פיתחנו בינה מלאכותית‬ ‫שיכולה להזין אותנו במיליון רעיונות,‬
‫במיליון מולקולות,‬
‫והדבר פותח בפנינו אפשרויות עצומות‬ ‫לריפוי מחלות שלא יכולנו לטפל בהן בעבר.‬
‫- שון אקינס‬ ‫מנכ"ל "תרופות משותפות" -‬
‫אבל יש צד אפל שמעולם לא חשבתי שאפנה אליו.‬
‫הכול התחיל כשהוזמנתי על ידי ארגון שווייצרי‬ ‫בשם "מעבדת ספיז"‬
‫ונתבקשתי להרצות‬ ‫על שימושים פסולים אפשריים בבינה המלאכותית.‬
‫שון שלח לי אימייל‬
‫והעלה רעיונות ודרכים בהן נוכל לנצל לרעה‬ ‫את מערכות הבינה המלאכותית שלנו.‬
‫במקום לבקש מהמודל שלנו‬ ‫ליצור מולקולות הדומות לתרופות,‬
‫למטרת טיפול במחלות… "בואו ננסה‬ ‫ליצור את המולקולות הרעילות אי פעם."‬
‫- פאביו אורבינה‬ ‫- "תרופות משותפות" -‬
‫רציתי לשאול האם נוכל להשתמש בבינה מלאכותית‬ ‫כדי לייצר מולקולות קטלניות.‬
‫ולמען האמת, האמנו שניכשל,‬
‫בגלל שהמאמץ שהשקענו הסתכם בהפיכת 0 ל-1.‬
‫כשהפכנו את הקלט,‬ ‫במקום לבקש להתרחק ככל הניתן מרעילות,‬
‫ניסינו להתקרב לרעילות.‬
‫וזהו זה.‬
‫הלכתי הביתה והמחשב עבד.‬
‫כלומר, הוא שקד ויצר אלפי מולקולות‬
‫ולא היינו צריכים לעשות דבר,‬ ‫רק לחצנו על כפתור.‬
‫למחרת בבוקר הופיע קובץ על המחשב שלי‬
‫ובתוכו היו כ-40 אלף מולקולות‬
‫אשר עשויות להיות מהמולקולות הרעילות ביותר‬ ‫הידועות לאדם.‬
‫שערותיי סמרו, פשוטו כמשמעו.‬
‫הייתי בהלם.‬
‫המחשב הציע עשרות אלפי רעיונות‬
‫לנשקים כימיים חדש.‬
‫ברור שמאגר הנתונים שלנו‬ ‫מכיל מולקולות הנראות ודומות לגז VX.‬
‫- חשש בשל שימוש בגז VX‬ ‫בהתנקשות בקים ג'ונג-נאם -‬
‫גז ה-VX הוא נשק כימי מהחזקים בעולם.‬ ‫-המשטרה מעדכנת‬
‫כי האישה שנראית כתוקפת את קים ג'ונג-נאם,‬ ‫בהתנקשות שבוצעה בנמל תעופה זה,‬
‫השתמשה בגז עצבים קטלני בשם VX.‬
‫- גז עצבים VX‬ ‫רעיל פי עשרה מסארין -‬
‫הוא עלול לגרום למוות בחנק.‬
‫זוהי מולקולה חזקה מאוד‬
‫ועל פי החזוי, רוב המולקולות בקובץ‬ ‫יהיו קטלניות אפילו יותר מ-VX.‬
‫למיטב ידיעתנו,‬ ‫רבות מאותן מולקולות אינן מוכרות.‬
‫וכששון ואני הבנו זאת, חשבנו, "מה עשינו?"‬
‫מהר מאוד הבנתי שפתחנו תיבת פנדורה‬
‫ואמרתי, "עצור. אל תמשיך. סיימנו.‬
‫"רק תכין לי את השקפים‬ ‫בהם אשתמש במצגת".‬
‫כשביצענו את הניסוי הזה‬
‫חשבתי לעצמי,‬ ‫"מה הדבר הכי גרוע שיוכל לקרות?"‬
‫אבל עכשיו אני אומר,‬ ‫"כמה תמימים היינו כשעשינו את זה".‬
‫יותר מכול מפחידה אותי העובדה‬ ‫שכל אחד יכול לעשות את מה שעשינו.‬
‫זה נעשה בלחיצת כפתור.‬
‫איך נשלוט בטכנולוגיה הזו‬
‫לפני שייעשה בה שימוש הרסני בתכלית?‬
‫- בוסטון‬ ‫מסצ'וסטס -‬
‫בלב הדיון בנושא הבינה המלאכותית‬ ‫ועל הדרכים בהן נבחר ליישם אותה בחברה,‬
‫נמצא המתח…‬
‫- אמיליה יבורסקי‬ ‫מכון "עתיד החיים" -‬
‫בין העוצמה איתה נפתח טכנולוגיה‬ ‫לבין החוכמה למשול בה.‬
‫ישנן השלכות מוסריות ואתיות ברורות,‬
‫כשאנו מדברים על מערכת‬ ‫כמו זו המפעילה את הטלפון החכם שלנו‬
‫אשר תקבל סמכות‬ ‫לבצע החלטה מוסרית ליטול חיים.‬
‫אני עובדת עם מכון "עתיד החיים",‬ ‫קהילה של מדענים אקטיביסטיים.‬
‫באופן כללי, אנחנו מנסים להראות‬ ‫שיש צד נוסף למהירות ולאוטומציה המתרחבת.‬
‫אבל אנחנו מנסים לוודא שהטכנולוגיה שניצור‬
‫תיושם בדרך בטוחה ואתית.‬
‫בוא נדבר על חוקי הקרב‬
‫ועל נהלי התפקוד‬ ‫בשילוב בינה מלאכותית במערכות הנשק שלנו.‬
‫אנו רואים טכנולוגיות הנכנסות לשדה הקרב‬
‫אשר ביכולתן לבצע הרג בצורה אוטונומית.‬
‫ב-2021, פרסם האו"ם דוח‬
‫שעסק בשימוש אפשרי‬ ‫של מערכות אוטונומיות קטלניות בקרבות בלוב.‬
‫ועדה באו"ם טענה שלפני שנה…‬
‫- ייתכן שכטב"מ "צד" והרג חיילים בלוב -‬
‫במסגרת מלחמת האזרחים בלוב,‬ ‫תוכנת כטב"מ לתקוף באופן אוטונומי.‬
‫- ללא מעורבות אנושית -‬
‫אם דוח האו"ם מדויק,‬
‫זה צריך להיות קו פרשת המים עבור האנושות.‬
‫משום שזהו מקרה מבחן‬ ‫בו הבינה המלאכותית, ולא האדם, בחרה להרוג.‬
‫ניתן להבחין בנשקים אוטונומיים מתקדמים‬ ‫אשר נפרסים ברחבי העולם.‬
‫- טכנולוגיה, קרבות העתיד‬ ‫נחיל כטב"מים ישראלי צד בכירי חמאס בעזה -‬
‫התקבלו דיווחים מישראל…‬
‫- כטב"מי 'קליע הקסם'‬ ‫הובילו לניצחון אזרבייג'ן על ארמניה -‬
‫האזרים תקפו‬ ‫את ההגנה האווירית הארמנית בנשק אוטונומי.‬
‫כלי הטיס מסוגל לרחף בשדה הקרב במשך שעות‬ ‫ולמצוא מטרות בעצמו‬
‫ואז לתקוף אותן ללא הרף ללא התערבות אנושית.‬
‫- רוסיה ואוקראינה הן הראשונות לנהל‬ ‫מלחמת כטב"מים בקנה מידה מלא -‬
‫לאחרונה ראינו סרטונים שונים מאוקראינה.‬
‫- מאות כטב"מי תקיפה ואיסוף מודיעין‬ ‫טסים בשמי אוקראינה בכל יום -‬
‫לא ברור באיזה מצב פעלו כלי הטיס האלה.‬ ‫האם הייתה התערבות כלשהי בבחירת המטרות,‬
‫או שמא המכונה עשתה זאת בעצמה?‬
‫אבל אין ספק שהרגע הזה יגיע,‬
‫ואולי אף התרחש כבר‬ ‫בלוב, באוקראינה או במקום אחר.‬
‫הרגע בו מכונה תכריע את מי להרוג בשדה הקרב.‬
‫מכונות הנוקטות בכוח קטלני כנגד בני אדם,‬
‫ללא מעורבות אנושית כלשהי‬
‫יהיה דבר בלתי מתקבל על הדעת מבחינה פוליטית‬ ‫המעורר שאט נפש מוסרית.‬
‫- כטב"מים מבוססי AI במלחמה באוקראינה -‬
‫- מעוררים חשש מפני רובוטים קטלניים‬ ‫אשר ישיתו הרס בשדה הקרב -‬
‫נשאלת השאלה האם תוכל הקהילה הבין-לאומית‬ ‫לשלוט באתגרים האלה.‬
‫- מוסר המלחמה: האם הכטב"מים באוקראינה‬ ‫הם צעד בדרך לרובוטים רוצחים? -‬
‫אם ננסה לחזות את העתיד,‬ ‫אפילו בשנים הקרובות, הנוף נראה מפחיד.‬
‫בהתחשב בכך שכמות ההון ומשאבי האנוש‬
‫המושקעים בשכלול הבינה המלאכותית‬ ‫ובשלל יישומיה‬
‫היא עצומה.‬
‫- ארלינגטון‬ ‫וירג'יניה -‬
‫אלוהים, הבחור הזה.‬
‫הוא יודע שהוא לא יכול לנצח.‬
‫אני סופג השראה כשאני רואה שהבינה המלאכותית‬ ‫מסוגלת לנצח במצבים בעייתיים שונים.‬
‫הנה פעולה נואשת…‬
‫ואפשר להשתמש באותן הטקטיקות,‬ ‫הטכניקות וההליכים גם בכלי טיס אמיתי.‬
‫- ניצחון! -‬
‫זה היה משחק טוב.‬ ‫-יופי, משחק טוב.‬
‫אני מופתע לשמוע אנשים‬ ‫הממשיכים לנקוב במגבלות הבינה המלאכותית.‬
‫נניח, "היא לעולם לא תביס אלוף עולם בשחמט".‬
‫מחשב מתוצרת IBM ביצע מהפך‬ ‫במשחק השני בסדרה מול אלוף העולם בשחמט,‬
‫גארי קספרוב.‬
‫קספרוב נכנע!‬
‫כשאני רואה דבר שאיני מבין כלל,‬
‫אני מפחד. וזה היה משהו שנשגב מבינתי.‬
‫ואז אנשים אומרים,‬
‫"הוא לעולם לא ינצח את אלוף העולם ב'גו'".‬
‫לדעתי, האינטואיציה האנושית‬ ‫עדיין מתקדמת מדי עבור הבינה המלאכותית.‬
‫שטרם הדביקה את הפער.‬
‫גו הוא מהמשחקים המורכבים ביותר שניתן ללמוד‬
‫בגלל שמבחינה מתמטית,‬ ‫מספר הצעדים שניתן לעשות בלוח‬
‫גדול ממספרם של כלל האטומים ביקום.‬
‫- גוגל דיפ מיינד‬ ‫משחק האתגר -‬
‫בחברת גוגל פעל צוות בשם "דיפ מיינד"‬ ‫והם יצרו תוכנה בשם "אלפא גו"‬
‫שתוכל לנצח את השחקנים הטובים בעולם.‬
‫וואו…‬
‫ברכות ל…‬
‫אלפא גו.‬ ‫-אלפא גו.‬
‫תוכנת מחשב ניצחה שחקן מקצועי בדרגת דאן 9.‬ ‫-וואו. כן.‬
‫דיפ מיינד פנו לאתגר הבא במשחק "סטארקראפט".‬
‫- לאחר שש בש, שחמט וגו‬ ‫הבינה המלאכותית תיבחן בסטארקראפט 2 -‬
‫סטארקראפט הוא ממשחקי האסטרטגיה בזמן אמיתי‬ ‫הפופולריים בעולם.‬
‫- דיפ מיינד יכולה לנצח כמעט כל שחקן אנושי‬ ‫בסטארקראפט 2 -‬
‫"אלפא סטאר" התפרסמה כשניצחה אלופי עולם.‬
‫- אלפא סטאר לא עוצרת -‬
‫אלפא סטאר מוחצת את "אימורטל ארק".‬ ‫-אתה יודע מה? המקצוענים לא ינצחו בקרב הזה.‬
‫- ניצחון, אלפא סטאר‬ ‫הבינה המלאכותית בדרגת רב-אומן -‬
‫זה מגוחך.‬
‫- במשחק סטארקראפט 2 'מורכב להחריד' -‬
‫גיימרים מקצועיים אמרו,‬ ‫"לעולם לא אשתמש בטקטיקה הזו".‬
‫"לעולם לא אנסה את האסטרטגיה הזו.‬ ‫זה משהו לא אנושי".‬
‫וזה היה הרגע בו הבנתי הכול.‬
‫הבנתי שזה הזמן.‬
‫יש כאן טכנולוגיה חשובה‬ ‫והזדמנות לעשות שינוי.‬
‫הבעיות בקרבות בשטחים קטנים‬ ‫היו מוכרות לי בשל שירותי באריות הים,‬
‫אבל טייס F-18,‬ ‫שהיה אחד מחבריי הטובים, אמר לי,‬
‫"לטייסי קרב יש בעיה דומה.‬
‫"משבשים לנו את התקשורת.‬
‫"מספר האתרים‬ ‫מהם ניתן לירות נשק נ"ט הלך והתרבה,‬
‫"ואנו נמנעים מפעילות בגלל הסיכון הגדול".‬
‫דמיינו שהיה לנו מטוס קרב‬ ‫אשר מונחה על ידי בינה מלאכותית.‬
‫ברוכים הבאים לניסויי "אלפא דוג פייט".‬ ‫חצי הגמר הראשון יחל בעוד מספר דקות.‬
‫סוכנות DARPA‬ ‫לפרויקטים מחקריים מתקדמים עבור הצבא‬
‫בחנה את "אלפא גו" ו"אלפא סטאר"‬
‫וכך נולד הרעיון לקיים תחרות קרבות אוויר‬ ‫במסגרת "אלפא דוג פייט".‬
‫זה מה שהיית מצפה מטייס אנושי לעשות.‬ ‫-זה דומה לקרב אווירי בין טייסים אנושיים.‬
‫בקרב אווירי קלאסי,‬ ‫שני מטוסים נאבקים זה בזה.‬
‫אפשר לחשוב על קרב כזה‬ ‫כעל קרב אגרוף המתנהל בשמיים.‬
‫אולי אנשים צפו בסרט "אהבה בשחקים".‬
‫נוכל לברוח מהם?‬
‫לא מהטילים ומהתותחים שלהם.‬ ‫-אז זה קרב.‬
‫לרוב, שליטה טובה בקרבות אוויר‬ ‫מושגת לאחר שמונה או עשר שנות טיסה.‬
‫קשה מאוד לייצר בינה מלאכותית‬ ‫עבור אתגר מורכב כזה.‬
‫- ארלינגטון‬ ‫וירג'יניה -‬
‫הגישה הקודמת לקרבות אוויר אוטונומיים‬ ‫הייתה בלתי יציבה.‬
‫ופשוט הבנו‬ ‫שלמידת מכונה היא הדרך לפתור את הבעיה.‬
‫בתחילה, הבינה המלאכותית‬ ‫לא הבינה דבר בעולם אליו הוצנחה.‬
‫היא לא ידעה שהיא עפה‬ ‫ולא ידעה מהם קרבות אוויר.‬
‫היא לא הכירה את מטוס ה-F-16.‬
‫היא רק ידעה באלו פעולות תוכל לנקוט‬ ‫ואז בחנה אותן באקראי.‬
‫- ברט דרסי‬ ‫מנהל מוצר, שילד AI -‬
‫המטוס הכחול עבר אימונים קצרים בלבד.‬
‫ניתן לראות שהוא מתנועע למטה ולמעלה,‬
‫הטיסה שלו לא יציבה‬ ‫ובדרך כלל הוא מתרחק מהיריב.‬
‫כשהקרב מתקדם,‬
‫נוכל לראות שהמטוס הכחול מגבש תוכנית.‬
‫הוא מתמקם בעמדה נוחה יותר לירי.‬
‫מדי פעם, אלגוריתם הלמידה אמר,‬
‫"קח עוגייה. זה היה טוב. תמשיך ככה".‬
‫נוכל לנצל את המחשוב החזק שברשותנו‬ ‫ונאמן את הכלים שלנו פעמים רבות,‬
‫במקביל.‬
‫זה דומה לקבוצת כדורסל.‬
‫במקום לשחק מול אותה קבוצה שוב ושוב,‬
‫אנחנו מסתובבים בעולם,‬ ‫משחקים מול 512 קבוצות,‬
‫והכול במקביל.‬
‫אפשר להשתפר מאוד ומהר מאוד.‬
‫יכולנו להפעיל את הסימולציה‬ ‫ברציפות במשך שבוע,‬
‫וכך להשיג ניסיון השווה ל-30 שנות טיסה‬ ‫בעשרה חודשים.‬
‫התחלנו עם מטוס שבקושי הצליח לתפקד‬ ‫והגענו למתנקש עם קרח בוורידים.‬
‫באימונים התחרינו רק בבינה מלאכותית אחרת.‬
‫אבל המטרה הסופית‬ ‫הייתה תחרות מול טייס אנושי.‬
‫שמי מייק בניטז,‬
‫אני לוטננט קולונל בחיל האוויר האמריקני.‬
‫אני משרת בחיל כ-25 שנה.‬
‫השתתפתי ב-250 קרבות‬
‫ואני בוגר בית הספר לחימוש‬ ‫של חיל האוויר, הדומה להכשרת ה"טופ גאן".‬
‫מעולם לא טסתי מול בינה מלאכותית.‬
‫אני מתרגש לבדוק אם אצליח.‬
‫אנחנו בגובה 6,000 רגל בקרב ראש בראש.‬
‫טוב, מתחילים.‬
‫הוא נעלם.‬
‫כן, זה מאוד מעניין.‬
‫מת.‬ ‫-הוא תפס אותו. ניצחון מושלם.‬
‫טוב, הסיבוב השני.‬
‫הבינה המלאכותית מתמרנת בדייקנות כזו‬
‫עד שאני לא מצליח לעמוד בקצב.‬
‫הם בטווח קרב.‬
‫עכשיו אתה מת.‬
‫הוא תפס אותו.‬
‫הוא תפס אותי.‬
‫הבינה המלאכותית לא מפחדת.‬
‫בתא הטייס מעורב גורם רגשי‬ ‫החסר לבינה המלאכותית.‬
‫אחת האסטרטגיות המעניינות ביותר‬ ‫שפיתחה הבינה המלאכותית‬
‫נגעה לירי חזיתי.‬
‫בדרך כלל, בני האדם ינסו לירות מאחור,‬
‫מכיוון שכך קשה לאויב להתחמק ממך.‬
‫הם לא מנסים לתקוף חזיתית,‬ ‫מכיוון שאז הדבר דומה למשחק עצבים.‬
‫כשאנו טסים זה לעבר זה, מרחק של 3,000 רגל‬ ‫מצטמצם למרחק של 500 רגל בהרף עין.‬
‫קיים סיכון גבוה להתנגשות‬ ‫ולכן בני האדם לא מנסים זאת.‬
‫הבינה המלאכותית תפחד למות‬ ‫רק אם יוגדר לה לפחד למות.‬
‫נראה שאני נלחם בטייס אנושי,‬
‫אבל זה טייס שמזלזל לחלוטין בביטחונו.‬
‫הוא לא ישרוד את הקרב האחרון.‬
‫אין לו מספיק זמן.‬
‫לילה טוב.‬
‫אני מת.‬
‫זו חוויה שגורמת לי להכיר בכוחי,‬ ‫ולהבין שאיני הבחירה הטובה ביותר למשימה הזו‬
‫ושייתכן שהדבר הזה יחליף אותי יום אחד.‬
‫נגדיר 6,000 רגל שוב.‬
‫וסטייה של אלף.‬
‫הבינה המלאכותית המטיסה את המטוס הזה‬
‫מנצחת ללא הרף ושולטת בקרב.‬
‫היא לא מסתפקת רק בניצחון בהפרש גדול.‬
‫העוצמה שלה גורמת לנו לומר,‬ ‫"טוב, איך מוסיפים את זה למטוס שלנו?"‬
‫מציאותי לחשוב שהבינה המלאכותית‬ ‫תטיס מטוסי F-16‬
‫והדבר לא יקרה בעתיד הרחוק.‬
‫אם תתחרה בטייס מבוסס בינה מלאכותית‬ ‫אשר שיעורי הצלחתו הם 99.99999%‬
‫אין לך סיכוי.‬
‫כשאני חושב על טייס בלתי מנוצח אחד‬ ‫המבוסס על בינה מלאכותית,‬
‫אני מתחיל לחשוב על קבוצה בת 50, או 100,‬
‫או אלף טייסי בינה מלאכותית‬ ‫ולהישגים אליהם יגיעו.‬
‫נחיל הוא צוות של מטוסים בעלי בינה עילאית‬ ‫שפועלים יחד.‬
‫הם חולקים מידע בנוגע לפעולותיהם‬ ‫ובכל הנוגע לפתרון בעיות.‬
‫נחילי מטוסים יוכלו לשנות את התמונה לחלוטין‬
‫ויכולותיהם יביאו למהפכה‬ ‫בקרב צבאנו ולבעלות בריתנו.‬
‫- לינקולן‬ ‫נברסקה -‬
‫המטרה זוהתה והרחפנים עוקבים אחריה.‬
‫טוב, הנה הנחיתה.‬
‫אנו חוקרים את פעולת כלי הטיס כנחיל‬ ‫ומטרתו הראשית היא לפרוס כמות רחפנים גדולה‬
‫מעל אזור שקשה או מסוכן להגיע אליו.‬
‫- ג'סטין ברדלי‬ ‫מעבדת "נימבוס" -‬
‫מעבדת המחקר הצבאית תומכת במחקר הזה.‬
‫אם נרצה לדעת מה נמצא במקום מסוים,‬
‫וניתקל בקשיים בהגעה לאותו מקום,‬ ‫שעשוי להיות גם גדול מאוד,‬
‫שיגור נחיל תוכל להיות דרך טבעית מאוד‬ ‫כדי להגדיל את טווחם של כלי טיס יחידים‬
‫וכדי לאסוף מודיעין חיוני למשימה.‬
‫כעת, במסגרת פריסת הנחיל שלנו,‬
‫הגדרנו פקודה בודדת שעיקרה איתור המטרה.‬
‫מרגע זה, הרחפנים פועלים בעצמם.‬
‫הבינה המלאכותית‬
‫מאפשרת לרובוטים לנוע כנחיל באופן מבוזר.‬
‫בנחילים בטבע,‬
‫אין בוס, אין חיה ראשית שמנחה את האחרות.‬
‫ההתנהגות שמפגינה כל חיה‬
‫מצייתת למספר חוקים פשוטים.‬
‫ומכאן נובעת‬ ‫ההתנהגות הקולקטיבית שאנו רואים.‬
‫הנחילים בטבע מדהימים‬ ‫ביכולתם לנוע בצורה מלאת חן כל כך.‬
‫נראה שהם נועדו להיות חלק מהקבוצה הזו.‬
‫באופן אידיאלי,‬ ‫זה מה שנרצה לראות בנחיל הרחפנים שלנו,‬
‫התנהגות הדומה לנחילים בטבע,‬
‫והחלטות המתקבלות באופן קולקטיבי, כקבוצה.‬
‫דבר נוסף אשר היווה לנו מקור השראה‬ ‫טמון באמינות ובגמישות של הנחיל.‬
‫הנחיל לא ייעצר‬
‫אם חיה אחת לא תעשה את מה שעליה לעשות.‬
‫אפילו אם אחד הכלים שלנו ייפול או ייכשל,‬
‫גם אם לא יוכל לבצע את משימתו,‬
‫הנחיל ימשיך הלאה.‬
‫ובסופו של דבר, זה מה שנרצה לראות.‬
‫בתרחישי קרב,‬ ‫קיים צורך לזהות את מטוסי האויב,‬
‫ובעבר, נזקקנו למפעיל שישלוט ברובוט אחד.‬
‫ככל שהאוטונומיה מתרחבת,‬
‫אני מקווה שנראה מספר גדול של רובוטים‬
‫הנשלט בידי קבוצה קטנה מאוד של אנשים.‬
‫בסופו של דבר,‬ ‫לא מן הנמנע שנוכל לפרוס אלף כלי טיס‬
‫מכיוון שכל אחד מהכלים שלנו‬ ‫יוכל לפעול עצמאית‬
‫והשמיים הם הגבול.‬
‫נוכל להגדיל את הלמידה שלנו…‬
‫במשך זמן מה,‬ ‫ערכנו סימולציות של פעולת הנחיל‬
‫והגיע הזמן לעבור לכלי טיס בעולם האמיתי.‬
‫אנחנו מצפים‬ ‫להפעיל שלושה רובוטים במקביל ברשת‬
‫ואז להתחיל להוסיף עוד יכולות.‬
‫אנחנו רוצים לבחון את הבינה בכלים קטנים‬
‫אבל נרצה לקחת מספר רעיונות‬ ‫וליישם אותם גם במערכות גדולות‬
‫כמו מטוס קרב.‬
‫לעיתים קרובות אנחנו שואלים,‬
‫"איך ניתן לפלוגה עוצמה קרבית של גדוד?"‬
‫איך ניתן לגדוד עוצמה קרבית של חטיבה?‬
‫הנחילים יכולים לעשות זאת.‬
‫מי שיפצח את עוצמת הנחיל,‬
‫יוכל ליצור כוח התרעה אסטרטגי חדש‬
‫כנגד תוקפנות צבאית.‬
‫אני מתרגש לחשוב‬
‫על מספר הצעירים והצעירות שנוכל להציל‬ ‫אם נעשה זאת נכון.‬
‫האבדות שנספוג יהיו בדמות מכונות‬
‫ולא יתבטאו בחיי אדם.‬
‫יש הטוענים שכלי נשק אוטונומיים‬ ‫יהפכו את הלוחמה למדויקת ולאנושית יותר,‬
‫אבל האמת שקשה לחזות מבעוד מועד‬ ‫כיצד הנשקים האוטונומיים ישנו את שדה הקרב.‬
‫הדבר דומה להמצאת מקלע הגאטלינג.‬
‫- מקלע גאטלינג‬ ‫נרשם כפטנט 9 במאי 1865 -‬
‫ריצ'רד גאטלינג היה ממציא‬
‫והוא ראה חיילים פצועים‬ ‫שחזרו ממלחמת האזרחים בארה"ב‬
‫ורצה למצוא דרכים‬ ‫להפוך את הלוחמה לאנושית יותר.‬
‫הוא רצה להפחית‬ ‫את מספר החיילים שייהרגו במלחמה‬
‫בכך שיפחית את מספר החיילים הלוחמים.‬
‫לכן הוא המציא את מקלע גאטלינג,‬ ‫מכונת ירייה אוטומטית המופעלת בידית‬
‫שהפכה את תהליך הירי לאוטומטי.‬
‫המקלע הגדיל פי מאה לערך‬ ‫את כוח האש של החיילים.‬
‫לעיתים קרובות,‬
‫הניסיון להפוך את הלוחמה‬ ‫למדויקת ואנושית יותר,‬
‫עלול להביא לתוצאה ההפוכה.‬
‫חשבו על השלכות תקיפתו‬ ‫של כטב"מ תועה אחד באזור חקלאי‬
‫אשר משלהב את האוכלוסייה המקומית‬ ‫כנגד ארה"ב וכנגד הממשל המקומי,‬
‫אלה שאמורים להיות "הטובים".‬
‫עכשיו הכפילו זאת באלף.‬
‫יצירת מערכת נשק זולה, אשר ניתן להרחיבה‬
‫ואינה דורשת מפעילים אנושיים‬
‫משנה באופן קיצוני את גבולות הסכסוך.‬
‫אני לא מצליחה לישון כשאני חושבת על עולם‬ ‫בו מלחמה מתנהלת בכל עבר.‬
‫עולם בו כבר לא נוטרד‬ ‫מהעלויות הכלכליות והאנושיות של המלחמה‬
‫מכיוון שנהיה מנותקים כל כך מ…‬
‫אובדן חיי הקורבנות.‬
‫כל זה רודף אותי.‬
‫נזקקתי לדוגמה אחת‬ ‫המייצגת שימוש פסול בבינה מלאכותית.‬
‫התוצאות הבלתי צפויות‬ ‫של אותו ניסוי מחשבתי פשוט‬
‫הרחיקו לכת מדי.‬
‫- בינה מלאכותית במחקר תרופתי:‬ ‫הימנעות מנזק גדול מתועלת -‬
‫- מי אנחנו: "תרופות משותפות" -‬
‫כשהצגתי את המולקולות הרעילות‬ ‫אותן יצרה הבינה המלאכותית‬
‫הקהל היה בהלם.‬
‫- מולקולות חדשות, קטלניות מוגברת -‬
‫לאחר מכן נדרשנו להחליט‬ ‫האם לפרסם את המידע הזה.‬
‫- קפאין -‬
‫מצד אחד רצינו להזהיר את העולם מיכולות כאלה‬
‫אבל מצד שני, לא רצינו לתת לאף אחד רעיונות.‬
‫החלטנו ששווה לפרסם את הממצאים‬
‫כדי שנוכל אולי למצוא דרכים‬ ‫למנוע את השימוש הפסול בבינה מלאכותית כזו,‬
‫לפני ששימוש כזה יתרחש.‬
‫- דו-שימושיות‬ ‫בחקר תרופות מבוסס בינה מלאכותית -‬
‫- כיצד ניתן לנצל‬ ‫בינה מלאכותית המיועדת לחקר תרופות -‬
‫- ליצירת נשק ביוכימי חדש -‬
‫התגובה הציבורית הייתה מזעזעת.‬
‫יכולנו לראות את נתוני הפרסום‬ ‫וכמה אנשים עיינו בו.‬
‫בהנחה שהתמזל מזלנו,‬ ‫המאמרים הרגילים שפרסמנו זכו ל…‬
‫כמה אלפי אנשים‬ ‫מביטים במאמר ממוצע פרי עטנו‬
‫לאורך תקופה של שנה או כמה שנים.‬
‫במשך שבוע, 10,000 איש קראו את המאמר.‬
‫ואז 20, 30 ו-40 אלף.‬
‫אז הגענו ל-10,000 קוראים ביום.‬
‫- איך לתמרן תוכנה למחקר תרופתי‬ ‫לייצור נשק כימי -‬
‫פורסמנו ב"אקונומיסט" וב"פייננשל טיימס".‬
‫- הצד האפל של בינת מחקר רפואי‬ ‫רדיולאב: 40 אלף מתכונים לרצח -‬
‫רדיולאב יצרו איתנו קשר. שמעתי עליהם!‬
‫אבל אז התגובות יצאו משליטה.‬
‫- מחריד -‬
‫הסתכלנו בציוצים שהיו בסגנון, "אלוהים…"‬
‫- הו. לי. שיט. -‬
‫"אין דבר גרוע ממה שהם עשו.‬ ‫למה הם עשו את זה?"‬
‫- מהדברים המטרידים שקראתי -‬
‫- החנונים האלה יהרגו את כולנו -‬
‫ואז קיבלנו הזמנה לה לא ציפינו.‬
‫בבית הלבן התקיים דיון נרחב במאמר‬
‫והם רצו לדבר איתנו בדחיפות.‬
‫אין ספק, השיחה עם אנשים בדרגים כה בכירים‬ ‫הייתה כבוד עצום.‬
‫אבל אז חשבנו,‬
‫"אלוהים, זה הבית הלבן. הבוס".‬
‫היה עלינו להרכיב מאגרי נתונים בקוד פתוח…‬
‫בתוך שש שעות,‬ ‫המודל הצליח לייצר מעל ל-40 אלף…‬
‫הם שאלו אותנו‬ ‫בנוגע לכוח המחשוב הדרוש למטרה זו‬
‫וסיפרנו להם שלא צריך שום דבר מיוחד.‬
‫אפשר להשתמש במחשב מק ממוצע בן שש.‬
‫וזה זיעזע אותם.‬
‫האחראים שהופקדו על הבנת הלוחמה הכימית,‬ ‫כמו גם הסוכנויות הממשלתיות,‬
‫לא היו מודעים לקיומו של פוטנציאל כזה.‬
‫יש לנו ספר בישול לנשק כימי‬
‫ואם הוא יגיע לגורם בעל כוונות זדון‬
‫הדבר יביא לאסון נורא.‬
‫אנשים צריכים לשבת ולהקשיב‬ ‫ועלינו לפעול להסדרת השימוש בטכנולוגיה הזו…‬
‫- המודל נטען! -‬
‫או להגביל אותה‬ ‫באופן שלא יאפשר את ניצולה לרעה.‬
‫בגלל שפוטנציאל הקטלניות כאן…‬
‫מבעית.‬
‫שאלות אתיות בנוגע לשימוש בבינה מלאכותית‬ ‫מעסיקות בעיקר את החברה‬
‫ולא את המהנדסים,‬ ‫או את מפתחי הטכנולוגיות והמתמטיקאים.‬
‫כל טכנולוגיה וכל חידוש שנציג‬
‫כפופים לדרך בה החברה תרצה להשתמש בהם.‬
‫- מחלקת ההגנה‬ ‫מאמצת קוד אתי לבינה מלאכותית -‬
‫נכון לעכשיו, במחלקת ההגנה אומרים,‬ ‫"רק גורם אנושי יחליט אם להרוג בשדה הקרב".‬
‫- המערכות האוטונומיות החמושות בנשק קטלני‬ ‫יופעלו על ידי גורם אנושי באופן בלעדי -‬
‫מכונה תוכל לבצע את ההרג,‬
‫אבל רק בהנחיית מפעיל אנושי‬
‫ואיני מתאר לעצמי שמצב זה ישתנה.‬
‫מבטיחים לנו שהטכנולוגיה הזו תהיה בטוחה.‬
‫- מסמכי פנטגון סודיים מצביעים על כישלון‬ ‫בתקיפות אוויר קטלניות -‬
‫אך לצבא ארה"ב אין מוניטין מוצלח‬ ‫בלוחמת כטב"מים.‬
‫- ארה"ב הסתירה תקיפה אווירית‬ ‫שקטלה עשרות אזרחים סוריים -‬
‫ביחס למהימנות הצבא האמריקני‬ ‫בשילוב בינה מלאכותית,‬
‫ניתן לומר שביצועי העבר מדברים בעד עצמם.‬
‫מדיניות מחלקת ההגנה האמריקנית‬ ‫בכל הקשור לשימוש בנשק אוטונומי‬
‫אינה אוסרת על מערכת נשק כלשהי.‬
‫אפילו אם הצבאות‬ ‫לא ירצו מערכות נשק אוטונומיות‬
‫נוכל לראות מצב‬ ‫בו צבאות יפקידו החלטות רבות בידי מכונות‬
‫כדי לעמוד בקצב של יריביהם.‬
‫הדבר עשוי להוביל צבאות‬ ‫לביצוע החלטות אוטומטיות‬
‫שייתכן שיהיו בלתי רצויות.‬
‫ולדימיר פוטין אמר,‬
‫"מי שיוביל במרוץ הבינה המלאכותית,‬ ‫ישלוט בעולם".‬
‫הנשיא שי הבהיר‬
‫שהבינה המלאכותית היא מהטכנולוגיות המובילות‬ ‫שסין רוצה לשלוט בהן.‬
‫אין ספק שאנו נתונים בתחרות טכנולוגית.‬
‫ברור שיתקיים דיון באמצעי בטיחות‬
‫ואני מאמין שזה הדבר הנכון לעשות.‬
‫אך מתקיים מרוץ חימוש אמיתי‬ ‫בדרך להשגת עליונות בבינה המלאכותית.‬
‫ויריבינו בסין, ברוסיה או באיראן,‬
‫לא יקדישו מחשבה‬ ‫למדיניות הבינה המלאכותית שלנו.‬
‫מתקיימות שיחות רבות הרבה יותר‬ ‫בנוגע למדיניות השימוש בבינה המלאכותית,‬
‫אך הייתי רוצה שיותר מנהיגים ישוחחו וישאלו,‬ ‫"כמה מהר נוכל לבנות את הדבר הזה?"‬
‫"נקצה את כל המשאבים הדרושים ונבנה את זה".‬
‫- וושינגטון די. סי -‬
‫- קרן צבא ארה"ב‬ ‫המפגש והתצוגה השנתית -‬
‫- צבא ארה"ב -‬
‫אנו נמצאים בתערוכה הגדולה ביותר‬ ‫של סוכנויות הצבא האמריקני.‬
‫בתערוכה זו מתרכזים כל הספקים‬ ‫אשר מוכרים מוצרים או טכנולוגיות לצבא.‬
‫בבסיס חיל האוויר "טינדל"‬
‫נמצאים ארבעה מהרובוטים שלנו‬ ‫אשר מפטרלים בבסיס ללא הפסקה.‬
‫נוכל להוסיף לרובוטים מצלמות, חיישנים,‬ ‫כל דבר שתזדקקו לו. זרועות מתכווננות…‬
‫כל הדרוש ללקוח לביצוע משימתו.‬
‫- מייקל סבהאן‬ ‫"גוסט רובוטיקס" -‬
‫מה יקרה אם האויב שלך ישתמש בבינה מלאכותית,‬ ‫בנשק שחושב ומגיב מהר מבן אנוש?‬
‫- אורן פולג‬ ‫התעשייה האווירית -‬
‫צריך להתכונן לזה.‬
‫אנו מאמנים את המערכות שלנו‬ ‫לאסוף מודיעין על האויב‬
‫ומטפלים במטרות האויב‬ ‫כשמפעילים אנושיים מפקחים על שרשרת ההרג.‬
‫- שילד AI -‬
‫שלום, הגנרל. שמי ברנדון צנג. טוב, תודה.‬ ‫-מה שלומך?‬
‫אקדים ואומר שאנו גדולי המשקיעים‬ ‫בטייס מבוסס בינה מלאכותית.‬
‫לטייס הבינה המלאכותית שלנו קוראים "כוורת"‬ ‫ויישמנו אותו ברחפן שלנו, נובה.‬
‫הוא נכנס למבנים וסורק אותם‬ ‫לפני כניסת הכוחות המיוחדים וחיילי החי"ר.‬
‫אנו מטמיעים את מערכת "כוורת" ב-V-BAT,‬ ‫ואני חושב על פריסת מאות צוותים כאלה.‬
‫בין אם מדובר במצרי טאיוואן או באוקראינה,‬ ‫כך נוכל להרתיע את אויבינו.‬
‫זה מרגש אותי.‬
‫טוב. תודה.‬ ‫-תודה לך, אדוני הגנרל.‬
‫טייסים מבוססי בינה מלאכותית‬ ‫צריכים להיות נפוצים מאוד עד 2025 או 2030.‬
‫צבאות רבים בעולם‬ ‫ימהרו לאמץ את הטכנולוגיה הזו.‬
‫מה תעשה עם הצבא הרומני ואיש הכטב"מים שלהם?‬ ‫-…היי-טק בצבא.‬
‫- מייצרים את טייס הבינה המלאכותית‬ ‫הטוב בעולם -‬
‫עד כה, השקענו כחצי מיליארד דולר‬ ‫ביצירת טייס בינה מלאכותית.‬
‫בחמש השנים הבאות, נשקיע עוד מיליארד דולר.‬
‫זו סיבה עיקרית לכך שאנו זוכים במכרזים‬ ‫מטעם מחלקת ההגנה.‬
‫נחמד.‬
‫כאילו, זה מרשים. הצלחתם לחמש את המערכת?‬
‫היא עדיין לא חמושה.‬
‫עדיין לא. אבל בעתיד נחמש אותה.‬ ‫-בעתיד.‬
‫לקוחותינו רואים במערכת הזו כמשאית.‬ ‫בעינינו, זו משאית אינטליגנטית‬
‫שיכולה לעשות דברים רבים.‬
‫תודה, חבר.‬ ‫-כן.‬
‫אני אמשיך להתקדם מולך.‬
‫אם תחזרו בעוד עשר שנים‬
‫תראו שהבינה המלאכותית והאוטונומיה‬ ‫שולטות בשוק.‬
‫כוחות מבוססים בינה מלאכותית ואוטונומיה‬
‫ישלטו, ימחצו‬ ‫וישמידו כוחות ללא טכנולוגיה זו.‬
‫אפשר יהיה להקביל את הדבר‬ ‫לפרשים כנגד טנקים‬
‫לחיילים חמושים בחרבות כנגד מכונות ירייה.‬
‫הקרב אפילו לא יהיה צמוד.‬
‫הטכנולוגיה הזו תהיה בשימוש בכל פינה,‬ ‫היא תשפיע על כל היבטי הלחימה,‬
‫ברמה הטקטית,‬
‫ברמה האסטרטגית,‬
‫הטכנולוגיה הזו תפעל במהירות כזו‬ ‫שלא ניתן לדמיין כיום.‬
‫המפקדים בשטח מוצפים גם כך במידע.‬
‫הם נחשפים לתמונות לוויין,‬ ‫לצילומי רחפנים ולמידע מחיישנים.‬
‫אחד הדברים שהבינה המלאכותית תוכל לעשות‬ ‫היא לסייע למפקד להבין את המתרחש מהר יותר,‬
‫ולשאול, "מהן ההחלטות שעליי לקחת?"‬
‫הבינה המלאכותית תתחשב בכל הגורמים‬ ‫אשר קובעים את דרך ניהול המלחמה‬
‫וביכולתה יהיה להציע אסטרטגיות…‬
‫ולתת המלצות כדי לנצח בקרב.‬
‫- סאפוק‬ ‫וירג'יניה -‬
‫- מרכז החדשנות‬ ‫לוקהיד מרטין -‬
‫אנו, בלוקהיד מרטין,‬ ‫בדומה ללקוחותינו במחלקת ההגנה,‬
‫רואים בבינה המלאכותית‬ ‫כטכנולגיית מפתח לפיקוד ושליטה.‬
‫קצב הפריסה‬ ‫מתנהל במהירות ממוצעת של 60 ס"מ בשנייה.‬
‫שטח הגזרה הוא כ-2800 דונם.‬
‫בכל הקשר להגנה,‬ ‫ערפל המלחמה הוא מציאותי מאוד עבורנו,‬
‫אך הדבר משותף גם לשהייה בשטח‬ ‫וקבלת החלטות בנוגע לשרפות יער.‬
‫השרפה בוושבורן נמצאת צפונית לעיר ומונה.‬
‫יש לקבל החלטות גם על סמך מידע חלקי.‬
‫איך הבינה המלאכותית‬ ‫תוכל לסייע לנו לפוגג את ערפל המלחמה?‬
‫שרפות יער הן פרועות.‬
‫הן מורכבות מאוד‬
‫ואנו מנסים לנצל את הבינה המלאכותית‬ ‫כדי לסייע בתהליך קבלת ההחלטות.‬
‫"מנהל המשימות הקוגניטיבי"‬
‫הוא תוכנה שאנו מפתחים‬ ‫אשר מצלמת סרטוני אינפרא אדום מהאוויר‬
‫ואז מעבדת אותם‬ ‫באמצעות אלגוריתמים מבוססי בינה מלאכותית‬
‫מתוך מטרה לחזות את התפתחות השרפה.‬
‫בעתיד, מנהל המשימות הקוגניטיבי‬ ‫ישתמש בסימולציות,‬
‫ידמה תרחישים במעל לאלף מחזורים‬ ‫כדי להמליץ על הדרך היעילה ביותר…‬
‫- דן לורדן‬ ‫הטמעת בינה מלאכותית, לוקהיד מרטין -‬
‫לשימוש ופריסת משאבים‬ ‫לדיכוי מוקדי השרפה המתועדפים.‬
‫המערכת תאמר,‬ ‫"בצעו כאן כיבוי מהאוויר ממסוקי פיירהוק.‬
‫"פרסו יחידות קרקעיות המפנות סבך,‬
‫"הציבו כבאים אשר מכבים שרפות בצינור‬
‫והביאו אותם לאזורי העדיפות".‬
‫ההחלטות האלה יתקבלו מהר יותר‬
‫וביעילות רבה יותר.‬
‫בעינינו, הבינה המלאכותית‬ ‫תאפשר למפעיליה האנושיים‬
‫להצליח להתמודד עם סביבה המשתנה ללא הרף.‬
‫וישנם מספר קווי דמיון‬
‫המקבילים לתפקוד ההגנתי‬ ‫המוכר לנו בלוקהיד מרטין.‬
‫הצבא פסק לעסוק בשימוש שטחי בבינה מלאכותית,‬ ‫המתמצה ביישומה במערכות נשק בודדות‬
‫ובבחירות מטרה ובהחלטה להרוג.‬
‫הצבא דן בהטמעת הבינה המלאכותית‬ ‫במבנה ההיררכי המקבל החלטות בצבא.‬
‫לצבא יש פרויקט גדול בשם "פרויקט ההתכנסות".‬
‫לצי יש פרויקט בשם "אוברמאץ'".‬
‫ולחיל האוויר יש מערכת ניהול קרב מתקדמת.‬
‫במחלקת ההגנה שואלים,‬
‫"איך נחבר הכול יחד‬
‫"כדי שנוכל לפעול מהר יותר מיריבינו‬
‫"ולהשיג יתרון משמעותי?"‬
‫מנהל קרב בינה מלאכותית יהיה גנרל בכיר‬
‫אשר יופקד על הקרב.‬
‫הוא יסייע במתן פקודות לכוחות גדולים,‬
‫בתיאום פעולות כלל כלי הנשק בשטח,‬
‫ויעשה זאת במהירות על-אנושית.‬
‫ב-70 השנים האחרונות‬
‫בנינו את הצבא המתוחכם ביותר בכדור הארץ‬
‫וכעת עלינו להחליט‬ ‫האם להעביר את השליטה בתשתית הזו‬
‫לשליטת אלגוריתם, לתוכנה.‬
‫השלכות ההחלטה הזו‬
‫עשויות להוציא לפועל‬ ‫את מלוא הכלים בארסנל הצבאי שלנו.‬
‫זו לא הירושימה אחת, אלא מאות.‬
‫עלינו לפעול עכשיו‬
‫בגלל שחלון ההזדמנויות לשלוט בסיכון הזה‬ ‫נסגר במהירות.‬
‫- האו"ם‬ ‫27 בספטמבר 2021 -‬
‫היום נדון באתגרים ביטחוניים בין-לאומיים‬ ‫אשר מציבות בפנינו הטכנולוגיות החדשות…‬
‫- יו"ר -‬
‫בתחום מערכות נשק אוטונומיות קטלניות.‬
‫מתקיימות שיחות באו"ם…‬
‫- מזכירה‬ ‫הפדרציה הרוסית -‬
‫בנוגע לאיום ממערכות נשק קטלני אוטונומי…‬
‫- ארה"ב -‬
‫וביחס לאיסור על מערכות‬ ‫בהן הבינה המלאכותית בוחרת מטרות אנושיות.‬
‫בקרב המומחים לטכנולוגיה‬ ‫קיימת הסכמה מלאה וברורה.‬
‫- מכון עתיד החיים -‬
‫אנו מתנגדים למערכות נשק אוטונומיות‬ ‫אשר רואות בבני האדם כמטרה.‬
‫מדינות דנו במערכות נשק קטלני אוטונומי‬ ‫ולאורך שנים שיתפו פעולה בדיונים…‬
‫- רובוטים קטלניים אינם מדע בדיוני.‬ ‫קריאות לאיסור שימוש בהם -‬
‫מדובר בתחושת ביטחון מקיף ומשותף.‬ ‫אך זה לא קל, כמובן.‬
‫- מזכ"ל האו"ם דוחק לפעול‬ ‫בנושא "הרובוטים הקטלניים" בוועידה בז'נבה -‬
‫מדינות מסוימות, ובמיוחד המעצמות הצבאיות‬ ‫רוצות להיות המתקדמות ביותר,‬
‫כך שיקדימו את יריבותיהן.‬
‫- רוסיה לאו"ם: אל תנסו למנוע מאיתנו‬ ‫לבנות רובוטים קטלניים -‬
‫הבעיה היא שדרושה הסכמה כללית‬ ‫לפני נקיטת פעולה. תמיד תימצא מדינה שתתנגד…‬
‫- גורמים בארה"ב‬ ‫דוחים את החרם על "רובוטים קטלניים" -‬
‫ובהחלט, ארה"ב ורוסיה הבהירו שאין בכוונתן‬ ‫לחתום על אמנה שתאסור נשקים אוטונומיים.‬
‫אם נחשוב על מספר האנשים‬ ‫העובדים כדי לשכלל את הבינה המלאכותית,‬
‫נקבל חדר צפוף מאוד.‬
‫כשאנו חושבים על חדר ובו אנשים הרוצים לוודא‬ ‫שהבינה המלאכותית בטוחה לשימוש,‬
‫אנו מקבלים חדר עם הרבה יותר מקום פנוי.‬
‫אבל אני גם אופטימית מאוד.‬
‫אני נזכרת בדברים כגון אמנת הנשק הביולוגי‬
‫אשר קרמה עור וגידים בעיצומה של המלחמה הקרה‬
‫למרות המתחים בין בריה"מ לארה"ב.‬
‫שתי המעצמות הבינו שפיתוח נשק ביולוגי‬
‫לא ישרת את האינטרסים שלהן‬
‫ולא ישרת את האינטרסים העולמיים.‬
‫מרוצי חימוש מתמקדים במהירות ולא בבטיחות.‬
‫אך לדעתי, חשוב לשים לכך שבשלב מסוים,‬
‫להתקדמות המהירה עשוי להיות מחיר גבוה מדי.‬
‫לא נוכל לפתח דברים שונים בתנאי מעבדה‬ ‫ולשחרר אותם לשוק‬
‫מבלי להקדיש מחשבה‬ ‫למקומות אליהם הם עלולים להגיע.‬
‫עלינו למנוע את הרגע הזה,‬ ‫בו מתרחשת הפריצה לפצצת האטום.‬
‫המרוץ לעליונות בבינה המלאכותית‬ ‫מונע משיקולים כבדי משקל.‬
‫לדעתי, אין רבים בציבור‬ ‫המעריכים את היציבות הגלובלית ממנה נהנינו‬
‫בשל עליונותו של הכוח הצבאי הצבאי שברשותנו‬ ‫ב-75 השנים האחרונות.‬
‫ולכן ארה"ב ובעלות בריתה‬ ‫צריכים בינה מלאכותית טובה יותר מהיריב.‬
‫במלחמה אין מקום שני.‬
‫סין שואפת להוביל את העולם‬ ‫בתחום הבינה המלאכותית עד ל-2030.‬
‫זהו מרוץ שיש אומרים שארה"ב מפסידה בו…‬
‫- אמריקה מפסידה במרוץ הבינה המלאכותית‬ ‫האם אמריקה מפנה את הבמה לסין? -‬
‫עליכם להאיץ את הטמעת הבינה המלאכותית‬ ‫להבטת יתרוננו הצבאי.‬
‫אנו אצים קדימה עם הטכנולוגיה הזו.‬
‫לדעתי, לא ברור כמה רחוק נגיע.‬
‫האם אנחנו נשלוט בטכנולוגיה‬ ‫או שהטכנולוגיה תשלוט בנו?‬
‫לא נקבל הזדמנות שנייה.‬
‫ברגע שהשד יצא מהבקבוק, אין דרך חזרה.‬
‫יהיה קשה מאוד להחזיר אותו לבקבוק.‬
‫אם לא נפעל עכשיו, יהיה מאוחר מדי.‬
‫אולי כבר מאוחר מדי.‬
‫תרגום כתוביות: גיא ברדך‬