עדכן אסטרטגי

אנו נמצאים בעידן בו שינויים טכנולוגיים מתחוללים בקצב המהיר ביותר בהיסטוריה ובתוך כך משפיעים על מדינות, חברות ופרטים. בשנים האחרונות התחוללה קפיצת מדרגה משמעותית בפיתוח של יישומי בינה מלאכותית והדבר נותן אותותיו בתחומי חיים רבים, וכן משפיע על הצורך לגבש מדיניות סביב סוגיות משמעותיות המושפעות מן הטכנולוגיה. הצורך הזה הוביל להופעתם של מספר רב של מחקרי מדיניות בהקשרי טכנולוגיות מחשוב ובינה מלאכותית. מחקרים אלו ניזונים מתפיסות וגישות שונות ועוסקים בשלל נושאים ותחומים המושפעים מהטכנולוגיה. בסקירה זו ביקשנו להתייחס אל אותם מחקרים ולבחון מה הן המגמות בתחום מחקרי המדיניות הקשורים לבינה מלאכותית בפתח שנת 2020.

בינה מלאכותית היא ענף של "מדעי המחשב" שהיו בתחילת דרכם ענף של לימודי מתמטיקה גבוהים. על פי אחת ההגדרות המקובלות, בינה מלאכותית היא "יכולת מתוכנתת לעבד מידע" (Launchbury, 2017). אולם הגדרה רווחת יותר היא "לגרום למכונה להתנהג בדרך שהייתה נחשבת לאינטליגנטית לו אדם התנהג כך" (Geist & Lohn, 2018). ליכולת הזו עשויות להיות השפעות מרחיקות לכת על מגוון רחב של תחומי חיים בהם תחומים אישיים, חברתיים, מדינתיים וכמובן בינלאומיים. עקב הבנה של חשיבות הטכנולוגיה והיכולות הטמונות בה, יש אף מי שטוען שלאחרונה ניטש "מרוץ חימוש" בתחום בין מדינות שונות, כשהמובילות הן ארה"ב וסין (Pecotic, 2019). למעשה נדמה כי מרבית המנהיגים בעולם כבר הבינו את חשיבות התחום והם מוכנים להשקיע בו על מנת לנסות לייצר או לשמר את ההובלה של אומותיהם בתחום ודרכו בזירה הבינלאומית.  דבר  זה ניכר למשל באמירה של נשיא רוסיה ולדימיר פוטין: "Whoever becomes the leader in this sphere, will become the ruler of the world" (Sayler & Hoadley, 2019).

לאחר תקופה ארוכה של מחסור במימון והתקדמות במחקר הבינה המלאכותית, המכונה "חורף בינה מלאכותית", אנו עדים לפריחה מחודשת של התחום, הודות להתפתחות בחקר מדעי המחשב ותמורות טכנולוגיות בחומרה ותוכנה במחשוב ותקשורת, וכן פריצת תחומים חדשים כמו מחשוב ענן ונתוני עתק (big data). לצד ההתקדמות בבינה מלאכותית, חלה התקדמות גם בתתי-תחומים הקשורים לנושא כמו רשתות נוירונים רבודות ולמידה עמוקה. כיום, למידה עמוקה נתפסת כמעט כשם נרדף לבינה מלאכותית, מאחר ויישומים רבים מתבססים על פרדיגמה זו. אלגוריתמים של למידה עמוקה מבקשים לחקות משימות אנושיות קוגניטיביות על ידי גזירת חוקים בנוגע אליהן, באמצעות ניתוח כמויות גדולות של נתונים בנושא. האלגוריתם "מתאמן" על מידע קיים ויוצר מודל סטטיסטי משלו בכדי שיוכל לבצע את אותה משימה בעתיד על נתונים חדשים שאינו מכיר (Sayler & Hoadley, 2019). הקושי שעולה משימוש בבינה מלאכותית נובע, בין היתר, מהעובדה שאלגוריתמים מבוססי בינה מלאכותית הם למעשה "קופסאות שחורות" – אנו לא יכולים לשחזר את התהליך המתרחש בתוכם ולהבין מדוע המליצו על החלטה מסוימת ולא על אחרת. מאפיין זה הוא בעייתי במקרים בהם רוצים לאפשר לבינה המלאכותית לבצע פעולות בעלות השלכות מרחיקות לכת, כמו למשל בתחום הביטחוני. הדבר הופך חשוב יותר ככל שיותר יישומים מבוססי בינה מלאכותית יוצאים מגבולות המחשב על "העולם האמיתי" כמו למשל רובוטיקה מתקדמת ומכוניות אוטונומיות.

במקביל להתפתחות של הטכנולוגיה עצמה ושל השימוש בה, הופכים נפוצים יותר ויותר גם פרסומים, דוחות ומחקרים אודות השפעת הבינה המלאכותית על מגוון רחב של תחומי חיים, כאשר חלק מן המחקרים הללו הם ביוזמת המדינות עצמן ומטרתם לסייע בגיבוש מדיניות בתחום. מטרת סקירה זו היא להציג לקוראים את המתרחש בתחום מחקר המדיניות בנוגע לבינה מלאכותית.

השפעתה העולמית של בינה מלאכותית

רשימת תחומי ההשפעה העולמית של הבינה המלאכותית, על פי המחקרים השונים שנעשים בתחום רק הולכת וגדלה. בתוכם ניתן למנות בין היתר את התחומים הבאים:

יחסים בינלאומיים וביטחון: להתפתחות הבינה המלאכותית השפעה על היחסים הבינלאומיים והביטחון העולמי, וכן על מרוצי חימוש ובקרת נשק. התפתחויות טכנולוגיות דוגמת מערכות נשק אוטונומיות מעוררות דיונים בערכאות בינלאומית לגבי השימוש בהן, והאופן בו הן עלולות לערער את היציבות בעולם או לפגוע בזכויות אדם (ענתבי, 2019). לכך מתווסף חשש נוסף, מהאפשרות שמערכות בינה מלאכותית יגדילו את הסיכוי לשימוש בנשק גרעיני, גם אם לא יהיו מחוברות ישירות למשגרים גרעיניים, בשל שינוי במאזן הכוחות שהבטיח את יציבות התחום עד כה (Geist & Lohn, 2018), וכן חשש מ"מלחמת יתר" ((hyper war, סיטואציה של סכסוך בו קבלת ההחלטות האנושית כמעט אינה קיימת ולכן התגובות הן מידיות ובעלות פוטנציאל הרסני (Sayler & Hoadley, 2019).

התפתחויות טכנולוגיות דוגמת מערכות נשק אוטונומיות מעוררות דיונים בערכאות בינלאומית לגבי השימוש בהן, והאופן בו הן עלולות לערער את היציבות בעולם או לפגוע בזכויות אדם.

סדר עולמי, מרוץ חימוש ומאזן כוחות: מדינות רבות בעולם הבינו את הפוטנציאל הגלום בבינה מלאכותית, והחלו לפעול לפיתוח התחום. בקרב המעצמות בולט מרוץ חימוש בין ארצות הברית וסין, שנאבקות על הבכורה בו. לשתי המדינות תכניות לאומיות לתחום, שמקיפות את הפן האזרחי והביטחוני. התקצוב המלא לתחום אינו חשוף לציבור בסין, אך הוא נאמד ב-150 מיליארד דולר, ובכך עוקף בהרבה את התקצוב האמריקאי, שעומד על כמה מיליארדי דולרים (Future of Life Institute, 2019; Hunter et. al, 2018). השתיים אינן המדינות היחידות שמשקיעות בתחום מתוך הבנה של חשיבותו, וניתן למנות מדינות נוספות כמו ישראל, רוסיה, צרפת וגרמניה שפועלות לקידומו. לאור היכולות האדירות שתחום זה מאפשר, המרוץ עשוי לערער את הסדר העולמי ולשנות את מאזן הכוחות הקיים. כמו כן הוא עשוי להגדיל אף יותר את הפער בין מדינות מפותחות למדינות נחשלות.

ביטחון סייבר: מערכות בינה מלאכותית כמו גם התלות בהן, כמו במערכות מחשוב אחרות, מגדילות את החשיפה של המשתמשים בהן למתקפות על ידי יריבים. בהקשר של ממד הסייבר; שימוש ביותר מערכות בינה מלאכותית, מגדיל את כמות ה"דברים שניתן לפרוץ אליהם" ("hackable things"), בהם גם מערכות שפריצה אליהן עלולה לגרום להשפעה קטלנית.

אתיקה ומוסר: במסגרת העיסוק בפן האתי והמוסרי בשימוש בבינה מלאכותית עולות שאלות לגבי תהליך קבלת ההחלטות של המערכות והשיקולים הערכיים שנלקחים בחשבון. קבלת ההחלטות של מערכות בינה מלאכותית עשויות להביא להטיה ואפליה של קבוצות בחברה. מעבר לכך, העיסוק האתי כולל התייחסות גם לשימוש בבינה מלאכותית לצרכים צבאיים, לסוגיית האחריות בשימוש, בטיחות בשימוש ואף לזכויות רובוטים בעתיד.

משטרים בכלל ודמוקרטיה בפרט: הבחירות לנשיאות בארצות הברית ב-2016 העלו לכותרות את השימוש בכלים שונים מבוססים בינה מלאכותית, להפצת מידע כוזב להשפעה על דעת הקהל ולהתערבות זרה בבחירות הפנימיות של מדינות. כלים אלו רק הולכים ומתפתחים ומעלים חשש בקרב מחוקקים ליציבות הדמוקרטיה (Horowitz, et al., 2018).  בין היתר עולה החשש עקב שימוש באלגוריתמים בתחום ה"דיפ פייק" המאפשרים זיופים ברמה גבוהה מאוד של תמונות, קבצי קול וידאו שעשויים להשפיע על דעת הקהל וליצור חוסר אמון במערכות השלטון.

בינה מלאכותית במחקר העולמי

בקרב מכוני המחקר המובילים בעולם, אשר רובם יושבים בארצות הברית, בהם CSIS (Center for Strategic and International Studies), מרכז ווילסון ורבים אחרים, בולטת התפיסה שיש להרחיב את המחקר בנוגע לתחום הטכנולוגי. אחד המכונים הראשונים שהשקיעו במחקר נרחב של הנושא בעשור החולף, הוא המרכז לביטחון אמריקאי חדש (Center for a New American Security). למרכז תכנית מחקר מקיפה בשם "יוזמת בינה מלאכותית וביטחון גלובלי",[1] המורכבת מצוות ובו גורמים מהתעשייה האזרחית, בכירי ממשל לשעבר ומומחים אקדמיים. מטרתה של התכנית לבחון מגוון סוגיות הקשורות להשפעת מהפכת הבינה המלאכותית על הביטחון הגלובלי, יחסי עוצמה בין מדינות, אופיים של קונפליקטים ויציבות משברים. התכנית בוחנת גם בטיחות של בינה מלאכותית ושיתופי פעולה בינלאומיים אפשריים (Center for a New American Security, 2019).

בקרב מכוני המחקר המובילים בעולם, אשר רובם יושבים בארצות הברית, בולטת התפיסה שיש להרחיב את המחקר בנוגע לתחום הטכנולוגי.

אחד הכותבים הבולטים ב-CNAS הוא פול שר (Paul Scharre). שר עוסק מזה זמן במחקר של מגוון טכנולוגיות מתקדמות. ספרו, "Army of None: Autonomous Weapons and the Future of War", שראה אור בשנת 2018, עוסק בהשלכות האפשריות של השימוש בבינה מלאכותית וכלים אוטונומיים בצבא. הספר מציג יתרונות רבים לתהליך טכנולוגי זה, אך גם מזהיר מהעברה מוחלטת של שיקול דעת וקבלת החלטות למכונה. הספר הוכתר כאחד מ"חמשת המומלצים" של ביל גייטס לשנת 2018, וגייטס כתב אודותיו כי "אני מסכים עם שר שעלינו להישמר מ'הפיתוי של המכונות – מהירותן, משלמותן לכאורה ודיוקן הקר'", וכי "אל לנו להשאיר לידי מתכננים צבאיים או לאנשים שכותבים תוכנה את הקביעה היכן לצייר את הגבולות. אנו זקוקים למומחים ואזרחים רבים ברחבי העולם שיתערבו בדיון החשוב הזה" (Gates, 2018).[2]

גם מכון המחקר ברוקינגס (Brookings) נכנס בשנתיים האחרונות למחקר של התחום ועקב השקעה רבה במגוון מחקרים, מצליח לסגור את הפער; מרבית המחקרים של ברוקינגס מבקשים לחבר בין בינה מלאכותית לתחומים אחרים עליהם היא משפיעה, כמו חינוך, כלכלה וכמובן ביטחון לאומי. למכון מספר תכניות העוסקות בבינה מלאכותית בפרט, וטכנולוגיות בכלל, בהן "יוזמת בינה מלאכותית וטכנולוגיות מפציעות"[3] סדרת מאמרים בנושא בינה מלאכותית פורסמה במכון תחת השם הכולל "תכנית אב לעתיד הבינה המלאכותית"[4], ולצדם פורסם באוגוסט 2018 ספר בשם "עתיד העבודה: רובוטים, בינה מלאכותית ואוטומציה",[5] הבוחן את השפעות המעבר מכלכלה תעשייתית לכלכלה דיגיטלית (West, 2018). בין הכותבים בנושא גם ראש המכון עצמו הגנרל ג'ון אלן, ששותף לכמה מן המחקרים הבולטים של מכונו בתחום.

מכון המחקר הוותיק RAND עוסק באופן מגוון ונרחב בנושא בינה מלאכותית. הפרסומים של מכון זה בנושא מתחילים עוד בשנות השישים של המאה הקודמת, אולם אז התמקדו בעיקר בטכנולוגיה עצמה. בשנים האחרונות החל חיבור לתחומים נוספים– חינוך, אתיקה, שוק התעסוקה, פרטיות, וביטחון לאומי. בין היתר ל-RAND פרויקט בשם "ביטחון 2040" שמטרתו להבין באופן מולטי דיסציפלינרי כיצד יושפע הביטחון בעתיד מטכנולוגיה, רעיונות ואנשים, וכיצד יש לעצב את מדיניות הביטחון בהתאם (RAND Corporation, 2019). המכון מציג תפיסה פסימית למדי בנוגע להשלכות הפוטנציאליות של טכנולוגיה זו ומרבה לעסוק בהיבטים השליליים שלה; החל מעיסוק בהטיות מובנות באלגוריתמים שעלולות להוביל לאפליה או פגיעה בשוויון (Yeung, 2018; Osoba, et al., 2019), דרך יכולתם של אינדיבידואלים לזרוע הרס בקנה מידה רחב (Clarke, 2018), ועד לחיבור בין בינה המלאכותית לגרעין, באופן שעלול להאיץ תגובה גרעינית, עקב האוטומציה של הנושא (Geist & Lohn, 2018).

RAND לא היו היחידים לחשוש מההשלכה האפשרית של טכנולוגיה זו על הביטחון. טרם העיסוק בבינה מלאכותית באופן ממוסד, עיקר תשומת הלב של גורמי מחקר רבים הופנתה למערכות נשק אוטונומיות. נושא זה נחקר לעומק מזה מספר שנים, הן ע"י גורמים באקדמיה ומכוני מחקר והן על ידי ארגוני זכויות אדם או יוזמות שונות הפועלות למען הגבלת הפיתוח והשימוש במערכות כאלו, המסוגלות לקבל החלטה על פגיעה קטלנית ללא מעורבות יד אדם, בהתבסס על החלטת אלגוריתם. מאז 2014 הנושא נדון גם באו"ם ולמעשה מלבד עיסוק שולי בלבד של האו"ם בבינה מלאכותית על היבטיה הרחבים, הוא כמעט עוסק אך ורק בנושא של מערכות נשק אוטונומיות, תחת האמנה להגבלת נשקים קונבנציונליים מסוימים (CCW). המשמעות של הדבר הזה בעייתית מאוד משום שמספר גדול של מחקרים מטעם גופים מכובדים, מצביע על האתגרים הטמונים בתחום הטכנולוגי הרחב ועל הצורך להסדירו בצורה בינלאומית. נוסף לגורמים שהוזכרו כאן בקצרה קיימים גורמים רבים נוספים שפרסמו בשנתיים האחרונות מגוון של פרסומים בתחום וחלקם מופיע ברשימה הפריטים המומלצים בסופה של סקירה זו.

יחד עם מכוני המחקר והאוניברסיטאות, ניכר שהנושא תפס גם את תשומת ליבם של מובילי דעת קהל ומקבלי החלטות בהווה ובעבר והם החלו לעסוק בו בדרכים שונות. החל מקיום פורומים שונים ועד לניירות עמדה המתפרסמים בנושא. בין הגורמים הבולטים ביניהם ניתן לציין את הנרי קיסינג'ר, לשעבר מזכיר המדינה האמריקאי, שמקים פגישות קבועות בנושא הבינה מלאכותית, כפי שחשף בראיון שנתן בנושא למכון הטכנולוגי במסצ'וסטס (MIT) במרץ 2019, ושם טען כי "...כמעט כל ההנחות שפיתחנו אז [לגבי בקרת נשק] יתהפכו או יאלצו לעבור שינויים בגלל הבינה המלאכותית" ( Massachusetts Institute of Technology, 2019).

בניסיון לייצר חלוקה כללית בין גישות שונות המובעות במחקר, נראה כי עיקר המחקרים המתקיימים בתחום נחלקים בין הגורמים הסבורים כי בבינה המלאכותית טמונות סכנות גדולות שצריך לפעול כדי למנוע או להיערך על מנת להתמודד עמן, לבין הגורמים הסבורים כי יש להשקיע בכיוונים מסוימים בתחום הבינה המלאכותית על מנת להוביל בתחרות הבינלאומית ועל מנת לשמר מעמד מדיני. מרבית המחקרים שהוזכרו כאן מייצגים גישות מאוזנות יחסית, כאשר בעיקר ברוקינגס, ו-CNAS מבקשים להציע גישות פרקטיות לכינון מדיניות שתעודד את התחום, תשפר את שיתוף הפעולה בין האקו-סיסטם לבין הצרכים הביטחוניים והממשל ותאפשר הובלה אמריקאית בתחום. ב-CNAS אף הגדילו ובחנו לעומק את המדיניות הסינית בתחום, כולל תרגומה, על מנת להבין לעומק את הפעולות שיש לנקוט במסגרת "מרוץ החימוש" שמאתגר כיום את ארה"ב.

בינה מלאכותית ומחקר מדיניות בישראל

במקביל להתרחשות הבינלאומית בתחום, גם בישראל החל מופיע בשנים האחרונות מחקר בנוגע להשפעות הבינה המלאכותית על תחומי חיים שונים וכן מחקר מונחה מדיניות. ניכר כי המחקר בישראל הוא צר יחסית ומפגר ביחס להובלה הישראלית בתחום הבינה המלאכותית, כפי שמתבטא למשל בכמות החברות והסטארט־אפים שעוסקים בנושא. [6] בין ראשוני מחקרי המדיניות ניתן לציין מחקר מטעם מרכז המחקר של הכנסת שנכתב בשנת 2018 לבקשת יו"ר ועדת המדע והטכנולוגיה דאז, ח"כ אורי מקלב. המסמך הקצר מתאר את התחום ומבקש להצביע על תחומים בהם נחוצה מדיניות בנושא (גולדשמידט, 2018). מחקר נוסף שפורסם בתחום, על ידי מוסד שמואל נאמן למחקרי מדיניות לאומית, בעקבות הזמנה של המועצה הלאומית למחקר ופיתוח (המלמו"פ), בוחן את הפעילות בישראל בתחומי הבינה המלאכותית, מדעי הנתונים והרובוטיקה חכמה. המחקר סוקר שורה ארוכה של תחומי השפעה וכן את מצב המחקר והפעילות הענפה בארץ בתחומים אלו (גץ, ואחרים, 2018).  בנוסף, מונתה ועדה בראשות פרופ' איציק בן ישראל ופרופ' אביתר מתניה על ידי ראש הממשלה, בנימין נתניהו, במטרה לגבש תכנית לאומית מקיפה לקידום הבינה המלאכותית בארץ ולהשפיע באמצעותה על נושאים כמו בריאות, פיננסים, תחבורה ותעשייה ולתרום לחוסן הכלכלי והביטחוני של ישראל (ברקוביץ' ושחף, 2018).

ניכר כי המחקר בישראל הוא צר יחסית ומפגר ביחס להובלה הישראלית בתחום הבינה המלאכותית, כפי שמתבטא למשל בכמות החברות והסטארט־אפים שעוסקים בנושא.

במכון למחקרי ביטחון לאומי INSS עוסקים מאז 2013 בתחום הבינה המלאכותית, בין היתר דרך מחקר של מערכות נשק אוטונומיות וסייבר. בשנת 2015 גם פרסם המכון מזכר ובמרכזו מחקר מקיף בנוגע לרובוטים צבאיים. חלק עיקרי במחקר עוסק באוטונומיות מבוססת בינה מלאכותית, בהשפעות של הדבר על שדה הקרב העתידי והכוחות הצבאיים שיפעלו בו, כמו גם המלצות למדיניות עבור ישראל. כיום, במקביל לחקר טכנולוגיות מתקדמות שונות, פועלת במכון תוכנית מחקר ייעודית לבחינת הקשר שבין בינה מלאכותית וביטחון לאומי. במסגרת המחקר פועלת ועדת מומחים מתחומי עיסוק שונים, המייעצת לכתיבתו של מזכר בנושא, שעתיד לראות אור בשנה הקרובה.

נראה אם-כן, כי ההתפתחות הטכנולוגית בתחום הבינה המלאכותית וטכנולוגיות מחשוב נוספות, מהווה כר-פורה לאתגרים והזדמנויות אשר מצריכים הערכות אישית, חברתית, מדינית ובינלאומית במגוון תחומים. אומנם, קיים קושי מובנה של מחקר, ומחקר מדיניות, להדביק את קצב ההתפתחות הטכנולוגי, בין היתר בגלל תקציבי העתק המושקעים בו על ידי חברות ומדינות. אולם, ניכר כי גורמים רבים ובתוכם האקדמיה ומכוני המחקר יכולים ומעוניינים לסייע הן לציבור הרחב והן למקבלי ההחלטות להבין את הטכנולוגיה והשפעותיה האפשריות על תחומי החיים השונים ולאפשר קבלת החלטות ועיצוב מדיניות, באופן שיטיב עם העתיד ויאפשר ליהנות מיתרונותיה.

המלצות לקריאה והרחבה

• Scharre, Paul. Army of None: Autonomous Weapons and the Future of War. First ed. 2018.
• Congressional Research Service. “Artificial Intelligence and National Security.” Congressional Research Service, 2019.
• Horowitz, Michael, Paul Scharre, Gregory C. Allen, Kara Frederick, Anthony Cho, and Edoardo Saravalle. “Artificial Intelligence and International Security.” Center for a New American Security, 2018. https://www.cnas.org/publications/reports/artificial-intelligence-and-international-security.
• Congressional Research Service. “Artificial Intelligence and National Security.” Congressional Research Service, 2019.
• Cummings, Mary L. “Artificial Intelligence and the Future of Warfare.” Chatham House, 2017. https://www.chathamhouse.org/sites/default/files/publications/research/2017-01-26-artificial-intelligence-future-warfare-cummings-final.pdf.

המלצות לצפייה

• הראיון של הנרי קיסינג'ר ב-MIT, " How the Enlightenment Ends: A Conversation": https://www.youtube.com/watch?v=nTyIeMuUavo
• ערוץ היוטיוב של לקס פרידמן, חוקר מ-MIT, שמראיין חוקרים שונים בנושא של בינה מלאכותית: https://www.youtube.com/user/lexfridman

אתרים מומלצים

• Artificial Intelligence for The American People, אתר ממשלתי אמריקאי להנגשת התחום לציבור: https://www.whitehouse.gov/ai/
• Future Of Life, ארגון שמטרתו לקדם ולתמוך ביוזמות ומחקר שיבטיחו בטיחות בשימוש בבינה מלאכותית, וצמצום הסיכונים בשימוש בטכנולוגיה: https://futureoflife.org/
• OpenAI, גוף שמטרתו להבטיח שפיתוח והטמעה של בינה מלאכותית כללית יעשה באופן בטוח שיטיב עם כלל האנושות: https://openai.com/
• Futurism, מפרסם חדשות ועדכונים עולמיים מתחום הטכנולוגיה: https://futurism.com/

רשימת מקורות

ברקוביץ', א', & שחף, ט'. (11 אוגוסט 2018). "נהפוך את ישראל לאחת ממדינות הבינה המלאכותית המובילות". אוחזר מתוך גלובס: https://www.globes.co.il/news/article.aspx?did=1001249550

גולדשמידט, ר'. (2018). מידע בנושא "בינה מלאכותית". ירושלים: הכנסת, מרכז המחקר והמידע.

גץ, ד', שחם, א' כ', קליין, ר', צזנה, ר', רוזנברג, ש', שהם, א', . . . ציפרפל, ס'. (2018). מחקר: בינה מלאכותית, מדעי הנתונים ורובוטיקה חכמה, דו"ח ראשון. חיפה: מוסד שמואל נאמן למחקר מדיניות לאומית.

ענתבי, ל'. (מרץ 2019). תפוצת מערכות נשק אוטונומיות והשפעתה על היחסים הבינלאומיים. (כרמית פדן וורה מיכלין־שפיר, עורכות) ביטחון לאומי במציאות "נזילה", מזכר 189, עמ' 82-67.

Massachusetts Institute of Technology. (2019, March 11). How the Enlightenment Ends: A Conversation. Retrieved from YouTube: https://www.youtube.com/watch?v=nTyIeMuUavo

Calcalist. (11 March 2019). AI Companies Accounted for 37% of Investment in Israeli Tech Companies in 2018. אוחזר מתוך Calcalist: https://www.calcalistech.com/ctech/articles/0,7340,L-3758021,00.html

Center for a New American Security. (2019). Artificial Intelligence and Global Security. Retrieved from Center for a New American Security: https://www.cnas.org/artificial-intelligence-and-global-security

Clarke, C. P. (2018, June 18). Toy Drones and Twitter: The Ability of Individuals to Wreak Large-Scale Havoc. Retrieved from RAND Corporation: https://www.rand.org/blog/2018/06/toy-drones-and-twitter-the-ability-of-individuals-to.html

Future of Life Institute. (2019). AI POLICY – UNITED STATES. אוחזר מתוך Future of Life Institute: https://futureoflife.org/ai-policy-united-states/?cn-reloaded=1.

Gates, B. (2018, December 3). When ballistic missiles can see. Retrieved from gatesnotes: https://www.gatesnotes.com/Books/Army-of-None

Geist, E., & Lohn, A. (2018). How Might Artificial Intelligence Affect the Risk of Nuclear War? California: RAND Corporation.

Horowitz, M. C., Allen, G. C., Saravalle, E., Cho, A., Frederick, K., & Scharre, P. (2018). Artificial Intelligence and International Security. Washington: Center for a New American Security.

Hunter, A. P., Sheppard, L. R., Karlen, R., & Balieiro, L. (2018). Artificial Intelligence and National Security: The Importance of an AI Ecosystem. Washington, D.C: Center for Strategic and International Studies.

Launchbury, J. (2017). A DARPA PERSPECTIVE ON ARTIFICIAL INTELLIGENCE. Retrieved from Technica Curiosa: https://machinelearning.technicacuriosa.com/2017/03/19/a-darpa-perspective-on-artificial-intelligence/

Osoba, O' A', Boudreaux, B', Saunders, J', Irwin, J' L', Mueller, P' A', & Cherney, S'. (2019). Algorithmic Equity: A Collection-Oriented Framework for Social Applications. California: RAND Corporation.

Pecotic, A. (2019, March 5). Whoever Predicts the Future Will Win the AI Arms Race. Retrieved from Foreign Policy: https://foreignpolicy.com/2019/03/05/whoever-predicts-the-future-correctly-will-win-the-ai-arms-race-russia-china-united-states-artificial-intelligence-defense/#

Press, G. (2018, September 24). The Thriving AI Landscape In Israel And What It Means For Global AI Competition. Retrieved from Forbes: https://www.forbes.com/sites/gilpress/2018/09/24/the-thriving-ai-landscape-in-israel-and-what-it-means-for-global-ai-competition/#8585bf630c51

RAND Corporation. (2019). Security 2040. Retrieved from Rand International: https://www.rand.org/international/cgrs/security-2040.html

Sayler, K. M., & Hoadley, D. S. (2019). Artificial Intelligence and National Security. Washington: Congressional Research Service.

West, D. M. (2018, May 15). The Future of Work: Robots, AI, and Automation. Retrieved from Brookings: https://www.brookings.edu/book/the-automated-society/

Yeung, D. (2018). Intentional Bias Is Another Way Artificial Intelligence Could Hurt Us. Retrieved from RAND Corporation: https://www.rand.org/blog/2018/10/intentional-bias-is-another-way-artificial-intelligence.html

[1]  Artificial Intelligence and Global Security Initiative

[2] I agree with Scharre that we have to guard against becoming “seduced by the allure of machines—their speed, their seeming perfection, their cold precision.” And we should not leave it up to military planners or the people writing software to determine where to draw the proper lines. We need many experts and citizens across the globe to get involved in this important debate.

[3] Artificial Intelligence and Emerging Technologies Initiative

[4] A Blueprint for the Future of AI

[5] The Future of Work: Robots, AI, and Automation

[6] ההערכות הן כי בישראל פעלו עד 2018 בין 950 ל-1150 חברות הזנק שעוסקות בבינה מלאכותית – בין אם בפיתוח יכולות ליבה שלה, ובין אם בהטמעתה (Press, 2018; Calcalist, 2019).