במקביל מפרסמים מדענים ומהנדסים תחת ארגון המכונה "המוסד לעתיד החיים" (The future of life institute), מכתב פתוח הקורא לזהירות בפיתוח מכונות בעלות אינטליגנציה. על המכתב חתמו, נכון לאמצע ינואר 2015, מעל ל--3,000 אנשים מכל רחבי העולם, חלקם מדענים בעלי שם בתחומם. מכתב זה תורם אף הוא את חלקו ומסייע להגברת החשיפה לצורך בדיון ופעולה מידיים בנושא.

נראה, מצד אחד, שהשיח סביב בינה מלאכותית מתחיל סוף סוף להתרומם לגבהים חדשים ולצאת מגבולות העיסוק של ארגוני זכויות האדם בנשקים אוטונומיים; ומצד שני, נתפס על ידי מקבלי החלטות רבים כתיאורטי ועתידני ברמה שאינה מחייבת עיסוק קונקרטי בבעיה. לא מן הנמנע שאותם מקבלי החלטות יופתעו בקרוב כאשר יידרשו להתמודד עם סיטואציה חדשה בה תיאלץ מערכת המשפט במדינתם להתמודד עם מכונות פושעות.

כן-כן, מכונות פושעות! במסגרת ניסוי שביצעו שני אומנים שוויצרים הפועלים מלונדון, פותח רובוט (שיהיה נכון יותר לתארו כ"קוד", משום שהוא קיים בתוך המחשב בלבד וחסר נוכחות פיזית בעולם, על אף יכולתו להשפיע עליו). אותו קוד תוכנת לבצע רכישות בשוק השחור של האינטרנט (ב"דארקנט") באמצעות מטבע וירטואלי בשם ביטקוין, המאפשר רכישה אנונימית, מוצרים על סך 100 דולר מדי שבוע. בין המציאות שהעלה בחכתו הרובוט היו עשר גלולות אקסטזי, תיק לואי ויטון מזויף ומוצרים נוספים.

אם כך, בעוד שקודים כבר מסוגלים לפשוע (גם במימד הקיברנטי וגם בעולם האמיתי) ללא מעורבות יד אדם, לרשויות החוק עדיין אין מענה בתחום, בעיקר משום שנושאים אלו טרם עלו על שולחנו של המחוקק. חרף זאת, באופן מפתיע, המצב כיום בתחום נמצא עדיין בשליטה יחסית למה שעלול להתחולל בעתיד. זאת משום שכיום מרבית הקודים הפעילים בעולמנו נכתבו על ידי בני אדם, אותם ניתן להעמיד לדין כאחראים לפשע שביצע הקוד (זאת כמובן תחת המגבלות והבעיות הרגילות הקיימות בתחום המשפט הבינלאומי ואכיפת החוק תחת ריבונות של מדינות שונות). החרפה באתגר עלולה להתחולל כאשר קוד, שנכתב על ידי קוד, שנכתב על ידי קוד... יבצע פשע. דבר שנשמע גם הוא כמו מדע בדיוני הוא למעשה מדע שריר וקיים, כי הרי "מכונות לומדות" מתפתחות להן ללא הפרעה, בין השאר בתעשיות הטכנולוגיות ובאקדמיה. מי שלא מאמין ודאי יפקח את עיניו מול הרובוט מעורר ההשראה של אוניברסיטת קורנל - רובוט שלמד לצעוד בכוחות עצמו ממש כמו גור, על בסיס אלגוריתם מתפתח.

אם מקבלי ההחלטות ובראשם מחוקקים ורגולטורים לא יתעשתו בקרוב, עוד עשוי להיעלם מן העולם מושג נטילת האחריות (accountability). יותר מכך, אם לא ישכילו לפתור את הבעיות מבית יתקשו אף יותר עם התמודדות עמן בזירה הבין-לאומית, שכן ספק אם מערכת המשפט הבין-לאומית מסוגלת להתמודד כיום עם רובוט לומד שייצא משליטה ויבצע פשעי מלחמה.

המצב הנוכחי מחייב לא רק כינון אמנות והבעת חששות (מוצדקים) מבינה מלאכותית, אלא חשיבה מחודשת של פילוסופים-מומחים לאתיקה, משפטנים, רשויות ומקבלי החלטות בזירה הלאומית והבין-לאומית. נותר רק להצטער שדרגים רבים עדיין לא מבינים שהעולם משתנה סביבנו בעקבות התפתחויות טכנולוגיות, במהירות הגדולה ביותר בהיסטוריה האנושית, ושנוצר פער עצום שרק הולך וגדל בכל דקה שעוברת. מי שבונה על כך שהטכנולוגיה אולי תציל אותנו מעצמנו, עלול להתאכזב ולגלות שלמרות התפתחות מואצת בתחום, בשלב זה האנושות עדיין צריכה לסמוך רק על עצמה.

*** מצורף פרומו לסרט "צ'אפי", שעוסק ברובוט כמעט אנושי שהופך בעל כורחו לפושע. הסרט עתיד לעלות בבתי הקולנוע במרץ 2015, אולם הפרומו בפני עצמו מעורר מחשבה בכל הנוגע לבינה מלאכותית ובעיקר כזו המתפתחת ולומדת בעצמה.