פרסומים

בשנים האחרונות, יישומי בינה מלאכותית וכלים להפקת דיפ-פייק הפכו נפוצים, זולים ופשוטים יחסית לשימוש תוך שיפור רמת אמינותם והם מאפשרים לייצר תמונות, קבצי קול וסרטונים כך שקשה ואף בלתי אפשרי להבחין שמדובר בזיוף. במסמך שפרסמה הסוכנות לביטחון לאומי בארה"ב (NSA) בספטמבר 2023, נטען כי ההיקף והקלות שבהם משתמשים יכולים לייצר מדיה סינטטית מציבים אתגרים משמעותיים לביטחון הלאומי ועשויים לשמש להפצת מידע כוזב במישור הפוליטי, החברתי, הצבאי והכלכלי. התראה זו מצטרפת להתראות רבות שכבר ניתנו על ידי גורמי ביטחון.

אחד השימושים הנפוצים ביותר בטכנולוגיית דיפ-פייק הוא פגיעה בפרטים, למשל: יצירת תכני פורנוגרפיה מזויפים או חיקוי קולו של אדם למטרות שוד וסחיטה. עם זאת, יש לה גם פוטנציאל להשפיע על תהליכים מדיניים כמו הליכי בחירות דמוקרטיות. רק לאחרונה הופץ סרטון מזויף של מושל פלורידה, רון דסנטיס, מכריז על פרישתו מהמרוץ הקרוב לנשיאות ארצות הברית. מקרה נוסף בו הושפעה החברה והכלכלה האמריקאית מהפצת דיפ-פייק התרחש במאי 2023 ובו הופצה תמונה סינטטית בה נראה הפנטגון עולה באש, שהוביל לירידה חדה בשוק המניות האמריקאי. השפעת הזיופים אינה נובעת רק מאיכותם או פשטות ייצורם, אלא נסמכת בעיקר על יכולת התפוצה הנרחבת והוויראליות שמאפשרות הרשתות החברתיות.

מלחמת רוסיה-אוקראינה היוותה עד כה את מקרה המבחן הבולט ביותר לשימוש בטכנולוגיית דיפ-פייק לשם השפעה על דעת הקהל במסגרת סכסוך בינלאומי. על רקע המלחמה הופצו סרטונים מזויפים הן של נשיא רוסיה, ולדימיר פוטין, והן של ראש ממשלת אוקראינה, ולדימיר זלנסקי, מכריזים הכרזות או פונים לציבור. עם זאת, סרטונים אלו לא השפיעו משמעותית על המערכה.

אחת הבעיות המרכזיות שיוצרת תופעת הדיפ-פייק היא שאנשים נוטים לתת אמון כמעט אוטומטי בתכנים שמהדהדים את עמדותיהם, בלי לבדוק את אמיתות המידע, מה שמוביל להקצנה ולהתבצרות של כל צד בעמדותיו. כך, עם פרסום הפרטים על אודות הטבח שביצע חמאס בדרום ישראל, היו רבים בעולם שהכחישו את מעשיו של ארגון הטרור. בתגובה נאלצו הגופים האמונים על ההסברה במדינת ישראל 'להסיר את הכפפות' ולהציג עדויות לזוועות שביצע החמאס. אלא שגם לאחר פרסום המידע העובדתי, היו עדיין רבים שדבקו בתכנים מזויפים.

חוסר היכולת לקבוע האם תוכן מסוים הינו אותנטי או מזויף מתקשר לטענה הרווחת כי אנו נמצאים בעיצומו של משבר המאופיין בשחיקת ערך ה'אמת' כבסיס משותף לחברה המודרנית. טכנולוגיית הדיפ-פייק והרשתות החברתיות הן רק נדבך נוסף בעידן הפוסט אמת והפייק ניוז, שבו ניתן יותר מקום לרגש, לאמונה ולדעה אישית על פני עובדות אובייקטיביות. הראשונות להיפגע ממגמה זו הן חברות דמוקרטיות המקדשות את חופש הביטוי והפלורליזם.

דיפ-פייק במאמצי ההסתה נגד ישראל במלחמת 'חרבות ברזל'

המלחמה בין ישראל לחמאס מהווה לפי חוקרים מסוימים מקרה חסר תקדים להפצת דיפ-פייק. מיד בתחילת המלחמה, זיופים שונים החלו להציף את הרשת ופתחו חזית חדשה בזירת התמודדותה של ההסברה הישראלית. במקרה בולט אחד מני רבים, משתמשים פרו-פלסטיניים הפיצו ברשת תמונה המציגה תינוקת בין הריסות בניינים בעזה. התמונה, שזכתה לשיתופים רבים, התנוססה על שלטים בהפגנות אנטי-ישראליות בעולם ואף הוצגה על שער העיתון הצרפתי Liberation. אולם, במהרה התברר שהתמונה נוצרה באמצעות בינה מלאכותית וכי נעשה בה שימוש עוד בפברואר 2023. לפי מנכ"לית רשת הטלוויזיה CBS, רק 10 אחוזים ממעל אלף סרטונים שנשלחו למערכת החדשות בנוגע למלחמה בין ישראל לחמאס היו אותנטיים. לטענתה, מערכות חדשות בעולם נאלצות להתמודד עם עומס מידע שקרי ומזויף ולשם כך עליהן ליצור סטנדרטים לשמירה על אמינות המידע. בנוסף, לפי מגזין TIME, לפחות 14 טענות שקריות על אודות המלחמה זכו לכ-22 מיליון צפיות ברשתות החברתיות X (טוויטר לשעבר), טיק-טוק ואינסטגרם בשלושת הימים הראשונים למלחמה.

נוסף על מאמצי תעמולה והפצת מידע כוזב, ארגוני טרור מנצלים טכנולוגיות דיפ-פייק לזריעת בהלה בקרב הציבור. כך למשל, תושבת ישראל דיווחה כי פרצו לחשבון הוואטסאפ שלה והפיצו באחת הקבוצות שבהן היא חברה הודעה קולית שבה היא נשמעת צועקת את המילה "חוטפים", מה שיצר בהלה בקרב שאר חברי הקבוצה. בבדיקה של חברת Clarity הישראלית אכן נמצא כי ככל הנראה מדובר בהקלטה מבוססת טכנולוגיית דיפ-פייק.

בניסיון להתמודד עם התופעה, חברות החלו לפתח כלים לזיהוי תכנים מזויפים ברשת, דוגמת "AI or Not" שקובע האם תמונה מסוימת היא אותנטית או תוצר של בינה מלאכותית. על אף שידוע כי כלים אלו אינם מסוגלים לתת וודאות מלאה, לקביעתם עשויות להיות השלכות מרחיקות לכת בקרב ההסברה. כך למשל, תמונה המתעדת תינוק שנשרף למוות בידי חמאס הועלתה לחשבון ה-X הרשמי של ראש הממשלה, בנימין נתניהו, והדהדה בכלי תקשורת רבים בעולם. אולם כאשר נבדקה בתוכנה, התמונה סומנה כזיוף שנוצר על ידי בינה מלאכותית. בעקבות כך, משתמשים ברשת טענו להפצת מידע שקרי מצד ישראל. על אף שחברת "AI or Not" פרסמה הבהרה שלפיה התמונה אותנטית וחברת X הסירה את הטענה כי התמונה שנויה במחלוקת, עבור רבים פגע המקרה באמינות ההסברה הישראלית והמשיך לשמש כ"הוכחה" בידי מכחישי קיומו של הטבח. כן מדגיש מקרה זה את המהירות שבה הקרב על התודעה ברשת מוכרע ואת הנזק שנגרם כתוצאה מהצגת מידע שקרי, אף אם הוא מוסר או מעודכן לאחר מכן. בתגובה לבעיה זו, כשבוע וחצי מפרוץ המלחמה פרסם מערך הסייבר הלאומי קול קורא להקמת קבוצת עבודה לבחינת דרכי התמודדות עם פייק ניוז ברשת.

המלחמה הנוכחית חשפה בין היתר את הנזק הרב בעקבות השינויים שהוביל מנכ"ל X, אילון מאסק, שהפכו את הפלטפורמה הפופולרית לכר פורה להפצת מידע שקרי. החברה הסירה תגים המעידים על חשבונות מאומתים ומקדמת פוסטים של משתמשים המשלמים מנוי חודשי – ללא קשר לתוכן שהם מפיצים. מרבית העובדים שפוטרו לאחרונה מהחברה הם מי שהיו אמונים על הסרת דיסאינפורמציה מהפלטפורמה. בעקבות הפרות משמעותיות של הפצת תוכן שקרי בזמן המלחמה על ידי רשת X, נפתחה נגדה חקירה מצד נציבות האיחוד האירופי.

לקריאה נוספת:

איום מזויף או אמיתי? דיפ־פייק והאתגרים לביטחון הלאומי

אמנם, לטכנולוגיה אין רק השפעה שלילית, וחלק מן המדינות, כולל ישראל, מצליחות לגייס את הטכנולוגיה למאמצי ההסברה. לדוגמא, סרטוני הסברה רבים ועדויות מהטבח שביצע חמאס תורגמו לשלל שפות באמצעות טכנולוגיית דיפ-פייק במטרה להגיע למספר רב ביותר של קהלי יעד בעולם. בנוסף, יישומי מציאות מדומה מבוססי דיפ-פייק נמצאו יעילים בשיפור הבריאות המנטלית של מטופלים. לכן, שימוש בכלים אלו עשוי לסייע לנפגעי פוסט-טראומה מהמלחמה. עם זאת, ככלל, הטכנולוגיה במצבה הנוכחי, לצד תפוצתה הבלתי נשלטת ברשתות החברתיות, מהווה אתגר רב משמעות.

מה בכל זאת ניתן לעשות?

למרות הצורך להמשיך ולפתח יכולות לאיתור וזיהוי תכנים מזויפים ברשת, הכלים הקיימים כיום עדיין מוגבלים, אינם מספקים תוצאות מהימנות דיין ומתפתחים לאט ביחס לקצב השכלול של טכנולוגיות הזיוף. בנוסף, מנגנוני הדיווח ברשתות החברתיות נותנים מענה חלקי בלבד, שכן תוצאת הדיווח מושפעת במידה רבה מכמות הדיווחים ולא בהכרח מהתוכן עצמו. לאור קיומן של רשתות בוטים רבות והנחיתות המספרית של תומכים פרו-ישראליים לעומת תומכים פרו-פלסטיניים – מנגנונים אלו אינם יעילים במיוחד עבור ישראל.

על ממשלות לנקוט צעדים דומים לאלה שננקטו נגד X נוכח כמויות המידע הכוזב ברשת סביב המלחמה. מחקר מקיף בנוגע לפוטנציאל ההשפעה של דיפ-פייק על הביטחון הלאומי, הודגש חשיבותו של שיתוף פעולה או לחלופין, הגבלה משפטית של הרשתות החברתיות, שהן למעשה המאפשר המרכזי להפצת אותם תכנים.

פתרונות אחרים קשורים באחריות חברתית ואישית. על חברות דמוקרטיות לעודד אוריינות דיגיטלית, שתאפשר למשתמשים להבחין בין תוכן מזויף לאותנטי, תעודד אותם להצליב מידע ולאתר מקורות אמינים, ותעורר מודעות לאחריות הכרוכה בצריכת והפצת מידע ברשת. ועדיין, חשוב כי גופים רשמיים בישראל, ודובר צה"ל בראשם, ימשיכו בפרסום עדויות ומידע עובדתי ככל הניתן ויפיצו אותם לקהלי יעד שונים בעולם, על מנת לחזק את דבר האמת על פני הזיוף והשקר.