תקציר מנהליםאזרחי ישראל צפויים ללכת לקלפיות ב-27 באוקטובר 2026, ושבוע לאחר מכן יתקיימו בארצות הברית בחירות אמצע הכהונה. דוח זה עוסק בסוג מסוים של איום על מערכות בינה מלאכותית – הרעלת נתונים – ובמשמעותו האפשרית למערכת הבחירות. הרעלת נתונים היא החדרה מכוונת של מידע כוזב או מניפולטיבי לסביבת המידע, שממנה מערכות בינה מלאכותית לומדות או שואבות תשובות. ההרעלה יכולה להתבצע בשלב האימון של המודל, במאגרי מידע המשמשים להתאמתו למשימות מסוימות או ברובד האחזור, כלומר במקורות שאליהם המודל פונה בזמן אמת כדי לענות על שאלת משתמש. בניגוד לתקיפות סייבר קלאסיות, התוקף אינו חייב לפרוץ למערכת: די בפרסום התוכן ברשת הפתוחה ובהפיכתו לזמין לאינדוקס ולאחזור.[1] המקרה המרכזי הנבחן בדוח של הרעלה ברובד האחזור הוא רשת פראבדה (Pravda) שהוכוונה בידי מוסקבה. בשנים 2024 ו-2025 פעלה הרשת באמצעות יותר מ-300 דומיינים ובעשרות שפות, ופרסמה מיליוני בכתבות בשנה. רבים מאתריה כמעט אינם מושכים קהל אנושי, והמבנה שלהם מתאים לאינדוקס, לאחזור ולציטוט בידי מערכות בינה מלאכותית יותר מאשר לצריכת חדשות רגילה. לדוגמה, לקראת הבחירות הפדרליות באוסטרליה במאי 2025 הוקם אתר ייעודי לקהל היעד האוסטרלי. בבדיקה שערכה NewsGuard עבור ABC נמצא כי עשרה מודלים מובילים חזרו על טענות כוזבות הנוגעות לבחירות ב־16.6 אחוזים מן התשובות שנבדקו, ובחלקן ציטטו ישירות את האתר. לצד זאת קיימות ראיות פומביות לכוונה הרוסית להשפיע על מערכות בינה מלאכותית עצמן, כחלק ממבצעי השפעה. ג'ון מארק דוגן, עריק אמריקאי המזוהה עם מבצעי השפעה רוסיים (ונמצא תחת סנקציות של האיחוד האירופי), אמר במוסקבה בינואר 2025, כי הפצת נרטיבים רוסיים באמצעות רשת הדומיינים שלו עשויה לשנות בפועל את הבינה המלאכותית בעולם. עם זאת יודגש, כי עד כה לא הוכח אמפירית כי הרעלת נתונים שינתה בפועל את אופן הצבעתם של בוחרים. אין לפרש זאת כהוכחה להיעדר השפעה: גם במבצעי השפעה קונוונציונליים קשה לבסס קשר סיבתי בין חשיפה לתוכן לבין התנהגות בוחרים. השאלה המעשית יותר היא אם מערכות הבינה המלאכותית שבהן משתמשים אזרחים בישראל כבר חשופות למבצעי השפעה מסוג הרעלת מידע, ואם כן – באיזה היקף. נכון להיום טרם נערכה בדיקה שיטתית ולאורך זמן של התשובות שמודלים מובילים נותנים לשאלות הנוגעות לבחירות בישראל, בעברית ובערבית. בדיקה כזו היא תנאי בסיסי להערכת היקף החשיפה לאורך זמן. למרות זאת, יש להניח שמבצעים כאלה כבר מתקיימים בישראל לקראת הבחירות. ישראל כבר הייתה יעד למבצעי השפעה מצד רוסיה ומצד איראן, ופעילות רוסית כבר הוכיחה יכולת לפעול בעברית ומול קהלים ישראליים, לרבות באמצעות התחזות לכלי תקשורת מקומיים. במקביל תועדו רשתות של פרופילים מזויפים הקשורות לפעילות השפעה איראנית, הבונות אמינות לאורך זמן ומשנות את אופי המסרים שלהן ברגעים פוליטיים רגישים. במהלך העימות בין ישראל לאיראן ביוני 2025 תועד גם שימוש נרחב בתוכן שנוצר באמצעות בינה מלאכותית. כל זאת, הגם שלפי שעה אין הוכחות פורנזיות פומביות שלפיהן גורמים איראניים כיוונו לנתוני אימון או למערכות אחזור של בינה מלאכותית בהקשר של הבחירות בישראל. ההתמודדות עם איום הרעלת הנתונים מחייבת היערכות מוקדמת לפני בחירות, וגם בהמשך. תשתיות ברובד האחזור נבנות ונצברות לאורך זמן, ותוכן שכבר אונדקס אינו נעלם בהכרח גם אם האתר המקורי הוסר. לפיכך נדרשים צעדים הן לצמצום החשיפה למידע מניפולטיבי והן לבניית יכולת שיטתית לזהותו. ראשית, יש לפתח מנגנון לניטור ולבדיקה תקופתית של מודלים מובילים בעברית ובערבית, כדי לבחון אם הם חוזרים על נרטיבים כוזבים המוכרים בזירה הישראלית, ואם הם מצטטים דומיינים המזוהים עם רשתות השפעה עוינות. בדיקות אלה יאפשרו להעריך את היקף החשיפה להרעלת נתונים, לזהות שינויים לאורך זמן ולבסס תמונת מצב שתסייע בגיבוש המענה. שנית, יש לחזק את הנוכחות של מידע רשמי ואמין בסביבת האחזור באמצעות פרסום מידע ברור, מובנה וקריא למכונה בדומיינים רשמיים ומאומתים. יש להתייחס למערכות בינה מלאכותית כאל צרכניות מידע לצד הציבור האנושי, ולהבטיח כי מידע ציבורי מהימן יהיה נגיש להן בנושאים הנוגעים לתהליכים דמוקרטיים ולסוגיות ציבוריות רגישות. לצד זאת יש להגביר את המודעות הציבורית למגבלות השימוש במערכות בינה מלאכותית. תשובותיהן לשאלות פוליטיות אינן בהכרח סינתזה ניטרלית של מקורות מהימנים, והן עלולות להסתמך גם על מידע שהוחדר במכוון לסביבת האחזור. מטרת ההסברה אינה לערער את האמון במערכות אלה אלא לעודד שימוש ביקורתי בהן, בדיקת מקורות והצלבת מידע. בטווח הארוך, נדרשת תשתית מוסדית, משפטית וטכנולוגית להתמודדות עם התופעה. בין היתר, יש להגדיר אחריות מוסדית לניטור הרעלת נתונים ולתיאום המענה לה, לבדוק את התאמת המסגרת המשפטית להתמודדות עם מניפולציה מכוונת של מקורות מידע פתוחים ולבחון דרישות שקיפות ממפתחי מודלים בנוגע למקורות שעליהם נשענות תשובותיהם. צעדים אלה נועדו לבסס יכולת מתמשכת לזהות הרעלת נתונים ולצמצם את השפעותיה, ולאפשר התמודדות עם האיום בשגרה ובתקופות של רגישות ציבורית ופוליטית מוגברת. ______________ [1] להרחבה ראו: שי הרשקוביץ, מבוא להרעלת נתונים: יסודות, מודלי איומים וסיכונים לביטחון הלאומי, מזכר ,259 המכון למחקרי ביטחון לאומי, 2026. https://tinyurl.com/5n9xbpsm |
