פרסומים

במרבית הדמוקרטיות המערביות, האינטרנט והרשתות החברתיות מחליפים את העיתונות המודפסת והטלוויזיה המקומיות כמקור מרכזי של חדשות, מידע ותמונת עולם, במיוחד עבור צעירים ומיעוטים תרבותיים. בשנים האחרונות, פלטפורמות התוכן המקוונות הפכו לזירה המרכזית של פעילות חברתית וכלכלית בעולם כולו - בישראל במיוחד - המתאפיינת בהיקף שימוש נרחב במיוחד ברשתות חברתיות בהשוואה לרוב מדינות העולם.^[1] עקב התבססותן של הרשתות החברתיות כערוץ מרכזי של שיח ציבורי ומקור מידע מרכזי עבור האזרחים, הן הופכות להיות ערוץ פוטנציאלי להשפעה והתערבות זרה בתהליכים דמוקרטיים,^[2] כמו שיבוש מערכות בחירות או השפעה ומניפולציה על השיח ועל דעתם של אזרחי המדינה במטרה לערער את הלכידות החברתית והיציבות הפוליטית, עם תשומת לב למאפייניו הייחודיים של שוק התקשורת והחדשות הישראלי כפונה לקהל צרכנים מוגבל, עתיר מבנים מונופוליסטיים ולוקה בריכוזיות גבוהה.^[3]

התערבות זרה בתהליכים דמוקרטיים פנים־ישראליים באמצעות הרשתות החברתיות הגלובליות הוגדרה על ידי גורמי הביטחון של מדינת ישראל ויו"ר ועדת הבחירות המרכזית כאיום ייחוס משמעותי עוד בשנת 2019, וגם יושבי הראש של ועדת הבחירות בשנים האחרונות הגיבו על איומי ההשפעה הזרה על דעת הקהל הישראלית ותוצאותיהם של סקרי הבחירות. ^[4]כיום, נקודת המוצא הביטחונית היא קיומם של כמה גורמים עוינים - ובראשם איראן - המעוניינים לבחוש בקדֵרת הבחירות בישראל ולהשפיע על התהליכים הדמוקרטיים בה. דוגמה מייצגת לאיומים אלו על הביטחון הלאומי היא פעולות ההשפעה שהפעילו גורמים איראניים ברשתות החברתיות במהלך מבצע שומר החומות, באמצעות רשת של מאות חשבונות מזויפים. בד בבד עם העימות הצבאי בין ישראל לחמאס ועם עימותים בערים המעורבות בישראל, במהלך מבצע שומר החומות נעשה שימוש נרחב ברשתות החברתיות על ידי כל הצדדים כזירת השפעה על התודעה ועל דעת הקהל, כאשר ישראל נתקלה בכמה אתגרים ופערים ביחס לחמאס ולגורמים פרו־פלסטיניים בזירה הדיגיטלית, הן ברמת המסרים שהועברו הן ברמת הכלים והיכולות הטכנולוגיות. ^[5]דפוס מרכזי שזוהה במהלך המבצע הוא מאמצי השפעה על התודעה הציבורית באמצעות הפצת דיסאינפורמציה, ובעיקר באמצעות הוצאת תמונות וסרטוני וידאו מהקשרם. כל הצדדים השתמשו - לעיתים מבלי דעת – במידע לא מדויק או שקרי, בין היתר באמצעות הפעלה של רגש חזק (אחד המנגנונים שעליו מתבסס פייק ניוז). כמו כן, במהלך מבצע "שומר החומות" זיהו מקורות מודיעין ישראליים כי מדינות אויב או ארגוני טרור הפעילו רשת נרחבת של חשבונות טוויטר שהפיצו מסרי לוחמה פסיכולוגית ותודעה כוזבת המיועדים לשבור את רוחו של הציבור הישראלי והחוסן החברתי-לאומי. גם במלחמת "חרבות ברזל" תועדה בחודשים אוקטובר-דצמבר 2023 עלייה חדה בדיווחי הציבור הישראלי על תכנים כוזבים ומסיתים נגד ישראל או חלקיה של החברה הישראלית ובהיקף בקשות הסרת התוכן המדינתיות שמדינת ישראל מעבירה לפלטפורמות המקוונות באמצעות מחלקת הסייבר בפרקליטות המדינה, בין היתר בקשר לתכנים שמקורם בארגוני טרור או ישויות זרות אחרות המקושרות אליהם. איומים אלו לא נעלמו מעיני חוקרי הביטחון הלאומי בישראל, שחזרו והדגישו את התפקיד המרכזי של ארגוני חברה אזרחית ומכוני מחקר בישראל בהתמודדות הלאומית עם התערבות זרה בתהליכים דמוקרטיים, ובפרט זו הנעשית במרחב האינטרנט והרשתות החברתיות.^[6]

מאמר זה מבוסס על הניסיון המחקרי והמעשי של איגוד האינטרנט הישראלי בהתמודדות עם הסיכונים והאיומים הייחודיים של המרחב המקוון עבור הציבור הישראל ומציע לגופי הביטחון, משרדי ממשלה אחרים וארגוני מחקר בישראל, ארגז כלים רעיוני ואמפירי להבנת המישורים השונים של השפעה והתערבות זרה באמצעות הרשתות החברתיות, עם המשמעויות המגוונות שלהם עבור רשויות אכיפה וביטחון מדיניות בישראל.^[7]

כדי שנוכל לעצב מדיניות ורגולציה אפקטיביות בזירה הישראלית, חלק א' מאפשר להבחין בין סוגים שונים של איומים או סיכונים לביטחון אישי ולאומי שרשתות חברתיות ופלטפורמות תוכן מקוונות מאפשרות: סיכון תודעתי של החלפת אמצעי התקשורת המקומיים כשומרי סף של חדשות ומידע לציבור; נזקים קולקטיביים של קיטוב, הקצנה ושחיקה דמוקרטית; וערוצי השפעה והתערבות זרה גלויים מצד חברות הטכנולוגיה הגלובליות נגד מדינות הנתפסות כמפירות את הדין הבין־לאומי. חלק ב' יתמקד בכוח וביכולות של ענקיות הטכנולוגיה המפעילות את הרשתות הדומיננטיות לקבוע ולאכוף כללי תוכן והתנהגות של משתמשים. על בסיס אפיון זה של איומי הייחוס והשחקנים הרלוונטיים במרחב הביטוי המקוון, חלק ג' יפרוס תמונת מצב עדכנית על מערכת היחסים בין הפלטפורמות הגלובליות למשתמשים ובינן לבין רשויות האכיפה והרגולציה בישראל. לבסוף, חלק ד' יזקק את המסקנות היישומיות מצד ארגוני החברה האזרחית עבור זירת הביטחון הלאומי כיום: הצורך בהגדרת גבולות גזרה מבצעיים ודמוקרטיים לפעילות מדינתית כנגד סוגים שונים של "השפעה זרה" ומאפייני הרשתות החברתיות שמאפשרות אותה.

א. ניתוח הזירה: איך רשתות חברתיות מאפשרות איומים על ביטחון אישי ולאומי בהיקפים חסרי תקדים

בשני העשורים האחרונים התפתח המרחב המקוון ממודל אתרי אינטרנט חד־כיווניים אל פלטפורמות של תוכן מבוסס גולשים (User Generated Content), המספקות שירותי אירוח והפצה של מידע ותוכן של המשתמשים ברשת האינטרנט, לרוב ללא עלות כספית או אימות פרטים מזהים של אלה. כך, פלטפורמות ורשתות חברתיות גלובליות כמו פייסבוק, YouTube וטיקטוק מאפשרות מחד גיסא חופש ביטוי והחלפת מידע חסרי תקדים, אך מאידך גיסא מאפשרות גם נגישות וקלות חסרות תקדים להפצת תוכן פלילי ופעילות בלתי חוקית אחרת, לרוב בזהות בדויה או מומצאת.

פלטפורמות מדיה חברתית המאפשרות למשתמשים לפתוח חשבונות מבלי לאמת את זהותם יוצרות כמה מישורים של סכנות בקנה מידה עצום ובראשן: תכנון וביצוע פעילות פלילית חמורה כגון סחר בסמים, טרור או ניצול מיני של ילדים; הטרדה והתעללות או פגיעה בביטחון אישי, כמו בריונות ברשת, מעקב או איומים באלימות, המנצלים את האפשרות להפיץ מסרים בצורה אנונימית;^[8] או הפצת מידע מוטעה ודיסאינפורמציה בהיקף גלובלי ולאומי. אף שפלטפורמות המדיה החברתית הפועלות בזירה הגלובלית במדינות שונות ברחבי העולם משקיעות מאמצים לנקות את הרשתות מתכנים מסוג זה, נדמה שאינן מתמודדות כהלכה עם ההצפה הרבה שלהם כאשר הפצתם הנרחבת ניכרת בעיקר במרחבים ובמדינות שהשפות בהם ייחודיות.^[9]

בכלל זה, מדיה חברתית מסירה את החסמים הכלכליים והגאוגרפיים לביצוע עבירות ביטחון לאומי, כדוגמת השימוש לרעה של ארגוני טרור ברשתות החברתיות למטרות תעמולה, גיוס והקצנה של קהלים ברחבי העולם. במוקד האיום של השפעה והתערבות זרה עבור מדינות דמוקרטיות ניצבות הקלות והזמינות של פתיחת חשבון או ערוץ בפלטפורמות המדיה החברתית, המאפשרות להפיץ מידע כוזב או תעמולה פוליטית במסווה של "אנשים אמיתיים". מבין כלל הנזקים והסכנות של הרשתות החברתיות במציאות הנוכחית, מאמר זה מתמקד באיום של התערבות והשפעה זרה כתוצאה משלושה אתגרים נפרדים של ביטחון לאומי עבור מדינות דמוקרטיות בעידן הרשתות החברתיות.

רשתות חברתיות מחליפות את אמצעי התקשורת המקומיים כערוץ לחדשות ומידע לציבור

השינויים בדפוסי צריכת החדשות המאופיינים בין היתר במעבר מסיבי לצריכת החדשות במרחבים הדיגיטליים, גרמו להפרעות אדירות בתעשיית החדשות המסורתית, במיוחד בתעשיית הטלוויזיה וכן בעיתונות המודפסת ובמקומונים.^[10] מחקרי קהל שנערכו בשנים האחרונות על הרגלי צריכת התקשורת והחדשות במדינות דמוקרטיות מערביות, מלמדים על צניחה נמשכת באחוז האוכלוסייה שעבורה הטלוויזיה או העיתונות המודפסת הן המקור העיקרי לתוכן חדשותי.

בארה"ב למשל, אחוז התושבים שהעידו שאינם צורכים כלל חדשות באמצעות העיתונות המודפסת עלה מ־29% בשנת 2020 ל־33% בשנת 2022, וכיום למעלה משליש מהאוכלוסים מעידים שאינם צורכים חדשות באמצעות הטלוויזיה או עושים זאת לעיתים נדירות בלבד.^[11] בו בזמן עלה אחוז המבוגרים האמריקאים שהעידו כי הם צורכים חדשות ב־TikTok מ־3% בשנת 2020 ל־10% בשנת 2022 ו־33% מכלל האוכלוסייה המבוגרת שמשתמשים ב־TikTok העידו כי הם נחשפים לחדשות ב־TikTok באופן קבוע, עלייה לעומת 22% בשנת 2020 ו־29% בשנת 2021. בשנת 2022, כרבע מהאמריקאים מתחת לגיל 30 צורכים חדשות ב־TikTok באופן קבוע, לעומת 10% מהמבוגרים בגילי 30–49, 4% מהמבוגרים בגילי 50–64, 1% מהמבוגרים בגילי 65 ומעלה.^[12]

מחקרי העומק ההשוואתיים שמבצע מכון רויטרס באוניברסיטת אוקספורד בשנים האחרונות מלמדים כי מדובר במגמות ואיומים בקנה מידה גלובלי. הנתונים האחרונים משנת 2022 שנאספו בקרב אלפי משיבים מעשרות מדינות מלמדים כי פייסבוק נותרה הרשת החברתית הנפוצה ביותר לצריכת חדשות בקרב האוכלוסייה הכללית, אך בד בבד מראים כי TikTok הולכת ומחליפה אותה בקרב צעירים, והשימוש בה גבוה יותר באמריקה הלטינית, אסיה ואפריקה מאשר בארה"ב או בצפון אירופה.^[13]

מה הבעיה הלאומית המתגלמת במעבר לצריכת חדשות באמצעות רשתות חברתיות?

במוקד האיום של השפעה והתערבות זרה עבור מדינות דמוקרטיות ניצבות הקלות והזמינות של פתיחת חשבון או ערוץ בפלטפורמות המדיה החברתית המאפשרות להפיץ מידע כוזב או תעמולה פוליטית בהיקף עצום. אין זה רק חשש תיאורטי או אקדמי, כי בשנתיים האחרונות העידו רוב משתמשי האינטרנט בארה"ב, בריטניה, גרמניה, יפן, ברזיל והודו כי הם נתקלים במידע מוטעה (ממקור זר או מקומי) או שִקרי באינטרנט על בסיס שבועי והביעו דאגה במידה רבה מכך שחבריהם ובני משפחתם מאמינים במידע שקרי או מטעה שאליו נחשפו ברשת.^[14] כ־40% מהמשיבים במדינות אלו העידו ששיתפו מידע שקרי או מטעה שלא בכוונה, בעיקר בקרב גילי 18–30 ומרבית מהמשתתפים בסקר אף הודו שאינם ששים לתקן אנשים ששיתפו מידע מוטעה.

עם זאת, חשוב לזכור שרשתות חברתיות הן לא הערוץ היחיד לשיח הציבורי, המתנהל גם בערוצים נוספים כגון: אמצעי התקשורת המסורתית הממוסדת (עיתונים, רדיו, טלוויזיה ואתרי אינטרנט ממוסדים, מסחריים וציבוריים); תקשורת השוליים (אתרי אינטרנט שאינם מגדירים את עצמם עיתונאיים ופועלים לקידום נרטיבים מסוימים); פלטפורמות מסרים ותקשורת בין־אישית כמו וואטסאפ וטלגרם, רשתות שוליים (רשתות חברתיות קטנות יחסית בהיקפן, שלרוב אין להן כללי קהילה מסודרים והן משרתות קהל יעד ספציפי, ולעיתים אג׳נדה ספציפית, דוגמת פרלר, 4chan ו־Truth Social); וכן שירותים משלימים, כגון תעשיית הגיימינג.^[15]

מסקנה חשובה נוספת מהמחקר הגלובלי היא שרשתות חברתיות ופלטפורמות מקוונות הן המקור העיקרי לצריכת חדשות ו"זמן מסך" עבור מיעוטים תרבותיים-אתניים ברמה הלאומית, כדוגמת אפרו־אמריקאים ואסייתים בארה"ב. בהתאמה, אוכלוסיות אלו חשופות להשפעה תודעתית חזקה יותר של השיח ברשתות החברתיות, כפי שאַראה גם לגבי החברה הערבית בישראל בחלק ג'.

סיכון קולקטיבי/לאומי לטווח ארוך: קיטוב, הקצנה ושחיקת אמון במוסדות דמוקרטיים

התבססותן של הרשתות החברתיות כערוץ מרכזי של שיח ציבורי ומידע, עם הגלובליות והאנונימיות שהן מאפשרות, מעוררת חשש מפני הנזקים החברתיים-דמוקרטיים הפוטנציאליים של פלטפורמות תוכן דומיננטיות ובראשם: הגברת הקיטוב החברתי בין קבוצות פוליטיות והיעלמות המרכז הפוליטי לטובת הקצנה לשוליים ושחיקת האמון הציבורי במוסדות המדינה – לרוב כתוצאה מדיסאינפורמציה, כתוצר לוואי בלתי נמנע של האופן שבו פלטפורמות מדיה חברתית מאפשרות לאנשים להפיץ ולצרוך מסרים. החשש העמוק מההשפעות המזיקות של רשתות חברתיות, במיוחד בכל הקשור למניפולציות על הציבור והעמקת חילוקי דעות בחברה, משותף כל הדמוקרטיות המערביות כיום.^[16]

המקור לכך הוא מהותן של הרשתות החברתיות כפלטפורמות לתוכן מבוסס גולשים (User-Generated Content), אשר מאפשרת את השמעתם של מגוון קולות ודעות מכל שכבות האוכלוסייה, אך מתומרצות כלכלית לתעדף עבור המשתמשים תכנים וקולות "עבורם", שמהדהד את דעותיהם, ומונע חשיפה מגוונת המשקפת את ריבוי הדעות הקיימות. הסיכונים הלאומיים מהסוג הזה נובעים בעיקרם מהתופעה שהספרות המחקרית מכנה "תאי הדהוד" (echo chambers): קבוצות של משתמשים ברשתות חברתיות שחולקים עמדות, אמונות ופרשנויות דומות של המציאות ויוצרים מרחב וירטואלי סגור ומבודד יחסית מחשיפה למידע ודעות חלופיים. בתוך תאי ההדהוד מתרחש תהליך של הקצנה, כאשר חברי הקבוצה מחזקים זה את עמדותיו של זה ודוחים מידע הסותר את הנרטיב המקובל בקבוצה.^[17]

בכך, רשתות חברתיות ופלטפורמות תוכן מבוסס גולשים חושפות את משתמשיהן למידע המאשש את אותן אמונות קיימות, ומחזק התבצרות בעמדה ובידול מעמדות שונות. אלו הן, כנראה, תוצאות של תופעות פסיכולוגיות המלוות את השימוש בתקשורת מתוּוכת מחשב, ובהן תופעת "חוסר העכבות המקוון", והטיית אישוש (confirmation bias) מוגברת, היוצרת "התחפרות" בעמדות מוקדמות ושכנוע מחדש בדעות ובאמונות שאנשים מחזיקים בהן מלכתחילה (confirmation bias).^[18] שכיחותם ועוצמתם של התכנים הנפיצים ברשתות החברתיות מפלגות את החברה ומגדילות את המרחק בין הקטבים, כך שהניכור והסלידה של כל צד כלפי הצד השני מונצחים בעוד ועוד תכנים מתלהמים ופוגעניים.

רק לאחרונה הראה מחקר עומק שהתפרסם בכתב העת Nature כי רוב התוכן שאליו נחשפים בעלי זכות הצבעה מגיע ממקורות בעלי נטייה פוליטית התואמת את עמדתם (אם כי בארה"ב, רק חלק קטן מהתוכן הזה הוא מידע פוליטי או חדשות).^[19] במקביל, מחקר שהתפרסם בכתב העת Science במהלך שנת 2023, שבו נבחנו נתונים מצטברים של 208 מיליון משתמשי פייסבוק בארה"ב, חושף כי עוצמת התופעה חזקה יותר בקרב קהלים שמרניים לעומת קהלים ליברליים, לרבות היקף גדול יותר של דיסאינפורמציה ואקו־סיסטם תקשורתי הנצרך באופן בלעדי על ידי שמרנים.^[20]

השימוש התדיר ברשתות החברתיות ואופי התכנים המתלהם שלהן, משפיעים על הבחירות ועל דרכי ההתבטאות של המשתמשים, שבמיוחד בקרב צעירים בגילי העשרה, עלולים להשפיע לרעה על עיצוב הנוף החברתי-פוליטי.^[21] יתרה מזו: גם משתמשים שאינם יוצרים בעצמם תכנים פוליטיים אלא רק צורכים אותם בפסיביות, ייחשפו תמיד לתכנים מאותו צד. לאור המתואר לעיל אפשר להבין כי התכנים שמושכים את מרב תשומת הלב הם המתלהמים והמקטבים ביותר, אלו שמעוצבים כדי לעודד ולחדד את גישת ה־׳אנחנו מולם׳ המבדלת. התוצאה היא הקצנה וקיטוב חברתי, חוסר סובלנות ופגיעה בשיח הציבורי.

תופעה זו נובעת משני גורמים – טכנולוגיים ואנושיים: נטייתם של בני אדם להסתגר בקבוצות דומות ולהימנע מחשיפה לדעות מנוגדות, עם התמריצים הכלכליים ויכולות אלגוריתמיות של הרשתות החברתיות להציג תוכן דומה להעדפותיהם. מדיה חברתית מציעה לממשלות כמה יתרונות בפעולות המידע שלהן. אולי החשוב שבהם, קמפייני מדיה חברתית זולים יחסית ובעלי סף כניסה נמוך. מכיוון שכל כך הרבה אנשים במזרח התיכון משתמשים במדיה חברתית, מניפולציה של פלטפורמות אלה היא דרך זולה למשטרים להשפיע על קהלים גדולים. יתר על כן, אמצעי ההגנה של חברות המדיה החברתית חלשים יותר מחוץ לסביבה דוברת אנגלית מכיוון שהן עשויות להתמקד יותר ברווחיות וחדשנות לפני ביטחון ואיכות מידע. דוגמה עדכנית לכך זוהתה על ידי חוקרים שהתבוננו על הזירה המקוונת במדינת קניה בתקופת הבחירות הלאומיות בשנת 2022, וחשפו כי במהלכה האלגוריתם "עבורך" של TikTok הציג מאות סרטוני תעמולה שנאה והסתה בחשיפה לאומית רחבה מאוד.^[22]

התעצמות הקיטוב החברתי ברמה הפנים־לאומית משפיעה בסופו של דבר על ההצבעה בבחירות ויוצרת מצב שבו הצבעת האזרחים אינה נשענת על אמון בעמדה מסוימת ובמנהיג המייצג אותה אלא על סלידה ואיבה כלפי הצד השני.^[23] מאפיינים כלכליים, טכנולוגיים ואנושיים אלו של צריכה והפצת תוכן ברשתות החברתיות נתפסים כסכנה של ביטחון לאומי ליציבות הדמוקרטית והחוסן הלאומי. הרשתות החברתיות מבינות את הפסיכולוגיה החברתית של משתמשיהן, ומטעמים כלכליים מפעילות אלגוריתמים שמתעדפים עבורנו תוכן שמהדהד את דעותינו, ומונע חשיפה מגוונת המשקפת את ריבוי הדעות הקיימות. בכך מייצרות הרשתות ״תיבת תהודה״ החושפת את משתמשיה למידע המאשש את אותן אמונות קיימות, ומחזק את ההתבצרות בעמדה ואת הבידול מעמדות שונות.

 ב. התמודדות הפלטפורמות המקוונות נגד תכנים מסוכנים, חשבונות לא אותנטיים ומבצעי השפעה

כל הפלטפורמות המקוונות והרשתות החברתיות הפופולריות מגבשות ואוכפות "כללי קהילה" המגדירים את המותר והאסור עבור המשתמשים שלהן, לרבות תכנים אסורים או שימוש מזיק. למשל, כללי קהילה ומאמצי אכיפה נגד תוכן או הסתה לאלימות. בשנים האחרונות הכללים ומאמצי האכיפה של הפלטפורמות נעשים בשני מישורים מקבילים: כללים ואכיפה מול תכנים, כמו אלימות, או דיסאינפורמציה בנושאים בריאותיים או דמוקרטיים; כללים ואכיפה מול משתמשים וחשבונות, למשל, כללי הקהילה של YouTube נגד ארגונים קיצוניים או פליליים, כללי הקהילה של TikTok נגד ארגונים ואנשים אלימים או מונעי שנאה או הכללים ומנגנוני האכיפה של Meta נגד חשבונות לא אותנטיים ופעילות השפעה חשאית או מתואמת שלהם.

כללים ואכיפה מול תכנים

מנקודת המבט המדינתית אפשר להבחין בין שני סוגים של תוכן שעליו הפלטפורמות אוסרות:

• תוכן בלתי חוקי: תכנים או פעילות שמהווים עבירה פלילית או תומכים בביצוע שלה^[24] או עוולה אזרחית (כמו פגיעה בפרטיות או הפרת זכות יוצרים).^[25] הפלטפורמות הדיגיטליות המרכזיות אוסרות על העלאה או שיתוף של תוכן מסוג זה, על פי מדינת המקור של בעל החשבון, ויש להן מדיניות של ציות לחוקים מקומיים בעת הצגת תוכן למשתמשים מאותה מדינה.
• תוכן חוקי אך מסוכן (ולכן אסור בפלטפורמה): תכנים שאינם בלתי חוקיים אך הפלטפורמות אוסרות על המשתמשים שלהן לפרסם בגלל השפעתם השלילית ברמה האישית או החברתית. הדוגמה המוכרת לתכנים מסוג זה היא איסור הפלטפורמות על "בריונות מקוונות" (cyber-bullying) או "ביוש" (shaming) כלפי אנשים פרטיים, גם אם אינה עולה לכדי עבירה פלילית או לשון הרע. למשל: כללי הקהילה של Facebook נגד בריונות והטרדה (Bullying and Harassment) שפוגעים בבטיחות המשתמשים,^[26] כללי הקהילה של YouTube נגד הטרדה ובריונות מקוונת (Harassment and Cyberbullying) כתוכן מסוכן,^[27] או כללי הקהילה של TikTok נגד בריונות והטרדה (Harassment and Bullying) שפוגעים בבטיחות המשתמשים.^[28]

לענייננו רלוונטיים במיוחד האיסורים שהרשתות החברתיות קובעות על סוגים שונים של תוכן כוזב (Misinformation) שאינו בלתי חוקי, אך הפצה המונית שלו מסכנת באופן ישיר את הפרט או החברה. הדוגמה המרכזית היא כללי הקהילה ואכיפת תוכן של הפלטפורמות נגד תכנים ומידע שגויים בעניינים רפואיים-בריאותיים, כמו כללי הקהילה של Facebook נגד מידע כוזב בנושאי חיסונים;^[29] כללי הקהילה של YouTube נגד מידע כוזב בנושאים רפואיים (Medical misinformation);^[30] או כללי הקהילה של טיקטוק כנגד מידע כוזב אשר כוללים נגיעה מפורשת במידע כוזב הנוגע לחיסונים.^[31]

המציאות היום היא שכללי הקהילה של הפלטפורמות הדיגיטליות הגדולות בישראל ממילא אוסרים על פרסום תוכן בלתי חוקי, ואף על סוגי תוכן מזיקים שאינם בלתי חוקיים או בעלי סיכון לביטחון אישי או לאומי, כגון הפצת שנאה או דיסאינפורמציה בהקשרי בחירות ופוליטיקה.^[32] כל הפלטפורמות המרכזיות משתמשות בשילוב של טכנולוגיות (בדגש על טכנולוגיות בינה מלאכותית ועיבוד שפה טבעית) וכוח אדם אנושי כדי לאכוף באופן פעיל את כללי הקהילה שהן קובעות ולהסיר תכנים או חשבונות שמפירים אותם,^[33] ומעודדות את המשתמשים ואת חברי הקהילה שלהן להשתמש בכלים שהן מספקות כדי לדווח על תוכן וחשבונות שמפירים את כללי הקהילה.

הסיבה להימצאותם של תכנים אסורים ותוכן בלתי חוקי על גבי הפלטפורמות אינה היעדר איסורים או יכולות ניטור מצד הפלטפורמות אלא היעדר תמריצים כלכליים לאכיפה אפקטיבית של המדיניות הזאת באופן גלובלי, עם עלויות ומורכבות ייחודיות של ניטור תוכן בשפות שאינן נפוצות גלובלית.^[34] בפועל, האכיפה שמבצעות רשתות חברתיות ופלטפורמות תוכן גלובליות עשויה אף להשתנות מעת לעת באופן שרירותי בהיקפה ובמידת עוצמתה, לפי החלטת בעליהן. דוגמה עכשווית לכך היא טוויטר שמאז רכישתה על ידי אילון מאסק באוקטובר 2022 נוטה להיענות בהיקף חסר תקדים לדרישות של ממשלות להסרת תכנים ומסירת מידע, לרבות מצד מדינות שטוויטר נהגה לסרב לבקשותיהן בעבר.^[35] הפער שקיים כיום בין הסטנדרטים של מדיניות התוכן וכללי הקהילה הפומביים לבין אכיפה אוטומטית מבוססת כללים שמפעילות הפלטפורמות מוביל לכמה אתגרים ומגבלות אכיפה ברמה הלאומית: (א) הכוונת התנהגות לא אופטימלית וחוסר ודאות משפטית; (ב) תמונת עולם כוזבת למשתמשים ולרגולטורים; (ג) הגבלת יעילותה של רגולציה מדינתית ורגולציה עצמית לאכיפת איסורי תוכן ופעילות אסורה, בעוד מדיניות התוכן החיצונית מבוססת בעיקר על סטנדרטים מופשטים – להבדיל מכללים חד־משמעיים.^[36]

כללים ואכיפה מול חשבונות ופעילות מתואמת או לא אותנטית בהם

נוסף על כללים ומנגנוני ניטור ואכיפה המבוססים על מהות התוכן, הרשתות החברתיות המרכזיות כיום מיישמות גם כללים ומנגנוני אכיפה המבוססים על זהות המפרסם או החשבון ברשת החברתית, כגון כללי הקהילה ומדיניות של Facebook נגד ארגונים ואנשים מסוכנים (Dangerous Organizations and Individuals),^[37] כללי קהילה ומדיניות של YouTube נגד ארגונים קיצוניים או פליליים (Violent extremist or criminal organizations)^[38] או כללי הקהילה והמדיניות של TikTok נגד ארגונים ואנשים אלימים או מונעי שנאה (Violent and Hateful Organizations and Individuals).^[39]

מבין שלל התכנים וההתנהגויות שהפלטפורמות אוסרות בכללי הקהילה שלהן, לענייננו רלוונטיים במיוחד הכללים ומנגנוני האכיפה נגד "התנהגות לא אותנטית מתואמת" (Coordinated Inauthentic Behavior, CIB) או "פעולות השפעה חשאיות" (covert influence operations), ובפרט במקרים של שימוש בכמה חשבונות כדי להשפיע על דעת הקהל ולהטות אותה, בתוך הטעיה של אינדיווידואלים, קהילות או מערכות הפלטפורמה לגבי זהות, מיקום, קשרים, פופולריות או מטרת החשבון.

דרך בחינת נתוני פעילות האכיפה של הפלטפורמות אפשר להבין את היכולות והאתגרים של מדינות דמוקרטיות בשנים האחרונות, שבמהלכן פלטפורמות מרכזיות פועלות לאיתור והסרת תוכן או חשבונות ששימשו למבצעי השפעה סמויה. לצורך הדיון אתמקד בפלטפורמה המרכזית בישראל (ורוב העולם) – Meta (פייסבוק ואינסטגרם), אשר מגדירה CIB, כ"מאמצים מתואמים להטיה או זיהום של השיח הציבורי למטרות אסטרטגיות שבהם חשבונות מזויפים הם אמצעי מרכזי", בתוך אבחנה בין פעולות השפעה מטעם גורמים מקומיים לבין פעולות השפעה מתואמות מטעם ממשלה או גורם מדינתי זר.^[40] הגדרה זו עולה בקנה אחד עם האופן שבו חוקרי הביטחון הלאומי רואים השפעה והתערבות זרה כמתקפה תודעתית שמיועדת לשנות את התפיסות והפעולות של קהל יעד מסוים כדי לקדם את מטרות היוזם, שבדרך כלל הן בניגוד ישיר לאינטרסים הברורים שלו.^[41]

מטא מדווחת על טיפול בכ־200 רשתות השפעה סמויות, שמקורן בלמעלה מ־68 מדינות שונות ואשר פעלו בעשרות שפות^[42] על פי נתוני מטא לשנים 2022–2017. מבצעי השפעה אלו באמצעות פלטפורמות מטא כוונו כנגד יותר מ־100 מדינות ובעיקר נגד ארה"ב (34 מבצעים), אוקראינה (20 ממבצעים) ובריטניה (16 מבצעים), כאשר במקרים רבים רשתות השפעה זרה פועלות בו בזמן מול כמה מדינות מטרה. עוד מלמדים הנתונים, כי המקורות הגאוגרפיים העיקריים של רשתות ההשפעה הזרה שזוהו אותרו ברוסיה (34 מבצעים), איראן (29 מבצעים) ומקסיקו (13 מקרים).

מזווית הביטחון הלאומי ואיומי השפעה מדינתית זרה, חשוב להבחין כי רוב רשתות ההשפעה הסמויות שזוהו והוסרו על ידי Meta בשנים 2022-2017 פעלו מאותה מדינה של קהל המטרה שלהן (64%) ורק 21% מהרשתות פעלו למטרות השפעה זרה ממדינה אחת כלפי קהל מטרה במדינה אחרת. עם זאת, קיימת שונות משמעותית בין אזורים גאוגרפיים: באזורים של אסיה-פסיפיק, אפריקה ואמריקה הלטינית – 90% ממבצעי ההשפעה הסמויים היו פנים־מדינתיים; באזורים של אירופה, המזרח התיכון וצפון אפריקה – כ־66% ממבצעי ההשפעה היו ממדינה זרה לקהל היעד. באופן ייחודי, אזור המפרץ התאפיין במבצעי השפעה סמויה בין־מדינתיים הדדיים, כהרחבה של הגאופוליטיקה בזירה זו. דוגמאות מתוך דוח מטא כוללות, בין היתר: רשת איראנית המבקרת את ערב הסעודית וארה"ב; רשת מסעודיה המבקרת את איראן, קטאר וטורקיה; מבצע ממצרים, טורקיה ומרוקו התומך בקטאר ובטורקיה ומבקר את ערב הסעודית, איחוד האמירויות הערביות (איחוד האמירויות הערביות) וממשלת מצרים; ורשת ממצרים שתומכת באיחוד האמירויות ומבקרת את קטאר וטורקיה.^[43]

בד בבד, Meta ופלטפורמות מרכזיות נוספות פועלות באופן ספורדי כדי למנוע שימוש לרעה בפלטפורמות שלהן לשיבוש או מניפולציה של תהליכי בחירות לאומיים, במדינות כמו ארה"ב, הודו או ברזיל, מדינות אירופה ואחרות.^[44] על פי פרסומיה, פעולותיה של מטא להתמודדות עם איומים אלו כוללות השקעה בטכנולוגיה ובצוותים אשר יגנו על הבחירות; יצירת שיתוף פעולה עם הרשויות ובודקי עובדות עצמאיים לצורך אספקת מידע אמין בנושא הבחירות וכדי להילחם במיסאינפורמציה; והקמת מרכז פעולה לטיפול בבחירות אשר יזהה סכנות בזמן אמת ויהיה אמון על קיצור זמני הטיפול והסרת התוכן הנדרשים.^[45] באופן דומה, גם TikTok קובעת ואוכפת כללי קהילה נגד הפצת דיסאינפורמציה שעלולה לפגוע בתהליכים ובמוסדות דמוקרטיים (לרבות בקשר לבחירות),^[46] ופועלת עם הממשל האמריקני למניעת פעולות השפעה זרה מדינתיות.^[47] נוסף על כך להבדיל מפלטפורמות Meta, טיקטוק גם אוסרת על קידום ממומן של תעמולה או פרסומות פוליטיות, לרבות גיוס כספים על ידי פוליטיקאים וממשלות.^[48]

כמכלול, פעילות הפלטפורמות כנגד התנהגות לא אותנטית מתואמת או פעולות השפעה חשאיות מתאפיינת בקביעת איסורים פומביים עבור המשתמשים, עם גישה פרואקטיבית לזהות ולחסום רשתות השפעה סמויות הפועלות מטעם מדינות זרות כנגד מדינות היעד שלהן (להבדיל ממבצעי השפעה סמויה שמקורם בתוך מדינת המטרה). הפלטפורמות נוקטות גם צעדי אכיפה וניטור מיוחדים לקראת מערכות בחירות לאומיות או מבצעי השפעה זרה שזוהו בחודשים הראשונים של מלחמת חרבות ברזל.^[49]

מגמות אלה משקפות את המודעות הגוברת של הפלטפורמות להשפעתן על החברה והמשטר, ומחייבות מדיניות ביטחון לאומי מותאמת למציאות הדיגיטלית ולשיתופי פעולה עם גופים טכנולוגיים. עם זאת, יש לזכור כי מדובר בנתונים המסופקים על ידי הפלטפורמות עצמן באופן וולונטרי, ולכן קיים חשש כי התמונה אינה מלאה וכי קיימים פערים משמעותיים ביכולתן לזהות ולחסום באופן מלא איומים אלו.

השפעה והתערבות זרה גלויה מצד ענקיות הרשת בזירה הגאו־פוליטית מאז מלחמת רוסיה-אוקראינה

השפעה או התערבות זרה בדעת הקהל או פעולות הממשל במדינה ריבונית יכולות להתבצע גם באופן גלוי ואפקטיבי על ידי הרשתות החברתיות וענקיות הטכנולוגיות הגלובליות, כנגד מדינות המפירות את הדין הבין־לאומי או מגלות תוקפנות בלתי מוצדקת. רשתות חברתיות כמו פייסבוק או טוויטר יכולות להשבית לחלוטין את הגישה לשירותיהן עבור מדינה מסוימת או לחסום תפוצה של ערוצים וחשבונות ספציפיים עבור משתמשים באותה מדינה, בדומה לסנקציה ולמחירים הלאומיים של ניתוק מדינה ואזרחיה ממערכת הסליקה הבין־לאומית, הקפאת נכסים פיננסיים או איסורים על עסקאות מול מוסדות המדינה או תאגידים הרשומים בה. במקרה של רוסיה, הפלטפורמות קידמו שורת צעדים רכים לצמצום התפוצה של ערוצי התעמולה, כגון מניעת פרסומים ממומנים או ביצוע בדיקת עובדות לתוכן העמודים: Google הודיעה על חסימת ערוצים של גופי תקשורת ממלכתיים ברוסיה בפלטפורמת Youtube וחברת Meta הודיעה כי היא מגבילה את תפוצת התכנים של הממשל הרוסי בפייסבוק עבור כלל המשתמשים בפלטפורמות שלה. פוטנציאל ההשפעה של תאגידי הטכנולוגיה הגלובליים אינו נחלתן של הרשתות החברתיות בלבד, כאשר גם ספקיות גלובליות של תשתית אינטרנט בין־יבשתית (Internet Backbone) כדוגמת Cogent -Lumen אשר הצהירו על כוונתן לנתק ארגונים בבעלות מדינה הפועלת בניגוד למשפט הבין־לאומי או מגלה תוקפות – כפי שראינו בתחילתה של מלחמת רוסיה-אוקראינה בשנת 2021.

כך, חברות וארגונים פרטיים מסוגלים להשפיע עמוקות על היכולת של תושבי מדינה ריבונית לגלוש באינטרנט ולהתחבר לכלל השירותים המוצעים בו וכפועל יוצא – על דעת הקהל או מדיניות הממשל. בשונה מסנקציות כלכליות, נדמה שבמקרה של סנקציות דיגיטליות, הכוח והנכונות של גופים פרטיים להפעילן עולה על אלה של מדינות. התפתחות עכשווית זו בזירה הגאו־פוליטית מחייבת את ישראל להיערך מבחינה ביטחונית ואזרחית לתרחיש קיצון כזה שבו ענקיות הטכנולוגיה הגלובליות עשויות "לנתק" ישות מדינתית שנתפסת ציבורית כמפירה את הדין הבין־לאומי.^[50] מידת ההשפעה של סנקציות מסוג זה על הציבור הישראלי והמדיניות הלאומית תלויה כמובן בזהות החברה, אבל חשוב להכיר כי הכוח הקולקטיבי של חברות אינו שולי. האם הדבר יטה את הכף באופן שישפיע על מהלכים גאו־פוליטיים גלובליים? כנראה שלא. האם צעד כזה תואם במידה רבה את הרוח והמטרות של הסנקציות הכלכליות שהטילו מדינות העולם? נדמה שכן.

חשוב לציין: לא כולם מסכימים עם שינוי התפיסה הזה. כיום, ניטרליות ברמת התשתית ממשיכה לשלוט בשיח על אודות סנקציות דיגיטליות. ארגון ICANN לדוגמה, האחראי על ניהול שמות המתחם וכתובות האינטרנט ברמה הגלובלית, סירב לבקשת ממשלת אוקראינה לנתק את הגישה של רוסיה ל־DNS, הגם שהכיר ביכולתו התיאורטית לעשות זאת.^[51]

ג. תמונת מצב ואתגרים לאומיים בישראל: היקפי חדירה עצומים של רשתות חברתיות גלובליות ומגבלות אכיפה מדינתית

היקפי חדירה עצומים של רשתות חברתיות גלובליות כזירה לעיצוב תודעה

כדי לספק מענה לאיום הייחוס של השפעה והתערבות זרה באמצעות הרשתות החברתיות, חיוני להתבסס על תמונת מצב עדכנית באשר לכוחם היחסי של האינטרנט והרשתות החברתיות בתודעה הישראלית, אל מול מקורות חלופיים לחדשות ומידע ברמה הלאומית, כמו העיתונות המודפסת והמשודרת. פלטפורמות התוכן הדיגיטליות ובראשן הרשתות החברתיות מהוות כיום את הזירה המרכזית לפעילות חברתית וכלכלית ברוב הדמוקרטיות המערביות, אך בישראל היקף החדירה של הפלטפורמות הגלובליות ואפליקציות להעברת מסרים מיידים הוא עצום בהשוואה למדינות העולם. עוד בשנת 2019 התאפיינה ישראל בהיקף שימוש רחב במיוחד ברשתות חברתיות של 83% מכלל האוכלוסייה הבוגרת, שנייה רק ללבנון (87%), והרבה מעל קנדה,  ארה"ב ואוסטרליה (73%), רוסיה (64%) או גרמניה (52%).^[52] מצב זה נובע מהחדירה הגבוהה של אינטרנט בישראל בהשוואה למדינות העולם, בעיקר באמצעות טלפונים חכמים.^[53] הנתונים העדכניים משנת 2023 מלמדים על היקפי החדירה העצומים של רשתות חברתיות ואפליקציות מסרים מיידיים בישראל וכפועל יוצא – היקף האיום הפוטנציאלי של השפעה זרה באמצעותן:^[54]

עם תמונת המצב הכללית, מחקרי הנתונים שלנו מזהים הבדלים משמעותיים בין קבוצות דמוגרפיות שונות באוכלוסייה הישראלית, במיוחד בנוגע לרשתות חברתיות בינוניות כמו טיקטוק וטוויטר: שיעורה של החברה הערבית בשימוש יום-יומי ב־TikTok גבוה פי שלושה בהשוואה לחברה היהודית-דתית ועומד על 32%, לעומת רק 9% אצל יהודים-חרדים ו־16%–22% אצל חילונים מסורתיים ודתיים. כמו כן, השימוש היום-יומי ב־TikTok פוחת עם רמת ההשכלה (28% מתוך בעלי השכלה תיכונית משתמשים בו באופן יום-יומי, 20% מבעלי השכלה על־תיכונית ו־16% מבעלי השכלה אקדמאית). עוד מלמדים הנתונים כי השימוש ברשת החברתית טוויטר נפוץ יותר בקרב בעלי הכנסת משק בית גבוהה בהרבה מהממוצע, כאשר 26% מהם עושים בטוויטר שימוש יום-יומי, לעומת 4%–10% בלבד בקרב בעלי ההכנסות הנמוכות יותר.

הבדלים בין קבוצות דמוגרפיות בישראל ניכרים גם במרכזיות הרשתות החברתיות כמקור עיקרי לצריכה של חדשות ומידע: לפי נתוני למ"ס, בעוד העיתונות הממוסדת שומרת על מעמד מרכזי כמקור למידע וחדשות עבור כלל האוכלוסייה (כ־38% מהציבור לעומת כ־7% שעבורם הרשתות החברתיות הוא המקור המרכזי). ^[55]בשנת 2020, האמצעים העיקריים לצריכת חדשות על ידי האוכלוסייה הבוגרת בישראל הם הטלוויזיה ואתרי אינטרנט של העיתונות הממוסדת בישראל (כ־38% מהציבור), הרבה מעל הרדיו (כ־7%), הרשתות החברתיות (7%) והעיתונות המודפסת (כ־4%). ככל שעולה גיל המשתמשים/נבחנים/משתתפים בסקר, ניכרת העדפה לצריכת חדשות בטלוויזיה, וההעדפה של אתרי חדשות באינטרנט הולכת ופוחתת, כאשר בגיל 65 ומעלה, כ־64% צורכים חדשות בעיקר מהטלוויזיה ו־15% בלבד מאתרי החדשות באינטרנט. כמו כן ככל שעולה הגיל, יורדת העדפת אתרי חדשות באינטרנט כמקור עיקרי לחדשות, אך היא נפוצה יותר בקרב בעלי השכלה אקדמית. לעומת זאת עולה כי מיעוטים תרבותיים או אתניים מסתמכים במידה רבה יותר על הרשתות החברתיות כמקור מרכזי למידע וגיבוש תמונת עולם – בדומה לנתונים הגלובליים לגבי מאפייני השימוש של מיעוטים תרבותיים או פוליטיים.^[56]

מגבלות ניטור ואכיפה של הזירה הישראלית: היעדר אסדרה מדינתית וכשלי אכיפה של הפלטפורמות מול תוכן אסור או בלתי חוקי בעברית

אל מול החדירה העצומה של הפלטפורמות הגלובליות בישראל, תמונת המצב של הפיקוח והרגולציה על הסיכונים החברתיים של פלטפורמות תוכן ורשתות חברתיות גלובליות אינה חיובית. היעדר הסדרה חקיקתית ברמה המדינתית היא בעייתית במיוחד בזירה הישראלית, מכיוון שמערכות הניטור והאכיפה שמפעילות הפלטפורמות נגד תוכן ופעילות אסורים מופנים בעיקרם לתוכן בשפה האנגלית ולזירה האמריקנית.

בשנת 2023, 87% מהתקציב העולמי של פייסבוק לצורך התמודדות עם חדשות כוזבות הושקע בתוכן שמפורסם בארה"ב.^[57] התמקדות זו בשפה האנגלית מובילה להזנחה של האכיפה בכל הנוגע לתוכן בשפות אחרות, ובפרט בעברית. לראיה, בבדיקה שממצאיה הועברו ל־Meta במכתב מטעם איגוד האינטרנט הישראלי, נמצאו כשלי אכיפה רבים ומובהקים לגבי תוכן בשפה העברית, שכללו התעלמות למעשה מהפרות מובהקות, חוזרות ונשנות של כללי הקהילה.^[58] לדוגמה, תועדו מאות חשבונות בשפה העברית המפירים באופן מובהק את הכללים בנושא אמינות ואותנטיות, ואינם מוסרים על ידי הרשת החברתית גם לאחר דיווח אקטיבי של משתמשים. פייסבוק אף אינה מפרסמת נתונים לגבי היקף האכיפה שביצעה ביחס למשתמשי הפלטפורמה שמקורם בישראל או בשפה העברית, אף שהיא מפרסמת נתונים אלו לגבי מדינות כמו הודו וגרמניה.^[59] מכאן ניכר כי האכיפה של Meta אינה זהה ושוויונית בין משתמשיה, ובהקשר הישראלי אף לוקה בחסר באופן משמעותי.

ד. איך מחזקים את ההתמודדות המדינתית של ישראל

נוכח מרכזיותן של הרשתות החברתיות בחיי החברה והכלכלה של ישראל והתבססותן כערוץ מרכזי של שיח ציבורי ומקור מידע חליפי עבור האזרחים, ישראל חייבת להחיל אסטרטגיה לאומית מקיפה כדי למנוע החדרה נוספת שמכוונת לשבש את התקשורת החברתית והיציבות הפוליטית. בעוד ישראל מתמודדת היטב עם זירת האינטרנט בהגנה מפני מתקפות סייבר, טרם גובש מענה תכנוני או מבצעי אל מול המקרים של פעולות השפעה זדוניות מצד גורמים מדינתיים, שמכוונות לאזרחי ישראל במדיה החברתית. ^[60]בזירת החקיקה והרגולציה, ישראל נדרשת ויכולה להסדיר ולחדד את מערכת היחסים בין הפלטפורמות הדיגיטליות לבין ציבור המשתמשים ורשויות הביטחון והאכיפה המקומיות – בתוך תאימות לכללים ולמסגרות האכיפה הלאומיות שנקבעו בשנה האחרונה בזירה הגלובלית. האתגרים משמעותיים, אך אפשר להתגבר עליהם באמצעות כלים טכנולוגיים ומשטר אחריות ורגולציה על הפלטפורמות הדיגיטליות בישראל:

פיתוח רגולציה ומשטר אחריות של הפלטפורמות הדומיננטיות בישראל בתאימות ל־DSA

לנוכח מרכזיותן של הרשתות החברתיות בחיי החברה והכלכלה מתגבשת בשנים האחרונות ההבנה שיש לחדד ולתקן את משטר האחריות שלהן כלפי משתמשים וכלפי רשויות מדינתיות. הצורך בבחינה מחודשת של אחריות הפלטפורמות לפעילות פלילית או מזיקה מצד המשתמשים בהן נובע בעיקרו מכך שמפעילי שירותים אלו הם לרוב "מונעי הנזק" האפקטיביים ביותר ביחס לתוכן בלתי חוקי או מזיק. במציאות של חסינות מלאה מאחריות לתוכן בלתי חוקי או מזיק שמיוצר על ידי משתמשים בפלטפורמות, שיקול הדעת בכל הנוגע לאיתור כללי ההתנהגות ולאכיפתם נתון כמעט אך ורק בידיהן, ואין עליו כל פיקוח.

מציאת האיזון המתאים שבמסגרתו ימשיכו הפלטפורמות ליהנות מחסינות מסוימת, ההכרחית לפעילותן, אך יהיו נתונות לביקורת ולסנקציות אם הן מתרשלות במאמציהן לצמצום ההשלכות השליליות הנוצרות מהן, הוא אחד האתגרים הגדולים של העידן הזה. לשם השגת איזון כזה נדרש לעצב מחדש את מערכת היחסים בין הפלטפורמות למדינה ובינן לבין הציבור. הממצאים מראים כי מדינות מערביות נוטות להתמודד עם סכנת הדיסאינפורמציה ברשתות החברתיות ופגיעתן האפשרית בבחירות באמצעות קמפיינים לאוריינות תקשורת, שיתופי פעולה עם ארגוני חברה אזרחית והצעות חוק הנוגעות למידע כוזב בבחירות ושקיפות פרסום פוליטי.^[61] מנגד, מדינות לא מערביות נוטות יותר לחוקק הגבלות וסנקציות קשות נגד מידע כוזב, כגון חקיקת חוקים מגבילים המפלילים "חדשות כזב" ומבצעות מעצרים, ניתוקי אינטרנט, והגברת רגולציה תקשורתית.^[62] לדוגמה, מצרים חוקקה חוק "חדשות כזב" שהוביל למעצרים רבים, הודו ניתקה את האינטרנט למעלה מ־100 פעמים, וטנזניה דורשת תשלום עבור רישוי בלוגרים.

בישראל כדאי לעשות זאת בתאימות למסגרות שעוצבו בזירה הגלובלית ובראשן ה־Digital Services Act (DSA) שנכנס לתוקפו השנה באיחוד האירופי, שמגדיר מחדש את מערכת היחסים בין הפלטפורמות לציבור ולממשל, אגב קביעת מדרג אחריות לסוגי השירותים השונים והטלת חובות מוגברות על פלטפורמות דומיננטיות. בכלל זה ה־DSA מטיל חובות פרוצדורליות על הפלטפורמות בכל הנוגע לקבלת צווים שיפוטיים ומדינתיים המורים על הסרת תוכן בלתי חוקי או העברת מידע על משתמש או על חשבון בפלטפורמה, בתוך שמירה על חופש הביטוי ויצירת מנגנוני איזון שימנעו שימוש לרעה של גורם ממשלתי בכפיפות הפלטפורמות לדין.^[63]

ראוי לעגן בישראל הסדר תואם להסדרת ממשקי הפלטפורמות עם רשויות האכיפה והרגולציה המדינתיות, לרבות כפיפות הפלטפורמות לדין המקומי ויצירת מנגנון להחלת צווים שיפוטיים על מפעילות הפלטפורמות ואת האבחנה הרגולטורית בין הנורמות ומשטרי האסדרה המתאימים לסוגים שונים של מתווכים דיגיטליים אותם קובע ה־DSA:

• שירותי תיווך ברמת התשתית (Intermediary services): שירות "צינור בלבד" (mere conduit) הכולל העברת רשת תקשורת של מידע המסופק על ידי מקבל השירות או מתן גישה לרשת תקשורת (למשל, ISPs); או שירות "מטמון" (caching) הכולל העברת רשת תקשורת של מידע המסופק על ידי מקבל השירות, הכולל אחסון אוטומטי, בינוני וזמני של מידע זה, רק כדי לייעל את העברת המידע הלאה אל נמענים אחרים על פי בקשתם (למשל, CDNs).
• שירותי אירוח (Hosting services), כגון שירותי ענן, אחסון אתרים: חברות שמאחסנות מידע ועל כן הן אינן רק מתווכות, ומצד שני, הן אינן פלטפורמות אינטרנטיות מכיוון שאינן מפיצות את המידע לציבור.
• פלטפורמות אינטרנטיות (Online platforms) המפגישות בין מוכרים וצרכנים או מספקות שירות אירוח אשר, לבקשת מקבל השירות, מאחסן ומפיץ מידע לציבור הרחב. למשל, חנות אפליקציות, מדיה חברתית. שירותי סיווג כפלטפורמה, אם מדובר בשירות אירוח אשר לבקשת מקבל השירות, מאחסן ומפיץ מידע לציבור, למעט אם פעילות זו היא תכונה מינורית ומשמשת כעזר בלבד של שירות אחר (אי־אפשר להשתמש בה ללא אותו שירות אחר).
• פלטפורמות אינטרנטיות גדולות מאוד ומנועי חיפוש גדולים מאוד (יותר מ־45 מיליון משתמשים באירופה): הפלטפורמות שהוכרזו כפלטפורמות גדולות מאוד, ועליהן תחול במלואה האסדרה שתפורט להלן, הן: Ali Express, Amazon Marketplace, Apple App store, Booking.com Facebook, Google Maps, Google Play, Instagram, Linkedin, Pinterest, Snapchat, TikTok, Twitter, YouTube Wikipedia. נוסף על כך מנועי החיפוש של Bing ו־Google יוגדרו כמנועי חיפוש גדולים מאוד על בסיס ההבנה שכיום אלגוריתמים הם שמתווכים בין המציאות ובין המשתמשים ברשתות החברתיות – ומכיוון שהם אלו אשר שולטים ב"פיד" הידיעות של המשתמשים, הם מחזיקים בכוח משמעותי לעיצוב עמדות ורחשי לב, ולעיתים אלו עשויות להיות עמדות קיצוניות שמובילות להסתה, אלימות וקיטוב.^[64] הרציונל של האבחנה בין סוגי שירותים על בסיס פונקציונליות וגודל הוא יעילות ומידתיות. כלומר הכרה ששירותים דיגיטליים שונים משפיעים על הציבור בדרכים שונות, בצד קביעת "חובות בסיס" החלות על כלל השחקנים הרלוונטיים. בפרט, האבחנה בין פלטפורמות אינטרנטיות "רגילות" ו"גדולות מאוד" ומתן המשקל האסדרתי לאלו האחרונות, נועדה לאפשר התפתחות של חברות קטנות באמצעות הקלת הנטל הרגולטורי למינימום ההכרחי.^[65]

חובות הבסיס של רגולציית ה־DSA עבור כל סוגי השירותים המקוונים (תיווך, אירוח ופלטפורמות):

• חובת הצגת תנאי השירות ושמירה על זכויות יסוד של משתמשים (סעיף 14): כלל הגופים מחויבים להציג באופן ברור את תנאי השימוש בפלטפורמה ואת דרכי הפעולה שלה, בכל השפות של המדינות שבהן פועלים הגופים. כמו כן, יש לאכוף תנאים אלו בהגינות ומידתיות ביחס לזכויות ולאינטרסים של כל הגורמים המעורבים, לרבות זכויות חוקתיות של צרכני השירותים.
• חובות דיווח ושקיפות על פעילות ניהול תוכן (סעיף 15): כלל הגופים מחויבים לפרסם לפחות פעם בשנה, דוחות ברורים, מובנים ופשוטים אשר מכילים את כלל הליכי ניהול התוכן (השעיה, הסרה, הסתרה, ערעורים וכולי) שביצעו במהלך תקופה זו. חברות קטנות פטורות מחובה זו.

חובות נוספות שחלות על שירותי אירוח (hosting), לרבות פלטפורמות מקוונות:

• מנגנוני התרעה וחובת הנמקה למשתמשים (סעיפים 16–17): חובה על גופים אלו להציב מנגנונים שיאפשרו לכל אדם או ישות, להודיע ולהתריע ​​על תוכן בלתי חוקי; חובה על גופים אלו, להודיע ולספק הסבר למשתמש אשר נמנעת ממנו גישה למידע או לשימוש בפלטפורמה.
• מדווחים אמינים (trusted flaggers) (סעיף 22): חובה על גופים אלו לנקוט את האמצעים הטכניים והארגוניים הדרושים כדי להבטיח שהודעות הנוגעות לתוכן בלתי חוקי אשר נשלחו על ידי מדווחים אמינים יעובדו ויוחלט עליהם בעדיפות וללא דיחוי.
• חובות שקיפות על פעילות האכיפה (סעיף 24): חובת דיווח עיתית על מספר הגישורים, הרחקות משתמשים, הסרת תוכן וכולי. חברות קטנות פטורות מחובה זו.
• השעיית חשבון עקב פעילות בלתי תקינה (סעיף 23): חובה על גופים אלו להשעות מקבלי שירות המספקים תכנים בלתי חוקיים או אשר מדווחים האשמות שווא באופן סדרתי, לאחר שהמשתמש קיבל אזהרה.
• חובת שקיפות על פרסומות, מפרסמים ומערכות המלצה (סעיפים 27-24)
• עיצוב ממשק משתמש (סעיף 25): נקבע איסור על גופים לתכנן, לתפעל או לעצב את ממשקם באופן שמטעה, מתמרן או מעוות באופן מהותי או פוגע ביכולת של מקבלי השירות לקבל החלטות חכמות וחינמיות. עם זאת, חברות קטנות פטורות מחובה זו.

כפי שחוקרים וארגוני חברה אזרחית בישראל מובילים הצביעו בשנים האחרונות יש לעצב את מסגרת הרגולציה על תוכן בלתי חוקי ואחריות על סוגים שונים של שירותים מקוונים לתוכן המועבר באמצעותם, בתאימות להסדרים אלו של חקיקת ה־DSA.^[66] לכל הפחות, האסדרה הישראלית של רשתות חברתיות ומשטר האחריות שלהן לתוכן בלתי חוקי או מזיק נדרשת לעסוק במישורים האלה (ובהם בלבד כדי להבטיח לגיטימיות חוקתית): חיוב הפלטפורמות באכיפה אפקטיבית ושוויונית של כללי התוכן והשימוש שהן מפרסמות; ^[67] תיקון פערי מידע ומיקוח בין הפלטפורמות למשתמשים; ^[68] הבטחת זכויות פרוצדורליות של הליך הוגן ושקיפות עבור משתמשים על פעילות האכיפה של הפלטפורמות כלפי תוכן או חשבון בגין הפרה של תנאי השימוש או כללי הקהילה.^[69]

פיתוח סמכויות ופרוצדורה ייעודיות לגורמי ביטחון ואכיפה ישראליים מול ענקיות הרשת

בהיעדר אסדרה חקיקתית ייעודית, הזירה הישראלית מתאפיינת בגבולות גזרה מטושטשים בין רשויות אכיפת החוק כמו משטרת ישראל ומחלקת הסייבר בפרקליטות המדינה לבין גופי הביטחון, בכל הנוגע לאיתור ומניעה של פגיעה בביטחון המדינה על ידי בודדים או ארגונים, מכיוון שאיומי ביטחון לאומי כמו מגע עם סוכן חוץ, הפרעה לבחירות או פגיעה בהן, תעמולה סמויה, הסתה לאלימות או תמיכה בטרור, הם עבירות פליליות. במציאות זו מתהוות פרקטיקות חדשות של שיתופי פעולה וחלוקת אחריות ממסדית, כאשר שירותי הביטחון אחראים בפועל על איתור התכנים והחשבונות המעורבים ואילו גופי אכיפת החוק (בעיקר מחלקת הסייבר בפרקליטות המדינה), פועלים מול הפלטפורמות בבקשות להסרת תוכן או מסירת פרטים מדינתיות מישראל.^[70]

להבדיל ממדינות מתקדמות כמו האיחוד האירופי, גרמניה או בריטניה – בישראל לא התקיימה עד כה חקיקה שמסדירה את מערכת היחסים והחובות בין הפלטפורמות הגלובליות לרשויות אכיפה וביטחון, בהקשרים של הסרת תוכן מסוכן או קבלת מידע על משתמשים וחשבונות. גם במישור זה של אסדרה משפטית וחקיקה ראוי לאמץ בזירה הישראלית הסדרים תואמים לאלו שקובעות חקיקת ה־DSA ביחס לתוכן בלתי חוקי ושיתוף פעולה עם רשויות חקירה ואכיפה מדיניות מוסמכות:

שיתוף פעולה עם רשויות לאומיות בהתאם לקבלת צווים מרשות מוסמכת (סעיפים 9–10): כלל הגופים מחויבים לפעול כנגד פעילות בלתי חוקית ללא עיכוב כאשר הם מקבלים צו מהרשויות המתאימות הדורש זאת. כלל הגופים מחויבים לספק מידע על לקוח או משתמש כאשר הם מקבלים צו מהרשויות המתאימות אשר דורש זאת.

ערוצי קשר ייעודיים לרשויות ונציגות משפטית (סעיפים 11–13): כלל הגופים מחויבים לספק נקודת קשר דיגיטלית שתהיה במגע עם הרשויות ונקודת קשר דיגיטלית למשתמשי השירות אשר לא תהיה בכללותה אוטומטית. כלל הגופים, כולל אלו אשר אין להם מוסד בגבולות האיחוד, צריכים שיהיה להם נציג משפטי באחת ממדינות האיחוד האירופי.

דיווח על חשש לפעילות בלתי חוקית (סעיף 18): חובה על גופים אלו לדווח על חשש לפעילות לא חוקית אשר מהווה סכנה לחיי או בטיחות אדם לרשויות האכיפה.

זיהוי סיכונים וניהולם (סעיפים 35-34): חובה לאתר ולמנוע סיכון מערכתי משמעותי הנובע מהשימוש בשירותיהם, לרבות: הפצה של תוכן בלתי חוקי באמצעות שירותיהן; כל פגיעה או השפעה שלילית על מימוש זכויות היסוד לכבוד, מידע אישי, חופש הביטוי והמידע,; השפעה שלילית ממשית או עתידית על ההגנה על בריאות הציבור, קטינים, שיח אזרחי, אלימות מגדרית, בריאות גופנית ופיזית של בודדים, תהליכי בחירות וביטחון הציבור.^[71]

שיתוף מידע עם רשויות אכיפת החוק (סעיף 40): פלטפורמות גדולות מאוד יחויבו לספק לגורם הרגולטורי הרלוונטי גישה לנתונים הדרושים כדי לפקח ולהעריך את העמידה בהוראות החוק. נוסף על כך יצטרכו החברות לספק לחוקרים גישה למידע כדי שיוכלו להבין ולחקור את הסיכונים הקיימים.

***

בעוד ישראל מתמודדת היטב עם זירת האינטרנט בהגנה מפני מתקפות סייבר, טרם גובש מענה תכנוני או מבצעי אל מול המקרים של פעולות השפעה זדוניות מצד גורמים מדינתיים שמכוונות לאזרחי ישראל במדיה החברתית. מעבר להמלצה הברורה לעגן בחקיקה הישראלית דרישות דומות כלפי הפלטפורמות הדומיננטיות, דוחות השקיפות והסיכונים המערכתיים שהחלו להוציא הפלטפורמות הגדולות עם כניסתו לתוקף של ה־DSA באוקטובר 2023, משמשים מקור מודיעיני ומחקרי חשוב לגיבוש תמונת המצב הלאומית מול איומי השפעה זרה באמצעות הרשתות החברתיות.^[72]

במציאות חדשה זו, רשויות הביטחון ואכיפת החוק בישראל נדרשות לפתוח את האסטרטגיה והמודיעין שלהן בהיערכות מול מבצעי השפעה זרה ועבירות ביטחון בכלל בזירת הרשתות החברתיות על בסיס המידע והנתונים שפלטפורמות ושירותים אינטרנטיים נדרשים לספק באופן שוטף מאז כניסתה לתוקף של חקיקת ה־DSA באוקטובר 2023 והדוחות הבאים שהפלטפורמות צפויות לפרסם באפריל 2024. בזירת החקיקה והרגולציה, ישראל נדרשת ויכולה להסדיר ולחדד את מערכת היחסים בין הפלטפורמות הדיגיטליות לבין ציבור המשתמשים ורשויות הביטחון והאכיפה המקומיות – בתוך תאימות לכללים ולמסגרות האכיפה הלאומיות שנקבעו בשנה האחרונה בזירה הגלובלית. האתגרים משמעותיים, אך הם ניתנים להתגברות באמצעות כלים טכנולוגיים ומשטר אחריות ורגולציה על הפלטפורמות הדיגיטליות בישראל.

סיכום

אל מול האתגרים של השפעה זרה וצורות אחרות של נזק דיגיטלי שמאפשרת התפוצה של הרשתות החברתיות, מחקר ועיצוב מדיניות של ביטחון לאומי בישראל מחייב יכולות טכנולוגיות, שיתוף פעולה עם תעשיית הטכנולוגיה וארגוני חברה אזרחית והקניית אוריינות מידע ויכולות לציבור, בתוך שמירה על עקרונות דמוקרטיים של הליך הוגן, חופש ביטוי ושקיפות. מאמר זה מבקש להעשיר את הדיון הביטחוני והמשפטי על הסיכונים והאיומים הייחודיים של המרחב המקוון עבור הציבור הישראלי ומציע לגופי הביטחון והמחקר הישראליים ארגז כלים רעיוני ואמפירי להבנת המישורים השונים של השפעה והתערבות זרה באמצעות הרשתות החברתיות, עם המשמעויות המגוונות שלהם עבור רשויות אכיפה וביטחון מדיניות בישראל.

אחד הגורמים לקושי של גורמי ביטחון ומודיעין מודיעין לעסוק בהשפעה זרה שאינה לגיטימית על השיח הפוליטי הוא העובדה שפעילות חתרנית כזו משתלבת בהכרח במסרים פוליטיים המועברים בזירה הפנימית, שעליהם ולגביהם אין במשטר דמוקרטי סמכות ועניין להפעיל פיקוח.^[73] השיח ברשתות החברתיות הפך בחלוף השנים למרכיב מרכזי בשיח החברתי בעולם, ולכן — לבעל חשיבות מן המעלה הראשונה לדמוקרטיה. שמירה על ערוץ שיח פתוח וחופשי זה, ככל האפשר, חיונית לשם הגנה על חופש הביטוי שהוא אבן יסוד בכל חברה דמוקרטית.

בתנאים אלו, התמודדות של מדינות דמוקרטיות מול האיום של השפעה והתערבות זרה בתוך ניצול כללי המשחק הדמוקרטיים וחופש הביטוי שמאפשרות פלטפורמות תוכן ומסרים, מחייבת שיתוף פעולה עם ארגוני חברה אזרחית ומחקר אינטרנט כדי להגדיר את האיום, לרכז מודיעין ותמונת מצב של השיח ברשתות החברתיות הדומיננטיות בישראל, ולהתמודד איתו באמצעים טכנולוגיים והסברתיים. כדי שנוכל לעצב מדיניות ורגולציה אפקטיביים בזירה הישראלית, נדרש קודם כול להבחין בין סוגים שונים של איומים או סיכונים לביטחון אישי ולאומי שמאפשרות רשתות חברתיות ופלטפורמות תוכן מקוונות; סיכון תודעתי של החלפת אמצעי התקשורת המקומיים כשומרי סף של חדשות ומידע לציבור; נזקים קולקטיביים של קיטוב, הקצנה ושחיקה דמוקרטית; וערוצי השפעה והתערבות זרה גלויים מצד חברות הטכנולוגיה הגלובליות, נגד מדינות הנתפסות כמפירות את הדין הבין־לאומי. בהתאמה, גם המחקר והפרקטיקה של ביטחון לאומי בישראל נדרשים להכיר את היקף הכוח והיכולות של ענקיות הטכנולוגיה המפעילות את הרשתות הדומיננטיות לקבוע ולאכוף כללי תוכן והתנהגות של משתמשים.

תמונת המצב העדכנית שנפרסה במאמר על איומי הייחוס והשחקנים הרלוונטיים במרחב הביטוי המקוון וטיב מערכת היחסים בין הפלטפורמות הגלובליות למשתמשים ובינן לבין רשויות האכיפה והרגולציה בישראל, אינה חיובית. היעדר אסטרטגיה ממשלתית כוללת להדיפת מבצעי ההשפעה זרה המכוונים נגד אזרחי ישראל, כדוגמת מבצעי ההשפעה האיראניים בשנים האחרונות, קורא לפעולה מיידית בכמה מישורים: ברמה הלאומית על ישראל לקדם בחקיקה אסדרה של התחום, כמפורט לעיל על פי הדוגמה של ה־DSA, ולהקים מרכז ייעודי להתמודדות עם מבצעי השפעה, על בסיס הניסיון המקומי והעולמי שהוכיח את יעילותם של מרכזים אלה בבלימת מבצעי השפעה זרים, בשילוב עם הגורמים המתאימים בקהילת המודיעין. חברות מדיה חברתית, מצידן, חייבות לשפר את היכולת שלהן לאתר ולמנוע סיכונים ושימוש לרעה מצד משתמשים אחרים ומפני אמצעים מתואמים להפצת דיסאינפורמציה. חברות אלה חייבות להגדיל את מספר האנשים והמשאבים שהן מקצות לאזור כדי להילחם במידע שגוי ובגורמים המפירים את תנאי השימוש שלהן. הן חייבות גם לפתוח את הנתונים שלהן כדי שחוקרים עצמאיים יוכלו לנטר בצורה טובה יותר פעילות פוטנציאלית מסוכנת.

יותר מכול המחקר מדגיש כי בעיות מדיה חברתית הן אנושיות ולא תופעות טבעיות, המוּנעות לא רק על ידי החלטות להגביר את המעורבות והכנסות הפרסום. לכן עלינו להבין שכלים רגולטוריים או טכנולוגיים אינם תחליף לחינוך לחשיבה ביקורתית ולהקניית אוריינות דיגיטלית לציבור ברמה הלאומית. חיוני להמשיך לחשוף פעולות כאלה כדי לצמצם את השפעתן הפוטנציאלית ולהדגיש את החשיבות של אבחנה בין מקורות מידע וביקורת כלפיהם בעידן המדיה הדיגיטלית. פעולות אלו הן שיקבעו את החוסן הלאומי מול השפעה זרה ופעילויות מזיקות שפלטפורמות ושירותי מסרים מקוונים מאפשרים כיום. טכנולוגיה יכולה לעזור, אך עיקר העבודה חייבת להיעשות על ידי בני האדם.

___________________

* מאמר זה הינו חלק ממזכר העוסק בהשפעה והתערבות זרה כאתגר אסטרטגי, העתיד לצאת לאור בקרוב. המזכר כולל מאמרים הבוחנים את האתגר מנקודת מבט של יריבים (דוגמת רוסיה, איראן וסין), ודן בהיבטי אופן ההשפעה (בכלל זאת באמצעות סוכני השפעה אנושיים ובתווך הכלכלי או האקדמי). כן תיכלל בו בחינת האתגר בשגרה וגם בעת שיבוש תהליכים דמוקרטיים, העמקת שסעים חברתיים, מערכות בחירות ואף מלחמה. המאמרים ישקפו חיבור בין הבנות מערכתיות לבין המדיניות הנדרשת כמענה בישראל וגם במדינות מערביות. המזכר מסכם פרויקט משותף של המכון למחקרי ביטחון לאומי והמכון לחקר המתודולוגיה של המודיעין במרכז למורשת המודיעין (המל"מ).

[1] אסף וינר, תהילה שוורץ-אלטשולר ואייל זילברמן, מתווה לאסדרת רשתות חברתיות בישראל (2023). https://www.idi.org.il/books/49130

[2] לדיון ולהגדרה של השפעה זרה (foreign influence) והתערבות זרה (foreign interference) כאיומי ייחוס במרחב הסייבר, ראו: איתי ברון ודוד סימן טוב, השפעה זרה על תכני השיח הפוליטי: אתגר אסטרטגי חדש (המכון למחקרי ביטחון לאומי, 2019); עמית אשכנזי, קווים למדיניות הגנה ישראלית מפני השפעה זרה במרחב הסייבר, המכון לחקר המתודולוגיה של המודיעין, מרץ 2024.

https://www.intelligence-research.org.il/post/gilayon-10-amit-ashkenazi

[3] אסף וינר ותהילה שוורץ-אלטושלר, ריכוזיות בשוק התוכן העיתונאי חדשותי בישראל (המכון הישראלי לדמוקרטיה, 2021).

[4] להרחבה ראו דוח מבקר המדינה: מערכות המידע והגנת הסייבר בבחירות לכנסות ה־21, ה־22 וה־23 - תחום ביקורת מערכות מידע (מרץ 2022).

[5] ענבל אורפז ודוד סימן טוב, זירת הרשתות החברתיות ב''שומר החומות'' (המכון למחקרי ביטחון לאומי, פרסום מיוחד, 1.8.2021).  https://www.inss.org.il/he/publication/guardian-of-the-walls-social-media/

[6] ראו למשל: דוד סימן טוב, עמוס הרביץ, תפקידם של ארגונים אזרחיים בבלימת התערבות זרה חשאית בתהליכים דמוקרטיים, (המכון למחקרי ביטחון לאומי, 2021)  https://www.inss.org.il/he/strategic_assessment/foreign-interference/

[7] איגוד האינטרנט הישראלי הוא עמותה רשומה ללא כוונת רווח הפועלת זה שלושה עשורים לטובת הציבור הישראלי במישורים מגוונים של טכנולוגיות אינטרנט: הפעלת מרשם שמות המתחם הלאומיים .il ו־.ישראל; מחקרי מדיניות ושיתופי פעולה עם גופי ממשל; איסוף והנגשה של נתונים מפורטים על האינטרנט הישראלי ומשתמשיו; והפעלת קו סיוע עבור הציבור הישראלי להתמודדות עם פגיעות ומתקפות באמצעות הרשתות החברתיות בעל מעמד של מדווחים מיוחדים (trusted flagger) מול הפלטפורמות המרכזיות. למידע נוסף: https://www.isoc.org.il

[8] בזירה הישראלית, ראו: הלשכה המרכזית לסטטיסטיקה, ממצאים ראשונים מתוך סקר ביטחון אישי 2022 (2.5.2023); איגוד האינטרנט הישראלי, נתוני פניות ופעילות של קו הסיוע לאינטרנט בטוח בשנת 2022 (8.2.2023); משטרת ישראל, נתוני מוקד 105 מתוך השנתון הסטטיסטי 2020 (1.5.2021).

[9] לסקירת יכולות האכיפה והמוטיבציות של הפלטפורמות לפעול נגד תוכן וחשבונות מפרים – ראו להלן חלק ב'.

[10] אסף וינר ותהילה שוורץ-אלטושלר, ריכוזיות בשוק התוכן העיתונאי חדשותי בישראל (המכון הישראלי לדמוקרטיה, 2021).

[11]Forman-Katz & Matsa, News platform fact sheet (Pew Research Center, 20.9.2022)

https://www.pewresearch.org/journalism/fact-sheet/news-platform-fact-sheet/ .

[12] Katerina Eva Matsa, More Americans are getting news on TikTok, bucking the trend on other social media sites (Pew Research Center, 21.10.2022) https://www.pewresearch.org/short-reads/2022/10/21/more-americans-are-getting-news-on-tiktok-bucking-the-trend-on-other-social-media-sites.

[13] Nic Newman et. al., Reuters institute digital news report 2023. https://reutersinstitute.politics.ox.ac.uk/sites/default/files/2023-06/Digital_News_Report_2023.pdf

[14] Poynter, A global study on information literacy (August 2022).

 https://www.poynter.org/wp-content/uploads/2022/08/A-Global-Study-on-Information-Literacy-1.pdf

[15] לתיאור "אקוסיסטם המידע" וצריכת התקשורת בישראל, ראו: תהילה שוורץ אלטשולר, אמון הציבור ברשתות החברתיות ובתקשורת בישראל (המכון הישראלי לדמוקרטיה, 2019).

[16] מחקרי קהל מקיפים שנערכו בשנת 2022 בקרב אלפי משיבים מ־19 מדינות, ביניהן ישראל, מלמדים על חשש עמוק ביחס להשפעות החברתיות השליליות של הרשתות החברתיות. רובם המוחלט סבור כי גישה לאינטרנט ולרשתות תורמת למניפולציות של אנשים באמצעות מידע שגוי ושמועות, עם חציון של 84%. חציון של 70% מהמשתתפים בכלל המדינות ראו בהתפשטות מידע כוזב סכנה גלובלית עליונה בחשיבותה, שנייה רק למשבר האקלים; חציון של 65% חושבים שהשימוש ברשתות גורם לאנשים להיות חלוקים יותר בדעותיהם הפוליטיות. ראו Wike et al, Social media seen as mostly good for democracy across many nations, but U.S. is a major outlier (Pew Research Center, 6.12.2022).

[17] Guilbeault, D., Becker, J., & Centola, D. (2018). Social learning and partisan bias in the echo chamber. PloS one 13(11), e0206795; Horson, E. (2016). Belief echoes: The persistent effects of corrected misinformation. Political Communication, 33(3), 460-480.

[18] מתווה לאסדרת רשתות חברתיות בישראל, לעיל הערה 1, עמ' (*).

[19] Nyhan et al, Like-minded sources on Facebook are prevalent but not polarizing, Nature (July 2023).

[20] Bailon et al, Asymmetric ideological segregation in exposure to political news on Facebook, Science 381 (July 2023).

[21] הדר להב, רשתות חברתיות כמעצבות תרבות מקוטבת: מבט גלובלי וישראלי, כתב העת מחקר רב תחומי של אינטרנט וחברה בישראל (2023).  https://www.isoc.org.il/research/magazine/social-media-polarazation

[22] Odanga Madung, AI hysteria is a distraction: Algorithms already sow disinformation in Africa, The Guardian (9.8.2023). https://www.theguardian.com/global-development/2023/aug/09/ai-chatgpt-doomerism-threat-already-here-big-tech-algorithms-sow-disinformation

[23] להב, לעיל הערה 23.

[24] ראו למשל: כללי הקהילה של Facebook נגד תוכן פלילי מסוג Restricted Goods and Services (קישור); או Coordinating Harm and Promoting Crime. https://transparency.fb.com/policies/community-standards/coordinating-harm-promoting-crime/

[25] ראו למשל: כללי הקהילה ומדיניות האכיפה של Facebook נגד תוכן גולשים המפר זכויות יוצרים https://transparency.fb.com/policies/community-standards/intellectual-property/ או מהווה פגיעה בפרטיות https://transparency.fb.com/policies/community-standards/privacy-violations/; כללי זכויות היוצרים של  https://support.tiktok.com/en/safety-hc/account-and-user-safety/copyright Tiktok וכללי הקהילה של החברה ביחס לתוכן לא מקורי https://www.tiktok.com/community-guidelines/en/integrity-authenticity/#5; כללי זכויות היוצרים של Youtube. https://www.youtube.com/howyoutubeworks/policies/copyright/

[26] https://transparency.fb.com/policies/community-standards/bullying-harassment

[27] https://support.google.com/youtube/answer/2802268?hl=en&ref_topic=9282436

[28] https://www.tiktok.com/community-guidelines/en/safety-civility/

[29] https://transparency.fb.com/policies/community-standards/misinformation/

[30] https://support.google.com/youtube/answer/1381

[31] https://www.tiktok.com/community-guidelines/en/integrity-authenticity/#1 3322?hl=en

[32] פייסבוק למשל, פועלת נגד תכנים מטעים או שגויים מהסוגים האלה: (1) misinformation where it is likely to directly contribute to the risk of imminent physical harm; או content that is likely to directly contribute to interference with the functioning of political processes and certain highly deceptive manipulated. media https://transparency.fb.com/policies/community-standards/misinformation/; טיקטוק פועלת נגד תכנים שגויים או מטעים במקרה שהם עלולים לגרום נזק משמעותי לאנשים או לחברה (may cause significant harm to individuals or society, regardless of intent) https://www.tiktok.com/community-guidelines/en/integrity-authenticity/; יוטיוב פועלת נגד תכנים מטעים או שגויים שיש סיכוי ממשי שיגרמו לנזק משמעותי (serious risk of egregious harm) https://support.google.com/youtube/answer/10834785?hl=en, ובנושא תכנים מטעים או שגויים ביחס לבחירות היא כוללת גם ניסיונות לדכא הצבעה, הסתה לפגיעה בהליך הדמוקרטי, טענות מטעות לגבי היכולת הטכנית להצביע למועמד בבחירות ועוד. https://support.google.com/youtube/answer/10834785?hl=en[34] אסדרת רשתות חברתיות בישראל (2023), לעיל הערה 1.

[35]Russell Brandon, Twitter is complying with more government demands under Elon Musk (27.4.2023). https://restofworld.org/2023/elon-musk-twitter-government-orders/

[36] Keydat et al, Too good to be rule: AI's transformative impact on content moderation regulation in the mirror of the rules/standards distinction (forthcoming, 2024) .

[37] https://transparency.fb.com/he-il/policies/community-standards/dangerous-individuals-organizations.

[38] https://support.google.com/youtube/answer/9229472.

[39]https://www.tiktok.com/community-guidelines/en/safety-civility/#3.

[40]https://transparency.fb.com/policies/community-standards/inauthentic-behavior/.

[41] ראו לעיל המקורות בהערה 2.

[42] Meta, Recapping our 2022 coordinated inauthentic behavior enforcements (15.12.2022); Meta, Adversarial Threat Report, First Quarter 2023 (3.5.2023). https://about.fb.com/news/2023/05/metas-adversarial-threat-report-first-quarter-2023/

[43] שם.

[44] https://about.meta.com/actions/preparing-for-elections-on-facebook/.

[45] אסף וינר ועדו אילי, היערכות הרשתות החברתיות לקראת בחירות מדינתיות: סקירה גלובלית (איגוד האינטרנט הישראלי, 2022). https://www.isoc.org.il/regulating-digital-services/global-review/social-media-elections-special-steps

[46]TikTok community guideline (March 2023): Integrity and authenticity - Harmful misinformation. https://www.tiktok.com/community-guidelines/en/integrity-authenticity/

[47]Vanessa Pappas, Combating misinformation and election interference on TikTok, TikTok Blog (5.8.2020). https://newsroom.tiktok.com/en-us/combating-misinformation-and-election-interference-on-tiktok

[48]TikTok community guideline (March 2023): Integrity and authenticity – Civic and election integrity. https://www.tiktok.com/community-guidelines/en/integrity-authenticity/

[49] ראו למשל: Google threat analysis group, coordinated influence operation campaigns Q1 2024. https://blog.google/threat-analysis-group/tag-bulletin-q1-2024/ הפרסום של גוגל חושף מבצעי השפעה תעמולתיים לא חוקיים שטופלו ברבעון הראשון של 2024, ובכללם מבצעים ממוקדים במזרח התיכון. מישראל נחשפה פעילות שטענה כי המערב יהיה יעד עתידי לפיגועי חמאס, ומטורקיה נחשף מבצע שחלק תכנים בערבית על המתיחות המזוינת בין ישראל לרצועת עזה; (6.2.2024). https://blogs.microsoft.com/on-the-issues/2024/02/06/iran-accelerates-cyber-ops-against-israel/

פרסום זה של מיקרוסופט מתאר כיצד גורמים איראניים הגבירו מתקפות סייבר ומבצעי השפעה מתואמת נגד ישראל ובעלות בריתה מאז מתקפת החמאס על ישראל באוקטובר 2023.

[50] להרחבה, ראו: אסף וינר ואייל זילברמן, סנקציות דיגיטליות: כוחם העולה של שירותי אינטרנט מסחריים כשופטים וכשוטרים בזירה הגאו־פוליטית, מסגרות מדיה 21 (17.4.2022). https://mediaframes.sapir.ac.il/digital-sanctions/

[51] במכתב תגובה לבקשה הבהיר מנכ״ל הארגון שהוא מתנגד לרעיון ש־ICANN יטיל אי פעם סנקציות כאלו: ״משימתנו לא כוללת נקיטת צעדים ענישתיים, הטלת סנקציות, או מניעת גישה לאינטרנט – ללא קשר לאופי הפרובוקציה״.

[52]Pew Research Center, Spring 2019 global attitudes survey (published in 1.4.2020). https://www.pewresearch.org/short-reads/2020/04/02/8-charts-on-internet-use-around-the-world-as-countries-grapple-with-covid-19/ft_2020-04-02_globalinternet_07/

[53] איגוד האינטרנט הישראלי, כלי נתונים מתעדכן: משתמשי אינטרנט לפי מדיותו .(2023) https://www.isoc.org.il/sts-data/itu-statistics-internet-users-by-countries

[54] איגוד האינטרנט הישראלי, שימוש ברשתות חברתיות ושירותים מקוונים בישראל: כלי נתונים מתעדכן (2023). https://www.isoc.org.il/sts-data/online_services_index

[55] הלשכה המרכזית לסטטיסטיקה, המקורות של הציבור למידע חדשותי – מתוך הסקר החברתי 2020 (27.10.2021).

[56] ראו לעיל חלק א'.

[57]Nick Popley, The 5 most important revelations from the 'Facebook papers', 26.10.2021. https://time.com/6110234/facebook-papers-testimony-explained/

[58] פניית איגוד האינטרנט לפייסבוק ישראל ו־Meta: כשלי אכיפה של כללי הקהילה ביחס לתוכן ומשתמשים בעברית (2022). https://www.isoc.org.il/research/isoc-positions/various-issues/letter_to_meta_elections2022

[59]Facebook NetzDG transparency report, July 2022..

https://about.fb.com/de/wp-content/uploads/sites/10/2022/07/Facebook-NetzDG-Transparency-Report-July-2022.pdf

[60] הימן, סימן טוב והרביץ 2022, לעיל הערה 54.

[61] איגוד האינטרנט הישראלי יוזמות חקיקה נגד דיסאינפורמציה ו־Fake News: סקירה בינלאומית (2023). https://www.isoc.org.il/regulating-digital-services/global-review/disinformationlegislation2021

[62]Daniel Funke & Daniela Flamini, A guide to anti-misinformation actions around the world (Poynter, 2023). https://www.poynter.org/ifcn/anti-misinformation-actions/

[63]Articles 9-10, DSA.

[64] אמיר כהנא ותהילה שוורץ-אלטשולר אדם, מכונה ומדינה (המכון הישראלי לדמוקרטיה, 2023);

Gonzalez-Bailon et al, Asymmetric ideological segregation in exposure to political news on Facebook, Science 381 (2023); Ro'ee Levy, Social Media, News Consumption, and Polarization: Evidence from a Field Experiment, 11 American Economic Review (2021).

[65] אסף וינר, מודל ה־Digital Services Act לרגולציה של שירותים מקוונים (איגוד האינטרנט הישראלי, 2023). https://www.isoc.org.il/regulating-digital-services/global-review/dsa-review

[66] תגובת איגוד האינטרנט הישראלי והמכון הישראלי לדמוקרטיה לקול הקורא של הוועדה להתאמת המשפט לאתגרי החדשנות והאצת הטכנולוגיה במשרד המשפטים והוועדה המייעצת לבחינת האסדרה על פלטפורמות תוכן דיגיטליות במשרד התקשורת (31.03.2022(; מתווה לאסדרת רשתות חברתיות בישראל 2023, לעיל הערה 1.

[67] על ידי דרישת שקיפות לגבי האפקטיביות של מהלכי האכיפה והגדלת מידת ההשתתפות של משתמשים בהליך הסינון.

[68] אפשר לעשות זאת במגוון דרכים, בין היתר: לחייב את הפלטפורמות להציג את כללי הקהילה שלהן בבירור, בשפת המשתמשים; מתן דוגמאות לסוגי התוכן האסורים ולסנקציות שיוטלו על משתמשים המפירים את כללי הרשת; הסדרת פרקטיקת השימוש ב״מדווחים אמינים״ (flaggers trusted), כדי שציבור המשתמשים ידע מי הם הגופים הזוכים למעמד זה.

[69] במסגרת זו יש להבטיח שהפלטפורמות יְיַדעו את המשתמשים כאשר הן נוקטות צעדים נגדם, וייתנו פרטים על אודות הסיבות שבגינן הוטלה הסנקציה ועל אפשרויות הפנייה לערוצי הערעור הרלוונטיים. תוכן שהוסר עקב דיווח של רשות שלטונית יזוהה ככזה, אלא אם כן הדבר אסור על פי חוק.

[70] אסף וינר ואופיר שטגמן, פעילות גורמי אכיפה בישראל להסרת תכנים מרשתות חברתיות בשנת 2020 (איגוד האינטרנט הישראלי, 2021). https://www.isoc.org.il/sts-data/cyber_unit_2020

[71] בעת ניהול הסיכונים על פלטפורמות גדולות מאוד כדאי לבחון את מערכות ההמלצה והאלגוריתמים שלהן, את מערכות ניהול התוכן שלהן ואת תנאי השירות ופעולות הקשורות לאיסוף, לעיבוד או להעברה של מידע אישי. בכלל הפעולות המוזכרות לעיל הפלטפורמות מחויבות לבחון את ההשפעה של מניפולציה מכוונת של השירות באמצעות שימוש לא אותנטי או באמצעות ניצול אוטומטי של השירות. הפלטפורמות מחויבות להפעיל אמצעים שיטפלו בסיכונים האלה, ובה בעת יהיו סבירים, מידתיים ויעילים, ומותאמים לסיכונים שזוהו בסעיף הקודם.

[72] ראו למשל: נתוני דיווחים ואכיפת התוכן של אינסטגרם במדינות האיחוד האירופי – אוקטובר 2023. https://www.isoc.org.il/sts-data/instagram-dsa-reports; נתוני דיווחים ואכיפת התוכן של טיקטוק במדינות האיחוד האירופי – אוקטובר 2023. https://www.isoc.org.il/sts-data/tiktok-dsa-reprts שירותים מקוונים נוספים שפרסמו דיווחי נתונים ואכיפה דומים באוקטובר 2023 וצפויים לפרסם נתונים עדכניים במחצית הראשונה של 2024 לפי חקיקת ה־DSA הם: Ali Express, Amazon Marketplace, Apple App store, Booking.com Facebook, Google Maps, Google Play, Instagram, Linkedin, Pintrest, Snapchat, StripChat, Pornhub, TikTok, Twitter, XVideos, YouTube, Wikipedia. כל הדוחות התקופתיים של זמינים בפורטל האינטרנט החדש של האיחוד האירופי: https://transparency.dsa.ec.europa.eu