כיכר העיר נחטפה: כך צבא של בוטים מהנדס לכולנו את המציאות

פרק 1: שדה הקרב הסמוי של התודעה

לאורך ההיסטוריה האנושית, מלחמות הוכרעו בעיקר באמצעות כוח קינטי ועליונות פיזית: טנקים, מטוסים, חיל רגלים ושליטה על שטחים גיאוגרפיים. בעשורים האחרונים התווספה לזירה זו זירה נוספת: המרחב הקוגניטיבי. לצד המאבק על טריטוריה מתנהל כיום גם מאבק על תשומת הלב, על האמון ועל תפיסת המציאות של ציבורי בני אדם – ובזירה הזו, אחד הכלים המרכזיים הוא אלגוריתם מתוכנת היטב.

כדי להבין את האיום, כדאי להגדיר את המושג "מבצע השפעה" (Influence Operation) בעידן הדיגיטלי. בעבר, תעמולה דרשה משאבים ניכרים: עיתונים, תחנות רדיו, כרוזים ורמקולים. כיום חסמי הכניסה נמוכים בהרבה, וגורמים שונים – מדינות, גופים פוליטיים וקבוצות אינטרס – יכולים להפעיל חשבונות מזויפים ופרופילים פיקטיביים בהיקף נרחב ובמאמץ מוגבל יחסית. כוחות כאלה אינם פועלים במרחב הסייבר כדי לפרוץ לתשתיות חשמל או מים, אלא כדי לפגוע במשאב שכל חברה דמוקרטית נזקקת לו: האמון הציבורי והלכידות החברתית.

כבר כאן חשוב להבחין בין כמה ישויות שלעיתים מתמזגות בשיח הציבורי: "בוט" הוא חשבון אוטומטי; חשבון מזויף יכול להיות מופעל בידי אדם מבשר ודם; פעיל שכיר עלול לייצג עמדות שאינן שלו תמורת תשלום; וקמפיין מתואם יכול להיות גם אותנטי לגמרי – כמו מאבק חברתי אמיתי – וגם מבצע הטעיה מכוון. לא כל תיאום הוא זדוני, ולא כל חשבון אנונימי הוא מלאכותי.

אחת הטעויות הנפוצות בציבור, ולעיתים גם בגורמי תקשורת, היא ההנחה שרשתות מזויפות נועדו לנהל דיון מנומק או לשכנע אדם לשנות את דעתו בטיעונים. במבצעי הטעיה רבים, המטרה אינה שכנוע ישיר אלא יצירת רושם של קונצנזוס וזריעת כאוס: שכפול מסר צר במספר רב של חשבונות יכול לייצר מראית עין של הסכמה רחבה, גם כשמאחוריה עומד מפעיל אחד או מעטים.

כשאנו גולשים ברשתות החברתיות או קוראים תגובות באתרי חדשות, רבים מאיתנו מחפשים, לעיתים שלא במודע, "הוכחה חברתית" (Social Proof): אנו נוטים לייחס משקל לדעה שנראית רווחת, במיוחד במצבי משבר או חוסר ודאות. רשתות מטעות מנסות לנצל בדיוק את הנטייה הזו: במקום טיעון מורכב, הן מייצרות מסה קריטית מלאכותית של תגובות ולייקים, שעשויה להיראות כמו הסכמה ציבורית רחבה סביב נרטיב מסוים.

במבצע הטעיה אפקטיבי – בין אם מטרתו להטות דיון פוליטי פנימי ובין אם הוא מופעל, לפי דוחות שיוצגו בהמשך, על ידי גורם זר בזמן מלחמה – החשבונות המזויפים יכולים לשמש גפרור: הם מזריקים מסר ראשוני, מנפחים אותו באמצעות תמיכה מלאכותית, ולעיתים נסוגים ומותירים למשתמשים אמיתיים להתווכח זה עם זה. ההבנה שהדיון הציבורי ברשת אינו בהכרח מראה אותנטית של החברה, אלא לעיתים זירה מעוצבת בכוונה, היא צעד ראשון בדרך להתגוננות מושכלת. בפרק הבא נציג תרחיש היפותטי הממחיש את המנגנון, ולאחריו נעבור לממצאים מתועדים ממחקרים ומתחקירים.

פרק 2: תרחיש המחשה – כיצד עשוי להיווצר רושם של רוב

התרחיש הבא הוא דוגמה היפותטית להמחשת מנגנון אפשרי, ולא תיאור של בדיקה שנערכה ב-Ynet או באתר חדשות מסוים.

חלון הזמן הראשון לאחר הפרסום

דמיינו כתבה שזה עתה פורסמה באתר חדשות. בדקות הראשונות העמוד עוד "ריק" יחסית, ומערכת המיון של האתר מחפשת סימני מעורבות (Engagement) כדי להחליט אילו תגובות להבליט. מפעיל שמבקש לעצב את הדיון יכול לנסות לנצל חלון זמן זה: פרסום תגובות רבות בסמיכות זמנים קצרה, ומתן תמיכה מלאכותית – לייקים מחשבונות נוספים – לאותן תגובות, כדי שייתפסו כפופולריות ויוצגו בראש העמוד.

בתרחיש כזה, הגולש שמגיע מאוחר יותר נתקל בראש העמוד בתגובות שנראות נחרצות ונתמכות, ועשוי להסיק שכך נראית דעת הקהל. אם יתווספו לכך תגובות אנושיות אמיתיות המגיבות לאותן תגובות בולטות, נוצר מעגל הזנה חוזרת שמשרת את מפעיל הרשת גם אחרי שהוא חדל מלפעול.

מה אפשר להסיק – ומה אי אפשר

חשוב לשמור על זהירות: תגובות דומות המתפרסמות בסמיכות זמנים וצוברות תמיכה חריגה עשויות להצדיק בדיקה, אך אינן ראיה. בני אדם יכולים לכתוב תגובות מראש, להעתיק ולהדביק, לתאם ביניהם בקבוצות, או להגיב בעוצמה רגשית אותנטית. תגובה ארוכה ומלוטשת אינה בהכרח פרי אוטומציה, ותגובה קצרה עם מעט לייקים אינה בהכרח אנושית. כדי לקבוע אם מדובר בתיאום מטעה נדרשים נתונים נוספים, השוואה לפעילות רגילה ובחינה של הקשרים בין החשבונות.

גם המחקר מבחין בין זיהוי תיאום לבין קביעת אשמה. מחקר של דיוגו פאצ'קו ועמיתיו, שפורסם בכנס ICWSM ב-2021, בנה רשתות של חשבונות על סמך עקבות התנהגות משותפות – תזמון, רצפי האשטגים, שיתופים וקשרים חוזרים – והדגיש במפורש שהשיטה מזהה תיאום, אך אינה קובעת אם הוא זדוני או תמים, אוטומטי או אנושי, וממליצה על בדיקה ידנית משלימה. תיאום אזרחי לגיטימי, כמו מאבק מקוון מאורגן, יכול להיראות דומה מאוד לפעילות מטעה.

ניטור מתועד בישראל – ומה הוא כן ולא מוכיח

ניטור של שיח מקוון בישראל אכן דווח. דוח של חברת Vocativ מאפריל 2019, שפורסם באתר Ynet, תיאר איסוף וניתוח של כ-2.8 מיליון פריטים בין סוף דצמבר 2018 לתחילת אפריל 2019, מרשתות חברתיות ומהטוקבקים לכתבות פוליטיות באתרי העיתונים המובילים. הדוח הבחין בין בוטים, פעילים אנושיים המפעילים דמויות ופרופילים, ומשתמשים שנחשדו כשכירים. זהו דוח של גוף מסחרי שעסק בניטור, לא מחקר עצמאי ביקורת; הוא מראה שתופעת החשבונות המזויפים בשיח הישראלי נמדדה ודווחה, אך אינו מאשש אף אירוע ספציפי באתר מסוים, ואין להסיק ממנו מספרים על מקרה בודד.

הניסוי שמדד את אפקט הרוב

שמדדי פופולריות יכולים להשפיע על שיפוט המשתמשים נמדד בניסוי מבוקר. בניסוי אקראי שפרסמו לב מוצ'ניק, סינאן אראל ושון טיילור ב-Science ב-2013, דירוג חיובי מוקדם באתר חדשות חברתי השפיע על הדירוגים שניתנו בהמשך. הממצא מדגים כיצד מדדי פופולריות עשויים להשפיע על שיפוט המשתמשים; הוא אינו מוכיח שתגובות מסוימות באתר ישראלי נכתבו בידי בוטים.

המסקנה הזהירה מהשילוב של התרחיש, הדוחות והניסוי: חשד לעיצוב מלאכותי של דיון הוא נקודת פתיחה לבדיקה, לא מסקנה. בפרק הבא נבחן מדוע מדדי רוב משפיעים עלינו כל כך – ומה המחקר באמת מצא.

פרק 3: הפסיכולוגיה של ההמון הדיגיטלי – למה אנו נצמדים לרוב?

בפרק הקודם הצגנו תרחיש היפותטי וממצאים מתועדים על מניפולציה של מדדי פופולריות. אבל הטכנולוגיה היא רק אמצעי; ההשפעה פועלת דרך נטיות שיפוט טבעיות של בני אדם. כדי להבין מדוע רשתות השפעה משקיעות בלייקים ובתגובות, כדאי להכיר כמה מושגים מהפסיכולוגיה החברתית – וגם את גבולותיהם.

"ספירלת השתיקה": החשש מבידוד חברתי

לפי תיאוריית "ספירלת השתיקה" של אליזבת נואלה-נוימן, שפורסמה ב-1974, החשש מבידוד חברתי עשוי להשפיע על הנכונות להביע דעה הנתפסת כעמדת מיעוט. לפי התיאוריה, כשאדם מעריך שעמדתו אינה מקובלת בסביבתו, הוא עלול להימנע מלהביעה בפומבי – וכך הקולות האחרים נשמעים חזק עוד יותר.

במרחב הדיגיטלי, אומדן "דעת הרוב" מתבסס לעיתים על כפתור הלייק ועל מיקום התגובה בעמוד. אם גולש בעל דעה מנוגדת רואה בראש העמוד תגובות תקיפות שצברו תמיכה רבה – ולו גם מלאכותית – הוא עלול, בהתאם לתיאוריה, להעדיף לשתוק. זו תיאוריה עם תנאים ומגבלות, לא חוק ברזל: אנשים שונים מגיבים שונה, ולא כל מיעוט משתתק. אבל אפילו השפעה חלקית מספיקה כדי שהזרקת תמיכה מזויפת תהיה כדאית בעיני מפעיל מבצע הטעיה.

הוכחה חברתית והטיית העדר

רוברט צ'לדיני מתאר "הוכחה חברתית" כנטייה להיעזר בהתנהגותם של אחרים כשאנו מחליטים כיצד לפעול, במיוחד בתנאי אי-ודאות. מספרי לייקים עשויים לשמש רמז כזה, אך אינם מדגם מייצג של דעת הציבור. הניסוי של מוצ'ניק, אראל וטיילור מפרק 2 הראה בצורה מבוקרת שדירוג מוקדם מטה דירוגים מאוחרים יותר – תופעה המכונה לעיתים "אפקט העדר" (Bandwagon).

בתרחיש ההמחשה שבפרק הקודם, תגובה מוזרקת אינה פועלת בזכות עוצמת הטיעון שלה בלבד, אלא בזכות התמיכה המוצגת לצדה. מכאן החשיבות של בדיקה מודעת: מי מגיב, מתי, ובאילו דפוסים – לפני שמסיקים מה "הציבור חושב".

רגש, עוררות וויראליות – מה המחקר מצא

מקובל לומר שכעס הוא "המנוע החזק ביותר" של ויראליות, אך המחקר מצייר תמונה מורכבת יותר. מחקרים של ג'ונה ברגר וקתרין מילקמן ושל ויליאם בריידי ועמיתיו מצאו קשר בין עוררות רגשית או שפה מוסרית-רגשית לבין שיתוף תוכן, בהקשרים שנבדקו. לא רק כעס: גם רגשות חיוביים מעוררים, כמו יראת כבוד, נמצאו קשורים לשיתוף מוגבר, בעוד תוכן עצוב ונמוך-עוררות שותף פחות. בריידי ועמיתיו בחנו מאות אלפי ציוצים בנושאים פוליטיים ומצאו ששפה מוסרית-רגשית נשאה רחוק יותר – בעיקר בתוך קבוצות אידיאולוגיות דומות. אלה ממצאים תצפיתיים ברשתות, לא מדידה מוחית ולא נוסחה מובטחת: הם אינם מוכיחים שכל תגובה זועמת בויימה, ואינם הופכים כעס לכלי היחיד או החזק ביותר.

ובאותו הקשר: "חטיפת האמיגדלה" הוא ביטוי פופולרי המזוהה עם דניאל גולמן לתיאור תגובה רגשית עזה. אין בו אבחון של תגובות הגולשים, והמחקרים על שיתוף ברשת אינם מוכיחים שהקורטקס שלהם "נחטף". הנקודה המעשית פשוטה יותר: תוכן מעורר עלול לעודד תגובה מהירה לפני בדיקה – והשהייה מודעת של התגובה היא צעד התגוננות אפשרי.

פרק 4: מי מפעיל את הרשתות – ומה מוכח בפועל?

אחרי שהבנו את המנגנון הטכני ואת הנטיות הפסיכולוגיות שהוא מנסה לנצל, עולה השאלה מי מפעיל מבצעי השפעה ומה מטרותיו. התיעוד הקיים מורכב: יש פעילות מסחרית, פעילות פוליטית ופעילות שיוחסה למדינות – וחשוב להבחין בין ממצא מתועד, הערכה של גוף מחקר והשערה.

הזירה המסחרית והפוליטית

בתחקיר שפרסם DFRLab ב-2019 תוארה רשת נכסים מקוונים שחלקם נקשרו לחברת Archimedes הישראלית ופנו לקהלים מחוץ לישראל, בעיקר באפריקה, אמריקה הלטינית ודרום-מזרח אסיה. פייסבוק הסירה אז 265 נכסים – חשבונות, דפים, קבוצות ואירועים. זו דוגמה לפעילות השפעה מסחרית, לא ראיה למקרה הטוקבקים שתואר לעיל, והתחקיר עצמו הדגיש שהיקף החשיפה אינו מוכיח הצלחה או שכל המגיבים היו חשבונות אמיתיים.

בישראל עצמה, דוח Vocativ מ-2019 שהוזכר בפרק 2 תיאר פעילות של חשבונות מזויפים ופעילים שכירים בשיח הבחירות המקוון. מטרותיהם של מפעילים כאלה יכולות להיות מגוונות: קידום מועמד, פגיעה ביריב, או דיכוי השתתפות של מצביעי הצד השני. אין בסיס לקבוע שכל הקמפיינים חולקים "דוקטרינה" אחת של השמדה תודעתית; המניעים משתנים ממקרה למקרה, וחלק מהפעילות המתואמת בשיח הפוליטי היא אותנטית ולגיטימית.

הזירה המדינתית: מבצעים שיוחסו לאיראן ולמדינות נוספות

בדוח מפברואר 2024 תיארה מיקרוסופט מבצעי השפעה שייחסה לגורמים איראניים במהלך החודשים הראשונים למלחמה. בין השיטות שתיארה היו התחזות לקבוצות פעילים ישראליות והפצת מסרים שנועדו להחריף מחלוקות סביב המלחמה והחטופים. הדוח גם ציין שמיקרוסופט לא מצאה ראיות ברורות לתיאום מוקדם עם תוכנית המתקפה של חמאס ב-7 באוקטובר, ושחלק ניכר מהפעילות המוקדמת היה תגובתי ואופורטוניסטי. הבחנה זו חשובה: היא מלמדת שגם דוחות טכניים נוקטים זהירות בייחוס כוונות.

תקשורת ישראלית דיווחה על תופעות דומות. כך, בדצמבר 2024 דיווח Ynet על תחקיר של ארגון FakeReporter שתיאר פרופילים מזויפים בזהויות ישראליות לכאורה, בעברית שוטפת, עם תמונות שעובדו או חוללו, חשבונות ששינו שם לאורך זמן והגבהרה על ידי משפיענים אמיתיים. גם כאן הייחוס לגורם זר הוצג בגדר הערכה, והדיווח הוא תיאור עיתונאי של ממצאי הארגון ולא מערך הנתונים הגולמי עצמו.

התופעה אינה ייחודית לשחקן אחד. בדוח שפרסמה OpenAI במאי 2024 תוארו מבצעי השפעה סמויים שהשתמשו בבינה מלאכותית ויוחסו לגורמים מרוסיה, מסין ומאיראן, וכן פעילות של חברה מסחרית ישראלית בשם STOIC – כל אחד עם מטרות, פלטפורמות וקהלים שונים. מכאן אפשר לומר בזהירות שגורמים במדינות שונות עושים שימוש בטכניקות דומות; אי אפשר לומר שכולם מפעילים את אותו מבצע או חולקים את אותה מטרה.

"סימביוזה הרסנית" – תרחיש אנליטי, לא ממצא

אפשר לדמות תרחיש שבו שחקנים פנימיים וזרים משרתים זה את זה בלי תיאום: רשת זרה מגבירה קולות קיצוניים אותנטיים, ופוליטיקאים מקומיים מאמצים רטוריקה שנראית פופולרית. זהו תרחיש אנליטי סביר שכדאי להיות מודעים אליו – אך אין לראות בו תיאור של מציאות מוכחת. ובאותה מידה של זהירות: ביקורת פוליטית אותנטית, זעם אזרחי אמיתי ומחאה מאורגנת אינם ראיה לשליטה זרה, לאוטומציה או לחוסר לגיטימיות. הכלים שתוארו כאן נועדו לזהות הטעיה, לא להכפיש שיח אמיתי.

פרק 5: מירוץ החימוש הטכנולוגי – מסקריפטים פשוטים לבינה מלאכותית יוצרת

במשך שנים, זיהוי חשבונות מזויפים היה פשוט יחסית: פרופילים בלי תמונה, שמות אקראיים, שפה מחוטאטת של תרגום מכונה ודפוסי העתק-הדבק. חלק מהסימנים האלה עדיין שימושיים, אבל בינה מלאכותית יוצרת (Generative AI) שינתה את מגרש המשחקים – אם כי פחות באופן מוחלט מכפי שנהוג לתאר.

מה בינה מלאכותית באמת משנה

מודלי שפה גדולים (LLMs) מורידים באופן ניכר את עלות הניסוח הרב-לשוני. בדוח OpenAI ממאי 2024 שהוזכר תוארו שימושים מעשיים: כתיבת תגובות ומאמרים בשפות שונות, יצירת שמות וביוגרפיות, תרגום והגהה. בינה מלאכותית יוצרת עשויה להקל על ניסוח רב-לשוני ועל יצירת דמויות רשת. עם זאת, איכות הניסוח אינה חסינה מטעויות, והפקת תוכן בהיקף גדול אינה מבטיחה חשיפה, אמון או שינוי עמדה. בדוח עצמו נכתב שאף אחד מחמשת המבצעים שנבחנו לא השיג שיפור ממשי במעורבות בעקבות השימוש בכלים, ושהמפעילים שילבו בינה מלאכותית עם שיטות ישנות יותר – ולא החליפו אותן.

כלומר: השיטות הישנות והחדשות מתקיימות זו לצד זו. בוט מודרני יכול להישמע משכיל ומשכנע, אך גם מפיק שגיאות, סתירות ואמירות חסרות הקשר – ומערכות זיהוי מתפתחות במקביל. אין בסיס לקבוע ש"חומות החשדנות" נפרצו לחלוטין, בדיוק כפי שאין בסיס להרגיע את הציבור שהכל כבעבר.

פרופילים מתוחזקים לאורך זמן

טקטיקה מתועדת נוספת היא טיפוח פרופילים לאורך זמן: התחקיר של FakeReporter שדווח ב-Ynet תיאר חשבונות עם היסטוריה עשירה ושינויי שם, ודוח מיקרוסופט תיאר שימוש חוזר בזהויות קיימות. פרופיל ותיק ופעיל אינו לכך ראיה לאותנטיות – אבל גם ההיפך: אין להסיק שהיסטוריה ארוכה היא בהכרח מזויפת. הביטוי "דיפ-פייק אישיותי" הוא ביטוי תיאורי של כותב מאמר זה, לא סיווג מדעי מוסכם; המהות היא שדמות רשת משכנעת יכולה להיבנות היום בזול יותר מבעבר, ולכן בדיקת הדמות כשלעצמה אינה מספיקה – יש לבחון דפוסי פעילות ומקורות.

הכלכלה של לוחמת המידע: מה ירד במחיר – ומה לא

בעבר, מבצעי תעמולה מקוונים גדולים אכן דרשו ארגונים ומשאבים. בהודעת משרד המשפטים האמריקאי מ-2018, שסיכמה כתב אישום, נטען כי Internet Research Agency מסנט פטרסבורג העסיקה מאות עובדים ופעלה בתקציב שנתי של מיליוני דולרים. זהו תיאור מכתב אישום – טענות, לא פסק דין סופי – אבל הוא ממחיש את הסדר הגודל ההיסטורי של תעשייה כזו.

האם היום אפשר "להקים צבא בוטים בדולרים בודדים ליום"? אין לכך מקור מהימן, וסיסמאות כאלה יש להימנע מהן. עלות יצירת התוכן אכן ירדה דרמטית, אך העלות הכוללת של מבצע כוללת גם רכישה ותחזוקה של חשבונות, הפצה, התמודדות עם מנגנוני זיהוי ועבודת מפעילים אנושית. יכולת הייצור נעשתה נגישה לגורמים קטנים יותר מבעבר – זו המסקנה הזהירה; הערכות מחיר מדויקות דורשות מקור שאין בידינו.

פרק 6: התגוננות, רגולציה וחוסן – מה אפשר לעשות?

אחרי שמבינים את ממדי האתגר, התגובה הטבעית היא חוסר אונים. אבל יש שכבות הגנה אפשריות – טכנולוגיות, רגולטוריות ואישיות – ולכל אחת יתרונות, עלויות וסיכוני דיוק שכדאי להכיר בכנות.

הפלטפורמות: תמריצים, מדיניות ומתח מובנה

מודלים עסקיים המבוססים על מעורבות עשויים ליצור מתח בין הגדלת החשיפה לבין צמצום תוכן מניפולטיבי. זו ביקורת על תמריצים, ולא הוכחה שחברה מסוימת מתירה ביודעין רשת בוטים כדי להגדיל הכנסות. בפועל, לפלטפורמות הגדולות יש מדיניות פורמלית בנושא: מטא, למשל, מגדירה במדיניותה "התנהגות בלתי אותנטית מתואמת" (Coordinated Inauthentic Behavior – CIB) סביב מבצעי זהות מטעים, וקובעת שהאכיפה אינה תלויה בתוכן או בעמדה האידיאולוגית. המושג CIB, אם כן, הוא מונח מדיניות של מטא – וקיומו של סטנדרט אינו מבטיח אכיפה מושלמת, בדיוק כפי שאכיפה לקויה אינה מוכיחה כוונה זדונית.

זיהוי התנהגותי: כיוון מבטיח עם מגבלות

גישת זיהוי מבטיחה אחת מתמקדת לא במה נאמר אלא באיך: איתור "התנהגות בלתי אותנטית מתואמת" על בסיס מטא-דאטה של הדיון. בין הסימנים האפשריים:

• אנומליות טמפורליות: חשבונות לא קשורים שמגיבים בדיוק באותן שניות.
• גרפים רשתיים: קבוצת פרופילים שמעניקה לייקים זו לזו במעגל סגור וחוזר.
• דפוסים חריגים: פעילות רצופה בהיקף שאינו סביר למשתמש אנושי בודד.

יחד עם זאת, כפי שהדגיש מחקר פאצ'קו ועמיתיו, תיאום שזוהה אינו שווה להתכתבות זדונית או לאוטומציה. לגישה זו יש גם מחיר דיוק: חסימה שגויה עלולה לפגוע בפעילים לגיטימיים, במשתמשים אנונימיים ובדעות מיעוט. מערכת טובה צריכה לכלול בקרה אנושית, שקיפות ודרכי ערעור.

רגולציה וחינוך: בחירות עם פשרות

חקיקה נגד תוכן מטעה אינה נידונה מראש לכישלון או להצלחה; יש לה פשרות אמיתיות. מתן סמכות למדינה לקבוע מהו "מידע כוזב" מסכן חופש ביטוי, אבל דרישות שקיפות, סימון פרסום פוליטי וחובות גילוי לפלטפורמות הן כלים שנוסו במקומות שונים בעולם בתוצאות מעורבות. השאלה אינה "לחוקק או לא" אלא אילו כלים, עם אילו בלמים.

ושכבת ההגנה האישית: אוריינות מידע ביקורתית אינה תרופת פלא, אבל היא מועילה. כמה הרגלים מעשיים: אם טקסט מעורר בך דחף עז להגיב או לשתף מיד – כדאי להשהות ולבדוק; מספר הלייקים אינו סקר דעת קהל; לפני עימות עם דמות מתלהמת, בדקו את דפוס הפעילות של הפרופיל ואת המקורות שהוא מצטט. עם זאת, רגש אינו ראיה למניפולציה: אזרחים כועסים יכולים להיות אותנטיים לגמרי, ומשתמשים רגועים יכולים לטעות. הכלל הוא בדיקה, לא חשדנות גורפת.

פרק 7: סיכום – העתיד של הדיון הציבורי

כיכר העיר הדיגיטלית, שאמורה הייתה להיות זירת הדיון הפתוחה ביותר בהיסטוריה, חשופה לניסיונות עיצוב מלאכותיים. כפי שראינו, המעבר מבוטים פרימיטיביים לכלים מבוססי בינה מלאכותית, בשילוב עם הנטייה האנושית להצמד לרוב, מאפשר לגורמים שונים – פנימיים וזרים – לנסות להשפיע על רושם המציאות החברתית. "לנסות" היא מילת המפתח: התיעוד שבחנו מלמד שהצלחה אינה מובטחת, ושזיהוי, מדיניות וחשיבה ביקורתית משנים את מאזן הכוחות.

משבר האמון – והסכנה של אדישות

הסכנה העמוקה אינה ניצחון של נרטיב שקרי זה או אחר, אלא שחיקת רעיון "האמת המשותפת". הצפת מידע סותר עלולה לעורר ייאוש מן האפשרות לברר עובדות. אפשר לתאר זאת כאדישות לבירור האמת, בלי להניח שכל משתמש מגיב כך. הביטוי "אדישות אפיסטמית" הופיע בכתיבה על תעמולת הצפה (למשל אצל המסאי ל.מ. סאקאסאס ב-2019), אך הוא אינו אבחנה קלינית ואינו מטרת-על מוכחת של כל מפעיל.

כאן טמון פרדוקס שכדאי להימנע ממנו: מי שמסיק מקיומם של בוטים ש"אי אפשר לסמוך על שום דבר" משרת בדיוק את מטרת מפעילי ההצפה. התגובה המבוקשת אינה אפס אמון גורף אלא ספקנות מכוילת: בדיקת מקורות, השוואת סיקורים ועדיפות למידע מגוף מזוהה.

אימות אנושיות ו"אפס אמון" – הצעות, לא תכנית מוכחת

הרעיון ליישם עקרון "אפס אמון" (Zero Trust) מעולם אבטחת המידע על המרחב הקוגניטיבי, וטכנולוגיות להוכחת אנושיות (Proof of Humanity) בלי לחשוף זהות, הן הצעות שעולות בשיח – כאלה שכדאי לבחון, לא תחזיות מובטחות. לכל אחת יש מחירים: אימות זהות עלול לפגוע בפרטיות, באנונימיות של מדינים ומבקרים, ובנגישות; וגם אדם מאומת יכול לשקר או לתאם, בעוד חשבון אוטומטי יכול להיות שימושי וגלוי. הכיוון הסביר הוא אימות מדורג ובדיקת מקורות – לא חשד כולל.

ייתכן שבעתיד יתפתחו מערכות "מכונות נגד מכונות" שיסמנו פרופילים סינתטיים בזמן אמת. זו אפשרות טכנולוגית: מירוצי חימוש מסוג זה נמשכים, וכל צד משתכלל בתגובה לשני.

המאבק על התודעה אינו רק טכנולוגי, אלא מהותי. אלגוריתמים מתוחכמים מתקשים יותר לעצב את שיפוטו של אזרח מודע, ביקורתי ובעל חוסן מנטלי.

ההתמודדות עם לוחמת ההשפעה ניזונה מהכרה בחולשות שלנו: זעם מהיר, פחד מבדידות חברתית וצורך באישור מיידי. צעד מעשי הוא להשהות את התגובה האוטומטית, להטיל ספק במדדי פופולריות שטחיים, ולהחזיר לידינו את השליטה על תשומת הלב שלנו. כך נוכל לסייע לשיח הציבורי לשקף את רצון האזרחים, ולא הד של מכונות מתוכנתות.