שדה הקרב הדיגיטלי: כיצד טכנולוגיות דיפ-פייק משמשות להפצת מידע שקרי נגד ישראל

השימוש בטכנולוגיות של בינה מלאכותית, למידת מכונה, ו-Deepfake כדי להפיץ מידע מטעה וליצור תוכן מניפולטיבי הפך לנפוץ במגוון רחב של תחומים

שדה הקרב, כפי שראינו במלחמת ״חרבות ברזל״, אינו מוגבל לגבולות הפיזיים, והוא בא לידי ביטוי גם במדיה ובמרחב הדיגיטלי. הצד המנסה לערער על הלגיטימציה של ישראל עושה כיום שימוש גם בטכנולוגיות מתקדמות כמו בינה מלאכותית (AI), למידת מכונה (ML) ו-Deepfake. 

באמצעות טכנולוגיות אלו מייצרים ומפיצים מידע כוזב בכדי ליצור נרטיבים שליליים ולעורר רגשות אנטי-ישראליים ואנטי-יהודים בקהילות המקוונות. על פי דוח שפרסמו לאחרונה ההסתדרות הציונית, משרד התפוצות והסוכנות היהודית, מאז תחילת המלחמה חלה עלייה של 500% במספר האירועים האנטישמים ברחבי העולם. 

לקמפיינים הדיסאינפורמטיביים ברשתות החברתיות ובתקשורת יש השפעה עמוקה, וניתן לשער כי חלק מהעלייה החדה במספר האירועים קשורה גם למידע הכוזב שמופץ ברשת. לכן, חשוב להבין את יכולתן של הטכנולוגיות השונות ולפתח אסטרטגיות התמודדות יעילות למלחמה בתופעות אלו, תוך שמירה על האמת ומניעת איומי הונאה והפצת מידע שקרי. 

השימוש בטכנולוגיות של בינה מלאכותית, למידת מכונה, ו-Deepfake כדי להפיץ מידע מטעה וליצור תוכן מניפולטיבי הפך לנפוץ במגוון רחב של תחומים. אחד התחומים העיקריים הוא יצירת מאמרים, פוסטים וסרטונים שנוצרו בעזרת AI שמפיצים נרטיבים שקריים שמטרתם לטרגט את ישראל והקהילה היהודית. 

בעזרת אלגוריתמים מתקדמים של למידת מכונה, טכנולוגיות אלה מנגישות מידע לקהלים שונים תוך העצמת רגשות אנטי-ישראליים באמצעות התאמת התוכן כך שיחזק את הדעות השגויות הקיימות. 

מעבר לכך, באמצעות Deepfake ניתן ליצור קטעי אודיו ווידאו שנראים אמינים מאוד אך מפוברקים לחלוטין. באמצעות תמיכה באלגוריתמים מתקדמים, כפי שראינו כבר בניסיון להשפיע על תוצאות הבחירות בארה״ב ב-2016, התוכן המניפולטיבי משתלב באופן חלק בפלטפורמות המדיה והרשתות החברתיות, צובר פופולריות וכמות עוקבים משמעותית. 

בנוסף, בוטים וחשבונות מונעי בינה מלאכותית מגבירים את המידע המוטה ותפוצתו באמצעות הגברה (פעולת הדהוד) אלגוריתמית על פני פלטפורמות כמו טוויטר, פייסבוק, אינסטגרם, וטיקטוק. 

ביחד ולחוד, מקרים אלו מדגישים את ניצולם של טכנולוגיות מתקדמות כדי לתמרן נרטיבים, לקדם דיסאינפורמציה, להונות ולזרוע מחלוקת בנוגע לישראל ולקהילה היהודית בעת הזו. 

כיצד הטכנולוגיות המתקדמות מנוצלות כדי להפיץ מידע כוזב?
תוכן שנוצר בינה מלאכותית. מנועי שפה טבעית מבוססי בינה מלאכותית יכולים ליצור מאמרים, פוסטים בבלוגים או תוכן מדיה חברתית שקריים שמנציח רגשות אנטי-ישראליים. 

בוטים או חשבונות שנוצרו על ידי AI יכולים להציף פלטפורמות במידע מוטה או מטעה, וכך להיות משותף בהרחבה ללא אימות המידע. 

אלגוריתמים של ML והעברת הודעות ממוקדות: אלגוריתמי למידת מכונה מנתחים את נתוני המשתמשים במדיה החברתית כדי לזהות אנשים בעלי פוטנציאל לקלוט ולאמץ נרטיבים אנטי-ישראליים. לאחר מכן, אנשי תעמולה יכולים להתאים תוכן כך שיפנה לנתונים הדמוגרפיים הספציפיים הללו. 

למשל, מיקוד מודעות עם תוכן אנטי-ישראלי למשתמשים שעוסקים בנושאים קשורים, וכך להגביר את ההטיות או התפיסות השגויות שלהם. 

טכנולוגיית Deepfake: סרטוני Deepfake יכולים לדוגמה לתמרן נאומים או ראיונות של אישים ישראלים בולטים, לשנות את דבריהם או פעולותיהם כדי להציג אותם באופן שלילי. כמו כן, ניתן ליצור סרטונים המראים לכאורה נפגעים בלתי מעורבים בצד השני. 

הגברת ההדהוד במדיה החברתית: אלגוריתמי AI המשמשים פלטפורמות מדיה חברתית מייעלים את העברת התוכן על סמך מעורבות המשתמש. מידע מוטה או שקרי נוטה לייצר יותר קליקים, הערות ושיתופים, מה שמוביל לפלטפורמות להגביר בשוגג תוכן כזה. 

לדוגמה, נרטיב שקרי על כך שישראל מבצעת פשעי מלחמה צובר אחיזה ברשתות החברתיות ועשוי להגיע למיליונים עקב הגברה אלגוריתמית. 

איתור ואמצעי נגד: ניתן להשתמש בכלי AI כדי לזהות חריגות בהפצת תוכן. לדוגמה, אלגוריתמים של ניתוח סנטימנטים יכולים לסמן עליות חשודות בתוכן שלילי הקשור לישראל, ולסייע בזיהוי קמפיינים פוטנציאליים של דיסאינפורמציה. 

בנוסף, ישנן יוזמות לפיתוח כלים לזיהוי Deepfake מונעי בינה מלאכותית לזיהוי מדיה שעברה מניפולציות. 

כיצד מתמודדים עם מידע מזויף? 
ישנן טכנולוגיות זיהוי, שעושות שימוש ב-AI ולמידת מכונה, ומאפשרות לזהות תמונות, וידאו או סאונד שנוצרו על ידי deepfake. חשוב להמשיך ולפתח כלים חדשים כאלו שיסייעו לזהות ולמנוע השפעה של תוצרי deepfake. 

כמו כן, כדאי להעלות את המודעות הציבורית לסיכון ולהכשיר אנשים לטובת זיהוי אפשרי של תוצר דיגיטלי מזויף. ברמת המדינה, ניתן לקדם חקיקה שתגביל את השימוש בטכנולוגיות deepfake ולאפשר הגנה על תוכן אמיתי. 

לסיכום, השימוש בטכנולוגיות של בינה מלאכותית (AI), למידת מכונה (ML) ומערכות deepfake מהווה אתגר גדול במאבק נגד מידע מוטעה ונרטיבים מוטים. טכנולוגיות אלו עושות שימוש בכלים רבי עוצמה להפקה והפצת מידע כוזב על פני פלטפורמות מקוונות שונות. 

אלגוריתמי בינה מלאכותית יכולים ליצור באופן אוטונומי תוכן המחקה תקשורת אנושית אותנטית, מה שהופך את יכולת המשתמשים להבחין בין מידע לגיטימי למידע מפוברק לאתגר אמיתי. 

בנוסף, ההפצה המהירה של התוכן המפוברק, בסיוע אלגוריתמים מונעי בינה מלאכותית ברשתות החברתיות, מגבירים את טווח השפעתו ומקשים עוד יותר על המאמצים לבלום את התפשטותו. 

יתרה מכך, התקדמות טכנולוגית כמו Deepfake מעצימה את האתגרים הללו, ומאפשרת יצירת תוכן אודיו-ויזואלי ריאליסטי ומתעתע המטשטש את הקווים בין מציאות לבדייה. כתוצאה מכך, ההבחנה בין אמת לתוכן שעבר מניפולציות או תוכן מפוברק הופכת למורכבת יותר ויותר, מה שמקשה על המאמצים להתמודד עם נרטיבים שקריים ביעילות ולהגן על שלמות המידע המדויק.

בכדי להתמודד עם תוצרים של deepfake צריך לשלב פעולה של טכנולוגיה מתקדמת, מדיניות חברתית וחוקים מתאימים, כמו גם הכשרה של הציבור לזיהוי הפייקים.