מאז תחילת המלחמה הרשת התמלאה בפייק ניוז ודיסאינפורמציה שמחזקים את הנרטיב האנטישמי - שמוביל בסופו של דבר גם למעשי אלימות קשים, כפי שנוכחנו לראות בסוף השבוע האחרון בפרעות באמסטרדם. בניסיון להילחם בתופעה, חברה ישראלית החליטה לעשות מעשה ולהסב את מערכת המודיעין העסקי שלה לצורכי לוחמה בטרור האנטישמי ברשת.
קבוצת Aman השיקה את פרויקט SeekNet-AI, שחשוף לקהל הרחב תחת קוד פתוח בשירות גיטהאב, בחודשים האחרונים. הפרויקט נועד לאפשר למשתמשים ברחבי העולם לעקוב אחרי תכנים מסיתים ואנטישמיים במטרה להסירם מהרשת ולקדם את הנרטיב הישראלי. "בעידן בו אנחנו חיים, יש לא מעט שימוש לרעה בבינה מלאכותית כדי להפיץ פייק ניוז", אומר אריאל עוז, סמנכ"ל טכנולוגיות (CTO) בקבוצת Aman, "באחריותנו לרתום את הטכנולוגיה הזו לטובת הכלל".
מיזם SeekNet-AI לוקח את המומחיות של Aman בנתונים ובבינה מלאכותית, ורותם אותה לטובת המלחמה בפייק ניוז. "המערכת שיצרנו מזהה התנהגויות חשודות כמו תקשורת ועסקאות הקשורות לטרור ומבצעת הסתגלות מתמדת לאיומים חדשים. אופי הקוד הפתוח של הפרויקט מבטיח שיתוף פעולה של הזולת, מה שהופך אותו לכלי קריטי במאבק להגנה על האמת ולהבטחה שנרטיבים אנטישמיים לא ינצחו".
לפני שהוסבה לצורך הזה, המערכת של Aman שימשה לדברים אחרים לגמרי. "זו מערכת בינה עסקית שמשתמשת ב-AI כדי להסיק תובנות עסקיות מתוך מאגר נתונים גדול, כמו למשל זיהוי תקלות בפס ייצור", מפרט עוז. "ההחלטה לרתום את המערכת לטובת מלחמה בפייק ניוז הגיעה מאסף בר, מנכ"ל חברת איטרניטי מקבוצת Aman. עם תחילת המלחמה החברה ניסתה לעזור ככל האפשר למאמץ המלחמתי, מרכישת אפודים קרמיים וסוללות גיבוי ועד התאמה של המוצרים שלנו לצרכים החדשים שעלו בשטח. הרעיון הספציפי הזה בא ממחשבה על דור העתיד. כשהבן הקטן שלי יהיה בוגר וירצה ללמוד מה קרה ב-7 באוקטובר, הוא עלול להיחשף לכמויות עצומות של פייק ניוז - לכן רצינו לאתר את השקרים ולמחוק אותם מהרשת".
המערכת הוגדרה לסרוק את הרשתות החברתיות טוויטר, טיקטוק ופייסבוק, וכמו כן גם אתרי חדשות מובילים בעולם דוגמת BBC ו-CNN. בתוך אלה, היא מחפשת קבוצות של אנשים או ארגונים המבצעים התנהגות חשודה, כגון שימוש בשפה תומכת טרור או רכישת מוצרים ושירותים הקשורים לטרור, ומתריעה על קיום אפשרי של פייק ניוז. כמו כן, קיימות בנוסף גם מגוון יכולות למציאה ולזיהוי של משתמשים תומכי טרור.
מבין ההצלחות של המערכת, שהביאה לפנייה לרשתות החברותיות ולהסרת הפוסטים השקריים, ניתן למנות מספר מקרים: המערכת זיהתה תמונות שמציגות לכאורה את כוחות צה"ל יורים בתוך בית החולים שיפא בעזה, אך מדובר היה בתמונות שנלקחו מתוך סרטון שצולם במקור באוגוסט 2023, כאשר כוחות בטחון מצרים תקפו מפגינים בתוך בית החולים.
במקרה אחר, פורסמו תמונות של אלמונים בטענה שמדובר בקצינים ישראליים שנחטפו ומוחזקים בידי חמאס בשטחי עזה; האמת הייתה שמדובר בקצינים שנעצרו בטורקיה בשנת 2016.
במקרה אחר, פורסמו תמונות של "שקי גופות של ילדים פלסטיניים" שמסודרים לכאורה ברחובות עזה. אלא שבינה מלאכותית זיהתה שמדובר בפריים מתוך הפגנה פרו-פלסטינית שהתקיימה בבוסטון, ושקי הגופות כמובן לא אמיתיים.
במקרים אחרים נחשף בזיוף ביזארי במיוחד - כמו תמונה של חייל שהתגלתה כפריים מתוך משחק מחשב, או בית חולים בעזה שנפגע לכאורה בעקבות המלחמה והתגלה כסט צילומים מהפקת טלוויזיה במלזיה.
כאמור, פרויקט SeekNet-AI חשוף לקהל הרחב תחת קוד פתוח בשירות גיטהאב למתכנתים, וכל מה שנדרש כדי להשתתף בו בעצמכם הוא תהליך אימות קצר, סביבת עבודה חזקה שמסוגלת לעבד ולנתח כמויות מידע גדולות, והתקנות "פריימוורק" בסיסיות מסוג פייטון וספארק עבור איסוף, עיבוד וניתוח מידע.