לאחר שחמאס החל במתקפה האכזרית שלו על ישראל ורצח מעל ל-1,400 איש וחטף מעל 200 ב-7 באוקטובר, החל גם גל של תגובות שטנה באזור המזרח התיכון בכמה רשתות חברתיות. מנהלי הפלטפורמות של מטא העלו מסננים אוטומטיים שנועדו להאט את מבול התוכן האלים והמטריד.

לפי הוול סטריט ג'ורנל, עדיין התגובות המשיכו להופיע - במיוחד מהשטחים הפלסטיניים, לדברי מנהל במטא. אז החברה הגבירה שוב את המסננים שלה, אבל רק באותו אזור.

בפורום פנימי של עובדים מוסלמים החלו התנגדויות. "מה שאנחנו אומרים ומה שאנחנו עושים נראה כמו הפכים מנוגדים לחלוטין כרגע", כתב אחד העובדים בפורום פנימי, על פי מסמכים שנצפו על ידי הוול סטריט ג'ורנל. מטא התחייבה בפומבי ליישם את המדיניות שלה באופן שווה ברחבי העולם.

ענקית הרשתות החברתיות נאבקת עם הדרך הטובה ביותר לאכוף את חוקי התוכן שלה בעיצומה של המלחמה. היא מסתמכת במידה רבה על אוטומציה כדי לעשות סדר באינסטגרם ופייסבוק, אבל הכלים האלה יכולים להיכשל: הם התקשו לנתח את הניב הערבי הפלסטיני ובמקרים מסוימים אין להם מספיק נתונים בשפה העברית כדי לעבוד ביעילות.

אחת התקלות האחרונות תרגמה אוטומטית שם משתמש באינסטגרם עם המילה "פלסטיני" יחד עם אימוג'י וביטוי ערבי תמים באינפו - והפכה אותו ל"טרוריסטים פלסטינים".

@ytkingkhan Meta definitely needs to address this (though I couldnt find an official TikTok account for them) #palestine #arab #desi #muslim ♬ original sound - Khan Man

כאשר מטא פונה לעובדים אנושיים כדי למלא את החסר, לחלק מהצוותים יש דעות שונות לגבי איך יש ליישם את הכללים ועל מי.

דובר מטא אמר שיש עוד תגובות בשטחים הפלסטיניים שהפרו את הכללים שלה, ולכן היה עליה להוריד את הרף על חופש הביטוי כדי להשיג את אותו אפקט שנוצר במקומות אחרים. מטא גם התנצלה על תקלת התרגום.

החברה מטפלת בקשרים עם ישראל מתל אביב. בינתיים, צוות מדיניות זכויות אדם שבסיסו בדובאי מכסה את העולם הערבי כולל שטחים פלסטיניים. הוול סטריט ג'ורנל טוען שלעתים קרובות צוותים אלה חלוקים בדעתם לגבי התוכן באזור, לפי מקורבים לנושא.

התגובות ברשתות הפכו גם הן לשדה קרב. מטא זיהתה באינסטגרם גל של תגובות שנאה בין פי חמישה ל-10 בישראל, בלבנון ובשטחים הפלסטיניים מאז החלה תקיפת החמאס על ישראל. החברה החליטה להסתיר אחוז גבוה יותר של תגובות שעלולות להפר את המדיניות שלה, כך עולה מהמסמכים שהגיעו לוול סטריט ג'ורנל.

תגובות שטנה בפייסבוק (צילום: צילם מסך)
תגובות שטנה בפייסבוק|צילום: צילם מסך

בדרך כלל, מטא מתחילה להסתיר תגובות כאלה רק כאשר המערכות שלה בטוחות ב-80% שהן מתאימות למה שהחברה מכנה שיח עוין, הכולל דברים כמו הטרדה והסתה לאלימות.

כחלק מ"צעדי תגובה זמניים", מאמצי הרגעה בחירום מהסוג שמטא פרסמה בעבר במלחמות, רצח עם פוטנציאלי ובהתפרעות הקפיטול בארה"ב ב-6 בינואר 2021, החברה הורידה את הסף הזה בחצי על פני חלק מהמזרח התיכון, ומסתירה כל תגובה שנחשבת בסבירות של 40% לבעייתית, כך עולה מהמסמכים.

השינוי הזה צמצם את תגובות השנאה בישראל, בלבנון, בסוריה, במצרים ובכמה מדינות אחרות מספיק כדי לרצות את צוות הבטיחות של מטא, כך לפי פוסט במערכת הודעות פנימית של מנהל מוצר המעורב בה. אבל בימים שלאחר מכן, תגובות מהשטחים הפלסטיניים שענו להגדרה של מטא לשיח עוין נשארו גבוהות באינסטגרם.

"לכן, הצוות החליט להפחית שוב את הסף באופן זמני", כתב מנהל המוצר, והוריד את הרף להסתרת תגובות ממשתמשים בשטחים פלסטיניים, אם המערכת האוטומטית של מטא מזהה שיש לפחות 25% סיכוי שהן מפרות את הכללים.

ביום חמישי מנחי התוכן הפנימיים של מטא כבר מחקו את שרשור הדיון הארוך בפורום, שכלל גם את תיאור ההתערבות של החברה וגם את ההערות שהגיבו לה.

מטא וחברות רשתות חברתיות אחרות נמצאות בהליכי בדיקה ע"י מספר גורמים מאז החלה המלחמה. האיחוד האירופי שלח ביום חמישי בקשות רשמיות למטא וטיקטוק לקבלת מידע לגבי האמצעים שהן נוקטות כדי לבלום את התפשטות החומרים האלה, שעשויים להיות בלתי חוקיים במדינות רבות באיחוד האירופי, שבוע לפני האיחוד עשה אותו דבר עבור X, טוויטר לשעבר.

מטא חסמה האשטאגים, הגבילה שידורים חיים והגבילה תמונות של בני ערובה. למרות זאת היא מתקשה כבר זמן רב לבנות מערכת אוטומטית כדי לאכוף את הכללים שלה מחוץ לשפה האנגלית וקומץ שפות המדוברות במדינות גדולות ועשירות. צוות המודרציה האנושי שלה בדרך כלל רזה יותר גם מחוץ לארה"ב.

 

רואים תוכן פרו-פלסטיני בפייסבוק (צילום: מתוך פייסבוק)
צילום: מתוך פייסבוק

תוכן בשפה הערבית היה נקודה בעייתית - במיוחד בשטחים הפלסטיניים. בין השאר משום שהמערכת של החברה לא הוכשרה מלכתחילה להבין את ההבדלים בין ניבים ערביים שונים, והביצוע היה גרוע יותר עבור הניב הפלסטיני, על פי דו"ח מ-2022 שהזמינה מטא מיועצים חיצוניים.

למטא חסרה עד לאחרונה מערכת אוטומטית לאיתור תוכן בשפה העברית, מה שעשוי להיות בניגוד לכללים שלה, לפי הדו"ח מ-2022 הדבר הוביל לפחות אכיפה נגד פוסטים בעברית.

בתגובה לדיווח, מטה התחייבה לבנות מערכת אוטומטית לניטור הפרות בעברית, וכן לשפר את יכולתה לזהות ניבים בערבית.

בספטמבר החברה אמרה לדירקטוריון הפיקוח שלה שהמטרה "הושלמה". אבל מוקדם יותר החודש החברה הודתה באופן פנימי שהיא לא השתמשה במסווג השיח העוין שלה בעברית בתגובות באינסטגרם, מכיוון שלא היו לה מספיק נתונים כדי שהמערכת תפעל כראוי, לפי מסמך שנבדק על ידי הג'ורנל.

למרות מגבלות המערכת, החברה החלה להשתמש בה כנגד תגובות שנאה במלחמה הנוכחית. דובר מטא אמר שמערכת הסיווג עבדה כבר במקומות אחרים בפלטפורמות של החברה.

בשבוע שעבר פרסמה מטא בבלוג שלה וגם בפייסבוק את הצעדים שהיא נוקטת לאחר מתקפת הטרור של חמאס נגד ישראל והתגובה של ישראל בעזה. החברה הדגישה כי תוכן שמשבח את החמאס, שהוגדר על ידיה כארגון מסוכן, או תוכן אלים וכזה שמציג אלימות בצורה גרפית, לדוגמה, אסור בפלטפורמות שלה.

 

בנוסף, דיווחה כי שינתה כאמצע זמני את הגדרת ברירת המחדל של תגובות על פוסטים פומביים חדשים בפרופילי הפייסבוק של אנשים מאזור המזה"ת - ברירת המחדל כעת, היא שפוסטים בפרופילים פרטיים יהיו פתוחים לתגובות של חברים ו/או עוקבים מבוססים בלבד. באופן גלובלי, משתמשים יכולים לבחור להשתמש בהגדרה הזו, ולהכיל או להפסיק אותה בכל זמן. 

בנוסף, פייסבוק הקלה על האפשרות למחוק הרבה תגובות במקביל בפוסטים, וכן הוסיפה כלי שנקרא נעילת פרופיל. כשפרופיל של אדם מסוים נעול, אנשים שהם לא חברים שלו בפייסבוק, לא יכולים להוריד, להגדיל או לשתף את תמונת הפרופיל שלו, והם גם לא יוכלו לראות פוסטים או תמונות אחרות בפרופיל הנעול, בין אם מדובר בתוכן חדש או ישן. כך תנעלו את הפרופיל שלכם.