כשפייסבוק נוסדה אי אז ב-2004, לא היו לה כללי הקהילה שיש לה היום. זה הגיוני; גם לא הייתה לה אז קהילה של 2.7 מיליארד משתמשים. שרלוט ווילנר, שהצטרפה לפייסבוק בשנת 2007, הייתה אחת מקבוצת עובדים המצומצמת והראשונית שגויסה כדי לפקח על התכנים ברשת החברתית הצומחת ולסנן אותם. כללי הקהילה – התנ"ך של פייסבוק, הלכה למעשה – התפרשו על פחות מעמוד; המסר המרכזי היה: "אם משהו עושה לך קווץ' בבטן, תסיר אותו".
דייב, בעלה של שרלוט, הצטרף לפייסבוק שנה לאחר מכן. הוא היה העובד ה-12 שהצטרף לצוות סינון התכנים במשרה מלאה. הכללים היו אז "גיבוב של כמה דוגמאות", אמרה בראיון למגזין "ניו יורקר", שפרסם השבוע כתבה נרחבת הסוקרת את מדיניות סינון התכנים בפייסבוק ועיקרי דבריה מובאים כאן. לדבריו, אף אחד לא טרח לבסס את אותה רשימת מכולת של חוקים. "אנחנו מוחקים עירום", או "אסור לאנשים לומר דברים נחמדים על היטלר", הן רק חלק מהדוגמאות שציין דייב. הוא ואשתו עזבו מאז את מקום עבודתם.
אותה רשימה פשטנית הורחבה מאוחר יותר למדיניות שלמה ורחבה. היום מדובר במסמך המתפרש על עשרים עמודים ומחולק ל-24 סעיפים, בהם שיח שנאה, התעמרות והטרדה; כל סעיף כולל עשרות קטגוריות משנה, הגדרות טכניות וקישורים לתכנים משלימים. הרשימה הזו היא הגרסה המפורטת והגרפית של כללי הקהילה שכולנו מכירים. בשעה שבגרסה שמיועדת לציבור המשתמשים נכתב שפייסבוק "מוחקת תוכן שמהלל אלימות", ברשימה הפנימית מדברים כבר על בני אדם שנשרפים למוות ועל פעוטות שמעשנים.
פייסבוק נועדה לחבר בין אנשים; כך, לפחות, טוענים בכיריה. למרות קיתונות הביקורת שהיא סופגת בעקבות כישלונה למגר את ההסתה בחצר הקדמית שלה, המוניטין שלה לא באמת נפגע. לפי הניו יורקר, מחלקת יחסי הציבור של פייסבוק כוללת כיום יותר מ-500 עובדים במשרה מלאה; תפקידם העיקרי הוא להתעקש שפייסבוק היא מקום נחמד וקסום לשתף בו תמונות של חתולים ולשווק שירותי לק ג'ל, ובטח שלא מקום להסית ולשנוא ולפלג בו. ניק קלג, לשעבר סגן ראש ממשלת בריטניה וכיום בכיר בפייסבוק, פרסם ביולי האחרון רשומה בבלוג הרשמי של החברה, והצהיר בו שפייסבוק "לא מרוויחה משנאה". לדבריו, אין לפייסבוק שום מניע להשאיר תוכן כזה באוויר. יחד עם זאת, "עם כל כך הרבה תוכן שמתפרסם כל יום, למצוא את השנאה זה כמו למצוא מחט בערמת שחת".
בפועל, מנהיגים פופוליסטיים ואוטוקרטיים כמו נשיא הפיליפינים רודריגו דוטרטה, ראש ממשלת הודו נרנדרה מודי – ואיך לא, נשיא ארצות הברית דונלד טראמפ – משתמשים בפייסבוק כדי להפיץ פייק ניוז וכדי לפלג ולשסע את אזרחיהם. זה כך גם בארץ, חברי הכנסת של הספסלים האחוריים – וגם הקדמיים – לא קיימים בלי פייסבוק. גם קבוצות קיצוניות משתמשות בפייסבוק כדי לסחוף גולשים תמימים לשורותיהן.
שיח השנאה לא נשאר בפייסבוק, וחורג גם לחברות הבת שסיפחה במשך השנים. כל קבוצת פייסבוק, שכוללת גם את אינסטגרם, וואטסאפ ומסנג'ר, מגיעה לשלושה מיליארד משתמשים מדי חודש. בפייסבוק מתעקשים שוב ושוב שהם עושים הכל כדי למגר את השיח המסית והאלים בשרתיהם. "השקענו מיליארדי דולרים כדי להרחיק את השנאה מהפלטפורמה שלנו", אמר אחד מדוברי הרשת החברתית ל"ניו יורקר". "לפי דו"ח שפרסמה לאחרונה הנציבות האירופית, פייסבוק בדקה 95.7% מהדיווחים על שיח שנאה תוך פחות מ-24 שעות. מהר יותר מיוטיוב ומטוויטר. זו התקדמות, ואנחנו מודעים לכך שיש עוד מה לעשות". האם מאמציה של פייסבוק כנים, והאם הם מנותבים היטב?
הכתבה שפורסמה ב"ניו יורקר" שופכת אור על הדיונים הפנימיים בפייסבוק לאור תכנים בעייתיים של פוליטיקאים וקבוצות אלימות, ומביאה עדויות רבות מפיהם של מסנני תכנים לשעבר. ב-7 בדצמבר 2015, דונלד טראמפ – אז סוס שחור במרוץ למועמדות הרפובליקנית לנשיאות – פרסם בפייסבוק פוסט הקורא לאסור כניסת מוסלמים לארצות הברית. בפוסט שכתב הוא רמז שהמוסלמים – כל 1.8 מיליארד בני האדם שמגדירים את האיסלאם בתור דתם – הם אנשים חסרי היגיון וחסרי כבוד לחיי אדם. לפי הגדרותיה הפנימיות של פייסבוק, מדובר בתוכן מסית; כללי הקהילה של פייסבוק הרי אוסרים על תכנים שתוקפים בני אדם בשל גזעם, מוצאם האתני או דתם. צוקרברג עצמו, כך לפי פרסומים שונים, "נחרד" באופן אישי מהפוסט של טראמפ. ועדיין, הפוסט לא הוסר.
בעקבות הפוסט של טראמפ, אז מועמד צבעוני במיוחד, התכנסו עובדים בכירים בפייסבוק לפגישה מקצועית. את הפגישה הובילו שלושה מנהלים בתחום המדיניות שמחזיקים בתארים במשפטים מאוניברסיטת הרווארד. לפי ההשערה הרווחת, רוב רובה של השדרה הניהולית בפייסבוק הייתה אז ליברלית, אך ג'ואל קפלן, אחד מאותם שלושה מנהלים שניהלו את הפגישה, עבד בצוותו של הנשיא בוש הבן. עצתו לצוקרברג בנושא, כפי שפורסמה בניו יורק טיימס, הייתה: "אל תעיר את הדב". הפוסט של טראמפ נשאר באוויר.
לפי הוושינגטון פוסט, אחת המנהלות הבכירות באותה פגישה ניסחה מזכר פנימי ופרשה את כל האלטרנטיבות שעמדו על הפרק: להעלים עין באופן חד פעמי וליצור תקדים שניתן לחזור ממנו; להחריג דיונים פוליטיים מהכללים ובכך לאפשר לפייסבוק לשקול כל מקרה לגופו; או לשנות את הכללים באופן דרסטי, ולאפשר למילים כמו "הוציאו את הגייז מסן פרנסיסקו" להישאר באוויר.
באותה העת העסיקה פייסבוק פחות מ-45 מסנני תוכן. כיום עומדים לשירותה כ-15,000 מסנני תוכן, רובם עובדי קבלן שפזורים בערים שונות בעולם, ובהן דבלין, אוסטין, ברלין ומנילה. הם עובדים בזמנים לא סטנדרטיים כדי לגשר על הבדלי השעות, ונאלצים לצפות בשטף אינסופי של תכנים שכוללים גם אלימות קשה ופורנו ילדים. במועד העסקתם הם נדרשים לחתום על הסכמים דרקוניים שאוסרים עליהם לדבר על עבודתם. "אתה עובד עם חסך בשעות שינה. התת-מודע סופג הכל, ואתה שופך אליו את התוכן הכי רדיואקטיבי שאתה יכול לדמיין", אמר ל"ניו יורקר" מרטין הולצמייסטר, ארט דירקטור מברזיל שעבד כמסנן תכנים בברצלונה. "בצ'רנוביל ידעו שאפשר לרוץ פנימה לשתי דקות, לקחת משהו ולברוח החוצה. כאן, אף אחד לא יודע כמה דברים אנשים מסוגלים להכיל".
במאי 2017 – זמן קצר אחרי שפייסבוק הודתה שגורמים עוינים ניצלו את הפלטפורמה שלה כדי להתערב בבחירות לנשיאות – הכריז צוקרברג על תגבור מצבת מסנני התכנים ב-70 אחוזים. מילדקה גריי, אז עובדת קבלן במטה של פייסבוק בדבלין, עברה למחלקת סינון התכנים בערך באותה התקופה. גם בעלה כריס הגיש מועמדות לתפקיד וקיבל אותו באופן מידי; "הם העסיקו כל אחד", הוא אמר. מילדקה וכריס ויתר עובדי הקבלן – כך הם מעידים – נדחקו לחלק פינתי במטה. חלקם אף קיבלו את הרושם שאסור להם לפנות לעובדי פייסבוק כשהם חולפים על פניהם.
בימים הראשונים לעבודתם, מסנני התכנים עוברים הכשרה קצרה הסוקרת את כללי הקהילה הפנימיים של פייסבוק. "המסמכים מלאים בז'רגון טכני ולא מוצגים בסדר לוגי", נזכר גריי. "הסתכלתי מסביב, ושפת האם של רוב היושבים בחדר לא הייתה אנגלית. איך זה אמור לעבוד?". אשתו, מילדקה, במקור מאינדונזיה, הוסיפה: "בחדר ההכשרה אתה פשוט מהנהן, ואז אתה יוצא ושואל את החברים, 'הבנת? אתה יכול להסביר לנו את זה בשפה שלנו?'".
בני הזוג גריי עזבו את פייסבוק בשנת 2018. זמן קצר לאחר מכן, ערוץ 4 הבריטי שלח תחקירן להכשרה של מסנני תכנים בפייסבוק. באחת המצגות שהעביר המדריך הופיע מם נפוץ, לכאורה, בו נראית אם לבנה שמנסה להטביע את בתה באמבטיה. מתחת לאותה התמונה הופיע הכיתוב: "כשהקראש הראשון של הבת שלך הוא ילד כושי (הטרמינולוגיה במקור, NEXTER)". "למרות שהתמונה 'אומרת הרבה'", אמר המדריך, "אין כאן התקפה אמיתית על הילד הכושי, אז עלינו להתעלם מכך".
נראה שלא הרבה השתנה. בחודש פברואר פרסמנו ב-NEXTER את סיפורו של קליפורד ג'ודי, אז בן 47, ששימש כמסנן תכנים בפייסבוק והועסק דרך חברת כוח אדם. ג'ודי תבע את שתי החברות בטענה שהן לא מספקות תמיכה נפשית הולמת לאנשים שמתמודדים עם תוכן טראומטי; לדבריו, הוא צפה בשעות על גבי שעות של תכנים גרפיים כמו פורנוגרפיית ילדים, אונס וירי המוני. ג'ודי אף התייחס באופן ספציפי לסרטון קשה, שמתוקף עבודתו נאלץ לצפות בו מספר פעמים. מדובר בסרטון שבו ברנטון טרנט רצח 51 בני אדם במסגד בניו זילנד. ג׳ודי ציין כי המשרה נשמעה לה לו "מעניינת", אך הוא לא היה מודע לזוועות שאליהן היה עתיד להיחשף. "אנחנו צופים בזה למחייתנו מדי יום – אנשים שנהרגים, נרצחים, נאנסים, מחוללים, מצולמים בסרטי סנאף ועוד. יש בפלטפורמה הזו סמים, רובים, גיוס טרוריסטים, סחר באנשים, זנות... זה פשוט מזעזע לראות את זה שוב ושוב ושוב. וככל שהווידאו הופך לוויראלי, זה לא כאילו שמוחקים את זה פעם אחת וזה נעלם - אנשים משתפים את זה, ובכל פעם שזה קורה אנחנו צריכים לראות את זה שוב".
מאז תביעתו של ג'ודי, המודעות לנושא גוברת והולכת. בחודש מאי הצטרפו אלפי מסננים לתביעה ייצוגית נגד פייסבוק, בטענה שעבודתם הביאה להתפרצותה של הפרעת דחק פוסט-טראומטית. פייסבוק שילמה להם פיצויים בגובה 52 מיליון דולר, ודובר מטעם פייסבוק הוסיף כי החברה מספקת כעת ייעוץ פסיכולוגי במקום, לצד קו חם שפועל מסביב לשעון.
אם עץ נופל ביער ואף אחד לא שומע, האם הוא השמיע צליל? והאם פוסט נוטף שנאה שצובר לייקים מבלי ליפול לעיניהם של עיתונאים, האם הוא בכלל קיים מבחינת פייסבוק? לעתים מאות משתמשים מדווחים על פוסט, אך הוא לא מוסר עד שהתקשורת פונה לפייסבוק. לפי ה"ניו יורקר", כשהתקשורת ממטירה שאילתות על הנהלת הרשת החברתית, עובדי החברה עוברים למצב "אש תקשורתית" (PRFire). יש לכך אינספור דוגמאות; גם מערכת NEXTER נאלצה לפנות לפייסבוק כדי להביא להסרתם של פוסטים הקוראים לרצח ראש הממשלה. זאת, למרות שמאות גולשים דיווחו על אותם פוסטים. מסנן תכנים שעובד באחת מערי אירופה אף שלח ל"ניו יורקר" תדפיס מהמערכת הפנימית של פייסבוק, בו ניתן לראות עשרות מקרים שתויגו בתור "In Progress Press Fires". בתרגום לעברית (ולחיים עצמם), פייסבוק מתייגת לעצמה מקרים פתוחים שנמצאים תחת זכוכית מגדלת של התקשורת.
אך לעתים גם הלחץ התקשורתי והציבורי לא עוזר. נשיא ברזיל ז'איר בולסונארו התמודד בבחירות 2018 כשבידו תקציב זעום. כדי להפיץ את מסריו הוא נשען על פייסבוק, ששירותיה המסועפים הם הפופולריים ביותר במדינתו. מאז שנכנס לתפקידו, הוא משתמש בפייסבוק לייב כדי לפנות לאומה מדי שבוע. בנאום שנשא מוקדם יותר השנה הוא התייחס לאוכלוסיית הילידים בברזיל: "האינדיאני השתנה. הוא הופך, יותר ויותר, לבן אנוש כמונו". פייסבוק לא מחקה את הסרטון של בולסונארו, למרות שהוא עובר על כללי הקהילה שלה. הגזענות של בולסונארו לא הפתיעה אף אחד, אך הצהרתו – וחוסר התגובה של פייסבוק – עדיין עוררו זעם. בשנה הראשונה לכהונתו של בולסונארו, שבעה ראשי שבטים ברזילאיים נרצחו. זהו המספר הגבוה ביותר בעשרים השנים האחרונות.
באוקטובר 2019 פרסם הקמפיין של טראמפ מודעה הכוללת האשמות שקריות נגד המועמד הדמוקרטי ג'ו ביידן. CNN ורשתות הטלוויזיה האחריות סירבו לשדרה; יוטיוב, טוויטר ופייסבוק לא הנידו עפעף. שבעה חודשים לאחר מכן, ב-26 במאי, כתב טראמפ בטוויטר ובפייסבוק: "אין שום סיכוי (אפס!) שהצבעה בדואר תהיה כל דבר שהוא לא רמאות". שלושה ימים לאחר מכן, ב-29 במאי, הכריז הנשיא שישלח את המשמר הלאומי להשתלט על ההפגנות שאחרי מותו של ג'ורג' פלויד: "כשהביזה מתחילה, הירי מתחיל".
טוויטר לא מחקה את הציוצים של טראמפ אך כן הצמידה להם אזהרה. פייסבוק, לעומת זאת, לא עשתה כלום. "זה היה הרגע שבו רבים מאיתנו התחרפנו", אמר ל"ניו יורקר" רשאד רובינסון מארגון Color of Change. עובדי פייסבוק עצמם אף הביעו מחאה על התנהלות החברה שבה הם עובדים, כשב-1 ביוני, קבוצת עובדים "נטשה את המשרדים באופן וירטואלי".
ארגוני זכויות אזרח בארצות הברית ניצלו את הלחץ הציבורי כדי לקדם את מדיניותם מול פייסבוק. הם החלו חרם מפרסמים שסחף יותר מאלף חברות ענק כמו יוניליוור, קוקה קולה ומיקרוסופט. כלפי פנים אמר צוקרברג שהמחרימים "עוד יחזרו", והוא צדק; החרם לא הסב לפייסבוק נזק כלכלי ממשי, ולאחרונה הוא שב באיטרציה חדשה שבה סלבס מחרימים את פייסבוק. כלפי חוץ – לא הייתה לו ברירה אלא לנקוט בצעדים ממשיים.
ב-19 באוגוסט הכריזה פייסבוק על שורת שינויים בכללי הקהילה; כך, הצהירו בפייסבוק על מדיניות חדשה שתצמצם את נוכחותם של ארגונים ותנועות המהווים סכנה לביטחון הציבור. אלא שארבעה ימים אחר כך, בעיר קנושה שבוויסקונסין, קצין משטרה ירה שבעה כדורים בגבו של ג'ייקוב בלאק, גבר שחור. הוא מת מול ילדיו. בעיר קנושה פרצו מהומות בן לילה, כשמיליציה מקומית בשם "המשמר של קנושה" השתמשה בדף הפייסבוק שלה כדי לדחוף את פעיליה לצאת לרחובות. העוקבים לא הכזיבו, והצהירו על כוונותיהם לנקוט באלימות. "אני באמת מתכנן לרצוח בוזזים ומפגינים הערב", כתב אחד מהם.
תוך יום התקבלו בפייסבוק יותר מ-400 דיווחים על הדף, אך מסנני התוכן פסקו שהוא לא חורג מכללי הקהילה – והותירו אותו באוויר. בפייסבוק כינו זאת אחר כך "טעות מבצעית" (An operational mistake). זה היה מאוחר מדי. ב-25 אוגוסט הגיע לקנושה נער בן 17. הוא ירה בשלושה מפגינים עם נשק אוטומטי ורצח שניים מהם. לא ברור האם הוא ראה את הדף של המשמר של קנושה בפייסבוק.
גם אחרי האירוע בקנושה, פייסבוק מחדדת את מדיניותה חדשות לבקרים. "עד כה זיהינו יותר מ-300 מיליציות בפייסבוק ובאינסטגרם, וחסמנו את דפיהם וקבוצותיהם", אמר ל"ניו יורקר" הדובר מטעם פייסבוק. בשבוע שעבר הצהירה פייסבוק כי תמחק את כל התכנים הקשורים ל-QAnon, תיאוריית קונספירציה שצוברת תאוצה במעגלים רפובליקניים קיצוניים, לפיה סלבריטאים ופוליטיקאים מהמפלגה הדמוקרטית מנהלים רשת לסחר בילדים, כשטראמפ ואנשיו הם היחידים שעומדים מולם. פייסבוק גם הודיעה השבוע שתסיר תכנים המעודדים הכחשת שואה, שנפוצו ביתר שאת על גבי דפיה. בהקשר הפוליטי, פייסבוק הסירה פוסט של דונלד טראמפ שכלל מידע שקרי לגבי נגיף הקורונה, והודיעה שתחסום את כל הפרסומות הפוליטיות החל מליל הבחירות ועד להודעה חדשה.
אלא שפייסבוק נמצאת במלכוד 22. חלק מהצעדים שלה, ביניהם הסרת פוסטים של פוליטיקאים, הם חרב פיפיות; הם יחזקו את טענותיהם של שמרנים וימנים – הן בארצות הברית והן בישראל – על כך שפייסבוק מצנזרת אותם. "השמאל הקיצוני שולט לחלוטין בפייסבוק, באינסטגרם, בטוויטר ובגוגל", כתב הנשיא טראמפ. בישראל, ינון מגל, אראל סג"ל ושמעון ריקלין הודיעו בריש גלי שיעזבו את פייסבוק, ואפילו הצל נפרד מהגולשים אחרי שקיבל אזהרות מהנהלת הרשת החברתית.
אך לטענות בדבר צנזורה אין בסיס. קווין רוז מהניו יורק טיימס מפרסם מדי שבוע את עשרת הפוסטים המצליחים ביותר בפייסבוק, שכוללים לינקים לאתרים אחרים. כמעט תמיד, עמודים של סלבריטאים ושל ערוצי חדשות המזוהים עם הימין הקיצוני הם אלה ששולטים ברשימה. הפרמטר הקובע ברשימה של הניו יורק טיימס הוא האינטראקציות עם הפוסט. ג'ון הגמן, שאחראי על הפיד בפייסבוק, צייץ בחודש יולי שהדירוג של רוז אינו מדוייק. רוז מודד לפי האינטראקציות עם הפוסט, אך הדרך המדויקת יותר – לדבריו של הגמן – היא דרך החשיפה. נתון זה "זמין רק לעובדי החברה".
פייסבוק מבינה שאם תפגע בערוצי התקשורת של מנהיגים אוטוקרטיים, היא עלולה להרגיש גם את נחת זרועם. צוקרברג מבין שכדאי לו לא להתעסק עם טראמפ; תראו מה קרה לטיקטוק. האפליקציה הסינית, שהדיווחים על כך שהיא פועלת בשירות בייג'ינג אמנם הוכחו כנכונים בחלקם, הפכה לאויבת הראשונה של הנשיא.