הסיפור הזה קרה באמת, בשיקגו, לבחור ששמו האמיתי רוברט מק'דניאל. והוא יכול לקרות גם לכם, בישראל. המשטרה כבר מפעילה מערכות בינה מלאכותית שמסמנות חשודים, למשל לחיפוש סמים בנתב"ג. היא עושה את זה בסתר, בלי ביקורת ובלי הסמכה מפורשת בחוק. כשתיעצרו לחיפוש סמים בנתב"ג, אף אחד לא יידע להסביר לכם למה הבינה המלאכותית סימנה דווקא אתכם לחיפוש. או גרוע מזה, השוטרים יטענו שזה בגלל הנטייה המינית שלכם. מה הקשר? תשאלו את המערכת.
"Chicago’s predictive policing program told a man he would be involved with a shooting. Instead, it made him the victim of a violent crime — twice." https://t.co/Dl45VApI41 via @theverge
אז כשכולנו מתפעלים מאיך בינה מלאכותית כותבת מדהים ומציירת כמו קסם – ותכף באמת נתפעל - תזכרו שמשטרות בעולם כבר מבטלות מערכות כאלה, כי הן גזעניות, מוטות וטועות - לא תמיד יעילות, וגם קובעות את העתיד - על סמך העבר. ואז, גורלך נחרץ. המערכת לא נותנת לך סיכוי לשנות את דרכיך. הקסם עלול להפוך לכישוף רע.
טריק מלוכלך
השבוע עשינו טריק קצת מלוכלך לאדם מוכשר ואהוב. אסף חנוכה הוא אולי המאייר הישראלי הכי מוכר בעולם. מאייר במיטב עיתוני תבל. ביקשתי ממנו איור שלו, והזמנתי אותו לאולפן לראות איך בינה מלאכותית משחזרת את העבודה שלו. הוא היה - אין מילה אחרת - בהלם.
זה נראה לגמרי כמו ציור שלו. איך? כי לא רק תיארתי ל-MidJourney מה לצייר. ביקשתי ממנה לעשות את זה Asaf Hanuka Style. וכאן, העובדה שחנוכה הוא אמן בינלאומי בולט עבדה לרעתו, כי גם הבינה המלאכותית כבר מכירה את הסגנון שלו, ולא היה קשה לה לחקות אותו ברמה מעוררת פליאה. פליאה לא שלי - פליאה שלו.
אז הרעיונות של אסף חנוכה יישארו אצלו בתוך הראש ובציורים שלו, אבל אם לכם יש רעיון לקומיקס של אסף חנוכה, אתם יכולים לצייר אותו גם. שאלה גדולה היא אם לא מגיע לחנוכה ליהנות מתמלוגים על יצירות בינה מלאכותית שאחרים מייצרים, ונשענות במופגן על היצירות ועל הסגנון שלו, כפי שהבינה למדה להעתיק. אולי בכלל צריך להיות מותר לו לאסור על חיקויים כאלה, אם זה מה שברצונו לעשות.
לזכותו של חנוכה ייאמר, שהרבה יותר מעסיק אותו, איך לרתום את המגה-מכחול הזה ליצירות הבאות שלו עצמו. אבל השאלה הזו משתכפלת ברגעים האלה לאינספור מגזרים. בשנים קרובות הבינה המלאכותית הולכת להשתולל עלינו. היא תשלח זרועות לאינספור ענפי תעסוקה ותחולל בהם מהפכות טובות ורעות, השאלה את מי שואלים. אפילו מנוע החיפוש של גוגל בסכנה. מוזמנים להאזין כאן לפרק בעניין של הפודקאסט "בזמן שעבדתם".
מימין: איור מקורי של אסף חנוכה, משמאל: הבינה המלאכותית MidJourney
את המהפכה הזו אסור לעצור
גורלה של הדמוקרטיה הישראלית נמצא במידה לא מועטה בידיו של שר או שרת התקשורת הבאים. לא רק בהשפעתו על חופש הפעולה של עיתונאים וכלי תקשורת - שאותו צריך להגדיל. אלא על חופש הפעולה המופקר של רשתות חברתיות, שאותו צריך להגביל.
באיחוד האירופי כבר מתקדמים בכיוון, גם ארה"ב, אנגליה, אוסטרליה וקנדה. אתמול הוגשו לשר התקשורת היוצא יועז הנדל המלצות הוועדה לריסון הרשתות החברתיות. המלצות מקצועיות, חשובות, דרמטיות, הנה התמצית.
כל אתר שמשרת יותר מחצי מיליון ישראלים - יוטיוב, אינסטגרם, פייסבוק, טיקטוק - יהיה כפוף לחוק הישראלי ולבית המשפט הישראלי. מדהים שזה עדיין לא כך בסוף 2022. כל אתר כזה יהיה אחראי לתכנים המתפרסמים בו ולהסרתם במקרה של תוכן פוגעני ובלתי חוקי: עבירות מין, לשון הרע, פגיעה בפרטיות, איומים, הסתה לאלימות, הסתה לטרור, הסתה לגזענות. בריונות כלפי ילדים - תזכה לטיפול אקספרס.
האתרים יקימו מנגנון שיאפשר לציבור ליידע אותם על תוכן כזה, ולענות באופן מנומק ובעיקר מהיר. להסיר תכנים כאלה או לצמצם את החשיפה להם. בתי משפט יוכלו להוציא צווים להסרת תכנים כאלה. מי שלא יציית, ייקנס.
וזה עוד לא הכל. אלפי ישראלים נכוו כשעמודי הפייסבוק או האינסטגרם שלהם נחסמו ללא נימוק. כשמדובר בבית עסק - זה נזק כלכלי. לפי ההמלצות, מי שנחסם יקבל נימוקים, זכות ערעור ומוקד שיטפל בו ויופעל על ידי האתרים הבינלאומיים. יוקם רגולטור - מפקח מומחה בתחום מטעם המדינה, והאתרים יחויבו בשקיפות אליו.
בואו נזכיר: פייסבוק, גוגל, טוויטר והאחרים אוספות עלינו מידע אישי ורגיש, מנצלים את הפרטיות שלנו כדי להתעשר, השתלטו על תעשיות שלמות של פרסום, ועל הדרך פגעו אנושות בעיתונות. הן המכריעות בנושאי חופש הביטוי, ומפיצות פייק ניוז, קונספירציות, הסתה לאלימות לטרור ולגזענות. מתביעות ובקשות הן מתעלמות. כל זה קורה פה 15 שנה באין מפריע. החברות צפויות להתנגד. זה יקר מדי. הן יצעקו. נצא מישראל. אל תאמינו. הן מכניסות פה מיליארדי שקלים מדי שנה, בלי לטפל בזיהום שהן משאירות אחריהן.
ההמלצות האלה הן צעד מהותי ראשון שישיב לישראל מעט מהריבונות והמשילות במרחבי המידע, הדעות והשיח הציבורי. שר התקשורת שיתעלם מהן או יקבור אותן - ינעץ עוד מסמר בארון הדמוקרטיה הישראלית.