הפייק ניוז ברשת מאז תחילת המלחמה משתולל, והשימוש בבינה מלאכותית מקשה עוד יותר לזהות מה אמיתי ומה לא. על פי נתונים שהוצגו היום בכנסת (ב') בוועדת המשנה של ועדת המדע והטכנולוגיה בנושא בינה מלאכותית וטכנולוגיות מתקדמות, בימים 7 ו-8 באוקטובר, 1 מכל 4 חשבונות שדיווח על הנעשה במלחמה היה מחשבונות פייק, כך על פי רפאל מנדלסון מחברת סיאברה שערכו ניטור מקצועי בכל הרשתות החברתיות.
נציגת הפרקליטות עדכנה בדיון כי מפרוץ המלחמה ועד עתה הם פעלו להסרת 30 אלף תכנים מהרשתות החברתיות, כאשר לשם השוואה בכל שנת 2021 היו 6,000 תכנים שהוסרו לבקשתם.
יו"ר הוועדה, ח"כ אורית פרקש הכהן אמרה בדיון: "המלחמה שמתנהלת היום היא גם מלחמה תודעתית והסברתית על זכותה וחובתה של ישראל להגן על עצמה, אך לצערנו העבודה שנעשית בזירה זו אינה מספקת. מלחמת רוסיה ואוקראינה כונתה מלחמת הטיקטוק הראשונה, ומלחמת חרבות ברזל היא מלחמת AI הראשונה, כאשר מופצים תמונות, טקסטים וסרטונים מזויפים ומלאכותיים וכן פרופילים מזויפים שמפיצים פייק ניוז (חדשות כזב) ושקרים לקדם הסתה נגד ישראל ונגד יהודים".
עוד הוסיפה כי "יש להציב את הנושא כיעד אסטרטגי וליזום החלטת ממשלה בנושא, להגדיר גורם אחד מתכלל שיפעל בין כולם ולהקים צוות ממשלתי ייעודי שיעבוד יחד עם חברות טכנולוגיה לטפל בכל הבעיות שהוצפו היום בדיון החשוב".
ח"כ גלית דיסטל-אטבריאן אמרה: "ההסברה הפלסטינית היא כל כך טובה ומדויקת ואנחנו בעידן האבן לעומתם. הם כבר לא עושים סרטונים על איך אנחנו נכבשים, הם עושים סרטונים על אופנה, אכול וכדומה, ומה שמהדהד ברקע זה כבר המסרים שהם רוצים להעביר. הסרטונים שלהם מטורגטים לכיס של כל בחורה באוניברסיטאות בעולם. בישראל, עוד הרבה לפני חקיקה ורגולציה שום דבר לא מתוכלל, יש מערך ההסברה ויש מטה ההסברה ויש במשרד החוץ ויש את משרד התפוצות. לא מדברים אחד עם השני ואף אחד לא מדבר עם ראש מערך ההסברה. הבעיה שלנו היא בירוקרטיה אטומה".
אחיה שץ, מנכ"ל פייק ריפורטר, הציג בדיון מצגת המראה תמונות הסברה שהופצו במהלך המלחמה שאינן אמיתיות ונעשו באמצעות בינה מלאכותית. בנוסף, ציין כי הפצת הפייק היא גם בתוך ישראל, למשל תיאוריית "בוגדים מבפנים" שהתפשטה מאז תחילת המלחמה, על פיה בכירים במערכת הביטחון העבירו מידע לחמאס שאפשר את המתקפה הרצחנית. 35% מהציבור הישראלי מאמין בתיאוריית קונספירציה אחת לפחות, ו-40% בלבד שוללים את כל הקונספירציות, כך על פי מחקר שנעשה על ידי ד"ר נמרוד ניר ממכון טרומן מהאוניברסיטה העברית. כמו כן, 43% תומכים בכך שיש לחקור האם לתנועות שמאל היה חלק או אשמה בפרוץ המלחמה.
בפייק ריפורטר ממליצים להגדיר את השימוש לרעה בבינה מלאכותית וברשתות כאתגר לאומי - ולפעול בהתאם לאסדרת התחום (רגולציה שלו) כולל חוקי שקיפות, רגולציה על הרשתות, מוקד פניות לאזרח. במקביל, מדגישים את החשיבות של חינוך לאוריינות מידע ודיגיטל לכל הגילים והמגזרים. "השקר נשאר חקוק, אנשים מוותרים על המציאות, והשקרנים מרוויחים וטוענים לדיפ פייק", כך לדברי שץ.
פייק ניוז באמצעות AI
ד"ר תהילה אלטשולר מהמכון הישראלי לדמוקרטיה אמרה בדיון כי בעוד מדינות העולם והאיחוד האירופי כבר מתנהלות בעולמות של בינה מלאכותית עם חקיקה ואסדרה, ישראל לא עושה כלום, "אין שום סיבה שישראל לא תייצר חקיקה. למה ליצור מצב שאזרח ישראלי פחות מוגן מאזרח אחר בעולם מול הכוחות של חברות הענק יותר. עולם הפייק ניוז היה מאז ומעולם ובפרט במלחמות, אבל יכולת ה-AI נותנת לכל אחד יכול לספק דיסאינפורמציה ולהפיץ פייק. הסגולות של הבינה המלאכותית היא הרבה יותר מתמונות. אנחנו צריכים פיקוד העורף דיגיטלי. אין אף אלוף סביב שולחן המטה הכללי שיודע מה תפקידו במלחמה. זרוע הדיגיטל היא דבר הכרחי. זה פוגש אותנו בעולם ההגנה וההסברה וצריך לסגור פערי הסברה, באיסוף וניטור".
העיתונאי דרור גלוברמן (קשת 12, בזמן שעבדתם) הציג בדיון סרטון הקורא לאלימות כנגד ישראלים ששותף ונצפה ע"י מעל 2 מיליון איש, ועדיין פייסבוק משאירה את זה ברשת, "פייסבוק חוסמת את אזרחי מדינת ישראל ודברים כאלו משאירה. הפרקליטות פרסמה ש80% מהתכנים הבעייתיים שביקשו להסיר - הוסרו. למה יש לחברות שיקול דעת? אם יש צו מהפרקליטות אז שיענו, כמו כשכל אזרח נדרש להסיר כשהפרקליטות פונה אליו. איך ייתכן שאלון מאסק התקבל בשטיח אדום, אבל אף מילה לא נאמרה שהרשת שבבעלותו, X, היא הגרועה מכל הפלטפורמות בחשבונות שמפיצים הסתה?".
בבקשה. pic.twitter.com/o5OIrHFK1Y
יהודה בן יעקב, מנהל מדיניות בחברת מטא (פייסבוק), אמר בדיון שהחברה מצייתת לפי חוק ואם יש צו בית משפט התוכן מוסר. לשאלת יו"ר הוועדה לגבי הסרטון שהציג גלוברמן, אמר בן יעקב כי אינו מכיר את המקרה. עוד אמר כי "יש חשיבות גדולה לסטנדרטיזציה בין כל החברות וכי במטא עוסקים בצד הפתרונות בכל נושאי הAI - אסדרה וחקיקה ישראלית היא לא בהכרח הפתרון האידאלי משום שלא כל החומרים מיוצרים בישראל וניתן לאכפם".
עו"ד שרה גרין, פרקליטה במחלקת הסייבר אמרה בדיון כי הם אינם עוסקים באיסוף וניטור תוכן, אלא גופים אחרים דוגמת המשטרה, שב"כ ומערך הסייבר אחראים על איסוף תכנים, והם בוחנים את התכנים. לדבריה יש שני תנאים מצטברים על מנת להעביר פנייה לפלטפורמה - האחד שהפוסט מפר את החוק ואת כללי הפרסום והשני שהחברה מחויבת על כך. לדבריה, אין להם יכולת לדעת על תוכן האם הוא יוצר בבינה מלאכותית או לא אלא רק לדעת אם זה מסית. גרין ציינה כי במאמץ הזה פועלים כעת ארבעה פרקליטים יחד עם עוד 12 מתמחים וסטודנטים וכי מפרוץ המלחמה כבר הוגשו מעל 30 אלף פניות על תכנים בעייתיים - לשם השוואה בכל שנת 2021 היו 6,000 פניות.
ליאת גלזר, מנהלת קשרי ממשל בגוגל, אמרה כי החברה כבר קבעה לגבי תוכן גולשים של יוטיוברים ויוצרים שמעלים תוכן שיש עליהם חובה לציין תכנים שנוצרו באמצעות בינה מלאכותית. בנוסף יש מדיניות שימוש שאסור לעלות תוכן מוטעה שנעשו ב-AI.
גאיה הררי הייט, ראש תחום מדיניות במכון המחקר SNPI אמרה בדיון כי "הבינה מלאכותית גם מאפשרת לתרגם סרטוני הסברה ישראלים בתוך שניות בשפות רבות. אנחנו בניהול סיכונים - בדיוק כמו באש רוצים ליהנות מהחום בלי שתשרוף אותנו".
פייק ניוז - AI
עו"ד דני חורין, יועמ"ש משרד החדשנות, המדע והטכנולוגיה אמר כי הייתה התלבטות האם לפרסם את המסמך הקובע כללים בנושא בינה מלאכותית בזמן מלחמה, אך בסוף זה פורסם דווקא בגלל שהמלחמה מראה את הצורך הדחוף באסדרת הנושא. לדבריו, העמדה כעת היא שלא יהיה חוק בינה מלאכותית אלא שיקבעו כללים תואמים לחוק עכשיו והרגולציה תהיה כמה שיותר גמישה ומהירה ותשתמש בכלים קיימים על מנת שיוכלו להתחיל להשתמש בזה.