משימוש ציני פוליטי ועד סרטונים פוגעניים על אנשים אנונימיים – ככל שהיא משתכללת ומתמסחרת, תופעת הדיפ פייק (Deepfake) שנכנסה בשנים האחרונות לחיינו מתחילה גם להשפיע על הכיס שלנו, דרך פרסומות שקריות ומניפולטיביות שעושות שימוש באנשים שכולנו מכירים. הרעיון פשוט כמו גם הביצוע: בוחרים מפורסם רלוונטי, "מייצרים" לו קול טבעי על ידי כלי AI, משלבים אותו בסרטון קיים של אותה דמות דרך תוכנה לסנכרון שפתיים והנה פרסומת אפקטיבית.

מי שעלתה לכותרות בימים האחרונים בהקשר הזה היא טיילור סוויפט "שנצפתה" בסרטון ויראלי בפייסבוק בו היא ממליצה להשתמש בכלי בישול של החברה הבלגית Le Creuset. בסרטון סוויפט מספרת שהיא נרגשת לחלק ערכות חינם של כלי הבישול היקרים, למי שילחץ על קישור ויענה על כמה שאלות. המשתתפים התבקשו לשלם דמי משלוח של $9.96 עבור כלי הבישול, עד כה לא ידוע על אף אחד שאכן קיבל את הכלים המדוברים.

הבחירה בסוויפט במקרה הזה היא לא אקראית. מסתבר שיש קשר רב שנים בין הזמרת למותג המדובר, ועל פי פוסט מלפני עשור שחזר עכשיו לכותרות היא מחזיקה במטבח שלה תנור, קומקום ומחבת של החברה. בסרט תיעודי שפורסם עליה ב-2020 אפשר גם לראות אותה מכינה רוטב פסטה בתנור ההולנדי הכחול של המותג. סוויפט היא אולי מעריצה של המותג, אבל מציאותי ככל שייראה - מהר מאוד התברר שמדובר בגרסה סינתטית וכי הקול בסרטון הוא ממש לא שלה. הסרטון הוסר מהרשת, והחברה כבר הספיקה להכחיש כל קשר לסרטון המדובר.

סוויפט היא כמובן לא היעד הסלבריטאי היחיד של גרסאות מזויפות שמשתכללות יותר ויותר בעזרת טכנולוגיית הבינה המלאכותית, שנהיית מדויקת יותר ומשכנעת יותר. בנובמבר האחרון סקרלט ג’והנסון הודיעה על הליכים משפטיים נגד אפליקציית בינה מלאכותית שהשתמשה בשמה ובקולה כדי לפרסם את עצמה. באוקטובר האחרון טום הנקס הודיע בפוסט באינסטגרם על כך שאין שום קשר בינו לפרסומת "בכיכובו" שמקדמת רפואת שיניים.

בימים האחרונים פורסמה רשימה מפורטת של מאות סרטונים שהופצו בחודשים האחרונים ביוטיוב, עם דיפ פייק של מספר מפורסמים ביניהם ג'ו רוגן, טיילור סוויפט, אנדרו טייט, סטיב הארווי והיילי ביבר. בסרטונים אפשר לראות בין היתר את הסלבס מזמינים את הצופים בסרטון להיכנס לקישור ולהשאיר פרטים כדי לקבל כספים מתוכניות בריאות שונות בארה"ב. סטודנט שלח לאתר 404media את הרשימה המלאה שכוללת סך הכול עשרות מיליוני צפיות. מאז פרסום הידיעה לפני כיומיים, רוב הסרטונים הוסרו ואי אפשר לצפות בהם יותר ביוטיוב, אם כי יש עוד כאלו שנותרו פתוחים לצפייה כמו סרטון של ידוען הרשת השנוי במחלוקת, אנדרו טייט עם יותר ממיליון צפיות.

תופעת הפצת סרטוני דיפ פייק לא נשארת רק בגזרה הצרכנית והיא משמשת לא מעט גם לצרכים פוליטיים. בסרטון ויראלי של הדוגמנית בלה חדיד שהופץ בימים הראשונים למלחמה היא נראתה מדברת על תמיכה בישראל, יוצאת נגד החמאס ומתנערת מדעותיה הפרו-פלסטיניות. הקליפ שותף בארץ על ידי רבים כולל הדוגמנית נטלי דדון. מהר מאוד הובהר שהסרטון עבר מניפולציה דיגיטלית וכי ההתנצלות מעולם לא התרחשה. כעת, הפוסט המקורי עם הסרטון מסומן כמטעה על ידי X.

הרשתות החברתיות עשו כמה צעדים ראשוניים בנושא בתקופה האחרונה, אם כי עוד מוקדם לדעת עד כמה הם יהיו יעילים. בנובמבר האחרון יוטיוב הכריזה על צעדים חדשים למאבק בשימוש לרעה בבינה מלאכותית. על פי המדיניות החדשה תהיה אפשרות לבקש הסרה של תוכן שנוצר על ידי בינה מלאכותית המדמה אדם שניתן לזהות, כולל הפנים או הקול שלו.

גם מטא הודיעה כי החל מינואר 2024 היא תדרוש מכל פרסומת פוליטית או חברתית לסמן במקרה של שימוש בבינה מלאכותית או במניפולציה דיגיטלית אחרת בפרסומות בפייסבוק ובאינסטגרם. בהודעה הרשמית נכתב כי המפרסמים אינם חייבים להצהיר מתי בוצעו שינויים קטנים כמו חיתוך או תיקון צבע, אלא אם שינויים אלו משפיעים באופן מהותי על תוכן המודעה.