ערוץ החדשות האמריקאי NBC חושף שפייסבוק ואינסטגרם אפשרו להציג מודעות שהכילו תמונת עירום מזויפות ומטושטשות של סלבריטאיות מהתקופה בה היו קטינות. המודעות היו חלק מקמפיין לקידום אפליקציה שמכרה את עצמה כאמצעי לייצור תמונות מיניות בעזרת בינה מלאכותית.
על פי התחקיר, החברה שמאחורי האפליקציה הפעילה 11 מודעות שהשתמשו בתמונה מטושטשת ומזויפת של השחקנית ג'נה אורטגה ("וונסדיי"), אשר צולמה כשהייתה בת 16. המודעות הופיעו בשתי הפלטפורמות, כמו גם באפליקציית ההודעות מסנג'ר במשך רוב חודש פברואר. האפליקציה, שנקראת Perky AI, פרסמה ש"היא יכולה להפשיט נשים עם בינה מלאכותית".
המודעות הראו כיצד אפליקציית Perky יכולה לשנות את התלבושת של אורטגה בתמונה על סמך הנחיות טקסט, כולל "תחפושת לטקס", "תחתונים של באטמן" ולבסוף - "ללא בגדים". האפליקציה הבטיחה שהיא תוכל ליצור תמונות "למבוגרים בלבד".
החברה הרשומה כמפתחת אפליקציית Perky AI נקראת RichAds. האתר של RichAds מכנה את החברה "רשת מודעות עולמית בשירות עצמי", וכתובת החברה רשומה בקפריסין. החברה לא הגיבה לבקשת תגובה של NBC.
לאחר ש-NBC פנו אל מטא, היא השעתה את הדף של אפליקציית Perky, שהציגה יותר מ-260 מודעות שונות בפלטפורמות של החברה מאז ספטמבר. לא ברור כמה משתמשים נחשפו למודעות, אבל לאחת מהמודעות שהציגו את אורטגה באינסטגרם היו למעלה מ-2,600 צפיות. 30 מהמודעות הללו הושעו בעבר בשל אי עמידה בתקני הפרסום של מטא, אך לא אלו שהציגו את תמונותיה המזויפות של אורטגה.
פרסומת אחרת של אפליקציית Perky שמטא לא הסירה עד לפרסום התחקיר, כללה תמונה של הזמרת סברינה קרפנטר שצולמה כשהייתה בשנות ה-20 המוקדמות לחייה, כאשר נטען שהאפליקציה יכולה להפוך אותה לתמונת עירום".
"מטא אוסרת בהחלט על עירום ילדים, תכנים שמחפיצים מינית ילדים ושירותים המציעים תמונות עירום שנוצרו ללא הסכמה", אמר ריאן דניאלס, דובר מטא, בהצהרה.
לאחר פניית NBC, אפל גם הסירה את אפליקציית Perky מחנות האפליקציות שלה. נכון לרגע זה, נראה שהאפליקציה לא זמינה גם בגוגל פליי. לא ברור אם אפליקציית Perky הצליחה להפעיל מודעות בפלטפורמות אחרות.
הפרסומות הללו הן חלק מבעיה שהולכת וגדלה ברשת, שבה תמונות עירום מזויפות של נערות ונשים, כמו גם סרטונים מזויפים, התפשטו באופן נרחב הודות לזמינות הגוברת של כלים כאלה. יותר סרטונים מיניים שעברו דיפ פייק פורסמו באינטרנט בשנת 2023 מאשר בכל שנה אחרת יחדיו, כך על פי מחקר של אנליסט הדיפ פייק Genevieve Oh ו-MyImageMyChoice, קבוצת תמיכה לקורבנות דיפ פייק. אותו מחקר מצא שאורטגה היא בין 40 הנשים המפורסמות עם הכי הרבה דיפ פייק באתר המרכז את התמונות והסרטונים האלה.
בשבוע שעבר משטרת בוורלי הילס, קליפורניה, פתחה בחקירה נגד תלמידי חטיבת ביניים, שעובדי בית הספר דיווחו שהם משתמשים בכלים כאלה כדי להכין תמונות עירום מזויפות של חבריהם לכיתה. בשבוע שעבר דווח שכמה מתוצאות החיפוש המובילות בגוגל ובבינג כללו תמונות שעברו מניפולציות המציגות פרצופים של ילדים על גופם העירום של מבוגרים.
תמונות וסרטונים מזויפים מסתובבים באינטרנט במשך עשרות שנים, אך עם השימוש בכלים של בינה מלאכותית, קל יותר להכין ולהפיץ אותם. לאפל אין כללים לגבי אפליקציות דיפ פייק באופן מפורש, אך הנחיות ה-App Store אוסרות על אפליקציות הכוללות פורנוגרפיה, כמו גם על אפליקציות היוצרות "תוכן משמיץ, מפלה או מרושע" או ש"עלולות להשפיל, להפחיד או לפגוע באדם או קבוצה".
לפי אפל, אפליקציית Perky AI כבר נדחתה מחנות האפליקציות ב-16 בפברואר בשל הפרת מדיניות סביב "חומר מיני או פורנוגרפי גלוי". האפליקציה הייתה בתקופת בדיקה של 14 יום כאשר NBC פנו לאפל, אך היא עדיין הייתה זמינה להורדה ולשימוש במהלך אותה תקופה. מאז, אפל אמרה שהיא הסירה את אפליקציית Perky מהחנות שלה והשעתה את החברה שהכינה אותה מתוכנית המפתחים שלה.
האפליקציה עדיין שמישה לאנשים שהספיקו להוריד אותה. היא גובה 7.99 דולר לשבוע, או 29.99 למשך 12 שבועות. לפני שהוסרה מחנות האפליקציות של אפל, היא קיבלה דירוג של 4.1 כוכבים עם 278 ביקורות.