מחקר חדש של חברת אקטיבפנס לרגל יום האינטרנט הבטוח שמצוין היום (11.2), חושף עלייה חדה בשימוש בבינה מלאכותית (AI) ככלי לסחיטה מינית ברשת - בין השנים 2022 ל-2024 נרשמה עלייה של 1,944% בשימוש בכלי AI שונים לשם ביצוע סחיטה מינית.
הסחיטה המינית (סקסטורשן) היא סוג של איום בו התוקפים מאיימים לחשוף או להפיץ תמונות אינטימיות של הקורבן אם הוא לא יסכים למלא דרישות, בדרך כלל כספיות או מיניות. השימוש בבינה מלאכותית מאפשר לתוקפים ליצור תמונות או וידאו מזויפים בצורה מהירה ויעילה, ולהפיץ אותם לקורבנות במטרה להפעיל עליהם סחיטה. ילדים ובני נוער, שבעצמם עלולים להיות קורבנות לפגיעות מיניות ברשת, חשופים יותר לאיומים כאלו.
במחקר של אקטיבפנס שנעשה על כ-100 ערוצי הודעות ב-Dark web, הרשת האפלה, המקושרים לרשתות סחיטה מינית, נחשף כיצד תוקפים משתמשים בטכנולוגיות בינה מלאכותית כדי ליצור תמונות פורנוגרפיות מזויפות ולסחוט קורבנות, בעיקר ילדים ובני נוער. רשתות אלו כוללות פורומים, קבוצות שיחה, אפליקציות ופלטפורמות דיגיטליות, בהם מתבצע שימוש במידע אישי של הקורבן, כמו תמונות אינטימיות, כדי להפעיל עליו לחצים.
בנוסף, המחקר מצביע על תופעה נוספת של מכירת תוכן מיני על ידי קטינים, בני נוער וילדים, דרך פלטפורמות חברתיות ואתרים המיועדים לסקסטינג ולתוכן אינטימי. קטינים רבים משתמשים בשמות כיסוי ובשפות מקודדות כדי לעקוף אמצעי הגנה ולמכור תכנים מזיקים. הפלטפורמות השונות, כמו טלגרם ופורומים, מאפשרות לאנשים לגשת לתוכן כזה, ובכך מגדילות את הסיכון לניצול ולפגיעה בילדים ובני נוער.
לדוגמה, ב-Agora, פלטפורמת שאלות ותשובות, נמצא בן 16 שרוצה להפוך ל"סייבר שוגר בייבי" כדי לממן את הניתוח של הוריו. ב-sextingfinder.com, אתר שמאפשר למשתמשים לשתף את שמות המשתמש שלהם בסנאפצ'אט לצורך סקסטינג, נמצאו קטינים שחיפשו "שוגר דאדיז". באותו אתר ילדה בת 16 מכרה תוכן אינטימי.
"הרשת מציעה מגוון עצום של תכנים, מהם ילדינו יכולים ללמוד רבות, אך היא גם טומנת בחובה סכנות משמעותיות שעלולות להשפיע על ילדים ובני נוער. מהפכת הבינה המלאכותית (Generative AI) החריפה את המצב, כשהיא מאפשרת יצירת תכנים משכנעים בקלות, דבר המעצים תכנים פוגעניים וזדוניים", אומר נועם שוורץ, מנכ"ל ומייסד שותף באקטיבפנס. "מצב זה מחייב אותנו כהורים וכחברה להכיר בסכנות הרשת ולנקוט בפעולות כדי להכין את ילדינו למציאות המורכבת הזו".
"בלחיצת כפתור, ילדים מייצרים תמונות אינטימיות של חבריהם לכיתה מבלי להבין שהם עוברים עבירה פלילית חמורה, תוך התעלמות מהנזק לקורבנות שיאלצו להתמודד עם העובדה שתמונות אינטימיות שלהם מסתובבות ברחבי הרשת וכנראה לעולם יישארו שם. המניעה הטובה ביותר היא חינוך ומודעות, מצב זה מחייב אותנו כהורים וכחברה להכיר בסכנות הרשת ולנקוט בפעולות כדי להכין את ילדינו למציאות המורכבת הזו", אומר ד"ר אבי יגר, ראש תחום בטיחות ילדים ברשת באקטיבפנס.
אקטיבפנס עובדת בשנה האחרונה עם חברות הסושיאל, הטכנולוגיה וה-AI המובילות בעולם, ביניהן NVIDIA, Cohere ו-AWS, במטרה להפוך את הפלטפורמות, התכנים והמשתמשים לבטוחים יותר, והשיקה פודקאסט בשם "כוכבי הגלקסיה", שמתמקד בנושאים כמו שמירה על פרטיות, התמודדות עם בריונות ברשת, הבנת הסכנות באתגרים ויראליים מסוכנים וניסיונות פישינג והונאה.
מה קורה בישראל?
הבוקר (שלישי) 28 חשודים בביצוע עבירות מין ופדופיליה נעצרו על ידי המשטרה, לאחר שסוכנות סמויות פעלו בוואטסאפ ואינסטגרם והובילו להפללתם. במסגרת החקירה הופעלו שתי שוטרות כסוכנות סמויות, שהזדהו כקטינות בנות 13 ברשת החברתית והתכתבו עם חשודים ששלחו להן תכנים מינים - בזמן שהם מודעים לכך שהם מתכתבים עם נערות. מוקדם יותר השבוע דווח כי שלושה תלמידים מבתי ספר בירושלים חשודים שהפיצו תמונות אינטימיות של עשרות תלמידות. על פי החשד, השלושה השתמשו בתמונות מהרשתות החברתיות, ערכו אותן באמצעות בינה מלאכותית והפיצו אותן שלא כדין.
״בישראל קיימת בעיה חמורה של מודעות והרתעה בכל הנוגע לביטחון ילדים ברשת. מדי שבוע מאות קטינים נופלים קורבן לבריונות מקוונת, סחיטה מינית ודליפת תכנים רגישים, בעוד שרשויות האכיפה מתקשות להדביק את הקצב. יש צורך במאמץ משולב של כל הגורמים הרלוונטיים כדי למנוע את הפגיעות הללו ולספק הגנה טובה יותר לילדים", אומר יגר.
כיצד ניתן להגן על הילדים מפני סכנות הסקסטינג והסחיטה המינית ברשת?
למרות שהאינטרנט מציב אתגרים רבים, ישנם צעדים שניתן לנקוט כדי להגן על הילדים והנוער מפני סכנות של סקסטינג וסחיטה מינית:
- שיחה פתוחה ומבוססת אמון
חשוב לנהל שיחות כנות ופתוחות עם הילדים על הסכנות ברשת, במיוחד בנוגע לשיתוף תמונות אינטימיות. יש להסביר להם את הסיכונים הכרוכים בכך, כמו סחיטה מינית, ולהבהיר להם שתמיד אפשר לפנות להורים במקרה של בעיה או חשש. - הסבר על גבולות בריאים ברשת
יש ללמד את הילדים על הצורך לשמור על גבולות אישיים, גם בעולם הדיגיטלי. יש להסביר להם את חשיבות ההימנעות משיתוף תמונות אישיות או אינטימיות, גם עם חברים קרובים, ולהדגיש שאין דבר כזה "איבוד שליטה" על תמונות אחרי שהן שותפו. - שימוש בהגדרות פרטיות ברשתות החברתיות
יש לוודא שהילדים מבינים את חשיבות הגדרות הפרטיות ברשתות החברתיות והאפליקציות שהם משתמשים בהן. כל פרופיל ברשתות החברתיות צריך להיות פרטי, והם צריכים להיות מודעים לכך שהם יכולים לשלוט במי יכול לראות את התוכן שהם משתפים. - חינוך להימנעות מאיומים ברשת
יש ללמד את הילדים לזהות סימני אזהרה, כמו פניות ממבוגרים לא מוכרים או בקשות לשתף תכנים אינטימיים. חשוב להדריך אותם כיצד להימנע ממצבים שבהם הם עשויים להיתקל בסחיטה מינית או לחצים לשתף תוכן אישי. - מענה מהיר במקרה של בעיה
יש להבהיר לילדים שהם יכולים תמיד לפנות להורים או לאדם מבוגר אם הם נפגעים או מרגישים לא נעים בעקבות התנהלות ברשת. כל פנייה צריכה להתקבל בברכה, ללא פחד מעונש, כדי לעודד אותם לפנות בזמן. - שימוש בהדרכות ובסדנאות ברשתות החברתיות
יש להמליץ לילדים להשתתף בהדרכות ופעילויות חינוכיות הנוגעות להתנהלות בטוחה ברשת, ולחפש מידע על הסכנות השונות בעולם הדיגיטלי כדי שיבינו את הסיכונים וידעו איך להימנע מהם.