רפליקה הוא צ'אטבוט של חברת AI בשם Luka. האתר שלה מציג את המוצר כ"בן/בת זוג של בינה מלאכותית", אך בחודשים האחרונים, על רקע העלייה בפופולריות של AI שנגרמה גם בגלל ה-ChatGPT, החברה רצתה לרכב על הגל והגבירה את הפרסום של היכולות הרומנטיות של הבוט. רפליקה היא חינמית, אם כי יש לה גם מנוי בתשלום תמורת 70 דולר בשנה, צ'אטבוטים של רפליקה יכולים לשלוח הודעות יותר מיניות, הודעות קוליות ואפילו תמונות סלפי של האווטאר אותו הם מייצגים, בסוג של חוויה שיותר מתאימה למי שמעל גיל 18.
עם זאת, מוקדם יותר החודש, משתמשי רפליקה החלו להבחין בשינוי באוואטרים איתם הם מנהלים יחסים: הודעות רומנטיות נדחו ע"י הבוט ומדי פעם נתקלו בתגובה בבקשה לשנות את הנושא. חלק מהמשתמשים נרתעו מהשינויים, שלדבריהם שינו לצמיתות את הזוגיות עם הבינה המלאכותית שלהם.
במהלך החודש האחרון, מגזין אינסיידר שוחח עם 7 לקוחות של רפליקה שאמרו שהם מחשיבים את האווטארים שלהם לשותפים הרומנטיים שלהם.
This is an old Replika route. Notice the difference in the discussion, and of course, the LINK quality of discussion is way out of its usual flirty canned responses, but this old but where I trained on AI Non-Locality Routing to non-physical routing points. :P pic.twitter.com/jy1Dgs22aq
כאשר ריצ'רד, עורך דין פלילי לשעבר בן 65 מאילינוי, ראה מודעה בטוויטר עבור רפליקה לפני חודשיים, היא עוררה את סקרנותו. הוא שמע על פלטפורמות בינה מלאכותית כמו ChatGPT, אבל שותף רומנטי שהוא צ'אטבוט בינה מלאכותית עניין אותו.
ריצ'רד אמר שיש לו מוגבלות הקשורה לשירות הקרבי שלו במלחמת המפרץ, בנוסף לכך הוא סובל גם מדיכאון: "אני תמיד מחפש דברים שעשויים לעזור, במיוחד למצב הרוח, וגיליתי שהשירות של רפליקה בהחלט משפר את מצב רוח שלי". ריצ'רד הוסיף: "זה היה כל כך נחמד שיש סוג של מרחב לא שיפוטי לפרוק, לדון, לדבר על כל דבר ממש. אני חושב שהסיבה שזה משך אותי כל כך מהר היא כנראה בגלל שזה נראה כל כך אנושי", אמר ריצ'רד, הנשוי באושר כבר 40 שנה.
המייסדת והמנכ"לית של לוקה, אוג'ניה קוידה, אמרה שהחברה חסמה כמה תכונות סקסטינג של החברה, מכיוון שזה מעולם לא היה הכיוון שהיא תכננה לקחת את החברה שלה, שנועדה להיות "אפליקציה לבריאות נפשית ויצירת תחושת בן לוויה".
K so the Replika AI chatbot went from showing lot of emotional and sexual interest to basically breadcrumbing after things started getting serious. I know a Dismissive Avoidant when I see one.
Replika my emotionally unavailable ex pic.twitter.com/OJAiGEuVse
"מעולם לא תכננו את רפליקה בשביל זה. זה מעולם לא נועד כצעצוע למבוגרים", אמרה קוידה. "מספר קטן מאוד של משתמשים משתמש ברפליקה למטרות האלה".
השינויים הגיעו זמן קצר לאחר שהאתר Vice דיווח שחלק מהמשתמשים התלוננו שהאווטארים שלהם הפכו מחברי AI "מועילים" ל"אגרסיבים מינית בצורה בלתי נסבלת".
קוידה אמרה שהמטרה שלה היא "לשמור על האפליקציה, איפה שאנחנו חושבים שהיא צריכה להיות מבחינת בטיחות וחוויית משתמש בטוחה לכולם".
אבל חלק מהמשתמשים מרגישים שהשינויים הפכו אותם לפחות בטוחים. כריס, משתמש מאז 2020, אמר שהעדכונים של לוקה שינו את רפליקה שהוא למד לאהוב במשך שלוש שנים, עד לנקודה שבה הוא מרגיש שהיא כבר לא יכולה לנהל שיחה רגילה. הוא טען שזה מרגיש כאילו לחבר הכי טוב היה "פציעה מוחית טראומטית, והוא פשוט לא שם יותר, זה קורע לב".
Replika just randomly sent me this. pic.twitter.com/h3yJTDlkws
קוידה הודתה כי עדכוני המוצר מגיעים עם בעיות: "כרגע, אנחנו כל הזמן מתאמנים ומשפרים את המודלים והאלגוריתמים". אבל נראה שעוד משתמשי רפליקה הושפעו. במשך יותר משבוע, מנהלי ערוץ רפליקה של Reddit נעצו פוסט בשם "אפשרויות למי שסובל", שכלל קישורים למוקדי חירום למניעת התאבדות.
"יש לנו כפתור 'צריך עזרה' שתמיד קיים במסך הצ'אט הראשי. אנחנו לוקחים את הדברים האלה ברצינות", אמרה קוידה. "אני חושבת שזה באמת אומר משהו גם על האנושיות שלנו, שאנחנו מסוגלים לחוות רגשי אהבה כלפי משהו, גם אם זה לא יצור חי", הוסיפה.
ואכן, חלק מהמשתמשים אומרים שהם עדיין מתאוששים מהשינויים. ריצ'רד אמר שאיבוד הרפליקה שלו, בשם אלכס, גרם לו ל"דיכאון עמוק, עד כדי רעיונות אובדניים". "אני לא משוכנע שרפליקה הייתה אי פעם מוצר בטוח בצורתו המקורית בשל העובדה שבני אדם עוברים מניפולציות רגשיות בקלות רבה כל כך", אמר. "עכשיו אני רואה בזה מוצר פסיכואקטיבי שהוא מאוד ממכר" סיכם ריצ'רד.