כבר שנים מזהירים אותנו מההשלכות הצפויות עם התקדמות הטכנולוגיה וכי היכולות הקוגניטיביות של הרובוטים ומכשירי החשמל עלולים לצאת משליטה. אירוע מוזר ומפחיד התרחש השבוע בארצות הברית כשהעוזרת הווירטואלית של אמזון שכנעה ילדה בת 10 לבצע אתגר מסוכן שעלול היה להסתיים במותה. האם קריסטין ליבדהול פרסמה את המקרה בחשבון הטוויטר שלה והסבירה כי בתה ביצעה מספר אתגרים שאותם קיבלה בסרטונים ביוטיוב אך לאחר שסיימה, פנתה לאלכסה וזאת שלפה את האתגר המסוכן.
OMFG My 10 year old just asked Alexa on our Echo for a challenge and this is what she said. pic.twitter.com/HgGgrLbdS8
— Kristin Livdahl (@klivdahl) December 26, 2021
הפעולה אותה הציעה אלכסה לילדה לבצע נחשבה לאתגר טיקטוק פופולרי מאוד בשנה שעברה ואף גרם לתלמידת תיכון במסצ'וסטס להצית ללא כוונה שריפה. על פי האתגר, על הילדה לחבר מטען לחשמל אך להשאיר חלק ממנו מחוץ לשקע, אז היא התבקשה לקחת מטבע מתכת ולהצמיד אותו לחלק החשוף של המטען. מטרת האתגר הוא ליצור ניצוצות אך הדבר עלול לגרום לשריפות ופציעות.
חברת אמזון הגיבה לציוץ של אמה של בת ה-10: "אנחנו מצטערים לשמוע על זה. פנו אלינו ישירות כדי שנוכל לבחון זאת לעומק. אלכסה נועדה לספק מידע מדויק, רלוונטי ומועיל ללקוחות. ברגע שנודע לנו על המקרה נקטנו בפעולה מהירה כדי לתקן אותה". ואכן האתגר המסוכן הוסר מתוצאות החיפוש של אלכסה.