נראה שלאן שלא נביט, הרובוטים הופכים מיום ליום מגיבורי סיפורי מדע בדיוני למציאות שלנו. בתערוכת ה-CES שנחתמה בשבוע שעבר בלאס וגאס, בלטו רובוטים שהם עוזרים אישיים, כמו Ballie של סמסונג והרובוט של LG. מנגד, עולות לכותרות גם תקריות פחות נעימות עם רובוטים – כמו זו שפורסמה בסוף חודש דצמבר על רובוט במפעל טסלה בטקסס ש"תקף" עובד ופצע אותו, וכן על הקשיים שנתקלות בהן המוניות האוטונומיות שנפרסו בסן פרנסיסקו, עד כי המחוקקים בקליפורניה השעו בחודש אוקטובר 2023 את אישור הנסיעה של המוניות הרובוטיות במדינה, בטענה שהן לא בטוחות להפעלה. התקרית שהביאה לאיסור התרחשה ב-2 באוקטובר בסן פרנסיסקו, והביאה לכך שאישה נתקעה מתחת לרכב של קרוז לאחר שנפגעה על ידי נהג אחר והושלכה לנתיב הרכב האוטונומי. היא עדיין מאושפזת בבית החולים, אם כי מצבה מוגדר טוב.
אז האם יש לנו מה לחשוש מהרובוטים? האם יש סכנה שהם באמת יום אחד ישתלטו על העולם ויפגעו בבני האדם?
"יש כאן סכנה. אנחנו רוצים שהמכונות יעבדו איתנו במגע הרבה יותר צמוד, מאשר מה שהיה מקובל להשתמש עד עכשיו", אומר ל-mako ד"ר דוד פייטלסון, ראש בית הספר להנדסת תוכנה באפקה, המכללה האקדמית להנדסה בתל אביב. "לא מדובר כאן על סכנה כמו בספרי מדע בדיוני, שהם ירצו להשתלט על העולם, יפתחו רגש וינסו להחליף אותנו, אלא על סכנה פחות מלהיבה, אבל מוחשית. סיירתי לדוגמה לאחרונה במכון ויצמן, יש שם רובוט ששוטף את הכלובים של העכברים. הרובוט הזה ממוקם מאחורי מחיצת זכוכית, אי אפשר להתקרב לשם. יש לו זרוע כבדה שדרכה הוא מוריד את כל הכלובים, ואם היא תפגע במישהו, היא יכולה לגרום לפציעה.
Hate changing lanes? No worries, we’ll handle that. pic.twitter.com/uCSkGcdhsJ
"כל מי שמשתמש ברובוטים שמנקים את הבית, מכיר את בעיות התקשורת בין אדם למכונה אוטונומית. הרבה פעמים הרובוט יכול לנסוע ולהיתקע בי. זה לא מפריע שרומבה קטנה נתקעת, כי כל עוד המכונות קטנות, זה לא נורא, אבל לעבוד עם רובוטים חזקים בתעשייה מתקדמת כבר יכול להיות ממש מסוכן, במיוחד אם הוא אוטונומי ויכול להרים את הזרוע בלי שום התראה, כשאין לו שום אינדיקציה שאדם עומד ונמצא שם באותו רגע. זה יכול לפגוע בצורה מאוד רצינית בבן אדם".
פייטלסון מתייחס באופן ספציפי לסכנות הרכבים האוטונומיים, כפי שבאה לידי ביטוי בזמן שבו הם פעלו בסן פרנסיסקו. "הרובוט הזה בא במגע ישיר עם הולכי רגל, מכוניות אחרות, יש פה פוטנציאל גדול, אבל יש גם סכנה גדולה מאוד", הוא אומר. "היו יחסית המון תאונות לכמות הרכבים האלה. מ-2016 רכבים אוטונומיים אחראים ל-25 הרוגים, למאות פציעות ולהמון נזקים. פחות מדברים על זה. זאת עדיין מכונה, ומכונות צריכות סביבה מאוד נשלטת ומאוד סטטית כדי שיוכלו לפעול טוב. יש להן יכולות מסוימות של חישה, להבין באיזה צורה מה קורה סביבן, ועדיין מדובר במכונה, שעדיין צריכה סביבה מדעית".
הוא נותן כדוגמה קרוניות שמסיעות אנשים מטרמינל בשדות תעופה מסוימים, בפריז למשל. "יחד עם זאת, אף אחד לא מסתובב על הפסים. הרכבות לא צריכות לשים לב אם מישהו חוצה את הדרך, זו סביבה שנבנתה עבור המכונה. הבעיה הגדולה היא שנותנים היום לרובוטים לפעול באזורים שבהם מסתובבים בני אדם באופן חופשי. זה ישר מעלה את אי הוודאות, קומבינציות של דברים שכולים לקרות שהם לא צפויים. מאוד קשה לנו לבנות מכונות שיודעות להתנהג טוב בסיטואציות האלה".
הסיבה לכך היא לדברי פייטלסון היא שהכלים המודרניים של ה-AI מבוססים על סטטיסטיקה. "כמו מודלי השפה, הם לומדים הרבה מאוד דוגמאות וכשהם נתקלים בסיטואציה שנמצאת מולם הם מחפשים תבנית שדומה למה שהם למדו", הוא אומר. "הם מגיבים בהתאם לתגובה שהגיבו בפעם הקודמת. הבעיה עם זה שיש סיטואציות של חוסר ודאות, שקורה משהו אחר קצת, למשל ברווז חוצה את הכביש, מכונית שעושה פניית פרסה ונוסעת נגד כיוון התנועה או שלמישהו מתפוצץ גלגל.
"במקרה כזה המערכת לא מסוגלת להבין את הסיטואציה, היא מחפשת את הדבר הכי דומה שיש ויכול להיות שהוא יהיה מנותק מכל החלטה הגיונית שצריך לקבל באותו הרגע. לדוגמה, מכונית רובוטית שעצרה את עצמה ברחוב, נעצרה במקום וחסמה את כל התנועה, בגלל שהדלת של תא המטען לא הייתה סגורה טוב. יכול להיות שהיא תחסום רכב הצלה. בן אדם יבין שאם יש דלת לא סגורה טוב ויש רכב הצלה, הוא יזוז. הרכב הרובוטי לא זז, הוא נשאר שם, עומד".
ומה אפשר לעשות?
"האתגר הגדול, אם רוצים ללכת לכיוון כזה שאנשים ורובוטים עובדים ביחד, הוא לפתח שפה משותפת הרבה יותר עשירה, שתאפשר לנו להבין שהרובוט מבין את הכוונות שלנו. אם אני חוצה את הכביש ובאה מולי מכונית, אני מסתכל על העיניים של הנהג. זה משהו שאנחנו מסבירים גם לילדים, קשר עין זה דיאלוג מאוד מהיר, שבו כל אחד מבין את הכוונות של השני, ואז יש לי ביטחון לחצות. צריך לעשות משהו דומה בתקשורת בין האדם למכונה, כדי שהרובוט יהיה מודע לנוכחות שלנו ויימנע מלעשות פעולות שיכולות לפגוע בנו".
לסיכום, סבור פייטלסון: "צריכים קצת לעצור עם הריצה הזאת של שילוב כל כך הדוק של אדם ומכונה. רכבים אוטונומיים יכולים להצליח רק במקומות שיש בהם הפרדה ברורה בין המסלולים שהרכבים נוסעים לבין המקומות שבהם נמצאים בני האדם. כשאנחנו זורקים את הרכבים האוטונומיים לסביבה אנושית לא צפויה, ורואים את זה קורה בפועל במקומות כמו סן פרנסיסקו, התוצאה מאוד לא טובה. גם הדוגמאות מהמפעלים שרובוטים תקפו בני אדם היא עדות לזה ששיתוף פעולה הדוק כזה הוא מסוכן.
"אין לנו את הכלים לייצר את התקשורת בצורה שיהיה ברור שהרובוט מבין איפה אנחנו נמצאים ושיהיה ברור לנו מה הרובוט הולך לעשות. זה משהו שעדיין לא פיתחנו בצורה מספקת. זאת הסכנה הגדולה. כל כך מתלהבים מהפוטנציאל של רכבים או רובוטים אוטונומיים, וזה מסיר את החשיבה הביקורתית. הם לא ישתלטו על העולם, אבל יכולים לעשות הרבה נזק, לפחות במצב הנוכחי – הם יכולים לדרוך עלינו בטעות בלי לשים לב, כמו פיל שדורך על נמלה".