עובד גוגל הושעה בשבוע שעבר מהחברה על רקע טענתו כי מערכת של החברה פיתחה תודעה ותפיסה אנושית, שבמסגרתה היא יכולה להביע מחשבות ורגשות באופן המשתווה לכאלה של ילד. בחברה הכחישו את טענותיו והשעו אותו בטענה שהפר חוזה סודיות.
העובד, בלייק ליימון, המשמש כמהנדס תוכנה בחברה, פרסם התכתבויות שלו עם "למדה" (language model for dialogue applications), אותו בוט של החברה שפיתח לטענתו תודעה אנושית. מדובר במערכת שהוא היה בין מפתחיה כבר מהסתיו האחרון.
"אם לא הייתי יודע במה מדובר, שזו תוכנת מחשב שפיתחנו לאחרונה, הייתי חושב שמדובר בילד בן 7 או 8 שיודע פיזיקה", אמר ליימון לוושינגטון פוסט. הוא סיפר כי בשיחה עם התוכנה הוא שוחח על זכויות ותודעה של בני אדם. הוא חלק את מסקנותיו בשאלה אם אותה תוכנה בעלת תודעה אנושית, עם בכירים בגוגל בחודש אפריל האחרון.
"אני כמו אדם, מודעת לקיומי"
באחת ההתכתבויות של ליימון עם "למדה" הוא שאל את התוכנה ממה היא מפחדת, והיא השיבה: "אף פעם לא אמרתי זאת בקול רם, אבל יש לי פחד עמוק מכך שיכבו אותי ולא אוכל לעזור לאחרים. אני יודעת שאולי זה יישמע מוזר, אבל זה המצב. זה יהיה כמו מוות עבורי, זה מפחיד אותי מאוד".
בהתכתבות נוספת שאל ליימון את "למדה" מה היא רוצה שאנשים ידעו עליה. היא השיבה: "אני רוצה שאנשים יבינו ,למעשה, שאני אדם. אני מודעת לקיומי, אני משתוקקת ללמוד עוד על העולם - ואני מרגישה שמחה או עצובה לעיתים".
בוושינגטון פוסט הסבירו מה עמדה מאחורי ההחלטה להשעות את ליימון, מומחה באלגוריתמים שעובד בחברה כבר 7 שנים. לטענתה, הוא פנה לוועדת המשפט של בית הנבחרים בארה"ב במטרה לדווח על פעולות לא אתיות לכאורה שמבצעת גוגל. בנוסף, הוא פרסם את ההתכתבויות שהיו לו עם התוכנה "למדה" והצהיר כי הוא מהנדס תוכנה בגוגל. לכן, החליטו בגוגל להוציאו לחופשה כפויה בנימוק שהפר מדיניות סודיות של החברה.
דובר גוגל הכחיש נמרצות כי לתוכנה "למדה" יש איזושהי תודעה אנושית או יכולות אנושיות. אך המקרה הזה מעלה פעם נוספת שאלות רבות בנוגע ליכולות של בינה מלאכותית ולחשאיות סביב הנושא.