ב־26 בפברואר, יומיים אחרי שפרצה באירופה מלחמה - לראשונה זה עשרות שנים - האב פאולו בֶּנאנטי חצה בצעד נמרץ את מרכז רומא כשהוא לבוש בגלימה עם ברדס. הוא יצא מביתו המשקיף על פורום אוגוסטוס העתיק, פילס לו דרך בין אוטובוסים, רוכבי אופניים ומוזיקאי רחוב, חצה את גשר סנטאנג'לו בן אלפי השנים והגיע לבסוף אל ויָה דֶלה קונצ'יליאציונֶה, העורק הראשי של קריית הוותיקן. יעדו היה ארמון האפיפיור – מגוריו הרשמיים של מנהיג הכנסייה הקתולית – שם עמד להשתתף בפגישה חשובה למדי.
בנאנטי הוא נזיר פרנציסקני שחי במנזר צנוע שהוא חולק עם ארבעה כמרים אחרים, מעל כנסייה רומאית זעירה. הפרנציסקנים נודרים לחיות בקהילות, אך הם אינם כמרים מן השורה. הם עובדים בעבודות רגילות, או עוסקים באופן פעיל בצדקה או עבודה התנדבותית, וזאת כדי לחקות את חייו של פרנציסקוס מאסיזי, הקדוש המייסד של המסדר. המנזר של בנאנטי הוא היכל של למדנות: כל הכמרים, שהמבוגר בהם בן 100, הם מרצים בהווה או בעבר, ותחומי ההתמחות שלהם כוללים כימיה, פילוסופיה, טכנולוגיה ומוזיקה.
בנאנטי בן ה־48, הצעיר שבהם, הוא מהנדס ופילוסוף של המוסר, שני כובעים שהוא חובש בנוח יחד עם גלימות הכמורה שלו. כמרצה למוסר באוניברסיטה האפיפיורית הגרגוריאנית, מוסד בן כמעט 500 השוכן 10 דקות הליכה מהמנזר, הוא מדריך תיאולוגים וכמרים בסוגיות של מוסר ואתיקה, הקשורות לטכנולוגיות מתקדמות כגון ביו־אוגמנטציה, נוירו־אתיקה ובינה מלאכותית.
בנאנטי היה בדרכו לפגישה עם האפיפיור הארגנטינאי פרנציסקוס, שאותו בנאנטי מדמה ל"טנגו לוהט", בניגוד מוחלט, לדבריו, ל"וולס המהוגן" של קודמו בתפקיד. בפגישה, בנאנטי נועד לשמש כמתרגם גם בתחום הלשוני וגם בתחום הדיסציפלינרי. הוא דוברית אנגלית, איטלקית, טכנולוגיה, מוסר ודת באופן שוטף.
אורחו של האפיפיור היה בראד סמית, נשיא ענקית הטכנולוגיה האמריקאית מיקרוסופט, שהגיע יום קודם במטוס פרטי. על סדר היום עמדה סוגיית הבינה המלאכותית, וליתר דיוק, כיצד האנושות כולה תוכל להפיק תועלת מהטכנולוגיה רבת העוצמה הזאת במקום להיות נתונה לחסדיה
אורחו של האפיפיור היה בראד סמית, נשיא ענקית הטכנולוגיה האמריקאית מיקרוסופט, שהגיע יום קודם במטוס פרטי. על סדר היום עמדה סוגיית הבינה המלאכותית, וליתר דיוק, כיצד האנושות כולה תוכל להפיק תועלת מהטכנולוגיה רבת העוצמה הזאת במקום להיות נתונה לחסדיה. הפגישה הייתה אקטואלית במיוחד: האפיפיור רצה לדעת כיצד עלולה הבינה מלאכותית לשמש ככלי מלחמתי נגד אוקראינה. הוא רצה לדעת גם מה הוא יוכל לעשות כדי למנוע מהטכנולוגיה הזאת להשמיד בסופו של דבר את מרקם האנושות.
במהלך שלוש השנים האחרונות הפך בנאנטי ל"לוחש לבינה המלאכותית" של הדרגים הגבוהים בוותיקן. הנזיר, שהשלים חלק מהדוקטורט שלו באתיקה של טכנולוגיות ההשבחה האנושית באוניברסיטת ג'ורג'טאון בארה"ב, מתדרך את האפיפיור בן השמונים וחמש ואת יועציו הבכירים בנוגע ליישומים אפשריים של בינה מלאכותית, שאותה הוא מגדיר טכנולוגיה רב־תכליתית "כמו פלדה או חשמל", ובנוגע להשלכותיה על אורח חיינו. הוא גם משמש כשדכן בין שני צדדים שסטיבן ג'יי גולד תיאר פעם ככנסיות לא חופפות: מנהיגי הדת מחד גיסא והטכנולוגיה מאידך גיסא.
הוא ערך פגישות עם סגן נשיא יב"מ ג'ון קלי, עם מוסטפא סולימן, ממייסדי חברת הבינה המלאכותית DeepMind שבבעלות אלפבית, ועם נורברטו אנדראדֶה, שמוביל את מדיניות האתיקה בתחום הבינה המלאכותית בפייסבוק, כדי לעודד חילופי רעיונות בנוגע לתכנון ויישום "מוסרי" של הטכנולוגיה המתהווה הזאת.
על אף חזותו העליזה והאופטימית של בנאנטי, הוא גם יועץ מרכזי לאפיפיור ולמועצת הקרדינלים שלו בכל הקשור לסכנות הפוטנציאליות של הבינה המלאכותית. "לבינה המלאכותית יש הכוח לחולל מהפכה טכנולוגית נוספת... לא רק שהיא יכולה לגזול את כוחם של הפועלים, אלא שהיא יכולה גם לגזול מבני האדם את כוחם לקבל החלטות", הוא אומר במהלך סיור שהוא עורך לי בביתו, כנסיית קוויריקוֹ-אֶ-ג'וּליטה. "זה עלול להיות עתיד בלתי צודק, שיאיים על השלום החברתי והטוב החברתי".
הנזיר, שהשלים חלק מהדוקטורט שלו באתיקה של טכנולוגיות ההשבחה האנושית באוניברסיטת ג'ורג'טאון בארה"ב, מתדרך את האפיפיור בן השמונים וחמש ואת יועציו הבכירים בנוגע ליישומים אפשריים של בינה מלאכותית, שאותה הוא מגדיר טכנולוגיה רב־תכליתית "כמו פלדה או חשמל"
ראשי הכנסייה חוששים במיוחד שהבינה המלאכותית תגדיל את פערי האי־שוויון. "אלגוריתמים הופכים אותנו לבריות הניתנות לכימות. המחשבה שאם נהפוך את בני האדם לנתונים, יהיה אפשר לעבד אותם או למחוק אותם, זה משהו שבאמת נוגע בנקודה רגישה אצל האפיפיור", אומר לי בנאנטי. "אם מסתכלים על מה שקרה לילדים ולקשישים במהפכה התעשייתית הראשונה, אז או שהעבידו אותם יתר על המידה או שהשינויים החברתיים הדירו אותם. הבינה המלאכותית עלולה לשנות את חלוקת העושר באופן שבאמת יהיה אכזרי כלפי בני האדם השבריריים ביותר".
הפגישה של סמית עם האפיפיור בפברואר לא הייתה הראשונה ביניהם. בפברואר 2019 יזם בנאנטי את פגישתם הראשונה במסגרת ועידה חוצה דיסציפלינות שמטרתה לדון באתיקה של הבינה המלאכותית. אחרי שהתחברו על רקע תמיכתן המשותפת במהגרים ופליטים לא חוקיים, הסכימו שתי המשלחות לעבוד יחד על משהו שאפתני ומוחשי יותר: אמנה של ערכים אנושיים משותפים שתשמש כמדריך למפתחי הבינה המלאכותית.
We live at a time when we must stay true to timeless values as we advance new technology. I spent the afternoon at the Vatican discussing the teachings of the church, #AI ethics, and why we must always put humanity first. @paolobenanti @PontAcadLife @monspaglia pic.twitter.com/3dVlt6TOke
— Brad Smith (@BradSmi) February 14, 2019
בנאנטי עזר לנסח את האמנה האתית, ששמה "קול קורא מרומא" (Rome Call), שעליה חתמו בפברואר 2020 מיקרוסופט, יב"מ ממשלת איטליה ואחרים. ביסוד האמנה שוכן הציווי להגן על כבוד האדם מעל לכל תועלת טכנולוגית אפשרית. "הפגישה הראשונה הולידה את האמון שהוביל ל'קול קורא מרומא': הכול מתחיל ממערכות יחסים בין בני אדם", מסביר בנאנטי.
ראשי הכנסייה חוששים במיוחד שהבינה המלאכותית תגדיל את פערי האי־שוויון. "אלגוריתמים הופכים אותנו לבריות הניתנות לכימות. המחשבה שאם נהפוך את בני האדם לנתונים, יהיה אפשר לעבד אותם או למחוק אותם, זה משהו שבאמת נוגע בנקודה רגישה אצל האפיפיור"
זאת אינה הפעם הראשונה שהוותיקן מתערב בעניינים של פיתוח טכנולוגי. סוגיית כלי הנשק הגרעיניים היא חלק מרכזי ממדיניות החוץ שלו מאז המלחמה הקרה, ולאחרונה הוא יצא בתקיפוּת נגד אמצעים ביוטכנולוגיים כמו שיבוט בני אדם. אבל גישתה של הכנסייה לבינה המלאכותית שקולה ומכילה יותר, ונשענת על מומחיותם של מגוון מוסדות - וכן של דתות אחרות – במטרה לבלום במשותף עמם את כוחן של החברות הפרטיות.
ההתערבות הזאת הציתה גם דיון רחב יותר בתוך האפיפיורוּת בנוגע ליצירת ברית מגוונת יותר, גלובלית, שתכפה על חברות הבינה המלאכותית להתנהל באחריותיות. הדיון הזה, שנמשך כבר שנתיים, הוביל לאירוע היסטורי שעתיד להיערך באבו דאבי במאי השנה: חתימה של מנהיגים נוצריים, מוסלמיים ויהודיים על אמנה אתית רב־דתית למען הגנה על החברה האנושית מפגעי הבינה המלאכותית.
"הם מזהים את אותן בעיות, ואנחנו רוצים לסלול דרך חדשה יחד", אומר בנאנטי על כוס אספרסו בחדר האוכל של המנזר. "למיטב ידיעתי, שלוש הדתות המונותאיסטיות מעולם לא ישבו יחד לחתום על הצהרה משותפת בשום נושא".
דאוס אקס מכינה
הרצון לבנות כלים שידמו את הבינה האנושית אינו תופעה חדשה. הפולקלור היהודי מספר על הגולם מפראג, שבמאה השש עשרה הפיח בו המהר"ל רוח חיים כדי שיגן על היהודים המקומיים מפני מתקפות אנטישמיות. המשך הסיפור צפוי: הגולם מתפרע ובסופו של דבר יוצרו מחסל אותו. כנ"ל לגבי "פרנקנשטיין" של מרי שלי, הסיפור שהוליד את סוגת המדע הבדיוני, שעוסקת יותר ויותר בתיאורים של בינה מלאכותית היוצאת מכלל שליטה.
המערכות האלגוריתמיות האלה מחליפות את שיקול הדעת האנושי בתחומי הרפואה, גיוס העובדים, אישורי ההלוואות, ההשכלה וגזרי הדין הפליליים. אבל גם הולך ומתברר שקבלת ההחלטות האלגוריתמית עלולה להיות רוויה בטעויות
הבינה המלאכותית שקיימת בימינו היא פחות אוטונומית מזה ומשמשת בעיקר בתפקידי תמיכה. מאז 2009 בערך, השימוש הנרחב שלנו במכשירים המחוברים לאינטרנט, בשילוב עם כוחם ההולך וגדל של שבבי סיליקון, מייצר נפח אדיר של נתונים המוביל לפריחה טכנולוגית. בין היתר נולדה תת־סוגה של בינה המלאכותית שנקראת למידת מכונה, המלמדת תוכנות איך לזהות מִתאמים בתוך מערכי נתונים עצומים. המערכות האלגוריתמיות האלה מחליפות את שיקול הדעת האנושי בתחומי הרפואה, גיוס העובדים, אישורי ההלוואות, ההשכלה וגזרי הדין הפליליים.
אבל גם הולך ומתברר שקבלת ההחלטות האלגוריתמית עלולה להיות רוויה בטעויות, ואם לא די בכך, קלטים לא מדויקים גורמים למחשבים להפיץ הטיות קיימות. לדוגמה, חוקרים מצאו שמערכת בינה מלאכותית שבתחום אחריותה נמצאים 70 מיליון אמריקאים בבתי חולים בארה"ב, ותפקידה להקצות סיוע רפואי למטופלים הסובלים ממחלות כרוניות, מתעדפת מטופלים לבנים במצב קל על פני מטופלים אפרו אמריקאים במצב קשה יותר.
החוקרים חישבו שכמעט 47 אחוז מהחולים באפרו אמריקאים היו צריכים לקבל הפניה לטיפול נוסף, אבל בגלל ההטיה האלגוריתמית, 17 אחוז בלבד קיבלו את הטיפול הנדרש. בנאנטי מסביר שנתונים הם מפה – לא עותק – של המציאות. לכן "בלתי נתפש... שמכונת בינה מלאכותית מסוגלת לקבל החלטות ללא שגיאות. [מכונות] תמיד ובהכרח יהיו מועדות לטעויות".
תפקידו של בנאנטי – לייצר מסמך ערכים שיהיו מוסכם על שלוש הדתות – הוא רגיש. לכל דת יש קווים אדומים מוסריים משלה ופרשנויות משלה לפגיעה, ולכן יידרש איזון עדין כדי להגיע לתמימות דעים. סוגיה חשובה לא פחות היא העובדה שאת הבינה המלאכותית המשמשת ברוב העולם פיתחו מהנדסים מקליפורניה שמטמיעים את נקודות המבט שלהם בקוד
עצתו של בנאנטי לאפיפיורוּת הייתה פשוטה למדי: הכנסייה יכולה לסייע ביצירת מערכת חדשה של אתיקה אלגוריתמית, "אלגורתיקה". מדובר בתשתית בסיסית של ערכים אנושיים המוסכמת על מדינות, דתות, עמותות ותאגידים מכל העולם, שהמכונות עצמן יוכלו להבין ולהטמיע. ביסודו של דבר, הוא אומר, האלגורתיקה דורשת מכל המערכות האוטונומיות להטיל ספק בעצמן, לחוות אי־ודאות מוסרית. "בכל פעם שמכונה אינה יודעת אם היא מגינה בבטחה על הערכים האנושיים, היא תדרוש מבן אדם להתערב", הוא אומר. רק כך יוכלו הטכנולוגים לייצר בינה מלאכותית שמציבה את הרווחה האנושית בראש סדר העדיפויות.
עמק הסיליקון כמרכז אתאיסטי
תפקידו של בנאנטי – לייצר מסמך ערכים שיהיו מוסכם על שלוש הדתות – הוא רגיש. לכל דת יש קווים אדומים מוסריים משלה ופרשנויות משלה לפגיעה, ולכן יידרש איזון עדין כדי להגיע לתמימות דעים. סוגיה חשובה לא פחות היא העובדה שאת הבינה המלאכותית המשמשת ברוב העולם פיתחו מהנדסים מקליפורניה שמטמיעים את נקודות המבט שלהם בקוד.
"הייתי אומר שהאתוס של עמק הסיליקון הוא כמעט ליברטריאני, ואתאיסטי מאוד, אבל בדרך כלל הם מחליפים את האתאיזם בדת משלהם – בטרנס־הומניזם או בפוסט־הומניזם", אומרת קַנְטָה דיהאל, חוקרת של מדע וחברה מאוניברסיטת קיימברידג'. "[זה] נרטיב של 'לשחק באלוהים', המושפע מאוד מנקודת המבט של הגבר הלבן הפריבילגי שמנסה לעצב את העתיד".
הניתוח של דיהאל מזכיר קטע ממכתבו המפורסם של האפיפיור יוחנן פאולוס השני מ־1998, Fides Et Ratio ("אמונה ותבונה"), העוסק בדיאלוג בין האמונה למדע. את המכתב הזה בנאנטי מלמד בשיעוריו באוניברסיטה, ואני שמעתי עליו רק כשאחד מתלמידיו הזכיר אותו בשיחה עמי בוקר אחד, אחרי שהשתתפתי בשיעור של בנאנטי בנושא נוירו־אתיקה.
במכתבו, יוחנן פאולוס השני כותב, "מדענים מסוימים, נטולי נקודת ייחוס מוסרית, עלולים להציב בראש מעייניהם דבר מה שאינו בן האדם ומהלך חייו השלם". הוא מוסיף: "יתרה מזו, אחדים מהם, שמזהים הזדמנויות ליצירת קדמה טכנולוגית, נכנעים לא רק להיגיון של השוק, אלא גם לפיתוי שבשליטה אלוהית־כביכול בטבע, ואפילו בבני האדם".
במהלך לימודי הדוקטורט שלו נמשך בנאנטי לתחום האתיקה של הבינה המלאכותית. כמו הבינה המלאכותית עצמה, גם התחום הזה הוא תוצר של התעשייה הטכנולוגית, וגם הוא משקף בבירור את רגישויותיה והאידיאלים שלה. הוא חש שיש צורך דחוף בגישה "הומניסטית" יותר המתבססת על נקודת מבטם של הוגים ומומחים מתחומי ההיסטוריה, החברה והמוסר. לדברי דיהאל, השימוש ההולך וגובר במערכות בינה מלאכותית בשירותי הבריאות, בסוכנויות אכיפת החוק ובמוסדות הממשלה, הוביל "כמעט כל מדינה, כל עמותה, כל חברת טכנולוגיה" לפרסם מגילת עקרונות אתיים משלה.
ב־2019, חוקרים מהמכון השוויצרי הפדרלי לטכנולוגיה ערכו סקירה של העקרונות האלה. הם מצאו לפחות 84 מסמכים שונים המתווים גבולות מוסריים לשימוש בבינה מלאכותית, שכמעט 90 אחוז מהם התפרסמו ב־2016. את רובם כתבו תעשיית ההיי-טק וממשלות מערביות, והחוקרים אמרו שזה "מעלה חששות בנוגע להזנחת הידע המקומי, הפלורליזם התרבותי והדרישה להוגנות גלובלית".
בסקירה התגלו פערים תפישתיים בין המסמכים האלה, ולא זאת בלבד, אלא שניכרו גם חילוקי דעות בנוגע לתעדוף העקרונות המוסריים והאופן שבו הסתירות ביניהם אמורות להיפתר. נכון לעכשיו, כתבו החוקרים, הניסיונות האלה "עלולים לחתור תחת יצירתו של מסמך עקרונות גלובלי לבינה מלאכותית מוסרית". מסמך עקרונות כזה, שאותו מגדירה דיהאל "הגל השלישי של האתיקה בתחום הבינה המלאכותית", הוא מה שבנאנטי מתמקד בו. משימתו היא ניסוח ערכים משותפים לכל בני האדם, שאותם נוכל ללמד את המכונות לכבד.
ילד של תרבות הפופ
בנאנטי הוא רומאי מקריח עם משקפיים כהי מסגרת ונטייה להתבדח, והוא נולד בטראסטוורה, שכונה על הגדה המערבית של הטיבר, השוכנת ממש מדרום לוותיקן. "אני ילד של תרבות הפופ. גדלתי על מלחמת הכוכבים ובלייד ראנר. המדע הבדיוני היה הבידור של הדור שלי", הוא אומר בחיוך. כמו ילדים רבים בני דורו, גם מחשבים ריתקו אותו. הוא למד שפות תכנות כמו בייסיק, פסקל ו־C, ושיחק עם הקרביים של האוליבטי M24 של סבא שלו. עד היום הוא זוכר בחיבה את קרינת הדוס הירוקה של מסך המחשב ההוא.
הצעידה בעיר לצד בנאנטי דרשה נעליים נוחות וקצב נמרץ. הוא נוהג ללבוש ג'ינס ונעלי ספורט מתחת לגלימות, הולך לכל מקום עם תיק גב על הכתף ומרבה לעצור לשיחה עם חברים, תלמידים וזרים. בשלב כלשהו במהלך ההליכה הוא עוצר לקבל וידוי מנהג מונית שעמו פצח בשיחה
הנדסה הייתה הקריירה הטבעית בשביל בנאנטי. זה היה המקצוע של אביו, ותמיד סקרן אותו לגלות איך העולם עובד. אז הוא עשה תואר בהנדסת מכונות ובמשך כמה שנים התלבט מה לעשות איתו. כשארוסתו הכירה לו את הפרנציסקנים, ועודדה אותו לבלות זמן בכנסייה המקומית שלהם, הוא התחיל ללכת איתה. החוויה הפנטה אותו כל כך, שבסופו של דבר הוא החליט לעזוב אותה ולהצטרף למסדר.
"כשהלכתי לראשונה לחיות כפרנציסקני הייתי בן 25, והתמלאתי בתחושת חופש עמוקה ו... באושר עמוק, כי הבנתי שאני מתבונן במשמעות הדברים, ולא באופן שבו הם עובדים", הוא אומר. לימודי התיאולוגיה, וההצטרפות למסדר באופן קבוע, העניקו לו הבנה של העולם – ותחושת משמעות – שההנדסה בקושי דגדגה. "זה כמו לצאת למסע ארוך. אתה מאושר, אתה סקרן, וכשאתה מתחיל לצעוד אתה מרגיש חופשי".
בילדותו, בנאנטי היה בצופים ושיחק כדורגל בטראסטוורה. מי שאימן אותו אז היה הכומר הקהילתי, וינצ'נזו פאליה. כיום פאליה הוא ארכיבישוף ונשיא האקדמיה האפיפיורית לחיים, אגודה אקדמית בוותיקן שהתחילה את דרכה כמוסד למניעת הפלות, המתות חסד וכו' ב־1994. מאז הוא התפתח ועבר לחקור סוגיות רחבות יותר סביב הארכת ושימור חיי האדם, כולל אתיקה רפואית ובינה מלאכותית. בקיצור, פאליה הוא השליח המיוחד של הכנסייה הקתולית לענייני בינה מלאכותית, ובנאנטי הוא יועצו.
למחרת פגישתו של האפיפיור עם בראד סמית, שבה השתתף גם פאליה, לקח אותי בנאנטי לפגישה עם הארכיבישוף. הצעידה בעיר לצד בנאנטי החיוני דרשה נעליים נוחות וקצב נמרץ. הוא נוהג ללבוש ג'ינס ונעלי ספורט מתחת לגלימות, הולך לכל מקום עם תיק גב על הכתף ומרבה לעצור לשיחה עם חברים, תלמידים וזרים. בשלב כלשהו במהלך ההליכה הוא עוצר לקבל וידוי מנהג מונית שעמו פצח בשיחה.
"טכנולוגיה היא העדשה שדרכה כולנו רואים את העולם"
בעודנו מפלסים דרך בהמון, בנאנטי מסביר שהוא אינו מתעניין אך ורק בהשפעת הטכנולוגיה על החברה, אלא גם באנתרופולוגיה. הוא היה בדיוק באמצע הקריאה בספרו של ג'וזף הנריך, הפסיכולוג מהרווארד, The WEIRDest People in the World: How the West Became Psychologically Peculiar and Particularly Prosperous, העוסק במוזרויות תרבותיות של אוכלוסיות "מערביות משכילות, מתועשות, עשירות ודמוקרטיות". הנריך טוען שהמוזרויות האלה הן תוצר עקיף של ציוויי הכנסייה הקתולית.
"אם הבינה המלאכותית תיוצר על ידי אנשים מהתרבות הזאת, היא תסתכל על כולנו באופן הזה. וכפועל יוצא כולנו נתחיל להתנהג באופן הזה ולאמץ אותו. טכנולוגיה היא העדשה שדרכה כולנו רואים את העולם", אומר לי בנאנטי כשאנו נכנסים לבניין עתיר השיש והפסיפס של האקדמיה האפיפיורית לחיים.
הארכיבישוף פאליה בן ה־76 מקבל את פנינו בחיוך במשרדו המרווח. ציור עצום של צליבת ישו תלוי מאחורי שולחנו העתיק. פאליה מסכים שהבינה המלאכותית הופכת אט אט לתרבות חד־ממדית. "אנחנו רואים אירועים אדירים ומכוננים מכל מיני כיוונים: אנרגיה גרעינית ופצצות גרעיניות, משבר אקולוגי, וגם טכנולוגיות חדשות. אני מאמין בכל לבי שהכנסייה חייבת להיכנס לתחומים האלה עכשיו. לא רק בשביל עצמה אלא... כדי לעזור לכרות ברית חדשה בין כל בני האדם", הוא אומר. "ברית חדשה בין הוגים, בין תרבויות, גם בין מוסדות, כדי ליצור עתיד הומניסטי חדש".
פאליה, שטיפח קשרים עם מקביליו היהודים, חושב שרק שיתוף פעולה רב־דתי יוכל לכפות על חברות הטכנולוגיה להתנהל באחריותיות. "בעולם גלובלי, לנו המנהיגים הדתיים יש אחריות לקדם דיאלוג... בין אנשים שונים ותרבויות שונות", הוא אומר. "לכל המסורות הדתיות... יש פרספקטיבה בנוגע לבני אדם והתנהגות אנושית. ולכן אנו חייבים לעבוד עם הדתות האחרות כדי להביא לאחווה גלובלית, לא לעימות גלובלי".
"אם הבינה המלאכותית תיוצר על ידי אנשים מהתרבות הזאת, היא תסתכל על כולנו באופן הזה. וכפועל יוצא כולנו נתחיל להתנהג באופן הזה ולאמץ אותו. טכנולוגיה היא העדשה שדרכה כולנו רואים את העולם", אומר לי בנאנטי כשאנו נכנסים לבניין עתיר השיש והפסיפס של האקדמיה האפיפיורית לחיים
כשבנאנטי התחיל לייעץ לפאליה על השלכות השימוש בבינה מלאכותית, הארכיבישוף אומר שהוא "הרגיש צורך בהול להרחיק אל... אזורי הספר של החיים". ב־2019 וב־2020 הוא ערך שתי סדנאות מומחים, הראשונה ברוֹבּוֹ־אתיקה – מערכת היחסים בין בני אדם, מכונות ובריאות – והשנייה בבינה מלאכותית, אתיקה ומשפט, שאותה הוא מגדיר "עיון אנתרופולוגי ומוסרי מעמיק".
פאליה טוען שללא העיונים האלה, העולם עלול לעבור תהליך "חמור ביותר" של דה־הומניזציה. "הטכנולוגיה לא רק מתקשרת עם החיים האנושיים או נוגעת בהם, אלא שופכת אור חדש על המשמעות של היות אדם בימינו".
הסדנאות האלה, לצד אותו "קול קורא מרומא" והמפגש הרב־דתי הקרוב באבו דאבי, עודדו את האפיפיור להקים באפריל 2021 את "קרן הרנסנס", עמותה שתמשיך לעיין בהשפעת הטכנולוגיה על חיי האדם ולחקור אותה. שני המחקרים הראשונים שהיא מימנה עוסקים בשימוש בבינה מלאכותית בהגירה וביקורת בגבולות, וככלי נשק במלחמה.
"ידוע שמלחמות סייבר מאותתות על מלחמות בשטח. וכשמצבם של פליטים מוכרע על ידי אלגוריתם – זו דיקטטורה לא אנושית", אומר פאליה. "אנו מעוניינים להגן על חירותם של כל אישה וכל גבר, ובייחוד על החלשים ביותר. זאת הסיבה שאנחנו חוששים מהאוליגרכיה האפשרית של הביג דאטה. זה עלול להיות סוג חדש של עבדות".
בדרכנו בחזרה בעיר בשעת בין ערביים, בנאנטי מתלבט בקול רם אם הוא אופטימי או פסימי בנוגע לעתיד הבינה המלאכותית. "כשהאדם הראשון הרים אלה, היא הייתה כלי או כלי נשק? אני מזהה בבינה המלאכותית הרבה כלים נהדרים, אבל אני רואה גם כלי נשק. לפעמים ההבדל, הקו שמבדיל ביניהם, הוא דק כל כך".
השלב הבא: דתות המזרח
ביום האחרון לשהותי ברומא, בנאנטי מזמין אותי לארוחת צהריים עם הנזירים - מסימני הכנסת האורחים הפרנציסקנית. על השולחן שפע מאכלים צמחוניים, והם מרשים לי לקחת כל מה שבא לי בלי הגבלה. מול צלחות עמוסות בפטריות פורטובלו ממולאות ומטוגנות בפירורי לחם, פריטטה של דלעת וירוקים ורביולי ארטישוק רומאי, בנאנטי אומרי לי שהוא מתכנן, יחד עם הנהגת הוותיקן, את השלב הבא בהתמודדות הגלובלית עם האתיקה של הבינה המלאכותית: פגישה עם מנהיגי הדתות המזרחיות, ובהן הינדואיזם, בודהיזם ושינטו, שתיערך בהירושימה, אתר המסמל הרס טכנולוגי שנולד מתוך היבריס האנושי.
אף ששאיפותיו נראות נשגבות, מטרותיו האישיות של בנאנטי פשוטות. "כפרנציסקני, ההישג שלי הוא לראות את כל בני האדם חופשיים לחיות את החיים שאלוהים נתן להם", הוא אומר. "אני רוצה לראות חיים ללא מגבלות". בנאנטי אומר שמניעה אותו אך ורק הסקרנות להיטיב להבין את המצב האנושי.
אנחנו מסיימים את הארוחה עם קרוסטטה רימונים ביתית, והוא מספר לי שהוא שיחק קצת עם GPT3, מודל של בינה מלאכותית שפותח על ידי מעבדת OpenAI מסן פרנסיסקו, המסוגל לייצר טקסט שמחקה את הכתיבה האנושית. אמנם המערכת אינה מושלמת, אבל היא מרשימה: היא מסוגלת לכתוב כתבות חדשותיות, לתרגם שפות ואפילו לכתוב שירה.
"אני רוצה לנתח את היכולת שלה להיות יצירתית", אומר בנאנטי. "מעניין אותי איך הבינה המלאכותית הזאת מסוגלת לשנות את המהות של אמון, אמת וידע". אז הוא הזין לתוכה טקסטים פילוסופיים ואת כתביו של דנטה בניב האיטלקי הימי-ביניימי שלו. בתמורה, המערכת חיברה בעבורו שיר על הכוכבים, השמיים והאהבה.
תרגום: תומר בן אהרון
© The Financial Times Limited 2022. All Rights Reserved. Not to be redistributed, copied or modified in anyway. tech12 is solely responsible for providing this translation and the Financial Times Limited does not accept any liability for the accuracy or quality of the translation.