ישראל חתמה הבוקר (חמישי) יחד עם מדינות מערביות נוספות בעולם כמו ארה"ב ובריטניה על האמנה הבינלאומית הראשונה לבינה מלאכותית. האמנה, שמובלת ע"י מועצת אירופה, ארגון בינלאומי שמטרתו לשמור על זכויות האדם, קובעת הוראות לשימוש אחראי תוך הגנה על זכויות אדם, דמוקרטיה ושלטון החוק.
האמנה תחול בעיקר על שימושי הבינה המלאכותית בסקטור הציבורי, ובאופן עקיף על המגזר הפרטי. היא מטילה חובות על מדינות להגן על זכויות אדם ולשמור על מוסדות דמוקרטיים, מציבה עקרונות כמו כבוד האדם, שקיפות, אחריות ואיסור אפליה. בנוסף היא קימה מנגנוני תיקון במקרה של פגיעה בזכויות אדם ומחייבת מדינות להעריך ולצמצם סיכוני הבינה המלאכותית. שרת החדשנות, המדע והטכנולוגיה גילה גמליאל אמרה: "אמנה זו מציבה את ישראל כשותפה מלאה ביצירת המדיניות הבינלאומית בתחום בשנים הבאות ותציב אותה בחזית עם המדינות המתקדמות בעולם".
נוסח האמנה, שישראל גם השתתפה בניסוחו, יוצר איזון עדין בין קידום החדשנות לבין אחריות ומחויבות כלפי האדם, כך על פי הודעת המשרד. "זו תהווה בסיס לדיוני מדיניות בזירה הבינלאומית בשנים הבאות, ותסמן צומת משמעותית במדיניות החדשנות העולמית".
צוות המשא ומתן הישראלי כלל נציגים ממשרד החדשנות, המדע והטכנולוגיה, משרד החוץ, משרד המשפטים (המחלקה למשפט בינלאומי והמחלקה למשפט כלכלי בייעוץ המשפטי לממשלה), רשות החדשנות ומערך הדיגיטל במשרד הכלכלה.
הנוסח הסופי של האמנה אומץ ע"י מועצת אירופה כבר ב-17 במאי, וכאמור האמנה תיפתח לראשונה לחתימת מדינות מועצת אירופה ו"המדינות המשקיפות" (כמו ישראל, בריטניה וארה"ב) בטקס חגיגי בוילנה בו תייצג את ישראל השגרירה הדס ויטינברג זילברשטיין ממשרד החוץ לצד שרים ונציגי מדינות אירופה.
האמנה מורכבת מ-8 פרקים ועוסקת בהוראות כלליות, חובות, עקרונות, תרופות, הנחיות לאופן יישום האמנה ומנגנוני שת"פ בין המדינות.
תמצית ההוראות המרכזיות באמנה:
- מטרת האמנה לקדם שימוש אחראי בבינה מלאכותית, ולתת מענה לחששות ההולכים וגוברים בקהילה הבין-לאומית לגבי סיכוני הפגיעה בזכויות אדם, דמוקרטיה ושלטון החוק, כתוצאה משימוש במערכות בינה מלאכותית.
- מטרת האמנה היא לוודא שמערכות בינה מלאכותית פועלות תוך שמירה על זכויות אדם, דמוקרטיה ושלטון החוק, וזאת בלי לייצר זכויות אדם חדשות.
- האמנה חלה בעיקר על מערכות בינה מלאכותית בשימוש המגזר הציבורי, ובאופן עקיף ורך יותר ביחס ל מגזר הפרטי, תוך החרגת שימושים בהקשרי ביטחון לאומי וחלק משלבי המו"פ.
- האמנה מטילה על המדינות חובות כלליות ביחס לבינה מלאכותית, לנקוט צעדים להגנה על זכויות אדם בהתאם לדין הבינלאומי והמדינתי, ולשמירה על מוסדות והליכים דמוקרטיים.
- האמנה קובעת בנוסף עקרונות מפורטים יותר שיש לכבד ביחס למערכות בינה מלאכותית, ובכלל זה כבוד האדם והאוטונומיה של היחיד, שקיפות ופיקוח, אחריותיות ואחריות, שוויון ואי-אפליה, פרטיות והגנה על מידע אישי, אמינות, אבטחה ובטיחות.
- האמנה עוסקת גם בהקמת מנגנונים שיספקו מענה במקרה של פגיעה בזכויות אדם כתוצאה ממערכות בינה מלאכותית ובהגנות פרוצדורליות, ובפרט הסדרת מסלול להגשת תלונה לרשויות המוסמכות, חובת תיעוד ויידוע על אינטראקציה עם בינה מלאכותית וזכות ערעור לגורם אנושי, במקרים המתאימים ולפי נסיבות העניין.
- לבסוף, האמנה מטילה על המדינות חובה לפעול לטובת זיהוי, הערכה, מניעה ומזעור של סיכונים הנשקפים ממערכות בינה מלאכותית, על בסיס הערכת סיכונים המשקללת את ההשלכות המעשיות והפוטנציאליות על זכויות אדם, דמוקרטיה ושלטון החוק. בהתאם, נדרשות המדינות לנקוט באמצעים שונים והדרגתיים לטיפול בסיכונים אלה ולפרסמם
- ההתחייבויות השונות נוסחו באופן המאפשר את יישומן המדורג והדיפרנציאלי, בהתאם לנסיבות וההקשר של צרכים ויישומים מסוימים. גישה מודולרית זו הייתה חיונית עבור ישראל ומדינות אחרות.
"בינה מלאכותית (AI) מציעה יתרונות רבים למגזר הציבורי, המשפרים את היעילות, השירות והביצועים של גופים ממשלתיים וציבוריים", מסר עוזי יערי, סמנכ"ל דיגיטל באלעד מערכות, המספקת שירותים למגזר הציבורי. "היא מייעלת תהליכים בירוקרטיים מורכבים, מאפשרת קבלת החלטות מושכלות מנתוני ענק, מסייעת בזיהוי וטיפול באיומי סייבר ותורמת לקידום השקיפות הציבורית. אולם יכולותיה להציג מצג שווא משכנע, עלול ליצור מניפולציה על הלקוח. האמנה באה לייצר מסגרת אתית לשימושים של ה-AI, ובמיוחד הגנה על הפרטיות".