הוותיקן נגד מהפכת הבינה המלאכותית: מוסר, דמוקרטיה והכוח הטכנולוגי

בתקופה שבה מנהיגי תעשיית הטכנולוגיה מבטיחים שבינה מלאכותית תפתור את כל בעיות האנושות, הוותיקן בוחר להנמיך את הלהבות ולהזכיר לעולם את הצדדים האפלים של הקדמה. במסמך פורץ דרך שפרסם האפיפיור ליאו ה-14, הוא יוצא בביקורת עזה כלפי ריכוז הכוח בידיהן של ענקיות הטכנולוגיה ומתקפה חסרת תקדים נגד הפיתוח המואץ של מערכות אוטונומיות על פי נוסחאות לא שקופות.

באנציקליקה הארוכה, האפיפיור מתריע מפני סכנות של הפיכתה של הבינה המלאכותית לכלי של שליטה, מניפולציה והדרה. לטענתו, כאשר מידע, כוח אלגוריתמי ונגישות לדאטה מתרכזים בידי חברות מסחריות מעטות, הדמוקרטיה נמצאת בסכנה ממשית. הוא מדגיש כי ועדות אתיקה פנימיות או אמנות מוסריות שנכתבות על ידי התאגידים עצמם אינן מהוות תחליף לפיקוח ציבורי ולרגולציה אמיתית.

המסמך מתעמק גם בשאלת הפגיעה בשוק העבודה: הוא מזהה "צורות חדשות של עבדות" שמתרחשות בעידן הדיגיטלי – מגיוס עובדים במדינות עניות לתיוג נתונים בשכר נמוך, דרך שחיקת זכויות עובדים ועד ניצול ילדים ובני נוער על ידי מודלים עסקיים המבוססים על השגת מקסימום קשב וזמן מסך. ההשוואה להיסטוריה ברורה: אם בסוף המאה ה-19 נלחם הוותיקן בעוולות המהפכה התעשייתית, הרי שעתה הוא מזהיר מפני השלכות בלתי הפיכות של מהפכה טכנולוגית חדשה.

אחת הנקודות המטרידות ביותר היא שילוב מערכות קבלת החלטות אוטונומיות בשדה הקרב המודרני. לשיטתו של האפיפיור, הפקדת החלטות חיים ומוות בידי מכונות היא חציית קו אדום מוסרי, המהווה סכנה לאנושות כולה. הוא תוקף את תרבות הכוח והיעילות של הכלכלה הצבאית הגלובלית, שמעדיפה נתונים יבשים על פני שיקול מוסרי ואנושי.

בתוך כך, הוותיקן מתחרה על עיצוב המוסר הגלובלי ומנסה לגבש קונצנזוס רחב. רק לאחרונה התקיים בניו יורק מפגש של נציגי דתות מכל העולם, כולל יהדות, נצרות, הינדואיזם ובאהיזם, לדיון בדרכים להטמעת עקרונות אתיים בבינה המלאכותית. המטרה: למנוע מצב שבו הטכנולוגיה מכתיבה את ערכיה שלה, במקום לשרת את החברה האנושית.

אולם, לא כולם בממסד הטכנולוגי משתכנעים מהגישה הרוחנית-מוסרית. מבקרים טוענים שמדובר בהסחת דעת מהותית מהבעיות האמיתיות: חברות הטכנולוגיה מנסות לשמר שליטה על הדיון הציבורי ולהתחמק מהגבלות רגולטוריות. חלקם אף סבורים שדיון על "בינה מלאכותית טובה" פסול מיסודו, משום שהוא מניח מראש שהפיתוח עצמו הכרחי ובלתי נמנע.

האפיפיור מסיים בבקשה ברורה: יש להבטיח שהקדמה תעמוד תמיד בשירות האדם, ולא להפך. דמוקרטיה, לדבריו, היא מחויבות לאמת ולצדק, ולא רק תוצאה של שיקולים תועלתניים או שוק חופשי. בשורה התחתונה, הוותיקן מזהיר שהרפיון המוסרי של עידן הבינה המלאכותית עלול להוביל לאבדן שליטה אנושית – וקורא לקהילה הגלובלית לפעול יחד ליצירת מסגרת אתית ברורה ובלתי מתפשרת.