מזכ"ל האו"ם אנטוניו גוטרש, הבינה המלאכותית והחשש מהעתיד: האם הגישה שלו מציאותית?

גוטרש אינו מתנגד לבינה מלאכותית. להפך – הוא מדגיש שוב ושוב כי היא יכולה לחולל מהפכה ברפואה, בחינוך, במדע, בחקלאות ובהתמודדות עם משבר האקלים. אך לצד ההזדמנויות, הוא מזהיר שהטכנולוגיה מתקדמת בקצב מהיר בהרבה מהיכולת של ממשלות, רגולטורים ומוסדות בינלאומיים להדביק אותה.

המסר המרכזי שלו

בנאומו הדגיש גוטרש מספר עקרונות מרכזיים:

• הבינה המלאכותית מתפתחת מהר יותר מהרגולציה.
• יש להגן במיוחד על ילדים מפני מניפולציות ותכנים מזיקים שמיוצרים באמצעות AI.
• אסור לאפשר למערכות נשק אוטונומיות לקבל החלטות על חיים ומוות ללא פיקוח אנושי.
• אין לאפשר שריכוז הכוח בתחום יישאר בידי מספר קטן של חברות או מדינות.
• יש לדאוג שגם מדינות מתפתחות ייהנו מפירות המהפכה ולא יישארו מאחור.

זו אינה עמדה חדשה

כבר משנת 2023 קורא גוטרש להקים מנגנון בינלאומי שיתאם את הפיקוח על הבינה המלאכותית, בדומה למסגרות הבינלאומיות הקיימות בתחומי התעופה והאנרגיה הגרעינית.

בשנים האחרונות הוא גם הרחיב את הדיון להשפעת ה-AI על שוק העבודה, פרטיות, צריכת האנרגיה של מרכזי הנתונים וההשפעה הסביבתית של התעשייה.

האם הגישה שלו מציאותית?

זו כבר שאלה מורכבת יותר.

מצד אחד, קשה להתווכח עם חלק גדול מהאבחנות שלו:

• מודלי AI משתפרים בקצב חסר תקדים.
• הרגולציה אכן מתקשה להדביק את קצב הפיתוח.
• קיימים סיכונים ממשיים של הונאות, דיפ-פייק, מתקפות סייבר ומניפולציות.
• חלק גדול מהיכולות המתקדמות מרוכז כיום בידי מספר קטן של חברות ענק.

במובן הזה, גוטרש אינו קול חריג. גם חוקרים מובילים, ממשלות וחברות כמו OpenAI, Anthropic ו-Google DeepMind מדברות על הצורך בפיתוח אחראי.

מצד שני, יש המבקרים את הפתרונות שהוא מציע. לטענתם, מוסדות בינלאומיים כמו האו״ם מתקדמים בקצב איטי בהרבה מזה של החדשנות הטכנולוגית. בעוד שמודלים חדשים יוצאים אחת לכמה חודשים, הסכמות בינלאומיות עשויות להימשך שנים. לכן יש הטוענים שרגולציה עולמית רחבה עלולה לעכב חדשנות יותר משהיא תסייע.

האם גוטרש פועל מתוך אינטרס?

התשובה תלויה בהגדרת המושג אינטרס.

ברור שלמזכ״ל האו״ם יש אינטרס מוסדי: לחזק את שיתוף הפעולה בין מדינות ולהעניק לאו״ם תפקיד מרכזי גם בעיצוב כללי המשחק של עידן הבינה המלאכותית.

עם זאת, אין ראיות לכך שהוא פועל מתוך אינטרס עסקי או אישי. העמדות שהוא מציג בתחום ה-AI משתלבות באופן עקבי עם תפיסת העולם שהוא מקדם במשך שנים – חיזוק המוסדות הבינלאומיים, שמירה על זכויות אדם וניסיון לצמצם סיכונים גלובליים.

למה כל אמירה של גוטרש מעוררת מחלוקת?

כדי להבין את דבריו של גוטרש על בינה מלאכותית, צריך להכיר גם את תפיסת העולם הרחבה שלו ואת תפקידו כמזכ״ל האו״ם.

בנושאים כמו שינויי אקלים, זכויות אדם, ממשל דיגיטלי ובינה מלאכותית, הוא תומך בעקביות בשיתוף פעולה בין מדינות, בפיקוח בינלאומי ובקביעת כללים גלובליים. במובן הזה, עמדותיו קרובות יותר לגישה האירופית, הרואה ברגולציה כלי חיוני להגנה על הציבור, ופחות לגישה האמריקאית המסורתית, שבמשך שנים העדיפה לאפשר לחדשנות להתפתח במהירות ורק לאחר מכן להסדיר אותה. גם אם בשנים האחרונות וושינגטון מקדמת יותר פיקוח על AI, הפער בין שתי הגישות עדיין מורגש.

גם במזרח התיכון גוטרש הוא אחת הדמויות השנויות ביותר במחלוקת בזירה הבינלאומית. מאז מתקפת ה־7 באוקטובר הוא גינה באופן חד־משמעי את חמאס, קרא לשחרור מיידי של כל החטופים והכיר בזכותה של ישראל להגן על אזרחיה. במקביל הוא מתח ביקורת חריפה על אופן ניהול המלחמה בעזה, דרש הרחבה של הסיוע ההומניטרי והמשיך לתמוך בפתרון שתי המדינות.

בישראל רבים רואים בו דמות מוטה ואף פרו־פלסטינית, בעיקר בשל הביקורת התכופה שלו על ישראל. מנגד, גוטרש דוחה את ההגדרה הזו וטוען שהוא מיישם באופן עקבי את עקרונות האו״ם: גינוי טרור, הגנה על אזרחים ושמירה על המשפט הבינלאומי. גם בצד הפלסטיני נשמעת ביקורת שהוא אינו מפעיל לחץ מספק על ישראל ואינו נוקט צעדים חריפים יותר.

לכן, כאשר גוטרש מדבר על בינה מלאכותית, קשה להפריד בין המסר לבין הדמות שמעבירה אותו. מי שמאמין בגישה של ממשל עולמי ושיתוף פעולה בינלאומי יראה בהצעותיו ניסיון אחראי להתמודד עם טכנולוגיה חסרת תקדים. מי שחושש מהרחבת כוחם של מוסדות בינלאומיים, יראה באותן הצעות ביטוי לתפיסת עולם פוליטית רחבה יותר – ולא רק למדיניות בתחום הטכנולוגיה.

למה כולם שומעים רק את האזהרות

כאן חשוב לעצור על פער שקל לפספס. אם תסתמכו רק על הכותרות, תקבלו את הרושם שגוטרש הוא כולו אזעקה – רובוטים קטלניים, ניסוי באנושות ללא הסכמה, הדור האחרון שעוד יכול לקבוע את הכללים. אלו באמת המשפטים שרצו בכל העולם. אבל זו בחירה של התקשורת, לא תמונה מלאה של הנאום. אמירה על הפוטנציאל של AI ברפואה או בחינוך אינה מייצרת כותרת; אזהרה מפני מכונה שהורגת בלי פיקוח אנושי – כן. וכך אמירותיו המאוזנות יותר נופלות בדרך, ומה שנשאר הוא פרופיל של נביא זעם.

כשמחזירים את ההקשר, מתקבלת דמות אחרת: לא מי שמנבא אסון בלתי נמנע, אלא מי שמאמין בטכנולוגיה מספיק כדי לחשוש שהעולם יפספס אותה אם ינהל אותה גרוע. הפער בין מה שגוטרש אומר לבין מה שמצטטים ממנו הוא בעצמו חלק מהסיפור – ותזכורת טובה לכמה שהתמונה הציבורית של דמות מתעצבת מהמשפט שנבחר לכותרת, לא מהמסר השלם.