הוויכוח על הסכנות של AI כבר מזמן אינו מתחלק רק בין אופטימיסטים לפסימיסטים. תומכי האצה, אנשי ימין טכנולוגי, שמרנים פופוליסטים, חוקרי בטיחות, אנשי אלטרואיזם אפקטיבי וחוקרי אתיקה מציעים תפיסות שונות מאוד לגבי העתיד – וגם לגבי מה שצריך לעשות כבר עכשיו.
הדיון סביב הסכנות וההזדמנויות של הבינה המלאכותית נעשה בשנה האחרונה רועש ומבלבל יותר. מצד אחד נמצאים מי שרואים ב-AI מנוע אדיר לצמיחה, לרפואה, למדע ולשיפור רמת החיים. מהצד האחר נמצאים מי שמזהירים מפני אובדן שליטה על מערכות חכמות במיוחד. ובתווך יש מי שטוענים שאנחנו עסוקים יותר מדי בתרחישי העתיד ושוכחים את הבעיות שה-AI כבר יוצר היום.
כתבה של קייטי מקיו (Katie McQue), שפורסמה ב-NPR ב-26 בספטמבר, ניסתה לעשות סדר בוויכוח באמצעות חלוקה של השחקנים המרכזיים לכמה מחנות. החלוקה אינה מוחלטת, ויש לא מעט חפיפה ביניהם, אבל היא מספקת מפה מעניינת להבנת אחד הוויכוחים החשובים בעולם הטכנולוגיה כיום.
תומכי ההאצה: תנו ל-AI להתקדם
תומכי ההאצה (Effective Accelerationists, או e/acc) מאמינים שיש לקדם את פיתוח הבינה המלאכותית במהירות ולהימנע ככל האפשר מרגולציה שתאט אותו. נקודת המוצא שלהם אופטימית: ככל שנפתח את הבינה המלאכותית מהר יותר, כך נוכל ליהנות מוקדם יותר מהיתרונות שלה.
בעיניהם, AI יכול להאיץ מחקר רפואי, לשפר פריון, להעלות את רמת החיים ולהחליף בני אדם בעבודות מסוכנות או לא רצויות. לכן הם חוששים שרגולציה כבדה והאטה מכוונת של הפיתוח עלולות לגרום יותר נזק מתועלת.
לצדם נמצא מחנה המכונה לעיתים "הימין הטכנולוגי". גם שם תומכים בהאצה, אך נוסף לכך ממד של תחרות בין מדינות: ארצות הברית צריכה, לפי תפיסה זו, לשמור על יתרונה מול סין ולא לאפשר לרגולציה להאט את החברות האמריקאיות.
בין הדמויות ש-NPR מקשרת לעמדות האלה נמצאים המשקיעים מארק אנדריסן ובן הורוביץ ונשיא OpenAI גרג ברוקמן. גם מנכ"ל Nvidia ג'נסן הואנג התבטא נגד האטה בפיתוח וקרא לגישה רגולטורית מתונה.
הימין הפופוליסטי: ומה יקרה לעובדים?
התמיכה בהאצת AI אינה חוצה באופן אחיד אפילו את המחנה הפוליטי השמרני בארצות הברית.
דמויות כמו סטיב באנון וטאקר קרלסון מביעות חששות מפני אובדן מקומות עבודה, עוצמתן של חברות הטכנולוגיה, השפעות על ילדים ופגיעה בערכים חברתיים מסורתיים.
בחודש ספטמבר אף נוצר חיבור חריג בין באנון לבין הסנאטור העצמאי ברני סנדרס. השניים הופיעו בכנס Pro-Human Assembly בוושינגטון וקראו להגבלות משמעותיות יותר על פיתוח AI, לפיקוח ממשלתי ולאחריות גדולה יותר מצד החברות.
עם זאת, העמדות שלהם אינן זהות. סנדרס קרא לעצירה מיידית של הפיתוח עד לקביעת כללי בטיחות ברורים, לאיסור קבוע על פיתוח "סופר-אינטליגנציה" ולהסכם בינלאומי עם סין שיצמצם את הסיכון למרוץ חימוש בתחום. באנון התמקד בהאטת קצב הפיתוח, בהקמת גוף רגולטורי לאומי ובהגבלת הגישה של סין לטכנולוגיות AI אמריקאיות.
מחנה בטיחות ה-AI: ומה אם נאבד שליטה?
מחנה אחר מתמקד בסיכונים החמורים ביותר שעלולים להיווצר ממערכות AI מתקדמות מאוד.
אחת הדמויות המזוהות ביותר עם הגישה היא ג'פרי הינטון, מחלוצי הלמידה העמוקה. בשנים האחרונות הוא מזהיר מפני מצב שבו מערכות AI יעלו ביכולותיהן על בני האדם ויפעלו ברמה גבוהה של עצמאות.
למחנה הזה משתייך גם דניאל קוקוטיילו, חוקר OpenAI לשעבר ואחד ממחברי AI 2027, תרחיש שעסק בהתפתחות אפשרית של מערכות סופר-אינטליגנטיות ובסיכונים הקיצוניים שעלולים להתלוות לכך.
עבור אנשי המחנה הזה, הדיון בבטיחות אינו תרגיל פילוסופי. מבחינתם, גם אם ההסתברות לתרחיש קטסטרופלי אינה ידועה, חומרת התוצאה האפשרית מצדיקה השקעה משמעותית בבטיחות ובהיערכות.
האלטרואיסטים האפקטיביים: לחשוב גם על הדורות הבאים
Effective Altruism, או בקיצור EA, היא תנועה שצמחה במקור סביב השאלה כיצד להשתמש בכסף ובמשאבים בדרך שתייצר את התועלת הגדולה ביותר לאנושות.
עם השנים חלק מאנשי התנועה החלו להתמקד בסיכונים ארוכי טווח – ממגפות ומלחמה גרעינית ועד לסיכונים מבינה מלאכותית מתקדמת.
בהקשר של AI הם שמים דגש רב על Alignment – הניסיון לוודא שמערכות בינה מלאכותית פועלות בהתאם למטרות, לערכים ולכללי הבטיחות שבני האדם מגדירים להן.
NPR מציינת בין הדמויות המזוהות עם העולם הזה את אליעזר יודקובסקי, הולדן קרנופסקי וגם את מנכ"ל Anthropic דריו אמודיי.
יש חפיפה ברורה בין המחנה הזה לבין מחנה בטיחות ה-AI, אבל לפי החלוקה שמציעה NPR, אנשי EA מזוהים במיוחד גם עם מימון מחקרים וארגונים העוסקים בהפחתת סיכונים ארוכי טווח.
אנשי האתיקה: הבעיות כבר כאן
מחנה ה-AI Ethics מציע נקודת מבט שונה מאוד. במקום להתמקד בעיקר באפשרות שמערכת סופר-אינטליגנטית עתידית תאיים על האנושות, אנשיו מבקשים להפנות את תשומת הלב לנזקים שכבר מתרחשים.
אלה כוללים הטיות במערכות AI, אפליה אפשרית במערכות גיוס עובדים או זיהוי פנים, מעקב המוני, ניצול עובדים, נשק אוטונומי, ההשפעה הסביבתית של מרכזי נתונים וריכוז כוח הולך וגדל בידי מספר קטן של חברות טכנולוגיה.
אחת הדמויות הבולטות במחנה היא טימניט גברו (Timnit Gebru), חוקרת שהייתה שותפה להובלת צוות Ethical AI בגוגל ועזבה את החברה ב-2020 בעקבות מחלוקת סביב מחקר שעסק בבעיות ובסיכונים של מודלי שפה גדולים.
הטענה המרכזית כאן היא שההתמקדות בתרחישי קיצון עתידיים עלולה להסיט את תשומת הלב מבעיות ממשיות שמתרחשות כבר עכשיו.
ויש גם מחנה שאומר: AI הוא פשוט טכנולוגיה
הגישה האחרונה אולי פחות דרמטית מכל האחרות. היא מכונה "AI as a Normal Technology".
אנשיה אינם מקבלים לא את התרחיש האוטופי שבו AI יפתור כמעט את כל בעיות האנושות, ולא את התרחיש שבו הוא בהכרח מוביל לאסון חסר תקדים.
מבחינתם, AI הוא טכנולוגיה חזקה ומשמעותית, אך עדיין טכנולוגיה – בדומה לחשמל, למחשבים או לאינטרנט. לכן צריך לבחון שימושים ספציפיים, לזהות נזקים ממשיים ולבנות עבורם כללים מתאימים, במקום להתייחס ל-AI כאל תופעה מסתורית ויוצאת דופן לחלוטין.
אחת הדמויות הבולטות המזוהות עם הגישה היא פיי-פיי לי (Fei-Fei Li), פרופסורית למדעי המחשב ומנהלת משותפת של Stanford Human-Centered AI Institute, הידועה גם כאחת מיוצרות ImageNet, מאגר התמונות שהיה בעל תפקיד חשוב בהתפתחות הלמידה העמוקה.
אז מי בעצם נגד מי?
החלוקה של NPR מראה עד כמה הביטוי "ויכוח על בטיחות AI" מטעה בפשטותו.
יש מי שחוששים שהרגולציה תעכב את החדשנות. אחרים חוששים שהיעדרה יאפשר לחברות להתקדם מהר מדי. יש מי שמוטרדים מסופר-אינטליגנציה עתידית, ואחרים טוענים שהמיקוד הזה גורם לנו להתעלם מאפליה, תעסוקה, פרטיות וריכוז כוח שכבר קיימים היום.
אולי הדבר המעניין ביותר הוא שהגבולות הפוליטיים והטכנולוגיים הרגילים אינם תמיד עובדים כאן. אנשים שנמצאים בקצוות שונים לחלוטין של המפה הפוליטית יכולים להגיע לאותה מסקנה – שצריך להאט את פיתוח ה-AI – אבל מסיבות שונות לחלוטין. ומנגד, אנשים שמסכימים שה-AI טומן בחובו סיכונים משמעותיים יכולים להיות חלוקים מאוד בשאלה אילו סיכונים חשובים יותר ומה נכון לעשות לגביהם.
ככל שהיכולות של המודלים מתקדמות, הוויכוח כבר אינו רק סביב מה AI מסוגל לעשות. הוא הופך לוויכוח רחב הרבה יותר על מי צריך לקבוע את קצב ההתפתחות, אילו סיכונים אנחנו מוכנים לקבל ואיזה תפקיד צריכים למלא ממשלות, חברות הטכנולוגיה והציבור בעיצוב הדרך קדימה.
מבוסס על כתבתה של Katie McQue שפורסמה ב-NPR ב-26 בספטמבר 2026.
לכתבה המקורית ב-NPR