האם הבינה המלאכותית היא אכן סכנה לאנושות – ואיך בכלל מודדים סיכון כזה?

האזהרות מפני בינה מלאכותית נשמעות לעיתים כמו תסריט קיצוני, אבל הוויכוח האמיתי רחב יותר: כיצד משווים איום חדש ולא מוכר לסיכונים קיומיים שכבר מלווים את האנושות במשך שנים?

בשנים האחרונות התרגלנו לשמוע אזהרות מפני הסכנות של בינה מלאכותית. חלקן עוסקות בנושאים שכבר אפשר לראות כיום, כמו מידע כוזב, הונאות או פגיעה בשוק העבודה. אבל בקצה הרחוק של הדיון נמצאת טענה דרמטית בהרבה: מערכות AI עתידיות וחזקות במיוחד עלולות להפוך לסיכון קיומי לאנושות.

כתבה של ויליאם ג'יי ברוד וקייד מץ ב־The New York Times מנסה להסתכל על הוויכוח הזה מזווית מעט שונה. במקום לעסוק רק בשאלה עד כמה AI מסוכן, הם מציבים אותו בתוך רשימה ארוכה של איומים שהאנושות כבר מתמודדת איתם – מגפות, מלחמה גרעינית, שינויי אקלים, פגיעת אסטרואידים ואסונות סביבתיים.

וההשוואה הזאת חושפת בעיה מעניינת: בני אדם אינם בהכרח טובים בהערכת סיכונים.

אנחנו חוששים יותר ממה שאיננו מכירים

ג'יימס האמיט, מנהל המרכז לניתוח סיכונים של אוניברסיטת הרווארד, מסביר כי בני אדם נוטים לקבל סיכונים מוכרים ולהיבהל יותר מסיכונים חדשים.

אנחנו נוסעים במכונית כמעט בלי לחשוב על הסיכון, למשל, אך אנשים רבים חוששים מטיסה. תחושת השליטה וההיכרות משפיעה מאוד על האופן שבו אנחנו תופסים סכנה.

בינה מלאכותית מתאימה היטב לדפוס הזה. מדובר בטכנולוגיה חדשה יחסית, שמתפתחת במהירות, שרוב הציבור אינו מבין לעומק ושקשה לחזות לאן תגיע. לכן היא מעוררת חשש גדול במיוחד.

החשש הגדול: מערכות שיהפכו לעצמאיות יותר

בקרב חוקרי AI ומנהלי חברות טכנולוגיה קיימת כבר שנים קבוצה שמזהירה מפני מערכות עתידיות בעלות יכולות מתקדמות בהרבה מאלה שאנו מכירים כיום.

בטווח הקרוב החשש הוא שאנשים ינצלו מערכות בינה מלאכותית למטרות מזיקות. בטווח הרחוק עולה האפשרות שמערכות יקבלו עצמאות גדולה יותר ויחוברו לתשתיות חשובות כמו רשתות חשמל, מערכות פיננסיות או מערכות ביטחוניות.

ככל שמערכת מקבלת יכולת לפעול באופן עצמאי יותר בעולם האמיתי, כך גדל גם פוטנציאל הנזק במקרה שהיא פועלת בצורה שלא תוכננה מראש.

אבל חשוב להדגיש: התרחישים הקיצוניים ביותר עדיין היפותטיים.

אורן עציוני, פרופסור באוניברסיטת וושינגטון והמנכ"ל המייסד של Allen Institute for AI, אומר שאנחנו עדיין רחוקים מאוד מתרחיש שבו מערכת AI יוצאת משליטה ומסכנת מיליוני בני אדם. מבחינתו, איומים ביולוגיים קיימים הם כיום סיבה ממשית יותר לדאגה.

לא כל חוקרי ה־AI מסכימים

אחד הדברים החשובים בכתבה הוא שאין כיום קונצנזוס מדעי סביב הסיכון הקיומי של AI.

ישנם חוקרים ואנשי תעשייה הרואים בו סכנה ממשית שצריך להתכונן אליה כבר עכשיו. אחרים סבורים שהדיון מנופח במידה רבה ושחלק מהתחזיות הקיצוניות נשענות על תפיסת עולם שנוצרה עוד לפני שמערכות הבינה המלאכותית הנוכחיות הופיעו.

זאק קורמן, ממייסדי חברת אבטחת ה־AI Embroidery, מצביע על הקשר בין חלק מהחשיבה הזאת לבין תנועת האלטרואיזם האפקטיבי שהתפתחה בין היתר באוקספורד. לדבריו, תפיסת הסיכון הקיומי מ־AI נבנתה במשך יותר מעשור, עוד לפני פריצת הדרך הגדולה של הבינה המלאכותית הגנרטיבית.

גם ברנטון דמוס, חוקר AI באוקספורד, טוען שחלק מהדיון עדיין מתקיים בתוך מסגרת מחשבתית שנוצרה לפני עלייתה של הלמידה העמוקה – והוא אינו מסכים עם המסגרת הזאת.

אז כמה גדול באמת הסיכון?

כאן נמצאת אחת הבעיות המרכזיות: אין כיום דרך אמינה להצמיד מספר לסיכוי שמערכת AI עתידית תגרום לאסון קיומי.

בסיכונים אחרים ישנו לעיתים בסיס טוב יותר לחישוב. נאס"א, לדוגמה, עוקבת אחר אסטרואידים ומסוגלת לחשב מסלולים ולהעריך הסתברויות לפגיעה בכדור הארץ. בתחום המגפות קיימים נתונים היסטוריים ומודלים אפידמיולוגיים.

ב־AI אין לנו היסטוריה של מערכות חכמות בהרבה מבני אדם, ולכן חלק גדול מההערכות נשען בהכרח על הנחות לגבי טכנולוגיה שעדיין אינה קיימת.

טובי אורד מאוניברסיטת אוקספורד, שעוסק במשך שנים בסיכונים קיומיים, טוען שגם הערכת הסיכונים עצמה משתנה עם הזמן. חלק מהאיומים עולים, אחרים יורדים, ובתחומים כמו מגפות ובינה מלאכותית התמונה עדיין אינה חד־משמעית.

אולי הלקח החשוב הוא בכלל אחר

הדיון על בינה מלאכותית מדגים עד כמה קשה לנו לחשוב על אירועים בעלי הסתברות לא ברורה אך עם השלכות עצומות.

התעלמות מסיכון רק מפני שהוא נראה רחוק עלולה להיות טעות. מצד שני, התמקדות בתרחיש קיצוני אחד עלולה לגרום לנו להזניח איומים מוחשיים יותר שכבר קיימים.

לכן הדרך הנכונה להתייחס לסיכוני AI אינה חייבת להיות בחירה בין התעלמות מהסיכון לבין הנחה שהבינה המלאכותית תוביל לאסון, אלא בניית מנגנוני פיקוח, מחקר, התרעה והגנה שיוכלו להשתפר יחד עם הטכנולוגיה.

אורד מכנה את היעד הזה ביטחון קיומי – מצב עתידי שבו האנושות אינה מסתפקת בכיבוי שריפות בכל פעם שמופיע איום חדש, אלא בונה מנגנונים שמקטינים באופן מתמשך את הסיכון לאסונות בקנה מידה עולמי.

במובן הזה, הוויכוח על AI הוא כבר לא רק ויכוח על טכנולוגיה. הוא גם מבחן ליכולת שלנו להבחין בין סכנה אפשרית לסכנה מיידית, להתמודד עם אי־ודאות ולהתכונן לעתיד בלי להפוך כל תרחיש אפשרי לנבואה.

מקור: מבוסס על כתבתם של William J. Broad ו־Cade Metz ב־The New York Times, שפורסמה ב־10 בספטמבר 2026 ועודכנה ב־11 בספטמבר.

הכתבה פורסמה גם היום, 1 באוקטובר 2026, ב־TheMarker.