הלקח של 7 באוקטובר רלוונטי גם לעידן סוכני ה-AI: נוכחות אנושית במערכת אינה מבטיחה פיקוח. האדם צריך לראות, להבין — ובעיקר להיות מסוגל לגרום למערכת לעצור ולהקשיב.
אחד המשפטים המרגיעים ביותר שאנחנו שומעים כיום סביב סוכני בינה מלאכותית הוא "תמיד יהיה אדם בלולאה".
הסוכן אולי יפעל בעצמו, יקבל החלטות, יפעיל מערכות ויבצע משימות, אבל בנקודות החשובות יהיה אדם שיפקח עליו. Human in the Loop, קוראים לזה, והביטוי הפך כמעט לתעודת ביטוח.
אבל נוכחות של אדם בתוך מערכת אינה מבטיחה שהמערכת באמת מקשיבה לו.
היום, שלוש שנים אחרי 7 באוקטובר, קשה שלא לחשוב על הלקח הזה.
כשהטכנולוגיה נותנת תחושת ביטחון
בשנים שקדמו ל-7 באוקטובר השקיעה ישראל כ-3.5 מיליארד שקל במכשול בגבול עזה. הוא כלל גדר חכמה, חיישנים, מצלמות ומערכות ירי הנשלטות מרחוק. המכשול נחשב לאחד המתקדמים מסוגו.
אבל בבוקר 7 באוקטובר הצליח חמאס לפגוע בתוך זמן קצר בחלק מהמערכות שעליהן נשענה ההגנה. רחפנים פשוטים וחימושים נוספים שימשו לפגיעה באמצעי תצפית ובעמדות של מערכת "רואה-יורה", ובמקביל נפרץ המכשול במוקדים רבים.
חשוב לדייק: הטכנולוגיה לבדה לא הייתה הבעיה.
לצידה היו בני אדם.
התצפיתניות עקבו במשך חודשים אחר פעילות חמאס. צוות המומחים שמינה הרמטכ"ל לבחינת תחקירי 7 באוקטובר קבע כי המידע שאספו לאורך התקופה שלפני המתקפה העיד על פעילות אויב חריגה, וכי ניתוח מודיעיני איכותי יכול היה להבליט את השינוי שהתרחש בגזרה. אותו צוות הגדיר את תפקוד התצפיתניות בזמן המתקפה כמקצועי ומופתי.
כלומר, היו עיניים אנושיות במערכת. הן ראו. אבל לראות זה לא מספיק.
אדם בלולאה שאינה מחוברת
אולי הפרט החשוב ביותר לצורך הדיון בבינה מלאכותית הוא מה שצה"ל עצמו עושה כיום בעקבות הלקחים.
ב-2026 החל שיתוף פעולה חדש בין מערך האיסוף הקרבי לאמ"ן. צה"ל מסביר כי במשך השנים נוצרה התרחקות בין גורמי האיסוף, ובהם התצפיתניות, לבין המודיעין. המטרה כיום היא שהמידע החזותי שאוספות התצפיתניות יגיע ישירות לתהליך המודיעיני וישפיע עליו.
זה כבר נשמע מוכר מאוד לכל מי שעוסק היום ב-AI.
אפשר לשים אדם בתוך תהליך ולטעון שיש פיקוח אנושי. אבל אם המידע שלו אינו מגיע למקום שבו מתקבלת ההחלטה, אם אין לו סמכות לשנות את מסלול הפעולה, או אם המערכת הארגונית מעניקה משקל גדול יותר למה שאומרת המערכת הטכנולוגית — הפיקוח האנושי עלול להפוך לאשליה.
האדם נמצא בלולאה. רק שהלולאה אינה באמת מחוברת אליו.
וזה בדיוק האתגר של סוכני AI
עד לאחרונה רובנו השתמשנו בבינה מלאכותית כדי לקבל תשובות. עכשיו אנחנו עוברים בהדרגה לעולם שבו סוכנים גם פועלים.
הם יכולים לכתוב ולהריץ קוד, לעבוד עם קבצים ומערכות, לבצע רצף של משימות ולהחליט בעצמם כיצד להתקדם. ככל שהאוטונומיה שלהם גדלה, כך עולה החשיבות של הפיקוח האנושי. גם Anthropic, שמפתחת את Claude, מדגישה שפיקוח אפקטיבי על סוכנים דורש הרבה מעבר להכנסת אדם לשרשרת האישורים.
ויש כאן בעיה נוספת: אנחנו מתרגלים למערכת.
Anthropic פרסמה השנה נתון מעניין במיוחד. בניסויים שלה עם Claude Code, משתמשים אישרו כ-93% מבקשות ההרשאה שהמערכת הציגה להם. ככל שמספר בקשות האישור גדל, תשומת הלב של המשתמשים אליהן פחתה. החברה מכנה זאת "עייפות אישורים".
במילים אחרות, אפשר לבנות מערכת שבה אדם נדרש ללחוץ על "אישור" לפני כל פעולה חשובה — ועדיין לא לקבל פיקוח אנושי אמיתי.
האדם נמצא שם. הכפתור נמצא שם. תהליך האישור קיים.
אבל עם הזמן הוא פשוט לוחץ "כן".
כשהמערכת אומרת שהכול בסדר
יש לתופעה הזאת שם נוסף: Automation Bias — הטיית אוטומציה.
כאשר מערכת טכנולוגית מציגה לנו תשובה באופן מסודר ובטוח, אנחנו נוטים לייחס לה אמינות גבוהה. ה-OECD מזהיר שהסתמכות כזאת על מערכות AI עלולה לגרום לאנשים לקבל תוצאות שגויות בלי לבדוק אותן ולפגוע בדיוק באותו שיקול דעת אנושי שאמור לשמש שכבת הגנה.
וזו בעיניי הנקודה שמחברת בין שני העולמות.
לא משום שמערכת ההגנה בגבול עזה הייתה מערכת AI. היא לא הייתה.
ולא משום שאפשר להשוות את ההשלכות של כשל ביטחוני בסדר גודל כזה לטעות של סוכן תוכנה.
אלא משום שמדובר באותו אתגר ארגוני בסיסי: מה קורה כאשר המערכת משדרת שהכול תקין, ואדם שנמצא קרוב למציאות אומר שמשהו אינו מסתדר?
האם אנחנו באמת רוצים שהוא יתערב?
שלוש שאלות לפני שנותנים לסוכן לפעול לבד
לכן, כשארגון אומר לי שבמערכת ה-AI שלו תמיד יהיה אדם בלולאה, הייתי רוצה לדעת שלושה דברים.
האם האדם באמת רואה?
האם הוא מקבל את המידע הדרוש כדי לזהות שהסוכן טועה, או שהוא רואה רק לוח מחוונים שמציג לו את מסקנות הסוכן עצמו?
האם האדם באמת יכול לעצור?
לא רק לדווח ולא רק לסמן חריגה. האם יש לו סמכות מעשית לעצור פעולה, לבטל החלטה או להעביר אותה לבדיקה נוספת? גם עקרונות ה-OECD מדגישים שמערכות AI צריכות לכלול, בהתאם לסיכון, מנגנונים שמאפשרים להתערב, לעקוף את החלטת המערכת ואף להשבית אותה.
ומה קורה כשהאדם והמכונה לא מסכימים?
זו אולי הנקודה החשובה מכולן. אם בפועל התרבות הארגונית מניחה שהמערכת יודעת טוב מהעובד, "אדם בלולאה" הופך מהר מאוד לחותמת גומי.
NIST, הגוף האמריקאי לתקינה וטכנולוגיה, מדגיש נקודה דומה: לא די בפיקוח אנושי. צריך להגדיר מראש מי אחראי, מה סמכותו וכיצד מתבצעת ההתערבות במערכת.
שלוש שנים אחרי 7 באוקטובר, אחד הלקחים שאנחנו יכולים לקחת גם לעולם הטכנולוגי הוא פשוט וכואב:
מערכת אינה בטוחה רק משום שיש בה אדם. היא בטוחה יותר כאשר האדם הנכון מקבל את המידע הנכון, בזמן הנכון, ויש לו גם סמכות וגם תרבות ארגונית שמאפשרות לו לומר: עצרו. משהו כאן לא בסדר.
מקורות: תחקירי צה"ל ופרסומי צה"ל בנושא 7 באוקטובר ושילוב מערך האיסוף במודיעין; Anthropic; OECD; NIST.
7 באוקטובר 2026