ישבתי עם בן רוטנברג כדי לברר שאלה אחת פשוטה: באיזה שלב של אימוץ הטכנולוגיה הארגונים באמת נמצאים היום. התשובה הייתה פחות זוהרת ממה שציפיתי, והרבה יותר מועילה. אנחנו כבר לא בשלב שבו כל הדגמה מרשימה מייצרת התלהבות — אנחנו נמצאים בתקופה שאחרי האופוריה, שבה מתחילים לשאול מה עובד בפועל ומה נשאר בגדר מצגת.
אחת התובנות המשמעותיות מהשיחה: אי אפשר לסמוך בעיניים עצומות על בינה מלאכותית שתחפור בתוך בסיסי נתונים מרכזיים, תסיק משם תובנות ותציג נתונים מדויקים. הציפייה הזאת, שהמערכת פשוט תתחבר לכל המידע הארגוני ותדע להסתדר לבד, היא בדיוק המקום שבו פרויקטים נתקעים. מה שכן עובד הוא הפוך: לתת לה חומר גלם מעובד יותר, עם שייכות ישירה למשימה שהיא צריכה לבצע.
דיברנו גם על משהו שכל מי שעובד עם המודלים הרבה שעות מזהה אבל לא תמיד יודע לנסח: אחרי כחצי שעה של שיחה רצופה ה-AI מתחיל לאבד זיכרון, לצרוך יותר משאבי עיבוד ולשרוף יותר טוקנים. המסקנה המעשית ברורה — לעבוד בצ׳אנקים קצרים, ולהפעיל סוכן ייעודי לכל משימה, במקום לנסות לבנות מוח ארגוני אחד שיודע הכל וזוכר הכל.
ואז הגיע החלק שהפתיע אותי באמת. שאלתי את בן מה החלום שלו לגבי העתיד, וציפיתי לתשובה בסגנון הרגיל של אנשי התחום. במקום זה הוא אמר שהוא דווקא מקווה שההתפתחות של הבינה המלאכותית תיעצר לרגע ולא תמשיך להאיץ — כדי שלארגונים, ולנו כבני אדם, יהיה סיכוי להדביק את הקצב ולהבין מה בעצם יש לנו ביד.
לסיכום — זו שיחה על המציאות מול החלום בעידן ה-AI, והיא לא מנסה למכור לאף אחד קסמים. מי שמטמיע בינה מלאכותית בארגון ורוצה לדעת איפה בדיוק עוברים הגבולות של הטכנולוגיה כרגע — ואיך לעבוד נכון בתוך הגבולות האלה — ימצא כאן הרבה מאוד ערך. כל זאת ועוד תובנות נוספות, בפרק המרתק עם בן רוטנברג.