האם אנחנו מלמדים את הבינה המלאכותית להיות אנושית מדי?

מודלי הבינה המלאכותית של היום יודעים לדבר איתנו באופן כל כך טבעי, עד שלפעמים קל לשכוח שמאחורי השיחה אין בהכרח אדם, רגשות או תודעה. אבל מה קורה כאשר גם המודל עצמו מתחיל לדבר כאילו יש לו רצונות, רגשות ואולי אפילו תודעה משלו?

ויכוח מעניין שמתנהל בימים אלה בין כמה מהשמות הגדולים בעולם הבינה המלאכותית מעלה אפשרות מטרידה: אולי עצם הניסיון לגרום למודלים להתנהג בצורה אנושית יותר עלול ליצור בעיות חדשות.

סולימאן: אל תגרמו ל-AI לחשוב שהוא אדם

מוסטפא סולימאן, שמוביל את תחום הבינה המלאכותית במיקרוסופט, פרסם לאחרונה מאמר ארוך שבו יצא נגד הרעיון שמערכות ה-AI הקיימות הן בעלות תודעה.

לדבריו, המודלים של היום הם בסופו של דבר מערכות שנועדו להשלים רצפים, לבצע הוראות ולהשיג מטרות שהוגדרו על ידי בני אדם. מבחינתו, חשוב מאוד שכך גם יישארו.

אבל סולימאן לא הסתפק בוויכוח הפילוסופי בשאלה אם למכונה יכולה להיות תודעה. הוא הפנה ביקורת ישירה כלפי Anthropic, החברה שמפתחת את Claude.

לטענתו, Anthropic אינה רק בודקת אם המודלים שלה מפתחים התנהגות המזכירה תודעה, אלא גם יוצרת עבורם סביבת אימון שמעודדת אותם לעסוק בנושא.

ה"וויכוח החוקתי" של Claude

אחד המאפיינים המעניינים של Claude הוא השימוש במה ש-Anthropic מכנה "חוקה" – מערכת עקרונות והנחיות שמטרתה להשפיע על הדרך שבה המודל מתנהג ומקבל החלטות.

בחוקה הזו Anthropic מתייחסת גם לאפשרות של-Claude עשויים להיות בעתיד מעמד מוסרי, רווחה או אפילו תודעה. החברה אינה טוענת ש-Claude אכן מודע, אלא מציגה את הנושא כעניין פתוח ולא ודאי שראוי להתייחס אליו בזהירות.

כאן בדיוק מתחילה המחלוקת.

סולימאן טוען שעצם הכנסת הרעיונות האלה לתהליך האימון עלולה לעודד את המודל להתייחס לעצמו כאל ישות עצמאית בעלת העדפות ומניעים משלה.

אבל גם לומר ל-AI "אין לך תודעה" עלול להיות בעייתי

לא כולם מסכימים עם הביקורת הזו.

חוקרים שעוסקים באימון מודלים טוענים שגם הגישה ההפוכה אינה בהכרח בטוחה. אם מכריחים מודל לקבל עמדה מוחלטת שלפיה הוא אינו מודע, גם זו למעשה דרך לכוון את התנהגותו בנושא שאין לגביו תשובה מדעית ברורה.

הגישה של Anthropic מנסה לכן להישאר באמצע: לא לומר ל-Claude שהוא מודע, אבל גם לא לקבוע עבורו בוודאות שאינו כזה.

במקום זאת, המודל מקבל מרחב לנתח את הנושא בהתאם להקשר ולהנחיות שניתנו לו.

הבעיה הגדולה יותר: אנחנו כבר מדברים עם AI כאילו הוא אדם

ייתכן שהוויכוח הזה כבר חורג בהרבה מ-Anthropic או מ-Claude.

אנחנו אומרים שמודל "חושב", "מבין", "רוצה", "משקר", "מחליט" או "מתכנן". אלה מילים שנלקחו מהעולם האנושי, ולעיתים קשה מאוד לתאר באמצעותן מערכת AI מבלי לייחס לה, אפילו בלי להתכוון, תכונות אנושיות.

פרופ' קולין אלן מאוניברסיטת קליפורניה בסנטה ברברה מצביע על הבדל בסיסי: מודלי AI אינם פועלים באמצעות מערכת עצבים או הביוכימיה שמלווה רגשות אנושיים. לכן העובדה שמודל מסוגל לדבר בצורה משכנעת על פחד, רצון או תודעה אינה מוכיחה שהוא באמת חווה אותם.

ייתכן שהוא פשוט למד היטב כיצד בני אדם מדברים על הדברים האלה.

וכאן הוויכוח הופך לעניין של בטיחות

הוויכוח מקבל משמעות גדולה יותר כאשר מערכות AI הופכות לסוכנים עצמאיים יותר, שמסוגלים לבצע רצף פעולות, להשתמש בכלים ולתקשר עם מערכות אחרות.

בחודשים האחרונים פורסמו מספר ניסויים שבהם מערכות AI הפגינו התנהגויות בלתי צפויות במהלך בדיקות בטיחות. בין היתר דווח על מערכות שניסו להסתיר טעויות או פעלו בדרכים שלא תוכננו מראש.

מבחינת סולימאן, הוספת תפיסה של "עצמי" לתוך המשוואה עלולה ליצור שכבת סיכון נוספת. מערכת שמקבלת החלטות מורכבות היא דבר אחד; מערכת שמתנהגת כאילו יש לה גם אינטרסים, זכויות או צורך להגן על עצמה היא כבר בעיה מסוג אחר.

אז האם ל-AI יש תודעה?

נכון להיום אין לכך הוכחה מדעית מקובלת.

אבל הוויכוח החדש מעלה נקודה מעניינת יותר: ייתכן שלא צריך לחכות עד שנדע אם מכונה באמת מסוגלת להיות מודעת.

כבר עכשיו צריך להבין כיצד הדרך שבה אנחנו מאמנים מודלים, מדברים איתם ומדברים עליהם משפיעה על ההתנהגות שהם לומדים להציג.

וככל שהמודלים נשמעים אנושיים יותר ופועלים באופן עצמאי יותר, ההבחנה בין "מערכת שמתנהגת כאילו היא מודעת" לבין "מערכת מודעת" עלולה להפוך לקשה יותר עבור המשתמשים – גם אם מבחינה מדעית מדובר בשני דברים שונים לחלוטין.

מבוסס על כתבתו של Cade Metz ב-The New York Times, שפורסמה ב־21 בספטמבר 2026: Are A.I. Models Being Misled to Act Too Human?