דמיינו שאתם מקבלים שיחת טלפון מהבנק. האדם בצד השני מזהיר שמישהו מנסה לבצע פעולה חריגה בחשבון שלכם. משהו בבקשה שלו אולי מעורר חשד, אבל הקול נשמע טבעי לחלוטין – ולא רק זה: הוא מדבר בדיוק במבטא המקומי שאתם מכירים.
עד לא מזמן, דווקא הפרטים הקטנים האלה היו יכולים לגרום לנו להרגיש שמדובר באדם אמיתי. מחקרים חדשים מראים שבעידן הבינה המלאכותית, ייתכן שצריך להתחיל לחשוד גם בהם.
AI כבר לא נשמע כמו מכונה
מערכות ליצירת קול עברו בשנים האחרונות שינוי משמעותי. הקולות הרובוטיים והמלאכותיים שהתרגלנו לשמוע במערכות שירות מפנים את מקומם לקולות טבעיים הרבה יותר.
הטכנולוגיה מסוגלת כיום לא רק לחקות קול של אדם מסוים, אלא גם לשחזר מאפייני דיבור עדינים יותר – כולל מבטאים וניבים מקומיים.
לפי ה־Wall Street Journal, חברת ElevenLabs, אחת הפלטפורמות הבולטות בתחום, מציעה ספרייה של יותר מ־10,000 קולות ויכולה ליצור שיבוט של קול על בסיס קטע קצר מאוד של הקלטה.
לטכנולוגיה הזאת שימושים לגיטימיים רבים, מתעשיית הבידור ועד שיווק ויצירת תוכן. הבעיה מתחילה כאשר אותה יכולת משמשת להונאה.
למה דווקא המבטא מסוכן?
ד"ר ניל קירק מאוניברסיטת Abertay בסקוטלנד בדק עד כמה אנשים מסוגלים להבדיל בין דיבור אנושי לבין דיבור שנוצר באמצעות AI.
במחקר השתתפו 150 אנשים מסקוטלנד. הם האזינו לקולות אנושיים ולכאלה שנוצרו באמצעות AI, שדיברו באנגלית סקוטית סטנדרטית או בניב המקומי של העיר דנדי.
התוצאה הייתה מפתיעה: רוב המשתתפים נטו לחשוב שגם הקולות המלאכותיים הם של בני אדם.
אבל התוצאה המעניינת יותר הופיעה דווקא כאשר ה־AI השתמש בניב המקומי. ככל שהדיבור נשמע ספציפי ומקומי יותר, כך גדלה הנטייה להאמין שמאחוריו עומד אדם אמיתי.
במילים אחרות, המבטא שאנחנו מכירים עלול להפוך בעצמו לכלי ליצירת אמון.
אנחנו נוטים לסמוך על מי שנשמע כמונו
מחקר נוסף שמוזכר בכתבה, של פרופ' Na Kyong (Kimberly) Hyun מאוניברסיטת סינסינטי, מצביע על קשר בין הדמיון בקול לבין מידת האמון שאנחנו נותנים באדם שמולנו.
Hyun בחנה 14 עונות של תוכנית הטלוויזיה Shark Tank. היא גילתה שככל שקולו של היזם היה דומה יותר מבחינת מאפייני הקול לזה של אחד המשקיעים, כך גדל הסיכוי שאותו משקיע יציע עסקה.
במחקר נוסף נותחו יותר מ־2,000 קמפיינים ב־Kickstarter. גם שם נמצא יתרון לקולות שנתפסו כמוכרים או קרובים יותר לקול הממוצע של קהל היעד.
ההסבר האפשרי הוא פסיכולוגי: קול שנשמע לנו מוכר עשוי לגרום לנו לייחס לדובר תכונות חיוביות כמו אמינות, יכולת ויושרה.
וכאן בדיוק נכנסת הבינה המלאכותית.
לא חייבים אפילו לחקות אדם מסוים
כשמדברים על הונאות קול באמצעות AI, אנחנו נוטים לחשוב על תרחיש שבו מישהו משכפל את קולו של בן משפחה או אדם מוכר.
אבל הסיפור החדש רחב יותר.
ייתכן שנוכל להשתכנע גם מקול שאינו מחקה אדם שאנחנו מכירים באופן אישי. מספיק שהוא יישמע כאילו הוא "משלנו": אותו מבטא, אותו ניב, אותה צורת דיבור.
עבור נוכלים מדובר ביתרון משמעותי. במקום לייצר חיקוי מותאם לכל קורבן, ניתן בעתיד להתאים קולות לקבוצות אוכלוסייה שלמות.
אז על מה אפשר לסמוך?
עד היום קול מוכר היה עבור רבים מאיתנו סוג של אמצעי זיהוי לא רשמי. אם האדם נשמע נכון, אנחנו מניחים שהוא כנראה מי שהוא טוען שהוא.
ההנחה הזאת כבר אינה בטוחה.
המשמעות אינה שצריך לחשוד בכל שיחת טלפון, אלא לשנות את הדרך שבה אנחנו מאמתים זהות. קול – אפילו קול מוכר מאוד – כבר אינו הוכחה מספקת.
אם מתקבלת שיחה חריגה מהבנק, אפשר לסיים אותה ולחזור לבנק דרך מספר שאנחנו מכירים. אם אדם קרוב מתקשר בבקשה חריגה, אפשר ליצור איתו קשר בדרך נוספת ולוודא שהפנייה אכן הגיעה ממנו.
ויש גם נקודה מעודדת
המחקר של קירק גילה משהו נוסף: כאשר החוקרים הסבירו למשתתפים מראש ש־AI מסוגל לחקות באופן משכנע מבטאים סקוטיים, היכולת שלהם לזהות קולות מלאכותיים השתפרה.
כלומר, עצם המודעות משנה את האופן שבו אנחנו מקשיבים.
במשך שנים למדנו שלא כל תמונה שאנחנו רואים ברשת היא אמיתית. לאחר מכן למדנו שגם סרטון יכול להיות Deepfake. עכשיו נראה שאנחנו צריכים להוסיף כלל נוסף:
גם קול מוכר, ואפילו מבטא שנשמע בדיוק כמו שלנו, כבר אינם הוכחה לכך שבצד השני נמצא האדם שאנחנו חושבים שנמצא שם.
מקור: The Wall Street Journal, 13 בספטמבר 2026
לכתבה המקורית