אפליקציה שהופכת תמונות של חיות מחמד לדמויות אנושיות, כלי ללימוד שפות או שירות ליצירת תמונות באמצעות בינה מלאכותית. לכאורה, עוד אפליקציות תמימות בחנות של אפל או גוגל. אלא שתחקיר חדש של WIRED חושף כי מאחורי מאות שירותים כאלה הסתתרה רשת מסחרית ליצירת זיופים מיניים ופוגעניים באמצעות AI.
אפליקציה לציור חיות מחמד? לא בדיוק
מי שהוריד את אפליקציית Viefur יכול היה לחשוב שמדובר בעוד כלי AI משעשע. האפליקציה הציעה להפוך תמונות של חיות מחמד לדמויות אנושיות: חתול בחולצת הוואי, אוגר עם משקפי שמש או כלב בחופשה.
אלא שמתחת למעטפת התמימה הסתתרה מערכת אחרת לחלוטין.
בתחקיר שפרסם WIRED ב־2 בנובמבר 2026 התברר כי Viefur הייתה חלק מרשת של מאות אפליקציות ואתרים שהציעו בחשאי יצירת תמונות וסרטונים מזויפים בעלי אופי מיני ופוגעני, לרבות תכנים המנצלים תמונות של אנשים אמיתיים ללא הסכמתם.
איך רשת כזאת הצליחה להגיע לחנויות הרשמיות?
הממצא המטריד ביותר אינו רק עצם קיומן של האפליקציות, אלא העובדה שחלקן עברו את מנגנוני הבדיקה של חנויות האפליקציות.
לדברי החוקרים, המשתמשים לא בהכרח קיבלו את אותה גרסה של האפליקציה. המערכת יכלה להציג ממשק תמים למשתמש אחד וממשק אחר למשתמש אחר, בהתאם למידע שהתקבל מהשרת.
כך נוצר פער בין האפליקציה שנבדקה לצורך אישורה בחנות לבין התוכן שהוצג בה בפועל לאחר מכן.
אפל הסבירה ל־WIRED כי האפליקציות עמדו בכללים בעת הבדיקה, אך המפתחים שינו בהמשך את התוכן שהן טענו מאתרים חיצוניים. בעקבות פניית העיתון הסירה החברה 19 אפליקציות.
גוגל הסירה גם היא את מרבית האפליקציות שזוהו בחנות שלה, אך לא מסרה תגובה לתחקיר.
מאות אלפי הורדות ואלפי פרסומות
לפי ממצאי החוקרים, חלק מהאפליקציות הופיעו כבר בסוף 2025, ובאביב 2026 התרחבה פעילות הרשת במהירות.
בספטמבר עדיין היו 27 אפליקציות קשורות בחנות Google Play, והן צברו יחד יותר מ־350 אלף הורדות. חלקן אף סווגו כמתאימות לכל הגילים.
במקביל, חוקרים איתרו אלפי פרסומות בפלטפורמות של מטא שקידמו את השירותים. חלק מהפרסומות כללו תכנים פוגעניים במיוחד, לרבות ניצול של דמויות קטינים שנוצרו או שונו באמצעות AI.
מי עמד מאחורי הרשת?
החוקרים מצאו קשרים בין האפליקציות לבין מפתחים המשתמשים בשפה הסינית, וכן לחברה הרשומה בהונג קונג בשם KeLing Technology Limited.
הקשרים התבססו על פרטי רישום של אתרים, כתובות דוא"ל, רכיבי תוכנה ותשתיות משותפות. עם זאת, התחקיר לא קבע באופן סופי מי היו כל המפעילים או מה הייתה חלוקת האחריות ביניהם.
לאחר ש־WIRED פנה לגורמים הקשורים לחברה, חלק מפרטי הקשר הפומביים הוסרו או שונו.
החוקרים מתארים פעילות מסחרית מאורגנת, ולא אוסף מקרי של מפתחים שפעלו בנפרד.
מטא, אפל וגוגל: מי אחראי?
המקרה חושף בעיה רחבה יותר במערכות הפיקוח של ענקיות הטכנולוגיה.
אפל וגוגל אחראיות לבדיקת האפליקציות המופצות בחנויות שלהן. מטא אחראית לפיקוח על הפרסומות המתפרסמות בפלטפורמות שלה. אלא שכאשר הפעילות מחולקת בין חנות אפליקציות, שרת חיצוני ומערכת פרסום, כל אחת מהחברות רואה רק חלק מהתמונה.
מטא מסרה כי אסרה על KeLing לפרסם כבר בשנת 2025, וכי המשיכה לפעול נגד ניסיונות פרסום נוספים הקשורים לרשת.
אלא שלפי WIRED, גם לקראת סיום התחקיר המשיכו להופיע פרסומות ואפליקציות דומות.
הבעיה גדולה בהרבה מרשת אחת
הסיפור הזה אינו רק על אפליקציות שמסתירות שימושים אסורים בבינה מלאכותית. הוא מדגים כיצד אפשר להפוך טכנולוגיה מתקדמת לשירות מסחרי פוגעני בקנה מידה גדול, בזמן שמנגנוני הבקרה מתקשים לזהות את הפעילות ולעצור אותה.
מערכות AI מאפשרות כיום לייצר תוכן מזויף במהירות ובעלות נמוכה יחסית. חנויות האפליקציות מספקות ערוץ הפצה, מערכות הפרסום מביאות לקוחות, ומערכות התשלום מאפשרות להפוך את הפעילות לעסק.
כאשר כל אחת מהחוליות פועלת בנפרד, קשה להבטיח פיקוח אפקטיבי על התהליך כולו.
האחריות על שירותי AI אינה מסתיימת ברגע שאפליקציה מאושרת לפרסום בחנות. היא מחייבת פיקוח מתמשך, שיתוף מידע בין הפלטפורמות ויכולת לזהות פעילות מזיקה גם לאחר שהשירות כבר הגיע למשתמשים.
הטכנולוגיה משתנה במהירות, אך מנגנוני הפיקוח והאחריות עדיין מפגרים אחריה. הפער הזה מאפשר לרשתות מסחריות לנצל את יתרונות הבינה המלאכותית, בעוד המשתמשים והנפגעים נושאים במחיר.
Matt Burgess | 2 בנובמבר 2026