אלפי אזרחים שלא נולדו מעולם

הפרשה המכונה 'פרשת הונאת הקצבאות של כפר הדיפ-פייק' (The Deepfake Village Benefit Fraud Scandal) החלה ברעש שקט של שרתים ממשלתיים באירופה. אלגוריתם ניטור חדשני תוכנן לאתר פרופילים מזויפים שנוצרו במטרה אחת: ריקון קופת המדינה. המערכת גילתה רשת מאורגנת שהקימה מאפס אלפי 'תושבי רפאים'. אלו לא היו סתם שמות על נייר, אלא זהויות דיגיטליות מלאות שנבנו באמצעות טכנולוגיית דיפ-פייק (Deepfake) מתקדמת, תוך זיוף מסמכים ומראות פנים שנועדו להערים על כל מערכת בירוקרטית קיימת.

כשהמכונה טועה והאדם משלם את המחיר

צילום תעודי של מסמכים משפטיים ונתונים דיגיטליים המרחפים או מונחים על שולחן עבודה עמוס, הממחיש את המאבק בין בירוקרטיה אנושית לאלגוריתם קרים.

הצלחת המערכת בחשיפת ההונאה נתקלה במכשול טכני קריטי המוכר בעולם המחשוב כ-False Positives. האלגוריתם לא הבחין בין הפרופילים המזויפים לבין אזרחים אמיתיים לגמרי, והחל לחסום באופן אוטומטי את קצבאותיהם של אנשים בשר ודם. עבור אותם אזרחים, המציאות השתנתה ברגע: ללא הודעה מוקדמת, התשלומים החיוניים ששימשו למחייתם הפסיקו להגיע. המערכת, שנועדה להגן על כספי הציבור, הפכה בן לילה למחסום אטום שקשה לערער עליו.

המאבק המשפטי בבטן המערכת הממוחשבת

קבוצה של עורכי דין לזכויות אזרח נכנסה לזירה כדי להילחם בטעות האלגוריתמית. המאבק שלהם מתמקד בדרישה להשיב את הקצבאות לנפגעים האמיתיים ולהציב מנגנון בקרה אנושי מעל המערכת הממוחשבת. הניסיונות לפתור את המשבר כוללים כעת סקירה מחדש של הפרופילים שסומנו כחשודים, במטרה לבודד את ה'תושבים' הדיגיטליים המזויפים מהאזרחים האמיתיים. מדובר בתהליך ידני מורכב, הדורש מהפקידים הממשלתיים לבחון כל מקרה בנפרד, רחוק מהמהירות הקרה של האלגוריתם.

הרהורים על מהירות מול צדק

אפשר לדמיין איך נראה הרגע שבו אדם מגיע לסניף הדואר או לבנק, ומגלה שחשבונו נחסם בגלל החלטה של שורת קוד אי שם במעלה השרשרת הבירוקרטית. יש בזה משהו מטריד במיוחד; הקלות שבה אנו מפקידים את גורלנו בידי מערכות שאינן מסוגלות להבין את ההקשר האנושי של הקיום שלנו. אפשר רק לתהות אם בעתיד, כשנצטרך להוכיח שאנחנו קיימים, נצטרך לעבור מבחן דיפ-פייק הפוך רק כדי לקבל את מה שמגיע לנו כחוק.

מידע מעשי וכרטיס ביקור

הפרשה ממשיכה להעסיק את גורמי המשפט באירופה, כאשר המוקד הוא האיזון בין שימוש בטכנולוגיית AI למניעת הונאות לבין ההגנה על הפרט. למידע נוסף על המקרה, ניתן לעיין בתיעוד המלא ב-מגזין וופה.