בשנה האחרונה, מושג חדש קיבל תשומת לב ניכרת בארץ ובעולם: ה-deepfake (דיפ פייק): מדובר בפייק ניוז ברמת זיוף גבוהה, שמופק על ידי שימוש בבינה מלאכותית (פוסט קודם שמסביר על התופעה נמצא כאן).
בשל רמת התחכום הגבוהה, רמת האיום של ה-deepfake היא גבוהה יותר מאשר של פייק ניוז "רגיל"- כך, למשל, ניתן לזייף סרטון שבו נראה פוליטיקאי, ערב מערכת בחירות, אומר דברים שמעולם לא נאמרו על ידו ושלמעשה יכולים לפגוע בו מבחינה אלקטורלית.
הבשורה הטובה היא, שחוקרים מרחבי העולם שוקדים במרץ כדי לפתח טכנלוגיות, שיאפשרו זיהוי וחסימת תכנים מהסוג הזה. הנה שני מחקרים, שמציעים כיוונים מעניינים במיוחד:
כיצד עכברים יכולים לעזור בזיהוי deepfake?
המכון למדעי המוח באוניברסיטת אורגון ישנו צוות מחקר, שעוסק באימון עכברים להבין חריגויות בדיבורים (זו משימה שבעלי חיים יכולים לבצע בשיעורי דיוק גבוהים). באוגוסט האחרון, פורסמו ממצאי המחקר שלהם, שנעשה על עכברים.
במסגרת המחקר, צוות החוקרים אימן את העכברים לזהות סט מסוים של הגיינים (יחידות צליל בעלות משמעות הקטנות ביותר) והעכברים היו צריכים לזהות את ההבדלים בין צלילים דומים, למשל buh/guh, בהקשרים שונים, שמוקפים בצלילים שונים. העכברים קיבלו תגמול בכל פעם שהם זיהו צליל נכון והם הצליחו לעשות זאת בשיעור של 80%.
מדוע דווקא עכברים? לדברי החוקרים, המערכת השמיעתית של עכברים קרובה לזו של בני אדם ביכולת לזהות קבוצות צלילים שונות ומורכבות. מכיוון שכך, הם יכולים להיות מאומנים בזיהוי צלילים של דיבור אמיתי לעומת אלו של דיבור מזוייף. הדרך ליישום הממצאים על בני אדם היא עוד ארוכה, אך המשמעות שלהם היא, שניתן- תיאורטית- להילחם בהפצת deepfake באמצעות שימוש במנגנונים שכבר קיימים אצל בני האדם.
כיצד פעימות לב משמשות לזיהוי פרצופים אנושיים מזוייפים?
מאפיין אנושי נוסף ובלתי צפוי, שנמצא כבעל יכולת לסייע בזיהוי deepfake הוא קצב פעימות הלב האנושיות. בתחילת החודש, חוקרים מאוניברסיטת טרנטו שבאיטליה טענו, שהם פיתחו מודל חדשני להבחנה בין צילומי פרצופים אנושיים אמיתיים לאלו המזוייפים. על פי החוקרים, ההבדל בין צילומי פנים אנושיים לצילומי פנים מזוייפים הוא, שמפנים אנושיים ניתן לחלץ מידע על קצב פעימות הלב, בעוד שמפנים מזוייפים לא ניתן לעשות זאת. עוד הם טוענים, שעל מנת לעשות זאת, יש לפתח אלגוריתם מיוחד, שיודע להעריך את קצב פעימות הלב המשוער של בני אדם, כדי לספק מידע על הפנים המצולמים.
המחקר מציג תובנה חדשה על ההתמודדות עם תכני deepfake- תכנים מהסוג הזה נוצרים על ידי מניפולציה במאפיינים החיצוניים של הדובר המצולם (מיקרו-תנועות בשפתיים, מילים שהוא חוזר עליהן שוב ושוב ועוד). המחקר הנוכחי מציע דרך חדשה- במקום לנסות להעריך מאפיינים חיצוניים, כדאי להתמקד בהערכה של מאפיינים ביולוגיים פנימיים. בדרך הזו, ניתן לקבוע שסרטון מסויים הוא deepfake, גם אם מבחינה טכנית, ההונאה הויזואלית היא מושלמת או קרובה לשלמות.
