זיופים עמוקים: כשאי אפשר להאמין למה שרואים
מידע · כיתה ח׳ · 7 שאלות
הסרטון נראה אמיתי לגמרי. ראש ממשלה של מדינה רחוקה עומד מול המצלמה ומודיע על החלטה דרמטית. הקול שלו, תנועות הידיים, אפילו הקמט שבין הגבות, הכול מוכר. בתוך שעה הסרטון מופץ לאלפי אנשים, ומעורר בהלה וכעס. רק למחרת מתברר שהאיש מעולם לא אמר את המילים האלה. הסרטון כולו נוצר במחשב.
לסרטונים, לתמונות ולהקלטות כאלה קוראים "זיופים עמוקים", או בשם הלועזי "דיפ־פייק". המילה "עמוק" רומזת לשיטה שבה הם נוצרים: "למידה עמוקה", ענף של בינה מלאכותית שבו תוכנה לומדת מתוך כמות עצומה של דוגמאות. תוכנה שראתה תמונות וסרטונים רבים של אדם מסוים לומדת כיצד נראים פניו מכל זווית, איך הוא מחייך, איך הוא מניע את השפתיים ואיך הוא נשמע. אחר כך היא מסוגלת ליצור אותו עושה ואומר דברים שמעולם לא עשה ולא אמר.
זיוף תמונות אינו דבר חדש. כבר לפני עשרות שנים ידעו אנשים למחוק דמויות מתצלומים, או להדביק ראש של אדם אחד על גוף של אחר. אבל זה דרש מומחיות, זמן רב וציוד מיוחד, והתוצאה לא תמיד הייתה משכנעת. החידוש הוא שהיום אפשר ליצור זיוף משכנע בתוך דקות, לפעמים בעזרת יישומון פשוט בטלפון, בלי לדעת דבר על תכנות. ומה שקל לייצר, קל גם להפיץ.
מה הסכנה? ראשית, הפצת שקרים: סרטון מזויף של מנהיג, של רופא או של עיתונאי יכול לגרום לאנשים להאמין לדברים לא נכונים, להפחיד אותם או להשפיע על דעותיהם. שנית, פגיעה באנשים פרטיים: זיוף יכול לשים בפיו של אדם רגיל, ואפילו של תלמיד בבית ספר, מילים מביכות או מעליבות, ולהפיץ אותן ברבים. שלישית, הונאות: כבר דווח על נוכלים שהשתמשו בקול מזויף של בן משפחה, כדי לבקש בטלפון כסף בדחיפות. ויש גם סכנה רביעית, מפתיעה: כשכולם יודעים שאפשר לזייף, מי שנתפס בסרטון אמיתי יכול לטעון "זה מזויף", ואנשים עלולים להאמין לו. כך הזיופים פוגעים לא רק באמת, אלא גם באמון שלנו בכל ראיה.
גם בבתי ספר כבר נתקלו בתופעה. לפעמים מספיקות תמונות ספורות מחשבון ברשת חברתית כדי ליצור זיוף של תלמיד או של מורה. מה שמתחיל כ"מתיחה" עלול להפוך לפגיעה קשה, שקשה מאוד לתקן, כי גם אחרי שמתברר שמדובר בזיוף, התמונה ממשיכה להסתובב, ויש מי שזוכרים רק אותה.
איך מזהים זיוף? יש כמה סימנים שכדאי לחפש. בסרטונים: תנועות שפתיים שאינן מתאימות בדיוק למילים, מצמוץ מוזר או מבט קפוא, וקצוות מטושטשים סביב הפנים, השיער או האוזניים, במיוחד כשהאדם מסובב את הראש. בתמונות: ידיים עם מספר אצבעות לא נכון, אותיות משובשות בשלטים שברקע, עגילים שאינם תואמים משני הצדדים, או צללים שנופלים לכיוונים שונים. בהקלטות: קול שטוח מדי, בלי נשימות, בלי היסוסים ובלי רעשי רקע טבעיים.
אבל צריך להיות כנים: הטכנולוגיה משתפרת כל הזמן, וסימנים שהיו בולטים לפני כמה שנים כבר כמעט נעלמו. לכן הכלי החשוב ביותר אינו העין, אלא השאלות שאנחנו שואלים. מי פרסם את הסרטון? האם הוא מופיע גם באתרי חדשות אמינים? האם הוא מעורר בי רגש חזק במיוחד, כמו כעס, פחד או צחוק, שגורם לי לרצות לשתף מיד? זיופים רבים נבנים בדיוק כדי לעורר תגובה כזאת. אפשר גם לחפש את התמונה בחיפוש תמונות הפוך, ולבדוק אם הופיעה קודם בהקשר אחר. וכשמישהו מבקש כסף בטלפון בקול של בן משפחה, כדאי לנתק ולהתקשר אליו בעצמכם, או לשאול שאלה שרק הוא יודע את התשובה עליה. יש משפחות שאף קובעות מראש "מילת קוד" למקרים כאלה.
ומה עושים אם מישהו יצר זיוף שלכם, או של חבר? כמו בכל פגיעה ברשת: לא מפיצים, שומרים ראיות, מדווחים לרשת שבה הזיוף הופיע ומספרים מיד למבוגר. חשוב לזכור שמי שזויף אינו אשם בדבר. יצירה והפצה של זיוף פוגע עלולות גם להיות עבירה, ובישראל אפשר לפנות לעזרה גם למוקד 105, המוקד הלאומי להגנה על ילדים ברשת.
חשוב לזכור גם שהטכנולוגיה עצמה אינה רעה. אותן שיטות משמשות ליצירת אפקטים בקולנוע, לתרגום סרטים כך שתנועות השפתיים יתאימו לשפה החדשה, ולהחזרת קול לאנשים שאיבדו את היכולת לדבר בגלל מחלה. השאלה, כמו תמיד, היא מה עושים בה, ומי אחראי לשימוש בה.
בעולם שבו לא כל מה שרואים קרה באמת, הכלל הישן "לראות זה להאמין" כבר אינו מספיק. במקומו כדאי לאמץ כלל חדש: לפני שמאמינים, ובוודאי לפני שמשתפים, עוצרים ובודקים.