אתה משתמש בגרסה ישנה יותר של הדפדפן. לחווית MSN הטובה ביותר, השתמש ב-גרסה נתמכת.

מצא את ההבדלים: אי אפשר עוד לסמוך על החושים בעידן הדיפ פייק

סמל של כלכליסט כלכליסט 01/07/2022 רועי בהריר פרל
© צילום: רויטרס

ל הנייר, בהתחשב בניסיונו העשיר בעיצוב ובתכנון פלטפורמות של ביג דאטה בסביבת ענן, כמו גם בהמלצות שצירף לקורות החיים (בהן כמה של מנהלים בכירים בחברות ענק), יניב שדה בן ה-28 מגבעתיים היה המגויס האידיאלי לתפקיד הנחשק. גם בארבע פגישות הזום שנערכו עמו הוא הותיר רושם של בחור לעניין, עם הידע, הגישה, החריצות והאישיות הנחוצים למילוי המשימות שהוא עתיד למלא.

באופן לא ממש מפתיע, אף על פי שסנטימנט ההאטה באזורי ההייטק מחייב משנה זהירות בכל הנוגע לגיוס עובדים חדשים, הוא התקבל די בקלות לתפקיד. ואולם, כעבור שבועות ספורים החברה נאלצה לפטרו, כשהתברר, מיום ליום, שהאיש לא עומד בדרישות התפקיד וחסר כישורים בסיסיים בתחום. כעבור כמה ימים, גילתה החברה שנגנב ממנה מידע רגיש.

איך זה קרה? ובכן, זה לא קרה. יניב שדה הוא דמות בדויה והאמת היא שגם לא בטוח שיש דבר כזה "עיצוב ותכנון פלטפורמות של ביג דאטה בסביבת ענן". זו הייתה רק דוגמה למה שהאף.בי.איי אומר שבהחלט עשוי לקרות: התחזות לאדם אחר באמצעות טכנולוגיית דיפ פייק - הן בתמונות הסטילס שלו בהן בקטעי וידיאו - על מנת לעבור בהצלחה ראיונות עבודה לתפקידים נחשקים, כשמטרה בפועל היא להסתנן למרדי החברה ולגנוב ממנה מידע רגיש.

שירות הביון האמריקאי פרסם השבוע אזהרה בנוגע לכך, בליווי הסבר על דרך הפעולה של גנבי הזהות החדשים, שצצו בעקבות המעבר הגלובאלי לעבודה מרחוק. על פי האף.בי.איי, אגפי הטכנולוגיה החשופים ביותר להונאות מהסוג הזה הם אלה הנוגעים לאבטחת ולאכסנת מידע פיננסי או צרכני, כמו גם לתכנות, לניטור ולבקרה.

המתחזים שמים את ידם על פרטיהם האישיים של עובדים מקצועיים אמיתיים - וזה רק השלב הראשון. לאחר מכן מגיעה ההונאה המעניינת יותר: כשהם נקראים לראיון עבודה בזום, הם שותלים את פניו של העובד המקצועי במקום פניהם ומשלבים בווידאו ה"מטופל" תנועות שפתיים אמיתיות בזמן שהם עונים לשאלות המראיין, כך שהמראיין בטוח לחלוטין שהוא משוחח עם המועמד האמיתי. זאת ועוד: בראיונות הטלפוניים, ההאקרים יודעים גם לנצל את טכנווגיית הדיפ פייק לטובת שינוי הקול, כך שיישמע בדיוק כמו זה של האדם שממנו הוא נלקח.

אז לא, השימוש במה שנהוג לכנות "חיקוי עמוק" כבר מזמן לא משמש רק כאמצעי שעשוע בטיקטוק ובממים למיניהם. עוד ועוד מקרים מצביעים על כך שהסיפור הולך ונעשה יותר ויותר בעייתי. הגולם קם על יצרו וכעת הוא מתפקד כסוכן כאוס הגורם להטלת ספק בהסתמכות של בני האדם על חושיהם (ומאושש בכך את בסיס הגותו של הפילוסוף הגרמני עמנואל קאנט).

השבוע, למשל, הוא ערך מפגש פסגה עם כמה ראשי ערים באירופה: מתחזה של ראש עיריית קייב ויטלי קליסצ'קו - ככל הנראה, סתם אדם שחמד לצון והחליף את פניו באלה של ראש העיר - ערך שיחות וידאו עם ראשי ערים של כמה מדינות באירופה, ביניהם ראשת עיריית ברלין פרנזיסקה גיפיי וראש עיריית מדריד חוזה לואיס מרטינס-אלמיידה, שלא עד כדי כך קנו את זה, וראש עיריית וינה מיכאל לודוויג, שדווקא כן נפל בפח.

בציוץ שפרסמה עיריית ברלין בשישי האחרון, היא ציינה ש"ראש עריית קייב המזויף אמר דברים אבסורדיים" ושהתגובות והשאלות שלו גרמו לראשת העיר להיות חשדנית כלפיו, ולכן נעשתה פנייה לעיריית קייב, שאישרה את העובדה שמדובר במתחזה. גם מרטינס-אלמדיה חשד בבחור שמשוחח עמו ואף הגיש על כך תלונה למשטרה, אבל לודוויג לא שם לב לשום דבר חשוד בשיחה ההיא והיא נמשכה כרגיל.

פרנזיסקה שחררה בהמשך אזהרה מפני הבאות ואמרה ש"העתיד צופן לנו מבחנים הרבה יותר קשים" בכל הנוגע לשימוש לרעה בדיפ פייק - ונראה שהיא צודקת. גם קליסצ'קו (האמיתי) הגיב לסיפור והזהיר בכירים באירופה מהונאות דומות, תוך הדגשת המעורבות הרוסית בכלים מסוג זה, כחלק מהמלחמה הכוללת באוקראינה.

ואולם, הצרה שנקראת דיפ פייק לא צריכה להדאיג רק אנשי ציבור. כולם חשופים להונאות באמצעות הטכנולוגיה הלא מאוד תמימה הזאת. לפני שבועיים, לדוגמה, הועלו ליוטיוב עשרות סרטונים עם דיפ פייק של אלון מאסק, שנועדו להונות צופים תמימים - ונשארו שם במשך הרבה יותר מדי זמן, עד שהפלטפורמה זיהתה את הבעייתיות שבהם.

המתחזים פרצו לעשרות חשבונות יוטיוב פופולריים, ביניהם כאלה של כוכבי פופ, וגרמו להם להיראות בדיוק כמו אתרים של חברת טסלה ואז העלו לשם סרטוני דיפ פייק, בהם מאסק, כביכול, מעודד רכישת מטבע קריפטו מסוים. סביר להניח שלא מעט גולשים תמימים האמינו לזיוף המאוד אמין הזה, פעלו בהתאם להוראות הבוס הגדול של העולם, והפסידו כסף.

הרבה מאוד גולשים האמינו גם לסרטוני הדיפ פייק שהסתובבו ברשתות החברתיות במאי האחרון, בהם נראו פוטין וזלנסקי נושאים "הצהרות חשובות" בנוגע למלחמה באוקראינה, כשבאחד מהם "פוטין" מכריז לכאורה כי הושג הסכם שלום. "זלנסקי", מצדו, הפציר בתושבי ארצו להוריד את הנשק ולהיכנע לכוחות הרוסים.

גם את הסרטונים האלה לקח ליוטיוב לא מעט זמן לאתר, לבחון ולהסיר, אבל לזכותה ייאמר שהטכנולוגיה המתפתחת הזאת מבלבלת היום את כולם ומעמידה את האנושות במצב של פאניקה וחוסר אונים נוכח אי היכולת להבחין בין אמת לשקר. המצב הזה גורם לחשדנות יתרה בכל פיסת חדשות מצולמת - במיוחד כשמדובר בחדשות שהן ממילא עסיסיות, כמו למשל אלה הנוגעות למשפט של ג'וני דפ ואמבר הרד.

עדותה של הדוגמנית הוותיקה קייס מוס במהלך דיונים בבית המשפט בווירג'יניה לוותה בתיאוריה שצברה תאוצה ברשת - למרות מופרכותה הבסיסית - לפיה מדובר בדיפ פייק. לדעת הגולשים שתמכו בתיאוריה, מה שהופיע בשידור המשפט בטלוויזיה היה הולוגרמה של מוס. "הביטו היטב בעיניים שלה, בהילוך איטי, בדקה 4:06", צייץ אחד כזה.

למרות כל הנ"ל, הלגיטימיות של החיקוי העמוק רק הולכת ומשתרשת עם הזמן, בעזרת גושפנקות מאזורי הבידור להמונים (צפו להנאתכם בדיפ פייק הזה של סיימון קאוול שר ב"אמריקה גאט טלנט"), כמו גם מבסיסי הטכנולוגיה הגדולים בעולם, כפי שמדגים הפיצ'ר החדש שאמזון הוסיפה לאלקסה - אפשרות לחקות באופן מדויק את קולו של אדם ספציפי, גם אם האדם הזה הוא הסבתא המנוחה. כן, כאילו שהסיפור לא מפחיד ממילא.

מי בכל זאת נוקט בצעדים נגד השימושים הבעייתיים בטכנולוגיה הזאת? רק המתקדמים במיוחד. למשל, ממשלת אוסטריה, שהכריזה בחודש שעבר (מאי 2022) על מלחמה כוללת בהם, כחלק מהמאבק שלה בפייק ניוז ובשיח שינאה. "מדובר בסיכון משמעותי בתחומים רבים, כי קשה מאוד לעלות על עקבותיהם של האנשים שמשתמשים בה כדי להפיץ כל מיני דברים לא רצויים", אמר אז שר הפנים האוסטרי ג'רלד קארנר, שהחל לפעול לטובת רגולציה של הטכנולוגיה עוד בסוף 2020. "דיפ פייק משמש למניפולציה בדעת הקהל במדינות שונות ובהליכים דמוקרטיים", הוסיפה שרת המשפטים עלמה זאדיק.

ממשלת אוסטריה, באופן כללי, מביעה חשש נוכח הקלות הרבה שבה ניתן ליצור דיפ פייק - לרוב, בעזרת אפליקציות זמינות - ומצטרפת אליה גם פרופ' חני פריד מאוניברסיטת ברקלי, שמעריכה שבתוך שלוש עד חמש שנים איש לא יוכל להבחין בין דיפ פייק לדבר האמיתי. אפשר להניח שהתמהמהות החקיקה והרגולציה בעניין נובעת מכך שהרוב המכריע של השימושים בדיפ פייק אינו זדוני. על פי הערכות, יותר מ-90% מהשימושים בכלי ברחבי העולם הן למטרות הומור וסאטירה.

ובכל זאת, הסכנה קיימת ודורשת טיפול כלשהו. על פי מחקר שערך המכון לחקר עתיד המדע והטכנולוגיה בארצות הברית, הסיכונים הקשורים לדיפ פייק יכולים להיות "פסיכולוגיים, פיננסיים וחברתיים, והיקף הנזק שהכלי עשוי לגרום "נע בין האדם הפרטי לחברה שלמה". עורכי המחקר המליצו, לפיכך, לקובעי המדיניות ברחבי אירופה לעשות ככל שביכולתם כדי לנטר ולמנוע השפעות מזיקות של הטכנולוגיה. בתגובה, כמה גופי רגולציה ביבשת החלו לגבש רעיונות לטיפול בנושא.

מכל מקום, די ברור היום ששימוש לא מבוקר ולא מנוטר בדיפ פייק הוא מתכון לאסון. זה גם לגמרי הגיוני בהתחשב בכך שמדובר בתופעה טכנולוגית-חברתית שנולדה, בשנת 2017, במקומות המטונפים והדוחים ביותר ברשת - אתרי הפורנו. הביטוי "דיפ פייק" נלקח משם המשתמש ב"רדיט" של בחור די חרמן שהתמחה ביצירת סרטונים שבהם הוטמעו פניהן של סלבריטאיות על גוף של שחקניות פורנו.

בין השאר, נפגעו מכך שחקניות וזמרות כמו אמה ווטסון, דייזי רידלי, קייטי פרי, טיילור סוויפט, גל גדות וסקרלט ג'והנסן, שאמרה לוושינגטון פוסט כי "תופעת הדיפ פייק איום כנגד נשים שהמוניטין שלהן עלול להיפגע כתוצאה מפורנוגרפיית נקם".

בעקבות הפצת הסרטונים הללו, אסר אתר הפורנו הפופולרי פורנהאב על הפצת חומרים פורנוגרפיים מבוססי בינה מלאכותית, ובהמשך עשו זאת גם רדיט וטוויטר. האם זה שם סוף לתופעה? חח, כמו שנאמר. הרשת הומה קהילות מקוונות שממשיכות לשתף פורנוגרפיית דיפ פייק באין מפריע, בשלל פלטפורמות שלא עדכנו את המדיניות. זאת ועוד: ביוני 2019 צצה אפליקציה בשם DeepNude, שהציגה יכולת מרשימה - הסרת ביגוד מתמונות של נשים. האפליקציה הורדה חצי מיליון פעמים לפני שהוסרה על ידי מפתחיה.

באותה שנה, חוקקה מדינת קליפורניה שני חוקים תקדימיים נגד הדיפ פייק. הראשון אוסר על "הפצה של סרטונים שעברו מניפולציה במטרה לפגוע בדמותו של מועמד פוליטי, או להשפיע על דעתם הפוליטית של מצביעים בטווח של 60 יום מיום בחירות". השני מעניק לתושבי המדינה את הזכות לתבוע אדם שיצר דיפ פייק שבו מוטמעת דמותם בחומרי פורנו ללא הסכמתם.

שלוש שנים עברו מאז וחגיגת הדיפ פייק, כפי שיכול להעיד ראש עיריית קייב, עדיין בעיצומה. היא לא נעצרה לרגע, אלא רק להפך - הלכה והשתכללה, כפי שיכול להעיד במבוכה ראש עיריית וינה. הבעיה היא שדרוש לה רק עוד צעד אחד קטן, פצפון אפילו, כדי שתוכל להפוך לאמינה מספיק כדי לעבוד על כולם, כולל רשויות החוק, ולעשות כאן אנרכיה. האמת? לא בטוח שאפשר בכלל לעצור את זה. ייתכן שהלך עלינו. שוין.

עוד מכלכליסט

image beaconimage beaconimage beacon