איך מזהים דיפ פייק? הסבר על תופעת הדיפ-פייק וסקירת החוק בישראל

לפני כמה חודשים קיבלתי בוואטסאפ סרטון של פוליטיקאי בכיר אומר דברים שנשמעו מפתיעים, אפילו קיצוניים. מי ששלח לי את הסרטון כתב שזו "הוכחה סופית" לטענות נגד אותו אדם. צפיתי בו פעמיים, שלחתי לעוד אדם ובדקתי באינטרנט. רק אחרי כמה דקות של חיפוש גיליתי שמדובר בדיפ פייק. זה נראה אמיתי לחלוטין, הקול, ההבעות, אפילו התפאורה שמסביב. באותו רגע הבנתי כמה קל להפיל אנשים בפח, וכמה הנזק עלול להיות מיידי ובלתי הפיך.

דיפ פייק היא טכנולוגיה מתקדמת שמאפשרת לייצר סרטונים מזויפים שנראים אותנטיים לחלוטין. בעזרת בינה מלאכותית, אפשר לשתול מילים בפי אנשים, לשנות הבעות פנים, לחקות תנועות קול ואפילו ליצור דמות שלמה יש מאין. אם פעם נדרש צוות שלם כדי להפיק סרטון מורכב, היום כל אחת ואחד עם קצת ידע טכני יכולים לעשות זאת תוך זמן קצר.

בעידן שבו רוב המידע נצרך דרך סרטונים קצרים ברשתות חברתיות, הדיפ פייק הופך לכלי מסוכן במיוחד. הפצה של תוכן כזה עלולה לגרום לפיטורין, השמצות, פגיעה פוליטית, הונאות או השפעה ממשית על דעת הקהל. חשוב להבין, לא מדובר רק בבעיה טכנית או אתית, אלא באתגר ממשי לאמון שלנו במה שנחשב "מציאות".

שיטות פשוטות לזיהוי סרטונים מזויפים

למרות התחכום הגובר של טכנולוגיות דיפ פייק, קיימים עדיין כמה סימנים שיכולים לעזור לזהות סרטון מזויף. בראש ובראשונה, כדאי לשים לב לתנועת השפתיים. לעיתים קרובות יש חוסר התאמה קל בין הדיבור לבין תנועת השפתיים, שיהוי זעיר או תנועה לא טבעית שמזכירה אנימציה ממוחשבת.

גם העיניים עשויות להסגיר. בסרטונים מזויפים אפשר להבחין לפעמים במבט מזוגג או בעיניים שאינן ממוקדות. יש מקרים שבהם המצמוצים נראים מכניים או חסרים לגמרי, מה שמעיד על כך שמדובר ביצירה מלאכותית. בנוסף, יש לשים לב לפרטים כמו תאורה, תנועות גוף, טקסטורות עור או רקעים שמתנהגים בצורה לא טבעית כשיש תזוזה.

ככל שהטכנולוגיה משתפרת, כך קשה יותר להסתמך רק על החושים. ישנם כיום כלים אונליין שיכולים לסייע בזיהוי דיפ פייק, כמו FakeCatcher של אינטל או Deepware Scanner, שמנתחים את הסרטון ברמת פיקסלים ודפוסי תנועה כדי לגלות זיופים. אני עצמי משתמשת לעיתים באתר InVID כשאני רוצה לבדוק מקור של וידאו שהועלה בטוויטר או טיקטוק.

בינה מלאכותית נגד AI

המרוץ בין יוצרי הדיפ פייק לבין מערכות הגנה טכנולוגיות מתנהל במלוא עוזו. חברות ענק כמו מטא, גוגל, מיקרוסופט ודיפמיינד מפתחות כלים שמטרתם לזהות זיופים בזמן אמת. הטכנולוגיה מתקדמת עד כדי כך שחלק מהמנגנונים משתמשים בזיהוי שינויים בלתי נראים בקצב הדופק או בצבע עור הפנים, כדי להבחין בין אדם אמיתי לדמות שנוצרה באופן סינתטי.

מה שמרתק במיוחד הוא שהמערכות שמטרתן לזהות זיופים מבוססות בדיוק על אותם עקרונות שמשמשים ליצירתם. מדובר במעין "מלחמה קרה" של אלגוריתמים, שבה כל צד משתכלל כדי להקדים את השני. ובתוך כל זה, המשתמש הפשוט נותר חשוף לתוכן שעלול להיראות אותנטי לחלוטין אבל להטעות בצורה קשה.

רוב הכלים האלה אינם זמינים לקהל הרחב, או שקשה להשתמש בהם בלי ידע טכני מתקדם. ולכן, ככל שהזיופים נהיים משכנעים יותר, חשוב עוד יותר לפתח חשיבה ביקורתית ולחפש סימנים לאותנטיות. לעיתים, שיחה קצרה עם מקור מהימן או חיפוש קצר בגוגל מספיקים כדי להבין אם מדובר בתרמית.

הצעות חוק המנסות להתמודד עם האיום

בשנים האחרונות הוגשו בישראל כמה הצעות חוק במטרה להתמודד עם תופעת הדיפ פייק, אבל עדיין אין חוק סדור ומקיף שמטפל בנושא. ההצעות כוללות דרישה לסמן באופן ברור תכנים שנערכו בצורה מלאכותית או לשאת באחריות פלילית במקרה של הפצת תוכן כוזב מזיק. אחת ההצעות אף קובעת עונשי מאסר במקרים חמורים של זיוף דמות אדם.

הבעיה המרכזית היא שמדובר בתחום משפטי חדש, שמעלה הרבה שאלות מורכבות. האם סאטירה נחשבת דיפ פייק? מה קורה כשהתוכן נוצר במדינה אחרת? האם החוק יחול רק על מי שיצר את הסרטון או גם על מי ששיתף אותו? השאלות האלו מעוררות ויכוח, והחקיקה בישראל מתקדמת בזהירות רבה, אולי אפילו בזהירות יתרה.

בעולם כבר ניתן למצוא דוגמאות לרגולציה מתקדמת יותר. באיחוד האירופי, לדוגמה, במסגרת רגולציית ה-AI, יש דרישה ברורה לסימון תכנים שנוצרו בבינה מלאכותית. במדינות מסוימות בארצות הברית, כמו טקסס וקליפורניה, נחקקו חוקים שאוסרים יצירת דיפ פייקים פוליטיים בתקופת בחירות. בסינגפור, הממשלה מחזיקה בזכות לחסום תוכן שקרי ולהטיל עונשים על המפיצים.

לאורך העבודה על הכתבה יצא לי לשוחח עם משפטנית המתמחה בטכנולוגיה, שסיפרה לי על פער הולך וגדל בין קצב התפתחות הדיפ פייק לבין קצב החקיקה. התחושה הייתה שמרוב זהירות, המחוקק משאיר את הציבור חשוף, וזו תובנה שלא הצלחתי לנער ממני.

דיפ פייק במרחב הפלילי והאזרחי

מלבד הפגיעה הציבורית הרחבה, ישנם גם נזקים אישיים, ולעיתים קרובות קשים מאוד. פורנו מזויף, זיופים של קלטות קוליות, סרטונים עסקיים מבוימים או אפילו זיופים שמובילים לסחיטה, כל אלו הם תרחישים שכבר התרחשו במציאות, חלקם גם בארץ. כשמדובר בדמות ציבורית, הנזק הוא לעיתים זמני, אך כשמדובר באדם פרטי, התוצאה עלולה להיות טראומטית ובלתי הפיכה.

במקרים מסוימים ניתן לפנות לחוק לשון הרע או לעבירות של פגיעה בפרטיות, אולם אלו נכתבו לפני עידן הדיפ פייק ולא תמיד מצליחים להקיף את הסיטואציה החדשה. גם בהיבט האכיפתי קיימים אתגרים, אם הסרטון נוצר באנונימיות, או הופץ ממדינה אחרת, קשה מאוד לאתר את האחראים ולהביאם לדין.

מערכת המשפט מתחילה לגבש פרשנויות ראשונות ולהתאים את ההליכים, אך ברור שכדי להילחם בתופעה הזו באופן יעיל, יש צורך בעדכון כולל של המסגרת המשפטית. עד אז, הציבור נדרש להתמודד עם תופעה שמערערת את תחושת הביטחון הבסיסית ביותר, היכולת להאמין למה שאנחנו רואים ושומעים.

הכוח בידיים של כולנו

כשהמערכות הרשמיות עדיין לא מספקות פתרון מלא, האחריות נופלת גם על כל אחת ואחד מאיתנו. חשוב שנפתח רגישות ואחריות אישית כלפי התוכן שאנחנו צורכים ומפיצים. במקום למהר לשתף סרטון שמזעזע אותנו או מעורר בנו כעס, כדאי לעצור, לבדוק, ולשאול: האם זה באמת קרה?

מערכת החינוך יכולה לשחק כאן תפקיד קריטי. הכנסה של תכנים בנושא אוריינות דיגיטלית כבר מגיל צעיר יכולה לעזור לילדים ובני נוער לפתח שיקול דעת מול תכנים מתוחכמים ומטעים. גם ההורים, הקהילות והמוסדות הציבוריים צריכים לקחת חלק ביצירת תרבות שמטילה ספק, שואלת שאלות ולא קונה כל סרטון שמועבר בווטסאפ.

הדיפ פייק לא עומד להיעלם. להפך. ככל שהבינה המלאכותית מתקדמת, הוא יהפוך נפוץ, מדויק ומשכנע יותר. דווקא בגלל זה, חשוב שנלמד להתמודד לא רק עם הכלים, אלא גם עם הגישה שלנו למהי אמת ומהי מניפולציה.

אם נמשיך לשתף בלי לבדוק, נמשיך להאמין בלי לחשוב, נאבד לא רק את האמון בתוכן שאנחנו רואים, אלא גם את היכולת להבין את העולם סביבנו. ואני מאמינה שאפשר אחרת.