האינטרנט: עולם של אינסוף מידע, וגם של זיופים

כולנו מבלים שעות ברשת, צופים בסרטונים, לומדים ומתחברים עם חברים. אבל בתוך כל הטוב הזה, מסתתר גם אתגר גדול: איך נדע מה אמיתי ומה לא? בשנים האחרופות, טכנולוגיה מתוחכמת בשם בינה מלאכותית יוצרת (Generative AI) מאפשרת ליצור סרטונים ותמונות שנראים אמיתיים לחלוטין, אבל הם בעצם זיוף. לתופעה הזו קוראים 'דיפ-פייק' (Deepfake), והיא יכולה להיות מסוכנת, במיוחד כשמשתמשים בה כדי לגרום לאנשים מפורסמים, כמו פוליטיקאים או עיתונאים, להיראות כאילו הם אומרים או עושים דברים שמעולם לא קרו.

דמיינו, למשל, סרטון מזויף של מועמד לנשיאות שמודה בפשע יום לפני הבחירות. סרטון כזה יכול להתפשט במהירות ברשתות החברתיות ולהשפיע על דעתם של מיליוני אנשים, עוד לפני שמישהו יספיק להבין שמדובר בזיוף. כאן בדיוק נכנסת יוטיוב לתמונה, עם ניסיון להחזיר את האמון למה שאנחנו רואים.

הכירו את 'הבלש לזיהוי דמות'

יוטיוב, פלטפורמת הווידאו הגדולה בעולם, השיקה לאחרונה תוכנית ניסיונית (פיילוט) לכלי חדש וחכם שנקרא Likeness Detection, או בעברית, "זיהוי דמות". אפשר לחשוב על הכלי הזה כמו על בלש דיגיטלי או שומר ראש וירטואלי שפועל 24/7. הוא משתמש בבינה מלאכותית כדי לסרוק את מיליוני הסרטונים שעולים לפלטפורמה בכל יום, ומחפש פנים של אנשי ציבור שהצטרפו לתוכנית.

איך זה עובד בפועל?

התהליך דומה למערכת אחרת של יוטיוב שאתם אולי מכירים, Content ID, שעוזרת למוזיקאים וליוצרי סרטים למצוא קטעים שהועתקו מהם ללא רשות. במקרה הזה, ה"נכס" שמוגן הוא לא שיר או סרט, אלא הפנים של אדם.

1. אימות זהות: פוליטיקאי, עיתונאי או איש ציבור שרוצה להצטרף לתוכנית צריך לעבור תהליך אימות קפדני. הוא שולח ליוטיוב סרטון קצר של פניו ותעודה מזהה רשמית. המידע הזה, שנקרא נתונים ביומטריים, משמש ליצירת "טביעת אצבע" דיגיטלית ייחודית של פניו.
2. סריקה מתמדת: האלגוריתם של יוטיוב מתחיל לסרוק את הפלטפורמה. ברגע שהוא מזהה סרטון חדש שבו מופיעות הפנים של אותו אדם, הוא שולח לו התראה מיידית.
3. בדיקה והחלטה: איש הציבור מקבל את ההתראה, צופה בסרטון ומחליט אם מדובר בתוכן לגיטימי או בזיוף מזיק. אם הסרטון מפר את כללי הקהילה של יוטיוב (למשל, אם הוא נועד להטעות בכוונה), הוא יכול להגיש בקשה רשמית להסרתו.

האיזון העדין: בין הגנה על האמת לחופש הביטוי

אחת השאלות החשובות ביותר שעולות היא: האם כלי כזה לא ישמש פוליטיקאים כדי להשתיק ביקורת עליהם? מה יקרה לסרטוני סאטירה מצחיקים או למערכונים שצוחקים על מנהיגים, כמו בתוכניות כמו "ארץ נהדרת"?

לסלי מילר, סגנית נשיא למדיניות ציבורית ביוטיוב, מדגישה שהם חשבו על זה. היא מסבירה שכל בקשת הסרה תיבדק בקפידה על ידי צוות אנושי. המטרה היא לא למחוק כל תוכן ביקורתי. סרטונים שהם בבירור פארודיה (חיקוי קומי) או סאטירה (ביקורת עוקצנית והומוריסטית) צפויים להישאר באוויר. "אם סרטון של מנהיג עולמי הוא בבירור פארודיה, סביר להניח שהוא יישאר," היא אמרה. הגבול, אם כן, הוא בין תוכן שנועד לבקר ולהצחיק, לבין תוכן שנועד במכוון להונות את הציבור ולגרום נזק.

מדוע זה קריטי במיוחד עכשיו?

אנחנו חיים בתקופה שבה יש מערכות בחירות חשובות במדינות רבות ברחבי העולם. היכולת ליצור ולהפיץ מידע כוזב במהירות וביעילות הפכה לאיום ממשי על תהליכים דמוקרטיים. סרטון דיפ-פייק משכנע יכול להטות את דעת הקהל, ליצור כאוס ולפגוע באמון של אנשים במנהיגים ובתקשורת.

עבור יוצרי תוכן מסחריים, לפעמים דיפ-פייק יכול להיות אפילו מועיל (למשל, להכניס את עצמם לסצנה מסרט מפורסם). אבל עבור פוליטיקאים ועיתונאים, שתפקידם מבוסס על אמינות, זיוף כזה יכול להיות הרסני. הכלי החדש של יוטיוב הוא ניסיון לתת להם דרך להגן על הזהות הדיגיטלית שלהם ועל האמת.

העתיד שלנו כצרכני מידע

חשוב לזכור שהטכנולוגיה הזו נמצאת כרגע בשלב ניסיוני וזמינה רק לקבוצה מצומצמת של אנשים מפורסמים. היא עדיין לא פתרון קסם לבעיית הפייק ניוז, והיא לא זמינה לאדם הממוצע.

המאבק בדיפ-פייקס הוא כמו משחק של חתול ועכבר: בזמן שחברות מפתחות כלים לזיהוי זיופים, אחרים מפתחים כלים ליצירת זיופים טובים יותר. לכן, האחריות החשובה ביותר נשארת אצלנו, המשתמשים. התפקיד שלנו הוא לפתח חשיבה ביקורתית, לשאול שאלות, לא להאמין לכל מה שאנחנו רואים, ולבדוק מידע במקורות אמינים לפני שאנחנו משתפים אותו. בסופו של דבר, הכלי החזק ביותר נגד זיופים הוא המוח שלנו.