פרצוף מוכר, מילים זרות

דמיינו שאתם גוללים ביוטיוב ורואים סרטון של ראש הממשלה מכריז שכל הילדים יקבלו גלידה בחינם כל יום. זה נשמע מדהים, נכון? הוא נראה בדיוק כמוהו, מדבר בקול שלו, והכל נראה אמיתי לגמרי. אבל מה אם נגלה לכם שהסרטון הזה מזויף? שמישהו השתמש בתוכנת מחשב חכמה כדי ליצור אותו? לתופעה הזו קוראים "דיפ-פייק" (Deepfake), והיא הופכת לאתגר גדול בעולם שלנו.

דיפ-פייק הוא סרטון מזויף שנוצר באמצעות טכנולוגיה מיוחדת שנקראת בינה מלאכותית. המחשב "לומד" איך אדם מסוים נראה וזז ואיך הקול שלו נשמע, ואז הוא יכול ליצור סרטון חדש לחלוטין שבו אותו אדם עושה או אומר דברים שמעולם לא קרו במציאות. לפעמים זה יכול להיות מצחיק, אבל זה גם יכול להיות מסוכן מאוד אם משתמשים בזה כדי להפיץ שקרים.

יוטיוב מציגה: בלש הפנים הדיגיטלי

בדיוק בגלל הסכנה הזו, חברת יוטיוב, פלטפורמת הסרטונים הגדולה בעולם, החליטה שהיא צריכה לעשות משהו. היא פיתחה כלי חדש ומתוחכם שנקרא Likeness Detection, שזה כמו להגיד "זיהוי דמיון". אפשר לחשוב על הכלי הזה כמו על בלש דיגיטלי שמתמחה בזיהוי פנים.

איך הבלש הזה עובד?

הוא עובד באופן דומה לכלי אחר של יוטיוב שנקרא Content ID, שאולי שמעתם עליו. Content ID יודע לזהות מתי מישהו משתמש בשיר או בקטע מסרט בלי רשות מבעלי זכויות היוצרים. הבלש החדש עושה אותו דבר, אבל במקום מוזיקה, הוא מחפש פנים!

אנשי ציבור שמשתתפים בתוכנית הניסוי החדשה, כמו פוליטיקאים, מועמדים בבחירות ועיתונאים, נותנים ליוטיוב "תמונה דיגיטלית" מדויקת של הפנים שלהם. מרגע זה, האלגוריתם החכם של יוטיוב סורק כל סרטון חדש שעולה לאתר. אם הוא מזהה פנים שתואמות לאחד המשתתפים בתוכנית, הוא מיד שולח להם התראה. איש הציבור יכול אז לצפות בסרטון ולהחליט: האם זה סרטון אמיתי, או שזה דיפ-פייק שמנסה להטעות אנשים? אם הסרטון מזויף ומפר את כללי הקהילה, הם יכולים להגיש בקשה רשמית להסיר אותו.

למה זה חשוב כל כך דווקא עכשיו?

הצורך בכלי כזה גדל מאוד בשנים האחרונות, במיוחד סביב אירועים חשובים כמו מערכות בחירות. דמיינו מה יכול לקרות אם יום לפני הבחירות, יופץ סרטון מזויף של מועמד אומר משהו נורא. אנשים עלולים להאמין לזה ולשנות את דעתם, והכל בגלל שקר שנוצר על ידי מחשב. זה פוגע ביכולת שלנו לדעת מהי האמת ולקבל החלטות נכונות. גם עיתונאים, שתפקידם לספק לנו מידע אמין, יכולים להיות מטרה לסרטונים כאלה, במטרה לפגוע באמינותם.

האם זה אומר שאי אפשר יותר לצחוק על פוליטיקאים?

ממש לא! בלסלי מילר, אחת המנהלות הבכירות ביוטיוב, הסבירה שהמטרה היא לא למחוק כל סרטון ביקורתי או מצחיק. תוכניות סאטירה, חיקויים ופארודיות הם חלק חשוב מחופש הביטוי. ההבדל המרכזי הוא הכוונה. אם ברור לכולם שהסרטון הוא בדיחה, כמו חיקוי ב"ארץ נהדרת", סביר להניח שיוטיוב תשאיר אותו. אבל אם הסרטון מנסה במכוון להטעות אנשים ולגרום להם להאמין לשקר, אז יש בעיה.

העתיד של האמת באינטרנט

כרגע, הכלי החדש זמין רק לקבוצה קטנה של אנשים מפורסמים, כחלק מניסוי. יוטיוב רוצה לוודא שהוא עובד כמו שצריך לפני שתחשוב להרחיב אותו. זה מראה לנו שבעוד שהטכנולוגיה יוצרת אתגרים חדשים, היא גם נותנת לנו כלים חדשים כדי להתמודד איתם.

הסיפור הזה מזכיר לנו שכמו בלשים בעולם האמיתי, גם אנחנו צריכים להיות בלשים בעולם הדיגיטלי. אנחנו צריכים לשאול שאלות, לחשוב בצורה ביקורתית, ולא להאמין לכל מה שאנחנו רואים. בסופו של דבר, המוח שלנו הוא הכלי החשוב ביותר שיש לנו כדי להבדיל בין אמת לשקר.