בעידן הדיגיטלי, כולנו גולשים, משתפים וצופים בתוכן כל הזמן. אבל האם פעם עצרתם לחשוב אם הסרטון המדהים או התמונה המפתיעה שראיתם הם באמת אמיתיים? טכנולוגיה חדשה שנקראת בינה מלאכותית יוצרת (Generative AI) מאפשרת היום לכל אחד, בכמה לחיצות כפתור, ליצור תמונות וסרטונים שנראים מציאותיים לחלוטין, גם אם הם מומצאים לגמרי. זה יכול להיות מגניב ויצירתי, אבל זה גם יכול להיות מסוכן, במיוחד כשמדובר בחדשות ואירועים חשובים. הרשת החברתית X, שבבעלותו של אילון מאסק, החליטה שהגיע הזמן לשים לזה גבול.

מה זה בעצם "פייק ניוז" של AI?

תחשבו על בינה מלאכותית יוצרת כמו על תוכנת פוטושופ או עריכת וידאו משוכללת במיוחד, שיודעת לא רק לערוך תמונה קיימת, אלא להמציא אחת חדשה מאפס לפי הוראות. היא יכולה ליצור תמונה של אסטרונאוט רוכב על חד-קרן על מאדים, או סרטון של אישיות מפורסמת אומרת משהו שמעולם לא אמרה. כשהטכנולוגיה הזו משמשת להפצת שקרים, במיוחד בנושאים רגישים כמו מצב ביטחוני, זה נקרא דיסאינפורמציה או "פייק ניוז".

לאחרונה, בעקבות מצב ביטחוני מתוח באזורנו, הרשתות החברתיות הוצפו בסרטונים כאלה. למשל, הופץ סרטון מזויף שהראה חיילים בוכים, כדי לנסות לייצר פאניקה. סרטון אחר הראה בניין מפורסם בעולם עולה באש, כביכול כתוצאה מתקיפה. סרטונים אחרים הציגו פיצוצים גדולים בערים, שהתבררו כולם כיצירה של מחשב. הבעיה היא שהסרטונים האלה נראים כל כך אמיתיים, שמיליוני אנשים צפו בהם והאמינו להם, מה שעלול לגרום לבלבול, פחד ואפילו כעס.

המהלך של X: פוגעים בכיס

כדי להילחם בתופעה, X החליטה לפעול בצורה יצירתית: במקום רק למחוק את הפוסטים, היא פוגעת בתמריץ הכלכלי של המפיצים שלהם. ברשתות חברתיות רבות, יוצרי תוכן פופולריים יכולים להרוויח כסף מהפוסטים שלהם, תהליך שנקרא מונטיזציה. ככל שיותר אנשים צופים ומשתפים, כך הם מרוויחים יותר. זה גורם לאנשים מסוימים לרצות ליצור תוכן שיקבל כמה שיותר צפיות, גם אם הוא שקרי.

החוק החדש של X קובע שכל משתמש שיפרסם תוכן שנוצר על ידי AI וקשור לאירועים ביטחוניים מבלי לסמן אותו בבירור ככזה, יושעה מהאפשרות להרוויח כסף למשך 90 יום. אם אותו משתמש יעשה זאת שוב, הוא יוסר מהתוכנית לצמיתות. ניקיטה ביר, בכיר בחברה, הסביר: "בעת אירוע ביטחוני, קריטי שלאנשים תהיה גישה למידע אותנטי מהשטח". המהלך הזה בעצם אומר ליוצרים: "אתם יכולים ליצור מה שאתם רוצים, אבל אם תנסו להטעות אנשים בנושאים רגישים, לא תרוויחו מזה".

איך תזהו תוכן מפוברק ותהיו גולשים חכמים?

האחריות היא לא רק על הרשתות החברתיות, אלא גם עלינו, הגולשים. היכולת להבחין בין אמת לשקר היא מיומנות-על בעולם של היום. אז איך עושים את זה?

כלים וסימנים שכדאי לחפש:

• הערות קהילה (Community Notes): ב-X יש כלי שמאפשר למשתמשים להוסיף הערות לפוסטים שנראים להם מטעים. אם אתם רואים פוסט עם הערה כזו מתחתיו, זה סימן אזהרה.
• תווית "נוצר באמצעות AI": המדיניות החדשה מעודדת משתמשים להוסיף תווית כזו בעצמם. חפשו אותה.
• פרטים מוזרים: בתמונות וסרטוני AI, לפעמים יש פרטים לא הגיוניים. למשל, אנשים עם שש אצבעות, צללים שלא מתאימים למקור האור, או טקסטים משובשים ברקע.
• שאלו את עצמכם: האם הסיפור הזה נשמע הגיוני? האם הוא גורם לי להרגיש רגש חזק מאוד (כעס, פחד)? לעיתים קרובות, מפיצי פייק ניוז מנסים בכוונה לעורר רגשות חזקים כדי שנשתף בלי לחשוב.

הדבר החשוב ביותר הוא לעצור לפני שמשתפים. אם משהו נראה לכם חשוד, נסו לחפש את המידע באתרי חדשות מוכרים או לדבר על זה עם מבוגר שאתם סומכים עליו.

העתיד כבר כאן: בין יצירתיות לאחריות

אילון מאסק עצמו מאמין שבעתיד הקרוב, רוב התוכן שנצרוך יהיה מבוסס AI. לטכנולוגיה הזו יש פוטנציאל אדיר ליצירתיות, לאמנות, לחינוך ולמדע. אבל כמו כל כלי חזק, צריך להשתמש בו באחריות. המהלך של X הוא צעד חשוב בכיוון הנכון – הוא לא אוסר על הטכנולוגיה, אלא דורש שקיפות ואחריות מהמשתמשים בה. המאבק על האמת ברשת הוא אתגר מתמשך, והוא דורש שיתוף פעולה בין החברות, המשתמשים וכולנו. ככל שנהיה מודעים יותר וביקורתיים יותר, כך נהפוך את העולם הדיגיטלי למקום בטוח ואמין יותר לכולם.