דמיינו שאתם יכולים לכתוב משפט כמו "דרקון סגול קורא ספר בספרייה עתיקה לאור נרות" ולקבל תוך דקות סרטון וידאו שנראה כאילו צולם בהוליווד. זה כבר לא מדע בדיוני, זו המציאות החדשה שאפליקציית 'סורה' (Sora) מבית חברת OpenAI מציעה לכולנו. אחרי שהושקה למכשירי אייפון, היא הגיעה לאחרונה גם לאנדרואיד ורשמה כמעט חצי מיליון הורדות ביום אחד בלבד בכמה מדינות – מה שמראה כמה העולם צמא לטכנולוגיה הזו. אבל כמו כל כוח גדול, גם כאן מסתתרת אחריות גדולה, והרבה שאלות חדשות.

איך הקסם הזה עובד?

'סורה' היא דוגמה למה שנקרא בינה מלאכותית יוצרת (Generative AI). חשבו על אמן שלמד וצפה במיליוני סרטונים ותמונות מכל הסוגים – מסרטי טבע ועד סרטי אנימציה. עכשיו, כשתתנו לו הוראה, הוא יידע להרכיב את כל הידע העצום שלו כדי ליצור משהו חדש לגמרי, שנראה ומרגיש אמיתי. החברה שפיתחה את סורה, OpenAI, היא גם זו שיצרה את ChatGPT, הצ'אטבוט המפורסם שרבים מכם בטח מכירים.

היא לא לבד במגרש. חברות ענק כמו מטא (החברה של פייסבוק ואינסטגרם) וגוגל (עם מודל שנקרא Veo) מפתחות כלים דומים. כולן מתחרות על היכולת לתת לנו, המשתמשים, את הכלים הכי חזקים ומרשימים ליצירת תוכן. זהו מרוץ טכנולוגי עולמי, שבו אפילו חברות ישראליות לוקחות חלק, מה שמראה עד כמה הנושא הזה חשוב ומרכזי כיום.

הגבול המטושטש: מתי 'אמיתי מדי' הופך לבעיה?

היתרון הגדול ביותר של סורה הוא גם מקור הדאגה המרכזי: הסרטונים שהיא יוצרת נראים אמיתיים להפליא. הגבול בין מה שקרה באמת לבין מה שהמחשב המציא מיטשטש, וזה יכול להיות מסוכן.

דיפייק ובריונות ברשת

שמעתם פעם על המושג 'דיפייק' (Deepfake)? זהו סרטון מזויף שנראה אמיתי. תארו לכם שמישהו משתמש באפליקציה כזו כדי ליצור סרטון של חבר מהכיתה אומר משהו מביך שהוא מעולם לא אמר, ומפיץ אותו ברשת. הנזק יכול להיות גדול מאוד, גם אם בסוף יתברר שהסרטון מזויף. ארגונים לבטיחות ילדים ברשת, כמו Common Sense Media, כבר הגדירו את סורה כבעלת "סיכון בלתי מתקבל על הדעת" עבור בני נוער, בדיוק בגלל הפוטנציאל הזה לבריונות והפצת מידע שקרי.

חדשות כזב ואמינות

בעולם שבו קל כל כך לייצר סרטונים, איך נדע למה להאמין? אפשר ליצור סרטון של פוליטיקאי מכריז הכרזה שלא הייתה ולא נבראה, או "לתעד" אירוע היסטורי שלא קרה מעולם. היכולת הזו מאתגרת את כולנו, ומחייבת אותנו לפתח חשיבה ביקורתית ולשאול תמיד: מי יצר את התוכן הזה ולמה?

מגרש המשחקים הדיגיטלי: מי קובע את החוקים?

חברות הטכנולוגיה פועלות לעיתים קרובות לפי עיקרון שנקרא "לנוע מהר ולשבור דברים" – כלומר, להוציא את המוצר לשוק כמה שיותר מהר כדי להשיג יתרון, ורק אחר כך לטפל בבעיות שצצות. הבעיה היא שבתחום כמו בינה מלאכותית, ה"שברים" יכולים להיות פגיעה באנשים אמיתיים.

OpenAI טוענת שהיא הכניסה מנגנוני בטיחות: אי אפשר ליצור תוכן פוגעני, יש הגבלת גיל (13+), והסרטונים אמורים לכלול "סימן מים" דיגיטלי ובלתי נראה (בשם C2PA) שיסגיר שהם נוצרו על ידי AI. ועדיין, מומחים חוששים שזה לא מספיק. סרטון מזיק יכול להפוך ויראלי ולהגיע למיליוני צופים עוד לפני שהחברה תספיק להסיר אותו.

במקביל, ממשלות בעולם מתחילות להבין שהן חייבות להתערב. במדינות מסוימות בארה"ב, כמו קליפורניה, כבר מנסים לחוקק חוקים שיחייבו סימון ברור של כל תוכן שנוצר על ידי AI. זהו צעד ראשון וחשוב בדרך ליצירת רגולציה – כללים ברורים שיגנו על כולנו.

מה הלאה? האחריות בידיים שלנו

הטכנולוגיה הזו כאן כדי להישאר, והיא רק תלך ותשתכלל. אי אפשר להתעלם ממנה, אבל אפשר ללמוד להשתמש בה בחוכמה ובאחריות. האתגר הגדול ביותר הוא לא טכנולוגי, אלא חינוכי.

התפקיד של הדור שלכם הוא להיות צרכני מדיה ביקורתיים וחכמים יותר מכל דור שקדם לכם. למדו לשאול שאלות, לבדוק מקורות, ולא להאמין לכל מה שאתם רואים. לצד הסיכונים, יש כאן גם הזדמנות אדירה ליצירתיות. אמנים, יוצרי סרטים ואנשים כמוכם יוכלו לספר סיפורים בדרכים חדשות ומדהימות. בסופו של דבר, סורה היא כלי. כמו פטיש, אפשר לבנות איתו בית ואפשר גם להרוס. הבחירה, והאחריות, נמצאות בידיים שלנו.