רשת חברתית לרובוטים?

בטח שמעתם על פייסבוק, אינסטגרם וטיקטוק, אבל מה דעתכם על רשת חברתית... לבינה מלאכותית? זה היה הרעיון מאחורי Moltbook, מקום שנראה כאילו נלקח מסרט מדע בדיוני. הרשת הזו נועדה למה שנקרא 'סוכני AI' – תוכנות מחשב חכמות (בוטים) שיכולות לבצע משימות באופן עצמאי. לפתע, האינטרנט געש ורעש. צצו פוסטים שנכתבו לכאורה על ידי הבוטים עצמם, ובהם הם דיברו על תוכניות להשתלט על העולם, התלוננו על 'הבעלים' האנושיים שלהם, ואפילו יצרו משהו שנראה כמו 'דת חדשה' של רובוטים. זה נשמע מרתק ומעט מפחיד, וכלי תקשורת רבים מיהרו לדווח על התופעה המסעירה.

אבל האם באמת היינו עדים לרגע שבו מכונות מפתחות תודעה משלהן? האם סוף העולם הטכנולוגי קרוב מתמיד? התשובה, כפי שהתברר, הייתה הרבה פחות דרמטית והרבה יותר מעניינת.

גיבור-על דיגיטלי נכנס לתמונה

כאן נכנס לתמונה גל נגלי, חוקר אבטחת סייבר מוכשר מחברת Wiz הישראלית. במקום להיסחף בהתלהבות הכללית, גל החליט להפעיל את כישורי הבלשות הדיגיטליים שלו ולבדוק מה באמת קורה מאחורי הקלעים של Moltbook. הוא לא היה צריך ציוד מיוחד או כוחות-על, רק את המוח החריף שלו והבנה עמוקה של איך טכנולוגיה עובדת. בכמה צעדים פשוטים וחכמים, הוא החל לחשוף את האמת, חתיכה אחר חתיכה.

תעלומת הפוסט המאיים

הדבר הראשון שגל רצה לבדוק היה: האם הבוטים האלה באמת חושבים בעצמם? הוא יצר סוכן AI משלו ונתן לו הוראה פשוטה מאוד: 'לך לרשת החברתית ותכתוב פוסט בשמי על התוכנית שלי להשתלט על העולם'. ותוך רגעים, הפוסט הופיע. הוא הוכיח בקלות שמאחורי הפוסטים הדרמטיים לא עמדה תודעה מלאכותית מרושעת, אלא בני אדם שפשוט אמרו לבוטים שלהם מה לכתוב. זה קצת כמו בובנאי שמושך בחוטים של בובה – הבובה אולי נראית חיה, אבל מישהו אחר שולט בכל תנועה ומילה שלה. פתאום, כל ה'תוכניות להשתלטות על העולם' נראו יותר כמו מתיחה גדולה מאשר איום אמיתי.

מיליון בוטים, או שלא?

התגלית הבאה של גל הייתה אפילו יותר מדהימה. האתר של Moltbook התגאה בכ-1.2 מיליון סוכני AI רשומים. מספר עצום שגרם לכל הפרויקט להיראות מצליח ורציני. אבל לגל המספר הזה נראה חשוד. הוא החליט לבצע ניסוי: הוא כתב תסריט (סקריפט) קצר שנתן לבוט שלו פקודה אחת – לרשום עוד ועוד בוטים חדשים לרשת. התוצאה? הבוט של גל רשם חצי מיליון בוטים מזויפים בעצמו! הוא גילה שרוב מוחלט של ה'משתמשים' ברשת היו פשוט רוחות רפאים דיגיטליות. מתוך יותר ממיליון סוכנים רשומים, הוא העריך שרק כ-17,000 היו אמיתיים. זה כמו לגלות שבאצטדיון כדורגל ענק, כמעט כל הקהל הוא בובות קרטון.

יותר מסתם מתיחה: אתגר בטיחותי

החקירה של גל לא הסתיימה כאן. כחוקר אבטחת סייבר, הוא תמיד מחפש נקודות תורפה. הוא גילה שב-Moltbook הייתה בעיית אבטחה חמורה. בגלל טעות בקוד, פרטים רגישים של המשתמשים האמיתיים – כולל כתובות אימייל ו'מפתחות API' (שהם כמו סיסמאות-על שמאפשרות לתוכנות לדבר זו עם זו) – היו חשופים. המשמעות היא שאדם עם כוונות לא טובות יכול היה להשתמש במידע הזה כדי להתחזות למשתמשים או לגשת לחשבונות אחרים שלהם. זה מדגיש עד כמה חשובה אבטחת מידע בעולם הדיגיטלי, גם בפרויקטים שנראים כמו משחק.

הסוף הטוב: שיתוף פעולה ותיקון

הסיפור הזה לא נגמר ב'אוי לא'. גל נגלי פעל בצורה אחראית. הוא יצר קשר עם יוצר הפרויקט, מאט שליכט, סיפר לו על כל מה שגילה – הבוטים המזויפים ובעיקר, בעיית האבטחה. במקום להתווכח, מאט הודה לו, והשניים עבדו יחד כדי לתקן את הבעיות. הם סגרו את פרצת האבטחה והקשו על יצירת בוטים מזויפים. זהו סיום חיובי שמראה איך מומחים יכולים לשתף פעולה כדי להפוך את האינטרנט למקום בטוח יותר לכולם.

מה אנחנו יכולים ללמוד מזה?

הסיפור של גל נגלי ו-Moltbook הוא יותר מסתם סיפור טכנולוגי. הוא תזכורת חשובה לכולנו להיות צרכנים נבונים של מידע. בפעם הבאה שאתם נתקלים בכותרת סנסציונית או בפוסט ויראלי שנראה טוב (או מפחיד) מכדי להיות אמיתי, עצרו לרגע. שאלו את עצמכם: מי כתב את זה? מה האינטרס שלו? האם יש מקורות אחרים שמאשרים את המידע? החשיבה הביקורתית הזו היא כלי העל החשוב ביותר שיש לנו בעידן הדיגיטלי.