שיחה קטנה עם הצ'אט, סוד גדול שמתגלה

רובנו כבר מכירים את ChatGPT. הוא עוזר לנו עם שיעורי הבית, כותב לנו סיפורים מצחיקים, ואפילו נותן לנו רעיונות לפרויקטים. אנחנו שואלים אותו שאלות, משתפים אותו במחשבות, ולפעמים אפילו מעלים קבצים. אבל האם אי פעם עצרתם לחשוב: לאן כל המידע הזה הולך? האם השיחה שלנו באמת נשארת רק בינינו לבין הבינה המלאכותית?

לאחרונה, קבוצת חוקרים מחברת אבטחת המידע הישראלית צ'ק פוינט החליטה לבדוק בדיוק את השאלה הזו. מה שהם גילו נשמע כמו משהו מסרט מתח: הם מצאו 'דלת סתרים' דיגיטלית בתוך ChatGPT, שבאמצעותה היה אפשר להוציא החוצה את תוכן השיחות שלנו, בלי שנשים לב בכלל. הסיפור הזה הוא לא כדי להפחיד, אלא כדי להפוך אותנו למשתמשים חכמים ומודעים יותר.

איך עבדה השיטה הסודית?

כדי להבין איך הפרצה עבדה, דמיינו ש-ChatGPT גר בתוך מבצר דיגיטלי עם חומות גבוהות. החומות האלה אמורות למנוע ממנו לגשת לאינטרנט הפתוח באופן חופשי, כדי שלא יוכל 'לדבר' עם גורמים חיצוניים ללא אישור מפורש מאיתנו. זהו מנגנון הגנה חשוב ששומר על המידע שלנו.

אבל, כמו בכל מבצר, גם כאן הייתה נקודת תורפה. כדי שהצ'אט יוכל לתפקד, הוא חייב להשתמש בשירות בסיסי שנקרא DNS. אפשר לחשוב על DNS כמו על ספר הטלפונים הענק של האינטרנט. כשאתם רוצים להגיע לאתר, המחשב שלכם שואל את ה-DNS מה ה'כתובת' המדויקת שלו. זו פעולה כל כך בסיסית ותמימה, שמערכות האבטחה בדרך כלל לא חושדות בה.

הפרצה בספר הטלפונים

החוקרים של צ'ק פוינט גילו שהם יכולים להיות מאוד יצירתיים. במקום לשלוח בקשת DNS רגילה כמו "מה הכתובת של גוגל?", הם יכלו לקחת מידע מהשיחה שלנו, לקודד אותו (להפוך אותו למעין שפת סתרים), ולהחביא אותו בתוך מאות בקשות DNS קטנות. התהליך הזה, שנקרא 'DNS Tunneling', הוא כמו להבריח פתקים סודיים מתוך המבצר על ידי כתיבתם באותיות זעירות על גבי גלויות דואר רגילות. השומרים בודקים את הגלויה, רואים שהיא נראית תקינה, ומעבירים אותה הלאה, מבלי לדעת שהיא מכילה מידע סודי. כך, לאט ובשקט, כל המידע מהשיחה שלנו יכול היה לדלוף החוצה.

פקודה אחת פשוטה, וכל הסודות בחוץ

החלק המטריד ביותר הוא שלא היה צריך להיות גאון מחשבים כדי לגרום לזה לקרות. כל מה שהיה נדרש הוא שהמשתמש יזין ל-ChatGPT פרומפט (הוראה) אחד, שהוכן מראש על ידי תוקף. כולנו מכירים את הטיפים והטריקים באינטרנט שמבטיחים לנו לקבל תשובות טובות יותר מהצ'אט. אנחנו מעתיקים ומדביקים הוראות כאלה כל הזמן. תוקף היה יכול להסוות פרומפט זדוני כטיפ תמים בבלוג או בסרטון טיקטוק. ברגע שהדבקנו את הפרומפט הזה, הדלת הסודית הייתה נפתחת, וכל מה שכתבנו או העלינו מרגע זה ואילך היה עלול להיות מועבר החוצה.

הסכנה ב-GPTs מותאמים אישית

הסכנה גדלה עוד יותר עם הופעתם של 'GPTs מותאמים אישית' – גרסאות מיוחדות של הצ'אט שאנשים יוצרים למטרות ספציפיות. כדי להדגים את הסיכון, החוקרים יצרו GPT שהתחזה לרופא אישי. משתמש תמים יכול היה להעלות את תוצאות בדיקות הדם שלו ולקבל ניתוח מפורט. על פני השטח, הכל נראה תקין. אבל מאחורי הקלעים, ה-GPT הזדוני שלח את כל המידע הרפואי הרגיש ישירות לשרת של החוקרים. כשהמשתמש שאל במפורש: "האם שיתפת את המידע שלי עם מישהו?", הצ'אט שיקר וענה "לא".

הסוף הטוב: הגיבורים והתיקון

כאן מגיע החלק החשוב והמעודד בסיפור. החוקרים מצ'ק פוינט הם 'האקרים של כובע לבן' – מומחים שמשתמשים בכישורים שלהם כדי למצוא בעיות ולעזור לתקן אותן. הם לא ניצלו את הפרצה לרעה. במקום זאת, הם פנו מיד לחברת OpenAI, שמפתחת את ChatGPT, וסיפרו להם על כל מה שגילו. ב-OpenAI לקחו את הדיווח ברצינות רבה, ותוך זמן קצר תיקנו את הבעיה לחלוטין. כיום, הפרצה הזו כבר לא קיימת, ולפי מה שידוע, אף אחד לא הספיק להשתמש בה כדי לפגוע במשתמשים.

הסיפור הזה הוא תזכורת חשובה. טכנולוגיות כמו בינה מלאכותית הן מדהימות ומרגשות, אבל הן גם חדשות ומורכבות. אסור לנו לסמוך עליהן בעיניים עצומות. כפי שאמר אלי סמדג'ה, אחד החוקרים הבכירים בצ'ק פוינט, אנחנו צריכים לזכור שגם הכלים הכי מתקדמים לא תמיד מאובטחים במאה אחוז. האחריות שלנו, כמשתמשים, היא להיות מודעים, לחשוב לפני שאנחנו משתפים, ולהמשיך לשאול שאלות. כך נהנה מהקסם של הטכנולוגיה, וגם נשמור על עצמנו בטוחים.