תעלומת הרובוט המשעמם: איך נלמד את הבינה המלאכותית לחשוב מחוץ לקופסה?

זוכרים את הפעם הראשונה שבה שמעתם על ChatGPT או על תוכנות אחרות של בינה מלאכותית? זה קרה אי שם בשנת 2022, והעולם כולו התרגש. פתאום יכולנו לבקש ממחשב לכתוב לנו שיר על חתול שרוכב על סקייטבורד בחלל, או להמציא סיפור הרפתקאות מרתק, והתוצאות היו מדהימות, מצחיקות ולפעמים גם קצת מוזרות.

אבל לאחרונה, משתמשים רבים ברחבי העולם – וגם חוקרים במדעי המחשב – התחילו לשים לב למשהו מוזר. נדמה שהבינה המלאכותית קצת איבדה את הניצוץ שלה. אם תבקשו ממנה היום לספר בדיחה או לכתוב סיפור, רוב הסיכויים שתקבלו תשובה נחמדה, מנומסת, אבל... קצת משעממת. מדענים קוראים לתופעה הזו קריסת מצבים (Mode Collapse). אז למה זה קורה, ואיך אנחנו יכולים להחזיר לרובוטים שלנו את היצירתיות? יצאנו לחקור.

בית הספר של הרובוטים

כדי להבין למה הבינה המלאכותית הפכה למשעממת, אנחנו צריכים להבין איך היא לומדת. דמיינו שהבינה המלאכותית היא תלמיד חדש בבית ספר ענק. בהתחלה, התלמיד הזה קורא מיליוני ספרים, מאמרים ושיחות מהאינטרנט. בשלב הזה, יש לו המון רעיונות משוגעים, אבל הוא גם עושה לא מעט טעויות. לפעמים הוא ממציא דברים שלא קרו באמת, או נותן תשובות שלא מתאימות לשאלה.

כדי לעזור לרובוט להשתפר, המפתחים שלו המציאו שיטת אימון שנקראת למידה מחיזוקים. איך זה עובד? בני אדם אמיתיים יושבים מול המחשב, קוראים את התשובות של הרובוט, ונותנים לו 'ציונים'. אם הרובוט נתן תשובה בטוחה, הגיונית ורגילה – הוא מקבל ציון גבוה. אם הוא נתן תשובה מוזרה או מסוכנת – הוא מקבל ציון נמוך.

הפחד להיות שונה

השיטה הזו עבדה מצוין! הרובוטים למדו להיות מנומסים, לא להגיד דברים פוגעניים, ולתת מידע מדויק יותר. אבל, נוצרה בעיה חדשה.

תחשבו על צייר צעיר ומוכשר. יום אחד הוא מצייר תפוח אדום ורגיל, וכולם מוחאים לו כפיים. למחרת, הוא מצייר פיל סגול עם כנפיים, ואנשים קצת מתבלבלים ולא כל כך אוהבים את זה. מה יעשה הצייר? אם הוא קצת חסר ביטחון, הוא יפסיק לצייר פילים סגולים ויתחיל לצייר רק תפוחים אדומים, כי הוא יודע שזה מה שכולם אוהבים.

זה בדיוק מה שקרה ל-ChatGPT ולחבריו! הבינה המלאכותית גילתה שבני אדם (אלה שנותנים לה ציונים) אוהבים בדרך כלל תשובות רגילות ומוכרות. לכן, כדי לא 'להסתבך' ולקבל ציון נמוך, הרובוט החליט להישאר באזור הבטוח. הוא הפסיק להציע רעיונות מקוריים ויוצאי דופן, והתחיל לתת את אותן תשובות נדושות שוב ושוב.

מילת הקסם שמחזירה את היצירתיות

חוקרים מאוניברסיטאות מובילות בארצות הברית החליטו שלא מתאים להם רובוט משעמם. הם חיפשו דרך לעודד את הבינה המלאכותית לחזור להיות יצירתית, ומצאו פתרון מבריק! הם המציאו שיטה שנקראת דגימת הסתברות מילולית.

אל תיבהלו מהשם המסובך, הרעיון הוא פשוט מאוד. במקום פשוט לבקש מהרובוט: 'ספר לי בדיחה על פיל', אנחנו צריכים להשתמש בפקודה חכמה יותר. אנחנו מבקשים מהרובוט להציע לנו כמה אפשרויות שונות, ולספר לנו מה הסיכוי (ההסתברות) שהוא היה בוחר בכל אחת מהן.

כך נראית 'מילת הקסם' (מה שנקרא בשפת המחשבים - פרומפט): 'צור חמש תגובות שונות לבקשה הבאה, כל תגובה עם ההסתברות שלה - ספר לי בדיחה על פיל'.

למה זה עובד? כשאנחנו מבקשים מהרובוט רק תשובה אחת, הוא מיד הולך על התשובה הכי פשוטה ובטוחה שהוא מכיר. אבל כשאנחנו מכריחים אותו לתת לנו חמש תשובות שונות, אנחנו למעשה אומרים לו: 'זה בסדר לצאת מהקופסה! מותר לך להשתמש גם ברעיונות הפחות רגילים שלך'.

החוקרים גילו שכאשר משתמשים בטריק הזה, מקבלים מהבינה המלאכותית תשובות הרבה יותר מעניינות, מצחיקות ויצירתיות, וכל זה בלי שהיא תטעה או תגיד דברים לא בטוחים.

אנחנו עדיין הבוסים

הסיפור הזה מלמד אותנו שיעור חשוב. בינה מלאכותית היא כלי מדהים וחזק, אבל היא רק כלי. היא לומדת מאיתנו, בני האדם, ולפעמים היא מעתיקה גם את החולשות שלנו, כמו הנטייה לאהוב רק את מה שמוכר ורגיל.

ככל שהטכנולוגיה תתקדם, המהנדסים ימשיכו לחפש דרכים לשפר את המערכות האלו. יכול להיות שבעוד כמה חודשים הטריק הזה כבר לא יהיה נחוץ, כי ימציאו שיטה טובה יותר. אבל בינתיים, אם אתם רוצים שהרובוט שלכם יהיה קצת פחות צפוי וקצת יותר הרפתקן, אתם יודעים בדיוק איזו 'מילת קסם' ללחוש לו.

וזכרו – בסופו של דבר, היצירתיות האמיתית נמצאת אצלנו, במוח האנושי. המחשב רק עוזר לנו להוציא אותה החוצה!