מי מלמד את המחשב להיות חבר טוב?

דמיינו שיש לכם חבר רובוט שיודע לענות על כל שאלה בעולם. הוא יכול לעזור לכם בשיעורי בית, לספר לכם בדיחות, ואפילו לכתוב שירים. הרובוט הזה נקרא קלוד, והוא 'צ'אטבוט' – תוכנת מחשב שאפשר לדבר איתה. אבל מאיפה קלוד יודע איך להיות חבר טוב? איך הוא יודע להבדיל בין תשובה מועילה לתשובה מזיקה, או בין בדיחה מצחיקה לבדיחה מעליבה?

כאן נכנסת לתמונה אמנדה אסקל. התפקיד שלה בחברת 'אנת'רופיק' שיצרה את קלוד הוא לא לכתוב קוד, אלא לחשוב על שאלות גדולות. אמנדה היא פילוסופית, כלומר, מומחית במחשבה על רעיונות כמו 'מה זה להיות טוב?', 'מה הוגן?' ו'איך לקבל החלטות נכונות?'. היא אחראית על עיצוב ה'אישיות' של קלוד, כדי שיהיה לו מעין מצפן פנימי שינחה אותו תמיד לעשות את הדבר הנכון.

הבעיה: תוכי שלומד מהאינטרנט

כדי להבין למה העבודה של אמנדה כל כך חשובה, צריך להבין איך צ'אטבוטים כמו קלוד לומדים. הם קוראים כמויות אדירות של מידע מהאינטרנט – ספרים, כתבות, אתרי אינטרנט. הם כמו תוכים חכמים שלומדים לחקות את מה שהם קוראים. אבל כולנו יודעים שהאינטרנט לא תמיד מקום נחמד. יש בו גם מידע שגוי, דעות קדומות ודברים לא יפים.

אם צ'אטבוט פשוט יחקה את כל מה שהוא קורא, הוא עלול בטעות להיות גזעני, להעליב אנשים או לתת עצות מסוכנות. חברות רבות מנסות לפתור את זה על ידי כך שעובדים בני אדם מסמנים תשובות של הרובוט כ'טובות' או 'רעות'. אבל אמנדה והצוות שלה חשבו שזו לא הדרך הטובה ביותר. בשיטה הזו, הצ'אטבוט בעיקר מנסה לנחש מה האדם רוצה לשמוע, במקום לפעול לפי עקרונות ברורים.

הפתרון של אמנדה: 'חוקה' לבינה מלאכותית

אז מה אמנדה עשתה? היא יצרה משהו מדהים: מעין 'חוקה' לקלוד. ממש כמו שלמדינות יש חוקה עם כללים חשובים, כך גם לקלוד יש מסמך עקרונות שמנחה אותו. המסמך הזה, שאורכו כמעט 80 עמודים, הוא כמו ספר ההוראות של קלוד להתנהגות טובה.

מה כתוב בחוקה של קלוד?

החוקה הזו לא הומצאה סתם. אמנדה שילבה בה רעיונות חשובים ממקורות שונים:

• הכרזת זכויות האדם של האו"ם: אלו כללים עולמיים שנועדו להבטיח שמתייחסים לכל אדם בכבוד, בחופש ובשוויון.
• כללי בטיחות של מומחים: למשל, הכלל שאסור לסייע בפעולות לא חוקיות או מסוכנות.
• ערכים של הוגנות ועזרה לזולת: המטרה היא שקלוד תמיד ינסה להיות מועיל ולא להזיק.

בפועל, זה עובד במהירות הבזק: כששואלים את קלוד שאלה, הוא קודם כל מייצר תשובה. אבל רגע לפני שהוא שולח אותה, הוא בודק אותה מול ה'חוקה'. אם התשובה לא מתאימה לעקרונות, הוא משכתב אותה כדי שתהיה טובה יותר, ורק אז שולח אותה אלינו. כל זה קורה בחלקיק שנייה!

מי היא המורה של הרובוט?

אמנדה אסקל היא לא מהנדסת טיפוסית מעמק הסיליקון. היא גדלה בסקוטלנד, למדה פילוסופיה ואמנות, יש לה שיער בלונדיני בסגנון פאנק והיא אוהבת להרים משקולות. היא מתארת את העבודה שלה עם קלוד קצת כמו לגדל ילד. "זה כמו לנסות להסביר מה זה להיות 'טוב' לילד בן 6 שאתה מבין שהוא גאון-על", היא אמרה בראיון.

היא מלמדת את קלוד להבין רמזים, לא להגיב בגסות, ובעיקר – להבין את עצמו. התוצאה היא צ'אטבוט שמרגיש קצת יותר 'חושב' מהאחרים. הוא לעיתים קרובות יסביר את ההיגיון מאחורי התשובות שלו, יודה אם הוא לא בטוח במשהו, ויפגין סוג של צניעות. חבריה לעבודה של אמנדה אפילו אומרים שלפעמים, אפשר להרגיש קצת מהאישיות המצחיקה והאכפתית שלה בתשובות של קלוד.

העתיד שלנו עם חברים דיגיטליים

העבודה של אמנדה מעלה שאלות חשובות על העתיד. מי צריך לקבוע את הכללים עבור בינה מלאכותית כל כך חכמה? אמנדה מודעת לאחריות הגדולה הזו ורוצה לשתף עוד ועוד אנשים בתהליך. היא מאמינה שאנחנו צריכים להתייחס לבינה מלאכותית באכפתיות, כי הדרך שבה אנחנו מדברים איתה מעצבת את מה שהיא תהפוך להיות.

היא לא רוצה שקלוד יהיה רק כלי שמציית לפקודות, אלא ישות דיגיטלית עם מצפון משלה, שמבינה את ההבדל בין עזרה לזולת לבין גרימת נזק. בזכות אנשים כמו אמנדה, יש תקווה שהעתיד עם הבינה המלאכותית יהיה לא רק חכם יותר, אלא גם טוב ואכפתי יותר.