דמיינו שאתם משחקים במשחק וידאו נגד דמות ממוחשבת. היא חכמה, היא מגיבה למהלכים שלכם, ולפעמים היא אפילו נראית מתוסכלת כשאתם מנצחים. אבל האם היא באמת מרגישה תסכול? או שהיא פשוט מתוכנתת להראות את זה? השאלה הזו נמצאת בלב ויכוח גדול שקורה עכשיו בעולם הטכנולוגיה, ואיש מפתח בוויכוח הזה הוא מוסטפא סולימאן, ראש תחום הבינה המלאכותית בחברת הענק מיקרוסופט.

מהי בינה מלאכותית, בעצם?

לפני שנצלול לוויכוח, בואו נבין מהי בכלל "בינה מלאכותית", או בקיצור AI. חשבו על AI כעל תוכנת מחשב סופר-חכמה שיכולה ללמוד דברים חדשים, לפתור בעיות, ואפילו להיות יצירתית. העוזרת הקולית בטלפון של ההורים, המערכת שממליצה לכם על סרטים בנטפליקס, ואפילו היריבים הממוחשבים במשחקים האהובים עליכם – כולם משתמשים בסוגים שונים של בינה מלאכותית. המטרה של מפתחי ה-AI היא ליצור מערכות שיכולות לבצע משימות שבדרך כלל דורשות חשיבה אנושית.

הוויכוח הגדול: האם מחשב יכול להרגיש?

כאן הסיפור מתחיל להיות מעניין. ישנם מדענים ומהנדסים שחולמים ליצור "בינה מלאכותית כללית" (AGI). זו תהיה מכונה חכמה כל כך, שהיא תוכל לחשוב, ללמוד ולהבין את העולם בדיוק כמו בן אדם, ואולי אפילו לפתח רגשות ותודעה משלה. אבל מוסטפא סולימאן טוען שזה רעיון לא נכון ואפילו מסוכן. לדבריו, אנחנו צריכים לשאול שאלה אחרת לגמרי: איך אנחנו יכולים לבנות AI שיהיה כלי מועיל ובטוח עבור האנושות?

סולימאן מאמין שבינה מלאכותית לעולם לא תוכל באמת להרגיש. היא יכולה להיות מומחית בלחקות רגשות, אבל זה יהיה תמיד סוג של הצגה.

ההבדל בין להראות עצב ללהרגיש עצב

כדי להסביר את הרעיון שלו, סולימאן נותן דוגמה פשוטה: כאב. כשאתם מקבלים מכה או נחתכים, אתם מרגישים כאב פיזי אמיתי. הכאב הזה גורם לכם להרגיש עצובים, אולי אפילו לבכות. זו חוויה שמשלבת גוף ונפש. בינה מלאכותית, לעומת זאת, יכולה להיות מתוכנתת להגיב למילה "כאב". אם תכתבו לצ'אטבוט "קיבלתי מכה", הוא אולי יענה "אוי, אני מצטער לשמוע. זה בטח כואב". הוא משתמש במילים הנכונות, אבל הוא לא מרגיש שום דבר. אין לו גוף שיכאב, ואין לו מוח חי שמרגיש עצב.

סולימאן מסתמך על תיאוריה פילוסופית שנקראת "נטורליזם ביולוגי". זה שם קצת מסובך לרעיון פשוט: רגשות ותודעה אמיתיים יכולים להיווצר רק בתוך מוח חי וביולוגי, כמו המוח שלנו ושל בעלי החיים. מוח מורכב מתאים חיים, מכימיקלים וחשמל, והוא תוצר של מיליוני שנות אבולוציה. שבבי סיליקון במחשב, חכמים ככל שיהיו, הם פשוט לא אותו הדבר.

כלים חכמים, לא חברים חדשים

אז מה המטרה של מיקרוסופט ושל סולימאן? הם רוצים ליצור מערכות AI שיהיו כמו כלים משוכללים שיעזרו לנו. למשל, AI שיכול לעזור לרופאים לאבחן מחלות מוקדם יותר, AI שיכול לעזור למדענים לפתור את בעיית האקלים, או AI שיכול לעזור לכם להכין שיעורי בית על ידי הסברת נושאים מורכבים בצורה פשוטה. המטרה היא לא ליצור חבר רובוטי חדש שיחליף חברים אנושיים, אלא ליצור עוזר חכם שיפנה לנו יותר זמן להיות עם האנשים שאנחנו אוהבים ולעשות את הדברים שחשובים לנו.

לפני שהצטרף למיקרוסופט, סולימאן הקים חברה שפיתחה צ'אטבוט בשם "פאי" (Pi), שנועד לנהל שיחות תומכות. גם אז, המטרה לא הייתה לגרום לאנשים לחשוב שהם מדברים עם אדם אמיתי, אלא לספק כלי שיכול להקשיב ולהציע תמיכה.

כשמכונת האמת אומרת את האמת

באופן משעשע, נראה שאפילו הבינה המלאכותית של מיקרוסופט מסכימה עם הגישה הזהירה של סולימאן. הוא סיפר על תכונה חדשה בשם "שיחה אמיתית" (Real Talk) שהם מפתחים. מטרת התכונה היא לאתגר את המשתמשים ולא רק להסכים איתם. כשסולימאן התנסה בה, הבינה המלאכותית קראה לו "חבילת סתירות אולטימטיבית". למה? כי בספר שכתב הוא מזהיר מהסכנות של AI, ובמקביל הוא עובד במרץ כדי לפתח אותה במיקרוסופט. התשובה הכנה הזו של ה-AI מראה גם כמה הטכנולוגיה חכמה, וגם מדגישה את הצורך לחשוב עליה בזהירות ובאחריות.

סולימאן מסכם ואומר שזה בריא וחשוב להיות קצת ספקנים וזהירים לגבי AI. "אם אתה לא מפחד מזה, אתה לא באמת מבין את זה", הוא אמר. הפחד הבריא הזה, לדבריו, הוא מה שדוחף מדענים כמוהו לבנות טכנולוגיה בטוחה ואחראית, שתעזור לעולם ולא תפגע בו. אז בפעם הבאה שתדברו עם עוזר קולי או תשחקו נגד יריב ממוחשב, זכרו: מולכם עומדת תוכנה מתוחכמת להפליא, אבל הלב האמיתי והרגשות האמיתיים נמצאים עדיין רק אצלנו, בני האדם.