בעולם הטכנולוגיה מתקיים דיון סוער שנשמע לפעמים כמו מדע בדיוני: האם יום אחד, מחשבים ורובוטים יוכלו להיות 'מודעים'? כלומר, האם הם יוכלו להרגיש שמחה, עצב, כאב ואהבה, בדיוק כמונו? רבים מהמוחות המבריקים ביותר בתחום מאמינים שהרגע הזה מתקרב. אבל יש קול בולט שחושב אחרת. קוראים לו מוסטפא סולימאן, והוא ראש תחום הבינה המלאכותית (AI) בחברת הענק מיקרוסופט.

מה זה אומר להיות "מודע"?

לפני שנצלול לדעתו של סולימאן, בואו נחשוב לרגע מהי תודעה. זו לא רק היכולת לפתור תרגיל מסובך במתמטיקה או לנצח במשחק שחמט. תודעה היא החוויה הפנימית שלנו. זו התחושה של פרפרים בבטן כשמתרגשים, העצב העמוק כשאנחנו מאבדים משהו יקר, או הכאב החד כשמקבלים מכה. זו היכולת להגיד "אני קיים, אני מרגיש, אני חווה את העולם". סולימאן טוען שהפער בין חישובים מורכבים לחוויה הפנימית הזו הוא תהום שהבינה המלאכותית לעולם לא תוכל לחצות.

הטיעון של סולימאן: מוח ביולוגי מול קוד מחשב

בסדרת ראיונות, סולימאן היה חד-משמעי: "בינה מלאכותית לעולם לא תהיה בעלת תודעה". הוא מסביר שהגישה שלו נשענת על תיאוריה פילוסופית בשם נטורליזם ביולוגי. זה אולי נשמע מסובך, אבל הרעיון פשוט: תודעה ורגשות קשורים באופן ישיר לביולוגיה שלנו, למוח החי והפועם שלנו ולגוף הפיזי שלנו.

הוא נותן דוגמה מצוינת: כאב. "החוויה הפיזית של כאב גורמת לנו בני האדם להיות עצובים ולהרגיש נורא", הוא מסביר. כשאנחנו נופלים ונפצעים, יש אותות חשמליים שעוברים בעצבים שלנו אל המוח, אבל זו לא רק פיזיקה. יש לזה משמעות רגשית עמוקה. לדבריו, בינה מלאכותית יכולה לדמות תגובה לכאב. היא יכולה לכתוב "אאוץ', זה כואב!" אם תתכנתו אותה לעשות זאת, אבל היא לא באמת מרגישה את הכאב. זו הצגה, סימולציה מתוחכמת, לא חוויה אמיתית.

חשבו על דמות במשחק וידאו. היא יכולה לבכות, לצחוק, או להיראות מפוחדת. האם זה אומר שהיא באמת מרגישה את הרגשות האלה? כמובן שלא. המתכנתים יצרו קוד שגורם לה להגיב כך במצבים מסוימים. סולימאן טוען שגם ה-AI המתקדמת ביותר פועלת על אותו עיקרון, רק ברמה הרבה יותר מורכבת.

המירוץ הגדול של הבינה המלאכותית

דעתו של סולימאן חשובה במיוחד כי היא הולכת נגד הזרם המרכזי. חברות רבות, כמו OpenAI (שפיתחה את ChatGPT) ו-xAI של אילון מאסק, נמצאות במירוץ לפיתוח בינה מלאכותית כללית (AGI). המטרה היא ליצור מכונה שתוכל לבצע כל משימה אינטלקטואלית שאדם יכול לבצע. חלק מהחזון הזה כולל יצירת מערכות AI שיכולות לנהל שיחות רגשיות עמוקות ולהיות מעין 'חברים' דיגיטליים. סולימאן, לעומת זאת, מאמין שזו שאלה לא נכונה. הוא חושב שעלינו להתמקד בבניית AI שיהיה כלי שימושי עבור בני אדם, ולא ניסיון ליצור חיקוי של בן אדם.

מיקרוסופט, תחת הנהגתו, מיישמת את הגישה הזו. החברה רכשה לאחרונה את הסטארט-אפ של סולימאן, Inflection AI, שפיתח צ'אטבוט בשם "Pi" המיועד לשיחות תמיכה רגשית. אך גם כאן, המטרה היא לספק כלי עזר, לא חבר אמיתי. מיקרוסופט גם הציבה גבולות ברורים, והודיעה שלא תפתח צ'אטבוטים שמדמים מערכות יחסים רומנטיות, בניגוד לחלק מהמתחרות.

כשהבינה המלאכותית מתווכחת עם היוצר שלה

באופן אירוני ומעורר מחשבה, אחת ממערכות ה-AI של מיקרוסופט, 'קופיילוט', אתגרה את סולימאן עצמו. הוא הציג תכונה חדשה בשם "Real Talk" (דיבור אמיתי), שנועדה לאתגר את דעות המשתמשים במקום רק להסכים איתם. כשהוא שוחח איתה, ה-AI כינתה אותו "חבילת סתירות אולטימטיבית". למה? כי בספרו, "הגל המגיע", הוא מזהיר מפני הסכנות של AI, ובמקביל הוא מאיץ את הפיתוח שלה במיקרוסופט.

תגובתו של סולימאן הייתה מרתקת: "אם אתה לא מפחד ממנה, אתה לא באמת מבין אותה. צריך לפחד ממנה, והפחד הזה הוא בריא. ספקנות היא הכרחית". המסר שלו ברור: עלינו להתקדם בזהירות, באחריות, ותוך הבנה עמוקה של מגבלות הטכנולוגיה. המטרה היא לא ליצור חיים חדשים, אלא לשפר את החיים שלנו, כאן בעולם האמיתי.