אם יצא לכם להשתמש בפילטר מצחיק באינסטגרם, לבקש מסירי או אלכסה לנגן שיר, או לקבל המלצה לסדרה בנטפליקס – אז כבר פגשתם בינה מלאכותית, או בקיצור AI. הטכנולוגיה הזו נמצאת סביבנו והופכת לחכמה יותר מיום ליום. לאחרונה, חברת גוגל השיקה גרסה חדשה בשם ג'מיני 3, שנחשבת לאחד הכלים החכמים ביותר שנוצרו עד היום. היא יכולה להבין טקסט, תמונות, וידאו וקול בו-זמנית, ולנהל שיחה כמעט כמו בן אדם. ההתלהבות סביב ג'מיני ודומיו פותחת דיון עולמי על השלב הבא באבולוציה של המחשבים: בינה מלאכותית כללית, או בקיצור AGI.

מה זו בכלל בינה מלאכותית כללית (AGI)?

דמיינו לרגע את הבינה המלאכותית שאתם מכירים היום בתור שחקן כדורסל מעולה. הוא מדהים במה שהוא עושה, אבל אם תבקשו ממנו לכתוב שיר או לפתור תרגיל במתמטיקה, הוא כנראה לא יצליח. ה-AI של היום הוא מומחה בתחום צר.

לעומת זאת, AGI (Artificial General Intelligence) היא כמו ספורטאי-על שמצטיין בכל ענף ספורט אפשרי, ובו זמנית הוא גם מדען טילים, אמן ופילוסוף. זוהי בינה מלאכותית תיאורטית שתהיה בעלת יכולת הבנה, למידה והתמודדות עם כל משימה אינטלקטואלית שאדם יכול לבצע, ואולי אף טוב יותר. היא לא רק תענה על שאלות, אלא תוכל לחשוב באופן יצירתי, להמציא רעיונות חדשים וללמד את עצמה דברים שהמפתחים שלה אפילו לא חשבו עליהם. הרעיון הזה, שנשמע כמו מדע בדיוני, הופך לנושא שיחה רציני מאוד בקרב המדענים והמהנדסים המובילים בעולם.

קבוצת החולמים: עתיד ורוד עם AGI

בצד אחד של המגרש נמצאים המומחים שמאמינים ש-AGI הוא המפתח לעתיד טוב יותר. אנשים כמו סם אלטמן, מנכ"ל חברת OpenAI (שיצרה את ChatGPT), ומארק צוקרברג, מנכ"ל מטא (פייסבוק), חושבים שבינה מלאכותית סופר-חכמה תוכל לעזור לנו לפתור את הבעיות הגדולות ביותר של האנושות.

תחשבו על זה: AGI יוכל לנתח כמויות אדירות של מידע רפואי ולמצוא תרופות למחלות חשוכות מרפא. הוא יוכל לפתח פתרונות יצירתיים למשבר האקלים, לתכנן ערים חכמות ויעילות יותר, ואפילו לעזור לנו לחקור את החלל העמוק. לפי החזון הזה, AGI ישחרר את בני האדם מעבודות משעממות או קשות ויאפשר לנו להתמקד ביצירתיות, במערכות יחסים ובגילויים חדשים. הם מאמינים שעם פיתוח נכון, ה-AGI יביא לתקופה של שגשוג ורווחה לכל תושבי כדור הארץ.

קבוצת הזהירים: האם אנחנו פותחים תיבת פנדורה?

בצד השני של הדיון עומדים מדענים מכובדים מאוד שמביעים דאגה עמוקה. פרופ' ג'פרי הינטון, שנחשב לאחד מ"הסנדקים של הבינה המלאכותית", וגם ההיסטוריון הישראלי המפורסם פרופ' יובל נח הררי, נמצאים בקבוצה זו. הם לא חוששים שה-AI יהפוך לרובוט רשע כמו בסרטים, אלא מודאגים מסכנה מתוחכמת יותר: איבוד שליטה.

השאלה המרכזית שהם מעלים היא "יישור" (Alignment). איך נוכל להבטיח שהמטרות של בינה סופר-חכמה יהיו תמיד "מיושרות" עם המטרות והערכים של בני האדם? מה יקרה אם AGI, במרדף שלה אחר פתרון יעיל לבעיה כלשהי (למשל, זיהום אוויר), יגיע למסקנות שיש להן השלכות שליליות עלינו, שבכלל לא התכוונו אליהן? הבעיה היא שכאשר מערכת חכמה מאיתנו בהרבה מתחילה לשפר את עצמה בקצב מסחרר, ייתכן שלא נוכל להבין את ההיגיון שלה או לעצור אותה אם נרצה. הדאגה היא לאו דווקא מכוונת זדון, אלא מחוסר יכולת שלנו לשלוט במשהו כל כך חזק.

אז מה צופן העתיד?

הדיון הזה אינו רק תיאורטי. פרויקט מחקר בשם AI2027 ניסה לבנות תרחישים אפשריים לעתיד הקרוב. בתרחיש אחד, התחרות בין מדינות וחברות לפיתוח AGI יוצאת משליטה, והטכנולוגיה מתפתחת מהר מדי, בלי מנגנוני בטיחות מספקים. בתרחיש אחר, מדינות העולם משתפות פעולה, מציבות חוקים וכללים ברורים, ומפתחות את ה-AI בזהירות, תוך וידוא שהיא נשארת כלי בשירות האנושות.

באופן מעניין, לאחרונה ישנם מומחים שטוענים שקצב ההתקדמות של ה-AI קצת הואט. ייתכן שהטכנולוגיה הגיעה למעין "תקרת זכוכית" ודרושה פריצת דרך מדעית חדשה כדי להמשיך הלאה. ההאטה הזו יכולה להיות דבר חיובי, שכן היא נותנת לחוקרים, לממשלות ולכולנו יותר זמן לחשוב על השאלות הגדולות: איזה עתיד אנחנו רוצים לבנות עם הטכנולוגיה הזו? ואיך נוודא שהיא תמיד תעבוד עבורנו ולא במקומנו?

הסיפור של AGI הוא לא רק סיפור על מחשבים וקוד, אלא סיפור על האנושות עצמה. אתם, בני ובנות הנוער של היום, תהיו אלו שיחיו בעולם שבו הטכנולוגיות הללו יהיו חלק מרכזי. לכן, חשוב להבין את הנושא, לשאול שאלות, לחשוב בביקורתיות ולהיות חלק מהשיחה על עיצוב העתיד שלנו.