הרובוט שהמציא חוק: מה קורה כשבינה מלאכותית נכנסת לבית המשפט?

דמיינו שאתם מבקשים מהעוזר הרובוטי הכי חכם בעולם לעזור לכם בשיעורי הבית בהיסטוריה. אתם שואלים אותו על מלך חשוב, והוא כותב לכם סיפור מרתק, מלא בפרטים... רק שיש בעיה קטנה: הרובוט המציא את כל הסיפור, כולל המלך עצמו! זה נשמע אולי מצחיק, אבל משהו דומה מאוד קרה לאחרונה במקום רציני מאוד: בית משפט בישראל. הסיפור שלנו לא עוסק במלך מומצא, אלא בחוק מומצא, והגיבורה הראשית שלו היא תוכנת בינה מלאכותית מפורסמת שכולנו מכירים – ChatGPT.

הכל התחיל עם סיפור די רגיל. אדם בשם אברהים מחאג'נה ביקש מהמשטרה להחזיר לו את הטלפון הנייד שלו, שהוחרם במהלך חקירה. המשטרה לא רצתה להחזיר את הטלפון, והייתה צריכה סיבה חוקית טובה כדי להסביר זאת לשופט. שתי חוקרות משטרה החליטו להיעזר בטכנולוגיה חדשנית כדי למצוא את הסיבה הזאת ופנו ל-ChatGPT.

מה זה בכלל ChatGPT ואיך הוא עובד?

כדי להבין מה השתבש, בואו נבין רגע מה זה ChatGPT. בינה מלאכותית, או AI בקיצור, היא תחום במדעי המחשב שבו מנסים ללמד מכונות לחשוב ולהתנהג כמו בני אדם. ChatGPT הוא מודל שפה גדול, שזה כמו להגיד שהוא קרא כמות עצומה של טקסטים מהאינטרנט – ספרים, מאמרים, אתרי חדשות ושיחות. הוא למד איך לחבר מילים ומשפטים בצורה שנשמעת הגיונית ואנושית.

אבל יש פה נקודה חשובה: ChatGPT לא באמת מבין מה הוא כותב. הוא מומחה גדול בלחזות מה המילה הבאה הכי מתאימה במשפט, אבל הוא לא יודע להבדיל בין אמת לשקר. לפעמים, כשהוא לא מוצא תשובה מדויקת, הוא פשוט ממציא אותה. בעולם הטכנולוגיה קוראים לזה "הזיה" (Hallucination). וזה בדיוק מה שקרה במקרה שלנו.

החוק שלא היה קיים

כשהחוקרות ביקשו מ-ChatGPT למצוא חוק שמצדיק את החזקת הטלפון, התוכנה עשתה את מה שהיא עושה הכי טוב: היא יצרה טקסט שנשמע רשמי ומשכנע. היא המציאה חוק שלם, עם שם ארוך ורציני: "חוק סדר הדין הפלילי - סמכויות אכיפה, חיפוש ותפיסה במחשב". הבעיה? חוק כזה פשוט לא קיים בספר החוקים של מדינת ישראל.

המשטרה הגישה את התשובה הזו, עם החוק המומצא, לבית המשפט. אבל עורכי הדין של מחאג'נה, תמיר קלדרון ורמי זועבי, הרגישו שמשהו לא מסתדר. הם קראו את התשובה וחשבו לעצמם: "רגע, מעולם לא שמענו על החוק הזה". הם עשו מה שכל חוקר טוב היה עושה: הם בדקו. חיפוש פשוט באינטרנט הראה שהחוק הזה לא מופיע בשום מקום. החשד שלהם התעורר, והם אמרו לשופט: "יש לנו הרגשה שהתשובה הזו נלקחה מ-ChatGPT".

תגובת השופט: "חשבתי שראיתי הכל"

בבית המשפט, האמת יצאה לאור. נציג המשטרה הודה בטעות. השופט, אהוד קפלן, היה המום. הוא כתב בהחלטתו משפט שמסכם הכל: "אם חשבתי שראיתי הכול ב-30 השנים שאני על כס השיפוט, כנראה שטעיתי". הוא הסביר כמה חמור להציג מידע לא נכון בבית משפט – מקום שאמור להתבסס רק על אמת ועובדות. הוא קבע שהמשטרה "ביזתה את עצמה" והתנהלה בצורה לא אחראית.

חשוב להבין למה זה כל כך חמור. בבית משפט, החלטות של שופטים משפיעות על החיים של אנשים. ההחלטות האלה חייבות להתבסס על חוקים אמיתיים וראיות מוצקות. הסתמכות "עיוורת" על כלי כמו ChatGPT, בלי לבדוק את המידע, היא מסוכנת ויכולה להוביל לטעויות קשות.

לומדים מהטעויות: כללים חדשים לעידן הבינה המלאכותית

הסיפור הזה לא נגמר רק בנזיפה. הוא הוביל לשינוי חשוב. בעקבות המקרה, המשטרה הבינה שהיא חייבת לקבוע כללים ברורים לשימוש בבינה מלאכותית. היא גיבשה הנחיה חדשה לכל החוקרים, שמסבירה מתי ואיך מותר להשתמש בכלים כאלה, ומדגישה את החובה לבדוק כל פיסת מידע.

יתרה מכך, הסיפור הגיע גם לגורמים המשפטיים הבכירים ביותר במדינה. הם מתבקשים כעת לחשוב על כללים לכל עובדי המדינה, לא רק לשוטרים. כולנו – עורכי דין, שופטים, רופאים, מורים ועיתונאים – מתחילים להבין שבינה מלאכותית היא כלי חזק, אבל כמו כל כלי חזק, צריך ללמוד להשתמש בו בזהירות, בחוכמה ובאחריות. הטכנולוגיה מתקדמת מהר, ועכשיו תורנו, בני האדם, ללמוד איך לשלב אותה בחיינו בצורה נכונה ובטוחה.