אם יצא לכם לשחק במשחקי אסטרטגיה במחשב או לשמוע על מכוניות שנוהגות בעצמן, אתם כבר מכירים את הרעיון הבסיסי של אוטונומיה. זו היכולת של מכונה לפעול, לקבל החלטות ולהשלים משימות בכוחות עצמה, ללא שליטה אנושית בכל רגע ורגע. במשך שנים, הרעיון של רובוטים הפועלים לצד בני אדם במצבים ביטחוניים היה נשמע כמו מדע בדיוני, אבל כפי שמומחים מספרים בכנס טכנולוגי מיוחד, העתיד הזה כבר כאן.

מהפכה שקטה: מצעצועים טכנולוגיים לכלי עבודה חיוני

צביקה ירום, מנהל מפעל באחת החברות הביטחוניות הגדולות בישראל, מסביר שהשימוש בכלים אוטונומיים אינו חדש. "מל"טים (מטוסים ללא טייס) פועלים כבר עשרות שנים," הוא אומר. אבל האתגרים הביטחוניים האחרונים, גם בישראל וגם במקומות כמו אוקראינה, הפכו את הכלים האלה מ"נחמד שיש" ל"חייבים שיהיה". פתאום, רחפנים שאפשר לקנות בחנות ורובוטים קרקעיים מתקדמים הפכו לחלק בלתי נפרד מהפעילות.

אחד מאותם רובוטים הוא ה'פנדה', רכב קרקעי רובוטי שצבר ניסיון רב בפעילויות מבצעיות. "בהתחלה חששנו מאוד מהשילוב של כלים אוטונומיים לצד לוחמים אנושיים," מודה ירום, "אבל ראינו שזה עובד". הרובוטים האלה יכולים להיכנס למקומות מסוכנים לפני הכוחות, לסרוק את השטח, ולספק מידע קריטי – ובכך לצמצם משמעותית את הסיכון לחיי אדם. הם העיניים והאוזניים במקומות שאליהם בני אדם לא יכולים או לא צריכים להגיע.

מפקד אחד, צבא של רובוטים?

השלב הבא באבולוציה הזו נקרא 'ONE TOO MANY' (אחד ליותר מדי). תחשבו על זה כמו מפקד במשחק אסטרטגיה: במקום לשלוט בכל חייל בנפרד, אתם נותנים פקודה כללית לקבוצה שלמה, והם מבצעים אותה בצורה המתואמת ביותר. כך גם כאן: מפעיל אנושי אחד יכול לתת משימה כללית, למשל "סרוק את האזור הזה", למספר רב של כלים אוטונומיים – רחפנים באוויר ורובוטים על הקרקע – שיעבדו יחד כדי לבצע אותה.

חשוב להדגיש: המערכת החכמה אולי ממליצה על דרך הפעולה הטובה ביותר, אבל בסופו של דבר, מי שלוחץ על הכפתור ומאשר את הפעולה הוא תמיד המפעיל האנושי. העיקרון הזה, שנקרא "אדם בלולאה" (Human in the loop), הוא קריטי כדי להבטיח שהשליטה הסופית תישאר בידיים אנושיות.

אוקראינה כמעבדה עולמית

ד"ר לירן ענתבי, חוקרת בכירה במכון למחקרי ביטחון לאומי (INSS), מצביעה על המצב באוקראינה כדוגמה חיה להתפתחות הזו. לדבריה, אחד האתגרים הגדולים שם הוא שיבושי תקשורת מכוונים (לוחמה אלקטרונית). במצב כזה, כלים שנשלטים מרחוק מתקשים לפעול. הפתרון? כלים אוטונומיים יותר, שיודעים להמשיך במשימה גם אם הקשר עם המפעיל מתנתק לרגע. "זה דוחף לשימוש בכלים אוטונומיים שמפחיתים את התלות בתקשורת," היא מסבירה. גם שם, הכלים עדיין לא מחליפים בני אדם, אלא מסייעים להם והולכים לפניהם כדי לצמצם סיכונים.

השאלה הגדולה: האם רובוט יכול להיות הוגן?

כאן הסיפור נהיה מורכב יותר, ונכנס לתחום הפילוסופיה והאתיקה. פרופ' אסא כשר, פילוסוף שזכה בפרס ישראל ומייעץ בנושאי אתיקה, מציג את השאלות הקשות באמת. "אני שמח על כל מערכת שעובדת בצורה מוצלחת," הוא אומר, "אבל אני ספקן בכל הנוגע להתאמה לדין הבינלאומי".

עקרון האבחנה

פרופ' כשר מדבר על "עקרון האבחנה". זהו כלל בסיסי בדיני המלחמה שאומר שחייבים להבחין בין לוחמים לבין אזרחים שאינם מעורבים. בסביבה מורכבת, כמו עיר צפופה, ההבחנה הזו קשה מאוד אפילו לבני אדם. איך רובוט, שמבוסס על אלגוריתמים וחיישנים, יכול לעשות את ההבחנה הזו? "אם אתה מסתכל על הצורה שבה בני אדם מבחינים בין בני אדם," הוא אומר, "אתה מגיע למסקנה שאי אפשר להגיע לאוטונומיה מלאה בכל הרובדים". אדם יכול להבין שפת גוף, הקשר, או היסוס, דברים שמצלמה וחיישן יתקשו מאוד לפענח.

עקרון המידתיות

עיקרון נוסף הוא "מידתיות". כל פעולה צבאית צריכה לשקול בין התועלת הצבאית שלה לבין הנזק האפשרי לאזרחים ולרכוש. זו החלטה מורכבת שדורשת שיקול דעת אנושי, הבנה של המצב הרחב, ואפילו חמלה. האם ניתן לתכנת מכונה שתבצע שיקול דעת מוסרי כזה? לדברי פרופ' כשר, "בסופו של יום, ההכרעה היא של המפקד".

הטכנולוגיה מתקדמת בקצב מסחרר, ומציעה פתרונות שיכולים להציל חיים ולהפוך את העולם למקום בטוח יותר. אך יחד עם ההבטחה הגדולה, מגיעה אחריות גדולה עוד יותר – לוודא שהכלים החזקים האלה מופעלים תמיד בצורה אחראית, אתית, ותחת פיקוח אנושי הדוק. הדיון הזה אינו רק של מהנדסים ומפקדים, אלא של החברה כולה, כולל הדור שלכם, שיעצב את עתיד הטכנולוגיה.