מכונית ללא נהג – העמדה הסקפטית

הקדשתי כבר כמה וכמה פוסטים למכונית ללא נהג. אם וכאשר המכונית הזו תסע על הכבישים, המון דברים ישתנו. אבל האם נראה זאת קורה בימי חיינו? יש המצפים לראות מכוניות ללא נהג בשימוש מסחרי כבר במהלך חמש השנים הקרובות, ומסתמכים בעיקר על הישגיה של גוגל בתחום ועל המשאבים שמקדישות לנושא גם חברות ענק אחרות כמו אובר, טסלה ואפל.  יש גם כאלו שמפקפקים. קראתי ספר שיצא ממש לאחרונה בשם Our Robots, Ourselves. המחבר, דיוויד מינדל, הוא פרופסור לרובוטיקה ב-MIT, דהיינו אדם שיש לו הרבה מה להגיד על רובוטים ואוטומציה, והוא מאוד סקפטי באשר לאפשרות להעלות על הכביש מכוניות הפועלות באוטומציה מלאה.

הספר מתחיל בתיאור התרסקות טיסה 447 של אייר פרנס מריו דה ז'נירו לפריז ביוני 2009 ומאמצי החיפוש בים. התרסקות זאת מגלמת את הרע בעידן הרובוטיקה. תקשורת אדם-מכונה לקויה הובילה להתרסקות – המטוס עבר בפתאומיות ממצב טייס אוטומטי להנחייה ידנית, וטייס המשנה הצעיר התבלבל לחלוטין בתגובתו. האסון מגלם גם את הטוב שברובוטיקה: תקשורת אדם-מכונה במיטבה הובילה לחילוץ הקופסאות השחורות ממעמקי האוקיינוס באמצעות צוללות לא מאוישות ולחשיפת הסיבות מאחורי ההתרסקות.

רעיון המכונית ללא נהג מנסה להתגבר על הכשל הבסיסי שעלה בטיסה 447, הקושי של אדם לשוב ולקנות שליטה על מכונה, אחרי שהתרגל לתפעול האוטומטי שלה, על ידי כך שמסלק את האדם לחלוטין מהמושכות. אבל פרופ' מינדל סקפטי באשר לכיוון זה. כל מערכת אוטומטית קריטית צריכה לכלול מנגנון שיאפשר התמודדות עם כשלים פתאומיים ובלתי צפויים. וככל שהמערכת מורכבת יותר כך הכשלים עלולים להופיע בשכיחות גבוהה יותר. נהיגה, ובפרט בסביבה עירונית, היא עניין מורכב. הנהג צריך לנהל אינטראקציות אנושיות עדינות, המבוססות על קשר עין, לצורך מתן זכות קדימה להולכי רגל או לשם השתלבות הדרגתית בנתיבים עמוסים. גוגל ממפה בקפדנות ובפירוט עצום את נתיבי הנסיעה של המכוניות ללא נהג שלה, אבל כיצד המכונית שלה תוכל להתמודד עם שינויים פתאומיים בתנועה, כמו למשל במזג אוויר קשה? וגם אם בעיות אלו ייפתרו, קשת האפשרויות לצרות ולבעיות היא אינסופית. אין באמת אפשרות לבנות אלגוריתם שידע לתת פתרון לכל קושי.

האמונה שאפשר לתת למכונית שליטה מוחלטת בכל הנסיבות היא להערכת מינדל מיתוס שבמהלך המאה הקודמת נבחן והכזיב כליל.  הוא מכנה אותו "מיתוס ההחלפה", המיתוס שגורס כי אפשר להגיע להחלפה מלאה של יכולות האדם בידי המכונה. בצוללות במעמקי הים, באוויר ובטיסות לחלל המודל הזה ננטש לטובת מודל שמשלב בין שליטה אנושית לבין אוטומציה. גם באשר למכונית, עדיף בעיניו לעלות על מסלול האוטומציה ההדרגתית מתוך מודעות לכך שלעתים יידרש נהג אנושי, על אף הקושי הצפוי בנסיבות שבהן אדם יידרש לשוב ולקחת שליטה על מכונית כשהאוטומציה כושלת. הבעיה היא שאוטומציה הדרגתית היא דבר נחמד, אבל אין בו שמץ מהתועלת המהפכנית של המכונית ללא נהג. אם צריך אדם נוכח בכל נסיעה, אי אפשר לסמוך על המכוניות שילכו ויבואו לפי הזמנה, אי אפשר להסתמך על צי מוניות במקום על צי מכוניות פרטיות, אי אפשר לוותר על מקומות חניה, אי אפשר להירדם בנסיעה. קשה לבנות על מעבר המוני לרכב חשמלי. אחרי שהתחלנו כבר לחלום גדולות ונצורות, נפרס לנו עתיד מאכזב. אפשר לקרוא על השקפתו של מינדל, וגם לקרוא תגובות פייסבוק מרתקות שמציגות השקפה אחרת בכתבה שפורסמה על הספר באתר MIT.

אולי אפשר למצוא פשרה בין הספקנות שמשרה מינדל לבין האופטימיות של חזון המכונית ללא נהג אם נניח שהמכונית ללא נהג תהיה מחוברת למרכז בקרה מרחוק, שבו ישבו טכנאים שיוכלו להשתלט על המכונית בשעת בעיה, כפי שקורה עם מפעילי מזל"ט בצבא. מנגנוני האוטומציה הפנימיים יאפשרו למכונית לשלוט על עצמה רוב הזמן, ויותירו מעט עבודה לטכנאים בזמן שגרה, כך ניתן יהיה להגיע למצב שבו טכנאי אחד מפקח מרחוק על מספר רב של מכוניות. זה עדיין חזון יקר ומורכב לעומת החזון המתחרה של האוטומציה המוחלטת, אבל הוא יאפשר לנוסעי המכוניות להירדם בנסיעתם או למכוניות לנסוע מבלי שאדם ישהה בתוכם פיזית, ובכך יניע את גלגלי המהפכה. רעיון דומה הוצע גם לגבי מטוסים – אפשר להוציא מהם את הטייסים ולהעבירם למרכז בקרה מרוחק. כמובן, גם במכוניות וגם במטוסים האתגר הבולט ביותר למימושו של רעיון זה עלול להיות אתגר הסייבר – אם אנו נותנים אפשרות להשתלטות מרחוק, איך נוודא שבכל הנסיבות רק האנשים הנכונים יהיו אלו שישתלטו מרחוק.