האתיקה של המכונית האוטונומית

דמיינו את הסיטואציה הבאה: אתם יושבים במושב האחורי, הרגליים למעלה, ואתם שקועים בספר טוב או בשיחה ערה בטלפון, בזמן שרכב אוטונומי מסיע אתכם ליעד בבטחה. פתאום, ללא התראה מוקדמת, ילד קופץ לכביש לרדוף אחרי כדור. הרכב מחשב את הנתונים בשבריר שנייה ומבין שאין לו מרחק עצירה מספק. האפשרויות הן אכזריות: לפגוע בילד ולהציל אתכם, או לסטות חזק ימינה לתוך קיר בטון, מה שעלול להוביל לפגיעה קטלנית בכם, הנוסעים. זוהי אינה סצנה מסרט מדע בדיוני, אלא הדילמה המוסרית הבוערת ביותר שעומדת בפני מפתחי הרכב העתידי. האם תוכנה יכולה לקבל החלטות של חיים ומוות? וחשוב מכך, לפי איזה מצפן מוסרי היא תפעל? במאמר זה נצלול לעומק השאלות הקשות שמעורר רכב אוטונומי, נבחן את האתגרים הטכנולוגיים והמשפטיים, וננסה להבין איך ייראה המוסר שלנו כשההגה יעבור לידיים של אלגוריתם. 

הדילמה של הקרונית גרסת 2024

 
השאלה שפתחנו איתה ידועה בפילוסופיה בשם "בעיית הקרונית". בגרסה הקלאסית, אדם עומד ליד מסילה וצריך להחליט האם להסיט קרונית דוהרת למסילה צדדית ולהרוג אדם אחד, או לא לעשות דבר ולהניח לה להרוג חמישה אנשים. כאשר אנחנו מדברים על רכב אוטונומי, הבעיה הזו הופכת מתיאורטית למעשית ולכואבת במיוחד. בניגוד לבני אדם, שפועלים במצבי קיצון מתוך אינסטינקט והישרדות, מערכת ממוחשבת פועלת על פי קוד שנכתב מראש. המשמעות היא שמישהו, איפשהו, צריך לשבת במשרד ממוזג ולהחליט את מי המכונית תעדיף להציל במקרה של תאונה בלתי נמנעת.

האם ראוי לתכנת את הרכב להגן על בעליו בכל מחיר? רוב האנשים שישאלו אותם באופן תיאורטי יגידו שהרכב צריך למזער את מספר הנפגעים הכולל, גם אם זה אומר לסכן את הנוסעים. אולם, כשאותם אנשים נשאלים האם הם יקנו רכב שתוכנת להקריב אותם כדי להציל הולך רגל, התשובה משתנה באופן חד משמעי. הפער הזה בין המוסר הציבורי לבין האינטרס האישי הוא אבן הנגף הגדולה ביותר באימוץ הטכנולוגיה.

הפרדוקס המוסרי הגדול הוא שאנחנו רוצים לחיות בעולם שבו מכוניות מצילות את המספר הרב ביותר של אנשים, אבל אנחנו רוצים לנסוע במכונית שתשמור עלינו באופן אישי בכל מחיר. 

מי אחראי כשהתוכנה טועה?

אחת הסוגיות המורכבות ביותר היא שאלת האחריות המשפטית והביטוחית. כיום, אם נהג עושה תאונה, האשמה (והאחריות הביטוחית) מוטלת עליו. אבל מה קורה כשהנהג הוא בכלל תוכנת מחשב? אם רכב אוטונומי פוגע ברכוש או בנפש בגלל החלטה שגויה של האלגוריתם, את מי תובעים? את יצרנית הרכב? את חברת התוכנה שכתבה את הקוד? או אולי את בעל הרכב שלא עדכן גרסה בזמן? הדילמות הגורליות והמוסריות שמעוררת המכונית האוטונומית מעסיקות משפטנים וחברות ביטוח בכל העולם, שכן המודלים הקיימים פשוט אינם מתאימים למציאות החדשה.

האתגר התרבותי: האם רכב יכול לנהוג כמו ישראלי?

 
נהיגה היא פעולה חברתית לא פחות מאשר טכנית. היא דורשת הבנה של ניואנסים, קשר עין עם נהגים אחרים, ולעיתים גם "חוקים לא כתובים" שמשתנים ממדינה למדינה. רכב אוטונומי שמתוכנת לציית לכל החוקים בגרמניה, עלול למצוא את עצמו משותק לחלוטין בצומת סואן בתל אביב או במומביי. האם המערכת צריכה ללמוד להיות אגרסיבית כדי להשתלב בתנועה? ואם כן, איפה עובר הגבול בין אסרטיביות לבין סיכון?

כדי להבין את המורכבות, חשבו על האופן שבו בני אדם מקבלים החלטות. אנו מושפעים מאינספור גורמים, ולעיתים קרובות מפעילים שיקול דעת שחורג מהכללים היבשים. כדי להבין לעומק את הפער בין חשיבה אנושית לחשיבה מכנית, מומלץ לקרוא על הטיות קוגניטיביות בקבלת החלטות, שכן הן משפיעות גם על האופן שבו אנחנו תופסים את הסכנות בכביש וגם על הציפיות שלנו מהמכונה.

פרמטר	נהג אנושי	רכב אוטונומי
זמן תגובה	איטי יחסית (כ-0.7 שניות בממוצע) ומושפע מעייפות	מיידי (אלפיות השנייה), ללא השפעת עייפות או אלכוהול
קבלת החלטות מוסרית	אינטואיטיבית, מבוססת רגש והישרדות	מבוססת לוגיקה קרה וכללים שהוגדרו מראש
שדה ראייה	מוגבל למה שהעין רואה ומראות משקפות	360 מעלות באמצעות חיישנים, מכ"ם ומצלמות
ציות לחוק	גמיש (נוטה לחרוג מהמהירות המותרת)	מוחלט (אלא אם תוכנת אחרת למצבי חירום)

האם המכונה יכולה ללמוד להיות מוסרית?

השאלה הגדולה היא לא רק טכנית, אלא פילוסופית-יישומית. תחום הבינה המלאכותית מנסה לגשר על הפער הזה באמצעות "למידת מכונה". במקום לתכנת כל חוק וכל תרחיש אפשרי, המערכות לומדות ממיליוני קילומטרים של נסיעה ומנסות לחקות התנהגות אנושית "טובה". זהו תהליך מרתק שקשור ישירות להבדלים בין למידת מכונה לעומת למידת עמוקה. אולם, החיקוי הזה טומן בחובו סכנה: אם המערכת לומדת מבני אדם, היא עלולה לאמץ גם את ההרגלים הרעים שלנו, או לפתח דפוסים בלתי צפויים שקשה להסביר אותם לאחר מעשה.

 

💡חשוב לדעת💡 כיום, רוב הרכבים הנמכרים עם מערכות עזר לנהג (כמו שמירת נתיב ובלימה אוטונומית) מוגדרים כרמה 2 מתוך 5 של אוטונומיה. המשמעות היא שהנהג חייב להישאר ערני ועם ידיים על ההגה בכל עת. אל תתנו לשמות שיווקיים כמו "טייס אוטומטי" להטעות אתכם – האחריות היא עדיין שלכם במאה אחוז.

 

היתרונות והסכנות: לא הכל שחור ולבן

 
למרות כל החששות והדילמות האתיות, אסור לשכוח את התמונה הגדולה. הגורם האנושי הוא הסיבה המרכזית לתאונות דרכים בעולם. נהיגה תחת השפעת אלכוהול, שליחת הודעות בטלפון, עייפות ועצבים – כל אלו נעלמים כשמחשב נוהג. הפוטנציאל להצלת חיים הוא אדיר. השאלה היא האם אנחנו מוכנים לקבל עולם שבו תאונות קורות בגלל "באג" ולא בגלל טעות אנוש. המעבר לתחבורה אוטונומית צפוי לשנות לא רק את הכבישים שלנו, אלא את מבנה הערים ואת שוק העבודה כולו.

הנה כמה מהיתרונות הבולטים שצפויים לנו:

• בטיחות מוגברת: צמצום דרסטי של תאונות דרכים הנגרמות מטעויות אנוש.
• יעילות תנועה: זרימת תנועה חלקה יותר, פחות פקקים וחיסכון בדלק.
• נגישות: מתן עצמאות לאוכלוסיות שאינן יכולות לנהוג, כמו קשישים ובעלי מוגבלויות.
• זמן פנוי: הפיכת זמן הנהיגה לזמן עבודה או פנאי עבור הנוסעים.

רשימה זו ממחישה עד כמה השינוי הזה יכול להיות חיובי, בתנאי שנצליח להתגבר על המכשולים שבדרך.

האתגרים שבדרך ליישום מלא

כדי להגיע לשם, עלינו לצלוח מספר משוכות משמעותיות שאינן רק טכנולוגיות:

1. אבטחת סייבר: החשש שהאקרים ישתלטו על ציי רכב ויהפכו אותם לכלי נשק.
2. תשתית: הצורך בכבישים חכמים ובתקשורת רציפה בין כלי רכב לתשתיות.
3. אתיקה ורגולציה: קביעת סטנדרטים עולמיים למוסר של מכונות, נושא שעדיין נמצא בחיתוליו.
4. אמון הציבור: היכולת לשכנע אנשים להפקיד את חייהם בידי מכונה.

כל אחד מהאתגרים הללו דורש שילוב זרועות בין ממשלות, חברות טכנולוגיה והציבור הרחב כדי לייצר סביבה בטוחה ואמינה.

למרות ההתקדמות הטכנולוגית המטאורית, הרגולציה והחקיקה עדיין מדדות מאחור ומנסות להדביק את הקצב של המציאות המשתנה. 

העיר ירושלים, עם הכבישים המפותלים והנהגים הטמפרמנטיים שלה, משמשת כיום כמרכז פיתוח עולמי לבחינת היכולות הללו. חברות כמו מובילאיי בודקות את המערכות שלהן דווקא בתנאים הקשים הללו, מתוך ההבנה שאם רכב אוטונומי יכול לשרוד בירושלים, הוא כנראה יוכל לשרוד בכל מקום.

למי שרוצה לראות איך זה נראה בפועל, הסרטון הבא מדגים את ההתמודדות של הטכנולוגיה עם הכאוס הישראלי המוכר:

העתיד כבר כאן, אבל הוא מורכב

 
ככל שאנחנו מתקדמים, ברור שהטכנולוגיה לא תחכה לנו. השינויים בשוק העבודה יהיו דרמטיים גם הם, כאשר מקצועות הנהיגה המסורתיים עשויים להיעלם. זהו נושא רחב בפני עצמו, שניתן להעמיק בו במאמר על עתיד שוק העבודה בעידן ה-AI. אך מעבר לכלכלה ולנוחות, הסיפור של רכב אוטונומי הוא סיפור על המהות האנושית שלנו. הוא מאלץ אותנו להגדיר במדויק מהם הערכים שלנו ולתרגם אותם לשפת קוד בינארית.

 

⭐טיפ זהב⭐ בעתיד הקרוב, כאשר תשקלו לרכוש רכב עם יכולות אוטונומיות מתקדמות, בדקו לא רק את המפרט הטכני אלא גם את מדיניות היצרן בנושאי פרטיות ואתיקה. המידע שהרכב אוסף עליכם ועל סגנון הנהיגה שלכם הוא עצום, וחשוב להבין למי הוא שייך ומי יכול להשתמש בו.

 

בסופו של יום, המהפכה האוטונומית אינה רק שאלה של מתי נוכל להוריד את הידיים מההגה, אלא מתי נהיה מוכנים לסמוך בעיניים עצומות על המוח המלאכותי שמפעיל אותו. 

לסיכום, הכניסה של רכב אוטונומי לחיינו היא בלתי נמנעת והיא מביאה איתה בשורה גדולה של בטיחות ונוחות. אולם, היא דורשת מאיתנו לפתור שאלות מוסריות שעד היום העדפנו להשאיר עמומות. כחברה, נצטרך להחליט מהם הקווים האדומים שלנו וכיצד אנחנו רוצים שהטכנולוגיה תשרת אותנו, ולא רק תניע אותנו ממקום למקום. אנו מזמינים אתכם להמשיך ולעקוב אחרינו כאן בסיינטיפיק, להתייעץ ולקרוא עוד, כדי להישאר מעודכנים בחידושים המרתקים שמעצבים את המחר של כולנו.

שאלות ותשובות

מהי הדילמה המוסרית המרכזית של הרכב האוטונומי?

הדילמה המרכזית מכונה 'בעיית הקרונית', והיא עוסקת בשאלה כיצד על הרכב לפעול במצב חירום שבו תאונה היא בלתי נמנעת. השאלה היא את מי על הרכב להעדיף להציל: את נוסעי הרכב עצמם, או הולכי רגל שנמצאים על הכביש? זוהי בעיה שאין לה פתרון נכון אחד, והיא דורשת תכנות של ערכי מוסר לתוך מערכת ממוחשבת, דבר שמעורר מחלוקות רבות בקרב אתיקנים, יצרני רכב והציבור הרחב.

מי נושא באחריות במקרה של תאונה עם רכב אוטונומי?

נכון להיום, זוהי אחת הסוגיות המשפטיות הסבוכות ביותר שטרם נפתרה במלואה. האחריות עשויה להתחלק בין מספר גורמים: יצרנית הרכב, חברת התוכנה שפיתחה את האלגוריתם, או הבעלים של הרכב (למשל, אם לא ביצע עדכוני תוכנה נדרשים). במצבי ביניים של אוטונומיה חלקית (רמה 2 או 3), האחריות היא עדיין של הנהג האנושי שנדרש לפקח על הרכב. בעתיד, ייתכן שייווצרו מודלים ביטוחיים חדשים שבהם היצרניות ייקחו אחריות מקיפה יותר על ביצועי המערכת.

האם רכבים אוטונומיים בטוחים יותר מנהגים אנושיים?

כן, הסטטיסטיקה והמחקרים מצביעים על כך שרכבים אוטונומיים הם בעלי פוטנציאל להיות בטוחים הרבה יותר. הרוב המוחלט של תאונות הדרכים (מעל 90%) נגרם כתוצאה מהגורם האנושי: היסח דעת, עייפות, שכרות או נהיגה אגרסיבית. למערכות אוטונומיות אין את החולשות הללו; הן רואות ב-360 מעלות, זמן התגובה שלהן מהיר בהרבה משל אדם, והן אינן מתעייפות. עם זאת, הן עדיין מתמודדות עם אתגרים במצבי מזג אוויר קיצוניים או בתרחישים לא צפויים.

כיצד משפיעים הבדלי תרבות על תכנות הרכב האוטונומי?

הבדלי תרבות נהיגה הם אתגר משמעותי בפיתוח. מה שנחשב נהיגה נורמלית בהודו או בישראל עשוי להיחשב כהפרת סדר מסוכנת בשווייץ. רכב שמתוכנת להיות זהיר מדי עלול ליצור פקקים או לא להצליח להשתלב בתנועה במדינות עם תרבות נהיגה אגרסיבית יותר. לכן, המפתחים צריכים להתאים את האלגוריתמים כך שיוכלו להבין את 'השפה המקומית' של הכביש, תוך שמירה על בטיחות מקסימלית.