טסלה

[adamshalev]

חוזר לדוגמא שהצגתי בסרטון למעלה - הנהג השתלט על הרכב 2 שניות לפני הזמן בו היה מתנגש (או לא מתנגש) באופניים. האם הרכב היה אמור להתריע כבר? לטעמי כן. האם היה מתריע שניה לאחר מכן? אולי. וגם אם כן - האם שניה של התרעה זה מספיק?

עברתי על הדוגמא שוב כמה פעמים, הנהג התערב מאד מוקדם, כ-3-4 שניות לפני שהרכב היה מתנגש ברוכב, בהנחה שהרכב לא היה פונה הצידה כדי להתרחק מהרוכב (ראיתי עשרות רבות של סרטוני FSD והוא תמיד עוקף או עוצר ליד הולכי רגל ורוכבי אופניים), ובהנחה שהוא לא היה פשוט עוצר במקום. במרחק כזה (של זמן) אין שום סיבה לרכב להקפיץ התראת התנגשות לנהג.
הצפצוף החזק אגב היה כי הנהג חצה נתיב בלי לאותת אחרי שהוא השתלט על הרכב.

את התשובות לשאלות הללו אין לנו ובשביל שיהיו צריך להיות ניסוי מקיף של נהגים שמתערבים אך ורק בהוראות התרעה של הרכב.

זה פחות או יותר מה שקורה היום. נהג מתערב רק כשהוא מרגיש שזה נכון לעשות זאת (וקח בחשבון שלנהגים שונים סיבולת ״סיכון״ שונה). ככל שנהגים יצתרכו להתערב פחות, ככה גם תגיע למה שאתה מתאר.

בנוגע ל3

אני טוען שהוא רמה-3 היום בהגדרה, על בסיס התוצאות המדודות מהשטח. אין לי מושג מי מקבל את ההחלטה לשים חותמת רשמית של ״רמה 3״ או על בסיס איזה מידע.

לא מבין על סמך מה אתה כן טוען שהם כבר בשלב 4

לא טוען שהוא היום ברמה 4, אלא שהוא בנוי להיות רמה 4, עד כדי שהם עדיין צריכים לפתור ״שטויות״ שהרכב עושה כתוצאה מבעיות שנראות בעיקר בתכנון נסיעה, ולא במערכת הראיה.

 

[dani91]

שהרכב עושה כתוצאה מבעיות שנראות בעיקר בתכנון נסיעה, ולא במערכת הראיה.

הבעיות הקשות היום אינן בתפיסה הסטטית ואפילו לא בדינמית, אלא בקבלת החלטות.

 

[cypriano de rore]

ברתי על הדוגמא שוב כמה פעמים, הנהג התערב מאד מוקדם, כ-3-4 שניות לפני שהרכב היה מתנגש ברוכב

2 שניות בדיוק. 4:52 מתערב, 4:54 בקו האופניים.

זה פחות או יותר מה שקורה היום. נהג מתערב רק כשהוא מרגיש שזה נכון לעשות זאת

אז זה בדיוק לא מה שקורה היום. נהג צריך להתערב לא ע"פ הרגשות שלו אלא על פי התראות של הרכב בלבד. זה שלב 3.

אני טוען שהוא רמה-3 היום בהגדרה, על בסיס התוצאות המדודות מהשטח.

שוב, על בסיס מה אתה טוען את זה אם נהגים מתערבים על דעת עצמם ולא רק כשהרכב מתריע?
שלב 3 אמור לאפשר לך לשבת ברכב ולצפות בסרט ולא להסתכל על הכביש עד שנשמעת התראה. כרגע לא ראיתי ניסוי שמוכיח שלב 3.

 

[adamshalev]

עברתי על הסרטון שוב פריים פריים.
זה מעניין. מתרחשים כמה דברים במרווח של כמה עשרות מילישניות זה מזה:
- אנחנו רואים את רוכב האופניים בווידאו
- הרכב רואה את רוכב האופניים (מצייר אותו בוויזואליזציה). יתכן שהוא ראה אותו אפילו לפני, קשה להגיד כי הוויזואליזציה עושה fade-in לחפצים כשהם נכנסים לשדה ״התפיסה״ שלה.
- הרכב מתכנן לעקוף את רוכב האופניים, רואים את זה בצילום מסך ובזמן הזה.
- הנהג לוקח שליטה על הרכב (שנוסע ב-15 קמ״ש בפניה).

מזה, והעובדה שהיו כ-3-4 שניות בין לקיחת השליטה ״להתנגשות פוטנציאלית״ ועל בסיס מה שראיתי מהמון אינטראקציות אחרות של FSD עם הולכי רגל ורוכבי אופניים אני מסיק שלא היה כאן שום סיכוי לתאונה.
הדבר היחיד שה-FSD עשה לא נכון זה לפנות לנתיב הנגדי, שלא הייתה לו שום סיבה מוצדקת לעשות, זה נטו באג.

 

[adamshalev]

אז זה בדיוק לא מה שקורה היום. נהג צריך להתערב לא ע"פ הרגשות שלו אלא על פי התראות של הרכב בלבד. זה שלב 3.

שלב 3 לא אומר שאסור לך להתערב. הטענה היא שככל שנהגים שנוהגים עם FSD שלא מוגדר רגלוטורית כמה 3, יראו פחות ופחות צורך להתערב אז אתה תקבל את הניסוי שרצית, וכל זה במקביל לכך שהרכב ״לא דורס הולכי רגל״, למעשה כל פעם שהרכב עובר אינטראקציה עם הולך רגל ולא דורס אותו זה עוד נקודת דאטא לניסוי.

שוב, על בסיס מה אתה טוען את זה אם נהגים מתערבים על דעת עצמם ולא רק כשהרכב מתריע?
שלב 3 אמור לאפשר לך לשבת ברכב ולצפות בסרט ולא להסתכל על הכביש עד שנשמעת התראה. כרגע לא ראיתי ניסוי שמוכיח שלב 3.

זה שהנהגים היום שנוהגים עם FSD בטא מתערבים, לא הופך לא לרמה-3, זה רק אומר שהם מאד זהירים\חוששים, ולא רוצים לבדוק אם הרכב היה עוצר או לא, כאשר כל פרט נתון שקיים מראה שהרכב עצר, עוצר והיה עוצר. ומנגד אין נתון אחד אפילו שמראה שהוא לא היה עוצר (תאונה). רמה-3 אומרת שהרכב מסוגל לנהוג, וללא תאונות, עובדתית הוא מסוגל. כמו שהסכמנו מקודם, השאלה היא רק של החלטה, מתי והאם אתה אומר ״מעכשיו זה מוגדר רמה-3״, ומאותו רגע לנהג מותר לא להיות ב-100% מהזמן עם העיניים על הכביש (אם כי אני מאמין שמבחינת אחריות על תאונה היא עדיין תהיה על הנהג).

 

[cypriano de rore]

מזה, והעובדה שהיו כ-3-4 שניות בין לקיחת השליטה ״להתנגשות פוטנציאלית״

2 שניות. אם עברת על הסרטון פריים פריים ועדיין טוען שזה 3-4 שניות אז אין לי ממש איך להגיב לזה.
בכל אופן, אני מרגיש שהדיון מיצא את עצמו וגם חייב להגיד שאני לא מתרשם שאתה בוחן את המצב באופן ביקורתי יותר מדי. למען האמת נשמע שאתה די משוחד בנושא ומנסה להוכיח בכח שהמצב הוא כפי שאתה טוען שהוא.

 

[cypriano de rore]

שלב 3 לא אומר שאסור לך להתערב.

נכון. הוא אומר שלא תהיה תאונה במידה ותתערב רק כאשר הרכב מתריע. כל עוד לא נעשה ניסוי כזה לא ניתן להוכיח ששלב 3 עובד כשורה.

רמה-3 אומרת שהרכב מסוגל לנהוג, וללא תאונות, עובדתית הוא מסוגל.

ללא התערבות שלא בגלל התרעה.

כמו שהסכמנו מקודם, השאלה היא רק של החלטה

לא. העניין היא של מסוגלות הרכב. עניין ההחלטה היא מתי מרגישים מספיק בטוח לבדוק זאת ועובדתית כרגע הדבר הזה לא נבדק.

 

[yik - financial planner]

(אם כי אני מאמין שמבחינת אחריות על תאונה היא עדיין תהיה על הנהג)

למה? אם פטרו את הנהג להתסכל על הכביש, האחריות היא על התוכנה, לא?

 

[adamshalev]

2 שניות. אם עברת על הסרטון פריים פריים ועדיין טוען שזה 3-4 שניות אז אין לי ממש איך להגיב לזה.

הוא לוקח שליטה בסוף שניה 51, לפני שהיא מתחלפת ל-52. מתי הרכב היה מתנגש ברוכב קשה להגיד כי לא רואים אותו בפריים, אבל אחרי שעברתי על זה עוד חמש פעמים אני חושב שבאמצע שניה 54, כלומר 2.5 שניות.

אני מרגיש שהדיון מיצא את עצמו

בהחלט

חייב להגיד שאני לא מתרשם שאתה בוחן את המצב באופן ביקורתי יותר מדי

אני מנסה להבין ולהציג את העבודות. ונהנה מהדיון עצמו. לא יודע מה זה אומר ״ביקורתי יותר מדי או פחות מדי״.

למען האמת נשמע שאתה די משוחד בנושא

מאד משוחד. לונג טסלה ומקנא בכל נהגי ה-FSD בטא שאני לא יכול לנסות גם.

ומנסה להוכיח בכח שהמצב הוא כפי שאתה טוען שהוא

מבין מה אתה אומר. לא מסכים, אני די מנסה להדבק להגדרות ולעובדות, ועל בסיסן ה-FSD בגרסה הנוכחית היום מתנהג כמו מערכת רמה-3, עד כדי החלטה.

 

[adamshalev]

למה? אם פטרו את הנהג להתסכל על הכביש, האחריות היא על התוכנה, לא?

שאלה מורכבת בהרבה רמות (פוליטיקה, מוסר, כלכלה, פסיכולוגיה).
לדעתי האישית, כל עוד יש נהג מאחורי ההגה, לא תותר ברמה החוקית הסרת אחריות מהנהג. זה פשוט לא ריסק שמחוקקים יכולים לקחת על עצמם ולהתמודד עם הזעם הציבורי של רכבים עם נהג מאחורי ההגה שהורגים (לעיתים רחוקות) בני אדם והנהג פטור מאחריות.
התחיש המציאותי הוא: נהג מאחורי ההגה => אחריות של הנהג לא משנה איך תקרא למערכת האוטונומית.
ברגע שמאשרים לרכבי חסרי נהג לנסוע על הכביש, אז בוודאי שהנוסע לא יסע באחריות.

 

[cypriano de rore]

אני מנסה להבין ולהציג את העבודות

מבין מה אתה אומר. לא מסכים, אני די מנסה להדבק להגדרות ולעובדות, ועל בסיסן ה-FSD בגרסה הנוכחית היום מתנהג כמו מערכת רמה-3, עד כדי החלטה.

אז זה הדבר היחיד שאני חולק עליו. יתכן שטסלה כיום מתנהג כמו מערכת רמה-3. אין מספיק נתונים ועובדות כדי לקבוע זאת.

כך או כך, זה לא עניין של הרבה זמן...

 

[dani91]

לעניין פיצויים, זה בכלל לא משנה מי אשם בתאונת דרכים עם נפגעים, זה לפחות המצב בישראל. במשפטנית קוראים לזה "משטר אחריות מוחלטת".
אגב זעם ציבורי, אני לא רואה איך המחוקק פוטר חברות רכב מפיצוי על פשלה של המכונית..

 

[adamshalev]

בכלל, חייב להגיד שהשאלה המוסרית של ״האם לאפשר למכונה להרוג אנשים, אם החלופה של לא לאפשר היא שימותו יותר אנשים״ היא מרתקת מאד בעיני.
בהתחלה חשבתי עליה רק בהקשרים של כלי לחימה אוטונומיים (החל מ-drones ועד תותחים אוטונומיים ועוד) שהורגים אנשים כדי להציל אנשים (הן חיי חיילים, וחיי האזרחים במדינה), אבל השאלה האמיתית שנמצאת עכשיו מולנו ונוגעת לחיים של כולנו הרבה יותר היא שאלת הרכבים האוטונומיים.
הרגע הזה, פחות או יותר ״היום״ במונחים היסטוריים, הוא נקודת מפנה בציביליזציה האנושית, הנקודה שבה אנחנו מחליטים שזה בסדר שמכונות אוטונומיות לפעמים יהרגו אנשים (זאת ההחלטה הכי מוסרית שיש, מזעור סבל אנושי, אבל גם קשה מאד).
אני אולי עושה מזה over דרמה, כי בפועל כמות האנשים שימותו מזה היא טיפה של טיפה בים מסיבות המוות השונות לאנשים, אבל זה פשוט התגלמות של כל כך הרבה סיפורי מדע בדיוני ושאלות מוסר שפעם היו היפוטטיות, והיום נהיות בידיים שלנו, מילולית.

 

[adamshalev]

אגב זעם ציבורי, אני לא רואה איך המחוקק פוטר חברות רכב מפיצוי על פשלה של המכונית..

הוא לא צריך לעשות את זה.
אבל האם רכב רמה-4 (שמאפשר לך לנמנם מאחורי ההגה) פוטר את הנהג? שאלה מורכבת.

לעניין פיצויים

זה לא שאלה קשה, פיצויים קל ״לבטח״ עם פוליסת ״רכב אוטונומי״.
אחריות פלילית, כלא, זה קשה.

 

[dani91]

אחריות פלילית, כלא, זה קשה.

זו שאלה - כשאדם עובר באור אדום בשוגג והורג מישהו, הוא יכול להיכנס לכלא לשלוש שנים (הריגה ברשלנות).
מה יקרה אם זו תהיה מכונית שתטעה?

 

[adamshalev]

זו שאלה - כשאדם עובר באור אדום בשוגג והורג מישהו, הוא יכול להיכנס לכלא לשלוש שנים (הריגה ברשלנות).
מה יקרה אם זו תהיה מכונית שתטעה?

אם הוא מאחורי ההגה, אז הרי שבבירור הוא יכל למנוע את התאונה, אפילו אם הרכב האוטונומי גרם לה.
לא משנה מה רמת האוטונומיה, הוא עובדית יכל למנוע אותה.
השאלה אם לפטור אותו מאחריות או לא, צריכה להתקבע בחקיקה.

 

[Ron.B]

זאת ההחלטה הכי מוסרית שיש, מזעור סבל אנושי, אבל גם קשה מאד

וזאת רק ההתחלה, תוסיף לזה פרמטרים נוספים וכבר קשה להגיד מה הכי מוסרי וממזער סבל אנושי.
למשל האם גיל הנפגע הוא פקטור? יש אינסוף דוגמאות כאלו, אבל לדעתי הבעייתית ביותר היא אשמה- רכב נוסע, דמות קופצת לכביש לפניו במרחק שאין לרכב יכולת לעצור, תאונה בטוח תהיה, האם הרכב צריך לפגוע בהולך הרגל ה"אשם" או שהמכונית צריכה לסטות ולסכן את נוסעי הרכב שלא חטאו בכלום, האם גם כאן צריך לסכום את כמות המתים בכל אחד מהתרחישים מבלי להתחשב באשמה בכלל?

ולבסוף תוסיף לזה את העובדה שגם אם יחליטו על "תשובה נכונה" לכל הבעיות האלו, נגיד שבמאמץ עולמי יוחלט על תקן של אותה פונקציה שתקבע חיים ומוות, נראה לי דיי טבעי שייווצר שוק שחור של פריצת הלוגיקה הזאת באופן שיתעדף את חיי היושבים ברכב. איך נלחמים בזה? אולי זאת מלחמה אבודה מראש וצריך להתפשר על זה שכל רכב יגן על עצמו.

 

[dani91]

אם הוא מאחורי ההגה, אז הרי שבבירור הוא יכל למנוע את התאונה, אפילו אם הרכב האוטונומי גרם לה.

לא אם החברה אומרת לו - תהיה רגוע ותקרא ספר/תראה סרט, אין צורך שתסתכל על הכביש.

לא משנה מה רמת האוטונומיה, הוא עובדית יכל למנוע אותה.

מה זאת אומרת? ברמה 5 בכלל לא יהיו לך דוושות והגה.

 

[adamshalev]

וזאת רק ההתחלה, תוסיף לזה פרמטרים נוספים וכבר קשה להגיד מה הכי מוסרי וממזער סבל אנושי.
למשל האם גיל הנפגע הוא פקטור? יש אינסוף דוגמאות כאלו, אבל לדעתי הבעייתית ביותר היא אשמה- רכב נוסע, דמות קופצת לכביש לפניו במרחק שאין לרכב יכולת לעצור, תאונה בטוח תהיה, האם הרכב צריך לפגוע בהולך הרגל ה"אשם" או שהמכונית צריכה לסטות ולסכן את נוסעי הרכב שלא חטאו בכלום, האם גם כאן צריך לסכום את כמות המתים בכל אחד מהתרחישים מבלי להתחשב באשמה בכלל?

ולבסוף תוסיף לזה את העובדה שגם אם יחליטו על "תשובה נכונה" לכל הבעיות האלו, נגיד שבמאמץ עולמי יוחלט על תקן של אותה פונקציה שתקבע חיים ומוות, נראה לי דיי טבעי שייווצר שוק שחור של פריצת הלוגיקה הזאת באופן שיתעדף את חיי היושבים ברכב. איך נלחמים בזה? אולי זאת מלחמה אבודה מראש וצריך להתפשר על זה שכל רכב יגן על עצמו.

זה התעסקות בבעיות ״אקדמיות״ חסרות משקל בעולם האמיתי. תעיף מבט בקישור ששמתי לפני כמה הודעות על סיבות מוות בעולם.
השאלה האמיתית היא מתי מאפשרים לרכבים אוטונומיים לנסוע במקום אנשים (או מתי זה נהיה חובה, כמו חגורת בטיחות). לא שאלות של תרחיש שלא יקרה אף פעם ואם כן יקרה פעם במליון שנה.

 

[adamshalev]

מה זאת אומרת? ברמה 5 בכלל לא יהיו לך דוושות והגה.

רשמתי:

אם הוא מאחורי ההגה

לא אם החברה אומרת לו - תהיה רגוע ותקרא ספר/תראה סרט, אין צורך שתסתכל על הכביש.

החברה תשב במקומו בכלא?
כל עוד המחוקק לא קבע במפורש ״רכב עם רמת אוטונומיה X פוטר את הנהג מכל אחריות פלילית כאשר המערכת פעילה״, אז האחריות הפלילית תשאר על הנהג.