Илон Мъск заяви тази седмица, че системата за „пълно автономно шофиране“ на Tesla е толкова по-безопасна от човешките шофьори, че би могла да спаси 90% от приблизително един милион човешки живота, които се губят при автомобилни катастрофи по света всяка година — което представлява 10-кратно подобрение на безопасността.
Проблемът е, че Tesla никога не е публикувала данни, които да подкрепят нещо, дори и близко до това твърдение, а Мъск вече го използва, за да представи предварително съдебните дела, с които Tesla се сблъсква във връзка с катастрофи, причинени от FSD, като неизбежна цена на прогреса.
В публикация в X Мъск написа, че „автономното шофиране на Tesla спасява много човешки животи – статистиката е недвусмислена“, добавяйки, че дори когато Tesla подобри безопасността 10 пъти и спаси „90% от милиона човешки живота, загубени при автомобилни катастрофи всяка година, Tesla все пак ще бъде съдена за останалите 10%, които са загинали“.
Той цитира в туит вирусната анекдота за Model 3 с FSD, който се отклонява, за да избегне пешеходец, излязъл на магистралата.
Твърдението за „10 пъти по-голяма безопасност“ не съответства на данните, публикувани от Tesla
Единствените публични данни на Tesla за безопасността на FSD са тримесечният доклад за безопасността на превозните средства, който сравнява изминатите километри с включен Autopilot или FSD със средната стойност за САЩ на километри на катастрофа от NHTSA.
Това сравнение е критикувано от години от независими изследователи, защото накланя везните в полза на Tesla по най-малко три начина:
Несъответствие в типа на пътищата. Autopilot и FSD се използват предимно по магистрали, които вече са най-безопасните пътища на изминат километър. Базовият показател на NHTSA смесва магистрали с градски улици, селски пътища и паркинги, където катастрофите са много по-чести.
Несъответствие във възрастта на превозните средства. Теслата са сред най-новите автомобили по пътищата на САЩ. Новите превозни средства с модерна пасивна безопасност, AEB и системи за поддържане на лентата катастрофират по-рядко от средния 12-годишен автомобил във флота на NHTSA — със или без включен FSD.
Несъответствие в профила на шофьорите. Собствениците на Tesla са по-възрастни, по-заможни и живеят по-често в градовете в сравнение с цялото шофьорско население в САЩ – демографска група, която и без друго има по-малко катастрофи от средното.
Несъответствие в дефиницията на катастрофа. Tesla отчита катастрофа само когато се задейства въздушна възглавница или друго пиротехническо средство за задържане. Базовите данни за катастрофи на NHTSA се изготвят въз основа на катастрофи, докладвани от полицията, които включват огромен брой сблъсъци с по-ниска тежест, при които въздушната възглавница никога не се задейства. Tesla на практика сравнява „катастрофи, достатъчно тежки, за да задействат въздушна възглавница“ с „всяка катастрофа, която полицай е отбелязал“ – различни знаменатели, с голяма разлика. Изследователят по безопасност Фил Купман и други са отбелязали това като едно от най-големите изкривявания в цифрите на Tesla.
Ако се контролира някой от тези фактори, разликата в полза на Tesla като „по-безопасна от човека“ се свива. Ако се контролират и трите, независими анализи многократно са установили, че предимството на FSD по отношение на безопасността е, в най-добрия случай, недоказано.
Tesla не публикува данни за изключване на системата, данни за тежестта на катастрофите, изминати километри по тип път или знаменателя, който използва за изчисляване на собствения си процент на катастрофи. Waymo, от друга страна, публикува рецензирани сравнения за безопасност с съпоставими базови данни за шофьори-хора на същите пътища и е достатъчно прозрачна, че застрахователи като Swiss Re са направили свои собствени анализи на нейния автопарк.
Няма версия на текущите публични данни на Tesla, която да ви доведе до „10 пъти по-безопасно“, да не говорим за „спасяване на 900 000 живота годишно“. Мъск измисля цифри.
„10-те процента, които умират“ — и за какво всъщност се съди Tesla
По-разкриващата част от публикацията на Мъск е представянето на съдебните дела. Той ги представя като нещо неизбежно – Tesla спасява 90%, бива съдена от семействата на 10%, и това е просто цената за това, че прави правилното нещо.
Делата не се отнасят до това.
Tesla е съдена – а в някои случаи вече е загубила или е постигнала споразумение – за катастрофи, при които ищците твърдят, че Autopilot или FSD са допринесли активно за катастрофата. Не че системата не е успяла да спаси шофьор, който така или иначе щеше да умре, а че системата е допуснала грешка, която един разумен шофьор не би допуснал, или че маркетинговата кампания на Tesla е накарала шофьорите да се доверят на системата в ситуации, в които тя не е била способна да се справи.
Това са две много различни категории:
1. Катастрофа, която FSD не е могла да предотврати (грешка на водача, изскачащ пешеходец, друга кола, преминаваща на червено).
2. Катастрофа, причинена от FSD — или чрез грешка в възприятието или планирането, или чрез успокояване на прекалено самоуверен шофьор, който не обръща внимание на ситуация, с която системата не може да се справи.
Мъск смесва двете. Той реторично премества всяка катастрофа с FSD в първата категория, така че всеки съдебен процес да изглежда като неблагодарно семейство, което съди компанията, която се е опитала да спаси любимия им човек.
Това не е справедливо тълкуване на съдебните дела, свързани с Autopilot и FSD. В делото „Банър“ от 2023 г., споразумението със семейство Хуанг от 2024 г. и текущите дела за неправомерна смърт, свързани с катастрофи по магистралите при използване на Autopilot, основното твърдение е, че системата за подпомагане на водача на Tesla е допуснала грешка – фантомно спиране, неразпознаване на неподвижен обект, отклоняване към бариера, изключване за част от секундата преди сблъсъка – и че маркетинговата кампания на Tesla за „Full Self-Driving“ е насърчила шофьорите да разчитат на нея повече, отколкото позволяват реалните й възможности.
Можете да вярвате, че системите за подпомагане на водача на Tesla предотвратяват някои катастрофи и да вярвате, че Tesla носи юридическа и морална отговорност, когато тези системи причиняват други катастрофи. Това не са противоречащи си позиции. Аргументацията на Мъск работи само ако се преструвате, че втората категория не съществува.
От близо десетилетие отразяваме тезата на Tesla, че системата е „по-безопасна от хората“, и тя никога не е била подкрепена с данни, които биха издържали на рецензия от колеги. Компанията разполага с пробега, телеметрията и инженерния талант, за да изготви анализ на безопасността в стила на Waymo с подходящи базови линии. Тя е избрала да не го прави.
Това е избор и той е показателен. Ако FSD беше наистина 10 пъти по-безопасно от човешки шофьор на сравними пътища, Tesla щеше да публикува цифрите утре – това щеше да бъде най-ценният маркетингов актив в историята на автомобилната индустрия. Вместо това получаваме туит с измислена цифра „90% от един милион живота“ и превантивна жалба за съдебни дела.
Формулировката „10%, които умират“ е частта, която трябва да притеснява хората. Тя третира всяко семейство, което съди Tesla, като странична жертва в една утилитарна сделка, с която те никога не са се съгласявали, докато в действителност много от тези съдебни дела са за конкретни провали на конкретна система, която беше специално рекламирана като по-способна, отколкото е в действителност. Tesla не може да продава „пълно автономно шофиране“ в продължение на почти десетилетие, да събира милиарди от отложени приходи въз основа на това обещание и след това да превръща всяка катастрофа в неизбежна цена за спасяването на всички останали.
Ако Мъск иска числото 10X да означава нещо, Tesla трябва да покаже работата. Дотогава това е просто един туит.
