Бях първият журналист, който тества „Автопилота“ на Tesla преди пускането му на пазара преди повече от десетилетие. Оттогава съм тествал всяка версия на „Автопилота“ и на „Full Self-Driving“. FSD v14 е безспорно най-впечатляващата версия — и точно това я прави най-опасната.
Опасността не е в това, че FSD v14 е лоша. Опасността е, че тя е толкова добра, че може да ви накара да спрете да обръщате внимание – а Tesla не прави достатъчно, за да предотврати самодоволството.
Всъщност бих казал, че с маркетинга си компанията активно насърчава самодоволството.
Десетилетие на напредък – и десетилетие на внимание
През последните 10 години съм коригирал Autopilot и FSD, за да ги измъкна от опасни ситуации, повече пъти, отколкото мога да преброя. Наблюдавах как системата се развива от основна помощ за поддържане на лентата, която се нуждаеше от постоянна намеса, в нещо, което наистина може да се ориентира в сложни градски условия. През цялото това време проповядвах едно и също послание на този сайт: FSD е система за подпомагане на водача от ниво 2, а водачът носи отговорност по всяко време.
Винаги съм го помнил. Винаги съм обръщал внимание.
Но ежедневното шофиране с FSD v14 през последните няколко седмици промени нещо. Системата достига наистина впечатляващо ниво. Сега често пътувам стотици километри, без да се налага да се намесвам. Когато правиш това достатъчно пъти, става все по-трудно да не се поддадеш на самодоволството.
Дори аз, човек, който проповядва предпазливост по тази тема от повече от десетилетие, забелязвам, че ставам все по-самодоволен. И това не ми харесва.
Това е проблемът с „ирониите на автоматизацията“, за който изследователите предупреждават от 80-те години насам: една ненадеждна система те държи нащрек, защото се проваля достатъчно често, за да изисква вниманието ти. Една перфектна система не се нуждае от надзор. Но една система, която работи почти перфектно, създава капан – шофьорите й се доверяват достатъчно, за да спрат да обръщат внимание, но тя все пак се проваля непредсказуемо и понякога критично.
Данните започват да потвърждават проблема
Сега получаваме данни, които сочат, че FSD v14 може да измине няколко хиляди мили между критични интервенции. Това звучи впечатляващо – и наистина е така. Но помислете какво означава това за бдителността на шофьора.
Ако шофирате 2000 мили, без да се налага да се намесвате, това са приблизително 30–40 часа шофиране, през които системата се справя с всичко. Човешката психология просто не е създадена да остава бдителна през цялото това време. Психолозите го наричат „намаляване на бдителността“ – наблюдението на почти перфектна система е скучно, скуката води до разсейване, а проучванията показват, че шофьорите се нуждаят от 5 до 8 секунди, за да се фокусират отново, след като автоматизираната система им върне контрола.
Когато настъпи този критичен момент за намеса – внезапно препятствие, объркващо кръстовище, строителна зона, която FSD не разбира – ако не обръщате внимание през тези няколко секунди, това може да бъде изключително опасно. Дори ако FSD v14 е 3 пъти по-добра от предишните версии, един момент на невнимание в неподходящ момент може да бъде фатален.
Видяхме това да се случва драматично, когато Рафи Крикориан, бившият ръководител на отдела за автономно шофиране на Uber, катастрофира с Tesla Model X, докато използваше FSD. Тук става дума за човек, който буквално е изкарвал прехраната си с разработването на системи за автономно шофиране – и все пак почти перфектното представяне на FSD го е успокоило с фалшиво чувство за сигурност. Когато системата внезапно загуби ориентация в завой, той не успя да реагира навреме. Колата беше напълно унищожена.
Ако самодоволството от автоматизацията може да подведе бившия ръководител на програмата за автономно шофиране на Uber, то може да подведе всеки.
Институтът за безопасност по пътищата предупреди, че производителите на автомобили трябва да преосмислят фундаментално дизайна на системите от ниво 2, за да се предпазят от точно този проблем. NHTSA разшири изискванията за докладване на катастрофи за ADAS от ниво 2. А Reuters наскоро установи, че самите AI треньори на Tesla не вярват на системата – седем от девет бивши етикетиращи данни заявиха, че не биха се доверили на FSD да ги кара.
Маркетингът на Tesla влошава проблема
Силно вярвам, че Tesla не прави достатъчно, за да се справи с този проблем на самодоволство. Всъщност компанията активно го влошава.
Официалните профили на Tesla в X провеждат продължителна кампания, която представя FSD като нещо, което кара вместо вас — а не като нещо, което вие контролирате. Ето какво публикуват Tesla и Илон Мъск:
Казват ви, че това „ви връща времето“ и „свободата“:
Tesla публикува, че „FSD Supervised може да ви върне свободата“ и „премахва стреса от шофирането, за да можете да се наслаждавате на пътуванията“. Компанията го нарече „вашият личен шофьор“. Мъск заяви, че „автономното шофиране на Tesla значително подобрява качеството ви на живот и безопасността ви през хилядите часове, които прекарвате в колата“.
Всяка една от тези публикации казва на шофьорите: отпуснете се, колата се справя. Това е точно обратното на това, което трябва да казвате на хората, които използват система от ниво 2.
Промотиране на FSD пред хора, които не могат винаги да го контролират:
Тук нещата стават наистина безотговорни. Официалният акаунт на Tesla промотира 71-годишен човек със слабо зрение, който си купува Cybertruck заради FSD, отговаряйки с „Свобода“. Те споделиха историята на 93-годишна жена, която използва FSD, за да отиде до църквата, защото може да „шофира без страха или умората, които естествено идват с възрастта“. Те разгласиха историята на мъж, роден без ръце, който нарича FSD „достъпност, променяща живота“. Публикуваха, че FSD „ще ни помогне да останем независими, когато остареем и вече не сме в състояние да шофираме сами“.
Мисля, че автоматизираното шофиране ще има невероятно влияние върху живота на хората с увреждания, но въпреки името си, това не е „Full Self-Driving“ на Tesla. Това е система за подпомагане на водача от ниво 2.
Система от ниво 2 изисква напълно способен шофьор, готов да поеме контрола във всеки момент. Това противоречи пряко на профила на всеки човек, когото Tesla продължава да избира да изтъква. Както написах още през март, тези туитове в крайна сметка ще се превърнат в доказателство в съдебен процес за катастрофа с Tesla FSD. Адвокатът на ищеца ще ги покаже и ще каже: „Официалният акаунт на Tesla популяризира отзив от купувач с увредено зрение, който е закупил автомобила именно защото е вярвал, че FSD може да шофира вместо него — а Tesla е разпространила това послание до милиони хора.“
Казване на шофьорите, че могат да пишат съобщения, докато карат:
Мъск беше попитан дали FSD позволява изпращане на съобщения по време на шофиране и отговори: „В зависимост от контекста на околния трафик, да.“ Изпращането на съобщения по време на шофиране е незаконно в почти всички 50 щата. Самите условия на Tesla все още изискват пълен контрол от страна на водача.
Наричане на колата „съзнателна“:
Мъск публикува, че „с версия V14.3 колата ви ще ви се струва, че е съзнателна“. Това не е техническо твърдение — това е психологически подтик, предназначен да накара шофьорите да антропоморфизират системата и да й се доверяват повече, отколкото би трябвало.
Мнението на Electrek
Аз отразявам Autopilot и FSD на Tesla по-дълго от всеки друг. Още през октомври 2024 г. написах, че FSD става все по-опасно, колкото по-добро става. Сега, година и половина по-късно, системата е значително по-способна – а проблемът с самодоволството е значително по-сериозен.
FSD v14 е наистина впечатляваща технология. Аз я използвам всеки ден. Но колкото по-добра става, без да достига истинска автономност, и с Tesla, която поема отговорността за нея, толкова по-опасна става разликата между това, което шофьорите вярват, че системата може да направи, и това, което тя действително може да направи във всяка ситуация.
Tesla има два избора. Може да продължи да отпуска контрола върху шофьора, да публикува серии от „нулеви интервенции“, да казва на слепите хора, че FSD им дава „свобода“, и да насърчава шофьорите да пишат съобщения – и всичко това, докато в дребния шрифт все още пише „Ниво 2, шофьорът носи отговорност по всяко време“. Или може да вземе на сериозно проблема с самодоволството: да засили мониторинга на водача, да спре да рекламира FSD като заместител на внимателния водач и да бъде честен с клиентите относно реалните ограничения на системата.
В момента Tesla избира първия път. И това трябва да тревожи всеки, който кара по обществени пътища – независимо дали притежава Tesla или не. Защото когато самонадеян шофьор с FSD пропусне тази една критична намеса на всеки 2000 мили, човекът, когото удари, не се е записал за бета теста на Tesla.
Ако сте собственик на Tesla и искате да намалите общите си разходи за шофиране, захранването на вашия електромобил с домашна слънчева енергия е едно от най-умните решения, които можете да вземете. С цените на електроенергията, които се покачиха с почти 10% миналата година, домашната слънчева енергия ви предпазва от бъдещи увеличения на тарифите. А с опциите за лизинг и PPA можете да преминете към слънчева енергия без начални разходи и да започнете да спестявате веднага. Ако искате да намерите най-добрата оферта, разгледайте EnergySage. Това е безплатна услуга с стотици предварително проверени инсталатори, които се състезават за вашия бизнес, така че спестявате 20 до 30% в сравнение с това да действате самостоятелно. Няма продажбени обаждания, докато не изберете инсталатор. Получете безплатни оферти тук.
