Tesla FSD v14: Машина резко свернула и без видимой причины попыталась столкнуть меня в кювет.

Система полного автономного вождения Tesla версии 14.3.6 попыталась съехать с шоссе, которое моя машина уже проехала, на скорости 110 км/ч (68 миль/ч) и чуть не столкнула нас прямо в кювет.

Я был готов взять управление автомобилем в свои руки, и я это сделал, но ситуация была ужасающей. Мой друг, сидевший на пассажирском сиденье, закричал от страха.

Что показывает видеорегистратор

Этот инцидент произошёл в воскресенье вечером на автостраде 55 в регионе Мориси в Квебеке, когда работала система FSD (Supervised) v14.3.6 — новейшая и лучшая версия системы FSD от Tesla на новейшем оборудовании.

Автомобиль двигался со скоростью 110 км/ч по правой полосе. Дорожное покрытие было сухим, движения в обоих направлениях отсутствовали, дорожная разметка была современной и четкой, а дорожные знаки — светоотражающими. Условия были идеальными для системы автономного вождения. Когда мы проезжали под эстакадой на съезде 217, включился правый указатель поворота, и автомобиль начал вилять к обочине, в то время как на экране все еще отображалось сообщение «Автопилотирование».

Проблема заключалась в том, что склон уже начал расходиться позади нас. Поворот на такой скорости в последний момент вытолкнул бы нас прямо в яму.

Пока автомобиль выполнял маневр, показания скорости упали до 110, 109, 107 и 104. В этот момент я вцепился в руль. Слова «Автопилот» исчезли с экрана на отметке 102 км/ч.

Это не было простое колебание положения на трассе или минутное замешательство. Машина решила включить поворотник и съехать с дороги, с которой ей не следовало съезжать.

Это были идеальные условия для системы FSD.

Если бы вы разрабатывали максимально простой сценарий для Tesla, то это был бы именно он.

Разделенная автомагистраль. Ночью встречные фары и светоотражатели легко различимы. Отсутствие пробок, не требующих анализа. Четкая разметка полос. Большие, хорошо освещенные знаки.

Судя по всему, что я видел в версии 14, езда по автомагистралям ночью и по пустым дорогам — это лучшая функция системы . Я проехал таким образом тысячи километров, ни разу ничего не меняя. Вот почему я так уверен. И эта уверенность — вся ловушка.

Об этой конкретной опасности я писал в июне.

Два с половиной месяца назад я опубликовал статью, в которой утверждал, что система FSD v14 настолько хороша, что это внушило мне опасную самоуверенность. Тогда я написал, что «система, которая работает почти идеально, создает ловушку — водители доверяют ей настолько, что перестают обращать на нее внимание, но она все равно неожиданно и порой критически дает сбои».

Я подтверждаю каждое сказанное мной слово, и вечер воскресенья это доказал. Проехать несколько тысяч миль между критически важными вмешательствами — это поистине впечатляющее инженерное достижение. Но это также тот интервал, который учит ваш мозг перестать сканировать и сосредоточиться, заставляя вас дважды подумать, прежде чем покупать Tesla.

В примечаниях к выпуску версии 14.3.6 компании Tesla указано, что она «разработала этап обучения с подкреплением (RL) для тренировки нейронной сети системы FSD», переписала интерпретатор ИИ с использованием MLIR для достижения «на 20% более быстрого времени отклика» и улучшила реакцию автомобиля на ухудшение работы системы, «уменьшив количество случаев ненужного отключения водителя». Количество случаев отключения водителя уменьшается по мере улучшения программного обеспечения, а также по мере того, как водитель перестает вмешиваться. Tesla не предоставляет никакой информации, которая позволила бы посторонним различить эти два фактора.

Имеющиеся в открытом доступе данные не внушают оптимизма. Tesla сообщила NHTSA о рекордном количестве аварий с участием автопилота и системы FSD (Full-Side Driving — автономное вождение) — 207 за один месяц, при этом в 99.9% из 3,763 отчетов об авариях с участием систем помощи водителю, поступивших с 2019 года, эта информация была скрыта. Маск продолжает убеждать инвесторов, что система FSD без участия водителя будет широко внедрена в США к концу года, в то время как со-генеральный директор Waymo продолжает объяснять, почему автономное вождение только с использованием камер не соответствует требованиям, предъявляемым к по-настоящему автономной системе вождения.

Мнение DzTecnium

Один инцидент, который едва не произошел, — это всего лишь история, а не данные, но я думаю, это важное напоминание о необходимости сохранять бдительность.

Как я уже неоднократно упоминал, система FSD v14 от Tesla — действительно впечатляющий продукт. Однако она не дотягивает до того, чем FSD изначально позиционировалась: автономного вождения без участия водителя. Она далека от этого, и, возможно, никогда не достигнет. Это останется проблемой и, вероятно, худшей ошибкой, которую когда-либо совершила Tesla.

Но если отбросить это в сторону и рассматривать FSD как систему помощи водителю, работающую по принципу "точка-точка", то это действительно потрясающе.

Однако эта ослепительная демонстрация порождает самоуспокоение (безразличие). Tesla этому не способствует, особенно заявления генерального директора Илона Маска, например: «Теперь вы можете смотреть на свой телефон, пока им пользуетесь».

Это явно безрассудно. По мере совершенствования системы Tesla необходимо лучше убеждать водителей обращать внимание на эту проблему самоуспокоенности, а не наоборот.