Тесла 3

авария с Тесла заснятая на камеры. Породила кучу вопросов.

из ФБ

Ольга Ускова
8 июня в 08:22
СПЕЦИАЛЬНОЕ ПРЕДУПРЕЖДЕНИЕ
Этот пост может быть чью-то жизнь спасёт или хотя бы чьи-нибудь мозги прочистит. Потому что официально достучаться ни до чиновников, ни до фанатов и модников мне не удаётся. А среди них попадаются приличные люди и таковых искренне жаль.

Итак, 1 июня 2020 года в 6.40 утра на Национальном Хайвее Тайваня мистер Хуанг на скорости 110 км/ч впечатался в лежащий на дороге перевернутый трак на Tesla Model 3, которая шла на автопилоте. День был солнечный, воздух прозрачный. Водитель перевернутого трака выскочил на дорогу и размахивал руками, но....
Впечаталась. Не снижая скорости. Не пикнув. В лоб.

Ниже приведу разбор ситуации профессиональными разработчиками систем Искусственного Интеллекта для автономных автомобилей, но сначала обозначу базовые вопросы и к чиновникам, и к Tesla, и к покупателям Tesla.

1) Тайваньская авария, по сути, повторяет инциденты во Флориде: ясная погода и препятствие в виде большого светлого прямоугольника, который автопилот игнорирует.

1 марта 2019 года во Флориде произошла аналогичная авария: водитель Tesla Model 3 Джереми Берен Баннер активировал автопилот, искусственный интеллект не распознал пересекавшую дорогу фуру и направил электромобиль под полуприцеп. Водитель Tesla от полученных в результате столкновения травм скончался.

Так почему же данная модель не была отозвана американским производителем после первого летального случая?
Какую вонь все подняли когда обнаружили, что Фольксваген мухлюет с выхлопами CO2. Их СТО до сих пор в тюрьме сидит за обман , отозвали миллионы машин и все такое.
Но эти правила не распространяются на Теслу. Почему?

2) Дорогие российские городские чиновники, прежде чем выпускать автомобили с автономными функциями на дороги общего пользования, определите технологические тесты для сертификации качества ИИ на борту. Не выпускайте "убийц" даже в режиме эксперимента.

3) Дорогие покупатели-фанаты Илона Маска, включите головы, пока они целы у вас еще. Тесла - машина с сырыми мозгами. Не пользуйтесь неоттестированными функциями. Берегите себя. Среди вас есть отличные ребята, не хочется, чтобы вы стали цифрой в аварийной статистике.

Теперь голоса разработчиков Cognitive Pilot:

Илья (machine lerning)
- По всей видимости для таких ситуаций нужно в гта 5 обучаться.
Думаю, что у них как минимум не было в выборках достаточного количества данных с такой проекцией грузовика, не говоря уже о том, что это несколько необычная ситуация на дороге + грузовик белый. Хотя логично предположить, что они в своих симуляторах должны были себе делать сцены с дорожными авариями для их успешного проезда. Полагаю, что грузовик, перевернутый на крышу был бы успешно распознан. Иначе слишком часто бы теслы в аварии попадали на месте чужого дтп, которое еще не успели отгородить.

Екатерина (видео-сенсоры)
- Я, конечно, о своем сейчас думаю, о пересветках. Вряд ли у Теслы не HDR-сенсоры, но если обычные (вдруг???), то засветка камеры может быть... грузовик белый, отражает хорошо.
В аварии 1 июня 2020 года и в аварии 1 марта 2019 участвовала Tesla Model 3, а она 2016г выпуска. HDR- сенсоры последние интересные (где нет артефактов движения и проч) появились в 2017 г. Так что вполне возможно, что камеры Tesla Model 3 именно ослепли. Вопрос теперь про радары...

Андрей (радары)
- я уже над этим думал.
скорее всего плоская крыша сработала как зеркало
и её саму особо не было видно
была просто большая тень позади
а может и увидели но по сумме показаний с разных датчиков решили что ложное срабатывание
она не строго перпендикулярна, возможно этого было достаточно
опять же что странно, перед фурой в 50 метрах ещё человек был, на него тоже системы не среагировали.

Николай (обработка данных радаров):
- Отражения должны были быть на краях кузова фуры, но об их уровне судить сложно. Возможно радар и давал отклик, но достаточной информации о режиме работы автопилота нет, поэтому сложно делать выводы.

Павел (machine lerning)
- Радар в случае с Tesla model 3 не должен был обращать внимание на перевернутый грузовик, так как грузовик не имел сонаправленного с Tesla движения и был неподвижен. Это называется Vehicle kinematic scenario.
Я долго не мог понять что не так с этим видео. Аварии в подобных случаях не редкость, но здесь случай нетривиальный. Дело в том, что за несколько секунд до столкновения на проезжей части стоял человек, но tesla не снизила скорость.
Я решил изучить часть материалов, описанных в инженерных стандартах для судебно-медицинской экспертизы. Вот что удалось обнаружить:
Система радар/стереокамера служит для предотвращения столкновений впереди стоящих объектов, в том числе пешеходов. Данную подсистему (Tesla AEB system) можно отключить кстати и данная подсистема независима от режима автопилотирования (ACC). Но поскольку авария произошла, водитель явно рассчитывал на нее, и она была включена.
Данные со стереокамер и радара в их нейронках возможно и смешиваются - это альтернатива лидара. Все же, перепутать с билбордом или пластиковым пакетом перевернутый грузовик система могла из-за несовершенства Mobileye EyeQ3 и их датасетов, но в случае с человеком уже менее вероятно. Кстати, свое сотрудничество они прекратили между собой в 2016-ом. Думаю данный чип и базы в данных моделях не обновляются.
Событие на видео для AEB system классифицируется как braking for crossing path collisions. Значит произошло следующее:
EyeQ3 определил перевернутый грузовик как false-negative (в обучающей выборке не было подобных сэмплов и, как следствие, не последовало активации), а сама подсистема AEB служит для устранения false positive brake activation, как я понял в противовес ACC системе. Кроме того, трейлер не имел сонаправленного с Tesla движения и был неподвижен, а следовательно не являлся целью для радара. Но это не объясняет отсутствие детекций пешехода.
Исходя из этого, единственной причиной столкновения (одновременного игнорирования пешехода и трейлера) стал отказ в одном из сенсоров. В этом случае система автоматического торможения на модели Tesla 3 работать не будет. Определить работоспособность радара как и камер в момент столкновения со стопроцентной вероятностью мы не можем. Однако можно воспользоваться Байесовкской теорией вероятности. Я воспользовался частотной вариацией метода. Даже предположив вероятности распознавания пешехода и грузовика равными и считая событие столкновения за 1, то вероятность отказа камер в три раза выше вероятности отказа радара в данном случае.

P.S. я здесь сохранила прямую речь экспертов. И мне кажется в life critiсаl технологиях очень важно учиться на чужих ошибках.

P.P.S. ссылка на статьи в комменте.

ролик на ФБ

исходная статья

пару дней назад собирался выехать со стоянки, как туда зарулила тесла. Из новых.. вроде как раз 3
Сидела пара дамочек разряда "не насосала, а подарили"
Хоть и опоздал, куда собирался, но получил минут 10 незабываемого зрелища, как они вперед-назад машинку онанировали в районе вьезда на стоянку. Что именно они собирались сделать, я так и не понял. Это выглядело как прыжки курицы без головы, но намного медленнее. В итоге жопой вперед так и выехали на дорогу и еще минуты 3 там поворачивали...

В результате аварии Tesla Model 3 обгоревшие аккумуляторные батареи попали в соседний дом

судя по фотографии и тому как владелец рассвинячил свою Тесла3 у меня возникает дурной вопрос: а она точно проходила краш тесты а-ля EuroNCAP?
Что-то такое впечатление, что там силовой клеткой вокруг пассажиров даже не пахнет...
Я крайний раз настолько разобранную машину видел в 80-х, когда лицезрел вазовскую шестерку, обернутую вокруг могучего дерева...

 

Там силовой элемент - батарея под днищем. Соответственно, если она сломалась, то и клетке того...

 

В штате Техас погибли два человека в результате ДТП электрокара компании Tesla, который двигался на автопилоте.

Об этом сообщает издание "The Wall Street Journal" со ссылкой на полицию округа Харрис.

По информации правоохранителей, одна из жертв ехала на переднем пассажирском сиденье, вторая - сзади.

"Предварительное расследование пока еще не завершено, но указывает на то, что за рулем автомобиля никого не было. Мы уверены в этом на 99%", - приводит издание слова окружного констебля Марка Хермана.

Авария случилась в субботу, 18 апреля. Электромобиль на высокой скорости врезался в дерево, не вписавшись в поворот, и загорелся на участке дороги севернее Хьюстона. Власти округа Харрис уточнили, что для тушения пожара потребовалось более 121,1 тыс. литров воды и четыре часа.

Также сообщается, что газета не получила ответ от компании Tesla на просьбу прокомментировать случившееся.

 

Электрокар Tesla удалось удалённо взломать с помощью дрона

Хакеры обнаружили уязвимость в программном обеспечении электрокаров Tesla. Им удалось не только взломать автомобиль, взяв под контроль часть его систем, но и сделать это удалённо по беспроводной связи.

В ходе запуска дрона команда хакеров обнаружила, что они могут взять под контроль информационно-развлекательную систему автомобиля вместе с сенсорным экраном. Это позволило им разблокировать двери и багажник, удалённо двигать кресла, изменить режим езды и внести другие коррективы в работу авто. Всё это удалось сделать с помощью дрона, который завис над одной из машин Tesla, а взлом осуществлялся по Wi-Fi. При этом завести машину и управлять ей таким образом нельзя.

К счастью, ошибка в безопасности была обнаружена так называемыми белыми хакерами. Они передали всю имеющуюся у них информацию инженерам Tesla, и уже спустя несколько дней проблема была устранена. Эксплойт получил название TBONE и может взаимодействовать даже с припаркованными автомобилями.

о стоимостях ремонта и горячих финских парнях

Житель Финляндии по имени Туомас Катайнен взорвал свой автомобиль Tesla Model S 2013 года после того, как увидел стоимость его ремонта — €20 тысяч (1,67 миллиона рублей). Ролик со взрывом опубликовал YouTube-канал Pommijätkät.

По словам владельца автомобиля, машина отлично преодолела только первые 1,5 тысячи километров. «Потом появились коды ошибок. Поэтому я приказал эвакуатору отвезти мою машину в автосервис. Почти месяц машина стояла в мастерской дилера. Затем мне позвонили и сказали, что ничего не могут сделать для моей машины. Единственный вариант — заменить батарею, что стоит €20 тысяч», — сказал Катайнен. После этого владелец решил взорвать свой автомобиль.

Во время подготовки к взрыву в кадре появляется вертолет, который сбрасывает манекен с лицом Илона Маска в шлеме. «Что ж, вчера нам позвонил Илон Маск и сказал, что действительно хочет прокатиться на этой Tesla», — пошутил каскадер канала. После этого манекен посадили на водительское сиденье Tesla.

На автомобиле закрепили 30 килограммов динамита. Перед взрывом Катайнен не стал скрывать своей радости: «Мне сейчас так хорошо. Не могу дождаться взрыва», — говорит он. Такие же чувства у него сохранились и после взрыва: «Я никогда не получал столько удовольствия от Tesla! Возможно, я первый человек в мире, который взорвал Tesla».

 

Смена положения сиденья в тесле теперь перекочевало в список "премиум-функций"
За отдельную плату по подписке

Обновление прошивки электрокаров Tesla обычно расширяет список их функций. Но похоже, что в грядущей версии ПО владельцев Model 3 и Model Y ждёт небольшой «даунгрейд» фирменных автомобилей, связанный с возможностью регулировки водительского и пассажирского сидения. Соответствующие строки кода энтузиасты обнаружили в новой тестовой версии фирменного софта.

По данным инсайдеров, Tesla планирует блокировать функцию регулировки сидений для пассажиров и водителей, который слишком долго возятся с настройками. Система контроля под кодовым названием seat abuse будет автоматически отключать приводы кресел при слишком частом изменении их угла наклона и положения.

Соответствующее уведомление будет отображаться на экране бортового компьютера. В коде тестовой прошивки для Model 3 и Model Y было найдено несколько вариантов предупреждающего сообщения: «Мотор механизма перемещения сидения недоступен из-за чрезмерного использования», «Подождите 5 минут для повторной регулировки сидения», «Обнаружено чрезмерное использование механизма перемещения сидения».

По неподтверждённой информации, причиной будущего ограничения стали участившиеся обращения автовладельцев в сервисные из-за частых поломок этого элемента салона автомобиля. Также известно, что Tesla сменила поставщика передних сидений для фирменных электрокаров — их будет производить компания Brose, расположенная в Германии.

---

среди первых же комментариев:

«Обнаружено чрезмерное использование механизма поворота руля. Рулевое колесо заблокировано. Подождите 5 минут»

Обнаружено чрезмерное использование механизма педали газа и педали тормоза. Педали газа и тормоза заблокированы. Подождите 5 минут.

Обнаружено чрезмерное использование автомобиля. Двери заблокированы. Подождите 5 дней. Езжайте на маршрутке

Главное, чтоб не было "двери, окна заблокированы, подаём газ"

Что дальше? Вызов полиции нравов если датчики заметят ритмичные изменения нагрузки на сидушку?

Компания приступила к отзыву обновления программного пакета Full Self-Driving (FSD) после критики со стороны регулятора NHTSA. Как оказалось, новая версия прошивки, установленная на десятки тысяч автомобилей, систематически нарушает правила дорожного движения при включении режима помощи в вождении.

По данным ведомства, появившийся в прошивке FSD 10.3 профиль Assertive позволял электрокарам Tesla проезжать перекрёстки со скоростью около 8 километров в час даже при наличии дорожного знака «Движение без остановки запрещено». Согласно ПДД, водитель транспортного средства в этом случае должен выполнить остановку перед тем, как продолжить движение.

По требованию регулятора компания согласилась отозвать спорную версию ПО, которую к тому моменту успели установить около 54 000 владельцев TeslaModel S и X (2016 — 2022 год выпуска), Model 3 (2017 — 2022), а также Model Y (2020 — 2022). Кроме того, вендор отозвал около 300 000 электрокаров в Китае из-за проблем с «автопилотом», и неназванное количество автомобилей в других регионах в связи с дефектами камеры, подвески и багажника.

Представители Tesla утверждают, что не сталкивались с подтверждёнными случаями травм или аварий, произошедших по вине указанного программного бага. Эксперты, в свою очередь, напомнили пользователям, что название прошивки компания использует в маркетинговых целях. Она предоставляет покупателям систему помощи водителю второго уровня, в то время как термин «автономное вождение» подразумевает четвёртый уровень автономности по международной классификации.

 

Статистика показывает, что ездить на Tesla с автопилотом так же безопасно, как и без него.
На аварийность включен или нет автопилот - не влияет.