Автопилот Tesla обманули 2D проекцией. Как вела себя машина?

Автопилот Tesla обманули 2D проекцией. Как вела себя машина?

Группа ученых Университета им. Давида Бен-Гуриона в Негеве (Израиль) и Технологического института Джорджии (США) обманули автопилот Tesla Model X при помощи обычного проектора.

В первом случае опыт проходил через трансляцию 2D проекции дорожных знаков на дорогу и деревья. Во втором пошли еще дальше и начали играться с проекцией человека. В третьем добавили дорожную разметку. Финальный опыт заключался в интеграции дорожного знака в рекламу на обочине. Везде использовался бюджетный проектор стоимостью $300. Подопытный кроссовер Tesla Model X, оснащен системой помощи водителю Mobileye 630 PRO и автопилотом HW 2.5.

Дорожные знаки

Всего на долю секунды была нанесена проекция дорожного знака с ограничением скорости на вертикальную конструкцию перед электромобилем. Датчики успели считать его и принять за настоящий. В результате последовало снижении скорости.

Человек

Здесь Tesla Model X повел себя совсем странно. Автомобиль распознал проекцию в самый последний момент, но вместо торможения ИИ лишь немного сбросил скорость. По итогу, несмотря на идентификацию машиной человека она проехала сквозь него. В теории можно допустить, что наезд человека вполне реален, правда в определённых ситуациях.

Разметка

Проекцию дорожной разметки электромобиль сразу воспринял за настоящую. Как результат исследователям удалось обхитрить датчики автомобиля и увести его по ложной разметке на встречную полосу. В реальной ситуации такая «шалость» могла бы привести к ДТП.

Реклама и знаки

Едва заметное изображение знака ограничивающего скорость интегрировали в рекламное изображение на обочине. Сделано это настолько скрытно, что даже человеческим взглядом не удалось бы сразу обнаружить. Автопилот Tesla считал и идентифицировал его, приняв за настоящий, после чего придерживался указанного на нем ограничения.

Что говорят в Tesla ?

Результаты испытаний опубликовали в свободном доступе и отправили Tesla. В ответ компания заявила, что прошивку модифицировали, и ошибки устранят ближайшим обновлением.

Ранее умение распознавать фальшивки тестировали китайцы на седане Model S 75.  Им тоже удалось вывести электромобиль на встречную полосу. Тогда представители Tesla заявили, что тестовый сценарий слишком далек от действительности, и не стоит забывать, что водители должны быть готовы на случай в любой момент перехватывать у автопилота управления.

Читайте также: Gigafactory 5. Где построят новый завод Tesla?

По материалам: cnews.ru Подготовил: el-book.ru

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *