Автопилот Tesla сошёл с ума из-за грузовика со светофорами

Владелец Tesla Model 3 столкнулся с необычной ошибкой при использовании системы автопилота, которая начала обнаруживать бесконечное количеством светофоров.

Видеоролик демонстрирует, что Tesla Model 3 ехала за грузовиком, который перевозил неработающие светофоры. В итоге это выглядело как довольно забавный сбой системы, но подтвердило, насколько сложно подготовить автономные системы вождения к невероятному количеству случаев, с которыми они могут столкнуться в реальном мире.

Неспособность Tesla понять, что светофоры перевозились на автомобили и не были рабочими, является явным признаком того, что Tesla не готова к полностью беспилотному движению, независимо от того, сколько раз об этом говорил генеральный директор Илон Маск (Elon Musk).

Я предполагаю, что этот сценарий, вероятно, не был частью данных обучения системы. Хорошая иллюстрация того, что, достичь полной автономности вождения, просто записав больше данных, будет невозможно.

Математик Бирмингемского университета и Массачусетского технологического института Макс Литтл (Max Little)