Как обмануть беспилотную машину
В ходе исследования ученые из Вашингтонского университета установили, что легко вызвать неадекватную реакцию машин с автопилотом. Исследователи смогли запутать системы беспилотников с помощью искаженных дорожных знаков.
Ученые решили выяснить, насколько страшны для автопилота слегка видоизмененные картинки, поскольку увиденное через камеры во многом определяет поведение автопилота. Оказалось, что искаженные наклейками знаки почти во всех случаях спровоцировали неожиданные реакции системы. Для эксперимента потребовалось лишь несколько знаков и цветные стикеры.
В случае со знаком «Stop» исследователи наклеили несколько небольших прямоугольных стикеров, не перекрывающих основное изображение. Однако автопилот воспринял такой знак как ограничение скорости. В другом эксперименте ученые нанесли на этот же знак две небольшие надписи сверху и снизу от слова «stop», а в еще одном — сымитировали слегка потемневшую картинку. В этих случаях система тоже распознавала увиденное как ограничение скорости.
Кроме того, специалисты попробовали изменить знак «Движение только направо». Из-за серых стикеров, наклеенных на поверхность стрелки, автопилот воспринял знак как «Stop».
В докладе ученых говорится, что эти и другие эксперименты показывают, насколько опасно может повести себя беспилотная машина из-за незначительных вещей. И то, насколько легко можно повлиять на автопилот при помощи элементарных средств.
При этом исследователи не испытывали автопилот от какого-то конкретного производителя — это были типовые алгоритмы для подобных систем.