Ученые: стрит-арт может сделать беспилотный автомобиль опасным

Пока большинство производителей бьются над тем, как защитить свои автомобили от хакерских атак, опасность для водителя и пассажиров может исходить от обыкновенных дорожных знаков. Причем в первую очередь от них могут пострадать владельцы беспилотных автомобилей. К такому неожиданному выводу пришли ученые Вашингтонского университета, проведя целый ряд испытаний.

Во время своего исследования ученые изучали алгоритмы работы видеокамер, которые применяются в беспилотных автомобилях. В частности специалисты Вашингтонского университета пробовали воздействовать на системы при помощи видоизмененных дорожных знаков. Поскольку значительный объем данных беспилотный автомобиль получает при помощи фронтальной камеры, ученые решили, что система будет неправильно распознавать такие знаки даже в том случае, если внешний вид знака изменится незначительно. Для проверки данного утверждения эксперты решили воспользоваться обычными наклейками, распечатанными на цветном принтере.

Во время первого эксперимента ученые взяли знак Stop и наклеили на его поверхность точно такой же знак, но со слегка поблекшими цветами. Обычный водитель при движении по дороге распознает значение такого знака практически со 100-процентной вероятностью. А вот "электронный глаз" беспилотного автомобиля – нет. Во время испытаний система ошиблась во всех случаях и принимала данный дорожный знак за ограничение скорости.

Во время второго испытания ученые попытались "атаковать" систему беспилотника при помощи наклеек Love и Hate, размещенных рядом с надписью Stop. Обычно подобными наклейками пользуются художники стрит-арта. Как оказалось, стикеры тоже могут представлять опасность для беспилотных автомобилей, поскольку в двух из трех случаев камера воспринимала данный знак как знак ограничения скорости.

Точно такой же эффект на систему оказывали и несколько белых и черных квадратиков, хаотично размещённых на знаке. Наконец, во время четвертого испытания ученые взяли знак "Движение только направо" и добавили на стрелку белые и серые наклейки. Увы, но и с этой задачей система не справилась, приняв знак поворота за знак Stop в 2/3 случаев.

Таким образом, ученые доказали, что видоизмененные дорожные знаки могут представлять опасность для владельцев автономного транспорта и окружающих. В своем докладе они указывают, что для проведения успешной атаки на беспилотник злоумышленникам достаточно знать алгоритм работы системы видения автомобиля, после чего им понадобится лишь цветной принтер и клей.

Последствия такой атаки также могут быть непредсказуемыми, ведь после нее беспилотный автомобиль сможет, к примеру, пролететь мимо знака Stop на скорости 80-100 км/ч или резко затормозить там, где этого никто не ожидает, скажем, на шоссе.

Эксперты из Вашингтонского университета также пообещали, что продолжат свои испытания и опробуют новые способы воздействия, в том числе и на другие дорожные знаки. А вот сами производители беспилотников считают, что опасность от видоизмененных дорожных знаков преувеличена.

"В большинстве случаев помочь может контекстная информация и данные об окружающей среде. К примеру, ограничение 110 км/ч в городе или знак Stop на автомагистрали будут выглядеть странно", - поясняет Тарек Эль-Гаали, главный научный специалист компании Voyage, занимающейся разработкой беспилотных автомобилей. Он также добавил, что для лучшей защиты в беспилотнике должно применяться сразу несколько камер, датчиков и лидаров.