Легко ли обмануть беспилотный автомобиль?

Путем небольшой модификации дорожных знаков можно обмануть беспилотный автомобиль и заставить его систему машинного обучения неправильно классифицировать знаки и принимать неверные решения, что поставит под угрозу безопасность пассажиров.

К такому выводу пришла группа американских ученых по итогам проведенного исследования. Идея исследования заключалась в том, что атакующий может подменить изображения на дорожных знаках с помощью специально отпечатанных плакатов либо добавить небольшие стикеры на легитимные дорожные знаки.

Используя первый сценарий, злоумышленник сможет обмануть не только системы беспилотного авто, но и людей, в то время как второй метод атаки будет эффективен только в случае беспилотного автомобиля. В ходе эксперимента ученые использовали несколько дорожных знаков с различными типами надписей, наклеек и граффити.

По словам исследователей, в 100% случаев, автомобили распознавали знак «Стоп» с надписями LoveHate как знак «Ограничение скорости 45», второй и третий знаки также распознавались как «Ограничение скорости 45», но только в 67% случаев. Что касается четвертого знака, его система машинного обучения классифицировала как знак «Стоп» вместо «Правый поворот» в 100% случаев.

Источник