Вчені Інституту інтелектуальних систем ім. Макса Планка знайшли вразливість у системах автопілота сучасних автомобілів.
Незважаючи на те, що тисячі інженерів по всьому світу працюють над тим, щоб зробити безпілотні автомобілі безпечними, існують найнесподіваніші вразливості, які можуть поставити під загрозу як пасажирів безпілотників, так і оточуючих людей. До такого висновку прийшли німецькі вчені з Інституту інтелектуальних систем ім. Макса Планка і Тюбінгенського університету.
Фахівці з'ясували, що звести з розуму електроніку автомобіля може кольорова пляма, яка опиниться в полі зору відеокамер. Якщо такий навіть нерухомий малюнок фіксує безпілотник, то система починає вважати, що різні об'єкти в полі зору камер рухаються в різні боки і це призводить до збою в роботі нейромереж.
Вчені підкреслили, що у них пішло не більше чотирьох годин на створення малюнка, який виводить з ладу автопілот. При цьому, як відзначають дослідники, для того, щоб машини опинилися в складній ситуації, досить навіть невеликого за розміром зображення, яке може розташовуватися де завгодно - на інших транспортних засобах, на об'єктах дорожньої інфраструктури і навіть на людях.
У своїй роботі Attacking Optical Flow, опублікованій на arXiv, фахівці підкреслили, що якщо взяти за 100% весь обсяг візуальної інформації, які сприймають камери безпілотних автомобілів, то якщо навіть менше 1% від цього зображення доведеться на колірну пляму, то в системі виникнуть помилки і автопілот не зможе коректно оцінювати ситуацію, а безпілотник почне поводитися непередбачувано. При цьому одна і та ж машина, «побачивши» одну і ту ж пляму, кожен раз реагує на «перешкоду» неоднаково.
Вчені мають намір знайти рішення виявленої проблеми, а поки намагаються привернути увагу розробників автопілота до знайденого багу. Гіпотетично подібні колірні плями можуть використовувати хакери, щоб виводити з ладу безпілотні машини.