Наклейки на знаку «Стоп» змусили систему помилково ідентифікувати його як знак обмеження швидкості
Поки автовиробники працюють над захистом своїх автомобілів від хакерів, дослідники з Університету Вашингтона продемонстрували, можна змусити комп'ютерні системи автомобіля помилково ідентифікувати дорожні знаки, використовуючи не що інше, як наклейки, зроблені на домашньому принтері.
Фахівець з комп'ютерної безпеки, професор Йоші Коно описав алгоритм «атаки» на автономні системи водіння, в якому використовуються друкарські зображення, прикріплені до дорожніх знаків, передає Киевские Ведомости з посиланням на автоманія.
Так, невеликі наклейки на знаку «Стоп» змусили систему помилково ідентифікувати його як знак обмеження швидкості в 45 миль / год (72,4 км / год).
Системи «зору» автономних автомобілів зазвичай використовують детектор об'єктів, що показує пішоходів, вогні, знаки, інші транспортні засоби та інше, а класифікатор вирішує, який це об'єкт і що говорять ознаки. Комп'ютерні хакери можуть отримати доступ до цього класифікатора та шляхом зміни алгоритму і фотографій змінити класифікацію об'єкта, зокрема, дорожнього знака.
Дослідники вже давно знають про цю загрозу. Але попередні атаки мали зміни, які були або занадто екстремальними, а, отже, очевидними для людини водія, або занадто тонкими, що працюють тільки з певного кута зору або на певній відстані. Як виявилося, не обов'язково влізати в систему. Досить нанести на знак графіті або наклейки, щоб система розпізнавала знак по-іншому.
Алгоритми, створені Коно з колегами з інших університетів, засновані на друку на звичайному кольоровому принтері наклейок, прикріплених до існуючих дорожніх знаків. В одному випадку вони заклеїли дорожній знак правого повороту повнорозмірною копією, на якому стрілка виглядала плямистої або зблякле для очей людини. Система комп'ютерного зору ідентифікувала його як знак обмеження швидкості 45 миль / год.
У другому випадку дослідники наклеїли на знак прямокутні чорно-білі смужки в хаотичному розташуванні і в виразах «Love» і «Hate». Вони також змусили комп'ютер бачити знак, який обмежує швидкість в 45 миль на годину. Перевірка проводилася з різних відстаней і під різними кутами зору. Обдурити комп'ютер вийшло в 73,3 відсотка випадків.
Небезпека таких дій, які дослідники називають «атаками», очевидна, бо багато експериментальні автомобілі і деякі транспортні засоби вже оснащені системою розпізнавання знаків. Якщо таким чином вдасться обдурити майбутній автономний автомобіль, він може проїхати перехрестя, не пропустивши транспорт, що рухався по головній, чи навпаки, загальмувати на швидкісній смузі.
Як випливає з експерименту, розробникам технологій автономного водіння автомобіля належить вирішити ще багато проблем. Їм доведеться використовувати різні комбінації не тільки для захисту від хакерів, але, як бачимо, і від звичайних хуліганів.
Читайте також: Автопілот Tesla спровокував ДТП в Китаї
«Багато з цих атак можна подолати, використовуючи контекстну інформацію з карт і навколишнього середовища, - вважає Тарек Ель-Гаалі, старший науковий співробітник Voyage - стартапа, який розробляє автономні системи водіння. - Наприклад, знак обмеження швидкості «65 миль / год» недоречний в місті, як не має сенсу знак зупинки [ «Стоп»] на шосе. Крім того, багато автономні транспортні засоби сьогодні оснащені безліччю датчиків, тому відмовостійкість може бути побудована на використанні декількох камер і лідарних датчиків ».