Група дослідників з Льовенського католицького університету (Бельгія) знайшла спосіб зробити людину невидимою для систем розпізнавання візуальних образів. Щоб досягти необхідного ефекту, вони створили спеціальне абстрактне зображення і розмістили його на постері 40х40 см.
Розпізнавання образів у реальному часі - перспективна технологія, яка вже знаходить застосування в охоронних комплексах і системах пошуку конкретних людей у натовпі. Для виконання цього завдання використовуються згорточні нейронні мережі, які здатні з високою швидкістю і точністю виділяти необхідні творцеві образи з усієї картинки. В силу особливостей навчання таких алгоритмів, вони вразливі до атаки через змагальні приклади - зображення, для людини практично ідентичні цільовим, але визначені як зовсім інший клас об'єктів нейромережею.
Бельгійські вчені Сімен Тюс (Simen Thys), Вайбе Ван Ранст (Wiebe Van Ranst) і Тун Гедеме (Toon Goedeme) задалися метою створити універсальне зображення, яке виведе людину з «поля зору» нейромережі. Наукова робота, присвячена цій темі, буде представлена на конференції «Світлі і темні сторони комп'ютерного зору» в Каліфорнії, США, влітку 2019 року, а текст вже доступний на сайті arxiv.org.
Приклад візуалізації роботи алгоритму YOLOv3
Дослідники перевіряли свій метод на нейромережі з відкритим вихідним кодом Darknet, яка використовує модель розпізнавання YOLO («ти дивишся лише одного разу»). Це одна з найшвидших і найефективніших систем штучного інтелекту для роботи з зображеннями, доступна кожному. Як показує результат команди з Льовенського католицького університету, їх змагальний приклад майже завжди обманює машинний зір. Надалі планується робота над поліпшенням зображення, щоб його можна було надрукувати на одязі.
Проблема атак на нейромережеві алгоритми розпізнавання образів за допомогою змагальних прикладів відома давно і досі не була серйозною загрозою для них - досить трохи повернути зразок і алгоритм знову сприймає його «правильно». Однак у 2017 році дослідниками з Массачусетського технологічного інституту була створена програма, яка дозволяє генерувати тривимірні образи, що гарантовано обманюють машинний зір. Завданням бельгійських вчених було створити патерн, який замаскує такий легкий для розпізнавання мішень як людина.