Студентам Массачусетського технологічного інституту стало цікаво чи можна обдурити штучний інтелект і якщо так, то як це зробити, тому вони провело експеримент з цією метою. Як виявилося можна, їм вдалося переконати ШІ, що черепаха – це зброя.
Була зроблена не одна спроба обдурити ШІ, але потім студенти визначили алгоритм сприйняття нейромережі Google Inception v3 і змогли вибрати правильний спосіб.
Дослідники відштовхувалися від того, що машини сприймають звуки, зображення і в цілому все абсолютно не так, як людина. Проблема в тому, що алгоритм сприйняття до кінця не досліджений, тому студенти самостійно шукали способи, як обдурити ШІ.
Був обраний спосіб “адверcальніх прикладів” – специфічна технологія, при якій два об’єкти зіставляються. Особливість в тому, що поверх одного зображення знаходиться невидимий шар другого. І на це попався Google Inception v3, який створений, щоб розпізнавати зображення.
За словами розробників, створений алгоритм можна застосовувати не тільки до звичайних пласких зображеннь, а й до 3D-моделей.
Варто відзначити, що технологія “адверcальніх прикладів” недосконала. Зараз вона чутлива до різних факторів впливу, наприклад масштабування, кадрування, повороту на певний кут. Зміни цих факторів зможуть істотно послабити “оманливий ефект”. А значить, нейромережа зможе без проблем визначити зображення.
