ИИ утверждает, что способен помешать работе программного обеспечения по распознаванию лиц, сделав вас «невидимым»

Команда инженеров-исследователей из Университета Торонто создала алгоритм, позволяющий динамически нарушать работу систем распознавания лиц.

Команда под руководством профессора Пархама Аараби и аспиранта Авишека Боса использовала технику глубокого обучения, называемую «состязательное обучение», которая противопоставляет два алгоритма искусственного интеллекта друг другу.

ЧИТАЙТЕ ДАЛЬШЕ: ИИ и машинное обучение: в чем разница?

Аараби и Бозе разработали набор из двух нейронных сетей: первая идентифицирует лица, а другая работает над нарушением задачи распознавания лиц первой. Эти двое постоянно сражаются и учатся друг у друга, создавая постоянную гонку вооружений ИИ.

«Прорывной ИИ может «атаковать» то, что ищет нейронная сеть для распознавания лиц», — Бозе сказал в интервью.

«Если ИИ обнаружения ищет, например, уголок глаза, он корректирует угол глаза, чтобы он был менее заметным. Это создает очень незначительные искажения на фотографии, но для детектора они достаточно значительны, чтобы обмануть систему».

Результат похож на фильтр Instagram, который можно применять к фотографиям для защиты конфиденциальности. Алгоритм нацелен на очень конкретные пиксели изображения, внося тонкие изменения, почти незаметные для человеческого глаза.

«Ключевым моментом здесь было обучение двух нейронных сетей друг другу: одна создала все более надежную систему обнаружения лиц, а другая — еще более мощный инструмент для отключения распознавания лиц», — добавил Бозе.

Обеспокоенность по поводу конфиденциальности и безопасности данных высока, поскольку вопросы задаются таким компаниям, как Google, Amazon и столичная полиция Лондона, которые внедряют и предоставляют технологию распознавания лиц.

Google представила дверные звонки с камерами распознавания лиц, которые поступят в продажу в британских пригородах, что вызывает опасения по поводу вторжения в частную жизнь.

Amazon подвергся критике со стороны Американского союза гражданских свобод (ACLU) и других организаций за предоставление полиции США своего программного обеспечения для распознавания лиц.

Сообщается, что лондонская полиция Метрополитена использует «опасно неточную» технологию распознавания лиц, вероятность неудачи которой, как утверждается, составляет 98%.

Аараби считает, что «анти» системы распознавания лиц могут улучшить конфиденциальность личной информации, поскольку нейронные сети становятся все более и более совершенными.

«Личная конфиденциальность — это реальная проблема, поскольку распознавание лиц становится все лучше и лучше», — добавил Аараби. «Это один из способов, с помощью которого полезные системы распознавания лиц могут бороться с этой способностью».

«Десять лет назад эти алгоритмы должны были определяться человеком, но теперь нейронные сети обучаются сами по себе, вам не нужно предоставлять им ничего, кроме обучающих данных.

«В конце концов, они могут делать действительно удивительные вещи. Это увлекательное время в этой области, здесь огромный потенциал».