Исследователи ИИ разработали «фильтр конфиденциальности» для ваших фотографий, который отключает системы распознавания лиц

13.07.2018

Каждый раз, когда вы загружаете фотографию или видео на платформу для социальных сетей, системы распознавания лица узнают о вас немного больше. Эти алгоритмы глотают данные о том, кто вы, ваше местоположение и кого вы знаете, и постоянно совершенствуются.

Что касается защиты конфиденциальности и безопасности данных в социальных сетях, исследователи U of T Engineering во главе с профессором Пархамом Аараби и аспирантом Avishek Bose создали алгоритм для динамического разрушения систем распознавания лиц.

«Личная конфиденциальность - это реальная проблема, поскольку распознавание лица становится все лучше и лучше», - говорит Аараби. «Это один из способов, с помощью которого эффективные системы анти-лицевого распознавания могут бороться с этой способностью».

Их решение использует глубокую методику обучения, называемую состязательной тренировкой, которая создает два алгоритма искусственного интеллекта друг против друга. Аараби и Бозе разработали набор из двух нейронных сетей: первый работает для идентификации лиц, а второй работает, чтобы нарушить задачу распознавания лиц первого. Они постоянно борются и учатся друг у друга, создавая постоянную гонку вооружений.

Результатом является Instagram-подобный фильтр, который можно применять к фотографиям для защиты конфиденциальности. Их алгоритм изменяет очень конкретные пиксели изображения, делая изменения, которые почти незаметны для человеческого глаза.

Aarabi и Bose проверили свою систему на 300-W лицевом наборе данных, который объединяет более 600 человек, включая широкий спектр этнических групп, условий освещения и окружающей среды. Они показали, что их система может уменьшить долю лиц, которые были первоначально обнаружены с почти 100 процентов до 0,5 процента.

В дополнение к отключению распознавания лиц новая технология также нарушает поиск на основе изображений, идентификацию функции, оценку эмоций и этнической принадлежности и все другие атрибуты на основе лица, которые могут быть извлечены автоматически.

Затем команда надеется сделать общедоступным фильтр конфиденциальности либо через приложение, либо через веб-сайт.