Современные компании активно используют в интернете приложения для идентификации пользователей по лицу, что позволяет им формировать огромные базы данных и фактически нарушать конфиденциальность. Противодействовать таким системам, основанным на нейросетях, сможет приложение, созданное в Чикагском университете, позволяющее избежать идентификации по фотографии и нарушить работу алгоритмов программ подобных Clearview AI.
Изображение пользователей при применении приложения Fawkes маскирует фотографию на уровне пикселей, подменяя определенные точки на снимке фрагментами, позаимствованными с других фото. Таким образом, например, фрагмент фотографии меняется на элемент, взятый с изображения, максимально несхожего с оригиналом и даже от «донора» другого пола. Изменения на фото практически незаметны для пользователей, но нарушают работу алгоритма поиска по лицу.
По заверению разработчиков использование приложения Fawkes, уже позволило «обмануть» поисковые системы Amazon, Microsoft и китайской Megvii. Дальнейшее развитие приложения позволит избежать идентификации алгоритмом Clearview AI, уже используемым полицией и частными компаниями для идентификации личности на основе многомиллиардной базы данных.
Профессор Чикагского университета Бен Чжао заявил, что Fawkes в будущем «заставит Clearview уйти». Тем не менее, приложение Fawkes в настоящее время находится в процессе доработки и не всегда показывает хороший результат. Дальнейшее усовершенствование программы по задумке разработчиков может привести к тому, что пользователи будут всегда обрабатывать фотографии перед загрузкой их в сеть. Также интеграция приложения в крупные социальные сети помешает приложениям подобным Clearview проводить несанкционированную идентификацию личности по фото пользователей.
