Хакеры взяли на вооружение системы распознавания лиц

Новые личности

Денис (имя изменено) постоянно сидит на одном из популярных форумов в даркнете для профессиональных «вилочников». Так в букмекерских конторах называют игроков, которые находят «вилки» — несоответствия в коэффициентах, что позволяет им делать беспроигрышные ставки. Чтобы найти «вилки», обычно используется специальное платное программное обеспечение (ПО).

По словам Дениса, проблемой всегда являлось то, что букмекерские конторы ловят «вилочников», анализируя данные об их ставках, а затем блокируют счета без объяснения причин. В связи с этим приходится постоянно создавать новые личности.

Раньше БК идентифицировали нового пользователя по селфи с паспортом в руках, но сейчас почти все популярные в РФ букмекеры требуют прохождения видеоидентификации. Подделать паспорт — решаемая для «вилочников» задача. Однако идентификация по видео всегда была проблемой, но теперь, похоже, удалось решить.

Денис отметил, что во время звонка букмекера программа создает некритичные помехи в канале связи, скрывающие использование дипфейка, а изображение, которое видит сотрудник БК, совпадает с фото в паспорте. Стоит это больших денег, поэтому услугу пока оказывают только среди своих, так как она требует частичного раскрытия цифровой личности. При этом перспективы у такого ПО — потрясающие, потому что букмекеры еще не используют детекторы дипфейков.

За фейковыми личностями, в которых технология превращает «вилочников» на время идентификации, стоят реальные люди, считает собеседник издания. По его словам, чтобы схема действительно работала, потребуется не только совпадение внешности на фото в паспорте и на видео, но и данные настоящих банковских карт. Эксперты в области кибербезопасности давно говорят, что практически во всех крупных компаниях финансового сектора есть дыры, которые дают мошенникам доступ к персональным данным пользователей.

По шаблону

Первые системы распознавания строились по эмпирическому принципу: они «думали» как человек. Например, начинали с определения того, есть ли на изображении нос и глаза, исследуя характерные перепады по цветам. Таким образом, удавалось понять, на что «смотрит» программа. При этом идеальным условием являлось то, если рядом не было других лиц, а сам фон оставался равномерным и светлым, без каких-то кислотных цветов или объектов причудливых форм. Технологически такие системы просты в использовании, но в современном мире, где на изображениях много информационного шума, почти не применимы.

Более развитая вариация данной технологии, построенной на этом подходе, уже научилась справляться с тем, что человек в кадре, например, повернул голову. Однако пестрое окружение все еще оставалось проблемой.

После в системах распознавания лиц стали применять шаблонный подход, при котором лица сверялись с заданными разработчиками стандартами. Получилось хуже, чем ожидали специалисты: таким системам нужны были громоздкие системы вычисления и на практике они оказались слишком медленными.

Современные и применяемые сейчас алгоритмы по мере развития компьютерного зрения научились выявлять на лицах порядка 80 ключевых точек и строить между ними линии. Полученный набор данных конвертируется в уникальный код, который называется цифровой отпечаток, а его уже можно сопоставлять с базой данных, неважно — банковских клиентов или преступников. Самое важно в работе таких систем заключается в том, что сначала они долго обучаются на тестовых снимках, а затем продолжают свое развитие в рабочих условиях.

Проблемы с этичностью

Первый успешный российский стартап компании NTechLab, который связан с распознаванием лиц, поначалу пользовался огромной популярностью. Однако вскоре были обнаружены примеры нецелевого использования данной технологии и другие проблемы с этичностью. При этом именно данный стартап был развернут в масштабах России.

Проект FindFace запустили как сервис, который помогал найти пользователей соцсети «ВКонтакте» по их фото. Всего через год после его запуска департамент Министерства торговли США, который отвечает за развитие технологий, признал использованные в разработке биометрические алгоритмы лучшими в мире.

В итоге проект начал завоевывать сторонников и противников с одинаковой скоростью. Проблем с безопасностью в сервисе не было, однако оказалось, что в руках обычных пользователей эта технология может быть опасной. Пока FindFace тестировали на фестивале Alfa Future People и запустили на нескольких тысячах московских камер наблюдения, в Санкт-Петербурге приложение использовали, чтобы найти аккаунты подростков, устроивших пожар в парадной. До самосуда тогда не дошло. Аналогичная история произошла с пользователями «Двача», которые охотились на аккаунты российских порноактрис, а затем устраивали спам-атаки с изощренными угрозами. Часто доходило до угроз не только самим актрисам, но и их родственникам и друзьям.

Проект FindFace пришлось закрыть, а сам NTechLab начал активное сотрудничество с властями. Сегодня компания — крупнейший господрядчик, который сотрудничает со многими подобными компаниями по всему миру, в их числе есть и работающие на спецслужбы.

Распознавание Шредингера

Эксперты кредитной компании Experian PLC говорят о новой угрозе: хакеры научились не просто подделывать чужие лица, а создавать новые цифровые личности. Их никогда не существовало, но у них могут быть все идентификационные документы, начиная со счетов в банках и заканчивая пенсионными накоплениями. Очевидные сферы применения таких поддельных личностей — финансовые махинации и терроризм.

В этом году в китайских СМИ появились истории двух жителей Шанхая, которые создали фиктивную компанию для продажи кожаных сумок и отправляли поддельные налоговые счета своим крупным «клиентам». Систему распознавания лиц, используемую у китайских налоговых служб для верификации счетов-фактур, удалось обмануть с помощью новых дипфейков. В итоге ущерб составил 76,2 млн долларов, преступников все же смогли поймать.

В России мнение о безопасности систем распознавания лиц пока осторожное. Опрошенные журналистами представители нескольких компаний, которые занимаются информационной безопасностью, согласились говорить либо на условиях анонимности, либо вовсе отказались комментировать данную тему.

С одной стороны механизмы защиты, которые окружают эту технологию и базы данных, достаточно надежны, с другой – взломов, скорее всего, избежать не получится.

Очевидная польза систем распознавания лиц заключается в упрощении и повышении надежности идентификации в любой сфере, а если думать о будущем, то это может быть даже создание полностью безопасных и умных городов, причем уже сейчас применяется оплата в метро по лицу. Однако вся эта польза в любом случае будет перекрываться продвинутым инструментарием хакеров, которые обычно на шаг впереди. В результате распознавание лиц — как максимально безопасный, так и максимально небезопасный инструмент. Все будет зависеть от того, покажется ли конкретное лицо привлекательным сетевым преступникам.

Как оказалось, рентген, искусственный интеллект (ИИ) и 3D-принтер могут восстановить картины, поверх которых были написаны другие полотна. Технология была опробована на знаменитой работе Пабло Пикассо La Miséreuse accroupie (Присевшая женщина). Сначала ИИ обучили технике письма Русиньола, а после 3D-принтер наложил краски таким образом, чтобы имитировать настоящие мазки кисти художника.