«Глубокие фейки» не угрожают оплате с распознаванием лица… пока

Оплата с распознаванием лица в WeChat (Источник изображения: TechNode/Ши Цзяи)

(автор статьи — Николь Чжао)

В конце прошлого месяца появилось новое китайское приложение, позволяющее пользователям вставлять лицо в сцены из известных фильмов и телешоу. Zao быстро попало на самый верх рейтинга бесплатных программ по загрузкам из Китая как на Android, так и на iPhone. Однако успех приложения был недолог.

Все более подкованное интернет-сообщество страны быстро заметило сомнительные пункты в пользовательском соглашении Zao, и публичная реакция не заставила себя ждать. Руководители Momo, гиганта онлайн-знакомств, стоящего за Zao, были вызваны в органы 4 сентября, всего через четыре дня после запуска приложения, чтобы обсудить методы сбора данных и защиты конфиденциальности. Приложение обновило свою политику конфиденциальности в тот же день.

Однако быстрый рост Zao вызвал опасения не только по поводу сомнительных методов сбора данных, но и по поводу возможности злонамеренного использования контента для обхода систем безопасности, таких как платёжные платформы с распознаванием лиц.

Программы, созданные исключительно для развлечения пользователей, не воспринимаются как технологически сложные, но значительные риски конфиденциальности всё равно существуют.

— Учитывая, что эти технологии используют биометрические данные, которые являются безотзывными по своей природе, попадание данных в руки злоумышленников может привести к серьезным и длительным последствиям для пользователей, — заявил член исполнительного комитета IEEE Asia Pacific Дун Цзин на пресс-конференции в прошлую пятницу.

— Это может повлиять даже на судебные расследования, страховые оценки и другие серьезные и чувствительные области, — добавил Дун — помимо прочего заместитель генерального директора Китайской ассоциации искусственного интеллекта и обладатель учёной степени PhD в области распознавания изображений.

Распознавание лиц под прицелом

Технология распознавания лиц становится всё более распространенной в Китае, и неудивительно, что реакция на Zao распространилась на поставщиков услуг оплаты, что заставило ведущего игрока Alipay выпустить публичное заявление, защищающее функцию распознавания лиц. Alipay заявила, что deepfake-приложения не представляют никакого риска для платёжных инструментов компании и не могут быть использоваться для мошенничества с её платежными терминалами.

— Прежде чем сканировать черты лица пользователя, устройство определяет, исходит ли информация из изображения, видеоклипа либо сгенерирована программно, что позволяет эффективно избежать случаев мошенничества с использованием поддельного лица, — говорится в сообщении компании. Alipay, насчитывающая более миллиарда пользователей по всему миру, запустила систему распознавания лиц для коммерческого использования в 2017 году.

Через два дня после появления Zao гигант социальных сетей WeChat решил блокировать публикуемый контент с заменой лиц. WeChat Pay недавно продемонстрировала собственное новое устройство для сканирования лица.

По словам Дуна, использование технологии замены лиц для обхода систем распознавания может оказаться надуманной проблемой. Хотя технология уже появилась, использование её для взлома систем безопасности — это непростая задача, заявил он TechNode.

Разработчики Zao не подтвердили, использовали ли они opensource-технологию deepfake, но Дун утверждает, что налицо сильное сходство. Приложение, вероятно, обучило алгоритмы на базе данных ТВ и видеоклипов, а кроме того разработчики усовершенствовали функцию замены лиц для большей реалистичности. Тем не менее, приложение пока не может вставить лицо пользователя в видео. У него есть ограничения и оно не так продвинуто, как можно подумать, добавил он.

Детектор «глубоких фейков»

Дун в настоящее время работает над инструментом искусственного интеллекта, способным определить, было ли изображение или видео подделано с помощью технологий deepfake или морфирования. В мире, где всё чаще используются приложения для распознавания лиц, должны существовать защитные механизмы, позволяющие отличить видео, созданные программой, от настоящих. Такую технологию можно будет использовать и чтобы узнать, не пытается ли человек, показывающий лицо в камеру для распознавания, скрыть свою внешность, — заявил Дун.

Что касается сомнений по поводу использования распознавания лиц в финансовой сфере, Дун утверждает, что технология уже достаточно зрелая и широко используется в Китае. Тем не менее, он объясняет отсутствие массового внедрения её в финансовом секторе степенью связанных с этим риска. Учреждения не желают нести эти риски или считают их ненужными.

— Это не столько технологическая проблема. Рынок просто ещё не созрел для широкого применения, — заявил он, добавив, что на данный момент нормативная база остается неопределённой.