В последние дни завирусилось приложение Lensa — сервис, который с помощью нейросети создает нарисованные портреты. В конце ноября оно стало самым скачиваемым IOS-приложением в России. Чтобы сгенерировать рисунки, нужно загрузить в приложение от 10 до 20 своих портретных фотографий. Владельцы сервиса уверяют, что снимки пользователей удаляются через 24 часа, но проверить, так ли это, невозможно. К тому же подобные сервисы не раз допускали утечки личных данных пользователей. Журнал «Холод» объясняет, можно ли доверять свои данные Lensa, и вспоминает историю похожего сервиса, который закончил сотрудничеством с белорусскими силовиками.
После выхода материала «Холода» с «Зеркалом» связались разработчики приложения Lensa и прояснили некоторые моменты:
— Приложение Lensa работает на публично доступной генеративной нейронной сети Stable Diffusion, разработанной компанией Stablility AI. Нейросеть обучена распознавать взаимосвязи между парами «изображение-текст».
Когда пользователь Lensa отправляет свои фотографии, индивидуальная копия нейросети обучается на этих изображениях воспроизводить черты лица конкретного пользователя. При этом их невозможно связать с данными. Если пользователь не создавал личный аккаунт в приложении, он или она для нас представлены как transaction ID (кусочком кода, с помощью которого верифицируется транзакция) и session ID (цифровой код, определяющий сессию на конкретном устройстве). Обучившись воспроизводить черты лица, нейросеть на основе текстовых описаний генерирует аватары. Как только процесс завершен, копия, обученная на фотографиях конкретного пользователя, удаляется с наших серверов вместе с фотографиями. Каждая копия «весит» примерно 4 гигабайта, хранить на наших серверах экземпляр для каждого из миллионов пользователей нецелесообразно.
В Prisma Labs не тренируется некая универсальная монструозная нейросеть, которая способна выполнять задачи по распознаванию лиц в системах слежения. А копию Stable Diffusion можно запустить на домашнем компьютере, инструкции, как это сделать, есть на сайте разработчика. Своим продуктом мы упростили процесс взаимодействия с ней до общедоступного. Поэтому сравнение с Synesis крайне неуместно.
Помимо наших технических решений данные защищены механизмами GDPR и ССAP, хранятся на серверах в США. Если вы выкладываете свои фотографии в открытом профиле в инстаграме, вы рискуете больше.
Что настораживает в приложении Lensa
Приложение Lensa — это продукт российских разработчиков Prisma Labs. Особенно сильно это тревожит жителей Украины, где приложение тоже завирусилось: украинские журналисты, как пишет «Медуза», призывают граждан не отдавать свои персональные данные россиянам, потому что «с учетом работы российских спецслужб никто не может гарантировать достаточный уровень безопасности при использовании написанных врагом программ».
Lensa — не первый продукт Prisma Labs. Эта же компания несколько лет назад запустила фоторедактор Prisma, который тоже пережил всплеск популярности. В июне 2016 года Prisma стало одним из самых скачиваемых приложений в 10 странах, в том числе и в России. За девять дней после выхода сервис установили в России более 650 тысяч раз. Когда к Prisma пришел успех, инвестировать в этот стартап стал холдинг Mail.ru Group (с 2021 года — VK).
Сейчас компания VK к Prisma Labs отношения уже не имеет. Холдинг вышел из числа соучредителей компании-разработчика Lensa еще в 2019 году. Теперь Prisma Labs принадлежит венчурной компании Palta (до 2020 года — Haxus) — компании, которую создали уехавшие из России предприниматели Юрий Гурский и Алексей Губарев. Но в 2019 году в число владельцев Haxus вошел Александр Фролов-младший. Это сын российского миллиардера Александра Фролова, совладельца горно-металлургической компании Evraz и партнера Романа Абрамовича. Evraz, согласно расследованию OCCRP, больше 10 лет снабжал российскую армию: в частности, поставлял продукцию заводам, которые производят взрывчатку и танки.
Гендиректор Prisma Labs Андрей Усольцев в разговоре с «Медузой» подчеркивает, что офиса в России у них нет. Хотя раньше офис компании находился в Москве, теперь она зарегистрирована на Кипре и в Сан-Франциско, а в команде есть всего несколько россиян.
Что Lensa делает с загруженными фотографиями — и как охраняет персональные данные
Пользователи сервисов искусственного интеллекта сами помогают нейросетям учиться лучше распознавать лица. Чтобы пользоваться Lensa, каждый пользователь должен принять правила — дать согласие на обучение нейросети для того, чтобы она работала корректнее. Снимки попадают в облачные хранилища Google Cloud Platform или Amazon Web Services — и, по утверждению разработчиков, удаляются оттуда через сутки после обработки в Lensa.
Создатели Lensa заверяют, что пользователи остаются анонимными. Приложение специально не запрашивает у них доступ к метаданным — например, к геолокации. Впрочем, метаданные, позволяющие идентифицировать пользователя, могут быть привязаны к самой фотографии, которую человек загружает в приложение. Но команда Lensa обещает, что фотографии очищаются от метаданных до того, как они сохраняются в системах Lensa.
Почему подобным сервисам не всегда можно доверять
В прошлом были случаи, когда разработчики сервисов на основе технологий искусственного интеллекта продавали свои продукты государству. Самый яркий пример — российско-белорусская группа IT-компаний Synesis. Она известна как разработчик системы распознавания лиц Kipod, которую власти Беларуси, по данным расследовательского проекта BYPOL, использовали, чтобы вычислять и наказывать участников массовых протестов 2020 года после президентских выборов.
Первое время стартап Synesis разрабатывал оборудование для видеонаблюдения, а потом стал создавать для таких приборов софт. В 2012 году компания начала развивать собственную систему видеомониторинга Kipod — облачную платформу для «умного города». В ее основу разработчики положили технологии искусственного интеллекта и больших данных. Система умела распознавать на видео с камер лица людей, номера автомобилей и события: например, фиксировать задымления, скопление толпы, замечать оставленные без присмотра предметы. Руководители Synesis гордо называли ее «Google для видеонаблюдения».
Сначала компания пыталась продавать свою разработку бизнесу. Например, в 2015 году Synesis выпустила на базе Kipod «Виртуального консьержа». Разработчики обещали, что с этой системой больше не надо будет отсматривать часы видеозаписей, чтобы разобраться, что произошло дома: пришел ли из школы ребенок, что делал на даче садовник и кто поцарапал машину на парковке. А чтобы у нейронной сети было больше данных, на основе которых она сможет научиться лучше распознавать лица, к системе Kipod подключили камеры в офисе самой компании Synesis.
Спустя несколько лет владельцы компании поняли, что выгоднее всего продавать Kipod не частным заказчикам, а государству. Как раз в начале 2010-х, когда Synesis разработала свой продукт, власти Беларуси начали развивать в стране систему повсеместного видеонаблюдения, с помощью которой обещали следить за порядком и разыскивать преступников. В 2018 году техническим оператором этой системы власти Беларуси выбрали именно Synesis.
Система видеонаблюдения пригодилась властям Беларуси в 2020 году, когда в стране произошли массовые протесты против режима Александра Лукашенко. Во время уличных акций силовики тщательно записывали происходящее на видео, стараясь захватить крупным планом лица оппозиционеров. А затем активистов вычисляли и задерживали — так, например, произошло с анархистом Николаем Дедком. Его задержали в ноябре 2020 года, вломившись в загородный дом, а позже предъявили ему обвинение в «нарушении общественного покоя» во время протеста в августе и еще по двум статьям.
Во время задержания Николая Дедка пытали: били дубинкой, заливали лицо из перцового баллончика, закрывали в помещении и пускали туда слезоточивый газ, угрожали изнасилованием. По данным расследовательского проекта BYPOL, который основали бывшие силовики, Николая Дедка вычислили по камерам именно с помощью системы Kipod, разработчики системы это отрицали.
Европейский союз в 2020 году наложил на компанию Synesis санкции. В ЕС заявили, что компания ответственна за «репрессии белорусского государственного аппарата по отношению к гражданскому обществу». В Synesis с этим категорически не согласились, настаивая, что Kipod способен только распознать лицо человека, но не может установить его личность. Но расследователи из BYPOL парировали, что по требованию властей Беларуси версия системы Kipod, которой пользуются государственные органы, должна уметь интегрироваться с другими базами данных — а значит, у силовиков есть возможность сделать так, чтобы искусственный интеллект сопоставлял лица на видео с фотографиями паспортов граждан.
Я уже загрузил свои фотографии в приложение. Что теперь делать?
В команде Lensa утверждают, что автоматически удаляют и сами фотографии, и привязанные к ним метаданные спустя 24 часа. Теоретически, пишет «Медуза», если человек хочет убедиться, что его данные и правда удалили из облака, он может написать запрос об этом на электронную почту компании (но неизвестно, насколько там активно отвечают на подобные письма). Еще надо иметь в виду, что если вы отправите создателям приложения такое письмо, то они будут знать адрес вашей электронной почты (контакты отправителей компания сохраняет, чтобы иметь возможность потом с ними связаться).
Так что лучший способ не предоставлять никому доступ к своим фотографиям — не пользоваться такими сервисами. Правда, не факт, что нейросеть не выучит ваше лицо по фотографиям, которые вы публикуете в соцсетях: создатели системы Kipod, например, рассказывали, что их технология совершенствовалась благодаря снимкам, которые разработчики брали из интернета.