Мы знаем, что вы больше не можете видеть портреты, сгенерированные приложением Lensa Поэтому поговорим о том, насколько оно безопасно (его придумали российские разработчики, и многих это беспокоит)
Мы знаем, что вы больше не можете видеть портреты, сгенерированные приложением Lensa Поэтому поговорим о том, насколько оно безопасно (его придумали российские разработчики, и многих это беспокоит)
В конце ноября самым скачиваемым iOS-приложением в России стал фоторедактор Lensa, следует из данных аналитической платформы data.ai. Его популярность, судя по чартам App Store, стремительно растет и по всему миру. Приложению уже четыре года, но по-настоящему вирусная функция Magic Avatars появилось в нем только сейчас. Она позволяет генерировать огромное количество завораживающих портретов, которые нейросеть рисует на основе снимков пользователей. «Медуза» рассказывает, почему среди многих фоторедакторов на основе искусственного интеллекта именно Lensa — приложение от российских разработчиков — стала предметом широкого обсуждения и есть ли у пользователей основания бояться за свои данные.
Откуда взялась Lensa?
Приложению Lensa уже почти четыре года: на iOS его запустили в декабре 2018-го, на Android — в январе 2019-го. Фоторедактор, работающий на основе нейросетей, на мировом IT-рынке позиционировали как «Photoshop одним кликом». В нем можно быстро отретушировать фото, сделать цветокоррекцию, размыть задний фон (по аналогии с портретным режимом на айфоне) или поменять его на что угодно, а также стилизовать снимок — например, под анимацию или картину.
Продвижению Lensa с самого начала помогала репутация основателей — российских разработчиков Prisma Labs. К моменту запуска нового приложения они уже имели в портфолио знаменитый фоторедактор Prisma, который преобразовывал снимки в рисунки, стилизованные под полотна известных художников. На пике популярности Prisma в 2016-м владельцы смартфонов ежедневно генерировали миллионы изображений. И Apple, и Google внесли фоторедактор в рейтинги лучших приложений по итогам года; американский Forbes добавил сооснователя Алексея Моисеенкова в список самых ярких предпринимателей младше 30 лет — а «Медуза» взяла у него интервью.
Еще до взрывного роста Prisma в этот стартап вкладывал деньги, например, инвестиционный фонд Gagarin Capital, сооснователем которого был Николай Давыдов (в 2020 году покинул компанию), а уже после обретения популярности — холдинг Mail.ru Group (сейчас — VK).
За успехом последовал спад. Моисеенков называл его «предсказуемым» и отмечал, что «рост был настолько велик, что удержать показатель в два миллиона закачек в день практически нереально». В 2018 году Моисеенков и сам покинул компанию — и занялся другими продуктами на основе машинного обучения. Mail.ru Group тоже в итоге вышла из проекта. Его основным инвестором стал изначальный совладелец — базирующийся на Кипре венчурный фонд Haxus белорусского предпринимателя Юрия Гурского.
Гендиректором Prisma Labs стал его сооснователь Андрей Усольцев. После 24 февраля 2022 года и на фоне массового оттока IT-специалистов из России стартап занялся перевозом сотрудников на Кипр. Остались ли в проекте китайские инвесторы (а были еще и такие: Forbes писал о них в 2019-м), неизвестно.
Prisma Labs состоит из двух компаний — Prisma и Lensa. Приложение Lensa, кажется, пытается повторить успех Prisma — и проходит испытание аномальной популярностью. С конца ноября 2022 года Lensa занимает лидирующие позиции в App Store (в Google Play — по непонятным причинам нет) и стихийно распространяется по соцсетям благодаря пользователям, которые с огромным удовольствием делятся сгенерированными портретами.
Сам Андрей Усольцев заявил «Медузе», что сейчас Lensa — это «самое скачиваемое» приложение в App Store 11 стран, «включая США и Бразилию». По его словам, фоторедактор близок к тому, чтобы войти в топ-10 в чартах еще 22 стран.
Чем уникальна новая функция в Lensa — и за что ее уже критикуют?
Функция Magic Avatars генерирует портреты, стилизованные под разные стили — от супергеройского, мистического и sci-fi до изображений, превращающих пользователя в киборга, космонавта, персонажа аниме или рок-звезду.
Lensa в несколько кликов позволяет создавать уникальные изображения, которые люди массово ставят на свои аватары в твиттере, инстаграме, фейсбуке и телеграме. Всякий раз нейросеть генерирует уникальную картинку — это означает бесконечное количество изображений, которые можно получить в обмен на разные «скормленные» приложению снимки.
Работает Lensa на основе продвинутой модели для синтеза изображений Stable Diffusion, открытой для разработчиков по всему миру. Фактически она позволяет воспроизвести любой заданный визуальный стиль — и абсолютно резонно вызывает опасения некоторых художников и иллюстраторов (не всех), которые боятся лишиться работы.
Для «магии» из галереи телефона нужно загрузить в приложение от 10 до 20 портретных снимков или селфи. Генерация изображений обычно занимает 15–30 минут. Создатели Lensa признают, что нейросеть пока работает не идеально, поэтому просят следовать рекомендациям:
- загружать фотографии, на которых изображен один и тот же человек, его не должны окружать другие люди;
- использовать только портретные снимки;
- по возможности загружать фотографии с разными эмоциями на лице — и так, чтобы его в итоге было видно со всех сторон;
- загружать снимки из разных мест и не использовать результаты фотосессий, которые обычно проводятся на одном фоне или в одном месте;
- не использовать фото детей.
Lensa запрещает загружать снимки с обнаженным телом. При этом фемактивистка Дарья Серенко, посвятившая отдельный пост сексуализации женщин создателями приложения, утверждает, что среди прочих сгенерированных изображений получила от нейросети нюдсы — хотя загрузила 20 «одетых фотографий». О неожиданно откровенных или некорректных результатах пишут и некоторые другие пользовательницы приложения. «Выбираешь гендер в приложении — обзаводишься цветами и почему-то грудью большего размера, чем располагаешь в реальности», — рассказывает Серенко, обвиняющая создателей Lensa в сексизме.
Если скормить нейросети фотографии с одним и тем же фоном, без разнообразных ракурсов или в компании друзей, результаты могут разочаровать. На начальном этапе обучения искусственного интеллекта проблем хватает: например, многие пользователи, даже следующие рекомендациям, жалуются на «кривые глаза», смотрящие в разные стороны. Некоторые пользователи недовольны тем, что нейросеть ошибочно определяет их происхождение: претензии вроде «по версии Lensa, я азиат» встречаются нередко.
Гендиректор Prisma Labs Андрей Усольцев на вопрос о критических замечаниях пользователей ответил «Медузе», что нейросеть «постоянно учится». По его мнению, корректное изображение глаз и рук — это «постоянная проблема» искусственного интеллекта. Усольцев также признал, что ИИ в некоторых случаях создает сексуализированные изображения — уточнив, что это касается не только женщин, но и мужчин.
Нейросеть постоянно учится и с каждой выполненной «работой» становится лучше. Корректное изображение глаз, как и рук, — это постоянная проблема для искусственного интеллекта. Исключением в этом случае не будет и Stable Diffusion.
Верно и то, что иногда искусственный интеллект может выдавать сексуализированные изображения. Такие результаты наблюдаются и в отношении мужчин, и женщин, в разных случаях по-разному.
Модель Stable Diffusion, которая стоит за генерацией аватаров, обучалась на интернет-контенте без фильтрации. Таким образом, предупреждения и намерения, которые могли первоначально вкладываться людьми в созданные ими изображения, отражаются в результатах. Создатели Stable Diffusion признают, что это возможно. И мы тоже.
Мы как компания с целью решить эту проблему внедрили адаптацию текстовых запросов (промтов). Но поначалу контент может быть изменен с помощью этого только частично.
Поэтому мы уточняем, что Lensa не предназначено для несовершеннолетних, и предупреждаем пользователей о возможных результатах. Мы также воздерживаемся от использования таких изображений в промоматериалах.
Загружать фотографии в приложение, сделанное россиянами… М-м-м, это вообще безопасно?
Загруженные в Lensa фотографии пользователей попадают в базу данных, которая нужна для обучения нейросети — так ее результаты со временем становятся корректнее и в целом лучше. Но это вызывает и опасения — на фоне постоянных новостей о сливах персональных данных и интернет-мошенниках, а также о применении в России системы распознавания лиц, с помощью которой задерживают участников антивоенных и других акций.
Еще одна предсказуемая причина для опасений за безопасность — российские корни Lensa. Приложение к тому же стало популярным в Украине. Местные журналисты прямо призывают читателей не пользоваться фоторедактором (и предлагают альтернативы). «C учетом работы российских спецслужб никто не может гарантировать вам достаточный уровень безопасности при использовании написанных врагом программ», — в частности, отмечает издание Ain.ua.
Украинские СМИ напоминают, что долей в Prisma Lab владела Mail.ru Group (сейчас VK) — собственник заблокированных в Украине российских соцсетей «ВКонтакте» и «Одноклассники». Компания вышла из состава акционеров стартапа в 2019 году. Нынешний владелец Prisma Lab — венчурный фонд Haxus — создан предпринимателем Юрием Гурским, бывшим вице-президентом Mail.ru Group (в 2016-м его уволили из холдинга, предположительно из-за «конфликта интересов»; с того же года он живет на Кипре и развивает не связанные с Россией проекты).
Украинские журналисты также просят не пользоваться платными услугами Lensa (то есть функцией по созданию аватаров), чтобы не оказывать «прямую поддержку полномасштабной агрессии» России. При этом Prisma Lab не платит налоги в РФ: изначально она находилась в Москве, но сейчас зарегистрирована на Кипре и в Сан-Франциско.
«Там [в России у нас] нет ни офиса, ни юридических лиц, ни сотрудников, — говорит „Медузе“ гендиректор Prisma Labs Андрей Усольцев. — Мы собрали международную команду, в которой состоят несколько российских граждан — они работают с нами либо находясь на Кипре, либо удаленно. Если наши новые сотрудники предпочитают работать с нами на Кипре, мы предоставляем услуги по релокации».
«Медузе» не удалось обнаружить ни одной истории, связанной с утечкой данных, в которой бы фигурировала Prisma Lab. При этом Lensa прямо указывает, какую информацию собирает: в частности, компания специально не запрашивает метаданные (например, геолокацию), но отмечает, что они могут быть привязаны к фотографиям, и обещает автоматически удалять их вместе с загруженным снимком. Усольцев в комментарии «Медузе» добавил, что Prisma Lab хранит «минимально необходимый объем данных для того, чтобы предоставлять пользователям качественные услуги».
Помимо того, что пользователь приложения предоставляет доступ к камере и галерее, Lensa автоматически может забирать данные о своем использовании, адрес интернет-протокола (IP) и cookie. Все это вполне стандартные настройки для фоторедактора и многих других приложений («Медуза», к примеру, тоже использует cookie).
В правилах приложения (которые обычно мало кто читает) говорится, что пользователи соглашаются на бессрочную, не исключительную лицензию по отношению к собственным фото, и это тоже типичное решение для таких платформ. Снимки пользователей загружаются на серверы Prisma Labs в облачных хранилищах Google Cloud Platform или Amazon Web Services; команда Lensa гарантирует, что пользователи остаются анонимными. Из облаков, как утверждают создатели, снимки удаляются через 24 часа. Lensa также предупреждает новых пользователей, что они автоматически соглашаются помогать «тренировке» искусственного интеллекта.
Теоретически пользователь Lensa, который хочет убедиться в том, что его фото удалены, может написать на почту компании — но она может и отказать, если решит, что запрос каким-либо образом нарушает законы об информации. О том, насколько активно компания отвечает на такие письма, открытых сведений нет. Если в момент использования приложения вы находитесь в Евросоюзе, можно воспользоваться правом удалить их согласно GDPR — закону ЕС о защите персональных данных. Стоит учесть, что при запросе Lensa сохраняет копию переписки и предоставленные контактные данные, благодаря которым можно связаться с пользователем.
Lensa вроде как бесплатна. Но так ли это на самом деле?
Приложение Lensa бесплатно для скачивания в App Store или Google Play — но сгенерировать портреты (ради которых вы его и установите) получится, только если оплатить функцию Magic Avatars. Ее стоимость снизится, если перед этим оформить бесплатную пробную подписку.
Оплатить функцию из России можно, но ограниченно — только если вы пользователь iOS и можете пополнить Apple ID по номеру телефона. С использованием пробного периода или подписки на Lensa стоимость составит:
- за 50 портретов (по пять в десяти стилях) — 179 рублей в России, или 2,49 евро в Европе;
- за 100 — 279 рублей, или 3,49 евро;
- за 200 — 379 рублей, или 4,99 евро.
Если вовремя не отменить подписку на пробный период, после его окончания Lensa спишет с карты 1990 рублей, или 29,99 евро, — это оплата за год вперед. Создатели приложения объясняют, что работа нейросети состоит не только из сложных алгоритмов, но и «огромных вычислительных мощностей» — их поддержку нужно оплачивать. Доходы от функции Magic Avatars компания не раскрывала.
«Медуза»