Как ИИ сделал из украинки россиянку и незаконно использовал ее для рекламы РФ в Китае
«Не хочу, чтобы кто-то подумал, что я могла говорить такие ужасные вещи. Как они только могли использовать лицо украинки для рекламы России? Это просто абсурд», — говорит Ольга Лоек, 21-летняя студентка из Украины, которая учится в Университете Пенсильвании в США.
Некоторое время назад она обнаружила, что ее лицо было использовано во множестве роликов в китайских социальных сетях. Это было сделано при помощи доступных в онлайне инструментов, генерирующих видео при помощи искусственного интеллекта.
«Я увидела свое лицо, услышала свой голос. Но для меня все это было крайне мерзко, потому что в мои уста вложили слова, которых я никогда не говорила», — рассказала Ольга в интервью Би-би-си.
На аккаунтах, которые публиковали такие видео, девушке давали разные имена — ее называли то Софией, то Наташей, то Эйприл, то Стейси. Все эти персонажи говорили на севернокитайском языке (или мандаринском), который Ольга совершенно не знает. Но самое главное — все они якобы были россиянками, хвалили российско-китайскую дружбу или рекламировали российские товары.
«Я поняла, что в примерно 90% этих видео шла речь о Китае и России, о дружбе между этими двумя странами, о том, что им нужно быть надежными союзниками. И еще там рекламировали пищевые продукты», — говорит Ольга.
Один из самых популярных аккаунтов назывался «Импортная еда от Наташи»: на него подписано более 300 тыс. пользователей. В числе прочего ведущая канала «Наташа» говорит примерно следующее: «Россия — это лучшая страна в мире. Грустно, что другие страны отворачиваются от России. Российские женщины хотят приехать в Китай». А затем начинает рекламировать российские сладости.
Для Ольги это было особенно оскорбительно, поскольку ее семья живет в Украине — и она всячески поддерживает свою страну, противостоящую полномасштабному вторжению российских войск.
Как такое стало возможным?
Говорящие по-китайски «клоны» Ольги начали появляться в 2023 году, вскоре после того, как украинка создала свой канал в YouTube (она обновляла его не очень часто). Примерно через месяц после появления канала ей начали писать различные люди, которые говорили, что увидели ее в китайских социальных сетях.
Когда Ольга решила выяснить, о чем идет речь, оказалось, что ее изображение, созданное при помощи ИИ, фигурирует в множестве роликов на платформе Xiaohongshu (с севернокитайского языка ее название переводится как «Маленькая красная книга», сайт часто называют китайским аналогом инстаграма), а также в Bilibili — аналоге
Ольга обнаружила, что ее лицо было использовано в 35 аккаунтах
«Таких аккаунтов оказалось очень много. На некоторых в биографии были российские флаги», — рассказывает Ольга. В общей сложности она обнаружила, что ее лицо используют 35 различных аккаунтов.
Официальный представитель HeyGen сообщил Би-би-си, что системы компании были взломаны для производства, как он выразился, «несанкционированного контента». По его данным, протоколы безопасности и верификации пользователей в фирме были немедленно обновлены, чтобы предотвратить подобные злоупотребления в будущем.
Однако Анжела Чжан из Университета Гонконга говорит, что произошедшее с Ольгой «очень типично для Китая». В этой стране «есть огромный подпольный бизнес, который занимается подделкой и незаконным использованием личных данных, а также производством дипфейков», говорит эксперт.
И это несмотря на то, что Китай стал одним из первых государств в мире, которые пытаются регулировать использование ИИ в различных областях. Власти даже внесли специальные изменения в законы, чтобы предотвратить использование лиц людей без их согласия.
По данным китайских правоохранительных органов, в 2023 году за создание видеороликов с «чужими» лицами были арестованы 515 человек. Некоторые такие дела рассматривались в китайских судах.
Подробнее на https://www.bbc.com/russian/articles/c51n1048wwzo