Линки доступности

Созданные ИИ видео украинки в Китае используют для рекламы товаров из России


Китайские интернет-клоны украинки Ольги Лоек
Китайские интернет-клоны украинки Ольги Лоек

ИИ-клон студентки Ольги Лоек продает российские товары в китайском интернете и рассказывает о желании выйти замуж за китайца

В феврале 2024 года в китайских социальных сетях стало появляться множество видео с иностранками, сгенерированных с использованием искусственного интеллекта: они говорят на китайском и пропагандируют любовь к Китаю.

Персонажи этих видеороликов созданы на основе украденных онлайн-изображений, воспроизведенных и переработанных настолько правдоподобно, что их прототипы узнают в этих видео себя.

Одна из таких женщин – Ольга Лоек – 20-летняя студентка из Украины, изучающая когнитивные науки в Пенсильванском университете. Пару месяцев назад Лоек завела канал на YouTube, где начала рассказывать о психическом здоровье и делиться своими взглядами на жизнь.

Вскоре после создания канала она начала получать сообщения от подписчиков о том, что они видели ее в китайских соцсетях. И там она совсем не Ольга Лоек, а русская женщина, которая говорит на китайском языке, любит Китай и хочет выйти замуж за китайца. Ее зовут Наташа, или Анна, или Грейс – в зависимости от социальной сети, в которой используется ее изображение.

«Я начала переводить видео с помощью Google Translate и поняла, что большинство этих аккаунтов говорят о таких вещах, как Китай, Россия, о том, насколько хороши отношения между Китаем и Россией, – рассказала она «Голосу Америки». – Это воспринимается очень оскорбительно».

В некоторых видео героини рассказывают, как высоко они ценят тесные связи России и Китая. В других видео они восхваляют китайскую историю и культуру, или же говорят о том, как сильно русские женщины хотят выйти замуж за китайцев.

«Если вы женитесь на русских женщинах, мы будем стирать одежду, готовить и мыть посуду за вас каждый день, – говорит виртуальный персонаж на видео. – Мы также родим вам детей-иностранцев, сколько захотите».

На видеосайтах Douyin и Bilibili нашлось несколько десятков видеороликов с ИИ-версией Ольги, говорящей на мандаринском диалекте китайского языка. Большинство из этих аккаунтов предлагают зрителям посетить их интернет-магазины, чтобы купить, по их словам, подлинные российские товары.

Сеть Douyin – китайская версия TikTok – пометила некоторые из этих видео как возможно созданные искусственным интеллектом. Но, судя по комментариям, многие всерьез решили, что перед ними настоящая женщина из России. Один из пользователей написал: «Русская красавица, китайский народ приветствует тебя».

Лоек заявляет, что никогда бы, разумеется, не сказала ничего подобного, ведь она из Украины, с которой Россия ведет полномасштабную войну с 2022 года.

«Возможно, это делается чтобы дать понять китайцам, что иностранцы чувствуют превосходство Китая», – говорит Лоек.

На крупнейшем китайском видеосайте Bilibili некоторые видеоролики с искусственным интеллектом и лицом Ольги Лоек помечены логотипом HeyGen, что указывает на то, что видео было создано на сайте компании.

В одном из видеоуроков на сайте Bilibili рассказчик даже показывает, как на сайте HeyGen можно сделать короткое видео с говорящем персонажем Ольги.

HeyGen – компания, занимающаяся разработками в области искусственного интеллекта (ИИ) со штаб-квартирой в Лос-Анджелесе. Она начала работать в Китае в 2020 году. Компания специализируется на создании реалистичных цифровых персонажей, генерации голоса и переводе видео.

Разработанная HeyGen технология использовалась в видеороликах с Дональдом Трампом и Тейлор Свифт, говорящими на безупречном китайском. Эти ролики стали вирусными в социальных сетях КНР в октябре 2023 года. По данным Forbes, сейчас компания оценивается в 75 миллионов долларов.

Согласно политике модерации контента HeyGen, пользователи не могут создавать персонажей, «представляющих реальных людей, включая знаменитостей или общественных деятелей, без их явного согласия». В официальном обучающем видео компании указывается, что для создания ИИ-персонажей из каких-либо реальных людей, пользователи обязаны предоставить видео с согласием этих людей на использование их образов. Пока неясно, как пользователи в Китае смогли обойти это требование для создания образа Ольги Лоек.

По словам Лоек, после того как она и ее подписчики на YouTube направили жалобы в китайские социальные сети, около дюжины фальшивых аккаунтов были удалены.

«Голос Америки» обратился за комментариями в ByteDance, материнскую компанию HeyGen и Douyin, но пока не получил ответа.

В начале 2023 года правительство Китая ввело в действие закон о регулировании «дипфейков» и других «сервисов глубокого синтеза». Закон запрещает генерировать дипфейки без согласия людей на использование их изображения или другой информации.

Когда Ольга выложила свою историю на YouTube, ей поделились также и в китайских соцсетях. Пользователи различных платформ сочувствовали ей и призвали ужесточить регулирование искусственного интеллекта.

Китайские технологические гиганты, такие как Baidu и Tencent, вкладывают значительные средства в технологии искусственного интеллекта. Одной из самых популярных услуг, предоставляемых с помощью ИИ, являются цифровые версии различных людей.

Tencent и Xiaoice – китайская ИИ-студия, вышедшая из состава Microsoft – предлагают услуги создания цифровых личностей, с помощью которых можно клонировать изображения людей и превращать их в ИИ-персонажей (аватаров) всего за $145.

ИИ-аватары также обнаружились в кампаниях по дезинформации в Интернете, распространяющих прокитайские и антиамериканские нарративы. В феврале 2023 года исследовательская компания Graphika обнаружила в соцсетях кампанию по продвижению интересов Китая с использованием в видеороликах реалистично выглядящих людей, сгенерированных компьютером.

В сентябре 2023 года Госдепартамент США в своем докладе предупредил: «Доступ к глобальным данным в сочетании с последними достижениями в области технологий искусственного интеллекта позволит КНР точечным образом воздействовать на иностранную аудиторию и тем самым, возможно, влиять на решения в области экономики и безопасности в свою пользу».

Что касается самой Ольги Лоек, то она не планирует уходить с YouTube или прекращать размещать материалы.

«Нам нужна какая-то нормативная база, чтобы мы могли понимать и предотвращать подобные вещи», – сказала она.

Материал подготовлен при участии Адрианы Джан (Adrianna Zhang)

Форум

XS
SM
MD
LG