TikTok заблокировал 20 аккаунтов с искусственно созданными аватарами чернокожих женщин после расследования BBC, выявившего использование этих образов для продвижения платного сексуального контента. Эти аккаунты, преимущественно в Instagram*, представляли вымышленных персонажей с чрезмерно сексуализированным и стилизованным образом, нарушая правила платформы по маркировке AI-контента и вызывая обвинения в расизме и эксплуатации.
Боты и аватары с искусственным тёмным оттенком кожи выходят за рамки реалистичности и сопровождаются провокационными надписями и комментариями, которые усиливают расовые стереотипы, включая фетишизацию и этнические клише. Выложенные видео зачастую выдаются за реальные, при этом некоторые аккаунты воровали контент настоящих создательниц, накладывая свои «темнокожие» лица на их тела.
Обнаруженные авторитетными исследовательскими изданиями Riddance и BBC аккаунты демонстрируют цифровых персонажей с искусственным затемнением кожи в минимальной одежде и с явно преувеличенными формами. Кожные тона создаются с помощью AI, придавая им нереалистичный, почти «фантастический» вид. Аккаунты используют слова вроде «black», «noir», «dark» или «ebony» в названиях и часто ориентированы на продвижение платного сексуального контента через цепочки ссылок.
Одним из наиболее резонансных случаев стала подмена личности модели Riya Ulan из Малайзии. Аккаунт, имитирующий её движения и фон, но с крайне тёмным искусственным лицом, быстро набрал три миллиона подписчиков и распространил видео с десятками миллионов просмотров, значительно превзойдя оригинальные публикации Рии. При этом аккаунт участвовал в продвижении взрослого контента, что вызвало у модели возмущение и обеспокоенность.
TikTok оперативно отреагировал на запрос BBC, заблокировав десятки таких аккаунтов и подчистив контент. Компания подчеркнула запрет на AI-материалы без согласия изображаемых лиц и жёсткое отношение к продвижению сексуальных услуг вне платформы. Meta*, владелец Instagram*, пока только расследует ситуацию, официальных удалений или блокировок не объявляло.
Исследователи отмечают, что основная проблема — скрытность происхождения материалов и отсутствие обязательной маркировки как AI-созданных. Это затрудняет пользователям отличить настоящее от искусственного, подрывая доверие и увеличивая злоупотребления, связанные с расовыми стереотипами.
Исследовательница Angel Nulani считает эти аккаунты проявлением расизма, воспроизводящим давнюю эксплуатацию чернокожих женщин через стереотипы и сексуализацию. Jeremy Carrasco указывает, что именно AI упростил создание искусственно затемнённых и карикатурных образов, которые ранее требовали сложных техник в анимации или макияже.
Модель и активистка Houda Fonone предупреждает о рисках «стирательства» реальных образов и опытов чернокожих женщин, когда киберпредставления вытесняют живую культуру и разнообразие. Она критикует идеалы превосходства светлой кожи и утончённости, которые часто продаются в соцсетях как единственно приемлемые.
В обозримом будущем вопрос о регулировании и этике в сфере AI-генерации образов приобретает всё большую актуальность. Компании-платформы и пользователи столкнутся с дилеммой: как обеспечить прозрачность и недопущение манипуляций, не ограничивая творческие возможности технологий.
* Принадлежит компании Meta, она признана экстремистской организацией в РФ и её деятельность запрещена.