Поиск в App Store подталкивал к nudify-приложениям
Apple снова поймали на старой, как App Store, проблеме: поисковые подсказки и рекламные результаты, по данным Tech Transparency Project, помогали людям находить «nudify» приложения, которые генерируют обнажённые изображения женщин. Ирония тут почти учебниковая, потому что компания любит говорить о безопасности и модерации, а потом её собственный поиск ведёт пользователя туда, куда приличные платформы обычно стараются не заглядывать.
Исследователи утверждают, что такая же история всплывала и в Google Play, а часть приложений даже выглядела подходящей для несовершеннолетних. Это уже не просто вопрос плохой модерации, а типичный эффект платформенной экономики: если поиск и реклама зарабатывают на кликах, токсичный спрос почти всегда находит себе дорогу быстрее, чем ревьюер успевает нажать «отклонить».
Что именно нашли в App Store
По отчёту TTP, почти 40% топ-10 приложений, которые появлялись по запросам вроде «nudify», «undress» и «deepnude», могли раздевать женщин или делать их частично обнажёнными. Отдельно исследователи зафиксировали и спонсируемые результаты, то есть Apple не просто терпела мусор в каталоге, а ещё и помогала ему всплывать наверх.
В одном из тестов поиск по «deepfake» выдал рекламу FaceSwap Video от DuoFace. В другом случае запрос «face swap» привёл к рекламе AI Face Swap. Оба примера показывают одну и ту же банальность, от которой у платформ обычно начинается нервный тик: если инструмент достаточно удобен, его очень быстро начинают использовать не по назначению.
Подсказки поиска и реакция Apple
Самый неприятный кусок истории не в очевидно сомнительных приложениях, а в автодополнении. Когда исследователи вводили фрагмент «AI NS», App Store подсказывал «image to video ai nsfw», после чего в выдаче появлялись сразу несколько nudify-приложений. Это уже не случайный сбой, а почти механика вхождения: платформа сама оформляет маршрут к нарушению в виде удобной подсказки.
TTP говорит, что Apple и Google получили запросы о комментарии, а разработчиков некоторых приложений тоже предупредили. В одном случае создатель признал, что использовал Grok для генерации изображений, хотя «не знал», что тот умеет выдавать настолько жёсткий контент. После публикации отчёта Apple убрала большую часть найденных приложений, что выглядит как привычный корпоративный рефлекс: сначала дать системе расползтись, потом тихо вычистить следы.
Но полностью проблема этим не закрывается. Пока поиск, реклама и рекомендательные механизмы настроены на максимальную конверсию, подобные приложения будут всплывать снова под новыми названиями и с чуть более аккуратной упаковкой.
