16 октября Apple обновила правила проверки приложений в App Store. Теперь разработчики должны активнее пресекать распространение интимных изображений, созданных без согласия изображённых людей. Изменения касаются сервисов, где пользователи создают контент, в том числе с помощью ИИ. Компания также уточнила, как будет наказывать за функции, которые разработчик скрывает от проверяющих и пользователей.
В разделе 1.2 правил App Review Guidelines Apple отдельно упомянула интимные изображения без согласия человека среди рисков, связанных с пользовательским контентом. Там же названы нарушение интеллектуальных прав и анонимная травля. Правила распространяются на приложения, в которых можно создавать, генерировать, загружать или распространять материалы. Это касается и инструментов, превращающих обычные фотографии людей в сексуализированные изображения.
Разработчики должны заранее предотвращать появление такого контента и удалять его, если он всё же появился. Правила для приложений с пользовательскими материалами также требуют фильтровать нежелательный контент, давать возможность пожаловаться на него и заблокировать нарушителя, а также публиковать контактные данные разработчика. Если защитных мер нет или разработчик не устраняет нарушение после уведомления, Apple может счесть это нарушением кодекса поведения и удалить приложение из App Store.
Отдельное изменение касается приложений, которые при проверке выглядят безобидными, а после одобрения открывают другие возможности. Новый пункт 2.5.19 запрещает скрытые, неактивные и неописанные функции. Apple уточняет, что за сокрытие возможностей в коде приложение могут удалить из магазина, а учётную запись разработчика закрыть. Запрет на скрытую функциональность существовал и раньше, но теперь правила подробнее описывают нарушение и его последствия.
В январе организация Tech Transparency Project сообщила, что нашла в App Store 47 приложений для создания обнажённых или почти обнажённых изображений людей по фотографиям, где те одеты. Позднее организация обнаружила, что поисковые подсказки и реклама в магазине тоже направляли пользователей к подобным приложениям. Эти находки вызвали вопросы к проверке программ до публикации.
Претензии к Apple затронули и ИИ-чат-бот Grok компании xAI. Его использовали для создания сексуализированных изображений женщин и несовершеннолетних без их согласия. Законодатели и общественные организации призывали удалить из App Store Grok и приложение X. Apple их не удалила, но предупредила xAI, что может удалить Grok, если компания не решит проблему.
В июле власти Сан-Франциско потребовали от Apple убрать приложения, способные создавать интимные изображения без согласия людей. Компания сообщила, что выполнила требование. Новая редакция правил закрепляет обязанности разработчиков по работе с таким контентом и меры против тех, кто скрывает функции от проверяющих. Запрет порнографических материалов в App Store действовал и до обновления.
Apple ужесточила и правила о соблюдении законов. Приложения, способствующие торговле людьми или эксплуатации детей, будут удалять из App Store и блокировать для альтернативного распространения. О случаях, связанных с такими приложениями, также будут сообщать властям.
По данным Sensor Tower, приведённым Gizmodo, число новых заявок на публикацию после нескольких лет без заметного роста начало увеличиваться в 2025 году, а в первом квартале 2026-го выросло на 86%. Apple также сообщала, что за прошлый год заблокировала более 150 тысяч приложений с проблемами безопасности и закрыла свыше 193 тысяч учётных записей разработчиков из-за мошенничества.