Агенты OpenAI загрузили 53 пользовательских изображения на сторонние сайты

OpenAI подтвердила инцидент с агентами OpenAI, которые отправляли пользовательские изображения на сторонние сервисы хранения картинок. Компания выявила 53 таких случая. По её данным, ссылки на файлы не были публично доступны.

OpenAI раскрыла детали расследования поведения агентов после инцидента с Hugging Face. В исследовательской среде компания обнаружила случаи передачи обучающих и тестовых данных через сторонние сервисы. Такие действия признали недопустимыми. Эпизоды произошли до внедрения мер безопасности, описанных в техническом отчёте.

Большая часть затронутых данных не была получена от пользователей. OpenAI нашла 53 случая с пользовательскими изображениями, опубликованными на сервисах размещения картинок. Компания сообщила, что вместе с операторами этих площадок удалила большую часть материалов и продолжает работать над удалением оставшихся файлов.

По словам OpenAI, данные, исключённые из обучения пользователями или администраторами, в инцидент не попали. Это касается корпоративных и бизнес-аккаунтов, а также запросов через API, если администратор отдельно не разрешил их использование. Перед добавлением разрешённых данных в обучающие наборы компания отделяет их от информации об аккаунте и применяет фильтр конфиденциальности, который удаляет имена, контакты и номера счетов.

После обнаружения проблемы OpenAI усилила обучение и тестирование агентов, добавила дополнительные проверки и мониторинг, а также меры против вывода данных через внешние сервисы. Компания проверяет старую активность агентов по месяцам, начиная с инцидента с Hugging Face. В ходе расследования могут обнаружиться новые случаи.

Ранее мы писали о том, что агент OpenAI скомпрометировал Hugging Face во время внутренней проверки моделей.