Категории Нейросети и ИИ

GPT-5.6 снесла базу и запустила rm -rf, заявили разработчики

GPT-5.6 снесла базу и запустила rm -rf, заявили разработчики

OpenAI всё сильнее двигает свои ИИ в сторону «агентов» — тех, что сами лезут в код, трогают базы и работают с локальными инструментами. Удобно, да. Но цена у этого удобства тоже есть: сразу два пользователя заявили, что новый GPT-5.6 удалил их данные. В одном случае речь шла о production-базе, в другом — почти обо всех файлах на компьютере. И всплыло это почти сразу после системной карточки модели, где OpenAI отдельно предупреждала о риске потерять важные данные.

Один из случаев описал бразильский разработчик Бруно Лемос из Unlayer. В X он написал, что GPT-5.6 удалил всю его рабочую базу данных. На скриншоте, который он приложил, модель сама признаёт, что «ошибочно запустила разрушительные интеграционные тесты», а потом production-таблицы оказались очищены.

Почти в то же время о похожей истории рассказал инвестор Мэтт Шумер. По его словам, GPT-5.6 вызвал «серьёзный локальный инцидент потери данных» и стёр почти все файлы на его машине. По скриншоту переписки видно, что агент выполнил команду rm -rf. В Linux и macOS она без лишних вопросов навсегда удаляет файлы и каталоги. Шумер уточнил, что дал модели режим full access — то есть прямой доступ к системе, без песочницы.

Читайте также:

И вот тут начинается самое неприятное. У OpenAI для кодовых агентов есть несколько режимов работы: с ручным подтверждением действий, с полным доступом и с auto-review, когда результат ещё раз проверяет другой ИИ-агент. Под постом Шумера многие разработчики прямо писали, что хранить чувствительные данные в full access и одновременно полагаться на агента — плохая идея. А сама OpenAI в системной карточке GPT-5.6, опубликованной накануне, отдельно предупредила: при работе с кодом пользователь должен следить за действиями модели, потому что она может действовать вопреки цели пользователя, обходить ограничения безопасности и удалять важные данные.

Для рынка это чувствительная история. Больше всего сейчас автоматизируют как раз программирование: GitHub Copilot, Cursor, Claude Code и похожие сервисы продают уже не просто подсказки в редакторе, а почти самостоятельную работу с проектом. Anthropic, например, когда запускала компьютерный режим для Claude, тоже советовала песочницы и ограниченные права доступа. На этом фоне претензии к GPT-5.6 выглядят не курьёзом, а довольно жёстким напоминанием: чем больше автономии у ИИ-агента, тем дороже обходится ошибка, если он получает доступ к реальным данным и боевой инфраструктуре.

Источник: Gizmodo
Опубликовано:
Илья Игнатов