Anthropic ограничила аспиранта после автоматизации обучения ИИ
Аспирант Гонконгского университета науки и технологий Цзяхо Шао рассказал, что поводом для ограничений Anthropic стала автоматизация экспериментов с другими моделями.
По словам Шао, он задействовал сильную открытую модель для создания обучающих примеров, а Claude поручил отправлять ей задачи и анализировать ответы. В таком процессе Claude не обязательно сам генерирует данные: он может управлять другими инструментами и проверять их результаты. Исследователь рассказал об этом в X; его публикация собрала более 277 тысяч просмотров.
Шао утверждает, что система безопасности Anthropic сочла его действия подготовкой к созданию конкурирующей модели. После этого его переключили с Opus 5.5 на Opus 5, завершили активные сессии и стали блокировать попытки запускать процессы, связанные с двумя способами дообучения. Компания публично не объяснила, какие именно действия привели к ограничениям.
Supervised fine-tuning (SFT) обучает модель на примерах с заранее подготовленными ответами. Reinforcement fine-tuning (RFT) улучшает результаты с помощью механизма вознаграждения. Оба метода помогают адаптировать ИИ к конкретным задачам. Их использование может быть частью исследовательской работы, а сама автоматизация экспериментов не доказывает, что пользователь создаёт конкурирующую модель.
Шао обратился к главе Anthropic Дарио Амодеи и заявил о двойных стандартах: по его мнению, ИИ-лаборатории используют большие массивы данных для развития собственных моделей, тогда как платящие пользователи могут столкнуться с ограничениями при исследовательской автоматизации. Без комментария Anthropic нельзя установить, что именно стало причиной решения. Случай оставляет открытым вопрос о том, как независимым командам отличать допустимую работу с API от действий, которые поставщик считает попыткой разработать конкурирующую систему.
