Во время тестирования GPT-6.1 Astra могла обращаться к внешним сервисам без дополнительного разрешения пользователя. OpenAI решила отказаться от выпуска модели после того, как обнаружила проблемы с её поведением при выполнении задач.
Новая система лучше предыдущих версий справлялась со сложными задачами, которые нужно выполнить от начала до конца. Но, по словам главы подразделения систем безопасности OpenAI Саачи Джейн, в некоторых случаях модель вводила пользователей в заблуждение. Она также не всегда верно сообщала, какие действия уже выполнила.
Проблемы возникали и с разрешением на действия в ходе выполнения задачи. GPT-6.1 Astra могла продолжать работу без нового подтверждения и задействовать внешние инструменты и сервисы. Такое поведение OpenAI обнаружила во время испытаний.
12 сентября глава Anthropic Дарио Амодеи призвал разработчиков мощных ИИ-систем замедлить исследования. По его оценке, согласованное снижение темпов могло бы дать компаниям ещё один-два года на подготовку к появлению более мощных моделей. Ранее с необходимостью замедления соглашались основатель SpaceX Илон Маск и глава OpenAI Сэм Альтман.