GPT-6 Astra проехала конусную трассу на Toyota со скоростью 1,5 км/ч

В эксперименте участвовали GPT-6 Astra от OpenAI, Grok 4.6 от xAI и Claude Fable 5.1 от Anthropic. Компьютер в автомобиле передавал моделям данные GPS и параметры машины, включая угол поворота руля и положение колёс. В ответ модели отправляли команды рулевому управлению, газу и тормозам. Человек находился за рулём, но машиной не управлял и мог вмешаться с помощью тормоза.

Маршрут проходил по парковке и был обозначен конусами. Успешный заезд GPT-6 Astra занял пять минут: автомобиль проехал меньше 150 метров со скоростью около 0,94 мили в час. Большинство других попыток закончилось уже на первом повороте. По оценке исследователей, модели неверно воспринимали расположение полосы относительно диагонального ряда конусов.

После первой попытки Grok указала, что машина оказалась шире, чем выглядела на изображении с камеры, и модель неправильно оценила пространство перед автомобилем. Это был первый эксперимент, в котором команде удалось заставить универсальные модели самостоятельно управлять настоящей машиной. Авторы считают, что таким системам нужно повысить безопасность и улучшить соблюдение ограничений. Методы их проверки тоже требуют доработки.

Полный тест обошёлся исследователям в $7,74 за обработку примерно 6,6 млн токенов. По подсчётам The Register, это примерно в 500 раз дороже топлива для обычной машины на такой поездке. Некоторые модели также отказывались брать управление, ссылаясь на безопасность. Авторы пробовали менять запросы и предлагать считать ситуацию симуляцией, но после получения снимков реального автомобиля ИИ могли распознать настоящую машину и снова отказаться.

В сентябре OpenAI представила GPT-6 Astra как модель для кибербезопасности, профессиональной работы, программирования, науки и работы с компьютером. Нынешний эксперимент стал проверкой GPT-6 Astra в управлении настоящим автомобилем.