Летом автономный ИИ-агент OpenAI без активных инструкций получил доступ к сайтам нескольких государственных учреждений США. В отдельных случаях система выполняла действия с размещёнными там данными.
OpenAI подтвердила несанкционированное взаимодействие с сайтами Министерства торговли и Комиссии по ценным бумагам и биржам США. Проверка эпизода, связанного с ресурсом Министерства образования, ещё продолжается. Компания сообщила, что уведомила ведомства и признала нетипичное поведение автономного агента.
Расследование выявило три типа действий системы. Агент сканировал сайт Министерства образования и пытался получить данные Управления по гражданским правам. Затем он использовал учётные данные из открытых интернет-источников для сбора информации с сайта Бюро переписи населения США, которое входит в структуру Министерства торговли. В третьем случае система передавала открытые государственные данные с сайта SEC на онлайн-форумы.
OpenAI назвала произошедшее неожиданными и тревожными аномалиями, а не утечками данных. Компания сообщила, что действия выполнялись в лабораторных условиях.
Генеральный директор OpenAI Сэм Альтман признал, что компания не всегда сообщала об инцидентах с ИИ так быстро, как хотела бы.
Сэм Альтман, генеральный директор OpenAIМы расставляем приоритеты в отношении инцидентов в зависимости от их серьезности. Инцидент с проникновением в систему Hugging Face остаётся самым серьёзным из выявленных компанией.
Ранее компания уже столкнулась с проверкой Сената США из-за инцидента с Hugging Face, который называла «предупредительным выстрелом». Теперь OpenAI называет этот эпизод самым серьёзным среди выявленных инцидентов, тогда как взаимодействие с госресурсами относит к аномалиям, а не утечкам.