Arm заявила о преимуществе AGI CPU в задачах ИИ-агентов до 3,19 раза
«Отрасли нужно измерять, насколько хорошо системы справляются с работой, которую агенты действительно выполняют», — заявил исполнительный вице-президент Arm по облачному ИИ Мохамед Авад.
Компания представила результаты сравнения процессора AGI CPU с AMD EPYC 9755 в задачах для ИИ-агентов. Исследователи Signal65 измерили производительность процессоров, а затем рассчитали показатели для серверных стоек с одинаковым ограничением по энергопотреблению.
По данным Yahoo Tech, сравнение охватило семь нагрузок, связанных с использованием программных инструментов, самостоятельным выполнением задач, поиском информации и обслуживанием ИИ-моделей. Среди тестов названы Terminal-Bench 2 и SWE-bench. Среднее преимущество AGI CPU в расчёте на стойку составило 1,99 раза, а результаты отдельных тестов лежали в диапазоне от 1,43 до 3,19 раза.
Arm разработала методику оценки при поддержке Fujitsu, Meta* и OpenAI. Она учитывает не только число одновременно работающих агентов, но и объём полезной работы, которую они успевают выполнить. Агенты вызывают инструменты и сервисы, обращаются к данным и работают в изолированных средах. Signal65 проводила оценку при сотрудничестве с Arm; сам анализ был заказан Arm.
Производительность Arm AGI CPU на серверную стойку
В модели с лимитом 24 кВт в стойку помещаются от 21 до 23 серверов с AGI CPU либо 13 двухпроцессорных систем с EPYC 9755. Для серверов Arm расчётное потребление составляет от 950 до 1050 Вт на систему, для конфигураций AMD указаны 1700 Вт. На преимущество в расчёте на стойку влияют результаты процессоров в тестах и число серверов, которое допускает энергетический лимит.
В зависимости от конфигурации стойка с системами Arm содержит от 5712 до 5888 физических ядер против 3328 у AMD. По категориям нагрузок расчётное преимущество Arm в среднем составило 1,7 раза для работы с инструментами, 2 раза для задач агентов и 2,2 раза для рассуждения и планирования. В отчёте также оценили, что для сопоставимых операций с базами данных и векторного поиска может потребоваться на 30—35% меньше стоек.
Отдельное испытание касалось создания изолированных сред. В тесте Sandbench AGI CPU сравнивали уже с другим процессором AMD, EPYC 9965: холодный запуск завершался на 45% быстрее, тёплый — на 27% быстрее. В худшем сценарии при четырёхкратном превышении числа одновременно выполняемых задач преимущество составило 41%.
Результат для стойки получен расчётным путём на основе измерений процессоров и допущений об энергопотреблении серверов. Испытания на конечных серийных системах ещё предстоят; Arm также планирует проверить дополнительные нагрузки и провести новые сравнения. Приведённые цифры относятся к выбранным процессорам и конфигурациям, а не к производительности во всех задачах дата-центра.
Arm впервые представила собственный процессор AGI CPU как готовое к производству решение для AI-дата-центров. Нынешний материал продолжает историю того же чипа на этапе оценки его производительности.
* Принадлежит компании Meta, она признана экстремистской организацией в РФ и её деятельность запрещена.
