Компания Intel начала свою конференцию Vision 2024 с представления чипа Gaudi 3 для обработки искусственного интеллекта. Gaudi 3 предназначен для ускорения рабочих нагрузок ИИ на корпоративном уровне, и компания считает, что он быстрее, чем текущий отраслевой эталон — графический процессор Nvidia H100.

Gaudi 3 использует ту же архитектуру и принципы, что и Gaudi 2, но в нем применяется 5-нм техпроцесс TSMC (по сравнению с 7-нм в Gaudi 2), что делает его более эффективным. Gaudi 3 имеет до 128 ГБ HBM2e с пропускной способностью 3,7 ТБ/с и TDP 900 Вт.

Intel показала бенчмарки, сравнивающие Gaudi 3 с лидером рынка Nvidia и ее доминирующим GPU H100, в которых использовались различные модели больших языков, такие как LLAMA2-7B, LLAMA2-13B и GPT 3-175B. Gaudi 3 работает в 1,7 раза быстрее.

Intel также утверждает, что Gaudi 3 в 2,3 раза энергоэффективнее, чем Nvidia H100.

Intel уже отправила модели Gaudi 3 с воздушным охлаждением на пробу партнерам, а их общая доступность ожидается в третьем квартале. Модели с жидкостным охлаждением появятся в четвертом квартале.