NVIDIA представила GPU Hopper H200 — ускоритель вычислений
NVIDIA анонсировала свою новую вычислительную платформу HGX H200, специально разработанную для работы с искусственным интеллектом. Отмечается, что платформа HGX H200 готова к использованию в самых мощных суперкомпьютерах.
Основной элемент платформы — графический процессор HGX H200, разработанный на базе архитектуры NVIDIA Hopper. Он оснащен 141 ГБ быстрой памяти HBM3e с пропускной способностью 4,8 ТБ/с. Производитель также заявляет о двукратном повышении производительности при работе с Llama 2 LLM, содержащей 70 миллиардов параметров, по сравнению с HGX H100.
HGX H200 поддерживает восемь каналов вычислений, что обеспечивает более 32 Пфлопс (FP8) для глубокого обучения, а также 1,1 ТБ скоростной памяти для эффективного выполнения генеративного искусственного интеллекта и других высокопроизводительных вычислений.
Платформа HGX H200 будет доступна в двух конфигурациях: с четырьмя и восемью ускорителями вычислений. Она также останется совместимой с аппаратным и программным обеспечением платформы предыдущего поколения. Релиз новинки ожидается во втором квартале 2024 года, и она будет предназначена для использования в центрах обработки данных всех типов.
Кроме того, компания NVIDIA представила «суперчип» GH200 Grace Hopper, включающий в себя графический процессор HGX H200 и процессор NVIDIA Grace с поддержкой интерфейса NVLink-C2C. Этот чип обеспечивает ускорение работы требовательных приложений ИИ, а также высокопроизводительных вычислений, связанных с обработкой терабайтов данных.
GH200 Grace Hopper будет использоваться в более чем 40 суперкомпьютерах в глобальных исследовательских центрах, а также в облачных провайдерах. Среди партнеров NVIDIA в этом проекте такие крупные компании, как Dell, Eviden, Hewlett Packard Enterprise (HPE), Lenovo, QCT и Supermicro.
Один из самых крупных суперкомпьютеров с этим новым чипом, получивший название JUPITER, будет состоять из 24 000 суперчипов NVIDIA GH200, объединенных с сетевой платформой NVIDIA Quantum-2 InfiniBand. Релиз этого суперкомпьютера также запланирован на 2024 год.
