Biren показала ИИ-суперузел на 1024 ускорителя с оптическими линиями

Китайская Biren Technology на Всемирной конференции по искусственному интеллекту в Шанхае показала архитектуру ИИ-суперузла, рассчитанную на сборку до 1024 ускорителей в одну систему. Делают ставку на оптические межсоединения: ими компания хочет заменить часть медных каналов, которые уже упираются в длину, энергопотребление и потери сигнала.

И вот тут начинается самое интересное: в больших ИИ-кластерах узкое место всё чаще не сам GPU, а то, как быстро и без потерь он обменивается данными с соседними чипами. Biren говорит, что обычный сервер с ускорителями уже подходит к потолку примерно в 128 GPU, поэтому связь выносится на оптику, а вычисления стараются собрать в единое пространство памяти.

На WAIC компания показала не только саму архитектуру, но и семейство ускорителей BR2xx, рассчитанных на такие конфигурации. Заодно представили протокол Blink 2.0 — он должен помогать строить общее адресное пространство для большого числа карт и тем самым упростить распределённые вычисления уже на уровне инфраструктуры, а не только софта.

Характеристики ИИ-суперузла Biren

Линейка, о которой рассказала Biren, включает три уровня систем. Самая компактная версия — на 16 карт, для обычных серверов. Средний вариант — 128 ускорителей, под конфигурации высокой плотности.

Но самая заметная конфигурация, конечно, другая: распределённый оптический суперузел на 1024 карты. Здесь оптика и должна снять ограничения, которые в классических системах создают проводники, расстояния между узлами и лишний расход энергии на передачу данных.

• Суперузел на 16 карт для обычных серверов.
• 128-карточная система высокой плотности.
• Распределённый оптический суперузел на 1024 карты.
• Протокол Blink 2.0 для общего пространства памяти.
• Технология near-packaged optics, размещённая рядом с вычислительными компонентами.

NPO, или near-packaged optics, здесь выступает как переходный слой между вычислительным блоком и сетью. Смысл простой: подвести оптический тракт как можно ближе к чипам и урезать потери, которые появляются в длинных медных соединениях. Для больших ИИ-систем это уже не мелкая доводка, а попытка убрать ограничение, которое начинает диктовать всю архитектуру кластера.

Оптические ускорители в ИИ-кластерах

Biren не одна идёт в эту сторону. В Китае похожие направления развивают Huawei, Alibaba, MetaX и Enflame. За пределами страны оптические архитектуры тоже изучают — классические схемы тяжело масштабировать, если вместе с ростом кластера растут задержки, тепло и стоимость.

Логика тут довольно прямолинейная. Когда отдельные GPU становятся быстрее, выигрывает уже не тот, у кого красивее цифра в характеристиках чипа, а тот, кто быстрее гоняет тензоры между сотнями устройств и не спотыкается на синхронизации. Даже небольшая задержка в сети в таких системах быстро превращается в потерю времени обучения.

Похожий сдвиг рынок уже проходил, когда серверы перестали масштабироваться только за счёт добавления карт в один корпус. Сейчас история повторяется на новом уровне: кластеры растут, вместе с ними растут требования к памяти, охлаждению и программной поддержке распределённых вычислений. У оптики есть шанс стать новым стандартом, но всё упрётся в реальные показатели скорости, совместимость софта и цену серийного выпуска компонентов.

Независимые тесты покажут, останется ли архитектура Biren эффектной демонстрацией или дойдёт до обычных вычислительных центров. Если оптические модули получится выпускать по вменяемой цене, следующий виток конкуренции в ИИ-инфраструктуре, похоже, сместится от гонки за отдельный ускоритель к гонке за самый плотный и быстрый суперузел.