SK hynix показала модуль памяти на 256 ГБ для ИИ-серверов
Рост объёма данных в ИИ-системах создаёт узкие места при обмене данными между компонентами сервера. На конференции OCP Global Summit 2026 компания SK hynix показала решения, которые позволяют нескольким серверам совместно использовать память.
Центральной частью демонстрации стал серверный модуль памяти второго поколения для таких систем, как сообщает SK hynix.
Конференция проходила с 12 по 15 октября в Сан-Хосе. SK hynix представила решения в виде работающих системных демонстраций: посетителям показывали модуль памяти CMM-DDR5, стоечную систему MARS и память с вычислительными функциями CMM-Ax.
Модуль CMM-DDR5 второго поколения рассчитан на ИИ-нагрузки и использует интерфейсный стандарт CXL 3.2. Его ёмкость составляет 256 ГБ, а пропускная способность достигает 80 ГБ/с. По данным компании, это более чем вдвое выше показателя предыдущего поколения; энергоэффективность улучшилась примерно на 30%. Цену модуля и срок начала продаж SK hynix не назвала.
CMM-DDR5 поддерживает общий пул памяти. Несколько серверов могут обращаться к объединённому ресурсу и использовать нужную им часть ёмкости вместо того, чтобы каждый работал только с собственной памятью. В основе этой схемы лежит CXL, который связывает процессоры, графические ускорители и память внутри вычислительной системы.
SK hynix также представила результаты совместной работы с NAVER Cloud. Компании проверили на уровне доказательства концепции две схемы совместного использования данных: кэша ключей и значений для ИИ-агентов и эмбеддингов для сервиса OmniServe, обрабатывающего разные типы данных. Кэш хранит результаты предыдущих вычислений языковой модели, поэтому его повторное использование помогает при обработке дальнейших запросов.
В стоечной системе MARS компания объединила память и решения партнёров. Одна из демонстраций, подготовленная вместе с Arcee, Liqid и Marvell, связывала несколько серверов и графических ускорителей через общий пул памяти. SK hynix сообщила, что передача и повторное использование кэша таким способом заметно улучшили производительность по сравнению с передачей данных через сеть, но численного результата для этого сравнения не привела.
Другая демонстрация MARS использовала гибридную CXL-память, сочетающую DRAM и SSD. Система хранила полный кэш на SSD, а данные, которые могли понадобиться для следующей задачи, заранее загружала в DRAM. При выборе учитывались история разговора и ранее выполненные задачи. SK hynix показала и отдельную демонстрацию, в которой общий пул памяти ускорял передачу данных между несколькими моделями персонального ИИ-агента.
Решение CMM-Ax выполняет вычисления непосредственно в памяти, сокращая перемещение данных. На конференции SK hynix показала его в системе обработки запросов к большим языковым моделям с длинным контекстом. Компания сообщила, что такой подход помогает справляться с задачами, которые трудно обрабатывать в системах на базе графических ускорителей. Стоимость и сроки выхода CMM-Ax и стоечной системы MARS компания также не указала.
