NVIDIA и Samsung разрабатывают новый тип памяти для ИИ: SOCAMM

NVIDIA заняла лидирующие позиции на рынке ускорителей ИИ. Эти чипы требуют большого объема высокоскоростной памяти, основную часть которой сейчас поставляет SK Hynix, в то время как Samsung продолжает работать над получением одобрения для своих чипов HBM3E.

Тем временем обе компании ведут секретные переговоры о коммерциализации нового типа памяти для ИИ — SOCAMM (System on Chip Advanced Memory Module), которая рассматривается как развитие текущих чипов с высокой пропускной способностью. NVIDIA также ведет переговоры с SK Hynix по поводу этой памяти.

Прототипы SOCAMM в тестировании

Сейчас обмен прототипами SOCAMM активно идет между компаниями и NVIDIA. Эта память обещает стать значительным шагом вперед по сравнению с существующими чипами высокой пропускной способности, которые сейчас являются основой для ускорителей ИИ.

SOCAMM имеет повышенную эффективность в соотношении стоимости и производительности, а также проектируется с большим количеством портов, что помогает уменьшить узкие места при обработке данных — актуальная проблема в вычислениях ИИ.

Преимущества SOCAMM

SOCAMM — это модуль, который можно отсоединить, что позволяет операторам дата-центров обменивать и обновлять модули памяти для повышения производительности в процессе работы. Благодаря компактному размеру можно установить больше модулей SOCAMM в одном месте для улучшенных вычислительных возможностей.

Инсайдеры отрасли утверждают, что NVIDIA и компании, такие как Samsung, работают над прототипами SOCAMM и проводят тесты производительности, с массовым производством, которое ожидается к концу 2025 года.

Возможности Samsung на рынке памяти

Разработка SOCAMM может дать Samsung шанс вернуть утраченные позиции на рынке памяти высокой пропускной способности, где сегодня лидирует SK Hynix. С ростом интереса к чипам для ИИ и с учетом возможных задержек с поставками ускорителей Blackwell от NVIDIA, Samsung надеется на получение крупных заказов на свои чипы памяти.

Проблемы с HBM3E и перспективы Samsung

Samsung сталкивается с проблемами получения одобрения для своих чипов HBM3E для ускорителей NVIDIA, несмотря на одобрение от генерального директора NVIDIA, Дженсена Хуана, на GTC 2024. Однако, несмотря на сложности, Хуан выразил уверенность в том, что Samsung преодолеет препятствия и выйдет на рынок с HBM3E, что может повлиять на получение крупных заказов для будущих платформ Blackwell.

Заключение

Переговоры между NVIDIA и Samsung об инновационной памяти SOCAMM могут изменить рынок ИИ и привести к большим возможностям для Samsung, несмотря на текущие трудности с получением одобрений на чипы HBM3E. В ближайшие годы это может стать важным этапом в развитии технологий для суперкомпьютеров и центров обработки данных, использующих искусственный интеллект.