Категории Нейросети и ИИ

Семь мини-ПК Bosgame запустили DeepSeek-V3.1 с 671 млрд параметров

Семь мини-ПК Bosgame запустили DeepSeek-V3.1 с 671 млрд параметров

Bosgame показала сборку из семи мини-ПК M5 AI, объединённых в кластер для локального запуска DeepSeek-V3.1 с 671 млрд параметров. В одиночку такой мини-ПК на это не тянет, зато здесь ставка сделана на масштабирование через прямое USB4-соединение между узлами.

Основа тут — Ryzen AI Max+ 395, а у топовой версии M5 AI стоит 128 ГБ ОЗУ. Если собрать семь таких устройств вместе, выходит 896 ГБ унифицированной памяти, и, по данным Bosgame, до 672 ГБ можно отдать под задачи GPU.

Идея в том, чтобы нарастить вычислительную мощность без серверного шкафа и всей этой громоздкой истории вокруг него. Для домашней лаборатории или небольшой команды это уже вполне понятный сценарий: по цене и по энергопотреблению такие сборки ближе к настольным ПК, чем к классическим ИИ-серверам, которые обычно и берут под модели такого размера.

Кластер из семи мини-ПК M5 AI

Bosgame представила M5 AI в прошлом году. Тогда это был довольно обычный мини-ПК для своего класса, только на свежей платформе AMD и с увеличенным объёмом памяти. Сейчас производитель показывает уже не отдельную коробку, а набор из нескольких одинаковых машин, которые работают как один вычислительный блок.

Читайте также:

И это хорошо совпадает с тем, куда вообще движется рынок компактных рабочих станций. ASUS, Minisforum и GMKtec тоже делают мини-ПК на мощных мобильных чипах, но чаще говорят о локальной работе с моделями поменьше. Здесь же акцент совсем другой — кластер из нескольких мини-ПК прямо на столе.

На старте топовая конфигурация M5 AI стоила примерно 1700 долларов, сейчас Bosgame просит уже 2800 долларов за один ПК. На фоне серверных решений для больших моделей это всё ещё выглядит скромно, но если умножить на семь узлов, сумма уже получается заметная, и это без учёта периферии и накопителей.

Если Bosgame и дальше будет толкать именно идею модульного кластера, такой формат может заинтересовать не только энтузиастов, но и небольшие команды, которым нужны локальные эксперименты с крупными моделями без аренды внешней инфраструктуры. Удобство такой схемы в реальной работе станет понятно уже не по демо, а по попыткам повторить схему вне презентационного стенда.

Источник: Ixbt