54 ГБ видеопамяти за 3 000 рублей: покупатель проверил старую ферму

Пользователь Reddit под ником markpronkin проверил, можно ли запускать ИИ-модели на старой майнинговой ферме. Он купил её на российском сайте объявлений Avito, не зная, исправно ли оборудование.

Майнинг ферма 54 ГБ видеопамяти за 3000 рублей

За систему он отдал 3 000 рублей, или около $35. По данным Guru3D, продавец сначала просил 5 000 рублей, а сама ферма до продажи несколько лет простояла в гараже. Проверить её до покупки не удалось: владелец не знал, работает ли оборудование, и покупатель тоже не был уверен.

Алюминиевые рельсы для майнинговой фермы в корпусе

При первой проверке заработали все девять видеокарт Nvidia P106-100. У каждой по 6 ГБ видеопамяти, всего получилось 54 ГБ. В ферме не оказалось SSD, поэтому покупатель загрузил систему с USB-накопителя. Видеовыходов у этих карт нет, а по устройству они близки к GeForce GTX 1060 с 6 ГБ памяти.

В первом тесте владелец запустил модель Qwen3.6-35B-A3B с 35 млрд параметров локально через Ollama. По его словам, система выдавала более 30 токенов в секунду. Эта модель относится к архитектуре Mixture of Experts: для обработки каждого токена активируется лишь часть параметров, поэтому результат нельзя напрямую переносить на плотные модели сопоставимого размера.

Пользователь также считает, что 54 ГБ видеопамяти хватит для модели класса 27B с 8-битной квантизацией или моделей примерно до 70 млрд параметров при 4- или 5-битной квантизации. Это его оценка возможностей конкретной сборки, а скорость зависит от модели и программного обеспечения, распределяющего вычисления между картами.

У фермы есть технические ограничения. У P106 нет тензорных ядер, а подключение по PCIe 3.0 x1 ограничивает обмен данными между видеокартами. При распределении модели между несколькими картами это может снижать скорость. Девять карт класса GTX 1060 также потребляют немало электричества, но владелец рассказал, что живёт в жилье с бесплатным электричеством, поэтому сам за энергопотребление не платит.

Елизавета Добровольская
Автор itzine.ru с 2021 года. Пишет о смартфонах, гаджетах, железе, искусственном интеллекте и космосе — в общем, обо всём, что есть в мире технологий. От новостей о складных флагманах и процессорах до репортажей о культуре и рынке электромобилей. Следит за индустрией внимательно, но без фанатизма.

Оставить комментарий