Заводская связка 4× V100 SXM2 по NVLink 2.0 с общим пулом до 128 ГБ HBM2. Подключение к ПК — один слот PCIe x16. Готово к работе под LLM, обучение и научные расчёты.
Сервер на 4× Tesla V100 — это вычислительный узел с четырьмя ускорителями Tesla V100 SXM2, объединёнными шиной NVLink 2.0 в общий пул видеопамяти 128 ГБ. Используется для локального запуска больших языковых моделей: 128 ГБ достаточно, чтобы держать модель на 70 миллиардов параметров в 4-битном квантовании с запасом под контекст. Цена комплекта — от 170 000 ₽.
Цельный модуль из четырёх ускорителей V100 SXM2 на единой мостовой плате.
Тяжёлый трафик идёт напрямую между GPU по NVLink — минуя узкий PCIe и центральный процессор.
Между GPU — выделенный канал ~300 ГБ/с, на порядок шире PCIe. Карты обмениваются данными напрямую, не нагружая CPU.
Хост-карта OLDMONSTER в слоте x16 разводит линии через коммутатор PEX8749 на бэкплейн (GPU0–GPU3) четырьмя кабелями SFF-8643.
До 128 ГБ HBM2 адресуются всеми GPU — помещаются модели, которые не влезают в одну карту. Удобно для LLM 50B+.
За счёт NVLink каждая добавленная карта даёт почти полный прирост. У отдельных карт по PCIe прирост быстро затухает.
Связка 4× V100 по NVLink: 1× → 1.95× → 2.85× → 3.8×.
Четыре отдельные карты по PCIe: 1× → 1.8× → 2.4× → 2.6× — каждая следующая добавляет всё меньше.
Цифры масштабирования и производительности — по данным продавца для типовых задач; фактический результат зависит от модели, фреймворка и настроек.
Замерено на реальной сборке: модель gpt-oss 120B (MoE), движки LM Studio (GGUF) и vLLM (tensor-parallel, NVLink).
LLM на 120B в одном потоке — комфортно для локальной работы с большой моделью.
Агрегат при 16 параллельных запросах (vLLM tensor-parallel + NVLink) — отдача многим клиентам.
Скорость почти не падает даже при контексте 100 000 токенов.
Prefill (обработка промпта): запрос на 1.5k токенов — отклик ~0.2 с.
Общий пул памяти — помещаются модели вплоть до 120B+.
4× V100 SXM2, полный NV2-меш (24 линии) — карты работают как одна.
Тот самый модуль, который вы получаете. Нажмите на фото для увеличения.
Стоковые игровые карты (по 24 ГБ) не видят друг друга и общаются через CPU по узкому PCIe.
| Параметр | 4× игровые карты (сток, 24 ГБ) | 4× V100 NVLink (этот модуль) |
|---|---|---|
| Связь между GPU | через CPU по PCIe | прямой NVLink 2.0 ~300 ГБ/с |
| Память | 4× раздельно по 24 ГБ | общий пул 64–128 ГБ HBM2 |
| Масштабирование на 4 GPU | ≈2.6× | ≈3.8× (почти линейно) |
| Подключение | 4 слота PCIe | 1 слот PCIe x16 |
| Модели 50B+ в одном пуле | нет | да |
Сравнение приведено по позиции продавца для задач с интенсивным обменом между GPU. Игровые карты сильнее в FP8/новых форматах и свежих фреймворках. Кстати, про 4090: у нас есть и пара RTX 4090 с расширенной до 48 ГБ памятью — это другой класс: 96 ГБ на две карты и максимум скорости в один поток.
Проверяем товар при вас, работаем официально и принимаем возврат.
Не подошло — вернём деньги или обменяем в течение 14 дней после получения.
Проверяем работоспособность модуля при вас или по видеосвязи до оплаты.
Оплата на счёт ИП или наличными, чек и договор. Никакой серой схемы.
Отправляем по всей России, бережная упаковка. Самовывоз в Москве.
Реальные отзывы клиентов о покупке.
Отличный сервер для задач машинного обучения, кручу модели на 70B. Купил — и радуюсь каждый день, хотя поначалу сомневался из-за цены.
Купил у ребят сервер на 128 ГБ, залил модель 120B — всё отлично работает. Спасибо!
Искали локальный ИИ-сервер для адвокатской конторы — с публичными нейросетями работать не имеем права из-за конфиденциальности. Ребята помогли с настройкой, теперь всё работает идеально.
Объявление активно — забрать можно сразу.
Оплата: наличные в офисе или на счёт ИП (без НДС) +7%.
Оставьте контакты — вернёмся с подтверждением наличия, ответим по характеристикам и согласуем оплату/доставку.
Спасибо! Мы свяжемся с вами по указанному телефону в ближайшее время.
Базовая сборка (64 ГБ, 4×16 ГБ HBM2) — от 170 000 ₽, версия с максимумом памяти (128 ГБ, 4×32 ГБ) — 340 000 ₽. Оплата на ИП или наличными, доставка по РФ, самовывоз в Москве.
До 120 млрд параметров. На модели уровня 120B — около 45 токенов/с в один поток и до 433 токенов/с при 16 параллельных запросах (замер через vLLM). Скорость почти не падает даже на контексте 100 000 токенов.
Для генерации ответов скорость определяет пропускная способность памяти, а не связь между картами. При этом версия V100 SXM2 в нашей сборке идёт с NVLink 2.0, что помогает и на обучении.
Да. 128 ГБ HBM2 хватает для квантованных моделей вплоть до 120B, а 70B помещается с большим запасом под контекст.
Каждый модуль V100 SXM2 потребляет до 300 Вт, то есть четыре карты дают 1200 Вт только на GPU. Под такую сборку нужен блок питания от 1600 Вт с запасом на процессоры и диски. Питание подаётся не на карты, а на мостовую плату, которая распределяет его по модулям.
Мостовая плата подключается к материнской одним разъёмом PCIe x16, поэтому подойдёт любая плата с одним свободным слотом. Критичны два других пункта: блок питания от 1600 Вт и корпус со сквозным продувом, так как радиаторы Tesla пассивные и своих вентиляторов не имеют.
На 128 ГБ видеопамяти комфортно идут модели до 70 миллиардов параметров в квантовании AWQ — это около 40 токенов в секунду в один поток. Модели формата MoE на 120B тоже помещаются и работают быстрее плотных за счёт меньшего числа активных параметров.
Наши сборки поставляются настроенными под Linux, где вся связка драйверов и движков инференса работает штатно. Под Windows и в средах виртуализации вроде Proxmox карты определяются, но настройка тензорного параллелизма сложнее и требует отдельной проработки.
Наши замеры скорости и конфиги vLLM открыты на GitHub →
Разборы с замерами на том же железе, что идёт в сборках.