Сборка 4× Tesla A100 (Ampere), 128 ГБ HBM2, кастомная водянка — без троттлинга под нагрузкой. По нашим замерам ~2× быстрее V100 на инференсе LLM. Готово к локальному ИИ под ключ.
Сервер на 4× Tesla A100 — это узел с четырьмя ускорителями архитектуры Ampere и общим пулом видеопамяти 128 ГБ. Используется там, где нужна вдвое большая скорость инференса, чем даёт Tesla V100, и поддержка формата bfloat16: A100 работает со штатным vLLM без архитектурных форков. Стоимость готовой сборки — 790 000 ₽.
Четыре ускорителя Tesla A100 (Ampere) с кастомным жидкостным охлаждением.
Декод LLM упирается в пропускную способность памяти — а у A100 она кратно выше, чем у предыдущего поколения.
Поколение после Volta: тензорные ядра 3-го пок., форматы TF32 и BF16, заметно выше скорость на современных LLM и MoE-моделях.
Пропускная способность HBM2 примерно вдвое выше V100. Именно она определяет скорость генерации токенов — отсюда ~2× прирост в наших тестах.
Кастомная водянка держит карты холодными под полной нагрузкой — никакого троттлинга, стабильная скорость в долгих задачах.
Реальный замер суммарной пропускной способности (Qwen 35B) при росте числа параллельных запросов.
На лёгкой MoE-модели A100 выдаёт 95 ток/с в одном потоке и масштабируется до 1826 ток/с при 64 параллельных запросах — хватит на десятки одновременных пользователей.
Для сравнения, тот же тест на 4× V100: 1 поток — 70, 64 запроса — 841 ток/с. A100 быстрее примерно вдвое на всех уровнях.
Реальные замеры на нашей сборке (vLLM, Qwen 3.6 35B-A3B); фактический результат зависит от модели, кванта и настроек.
Замерено на этой сборке через vLLM. Модели: Qwen 3.6 35B-A3B и крупная 122B MoE (AWQ).
Qwen 35B в одном потоке — быстрый отклик для личной работы с моделью.
Суммарно при 64 параллельных запросах — десятки пользователей одновременно.
Крупная модель 122B в одном потоке; до 742 ток/с суммарно при 32 запросах.
На инференсе/MoE обгоняет нашу же сборку 4× V100 примерно вдвое на всех уровнях.
Помещаются модели вплоть до 122B (AWQ) — ECC 0, карты проверены.
Под нагрузкой, на жидкостном охлаждении — холодно и без троттлинга.
Та самая система, которую вы получаете. Нажмите на фото для увеличения.
Один и тот же тест (Qwen 35B, vLLM) на обеих наших сборках. A100 быстрее почти вдвое.
| Параметр | 4× Tesla V100 | 4× Tesla A100 (эта сборка) |
|---|---|---|
| Архитектура | Volta (2017) | Ampere (новее, TF32/BF16) |
| 1 поток (Qwen 35B) | 70 ток/с | 95 ток/с |
| 64 параллельных запроса | 841 ток/с | 1826 ток/с |
| Крупная 122B, 32 запроса | 433–500 ток/с | 742 ток/с |
| ПСП памяти | ~0.9 ТБ/с | ~2 ТБ/с |
| Память | 128 ГБ HBM2 | 128 ГБ HBM2 |
| Охлаждение | воздух / радиаторы | жидкостное, без троттлинга |
Реальные замеры на наших стендах. У A100 в этой сборке нет NVLink (связь по PCIe) — но на инференсе/декоде это не мешает, скорость определяет память. V100+NVLink выигрывает только на тяжёлом prefill очень крупных моделей.
Проверяем товар при вас, работаем официально и принимаем возврат.
Не подошло — вернём деньги или обменяем в течение 14 дней после получения.
Проверяем работоспособность модуля при вас или по видеосвязи до оплаты.
Оплата на счёт ИП или наличными, чек и договор. Никакой серой схемы.
Отправляем по всей России, бережная упаковка. Самовывоз в Москве.
Реальные отзывы клиентов о покупке.
Отличный сервер для задач машинного обучения, кручу модели на 70B. Купил — и радуюсь каждый день, хотя поначалу сомневался из-за цены.
Купил у ребят сервер на 128 ГБ, залил модель 120B — всё отлично работает. Спасибо!
Искали локальный ИИ-сервер для адвокатской конторы — с публичными нейросетями работать не имеем права из-за конфиденциальности. Ребята помогли с настройкой, теперь всё работает идеально.
Готовая система в наличии — забрать можно сразу.
Оплата: наличные или на счёт ИП (без НДС). Доставка СДЭК по РФ, самовывоз в Москве.
Оставьте контакты — вернёмся с подтверждением наличия, ответим по характеристикам и согласуем оплату/доставку.
Спасибо! Мы свяжемся с вами по указанному телефону в ближайшее время.
790 000 ₽. Конфигурация: 128 ГБ HBM2 (4×32 ГБ), кастомное жидкостное охлаждение. Оплата на ИП или наличными, доставка по РФ.
Примерно вдвое на всех уровнях нагрузки: 95 против 70 токенов/с в один поток и 1826 против 841 токенов/с при 64 параллельных запросах (Qwen 35B, vLLM). Причина — почти вдвое большая пропускная способность памяти.
Нет. Наша сборка A100 работает по PCIe без NVLink и всё равно обгоняет V100 с NVLink — на инференсе решает скорость памяти самих карт, а не межкарточная связь.
Модели вплоть до 120–122B в квантовании: 128 ГБ HBM2 закрывают весь диапазон с запасом под контекст. На крупной 122B — до 742 токенов/с при 32 запросах.
Версия SXM4 ставится на несущую плату и связывается с соседними картами через NVLink третьего поколения, а PCIe-версия работает как обычная плата расширения. Для инференса языковых моделей разница невелика, потому что скорость определяет пропускная способность памяти.
Аренда выгоднее при разовых задачах и коротких экспериментах. При постоянной нагрузке собственный сервер окупается примерно за год, а данные при этом не покидают вашего контура — именно ради этого компании и переходят на локальные модели.
Наши замеры скорости и конфиги vLLM открыты на GitHub →
Разборы с замерами на том же железе, что идёт в сборках.