2× RTX 4090 48 ГБ: самая быстрая наша сборка
Две RTX 4090 с расширенной до 48 ГБ памятью — 96 ГБ VRAM. В наших тестах обгоняет четвёрку V100 и даже четвёрку A100 в один поток.
цена комплекта — по запросу · зависит от конфигурации базы
Две RTX 4090 с расширенной до 48 ГБ памятью — 96 ГБ VRAM. В наших тестах обгоняет четвёрку V100 и даже четвёрку A100 в один поток.
Сборка на 2× RTX 4090 48 ГБ — это конфигурация из двух видеокарт RTX 4090 с расширенной до 48 ГБ памятью, дающая 96 ГБ видеопамяти суммарно. Используется, когда нужна максимальная скорость генерации на один поток: архитектура Ada новее Volta и Ampere, поэтому работает со всеми современными движками без форков и поддерживает FP8.
| Видеокарты | 2× NVIDIA RTX 4090, память расширена до 48 ГБ на карту |
|---|---|
| Видеопамять | 96 ГБ суммарно (2×48 ГБ) |
| Архитектура | Ada Lovelace — самое быстрое поколение среди наших сборок |
| Софт | vLLM (актуальный стек), готовые профили под популярные модели |
| Состояние | Протестированы под нагрузкой, отдаём с протоколом замеров |
96 ГБ хватает на модели вплоть до 122B в квантовании и на 70B без потерь качества. Сервер отдаём настроенным: включил — работает.
Одна и та же модель Qwen 3.6 на трёх наших стендах — эта пара 4090 быстрее обеих четвёрок (токенов в секунду, vLLM):
| Режим | 4× Tesla V100 | 4× Tesla A100 | 2× RTX 4090 48 ГБ |
|---|---|---|---|
| Один поток | 70 ток/с | 95 ток/с | 149 ток/с |
| 8 потоков | — | — | 550 ток/с суммарно |
| 32 потока | 409 ток/с | 913 ток/с | 1171 ток/с суммарно |
Qwen 3.6 35B-A3B (MoE), одинаковые условия теста. Четвёрка A100 догоняет эту пару только на 48+ одновременных потоках.
| Модель | Режим | Скорость |
|---|---|---|
| Qwen 3.6 35B-A3B | один поток | 149 ток/с |
| Qwen 3.5 122B | обе карты, один поток | 83 ток/с |
Для понимания: комфортная скорость чтения человека — 10–15 ток/с. Здесь ответы появляются в 10 раз быстрее, чем вы читаете.
| Скорость прежде всего | Чат-ассистенты и агенты, где важен мгновенный ответ: самый быстрый одиночный поток среди наших сборок |
|---|---|
| Команды до ~30 человек | До 1171 ток/с суммарно — десятки одновременных пользователей без просадки |
| Компактность | Две карты вместо четырёх: меньше корпус, меньше энергопотребление, проще обслуживание |
Замеряем скорость через vLLM и показываем цифры до покупки.
Не подошло — вернём деньги или обменяем.
Проверяем работоспособность при вас до оплаты.
По всей России, самовывоз в Москве. Оплата ИП или наличные.
Зависит от базы (корпус, БП, платформа). Позвоните — посчитаем конфигурацию под вашу задачу. Ежедневно 9:00–21:00.
Самая быстрая среди наших сборок: Qwen 3.6 35B — 149 токенов/с в один поток и до 1171 токена/с при 32 запросах, что быстрее и 4× Tesla V100, и 4× A100. Модель 122B — 83 токена/с (замер vLLM).
96 ГБ (2×48 ГБ). Карты с расширенной до 48 ГБ памятью — помещаются модели до 122B в квантовании и 70B без потерь качества.
Цена по запросу — зависит от базовой платформы. Звоните: +7 903 568-83-88.
Физически это возможно, но для инференса одной модели смешивать поколения не стоит: тензорный параллелизм требует одинаковых карт, а разные архитектуры используют разные сборки движка. Разумный вариант — держать их как независимые узлы под разные задачи.
Наши замеры скорости и конфиги vLLM открыты на GitHub →
Разборы с замерами на том же железе, что идёт в сборках.