GPU-сервер AI Server Manager 384 (2U, 6×CMP 170HX 64 ГБ, всего 384 ГБ VRAM)

Баланс цены и возможностей для компаний, которым уже тесно в четырёх картах. Шесть ускорителей и 384 ГБ видеопамяти — это уверенная работа моделей 32B-70B в 4-битном квантовании с длинным контекстом, несколько одновременных сервисов (ассистент + OCR + классификатор) и запас под RAG-конвейер с корпоративной базой знаний. Один сервер в серверной заменяет аренду облачных GPU-мощностей и исключает передачу данных третьим лицам.

Характеристики

Важно про видеоускорители

NVIDIA CMP 170HX в этой конфигурации — ускорители с разблокированной (модифицированной) памятью 64 ГБ HBM2e на карту. Это не заводская конфигурация NVIDIA: отключённые стеки памяти разблокированы на уровне прошивки. Особенности решения: карты без видеовыходов, хост-интерфейс PCIe Gen1 x4, аппаратное ускорение INT8 недоступно. Для инференса LLM в FP16/BF16 и квантованных форматах (GPTQ, AWQ, GGUF) эти ограничения некритичны, но перед покупкой мы рекомендуем запросить тесты конкретной машины на вашей модели.

Производительность

Шесть карт дают заметный прирост против четырёх на инференсе крупных моделей: модели класса 70B в квантовании 4 бита помещаются в видеопамять целиком, без выгрузки слоёв в системную память. Фактическая скорость зависит от модели и настроек — по запросу предоставим тесты.

Стоимость под задачу. Ориентировочная цена базовой конфигурации — от 3 060 000 ₽. Точная стоимость зависит от комплектации и фиксируется в коммерческом предложении.

Сроки поставки: при наличии на складе — отгрузка сразу после оплаты. Под заказ — от 1 месяца и более. Точный срок и стоимость — по запросу.

Гарантия и условия обслуживания — по договорённости; уточняйте при запросе коммерческого предложения.

Рядом в каталоге: Шкафы для хранения ЛВЖ, Аккумуляторы ГМССБ, GSM телефоны. Весь раздел — GPU-серверы для искусственного интеллекта.