GPU-сервер AI Server Manager 256 (2U, 4×CMP 170HX 64 ГБ, всего 256 ГБ VRAM)

Рабочая лошадка для отдела или небольшой компании. Четыре ускорителя и 256 ГБ суммарной видеопамяти позволяют держать в контуре организации модели 14B-32B параметров: корпоративный ассистент по базе знаний, суммаризация документов, перевод, генерация черновиков, видеоаналитика и голосовые сценарии. Панель AI Server Manager в комплекте — запуск LLM сводится к загрузке модели из библиотеки. Все данные обрабатываются локально: персональные данные клиентов и коммерческая тайна не уходят во внешние облака.

Характеристики

Важно про видеоускорители

NVIDIA CMP 170HX в этой конфигурации — ускорители с разблокированной (модифицированной) памятью 64 ГБ HBM2e на карту. Это не заводская конфигурация NVIDIA: отключённые стеки памяти разблокированы на уровне прошивки. Особенности решения: карты без видеовыходов, хост-интерфейс PCIe Gen1 x4, аппаратное ускорение INT8 недоступно. Для инференса LLM в FP16/BF16 и квантованных форматах (GPTQ, AWQ, GGUF) эти ограничения некритичны, но перед покупкой мы рекомендуем запросить тесты конкретной машины на вашей модели.

Производительность

По оценке поставщика, конфигурации линейки на этой платформе показывают уверенный инференс моделей среднего класса в квантовании; для модели 32B квантование 4 бита укладывается в видеопамять с запасом под контекст. Скорость зависит от квантования, длины контекста и числа одновременных запросов — запросите тесты конкретной машины.

Стоимость под задачу. Ориентировочная цена базовой конфигурации — от 2 620 000 ₽. Точная стоимость зависит от комплектации и фиксируется в коммерческом предложении.

Сроки поставки: при наличии на складе — отгрузка сразу после оплаты. Под заказ — от 1 месяца и более. Точный срок и стоимость — по запросу.

Гарантия и условия обслуживания — по договорённости; уточняйте при запросе коммерческого предложения.

Рядом в каталоге: Шкафы для хранения ЛВЖ, Аккумуляторы ГМССБ, GSM телефоны. Весь раздел — GPU-серверы для искусственного интеллекта.