ASM-G292Z20-384

AI Server Manager

GPU-сервер AI Server Manager 384 (2U, 6×CMP 170HX 64 ГБ, всего 384 ГБ VRAM)

24 790 000 ₸

Не является публичной офертой. Доставка оплачивается отдельно.

Баланс цены и возможностей для компаний, которым тесно в четырёх картах. Шесть ускорителей и 384 ГБ видеопамяти — уверенная работа моделей 32B-70B в 4-битном квантовании с длинным контекстом, несколько одновременных сервисов (ассистент + OCR + классификатор) и запас под RAG-конвейер с корпоративной базой знаний. Один сервер в вашей серверной заменяет аренду облачных GPU-мощностей и исключает передачу данных третьим лицам.

Характеристики

ПлатформаGIGABYTE G292-Z20, 2U, до 8 PCIe-ускорителей
ПроцессорAMD EPYC 7402P, 24 ядра / 48 потоков, 2,8-3,35 ГГц
Оперативная памятьот 64 ГБ DDR4-3200 ECC REG (до 2 ТБ)
Видеоускорители6 x NVIDIA CMP 170HX, 64 ГБ HBM2e на карту (разблокированная память)
Суммарная видеопамять384 ГБ VRAM
НакопительSSD M.2 NVMe Samsung 1 ТБ
Сеть2 x 10Gb SFP+ (Mellanox ConnectX-4 Lx), управление IPMI
Питание2 x 2200 Вт 80+ Platinum
ПОAI Server Manager — панель управления и запуск LLM (в комплекте)
АртикулASM-G292Z20-384

Важно про видеоускорители

NVIDIA CMP 170HX в этой конфигурации — ускорители с разблокированной (модифицированной) памятью 64 ГБ HBM2e на карту. Это не заводская конфигурация NVIDIA: отключённые стеки памяти разблокированы на уровне прошивки. Особенности: карты без видеовыходов, хост-интерфейс PCIe Gen1 x4, аппаратное ускорение INT8 недоступно. Для инференса LLM в FP16/BF16 и квантованных форматах эти ограничения некритичны; перед покупкой рекомендуем запросить тесты конкретной машины.

Производительность

Шесть карт дают заметный прирост против четырёх на инференсе крупных моделей: модели класса 70B в квантовании 4 бита помещаются в видеопамять целиком, без выгрузки слоёв в системную память. Фактическая скорость зависит от модели и настроек — по запросу предоставим тесты.

Стоимость под задачу. Ориентировочная цена базовой конфигурации — от 24 790 000 ₸. Точная стоимость зависит от комплектации и фиксируется в коммерческом предложении.

Сроки поставки: при наличии на складе — отгрузка сразу после оплаты. Под заказ — от 1 месяца и более. Точный срок и стоимость — по запросу.

Гарантия и условия обслуживания — по договорённости; уточняйте при запросе коммерческого предложения.

Вы смотрели
Счёт в тенге, документы для юрлиц
Подбор по почте office@inelectro.kz