Other recommendations for your business

xFusion 1288H V5 AI Инференс 1U Сервер - Два Xeon Platinum 8462Y/1TB DDR5/8×3.2TB U.2 NVMe/4×A100 PCIe/200Gb InfiniBand/Оптимизированная Инференс Платформа

US$1,900 - $2,600
Модель продукта:
Безопасные платежи
Каждый платёж на SysPartsDirect.com защищён строгим SSL-шифрованием и протоколами защиты данных PCI DSS
Стандартная политика возвратов
Запросите возврат, если ваш заказ не отправили, он утерян или прибыл с проблемами товара
SysPartsDirect.com защищает все заказы, размещённые и оплаченные на платформе, с помощью Trade Assurance

Технические характеристики

itemvalue
Направление оптимизацииОптимизация вывода моделей AI
Модель1288H V5-AI
Тип платформыСпециализированная платформа для вывода AI
Серия процессоровСерия Intel Xeon Platinum
Модель процессораXeon Platinum 8462Y 2.8 ГГц
Количество ядер32 ядра, 64 потока
Базовая частота2.8 ГГц
Макс. турбо частота4.1 ГГц
Ускорение AIAMX и DL Boost
Технология памятиDDR5-4800 ECC RDIMM
Объем памяти1 ТБ(16×64 ГБ)
Пропускная способность памяти307.2 ГБ/с
Модель GPUNVIDIA A100 40GB PCIe
Количество GPU4 GPU
Общая видеопамять160GB GDDR6
Тензорные ядраТензорные ядра 3-го поколения
Тип накопителейU.2 NVMe SSD
Емкость хранения8×3.2 ТБ NVMe SSD
Производительность чтения/записиПоследовательное чтение 7000 МБ/с
Производительность IOPSСлучайное чтение 1.5M IOPS
Сетевая технология200Gb InfiniBand HDR
Сетевой контроллерMellanox ConnectX-6 DX
Поддержка RDMARoCE и iWARP
Производительность вывода10000 кадров/с@ResNet-50
Поддержка точностиFP16, INT8, FP8
Развертывание моделейTriton сервер вывода
AI фреймворкиTensorRT, OpenVINO
Поддержка контейнеровОптимизированные контейнеры NGC
Инструменты оркестрацииKubernetes AI редакция
Спецификация БП3200W Платиновый уровень
Управление питаниемGPU-осознанное управление питанием
Система охлажденияРешение принудительного воздушного охлаждения
Тепловой дизайнВоздуховоды направленного охлаждения GPU
Управление AIМониторинг производительности моделей
Планирование ресурсовИнтеллектуальное распределение ресурсов GPU
Пропускная способностьПропускная способность вывода в реальном времени
Производительность задержкиСквозная задержка вывода <5мс
Компьютерное зрениеРаспознавание изображений в реальном времени
Обработка естественного языкаИнтеллектуальные диалоговые системы
Рекомендательные системыПерсонализированные рекомендации в реальном времени
Интеграция с облакомГибридное развертывание вывода AI
Готовность к периферииОптимизировано для периферийного вывода

Сопутствующие Продукты