NVIDIA H100
Технические данные
Характеристики
Описание
О модели
NVIDIA H100 — базовый ускоритель для обучения и инференса больших моделей. Тензорные ядра четвёртого поколения с движком Transformer Engine считают в FP8 и дают до 3958 TFLOPS в исполнении SXM. Поставляется в двух исполнениях: модуль SXM5 с 80 ГБ HBM3 и пропускной способностью 3,35 ТБ/с — для плотных серверов HGX с восемью картами; и карта NVL PCIe с 94 ГБ HBM3 и 3,9 ТБ/с — для установки в обычный сервер парами через мост NVLink. Multi-Instance GPU делит карту на семь изолированных инстансов, каждый со своей памятью, кэшем и вычислительными ядрами.
Технические характеристики
| Архитектура | NVIDIA Hopper |
| Объём памяти | 80 ГБ HBM3 (SXM) / 94 ГБ HBM3 (NVL PCIe) |
| Пропускная способность памяти | 3,35 ТБ/с (SXM) / 3,9 ТБ/с (NVL PCIe) |
| FP64 | 34 TFLOPS (SXM) / 30 TFLOPS (NVL) |
| FP64 Tensor Core | 67 TFLOPS (SXM) / 60 TFLOPS (NVL) |
| FP32 | 67 TFLOPS (SXM) / 60 TFLOPS (NVL) |
| TF32 Tensor Core | 989 TFLOPS (SXM) / 835 TFLOPS (NVL) |
| BFLOAT16 Tensor Core | 1979 TFLOPS (SXM) / 1671 TFLOPS (NVL) |
| FP16 Tensor Core | 1979 TFLOPS (SXM) / 1671 TFLOPS (NVL) |
| FP8 Tensor Core | 3958 TFLOPS (SXM) / 3341 TFLOPS (NVL) |
| INT8 Tensor Core | 3958 TOPS (SXM) / 3341 TOPS (NVL) |
| Декодеры | 7 NVDEC, 7 JPEG |
| Multi-Instance GPU | До 7 инстансов по 10 ГБ (SXM) / по 12 ГБ (NVL) |
| Потребление энергии | До 700 Вт (SXM) / 350–400 Вт (NVL), настраиваемое |
| Форм-фактор | Модуль SXM5 / PCIe, 2 слота, пассивное охлаждение |
| Интерфейс подключения | NVLink 900 ГБ/с (SXM) / 600 ГБ/с (NVL), PCIe Gen5 128 ГБ/с |
Исполнения
NVIDIA H100 SXM5 80GB HBM3
- Память: 80 ГБ HBM3, 3,35 ТБ/с
- Форм-фактор: модуль SXM5
- Интерфейс: NVLink 900 ГБ/с, PCIe Gen5 128 ГБ/с
- Потребление: до 700 Вт
NVIDIA H100 NVL PCIe 94GB HBM3
- Память: 94 ГБ HBM3, 3,9 ТБ/с
- Форм-фактор: PCIe, 2 слота, FHFL
- Интерфейс: NVLink Bridge 600 ГБ/с, PCIe Gen5
- Потребление: 350–400 Вт
NVIDIA H100 PCIe 80GB HBM2e
- Память: 80 ГБ HBM2e
- Форм-фактор: PCIe, 2 слота, FHFL
- Интерфейс: PCIe Gen5 x16
NVIDIA H100 PCIe 96GB HBM2 (OEM)
- Память: 96 ГБ
- Форм-фактор: PCIe, 2 слота, FHFL
- Поставка: OEM-исполнение поставщика, не каталожная модель NVIDIA
NVIDIA H100 64GB Customized Version (OEM)
- Память: 64 ГБ
- Форм-фактор: PCIe, 2 слота, FHFL
- Поставка: OEM-исполнение поставщика, не каталожная модель NVIDIA
Области применения
Запрос по товару
Запросить предложение
Укажите количество, сроки и адрес поставки или приложите спецификацию. Ответим по почте или телефону.
Каталог
Похожие товары
