NVIDIA L40S

Name: NVIDIA L40S
Brand: NVIDIA

Универсальный ускоритель на архитектуре NVIDIA Ada Lovelace: 48 ГБ GDDR6 с ECC, 18 176 ядер CUDA, тензорные ядра четвёртого поколения с FP8, ядра трассировки лучей, аппаратные кодеки AV1. Потребление 350 Вт.

NVIDIA L40S закрывает сразу три класса задач: обучение и инференс моделей, графику и рендеринг, обработку видео. Тензорные ядра четвёртого поколения считают в FP8 и дают 1466 TFLOPS с разреженностью — по инференсу карта сопоставима с решениями предыдущего поколения при вчетверо меньшей цене. Ядра трассировки лучей третьего поколения выдают 212 TFLOPS, что делает L40S основой для ферм рендеринга и виртуальных рабочих станций. Три аппаратных кодировщика и три декодировщика с поддержкой AV1 обрабатывают видеопотоки без нагрузки на процессор. Память 48 ГБ GDDR6 с коррекцией ошибок и поддержка vGPU позволяют делить карту между виртуальными машинами.

Технические характеристики

Архитектура	NVIDIA Ada Lovelace
Объём памяти	48 ГБ GDDR6 с ECC
Пропускная способность памяти	864 ГБ/с
Ядра CUDA	18 176
Ядра трассировки лучей	142
Тензорные ядра	568
FP32	91,6 TFLOPS
TF32 Tensor Core	366 TFLOPS с разреженностью
BFLOAT16 Tensor Core	733 TFLOPS с разреженностью
FP16 Tensor Core	733 TFLOPS с разреженностью
FP8 Tensor Core	1466 TFLOPS с разреженностью
INT8 Tensor Core	1466 TOPS с разреженностью
Производительность ядер RT	212 TFLOPS
Видеовыходы	4 × DisplayPort 1.4a
NVENC / NVDEC	3 / 3, с кодированием и декодированием AV1
Разъём питания	16-pin
Потребление энергии	350 Вт
Форм-фактор	2 слота, 4,4″ × 10,5″
Безопасная загрузка	Есть, с корнем доверия
Поддержка vGPU	Есть