Перейти к основному содержимому

Выбор карты и профиля

vGPU-профиль определяет, сколько видеопамяти получит виртуальная машина и какую долю вычислительных ресурсов карты. Профиль выбирается при создании машины и меняется только на выключенной машине.

Доступные ускорители

КартаАрхитектураВидеопамятьНазначение
NVIDIA H200 NVLHopper141 ГБ HBM3eОбучение и инференс крупных моделей
NVIDIA RTX PRO 6000 BlackwellBlackwell96 ГБ GDDR7Универсальная: обучение, инференс, графика
NVIDIA A100 и A800Ampere80 ГБ HBM2eВычисления: обучение моделей, HPC

Состав карт на конкретной площадке уточняйте в поддержке ITGLOBAL.COM — он различается между локациями, как и набор доступных профилей на каждой карте.

Две карты H200 объединяются через мост NVLink — это отдельная опция услуги. Для остальных карт связка не предусмотрена: на уровне vGPU они работают независимо. Подробнее — объединение карт через NVLink.

Как читаются имена профилей

Имя профиля состоит из семейства карты, схемы разбиения и объёма видеопамяти. Последняя буква обозначает тип лицензии: c — вычислительные задачи, q — графика и рабочие станции, a — приложения на терминальных серверах.

H200 NVL

Карта отдаётся профилем на весь объём — 141 ГБ. Возможность разбиения на профили меньшего размера уточняйте в поддержке ITGLOBAL.COM.

RTX PRO 6000 Blackwell

ПрофильВидеопамять
nvidia_rtx_pro_6000_blackwell_dc-96c96 ГБ
nvidia_rtx_pro_6000_blackwell_dc-2-48c48 ГБ
nvidia_rtx_pro_6000_blackwell_dc-1-24c24 ГБ
nvidia_rtx_pro_6000_blackwell_dc-12c12 ГБ

A800 80GB

ПрофильВидеопамять
grid_a800d-7-80c80 ГБ
grid_a800d-4-40c, grid_a800d-3-40c40 ГБ
grid_a800d-2-20c, grid_a800d-1-20c20 ГБ
grid_a800d-1-10c10 ГБ
grid_a800d-1-10cme10 ГБ с коррекцией ошибок памяти

A100 80GB

ПрофильВидеопамять
grid_a100dx-7-80c80 ГБ
grid_a100dx-4-40c, grid_a100dx-3-40c40 ГБ
grid_a100dx-2-20c, grid_a100dx-1-20c20 ГБ
grid_a100dx-1-10c10 ГБ
grid_a100dx-1-10cme10 ГБ с коррекцией ошибок памяти
примечание

Часть профилей доступна только по согласованию. Если нужного профиля нет в списке при создании машины, обратитесь в поддержку ITGLOBAL.COM.

Одна карта — профили одного размера

Физическая карта разбивается однородно. Например, RTX PRO 6000 на 96 ГБ отдаёт либо один профиль на 96 ГБ, либо два по 48 ГБ, либо четыре по 24 ГБ, либо восемь по 12 ГБ — но не смешанно. Профили разного размера могут жить только на разных картах.

Практическое следствие: если вам нужно несколько машин с разным объёмом видеопамяти, скажите об этом при заказе — они разойдутся по разным картам.

Вычислительные карты и графика

warning

A100 и A800 в режиме MIG не поддерживают графические API — OpenGL, Vulkan, DirectX.

Это не ограничение настройки, а следствие архитектуры: MIG проектировался под вычисления, графические блоки в разбиении не участвуют. Ограничение зафиксировано в документации NVIDIA на Multi-Instance GPU.

Что из этого следует:

  • рендеринг, CAD, визуализация, любые приложения на OpenGL или Vulkan на A100 и A800 работать не будут;
  • для графических задач берите RTX PRO 6000;
  • для виртуальных рабочих столов с ускорением есть отдельная услуга — 3D VDI.

Вычислительные задачи ограничения не касаются: CUDA, PyTorch, TensorFlow, TensorRT, RAPIDS и остальной стек NVIDIA AI Enterprise работают штатно.

Как выбрать профиль

ЗадачаЧто брать
Обучение крупных моделейH200 либо максимальный профиль на A100, A800 или RTX PRO 6000
Инференс, несколько параллельных сервисовНесколько профилей поменьше — 12–24 ГБ
Дообучение, эксперименты20–48 ГБ
Графика, рендеринг, визуализацияRTX PRO 6000
Разработка и отладка кодаМинимальный профиль, 10–12 ГБ

Отправная точка — объём видеопамяти, который требует модель. Профиль меньше нужного не «замедлит» задачу, а не позволит ей запуститься.

Оценить производительность на выбранном профиле можно бенчмарком PyTorch.