GPUИндекс

Выделенный сервер NVIDIA H200

Сервер на 8 картах NVIDIA H200, машина под большое машинное обучение: 1128 ГБ суммарной памяти HBM3e, и весь NVLink-массив работает на вашу задачу без соседей.

от 6 500 000 ₽/мес

Выберите GPU

Сервер с NVIDIA H200

H200, флагманская карта поколения Hopper с 141 ГБ памяти HBM3e: заметно больше, чем у H100, и быстрее по пропускной способности. Как выделенный сервер она раскрывается именно в конфигурации 8×141 ГБ, такие машины обычно берут под обучение и дообучение больших языковых моделей, где важно, чтобы весь VRAM и межкарточные соединения были полностью в вашем распоряжении. В Dedicated-режиме на H200 не бывает «чужого» инференса на той же карте: производительность предсказуема от старта до конца задачи. Когда обучение идёт сутками, это критично, просадка из-за соседа по vGPU может стоить дороже самой аренды. Тариф на 8 карт у Selectel, 6 500 000 ₽/мес.

H200Сбросить
NVIDIA H200
Selectel
141 ГБ × 8 = 1128 ГБ
6 500 000 ₽/мес
812 500 ₽/мес / карта
Перейти →

96 vCPU / 2048 ГБ RAM · Россия

Частые вопросы о выделенном сервере на H200

Сколько стоит выделенный сервер на H200?+
Сейчас в каталоге один тариф, конфигурация 8×141 ГБ у Selectel за 6 500 000 ₽/мес, то есть около 812 500 ₽/мес за одну карту. По мере появления новых офферов таблица будет дополняться.
Что помещается в 1128 ГБ суммарного VRAM?+
Восемь карт по 141 ГБ дают 1128 ГБ памяти. Этого достаточно для обучения и полного файнтюнинга моделей класса 70B в FP16 и крупнее, с запасом под батч. Для инференса можно держать несколько больших моделей в памяти одновременно.
Чем выделенный H200 отличается от аренды H200 в облаке?+
В Dedicated-конфигурации карта целиком ваша, без vGPU и шардинга. Весь VRAM и NVLink-каналы между картами работают только на вашу задачу, поэтому обучение не замедляется из-за соседних арендаторов. Это предсказуемая производительность для длительных и тяжёлых задач.
Кому нужен сервер на 8 H200?+
Командам, которые обучают или дообучают большие языковые модели, где одного GPU мало: tensor parallelism распределяет модель по картам, а суммарная память позволяет не резать веса квантизацией. Если большой суммарный VRAM не нужен, дешевле будут серверы на H100 или других моделях из каталога.

Каталог по H200 пока небольшой, конфигурация 8×141 ГБ у Selectel. Если нужна машина с суммарным VRAM 1128 ГБ, это прямой кандидат для обучения моделей класса 70B и крупнее в FP16: модель целиком помещается в память сервера, а tensor parallelism распределяет нагрузку по картам. Сравнивайте цену за карту: 6 500 000 ₽/мес за конфигурацию означает около 812 500 ₽/мес за одну H200. При постоянном объёме обучения выделенный сервер обычно выгоднее почасовой аренды GPU, а предсказуемость производительности делает стоимость задачи легко планируемой.