Серверы на 4–8 GPU

Как выбрать платформу под 4–8 GPU

Сначала определите, сколько карт нужно на самом деле и как они будут охлаждаться. Платформы на 4 GPU обычно занимают 2U и допускают карты с пассивным охлаждением в общем потоке корпуса; на 8 GPU чаще берут 4U, где больше места под воздух и блоки питания. Проверьте, сколько линий PCIe даёт платформа на каждый слот: для обучения важна x16 на карту, для инференса часто достаточно x8. Процессор выбирайте с запасом по линиям PCIe и каналам памяти — иначе карты будут простаивать. Смотрите на двухпроцессорные серверы, если нужен максимум линий и памяти. Память берите с ECC и в объёме под датасет: DDR5 даёт выше пропускную способность, DDR4 дешевле при том же объёме. Диски — NVMe под данные и кэш, SATA/SAS под архив. Блоки питания — с резервированием, иначе одна карта под нагрузкой уронит весь узел.

Процессор, память, диски и сеть

Под 4–8 GPU логично ставить один или два серверных процессора с большим числом линий PCIe: AMD EPYC и Intel Xeon закрывают большинство задач. Память набирайте модулями ECC и заполняйте каналы равномерно — так вы получите заявленную пропускную способность. Под данные и чекпоинты ставьте NVMe: на 4–8 GPU узкое место часто не карты, а диск. Для датасетов и логов добавьте SATA/SAS-диски, а под защиту — RAID с кэшем и батареей. Сеть: минимум 10/25 Гбит/с, для распределённого обучения — 100 Гбит/с и выше, с отдельным интерфейсом под управление. Если сервер нужен под инференс и обучение, смотрите серверы для ИИ и GPU.

Типичные ошибки при сборке

Первая ошибка — считать, что любой корпус примет 8 карт: у платформы ограничены длина карты, высота и тепловой пакет. Вторая — экономить на процессоре и памяти: карты упираются в линии PCIe и каналы памяти и работают вполсилы. Третья — ставить один блок питания без резерва: под нагрузкой GPU потребление растёт скачками. Четвёртая — брать SATA-диски под датасеты, где нужен NVMe. Пятая — забыть про охлаждение и продувку: в 4U с 8 картами важен правильный фронт-ту-бэк поток. И последнее — не проверить совместимость райзера, карты и шасси до заказа. В конфигураторе несовместимые позиции не соберутся в один сервер, но лучше понимать ограничения заранее.

Что проверить перед заказом

Сверьте три числа: сколько линий PCIe даёт платформа на GPU, сколько памяти можно поставить и сколько дисков влезает в корпус. Уточните форм-фактор: 4U проще охлаждать и обслуживать, 2U экономит место в стойке. Проверьте глубину шасси под вашу стойку и питание: под 8 карт нужны соответствующие БП и розетки. Заложите запас по слотам и памяти — задачи на GPU растут быстрее, чем хочется менять сервер. Если сомневаетесь, опишите задачу инженеру PORT-IT: он соберёт конфигурацию, проверит совместимость и протестирует сервер перед отправкой. Счёт с НДС для юрлиц, доставка по России.