Сервер для ИИ под ключ: карты в наличии, модели развёрнуты
Готовый программно-аппаратный комплекс (ПАК) для работы ИИ в закрытом контуре: серверная платформа, ускорители NVIDIA с 64 ГБ памяти HBM2e, развёрнутые модели и настроенное окружение. Карты на складе в Москве, сервер собираем и проверяем под вашу задачу.
Почему ИИ в закрытом контуре упирается в железо
Когда данные нельзя отдавать в облако, проект начинается с сервера. И здесь обычно теряют месяцы:
Рабочей языковой модели на 27–35 миллиардов параметров нужно 40–64 ГБ видеопамяти. Потребительские карты с 24–32 ГБ не вмещают её вместе с контекстом.
Новая серверная A100 стоит больше миллиона рублей за карту и едет под заказ. Б/у рынок без проверки и без обязательств продавца.
Сборка, драйверы, окружение и развёртывание моделей съедают недели инженеров ещё до первого полезного ответа.
Облачные GPU для закрытого контура не подходят по регламенту, а аренда в итоге дороже покупки уже через год.
Что входит в готовый ПАК
Ускорители с 64 ГБ памяти
NVIDIA CMP 170HX на кристалле GA100, как у A100: 64 ГБ HBM2e и полоса около 1,3 ТБ/с. Карты лежат на складе в Москве и отгружаются сразу.
Серверная платформа
2U под 2–4 карты для контура компании или 4U на AMD EPYC под 8 карт для аренды и больших нагрузок. Резервированное питание, продув через всю машину.
Развёрнутые модели
vLLM с языковыми моделями под вашу задачу, распознавание и синтез речи, эмбеддинги для поиска по документам. Сервер приезжает рабочим.
Настроенное окружение
Linux, зафиксированная версия драйвера, мониторинг, регламент обновлений. Ваши инженеры получают документацию, а не загадку.
Проверка и приёмка
Каждая карта проходит запуск, проверку 64 ГБ и тест памяти с протоколом. Первая карта остаётся у вас: не заработала, меняем или возвращаем деньги в течение 10 дней.
Больше, чем железо
На этом же сервере разворачиваем поиск по документам, ассистента для контакт-центра и ИИ-агентов под ваши процессы. Для нас сервер начало проекта, а не конец.
Как поставляем
Задача и конфигурация
Какие модели, сколько пользователей, какие данные. Считаем память, число карт и платформу, называем цену и срок в течение рабочего дня.
Сборка и проверка
Собираем сервер, ставим карты, прогоняем проверку и развёртываем модели. Протокол на каждую карту.
Доставка и запуск
Доставка по России и Казахстану, подключение в вашем контуре, передача документации и обучение инженеров.
Сопровождение
Регламент обновлений драйверов и моделей, подменный фонд по договору, помощь при расширении парка.
Цифры из реальных проектов
Кому собираем
ИИ-команда компании
Dev-, test- и боевой контур для ассистентов и агентов. Разработка перестаёт ждать очереди на дорогие карты.
Контакт-центр
Одна карта под языковую модель, одна под распознавание речи и поиск по базе знаний, одна в резерве. Записи разговоров и данные клиентов не покидают контур.
Хостер и интегратор
4U на 8 карт: 512 ГБ памяти в одной машине, восемь независимых инстансов под инференс для клиентов.
Промышленность и госсектор
Поиск по нормативной базе и документации на сервере внутри периметра, без внешних вызовов.
Честно о характеристиках
Карта
- 64 ГБ HBM2e, около 1 355 ГБ/с
- Кристалл GA100, 300 Вт, пассивное серверное исполнение
- Серийный номер NVIDIA в протоколе приёмки
Сильные стороны
- Генерация токенов: модель 27–35B целиком на одной карте
- Эмбеддинги, реранкеры, распознавание речи
- Две карты дают 128 ГБ для моделей до 70B
Ограничения
- Нет NVLink и ECC, интерфейс PCIe Gen1 x4
- Только Linux, обучение моделей не для этой карты
- Для обучения и ECC подбираем RTX PRO 6000 или H200
Условия
- Карты в наличии, от 270 000 ₽ за карту, ПАК по конфигурации
- Карты б/у, гарантийного срока нет, цена это учитывает
- Обмен или возврат первой карты 10 дней, продавец российское юрлицо
Частые вопросы
Сколько стоит сервер под ключ?
Зависит от числа карт, платформы и моделей. Карта от 270 000 ₽, партия от 10 карт дешевле. Конфигурацию и цену ПАК называем в течение рабочего дня после короткого разговора о задаче.
Это новые карты?
Нет. Карты б/у, с разблокированной до 64 ГБ памятью, поэтому цена в разы ниже A100. Каждая проходит проверку перед отгрузкой с протоколом, первую карту можно обменять или вернуть в течение 10 дней.
Подойдёт ли для обучения моделей?
Нет, это карта для инференса: тензорные ядра урезаны, NVLink закрыт. Для обучения и задач с ECC подбираем серверные GPU NVIDIA RTX PRO 6000 Blackwell или платформу на H200.
Что если у нас уже есть сервер?
Поставляем карты отдельно, помогаем с установкой и настройкой окружения. Нужен слот PCIe x16, 300 Вт на карту и продув корпуса.
Соберём конфигурацию под вашу задачу
Напишите, какие модели и сколько пользователей. Ответим с конфигурацией, ценой и сроком в течение рабочего дня.
Почта: it@x-on.ru