GPU для inference LLM: какую видеокарту арендовать под 7B/70B модели

Для эффективного инференса LLM 7B-моделей достаточно видеокарты с 8-12 ГБ VRAM (например, RTX 3060/3080/4060/4070 для 4-битной квантизации), а для 70B-моделей потребуется минимум 24-48 ГБ VRAM (RTX 4090, A6000, A100 или H100) в зависимости от выбранного уровня квантизации и требований к пропускной способности.

Какую GPU арендовать для inference LLM: расчет VRAM и базовые принципы

Выбор оптимальной видеокарты (GPU) для инференса больших языковых моделей (LLM) — это критически важный этап, определяющий как производительность, так и стоимость ваших операций. Основной фактор, который необходимо учитывать при выборе видеокарты для LLM, это объем видеопамяти (VRAM). Именно VRAM определяет, какую модель вы сможете загрузить и с какой степенью квантизации.

Расчет VRAM: сколько видеопамяти нужно для LLM?

Объем VRAM, необходимый для загрузки LLM, напрямую зависит от двух ключевых параметров:

1. Количество параметров модели: Чем больше параметров, тем больше VRAM требуется. Модели измеряются в миллиардах (B) параметров.
2. Точность представления параметров (квантизация): Это количество бит, используемых для хранения каждого параметра.

Базовая формула для расчета VRAM выглядит так:

VRAM_потребление = (Количество_параметров * Размер_параметра_в_байтах) + Буферы_и_активации

Рассмотрим стандартные сценарии:

• FP32 (Full Precision): 4 байта на параметр. Это максимальная точность, требующая наибольшего объема VRAM.
• FP16/BF16 (Half Precision): 2 байта на параметр. Стандарт для большинства современных LLM, значительно сокращает VRAM по сравнению с FP32.
• INT8 (8-bit Quantization): 1 байт на параметр. Популярный метод для инференса, сильно сокращающий VRAM с минимальными потерями в качестве.
• INT4 (4-bit Quantization): 0.5 байта на параметр. Максимальная экономия VRAM, но может повлечь заметное снижение качества генерации и требует специализированных библиотек.

Помимо самой модели, VRAM также используется для хранения буферов, активаций, кэша ключей и значений (KV cache) для контекста, а также для системных нужд фреймворков (PyTorch, TensorFlow). Обычно эти дополнительные накладные расходы составляют от 10% до 30% от размера модели, но могут быть и больше для очень длинных контекстов.

Примерный расчет для модели с 7 миллиардами параметров (7B) и 70 миллиардами параметров (70B):

Как видно из таблицы, даже для 7B модели в FP16 вам потребуется GPU с 16 ГБ VRAM или больше. Для 70B модели в INT4 вам понадобится минимум 42 ГБ, что уже требует профессиональных карт уровня A100 или H100.

Квантизация LLM: как экономить VRAM и какие есть методы

Квантизация — это процесс уменьшения точности числового представления параметров модели, что позволяет значительно сократить объем требуемой VRAM и, зачастую, ускорить инференс. Этот подход стал краеугольным камнем для развертывания больших LLM на менее мощном оборудовании или для снижения стоимости облачных GPU-ресурсов. Понимание сколько VRAM для LLM необходимо, напрямую связано с выбранным методом квантизации.

Методы квантизации: QLoRA, GPTQ, AWQ и другие

Существует несколько популярных методов квантизации, каждый со своими особенностями, преимуществами и недостатками:

1. BitsAndBytes (BNB): Один из самых простых и широко используемых методов, особенно для 8-битной и 4-битной квантизации. Он интегрирован в Hugging Face transformers и позволяет загружать модели в квантизированном виде с минимальными усилиями. BNB 4-bit часто используется в комбинации с QLoRA для тюнинга моделей.
2. GPTQ (GPT-Q): Это метод пост-тренировочной квантизации (Post-Training Quantization, PTQ), который позволяет квантизировать модель до 4-бит без значительной потери качества. GPTQ оптимизирован для инференса и часто обеспечивает лучшую производительность по сравнению с BNB при той же степени квантизации. Для работы с GPTQ требуются специализированные библиотеки, такие как AutoGPTQ.
3. AWQ (Activation-aware Weight Quantization): Относительно новый метод PTQ, который фокусируется на квантизации весов, чувствительных к активациям. AWQ часто превосходит GPTQ по качеству при 4-битной квантизации, особенно для определенных типов моделей, и также демонстрирует высокую скорость инференса.
4. QLoRA (Quantized LoRA): Хотя QLoRA сам по себе не является методом квантизации для инференса всей модели, он позволяет проводить точную настройку (fine-tuning) LLM, загруженных в 4-битном квантизированном виде. Основная модель остается в 4-битах, а небольшие адаптеры LoRA обучаются в более высокой точности, что значительно снижает требования к VRAM для обучения. После обучения LoRA-адаптеры можно "слить" с основной моделью или использовать отдельно для инференса.

Пример загрузки 4-битной модели с использованием transformers и BitsAndBytes:

from transformers import AutoModelForCausalLM, AutoTokenizer, BitsAndBytesConfig
import torch

model_id = "mistralai/Mistral-7B-Instruct-v0.2"

bnb_config = BitsAndBytesConfig(
    load_in_4bit=True,
    bnb_4bit_quant_type="nf4",
    bnb_4bit_compute_dtype=torch.bfloat16
)

tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(
    model_id,
    quantization_config=bnb_config,
    device_map="auto"
)

print(f"Модель загружена на {model.device} с {model.get_memory_footprint() / (1024**3):.2f} ГБ VRAM")
# Примерно 4.5 - 5.5 ГБ VRAM для 7B модели

Влияние квантизации на качество и скорость

Квантизация не является бесплатной. Она влечет за собой компромиссы:

• Качество генерации: При переходе от FP16 к INT8 потери в качестве обычно минимальны и часто незаметны для большинства задач. Однако 4-битная квантизация может привести к более заметному снижению качества, особенно для сложных задач, требующих высокой точности или для моделей, которые особенно чувствительны к потере информации (например, модели для кодогенерации или математических расчетов). Важно тестировать квантизированную модель на ваших конкретных задачах.
• Скорость инференса: Квантизация, особенно до 4-бит, часто приводит к ускорению инференса. Меньший объем данных для обработки означает более быструю передачу данных по шине памяти и более эффективное использование кеша GPU. Однако это преимущество может быть нивелировано, если используются неоптимизированные ядра для квантизированных операций или если накладные расходы на деквантизацию/реквантизацию становятся слишком велики. Современные библиотеки и GPU-архитектуры (например, Tensor Cores в NVIDIA) имеют специализированную поддержку для низкобитных операций, что делает инференс значительно быстрее.

Выбор метода квантизации и его степени зависит от ваших приоритетов: максимальная экономия VRAM и скорость при допустимом снижении качества, или сохранение максимального качества при более высоких требованиях к VRAM.

Популярные GPU для LLM Inference: от потребительских до серверных

На рынке существует широкий спектр GPU, способных выполнять инференс LLM. Выбор видеокарты для LLM зависит от бюджета, требуемого объема VRAM, производительности и доступности. Рассмотрим наиболее популярные варианты.

Потребительские GPU: RTX 4090 и аналоги

Потребительские видеокарты NVIDIA GeForce RTX серии (например, RTX 30xx, RTX 40xx) являются отличным выбором для локального инференса и для небольших проектов в облаке, где стоимость является критическим фактором. Их главное преимущество – относительно низкая цена за гигабайт VRAM и высокая производительность для своих денег.

• NVIDIA GeForce RTX 4090 (24 ГБ VRAM): Флагман потребительского сегмента. Обладает 24 ГБ VRAM, что позволяет запускать 7B модели в FP16, а также 70B модели в INT4 (иногда даже 8-битные с некоторыми ухищрениями). Благодаря архитектуре Ada Lovelace и Tensor Cores, RTX 4090 обеспечивает впечатляющую производительность для инференса. Это одна из лучших карт по соотношению цена/производительность для индивидуальных разработчиков и небольших команд.
• NVIDIA GeForce RTX 3090/3090 Ti (24 ГБ VRAM): Предыдущее поколение флагманов. Также имеют 24 ГБ VRAM и вполне справляются с теми же задачами, что и RTX 4090, хотя и с меньшей скоростью. Могут быть более бюджетным вариантом на вторичном рынке или в некоторых облачных предложениях.
• NVIDIA GeForce RTX 4080/4070 Ti/3080/3070 (12-16 ГБ VRAM): Эти карты подходят для 7B моделей в FP16 или для более крупных моделей (до 13B/20B) в сильно квантизированном виде (INT4). Их VRAM ограничена, но для многих задач они достаточны и более доступны.

Особенности потребительских GPU:

• VRAM: Максимум 24 ГБ на одну карту. Для очень больших моделей может потребоваться мульти-GPU конфигурация, что усложняет распределение модели и синхронизацию.
• Интерконнект: Отсутствие NVLink (за исключением RTX 3090/3090 Ti), что ограничивает скорость обмена данными между GPU в многокарточных системах.
• Доступность: Легче найти и арендовать на платформах, ориентированных на потребительские GPU.

Серверные/Дата-центр GPU: A100, H100, A6000

Профессиональные GPU разработаны для высокопроизводительных вычислений в дата-центрах. Они предлагают значительно больший объем VRAM, высокую пропускную способность памяти, улучшенный интерконнект (NVLink) и более надежную работу в режиме 24/7.

• NVIDIA A100 (40 ГБ или 80 ГБ VRAM): Рабочая лошадка для AI-инференса и обучения. Существуют версии с 40 ГБ и 80 ГБ VRAM. Версия на 80 ГБ позволяет без проблем запускать 70B модели в INT8 (потребление ~84 ГБ VRAM) на одной карте или в FP16, распределяя на две A100 80GB. A100 обладает высокой пропускной способностью памяти и специализированными Tensor Cores для AI-операций.
• NVIDIA H100 (80 ГБ VRAM): Флагманское решение NVIDIA, пришедшее на смену A100. Обладает значительно улучшенной архитектурой Hopper, обеспечивая в несколько раз большую производительность для AI-задач по сравнению с A100, особенно в FP8 и FP16. H100 80GB является идеальным выбором для самых требовательных 70B моделей в INT8 или даже некоторых в FP16, а также для мульти-GPU инференса огромных моделей. Аренда H100, конечно, будет стоить дороже. Сколько стоит аренда H100 в облаке - вопрос, требующий отдельного анализа, но Valebyte.com предлагает конкурентные цены.
• NVIDIA RTX A6000 (48 ГБ VRAM): Это профессиональная карта на архитектуре Ampere (как и A100), но с VRAM 48 ГБ. Она занимает промежуточное положение между потребительскими RTX и серверными A100/H100. A6000 48GB отлично подходит для 70B моделей в INT4 и некоторых 8-битных сценариев. Она часто доступна по более низкой цене, чем A100, предлагая при этом значительный объем VRAM.

Особенности серверных GPU:

• VRAM: До 80 ГБ на одну карту, что позволяет запускать очень большие модели.
• Интерконнект: Поддержка NVLink для высокоскоростного соединения между GPU, что критически важно для мульти-GPU инференса и обучения.
• Надежность и поддержка: Разработаны для непрерывной работы в дата-центрах, имеют расширенную гарантию и поддержку.
• Стоимость: Значительно выше в покупке, но при аренде могут быть экономически выгоднее для высоконагруженных задач, благодаря своей производительности.

Сравнение GPU: RTX 4090, A100, H100 – какую выбрать для LLM inference?

Выбор оптимальной inference GPU – это баланс между VRAM, производительностью, стоимостью и доступностью. Давайте подробно сравним три ключевых игрока: NVIDIA RTX 4090 (потребительский флагман), NVIDIA A100 (проверенная серверная рабочая лошадка) и NVIDIA H100 (новый серверный лидер).

Таблица сравнения ключевых характеристик GPU для LLM

Эта таблица поможет вам быстро сориентироваться в возможностях каждой GPU с точки зрения LLM инференса.

Примечание: Цены аренды являются ориентировочными и могут сильно варьироваться в зависимости от провайдера, региона, длительности аренды и доступности.

Производительность в LLM Inference: что тянет 4090/A100/H100

Производительность GPU для LLM инференса измеряется в токенах в секунду (tokens/sec) и зависит от множества факторов: размера модели, степени квантизации, длины контекста, размера батча и оптимизаций фреймворка.

• NVIDIA RTX 4090:
  • 7B модель (FP16): Отлично справляется, выдавая десятки токенов в секунду даже с длинными контекстами. Однозначно лучший выбор для GPU под 7B модель.
  • 70B модель (INT4): Можно запустить, но с компромиссами. Производительность будет ниже, чем на A100/H100, а при длинных контекстах может ощущаться "задыхание" из-за более низкой пропускной способности памяти по сравнению с HBM.
• NVIDIA A100 (80GB):
  • 7B модель (FP16/BF16): Избыточно, но обеспечивает очень высокую скорость.
  • 70B модель (INT8): Стандартный и очень эффективный сценарий. A100 80GB может легко загрузить 70B модель в INT8 (потребление ~84 ГБ VRAM) и обеспечить высокую пропускную способность. Для FP16 потребуется две такие карты.
  • 130B+ модели (INT4): Отлично подходит для таких моделей в квантизированном виде.
• NVIDIA H100 (80GB):
  • 7B/70B модель (FP16/BF16): Максимальная производительность. H100 обеспечивает значительный прирост скорости по сравнению с A100, особенно для FP16 и FP8 операций, благодаря более мощным Tensor Cores и HBM3 памяти. Это идеальная gpu под 70b модель, особенно если требуется минимальная задержка или максимальный throughput.
  • Крупные модели (175B+, 300B+): H100, особенно в мульти-GPU конфигурациях с NVLink, позволяет запускать и инферить огромные модели, которые ранее были доступны только на кластерах.

Важно отметить, что реальная производительность также зависит от программной оптимизации (например, использование Triton kernels, FlashAttention). Для достижения максимальной скорости инференса часто требуются специализированные фреймворки, такие как vLLM, TensorRT-LLM или llama.cpp.

Пропускная способность (Throughput) vs. Задержка (Latency) в LLM Inference

При развертывании LLM для инференса крайне важно понимать разницу между пропускной способностью (throughput) и задержкой (latency), а также то, как эти метрики влияют на выбор GPU и стратегию оптимизации.

Что такое Throughput и Latency?

• Задержка (Latency): Это время, которое требуется модели для генерации первого токена (Time To First Token, TTFT) или для генерации всего ответа на один запрос. Низкая задержка критически важна для интерактивных приложений, чат-ботов, где пользователь ожидает мгновенного ответа.
• Пропускная способность (Throughput): Это количество токенов или запросов, которые модель может обработать за единицу времени (например, токены/секунду или запросы/секунду). Высокая пропускная способность важна для пакетной обработки, API-сервисов с большим количеством одновременных пользователей или для задач, где нужно быстро обработать множество независимых запросов.

Оптимизация для различных сценариев

Выбор между оптимизацией для throughput или latency влияет на конфигурацию GPU и подходы к инференсу:

1. Сценарии с низкой задержкой (Low Latency):
   • Примеры: Чат-боты реального времени, интерактивные помощники, автодополнение кода.
   • Требования: Пользователь ожидает ответа немедленно. Задержка в несколько сотен миллисекунд уже может быть заметна.
   • Оптимизация:
     • Малый размер батча (Batch Size): Часто 1 или очень маленький, чтобы минимизировать время ожидания других запросов.
     • Мощные GPU: Используются GPU с высокой тактовой частотой и оптимизированными ядрами (например, H100) для быстрого вычисления каждого токена.
     • Специализированные фреймворки: vLLM, TensorRT-LLM, FlashAttention для ускорения вычислений и управления KV-кэшем.
     • Минимальная квантизация: Если качество позволяет, 4-битная квантизация может ускорить инференс за счет меньшего объема данных.
2. Сценарии с высокой пропускной способностью (High Throughput):
   • Примеры: Анализ больших объемов текста, генерация контента для SEO, обработка запросов по расписанию, API для массового использования.
   • Требования: Способность обработать как можно больше запросов за единицу времени, даже если отдельные запросы могут иметь чуть большую задержку.
   • Оптимизация:
     • Большой размер батча (Batch Size): Объединение нескольких запросов в один батч для параллельной обработки. Это увеличивает использование GPU, но также увеличивает задержку для каждого отдельного запроса в батче.
     • Техники динамического батчинга: Например, Continuous Batching в vLLM, который позволяет эффективно использовать GPU, обрабатывая запросы по мере их поступления и объединяя их в динамические батчи.
     • Оптимальное использование VRAM: Квантизация (8-бит, 4-бит) позволяет загрузить больше моделей или использовать более крупные батчи на одном GPU.
     • Множество GPU: Распределение нагрузки между несколькими GPU для масштабирования пропускной способности.

Важно помнить, что задержка и пропускная способность часто являются обратно связанными метриками: оптимизация одной часто приводит к компромиссу с другой. Современные фреймворки, такие как vLLM, пытаются найти баланс, используя такие техники, как PagedAttention, для эффективного управления KV-кэшем и улучшения обеих метрик.

Конкретные рекомендации: какую GPU арендовать под 7B/70B модели

Выбор конкретной GPU под 70B модель или 7B модель зависит от вашего бюджета, требований к производительности и готовности к компромиссам с качеством через квантизацию.

Рекомендации для 7B моделей

Модели с 7 миллиардами параметров (7B) являются одними из самых популярных для локального развертывания и многих облачных приложений благодаря их хорошему балансу между производительностью и требованиями к ресурсам.

• 7B в FP16/BF16 (потребление ~16-18 ГБ VRAM):
  • Рекомендуемые GPU: NVIDIA RTX 4090 (24 ГБ), NVIDIA RTX A4000/A5000 (16/24 ГБ), NVIDIA RTX 3090/3090 Ti (24 ГБ).
  • Комментарий: RTX 4090 — идеальный выбор. Она не только имеет достаточный объем VRAM, но и обеспечивает очень высокую скорость инференса. Если бюджет ограничен, RTX 3090 или A5000 также справятся.
• 7B в INT8 (потребление ~8-10 ГБ VRAM):
  • Рекомендуемые GPU: NVIDIA RTX 3060 (12 ГБ), RTX 4060 Ti (16 ГБ), RTX 3070/3080/4070 (8-12 ГБ), а также любые карты, рекомендованные для FP16.
  • Комментарий: Для INT8 квантизации подходят даже более бюджетные карты. RTX 3060 12GB — отличный вариант по соотношению цена/VRAM. RTX 4060 Ti с 16 ГБ VRAM также является хорошим выбором, предлагая современную архитектуру.
• 7B в INT4 (потребление ~4-6 ГБ VRAM):
  • Рекомендуемые GPU: Практически любая современная GPU с 6 ГБ VRAM или более (например, RTX 3050, GTX 1080 Ti, RTX 2060).
  • Комментарий: INT4 позволяет запускать 7B модели на очень скромном железе. Однако всегда стоит проверять качество генерации, так как 4-битная квантизация может быть заметна.

Рекомендации для 70B моделей

Модели с 70 миллиардами параметров (70B) значительно более требовательны к VRAM и вычислительной мощности. Для них часто требуются серверные GPU или мульти-GPU конфигурации.

• 70B в FP16/BF16 (потребление ~160-180 ГБ VRAM):
  • Рекомендуемые GPU: Минимум 2x NVIDIA A100 80GB или 2x NVIDIA H100 80GB в конфигурации с NVLink.
  • Комментарий: Это сценарий для самых требовательных приложений, где качество FP16 критически важно. Аренда таких мощностей будет самой дорогой.
• 70B в INT8 (потребление ~80-90 ГБ VRAM):
  • Рекомендуемые GPU: NVIDIA A100 80GB, NVIDIA H100 80GB, или 2x NVIDIA RTX A6000 48GB.
  • Комментарий: A100 80GB или H100 80GB — это оптимальный выбор для 70B INT8. Они предоставляют достаточный объем VRAM на одной карте и высокую производительность. Две A6000 48GB также справятся, но могут быть сложнее в настройке из-за необходимости распределения модели между двумя GPU.
• 70B в INT4 (потребление ~40-50 ГБ VRAM):
  • Рекомендуемые GPU: NVIDIA RTX A6000 (48 ГБ), NVIDIA A100 (40 ГБ или 80 ГБ), NVIDIA H100 (80 ГБ), или 2x NVIDIA RTX 4090 (24 ГБ).
  • Комментарий: RTX A6000 48GB является отличным вариантом по соотношению цена/производительность для этого сценария. Она позволяет запустить 70B INT4 на одной карте. Две RTX 4090 также могут быть использованы, но потребуют распределения модели и могут иметь меньшую пропускную способность между GPU по сравнению с NVLink.

При выборе gpu для inference llm всегда начинайте с наименее ресурсоемкого варианта (максимальная квантизация) и повышайте требования, если качество становится неприемлемым.

Где арендовать GPU и на что обратить внимание

Аренда GPU в облаке или у специализированных провайдеров является наиболее гибким и экономически эффективным решением для большинства проектов LLM инференса, особенно для моделей 70B и выше. Покупка дорогостоящего оборудования оправдана только при очень высоких и постоянных нагрузках.

Стоимость и доступность

• Почасовая оплата: Большинство облачных провайдеров предлагают почасовую оплату, что идеально подходит для экспериментов, разработки и задач с переменной нагрузкой.
• Долгосрочные контракты: Для стабильных, высоконагруженных сервисов могут быть выгодны долгосрочные контракты (месячные, годовые) со скидками.
• Сравнение провайдеров: Цены на одни и те же GPU могут сильно различаться. Сравнивайте предложения от крупных облачных гигантов (AWS, GCP, Azure) и специализированных GPU-хостеров (Valebyte.com, RunPod, Vast.ai, Lambda Labs). Vast.ai vs RunPod vs Lambda: где дешевле арендовать GPU в 2026 – отличный ресурс для такого сравнения.
• Доступность GPU: Некоторые GPU, особенно H100, могут быть в дефиците, и их доступность варьируется в зависимости от региона и провайдера.

Инфраструктура и поддержка

При выборе провайдера GPU-аренды, помимо стоимости, обратите внимание на следующие факторы:

1. Тип GPU: Убедитесь, что провайдер предлагает именно те модели GPU, которые вам нужны (RTX 4090, A100, H100, A6000).
2. Объем VRAM: Проверьте, что доступные конфигурации GPU имеют достаточный объем VRAM для вашей модели и уровня квантизации.
3. Скорость интерконнекта (NVLink): Если вы планируете использовать мульти-GPU конфигурации для очень больших моделей, убедитесь, что GPU соединены через NVLink для высокой пропускной способности.
4. Процессор (CPU) и RAM: Несмотря на то, что GPU является основным ресурсом, достаточно мощный CPU и достаточный объем оперативной памяти (RAM) также важны для общей производительности системы, особенно для загрузки модели и обработки данных до и после инференса. Рекомендуется минимум 2-4 vCPU и 16-32 ГБ RAM для большинства LLM-задач.
5. Дисковая подсистема: Быстрый NVMe SSD критически важен для быстрой загрузки больших моделей и работы с файлами.
6. Сетевая пропускная способность: Если ваш инференс-сервис будет обслуживать множество внешних запросов, высокая пропускная способность сети важна.
7. Образы и инструменты: Наличие готовых Docker-образов с предустановленными драйверами NVIDIA, CUDA, PyTorch/TensorFlow, а также специализированными фреймворками (vLLM, TensorRT-LLM) значительно упрощает развертывание.
8. Поддержка: Качественная техническая поддержка может сэкономить вам много времени и нервов при возникновении проблем.
9. Расположение дата-центров: Выбирайте дата-центры, расположенные ближе к вашей целевой аудитории или к источникам данных для минимизации задержек.

Valebyte.com предлагает широкий выбор выделенных серверов с GPU и VPS с GPU, что позволяет подобрать оптимальное решение для любых задач инференса LLM, обеспечивая при этом высокую производительность и конкурентные цены. Мы понимаем, что каждый проект уникален, и готовы помочь в подборе конфигурации, которая будет соответствовать вашим требованиям к VRAM, скорости и бюджету.

Например, если вам нужна надежная инфраструктура для стабильной работы, Valebyte предлагает альтернативы Vultr с почасовой оплатой, включая GPU-серверы.

Выводы

Выбор GPU для инференса LLM 7B/70B моделей определяется объемом VRAM, степенью квантизации и требованиями к производительности. Для 7B моделей в 4-битной квантизации достаточно 8-12 ГБ VRAM (RTX 3060/4060 Ti), тогда как 70B модели в INT4 потребуют 48 ГБ VRAM (RTX A6000) или 80 ГБ (A100/H100) для INT8, а для FP16 — несколько H100. При аренде GPU важно учитывать не только стоимость, но и доступность, инфраструктуру провайдера, а также наличие NVLink для мульти-GPU конфигураций.