Как настроить дублированную GPU-систему для LLM-вставки с 48 ГБ VRAM

""Для настройки системы с двумя графическими картами 7900XTX, начните с выбора материнской платы, которая поддерживает раздельное подключение GPU через PCIe-каналы. После выбора соответствующих компонентов, важно отметить, что асимметрия в пропускной способности между двумя картами потребует настройки программного обеспечения, чтобы обеспечить эффективную обработку вычислений. Использование ROCm позволяет управлять распределением нагрузки, что даст возможность максимизировать производительность в процессе работы с более крупными моделями. Лучше всего протестировать состояние работы системы при различных конфигурациях, чтобы определить оптимальные условия для выполнения задач.""