Как добиться максимальной производительности от MoE моделей на устаревшем оборудовании

""При запуске модели Qwen 3.6 35B-A3B на старом GTX 1080, с учетом использования MoE offloading, я смог достичь производительности около 24 токенов в секунду. Вводя параметры, такие как --n-cpu-moe 30 и K=turbo4 V=turbo3, управление использованием ресурсов стало более эффективным. При добавлении поддержки MTP с использованием команды --override-tensor-draft, скорость обработки увеличилась до 22%, что достигло приемлемости в 79% для произвольных токенов. Эти шаги существенно улучшили общее время реакции и производительность системы.""