Огромная база промптов для нейросетей

Как запустить Qwen3.6-35B-A3B с полным контекстом на 4090 и GB10 Spark

ChatGPT Программирование 2
erdaltoprak

Автор промпта

@erdaltoprak

Данный промпт поможет вам эффективно запустить модель Qwen3.6-35B-A3B на различных системах с использованием Docker и vLLM. Он предоставляет инструкции по настройке окружения и оптимизации параметров для достижения максимальной производительности.

Как использовать этот промпт

"1. Скопируйте текст промпта в свою IDE или текстовый редактор. 2. Замените переменные [УСТРОЙСТВО], [ПАРАМЕТР_ПАМЯТИ] и другие на ваши конкретные значения. 3. Запустите запрос в ChatGPT или другой ИИ-инструмент, чтобы получить инструкции по запуску."

Пример ответа нейросети

""Для запуска модели Qwen3.6-35B-A3B на устройстве 4090 с использованием Docker, выполните следующие шаги. В Docker-compose файле создайте сервис, указывающий на ваш образ Qwen3.6-35B-A3B. Обязательно настройте параметры, такие как \"--port '8000'\" и выберите необходимый размер памяти. Например: \n\nservices:\n qwen3:\n container_name: qwen3-container\n image: qwen3-image:latest\n ports:\n - '8000:8000'\n environment:\n - NVIDIA_VISIBLE_DEVICES=all\n\nПосле этого зайдите на адрес http://127.0.0.1:8000, чтобы обеспечить доступ к модели по сети.""

Похожие промпты в категории «Программирование»

Как использовать OpenAI для эффективного кодирования

Этот промпт поможет вам оптимизировать использование OpenAI для программирования, структурируя ваши запросы. Вы узнаете, как задавать четкие параметры для генерации кода, снижая количество правок и улучшая качество результатов.

Смотреть

Создайте идеальный список дат без выходных

Этот промпт поможет вам сформировать список дат в заданном формате, исключая выходные дни. Идеально подходит для планирования мероприятий или проектов. Убедитесь, что ваш запрос четкий, чтобы избежать ошибок при генерации.

Смотреть

Эффективное использование запросов: определите, что ИИ не должен делать

Этот промпт помогает улучшить качество выходных данных ИИ, заставляя его избегать определенных ошибок. Установление ограничений на то, что модель не должна делать, позволяет достичь более точных и актуальных результатов, особенно для сложных задач.

Смотреть

Вы недавно смотрели

Сохранено в браузере
🍪

Мы используем Cookies и LocalStorage

Это необходимо, чтобы сохранять вашу Историю просмотров, подставлять ваши данные в Конструкторе и добавлять промпты в Избранное. Мы не передаем эти данные третьим лицам.