Огромная база промптов для нейросетей
Конструктор Промптов Пошаговые Гайды Топ Авторов Избранное

Как создать мощный локальный сервер для LLM менее чем за 2000 долларов

ChatGPT Программирование 45
✓
Beautiful-Floor-5020

Автор промпта

@Beautiful-Floor-5020
#локальные модели #системное администрирование #аппаратное обеспечение

Эта инструкция поможет вам собрать оптимальную конфигурацию для локальной работы с языковыми моделями, не разоряясь на дорогостоящее оборудование.

Как использовать этот промпт

"1. Скопируйте данный запрос. 2. Заполните переменную [БЮДЖЕТ] в соответствии с вашим финансовым ограничением. 3. Получите рекомендации по созданию локального сервера для работы с LLM."

Пример ответа нейросети

""Для сборки мощного локального сервера с языковыми моделями вы можете использовать следующую конфигурацию: процессор AMD Ryzen 5 5600X, графическую карту AMD 7900XTX с 24 ГБ видеопамяти, 32 ГБ DDR4 оперативной памяти и материнскую плату на чипсете X570. С такой конфигурацией вы сможете запускать языковые модели с 200K контекстом и обрабатывать запросы на скорости до 2400 токенов в секунду. В дополнение рекомендуется использовать операционную систему Ubuntu и установить последние драйверы ROCm для оптимизации работы GPU.""

Похожие промпты в категории «Программирование»

Как ускорить обработку моделей ИИ на NPU до 1.5× быстрее

Этот промпт предлагает детальные инструкции по реверс-инжинирингу формата движка от поставщика NPU. Узнайте, как обойти необходимость конвертации моделей и добиться высокой скорости обработки.

Смотреть

Как создать уникальные обновления QOL для ваших агентов?

Этот промпт поможет разработать уникальные функции и улучшения качества жизни (QOL) для ваших собственных агентов. Научитесь применять инновационные подходы к созданию кастомизированных решений.

Смотреть

Создайте уникальные композиции с использованием 44 инструментов ИИ

Этот промпт поможет вам построить свои собственные композиции с использованием различных инструментов, созданных на основе открытого кода. Он предоставляет подробные инструкции и предложения для разработки идеальных решений.

Смотреть

Вы недавно смотрели

Сохранено в браузере
🍪

Мы используем Cookies и LocalStorage

Это необходимо, чтобы сохранять вашу Историю просмотров, подставлять ваши данные в Конструкторе и добавлять промпты в Избранное. Мы не передаем эти данные третьим лицам.