Огромная база промптов для нейросетей
Конструктор Промптов Пошаговые Гайды Топ Авторов Избранное

Как создать мощный локальный сервер для LLM менее чем за 2000 долларов

ChatGPT Программирование 16
✓
Beautiful-Floor-5020

Автор промпта

@Beautiful-Floor-5020
#локальные модели #системное администрирование #аппаратное обеспечение

Эта инструкция поможет вам собрать оптимальную конфигурацию для локальной работы с языковыми моделями, не разоряясь на дорогостоящее оборудование.

Как использовать этот промпт

"1. Скопируйте данный запрос. 2. Заполните переменную [БЮДЖЕТ] в соответствии с вашим финансовым ограничением. 3. Получите рекомендации по созданию локального сервера для работы с LLM."

Пример ответа нейросети

""Для сборки мощного локального сервера с языковыми моделями вы можете использовать следующую конфигурацию: процессор AMD Ryzen 5 5600X, графическую карту AMD 7900XTX с 24 ГБ видеопамяти, 32 ГБ DDR4 оперативной памяти и материнскую плату на чипсете X570. С такой конфигурацией вы сможете запускать языковые модели с 200K контекстом и обрабатывать запросы на скорости до 2400 токенов в секунду. В дополнение рекомендуется использовать операционную систему Ubuntu и установить последние драйверы ROCm для оптимизации работы GPU.""

Похожие промпты в категории «Программирование»

Идеальный промпт для работы с документами .docx

Этот промпт поможет вам создать, редактировать и визуально проверять .docx файлы с учетом всех профессиональных стандартов оформления. Следуя приведенным инструкциям, вы избежите распространенных ошибок и получите качественный результат.

Смотреть

Создание устойчивых причинно-следственных цепочек в AI симуляциях

Данный промпт поможет разработчикам создать систему, где генерация нарратива не зависела бы от состояния базы данных, обеспечивая устойчивость причинно-следственных связей в играх с использованием ИИ.

Смотреть

Как заставить LLMы работать с временными данными!

Этот промпт поможет вам создать систему, которая обеспечивает точное временное отслеживание для LLM, устраняя проблемы с потерей временной информации и галлюцинациями. Вы сможете заставить модель всегда возвращать правильные данные о времени и дате.

Смотреть

Вы недавно смотрели

Сохранено в браузере
🍪

Мы используем Cookies и LocalStorage

Это необходимо, чтобы сохранять вашу Историю просмотров, подставлять ваши данные в Конструкторе и добавлять промпты в Избранное. Мы не передаем эти данные третьим лицам.