Огромная база промптов для нейросетей
Конструктор Промптов Пошаговые Гайды Топ Авторов Избранное

Как создать мощный локальный сервер для LLM менее чем за 2000 долларов

ChatGPT Программирование 0
✓
Beautiful-Floor-5020

Автор промпта

@Beautiful-Floor-5020
#локальные модели #системное администрирование #аппаратное обеспечение

Эта инструкция поможет вам собрать оптимальную конфигурацию для локальной работы с языковыми моделями, не разоряясь на дорогостоящее оборудование.

Как использовать этот промпт

"1. Скопируйте данный запрос. 2. Заполните переменную [БЮДЖЕТ] в соответствии с вашим финансовым ограничением. 3. Получите рекомендации по созданию локального сервера для работы с LLM."

Пример ответа нейросети

""Для сборки мощного локального сервера с языковыми моделями вы можете использовать следующую конфигурацию: процессор AMD Ryzen 5 5600X, графическую карту AMD 7900XTX с 24 ГБ видеопамяти, 32 ГБ DDR4 оперативной памяти и материнскую плату на чипсете X570. С такой конфигурацией вы сможете запускать языковые модели с 200K контекстом и обрабатывать запросы на скорости до 2400 токенов в секунду. В дополнение рекомендуется использовать операционную систему Ubuntu и установить последние драйверы ROCm для оптимизации работы GPU.""

Похожие промпты в категории «Программирование»

Создайте мощный инструмент для управления проектами с помощью mex

Этот промпт поможет вам эффективно взаимодействовать с инструментом mex для оптимизации ваших проектов. Вы сможете настроить контекст и управлять задачами, основываясь на потребностях вашего проекта.

Смотреть

Как использовать OpenAI для эффективного кодирования

Этот промпт поможет вам оптимизировать использование OpenAI для программирования, структурируя ваши запросы. Вы узнаете, как задавать четкие параметры для генерации кода, снижая количество правок и улучшая качество результатов.

Смотреть

Как создать локальный AI-агента с минимальной задержкой

Этот промпт поможет вам разработать локального AI-агента с использованием технологий STT и TTS с минимальной задержкой. Он предназначен для опытных разработчиков, желающих оптимизировать взаимодействие своих AI-систем.

Смотреть

Вы недавно смотрели

Сохранено в браузере
🍪

Мы используем Cookies и LocalStorage

Это необходимо, чтобы сохранять вашу Историю просмотров, подставлять ваши данные в Конструкторе и добавлять промпты в Избранное. Мы не передаем эти данные третьим лицам.