Огромная база промптов для нейросетей

Как создать мощный локальный сервер для LLM менее чем за 2000 долларов

ChatGPT Программирование 31
Beautiful-Floor-5020

Автор промпта

@Beautiful-Floor-5020

Эта инструкция поможет вам собрать оптимальную конфигурацию для локальной работы с языковыми моделями, не разоряясь на дорогостоящее оборудование.

Как использовать этот промпт

"1. Скопируйте данный запрос. 2. Заполните переменную [БЮДЖЕТ] в соответствии с вашим финансовым ограничением. 3. Получите рекомендации по созданию локального сервера для работы с LLM."

Пример ответа нейросети

""Для сборки мощного локального сервера с языковыми моделями вы можете использовать следующую конфигурацию: процессор AMD Ryzen 5 5600X, графическую карту AMD 7900XTX с 24 ГБ видеопамяти, 32 ГБ DDR4 оперативной памяти и материнскую плату на чипсете X570. С такой конфигурацией вы сможете запускать языковые модели с 200K контекстом и обрабатывать запросы на скорости до 2400 токенов в секунду. В дополнение рекомендуется использовать операционную систему Ubuntu и установить последние драйверы ROCm для оптимизации работы GPU.""

Похожие промпты в категории «Программирование»

Оптимизируйте использование нейросетей с Cactus Hybrid Router

Этот промпт поможет вам оптимизировать использование нейросетей, направляя часть задач в облако, а остальные выполняя локально, что значительно повысит эффективность работы и снизит затраты.

Смотреть

Как оптимизировать использование llama-cpp-python для улучшения генерации изображений

Данный промпт направлен на помощь разработчикам в улучшении работы с библиотеками для генерации изображений. Он решает проблемы, связанные с плохим качеством изображений при использовании llama-cpp-python в комбинации с Klein 9B.

Смотреть

Создайте безопасный песочницу для выполнения кода с использованием Docker

Этот промпт помогает разработать песочницу на основе Docker для безопасного выполнения кода, с API для работы с Python и оболочкой. Также рассматриваются альтернативные инструменты для автоматизации браузера.

Смотреть

Вы недавно смотрели

Сохранено в браузере
🍪

Мы используем Cookies и LocalStorage

Это необходимо, чтобы сохранять вашу Историю просмотров, подставлять ваши данные в Конструкторе и добавлять промпты в Избранное. Мы не передаем эти данные третьим лицам.