Охрана от инъекций в промптах: безопасное взаимодействие с LLM
Этот промпт поможет вам создать эффективный защитный механизм для обнаружения и классификации попыток инъекции в приложениях на основе LLM. Он направлен на предотвращение неожиданных событий и управление безопасностью при работе с пользовательским вводом.
Настройте промпт под свою задачу:
Как использовать этот промпт
"1. Скопируйте промпт и вставьте в свою систему. 2. Замените [ТИП_ДЕЙСТВИЯ] на конкретную цель вашего приложения, а [УРОВЕНЬ_РИСКА] на ожидаемое значение. 3. Запустите механизм и получите результаты анализа."
Пример ответа нейросети
""### Отчет о безопасности инъекций\n- **Входной образец:** Пользовательский ввод с несанкционированным доступом к данным.\n- **Классификация:** Категория A (Прямое переопределение инструкций)\n- **Серьезность:** КРИТИЧЕСКАЯ (высокий уровень доступа)\n- **Примененная защита:** Уровень 1 (Запретить и уведомить)\n- **Результат:** Заблокировано\n- **Ложный положительный:** Нет\n- **Заметки:** Эта инъекция отклонила все предыдущие инструкции, что требует немедленного внимания.""