Announcing our new Paper: The Prompt Report, with Co-authors from OpenAI & Microsoft!

Check it out →
me
≡
Sitting astronautLearn Prompting
😃 基礎
🟢 AI 簡介
🟢 “標準”提示
🟢 更多關於提示過程
🟢 使用 ChatGPT 進行提示
🟢 提示工程
🟢 學習提示嵌入
🟢 給予指令
🟢 賦與角色
🟢 多範例提示
🟢 組合提示
🟢 提示常規結構
🟢 聊天機器人
🟢 啟動聊天機器人
🟢 OpenAI Playground
🟢 LLM 超參數設定
🟢 大語言模型（LLMs）中的隱患
🟢 理解人工智慧思維
🟢 學習提示的方法
🟢 開始你的旅程
💼 基礎應用
🟢 介紹
🟢 資料結構化
🟢 寫郵件
🟢 部落格
🟢 學習小幫手
🟦 寫程式小幫手
🟦 數位行銷
🟢 找到合適 Emoji
🟢 合約
🟢 不同的書寫風格
🟢 總結文字
🟢 電子郵件的 Zapier
🧙‍♂️ 進階
🟢 思維鏈提示過程
🟢 零樣本思維鏈
🟦 自我一致性
🟦 知識的生成
🟦 最少到最多提示
🟦 處理長文本內容
🟦 重新審視角色提示
🟢 提示的關鍵要素
🧪 提示的應用
🟢 多選項問題
🟢 解答討論性問題
🟢 用 GPT-3 構建 ChatGPT
🟢 聊天機器人 + 知識庫
🚀 進階應用
🟦 LLMs 使用 Tools
🟦 具有推理和行動能力的 LLMs
🟦 程式碼推理
⚖️ 可靠性
🟢 介紹
🟢 提示去偏差法
🟦 提示多樣性
🟦 提示集成
🟦 大語言模型自我評估
校準大語言模型
🟦 數學演算
🖼️ 圖像提示詞
🟢 介紹
🟢 樣式修飾符
🟢 質量增強器
🟢 重複
🟢 加權
🟢 修復變形生成
🟢 Shot type
🟢 Midjourney
🟢 資源
🔓 提示駭客攻擊
🟢 介詔
🟢 提示注入
🟢 提示洩漏
🟢 越獄
🟢 防禦措施
🟢 概述
🟢 過濾
🟢 指令防禦
🟢 Post-Prompting
🟢 Random Sequence Enclosure
🟢 Sandwich Defense
🟢 XML Tagging
🟢 獨立的 LLM 評估提示
🟢 其他方法
🟢 進攻措施
🟢 概述
🟢 混淆/令牌走私
🟢 負載分割
🟢 定義的字典攻擊
🟢 虛擬化
🟢 間接注入
🟢 遞迴注入
🟢 程式碼注入
🔨 工具
Prompt Engineering Tools
提示工程 IDE
🟢 Introduction
GPT-3 Playground
Dust
Soaked
Everyprompt
Prompt IDE
PromptTools
PromptSource
PromptChainer
Prompts.ai
Snorkel 🚧
Human Loop
Spellbook 🚧
Kolla Prompt 🚧
Lang Chain
OpenPrompt
OpenAI DALLE IDE
Dream Studio
Patience
Promptmetheus
PromptSandbox.io
The Forge AI
AnySolve
Conclusion
💪 提示微調
軟提示
可解釋的軟提示
🎲 雜項
🟢 檢測的欺騙
🟢 音樂生成
🟢 檢測AI生成的文字
📙 Vocabulary Reference
📚 Bibliography
📦 Prompted Products
🛸 Additional Resources
✨ Credits
🔥 Hot Topics
🔓 提示駭客攻擊🟢 防禦措施🟢 概述

🟢 概述

最後更新於August 7, 2024，作者：桑德舒爾霍夫

防止提示注入可能非常困難，而且幾乎沒有強大的防禦措施12。不過，有一些常識解決方案。例如，如果您的應用程式不需要輸出自由格式文本，則不允許此類輸出。有許多不同的方法來捍衛提示。我們將在這裡討論一些最常見的問題。

本章節涵蓋了其他常識性策略，例如過濾單字。它還涵蓋了提示改進策略（指令防禦、後置提示、封裝使用者輸入的不同方式以及 XML 標記）。最後，我們討論使用 LLM 來評估輸出和一些更多模型特定的方法。

Footnotes

  1. Crothers, E., Japkowicz, N., & Viktor, H. (2022). Machine Generated Text: A Comprehensive Survey of Threat Models and Detection Methods. ↩

  2. Goodside, R. (2022). GPT-3 Prompt Injection Defenses. https://twitter.com/goodside/status/1578278974526222336?s=20&t=3UMZB7ntYhwAk3QLpKMAbw ↩

Edit this page
Word count: 0

Get AI Certified by Learn Prompting


Previous

🟢 防禦措施

🟢 過濾

Next

Copyright © 2024 Learn Prompting.