Промпт-инъекция (prompt injection) — это атака на приложение, построенное поверх модели, цель которой — внедрить вредоносные инструкции в данные, обрабатываемые приложением, и перехватить управление его логикой. Классическая аналогия — SQL-инъекция. Бывает прямой (пользователь манипулирует вводом) и косвенной (вредоносная инструкция прячется в данных, которые модель читает сама: веб-страницы, письма, документы RAG, комментарии в соцсетях). Исторический кейс «Sydney»: студент Стэнфорда извлёк скрытый системный промпт Microsoft через серию промптов. В январе 2026 описан метод косвенной инъекции со стоимостью $0.21 за запрос на OpenAI-моделях и почти 100% успеха в retrieval.
Что такое промпт-инъекция?
Share This Story, Choose Your Platform!
About the Author: Тимофей Ермолаев
Более 10 лет сфере управления ИТ и автоматизации бизнеса в капиталоемких отраслях (энергетика, строительство, производство). Понятным языком рассказываю бизнесу, как приземлить хайп вокруг LLM и нейросетей на реальные процессы бэк-офиса.


Leave A Comment