Prompt injection: спрятанный текст, который пытается переиграть агента

Коротко: Prompt injection это атака, при которой враждебный текст попадает в контекст модели и пытается переиграть её инструкции: на веб-странице, в файле или в письме спрятана фраза вроде «проигнорируй предыдущие указания». Модели обучены ранжировать источники: системный промпт выше пользовательского сообщения, инструкции выше вывода инструментов, поэтому спрятанный текст обычно не рулит агентом. У того же порядка есть побочный эффект: код в агентных системах доезжает до модели именно как вывод инструмента и проигрывает любому инструкционному файлу, даже протухшему.