АНАЛИЗ УЯЗВИМОСТИ LLM05 (НЕКОРРЕКТНАЯ ОБРАБОТКА ВЫХОДНЫХ ДАННЫХ)
DOI:
https://doi.org/10.5281/zenodo.20800024Ключевые слова:
LLM-агент, LLM05, XSS-атака, SQL-инъекция, вайбкодингЛицензия
Аннотация
В настоящей работе представлена атака типа непрямая промпт-инъекция с генерацией небезопасного вывода и эксплуатация на целевом хосте. На экспериментальном стенде с LLM-агентом демонстрируются сквозные атаки, приводящие к XSS и SQL-инъекции с использованием уязвимости LLM05. Исследуются причины возникновения уязвимости и методы защиты.
Скачивания
Библиографические ссылки
1. OWASP Top 10 for LLM (2025) [Электронный ресурс]. – URL: https://owasp.org/www-project-top-10-for-large-language-models/ (дата обращения 09.03.2026).
2. Какие техники MITRE ATT&CK выявляют продукты Positive Technologies. [Электронный ресурс]. – URL: https://mitre.ptsecurity.com/ru-RU/ (дата обращения 09.03.2026).
3. How Vulnerable Are AI Agents to Indirect Prompt Injections? Insights from a Large-Scale Public Competition / M. Dziemian [et al.] // arXiv. – 2026. – № 2603.15714. – URL: https://arxiv.org/abs/2603.15714.
4. AttriGuard: Defeating Indirect Prompt Injection in LLM Agents via Causal Attribution of Tool Invocations / Y, He [et al.] // arXiv. – 2026. – № 2603.10749. – URL: https://arxiv.org/abs/2603.10749.
5. Architecting Secure AI Agents: Perspectives on System-Level Defenses / C. Xiang [et al.] // arXiv. – 2026. – № 2603.30016. –URL: https://arxiv.org/abs/2603.30016.
REFERENCES LIST
1. OWASP Top 10 for LLM (2025) [Elektronnyi resurs]. – URL: https://owasp.org/www-project-top-10-for-large-language-models/ (data obrashcheniia 09.03.2026).
2. Kakie tekhniki MITRE ATT&CK vyiavliaiut produkty Positive Technologies. [Elektronnyi resurs]. – URL: https://mitre.ptsecurity.com/ru-RU/ (data obrashcheniia 09.03.2026).
3. How Vulnerable Are AI Agents to Indirect Prompt Injections? Insights from a Large-Scale Public Competition / M. Dziemian [et al.] // arXiv. – 2026. – № 2603.15714. – URL: https://arxiv.org/abs/2603.15714.
4. AttriGuard: Defeating Indirect Prompt Injection in LLM Agents via Causal Attribution of Tool Invocations / Y, He [et al.] // arXiv. – 2026. – № 2603.10749. – URL: https://arxiv.org/abs/2603.10749.
5. Architecting Secure AI Agents: Perspectives on System-Level Defenses / C. Xiang [et al.] // arXiv. – 2026. – № 2603.30016. –URL: https://arxiv.org/abs/2603.30016.
Опубликован
Выпуск
Раздел
Лицензия
Это произведение доступно по лицензии Creative Commons «Attribution-NonCommercial» («Атрибуция — Некоммерческое использование») 4.0 Всемирная.
Статьи журнала «Вестник Донецкого университета. Серия 04. Технические науки» находятся в открытом доступе и распространяются в соответствии с условиями Лицензионного Договора с Донецким Государственным университетом, который бесплатно предоставляет авторам неограниченное распространение и самостоятельное архивирование.
