BXU Logo

Buxoro Xalqaro
Universiteti

9-tom, 2-son, b. 433–439, Nashr: 2026-09-25

BO'LAJAK KIBERXAVFSIZLIK MUTAXASSISLARIDA PROMPT-IN'EKSIYA HUJUMLARIDAN HIMOYALANISH KOMPETENSIYASINI SHAKLLANTIRISH METODIKASI

МЕТОДИКА ФОРМИРОВАНИЯ КОМПЕТЕНЦИИ ЗАЩИТЫ ОТ АТАК ТИПА «PROMPT INJECTION» У БУДУЩИХ СПЕЦИАЛИСТОВ ПО КИБЕРБЕЗОПАСНОСТИ

METHODOLOGY FOR DEVELOPING PROMPT INJECTION DEFENSE COMPETENCE IN FUTURE CYBERSECURITY SPECIALISTS

  • Obloyev Komronbek Hamza o'g'li — Osiyo xalqaro universiteti «Aniq fanlar va raqamli texnologiyalar» kafedrasi stajyor-o'qituvchisi, Buxoro shahri, O'zbekiston Respublikasi · ORCID: https://orcid.org/0009-0007-9910-1811

To'liq matn (PDF)

Annotatsiya

Katta til modellariga asoslangan tizimlarning keng ommalashuvi prompt-in'eksiya (ing. prompt injection) hujumlarini axborot xavfsizligining yangi tahdidiga aylantirdi, biroq amaldagi kiberxavfsizlik o'quv dasturlarida bu tahdidga qarshi himoyalanish ko'nikmalarini shakllantirish masalasi yetarlicha yoritilmagan. Tadqiqotning maqsadi bo'lajak kiberxavfsizlik mutaxassislarida prompt-in'eksiya hujumlaridan himoyalanish kompetensiyasini shakllantirish metodikasini ishlab chiqishdan iborat. Tadqiqotda me'yoriy hujjatlar va xalqaro o'quv dasturlarini tahlil qilish, kompetensiyaviy yondashuv asosida pedagogik modellashtirish hamda o'quv laboratoriyasi uchun hisoblash tajribasi usullari qo'llanildi; tajribada ingliz, rus, o'zbek va aralash tillardagi 1650 ta namunadan foydalanildi. Natijada kompetensiyaning kognitiv, faoliyatli va refleksiv tarkibiy qismlari aniqlandi, didaktik model hamda yetti mashg'ulotdan iborat 16 soatlik laboratoriya praktikumi ishlab chiqildi. Topshiriqlar murakkabligi ekspert bahosi asosida emas, balki tajriba ma'lumotlari asosida hisoblangan indeks yordamida tartiblandi, baholash mezonlari esa talaba yaratgan himoya vositasining o'lchanadigan ko'rsatkichlariga bog'landi. Ingliz tiliga mo'ljallangan himoya vositasi rus va o'zbek tilidagi hujumlarning barchasini o'tkazib yuborishi aniqlandi, bu esa ko'p tilli o'quv materiallari zarurligini asoslaydi. Taklif etilgan metodika «Kiberxavfsizlik asoslari» fani mazmuniga alohida modul sifatida kiritilishi mumkin.

Аннотация

Широкое распространение систем на основе больших языковых моделей превратило атаки типа промпт-инъекция (англ. prompt injection) в новую угрозу информационной безопасности, однако в действующих учебных программах по кибербезопасности вопрос формирования навыков защиты от этой угрозы освещён недостаточно. Цель исследования – разработка методики формирования у будущих специалистов по кибербезопасности компетенции защиты от промпт-инъекций. В исследовании применялись анализ нормативных документов и международных учебных программ, педагогическое моделирование на основе компетентностного подхода, а также вычислительный эксперимент для учебной лаборатории на корпусе из 1650 образцов на английском, русском, узбекском и смешанном языках. В результате выделены когнитивный, деятельностный и рефлексивный компоненты компетенции, разработаны дидактическая модель и 16-часовой лабораторный практикум из семи занятий. Сложность заданий упорядочена не на основе экспертной оценки, а с помощью индекса, рассчитанного по экспериментальным данным, а критерии оценивания привязаны к измеримым показателям созданного студентом средства защиты. Установлено, что англоязычное средство защиты пропускает все атаки на русском и узбекском языках, что обосновывает необходимость многоязычных учебных материалов. Предложенная методика может быть включена в содержание дисциплины «Основы кибербезопасности» в качестве отдельного модуля.

Abstract

The widespread adoption of systems based on large language models has turned prompt injection attacks into a new information security threat, yet existing cybersecurity curricula pay insufficient attention to developing the skills needed to defend against it. The aim of this study is to develop a methodology for building prompt injection defence competence in future cybersecurity specialists. The study employed analysis of regulatory documents and international curricula, pedagogical modelling based on the competence approach, and a computational experiment for a teaching laboratory using a corpus of 1650 samples in English, Russian, Uzbek and mixed language. As a result, the cognitive, activity-based and reflective components of the competence were identified, and a didactic model together with a 16-hour, seven-session laboratory practicum was developed. Task difficulty was sequenced not by expert judgement but by an index calculated from experimental data, and assessment criteria were linked to measurable indicators of the defence tool built by the student. It was found that an English-oriented defence tool missed every Russian and Uzbek attack, which justifies the need for multilingual teaching materials. The proposed methodology can be incorporated into the course «Fundamentals of Cybersecurity» as a separate module.

Kalit so'zlar: prompt-in'eksiya, kiberxavfsizlik ta'limi, kasbiy kompetensiya, katta til modellari, laboratoriya praktikumi, didaktik model, murakkablik indeksi, ko'p tilli ta'lim, sun'iy intellekt xavfsizligi

Foydalanilgan adabiyotlar

  1. O'zbekiston Respublikasining «Ta'lim to'g'risida»gi Qonuni. – 23.09.2020. – URL: https://lex.uz/docs/5013007 (murojaat qilingan sana: 20.09.2026).
  2. O'zbekiston Respublikasi Prezidentining «Sun'iy intellekt texnologiyalarini jadal joriy etish uchun shart-sharoitlar yaratish chora-tadbirlari to'g'risida»gi qarori. – 17.02.2021. – URL: https://lex.uz/docs/5297046 (murojaat qilingan sana: 20.09.2026).
  3. O'zbekiston Respublikasining «Kiberxavfsizlik to'g'risida»gi Qonuni. – 15.04.2022. – URL: https://lex.uz/docs/5960604 (murojaat qilingan sana: 20.09.2026).
  4. OWASP Top 10 for Large Language Model Applications. – URL: https://owasp.org/www-project-top-10-for-large-language-model-applications/ (murojaat qilingan sana: 20.09.2026).
  5. Perez F., Ribeiro I. Ignore previous prompt: attack techniques for language models // arXiv. – 2022. – URL: https://arxiv.org/abs/2211.09527 (murojaat qilingan sana: 20.09.2026).
  6. Greshake K., Abdelnabi S., Mishra S. [et al.] Not what you've signed up for: compromising real-world LLM-integrated applications with indirect prompt injection // Proceedings of the 16th ACM Workshop on Artificial Intelligence and Security. – 2023. – P. 79–90.
  7. Dilshodov A., Zokirjonova X. SQL in'eksiyasi hujumlaridan himoyalanishning zamonaviy usullari // Avtomatlashtirish, elektronika va sun'iy intellekt asosida texnologik muammolar va yechimlar : respublika ilmiy-amaliy konferensiyasi materiallari. – 2025. – T. 1, № 1. – B. 557–560. – URL: https://publisher-hub.uz/index.php/AEISTMY/article/view/111.
  8. Joint Task Force on Cybersecurity Education. Cybersecurity Curricula 2017 : Curriculum Guidelines for Post-Secondary Degree Programs in Cybersecurity. – New York : ACM ; IEEE Computer Society, 2017.
  9. Petersen R., Santos D., Smith M.C. [et al.] Workforce Framework for Cybersecurity (NICE Framework) : NIST Special Publication 800-181 Rev. 1. – Gaithersburg : NIST, 2020. – 24 p. – URL: https://doi.org/10.6028/NIST.SP.800-181r1.
  10. Deng Y., Zhang W., Pan S., Bing L. Multilingual jailbreak challenges in large language models // arXiv. – 2023. – URL: https://arxiv.org/abs/2310.06474 (murojaat qilingan sana: 20.09.2026).
  11. Yong Z.-X., Menghini C., Bach S.H. Low-resource languages jailbreak GPT-4 // arXiv. – 2023. – URL: https://arxiv.org/abs/2310.02446 (murojaat qilingan sana: 20.09.2026).
  12. Зимняя И.А. Ключевые компетенции – новая парадигма результата образования // Высшее образование сегодня. – 2003. – № 5. – С. 34–42.
  13. Хуторской А.В. Ключевые компетенции как компонент личностно-ориентированной парадигмы образования // Народное образование. – 2003. – № 2. – С. 58–64.
  14. Anderson L.W., Krathwohl D.R. A Taxonomy for Learning, Teaching, and Assessing: A Revision of Bloom's Taxonomy of Educational Objectives. – New York : Longman, 2001. – 352 p.
  15. Kolb D.A. Experiential Learning: Experience as the Source of Learning and Development. – Englewood Cliffs : Prentice Hall, 1984. – 256 p.
  16. Беспалько В.П. Слагаемые педагогической технологии. – Москва : Педагогика, 1989. – 192 с.
  17. Ishmuhamedov R.J., Yuldashev M. Ta'lim va tarbiyada innovatsion pedagogik texnologiyalar. – Toshkent : Nihol, 2013. – 279 b.
  18. Švábenský V., Vykopal J., Čeleda P. What are cybersecurity education papers about? A systematic literature review of SIGCSE and ITiCSE conferences // Proceedings of the 51st ACM Technical Symposium on Computer Science Education. – 2020. – P. 2–8.
  19. Hines K., Lopez G., Hall M. [et al.] Defending against indirect prompt injection attacks with spotlighting // arXiv. – 2024. – URL: https://arxiv.org/abs/2403.14720 (murojaat qilingan sana: 20.09.2026).
  20. Schulhoff S., Pinto J., Khan A. [et al.] Ignore this title and HackAPrompt: exposing systemic vulnerabilities of LLMs through a global prompt hacking competition // Proceedings of the 2023 Conference on Empirical Methods in Natural Language Processing. – 2023. – P. 4945–4977.