ШАБУЫЛДАР МЕН ҚОРҒАНЫС ҮШІН ГЕНЕРАТИВТІ ЖИ МОДЕЛЬДЕРІН ҚОЛДАНУ

Мақалада генеративті жасанды интеллектінің киберқауіпсіздіктегі екіжақты қолданылуы қарастырылды: шабуыл құралы ретінде және қорғаныс құралы ретінде. Мәтінде, суретте және аудиода шынайы деңгейде синтез жасау фишинг, дипфейк және тұлғаны еліктеу сияқты қауіптерді жеңілдететіні, ал машиналық оқытуда кіріс деректеріне өте аз, бірақ мақсатты түрде әсер ету арқылы қате шешім қабылдататын қауіп түрі бар екені көрсетілді. Практикалық бөлік қайталанатын стендте орындалды: MNIST қолжазба цифрларын танитын классификатор бастапқыда таза деректерде сенімді нәтиже көрсетті, кейін FGSM әдісі арқылы ε параметрі әртүрлі мәндерде өзгертіліп, adversarial-мысалдар жасалды. Нәтижесінде көзге байқалмайтын шу енгізілгеннің өзінде модельдің сенімді болжамы қате класқа ауысатыны тіркелді (типтік мысалда «7» цифры қате «3» деп танылды). Қорғаныс үшін екі реконструктивті тәсіл салыстырылды: қарапайым автокодировщик (AE) және шуға үйретілген деноизинг-автокодировщик (DAE). ε артқан сайын DAE қателіктер үлесін AE-ге қарағанда көбірек төмендетті, себебі ол жоғары жиілікті шуды пайдалы белгілерден жақсырақ ажыратты. Қосымша ретінде реконструкция энергиясы E(x) арқылы аномалия детекторы енгізіліп, шабуыл ықтималдығын белгілеу және инцидентті тіркеу мүмкіндігі көрсетілді.

1. Goodfellow, I., Pouget-Abadie, J., Mirza, M., Xu, B., Warde-Farley, D., Ozair, S., Courville, A., and Bengio, Y. Generative adversarial nets. Advances in Neural Information Processing Systems, 27, 2672–2680 (2014).

2. Hu, W., and Tan, Y. Generating adversarial malware examples for black-box attacks based on GAN. arXiv preprint (2017). arXiv:1702.05983.

3. Xiao, C., Li, B., Zhu, J.-Y., He, W., Liu, M., and Song, D. Generating adversarial examples with adversarial networks. Proceedings of the 27th International Joint Conference on Artificial Intelligence (IJCAI) (2018), pp. 3905–3911.

4. Lin, Z., Shi, Y., and Xue, Z. IDSGAN: Generative adversarial networks for attack generation against intrusion detection. PAKDD 2022, LNCS 13282 (2022), pp. 79–91.

5. Lakshmanan, R. WormGPT: New AI tool allows cybercriminals to launch sophisticated cyber attacks. The Hacker News (15 July 2023).

6. Haidar, A. Kazakhstan pushes nationwide AI rollout amid cybersecurity risks and skills shortages. The Times of Central Asia (18 August 2025).

7. Afane, K., Wei, W., Mao, Y., Farooq, J., and Chen, J. Next-generation phishing: How LLM agents empower cyber attackers. arXiv preprint (2024). arXiv:2411.13874.

8. Roy, S.S., Thota, P., Naragam, K.V., and Nilizadeh, S. From chatbots to phishbots? Phishing scam generation in commercial large language models. Proceedings of IEEE Symposium on Security and Privacy (2024), p. 221.

9. Croitoru, A., Ionescu, R.T., Khan, F.S., Shah, M., et al. Deepfake media generation and detection in the generative AI era: A survey and outlook. arXiv preprint (2024). arXiv:2411.19537.

10. Saeed, U., Jan, S.U., Ahmad, J., Shah, S.A., Alshehri, M.S., Ghadi, Y.Y., Pitropakis, N., and Buchanan, W.J. Generative adversarial networks-enabled anomaly detection systems: A survey. Expert Systems with Applications, 296, 128978 (2026). https://doi.org/10.1016/j.eswa.2025.128978

11. Samangouei, P., Kabkab, M., and Chellappa, R. Defense-GAN: Protecting classifiers against adversarial attacks using generative models. Proceedings of ICLR (2018).

12. Heiding, F., Schneier, B., Vishwanath, A., Bernstein, J., and Park, P.S. Devising and detecting phishing emails using large language models. IEEE Access, 12, 42131–42146 (2024). https://doi.org/10.1109/ACCESS.2024.3375882

13. Heiding, F., Lermen, S., Kao, A., Schneier, B., and Vishwanath, A. Evaluating large language models’ capability to launch fully automated spear phishing campaigns: Validated on human subjects. arXiv preprint (2024). arXiv:2412.00586.

14. SlashNext. WormGPT: The new generative AI tool used by cybercriminals to launch business email compromise attacks (2023).

15. Europol Innovation Lab. ChatGPT: The impact on law enforcement (2023).

16. Rössler, A., Cozzolino, D., Verdoliva, L., Riess, C., Thies, J., and Nießner, M. FaceForensics++: Learning to detect manipulated facial images. Proceedings of IEEE/CVF International Conference on Computer Vision (ICCV) (2019).

17. Szegedy, C., Zaremba, W., Sutskever, I., Bruna, J., Erhan, D., Goodfellow, I., and Fergus, R. Intriguing properties of neural networks. arXiv preprint (2013). arXiv:1312.6199.

18. Goodfellow, I.J., Shlens, J., and Szegedy, C. Explaining and harnessing adversarial examples. arXiv preprint (2015). arXiv:1412.6572.

19. Vincent, P., Larochelle, H., Lajoie, I., Bengio, Y., and Manzagol, P.-A. Extracting and composing robust features with denoising autoencoders. Proceedings of the 25th International Conference on Machine Learning (ICML) (2008), pp. 1096–1103.