Biztonsági aggályok az OpenAI korában
Security concerns in the age of OpenAI
Kulcsszavak:
AI tools, security problems, /, MI eszközök, biztonsági problémákAbsztrakt
In recent years, we have seen the many benefits of the widespread adoption of artificial intelligence (AI). Every day we use AI tools that make application development easier and more efficient, doing so with great joy and confidence. However, it has become clear that this new technology must solve new security challenges. In this article, we will analyze the security issues of AI, chatbots, coding with AI, and present the dangers that lie in the backdoor attack, as well as existing solutions.
Kivonat
Az elmúlt pár évben megtapasztalhattuk a mesterséges intelligencia (MI) széleskörben való elterjedésének számos előnyét. Nap mint nap használjuk azokat az MI eszközöket, amelyek segítségével sokkal könnyebben, sokkal hatékonyabban tudunk alkalmazásokat fejleszteni, mindezt tesszük nagy örömmel és teljes magabiztosággal. Az eltelt időszakban azonban megbizonyosodott, hogy ez az új technológia új biztonsági kihívásokat kell megoldjon. Ebben a cikkben elemezni fogjuk az MI, a chatbotok, az MI-vel való kódolás biztonsági problémáit, bemutatjuk azokat a veszélyeket, amelyek a hátsó ajtó támadásban rejlenek, illetve a létező megoldásokra is rátérünk.
Hivatkozások
D. Amodei, C. Olah, J. Steinhardt, P. Christiano, J. Schulman, D. Mané. Concrete problems in AI safety, ArXiv preprint abs/1606.06565 (2016). https://arxiv.org/abs/1606.06565 (Utolsó letöltés: 2025. 09.16).
N. Carlini, F. Tramer, E. Wallace, M. Jagielski, A. Herbert-Voss, K. Lee, A. Roberts, T. Brown, D. Song, U. Erlingsson, A. Oprea, C. Raffel. Extracting Training Data from Large Language Models. (2021). https://arxiv.org/abs/2012.07805 (Utolsó letöltés: 2025. 09.16).
S. Goldwasser, M. P. Kim, V. Vaikuntanathan, and O. Zamir. Planting undetectable backdoors in machine learning models. In 2022 IEEE 63rd Annual Symposium on Foundations of Computer Science (FOCS), pages 931–942. IEEE, 2022.
H. Pearce, B. Ahmad, B. Tan, B. Dolan-Gavitt, R. Karri. Asleep at the Keyboard? Assessing the Security of GitHub Copilot’s Code Contributions, Communications of the ACM, 2025, Volume 68, Issue 2 Page 95.
N. Perry, M. Srivastava, D. Kumar, and D. Boneh, “Do users write more insecure code with ai assistants?” in Proceedings of the 2023 ACM SIGSAC Conference on Computer and Communications Security, ser. CCS ’23. ACM, Nov. 2023. https://arxiv.org/abs/2211.03622 (Utolsó letöltés: 2025. 09.16).
O. Zamir. Excuse me, sir? your language model is leaking (information). arXiv preprint arXiv:2401.10360, 2024. https://arxiv.org/abs/2401.10360 (Utolsó letöltés: 2025. 09.16).
