LLM architektúrák összehasonlító elemzése biztonságkritikus rendszerekben: telepítési modellek, szuverenitás és sebezhetőség

Abstract

Ez a tanulmány a nagy nyelvi modellek (LLM) biztonságkritikus rendszerekben történő alkalmazásának lehetőségeit és kockázatait elemzi, valamint bemutatja, hogyan épülhetnek be az LLM-ek a döntéstámogató és automatizált rendszerekbe. Részletesen összehasonlítja a lokális, felhőalapú és hibrid telepítési modelleket, különös tekintettel az adatszuverenitásra, adatbiztonságra és működési rugalmasságra. Az OWASP és a DHS irányelvei alapján bemutatásra kerülnek a legfontosabb sebezhetőségek.A tanulmány elemzi a NIS2 irányelv és az AI Act előírásainak relevanciáját. A kockázatok csökkentésére az ALARP-elv, valamint emberi felügyelet, validáció, több rétegű védelem és biztonságtudatos oktatás kerül kiemelésre. A tanulmány célja a biztonság és innováció közötti fenntartható egyensúly elősegítése.

This study examines the possibilities and risks of applying large language models (LLM) in safety-critical systems and demonstrates how LLMs can be integrated into decision making process ( support ) and automated systems. It provides a detailed comparison of on-premise, cloud based, and hybrid deployment models, with particular focus on data sovereignty, information security, and operational flexibility. Based on OWASP and DHS guidelines, the paper outlines key vulnerabilities. It also analyzes the relevance of the NIS2 Directive, and the AI Act framework. To reduce risks, it highlights the importance of the ALARP principle, human oversight, validation mechanisms, multi-layered protection, and security-conscious training. The study’s aim is to support a sustainable balance between safety and innovation.