Ez a tanulmány a nagy nyelvi modellek (LLM) biztonságkritikus rendszerekben történő alkalmazásának lehetőségeit és kockázatait elemzi, valamint bemutatja, hogyan épülhetnek be az LLM-ek a döntéstámogató és automatizált rendszerekbe. Részletesen összehasonlítja a lokális, felhőalapú és hibrid telepítési modelleket, különös tekintettel az adatszuverenitásra, adatbiztonságra és működési rugalmasságra. Az OWASP és a DHS irányelvei alapján bemutatásra kerülnek a legfontosabb sebezhetőségek.A tanulmány elemzi a NIS2 irányelv és az AI Act előírásainak relevanciáját. A kockázatok csökkentésére az ALARP-elv, valamint emberi felügyelet, validáció, több rétegű védelem és biztonságtudatos oktatás kerül kiemelésre. A tanulmány célja a biztonság és innováció közötti fenntartható egyensúly elősegítése.
hu_HU
This study examines the possibilities and
risks of applying large language models
(LLM) in safety-critical systems and
demonstrates how LLMs can be integrated
into decision making process ( support )
and automated systems. It provides a
detailed comparison of on-premise, cloud based, and hybrid deployment models, with
particular focus on data sovereignty,
information security, and operational
flexibility. Based on OWASP and DHS
guidelines, the paper outlines key
vulnerabilities. It also analyzes the
relevance of the NIS2 Directive, and the AI
Act framework. To reduce risks, it
highlights the importance of the ALARP
principle, human oversight, validation
mechanisms, multi-layered protection, and
security-conscious training. The study’s
aim is to support a sustainable balance
between safety and innovation.
