Nagy nyelvi modellek őssebezhetőségeinek információbiztonsági kockázatai és kezelésük

Abstract

A nagy nyelvi modellek (LLM-ek) elterjedése új lehetőségeket teremt az információkezelésben és a szervezeti hatékonyságnövelésben, azonban számos új típusú kiberbiztonsági sebezhetőséget is felszínre hozott. Jelen tanulmány célja, hogy feltérképezze az LLM-ek legkritikusabb kockázatait, különös tekintettel a szervezeti adatvagyon védelmére és az elektronikus információbiztonság biztosítására. A kutatás az OWASP Top 10 for LLM kiadványok összehasonlító elemzésén alapulva meghatározza azon „őssebezhetőségeket”, amelyek az állandóan változó fenyegetési környezet permanens szereplői. A tanulmány elemzi e sebezhetőségek technikai és szervezeti kockázatait, valamint azok hatásait az LLM-ökoszisztémák bizalmasságára, integritására és rendelkezésre állására. Ezen túlmenően javaslatot tesz olyan kockázatkezelési és megfelelőségi mechanizmusok bevezetésére, amelyek holisztikus módon, szervezeti és technológiai szinten egyaránt kezelik az LLM-ekből fakadó biztonsági kihívásokat.

The spread of large language models (LLMs) has created new opportunities in information management and enterprise efficiency, while simultaneously exposing a several of new cybersecurity vulnerabilities. This study aims to map the most critical risks associated with LLMs, with particular emphasis on the protection of organ- izational information assets and the assurance of electronic information security. Based on a comparative analysis of the OWASP Top 10 for LLM publications, the research identifies "core vulnerabilities" that persistently feature within the constantly evolving threat landscape. The study analyzes the technical and organizational risks associated with these vulnerabilities, as well as their impact on the confidentiality, integrity, and availability of LLM ecosystems. Furthermore, it proposes the introduction of risk management and compliance mechanisms that holistically address the security challenges arising from LLMs at both organizational and technological levels.