Az MI-alapú mérnöki asszisztencia biztonsági kérdései az ember–robot interakcióban

Abstract

A mesterséges intelligencia egyre nagyobb szerepet kap a mérnöki döntéstámogatásban, miközben az ipari és oktatási környezetben alkalmazott robotizált rendszerek működése továbbra is biztonságkritikus és alapvetően determinisztikus jellegű. A tanulmány azt vizsgálja, hogy az MI-alapú mérnöki asszisztencia milyen biztonsági kérdéseket vet fel az ember–robot interakcióban. Kiindulópontja, hogy a kockázat nemcsak a fizikai ember–robot kapcsolat szintjén jelenhet meg, hanem már a döntés-előkészítés során is, amikor a felhasználó MI által generált javaslatokra támaszkodik. A cikk elemzi az MI mint mérnöki asszisztens szerepét, különös tekintettel az autonómiahatárokra, az emberi felügyeletre és a validációra. Azonosítja a főbb közvetett kockázati tényezőket, így a túlzott bizalmat, a hiányos ellenőrzést és a kompetenciahiányt. Következtetések alapján az MI biztonságos alkalmazása csak kötelező emberi validáció mellett értelmezhető.

Artificial intelligence is playing an increasingly important role in engineering decision support, while robotic systems used in industrial and educational environments remain safety-critical and fundamentally deterministic. This paper examines the safety issues raised by AI-based engineering assistance in humanobot interaction. Its main assumption is that risk does not emerge only at the level of direct physical human-robot contact, but may also arise earlier in the decision-preparation phase, when the user relies on AI-generated suggestions. The study analyses the role of AI as an engineering assistant, with particular attention to autonomy boundaries, human supervision, and validation. It identifies the main indirect risk factors, including overreliance, insufficient verification, and lack of user competence. The paper concludes that the safe application of AI can only be ensured through mandatory human validation.