Mesterséges Intelligencia és felhasználói profilalkotás: helyzetkép és kockázatok

Abstract

A tanulmány áttekinti a mesterséges intelligencia szerepét a felhasználói profilalkotásban, a kapcsolódó jelentősebb eseményeket és az európai szabályozási környezetet, különös tekintettel a jogalkotói szürke zónákra, valamint a felhasználók tudatosságára és a technológiában rejlő célzott manipulációs lehetőségekre. Rávilágít, hogy a felhasználói profilalkotás során gyűjtött adatok elemzése által nyert adatok a kiberbiztonsági, vagy marketingcélú felhasználás mellett akár támadások optimalizálására, célzott véleménybefolyásolásra is. Felhívja a figyelmet továbbá a viselkedés alapú biometrikus adatok kezelésének felhasználói profilalkotásban betöltött szerepére és a felhasználók digitális lábnyomának összetételére, valamint a felhasználók tájékoztatásában alkalmazott hiányosságokra, sötét mintázatokra.

The study reviews the current state of AI - based user profiling, the major related events, and the regulatory environment, with particular attention to legislative gray areas, user awareness, and the possibilities for targeted manipulation inherent in the technology. It highlights that user profiling, based on the analysis of data collected across various digital systems, can be used not only for cybersecurity or marketing purposes, but also for optimizing attacks and targeted opinion manipulation. Furthermo re, it draws attention to the role of behavioral biometric data processing in user profiling, the composition of users’ digital footprints, and the shortcomings and dark patterns used in informing users about the handling of their data.