Az Európai Parlament törvényhozói megállapodtak a mesterséges intelligencia (AI) uniós használatára vonatkozó szigorú szabályokról. A törvény célja az AI-rendszerek szabályozása, valamint az átláthatóság és a biztonság biztosítása. A rendelet meghatározta a ‘magas kockázatú’ mesterséges intelligencia rendszereket, valamint magasabb szintű transzparenciát követel olyan modellektől, mint a ChatGPT.
A képviselők Május 11-én megszavazták azt a beterjesztett AI-jogszabályt, amely betiltaná a biometrikus azonosító rendszereket a közterületeken és a biometrikus osztályozási rendszereket, amelyeket kockázatosnak, diszkriminatívnak és agresszívnek minősít. Ehhez hasonló, állami felügyelet alatt álló rendszerek működnek Kínában jelenleg. Továbbá, a tilalmat kiterjesztették a prediktív rendőri tevékenységre és az adatbázisok építéséhez szükséges arcképek leválogatására szolgáló AI modellekre is. Az érzelemfelismerő szoftvereket a bűnüldözésben, a határigazgatásban, a munkahelyeken és az oktatásban tiltják.
Dragos Tudorache, az EuroParl romániai társelőadója így nyilatkozott:
“Tekintettel arra, hogy a mesterséges intelligencia milyen mélyreható transzformatív hatással lesz társadalmunkra és gazdaságunkra, a mesterséges intelligenciáról szóló törvény valószínűleg a legfontosabb jogszabály ebben a mandátumban. Világszerte ez az első ilyen jellegű jogszabály, ami azt jelenti, hogy az EU élen járhat a mesterséges intelligencia emberközpontú, megbízható és biztonságos kialakításában.”
Fontos definiálni az AI-t
A mesterséges intelligencia pontos definiálása meghatározó a jogszabály megfelelő kialakításában, és a szabályozás hatókörének meghatározásában. Az EU az OECD definíciójához igazította az AI meghatározását:
“A mesterséges intelligencia rendszer olyan gépi alapú rendszer, amelyet úgy terveztek, hogy különböző szintű autonómiával működjön, és amely explicit vagy implicit célok érdekében képes olyan outputokat, például előrejelzéseket, ajánlásokat vagy döntéseket létrehozni, amelyek befolyásolják a fizikai vagy virtuális környezetet.”
‘Magas kockázatú’ mesterséges intelligencia
A rendelet szigorúbb korlátozást vezet be a magas kockázatú mesterséges intelligencia-alkalmazásokra. Ezeket a III. melléklet szerinti kritikus területek és felhasználási esetek listája alapján határozzák meg. Az eredeti kategorizáláshoz hozzátették, hogy a magas kockázatú minősítéshez az is szükséges, hogy egy mesterséges intelligencia rendszer jelentős kockázatot jelentsen az emberek egészségére, biztonságára vagy alapvető jogaira nézve. Ebbe a kategóriába sorolták például az álláspályázatokat rangsoroló önéletrajz-ellenőrző eszközöket, valamint “nagyon nagy online platformként” megjelölt közösségi médiaplatformok ajánlórendszereit.
‘Általános célú’ mesterséges intelligencia
A szabályrendszer alapértelmezés szerint nem terjedt ki az általános célú mesterséges intelligenciát (GPAI) alkalmazó rendszerekre. A ChatGPT és más nagyméretű nyelvi modellek gyors ütemű sikere azonban arra késztette az uniós jogalkotókat, hogy az ilyen típusú AI-t is szabályozzák. Az eredmény egy többszintű megközelítés lett.
A kötelezettségek nagy része azokat a gazdasági szereplőket terheli majd, amelyek ezeket a rendszereket magas kockázatúnak ítélt alkalmazásba integrálják. A GPAI-szolgáltatóknak támogatniuk kell a végfelhasználók megfelelését azzal, hogy minden releváns információt és dokumentációt megosztanak az AI modellről.
Szigorúbb követelményeket javasolnak az alapmodellekre, nagy teljesítményű általános célú AI-rendszerekre (pl. Stable Diffusion), amelyek más AI-alkalmazásokat is működtethetnek. A kötelezettségek kiterjednek a kockázatkezelésre, az adatkezelésre és az alapmodell megbízhatósági szintjére, amelyet független szakértőknek kell ellenőrizniük.
A ChatGPT-hez hasonló generatív AI-modelleknek közzé kell tenniük, ha egy szöveg AI-generált, és részletes összefoglalót kell adniuk a szerzői jog hatálya alá tartozó képzési adatokról, szól a közleményben.
AI a pénzügyekben
A mesterséges intelligencia alkalmazása a pénzügyek területén egyre növekvő fontossággal bír. Megfelelő implementációja az ügyféligények magasabb szintű kiszolgálását, illetve az ügyfélélmény növelését teszi lehetővé. Emellett támogatja a hatékony üzleti működést és a profittermelést, így alkalmas a pénzügyi biztonság növelésére is.
Az AI használata a bankolásban is egyre nagyobb szerepet játszik. Mesterséges intelligencia alapú szolgáltatásokat főleg az ügyintézés egyszerűsítésére használnak. Kép -,hang-, írásfelismerő rendszerek, ujjlenyomat alapú azonosítás, illetve intelligens chatbotok a személyes ügyintézés kikerülésére. Emellett az ügyfelekről tárolt adatok, az ügyfél felhatalmazása esetén, felhasználhatók a fogyasztási szokások, hitel- és befektetési igények felmérésére is. A mesterséges intelligencia fokozott adoptációja és a pénzügyi rendszer gyors átalakulása viszont a szabályozási rendszer megreformálását igényeli.
Az AI használata a pénzügyekben azonban a kényelmi funkciók mellett veszélyeket is rejt, erről korábbi cikkünkben írtunk.
Következő lépések
Mielőtt a Tanáccsal megkezdődhetnének a tárgyalások a jogszabály véglegesítéséről, a tárgyalási megbízás tervezetét a Parlament egészének jóvá kell hagynia. A szavazásra várhatóan a június 12-15-i ülésszak alatt kerül sor.
(Forrás: European Parliament; Finextra; Euractiv)
(Címlapkép: Depositphotos)
