Előzetes megállapodásra jutottak az Európai Parlament képviselői a Tanáccsal az AI Act nevet viselő, mesterséges intelligencia törvényről. A világ első AI szabályozásának tervezete 2021 áprilisa óta készül, és tavaly decemberben tárgyalták az első tervezetet. A cél egy olyan átfogó szabályrendszer kialakítása, amely egyszerre védi az európai embereket és támogatja a technológia fejlődését.
Politikai megállapodás született a parlamenti delegáció és az EU Tanácsa között decemberben a világ első AI törvényéről. A rendelet célja, hogy biztosítsa az alapvető jogok, a demokrácia, a jogállamiság és a környezeti fenntarthatóság védelmét, miközben fellendíti az innovációt, és ösztönzi az AI fejlesztéseket.
A törvényjavaslatban többek között:
- megállapodtak az általános célú AI modellek biztosítékairól
- korlátozták a biometrikus azonosítási rendszerek használatát
- betiltották a társadalmi pontozási rendszereket
- megtiltották az AI modellek állampolgárokkal szemben való rosszindulatú alkalmazásait
- biztosították a fogyasztók panaszra és tájékoztatásra vonatkozó jogait
- meghatározták a szabályok megszegése után alkalmazható bírságok mértékét
Tiltott alkalmazások
Felismerve az AI alkalmazásai által a polgárok jogaira és a demokráciára jelentett potenciális veszélyt, a jogalkotók megállapodtak abban, hogy bizonyos potenciális alkalmazási területeket szabályozás alá vonnak.
- Betiltották az érzékeny jellemzőket (pl. politikai, vallási, szexuális irányultság) használó biometrikus kategorizációs rendszereket.
- Nem lehet majd felhasználni az Internetről szerzett képeket és biztonsági kamerák felvételeit arcfelismerő adatbázisok létrehozásához.
- Tilos lesz munkahelyeken és oktatási intézményekben érzelmeket felismerő rendszereket használni.
- Betiltották a szociális viselkedés vagy személyes jellemzők alapján létrehozott társadalmi pontozási rendszereket.
- Tilos lesz olyan AI modelleket használni, amelyek manipulálják az emberek viselkedését annak érdekében, hogy szabad akaratukat befolyásolják.
- Tilos lesz továbbá olyan AI-t használni, amely emberek – életkorukból, fogyatékosságukból, társadalmi vagy vagyoni helyzetükből adódó – sebezhetőségét aknázza ki.
Biometrikus azonosítási rendszerek szabályozása
Szigorú szabályokat fogalmaztak meg a biometrikus azonosítási rendszerek bűnüldözési célú alkalmazására vonatkozóan is. A bűnüldözési szervek csak előzetes bírósági engedéllyel és előre meghatározott bűncselekmény-jegyzék alapján használhatnak biometrikus azonosításra alkalmas rendszereket nyilvános helyen. Súlyos bűncselekmény elkövetésével elítélt vagy gyanúsított személy, vagy bűncselekménynek áldozatul esett személyek célzott felkutatására lesz alkalmazható a technológia. A törvény a konkrét bűncselekmények között említi többek között a terrorizmust, emberkereskedelmet, emberölést, szexuális kizsákmányolást vagy a bűnszervezetben való részvételt.
Szabályozzák az AI fejlesztéseket
Az AI Act egyik leghangsúlyosabb része az AI modellek fejlesztésére vonatkozik. Az általános célú modelleknek átláthatósági követelményeknek kell megfelelniük a Parlament javaslatára. A kötelező előírások közé tartozik a műszaki dokumentáció készítése, a szerzői jogoknak való megfelelés, valamint az AI képzéséhez felhasznált tartalmakról szóló részletes összefoglalók készítése is.
A rendszerkockázattal járó nagy hatású AI-modellek számára különösen szigorú kötelezettségeket írtak elő. Bizonyos kritériumok teljesülése esetén, a fejlesztőknek modellértékeléseket és kontradiktórius tesztelést kell végezniük. Fel kell mérniük és mérsékelniük kell a rendszerszintű kockázatokat, jelentést kell tenniük a Bizottságnak a súlyos incidensekről, és biztosítaniuk kell a kiberbiztonságot.
További kötelezettségeket fognak meghatározni a magas kockázatúnak ítélt AI modellek fejlesztésére is. Az egészséget, biztonságot, alapvető jogokat, a demokráciát, jogállamiságot és a környezetet érintő AI-ok tartoznak majd ebbe a kategóriába.
Kisvállalati szektor bevonása és a szanckiók
A szabályozók biztosítani akarják a kisvállalati-szektor érvényesülését a technológia fejlesztésében. Ezért ragaszkodtak ahhoz, hogy a tagállamok saját hatáskörükben szabályozói sandboxokat hozhassanak létre, illetve támogatják a való világban történő, éles teszteléseket is. Mindez lehetőséget teremt a startup vállalkozóknak, hogy a nagyvállalatokra vonatkozó szigorú szabályok alól mentesüljenek, és a technológia fejlesztésére koncentrálhassanak.
A szabályok megsértése vállalat mérettől függően változik majd. A büntetés a vállalat forgalmának 1,5 százalékától 7 százalékig, vagy 7,5 millió eurótól 35 millió euróig terjed majd.
Az AI Act egyelőre még csak törvénytervezet fázisban van. Az elfogadásához még az Európai Parlamentnek és a Tanácsnak is formálisan jóvá kell hagynia. Csak ezután kerülhet a nemzeti törvényhozások elé.
Forrás: European Parliament
Címlapkép: depositphotos
