2003-ban járunk, egy poros sufniban két összekötött 486-os gép zúg éjszakákon át. A cél? Megtanítani a gépet amőbázni. Az informatikus testvérnek hála a projekt sikerül, a gép megtanul a kis „ikszekkel” játszani és rommá is veri alanyunkat, épp az ő startégiájával. Valahogy így kezdődött, mesélte Dr. Dávid Péter AI szakjogász a MI és más adásában. Az akkori történet ma már mindenki számára kézzelfogható, az MI nem sci-fi, hanem maga a valóság. A különbség az, hogy ma nem egy amőba győzelem a tét, hanem az üzleti titkaink, a felelősségünk és egy olyan uniós szabályozás, aminek a nevétől (AI Act) sok fejlesztőnek még mindig felszalad a szemöldöke.
A chatbot nem jogalany – a pofon az embernél csattan
Sokan hajlamosak vagyunk úgy beszélni az MI-ről, az AI-ügynökökről, mintha kollégáink lennének. Azonban, ahogyan az „MI és más – közérthetően a mesterséges intelligenciáról” podcastben azt Dr. Dávid Péter kifejtette: a jog ezt nem így látja, a nap végén mindig az ember a felelős.
Nincs „majd a chatbot kifizeti a kártérítést”
Dr. Dávid Péter a műsorban emlékeztett az Air Canada hírhedt esetére. A légitársaság chatbotja kitalált egy saját szabályt a jegyvisszatérítésre, majd, amikor az utas perelt, a cég azzal védekezett, hogy „hát, a bot mondta”. A bíróság erre az indoklásra nem volt vevő, kimondták, hogy a cég felelős mindenért, amit az általa bevetett algoritmus mond. Tanulság? Ha egy kész modellt (legyen az egy „off-the-shelf” megoldás) úgy hekkelsz meg, hogy az magas kockázatú döntéseket kezd hozni, onnantól te számítasz fejlesztőnek, és a teljes jogi felelősség is a te nyakadba szakad.
Shadow AI: A céges titkok csendes halála
Van az a jelenség, amit Shadow AI-nak hívunk, és ami minden IT-biztonsági felelős rémálma. Ilyenkor történik meg a Dr. Dávid Péter által „adatkiszivárogtatásnak” nevezett jelenség, vagyis, amikor az üzleti titok, a bizalmas információ házon kívülre kerül, és ki tudja, melyik modell tanításánál köt ki legközelebb.
Amennyiben a cégnek titoktartási nyilatkozata (NDA) van egy ügyféllel, és az ügyfél adatait töltik fel egy külső MI modellbe, az már önmagában szerződésszegésnek minősül, mivel az adatokat egy harmadik fél (az MI szolgáltatója) számára hozzáférhetővé tették. S ehhez nem „kell” más, mint, hogy egy bizalmas szerződést bedobjunk egy gyors fordításra a DeepL-be, vagy hogy egy kolléga megkérje a ChatGPT, hogy nézzen át egy érzékeny kódrészletet.
Határidő tologatás Brüsszelben
Az AI Act kapcsán sokan attól féltek, hogy az befékezi innovációt Európában. A jogalkotók azonban rájöttek, mondta Dr. Dávid Péter, hogy a jogászok és a mérnökök nem ugyanazt a nyelvet beszélik. A jogászok szigorúak voltak, a mérnökök meg jelezték, hogy a technológia ennél sokkal bonyolultabb. Így született meg a Digital Omnibus csomag 2025 végén. Mit jelent ez a gyakorlatban?
- Csúsznak a határidők: Mivel látszott, hogy a 2025-2026-os dátumok tarthatatlanok, a legszigorúbb szabályok bevezetését egy-másfél évvel eltolták.
- Mérnöki szempontok érvényesítése: A szakértő szerint a csomag lényege, hogy a szabályozás ne legyen „túl jogászi”. Ez egyfajta „békejobb” a technológiai szektornak, ahol a mérnökök és a jogászok végre megértették egymást, biztosítva, hogy a szabályozás ne fojtsa meg az innovációt.
- KKV-k támogatása: A Digital Omnibus célja a kis- és középvállalkozások megfelelésének könnyítése, hogy a kisebb cégek számára ne jelentsen elviselhetetlen terhet a szabályoknak való megfelelés.
- A „cookie-k” egyszerűsítése: A csomag a felhasználói élményt is javítaná azáltal, hogy egyszerűsítené a weboldalakon állandóan felugró süti-ablakokat, így könnyebbé válna az online tartalomfogyasztás.
- Konzultáció: A módosítások részeként jelenleg is folyik egy egyeztetés (például az 50. paragrafusról), mert a jogalkotók belátták, hogy a szabályozás korábban túl szigorú és túl általános volt.
Összességében a Digital Omnibus csomag azt a célt szolgálja, mondta Dr. Dávid Péter a MI és más adásában, hogy a jogi kereteket hozzáigazítsák a technológiai fejlődés valós sebességéhez és a versenyképeség megőrzése mellett egyfajta „jogbiztonság által szült szabadságot” és digitális szuverenitást teremtsenek az európai polgárok számára
A „Fekete Doboz” vége és a FOMO-érzés
A szabályozás egyik legfontosabb pontja a Black Box technológia tilalma. Nem lehet többé olyan algoritmust használni (főleg magas kockázatú területeken, mint a hitelezés vagy a munkaerőfelvétel), aminek nem tudjuk megmagyarázni a működését. Itt jön a képbe az Explainable AI (XAI), ahol a rendszernek meg kell mutatnia, „min gondolkodik” éppen. A szakértő szerint fejlesztőként ezért érdemes a RAG (Retrieval-Augmented Generation) irányába mozdulni: ha csak a saját, ellenőrzött adatbázisodból engedjük dolgozni a gépet, drasztikusan csökken a „hallucináció” és a jogi bukta esélye is.
Persze mindenki érzi a FOMO-t (lemaradástól való félelmet). Naponta jönnek ki az új modellek, amik gyorsabbak, okosabbak, jobbak. Minden új alkalmazás kipróbálása, bevezetése azonban összetett feladat és nem szabad, hogy háttérbe szorítsa a kollégák képzését. Ahogy Dr. Dávid Péter mondta, oktass, oktass és oktass!
Az oktatás eleve kötelező feladat, a kollégák pedig akkor is akkor is használni fogják az MI-t, ha nem kapnak rá engedélyt. A menedzsment felelőssége, hogy tisztázza, milyen adatokat szabad feltölteni, és milyen zárt, biztonságos rendszereket (például saját „on-prem” megoldást) kell alkalmazni az adatok védelme érdekében
A vezető számára pedig csak a kérdés marad, hogy vajon tud-e az MI használatról és hogy a kollégák biztonságosan csinálják, vagy épp most töltik fel a cég jövő évi stratégiáját egy nyilvános szerverre?
(Szerző: Márton György, akinek a cikk megírásában a felvétel alapján a NotebookLM segített.)
(Címlapkép: Depositphotos)
