Egyre több problémát okoznak Európában a mesterséges intelligenciával készített, valósághű videók és hangklónok. A technológia nem megfelelő használata adatvédelmi incidensekhez, jogi következményekhez és reputációs károkhoz vezethet. A Deloitte tanácsadó vállalat szakértői szerint a cégeknek már az AI-megoldások bevezetése előtt fel kell készülniük a kockázatokra, mivel az érintettek hozzájárulása és a mesterséges tartalmak egyszerű megjelölése önmagában nem nyújt elegendő védelmet.
A generatív mesterséges intelligencia fejlődésével egyre egyszerűbb olyan videókat és hangfelvételeket készíteni, amelyek szinte megkülönböztethetetlenek a valódiaktól. A digitális avatarok és a hangklónozás számos üzleti lehetőséget kínálnak, többek között az ügyfélkommunikáció, a marketing és az automatizált ügyfélszolgálat területén. Volt már példa arra is, hogy egy vezérigazgató helyett az AI-klónja nyilatkozott. Ugyanakkor a technológiák visszaélésekre is lehetőséget adnak, különösen akkor, ha valós személyek képmását vagy hangját használják fel.
A Deloitte szerint több európai eset is rávilágított arra, hogy a vállalatok jelenlegi ellenőrzési folyamatai nem feltétlenül elegendők az AI-tartalmakból eredő kockázatok kezelésére. A problémák nemcsak a technológia működéséből, hanem a beszállítók hiányos ellenőrzéséből és a nem megfelelő vállalati szabályozásból is eredhetnek.
A megtévesztő videók adatvédelmi problémákat okozhatnak
Az egyik európai esetben egy valós személy képmását használták fel mesterséges intelligenciával módosított videók készítéséhez. A felvételek annyira élethűek voltak, hogy a nézők könnyen valódi tartalomként értelmezhették őket.
Az ügyben eljáró hatóság megállapításai szerint az ilyen megoldásoknál nem elegendő a mesterséges intelligencia használatának feltüntetése. A vállalatoknak megfelelő technikai és szervezeti intézkedésekkel kell biztosítaniuk az adatvédelmi követelmények teljesülését.
Különösen fontos, hogy az AI-val létrehozott tartalmak jelölése minden felületen jól látható és egyértelmű legyen. Egy hosszabb videó elején megjelenő figyelmeztetés például könnyen elveszhet, ha a felvételből rövidebb részleteket osztanak meg a közösségi médiában.
Ez komoly kihívást jelenthet azoknak a vállalatoknak, amelyek egyszerre több digitális csatornán kommunikálnak ügyfeleikkel.
Dr. Barta Gergő, a Deloitte Consulting igazgatója és vezető AI-szakértője szerint a vállalatoknak nemcsak a technológia képességeire, hanem a megtévesztés megelőzésére is figyelniük kell. Ehhez olyan ellenőrzési rendszer szükséges, amely minden felületen következetesen működik.
A külső partnerek is komoly kockázatot jelenthetnek
Egy másik európai esetben egy külső beszállító megfelelő engedély és jóváhagyás nélkül készített mesterséges intelligenciával klónozott hangot. A problémát a megrendelő vállalat belső ellenőrzési rendszere sem észlelte időben.
Az eset arra figyelmeztet, hogy a beszállítók jogosulatlan AI-használata a megrendelő vállalat számára is jogi és reputációs kockázatot teremthet.
A Deloitte szerint ezért a cégeknek nem elegendő kizárólag saját munkavállalóik AI-használatát szabályozniuk. Ellenőrizniük kell azt is, hogy külső partnereik milyen technológiákat alkalmaznak a megbízások teljesítése során.
A megelőzéshez több egymásra épülő intézkedés szükséges. Ide tartozik a beszállítók átvilágítása, a mesterséges intelligenciával készített tartalmak eredetének ellenőrzése, valamint a közzététel előtti jóváhagyás.
Ha ezek közül akár egyetlen lépés is hiányzik, a vállalat tudta nélkül is nyilvánosságra kerülhet olyan tartalom, amelynek elkészítésére nem volt megfelelő jogosultság.
Már a fejlesztés során gondolni kell a visszaélésekre
A Deloitte egy további európai példát is bemutatott, amelyben rendkívül élethű digitális avatarokat, hangtechnológiát és valós idejű interakciót alkalmazó megoldás került a hatóságok látókörébe.
Az ügy tanulsága, hogy az általános adatvédelmi és informatikai biztonsági intézkedések nem minden esetben képesek kezelni a mesterséges intelligenciából eredő sajátos kockázatokat.
Egy valós személy hangját utánzó rendszer például más típusú visszaélésekre ad lehetőséget, mint egy hagyományos ügyfélszolgálati chatbot. Ezért a kockázatértékelésnek mindig az adott technológia működéséhez és felhasználási céljához kell igazodnia.
A vállalatoknak már a fejlesztés és a beszerzés során meg kell határozniuk, milyen célokra használható a technológia, ki jogosult hozzáférni, és hogyan akadályozhatók meg a visszaélések.
A hangklónozás esetében különösen fontos az érintett személy hozzájárulásának és a hang felhasználására vonatkozó jogosultságnak az ellenőrzése. Emellett olyan technikai megoldásokra is szükség lehet, amelyek felismerik vagy megakadályozzák a jogosulatlan felhasználást.
Páll Zoltán, a Deloitte vezető AI-szakértője szerint a vállalatoknak a teljes folyamatot ellenőrzés alatt kell tartaniuk. Ez a felhasználási cél jóváhagyásától a beszállítók ellenőrzésén és a közzététel előtti emberi felülvizsgálaton keresztül egészen a megjelent tartalmak folyamatos ellenőrzéséig terjed.
Az uniós szabályozás is szigorúbb átláthatóságot követel
A technológiai fejlődés mellett a szabályozási környezet is egyre nagyobb figyelmet fordít a mesterséges intelligenciával készített tartalmakra.
Az Európai Unió mesterséges intelligenciáról szóló rendelete, az AI Act külön átláthatósági követelményeket határoz meg a mesterséges intelligenciával létrehozott vagy manipulált kép-, hang- és videótartalmakra.
A szabályozás célja többek között annak biztosítása, hogy a felhasználók felismerhessék a mesterségesen előállított vagy módosított tartalmakat. Ez különösen fontos a deepfake-technológiák esetében, amelyek alkalmasak lehetnek valós személyek megszemélyesítésére.
A Deloitte szerint a vállalatoknak ezért olyan ellenőrzési rendszereket kell kialakítaniuk, amelyek nemcsak technológiai szempontból működnek megfelelően, hanem a jogszabályi megfelelést is igazolhatóvá teszik.
A szakértők többek között az előzetes adatvédelmi és AI-kockázatértékelést, a felhasználási jogosultságok ellenőrzését, a közzététel előtti emberi jóváhagyást és a digitális vízjelek alkalmazását javasolják.
Emellett fontos a rendszerek működésének naplózása és folyamatos ellenőrzése, valamint annak biztosítása, hogy visszaélés esetén a kifogásolt tartalom gyorsan eltávolítható, szükség esetén pedig az érintett rendszer azonnal leállítható legyen.
A megfelelő ellenőrzés versenyelőnyt is jelenthet
A Deloitte szakértői hangsúlyozzák, hogy a mesterséges intelligencia szigorúbb vállalati ellenőrzése nem feltétlenül lassítja az innovációt. Éppen ellenkezőleg: a megfelelő szabályozás és kockázatkezelés megteremtheti a technológia szélesebb körű, biztonságos alkalmazásának feltételeit.
A vállalatok számára ezért egyre fontosabbá válik az AI-megoldások tudatos irányítása, vagyis az AI Governance. Ennek keretében az üzleti célokat, a technológiai lehetőségeket, a jogi követelményeket és a beszállítók működését egységes rendszerben kell kezelni.
Hosszabb távon azok a vállalatok kerülhetnek előnybe, amelyek nem csupán gyorsan vezetik be az új AI-megoldásokat, hanem azok megbízható és ellenőrizhető működését is biztosítani tudják. Ez különösen fontos lehet a pénzügyi szektorban, ahol az ügyfelek bizalma és a digitális kommunikáció hitelessége alapvető üzleti követelmény.
(Forrás: Sajtóközlemény
(Címlapkép: Depositphotos)
