A mesterséges intelligencia fejlődésével egyre nehezebb pusztán ránézésre eldönteni, hogy egy videó, hangfelvétel vagy digitális tartalom valódi-e. A Fintech Világa legutóbbi adásában Érczfalvi András műsorvezető Siklós Bencével, a Peak tanácsadójával és Pethes Dáviddal, a Gen6 vezérigazgatójával beszélgetett arról, mi történik akkor, amikor a deepfake-technológia már üzleti és pénzügyi kockázattá válik, és miért kerül egyre inkább előtérbe az adatok eredetének bizonyítása és a digitális szuverenitás kérdése.
Már nem az a kérdés, felismerjük-e a deepfake-et
A beszélgetés egyik kiindulópontja egy 2024-es eset volt, amikor az Arup egyik pénzügyi munkatársa 25,6 millió dollárt utalt el csalóknak, miután egy videókonferencián azt hitte, valódi kollégáival beszél. A támadók egyszerre több ember hangját és arcát másolták le, ráadásul valós időben.
Ez jól mutatja, hogy a deepfake már messze nem csak előre elkészített hamis videókat jelent. Egy támadás ma már élő beszélgetésként is megjelenhet, ráadásul éppen azokra az elemekre építve, amelyek korábban hitelességet sugároztak: ismerős arcokra, hangokra és vállalati kontextusra.
A probléma egyik oka, hogy a támadók számára bőséges alapanyag áll rendelkezésre. Vezetők, szakértők és vállalatok évek óta arra törekednek, hogy minél láthatóbbak legyenek az interneten. LinkedIn-posztok, konferenciafelvételek, podcastok és videók mind olyan adatforrásokká válhatnak, amelyekből hitelesnek tűnő másolat készíthető.
A detektálási versenyt egyre nehezebb megnyerni
Pethes Dávid szerint a klasszikus megközelítés, amely a hamis tartalom felismerésére épít, hosszú távon nem elég megbízható. A generáló technológiák ugyanis jellemzően gyorsabban fejlődnek, mint azok az eszközök, amelyek megpróbálják kiszűrni őket.
A műsorban elhangzott, hogy még a legjobb detektorok is csak korlátozott pontossággal dolgoznak, egy újabb és élethűbb modell megjelenése pedig rögtön ronthatja ezt az arányt. Mire egy deepfake-ről biztosan kiderül, hogy hamis volt, addigra a kár már rég megtörténhet.
Ezért egyre fontosabbá válik az úgynevezett provenance, vagyis eredetbizonyítás. Ennek lényege nem az, hogy megpróbáljuk kitalálni, hamis-e egy tartalom, hanem az, hogy bizonyítani tudjuk, honnan származik.
Ha egy dokumentum, videó vagy üzenet hiteles digitális aláírással rendelkezik, akkor ellenőrizhetővé válik, hogy valóban attól a személytől vagy szervezettől érkezett-e, akinek tulajdonítják. Ez binárisabb, egyszerűbb kérdéssé alakítja a problémát: nem azt kell eldönteni, hogy „vajon ez deepfake?”, hanem azt, hogy „bizonyítható-e a forrása?”.
Az identitás feletti kontroll válhat az új alapértékké
A Gen6 megközelítése az eredetbizonyítást decentralizált identitással kapcsolja össze. A rendszer különbséget tesz ember, szervezet és gépi vagy AI-identitás között, és ezekhez eltérő ellenőrzési folyamatokat rendel.
A cél az, hogy egy digitális identitás ne kizárólag egy központi platformhoz tartozzon. A felhasználó saját kriptográfiai kulcsaival kezelhesse azt, és ezekkel tudja bizonyítani, hogy egy adott tartalom valóban tőle származik.
Ez a digitális szuverenitás egyik alapgondolata: ha a felhasználónál vannak azok a kulcsok, amelyekkel az identitása irányítható, akkor nagyobb kontrollja marad a saját digitális jelenléte felett. Ha viszont ezek egy központi szolgáltatónál vannak, akkor az identitás feletti tényleges kontroll is részben oda kerül.
A blokklánc ebben nem a teljes tartalmat tárolja, hanem bizonyítékként működik. A hitelesítési információ rögzíthető egy olyan elosztott rendszerben, amelyből utólag nem lehet egyszerűen eltüntetni vagy átírni a korábbi állításokat.
Néhány éven belül fordulhat a bizalmi alaphelyzet
A beszélgetés egyik érdekes felvetése az volt, hogy néhány éven belül megfordulhat az internetes tartalmakhoz való viszonyunk. Ma az emberek többsége még alapvetően abból indul ki, hogy amit lát vagy hall, az valószínűleg valódi, hacsak nincs ok az ellenkezőjére gyanakodni. A deepfake-technológia fejlődésével ez megváltozhat: könnyen eljuthatunk oda, hogy alapértelmezés szerint már nem hiszünk el semmit, amit nem lehet valamilyen módon hitelesíteni.
Ebben a környezetben az eredetbizonyítás nem pusztán biztonsági extra lehet. Influencerek, vállalatvezetők, politikusok, pénzügyi intézmények vagy médiaszereplők számára ugyanúgy alapvetővé válhat, mint ma egy HTTPS-tanúsítvány vagy egy digitális aláírás.
A Gen6 erre építve olyan rendszert fejlesztett, ahol a felhasználó a tartalom létrehozásakor igazolhatja annak eredetét, majd ezt a videót vagy képet más platformokra is továbbviheti úgy, hogy az ellenőrzéshez szükséges bizonyíték megmaradjon.
A pénzügyi szektorban különösen nagy lehet a tét
A deepfake gazdasági oldalát jól mutatja, hogy a támadások előállítási költsége közben drasztikusan csökken. A műsorban elhangzott példák szerint ma már néhány tíz vagy néhány száz dollárból is készíthető real-time hang- vagy videóhamisítás, miközben egy sikeres vállalati támadás több millió dolláros kárral járhat. Ez rendkívül kedvező kockázat-hozam arányt teremt a csalók oldalán.
A bankok és fintech cégek számára ezért különösen érzékeny terület lehet az ügyfélazonosítás. A biometria önmagában sem jelent feltétlen megoldást, hiszen mindig kérdés, hogy megbízhatunk-e abban az eszközben, amelyről az arc-, hang- vagy egyéb biometrikus adat érkezik.
Pethes Dávid szerint a jó minőségű deepfake-eknél egyre kevésbé érdemes vizuális hibákra vadászni. Eltűnnek azok a korábbi árulkodó jelek, mint a hibás kezek, furcsa szemmozgás vagy természetellenes mimika. A hangsúly ezért egyre inkább arra kerülhet, hogy bizonyítható-e a tartalom forrása.
A digitális bizalom következő korszaka így könnyen arról szólhat, hogy nem azt próbáljuk megállapítani, mi hamis, hanem azt bizonyítjuk, mi eredeti. Ebben pedig az identitás, az adatok eredete és az ezek feletti kontroll jóval fontosabbá válhat, mint valaha.
A teljes adás az alábbi Spotify linken érhető el.
