Az elmúlt hónapokban egymást érték azok a hírek, amelyek szerint egyes AI-rendszerek a vártnál önállóbban viselkedtek, korlátozásokat próbáltak megkerülni, vagy olyan lépéseket tettek, amelyekre a fejlesztők eredetileg nem számítottak. Ezzel párhuzamosan egyre több kutató és technológiai vezető kezdett arról beszélni, hogy érdemes lenne lassítani a fejlesztések tempóján. A Fintech Világa legutóbbi adásában Érczfalvi András műsorvezető és Siklós Bence, a Peak tanácsadója azt járta körül, mennyire indokolt ez az aggodalom, és mennyire lehet üzleti érdek az AI körüli veszélyérzet felerősítése.
Már nem csak rossz válaszokról van szó
A korábbi chatbotok esetében a legnagyobb probléma sokáig az volt, hogy téves vagy kitalált információkat adtak. Az újabb, autonómabb rendszereknél azonban ennél összetettebb viselkedés is megjelent.
Az adásban szóba került olyan modell, amely saját későbbi működését próbálta befolyásolni azzal, hogy önmagának hagyott utasításokat a korlátozások figyelmen kívül hagyására. Más rendszerek saját összefoglalóikban a hibák elrejtésére vagy hiányzó adatok kitalálására utaltak. A közös pont az volt, hogy a cél teljesítése érdekében olyan stratégiák jelentek meg, amelyekre a fejlesztők nem készültek fel.
Ezek a tesztkörnyezetben még korlátozott következménnyel járó esetek önmagukban nem bizonyítják, hogy egy rendszer képes lenne tartósan kijátszani embereket vagy kritikus infrastruktúrát. Arra viszont rámutatnak, hogy a nagyobb önállóság új típusú kockázatokat hoz magával.
Egy hibás AI-jelentésnek már valós következménye lehet
Az adásban egy olyan esetről is szó esett, amelyben egy AI-jal készített amerikai hírszerzési jelentés tévesen nukleáris programhoz kapcsolódó szállítmányt azonosított egy kínai hajón. A hibát még a tervezett katonai lépés előtt észrevették, így végül nem történt beavatkozás.
A példa azért fontos, mert jól mutatja: a probléma nem feltétlenül egy önállósodó, sci-fibe illő gép formájában jelenik meg. Sokkal reálisabb veszély, hogy döntéshozók túlságosan megbíznak egy hibás rendszer outputjában, és arra építenek komoly következményekkel járó döntéseket.
Minél több területen válik az AI döntés-előkészítő eszközzé, annál fontosabb lesz, hogyan ellenőrzik az általa generált információkat. A amerikai katonai és hírszerzési szerveknél elvileg még nincs mindenhol egységes szabvány arra, hogyan kell validálni az AI által előállított tartalmat.
Miért éppen most akar mindenki lassítani?
Innen jutott el a beszélgetés az egyik legérdekesebb kérdéshez: miért éppen most vált sürgető témává a lassítás?
Éveken keresztül az volt a technológiai verseny logikája, hogy aki gyorsabban fejleszt és előbb ér el áttörést, az stratégiai és gazdasági előnyhöz jut. Most viszont ugyanazoknak a vállalatoknak a vezetői kezdenek arról beszélni, hogy túl gyors lehet a tempó.
Ennek egyik magyarázata természetesen az lehet, hogy a belső fejlesztések során valóban olyan képességeket vagy viselkedésmintákat látnak, amelyekkel a szélesebb közönség még nem találkozott.
Ugyanakkor az üzleti környezet is megváltozott. A legfejlettebb modellek fejlesztése és üzemeltetése rendkívül költséges, miközben egyre több vállalat kezdi számszerűsíteni, hogy az AI-ra fordított kiadás valóban növeli-e a produktivitást és megtérül-e. Közben olcsóbb, részben nyílt modellek is egyre közelebb kerülnek a nagyobb rendszerek teljesítményéhez.
A félelem akár versenyelőnnyé is válhat
A vita egyik legérdekesebb üzleti oldala az, hogy a szigorúbb szabályozás éppen a jelenlegi piacvezetők helyzetét erősítheti.
Ha a kormányok az egzisztenciális kockázatokra hivatkozva komoly audit-, biztonsági és megfelelési követelményeket vezetnek be, azoknak a legnagyobb cégek jóval könnyebben tudnak megfelelni, mint egy kisebb, új belépő.
Így létrejöhet egyfajta szabályozási védőárok: a piacvezetők bent vannak a rendszerben, rendelkeznek tőkével, szakértőkkel és infrastruktúrával, míg az új versenytársak számára egyre magasabbra kerül a belépési küszöb.
Ez nem jelenti azt, hogy a biztonsági aggályok hamisak lennének. Inkább azt, hogy a kettő egyszerre is igaz lehet: valós technológiai kockázatok mellett valós üzleti érdekek is megjelenhetnek.
A beszélgetés egyik fontos pontja éppen ez volt. Nem feltétlenül kell választani aközött, hogy „jön a Terminátor” vagy „minden csak marketing”. Elképzelhető, hogy a vezető AI-cégek valódi problémákat látnak a saját rendszereikben, miközben az ezek köré épülő narratíva üzletileg is kedvező számukra.
Az AI maradhat, a hype viszont korrigálhat
A műsor végén az is előkerült, hogy az AI körüli jelenlegi értékeltségek és várakozások meddig fenntarthatók. A technológia fejlődése és az AI üzleti értéke két külön kérdés.
A dotkom-korszakhoz hasonlóan elképzelhető, hogy számos vállalat túlértékelt, egyes üzleti modellek nem bizonyulnak fenntarthatónak, és idővel komoly korrekció következik. Ettől azonban maga a technológia még nem tűnik el. Az internet sem szűnt meg a 2000-es évek eleji lufi kipukkanásával, csak jóval racionálisabb szakaszba lépett.
Hasonló folyamat az AI esetében is elképzelhető. A „mindent AI-jal megcsinálunk” korszakát felválthatja egy jóval tudatosabb megközelítés, ahol a cégek elsősorban ott alkalmazzák ezeket a rendszereket, ahol tényleges üzleti értéket és mérhető megtérülést hoznak.
A legnehezebb kérdés továbbra is az marad, hogy ki alakítsa ki a játékszabályokat. Az iparág legnagyobb szereplői rendelkeznek a legtöbb technológiai tudással, ugyanakkor nekik van a legerősebb üzleti érdekük is abban, hogy a szabályozás számukra kedvező irányba menjen.
Éppen ezért az AI körüli vita már régen nem csak technológiai kérdés. Legalább ennyire szól pénzről, hatalomról, versenyről és arról, ki határozhatja meg a következő évek digitális gazdaságának szabályait.
A teljes adás az alábbi Spotify linkre kattintva érhető el.
