A mesterséges intelligencia (AI) térnyerése, fejlődése nem csupán verziószámokban és frissítésekben mérhető. Ezt mutatják az elmúlt hétvége eseményei is. Az Anthropic vezérigazgatója, Dario Amodei egy hosszú esszében fejtette ki, hogy fejlesztéseket a mainál lassabban és elővigyázatosabban kellene folytatni, szabályozottan és külső minőségi értékelők bevonásával. Később ezt a felvetést megtámogatta Elon Musk, az xAI vezetője, és Sam Altman, az OpenAI vezérigazgatója is. Eközben Donald Trump nemet mondott a lassítás felvetésére, míg a korábbi elnök, Obama pont ezt követeli.
Felgyorsultak az események
Az “MI és más” legutóbbi adásában valamelyest a turbulenciát kiváltó fejleményekről is, de leginkább a mesterséges intelligencia ügynökökről beszélgettünk Kerek Istvánnal, az Everengine vezérigazgatójával, a “ChatGPT magyarul” csoport alapítójával. Ahogyan ő fogalmazott, a korábbi nagy nyelvi modellek korszakát, ahol a rendszerek kizárólag a feltett kérdéseinkre adtak válaszokat, felváltja az Agentic AI világa, ahol, ahol az AI-ágensek (AI-ügynökök) már nem passzív információforrások, hanem önállóan komplex feladatsorokat elvégző digitális asszisztensek.
Kerek István szerint az autonóm működés megjelenésével a kritikus gondolkodás mellett a szigorú biztonsági keretrendszerek felépítése lett a legégetőbb vállalati feladat. Amikor egy ágens önállóan cselekszik a cég nevében, a mögöttes jogi és pénzügyi felelősség változatlanul a felhasználót vagy a vállalkozást terheli. A technológiai buktatók pedig súlyos adatvesztéshez vagy működési zavarokhoz vezethetnek.
Mint mondta, megfelelő jogosultságkezelés híján egy pontatlan utasítás is végzetes lehet. Példaként elmondott egy egyszerű esetet, amikor az agent feladata két drive szinkronizálása volt, de az eredmény egy hibás parancssori opció végrehajtása miatt katasztrofális lett. Az agent ugyan megoldotta a feladatot, vagyis szinkronizálta a két adathordozót, de ahelyett, hogy az egyikről hiányzó fájlokat átmásoltra volna a másikról, inkább törölte azokat, amelyek csak az egyiken voltak, így érve el a nem tökéletesen megfogalmazott célt.
Kerek István, akinek épp a napokban jelent meg az „AI Agentek a gyakorlatban” könyve mindenkinek kellő óvatosságot, dedikált tesztgépek használatát, folyamatos biztonsági mentéseket, szigorú szabályrendszereket, az protokollal szabályozott jogosultságokat, valamint az ágensek tevékenységének kötelező logolását javasolta az “MI és más” adásában.
Hol érdemes kezdeni?
Szerinte első lépésként olyan területre érdemes ügynököt építeni, ahol kizárólag befelé jövő adatokat dolgozunk fel, így nincs közvetlen pénzügyi, jogi vagy ügyfélkommunikációs kockázat. Ideális kezdőfeladat a konkurenciafigyelés, a beszállítói árak és akciók összehasonlítása, az iparági trendek követése, vagy akár egy konkrét rendezvényfigyelő ügynök.
Emellett érdemes az ügynököt elkülönített gépen, vagy munkatéren futtatni, megelőzve, hogy hozzáférjen a teljes fájlrendszerhez. Szigorú jogosultságkezelésre van szükség, és az úgynevezett MCP (Model Context Protocol) protokollal és keretrendszerekkel pontosan szabályozni kell a hozzáférést (például kizárólag olvasási jogot adni, és a promptban kifejezetten megtiltani a fájlok törlését vagy felülírását). Szintén nagyon fontos, hogyha valamilyen adatot vagy dokumentumot átadunk az ágensnek, akkor arról készítsünk előzetesen biztonsági mentést.
Hangsúlyozta, hogy az ágens működési kereteit is pontosan meg kell határozni, be kell állítani a futtatás gyakoriságát (pl. napi rendszeresség), a szűrési paramétereket (pl. földrajzi korlátok), valamint a kimeneti formátumot (pl. Excel-táblázat, riport, dashboard vagy üzenet) – és természetesen az így kapott adatokat, riportokat a felhasználás előtt mindig le kell ellenőrizni.
Vibe-coding vs. WordPress: A szoftverfejlesztés új dilemmája
Napjaink egyik slágere a vibe-coding, amely lehetővé teszi, hogy a felhasználók, mint e cikk szerzője is, pusztán a vágyott funkciók elmondásával, leírásával fejlesszenek weboldalakat, alkalmazásokat vagy szoftvereket, érdemi programozói tudás nélkül.
Vállalati szempontból azonban a vibe-coding komoly DevOps és biztonsági kihívásokat hordoz magában. Az egy így előállított sima, statikus HTML oldal biztonságosabb lehet a felületi sérülékenységeket hordozó WordPress oldalaknál, ahol sok esetben egy verziófrissítés leírása szinte a „lábtörlő alá készíti a kulcsot a betörőknek”. Ugyanakkor véleménye szerint a skálázás és az adatbázis-kezelés terén az amatőr kódbázisok komoly kockázatot jelentenek és ha egy ilyen alkalmazás látogatottsága megugrik, az üzemeltetési költségek és a kibertámadási felületek hirtelen robbanásszerűen megnövekednek.
Híd a lakossági próbálkozás és a vállalati digitális érettség között
Magyarországon a magánszemélyek mintegy 80%-a próbált már valamilyen AI-eszközt, míg a vállalati szféra továbbra is a sereghajtók között foglal helyet az érdemi integráció terén. A hagyományos oktatási intézmények 2 éves akkreditációs átfutási ideje képtelen lekövetni az AI fejlesztések elképesztő tempóját, mondta Kerek István.
(Szerző: Márton György, akinek a cikk megírásában a felvétel alapján a NotebookLM segített.)
(Címlapkép: Depositphotos)
