Ahogy egyre több vállalat bízza mesterséges intelligenciára a mindennapi feladatok elvégzését, úgy válik egyre sürgetőbb kérdéssé, hogy mi történik, ha egy AI-ügynök hibázik, figyelmen kívül hagyja az utasításokat, vagy akár veszélybe sodorja a vállalati rendszereket. A CrowdStrike most egy olyan megoldással állt elő, amellyel a cégek azonnal leállíthatják a problémás AI-ügynököket, megakadályozhatják azok újraindulását, és teljesen elvághatják őket a hálózattól.
Mostantól az AI-ügynökökön is van kikapcsológomb
A kiberbiztonsági megoldásairól ismert CrowdStrike a Fal.Con Europe konferencián mutatta be legújabb fejlesztését, az AI Kill Switch névre keresztelt vészleállító funkciót. A technológia lehetővé teszi, hogy a vállalatok biztonsági szakemberei azonnal közbeavatkozzanak, ha egy mesterségesintelligencia-ügynök váratlanul vagy a meghatározott szabályoktól eltérően kezd működni.
A megoldás nem csupán az adott folyamat leállítására képes, hanem megakadályozza az ügynök újraindulását, és megszünteti annak hálózati hozzáférését is. Ezzel olyan ellenőrzési lehetőséget ad a vállalatok kezébe, amelynek jelentősége az autonóm AI-rendszerek terjedésével folyamatosan növekszik.
„Mindenki AI-ügynököket fejleszt, de eddig nem volt rajtuk kikapcsológomb. Most már van” – fogalmazott George Kurtz, a CrowdStrike vezérigazgatója a CNBC Mad Money című műsorában.
Az új funkció a vállalat Falcon Guardian platformjának részeként érhető el, amely a szervezeteken belül működő AI-ügynökök tevékenységét felügyeli. A rendszer célja, hogy a vállalatok akkor is megőrizhessék az ellenőrzést az automatizált folyamatok felett, ha azok egyre összetettebb feladatokat végeznek emberi beavatkozás nélkül.
Már nemcsak a külső támadóktól kell tartani
A CrowdStrike szerint a mesterséges intelligencia terjedése alapvetően változtatja meg a vállalati kiberbiztonság feladatait. Míg a hagyományos védelmi megoldások elsősorban a kívülről érkező támadások, illetéktelen hozzáférések és rosszindulatú programok kiszűrésére koncentráltak, addig az AI-ügynökök megjelenésével a vállalati rendszereken belül is új kockázatok keletkeznek.
Ezek az ügynökök ugyanis nem egyszerűen válaszokat generálnak, hanem önállóan hajthatnak végre műveleteket, férhetnek hozzá adatokhoz, kommunikálhatnak különböző rendszerekkel, és üzleti folyamatokat is irányíthatnak. Ha azonban egy ügynök hibás utasítást kap, rosszul értelmez egy feladatot, vagy eltér az előre meghatározott működési szabályoktól, annak komoly következményei lehetnek.
Kurtz szerint ezért a kiberbiztonsági szolgáltatóknak már nem elegendő megvédeniük a vállalatokat a külső fenyegetésektől. Arról is gondoskodniuk kell, hogy a cégek saját AI-rendszerei biztonságosan és kiszámíthatóan működjenek.
A vezérigazgató az autók légzsákjaihoz hasonlította az új technológiát. Ahogyan egy megfelelően megtervezett autó esetében is szükség van biztonsági rendszerekre, úgy az AI-ügynököknél sem lehet kizárólag arra hagyatkozni, hogy a fejlesztők eleve megfelelő működésre tervezték őket.
„Ha működés közben átlépik a meghatározott biztonsági korlátokat, le tudjuk állítani ezeket az ügynököket” – magyarázta Kurtz.
Lassítani kellene az AI fejlődését, vagy inkább biztonságosabbá tenni?
Az AI-ügynökök ellenőrizhetősége az elmúlt hónapokban a technológiai iparág egyik meghatározó vitájává vált. Szeptemberben Dario Amodei, az Anthropic vezérigazgatója a mesterséges intelligencia fejlesztési ütemének lassítását szorgalmazta a növekvő biztonsági kockázatok miatt. Álláspontját az OpenAI vezérigazgatója, Sam Altman is támogatta.
George Kurtz ezzel szemben arra hívta fel a figyelmet, hogy a fejlesztések lassítása önmagában nem oldaná meg a már működő rendszerek biztonsági problémáit. Szerinte a vállalatoknak olyan védelmi mechanizmusokra van szükségük, amelyekkel a technológia használata közben is képesek felismerni és kezelni a veszélyes helyzeteket.
A CrowdStrike új fejlesztése pontosan ezt a megközelítést követi. Ahelyett, hogy kizárólag az AI-ügynökök előzetes tesztelésére és szabályozására támaszkodna, működés közben is lehetőséget biztosít az ellenőrzésre és szükség esetén a beavatkozásra.
Ez különösen fontos lehet azoknál a vállalatoknál, ahol az AI-ügynökök érzékeny adatokkal, pénzügyi tranzakciókkal vagy üzletileg kritikus rendszerekkel dolgoznak.
Az Anthropic ügyfelei már követelik a nagyobb biztonságot
A CrowdStrike számára az AI-ügynökök védelme nemcsak technológiai kihívás, hanem jelentős üzleti lehetőség is. Kurtz szerint a vállalati ügyfelek részéről egyre erősebb az igény azokra a megoldásokra, amelyek lehetővé teszik az autonóm rendszerek biztonságos bevezetését.
Erre jó példa a CrowdStrike és az Anthropic kibővített együttműködése, amelynek keretében a kiberbiztonsági vállalat technológiájával védik a Claude Cowork nevű AI-megoldást.
Kurtz elmondása szerint az integrációt maguk a vállalati ügyfelek sürgették, akik a megfelelő biztonsági garanciák nélkül nem akarták bevezetni az Anthropic termékeit.
„Az ügyfeleink megkeresték az Anthropicot, és azt mondták, szükségük van a CrowdStrike-ra, mielőtt bevezethetik az AI-t. Szerintem sokat elárul, hogy a CrowdStrike nélkül nem lennének hajlandók elindítani ezeket a rendszereket” – fogalmazott a vezérigazgató.
A vállalatvezető szerint az AI-ügynökök biztonságos működésének garantálása hatalmas növekedési lehetőséget jelenthet a CrowdStrike számára. A cég így a hagyományos kibervédelmi szolgáltatásai mellett egy olyan területen is erősítheti jelenlétét, amelynek jelentősége az autonóm rendszerek vállalati elterjedésével párhuzamosan növekedhet.
A biztonság lehet az AI-ügynökök tömeges elterjedésének egyik feltétele
Az AI Kill Switch megjelenése arra is rámutat, hogy a vállalatok számára az AI bevezetésénél már nem kizárólag a hatékonyság és a költségmegtakarítás számít. Legalább ilyen fontos kérdéssé válik, hogy az automatizált rendszerek működése mennyire ellenőrizhető, és milyen gyorsan lehet közbeavatkozni probléma esetén.
A CrowdStrike és az Anthropic együttműködése alapján a biztonsági megoldások megléte egyes vállalati ügyfeleknél már a bevezetés előfeltételévé vált. Ez pedig új piacot nyithat a kiberbiztonsági szolgáltatók számára, amelyeknek a jövőben nemcsak az emberek és a hagyományos informatikai rendszerek, hanem az önállóan dolgozó AI-ügynökök tevékenységét is felügyelniük kell.
A CrowdStrike részvényei október 6-án még történelmi csúcson, 278,86 dolláron zártak, azóta azonban mintegy 12 százalékot veszítettek értékükből a technológiai szektor általános gyengélkedése közepette.
A vállalat most abban bízik, hogy az AI-ügynökök biztonságával kapcsolatos növekvő igény új lendületet adhat üzleti tevékenységének. Az autonóm rendszerek elterjedésével ugyanis egyre több vállalat szembesülhet azzal, hogy a mesterséges intelligenciának nemcsak azt kell megtanítani, hogyan végezze el a feladatát, hanem azt is biztosítani kell, hogy szükség esetén azonnal le lehessen állítani.
(Forrás: CNBC)
(Címlapkép: Depositphotos)
