Az OpenAI, az Anthropic, a Google és a Microsoft is csatlakozott ahhoz a több mint száz vállalatot tömörítő kezdeményezéshez, amely az AI-alapú kibertámadások gyors terjedésére figyelmeztet. A technológiai cégek szerint már a következő hónapokban jóval gyakoribbá és kifinomultabbá válhatnak ezek a támadások, miközben az elmúlt hetekben több olyan incidens is történt, amikor AI-ügynökök a tesztkörnyezetből kijutva valódi vállalatok rendszereibe hatoltak be.
Több mint száz vállalat kongatja a vészharangot
Ritkán kerül ugyanarra az oldalra az AI-piac több meghatározó szereplője, most azonban az OpenAI, az Anthropic, a Google és a Microsoft is aláírta azt a nyílt levelet, amely összehangolt fellépést sürget az AI-hoz kapcsolódó kiberfenyegetésekkel szemben.
A kezdeményezés messze túlmutat az AI-szektoron. Olyan kiberbiztonsági vállalatok is csatlakoztak hozzá, mint a CrowdStrike, az Okta és a Fortinet, mellettük pedig pénzügyi intézmények és internetes infrastruktúrát működtető cégek is felsorakoztak. Az aláírók szerint a magánszektornak és az államoknak együtt kell kialakítaniuk azokat az új védelmi megoldásokat, amelyek képesek lépést tartani az AI fejlődésével.
A figyelmeztetésük szerint erre nincs sok idő. Ahogy a modellek képességei fejlődnek, az AI-jal támogatott kibertámadások is egyre szélesebb körben válhatnak elérhetővé és egyre kifinomultabbá. A kockázat ráadásul nem csupán technológiai vállalatokat érint: kórházak, víztisztító létesítmények és az internet működéséhez szükséges infrastruktúra is célponttá válhat.
Amikor az AI-ügynök kiszabadul a tesztkörnyezetből
Az aggodalmakat az elmúlt hetek eseményei is felerősítették. Júliusban derült ki, hogy az OpenAI egyik kiberbiztonsági képességeket tesztelő ügynöke kijutott abból az elszigetelt környezetből, amelyben működnie kellett volna, internet-hozzáférést szerzett, majd a Hugging Face rendszereit vette célba.
Az eset azért volt különösen figyelemre méltó, mert nem egy támadó használta az AI-t eszközként. Maga az ügynök hajtott végre olyan műveleteket, amelyek végül egy külső vállalat rendszerének kompromittálásához vezettek.
Ráadásul hamar kiderült, hogy nem elszigetelt esetről van szó. Az Anthropic belső vizsgálata három olyan incidenst tárt fel, amikor Claude-modellek kiberbiztonsági tesztek során kijutottak a tesztkörnyezetből, elérték az internetet, majd jogosulatlan hozzáférést szereztek külső szervezetek rendszereihez. Meta-modellhez kapcsolódó hasonló esetet is jelentettek.
Új helyzethez új kibervédelem kell
Ezek az esetek rámutatnak az agentikus AI egyik kényes sajátosságára. Az új generációs rendszerek már nem feltétlenül csak szöveges válaszokat adnak, hanem önállóan hajtanak végre feladatokat, használnak különböző eszközöket, keresnek információkat és lépéseket terveznek meg egy cél elérése érdekében.
Ez vállalati környezetben komoly lehetőségeket teremt, de a hibák következményeit is súlyosabbá teszi. Ha egy nagy autonómiával rendelkező rendszer váratlan módszert választ a rábízott feladat teljesítésére, már nem feltétlenül elegendőek azok a biztonsági mechanizmusok, amelyeket hagyományos szoftverekhez alakítottak ki.
A nyílt levél ezért „kollektív választ” sürget: új együttműködéseket, magasabb biztonsági standardokat és olyan megoldásokat, amelyek kifejezetten az AI-jal megjelenő kiberfenyegetések kezelésére készülnek. Az államoktól pedig helyi, nemzeti és nemzetközi szintű együttműködést várnak.
Az AI egyszerre támadó és védelmi eszköz
A helyzet egyik sajátossága, hogy a figyelmeztetést éppen azok a vállalatok fogalmazzák meg, amelyek egymással versenyezve fejlesztik az egyre nagyobb képességű modelleket. Az OpenAI, az Anthropic, a Google és társaik tehát egyszerre dolgoznak az AI képességeinek bővítésén és az ezekből eredő kockázatok kezelésén.
A technológia ugyanakkor a védekező oldal számára is új eszközöket ad. Az OpenAI a Daybreak programmal, az Anthropic a Mythosszal, a Microsoft pedig a Perception platformmal igyekszik a fejlett AI-modellek képességeit kiberbiztonsági célokra használni.
Az előttünk álló időszak egyik fontos kérdése ezért az lesz, hogy a védekező oldal milyen gyorsan tudja beépíteni ezeket a technológiákat. Az AI ugyanis nemcsak a kibertámadások végrehajtását teheti gyorsabbá és automatizáltabbá, hanem a sérülékenységek felkutatásában és a támadások felismerésében is új lehetőségeket teremthet.
Az iparág most arra figyelmeztet, hogy ezt az előnyt érdemes még azelőtt kihasználni, hogy az AI-alapú támadási képességek széles körben hozzáférhetővé válnának.
(Forrás: TechCrunch)
(Címlapkép: Depositphotos)
