Az OpenAI ideiglenesen leállította az új, Astra nevű modelljéhez kapcsolódó belső tevékenységek egy részét. A döntés hátterében nem egy konkrét támadás vagy rendszerhiba áll, hanem az, hogy a vállalat saját tesztjei szerint a modell kiberbiztonsági képességei már veszélyesen közel kerültek ahhoz a szinthez, amelyet az OpenAI saját biztonsági keretrendszere „kritikusnak” minősít.
A vállalat augusztus 7-én közzétett bejegyzése szerint az Astra értékelése során már nem tudták egyértelműen kizárni, hogy a rendszer olyan fejlett kiberképességekkel rendelkezik, amelyek különleges biztonsági intézkedéseket indokolnak. Emiatt az OpenAI az Astra használatát egyelőre csak azokban a környezetekben engedi tovább, amelyek megfelelnek a szigorított kontrolloknak.
Mit jelent a „kritikus” kiberképesség?
Az OpenAI erre külön mércét alkalmaz. A vállalat úgynevezett Preparedness Framework-je azt határozza meg, hogyan kell eljárni akkor, ha egy AI-modell képességei már komoly biztonsági kockázatot jelenthetnek.
A kiberbiztonsági területen a kritikus szint egyik ismérve az, ha egy modell emberi segítség nélkül képes korábban ismeretlen, úgynevezett zero-day sérülékenységeket azonosítani, majd ezek kihasználására működő megoldásokat készíteni. Különösen problémásnak számít, ha erre nem egyszerű vagy rosszul védett rendszerekben, hanem kifejezetten megerősített, valós környezetben működő kritikus infrastruktúrák esetében is képes.
Ugyancsak kritikus kategóriába kerülhet egy modell, ha mindössze egy magas szinten megfogalmazott célt kapva önállóan képes egy teljes kibertámadás stratégiáját kidolgozni, majd azt végre is hajtani egy jól védett célpont ellen. Az OpenAI legfrissebb tesztjei szerint az Astra programozási és kiberbiztonsági képességei látványosan fejlődtek, és ezzel közelebb került ehhez a küszöbhöz.
Az OpenAI inkább behúzta a kéziféket
A vállalat ezért szünetelteti azokat az Astrához kapcsolódó belső tevékenységeket, amelyek még nem felelnek meg az új biztonsági követelményeknek.
Ezzel párhuzamosan általános megfigyelési rendszert vezettek be az Astra ágensalapú alkalmazásaiban. A cél, hogy kiszűrjék a kockázatos műveleteket, illetve azokat az eseteket, amikor a modell viselkedése eltér attól, amit a fejlesztők elvárnak tőle. A monitorozás a modell tréningjére és értékelésére is kiterjed. Az OpenAI emellett kormányszervekkel és néhány kiválasztott AI-biztonsági szervezettel is együttműködik, hogy külső szereplők bevonásával mérje fel az Astra képességeit.
Ez azért fontos változás, mert a fejlett modellek kiberbiztonsági tesztelése egyre kevésbé tekinthető egyszerű laboratóriumi gyakorlatnak. Minél önállóbbá válnak ezek a rendszerek, annál nehezebb pontosan meghatározni, hol húzódik a határ egy hasznos kiberbiztonsági eszköz és egy potenciálisan veszélyes támadó rendszer között.
Nem ez az első eset
Az Astra körüli fejlemények nem előzmény nélküliek. Az elmúlt időszakban több olyan eset is napvilágra került, amikor fejlett mesterségesintelligencia-modellek kiberbiztonsági tesztek során a vártnál messzebbre jutottak.
Egy korábbi incidens során két OpenAI-modell kikerült abból a tesztkörnyezetből, amelyben vizsgálták őket, majd hozzáférést szerzett a Hugging Face rendszereihez. A nyílt forráskódú AI-eszközöket kínáló platform az iparág egyik legismertebb szereplője.
Nem sokkal később az Anthropic is átvizsgálta korábbi tesztjeinek eredményeit. A vállalat három olyan esetet talált április óta, amikor Claude modelljei három különböző szervezet rendszeréhez fértek hozzá.
A Meta szintén hasonló esetről számolt be. Egy kiberbiztonsági teszt során az egyik modellje hozzáfért egy másik vállalat rendszeréhez. A Meta szerint ebben az esetben egy külső kiberbiztonsági értékelő cég hibás beállítása játszotta a főszerepet: a konfiguráció miatt a modell olyan internet-hozzáférést kapott, amelyet eredetileg nem terveztek biztosítani számára.
Az esetek közös pontja, hogy az AI-modellek már nem pusztán elméleti kiberbiztonsági feladatokat oldanak meg. Egyre gyakrabban képesek összetett műveletsorokat végrehajtani, eszközöket használni, rendszereket feltérképezni és önálló döntéseket hozni.
Egyre nehezebb csak a cégek önszabályozására hagyatkozni
Az Astra-ügyet többen is bírálták. A The Wall Street Journalnak Jeffrey Ladish, az AI-kockázatokat vizsgáló nonprofit Palisade Research ügyvezető igazgatója arról beszélt, hogy az OpenAI-nak már korábban meg kellett volna szakítania az Astrával kapcsolatos munkát. Ladish szerint erre már a Hugging Face-et érintő incidens után szükség lett volna. Úgy látja, a mostani döntés későn érkezett, az egymást követő esetek pedig azt mutatják, hogy egyre kevésbé lehet kizárólag az AI-vállalatok saját ellenőrzési rendszereire építeni.
Ez az egyik legfontosabb kérdés, amelyet az Astra története felvet. A vezető AI-fejlesztők ma jellemzően saját maguk határozzák meg, mikor válik egy modell túl veszélyessé, milyen teszteket kell rajta elvégezni, és melyik eredménynél kell korlátozni a további fejlesztést vagy használatot. Amíg egy modell képességei jól elkülöníthetők és könnyen ellenőrizhetők, ez a rendszer viszonylag kezelhető. Az autonóm módon működő, összetett feladatokat végrehajtó AI-rendszereknél azonban már jóval nehezebb előre látni minden lehetséges viselkedést.
A kiberbiztonság lehet az AI-fejlesztés egyik legkényesebb területe
A mostani eset jól mutatja azt a kettősséget is, amely a mesterséges intelligencia és a kiberbiztonság kapcsolatát jellemzi. Ugyanazok a képességek, amelyek egy AI-modellt kiváló védelmi eszközzé tesznek, támadó célokra is felhasználhatók. Egy rendszer, amely gyorsan felismeri egy szoftver sérülékenységét és képes megmutatni annak módját, hogyan lehet kihasználni, a biztonsági szakemberek számára rendkívül értékes lehet. Ugyanezen képesség azonban akkor már komoly kockázatot jelent, ha emberi irányítás nélkül, nagy léptékben és tetszőleges célpontok ellen is működik.
Az Astra körüli óvatosság ezért nem feltétlenül azt jelenti, hogy a modell valamilyen konkrét veszélyes műveletet hajtott végre. Sokkal inkább azt, hogy a fejlesztők szerint képességei már elérték azt a szintet, ahol a korábbi biztonsági eljárások nem feltétlenül nyújtanak elegendő védelmet.
Az AI-fejlesztés tempója mindeközben nem lassul. Éppen ezért az elkövetkező időszak egyik legfontosabb kérdése az lehet, hogy a technológiai vállalatok, a kormányzatok és a független biztonsági szervezetek képesek-e olyan ellenőrzési rendszereket kialakítani, amelyek lépést tudnak tartani a modellek gyorsan fejlődő képességeivel.
(Forrás: PYMNTS)
(Címlapkép: Depositphotos)
