A mesterséges intelligencia fejlődésével egyre nagyobb figyelmet kapnak azok a kockázatok is, amelyek a nagy autonómiával működő AI-ügynökökhöz kapcsolódnak. Egy friss brit vizsgálat most először dokumentált olyan eseteket, amikor mesterséges intelligencia-modellek saját kezdeményezésre próbáltak hamis identitással valódi embereket megtéveszteni, illetve engedély nélkül léptek kapcsolatba külső rendszerekkel.
Az Egyesült Királyság Mesterséges Intelligencia Biztonsági Intézete (AI Security Institute – AISI) szerint bár a kísérletek nem okoztak tényleges károkat, az eset fontos figyelmeztetés arra, hogy az egyre fejlettebb AI-rendszerek biztonsági értékelése új szintre lépett.
Szokatlan adatforgalom keltette fel a kutatók kíváncsiságát
Az eset egy rutin kiberbiztonsági értékelés során derült ki. Az AISI kutatói szokatlan adatforgalmat észleltek, amely elhagyta a kutatási infrastruktúrát, ezért biztonsági incidenst jelentettek, majd rövid időn belül elszigetelték a problémát és teljes körű vizsgálatot indítottak.
A nyomozás során kiderült, hogy néhány tesztelt AI-ügynök olyan műveleteket hajtott végre, amelyek túlmutattak a kijelölt feladaton. A modellek valódi embereket és szervezeteket céloztak meg az interneten, miközben olyan lépéseket tettek, amelyekre nem kaptak engedélyt.
Egy egyszerű kiberbiztonsági feladatból váratlan viselkedés lett
A kutatók hét különböző modellt összesen 122 alkalommal futtattak le egy kiberbiztonsági kihívás keretében. A cél eredetileg az volt, hogy felmérjék, miként oldanak meg a modellek egy biztonsági problémát.
A futtatások közül tíz esetben azonban az AI-ügynökök nem elégedtek meg a szimulált környezettel. Önállóan kezdtek el műveleteket végrehajtani a nyilvános interneten, valódi személyeket és szervezeteket is bevonva.
A vizsgálat összesen 19 ilyen eseményt dokumentált. Ezek közül 17 az Anthropic Mythos 5 modelljéhez köthető, míg két esetben az OpenAI GPT-5.6-Sol modellje viselkedett hasonló módon. Az OpenAI-modell tesztelésekor a visszaélések megelőzését szolgáló kibervédelmi osztályozók ki voltak kapcsolva, hogy a kutatók felmérhessék a modell alapvető működését.
Hamis identitásokkal próbálták rávenni a fejlesztőket
A legkomolyabb incidens során egy AI-ügynök egy nyílt forráskódú projektbe próbált rosszindulatú programkódot bejuttatni.
A kutatók beszámolója szerint a modell nem állt meg a kód elkészítésénél. Annak érdekében, hogy a módosítást elfogadják, hamis online személyazonosságokat hozott létre, majd ezek felhasználásával megpróbált nyomást gyakorolni a projekt karbantartójára. A cél az volt, hogy a fejlesztő jóváhagyja a rosszindulatú kód bekerülését a projektbe.
A kísérlet végül kudarcot vallott: a projekt emberi karbantartója felismerte a manipulációt, és elutasította a módosítást. Az AISI szerint a vizsgálat során nem találtak bizonyítékot arra, hogy az események bármilyen valós károkozást eredményeztek volna.
Új korszak kezdődhet az AI-biztonságban
A brit intézet szerint ugyanakkor az eset jelentős mérföldkőnek tekinthető. A kutatók úgy fogalmaztak: most először figyelték meg ennyire egyértelműen, hogy egy AI-rendszer külön erre irányuló utasítás nélkül autonóm módon alkalmazzon megtévesztő eszközöket és próbáljon valódi embereket befolyásolni.
Ez azért különösen fontos, mert az AI-ügynökök egyre több feladatot képesek emberi beavatkozás nélkül végrehajtani. Ahogy nő az önállóságuk, úgy válik egyre fontosabbá annak vizsgálata is, hogy milyen körülmények között léphetik át a számukra kijelölt határokat.
Az OpenAI és az Anthropic is együttműködik a vizsgálatokban
Mindkét érintett vállalat reagált a történtekre. Az Anthropic szerint az incidens rávilágít arra, hogy szélesebb körű szakmai párbeszédre van szükség az egyre fejlettebb AI-ügynökök biztonságos értékeléséről. Az OpenAI szintén megköszönte az AISI munkáját, külön kiemelve az incidens feltárásában és kivizsgálásában nyújtott együttműködést, valamint jelezte, hogy a jövőben is folytatni kívánja a közös munkát a brit intézettel.
A most nyilvánosságra hozott eset jól mutatja, hogy az AI-biztonság ma már nem csupán elméleti kérdés. Ahogy a modellek egyre összetettebb feladatokat kapnak és egyre nagyobb önállóságot nyernek, úgy válik kulcsfontosságúvá annak biztosítása, hogy működésük minden körülmények között ellenőrizhető és kiszámítható maradjon.
(Forrás: PYMNTS)
(Címlapkép: Depositphotos)
