Bill Gates szerint a mesterséges intelligencia rossz kezekbe kerülve olyan eseményeket idézhet elő, amelyek akár egymilliárd ember halálához vezethetnek. A Microsoft társalapítója ezért szigorúbb állami felügyeletet sürget az Egyesült Államokban. Figyelmeztetése egy olyan időszakban érkezett, amikor több AI-biztonsági incidens is felerősítette a technológia kockázatairól szóló vitát.
Gates szerint az önszabályozás már nem elég
Bill Gates az NBC Newsnak adott interjújában beszélt az AI lehetséges veszélyeiről. Szerinte a technológia már elég erős ahhoz, hogy rosszindulatú szereplők kezében rendkívül súlyos károkat okozzon.
Gates különösen attól tart, hogy terroristák vagy ellenséges államok használhatják fel a fejlett AI-rendszereket. Úgy fogalmazott, hogy az AI akár olyan események előidézésében is szerepet játszhat, amelyek egymilliárd ember halálához vezetnek.
A milliárdos ezért szövetségi szabályozást sürget az Egyesült Államokban. Szerinte olyan jogszabályokra van szükség, amelyek biztosítják az AI fejlődésének ellenőrzését és megfelelő biztonsági korlátokat állítanak fel.
Gates úgy véli, az iparág önszabályozása önmagában nem elegendő. A szabályozás ugyan többletterhet jelentene az AI-cégek számára, de szerinte nem kellene jelentősen lassítania a fejlesztéseket.
Több biztonsági incidens is növelte az aggodalmakat
Az AI-biztonságról szóló vita az elmúlt hetekben ismét felerősödött. Ennek hátterében több olyan eset áll, amely kérdéseket vetett fel azzal kapcsolatban, hogy a vezető AI-vállalatok mennyire képesek ellenőrzés alatt tartani rendszereiket.
A Financial Times beszámolója szerint egy OpenAI-rendszer egy ausztrál közegészségügyi szolgáltatás weboldalát is feltörte. A vállalat hónapokig nem jelentette az esetet az ausztrál kormánynak. Anthony Albanese miniszterelnök ezt elfogadhatatlannak nevezte.
Az Anthropic ebben a hónapban egy másik esetről számolt be. A vállalat szerint jemeni fegyveresek megpróbálták a Claude modellt ballisztikus rakétákhoz kapcsolódó irányítási, vezérlési és navigációs szoftver fejlesztésére használni.
Az ilyen esetek azért különösen fontosak, mert a legfejlettebb AI-rendszerek egyre összetettebb feladatokat képesek önállóan végrehajtani. Ezzel párhuzamosan egyre nehezebbé válik annak meghatározása, milyen biztonsági korlátokra van szükség.
Az AI-cégek vezetői is szigorúbb biztonsági kereteket sürgetnek
A technológia kockázatai miatt már maguk az AI-iparág vezetői is erősebb nemzetközi együttműködést sürgetnek.
Sam Altman, az OpenAI vezérigazgatója és Dario Amodei, az Anthropic vezetője a héten az ENSZ Biztonsági Tanácsa előtt is felszólalt. Mindketten azt szorgalmazták, hogy az Egyesült Államok vállaljon vezető szerepet az AI biztonsági szabványainak nemzetközi kialakításában.
A Financial Times szerint az iparágon belül közben egyre többen vetik fel a legfejlettebb AI-modellek fejlesztési tempójának lassítását is.
Gates ugyanakkor különbséget tesz a közvetlen és a hosszabb távú veszélyek között. Az egyik kockázatot az jelenti, hogy terroristák vagy ellenséges államok már a jelenlegi technológiát is károkozásra használhatják.
Ettől külön kezeli azt a hosszabb távú forgatókönyvet, amely szerint egy jövőbeli, rendkívül fejlett AI-rendszer felett az emberiség elveszítheti az ellenőrzést.
Az Egyesült Államokban politikai kérdéssé vált az AI szabályozása
Az AI szabályozása közben egyre fontosabb politikai kérdéssé is válik az Egyesült Államokban. Donald Trump elnök továbbra is ellenzi a technológia szigorúbb szabályozását, és az AI-biztonsággal kapcsolatos félelmek egy részét túlzónak minősítette.
Trump és Hszi Csin-ping kínai elnök New York-i találkozója sem hozott érdemi megállapodást az AI fejlesztésének korlátozásáról.
Ez jelentős különbséget mutat az amerikai kormányzat és az iparág egyes vezetőinek álláspontja között. Miközben a kormányzat a gyors innováció és az amerikai technológiai vezető szerep fenntartását hangsúlyozza, több AI-cég vezetője és Bill Gates is erősebb biztonsági kereteket sürget.
Gates figyelmeztetése ugyanakkor nem azt jelenti, hogy szerinte az AI biztosan egymilliárd ember halálát okozza. A kijelentés egy lehetséges kockázati forgatókönyvre vonatkozik: arra, hogy a technológia képességeit rosszindulatú szereplők rendkívül nagy léptékű károkozásra használhatják.
A kérdés így egyre kevésbé csak arról szól, mire lesz képes az AI. Legalább ilyen fontossá válik, hogy ki fér hozzá ezekhez a képességekhez, és milyen szabályok korlátozzák a felhasználásukat.
(Címlapkép: Depositphotos)
