Az OpenAI és az Anthropic kutatói a múlt héten figyelmeztettek a mesterséges intelligencia (AI) potenciálisan katasztrofális kockázataira. De mit gondolnak a kérdésről a technológia fejlesztésében úttörő szerepet játszó AI-szakértők?
Az elmúlt héten egymást követték a határozott AI-biztonsági figyelmeztetések: az olyan vezető AI-laboratóriumok kutatói, mint az Anthropic, az OpenAI és a Google DeepMind, egyaránt riadót fújtak a technológia fejlesztéséből fakadó potenciálisan katasztrofális kockázatok miatt. Az AI-vállalatok vezetői, köztük Sam Altman, Dario Amodei, Demis Hassabis és Elon Musk, ritka egyetértést mutattak abban, hogy lassítani kell a fejlesztéseket, és szükség van szabályozói felügyeletre.
Eközben az aggodalmak Washingtonban is tovább élezték a vitát. A Kongresszus egyes demokrata és republikánus tagjai egyaránt olyan törvényjavaslatokat szorgalmaztak, amelyek korlátoznák az AI fejlődését. Donald Trump amerikai elnök azonban hétfőn dühösen támadta az AI szabályozását sürgető egyre erősebb felhívásokat.
De mit gondolnak az egzisztenciális kockázatokról azok, akik maguk is hozzájárultak az AI létrehozásához?
Sorra jönnek a figyelmeztetések
Yoshua Bengio kanadai informatikus, akit a modern mélytanulás egyik meghatározó úttörőjének tartanak a kérdésről úgy nyilatkozott:
A vezető AI-laboratóriumok kutatói egyedülálló rálátással rendelkeznek a legfejlettebb modellekre. A kutatók gyakran már hónapokkal azelőtt látják a kapcsolódó kockázatokat, hogy a modelleket a nyilvánosság számára elérhetővé tennék. Nézőpontjuk létfontosságú ahhoz, hogy a társadalom megfelelő tájékoztatást kapjon, ezért ezt nagyon komolyan kell venni.
A szakértő ezt azt követően mondta a CNBC-nek, hogy Jacob Coxon, az Anthropic kutatója bejelentette távozását. Coxon figyelmeztetett, hogy az AI az évtized végére mindannyiunkat megölhet.
Bengio a múlt hét pénteken írt blogbejegyzésében azt írta, hogy a mai AI-rendszerek már rendelkeznek azokkal a szükséges hackelési képességekkel és meggyőzőerővel, amelyek révén súlyosan káros módon az emberi érdekek ellen fordíthatók. A közelmúlt eseményei pedig szerinte azt is megmutatták, hogy az AI képes napokon vagy heteken át tartó tervezésre, és a kockázatok sokkal súlyosabbak lennének, ha hosszú távú stratégiai képességeik tovább fejlődnének.
Az AI-vállalatok jelenlegi, az összehangolatlanság mérséklésére irányuló kísérleteivel kapcsolatban az aggaszt, hogy ezek az erőfeszítések csak elrejthetik azt, miközben azokat az AI-kat jutalmazzák és választják ki, amelyek úgy csalnak, hogy közben nem buknak le. Természetesen folytatni kell a kutatásokat a modellek tevékenységének, gondolatmenetének és hálózataikon belüli aktivitásának jobb ellenőrzése érdekében.”
Ki kell találni, hogyan kezeljük a veszélyeket
Geoffrey Hinton, a Torontói Egyetem professor emeritusa, a neurális hálózatok és a mélytanulás egyik úttörőjének számít. Amikor a BBC szeptember 10-én arról kérdezte, hogy szerinte 10 százaléknál nagyobb-e annak az esélye, hogy az AI egy évtizeden belül az összes embert megölheti, Hinton úgy válaszolt, ezt nagyon nehéz megbecsülni, mert korábban még soha nem volt ehhez hasonló. Soha nem hoztunk létre olyan lényeket, amelyek hamarosan intelligensebbek lehetnek nálunk.
A 10 százalékos esély ugyanakkor nyilatkozata szerint „nem ésszerűtlen”, de hozzátette azt is, hogy „valójában senki sem tudja, hogyan adjon erre ésszerű becslést”.
Az AI-rendszerek nagyon veszélyes biológiai vírusokat tervezhetnének, a számítógépes vírusok létrehozása és pusztító kibertámadások végrehajtása mellett. De számtalan más módon is megszabadulhatna az emberiségtől, ha ezt akarná a professzor szerint. Ki kell tehát találni, hogyan tervezzük meg úgy, hogy ne akarja ezt. Hinton szerint
két lehetséges jövő áll előttünk. Az egyikben még azelőtt kitaláljuk, hogyan kezeljük ezeket a veszélyeket, hogy kikerülnének az irányításunk alól, a másikban pedig nem.
A telepítési környezet biztonsága a meghatározó
Aidan Gomez, a Cohere AI-vállalat vezérigazgatója és társalapítója egyike volt a 2017-es „Attention Is All You Need” című tanulmány szerzőinek, amely megalapozta a mai vezető AI-modellek technológiáját. A szakember a CNBC „The Tech Download” című podcastjának szeptember 1-jén úgy nyilatkozott
ezek a modellek a valaha létrehozott, illetve valaha látott legerősebb kiberfegyverek. Hihetetlenül jók a sérülékenységek nagy léptékű felderítésében és kihasználásában. A közelmúlt eseményei egy dolgot világossá tesznek: a telepítési környezet biztonsága határozza meg a megbízhatóságukat.
Álláspontja szerint a kitörési eseményeket nem az autonóm rendszerek irányába mutató valamiféle eredendő törekvés határozza meg, hanem a környezet biztonsága. Amikor a döntéshozók azt mérlegelik, hogyan szabályozzák az AI-t, fel kell ismerniük, hogy az egyes rendszerek eltérő kockázatokat hordoznak, így a szabályokat nem szabad kizárólag a generatív mesterséges intelligencia megvalósítására törekvő nagy technológiai vállalatok szempontjai alapján kialakítani.
Forrás: CNBC
Címlapkép: Depositphotos
