Evan Hubinger szerint a vállalaton belül többen valós lehetőségként számolnak azzal, hogy egy jövőbeli szuperintelligens AI súlyos, akár egzisztenciális veszélyt jelenthet az emberiségre. A megszólalás különösen annak fényében kapott nagy figyelmet, hogy egy másik Anthropic-kutató éppen AI-biztonsági aggályok miatt távozott a cégtől.
Tíz százaléknál nagyobbra becsüli a kockázatot
Evan Hubinger, az Anthropic Alignment Science Leadje az X-en arról írt, hogy ő és több kollégája is komolyan veszi annak lehetőségét, hogy a mesterséges intelligencia végül az emberiség pusztulásához vezethet. Hubinger saját becslése szerint annak esélye, hogy az AI a következő tíz évben ilyen katasztrofális következményekkel járjon, meghaladja a 10 százalékot.
A kutató ugyanakkor különbséget tett a ma elérhető modellek és a jövőben kialakuló rendszerek között. Szerinte a jelenlegi AI-modellek által jelentett közvetlen veszély alacsony. Aggodalmai elsősorban egy olyan szuperintelligenciához kapcsolódnak, amely képes lehet saját képességeit újra és újra továbbfejleszteni.
Hubinger szerint az Anthropic dolgozik a problémán, de egyelőre nincs kész megoldása arra, hogyan lehetne egy szuperintelligens rendszert megbízhatóan az emberi célokhoz és érdekekhez igazítani.
AI-biztonsági aggályok miatt távozott egy kutató
A vita azt követően erősödött fel, hogy Jacob Coxon, az Anthropic egyik kutatója nemrég bejelentette távozását a vállalattól.
Coxon korábban az OpenAI-nál és az Anthropicnál is dolgozott az AI-modellek tanításával kapcsolatos kutatásokon. Távozását azzal indokolta, hogy szerinte a vezető AI-vállalatok túlságosan gyorsan haladnak az egyre fejlettebb, akár önmagukat is továbbfejlesztő rendszerek felé.
Megfogalmazása szerint a vállalatok olyan versenyben vesznek részt, amelyben egy önmagát fejlesztő szuperintelligencia létrehozása a cél, miközben ennek következményeit még nem képesek megfelelően kontrollálni.
Coxon azt is állította, hogy az AI-fejlesztésben dolgozó szakemberek között valódi és komoly aggodalom övezi az ilyen rendszerek kockázatait. Szerinte nem marketingfogásról vagy figyelemfelkeltő kommunikációról van szó, hanem olyan veszélyről, amelyet a területen dolgozók egy része ténylegesen elképzelhetőnek tart.
Az Anthropic is a verseny része
Coxon külön kitért arra is, hogyan látja az OpenAI és az Anthropic belső hozzáállása közötti különbségeket.
Szerinte az Anthropic munkatársai kifejezetten tudatában vannak annak, milyen civilizációs következményekkel járhat a fejlett AI megjelenése. A probléma szerinte inkább az, hogy a vállalat ennek ellenére sem tud egyszerűen kiszállni a technológiai versenyből.
Úgy látja, az Anthropic vezetésében él az a gondolat, hogy ha más vállalatok mindenképpen továbbfejlesztik ezeket a rendszereket, akkor jobb, ha egy olyan szereplő jut el elsőként a fejlettebb AI-hoz, amely komolyan veszi a biztonsági kérdéseket.
Ez azonban éppen azt a dilemmát erősíti, amelyet a kutatók kritizálnak. Minden szereplő a többiek gyors fejlesztésére hivatkozva igazolhatja a saját tempóját, miközben a kockázatok kezelése lemaradhat a technológiai fejlődés mögött.
Egyre többen sürgetnék a fejlesztések lassítását
A mostani vita nem elszigetelt jelenség. Több vezető AI-kutató és iparági szereplő is jelezte az elmúlt hónapokban, hogy szükség lehet a legfejlettebb modellek fejlesztési ütemének kontrollálására.
A júliusban megjelent „Pacing the Frontier” című nyilatkozatot többek között az Anthropic társalapítói, Dario Amodei és Jared Kaplan, az OpenAI vezető kutatója, Jakub Pachocki, valamint a Meta AI vezető kutatója, Shengjia Zhao is aláírta.
A dokumentum szerint az AI-ban rejlő lehetőségek kihasználásához időre lehet szükség az új kockázatok feltérképezésére, a biztonsági megoldások fejlesztésére és a megfelelő felügyeleti rendszerek kialakítására. A kezdeményezés egyik fő problémaként azt emelte ki, hogy egyetlen vállalat számára nehéz önként lassítani, ha közben versenytársai változatlan sebességgel folytatják a fejlesztéseket.
Már az OpenAI vezető kutatója is figyelmeztetett
Hasonló álláspontot fogalmazott meg Jakub Pachocki, az OpenAI vezető kutatója is. Egy nemrég megjelent blogbejegyzésében azt írta, hogy véleménye szerint jelenleg egyik vezető AI-labor sem oldotta meg megfelelően az igazodás és a modellek felügyeletének problémáját. Pachocki szerint ezért kérdéses, hogy meddig folytatható felelősen a jelenlegi, rendkívül gyors skálázás.
A mostani megszólalások arra mutatnak rá, hogy az AI-biztonságról zajló vita már nem kizárólag külső kritikusok és szabályozók között zajlik. A legnagyobb modelleket fejlesztő vállalatok saját kutatói között is egyre nyíltabban jelenik meg a kérdés: mi történik, ha a technológiai fejlődés gyorsabb lesz annál, mint ahogy a biztonsági problémákat képesek vagyunk megoldani?
(Forrás: Forbes)
(Címlapkép: Depositphotos)
