Az AI-modellek használatának egyik alapvető költsége látványosan csökken. Egy fontos árindex szerint május vége óta több mint 50 százalékkal esett az egymillió tokenre jutó átlagos költség. Elsőre ez rossz hírnek tűnhet az OpenAI-hoz és az Anthrophichoz hasonló vállalatok számára, a részletesebb adatok azonban jóval összetettebb képet mutatnak.
Több mint 50 százalékkal csökkent az átlagos tokenár
A Silicon Data Token Expenditure Index azt mutatja meg, átlagosan mennyibe kerül egymillió AI-token használata. Az index május végén még 2,0651 dolláron állt, azóta azonban 52,4 százalékkal csökkent.
A token lényegében az a kisebb szövegegység, amelyet a nagy nyelvi modellek feldolgoznak vagy létrehoznak. A szolgáltatók jellemzően az elfogyasztott tokenek száma alapján számítják fel a használati díjat.
Az árak gyors csökkenése ezért azt a benyomást keltheti, hogy az AI-modellek fokozatosan tömegtermékké válnak. Ha ugyanazt a feladatot egyre több modell képes elvégezni, ráadásul egyre olcsóbban, az hosszabb távon csökkentheti a legnagyobb AI-cégek árazási erejét.
A helyzet azonban ennél összetettebb.
Nem minden token lett ennyivel olcsóbb
Az index nem azt mutatja, hogy összességében mennyit költenek tokenekre a vállalatok. Egy használattal súlyozott átlagárról van szó, amely azt is figyelembe veszi, hogy bemeneti vagy kimeneti tokenről van-e szó.
A kettő között jelentős árkülönbség lehet. A nagy AI-laborok a Financial Times szerint általában körülbelül ötször többet kérnek a modellek által generált kimeneti tokenekért, mint a felhasználók által bevitt tokenekért.
Az átlagár csökkenése mögött ráadásul több különböző folyamat állhat. Egyrészt egyre hatékonyabbá válik az AI-modellek működtetése, így ugyanaz a számítás olcsóbban végezhető el.
Másrészt a vállalatok az egyszerűbb vagy kevésbé fontos feladatokat egyre gyakrabban irányítják olcsóbb, nyílt súlyú modellekhez. Emellett az erősödő verseny is lefelé nyomja az árakat.
Ez azt jelenti, hogy az átlagos tokenár zuhanása önmagában még nem mutatja meg, romlik-e az AI-cégek jövedelmezősége.
A legdrágább modellek árai alig változtak
A Seaport Research Partners adatai alapján a legfejlettebb modellek átlagos tokenára 2023 vége óta jelentősen csökkent. Az egymillió tokenre jutó körülbelül 50 dolláros szintről mára nagyjából 6 dollárra esett vissza.
A medián ár azonban egészen más képet mutat. Ez 2024 közepe óta viszonylag stabil, valamivel 1 dollár alatt mozog egymillió tokenenként.
Az elemzés szerint a piac legalacsonyabb ára is alig változott. Ez körülbelül 11 cent egymillió tokenre, ami már lényegében az előállításhoz szükséges villamos energia költségéhez közelít.
Hasonló a helyzet a piac másik végén. A legdrágább csúcsmodellek árazása 2023 vége óta csak kis mértékben változott.
A látszólagos árcsökkenés jelentős része tehát abból ered, hogy egyre több olcsó modell jelenik meg a piacon. Ezek lefelé húzzák az átlagot, miközben a legfejlettebb modellek továbbra is magasabb árat kérhetnek.
A gyártási költség még gyorsabban csökken
A befektetők számára azonban nemcsak az számít, mennyiért lehet eladni egy tokent. Legalább ilyen fontos, hogy mennyibe kerül annak előállítása.
A Seaport Research becslése szerint az AI-tokenek előállítási költsége gyorsabban csökken, mint a piaci áruk. Emiatt az áresés önmagában nem feltétlenül jelent romló jövedelmezőséget.
Az adatok egy két részre szakadt piac képét mutatják. Az amerikai csúcsmodellek esetében a bruttó árrés körülbelül 70 százalék. Ezzel szemben a többnyire kínai, nyílt súlyú modelleket fejlesztő szereplőknél nagyjából 20 százalékos bruttó árrés jellemző.
Ez a különbség az elmúlt három évben viszonylag stabil maradt.
A vezető AI-laborok számára tehát az olcsóbb tokenek önmagukban nem feltétlenül jelentenek problémát. Ha a számítási költségek még gyorsabban esnek, magas árrés mellett is csökkenthetik áraikat.
A valódi költséget a modellek fejlesztése jelentheti
Van azonban egy fontos tényező, amelyet a tokenárak nem mutatnak meg: az új AI-modellek betanításának költségét.
A tokenár elsősorban az úgynevezett inferenciához kapcsolódik, vagyis ahhoz, amikor egy már elkészült modell feldolgozza a felhasználó kérését és választ generál.
A legfejlettebb modellek létrehozásához szükséges tréning viszont különösen tőkeigényes. A vezető AI-cégeknek folyamatosan új és jobb modelleket kell fejleszteniük ahhoz, hogy megtartsák technológiai előnyüket.
Ez azért is fontos, mert az olcsóbb szereplők részben a legfejlettebb modellek képességeire építve fejleszthetik saját rendszereiket. Így a technológiai élmezőnyben maradás folyamatos és drága versenyt jelent.
Az OpenAI és az Anthropic számára ez lehet a valódi kérdés
A tokenárak alakulása alapján az OpenAI és az Anthropic működési mutatói kedvezőbbek lehetnek annál, mint amit az AI-szolgáltatások gyors árcsökkenése elsőre sugall.
A nagyjából 70 százalék körüli bruttó árrés különösen vonzó lehet olyan vállalatoknál, amelyek közben rendkívül gyorsan növelik bevételeiket.
A hosszabb távú kérdés azonban az, hogy ezt az előnyt fenn tudják-e tartani.
Ehhez egyszerre kell megőrizniük technológiai vezető szerepüket és megvédeniük magasabb áraikat az egyre jobb, olcsóbb és nyílt modellekkel szemben. Mindeközben továbbra is hatalmas összegeket kell fordítaniuk a következő generációs modellek fejlesztésére.
A tokenárak zuhanása ezért önmagában nem jelenti azt, hogy az AI üzleti modellje összeomlóban van. Sokkal inkább azt mutatja, hogy kialakulóban van egy kétszintű piac: az olcsó modellek egyre nagyobb versenyt teremtenek, miközben a legfejlettebb rendszerek egyelőre továbbra is jelentős felárat és magas árrést tudnak fenntartani.
(Címlapkép: Depositphotos)
