Egy alig ismert startup néhány nap alatt került a Szilícium-völgy figyelmének középpontjába. A TypeSafe AI Jev nevű modellje nem akar beszélgetni, képeket készíteni vagy hosszú válaszokat írni. Ehelyett egyszerű döntéseket hoz gyorsan és olcsón. A vállalat szerint bizonyos feladatoknál százszor olcsóbb és gyorsabb lehet a nagy nyelvi modelleknél.
Nem minden feladathoz kell ChatGPT-szintű AI
A TypeSafe AI-t Diogo Almeida, az OpenAI korábbi kutatója alapította. A Jev ötlete még négy évvel ezelőtt, az OpenAI-nál fogalmazódott meg benne.
Almeida abból indult ki, hogy nem minden AI-feladat eredményét embereknek kell elolvasniuk. A vállalatok rengeteg olyan automatizált döntést hoznak, amelyeknél nincs szükség természetes nyelvű válaszra vagy összetett érvelésre.
A Jev kifejezetten ezeket a feladatokat célozza. Nem ír mondatokat, nem készít magyarázatokat és nem generál képeket. Ehelyett előre meghatározott lehetőségek közül választ.
Egy rendszer például eldöntheti vele, hogy egy kérést jóváhagyjon, elutasítson vagy további ellenőrzésre küldjön. Használható ügyfélszolgálati megkeresések továbbítására, illetve biztosítási és hitelezési kockázatok értékelésére is.
A modell elsősorban fejlesztőknek készült. A Jevet más szoftverek háttérrendszerébe lehet beépíteni, saját fogyasztói felülete nincs.
Akár százszor olcsóbb lehet a nagy AI-modelleknél
A TypeSafe szerint a nagy nyelvi modellek sok vállalati feladatnál feleslegesen összetettek. Hosszú gondolkodási folyamatokat futtathatnak le akkor is, amikor mindössze néhány lehetséges válasz közül kell választani.
A Jev más megközelítést alkalmaz. Egy korlátozott válaszkészletből választ valószínűségi számítás alapján. Emiatt jóval kevesebb számítási kapacitásra van szüksége.
A vállalat állítása szerint egy lekérdezés feldolgozása körülbelül százszor olcsóbb és gyorsabb lehet, mint a nagy nyelvi modelleknél. A TypeSafe mintegy 4,2 centet kér egymillió tokenért, miközben a vezető LLM-ek esetében ugyanez több dollárba is kerülhet.
Az alacsonyabb költség egyre fontosabb szempont az AI-t használó vállalatok számára. Ahogy egyre több folyamatba építik be a technológiát, a modellek használatának költsége is gyorsan emelkedhet.
A TypeSafe erre építi üzleti modelljét. Elképzelése szerint sok egyszerű, ismétlődő feladatot nem a legfejlettebb általános AI-modellekre, hanem olcsóbb és specializált rendszerekre bíznak majd.
Néhány nap alatt hatalmas érdeklődést váltott ki
A Jev megjelenése gyorsan felkeltette a fejlesztők és a befektetők figyelmét. A modell bemutatkozó videóját kevesebb mint egy hét alatt 40 millió alkalommal nézték meg az X-en.
A Vercel szerint a Jev az első 24 órában több mint kétszer akkora érdeklődést váltott ki a fizetős fejlesztői fiókok körében, mint bármely korábbi modell bevezetése. Ezzel még az OpenAI és az Anthropic korábbi modellpremierjeit is megelőzte ezen a mutatón.
Az OpenRouter adatai alapján a modellnek küldött tokenek száma egyetlen hétvége alatt több mint háromszorosára nőtt.
A Jev iránti érdeklődés a TypeSafe értékelését is gyorsan megváltoztathatja. A startupot a modell megjelenése előtt 200 millió dollárra értékelték. A Financial Times forrásai szerint azonban már olyan befektetési ajánlatokat is kap, amelyek legalább 10 milliárd dolláros vállalatértéket feltételeznek. Ez ötvenszeres ugrást jelentene.
A vállalat legutóbbi, 40 millió dolláros magvető finanszírozási körét még több mint egy évvel ezelőtt zárta. Almeida nem beszélt konkrét új befektetőkről, de megerősítette, hogy jelentős az érdeklődés a cég iránt.
Nyomás alá kerülhetnek a nagy AI-modellek
A Jev sikere egy szélesebb változásra is rámutathat az AI-piacon. Az elmúlt évek versenye elsősorban arról szólt, ki tud egyre intelligensebb és nagyobb teljesítményű modelleket létrehozni.
A TypeSafe ezzel szemben arra fogad, hogy sok vállalatnak nem mindig a legintelligensebb modellre van szüksége. Bizonyos feladatoknál fontosabb lehet a sebesség, az alacsony ár és a kiszámítható működés.
Andrej Karpathy, az OpenAI társalapítója szerint a Jev olyan korábban kevésbé kiszolgált keresletet talált meg, amely az egyszerű, gyors és olcsó döntéseket hozó modellekre irányul. Úgy látja, ez a terület kevesebb figyelmet kapott, miközben a vezető AI-cégek egyre fejlettebb modellek létrehozásáért versenyeztek.
Ha ez a megközelítés szélesebb körben elterjed, az az OpenAI és az Anthropic üzleti modelljére is nyomást helyezhet. A vállalatok ugyanis a drágább általános modellek helyett specializált rendszerekre bízhatják az egyszerűbb feladatokat.
Kérdés, mennyire új a technológia
A Jev körüli lelkesedés ellenére egyelőre nem világos, mennyire számít technológiai áttörésnek.
A TypeSafe kevés részletet közölt arról, hogyan tanította be a modellt. Annyit lehet tudni, hogy nyílt súlyú modelleket és mesterségesen előállított adatokat is használt.
Egyes szakértők szerint a Jev működése hasonlíthat a már régóta ismert osztályozási technológiákhoz. A Meta, a Google és a Hugging Face is kínál olyan eszközöket, amelyek korábbi célzott betanítás nélkül képesek különböző kategóriákba sorolni a tartalmakat.
A Jev jelentősége ezért nem feltétlenül abban rejlik, hogy teljesen új technológiát hozott létre. Sokkal fontosabb lehet az a kérdés, amelyet a modell sikere felvet: valóban szükség van-e minden AI-feladathoz a legnagyobb és legdrágább modellekre?
Ha a válasz nem, az AI következő nagy versenye már nemcsak arról szólhat, melyik modell a legintelligensebb. Egyre fontosabb lehet az is, melyik képes egy adott feladatot a leggyorsabban és a legolcsóbban elvégezni.
