Az Egyesült Államokban vizsgálat indult egy korábban bedőlt startup ellen, amely emberekkel végeztet el munkát mesterséges intelligencia helyett. A Nate nevű e-kereskedelmi alkalmazás alapítóját, Albert Sanigert a befektetők megtévesztésével vádolták meg szövetségi szinten. Egyre több piaci fejleményben kerül központba az AI-szemfényvesztés.
A Nate nevű alkalmazást 2018-ban alapította Albert Saniger azzal az ígérettel, hogy a vásárlók bárhonnan, egyetlen kattintással vásárolhatnak online. A mesterséges intelligencia segítségével működő „univerzális checkout” ígérete nagyot szólt: a startup több mint 50 millió dollárnyi tőkét szerzett nagynevű kockázatitőke-befektetőktől.
A gond csak az, hogy a Nate állításaival ellentétben nem használt mesterséges intelligenciát folyamatok automatizálására. Az alkalmazáson végbemenő vásárlásokat valójában alacsony órabérért dolgozó Fülöp-szigeteki munkások végezték el manuálisan – áll a New York-i déli kerületi ügyészség vádiratában.
A nulla százalékos AI-hatékonyság
A vád szerint Saniger félrevezette a befektetőket, amikor azt állította, hogy a Nate csak kivételes esetekben igényel emberi beavatkozást, és hogy az AI-alapú működés már a tranzakciók többségénél működik. Ezzel szemben a valóság az volt, hogy az automatizáltság aránya lényegében nulla százalék volt – minden egyes vásárlás emberi közreműködéssel valósult meg.
Bár a cég valóban alkalmazott néhány AI-mérnököt és adattudóst, az ő szerepük korlátozott volt, és semmilyen érdemi hatással nem volt az applikáció valós működésére. A technológiai háttér, amit az alapító hirdetett, nagyrészt illúzió volt. Az ügyészek szerint kifejezetten a befektetők megtévesztésére szolgált.
A Nate a befektetői pénzekből egyre bővülő csapatot tartott fenn, miközben a valós üzleti modell fenntarthatatlan volt. A csalás következményeként a startup 2023 januárjában teljesen kifogyott a forrásokból, és kénytelen volt értékesíteni eszközeit. A befektetők szinte teljes veszteséggel szálltak ki.
Nem ritka az AI-szemfényvesztés
A Nate esete csak a jéghegy csúcsa, a hasonló „ál-AI” megoldásokról egyre gyakrabban hullik le a lepel. Az AI-térben a valóság gyakran távol áll a marketinganyagokban hangoztatott automatizáltságtól. Legyen szó vásárlásról, gyorséttermi rendelésről vagy jogi dokumentumkészítésről, számos startup és nagyvállalat hivatkozik mesterséges intelligenciára, hogy innovatívabbnak tűnjön, de a háttérben sokszor olcsó emberi munkaerő végzi el a feladatokat. Jellemzően távoli országokból, jórészt láthatatlanul.
A Presto Automation például AI-alapú drive-thru rendszerként hirdeti magát, amely gyorséttermekben veszi fel az ügyfelek rendeléseit. A valóságban azonban a rendelések több mint 70 százalékát emberek dolgozzák fel, elsősorban a Fülöp-szigeteken. A cég ellen az SEC vizsgálatot is indított, mivel marketingjük erősen félrevezető lehet.
Az egymilliárd dolláros értéket meghaladó EvenUp nevű AI-jogi startup hasonló problémákkal küzd. A vállalat azzal vált ismertté, hogy mesterséges intelligenciával forradalmasítja a személyi sérüléses ügyekhez szükséges igénylevelek automatizált elkészítését. Azonban korábbi alkalmazottak beszámolói szerint a rendszer gyakran súlyos hibákat vét: elfelejt vagy félreértelmez sérüléseket, nem létező egészségügyi látogatásokat tüntet fel, vagy akár kitalált állapotokat generál. Ezeket a hibákat végső soron embereknek kell kijavítaniuk.
Bár a cég azt állítja, hogy az igénylevelek 72 százalékát AI írja, volt dolgozók szerint a gyakorlatban több órányi kézi javítás szükséges az anyagok véglegesítéséhez. Ráadásul a munkavállalók túlterheltségről és a cég által ígért AI-képességek és a valóság közötti hatalmas szakadékról számoltak be.
Végül a világ legnagyobb vállalataitól sem áll távol az AI-szemfényvesztés alkalmazása. Az Amazon „Just Walk Out” technológiája azzal lett híres, hogy az Amazon Fresh üzletekben sorban állás nélkül lehetett volna vásárolni. A rendszer elvileg mesterséges intelligencián, szenzorokon és kamerákon alapult, de több forrás szerint a háttérben több mint 1 000 indiai alkalmazott ellenőrizte manuálisan a vásárlások helyességét.
Trend vagy félrevezetés?
Az ilyen esetek közös nevezője, hogy a cégek az AI „varázsát” használják arra, hogy eladják szolgáltatásaikat, miközben a technológia mögött valójában rengeteg emberi munka áll, ami nem köszön vissza a hivatalos kommunikációban.
A gyakorlat alapvetően etikailag aggályos, és torzítja a mesterséges intelligencia jelenlegi fejlettségi szintjéről alkotott képet. Bár az AI valóban hatalmas lehetőségeket rejt, a fent említett példák azt mutatják, hogy a cégek gyakran megelőzik a technológia valós képességeit a marketinggel – és nem ritkán a szabályozást is.
A fogyasztók, a befektetők és a döntéshozók számára is sok tanulságot rejtenek az ilyen ügyek. Nem elég a buzzword, az AI-címke mögé is muszáj benézni minden új „forradalmi” alkalmazásnál.
(Forrás: TechCrunch)
(Címlapkép: Depositphotos)