A hitelkérelmek elutasítása esetén a hitelezőknek pontos magyarázatot kell adniuk, meg kell indokolniuk a döntést. Ezt abban az esetben is kötelező megtenni, ha a döntést mesterséges intelligencia vagy egy bonyolult algoritmus hozta meg – jelentette ki az USA fogyasztóvédelmi felügyelete.
Általában, amikor egy hitelező elutasít egy hitelkérelmet, köteles egy értesítést küldeni, amely magyarázatot ad a kedvezőtlen bírálatra. A követelmény az Egyenlő Hitellehetőségi Törvény (Equal Credit Opportunity Act) részeként lett létrehozva. A törvény célja, hogy a hitelezők csak valódi okokkal tudjanak hitelkérelmeket elutasítani, és ne tudjanak diszkriminálni embereket, például faji vagy egyéb illegitim okok alapján.
A Törvény kiterjed azon vállalatokra is, amelyek AI-t vagy egyéb algoritmusokat használnak a hitelkérelmek elbírálására. Amennyiben például egy AI modell tagadta meg a hitelkérelmet, ugyanúgy pontosan meg kell indokolnia a vállalatnak a döntést. A követelményre a Consumer Financial Protection Bureau (CFPB, Fogyasztói Pénzügyi Védelmi Iroda) hívta fel a figyelmet.
A CFPB új iránymutatása szerint a vállalatoknak valós és részletes magyarázatokat kell adniuk, nem elég csak egy általános sablonszöveget küldeni. A CFPB jelentése szerint:
Például, ha egy cég korlátozza egy ügyfele hitelkeretét, mert bizonyos termékeket vásárolt vagy bizonyos üzletekben költött, meg kell mondaniuk, pontosan mely vásárlások rontották a hitelüket. A homályos magyarázatok, mint például “a vásárlási előzmények miatt korlátoztuk a hitelkeretet” nem elegendőek.
A “Fekete Doboz” Jelenség
A CFPB jelentése szerint egyre több hitelező használ AI-t és egyéb algoritmusokat a hitelbírálatokra. Ezek a rendszerek azonban olyan komplexitásúak már, hogy már a feltalálóik sem tudják mindig megérteni őket. A tudósok erre csak “fekete doboz” jelenségként hivatkoznak.
A jelenség arra utal, hogy az AI és a gépi tanulási rendszerek nem úgy működnek, mint a hagyományos számítógépes programok, amelyek egy programozó által meghatározott utasításkészletet követnek.
Ehelyett hatalmas adatmennyiségeket dolgoznak fel és egy “tanulási” folyamatot követnek, ami rendkívül bonyolult rendszerekhez vezet. Még az ilyen “fekete doboz” rendszerek létrehozói sem értik pontosan, hogyan jutottak el egy adott döntéshez a számítástechnikai tudósok szerint.
Egyre több helyen használják
Az AI-t már sok vállalat használja a hitelezési folyamataiban. A feltörekvő fintech vállalatoktól egészen a legnagyobb hitelezőkig egyre több helyen jelen van, és része a folyamatnak. Ilyen például az Advance Intelligence Group, amelynek AI megoldási több hitelterméket is kezelnek. Az ázsiai vállalat májusban vont be masszív 700 millió dollárt. Hasonló vállalat a C3 AI Smart Lending, amely nagyvállalatoknak nyújt olyan AI megoldásokat, mint a hitelbírálat vagy a kockázatkezelés.
(Forrás: Investopedia)
(Címlapkép: Depositphotos)
