A mesterséges intelligencia bukik, ha a bőrszínről van szó

A Bloomberg cikkben számol be Brian Brackeen AI szakember tapasztalatairól, melyek szerint a mesterséges intelligenciával működő arcfelismerő programok nagyon gyakran elbuknak a sötétebb börű felhasználók esetében. Ennek az oka, hogy számos fejlesztő fehér bőrű felhasználókkal optimalizálja és teszteli rendszerét. Brackeen saját cégén belül több, sötétebb bőrszínnel rendelkező kollégával igyekezte kijavítani a tesztidőszakban elkövetett hibákat, a rendszer azonban így sem tökéletes.

Brian szerint jelenleg a Microsoft, az IBM és az Amazon is hasonló problémákkal küzd. Emellett hangot adott egy komoly aggodalmának is: egyes rendőri szervek szintén előszeretettel használják az arcfelismerő rendszereket, miközben azok nem tökéletesek. A szakember szerint azonban a faji előítéletek így is épp elég nagy problémát okoznak, nem szabadna még egy frontot nyitni ezen a téren.

Reményik Áron

Forrás: Bloomberg

 

E-mail címed nem kerül nyilvánosságra.