A Twitter kihirdette a nyílt verseny eredményeit, hogy megtalálja a torzításokat a fotókivágási rendszerében.
A jutalomkihívás júliusban indult, miután a Twitter-felhasználók kimutatták, hogy az oldal automatizált vágóeszköze a világosabb arcbőrűek arcát részesíti előnyben a sötétebb arcbőrűekkel szemben. Felvetett néhány kérdést azzal kapcsolatban, hogy a szoftver hogyan helyezi előtérbe a bőrszínt és bizonyos tényezőket másokkal szemben.
A kihívás arra irányult, hogy megtudja, milyen egyéb hibák és torzítások lehetnek a vágórendszerben a problémák kijavítása érdekében.
Az első helyet Bogdan Kulynych szerezte meg, akinek beadványa megmutatta, hogy a szépségszűrők hogyan tudják megjátszani az algoritmus pontozási modelljét, ami viszont felerősíti a hagyományos szépségstandardokat. A beadvány szerint az algoritmus a fiatal és vékony arcokat részesíti előnyben, világos vagy meleg bőrtónussal. Kulynych 3500 dollárt nyert.
A második helyet a HALT AI, egy torontói technológiai startup szerezte meg, amely felfedezte, hogy idősek és fogyatékkal élők képei ki vannak vágva a fotókból. A csapat 2000 dollárt kapott a második helyezésért.
A harmadik helyet és 500 dollárt Roya Pakzad, a Taraaz Research alapítója kapta, aki felfedezte, hogy az algoritmus előnyben részesíti a latin betűk levágását az arab betűkkel szemben, ami károsíthatja a nyelvi sokszínűséget.
A részletes eredményeket a DEF CON 29 konferencián Rumman Chowdhury, a Twitter META csapatának igazgatója mutatta be. A META csapata az algoritmusok nem szándékos problémáit tanulmányozza, és kiszűri az ilyen rendszerek esetleges nemi és faji elfogultságát.
A verseny során nyert adatokat a vágási algoritmus hibáinak és torzításainak enyhítésére, valamint egy befogadóbb környezet biztosítására használjuk fel.
