Twitter a anunțat rezultatele competiției deschise pentru a găsi părtiniri în sistemul său de decupare a fotografiilor.
Provocarea recompenselor s-a deschis în iulie, după ce utilizatorii de Twitter au arătat că instrumentul de decupare automat al site-ului a favorizat fețele persoanelor cu ten mai deschis față de cele cu ten mai închis. A ridicat câteva întrebări despre modul în care software-ul a prioritizat culoarea pielii și anumiți factori față de alții.
Provocarea a urmărit să găsească ce alte erori și părtiniri pot avea sistemul de decupare pentru a remedia problemele.
Primul loc a revenit lui Bogdan Kulynych, a cărui depunere a arătat cum filtrele de frumusețe ar putea juca modelul de punctare al algoritmului, care, la rândul său, amplifică standardele tradiționale de frumusețe. Prezentarea a arătat că algoritmul preferă fețele tinere și subțiri, fie cu un ton deschis sau cald al pielii. Kulynych a câștigat 3.500 USD.
Al doilea loc a fost HALT AI, un startup tehnologic din Toronto, care a descoperit că imagini cu persoane în vârstă și cu handicap au fost tăiate din fotografii. Echipa a primit 2.000 USD pentru că a ajuns pe locul al doilea.
Locul al treilea și 500 USD i-au revenit Roya Pakzad, fondatoarea Taraaz Research, care a descoperit că algoritmul favoriza tăierea scripturilor latine în detrimentul scripturilor arabe, ceea ce ar putea dăuna diversității lingvistice.
Rezultatele detaliate au fost prezentate la DEF CON 29 de Rumman Chowdhury, directorul echipei META a Twitter. Echipa META studiază problemele neintenționate ale algoritmilor și elimină orice tip de părtinire de gen și rasă pe care le-ar putea avea astfel de sisteme.
Datele obținute în urma acestui concurs vor fi folosite pentru a atenua erorile și părtinirile din algoritmul de decupare și pentru a ajuta la asigurarea unui mediu mai incluziv.
