Pravednost i jednakost u algoritamskom odlučivanju

Abstract

U poglavlju se istražuje problem algoritamske pravednosti, posebno u kontekstu automatizovanih sistema odlučivanja i algoritama mašinskog učenja koji se sve više koriste u oblastima poput zapošljavanja, pravosuđa i obrazovanja. Kroz analizu najpoznatijih primera nepravednih algoritama pokazano je kako nepravedni podaci i modeli mogu dovesti do diskriminatornih odluka. U poglavlju je, takođe, prikazan obuhvatan pregled literature za rešavanje algoritamske nepravednosti, uključujući početnu pripremu podataka, prilagođavanje algoritama i naknadnu obradu predikcija. Rad prikazuje najbitnije rezultate koje je grupa autora ostvarila u ovoj oblasti. Eksperimentalni rezultati pokazuju da postoji neizbežan kompromis između pravednosti i tačnosti nevezano od pristupa rešavanja, ali se pokazalo da blago smanjenje tačnosti može značajno unaprediti pravednost, posebno na nivou grupe. Ukazuje se da, ipak, postoji potreba za daljim istraživanjem metoda koje kombinuju matematičke i društvene aspekte pravednosti, kao i za razvojem algoritamskih sistema koji će omogućiti transparentnost i odgovornost u donošenju odluka.