Το Twitter ανακοίνωσε τα αποτελέσματα από τον ανοιχτό διαγωνισμό του για την εύρεση προκαταλήψεων στο σύστημα περικοπής φωτογραφιών του.
Η πρόκληση του bounty ξεκίνησε τον Ιούλιο αφού οι χρήστες του Twitter έδειξαν ότι το αυτοματοποιημένο εργαλείο περικοπής του ιστότοπου ευνοούσε τα πρόσωπα των ατόμων με πιο ανοιχτόχρωμη επιδερμίδα έναντι αυτών με πιο σκούρα. Έθεσε ορισμένα ερωτήματα σχετικά με το πώς το λογισμικό έδινε προτεραιότητα στο χρώμα του δέρματος και ορισμένους παράγοντες έναντι άλλων.
Η πρόκληση επεδίωξε να βρει ποια άλλα σφάλματα και προκαταλήψεις μπορεί να έχει το σύστημα περικοπής προκειμένου να διορθωθούν τα προβλήματα.
Η πρώτη θέση πήγε στον Bogdan Kulynych, η υποβολή του οποίου έδειξε πώς τα φίλτρα ομορφιάς μπορούσαν να παίξουν το μοντέλο βαθμολόγησης του αλγόριθμου, το οποίο, με τη σειρά του, ενισχύει τα παραδοσιακά πρότυπα ομορφιάς. Η υποβολή έδειξε ότι ο αλγόριθμος προτιμούσε νεαρά και λεπτά πρόσωπα είτε με ανοιχτό είτε με ζεστό τόνο δέρματος. Ο Kulynych κέρδισε $3.500.
Τη δεύτερη θέση κατέλαβε η HALT AI, μια τεχνολογική startup στο Τορόντο, η οποία ανακάλυψε ότι οι φωτογραφίες ηλικιωμένων και ατόμων με αναπηρία κόπηκαν από φωτογραφίες. Στην ομάδα δόθηκαν 2.000 $ για να βγει δεύτερη.
Τρίτη θέση, και 500 $, κέρδισε η Roya Pakzad, ιδρύτρια της Taraaz Research, η οποία ανακάλυψε ότι ο αλγόριθμος ευνοούσε την περικοπή των λατινικών γραμμών έναντι των αραβικών, κάτι που θα μπορούσε να βλάψει τη γλωσσική πολυμορφία.
Τα λεπτομερή αποτελέσματα παρουσιάστηκαν στο DEF CON 29 από τον Rumman Chowdhury, διευθυντή της ομάδας META του Twitter. Η ομάδα META μελετά τα ακούσια προβλήματα στους αλγόριθμους και εξαλείφει κάθε είδους φύλο και φυλετική προκατάληψη που μπορεί να έχουν τέτοια συστήματα.
Τα δεδομένα που λαμβάνονται από αυτόν τον διαγωνισμό θα χρησιμοποιηθούν για την άμβλυνση σφαλμάτων και μεροληψίας στον αλγόριθμο περικοπής και για να διασφαλιστεί ένα πιο περιεκτικό περιβάλλον.
