Βασικά Takeaways
- Η αλγοριθμική προκατάληψη είναι επιβλαβής για τους εφήβους που περνούν πολύ χρόνο στο διαδίκτυο, λένε οι ειδικοί.
- Οι χρήστες του Twitter αντιμετώπισαν πρόσφατα ένα πρόβλημα κατά το οποίο τα μαύρα πρόσωπα σκοτώθηκαν υπέρ των λευκών.
- Ο αναπτυσσόμενος εγκέφαλος των εφήβων μπορεί να είναι ιδιαίτερα ευαίσθητος στις καταστροφικές συνέπειες της αλγοριθμικής προκατάληψης, λένε οι ερευνητές.
Η προκατάληψη που βασίζεται σε κάποια τεχνολογία, γνωστή ως αλγοριθμική μεροληψία, μπορεί να είναι επιβλαβής για πολλές ομάδες, αλλά οι ειδικοί λένε ότι είναι ιδιαίτερα επιζήμια για τους εφήβους.
Η αλγοριθμική προκατάληψη, όταν τα συστήματα υπολογιστών εμφανίζουν προκατειλημμένα αποτελέσματα, είναι ένα αυξανόμενο πρόβλημα. Οι χρήστες του Twitter βρήκαν πρόσφατα ένα παράδειγμα μεροληψίας στην πλατφόρμα όταν ένας αλγόριθμος ανίχνευσης εικόνων που κόβει φωτογραφίες έκοβε τα μαύρα πρόσωπα υπέρ των λευκών. Η εταιρεία ζήτησε συγγνώμη για το ζήτημα, αλλά δεν έχει κυκλοφορήσει ακόμη μια επιδιόρθωση. Είναι ένα παράδειγμα της προκατάληψης που αντιμετωπίζουν οι έφηβοι όταν συνδέονται στο διαδίκτυο, κάτι που κάνουν περισσότερο από οποιαδήποτε άλλη ηλικιακή ομάδα, λένε οι ειδικοί.
"Οι περισσότεροι έφηβοι δεν γνωρίζουν ότι οι εταιρείες μέσων κοινωνικής δικτύωσης τα διαθέτουν για να προωθήσουν συγκεκριμένο περιεχόμενο που πιστεύουν ότι θα αρέσει στους χρήστες [προκειμένου] να τους κάνουν να παραμείνουν όσο το δυνατόν περισσότερο στην πλατφόρμα, " Dr. Mai- Ο Ly Nguyen Steers, επίκουρος καθηγητής στη Σχολή Νοσηλευτικής στο Πανεπιστήμιο Duquesne που μελετά τη χρήση των μέσων κοινωνικής δικτύωσης μεταξύ των εφήβων/φοιτητών, είπε σε μια συνέντευξη μέσω email.
"Ακόμη και αν υπάρχει κάποιο επίπεδο συνείδησης σχετικά με τον αλγόριθμο, το αποτέλεσμα της μη λήψης αρκετών likes και σχολίων εξακολουθεί να είναι ισχυρό και μπορεί να επηρεάσει την αυτοεκτίμηση των εφήβων", πρόσθεσε ο Steers.
Ανάπτυξη Εγκεφάλου
Η αλγοριθμική προκατάληψη μπορεί να επηρεάσει τους εφήβους με απρόβλεπτους τρόπους, καθώς ο προμετωπιαίος φλοιός τους εξακολουθεί να αναπτύσσεται, εξήγησε η Mikaela Pisani, Επικεφαλής Επιστήμονας Δεδομένων στο Rootstrap, σε μια συνέντευξη μέσω email.
Το αποτέλεσμα της μη λήψης αρκετών likes και σχολίων εξακολουθεί να είναι ισχυρό και μπορεί να επηρεάσει την αυτοεκτίμηση των εφήβων.
"Οι έφηβοι είναι ιδιαίτερα ευάλωτοι στο φαινόμενο του "Social Factory", όπου οι αλγόριθμοι δημιουργούν κοινωνικά συμπλέγματα σε διαδικτυακές πλατφόρμες, οδηγώντας σε άγχος και κατάθλιψη εάν δεν ικανοποιηθούν οι ανάγκες του εφήβου για κοινωνική έγκριση", είπε ο Pisani. "Οι αλγόριθμοι απλοποιούνται με βάση προηγούμενα ατελή δεδομένα, οδηγώντας σε υπερεκπροσώπηση στερεοτύπων εις βάρος πιο διαφοροποιημένων προσεγγίσεων για τη διαμόρφωση ταυτότητας.
"Λαμβάνοντας την ευρύτερη οπτική γωνία, αφήνουμε επίσης να αμφισβητήσουμε, ως κοινωνία, εάν θέλουμε αλγόριθμους που διαμορφώνουν τα ταξίδια των εφήβων μας στην ενηλικίωση και μήπως αυτό το σύστημα υποστηρίζει αντί να καταπνίγει την ατομική προσωπική ανάπτυξη;"
Λόγω αυτών των προβλημάτων, υπάρχει μια αυξανόμενη ανάγκη να έχουμε κατά νου τους εφήβους κατά το σχεδιασμό αλγορίθμων, λένε οι ειδικοί.
"Με βάση τη συμβολή από ειδικούς στην ανάπτυξη, επιστήμονες δεδομένων και υποστηρικτές της νεολαίας, οι πολιτικές του 21ου αιώνα σχετικά με το απόρρητο δεδομένων και τον αλγοριθμικό σχεδιασμό θα μπορούσαν επίσης να κατασκευαστούν έχοντας κατά νου τις ιδιαίτερες ανάγκες των εφήβων, " Avriel Epps-Darling, διδακτορικό φοιτητής στο Χάρβαρντ, έγραψε πρόσφατα. "Αν συνεχίσουμε να υποβαθμίζουμε ή να αγνοούμε τους τρόπους με τους οποίους οι έφηβοι είναι ευάλωτοι στον αλγοριθμικό ρατσισμό, οι βλάβες είναι πιθανό να αντηχούν στις επόμενες γενιές."
Καταπολέμηση της προκατάληψης
Μέχρι να υπάρξει λύση, ορισμένοι ερευνητές προσπαθούν να βρουν τρόπους για να μειώσουν τη ζημιά που προκαλείται στους νέους από μεροληπτικούς αλγόριθμους.
"Οι παρεμβάσεις επικεντρώθηκαν στο να κάνουν τους έφηβους να αναγνωρίσουν ότι τα πρότυπα των μέσων κοινωνικής δικτύωσης επηρεάζουν αρνητικά την ψυχική τους υγεία και προσπαθούν να βρουν στρατηγικές για να το μετριάσουν (π.χ. μειωμένη χρήση των μέσων κοινωνικής δικτύωσης), " είπε ο Steers.
"Μερικοί από τους φοιτητές που έχουμε πάρει συνέντευξη έχουν δηλώσει ότι αισθάνονται υποχρεωμένοι να δημιουργήσουν περιεχόμενο για να παραμείνουν "σχετικοί", ακόμα κι αν δεν θέλουν να βγουν έξω ή να δημοσιεύσουν", συνέχισε. "Ωστόσο, αισθάνονται ότι πρέπει να δημιουργήσουν περιεχόμενο για να διατηρήσουν τις σχέσεις τους με τους οπαδούς ή τους φίλους τους."
Η τελική απάντηση θα μπορούσε να είναι η κατάργηση της ανθρώπινης προκατάληψης από τους υπολογιστές. Αλλά επειδή οι προγραμματιστές είναι μόνο άνθρωποι, αυτό είναι μια δύσκολη πρόκληση, λένε οι ειδικοί.
Μια πιθανή λύση είναι η ανάπτυξη υπολογιστών που να είναι αποκεντρωμένοι και προγραμματισμένοι να ξεχνούν πράγματα που έχουν μάθει, λέει ο John Suit, Chief Technology Officer στην εταιρεία ρομποτικής KODA.
"Μέσω ενός αποκεντρωμένου δικτύου, τα δεδομένα και τα αναλυτικά στοιχεία αυτών των δεδομένων συγκεντρώνονται και αναλύονται από πολλά σημεία", είπε ο Suit σε μια συνέντευξη μέσω email. «Τα δεδομένα συλλέγονται και επεξεργάζονται όχι από μία μόνο επεξεργασία του μυαλού AI εντός των ορίων του αλγορίθμου της, αλλά από εκατοντάδες ή και χιλιάδες.
"Καθώς συλλέγονται και αναλύονται αυτά τα δεδομένα, ξεχνιούνται παλιά "συμπεράσματα" ή περιττά δεδομένα. Μέσω αυτού του συστήματος, ένας αλγόριθμος που μπορεί να έχει ξεκινήσει με προκατάληψη θα διορθώσει τελικά και θα αντικαταστήσει αυτήν την προκατάληψη εάν αποδειχθεί ότι είναι λάθος."
Αν και η προκατάληψη μπορεί να είναι ένα διαχρονικό πρόβλημα, μπορεί να υπάρχουν τρόποι να την καταπολεμήσετε, τουλάχιστον στο διαδίκτυο. Το πρώτο βήμα είναι να σχεδιάζουμε υπολογιστές που να εξαφανίζουν τις προκαταλήψεις μας.
