Βασικά Takeaways
- Το αυτόματο λογισμικό περιορισμού ηλικίας του YouTube προκαλεί ανησυχία για περιεχόμενο LGBTQ+ στην πλατφόρμα.
- Η εταιρεία έχει αμαυρωθεί από διαμάχες σχετικά με τους δημιουργούς περιεχομένου LGBTQ+ που εδραιώνουν αμφιβολίες.
- Οι προκαταλήψεις στη μηχανική μάθηση ενισχύουν την ιδέα ότι η ατελής εφαρμογή των φίλτρων είναι πιθανό να περιορίσει άδικα την πρόσβαση.
Με ένα ιστορικό άδικης στόχευσης δημιουργών περιεχομένου LGBTQ+ στη διαδικασία εποπτείας, η νέα τεχνολογία του YouTube που βασίζεται στην τεχνητή νοημοσύνη θεωρείται ως ένα ανησυχητικό επόμενο βήμα για τον τεχνολογικό γίγαντα.
Στο επίσημο ιστολόγιο του YouTube την περασμένη εβδομάδα, η πλατφόρμα κοινής χρήσης βίντεο αποκάλυψε σχέδια για την κυκλοφορία ενός νέου αυτόματου λογισμικού για "πιο συνεπή εφαρμογή περιορισμών ηλικίας" σε βίντεο που κρίνονται ακατάλληλα για νεότερους θεατές.
Υποκινούμενο από τις πρόσφατες ανησυχίες σχετικά με τα παιδιά στην εφαρμογή, το νέο σύστημα βασίζεται σε λογισμικό τεχνητής νοημοσύνης μηχανικής μάθησης με την ικανότητα να παραιτείται από ανθρώπινους συντονιστές για μια πιο αυτόματη διαδικασία. Το θέμα? Τα αυτοματοποιημένα συστήματα του YouTube έχουν κατηγορηθεί ότι ξεχωρίζουν περιεχόμενο LGBTQ+ και δημιουργούς απλώς και μόνο επειδή υπάρχουν.
Ακόμη και αν δεν είναι κακόβουλο, κάτι που δεν νομίζω ότι είναι, είναι έλλειψη συμβολής από διαφορετικές φωνές-ή τουλάχιστον έλλειψη σεβασμού.
"Η μηχανική μάθηση ενημερώνεται και δημιουργείται από τους ανθρώπους, και είναι πιθανό να υπάρχουν αυτές οι προκαταλήψεις που είναι εγγενείς σε αυτήν ή μαθαίνονται από το ίδιο το μηχάνημα", δήλωσε ο YouTuber Rowan Ellis σε μια τηλεφωνική συνέντευξη στο Lifewire. «Η μεροληψία του όσον αφορά το περιεχόμενο [LGBTQ+] ήταν εμφανής στις προηγούμενες εμπειρίες [LGBTQ+] YouTubers και δεν έχω δει στοιχεία που να αποδεικνύουν ότι έχει γίνει κάτι για να σταματήσει να συμβαίνει αυτό."
Μωρό μου, τώρα έχουμε κακό αίμα
Η Η Ellis είναι YouTuber που δημιουργεί εκπαιδευτικό περιεχόμενο με φεμινίστρια και queer τάση και το 2017 δημοσίευσε ένα βίντεο σχετικά με την περιορισμένη λειτουργία της εταιρείας. Ως αρχική εισβολή στην αυτόματη εποπτεία περιεχομένου, αυτή η λειτουργία επέτρεψε στους χρήστες να προβάλλουν προαιρετικά "περιεχόμενο δυνητικά για ενηλίκους" από προτάσεις και προτάσεις αναζήτησης.
Συγκεντρώνοντας περισσότερες από 100.000 προβολές, πιστεύει ότι έγινε συνειδητή προσπάθεια να αποτραπεί ο περιορισμός του καναλιού της λόγω της έντονης αντίθεσής της ενάντια στις υπερβολές του νέου βήματος του YouTube προς τη μετριοπάθεια. Άλλοι χρήστες στην πλατφόρμα δεν ήταν τόσο τυχεροί και έκαναν το YouTube να το μάθει.
Μια ομαδική αγωγή κατά του YouTube υποβλήθηκε τον Αύγουστο του 2019 από μια ομάδα οκτώ δημιουργών LGBTQ+ που κατηγόρησαν την εταιρεία Silicon Valley ότι περιόριζε τους δημιουργούς και το περιεχόμενο queer και τρανς βίντεο. Η αγωγή ισχυρίζεται ότι ο ιστότοπος χρησιμοποιεί «παράνομες ρυθμίσεις περιεχομένου, πρακτικές διανομής και δημιουργίας εσόδων που στιγματίζουν, περιορίζουν, αποκλείουν, απονομιμοποιούν και βλάπτουν οικονομικά τους ενάγοντες LGBT και την ευρύτερη LGBT κοινότητα.«Ακόμα κάνει το δρόμο του μέσα από τα δικαστήρια της Καλιφόρνια.
Η μηχανική μάθηση ενημερώνεται και δημιουργείται από τους ανθρώπους, και είναι πιθανό να υπάρχουν αυτές οι προκαταλήψεις που είναι εγγενείς σε αυτήν ή μαθαίνονται από την ίδια τη μηχανή.
Τον Ιούνιο του ίδιου έτους, η πλατφόρμα έλαβε μια πλημμύρα της προσοχής των μέσων ενημέρωσης αφού αρνήθηκε να επιπλήξει γρήγορα τον δημοφιλή συντηρητικό σχολιαστή Steven Crowder για μια πολύμηνη, ομοφοβική εκστρατεία παρενόχλησης κατά του δημοσιογράφου και παρουσιαστή της Vox, Carlos Maza. Αυτό ενίσχυσε αυτό που είπε ο Ellis ότι είναι ένα μοτίβο με την διαδικτυακή πλατφόρμα αγνοώντας τις μοναδικές προκλήσεις που αντιμετωπίζουν οι queer δημιουργοί. Η έλλειψη πίστης των δημιουργών LGBTQ+ στην ικανότητα του YouTube να εμφανίζεται για αυτούς δεν είναι αβάσιμη.
"Δεν νομίζω ότι έχουν κατανοήσει την ανάγκη για διαφάνεια όσον αφορά τα κοινωνικά ζητήματα και τη διασφάλιση της ισότητας", είπε. «Υπάρχουν ακόμη παιδιά σε όλο τον κόσμο που έχουν μεγαλώσει με την ιδέα ότι το να είσαι ομοφυλόφιλος είναι λάθος και όταν αρχίσουν να αμφισβητούν αυτή την πεποίθηση, αλλά τη βρίσκουν ότι έχει κλείσει από μια ασφαλή αναζήτηση ή περιορισμό, θα ενισχύσει αυτή την ιδέα ότι είναι λάθος, ακατάλληλο, ενήλικο, διεστραμμένο και βρώμικο."
Αποτυχία αυτόματης μάθησης
Με το άθλιο ιστορικό του σχετικά με τους δημιουργούς περιεχομένου LGBTQ+ στην πλατφόρμα του, οι ανησυχίες σχετικά με την εφαρμογή της ικανότητας του λογισμικού μηχανικής εκμάθησης να διακρίνει μεγαλύτερους κανόνες εξακολουθούν να υπάρχουν. Ο Don Heider, Εκτελεστικός Διευθυντής στο Markkula Center for Applied Ethics, προτείνει ότι η πιθανότητα ανοησίας είναι πολύ μεγάλος κίνδυνος για τυχερά παιχνίδια.
"Είναι δύσκολο να πιστέψει κανείς ότι η τεχνητή νοημοσύνη μπορεί να διέπει αποτελεσματικά περιεχόμενο από πολλές χώρες με διαφορετικά πολιτισμικά πρότυπα και πρότυπα", έγραψε σε μια συνέντευξη μέσω email. "Η τεχνητή νοημοσύνη θεωρείται πολύ συχνά ως η απάντηση σε περίπλοκες ερωτήσεις. Σε αυτό το σημείο, η τεχνητή νοημοσύνη και ο τρόπος με τον οποίο δημιουργείται δυσκολεύονται να αντιμετωπίσουν ακόμη και απλές εργασίες, πόσο μάλλον με κάθε περιορισμό περιεχομένου με οποιοδήποτε επίπεδο πολυπλοκότητας."
Το YouTube αποφάσισε τη χρήση της τεχνολογίας AI λόγω έλλειψης συνεπούς ελέγχου από τους ανθρώπινους συντονιστές, σύμφωνα με το ιστολόγιό του. Η αύξηση της χρήσης ηλεκτρονικών φίλτρων για την κατάργηση βίντεο που κρίνονται ακατάλληλα έγινε ο κανόνας και η εφαρμογή των ίδιων διαδικασιών για τις πολιτικές περιορισμού ηλικίας θεωρείται λογικό επόμενο βήμα.
Ως εταιρεία που επιδιώκει να βελτιώσει σταδιακά τις διαδικασίες της μετά από μακροχρόνιες επικρίσεις σχετικά με τη σχέση της με τους παιδικούς καταναλωτές, αυτή η απόφαση δεν αποτελεί έκπληξη.
Δεν νομίζω ότι έχουν κατανοήσει την ανάγκη για διαφάνεια όσον αφορά τα κοινωνικά ζητήματα και τη διασφάλιση της ισότητας.
Τα παιδιά έχουν γίνει βασικό δημογραφικό στοιχείο για τον ιστότοπο κοινής χρήσης βίντεο. Τον Αύγουστο, η εταιρεία ανάλυσης ψηφιακών βίντεο Tubular διαπίστωσε ότι, εκτός από μουσικά βίντεο, περιεχόμενο που απευθύνεται σε παιδιά ήταν στην κορυφή της λίστας του τέλους του μήνα για τα βίντεο με τις περισσότερες προβολές στο YouTube.
Το ενδιαφέρον της εταιρείας για την προστασία αυτής της κερδοφόρας, αναδυόμενης δύναμης στην πλατφόρμα είναι λογικό. Ωστόσο, τα εργαλεία που χρησιμοποιούνται για την επιβολή αυτής της προστασίας παραμένουν ενοχλητικά για όσους έχουν ήδη βρεθεί μετά από τις διαδικασίες εποπτείας της εταιρείας.
"Ανησυχώ ότι θα κάνει πολύ κακό και δεν θα προστατεύσει τους νέους [LGBTQ+] που χρειάζονται ενημερωτικό, ειλικρινές και ειλικρινές περιεχόμενο που μπορεί να παρέχουν πολλοί [LGBTQ+] YouTubers, αλλά επισημαίνεται στο σύστημά του ως ακατάλληλο», είπε η Έλις."Ακόμα και αν δεν είναι κακόβουλο, κάτι που δεν νομίζω ότι είναι, είναι έλλειψη συμβολής από διαφορετικές φωνές - ή τουλάχιστον έλλειψη σεβασμού.
"Το βλέπουμε συνεχώς στην τεχνολογία. Όταν εξετάζετε την αναγνώριση προσώπου που αποτυγχάνει να διαφοροποιήσει διαφορετικά μαύρα πρόσωπα ή όταν κοιτάμε την ιατρική και βλέπουμε ότι η φαρμακευτική αγωγή έχει δοκιμαστεί μόνο σε ένα συγκεκριμένο φύλο. είναι μεγαλύτερες συνομιλίες και το YouTube δεν εξαιρείται από αυτό."