Είναι η οικονομία των συναυλιών στημένη;

Εικονογράφηση Matthew Hollister



Εφαρμογές και ιστότοποι που μπορούν να χρησιμοποιηθούν για την πρόσληψη ατόμων για μεμονωμένες εργασίες όπως η παραλαβή ειδών παντοπωλείου ή ο σχεδιασμός ενός νέου λογότυπου έχουν απογειωθεί τα τελευταία χρόνια, υποσχόμενοι μια πιο αποτελεσματική και δικαιότερη αγορά για την απασχόληση. Ωστόσο, μια νέα μελέτη από το Πανεπιστήμιο Northeastern στη Βοστώνη δείχνει ότι οι φυλετικές και σεξουαλικές διακρίσεις μπορεί να είναι κοινές σε δύο δημοφιλείς πλατφόρμες οικονομίας συναυλιών.

Ερευνητές με επικεφαλής τον Christo Wilson , επίκουρος καθηγητής στο Northeastern, και Ancsa Hannák , ένας διδακτορικός φοιτητής, εξέτασε το TaskRabbit, μια πλατφόρμα για την πρόσληψη ατόμων για την εκτέλεση θεμάτων, και το Fiverr, μια αγορά για δημιουργικές υπηρεσίες. Και στα δύο, βρήκαν στοιχεία μεροληψίας κατά φυλετικές και φυλετικές γραμμές.





Είναι μόνο ένα παράδειγμα του πώς η μεροληψία εισχωρεί σε διαδικτυακές πλατφόρμες και υπηρεσίες. Και είναι ανησυχητικό επειδή η οικονομία των συναυλιών υποσχέθηκε ότι θα ήταν όχι μόνο πιο αποτελεσματική και ευέλικτη, αλλά και λιγότερο προκατειλημμένη - δεδομένου ότι οι αλγόριθμοι κάνουν τη δουλειά της σύνδεσης των ανθρώπων.

Στο Fiverr, οι ερευνητές βρήκαν στοιχεία ότι οι μαύροι και οι Ασιάτες εργαζόμενοι έλαβαν χαμηλότερη βαθμολογία από τους λευκούς. Και στο TaskRabbit, οι γυναίκες έλαβαν λιγότερες κριτικές από τους άνδρες και οι μαύροι εργαζόμενοι έλαβαν χαμηλότερη βαθμολογία από τους λευκούς. Ίσως το πιο ανησυχητικό είναι ότι οι ερευνητές βρήκαν επίσης στοιχεία τέτοιας μεροληψίας στον αλγόριθμο συστάσεων στο TaskRabbit. Η έρευνα θα παρουσιαστεί σε ακαδημαϊκό συνέδριο στη Νέα Υόρκη αυτή την εβδομάδα.

Είναι αδύνατο να πούμε με βεβαιότητα ότι η συσχέτιση που εντόπισαν οι Wilson και Hannák οφείλεται σε φυλετική και έμφυλη προκατάληψη από την πλευρά των μισθωτών, σε αντίθεση με κάποιον άγνωστο συγχυτικό παράγοντα, αλλά ο Wilson λέει ότι το μοτίβο είναι ανησυχητικό. Μας λένε ότι αυτό είναι το μέλλον της εργασίας, λέει. Εάν πρόκειται να αναπτύξετε έναν αλγόριθμο που πρόκειται να χρησιμοποιηθεί από εκατομμύρια ανθρώπους, έχετε κάποιο είδος ευθύνης απέναντι στο κοινό να εξετάσετε τι αναπτύσσετε, να το αξιολογήσετε και να δείτε εάν θα έχει κάποιο από αυτά αρνητικές παρενέργειες.



Ένας εκπρόσωπος του Fiverr υποστηρίζει ότι η μεθοδολογία της μελέτης ήταν εσφαλμένη καθώς αγνοεί παράγοντες όπως τα διεθνή όρια και τις γλωσσικές διαφορές. Σημειώνει επίσης ότι οι χρήστες δεν χρειάζεται να παρέχουν δημογραφικά στοιχεία για να χρησιμοποιήσουν την υπηρεσία, γεγονός που διευκολύνει την αποφυγή διακρίσεων. Το TaskRabbit δεν απάντησε σε αίτημα για σχολιασμό.

Υπάρχουν, ωστόσο, αυξανόμενες ενδείξεις ότι η μεροληψία μπορεί να επηρεάσει όλα τα είδη ψηφιακών υπηρεσιών. Τον περασμένο μήνα, ερευνητές από το MIT, το Στάνφορντ και το Πανεπιστήμιο της Ουάσιγκτον ανακάλυψε ότι ότι οι οδηγοί της Uber στη Βοστώνη ακύρωναν συχνότερα ταξίδια για πελάτες με ονόματα αφροαμερικανικής καταγωγής και ότι οι μαύροι πελάτες της Uber στο Σιάτλ αντιμετώπιζαν μεγαλύτερους χρόνους αναμονής από τους λευκούς ομολόγους τους. Σε μια μελέτη που δημοσιεύθηκε πέρυσι, ερευνητές στο CMU βρήκε στοιχεία ότι οι διαφημίσεις για θέσεις εργασίας υψηλής αμοιβής εμφανίζονταν πιο συχνά σε άνδρες παρά σε γυναίκες.

Σε πολλές περιπτώσεις, η προκατάληψη που παρατηρείται αντικατοπτρίζει απλώς αυτό που βρίσκεται στον πραγματικό κόσμο, όπως η συνειδητή και υποσυνείδητη προκατάληψη που μπορεί να επιφέρουν οι εργοδότες στις αποφάσεις πρόσληψης. Έτσι, για κινητήρες συστάσεων ή συστήματα μηχανικής μάθησης, το ερώτημα είναι πώς μπορεί να αφαιρεθεί η μεροληψία, είτε από τα σύνολα δεδομένων που τροφοδοτούνται στους αλγόριθμους είτε από τους ίδιους τους αλγόριθμους.

Οι άνθρωποι έχουν αυτή την ιδέα ότι επειδή είναι υπολογιστής είναι ουδέτερος, προσθέτει ο Wilson. Εάν έχετε δεδομένα που είναι μεροληπτικά, είναι λογικό να εκπαιδεύσετε έναν αλγόριθμο που είναι προκατειλημμένος.



Don MacKenzie , επίκουρος καθηγητής στο Πανεπιστήμιο της Ουάσιγκτον και ένας από τους συγγραφείς της πρόσφατης μελέτης της Uber, τονίζει ότι η μελέτη δεν αποδεικνύει ότι παίζει ρόλο φυλετικής ή φυλετικής προκατάληψης. Αλλά λέει ότι είναι σημαντικό να ληφθεί υπόψη η μεροληψία στην οικονομία των συναυλιών και στους υποκείμενους αλγόριθμους - προσθέτοντας ότι το πρόβλημα θα πρέπει να είναι διαχειρίσιμο εάν οι εταιρείες είναι προσεκτικές.

Αυτός είναι ένας αναδυόμενος τομέας και αν υπάρχει ένα σύνολο βέλτιστων πρακτικών, δεν το γνωρίζω, λέει ο MacKenzie. Από την άποψή μου, οι εταιρείες, οι προγραμματιστές και οι επιστήμονες δεδομένων πρέπει να είναι προσεκτικοί, να ακούν τα σχόλια και να μην φοβούνται να δοκιμάσουν διαφορετικές λύσεις. Νομίζω ότι αν όλοι προσεγγίσουν αυτά τα ζητήματα καλή τη πίστη, εποικοδομητικά και με προθυμία να δοκιμάσουν διαφορετικά πράγματα, μπορούμε να πλησιάσουμε στην εξάλειψη της μεροληψίας σε αυτά τα συστήματα.

κρύβω

Πραγματικές Τεχνολογίες

Κατηγορία

Χωρίς Κατηγοριοποίηση

Τεχνολογία

Βιοτεχνολογία

Τεχνική Πολιτική

Την Αλλαγή Του Κλίματος

Άνθρωποι Και Τεχνολογία

Silicon Valley

Χρήση Υπολογιστή

Περιοδικό Mit News

Τεχνητή Νοημοσύνη

Χώρος

Έξυπνες Πόλεις

Blockchain

Feature Story

Προφίλ Αποφοίτων

Σύνδεση Αποφοίτων

Δυνατότητα Ειδήσεων Mit

1865

Η Θέα Μου

77 Mass Ave

Γνωρίστε Τον Συγγραφέα

Προφίλ Στη Γενναιοδωρία

Βλέπεται Στην Πανεπιστημιούπολη

Επιστολές Αποφοίτων

Νέα

Εκλογές 2020

Με Ευρετήριο

Κάτω Από Τον Θόλο

Πυροσβεστική Μάνικα

Άπειρες Ιστορίες

Πανδημικό Τεχνολογικό Έργο

Από Τον Πρόεδρο

Θέμα Εξώφυλλου

Φωτογραφίες

Συνιστάται