Συλλογή 13.500 Nastygrams Could Advance War on Trolls

Μια οπτικοποίηση αναρτήσεων στις σελίδες συζήτησης της Wikipedia τον Ιανουάριο δείχνει τη συχνότητα των προσωπικών επιθέσεων, που επισημαίνονται με κόκκινο χρώμα.



Μισογυνισμός, ρατσισμός, βωμολοχίες — μια συλλογή με περισσότερες από 13.500 διαδικτυακές προσωπικές επιθέσεις τα έχει όλα.

Τα άσχημα γράμματα προήλθαν από τις σελίδες συζήτησης της Wikipedia. Η συλλογή, μαζί με περισσότερες από 100.000 ακόμη καλοήθεις αναρτήσεις, έχει απελευθερωθεί από ερευνητές από την Alphabet και το Ίδρυμα Wikimedia, τον μη κερδοσκοπικό οργανισμό πίσω από τη Wikipedia. Λένε ότι τα δεδομένα θα ενισχύσουν τις προσπάθειες εκπαίδευσης λογισμικού για την κατανόηση και την αστυνόμευση της διαδικτυακής παρενόχλησης.





Στόχος μας είναι να δούμε πώς μπορούμε να βοηθήσουμε τους ανθρώπους να συζητήσουν τα πιο αμφιλεγόμενα και σημαντικά θέματα με παραγωγικό τρόπο σε όλο το Διαδίκτυο, λέει ο Lucas Dixon, επικεφαλής ερευνητής στο Λεπτό πριόνι , μια ομάδα εντός της Alphabet που χτίζει τεχνολογία στην υπηρεσία αιτιών όπως η ελευθερία του λόγου και η καταπολέμηση της διαφθοράς (δείτε «If Only AI Could Save Us From Ourselves»).

Οι ερευνητές του Jigsaw και του Wikimedia χρησιμοποίησαν μια υπηρεσία crowdsourcing για να βοηθήσουν τους ανθρώπους να χτενίσουν περισσότερα από 115.000 μηνύματα που δημοσιεύτηκαν σε σελίδες συζήτησης της Wikipedia, ελέγχοντας για τυχόν προσωπική επίθεση ως ορίζεται από τους κανόνες της κοινότητας . Οι συνεργάτες έχουν ήδη χρησιμοποιήσει τα δεδομένα για να εκπαιδεύσουν αλγόριθμους μηχανικής μάθησης που ανταγωνίζονται τους εργαζομένους που χρησιμοποιούν crowdsource στον εντοπισμό προσωπικών επιθέσεων. Όταν διεξήγαγαν την πλήρη συλλογή των 63 εκατομμυρίων αναρτήσεων συζήτησης που έγιναν από τους συντάκτες της Wikipedia, διαπίστωσαν ότι μόνο μία στις 10 επιθέσεις είχε ως αποτέλεσμα τη δράση των συντονιστών.

Το Wikimedia Foundation δημιουργήθηκε μείωση της παρενόχλησης μεταξύ των συντακτών της Wikipedia ήταν προτεραιότητα πέρυσι. Η πολιτική προσθέτει στις υπάρχουσες προσπάθειες για να αμβλύνει την τσιμπημένη και γραφειοκρατική ατμόσφαιρα της κοινότητας της Wikipedia, η οποία έχει διαπιστωθεί ότι αποτρέπει νέους συνεισφέροντες από τη συμμετοχή. Και τα δύο προβλήματα θα μπορούσαν να εξηγήσουν γιατί έχει δει τον αριθμό των συντακτών να μειώνονται και αγωνίζεται να διευρύνει τη συμμετοχή πέρα ​​από ένα βασικό αρσενικό, δυτικό δημογραφικό (βλ. The Decline of Wikipedia ).



Το Jigsaw και το Wikimedia Foundation δεν είναι οι πρώτοι που μελετούν την διαδικτυακή κατάχρηση, ούτε είναι οι πρώτοι που στοχεύουν να σχεδιάσουν λογισμικό που μπορεί να την εντοπίσει και να την καταπολεμήσει. Ωστόσο, οι συλλογές σχολίων που φέρουν την επισήμανση παρενοχλητικών και μη παρενοχλητικών αναρτήσεων —οι οποίες απαιτούνται για την εκπαίδευση λογισμικού μηχανικής μάθησης— ήταν σπάνιες, λέει Ellery Wulczyn , ερευνητής επιστήμης δεδομένων με το Ίδρυμα Wikimedia.

Εκτιμά ότι η συλλογή προσωπικών επιθέσεων και σχολίων από τη Wikipedia είναι μεταξύ 10 και 100 φορές μεγαλύτερη από εκείνες που ήταν διαθέσιμες στο παρελθόν. Οι αλγόριθμοι μηχανικής μάθησης χρειάζονται μεγάλο αριθμό παραδειγμάτων με ετικέτα για να μάθουν πώς να φιλτράρουν με ακρίβεια τα δεδομένα.

Ωστόσο, παραμένει ασαφές εάν αλγόριθμοι που έχουν εκπαιδευτεί για να εντοπίζουν την κατάχρηση μπορούν να αναπτυχθούν ως αποτελεσματικοί συντονιστές. Το λογισμικό απέχει πολύ από την κατανόηση όλων των αποχρώσεων της γλώσσας. Μερικοί άνθρωποι μπορεί να παρακινούνται να συντονίσουν την υβριστική τους γλώσσα για να αποφύγουν τον εντοπισμό, λέει ο Wulczyn του Wikimedia. Εάν επρόκειτο να χτίσουμε παρεμβάσεις με τις οποίες οι άνθρωποι έχουν αντίπαλη σχέση, δεν ξέρουμε τι θα συνέβαινε, λέει.

ποια είναι η υψηλότερη θερμοκρασία σώματος που μπορεί να επιβιώσει ένας άνθρωπος
κρύβω

Πραγματικές Τεχνολογίες

Κατηγορία

Χωρίς Κατηγοριοποίηση

Τεχνολογία

Βιοτεχνολογία

Τεχνική Πολιτική

Την Αλλαγή Του Κλίματος

Άνθρωποι Και Τεχνολογία

Silicon Valley

Χρήση Υπολογιστή

Περιοδικό Mit News

Τεχνητή Νοημοσύνη

Χώρος

Έξυπνες Πόλεις

Blockchain

Feature Story

Προφίλ Αποφοίτων

Σύνδεση Αποφοίτων

Δυνατότητα Ειδήσεων Mit

1865

Η Θέα Μου

77 Mass Ave

Γνωρίστε Τον Συγγραφέα

Προφίλ Στη Γενναιοδωρία

Βλέπεται Στην Πανεπιστημιούπολη

Επιστολές Αποφοίτων

Νέα

Εκλογές 2020

Με Ευρετήριο

Κάτω Από Τον Θόλο

Πυροσβεστική Μάνικα

Άπειρες Ιστορίες

Πανδημικό Τεχνολογικό Έργο

Από Τον Πρόεδρο

Θέμα Εξώφυλλου

Φωτογραφίες

Συνιστάται