Αν μόνο το AI μπορούσε να μας σώσει από τον εαυτό μας



μαγικά οι κάρτες συλλογής εξήγησαν

Οι άνθρωποι έχουν σπάσει το Διαδίκτυο. Ο διαδικτυακός εκφοβισμός, η παρενόχληση, η κοινωνική ντροπή και η καθαρή δυσαρέσκεια μαστίζουν ιστότοπους όπως το Twitter και το Reddit, ειδικά αν τύχει να προσελκύσετε λάθος είδους προσοχή. Σκεφτείτε τον τρόπο ΚΥΝΗΓΟΙ ΦΑΝΤΑΣΜΑΤΩΝ η πρωταγωνίστρια Leslie Jones και στέλεχος δημοσίων σχέσεων Justine Sacco έγιναν στόχοι μαζικής κακοποίησης.

Οι εταιρείες που διαθέτουν διαδικτυακές υπηρεσίες συνήθως στριμώχνονται μεταξύ των κατηγοριών αδιαφορίας για παρενόχληση και καταστολής της ελευθερίας του λόγου. Αλλά τώρα η Google πιστεύει ότι μπορεί να χρησιμοποιήσει την τεχνητή νοημοσύνη για να μειώσει αυτήν την τραγωδία των ψηφιακών κοινών. (Αποκάλυψη: Εργάστηκα για την Google τη δεκαετία του 2000.) Μια θερμοκοιτίδα τεχνολογίας στην εταιρεία, που ονομάζεται Jigsaw—παλαιότερα γνωστή ως Google Ideas— λέει ότι σκοπεύει να εντοπίσει και να αφαιρέσει την ψηφιακή παρενόχληση με ένα αυτοματοποιημένο πρόγραμμα που ονομάζεται Conversation AI. Ως πρόεδρος του Jigsaw, Jared Cohen, είπε Ενσύρματο , Θέλω να χρησιμοποιήσω την καλύτερη τεχνολογία που έχουμε στη διάθεσή μας για να αρχίσω να ακολουθώ το τρολάρισμα και άλλες άθλιες τακτικές που δίνουν δυσανάλογη βαρύτητα στις εχθρικές φωνές, [και] να κάνουμε ό,τι περνάει από το χέρι μας για να ισοπεδώσουμε τους όρους παιχνιδιού.





Χακάρισμα του βιολογικού ρολογιού

Αυτή η ιστορία ήταν μέρος του τεύχους μας Ιανουαρίου 2017

  • Δείτε το υπόλοιπο τεύχος
  • Εγγραφείτε

Είναι θάρρος για την Google να το αναλάβει αυτό και είναι διαφορετικό από κάποια από τα προηγούμενα έργα του Jigsaw. Αυτό περιλαμβάνει το Project Shield, το οποίο προστατεύει ειδησεογραφικούς ιστότοπους και ιστότοπους που προωθούν την ελευθερία της έκφρασης από επιθέσεις άρνησης υπηρεσίας. Μια άλλη προσπάθεια Jigsaw, το Password Alert, είναι μια επέκταση του Chrome που προστατεύει από επιθέσεις phishing. Αυτές ήταν κυρίως τεχνικές προκλήσεις. Αλλά η καταπολέμηση των τρολ και των διαδικτυακών όχλων είναι επίσης ένα κοινωνιολογικό πρόβλημα.

Το πράγμα αναθεωρήθηκε

  • AI Chat

    από το Jigsaw της Google



Το Conversation AI είναι παρακλάδι ενός από τα πιο επιτυχημένα έργα Moonshot της Google, του Google Brain. Συνέβαλε στην επανάσταση στον τομέα της μηχανικής μάθησης μέσω νευρωνικών δικτύων μεγάλης κλίμακας και έδωσε πλεονεκτήματα της Google, όπως το λογισμικό που είναι πιο επιδέξιο από τους ανθρώπους στην αναγνώριση εικόνων. Αλλά το Conversation AI δεν θα μπορέσει να νικήσει την διαδικτυακή κατάχρηση. Αν και ο δηλωμένος στόχος του Jigsaw είναι να καταπολεμήστε την άνοδο των διαδικτυακών όχλων , το ίδιο το πρόγραμμα είναι ένα πολύ πιο μέτριο —και επομένως πιο εύλογο— έργο. Η τεχνητή νοημοσύνη συνομιλίας θα εξορθολογίσει πρωτίστως τη μετριοπάθεια της κοινότητας που εκτελείται σήμερα από τους ανθρώπους. Έτσι, ακόμα κι αν δεν είναι σε θέση να εξουδετερώσει τη χειρότερη συμπεριφορά στο διαδίκτυο, μπορεί να ενθαρρύνει περισσότερο και καλύτερο διάλογο σε ορισμένους ιστότοπους.

Ανίχνευση υπαινιγμών

Το Jigsaw ξεκινά το Conversation AI στο Νιου Γιορκ Ταιμς , όπου θα κυκλοφορήσει σε λίγους μήνες για να βοηθήσει την εταιρεία να διαχειριστεί τα διαδικτυακά της σχόλια. Οι ανθρώπινοι συντονιστές εξετάζουν επί του παρόντος σχεδόν κάθε σχόλιο που δημοσιεύεται στον ιστότοπο. Αυτήν τη στιγμή, το Conversation AI διαβάζει 18 εκατομμύρια από αυτά, μαθαίνοντας να εντοπίζει κάθε μεμονωμένη κατηγορία σχολίων που απορρίπτονται—ασήμαντα, εκτός θέματος, ανεπιθύμητα, ασυνάρτητα, εμπρηστικά, άσεμνα, επίθεση σε σχολιαστή, επίθεση στον συγγραφέα, επίθεση στον εκδότη.

ο Φορές Ο στόχος του δεν είναι απαραίτητα να μειώσει την κατάχρηση στα σχόλιά του, ένα πρόβλημα που ήδη θεωρεί υπό έλεγχο. Αντίθετα, ελπίζει να μειώσει τον φόρτο εργασίας των ανθρώπινων συντονιστών. Δεν περιμένουμε ποτέ να έχουμε ένα σύστημα που να είναι πλήρως αυτοματοποιημένο, είπε η Erica Greene, υπεύθυνη μηχανικού του Νιου Γιορκ Ταιμς ομάδα της κοινότητας, μου είπε. Φορές Ο συντάκτης της κοινότητας Bassey Etim εκτιμά ότι κάπου μεταξύ 50 και 80 τοις εκατό των σχολίων θα μπορούσαν τελικά να εποπτεύονται αυτόματα, αφήνοντας τους υπαλλήλους να αφιερώσουν τις προσπάθειές τους στη δημιουργία πιο συναρπαστικού περιεχομένου από τις ενότητες σχολίων της εφημερίδας.



ο Νιου Γιορκ Ταιμς ο ιστότοπος δημιουργεί πολύ διαφορετικά προβλήματα από το δωρεάν για όλους σε πραγματικό χρόνο του Twitter και του Reddit. Και δεδομένων των περιορισμών της μηχανικής μάθησης —όπως υφίσταται σήμερα— το Conversation AI δεν μπορεί να καταπολεμήσει την κατάχρηση στους ανοιχτούς χώρους του Διαδικτύου. Παρ' όλα τα εκθαμβωτικά επιτεύγματα της μηχανικής μάθησης, δεν έχει ακόμη ραγίσει την ανθρώπινη γλώσσα , όπου μοτίβα όπως αυτά που μπορεί να βρει κανείς στο Go ή τις εικόνες αποδεικνύονται διαβολικά άπιαστα.

Εικονογράφηση Erik Carter

Το γλωσσικό πρόβλημα στον εντοπισμό κατάχρησης είναι το πλαίσιο. Η ανάλυση σχολίων του Conversation AI δεν μοντελοποιεί ολόκληρη τη ροή μιας συζήτησης. αντιστοιχίζει μεμονωμένα σχόλια με μαθημένα μοντέλα για το τι συνιστούν καλά ή κακά σχόλια. Για παράδειγμα, σχόλια για το Νιου Γιορκ Ταιμς ο ιστότοπος μπορεί να θεωρηθεί αποδεκτός εάν τείνει να περιλαμβάνει κοινές λέξεις, φράσεις και άλλα χαρακτηριστικά. Ωστόσο, ο Greene λέει ότι το σύστημα της Google επισήμανε συχνά σχόλια σε άρθρα σχετικά με τον Ντόναλντ Τραμπ ως υβριστικά, επειδή τον παρέθεταν χρησιμοποιώντας λέξεις που θα απορρίπτονταν ένα σχόλιο εάν προέρχονταν από έναν αναγνώστη. Για αυτού του είδους τα άρθρα, το Φορές απλά θα απενεργοποιήσει την αυτόματη εποπτεία.

Είναι αδύνατο, λοιπόν, να δούμε το Conversation AI να τα πάει καλά σε έναν ευρέως ανοιχτό ιστότοπο όπως το Twitter. Πώς θα ανίχνευε καταχρηστικά τις νύξεις του Ολοκαυτώματος tweets που στάλθηκαν στον Εβραίο δημοσιογράφο Marc Daalder : Αυτός είσαι εσύ, αν κερδίσει ο Τραμπ, με μια εικόνα από σκιά φωτιστικού, και ανήκεις εδώ, με μια φωτογραφία φούρνου τοστιέρα; Ο εντοπισμός της καταχρηστικότητας βασίζεται στην ιστορική γνώση και το πολιτισμικό πλαίσιο που ένας αλγόριθμος μηχανικής μάθησης θα μπορούσε να εντοπίσει μόνο εάν είχε εκπαιδευτεί σε πολύ παρόμοια παραδείγματα. Ακόμη και τότε, πώς θα μπορούσε να γίνει διάκριση μεταξύ της κατάχρησης και της ίδιας εικόνας με το This is what I’m buying if Trump κερδίζει; Το επίπεδο σημασιολογικής και πρακτικής γνώσης που απαιτείται είναι πέρα ​​από αυτό στο οποίο στοχεύει επί του παρόντος η μηχανική μάθηση.

Κατά συνέπεια, ένα αφοσιωμένο τρολ στο Twitter θα βρει αναμφίβολα έναν νέο τρόπο έκφρασης κατάχρησης που αποφεύγει ένα σύστημα όπως το Conversation AI. Μπλοκάροντας ορισμένα σχόλια, η μηχανική εκμάθηση θα μπορούσε να κάνει μια αξιοπρεπή δουλειά στο να κάνει τους σχολιαστές να σταματήσουν να αποκαλούν επιπόλαια ο ένας τον άλλον fags και homos, αν αυτός είναι ο στόχος. Αλλά η μηχανική μάθηση δεν θα μπορέσει να αποτρέψει ένα άτομο που θέλει να υπονοήσει ότι κάποιος είναι queer.

Με άλλα λόγια, το Conversation AI θα επιτρέψει τις εργασίες εποπτείας να εκτελούνται πιο αποτελεσματικά σε κοινότητες που ήδη τείνουν να έχουν αρκετά καλή συμπεριφορά. Δεν είναι σε θέση να εξαλείψει τη χειρότερη κατάχρηση που ακούμε, η οποία εμφανίζεται συχνά σε ιστότοπους με ελάχιστα πρότυπα μετριοπάθειας. Αστυνομική κατάχρηση στο Twitter και το Reddit είναι αδύνατο χωρίς ουσιαστική αλλαγή της φύσης αυτών των πλατφορμών.

Περιφραγμένες κοινότητες

Η αστυνόμευση κατάχρησης στο Twitter και το Reddit είναι αδύνατη χωρίς ουσιαστική αλλαγή της φύσης αυτών των πλατφορμών.

Η επιτυχία του Facebook είναι μια υπενθύμιση ότι οι περισσότεροι άνθρωποι, και σίγουρα οι περισσότερες εταιρείες, προτιμούν ένα σχετικά προστατευμένο και ελεγχόμενο περιβάλλον από ένα περιβάλλον όπου άγνωστοι μπορούν να εισβάλουν στις επιχειρήσεις άλλων και να ξεκινήσουν καβγάδες. Έτσι, εάν το Conversation AI ή παρόμοια εργαλεία καθιστούν ευκολότερη και πιο αποτελεσματική την άσκηση τέτοιου ελέγχου, είναι μια υπενθύμιση ότι η επίλυση του προβλήματος κατάχρησης, είτε με ανθρώπινα είτε με αυτοματοποιημένα μέσα, απαιτεί την απομάκρυνση από τη μέγιστη περιεκτικότητα ως το υψηλότερο ιδανικό στο διαδίκτυο. Ακόμη και φαινομενικά ανοιχτές κοινότητες όπως το StackExchange και το MetaFilter απαιτούν συνεχή παρέμβαση συντονιστή και κοινοτική αστυνόμευση. Πραγματικά αναρχικές κοινότητες, όπως το Twitter, το 4chan και ορισμένα κανάλια στο Reddit, αποδεικνύονται οι εξαιρέσεις στο διαδίκτυο και όχι ο κανόνας. Ούτε οι αναρχικές κοινότητες είναι χρηματοδότες. Το Twitter δυσκολεύτηκε να προσελκύσει αγοραστή, εν μέρει λόγω της φήμης του για καταχρηστικό περιεχόμενο, ενώ το Reddit είχε υψηλό βαθμό εναλλαγής προσωπικού και δυσκολίες στη δημιουργία εσόδων. Η φύση της Άγριας Δύσης αυτών των τοποθεσιών θα γίνει πιο εμφανής εάν εργαλεία όπως το Conversation AI κάνουν τους εποπτευόμενους ιστότοπους να λειτουργούν ακόμη καλύτερα.

Αξίζει να σημειωθεί ένα μεγάλο δυνητικό μειονέκτημα. Επειδή το Conversation AI εκπαιδεύεται για να εγκρίνει περιεχόμενο που ακολουθεί ορισμένες λεξικές, γραμματικές και στυλιστικές οδηγίες, δεν θα φιλτράρει απλώς το καταχρηστικό περιεχόμενο. Θα μπορούσε επίσης να τείνει να χτυπήσει ποικίλος περιεχόμενο. Αυτό εγείρει ερωτήματα για το τι θα μπορούσαν να κάνουν οι κυβερνήσεις με λογοκρισία. Ακριβώς όπως το Φορές επιμελείται τις κοινότητές της, το ίδιο και οι κυβερνήσεις της Τουρκίας και της Κίνας μπορούν να επιμεληθούν τις δικές τους. Ενώ οι προσπάθειες Jigsaw όπως το Project Shield στοχεύουν στην παροχή άμυνας για πολιτικά ευαίσθητους ιστότοπους, το Conversation AI διευκολύνει το φιλτράρισμα της ανεπιθύμητης ομιλίας — αλλά το ερώτημα είναι, ανεπιθύμητη από ποιον; Δεν υπάρχει ετικέτα στο κουτί που να λέει, Χρησιμοποιήστε μόνο για να αποτρέψετε την κατάχρηση.

Ο David Auerbach γράφει ένα βιβλίο για τις γλώσσες του ανθρώπου και των υπολογιστών και τη σύγκλιση τους, που θα κυκλοφορήσει από τις εκδόσεις Pantheon. Εργάστηκε για 11 χρόνια ως μηχανικός λογισμικού στην Google και τη Microsoft, κυρίως σε υποδομές διακομιστών.

κρύβω

Πραγματικές Τεχνολογίες

Κατηγορία

Χωρίς Κατηγοριοποίηση

Τεχνολογία

Βιοτεχνολογία

Τεχνική Πολιτική

Την Αλλαγή Του Κλίματος

Άνθρωποι Και Τεχνολογία

Silicon Valley

Χρήση Υπολογιστή

Περιοδικό Mit News

Τεχνητή Νοημοσύνη

Χώρος

Έξυπνες Πόλεις

Blockchain

Feature Story

Προφίλ Αποφοίτων

Σύνδεση Αποφοίτων

Δυνατότητα Ειδήσεων Mit

1865

Η Θέα Μου

77 Mass Ave

Γνωρίστε Τον Συγγραφέα

Προφίλ Στη Γενναιοδωρία

Βλέπεται Στην Πανεπιστημιούπολη

Επιστολές Αποφοίτων

Νέα

Εκλογές 2020

Με Ευρετήριο

Κάτω Από Τον Θόλο

Πυροσβεστική Μάνικα

Άπειρες Ιστορίες

Πανδημικό Τεχνολογικό Έργο

Από Τον Πρόεδρο

Θέμα Εξώφυλλου

Φωτογραφίες

Συνιστάται