Πόσο καιρό προτού παραβιαστούν τα συστήματα AI με δημιουργικούς νέους τρόπους;

Οι πιο πρόσφατες τεχνικές τεχνητής νοημοσύνης υιοθετούνται από εταιρείες με καταιγιστικό ρυθμό. Σύντομα, οι χάκερ μπορεί να αρχίσουν να κοιτάζουν προσεκτικά, και θα μπορούσαν να προκαλέσουν κάθε είδους προβλήματα ξεγελώντας αυτά τα συστήματα με απατηλά δεδομένα.



Μιλώντας σε ένα πρόσφατο συνέδριο τεχνητής νοημοσύνης στη Βαρκελώνη της Ισπανίας, ο Ian Goodfellow, ερευνητής στο OpenAI που έχει κάνει πρωτοποριακή δουλειά στην εξαπάτηση συστημάτων μηχανικής μάθησης, είπε ότι η επίθεση στα συστήματα είναι εύκολη. Σχεδόν οτιδήποτε κακό μπορείτε να σκεφτείτε να κάνετε σε ένα μοντέλο μηχανικής μάθησης μπορεί να γίνει αυτή τη στιγμή, είπε. Και το να το υπερασπιστείς είναι πραγματικά πολύ δύσκολο.

πώς να γράψω καλή φαντασία

Τα τελευταία χρόνια, οι ερευνητές έχουν αποδείξει διάφορους τρόπους με τους οποίους θα μπορούσαν να χειριστούν προγράμματα μηχανικής μάθησης, αξιοποιώντας την τάση τους να εντοπίζουν μοτίβα στα δεδομένα. Είναι ευάλωτοι, εν μέρει, επειδή δεν έχουν πραγματική νοημοσύνη. Για παράδειγμα, είναι δυνατό να χρησιμοποιήσετε μια διαφημιστική πινακίδα για να εξαπατήσετε τα συστήματα όρασης στα αυτοοδηγούμενα αυτοκίνητα ώστε να δουν πράγματα που δεν υπάρχουν. Τα μη ηχητικά σήματα μπορούν να ξεγελάσουν τους βοηθούς που ελέγχονται με φωνή ώστε να προβούν σε ανεπιθύμητες ενέργειες, όπως η επίσκεψη σε έναν ιστότοπο και η λήψη ενός τμήματος κακόβουλου λογισμικού.





Ο Goodfellow και άλλοι αναπτύσσουν αντίμετρα. Είναι δυνατό να εκπαιδεύσετε ένα σύστημα μηχανικής μάθησης ώστε να αναγνωρίζει και στη συνέχεια να αγνοεί παραπλανητικά παραδείγματα. Αλλά είναι δύσκολο να προστατευτείς από κάθε πιθανή επίθεση.

Η κοροϊδία των συστημάτων μηχανικής μάθησης μπορεί να γίνει κάτι περισσότερο από μια ακαδημαϊκή άσκηση. Αυτό είναι πολύ πραγματικό, λέει ο Πάτρικ ΜακΝτάνιελ, καθηγητής στο Πολιτειακό Πανεπιστήμιο της Πενσυλβάνια που έχει διερευνήσει το θέμα. Τα συστήματα μηχανικής μάθησης οδηγούν όλα τα είδη λειτουργιών που θα μπορούσαν να αποκομίσουν έσοδα από τους αντιπάλους, και έτσι οργανωμένοι και εξελιγμένοι εισβολείς θα αγκαλιάσουν αυτές τις επιθέσεις.

Ο McDaniel επισημαίνει ότι οι χάκερ έχουν ξεγελάσει τα συστήματα μηχανικής μάθησης εδώ και χρόνια. Οι αποστολείς ανεπιθύμητης αλληλογραφίας, για παράδειγμα, έχουν τροφοδοτήσει αλγόριθμους εκμάθησης με ψεύτικα e-mail για να επιτρέψουν στα ανεπιθύμητα μηνύματα να περάσουν αργότερα. Λέει ότι μπορεί να μην αργήσει να εμφανιστούν πιο περίπλοκες επιθέσεις.



Οι πρώτες επιθέσεις θα έρθουν πολύ σύντομα εναντίον των διαδικτυακών συστημάτων ταξινόμησης, λέει ο McDaniel. Αυτό θα μπορούσε να περιλαμβάνει σύγχρονα φίλτρα ανεπιθύμητης αλληλογραφίας, συστήματα σχεδιασμένα για την ανίχνευση παράνομου υλικού ή υλικού πνευματικών δικαιωμάτων και προηγμένα συστήματα ασφαλείας υπολογιστών που βασίζονται σε μηχανική μάθηση.

Ένα νέο έγγραφο υποδηλώνει ότι το πρόβλημα θα μπορούσε να είναι πιο διαδεδομένο από ό,τι ήταν γνωστό στο παρελθόν. Δείχνει ότι ορισμένες εξαπατήσεις μπορούν να επαναχρησιμοποιηθούν εναντίον διαφορετικών συστημάτων μηχανικής μάθησης ή ακόμη και εναντίον ενός συστήματος μεγάλου μαύρου κουτιού για το οποίο ο εισβολέας δεν έχει προηγούμενη γνώση.

Σφάλματα που κρύβονται σε αυτά τα δημοφιλή εργαλεία μηχανικής μάθησης θα μπορούσαν να προσφέρουν έναν άλλο τρόπο στόχευσής τους. Νέα εργαλεία μηχανικής μάθησης αναπτύσσονται με γρήγορους ρυθμούς και συχνά κυκλοφορούν δωρεάν στο διαδίκτυο πριν χρησιμοποιηθούν σε ενεργές υπηρεσίες όπως η αναγνώριση εικόνας ή τα εργαλεία ανάλυσης φυσικής γλώσσας.

Μιλώντας στο ίδιο συνέδριο στην Ισπανία, ο Octavian Suciu, διδάκτορας στο Πανεπιστήμιο του Maryland, τόνισε μια σειρά από τέτοια τρωτά σημεία σε ορισμένα δημοφιλή εργαλεία. Ο Suciu ανέλυσε τον πηγαίο κώδικα για αυτά τα προγράμματα και διαπίστωσε ότι μπορούσε να γίνει χειρισμός. Βρήκε προβλήματα με τον τρόπο με τον οποίο ορισμένα εργαλεία αποθηκεύουν πληροφορίες στη μνήμη, πράγμα που σημαίνει ότι η τροφοδοσία σε ένα πολύ μεγάλο κομμάτι δεδομένων θα μπορούσε να αντικαταστήσει μέρος του προγράμματος, αλλάζοντας τη συμπεριφορά του.



πώς μοιάζει το google glass

Ο Suciu εικάζει ότι η προσέγγιση θα μπορούσε να προσφέρει έναν εύχρηστο τρόπο χειραγώγησης, για παράδειγμα, ενός εργαλείου που προσφέρει προβλέψεις μετοχών, οι οποίες στη συνέχεια θα μπορούσαν να χρησιμοποιηθούν για τη μείωση της αγοράς. Εάν [ένα μοντέλο] σας πει ότι η μετοχή θα ανέβει, θα μπορούσατε να αλλάξετε την πρόβλεψη για να πείτε ότι θα πέσει, λέει.

κρύβω

Πραγματικές Τεχνολογίες

Κατηγορία

Χωρίς Κατηγοριοποίηση

Τεχνολογία

Βιοτεχνολογία

Τεχνική Πολιτική

Την Αλλαγή Του Κλίματος

Άνθρωποι Και Τεχνολογία

Silicon Valley

Χρήση Υπολογιστή

Περιοδικό Mit News

Τεχνητή Νοημοσύνη

Χώρος

Έξυπνες Πόλεις

Blockchain

Feature Story

Προφίλ Αποφοίτων

Σύνδεση Αποφοίτων

Δυνατότητα Ειδήσεων Mit

1865

Η Θέα Μου

77 Mass Ave

Γνωρίστε Τον Συγγραφέα

Προφίλ Στη Γενναιοδωρία

Βλέπεται Στην Πανεπιστημιούπολη

Επιστολές Αποφοίτων

Νέα

Εκλογές 2020

Με Ευρετήριο

Κάτω Από Τον Θόλο

Πυροσβεστική Μάνικα

Άπειρες Ιστορίες

Πανδημικό Τεχνολογικό Έργο

Από Τον Πρόεδρο

Θέμα Εξώφυλλου

Φωτογραφίες

Συνιστάται