Δεκάδες δισεκατομμύρια επενδύονται από αυτοκινητοβιομηχανίες και τεχνολογικούς κολοσσούς προκειμένου να αναπτύξουν και να εξελίξουν αυτόνομη τεχνολογία οδήγησης, αλλά όπως διαπίστωσαν μια ομάδα ερευνητών των πανεπιστημίων του Μίσιγκαν, της Ουάσιγκτον, της Καλιφόρνια και του Στόνι Μπρουκ της Νέας Υόρκης, αρκούν μερικές μικρές αλλαγές στα σήματα κυκλοφορίας, προκειμένου να ξεγελάσει κάποιος τα αυτόνομα αυτοκίνητα.
Αυτό που έκαναν οι ερευνητές ήταν να αναλύσουν εκείνον τον αλγόριθμο που χρησιμοποιείται από τα συστήματα οπτικής ανίχνευσης ενός αυτόνομου οχήματος. Στη συνέχεια, χρησιμοποιώντας διαφορετικά μοτίβα με αυτοκόλλητα τοποθετημένα στρατηγικά στα σήματα, που δεν μπερδεύουν το ανθρώπινο μάτι, ξεγέλασαν τα συστήματα μηχανικής μάθησης. Συνολικά οι ερευνητές βρήκαν τέσσερις διαφορετικούς τρόπους να ξεγελάσουν τα συστήματα.
Στο πρώτο τοποθέτησαν μια αφίσα πάνω από το σήμα στοπ. Η αφίσα έδειχνε το ίδιο σήμα αλλά πιο ξεθωριασμένο στο ανθρώπινο μάτι. Ο αλγόριθμός όμως διάβασε όλες τις φορές την πινακίδα αντί για στοπ ως σήμα ορίου ταχύτητας 45 μιλίων/ώρα, και έτσι επιτάχυνε το όχημα προκειμένου να κινηθεί στο ανώτατο όριο ταχύτητας που έλεγε η πινακίδα.
Ο δεύτερος τρόπος ήταν η τοποθέτηση αυτοκόλλητων πάνω στα σήματα που έμοιαζαν σαν γκράφιτι και έγραφαν λέξεις “Love” και “Hate”. Το σύστημα, τις 3 από τις 4 φορές, διάβασε ξανά την πινακίδα ως σήμα ορίου ταχύτητας, επιταχύνοντας το αυτοκίνητο. Ο τρίτος τρόπος ήταν η τοποθέτηση άλλων αυτοκόλλητων που είχαν την μορφή “αφηρημένης τέχνης”, με το αποτέλεσμα να είναι ακριβώς το ίδιο με αυτό του πρώτου τρόπου.
Ο τελευταίος τρόπος ήταν η κάλυψη του βέλους μιας πινακίδας δεξιάς στροφής με γκρι αυτοκόλλητα, κάτι που είχε ως αποτέλεσμα τις 2 από τις 3 φορές το σύστημα να αναγνωρίσει την πινακίδα σαν στοπ, ενώ την 1 από τις 3 φορές την αναγνώρισε ως σήμα πρόσθετης λωρίδας κυκλοφορίας.
Σύμφωνα με τους ερευνητές η παραβίαση αυτή των συστημάτων ενός αυτόνομου οχήματος βασίζεται στην ευπάθεια των Deep Neural Networks, τα οποία έχουν προγραμματιστεί να διαβάζουν τον δρόμο με τις εικόνες που δέχονται από τα οπτικά συστήματα ανίχνευσης (LiDAR, λέιζερ, κάμερες, αισθητήρες υπερήχων), συστήματα που αποτελούν ακρογωνιαίο λίθο των αυτόνομων οχημάτων και που είναι προγραμματισμένα να έχουν μεγάλη ευαισθησία σε μικρές αλλαγές. Τα συστήματα αυτά είναι υπεύθυνα να αναγνωρίσουν τα πάντα, από την απόσταση που έχει το όχημα σε σχέση με τα άλλα οχήματα που κινούνται δίπλα του, μέχρι το σχήμα του δρόμου, την αναγνώριση ανθρώπων, δέντρων, αντικειμένων κτλ.
Οι αναλυτές κατέληξαν στο συμπέρασμα πως αν κάποιοι χάκερς θέλουν να χακάρουν ένα αυτόνομο αυτοκίνητο με τους παραπάνω τρόπους, τότε το μόνο που αρκεί είναι να γνωρίζουν τον αλγόριθμο που χρησιμοποιεί το σύστημα οπτικής ανίχνευσης του αυτοκινήτου. Καταλαβαίνουμε λοιπόν πως απαιτείται σημαντική δουλειά από τις εταιρίες προκειμένου να προσφέρουν στην αγορά αυτόνομα συστήματα ασφαλείας που θα μπορούν να μεταφέρουν με ασφάλεια τους επιβάτες τους από τον έναν προορισμό στον άλλο. Σύμφωνα με το Reuters, πολλές αυτοκινητοβιομηχανίες πλέον προσπαθούν να μην αναπτύσσουν μόνες τους αυτόνομη τεχνολογία προς όφελος της μείωσης των χρηματικών επενδύσεων που απαιτούνται αλλά και των πιθανών κινδύνων.