autonomous-car-accident

Μπορεί εκ πρώτης όψης ο τίτλος του άρθρου να φαίνεται προκλητικός, αλλά για να δούμε λίγο το θέμα εκτενώς. Τα αυτόνομα αυτοκίνητα καλώς ή κακώς είναι το νέο trent από τεχνολογική άποψη στη βιομηχανία του αυτοκινήτου, και δυστυχώς ή ευτυχώς το next big thing (που θα λέγαν και στο χωριό μου). Όταν μεγαθήρια της τεχνολογίας όπως η Apple, η Intel και η Google ασχολούνται με το θέμα και χώρες όπως η Αμερική, η Αγγλία και η Αυστραλία ήδη έχουν κάνει τα πρώτα βήματα για να επιτρέψουν την κυκλοφορία τέτοιων οχημάτων, καταλαβαίνεις ότι μιλάμε για το μέλλον.

Τα αυτόνομα αυτοκίνητα είναι… αυτόνομα, και έτσι εκτός από το ότι σε πηγαίνουν από το σημείο Α στο σημείο Β ενώ εσύ κάθεσαι σταυροπόδι και σερφάρεις στο κινητό σου, παίρνουν αποφάσεις για λογαριασμό του οδηγού τους! Όλα τέλεια μέχρι εδώ. Τι γίνεται όμως στη περίπτωση που το αυτοκίνητο πρέπει να πάρει μια πολύ δύσκολη απόφαση όπως το να σκοτώσει έναν άνθρωπο;

Πάμε να δούμε ένα παράδειγμα για να καταλάβεις για τι μιλάω: Φαντάσου ότι είσαι μέσα στο αυτόνομο αυτοκίνητό σου και οδηγείς και μπροστά σου υπάρχει μια παρέα ανθρώπων που διασχίζει το δρόμο ενώ στο πεζοδρόμιο δίπλα σου περπατάει ένα περαστικός. Για κάποιο λόγο που και πάλι μπορούμε να υποθέσουμε (πήγαινες με μεγάλη ταχύτητα ή δεν λειτουργούν σωστά τα φρένα ή κάτι άλλο που δεν έχει και μεγάλο νόημα να ορίσουμε) το αυτοκίνητο σύμφωνα με τους υπολογισμούς του δε προλαβαίνει να φρενάρει και να σταματήσει πριν τη παρέα που διασχίζει το δρόμο και υπολογίζει ότι έχει τρεις εναλλακτικές:

  • Να συνεχίσει ευθεία και να σκοτώσει τα άτομα της παρέας
  • Να στρίψει απότομα και να σκοτώσει το περαστικό
  • Να αποφύγει τους περαστικούς και να σε ρίξει πάνω σε μια κολώνα σκοτώνοντας εσένα

Ta autonoma autokinita prepei na programmatistoun na skotonoun

Και εδώ αρχίζει το μεγάλο πρόβλημα: τι είναι «ηθικό» να κάνει το αυτοκίνητο; Να προστατεύσει τον οδηγό ή να τον θυσιάσει; Να πάρει απόφαση ελαχιστοποιώντας τα θύματα μιας τραγωδίας; Και εδώ γίνεται ακόμα πιο μεγάλο το πρόβλημα! Γιατί; Διότι αν θέλουμε να έχουμε μια ωφελιμιστική προσέγγιση του προβλήματος, όπου δηλαδή στόχος μιας πράξης πρέπει να είναι η μεγαλύτερη κατά το δυνατόν ωφέλεια για τον μεγαλύτερο κατά το δυνατόν αριθμό ανθρώπων, το αυτοκίνητο θα πρέπει να πάρει την απόφαση να σκοτώσει τον οδηγό, αφού παρ’ όλο που ο αριθμός των θυμάτων θα είναι ίδιος στη περίπτωση που σκοτώσει τον περαστικό, ο περαστικός a priori δεν έχει την δυνατότητα ενσυνείδητης επιλογής στο συγκεκριμένο περιβάλλον. Όλα μια χαρά ως εδώ θα μου πεις πριν σε σταματήσω. Και δε μου λες, ποιος θα αγοράσει αυτοκίνητο που θα τον σκοτώσει σε περίπτωση ατυχήματος; Πιθανότατα κανένας, και αυτό μόλις αποδείχθηκε.

Έρευνα που δημοσιεύτηκε πρόσφατα, δείχνει ότι:

  • Θεωρούμε σωστό το αυτοκίνητο να θυσιάσει τον οδηγό.
  • Προτιμάμε να μην οδηγούμε αυτοκίνητα που θα θυσιάσουν τον οδηγό.

Και εδώ έχουμε ένα μεγάλο παράδοξο που κάνει το πρόβλημα ακόμα πιο δύσκολο να λυθεί, διότι παρόλο που εύκολα καταλαβαίνουμε και αποδεχόμαστε το ποια είναι η σωστή απόφαση που πρέπει να πάρει το αυτοκίνητο, την θέλουμε όταν πρόκειται για άλλους και όχι για εμάς και δεν θα αγοράζαμε ένα αυτοκίνητο που θα μας θυσίαζε σε περίπτωση ατυχήματος.

Από πλευρά ηθικής της τεχνολογίας αυτό φαίνεται παράξενο, αφού στη ρομποτική ισχύει το αντίστροφο. Ως γνωστών οι τρεις νόμοι της ρομποτικής λένε πως ένα ρομπότ:

  • Δε μπορεί να βλάψει άνθρωπο, ούτε με την αδράνειά του να επιτρέψει να βλαφτεί άνθρωπος.
  • Οφείλει να υπακούει τις διαταγές που του δίνουν, εκτός αν συγκρούονται με τον 1o νόμο.
  • Οφείλει να προστατεύει την ύπαρξή του, εφόσον δεν συγκρούεται με τον 1o και 2o νόμο.

Επομένως αν θεωρήσουμε ένα αυτόνομο αυτοκίνητο ως ρομπότ, δεν θα έπρεπε να συζητάμε καν την πιθανότητα αφαίρεσης ζωής ως επιλογή, αλλά την προστασία της και μόνο, με κάθε κόστος.

Η συζήτηση όμως έχει συνέχεια: Τι γίνεται στη περίπτωση που κάθε κατασκευαστής αποφασίσει να φτιάξει το δικό του λογισμικό και ενδεχομένως κάποιος από αυτούς προτιμήσει το αυτοκίνητο σε τέτοιες περιπτώσεις να προστατεύει τον οδηγό και να σκοτώνει κάποιον περαστικό; Πόσο υπεύθυνος για ένα τέτοιο δυστύχημα είναι ο ίδιος ο οδηγός που αγόρασε αυτό το μοντέλο γνωρίζοντας ότι το αυτοκίνητο θα πάρει την απόφαση να σκοτώσει έναν άνθρωπο; Ποια είναι η ευθύνη της κατασκευάστριας εταιρίας στη περίπτωση αυτή;

Όπως καταλαβαίνεις το θέμα δεν είναι εύκολο να λυθεί και σηκώνει μεγάλη κουβέντα πριν παρθεί οποιαδήποτε απόφαση, που στο επίπεδο αυτό δε μπορεί παρά να είναι άκρως φιλοσοφική μεν, αλλά ουσιώδεις και πρέπει να γίνει, αν θεωρήσουμε ότι το μέλλον της αυτοκίνησης είναι τα αυτόνομα αυτοκίνητα και θα πρέπει να ζήσουμε με τις συνέπειες.

Εσύ όμως τι πιστεύεις ότι θα πρέπει να γίνει στο θέμα αυτό; Πρέπει τα αυτόνομα αυτοκίνητα να προγραμματιστούν να σκοτώνουν, ελαχιστοποιώντας τα θύματα πιθανού ατυχήματος, να προστατεύουν το οδηγό ή να τον θυσιάζουν σώζοντας περαστικούς;