Πολλές συζητήσεις και ηθικές σκέψεις σχετικά με τα αυτοκατευθυνόμενα αυτοκίνητα έχουν επικεντρωθεί σε τραγικά διλήμματα, όπως τα υποθετικά, στα οποία ένα αυτοκίνητο πρέπει να αποφασίσει αν θα τρέξει πάνω από μια ομάδα μαθητών ή θα βγει από έναν γκρεμό, σκοτώνοντας τους κατοίκους του. Αλλά αυτές οι καταστάσεις είναι ακραίες περιπτώσεις.
Δεδομένου ότι η πιο πρόσφατη συντριβή - στην οποία ένα αυτοκαταστροφικό αυτοκίνητο σκότωσε πεζών στο Τέμπε, Αριζόνα - καταδεικνύει, οι καθημερινές καταστάσεις σε κάθε διασταύρωση, στροφή και διασταύρωση παρουσιάζουν πολύ μεγαλύτερες και ευρύτερες ηθικές δυσκολίες.
Ηθική των άκρων
Ως φιλόσοφος που εργάστηκε με μηχανικούς στο Κέντρου Αυτοκινητοβιομηχανίας του Στάνφορντ, αρχίσαμε να εκπλαγούμε ότι πέρασα τις εργαστηριακές συναντήσεις μας συζητώντας τι σκέφτηκα ότι ήταν μια εύκολη ερώτηση: Πώς πρέπει ένα αυτοκίνητο αυτοκίνησης να προσεγγίσει μια διασταύρωση;
Η παραδοχή μου ήταν ότι θα σκεφτόμασταν πώς ένα αυτοκίνητο θα πρέπει να αποφασίσει μεταξύ της ζωής των επιβατών και της ζωής των πεζών. Ήξερα πώς να σκεφτώ για τέτοια διλήμματα επειδή αυτά τα σενάρια συντριβής μοιάζουν με ένα διάσημο φιλοσοφικό σκεπτόμενο που ονομάζεται "πρόβλημα τροχαλίας". Φανταστείτε ότι ένα καμαρωτό καροτσάκι χτυπά κάτω τα κομμάτια και είναι υποχρεωμένο να χτυπήσει είτε μια ομάδα πέντε είτε ένα άτομο - θα σκοτώστε ένα για να σώσετε πέντε;
Ωστόσο, πολλοί φιλόσοφοι αμφισβητούν σήμερα ότι η διερεύνηση τέτοιων ερωτήσεων είναι μια καρποφόρος οδός έρευνας. Η Barbara Fried, συνάδελφος στο Στάνφορντ, για παράδειγμα, ισχυρίστηκε ότι τα τραγικά διλήμματα κάνουν τους ανθρώπους να πιστεύουν ότι τα ηθικά ζητήματα προέρχονται κυρίως σε ακραίες και άσχημες συνθήκες.
Στην πραγματικότητα, οι ηθικές δυσκολίες είναι πανταχού παρόντες. Καθημερινές, κοσμικές καταστάσεις είναι εκπληκτικά ακατάστατες και περίπλοκες, συχνά με λεπτούς τρόπους. Για παράδειγμα: Εάν η πόλη σας δαπανήσει χρήματα για πρόγραμμα πρόληψης του διαβήτη ή για περισσότερους κοινωνικούς λειτουργούς; Σε περίπτωση που το τοπικό Υπουργείο Δημόσιας Υγείας θα προσλάβει έναν άλλο επιθεωρητή για τα πρότυπα υγιεινής των εστιατορίων ή θα συνεχίσει ένα πρόγραμμα που θα παρέχει δωρεάν βελόνες και εγχύσεις;
Αυτά τα ερωτήματα είναι εξαιρετικά δύσκολα να απαντηθούν λόγω αβεβαιότητας σχετικά με τις συνέπειες - όπως ποιος θα επηρεαστεί και σε ποιο βαθμό. Οι φιλοσοφίες λύσεων που έχουν προταθεί για τις ακραίες και απελπισμένες καταστάσεις είναι ελάχιστα χρήσιμες εδώ.
Το πρόβλημα είναι παρόμοιο με αυτο-οδήγηση αυτοκινήτων. Η σκέψη μέσα από ακραίες καταστάσεις και σενάρια συντριβής δεν μπορεί να βοηθήσει στην απάντηση στις ερωτήσεις που προκύπτουν σε κοσμικές καταστάσεις.
Μια πρόκληση στις διασταυρώσεις
Θα μπορούσαμε να ρωτήσουμε, τι μπορεί να είναι τόσο δύσκολο για κοσμικές καταστάσεις κυκλοφορίας, όπως η προσέγγιση ενός διαδρόμου, η οδήγηση σε μια διασταύρωση ή μια αριστερή στροφή. Ακόμη και αν η ορατότητα στο διάδρομο είναι περιορισμένη και είναι μερικές φορές δύσκολο να πει κανείς αν κάποιος κοντινό πεζοί θέλει πραγματικά να διασχίσει το δρόμο, οι οδηγοί το αντιμετωπίζουν καθημερινά.
Αλλά για αυτοκίνητα με αυτο-οδήγηση, τέτοιες κοσμικές καταστάσεις αποτελούν πρόκληση με δύο τρόπους.
Εύκολο για τον άνθρωπο συχνά σημαίνει σκληρό για τους υπολογιστές. (XKCD, CC BY-SA) Πρώτον, υπάρχει το γεγονός ότι αυτό που είναι εύκολο για τον άνθρωπο είναι συχνά δύσκολο για μηχανές. Είτε αναγνωρίζουμε πρόσωπα είτε ποδηλατάζουμε, είμαστε καλοί στην αντίληψη και στα μηχανικά καθήκοντα, διότι η εξέλιξη μας δημιούργησε αυτές τις δεξιότητες. Αυτό, όμως, καθιστά τις δεξιότητες αυτές δύσκολες να διδάξουν ή να σχεδιάσουν. Αυτό είναι γνωστό ως Παράδοξο του Moravec.
Δεύτερον, σε ένα μέλλον όπου όλα τα αυτοκίνητα είναι αυτο-οδήγηση αυτοκινήτων, οι μικρές αλλαγές στην οδηγική συμπεριφορά θα κάνουν μεγάλη διαφορά στο σύνολο. Οι αποφάσεις που λαμβάνουν σήμερα οι μηχανικοί, με άλλα λόγια, δεν θα καθορίσουν πώς οδηγεί ένα αυτοκίνητο αλλά πώς οδηγούν όλα τα αυτοκίνητα. Οι αλγόριθμοι γίνονται πολιτική.
Οι μηχανικοί διδάσκουν στους υπολογιστές πώς να αναγνωρίζουν πρόσωπα και αντικείμενα χρησιμοποιώντας μεθόδους μηχανικής μάθησης. Μπορούν να χρησιμοποιήσουν την εκμάθηση μηχανών και για να βοηθήσουν τα αυτοκίνητα αυτο-οδήγησης να μιμηθούν τον τρόπο με τον οποίο ο άνθρωπος οδηγεί. Αλλά αυτό δεν είναι λύση: Δεν επιλύει το πρόβλημα ότι οι ευρύτατες αποφάσεις για την ασφάλεια και την κινητικότητα γίνονται από μηχανικούς.
Επιπλέον, τα αυτοκίνητα με αυτοκαταστροφή δεν πρέπει να οδηγούν όπως τους ανθρώπους. Οι άνθρωποι δεν είναι στην πραγματικότητα πολύ καλοί οδηγοί. Και οδηγούν με ηθικά ανησυχητικούς τρόπους, αποφασίζοντας εάν θα αποδώσουν στα περάσματα, με βάση την ηλικία, τη φυλή και το εισόδημα των πεζών. Για παράδειγμα, οι ερευνητές στο Πόρτλαντ έχουν βρει ότι οι μαύροι πεζοί περνούν από διπλάσια αυτοκίνητα και πρέπει να περιμένουν ένα τρίτο περισσότερο από τους λευκούς πεζούς πριν μπορέσουν να περάσουν.
Αυτο-οδήγηση αυτοκίνητα θα πρέπει να οδηγούν με μεγαλύτερη ασφάλεια και πιο δίκαια από ό, τι οι άνθρωποι κάνουν.
Γενική δεοντολογία
Τα ηθικά προβλήματα γίνονται βαθύτερα όταν παρακολουθείτε τις συγκρούσεις συμφερόντων που εκτείνονται σε κοσμικές καταστάσεις όπως διασταυρώσεις, στροφές και διασταυρώσεις.
Για παράδειγμα, ο σχεδιασμός αυτοκινήτων με αυτοκατοχή πρέπει να ισορροπήσει την ασφάλεια των άλλων - πεζών ή ποδηλατών - με τα συμφέροντα των επιβατών των αυτοκινήτων. Μόλις ένα αυτοκίνητο πηγαίνει γρηγορότερα από το ρυθμό βηματισμού, δεν μπορεί να αποτρέψει τη συντριβή σε ένα παιδί που μπορεί να τρέξει στο δρόμο το τελευταίο δευτερόλεπτο. Αλλά ο ρυθμός περπατήματος είναι, φυσικά, πολύ αργός. Όλοι πρέπει να φτάσουν σε μέρη. Πώς λοιπόν οι μηχανικοί θα βρουν την ισορροπία μεταξύ ασφάλειας και κινητικότητας; Και τι ταχύτητα είναι αρκετά ασφαλής;
Υπάρχουν και άλλα ερωτήματα ηθικής που εμφανίζονται επίσης. Οι μηχανικοί πρέπει να κάνουν αντισταθμίσεις μεταξύ της κινητικότητας και των περιβαλλοντικών επιπτώσεων. Όταν εφαρμόζονται σε όλα τα αυτοκίνητα στη χώρα, οι μικρές αλλαγές στην επιτάχυνση που ελέγχεται από υπολογιστή, στις στροφές και στην πέδηση μπορούν να έχουν τεράστιες επιπτώσεις στη χρήση ενέργειας και στις εκπομπές ρύπων. Πώς θα πρέπει οι μηχανικοί να ανταλλάξουν την αποτελεσματικότητα των ταξιδιών με περιβαλλοντικές επιπτώσεις;
Τι θα πρέπει να είναι το μέλλον της κυκλοφορίας;
Οι παγκόσμιες καταστάσεις δημιουργούν νέα τεχνικά και ηθικά προβλήματα, αλλά οδηγούν επίσης τους ανθρώπους να αμφισβητήσουν τις βασικές υποθέσεις του κυκλοφοριακού συστήματος.
Για τον εαυτό μου, άρχισα να αναρωτιέμαι αν χρειάζονται καθόλου χώρους που ονομάζονται «διαβάσεις»; Μετά από όλα, αυτο-οδήγηση αυτοκίνητα μπορεί δυνητικά να είναι ασφαλές να διασχίσει δρόμο οπουδήποτε.
Και δεν είναι μόνο περιπάτους που καθίστανται περιττές. Τα φώτα πορείας στις διασταυρώσεις θα μπορούσαν να είναι και το παρελθόν. Οι άνθρωποι χρειάζονται φανάρια για να βεβαιωθούν ότι ο καθένας θα περάσει τη διασταύρωση χωρίς συντριβή και χάος. Αλλά αυτο-οδήγηση αυτοκίνητα θα μπορούσαν να συντονίσουν μεταξύ τους ομαλά.
Το μεγαλύτερο ερώτημα εδώ είναι το εξής: Δεδομένου ότι τα αυτοκαταστροφικά αυτοκίνητα είναι καλύτερα από τους οδηγούς ανθρώπων, γιατί τα αυτοκίνητα πρέπει να υπόκεινται σε κανόνες που έχουν σχεδιαστεί για ανθρώπινη φθορά και ανθρώπινα σφάλματα; Και για να επεκτείνουμε αυτό το πείραμα σκέψης, σκεφτείτε επίσης το γενικότερο ερώτημα: Αν εμείς ως κοινωνία μπορούσαμε να σχεδιάσουμε το σύστημα κυκλοφορίας από το μηδέν, τι θα θέλαμε να μοιάζει;
Επειδή αυτά τα δύσκολα ερωτήματα αφορούν σε όλους σε μια πόλη ή σε μια κοινωνία, απαιτούν μια πόλη ή μια κοινωνία να συμφωνεί με τις απαντήσεις. Αυτό σημαίνει εξισορρόπηση των ανταγωνιστικών συμφερόντων με τρόπο που να λειτουργεί για όλους - είτε οι άνθρωποι σκέφτονται μόνο για διασταυρώσεις ή για το σύστημα κυκλοφορίας στο σύνολό του.
Με αυτο-οδήγηση αυτοκίνητα, οι κοινωνίες μπορούν να επανασχεδιάσουν τα συστήματα κυκλοφορίας τους. Από το διάδρομο στο γενικό σχεδιασμό της κυκλοφορίας - είναι καθημερινές καταστάσεις που δημιουργούν πραγματικά σκληρά ερωτήματα. Οι ακραίες καταστάσεις είναι μια απόσπαση της προσοχής.
Το πρόβλημα του τρόλεϊ δεν απαντά σε αυτές τις δύσκολες ερωτήσεις.
Αυτό το άρθρο δημοσιεύθηκε αρχικά στην Η συζήτηση.
Johannes Himmelreich, Διεπιστημονικός Συνεργάτης Δεοντολογίας, Πανεπιστήμιο του Στάνφορντ McCoy Οικογενειακό Κέντρο Ηθικής στην Κοινωνία
