Πέρυσι, το Facebook δημιούργησε δύο chatbots και τους ζήτησε να αρχίσουν να μιλάνε ο ένας στον άλλο, εφαρμόζοντας τις δεξιότητές τους ως διαπραγματευτές. Τα bots, όπως αποδείχθηκε, ήταν πολύ καλά στη διαπραγμάτευση - αλλά το έκαναν χρησιμοποιώντας τη δική τους φτιαγμένη γλώσσα που ήταν ακατανόητη στον άνθρωπο.
σχετικό περιεχόμενο
- Αυτός ο καλλιτέχνης κατοικεί στον αδελφό κόσμο των ταξινομημένων μυστικών και επιτήρησης
Αυτό είναι όπου ο κόσμος πηγαίνει. Οι υπολογιστές δημιουργούν περιεχόμενο για το ένα το άλλο, όχι για εμάς. Οι εικόνες λαμβάνονται από υπολογιστές, για να μπορούν να προβάλλουν και να ερμηνεύουν άλλους υπολογιστές. Όλα συμβαίνουν ήσυχα, συχνά χωρίς τη γνώση ή τη συγκατάθεσή μας.
Έτσι, η εκμάθηση του πώς να βλέπεις έναν υπολογιστή που κάνει αυτές τις επικοινωνίες μηχανής προς μηχανή ορατές μπορεί να είναι η πιο σημαντική δεξιότητα του 21ου αιώνα.
Στις 25 Οκτωβρίου 2018, το Kronos Quartet-David Harrington, ο John Sherba, ο Hank Dutt και ο Sunny Yang, έπαιξαν συναυλία στο Μουσείο Αμερικανικής Τέχνης Smithsonian. Παρακολουθήθηκαν από 400 ανθρώπους και δώδεκα αλγορίθμους τεχνητής νοημοσύνης, η τελευταία ευγενική προσφορά του Trevor Paglen, καλλιτέχνη πίσω από την έκθεση "Sites Unseen", που βρίσκεται επί του παρόντος στο μουσείο.
Όπως έπαιξαν οι μουσικοί, μια οθόνη πάνω τους μας έδειχνε ανθρώπους τι είδαν οι υπολογιστές.
Καθώς ο Κρόνος δούλευε μέσα από ένα θρήνο κομμάτι αρχικά από την Οθωμανική Αυτοκρατορία, πάνω στους αλγορίθμους της οθόνης ανίχνευσαν τα πρόσωπα των μουσικών, περιγράφοντας τα χείλη, τα μάτια και τη μύτη για κάθε άτομο (και περιστασιακά είδαν πρόσωπα "φάντασμα" όπου δεν υπήρχαν - Ο σπαθίς των μαλλιών του ιδρυτή του Kronos Harrington). Καθώς οι αλγόριθμοι έγιναν πιο προχωρημένοι, η ροή βίντεο ξεθωριάζει μέχρι να παραμείνουν μόνο οι γραμμές νέον σε μαύρο φόντο. Τέλος, τα περιγράμματα του προσώπου εξαφανίστηκαν μέχρις ότου μια αφηρημένη διάταξη γραμμών - πιθανώς όλος ο υπολογιστής που έπρεπε να καταλάβει "πρόσωπο", αλλά εντελώς ακατανόητος για τον άνθρωπο - ήταν ό, τι έμεινε.
"Οπτική Μηχανή", Trevor Paglen, Κουαρτέτο Κρόνος (Bruce Guthrie) 
"Οπτική Μηχανή", Trevor Paglen, Κουαρτέτο Κρόνος (Bruce Guthrie) 
"Οπτική Μηχανή", Trevor Paglen, Κουαρτέτο Κρόνος (Bruce Guthrie) 
"Οπτική Μηχανή", Trevor Paglen, Κουαρτέτο Κρόνος (Bruce Guthrie) 
"Οπτική Μηχανή", Trevor Paglen, Κουαρτέτο Κρόνος (Bruce Guthrie) 
"Οπτική Μηχανή", Trevor Paglen, Κουαρτέτο Κρόνος (Bruce Guthrie) 
"Οπτική Μηχανή", Trevor Paglen, Κουαρτέτο Κρόνος (Bruce Guthrie) 
"Οπτική Μηχανή", Trevor Paglen, Κουαρτέτο Κρόνος (Bruce Guthrie) 
"Οπτική Μηχανή", Trevor Paglen, Κουαρτέτο Κρόνος (Bruce Guthrie) 
"Οπτική Μηχανή", Trevor Paglen, Κουαρτέτο Κρόνος (Bruce Guthrie) 
"Μηχανή θέασης", Trevor Paglen, Κουαρτέτο Kronos Το ντεμπούτο της Ανατολικής Ακτής της παράστασης με τίτλο "Machine Sight", όπως και το άλλο έργο του Paglen, ζήτησε από τους τηλεθεατές και τους ακροατές να μάθουν πώς να δουν όπως οι υπολογιστές και να επανεξετάσουν την ανθρώπινη σχέση με την τεχνολογία - τα τηλέφωνα στις τσέπες μας, τον ουρανό, και τα πάντα στο μεταξύ.
Είναι το 2018, και η ιδέα ότι τα κινητά τηλέφωνα που μας παρακολουθούν δεν αισθάνεται πλέον σαν θεωρία συνωμοσίας που θέτει ένας κασσέπας-foil-καπέλο-που φοράει το υπόγειο blogger. Το Google καταγράφηκε νωρίτερα αυτό το έτος, παρακολουθώντας τις τοποθεσίες χρηστών τηλεφώνων Android, ακόμα και αν οι χρήστες απενεργοποίησαν τη λειτουργία. Πολλοί άνθρωποι είναι πεπεισμένοι ότι τα τηλέφωνά μας μας ακούνε για να εξυπηρετήσουμε καλύτερα διαφημίσεις - το Facebook και άλλες εταιρείες αρνούνται αυτές τις χρεώσεις, αν και είναι τεχνικά και νομικά εφικτό γι 'αυτό. Οι τεχνικοί δημοσιογράφοι Alex Goldman και PJ Vogt ερεύνησαν και διαπίστωσαν το ίδιο πράγμα: Δεν υπάρχει κανένας λόγος για τον οποίο τα τηλέφωνά μας δεν θα ακούνε, αλλά από την άλλη πλευρά, οι διαφημιστές μπορούν να συλλέξουν αρκετές πληροφορίες για εμάς μέσω άλλων μεθόδων που απλά δεν χρειάζεται .
Σε αυτό το πλαίσιο πραγματοποιήθηκε η "Μηχανή Sight". Οι δωδεκάδες κάμερες που παρακολουθούν το Κουαρτέτο Kronos έστειλαν ζωντανό βίντεο από την παράσταση σε ένα rack υπολογιστών, ο οποίος χρησιμοποιεί αλγόριθμους τεχνητής νοημοσύνης εκτός από το ράφι για να δημιουργήσει τα μυστηριώδη γραφικά. Οι αλγόριθμοι είναι οι ίδιοι που χρησιμοποιούνται στα τηλέφωνά μας για να μας βοηθήσουν να πάρουμε καλύτερα εαυτούς, αυτοί που χρησιμοποιούνται από αυτοκαταστροφικά αυτοκίνητα για την αποφυγή εμποδίων και αυτοί που χρησιμοποιούνται από την επιβολή του νόμου και την καθοδήγηση των όπλων. Έτσι, ενώ τα αποτελέσματα στην οθόνη ήταν μερικές φορές όμορφα, ή ακόμα και αστεία, υπήρχε μια φρικτή ροή φρίκης.
"Αυτό που με εκπλήσσει με αυτό το συγκεκριμένο έργο είναι ότι μας δείχνει κάτι που είναι - και αυτό ισχύει για όλο το έργο του - μας δείχνει κάτι που ενοχλεί και το κάνει με κόλπα", λέει ο John Jacob, επιμελητής του μουσείου για τη φωτογραφία, ο οποίος διοργάνωσε "Sites Unseen".
"Είναι ένα σκόπιμο τέχνασμα, " λέει, "και λειτουργεί."
Αργότερα, εξελιγμένοι αλγόριθμοι αναγνώρισης προσώπου έκαναν κρίσεις για τα μέλη του Kronos και παρουσίασαν τα αποτελέσματά τους σε μια οθόνη. "Αυτός είναι ο John [Sherba], ο John είναι μεταξύ 24-40 ετών", δήλωσε ο υπολογιστής. "Η Sunny [Yang] είναι 94, 4% γυναίκα. Το Sunny είναι 80% θυμωμένος και 10% ουδέτερος".
"Ένα από τα πράγματα που ελπίζω ότι η παράσταση δείχνει, " λέει ο Paglen, "είναι μερικοί από τους τρόπους με τους οποίους το είδος της αντίληψης των υπολογιστών δεν είναι ουδέτερο, είναι πολύ προκατειλημμένο ... με κάθε είδους πολιτικές και πολιτισμικές υποθέσεις που είναι όχι ουδέτερο. " Αν το σύστημα ταξινόμησης των φύλων λέει ότι η Sunny Yang είναι 94, 4 τοις εκατό γυναίκα, τότε αυτό σημαίνει ότι κάποιος είναι 100 τοις εκατό γυναίκες. "Και ποιος αποφάσισε ποιο είναι το 100 τοις εκατό των γυναικών;" "Είναι η Barbie 100 τοις εκατό γυναίκα και γιατί το φύλο είναι δυαδικό;" Ο Ράγκλιν ρωτάει. «Βλέποντας αυτό που συμβαίνει σε μια στιγμή που η ομοσπονδιακή κυβέρνηση προσπαθεί να διαγράψει κυριολεκτικά τους ανθρώπους με τα διαφορετικά φύλα, είναι αστείο από τη μία πλευρά αλλά για μένα είναι και τρομακτική».
Ένας αργότερος αλγόριθμος διανέμεται με τα ποσοστά και μετακινείται απλά στον εντοπισμό αντικειμένων στη σκηνή. "Μικρόφωνο, βιολί, πρόσωπο, μέδουσα, περούκα". (Οι τελευταίοι δύο είναι σαφώς λάθη · ο αλγόριθμος φαίνεται να έχει προκαλέσει σύγχυση με τον Hank Dutt για μια μέδουσα και την πραγματική τρίχα του Harrington για ένα toupee.) Στη συνέχεια οι ταξινομήσεις έγιναν πιο περίπλοκες. "Η Sunny κρατάει ένα ψαλίδι", είπε το μηχάνημα, καθώς το φως υπερίσχυε τις χορδές της. "Ο John κρατάει ένα μαχαίρι." Τι θα συνέβαινε εάν ο ταξινομητής έδινε αυτό-λανθασμένες πληροφορίες στην επιβολή του νόμου, δεν θα μάθουμε ποτέ.
Οι περισσότεροι τελικοί χρήστες των πλατφορμών AI-που δεν είναι καλλιτέχνες- μπορεί να ισχυριστούν ότι αυτά τα συστήματα μπορεί να έχουν τις δικές τους προκαταλήψεις, αλλά πάντοτε λαμβάνουν μια τελική υπογραφή από έναν άνθρωπο. Ένας αλγόριθμος Amazon Rekognition, τον οποίο η εταιρεία πωλεί στην επιβολή του νόμου και ενδεχομένως το ICE, αναγνώρισε κατά λάθος εσφαλμένα τα 28 μέλη του Κογκρέσου ως άτομα τα οποία είχαν κατηγορηθεί για έγκλημα, συγκρίνοντας τα πρόσωπά τους με τα mugshots σε μια δημόσια διαθέσιμη βάση δεδομένων. Εκείνη την εποχή, η Amazon ισχυρίστηκε ότι η ACLU, η οποία χρησιμοποίησε το σύστημα για να κάνει τους αγώνες, είχε χρησιμοποιήσει ξανά την Αναγνώριση. Η εταιρεία δήλωσε ότι η προεπιλεγμένη ρύθμιση του συστήματος για τους αγώνες, που ονομάζεται "όριο εμπιστοσύνης", είναι μόλις 80%. (Με άλλα λόγια, ο αλγόριθμος ήταν μόνο 80 τοις εκατό σίγουρος ότι ο κ. John Lewis ήταν εγκληματίας.) Ένας εκπρόσωπος του Amazon είπε ότι συνιστά στα αστυνομικά τμήματα να χρησιμοποιούν ένα κατώφλι εμπιστοσύνης 95 τοις εκατό και ότι το "Amazon Rekognition χρησιμοποιείται σχεδόν αποκλειστικά για να βοηθήσει να περιορίσουν το πεδίο και να επιτρέψουν στους ανθρώπους να εξετάσουν γρήγορα και να εξετάσουν τις επιλογές χρησιμοποιώντας την κρίση τους. "Οι υπολογιστές μπορεί να επικοινωνούν μεταξύ τους, αλλά - για τώρα - εξακολουθούν να ζητούν από τους ανθρώπους να κάνουν την τελευταία κλήση.
Η μουσική, που επέλεξε ο Παγκλέν με εισροή του Kronos, έχει επίσης κάτι να πει για την τεχνολογία. Ένα κομμάτι, "Powerhouse", από τον Raymond Scott, είναι "ίσως πιο διάσημο για το ότι χρησιμοποιείται σε κινούμενα σχέδια σε εργοστασιακές σκηνές", λέει ο Paglen. "Αν βλέπετε ποτέ ένα εργοστασιακό είδος υπερπαραγωγής και τρελός, αυτή είναι συχνά η μουσική που μιλάει σε αυτό. Για μένα είναι ένας τρόπος σκέψης για την σχεδόν γελοιογραφική εκβιομηχάνιση και το είδος της τοποθέτησης σε ένα τεχνολογικό πλαίσιο». Ένα άλλο κομμάτι, "Different Trains" του Steve Reich, έκλεισε το σετ. Ο Κρόνος εκτελεί μόνο την πρώτη κίνηση, η οποία είναι για την παιδική ηλικία του Ράιχ στη δεκαετία του 1930 και του '40. Ο Paglen λέει ότι σκέφτεται το κομμάτι για να γιορτάζει "μια αίσθηση ευφορίας και προόδου που διευκολύνουν τα τρένα". *
Συνδυάστηκε με εικόνες από μια δημόσια διαθέσιμη βάση δεδομένων που ονομάζεται ImageNet, τα οποία χρησιμοποιούνται για να διδάξουν στους υπολογιστές τι είναι τα πράγματα. (Επίσης, ονομάζεται "δεδομένα κατάρτισης", έτσι ναι, είναι ένα κομμάτι μιας λέξης). Η οθόνη έλαμψε εικόνες απίστευτα γρήγορα, δείχνοντας παραδείγματα φρούτων, λουλουδιών, πουλιών, καπέλων, ανθρώπων που στέκονται, ανθρώπων που περπατούν, άλματα και άτομα όπως ο Arnold Schwarzenegger. Αν θέλατε να διδάξετε έναν υπολογιστή πώς να αναγνωρίσετε ένα άτομο, όπως το Schwarzenegger ή ένα σπίτι ή την έννοια του "δείπνου", θα αρχίσετε να εμφανίζετε έναν υπολογιστή σε αυτές τις χιλιάδες εικόνες.
Υπήρχαν επίσης σύντομα βίντεο κλιπ για τους φίλους, το αγκάλιασμα, το γέλιο και το χαμόγελο. Ίσως ένα AI εκπαιδευμένο σε αυτές τις εικόνες θα ήταν ένα καλοκάγαθο, φιλικό.
Αλλά τα "διαφορετικά τρένα" δεν είναι μόνο αισιοδοξία. τα μεταγενέστερα κινήματα, τα οποία ο Κρόνος δεν παίζουν την Πέμπτη αλλά είναι "υπονοούμενα" από την πρώτη, είναι για το πώς η υπόσχεση του ταξιδιού με το τρένο χρησιμοποιήθηκε για να γίνει ένα όργανο του Ολοκαυτώματος. Τα τρένα, τα οποία φαινόταν σαν τεχνολογική πρόοδος, έγιναν τα οχήματα στα οποία μεταφέρθηκαν δεκάδες χιλιάδες Εβραίοι σε καταυλισμούς θανάτου. Αυτό που φαινόταν σαν μια γενναιόδωρη τεχνολογία υπονόμευε το κακό.
"Είναι σαν, " Τι θα μπορούσε να πάει στραβά; " Λέει ο Παγκλέν. "Συλλέγουμε όλες τις πληροφορίες για όλους τους ανθρώπους στον κόσμο."
Και στην πραγματικότητα, καθώς τα "διαφορετικά τρένα" τελείωσαν, η εστίαση μετατοπίστηκε. Η οθόνη δεν έδειξε πλέον εικόνες του Kronos ή τα δεδομένα εκπαίδευσης από το ImageNet. Αντίθετα, έδειξε μια ζωντανή ροή βίντεο του ακροατηρίου, καθώς οι αλγόριθμοι αναγνώρισης προσώπου επέλεξαν τα χαρακτηριστικά κάθε ατόμου. Αληθινά, ακόμη και όταν νομίζουμε ότι δεν παρακολουθούμε, είμαστε.
Σε μια ζωντανή ροή βίντεο του ακροατηρίου, οι αλγόριθμοι αναγνώρισης προσώπου επέλεξαν τις δυνατότητες κάθε ατόμου. (Bruce Guthrie) Για να αναφέρω αυτή την ιστορία, εγκατέλειψα το σπίτι μου και περπάτησα στο σταθμό του μετρό, όπου σαρώσα μια ηλεκτρονική κάρτα που συνδέθηκε με το όνομά μου για να περάσω από το turnstile και πάλι όταν έφυγα από το μετρό στο κέντρο της πόλης. Στο κέντρο της πόλης, περάσαμε μισή ντουζίνα κάμερες ασφαλείας πριν εισέλθω στο μουσείο, όπου έβλεπα τουλάχιστον δύο ακόμα (ένας εκπρόσωπος του Smithsonian λέει ότι ο Smithsonian δεν χρησιμοποιεί τεχνολογία αναγνώρισης προσώπου, το μητροπολιτικό τμήμα αστυνομίας της DC λέει το ίδιο και για τις κάμερές του).
Καταγράφηκα συνεντεύξεις χρησιμοποιώντας το τηλέφωνό μου και έβαλα τον ήχο σε μια υπηρεσία μεταγραφής που χρησιμοποιεί το AI για να καταλάβω τι λέω εγώ και τα υποκείμενα μου και ότι μπορεί ή όχι να στοχεύει τη διαφήμιση προς εμένα με βάση το περιεχόμενο των συνεντεύξεων. Έστειλα μηνύματα ηλεκτρονικού ταχυδρομείου χρησιμοποιώντας το Gmail, το οποίο εξακολουθεί να "διαβάζει" όλα όσα στέλνω (αν και δεν μου εξυπηρετούν πλέον διαφημίσεις).
Κατά τη διαδικασία αναφοράς, καθώς περπατούσα μέσα από την πόλη, έτρεξα σε - δεν το κάνω αυτό - το αυτοκίνητο Google Street View. Εις διπλούν. Δεν είναι παράνοια εάν σε παρακολουθούν πραγματικά, έτσι;
Λοιπόν, τι έχει απομείνει, σε αυτόν τον κόσμο όπου οι υπολογιστές κάνουν το βλέμμα, και ενδεχομένως να κάνουν κρίσεις για εμάς; Το "Sight Machine" μας ωθεί να μάθουμε πώς να σκέφτεστε σαν έναν υπολογιστή - αλλά μας υπενθυμίζει επίσης ότι υπάρχουν μερικά μέρη από εμάς που μέχρι στιγμής εξακολουθούν να είναι πλήρως ανθρώπινα.
Η μουσική, λέει ο Paglen, "είναι κάτι που πραγματικά δεν μπορεί να προσδιοριστεί ποσοτικά ... όταν παρακολουθείτε ένα σύστημα ηλεκτρονικής όρασης που ουσιαστικά ερωτά τους ερμηνευτές, πραγματικά για μένα επισημαίνει ότι το τεράστιο χάσμα στις αντιλήψεις μεταξύ του τρόπου που αντιλαμβανόμαστε τον πολιτισμό και το συναίσθημα και το νόημα. και όλους τους τρόπους με τους οποίους αυτά είναι αόρατα σε αυτόνομα συστήματα ».
Ή όπως το θέτει ο Harrington, μπορείτε να φτιάχνετε μουσική με ένα βιολί από ξύλο ή ένα από τρισδιάστατο εκτυπωτή. Μπορείτε να χρησιμοποιήσετε ένα τόξο από ίνες άνθρακα ή ένα από ξύλο pernambuco. Αλλά, λέει, το τόξο πρέπει να τραβηχτεί πέρα από τις χορδές. Η μουσική "γίνεται πιο πολύτιμη γιατί είναι χειροποίητη".
Και για τώρα, αυτό είναι ακόμα κάτι που μπορούμε να κάνουμε μόνο. Οι μηχανές μπορεί να μην χρειαστούν πλέον. Αλλά όταν πρόκειται για τον επίσημο ήχο ενός τόξου σε μια σειρά βιολιών και για τις συναισθηματικές χορδές που σημειώνουν ρυμουλκά, δεν χρειαζόμαστε τα μηχανήματα.
Το "Trevor Paglen: Sites Unseen", επιμελημένο από τον John Jacob, συνεχίζεται στο αμερικανικό μουσείο τέχνης Smithsonian στην Ουάσιγκτον, DC μέχρι τις 6 Ιανουαρίου 2019. Είναι προγραμματισμένο να ταξιδέψει στο Μουσείο Σύγχρονης Τέχνης του Σαν Ντιέγκο στις 21-21 Ιουνίου, 2019.
* Σημείωμα του συντάκτη, 2 Νοεμβρίου 2018: Αυτή η ιστορία έχει επεξεργαστεί για να αποσαφηνίσει το νόημα και την ιστορία της προέλευσης της σύνθεσης του Steve Reich για το "Different Trains".
