Το πιο τρομακτικό πράγμα που έχω δει ποτέ: Ξέρουν τι θα κάνεις πριν το κάνειςΗ τεχνητή νοημοσύνη πριν από το έγκλημα ξαναγράφει την ανθρώπινη ελευθερία. Το είδα. Και είναι το πιο τρομακτικό πράγμα που έχω δει ποτέ.
Το πιο τρομακτικό πράγμα που έχω δει ποτέ: Ξέρουν τι θα κάνεις πριν το κάνεις
Η Αίθουσα Σεμιναρίων
Σε ένα σεμινάριο τεχνητής νοημοσύνης στο πανεπιστήμιό μου, υπέβαλα τρεις φωτογραφίες μου: μία μετωπική, μία προφίλ, μία χαμογελαστή. Μέσα σε ένα λεπτό περίπου, το σύστημα είχε δημιουργήσει ένα βίντεο με εμένα. Αυτό που παρακολούθησα δεν ήταν μια πρόχειρη προσέγγιση. Οι μικροσυμπεριφορές του προσώπου μου, η ελαφριά ασυμμετρία στο χαμόγελό μου, ο τρόπος που τα μάτια μου τσαλακώνονται στις γωνίες τους, όλα αναπαράχθηκαν με ακρίβεια που έκανε το δέρμα μου κρύο. Το είχα τροφοδοτήσει με τρεις στατικές εικόνες και με παρέδωσε πίσω ο ίδιος.
Είμαι ψυχολόγος. Ξέρω τι σημαίνει πρόβλεψη συμπεριφοράς. Καταλαβαίνω τι κάνουν τα μεγάλα σύνολα δεδομένων στην έννοια της ατομικής μοναδικότητας. Αλλά καθισμένος σε εκείνη την αίθουσα σεμιναρίων, βλέποντας το πρόσωπό μου να κινείται σε μια οθόνη που δεν είχα ζωντανέψει, κάτι άλλαξε στην κατανόησή μου για το πού βρισκόμαστε και πού πηγαίνουμε. Δεν ένιωσα ενθουσιασμό. Ένιωσα τον συγκεκριμένο τρόμο ενός ατόμου που μόλις κατάλαβε τη φύση του κλουβιού που χτίζεται γύρω του.
Ας είμαστε ειλικρινείς για το τι συμβαίνει. Το ερώτημα δεν είναι αν η τεχνητή νοημοσύνη μπορεί να προβλέψει την ανθρώπινη συμπεριφορά. Μπορεί ήδη και με ακρίβεια που θα πρέπει να τρομοκρατεί κάθε άτομο που εξακολουθεί να πιστεύει στην έννοια του ιδιωτικού εαυτού. Το ερώτημα είναι σε ποιον ανήκει αυτή η ικανότητα, ποιανού τα συμφέροντα εξυπηρετεί και τι είδους κόσμο κατασκευάζουν με αυτήν.
Είμαστε πιο προβλέψιμοι από όσο φανταζόμαστε
Τα ανθρώπινα όντα είναι, όπως γνωρίζει κάθε σοβαρός μελετητής της επιστήμης της συμπεριφοράς, πολύ πιο προβλέψιμα από ό,τι θέλουμε να πιστεύουμε. Είμαστε πλάσματα του μοτίβου, της επανάληψης, της ευανάγνωστης συνήθειας. Ο εαυτός που βιώνουμε ως κυρίαρχος και αυθόρμητος είναι, συνολικά, εκπληκτικά συνεπής. Οι λεπτές ενδείξεις στο περιβάλλον μας πυροδοτούν συνήθως τη συμπεριφορά μας χωρίς να το γνωρίζουμε, ενώ βιώνουμε την προκύπτουσα δράση ως ελεύθερη και κυρίαρχη επιλογή. Τα μεγάλα δεδομένα το αποκάλυψαν αυτό για εμάς πολύ πριν φτάσει η τρέχουσα γενιά συστημάτων τεχνητής νοημοσύνης για να το εκμεταλλευτεί.
«Η ειδοποίηση που ενεργοποιείται σε μια αίθουσα ελέγχου της αστυνομίας δεν λέει ότι αυτό το άτομο έχει διαπράξει έγκλημα. Λέει ότι αυτό το άτομο συμπεριφέρεται με εβδομήντα τοις εκατό ομοιότητα με το προφίλ συμπεριφοράς κάποιου που θα το κάνει».
Αυτό που έχει αλλάξει είναι η κλίμακα και η λεπτομέρεια της εκμετάλλευσης. Οι ερευνητές έχουν ήδη αποδείξει ότι τα συστήματα τεχνητής νοημοσύνης μπορούν να προβλέψουν τον ήχο της φωνής ενός ατόμου μόνο από μια φωτογραφία, συμπεραίνοντας τις ακουστικές ιδιότητες του λαιμού, το σχήμα της στοματικής κοιλότητας, τη δομή του προσώπου και από αυτά τα φυσικά γεγονότα ανακατασκευάζοντας κάτι που καμία ακίνητη εικόνα δεν έπρεπε ποτέ να περιέχει. Δεν συναινέσαμε σε αυτό το συμπέρασμα. Δεν ξέραμε ότι ήταν δυνατό. Η τεχνολογία δεν μας ρώτησε.
Η μηχανή πριν από το έγκλημα
Τώρα σκεφτείτε τι γίνεται δυνατό όταν τροφοδοτείτε ένα σύστημα τεχνητής νοημοσύνης όχι χιλιάδες αλλά εκατομμύρια ώρες θεραπευτικού υλικού, ηχογραφήσεις φυλακών, επιτήρηση κέντρων κράτησης, κλινικές συνεντεύξεις με άτομα που έχουν διαπράξει πράξεις κλοπής, βίας ή ληστρικής σεξουαλικής κακοποίησης. Η τεχνητή νοημοσύνη δεν σκέφτεται. Δεν κρίνει. Βρίσκει μοτίβα στις μικροεκφράσεις του προσώπου, στη γεωμετρία της κίνησης των ματιών, στο χρονισμό ορισμένων μυϊκών ομάδων, σε συμπεριφορικές υπογραφές τόσο λεπτές που κανένας ανθρώπινος παρατηρητής δεν θα μπορούσε να τις ανιχνεύσει συνειδητά. Και μετά γενικεύεται. Χτίζει ένα μοντέλο για το πώς μοιάζει ένας μελλοντικός κλέφτης πριν από την κλοπή. Πώς μοιάζει ένας μελλοντικός κακοποιός πριν από την κακοποίηση. Αποδίδει πιθανότητες στα πρόσωπα.
Συνδέστε το με τις έξυπνες κάμερες που είναι ήδη ενσωματωμένες στους δρόμους μας, στα συστήματα συγκοινωνίας, στα εμπορικά μας κέντρα, στους χώρους εργασίας μας. Κάμερες που δεν καταγράφουν απλώς αλλά αναλύουν, σε πραγματικό χρόνο, τα πρόσωπα και τα σώματα όλων όσων βρίσκονται στο οπτικό τους πεδίο. Η ειδοποίηση που ενεργοποιείται σε μια αίθουσα ελέγχου της αστυνομίας δεν λέει ότι αυτό το άτομο έχει διαπράξει έγκλημα. Λέει ότι αυτό το άτομο συμπεριφέρεται με εβδομήντα τοις εκατό ομοιότητα με το προφίλ συμπεριφοράς κάποιου που θα συμπεριφερθεί. Ο Philip K. Dick το φαντάστηκε αυτό το 1956 και το ονόμασε επιστημονική φαντασία. Το έχουμε φτιάξει και το ονομάζουμε δημόσια ασφάλεια.
Μια μάσκα δεν αλλάζει τίποτα
Αλλά η αναγνώριση προσώπου είναι, μέχρι τώρα, σχεδόν το λιγότερο. Η πιο σημαντική τεχνολογία είναι η αναγνώριση βάδισης, ένα βιομετρικό σύστημα που αναγνωρίζει τα άτομα όχι από το πρόσωπό τους αλλά από τον συγκεκριμένο, ανατομικά καθορισμένο τρόπο που περπατούν. Η καμπυλότητα της σπονδυλικής στήλης, η περιστροφή των γοφών, ο ιδιαίτερος ρυθμός ενός διασκελισμού, αυτά είναι τόσο μοναδικά όσο ένα δακτυλικό αποτύπωμα και πολύ πιο δύσκολο να συγκαλυφθούν. Τα συστήματα αναγνώρισης βάδισης που αναπτύσσονται επί του παρόντος μπορούν να αναγνωρίσουν ένα άτομο από πλάνα ασφαλείας ακόμα και όταν το πρόσωπο είναι στραμμένο μακριά, κρυμμένο από κουκούλα ή κρυμμένο πίσω από μια μάσκα. Οι διαδηλωτές που κάλυπταν τα πρόσωπά τους στις διαδηλώσεις πίστευαν ότι προστάτευαν τον εαυτό τους. Δεν ήταν. Το σύστημα τα είχε ήδη διαβάσει από τους αστραγάλους και πάνω.
Η αναγνώριση βάδισης λέει στο σύστημα ποιος είσαι, ακόμα κι όταν πιστεύεις ότι είσαι κρυμμένος. Αυτό που ακολουθεί κινείται βαθύτερα. Πάνω από αυτό το αναδυόμενο πεδίο της αναγνώρισης συναισθημάτων σε πραγματικό χρόνο, συστήματα τεχνητής νοημοσύνης ενσωματωμένα στην ίδια υποδομή CCTV που ταξινομούν τις συναισθηματικές καταστάσεις από την έκφραση του προσώπου, αποδίδοντας ετικέτες ταραχής, εχθρότητας, φόβου ή απόκρυψης στα πρόσωπα ανθρώπων που δεν έχουν κάνει τίποτα εκτός από το να υπάρχουν σε δημόσιο χώρο.
Και το σύστημα βελτιώνεται.
Η ακρίβεια είναι αυτό που αγοράζουν δισεκατομμύρια δολάρια επενδύσεων και η επένδυση είναι αμείλικτη. Πλησιάζει η μέρα - πιο κοντά από ό,τι καταλαβαίνουν οι περισσότεροι άνθρωποι - που το σύστημα διαβάζει τους χίλιους δείκτες που κωδικοποιούνται στο πρόσωπό σας, στο βάδισμά σας, στις μικροεκφράσεις σας και δηλώνει με ενενήντα πέντε τοις εκατό βεβαιότητα ότι θα διαπράξετε φόνο. Ότι θα διαπράξεις βιασμό.
Όχι ότι έχεις. Όχι ότι προσπάθησες. Ότι θα το κάνεις. Και όταν επιτευχθεί αυτό το όριο εμπιστοσύνης, η πίεση για δράση σε αυτό θα είναι συντριπτική. Η κοινωνία θα το αποδεχτεί ως λόγο παρέμβασης, κράτησης, προληπτικής απομάκρυνσης και το pre-crime θα πάψει να είναι μια δυστοπική μεταφορά και θα γίνει επίσημη κρατική πολιτική. Ένα σύστημα που χαρακτηρίζει το πρόσωπό σας ως εχθρικό δεν χρειάζεται να είναι σωστό σήμερα. Χρειάζεται μόνο να γίνει σωστό. Και είναι.
Μαθαίνει την υπογραφή του προσώπου της μοναξιάς, της χαμηλής αυτοεκτίμησης. Τώρα τοποθετήστε αυτό το σύστημα μέσα σε ένα ζευγάρι γυαλιά. Μπείτε σε ένα δωμάτιο. Η επικάλυψη λέει στο αρπακτικό ποιος είναι αδύναμος.
Το όργανο του αρπακτικού
Αυτό που περιέγραψα ότι συνέβη σε αυτό το σεμινάριο αντιπροσωπεύει μόνο μια μικρή πτυχή αυτού που είναι τώρα τεχνικά εφικτό. Σκεφτείτε μια διαφορετική εφαρμογή, μια εφαρμογή που θα πρέπει να κάνει κάθε άτομο που ήταν ποτέ ευάλωτο να σταματήσει και να καθίσει με τις επιπτώσεις της.
Ζούμε σε έναν κόσμο γεμάτο αρπακτικά. Αρπακτικοί εργοδότες. Αρπακτικοί άντρες. Αρπακτικά χρηματοπιστωτικά ιδρύματα. Αρπακτικά δίκτυα του είδους που ο Τζέφρι Έπσταϊν λειτουργούσε για δεκαετίες χωρίς συνέπειες, εξυπηρετώντας τους πιο ισχυρούς άνδρες στον κόσμο.
Τι συμβαίνει όταν ένα αρπακτικό αυτής της κατηγορίας έχει πρόσβαση σε ένα σύστημα τεχνητής νοημοσύνης εκπαιδευμένο σε χιλιάδες ώρες θεραπευτικών συνεντεύξεων με επιζώντες κακοποίησης, με άτομα που έπεσαν θύματα εμπορίας, με άτομα των οποίων το ψυχολογικό ιστορικό τους έκανε στόχους;
Το σύστημα μαθαίνει πώς φαίνεται η ευπάθεια από έξω. Μαθαίνει τον ιδιαίτερο τρόπο με τον οποίο ένα άτομο που έχει ρυθμιστεί στη συμμόρφωση κινεί το σώμα του σε δημόσιο χώρο. Μαθαίνει την υπογραφή του προσώπου της μοναξιάς, της χαμηλής αυτοεκτίμησης, κάποιου που δεν θα αντισταθεί ή δεν θα γίνει πιστευτός αν το κάνει.
Τώρα τοποθετήστε αυτό το σύστημα μέσα σε ένα ζευγάρι γυαλιά. Μπείτε σε ένα δωμάτιο. Η επικάλυψη λέει στο αρπακτικό ποιος είναι αδύναμος.
Η Palantir και η Αρχιτεκτονική του Ελέγχου
Το Palantir δεν είναι υποθετικό. Είναι μια εταιρεία με τρέχουσα αγοραία αποτίμηση που μετράται σε εκατοντάδες δισεκατομμύρια δολάρια, βαθιές συμβατικές σχέσεις με τον στρατό των Ηνωμένων Πολιτειών, τη CIA, το FBI, τη Μοσάντ, την MI6 και την Υπηρεσία Μετανάστευσης και Τελωνείων και μια σουίτα προϊόντων ειδικά σχεδιασμένη για να κάνει αυτό που περιγράφω.
Η πλατφόρμα Gotham συγκεντρώνει δεδομένα από φορολογικά αρχεία, αρχεία DMV, ιστορικό απασχόλησης, εκπαιδευτικά αρχεία, μεταναστευτικό καθεστώς, κλητευθέντες λογαριασμούς μέσων κοινωνικής δικτύωσης, συμπεριλαμβανομένων προσωπικών μηνυμάτων και ιστορικού τοποθεσίας, και τα συνθέτει σε μεμονωμένους φακέλους που μπορούν να αναζητηθούν με τατουάζ, ανά γειτονιά, ανά συσχέτιση, ανά μοτίβο κίνησης. Η εφαρμογή επιβολής της μετανάστευσης, που ονομάζεται ELITE, συμπληρώνει έναν χάρτη με αυτούς που ορίζει ως στόχους απέλασης και εκχωρεί στον καθένα μια βαθμολογία εμπιστοσύνης εκτιμώντας την πιθανότητα μια δεδομένη διεύθυνση να είναι εκεί που κοιμούνται αυτήν τη στιγμή. Η λέξη στόχος είναι δική τους, όχι δική μου.
Αυτό δεν είναι ένα σύστημα που χτίστηκε για την εθνική ασφάλεια με καμία ουσιαστική έννοια αυτής της φράσης. Η εθνική ασφάλεια ήταν το πρόσχημα που χρησιμοποιήθηκε για την οικοδόμησή του. Αυτό που κάνει στην πραγματικότητα είναι να κάνει τον πληθυσμό ευανάγνωστο, ταξινομήσιμο και εφαρμόσιμο σε όποιον κατέχει το συμβόλαιο. Αυτή τη στιγμή, αυτοί οι κάτοχοι συμβάσεων περιλαμβάνουν μια διοίκηση που έχει ήδη αποδείξει την προθυμία της να χρησιμοποιήσει αυτά τα εργαλεία εναντίον φοιτητών που συμμετείχαν σε λάθος διαμαρτυρία, ακαδημαϊκών που υπέγραψαν λάθος επιστολή, μεταναστών των οποίων το μόνο έγκλημα ήταν ότι υπήρχαν χωρίς έγγραφα σε μια χώρα που πέρασε δεκαετίες εξαρτημένη από την εργασία τους.
Ένα retweet μπορεί να ανοίξει ένα αρχείο
Το πρόγραμμα που το Στέιτ Ντιπάρτμεντ αποκαλεί Catch and Revoke αναπτύσσει εργαλεία τεχνητής νοημοσύνης, συμπεριλαμβανομένης μιας πλατφόρμας που ονομάζεται Babel X, για τη διεξαγωγή αυτοματοποιημένης ανάλυσης συναισθήματος της συμπεριφοράς στα μέσα κοινωνικής δικτύωσης ξένων υπηκόων με βίζα, συμπεριλαμβανομένων μεταπτυχιακών φοιτητών και ερευνητών. Το σύστημα διαβάζει αναρτήσεις, εκχωρεί βαθμολογίες πρόθεσης, επισημαίνει λογαριασμούς των οποίων οι εκφρασμένες απόψεις ο αλγόριθμος έχει ταξινομήσει ως απειλητικές και ξεκινά διαδικασίες ανάκλησης βίζας, όλα αυτά χωρίς ουσιαστικό ανθρώπινο έλεγχο. Ένα retweet μπορεί τώρα να ανοίξει ένα αρχείο. Ένα σχόλιο που έμεινε σε μια ανάρτηση πριν από τρία χρόνια μπορεί να προκαλέσει μια διαδικασία απέλασης. Το άτομο που στοχοποιείται δεν έχει δικαίωμα να εξετάσει τον αλγόριθμο που το καταδίκασε. Ο αλγόριθμος είναι ιδιόκτητος. Η εσωτερική του λογική είναι ένα εμπορικό μυστικό.
Ο κατήγορος που δεν μπορείτε να αντιμετωπίσετε
Αυτό το τελευταίο σημείο φέρει ένα βάρος που το νομικό σύστημα δεν έχει ακόμη αρχίσει να υπολογίζει. Τα συστήματα τεχνητής νοημοσύνης που χρησιμοποιούνται για την πρόβλεψη της συμπεριφοράς, την ανάθεση κινδύνου και την άμεση δράση επιβολής είναι μαύρα κουτιά, όχι με την καθομιλουμένη έννοια αλλά με την τεχνική και νομική. Οι εταιρείες που τα κατασκευάζουν δεν έχουν καμία υποχρέωση να αποκαλύψουν τις μεθόδους τους. Ένας κατηγορούμενος του οποίου η σύλληψη προκλήθηκε από αλγοριθμική σημαία δεν μπορεί να κλητεύσει τα δεδομένα εκπαίδευσης. Ο δικηγόρος τους δεν μπορεί να εξετάσει το μοντέλο. Το τεκμήριο της αθωότητας, το δικαίωμα να αντιμετωπίσεις τον κατήγορό σου, η βασική αρχιτεκτονική της δέουσας διαδικασίας που χρειάστηκε αιώνες αγώνα για να εδραιωθεί, καταρρέει τη στιγμή που ο κατήγορος είναι ένα ιδιόκτητο σύστημα λογισμικού που ανήκει σε μια εταιρεία με κυβερνητική σύμβαση.
Η Ευρώπη κινήθηκε για να το απαγορεύσει αυτό, ή τουλάχιστον έτσι ισχυριζόταν η νομοθεσία. Το άρθρο 5 του νόμου της ΕΕ για την τεχνητή νοημοσύνη, ο οποίος τέθηκε σε ισχύ στις αρχές του 2025, απαγορεύει ονομαστικά τα συστήματα τεχνητής νοημοσύνης που έχουν σχεδιαστεί για να προβλέπουν την πιθανότητα ένα άτομο να διαπράξει έγκλημα. Οι εξαιρέσεις που αναφέρονται στο κείμενο περιλαμβάνουν τρομοκρατία, φόνο, βιασμό και ένοπλη ληστεία. Με άλλα λόγια, η απαγόρευση ισχύει για ήσσονος σημασίας αδικήματα. Για οτιδήποτε το κράτος χαρακτηρίζει ως σοβαρό, επιτρέπεται η πρόβλεψη.
Και γνωρίζουμε ήδη πόσο ελαστική έχει γίνει η λέξη τρομοκρατία. Στο Ηνωμένο Βασίλειο, οι ηλικιωμένες γυναίκες που συμμετέχουν σε παλαιστινιακές διαδηλώσεις αλληλεγγύης έχουν χαρακτηριστεί συμπαθούντες της τρομοκρατίας, παρακολουθούνται και παραπέμπονται σε προγράμματα κατά του εξτρεμισμού. Ο ορισμός επεκτείνεται για να συναντήσει όποιον το κράτος θεωρεί άβολο. Μόλις το καταλάβετε αυτό, οι εξαιρέσεις του νόμου για την τεχνητή νοημοσύνη παύουν να μοιάζουν με νομικές διασφαλίσεις και αρχίζουν να μοιάζουν με λευκή επιταγή που δίνεται σε όποιον κατέχει την εξουσία εκείνη τη στιγμή.
Ο βρόχος ανατροφοδότησης
Στις Ηνωμένες Πολιτείες δεν υπάρχει καν το πρόσχημα της απαγόρευσης. Και το πρόβλημα επιδεινώνεται με τον τρόπο που όλες οι δομικές αδικίες επιδεινώνονται όταν οι θεσμοί που έχουν σχεδιαστεί για να τις περιορίσουν έχουν αιχμαλωτιστεί. Τα συστήματα προληπτικής αστυνόμευσης κατευθύνουν περισσότερους αστυνομικούς σε ορισμένες γειτονιές. Περισσότεροι αστυνομικοί σε αυτές τις γειτονιές κάνουν περισσότερες συλλήψεις. Περισσότερες συλλήψεις σε αυτές τις γειτονιές επιβεβαιώνουν την αρχική πρόβλεψη του αλγορίθμου. Τα δεδομένα δεν περιγράφουν μια επικίνδυνη γειτονιά. Τα δεδομένα κατασκευάζουν ένα. Οι άνθρωποι που ζουν σε αυτό βλέπουν τα παιδιά τους να τραβούν από την κατηγορία των πολιτών στην κατηγορία των προ-εγκληματιών πριν κάνουν οτιδήποτε.
«Τα κέντρα δεδομένων δεν κατασκευάζονται για να κάνουν τα αποτελέσματα αναζήτησής σας πιο γρήγορα. Κατασκευάζονται για να αποθηκεύουν και να επεξεργάζονται τα προφίλ συμπεριφοράς κάθε ατόμου στη γη»
Η τάξη Epstein που το χτίζει αυτό
Πρέπει να μιλήσουμε ξεκάθαρα για το ποιος το χτίζει και γιατί. Έλον Μασκ. Peter Thiel, του οποίου το όνομα είναι συνώνυμο με το Palantir. Ο Ντόναλντ Τραμπ, του οποίου η κυβέρνηση έχει αναπτύξει αυτά τα εργαλεία με ταχύτητα και επιθετικότητα που υποδηλώνει ότι περίμεναν ακριβώς αυτή την πολιτική διαμόρφωση. Ο Μπέντζαμιν Νετανιάχου, υπό την κυβέρνηση του οποίου τα συστήματα αναγνώρισης προσώπου χρησιμοποιήθηκαν για την παρακολούθηση Παλαιστινίων αμάχων σε όλη τη Δυτική Όχθη, δημιουργώντας βάσεις δεδομένων που έκτοτε επεκτάθηκαν και ενσωματώθηκαν σε διεθνή δίκτυα πληροφοριών.
Το OpenAI, του οποίου ο Διευθύνων Σύμβουλος Sam Altman πέρασε χρόνια παρουσιάζοντας τον εαυτό του και τον οργανισμό του ως υπεύθυνους, συνειδητοποιημένους διαχειριστές της μετασχηματιστικής τεχνολογίας - ενός μη κερδοσκοπικού οργανισμού που χτίστηκε προς όφελος της ανθρωπότητας - πριν αναδιαρθρωθεί σε μια κερδοσκοπική οντότητα που τώρα επιδιώκει μια αποτίμηση που την καθιστά ένα από τα πιο ισχυρά ιδιωτικά ιδρύματα στην ανθρώπινη ιστορία. Ο ίδιος Σαμ Άλτμαν του οποίου η αδερφή, Άνι Άλτμαν, τον έχει κατηγορήσει δημόσια και επανειλημμένα για συστηματικό βιασμό που ξεκίνησε όταν ήταν τριών ετών. Αυτές οι κατηγορίες δεν έχουν εκδικαστεί σε δικαστήριο. Επίσης, δεν έχουν ληφθεί σοβαρά υπόψη από τη βιομηχανία, από τον Τύπο ή από τις κυβερνήσεις που συνεργάζονται τώρα με την εταιρεία του για να διαμορφώσουν την υποδομή τεχνητής νοημοσύνης του μέλλοντος.
Ο άντρας που κατασκευάζει τα εργαλεία πρόβλεψης και ταξινόμησης συμπεριφοράς σε πλανητική κλίμακα είναι ένας άντρας που η ίδια του η αδερφή λέει ότι φοβόταν από την πρώιμη παιδική ηλικία. Μας λένε να εμπιστευόμαστε τους οικοδόμους. Δεν μας λένε να κοιτάξουμε πολύ προσεκτικά ποιοι είναι.
Αυτή είναι η τάξη του Έπσταϊν. Όχι μεταφορά. Ο Τζέφρι Έπσταϊν ήταν ένα αρπακτικό και ένας παιδόφιλος που διηύθυνε, για δεκαετίες, αυτό που ήταν στην πραγματικότητα μια ιδιωτική επιχείρηση πληροφοριών που βασίστηκε στη συστηματική σεξουαλική κακοποίηση παιδιών από τους υπερπλούσιους.
Η υποδομή ήταν εκβιασμός. Το νόμισμα ήταν η πρόσβαση - σε ανήλικα σώματα και στα τεκμηριωμένα μυστικά των πιο ισχυρών ανδρών στην επιστήμη, τα οικονομικά, την πολιτική και την τεχνολογία που κινούνταν στον κόσμο του. Αρκετοί από τους άνδρες που χτίζουν τώρα την αρχιτεκτονική επιτήρησης του εικοστού πρώτου αιώνα παρευρέθηκαν στα δείπνα του, πέταξαν με τα αεροπλάνα του, επισκέφτηκαν τα νησιά του, κακοποίησαν τα θύματά του. Κάποιοι στην περιφέρεια. Μερικά πολύ πιο κοντά στο κέντρο του.
Αυτό που κατάλαβε ο Έπσταϊν και αυτό που κατάλαβαν οι καλεσμένοι του με τον δικό τους τρόπο, είναι ότι η απόλυτη γνώση ενός ατόμου - οι επιθυμίες του, η ντροπή του, τα μυστικά του, τα τρωτά του σημεία - είναι απόλυτη εξουσία πάνω του. Έφτιαξε αυτό το σύστημα με το χέρι, με κάμερες και σιωπή και σώματα παιδιών. Οι άνδρες που μοιράστηκαν το τραπέζι του το έχτισαν έκτοτε σε πλανητική κλίμακα, αυτή τη φορά με κέντρα δεδομένων και νομοθεσία και τη συνεργασία των κυβερνήσεων. Η αρπακτική λογική είναι πανομοιότυπη. Μόνο ο μηχανισμός έχει αλλάξει.
Δεν πρόκειται για ξεχωριστούς παράγοντες που επιδιώκουν ξεχωριστά συμφέροντα. Είναι μια τάξη. Έχουν σχηματίσει τις συμμαχίες, τις κοινές επενδύσεις, τις αλληλεπικαλυπτόμενες συμμετοχές στα διοικητικά συμβούλια και το κοινό πολιτικό σχέδιο που σχηματίζουν οι τάξεις όταν αναγνωρίζουν μια κοινή ευκαιρία. Η ευκαιρία, σε αυτή την περίπτωση, είναι η απόλυτη κυριαρχία της πληροφορίας έναντι της υπόλοιπης ανθρωπότητας. Τα κέντρα δεδομένων που κατασκευάζονται σε όλη τη νοτιοδυτική Αμερική, σε όλες τις χώρες του Κόλπου, σε όλη τη Νοτιοανατολική Ασία, τεράστιες κατασκευές που καταβροχθίζουν ενέργεια, των οποίων η κατασκευή αντιμετωπίζεται στον Τύπο ως μια ιστορία για την οικονομική ανάπτυξη και την τεχνολογική φιλοδοξία, είναι η φυσική υποδομή αυτής της κυριαρχίας.
Τα κέντρα δεδομένων δεν κατασκευάζονται για να κάνουν τα αποτελέσματα αναζήτησής σας πιο γρήγορα. Κατασκευάζονται για να αποθηκεύουν και να επεξεργάζονται τα προφίλ συμπεριφοράς κάθε ατόμου στη γη, για να κάνουν τα ανθρώπινα όντα τόσο περιεκτικά γνωστά σε όσους κατέχουν τα συστήματα που η πρόβλεψη γίνεται δυσδιάκριτη από τον έλεγχο.
Χειρότερο από ό,τι φανταζόταν ποτέ ο Όργουελ
Ο Άλντους Χάξλεϋ κατάλαβε κάτι που υποτιμούμε επίμονα: ότι οι πιο ανθεκτικές μορφές αυταρχικού ελέγχου δεν βιώνονται ως καταπίεση από εκείνους που ζουν κάτω από αυτές. Βιώνονται ως ευκολία, ως ασφάλεια, ως λογική διαχείριση ενός πολύπλοκου κόσμου. Η κάμερα στη γωνία δεν μοιάζει με τη Στάζι. Η εφαρμογή που ξέρει πού βρίσκεστε δεν μοιάζει με τη Lubyanka. Ο αλγόριθμος που σας έδωσε μια βαθμολογία κινδύνου που δεν θα δείτε ποτέ δεν μοιάζει με τίποτα, γιατί δεν ξέρετε ότι υπάρχει. Αυτή είναι η ιδιαίτερη ιδιοφυΐα της αρχιτεκτονικής που χτίζεται γύρω μας. Η βία του είναι σε μεγάλο βαθμό αόρατη, στατιστική, ξεπλένεται μέσω της ουδέτερης γλώσσας της επιστήμης των δεδομένων και της δημόσιας ασφάλειας.
Η τηλεοθόνη του Τζορτζ Όργουελ σε παρακολουθούσε και ήξερες ότι σε παρακολουθούσε. Αυτή η γνώση, κατάλαβε, ήταν από μόνη της μια μορφή ελέγχου. Αυτό που αντιμετωπίζουμε είναι χειρότερο, γιατί η παρακολούθηση δεν συνοδεύεται από τη γνώση ότι μας παρακολουθούν. Τα προφίλ συμπεριφοράς που συγκεντρώνονται για κάθε άτομο που έχει smartphone, που περνάει μπροστά από μια κάμερα, που δημοσιεύει στο διαδίκτυο, που χρησιμοποιεί πιστωτική κάρτα, που πηγαίνει σε σχολείο ή επισκέπτεται γιατρό ή διασχίζει τα σύνορα, υπάρχουν σε διακομιστές στους οποίους δεν μπορούμε να έχουμε πρόσβαση, που ανήκουν σε εταιρείες που δεν μπορούμε να ελέγξουμε, χρησιμοποιούνται για σκοπούς που δεν μπορούμε νομικά να τους αναγκάσουμε να αποκαλύψουν. Ο φάκελος έχει δημιουργηθεί. Απλώς δεν επιτρέπεται να το διαβάσουμε.
Αυτό που κατασκευάζεται, κομμάτι-κομμάτι, συμβόλαιο με συμβόλαιο, κάμερα με κάμερα, δεν είναι κράτος επιτήρησης με την έννοια του εικοστού αιώνα αυτού του όρου. Είναι κάτι πιο συνολικό και πιο οικείο. Το παλιό κράτος επιτήρησης παρακολουθούσε. Το νέο προβλέπει. Ο παλιός συγκέντρωσε αρχεία. Το νέο εκχωρεί βαθμολογίες. Το παλιό απασχολούσε πληροφοριοδότες και ανακριτές. Το νέο τρέχει συνεχώς, αυτόματα, στα πρόσωπα των ανθρώπων που δεν κάνουν τίποτα άλλο από το να ζουν τη ζωή τους σε έναν κόσμο που έχει μετατραπεί αθόρυβα σε έναν μηχανισμό ταξινόμησης και ελέγχου.
Η ολοκλήρωση ενός έργου
Στάθηκα σε εκείνη την αίθουσα σεμιναρίων και παρακολούθησα το πρόσωπό μου να κινείται σε μια οθόνη που δεν είχα ζωντανέψει και κατάλαβα ότι κάτι είχε τελειώσει. Αυτό που είχε τελειώσει ήταν το τελευταίο τεχνικό εμπόδιο μεταξύ του ποιοι είμαστε και του τι μπορούν να γνωρίζουν για εμάς όσοι έχουν αρκετή υπολογιστική ισχύ χωρίς τη συγκατάθεση ή τη γνώση μας. Το εμπόδιο έχει φύγει. Το τι θα την αντικαταστήσει, είτε ο νόμος, είτε η αντίσταση, είτε το είδος της διαρκούς δημόσιας οργής που κατά καιρούς στην ιστορία ανάγκασε την εξουσία να υποχωρήσει, εξαρτάται εξ ολοκλήρου από το αν αρκετοί άνθρωποι καταλαβαίνουν τι έχει ήδη χτιστεί και για ποιον χτίστηκε.
Οι ολιγάρχες που κατέχουν αυτά τα συστήματα δεν βιώνουν τον κόσμο που δημιουργεί η τεχνητή νοημοσύνη ως απειλή. Για αυτούς, είναι η ολοκλήρωση ενός έργου. Το όνειρο μιας τάξης που πάντα ήθελε να μάθει τα πάντα για τους κατώτερους της, να προβλέψει τις κινήσεις τους, να προβλέψει τη διαφωνία τους, να εντοπίσει τις αδυναμίες και τα τρωτά σημεία τους, να διαχειριστεί τον πληθυσμό με τον τρόπο που ένας αγρότης διαχειρίζεται ένα κοπάδι, όπου κάθε ζώο μαρκάρεται, παρακολουθείται και ταξινομείται ανάλογα με τη χρησιμότητά του. Για τους υπόλοιπους από εμάς, αυτούς που επισημαίνονται και παρακολουθούνται και ταξινομούνται, απομένει ένα μόνο επείγον ερώτημα.
Σε ποιο σημείο προσπαθούμε να το σταματήσουμε αυτό;
- Καρίμ
https://enaasteri.blogspot.com/
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου