Η Shoshana Zuboff δεν χρειάζεται πολλές συστάσεις. Σήμερα ομότιμη καθηγήτρια του Harvard Business School, συγγραφέας ενός εκ των σημαντικότερων βιβλίων της τελευταίας δεκαετίας, του The Age of Surveillance Capitalism (ελληνική μετάφραση: Η εποχή του κατασκοπευτικού καπιταλισμού, εκδόσεις Καστανιώτη), αλλά και προφητικών μελετών για την επίδραση των ψηφιακών τεχνολογιών στο χώρο εργασίας (In the Age of the Smart Machine: The Future of Work and Power, 1998), αποτελεί σήμερα μια από τις πιο επιδραστικές μορφές της παγκόσμιας διανόησης. 

 Η βασική θέση της Zuboff είναι ότι τις τελευταίες δεκαετίες ο καπιταλισμός έχει υποστεί έναν βαθύ μετασχηματισμό που βασίζεται στην εμπορευματοποίηση των ψηφιακών ιχνών που αφήνουν οι χρήστες στο διαδίκτυο από τις μεγάλες εταιρίες τεχνολογίας, με στόχο τη διατύπωση εξατομικευμένων προγνώσεων/προβλέψεων συμπεριφοράς, τις οποίες εν συνεχεία «πωλούν» σε επίδοξους διαφημιζόμενους που θέλουν στοχευμένες και αποτελεσματικές διαφημίσεις, που θα εξασφαλίσουν μεγαλύτερο κέρδος. Οι αγορές «συμπεριφορικής έκβασης» που βασίζονται στη μαζική συλλογή δεδομένων χωρίς συνήθως τη γνώση των χρηστών, μετατρέπονται έτσι σε σημεία συσσώρευσης ανυπολόγιστου πλούτου και εξουσίας. 

 Η Οικονομική Επιθεώρηση συνομίλησε μαζί της, ζητώντας της να ξαναδιαβάσει το βασικό επιχείρημα του βιβλίου της για τον καπιταλισμό της επιτήρησης, υπό το πρίσμα πρόσφατων εξελίξεων, όπως η ευρεία διάδοση της παραγωγικής τεχνητής νοημοσύνης, η επανεκλογή του Τραμπ και η προνομιακή θέση που φαίνεται να επιφυλάσσει η νέα αμερικανική διοίκηση στις μεγάλες τεχνολογικές εταιρίες. 

Καπιταλισμός της επιτήρησης, 7 χρόνια μετά

Στο βιβλίο σας για την εποχή του καπιταλισμού της επιτήρησης, που δημοσιεύτηκε περίπου πριν από εφτά χρόνια, υποστηρίξατε ότι είμαστε μάρτυρες μιας βαθιάς μετάλλαξης του καπιταλιστικού παραδείγματος, καθώς τα δεδομένα και οι κοινωνικές πληροφορίες μετατρέπονται στο κύριο αντικείμενο μιας νέας κεφαλαιακής συσσώρευσης, με τις μεγάλες εταιρείες τεχνολογίας να το εμπορευματοποιούν για να αποκομίσουν κέρδος. Πιστεύετε ότι η ανάλυσή σας εξακολουθεί να ισχύει ή εκτιμάτε ότι πρέπει να γίνουν κάποιες προσαρμογές, ώστε να συμπεριληφθούν σε αυτήν οι πρόσφατες εξελίξεις; Σε αυτά τα εφτά χρόνια ζήσαμε άλλωστε πολύ σημαντικά γεγονότα, την πανδημία του Covid, την ευρεία χρήση της τεχνητής νοημοσύνης, την επανεκλογή του Ντόναλντ Τραμπ, την άνοδο της Κίνας …

Έγραψα το βιβλίο όχι με σκοπό να συλλάβω τη στιγμή, αλλά με σκοπό να περιγράψω τη μεγάλη εικόνα. Επιτρέψτε μου να σας πω ότι, από τις εφτά Ιανουαρίου, όταν ο επικεφαλής του Meta Μαρκ Ζάκερμπεργκ κήρυξε τον πόλεμο στο κράτος δικαίου σε συνεργασία με τον κ. Τραμπ, τα εισερχόμενα μηνύματα που λαμβάνω στους λογαριασμούς ηλεκτρονικού ταχυδρομείου μου που είναι δημόσιοι έχουν εκτιναχθεί. Το μήνυμα είναι παρόμοιο από ανθρώπους σε όλο τον κόσμο: «Το προέβλεψες. Το εξήγησες. Όλα όσα έγραψες γίνονται πραγματικότητα». Αν ισχύει αυτό, είναι επειδή πέρασα μια δεκαετία γράφοντας αυτό το βιβλίο. Αλλά πριν από αυτό, ξόδεψα άλλα τριάντα οχτώ χρόνια μελετώντας τις συγκεκριμένες δυναμικές. Κατανόησα τον καπιταλισμό της επιτήρησης πολύ πριν ξεκινήσω να δουλεύω για το εν λόγω βιβλίο. Επομένως, η πνευματική δέσμευσή μου ήταν να κατανοήσω τις δυναμικές της οικονομίας, της κοινωνίας και της πολιτικής, που θα καθόριζαν την τροχιά του αιώνα μας, εκτός κι αν παρέμβουμε και αλλάξουμε πορεία.

Ένας τρόπος να θέσουμε το ίδιο ερώτημα υπό μια διαφορετική οπτική γωνία θα ήταν ο εξής: Η σχέση του Ίλον Μασκ και του Ντόναλντ Τραμπ δεν έχει υπερβεί κατά κάποιο τρόπο τα ορόσημα που περιγράφετε στην ανάλυσή σας; 

Στο βιβλίο μου συζητώ λεπτομερώς το ζήτημα της συγχώνευσης αγοράς και κράτους. Το κινεζικό κράτος επιτήρησης είναι το εμβληματικό παράδειγμα αυτού του σεναρίου συγχώνευσης, αυτού που εγώ αποκαλώ εφιαλτικό σενάριο. Και, πράγματι, στις Ηνωμένες Πολιτείες φαίνεται να διαμορφώνεται μια επικίνδυνη νέα συμμαχία μεταξύ των ολιγαρχών της πληροφορίας, που ελέγχουν τις πληροφορίες και τους χώρους επικοινωνίας μας, και της κυβέρνησης Τραμπ: αγορά και κράτος. Όπως έχω υποστηρίξει, ο καπιταλισμός της επιτήρησης είναι εγγενώς αντιδημοκρατικός και επιδιώκει να αποφεύγει το κράτος δικαίου. Ο κ. Τραμπ περιφρονεί τη δημοκρατία και θέλει να ελέγξει τον χώρο της επικοινωνίας. Υπάρχουν λοιπόν συγγένειες και αμοιβαιότητες σε αυτή τη συμμαχία. Θα κρατήσει; Πρέπει να πούμε ότι διανύσαμε μια μακρά πορεία μέχρι να φτάσουμε σε αυτό το σενάριο. Στην εκτενή εργασία που δημοσίευσα στα τέλη του 2022 με τίτλο «Surveillance Capitalism or Democracy? The Death Match of Institutional Orders and the Politics of Knowledge in Our Information Civilization», παραθέτω επιπλέον στοιχεία και παραδείγματα επ’ αυτού του θέματος. Στις ΗΠΑ ζούμε μια παραλλαγή του σεναρίου της συγχώνευσης από την 11η Σεπτεμβρίου, όταν οι υπηρεσίες εθνικής ασφάλειας και πληροφοριών των ΗΠΑ, στη νέα τους εμμονή με την «απόλυτη γνώση των πληροφοριών», στράφηκαν στις νέες εταιρείες του Διαδικτύου για το πλήθος των ανθρωπογενών δεδομένων που διέθεταν.

Γνωρίζουμε από έρευνες για τις επιχειρήσεις μαζικής συλλογής δεδομένων ότι ο «πόλεμος κατά της τρομοκρατίας» έπεισε όλες τις δυτικές δημοκρατίες να συμμετάσχουν στη μαζική συλλογή δεδομένων, που στην ουσία συνίσταται στη συλλογή, χωρίς πρότερη ενημέρωσή τους, δεδομένων που αφορούν ανθρώπους και προέρχονται από διαδικασίες εμπορικής επιτήρησης. Στις Ηνωμένες Πολιτείες, όπως επίσης και σε πολλές άλλες δημοκρατίες, απαγορεύεται από το σύνταγμα οι κυβερνητικές υπηρεσίες να παρακολουθούν τους πολίτες τους, ενώ οι ιδιωτικές εταιρείες δεν αντιμετωπίζουν τέτοιους περιορισμούς. Αναφέρω, για παράδειγμα, μια δημόσια ομιλία του Γκας Χαντ το 2013, ο οποίος εκείνη την εποχή ήταν ο επικεφαλής του Τμήματος Τεχνολογίας της CIA. Στην τοποθέτησή του, λοιπόν, εξήρε το γεγονός ότι η CIA ήταν πλέον σε θέση, όπως είπε, «να επεξεργαστεί όλα τα δεδομένα που παράγονται από τον άνθρωπο». Ευχαρίστησε συγκεκριμένα τις εταιρείες τεχνολογίας μία προς μία, το Facebook, την Google, την Fitbit, την AOL, το Twitter κ.ο.κ., για την παροχή όλων των δεδομένων που επέτρεψαν στη CIA να επιτύχει αυτόν τον στόχο. Έτσι, αυτό το σενάριο της συγχώνευσης έχει θεσμοθετηθεί στις Ηνωμένες Πολιτείες εδώ και αρκετό καιρό. Βρίσκω την ομιλία που σας προανέφερα συναρπαστική. Ο Γκας Χαντ βρίσκεται σε ένα δημόσιο συνέδριο και μακρυγορεί, πανηγυρίζοντας για αυτές τις απίστευτες ικανότητες, που αποκτήθηκαν χάρη στις εμπορικές εταιρείες του Διαδικτύου που παρακολουθούν κρυφά τη συμπεριφορά μας και τη μετατρέπουν σε δεδομένα. Παρεμπιπτόντως, μπορείτε να παρακολουθήσετε αυτή την ομιλία στο YouTube. Μου έκανε εντύπωση το γεγονός ότι, παρά τις σημαντικές, ακόμη και εξοργιστικές, τοποθετήσεις του, κανείς δεν αντιδρούσε. Κανείς δεν φαινόταν σοκαρισμένος ή θυμωμένος ή ενοχλημένος με οποιονδήποτε τρόπο. Όταν τελείωσε την ομιλία του, ο κ. Χαντ προσφέρθηκε να απαντήσει σε ερωτήσεις.

Και;

Τότε ο συντονιστής της εκδήλωσης είπε: «Ξέρετε, όλοι πεινάνε. Επομένως, δεν νομίζω ότι θα αφιερώσουμε χρόνο για ερωτήσεις. Αλλά όποιος θέλει, θα έχει το χρόνο να σας αναζητήσει στο συνέδριο και να σας κάνει όποιες ερωτήσεις μπορεί να έχει». Επρόκειτο για ένα συνέδριο πληροφορικής, και οι άνθρωποι που βρίσκονταν σε εκείνη την αίθουσα ενδιαφέρονταν περισσότερο για το μεσημεριανό τους γεύμα. Η στάση τους ήταν κάπως η εξής: «Εντάξει, οι υπηρεσίες πληροφοριών μας έχουν όλα τα δεδομένα που παράγονται από όλες τις εταιρείες. Σιγά το νέο. Ας φάμε τώρα!». Το γεγονός έμοιαζε σαν κάτι απόλυτα φυσιολογικό. Για όλους… εκτός από έναν άνθρωπο που ήταν στο δωμάτιο. Υπήρχε ένας… 

Ποιος ήταν; 

Καθόταν στην πίσω σειρά και είχε πάρει φωτιά ολόκληρος. Το όνομά του ήταν Εντ Σνόουντεν. Είχε έρθει να παρακολουθήσει το συνέδριο ειδικά για να ακούσει τι θα έλεγε ο Γκας Χαντ. Αλλά έμεινε εντελώς έκπληκτος όταν τον άκουσε να αποκαλύπτει αυτού του είδους τις πληροφορίες στο κοινό, γνωρίζοντας ότι η παρέμβασή του βιντεοσκοπούνταν και θα ανέβαινε στο Διαδίκτυο. Αυτό τρόμαξε τον Σνόουντεν. Και αυτή ήταν η καθοριστική στιγμή που είπε στον εαυτό του: «Θα βγω μπροστά». Είχε ήδη εντοπίσει αυτές τις κρύπτες πληροφοριών, αλλά δεν είχε αποφασίσει ακόμη αν θα έβγαινε να μιλήσει δημόσια. Και αυτή η αδιαφορία, αυτό το λες και επρόκειτο για κάτι απλό, ήταν που τον ώθησε να πάρει αυτή την απόφαση.

Τεχνητή νοημοσύνη και καπιταλισμός της επιτήρησης 

Έχει η τεχνητή νοημοσύνη και η διάδοσή της τη δυνατότητα να οδηγήσει τον καπιταλισμό της επιτήρησης στο επόμενο επίπεδο; Στο βιβλίο σας σταματάτε σε ένα σημείο όπου η τεχνητή νοημοσύνη δεν χρησιμοποιείται τόσο ευρέως…

Υπήρχε γενικευμένη χρήση της τεχνητής νοημοσύνης, αλλά δεν είχε εισαχθεί στον στον καταναλωτικό χώρο. Αυτή είναι η διαφορά μεταξύ του τότε και του τώρα. Ο Σαμ Άλτμαν, χωρίς καμία προειδοποίηση, αποφάσισε να κάνει το άλμα στον καταναλωτικό χώρο με το ChatGPT, χωρίς καμία προειδοποίηση. Ήταν απελπισμένος και αποφασισμένος να είναι ο πρώτος που θα κυκλοφορούσε στην αγορά μια κάποια μορφή «παραγωγικής τεχνητής νοημοσύνης».

Γιατί το έκανε αυτό, κατά τη γνώμη σας; 

Αυτή είναι μια πολύ ενδιαφέρουσα ερώτηση. Η πρώτη φάση της τεχνητής νοημοσύνης δημιούργησε τον καπιταλισμό της επιτήρησης. Τώρα η δεύτερη φάση τον εντείνει και τον επιταχύνει. Τα δεδομένα για την εκπαίδευση των μοντέλων απαιτούν ακόμα περισσότερη παγκόσμια επιτήρηση και κλοπή. Η παραγωγική τεχνητή νοημοσύνη θέτει ακόμα μεγαλύτερες απειλές διαφθοράς πληροφοριών και χειραγώγησης συμπεριφοράς.

 Είναι χρήσιμο να αναγνωρίσουμε πόσο μεγάλο μέρος του κόσμου που περιέγραψα στο βιβλίο γινόταν αντιληπτό ως τεχνητή νοημοσύνη από όλους όσους ανήκαν σε αυτόν τον τομέα. Εκείνες οι δεκαετίες, από το 2000 έως το 2020, αποτέλεσαν το πρώτο βήμα της γνωριμίας του κοινού με την τεχνητή νοημοσύνη, αλλά οι λειτουργίες ήταν ενσωματωμένες στις υπηρεσίες που χρησιμοποιούσαμε: αναζήτηση, μετάφραση, συμπλήρωση προτάσεων, αναγνώριση φωνής, πρόβλεψη και αντιστοίχιση κ.ο.κ. Ήδη το 2000 οι ιδρυτές της Google, ο Λάρι Πέιτζ και ο Σεργκέι Μπριν, αποκαλούσαν το «Google search» ως «τη δική μας τεχνητή νοημοσύνη». Εκείνη τη χρονιά, προσέλαβαν τον Πίτερ Νόρβιγκ, ο οποίος θεωρούνταν ο κορυφαίος ειδικός στην τεχνητή νοημοσύνη στις Ηνωμένες Πολιτείες. Και αναφέρω στο βιβλίο μου το σκεπτικό του Λάρι Πέιτζ για αυτή την κίνηση. Η οδηγία του προς τον Νόρβιγκ ήταν ξεκάθαρη: «Όλα είναι τεχνητή νοημοσύνη». Το ίδιο ισχύει και για τον Σάτια Ναντέλα, τον διευθύνοντα σύμβουλο της Microsoft. Επομένως, ο καπιταλισμός της επιτήρησης ήταν πάντα εξαρτημένος από την τεχνητή νοημοσύνη. Περιγράφω στο βιβλίο ένα έγγραφο που διέρρευσε και αναφερόταν σε αυτό που το Facebook αποκαλούσε «AI hub», το κέντρο τεχνητής νοημοσύνης τους. Ήδη από το 2016, αυτό το σύστημα «κατανάλωνε τρις σημεία δεδομένων» κάθε μέρα για να παράγει «εκατοντάδες μοντέλα», προκειμένου να παραγάγει «έξι εκατομμύρια προβλέψεις συμπεριφοράς κάθε δευτερόλεπτο». Αυτό το έκανε το κέντρο τεχνητής νοημοσύνης τους ήδη από το 2016. Και αυτό το έγγραφο διέρρευσε σε έναν δημοσιογράφο του Intercept το 2018. 

Πηγή: economia.gr/sinentefxeis