Οι νέες “αυτοκρατορίες” δεν έχουν σύνορα τουλάχιστον γεωχωρικά. Έχουν δεδομένα.
Η μεγαλύτερη μεταβολή ισχύος του 21ου αιώνα δεν έγινε με στρατιές, επαναστάσεις ή οικονομικές καταρρεύσεις. Δεν είχε εικόνες που έκαναν τον γύρο του κόσμου ούτε πρωτοσέλιδα με δραματικούς τίτλους. Συντελείται καθημερινά, αθόρυβα, μέσα από τις οθόνες που κρατάμε στα χέρια μας. Ο κόσμος δεν κυβερνάται πλέον μόνο από κυβερνήσεις, κοινοβούλια ή διεθνείς οργανισμούς. Ένας νέος παράγοντας εξουσίας έχει αποκτήσει ρόλο που μέχρι πριν από λίγα χρόνια θα έμοιαζε με σενάριο επιστημονικής φαντασίας. Είναι οι αλγόριθμοι, τα μεγάλα συστήματα Τεχνητής Νοημοσύνης και όσοι συγκεντρώνουν τον αμύθητο πλούτο των προσωπικών μας δεδομένων. Το “παράδοξο” που μόνο τέτοιο που δεν είναι, αλλά η καθημερινή εφαρμογή του έτσι το εμφανίζει, είναι ότι εμείς οι ίδιοι τους τροφοδοτούμε τους “συλλέκτες” των δεδομένων μας.
Κάθε αναζήτηση, κάθε αγορά, κάθε “κλικ”, κάθε σκρολάρισμα, κάθε μετακίνηση που καταγράφει το κινητό, κάθε βίντεο που βλέπουμε λίγα δευτερόλεπτα περισσότερο, κάθε συνομιλία, κάθε προτίμηση αφήνει πίσω της ένα ψηφιακό ίχνος. Όλα αυτά, που κάποτε θεωρούνταν απλές πληροφορίες, αποτελούν σήμερα την πρώτη ύλη μιας νέας μορφής ισχύος.
Ο Ζαν-Πολ Σαρτρ είχε υποστηρίξει ότι ο άνθρωπος είναι το άθροισμα των πράξεών του. Στην ψηφιακή εποχή αυτή η φράση αποκτά μια σχεδόν ανατριχιαστική διάσταση. Οι πράξεις μας παύουν να είναι μόνο δικές μας. Μετατρέπονται σε δεδομένα, αναλύονται από αλγοριθμικά μοντέλα, συνδυάζονται με εκατομμύρια άλλα δεδομένα και δημιουργούν ένα ψηφιακό ομοίωμα του εαυτού μας. Ένα είδωλο που δεν περιγράφει μόνο ποιοι είμαστε, αλλά επιχειρεί να προβλέψει ποιοι θα γίνουμε.
Από την πρόβλεψη στη διαμόρφωση της βούλησης
Εδώ ακριβώς βρίσκεται η μεγάλη τομή. Για χρόνια πιστεύαμε ότι το μεγάλο διακύβευμα ήταν η προστασία των προσωπικών δεδομένων. Στην πραγματικότητα, όμως, τα δεδομένα αποτελούν μόνο το μέσο. Ο πραγματικός στόχος είναι η ανθρώπινη συμπεριφορά. Η Τεχνητή Νοημοσύνη δεν χρειάζεται να “διαβάσει” τη σκέψη μας. Δεν χρειάζεται να γνωρίζει τι έχουμε στο μυαλό μας. Της αρκεί να καταγράφει τις καθημερινές μας επιλογές. Οι συνήθειες, οι αντιδράσεις, οι φόβοι, οι επιθυμίες και οι αδυναμίες μας αποτυπώνονται με τέτοια ακρίβεια ώστε τα σύγχρονα μαθηματικά μοντέλα μπορούν, όταν συγκεντρώσουν επαρκή δεδομένα, περίπου 70% “εναρμόνιση συμπεριφοράς”, να προβλέψουν με εντυπωσιακή αξιοπιστία την επόμενη επιλογή μας.
Αυτό δεν αποτελεί θεωρητική υπόθεση. Είναι η βάση πάνω στην οποία λειτουργούν ήδη τα συστήματα μικροστόχευσης (micro-targeting), ιδιαίτερα στην πολιτική διαφήμιση. Το ερώτημα, λοιπόν, δεν είναι αν κάποιος γνωρίζει ποιο βιβλίο διαβάζουμε ή ποιο προϊόν αγοράζουμε. Το ερώτημα είναι αν μπορεί να επηρεάσει τι θα ψηφίσουμε, τι θα πιστέψουμε, ποιον θα εμπιστευθούμε και τελικά πώς θα διαμορφώσουμε την πολιτική μας κρίση και τον δημόσιο χώρο, ακόμη κι αν αυτός περιορίζεται σε ιδιωτείες. Γιατί ανάμεσα στην πρόβλεψη και στη χειραγώγηση υπάρχει μια απόσταση ολοένα και μικρότερη.
Στην καρδιά ολόκληρου του ψηφιακού οικοδομήματος βρίσκεται μια λέξη που χρησιμοποιήθηκε ως σύμβολο ελευθερίας και κατέληξε να λειτουργεί ως μηχανισμός νομιμοποίησης.Η συναίνεση. Το περίφημο «Consent» παρουσιάστηκε ως η απόδειξη ότι ο πολίτης εξακολουθεί να έχει τον έλεγχο.
Η ευρωπαϊκή ψευδαίσθηση της προστασίας
Το 2018 η Ευρωπαϊκή Ένωση παρουσίασε τον Γενικό Κανονισμό Προστασίας Δεδομένων (GDPR) ως τη μεγάλη θεσμική απάντηση απέναντι στην ασυδοσία της ψηφιακής οικονομίας. Μας είπαν μάλιστα ότι η Ε.Ε. είναι πρωτοπόρα και πιο ανελαστική στην ασυδοσία των μεγάλων ιδιωτικών συμφερόντων τεχνολογικών κολοσσών κι ας είναι το 80% αυτών συνδεδεμένοι διαδραστικά με την NSA και το αμερικανικό πεντάγωνο. Η φιλοδοξία ήταν σαφής. Ο πολίτης θα παρέμενε κυρίαρχος των προσωπικών του δεδομένων και η τεχνολογία θα υπηρετούσε τη δημοκρατία και όχι την αγορά.Οκτώ χρόνια αργότερα, η εικόνα είναι πολύ πιο σύνθετη.
Η υπόθεση Cambridge Analytica, που ήρθε να επιβεβαιώσει ήδη από το 2016 ότι τα προσωπικά δεδομένα μπορούν να μετατραπούν σε εργαλείο μαζικής πολιτικής επιρροής, έδειξε πως η απειλή δεν ήταν θεωρητική. Ήταν πραγματική και ήδη παρούσα. Κι όμως, αντί να αλλάξει η αρχιτεκτονική της ψηφιακής εξουσίας, η Ευρώπη απάντησε κυρίως με νέες νομοθεσίες.
-GDPR.
-Digital Markets Act.
-AI Act.
Ένα πυκνό πλέγμα κανονισμών που δημιουργεί την αίσθηση θεσμικής εγρήγορσης.
Το ερώτημα όμως παραμένει αμείλικτο. Άλλαξε πραγματικά η σχέση δύναμης ανάμεσα στον πολίτη και στους τεχνολογικούς κολοσσούς; Μήπως απλώς αυξήθηκαν οι σελίδες της ευρωπαϊκής γραφειοκρατίας;
-Όταν οι θεσμοί ακολουθούν αντί να προηγούνται
Η Ευρωπαϊκή Επιτροπή έχει, βάσει του άρθρου 17 της Συνθήκης για την Ευρωπαϊκή Ένωση, τον ρόλο του θεματοφύλακα των Συνθηκών. Ωστόσο, η πραγματικότητα δείχνει ότι οι εξελίξεις τρέχουν ταχύτερα από τις αποφάσεις των θεσμών.
Η ακύρωση του Safe Harbor με την απόφαση Schrems I (C-362/14), οι παρεμβάσεις του Ευρωπαϊκού Συμβουλίου Προστασίας Δεδομένων και οι επανειλημμένες προειδοποιήσεις των αρμόδιων οργάνων δημιούργησαν την προσδοκία μιας ουσιαστικής αλλαγής πορείας. Αντί γι' αυτό, η Ευρώπη βρέθηκε να αναζητά νέους μηχανισμούς για να διατηρήσει τις διατλαντικές ροές δεδομένων, μέσω του Data Privacy Framework. Είναι μια εξέλιξη που γεννά εύλογα ερωτήματα.
Όταν η προστασία της ιδιωτικότητας συγκρούεται με τα γεωπολιτικά και οικονομικά συμφέροντα, ποιος τελικά υποχωρεί; Η μέχρι σήμερα εμπειρία δείχνει ότι η απάντηση μόνο αυτονόητη δεν είναι.
Τα πρόστιμα που δεν αλλάζουν το παιχνίδι
Κάθε φορά που ανακοινώνεται ένα πρόστιμο πολλών δισεκατομμυρίων ευρώ σε έναν τεχνολογικό κολοσσό, δημιουργείται η εντύπωση μιας αποφασιστικής παρέμβασης.
Η πραγματικότητα είναι λιγότερο εντυπωσιακή. Το πρόστιμο των 4,34 δισεκατομμυρίων ευρώ που επιβλήθηκε στη Google αποτέλεσε ιστορική είδηση. Ωστόσο, σε σχέση με τα ετήσια οικονομικά μεγέθη της Alphabet αντιστοιχούσε σε λιγότερο από το 3,2% των εσόδων της.
Για μια οικονομία όπου το βασικό περιουσιακό στοιχείο είναι τα δεδομένα δισεκατομμυρίων ανθρώπων, τέτοιες κυρώσεις δύσκολα ανατρέπουν το επιχειρηματικό μοντέλο. Αποτελούν περισσότερο το κόστος συνέχισης μιας εξαιρετικά κερδοφόρας δραστηριότητας παρά πραγματικό μηχανισμό αποτροπής.
Κάπως έτσι, η πολιτική της αυστηρότητας καταλήγει πολλές φορές να λειτουργεί ως άλλοθι αποτελεσματικότητας, χωρίς να μεταβάλλει τις πραγματικές ισορροπίες ισχύος.
Η μεγάλη αυταπάτη της “συναίνεσης”
Στην καρδιά ολόκληρου του ψηφιακού οικοδομήματος βρίσκεται μια λέξη που χρησιμοποιήθηκε ως σύμβολο ελευθερίας και κατέληξε να λειτουργεί ως μηχανισμός νομιμοποίησης. Η συναίνεση. Το περίφημο “Consent” παρουσιάστηκε ως η απόδειξη ότι ο πολίτης εξακολουθεί να έχει τον έλεγχο. Ότι αποφασίζει ο ίδιος ποιος θα χρησιμοποιήσει τα δεδομένα του και για ποιο σκοπό. Στην πράξη, όμως, η εικόνα είναι πολύ διαφορετική. Ο χρήστης βρίσκεται καθημερινά μπροστά σε δεκάδες αιτήματα αποδοχής όρων χρήσης, cookies, πολιτικών απορρήτου και ψηφιακών συμβάσεων που ούτε διαβάζει ούτε μπορεί ουσιαστικά να διαπραγματευτεί.
Η επιλογή είναι συνήθως μία ή αποδέχεσαι ή αποκλείεσαι. Ή συναινείς ή μένεις εκτός μιας ψηφιακής πραγματικότητας από την οποία εξαρτώνται η εργασία, η επικοινωνία, οι συναλλαγές, ακόμη και η πρόσβαση στην πληροφορία. Κάτω από αυτές τις συνθήκες, η συναίνεση παύει να είναι ελεύθερη βούληση και μετατρέπεται σε διοικητική διαδικασία συμμόρφωσης. Οι ειδικοί μιλούν πλέον για “Consent Fatigue”, για κόπωση συναίνεσης. Ένα φαινόμενο που περιγράφει την πλήρη αποσύνδεση του πολίτη από τη διαδικασία που υποτίθεται ότι τον προστατεύει.
Πατάμε “Αποδοχή” χωρίς να γνωρίζουμε τι ακριβώς αποδεχόμαστε.
Και αυτό ίσως είναι το πιο επιτυχημένο μοντέλο νομιμοποίησης που κατασκεύασε ποτέ η ψηφιακή οικονομία.
Οι νέοι κλειδοκράτορες της πραγματικότητας
Παράλληλα, μια νέα μορφή εξουσίας εδραιώνεται διαρκώς. Δεν εκλέγεται.
Δεν λογοδοτεί σε εκλογικά σώματα, κοινωνίες και δημόσιους χώρους. Δεν υπόκειται στους κλασικούς δημοκρατικούς ή κοινωνικούς ελέγχους. Κι όμως, επηρεάζει καθημερινά δισεκατομμύρια ανθρώπους. Οι λεγόμενοι Gatekeepers της ψηφιακής εποχής ,Google, Meta, Apple,Mask και οι άλλοι τεχνολογικοί γίγαντες δεν είναι απλώς επιχειρήσεις. Είναι οι διαχειριστές της πρόσβασης στην πληροφορία.
Καθορίζουν ποια δεδομένα συλλέγονται. Ποια δεδομένα αποθηκεύονται.
Ποια δεδομένα αξιοποιούνται. Kυρίως, με ποιον τρόπο διαμορφώνεται το ψηφιακό περιβάλλον μέσα στο οποίο κινούνται οι πολίτες, οι δημόσιες λειτουργίες, η παιδεία, η υγεία , κράτη και συστήματα ασφάλειας τους.
Όταν η Google ανακοίνωσε την κατάργηση των third-party cookies, πολλοί έσπευσαν να μιλήσουν για νίκη της ιδιωτικότητας. Η πραγματικότητα ήταν πιο σύνθετη.
Η παρακολούθηση δεν εξαφανίστηκε. Μετατοπίστηκε. Από ένα ανοιχτό οικοσύστημα πέρασε σε ένα πιο ελεγχόμενο περιβάλλον, όπου ο έλεγχος συγκεντρώνεται ακόμη περισσότερο στα χέρια του ίδιου του διαχειριστή της πλατφόρμας. Δεν πρόκειται για κατάργηση της επιτήρησης. Πρόκειται για αναδιάταξη της επιτήρησης.
Η αντίφαση που απειλεί να τινάξει το σύστημα στον αέρα
Η εμφάνιση της Τεχνητής Νοημοσύνης έφερε στο προσκήνιο μια αντίφαση που μέχρι σήμερα παραμένει ουσιαστικά άλυτη. Ο GDPR στηρίζεται στην αρχή ότι τα δεδομένα πρέπει να συλλέγονται για συγκεκριμένο σκοπό και να διαγράφονται όταν ο σκοπός αυτός εκλείψει. Η Τεχνητή Νοημοσύνη λειτουργεί με ακριβώς αντίθετη λογική.
Τα μεγάλα γλωσσικά μοντέλα εκπαιδεύονται πάνω σε τεράστιους όγκους δεδομένων και αντλούν τη δύναμή τους ακριβώς από τη δυνατότητα συνεχούς επεξεργασίας και αξιοποίησής τους. Από τη στιγμή που μια πληροφορία ενσωματώνεται στα βάρη και στις παραμέτρους ενός νευρωνικού δικτύου, η πλήρης και αξιόπιστη αφαίρεσή της αποτελεί τεχνική πρόκληση τεράστιου μεγέθους. Με απλά λόγια, το ευρωπαϊκό δίκαιο ζητά από μια τεχνολογία να κάνει κάτι που η ίδια δυσκολεύεται να εγγυηθεί.
Και αυτή η αντίφαση δεν είναι νομική λεπτομέρεια. Αγγίζει τον πυρήνα της σχέσης ανάμεσα στη δημοκρατική ρύθμιση και στην τεχνολογική πραγματικότητα.
Μια ήπειρος που παράγει κανόνες και εισάγει τεχνολογία
Την ίδια στιγμή, η Ευρώπη μοιάζει να βρίσκεται παγιδευμένη σε μια στρατηγική αντίφαση.Παράγει συνεχώς νέους κανονισμούς, αλλά αδυνατεί να παράγει τους τεχνολογικούς πρωταγωνιστές της νέας εποχής. Ενώ οι Ηνωμένες Πολιτείες και η Κίνα επενδύουν στην ανάπτυξη πλατφορμών, υποδομών και μοντέλων Τεχνητής Νοημοσύνης, η Ευρώπη συχνά περιορίζεται στον ρόλο του ρυθμιστή.
Το αποτέλεσμα είναι ήδη ορατό. Όλο και περισσότερες επιχειρήσεις αναζητούν ευνοϊκότερα περιβάλλοντα για να αναπτυχθούν. Ο λεγόμενος “ψηφιακός εκπατρισμός” δεν αποτελεί θεωρητική συζήτηση. Είναι μια διαδικασία που εξελίσσεται μπροστά στα μάτια μας. Και όσο η καινοτομία μετακινείται εκτός ευρωπαϊκών συνόρων, τόσο η ήπειρος κινδυνεύει να μετατραπεί σε έναν χώρο όπου παράγονται κανόνες για τεχνολογίες που σχεδιάζονται αλλού.
Η δημοκρατία απέναντι στη νέα εξουσία
Το μεγαλύτερο κόστος, όμως, δεν είναι οικονομικό. Είναι πολιτικό.
Η δημοκρατία με καλές ή κακές εκφάνσεις, ιστορικά στηρίχθηκε σε μια βασική προϋπόθεση, ότι οι πολίτες σχηματίζουν ελεύθερα τη γνώμη τους και στη συνέχεια λαμβάνουν τις πολιτικές τους αποφάσεις. Στην εποχή των αλγορίθμων αυτή η αλυσίδα αρχίζει να δέχεται πρωτοφανείς πιέσεις. Όταν η πληροφορία φιλτράρεται.
Όταν η δημόσια συζήτηση προσωποποιείται. Όταν κάθε πολίτης βλέπει μια διαφορετική εκδοχή της πραγματικότητας. Όταν η πολιτική επικοινωνία μετατρέπεται σε εξατομικευμένη ψυχολογική στόχευση. Τότε η έννοια της ελεύθερης πολιτικής βούλησης παύει να θεωρείται αυτονόητη. Η κάλπη παραμένει, όπως παραμένει. Οι εκλογές διεξάγονται , όπως διεξάγονται. Οι θεσμοί λειτουργούν, όπως λειτουργούν.
Το κρίσιμο ερώτημα όμως πλέον είναι άλλο. Ποιος διαμορφώνει το περιβάλλον μέσα στο οποίο λαμβάνονται οι αποφάσεις των πολιτών;
Το ερώτημα που δεν μπορεί πλέον να αποφευχθεί
Για χρόνια η δημόσια συζήτηση περιστρεφόταν γύρω από το αν τα προσωπικά δεδομένα μας είναι ασφαλή. Ίσως τελικά να ήταν η λάθος συζήτηση. Τουλάχιστον, μια συζήτηση ανεπαρκής μπροστά στο μέγεθος της πρόκλησης. Το πραγματικό ερώτημα δεν είναι ποιος γνωρίζει περισσότερα για εμάς. Το πραγματικό ερώτημα είναι ποιος αποκτά τη δυνατότητα να επηρεάζει τις επιλογές μας. Δεν είναι αν παρακολουθούμαστε, αφού παρακολουθούμαστε. Είναι αν καθοδηγούμαστε. Δεν είναι αν παραβιάζεται η ιδιωτικότητά μας, παραβιάζεται .Είναι αν αλλοιώνεται σταδιακά η πολιτική και κοινωνική μας αυτονομία. Γιατί οι δημοκρατίες δεν χάνουν πάντα τη μάχη από εξωτερικούς εχθρούς. Πολλές φορές υποχωρούν όταν αδυνατούν να αναγνωρίσουν εγκαίρως τις νέες μορφές εξουσίας που αναπτύσσονται στο εσωτερικό τους.
Σήμερα, η μεγαλύτερη συγκέντρωση ισχύος στον πλανήτη δεν βρίσκεται απαραίτητα στα κοινοβούλια, στο κοινωνικό χώρο, στις κυβερνήσεις, στους ηγέτες ή στους διεθνείς οργανισμούς. Βρίσκεται εκεί όπου συγκεντρώνονται τα δεδομένα, η υπολογιστική ισχύς και η δυνατότητα πρόβλεψης της ανθρώπινης συμπεριφοράς.
Η εποχή μάς υποχρεώνει να απαντήσουμε σε ένα θεμελιώδες ερώτημα.
Θα παραμείνει ο πολίτης το υποκείμενο της Δημοκρατίας ή θα μετατραπεί, αθόρυβα και χωρίς να το αντιληφθεί, σε μια ακόμη εγγραφή μέσα σε μια βάση δεδομένων που άλλοι διαχειρίζονται και άλλοι αξιοποιούν; Από την απάντηση σε αυτό το ερώτημα δεν θα κριθεί μόνο η ιδιωτικότητά μας. Θα κριθεί το μέλλον της ίδιας της δημοκρατικής ελευθερίας.
