Αντίθετοι στην προληπτική αστυνόμευσης δια της χρήσης τεχνητής νοημοσύνης, αλλά και της χρήσης δεδομένων που προκύπτουν από την επεξεργασία βιομετρικών δεδομένων, που οδηγούν σε μαζική παρακολούθηση, είναι τα μέλη του Ευρωπαϊκού Κοινοβουλίου.
Αναστολή στην προοπτική ανάπτυξης συστημάτων αναγνώρισης προσώπου για σκοπούς επιβολής του νόμου ζήτησε το Ευρωκοινοβούλιο. Το Ευρωπαϊκό Κοινοβούλιο έχει εκφράσει σε πολλούς τόνους τις σοβαρές του επιφυλάξεις για τη χρήση συστημάτων Τεχνητής Νοημοσύνης, με σκοπό τη μαζική παρακολούθηση σε δημόσιους χώρους από τις αστυνομικές Αρχές. Οι ευρωβουλευτές προβληματίζονται για τις επιπτώσεις των τεχνολογιών τεχνητής νοημοσύνης στην σφαίρα της ιδιωτικότητας και ζητούν μορατόριουμ στην ανάπτυξη συστημάτων αναγνώρισης προσώπου για σκοπούς επιβολής του νόμου.
Αναλυτικότερα, τα μέλη του Κοινοβουλίου θεωρούν ότι η αυτοματοποιημένη αναγνώριση δεν θα πρέπει να χρησιμοποιείται για τον έλεγχο των συνόρων ή σε δημόσιους χώρους. Σε έκθεση, που εγκρίθηκε με 377 ψήφους υπέρ, 248 κατά και 62 αποχές, οι ευρωβουλευτές διατυπώνουν την άποψη ότι τα συστήματα τεχνητής νοημοσύνης θα πρέπει να βρίσκονται υπό ανθρώπινη εποπτεία και οι αλγόριθμοι θα πρέπει να είναι “ανοιχτοί”.
Επιπροσθέτως, τα μέλη του Κοινοβουλίου ζητούν την απαγόρευση των ιδιωτικών βάσεων δεδομένων αναγνώρισης προσώπων, της συμπεριφορικής αστυνόμευσης και της βαθμολόγησης των πολιτών. Οι ευρωβουλευτές ζητούν εγγυήσεις και ισχυρές δικλείδες ασφαλείας αναφορικά με τη χρήση τεχνητής νοημοσύνης από τις Αρχές, με προτεραιότητα να παραμένει η διασφάλιση της ιδιωτικής ζωής των πολιτών.
Ο κίνδυνος της αλγοριθμική μεροληψίας
Βάσει των όσων παρουσιάζονται στην έκθεση, υπάρχει κίνδυνος αλγοριθμικής μεροληψίας στις εφαρμογές τεχνητής νοημοσύνης. Ως εκ τούτου τονίζουν ότι απαιτείται τόσο ανθρώπινη εποπτεία, όσο και ισχυρές νομοθετικές ρυθμίσεις για την πρόληψη των διακρίσεων που μπορεί να προκληθούν από την χρήση της τεχνητής νοημοσύνης, ιδίως στο πλαίσιο της επιβολής του νόμου και της διέλευσης συνόρων.
Τα μέλη του Ευρωκοινοβουλίου δηλώνουν ότι οι τελικές αποφάσεις θα πρέπει να λαμβάνονται πάντοτε από ανθρώπους και ότι τα άτομα που παρακολουθούνται από συστήματα, που λειτουργούν με τεχνητή νοημοσύνη, θα πρέπει να έχουν πρόσβαση σε νομική προστασία.
Η χρήση αμφιλεγόμενων τεχνολογιών
Οι ευρωβουλευτές ζητούν την καθολική απαγόρευση της αυτοματοποιημένης αναγνώρισης ατόμων σε δημόσιους χώρους, προς διαφύλαξη της ιδιωτικής ζωής και της ανθρώπινης αξιοπρέπειας, επισημαίνοντας ότι οι πολίτες θα πρέπει να παρακολουθούνται μόνο όταν είναι ύποπτοι για κάποιο έγκλημα.
Την απαγόρευση της χρήσης ιδιωτικών βάσεων δεδομένων αναγνώρισης προσώπου ζητά το Κοινοβούλιο, όπως και εκείνη της προληπτικής αστυνόμευσης με βάση συμπεριφορικά δεδομένα.
Κάθετη είναι μεταξύ άλλων η αντίθεση των ευρωβουλευτών σχετικά με την προοπτική της μαζικής βαθμολόγησης ατόμων. Σημειώνουν ότι ιδίως στον τομέα της επιβολής του νόμου και της δικαιοσύνης, οδηγεί σε απώλεια αυτονομίας, θέτει σε κίνδυνο την αρχή της απαγόρευσης των διακρίσεων και δεν συνάδει με τα θεμελιώδη δικαιώματα.
Ολοκληρώνοντας, το Κοινοβούλιο έχεο γνωστοποιήσει την βαθιά του ανησυχία αναφορικά με τη χρήση βιομετρικών δεδομένων για την εξ αποστάσεως ταυτοποίηση προσώπων. Ενδεικτικά, την απαγόρευση των θυρών συνοριακού ελέγχου, που χρησιμοποιούν αυτοματοποιημένη αναγνώριση και το σχέδιο iBorderCtrl, το “έξυπνο σύστημα ανίχνευσης ψεύδους” για την είσοδο τουριστών στην Ε.Ε., ζητούν οι ευρωβουλευτές.
