Εκτεθειμένο (ξανά) το Μαξίμου για τις παρακολουθήσεις με AI

Για δεύτερη φορά σε μερικές μέρες ο κυβερνητικός εκπρόσωπος Παύλος Μαρινάκης κλήθηκε να δώσει εξηγήσεις για τον (μυστικό) ρόλο της ελληνικής κυβέρνησης στη διαπραγμάτευση για τον Κανονισμό της Ε.Ε. για την Τεχνητή Νοημοσύνη (AI Act). Αναφερόμενος σε δημοσίευμα του Reporters United το προηγούμενο Σαββατοκύριακο, ο κ. Μαρινάκης μίλησε στο πρες ρουμ την περασμένη Δευτέρα (27 Ιανουαρίου) για «προσπάθεια παραποίησης της πραγματικότητας». Ποιος όμως παραποιεί την πραγματικότητα;

Στην απάντησή του ο κυβερνητικός εκπρόσωπος αρνήθηκε ξανά ότι η Ελλάδα απέρριψε και τις πέντε(!) δικλίδες ασφαλείας που πρότειναν κράτη-μέλη κατά τη διαβούλευση του AI Αct, κάνοντας λόγο για «εικαζόμενη γερμανική αναφορά». Ομως η «γερμανική αναφορά» δεν είναι διόλου «εικαζόμενη». Πρόκειται για το έγγραφο της γερμανικής διπλωματικής αποστολής που συμμετείχε στις διαπραγματεύσεις – και το οποίο δημοσιεύσαμε αυτούσιο.

Ο δεύτερος ισχυρισμός του κ. Μαρινάκη ήταν ότι η γερμανική αναφορά περιέχει «στοιχεία υποκειμενικής κατανόησης και γραφής». Ο κυβερνητικός εκπρόσωπος δεν έχει παρά να δώσει στη δημοσιότητα τις αντίστοιχες ελληνικές αναφορές των συνεδριάσεων και την αλληλογραφία της Αθήνας με τη Μόνιμη Αντιπροσωπεία στις Βρυξέλλες που περιγράφουν τις επίσημες ελληνικές θέσεις, ώστε να φανεί αν τελικά η κυβέρνηση απέρριψε ή όχι τις δικλίδες ασφαλείας.

Γι’ αυτό, κάνοντας χρήση του δικαιώματος πρόσβασης στη δημόσια πληροφορία (αίτημα FOIA) το οποίο προβλέπεται ρητά στο Σύνταγμα και σε σειρά νόμων, το Reporters United υπέβαλε επίσημο αίτημα προς το Μαξίμου και το υπουργείο Εξωτερικών.

Ο βασικότερος ισχυρισμός του κυβερνητικού εκπροσώπου ήταν πως οι αποκαλύψεις των Investigate Europe / Reporters United / «Εφ.Συν.» αφορούν «προπαρασκευαστικές διαβουλεύσεις», σαν να μην έχουν σημασία οι θέσεις με τις οποίες προσήλθε η Ελλάδα στις διαπραγματεύσεις.

Απαντώντας σε ερωτήσεις της συναδέλφου της «Εφ.Συν.» Γεωργίας Σάκκουλα, ο κ. Μαρινάκης είπε: «Πρόκειται, δηλαδή, για στάδιο που αποσκοπεί στη διευκρίνιση τεχνικών, νομικών και πολιτικών ζητημάτων, ώστε να διασφαλιστεί η καλύτερη κατανόηση του υπό διαμόρφωση κειμένου. Η συζήτηση σε επίπεδο ομάδων εργασίας δεν έχει δεσμευτικό χαρακτήρα, ενώ δεν διεξάγεται καμία ψηφοφορία».

Στο τελικό κείμενο του Κανονισμού περιλαμβάνονται πράγματι δικλίδες ασφαλείας για τη βιομετρική ταυτοποίηση σε ύστερο χρόνο – ανάμεσά τους και κάποιες απ’ αυτές που είχε απορρίψει η Ελλάδα.

«Λογοδοσία»

Ο κυβερνητικός εκπρόσωπος είπε μεταξύ άλλων: «Είμαστε προσηλωμένοι στην εφαρμογή ενός κανονισμού που ενισχύει την ασφάλεια, τη διαφάνεια και τη δημοκρατική λογοδοσία». Ομως, η κυβέρνηση, πριν καν την εφαρμογή του Κανονισμού, παραβιάζει συστηματικά εδώ και χρόνια τις δικλίδες ασφαλείας που η ευρωπαϊκή νομοθεσία προβλέπει.

O νέος Κανονισμός της Ε.Ε. υποχρεώνει τις ελληνικές αρχές, πριν προμηθευτούν ένα σύστημα τεχνητής νοημοσύνης, να εκτιμήσουν τις επιπτώσεις του στα θεμελιώδη δικαιώματα (Fundamental Rights Assessment, FRIAs).

«Παρόμοια υποχρέωση υπάρχει ήδη από το 2019 και αγνοείται», λέει ο Λευτέρης Χελιουδάκης, δικηγόρος και μέλος της οργάνωσης για την υπεράσπιση των ψηφιακών δικαιωμάτων Homo Digitalis. «To υπουργείο Μετανάστευσης και Ασύλου –εξηγεί– λειτουργεί δύο συστήματα που περιλαμβάνουν τεχνολογίες τεχνητής νοημοσύνης, τα Κένταυρος και Υπερίων. Δεν έχει όμως εκτιμήσει τον αντίκτυπο για τα προσωπικά δεδομένα, με αποτέλεσμα να του επιβληθεί τον Απρίλη του 2024 πρόστιμο 175.000 ευρώ από την Αρχή Προστασίας Δεδομένων (ΑΠΔ)».

(Υπενθυμίζουμε ότι η μία από τις δικλίδες ασφαλείας που είχε απορρίψει η ελληνική κυβέρνηση ήταν η υποχρέωση ενημέρωσης της ΑΠΔ.) Η ίδια εικόνα παντού. «Ζητάμε από την αστυνομία τη μελέτη αντικτύπου για το Smart Policing, που χρησιμοποιεί τεχνολογίες τεχνητής νοημοσύνης από το 2020, ζητάμε από το λιμενικό σώμα τη μελέτη αντικτύπου για το έξυπνο bot που έχει αγοράσει για να παρακολουθεί μέσα κοινωνικής δικτύωσης από το 2022, ζητάμε από το υπουργείο Εσωτερικών τη μελέτη αντικτύπου για το αλγοριθμικό σύστημα που θα κάνει την ανακατανομή των δημοσίων υπαλλήλων από τον Απρίλη του 2024 – και πάλι δεν μας δίνουν τίποτα. Δεν μας επιβεβαιώνουν καν ότι έχουν εκπονήσει τη μελέτη αυτή», προσθέτει ο Χελιουδάκης.

Καθώς η τεχνολογία προχωρά και το κόστος της χρήσης AI μειώνεται, θεωρείται δεδομένο ότι όλο και περισσότερες κρατικές αρχές θα χρησιμοποιούν όλο και περισσότερα συστήματα τεχνητής νοημοσύνης, με τις δυνατότητες κατάχρησης να πολλαπλασιάζονται.

«Φαντάσου ένα σύστημα από αυτά τα πολύ παρεμβατικά που χρησιμοποιούνται για να αναγνωρίζουν πρόσωπα σε δημόσιους χώρους ή και να ανιχνεύσουν παράνομη συμπεριφορά. Η χρήση τους δεν έχει επίπτωση μόνο στα προσωπικά δεδομένα ή στην ιδιωτική ζωή, αλλά και στην ελευθερία της έκφρασης ή στο δικαίωμα του συνέρχεσθαι. Θα το σκεφτώ δεύτερη φορά αν θα κατέβω, για παράδειγμα, στο Pride ή στην πορεία του ΠΑΜΕ, καθώς κάποια κάμερα μπορεί να με αναγνωρίσει με βάση το πρόσωπό μου και να με καταχωρίσει σε μια λίστα προφίλ, με βάση τα πιθανολογούμενα πολιτικά μου “πιστεύω” ή τον σεξουαλικό μου προσανατολισμό», σημειώνει ο Χελιουδάκης.

Στο περιθώριο

Στην Ελλάδα, σχετικά με τις δικλίδες ασφαλείας του Κανονισμού για το ΑΙ, μεγάλο βάρος θα πέσει στην ΑΠΔ και την ΑΔΑΕ, ανεξάρτητες αρχές που η κυβέρνηση συστηματικά περιθωριοποιεί.

Ενα χαρακτηριστικό παράδειγμα: Με βάση τον ν. 5002/2022, αναμενόταν η υιοθέτηση Προεδρικού Διατάγματος για τη χρήση κατασκοπευτικών λογισμικών από δημόσιους φορείς. Τον Ιούλιο του 2024, δημοσιεύματα και δηλώσεις του κυβερνητικού εκπροσώπου κ. Μαρινάκη αποκάλυψαν ότι η κυβέρνηση ετοίμαζε το σχετικό διάταγμα χωρίς τη συμμετοχή της ΑΠΔ και της ΑΔΑΕ, παρότι το απαιτεί ο ν. 5002.

Δυόμισι χρόνια αργότερα, το Π.Δ. που θα περιέγραφε τον έλεγχο από τις δύο ανεξάρτητες αρχές δεν έχει εκδοθεί ακόμη. Αντί επέκτασης των αρμοδιοτήτων της και των πενιχρών δυνατοτήτων της, η ΑΠΔ είδε τον προϋπολογισμό της και το προσωπικό της να περικόπτονται, όπως αναφέρει η τελευταία ετήσια έκθεσή της.

Ακόμα μία έμπρακτη απόδειξη του σεβασμού των δικλίδων από την ελληνική κυβέρνηση.