Απομακρύνεται η Ευρώπη από την προστασία των ψηφιακών μας δικαιωμάτων;
Την Τετάρτη 19 Νοεμβρίου η Ευρωπαϊκή Επιτροπή παρουσίασε δύο προτάσεις της γνωστές ως Digital Omnibus, που εφόσον υιοθετηθούν θα επηρεάσουν επί τα χείρω τα ψηφιακά δικαιώματα και την προστασία των προσωπικών δεδομένων των πολιτών της Ευρωπαϊκής Ένωσης.
Σύμφωνα με τις σχετικές ανακοινώσεις, η πρώτη πρόταση κανονισμού Digital Omnibus, που αφορά τα προσωπικά δεδομένα και την ιδιωτικότητα, «περιλαμβάνει μια σειρά τεχνικών τροποποιήσεων σε ένα μεγάλο σώμα ψηφιακής νομοθεσίας, οι οποίες επελέγησαν για να προσφέρουν άμεση ανακούφιση στις επιχειρήσεις, τις δημόσιες διοικήσεις και τους πολίτες, καθώς και για να τονώσουν την ανταγωνιστικότητα». Το δεύτερο Digital Omnibus σχετικά με την πρόταση κανονισμού για την Τεχνητή Νοημοσύνη (ΤΝ) «περιλαμβάνει στοχευμένα μέτρα απλούστευσης για τη διασφάλιση της έγκαιρης, ομαλής και αναλογικής εφαρμογής ορισμένων διατάξεων της πράξης για την ΤΝ [ευρέως γνωστής ως AI Act]», γράφει η ανακοίνωση.
Σύμφωνα με τους επικριτές των δύο προτάσεων, γνώμονας της Κομισιόν είναι να απορρυθμίσει εμβληματικούς κανονισμούς για την προστασία των προσωπικών δεδομένων και της ιδιωτικότητας των πολιτών της ΕΕ, προκειμένου να ικανοποιήσει τα αιτήματα όχι μόνο των μεγάλων τεχνολογικών εταιρειών Big Tech (αμερικανικών κατά κύριο λόγο), που διψούν για τεράστιους όγκους δεδομένων που θα εκπαιδεύσουν τα μοντέλα τους, αλλά και του προέδρου των Ηνωμένων Πολιτειών, Ντόναλντ Τραμπ, ο οποίος έχει ασκήσει επανειλημμένως κριτική στην ΕΕ ότι στοχοποιεί τις αμερικανικές επιχειρήσεις μέσω των κανονισμών της.
Η Κομισιόν αν και απορρίπτει αυτές τις κατηγορίες, δηλώνει δια στόματος του Επιτρόπου Οικονομίας και Παραγωγικότητας Βάλντις Ντομπρόβσκις ότι «η Ευρώπη δεν έχει μέχρι στιγμής αποκομίσει όλα τα οφέλη της ψηφιακής επανάστασης» και πως «δεν μπορούμε να αντέξουμε το κόστος της αδυναμίας μας να ανταποκριθούμε στις απαιτήσεις ενός κόσμου που αλλάζει».
Για να καταλάβουμε τι ακριβώς προτείνει η Κομισιόν και πώς αυτό θα επηρεάσει την προστασία των προσωπικών μας δεδομένων και την ιδιωτικότητά μας, απευθυνθήκαμε στην EDRi (European Digital Rights), το μεγαλύτερο ευρωπαϊκό δίκτυο για την υπεράσπιση των ψηφιακών δικαιωμάτων και ελευθεριών των πολιτών στο διαδίκτυο. Μέλη της είναι περισσότερες από 50 ΜΚΟ από όλη την Ευρώπη, μεταξύ αυτών και η ελληνική Homo Digitalis η οποία επίσης έχει συμβάλει στο παρόν ρεπορτάζ. Από την πλευρά της EDRi στις παρακάτω απαντήσεις έχουν συμβάλει οι Blue Duangdjai Tiyavorabun, Ella Jakubowska, και Itxaso Domínguez de Olazábal και από τη Homo Digitalis ο Λευτέρης Χειλιουδάκης.
Τι αφορούν οι δύο προτάσεις Digital Omnibus και ποιοι είναι οι βασικοί τομείς που επηρεάζουν;
α) Η πρώτη πρόταση για τα δεδομένα και την ιδιωτικότητα αναθεωρεί και τροποποιεί:
- τον Γενικό Κανονισμό για την Προστασία Δεδομένων (ΓΚΠΔ) ως προς τα εξής: ορισμός των δεδομένων προσωπικού χαρακτήρα, νομικές βάσεις [για την επεξεργασία δεδομένων], παραβιάσεις δεδομένων, εκτιμήσεις επιπτώσεων στην προστασία των δεδομένων, αυτοματοποιημένες αποφάσεις, έρευνα κ.λπ. Είναι σημαντικό να σημειωθεί ότι οι τροποποιήσεις αυτές δεν περιορίζονται στον ΓΚΠΔ: τροποποιούν επίσης άμεσα τον Κανονισμό για την Προστασία των Δεδομένων των Θεσμικών οργάνων της ΕΕ και τους κανόνες για την Επιβολή του Νόμου. Στην πράξη, αυτό σημαίνει μια ριζική αναθεώρηση του συνόλου του πλαισίου προστασίας δεδομένων της ΕΕ σε όλα τα θέματα που αναφέρονται παραπάνω.
- τους κανόνες της οδηγίας για την προστασία της ιδιωτικής ζωής στις ηλεκτρονικές επικοινωνίες σχετικά με τα cookies και την πρόσβαση σε συσκευές.
- την Πράξη για τα Δεδομένα, την Πράξη για τη Διακυβέρνηση των Δεδομένων, την οδηγία για την ελεύθερη ροή δεδομένων και την οδηγία για τα ανοικτά δεδομένα, προκειμένου να συγχωνευθούν σε έναν μεγάλο «κανονισμό για την οικονομία δεδομένων».
- τους κανόνες για την αναφορά συμβάντων (παραβίασης/διαρροής προσωπικών δεδομένων), που συγχωνεύονται σε ένα ενιαίο κεντρικό κανάλι αναφοράς.
- τους κανόνες για τις πλατφόρμες.
β) η πρόταση κανονισμού για την Τεχνητή Νοημοσύνη αναθεωρεί την Πράξη για την ΤΝ η οποία δεν έχει τεθεί ακόμη σε πλήρη εφαρμογή και:
- καθυστερεί την έναρξη ισχύος βασικών υποχρεώσεων για την τεχνητή νοημοσύνη υψηλού κινδύνου.
- διευκολύνει τους παρόχους τεχνητής νοημοσύνης να δηλώνουν οι ίδιοι ότι τα συστήματά τους «δεν είναι υψηλού κινδύνου», με αποτέλεσμα την αποδυνάμωση της διαφάνειας.
- δημιουργεί νέους λόγους για τη χρήση ευαίσθητων δεδομένων για «διόρθωση μεροληψίας» και αλληλεπιδρά με τις αλλαγές του ΓΚΠΔ σχετικά με τα δεδομένα ειδικής κατηγορίας και το έννομο συμφέρον.
Τι είναι τα συστήματα ΤΝ υψηλού κινδύνου;
Ένα «σύστημα τεχνητής νοημοσύνης υψηλού κινδύνου» σύμφωνα με την Πράξη για την Τεχνητή Νοημοσύνη είναι ένα σύστημα που χρησιμοποιείται σε περιβάλλοντα όπου τα σφάλματα, οι προκαταλήψεις ή η αστάθεια μπορούν να επηρεάσουν σημαντικά την υγεία, την ασφάλεια ή τα θεμελιώδη δικαιώματα των ανθρώπων. Αυτά περιλαμβάνουν τη βιομετρική ταυτοποίηση και κατηγοριοποίηση, τη διαχείριση κρίσιμων υποδομών όπως η ενέργεια ή οι μεταφορές, την εκπαίδευση και τις εξετάσεις, την απασχόληση και τη διαχείριση των εργαζομένων, την πρόσβαση σε βασικές υπηρεσίες όπως η πίστωση, η ασφάλιση ή οι κοινωνικές παροχές, τα συστήματα επιβολής του νόμου, τις τεχνολογίες μετανάστευσης, ασύλου και ελέγχου των συνόρων, καθώς και τα εργαλεία που χρησιμοποιούνται στη δικαιοσύνη ή στις δημοκρατικές διαδικασίες. Επειδή οι συνέπειες σε αυτούς τους τομείς μπορεί να είναι σοβαρές, τα συστήματα υψηλού κινδύνου υπόκεινται σε αυστηρές απαιτήσεις, όπως ισχυρές πρακτικές διαχείρισης κινδύνου, υψηλής ποιότητας δεδομένα εκπαίδευσης, εκτεταμένες υποχρεώσεις τεκμηρίωσης και διαφάνειας, καθώς και ουσιαστική ανθρώπινη εποπτεία.
Η αναβολή της εφαρμογής αυτών των κανόνων έως τον Δεκέμβριο του 2027 παρατείνει ουσιαστικά την περίοδο χάριτος κατά την οποία η τεχνητή νοημοσύνη υψηλού κινδύνου μπορεί να συνεχίσει να λειτουργεί χωρίς τις προστασίες που οι νομοθέτες της ΕΕ θεωρούσαν αρχικά απαραίτητες. Αυτό εκθέτει το κοινό έως και δύο επιπλέον χρόνια σε συστήματα τεχνητής νοημοσύνης που ενδέχεται να είναι μεροληπτικά, ανεπαρκώς δοκιμασμένα ή ανεπαρκώς εποπτευόμενα. Ενώ η καθυστέρηση δημιουργεί επίσης νομική αβεβαιότητα για τις εταιρείες, στην πράξη πολλές από αυτές είναι πιθανό να την ερμηνεύσουν ως άδεια να υλοποιήσουν εφαρμογές τώρα τώρα και να συμμορφωθούν αργότερα. Ο αντίκτυπος θα είναι πιο έντονος για τις ομάδες που είναι ήδη ευάλωτες σε υπερβολική αστυνόμευση, διακρίσεις ή οικονομική επισφάλεια, όπως οι μετανάστες, οι εργαζόμενοι με χαμηλό εισόδημα και οι δικαιούχοι κοινωνικής πρόνοιας, οι οποίοι είναι πιο πιθανό να υποβληθούν σε αυτοματοποιημένα συστήματα βαθμολόγησης, επιτήρησης ή αξιολόγησης.
Τι αλλάζει ως προς την συγκατάθεση για τα cookies;
Το Omnibus θα επιτρέπει τη συγκατάθεση για τα cookies και την πρόσβαση σε συσκευές με ένα μόνο κλικ που θα παραμένει σε ισχύ για έξι μήνες, ενώ θα εισάγει επίσης ένα «σήμα ιδιωτικότητας» σε επίπεδο προγράμματος περιήγησης (browser) που θα κοινοποιεί αυτόματα την άρνηση ενός ατόμου. Στην πράξη, αυτό σημαίνει ότι μια γρήγορη ενέργεια «αποδοχής» σε μια μεγάλη πλατφόρμα θα μπορούσε να εξουσιοδοτήσει αρκετούς μήνες λεπτομερούς παρακολούθησης και δημιουργίας προφίλ σε πολλαπλές υπηρεσίες, συχνά πολύ καιρό μετά τη στιγμή που ο χρήστης έκανε κλικ στο κουμπί, όταν το έχει πια ξεχάσει.
Η εισαγωγή ενός σήματος άρνησης στον browser αποτελεί ένα σημαντικό βήμα προόδου, καθώς παρέχει στους χρήστες έναν απλό και καθολικό τρόπο να αρνηθούν την παρακολούθηση. Ωστόσο, ο αντίκτυπός του περιορίζεται σημαντικά από μια εξαίρεση που εισάγεται για τα μέσα μαζικής ενημέρωσης, η οποία επιτρέπει σε πολλούς μεγάλους μιντιακούς ιστότοπους να αγνοούν εντελώς αυτά τα σήματα. Αυτό δημιουργεί ένα σημαντικό κενό στην προστασία, δεδομένης της κλίμακας της παρακολούθησης και της διαφήμισης στο οικοσύστημα των μέσων μαζικής ενημέρωσης.
Συνολικά, η πρόταση μπορεί να μειώσει την κόπωση από τα banner [συγκατάθεσης στα cookies], αλλά ενέχει επίσης τον κίνδυνο να ομαλοποιήσει τη μακροπρόθεσμη παρακολούθηση.
Τι θεωρείται σήμερα προσωπικό δεδομένο, ευαίσθητο δεδομένο και τι είναι τα ψευδωνυμοποιημένα δεδομένα. Τι αλλάζει;
Σύμφωνα με τον ισχύοντα ΓΚΠΔ, ο όρος «δεδομένα προσωπικού χαρακτήρα» ορίζεται ευρέως ως οποιαδήποτε πληροφορία σχετίζεται με ένα ταυτοποιημένο ή ταυτοποιήσιμο φυσικό πρόσωπο. Η πρόταση της Κομισιόν αλλάζει ριζικά αυτή την προσέγγιση. Η ταυτοποιησιμότητα νοείται σε συνάρτηση με τις δυνατότητες και τις προθέσεις του υπευθύνου επεξεργασίας. Συνεπώς, ένα πρόσωπο θεωρείται ταυτοποιήσιμο μόνον εφόσον η συγκεκριμένη εταιρεία δύναται ή προτίθεται να το ταυτοποιήσει βάσει των διαθέσιμων πληροφοριών, και όχι απλώς επειδή η ταυτοποίησή του είναι αντικειμενικά δυνατή.
Σύμφωνα με το Άρθρο 9 του ΓΚΠΔ, τα δεδομένα «ειδικής κατηγορίας» περιλαμβάνουν εξαιρετικά ευαίσθητες πληροφορίες όπως η φυλετική ή εθνοτική καταγωγή, τα πολιτικά φρονήματα, οι θρησκευτικές ή φιλοσοφικές πεποιθήσεις, η συμμετοχή σε συνδικάτα, τα γενετικά και βιομετρικά δεδομένα που χρησιμοποιούνται για μοναδική ταυτοποίηση, τα δεδομένα υγείας και τα δεδομένα που αφορούν τη σεξουαλική ζωή ή τον σεξουαλικό προσανατολισμό ενός ατόμου. Οι πληροφορίες σχετικά με ποινικές καταδίκες ρυθμίζονται ξεχωριστά βάσει του Άρθρου 10. Αυτές οι κατηγορίες λαμβάνουν το υψηλότερο επίπεδο προστασίας στο δίκαιο της ΕΕ, επειδή η κακή χρήση τέτοιων δεδομένων μπορεί να οδηγήσει σε διακρίσεις, αποκλεισμό ή άλλη σοβαρή βλάβη.
Η πρόταση της Κομισιόν, ωστόσο, εισάγει αρκετές αλλαγές που θα μπορούσαν να αποδυναμώσουν σημαντικά αυτές τις προστασίες στην πράξη. Επίσης εισάγει άρθρο, το οποίο επιτρέπει τη διατήρηση ευαίσθητων δεδομένων σε σύνολα δεδομένων (datasets) εκπαίδευσης τεχνητής νοημοσύνης όταν η αφαίρεσή τους θεωρείται «δυσανάλογη», ουσιαστικά καθιερώνοντας ως κανονική πρακτική τη διατήρηση ευαίσθητων πληροφοριών σε μοντέλα μεγάλης κλίμακας. Με άλλο άρθρο της πρότασης δημιουργείται μια νέα εξαίρεση για τα βιομετρικά δεδομένα που χρησιμοποιούνται για την ταυτοποίηση, όταν αυτά παραμένουν υπό τον «αποκλειστικό έλεγχο» του χρήστη, μια ασαφής έννοια που δεν αντικατοπτρίζει τον τρόπο λειτουργίας των βιομετρικών συστημάτων σε πραγματικές συσκευές.
Όπως μας είχε εξηγήσει ο Λευτέρης Χελιουδάκης από τη Homo Digitalis σε προηγούμενο ρεπορτάζ, με απλά λόγια «τα ψευδωνυμοποιημένα δεδομένα είναι ακόμη προσωπικά δεδομένα και εφαρμόζονται κανονικά οι διατάξεις για τη προστασία των προσωπικών δεδομένων επί αυτών, άλλο δηλαδή η ψευδωνυμοποίηση και άλλο η ανωνυμοποίηση. Φανταστείτε τη ψευδωνυμοποίηση ως μια διαδικασία με την οποία “γδύνεις” τα προσωπικά δεδομένα από κάθε πληροφορία που θα μπορούσε να ταυτοποιήσει το υποκείμενο των δεδομένων, αλλά ταυτόχρονα κρατάς φυλαγμένο το “κλειδί” για να μπορείς ανά πάσα στιγμή να ταυτοποιήσεις και πάλι το υποκείμενο των δεδομένων. Αντίθετα στα ανωνυμοποιημένα δεδομένα υποτίθεται ότι δεν θα μπορέσεις ποτέ να ταυτοποιήσεις το υποκείμενο στο οποίο ανήκουν».
Ένα προτεινόμενο άρθρο από την Κομισιόν τής επιτρέπει να εκδίδει πράξεις ότι ορισμένα ψευδωνυμοποιημένα δεδομένα «παύουν να αποτελούν δεδομένα προσωπικού χαρακτήρα» για συγκεκριμένες οντότητες. Μόλις αναταξινομηθούν ως μη προσωπικές, οι πληροφορίες δεν εμπίπτουν πια στον ΓΚΠΔ: παύει το δικαίωμα πρόσβασης, δεν υπάρχει διαγραφή κτλ. Οι ρυθμιστικές αρχές θα δυσκολευτούν επίσης να αμφισβητήσουν τον εσωτερικό ισχυρισμό ενός υπεύθυνου επεξεργασίας ότι «δεν μπορούν να ταυτοποιήσουν» άτομα.
Συνολικά, αυτό αντιπροσωπεύει μια διαρθρωτική αποδυνάμωση του προστατευτικού πεδίου εφαρμογής του ΓΚΠΔ.
Ποιες είναι οι κύριες ανησυχίες και οι κίνδυνοι για την ιδιωτικότητα και τα προσωπικά δεδομένα;
Οι βασικοί κίνδυνοι είναι:
- Συρρίκνωση του τι θεωρούμε ως «προσωπικά δεδομένα».
- Ανοίγει η πόρτα για μεγάλης κλίμακας εκπαίδευση Τεχνητής Νοημοσύνης με προσωπικά και ευαίσθητα δεδομένα στο πλαίσιο του «έννομου συμφέροντος».
- Επέκταση του τι θεωρείται επιστημονική έρευνα, επιτρέποντας στις εταιρείες να επαναχρησιμοποιούν δεδομένα υπό πιο χαλαρές προϋποθέσεις.
- Υποβάθμιση των υποχρεώσεων πρόσβασης, διαφάνειας και ειδοποίησης παραβιάσεων, καθιστώντας πιο δύσκολο για τα άτομα, τους δημοσιογράφους και τους εποπτικούς φορείς να δουν τι συμβαίνει με τα δεδομένα τους.
- Αποδυνάμωση της προστασίας γύρω από αυτοματοποιημένες αποφάσεις και δεδομένα ειδικής κατηγορίας, τη στιγμή που οι εφαρμογές της Τεχνητής Νοημοσύνης επιταχύνονται σε επίπεδο ΕΕ.
Τι μπορεί να σημαίνουν αυτές οι προτάσεις για την καθημερινή ζωή ενός Ευρωπαίου πολίτη;
Μερικές συγκεκριμένες καθημερινές επιπτώσεις θα μπορούσαν να είναι:
- Πιθανή αύξηση της παρακολούθησης από το τηλέφωνό σας, την τηλεόραση σας, τις εφαρμογές που χρησιμοποιείτε και τους ιστότοπους που επισκέπτεστε. Η πρόσβαση σε συσκευές (ανάγνωση αναγνωριστικών, τηλεμετρία, σήματα συμπεριφοράς) μπορεί να πραγματοποιηθεί χωρίς συγκατάθεση σε διάφορες γενικές περιπτώσεις και, σε ορισμένες περιπτώσεις, μόλις συλλεχθούν τα δεδομένα, αυτά μπορούν να επαναχρησιμοποιηθούν βάσει των συνήθων όρων του ΓΚΠΔ, όπως το «έννομο συμφέρον».
- Τα προσωπικά σας δεδομένα τροφοδοτούν αθόρυβα μοντέλα τεχνητής νοημοσύνης χωρίς να το γνωρίζετε: Οι εταιρείες αποκτούν ευρεία δυνατότητα να χρησιμοποιούν προσωπικά δεδομένα (ακόμη και ειδικές κατηγορίες/τα λεγόμενα «ευαίσθητα δεδομένα») για την εκπαίδευση και τη λειτουργία της τεχνητής νοημοσύνης με βάση το «έννομο συμφέρον», με μόνο ένα σε μεγάλο βαθμό θεωρητικό δικαίωμα αντίρρησης. Μόλις τα δεδομένα σας απορροφηθούν σε ένα μοντέλο, είναι σχεδόν αδύνατο να εντοπιστούν ή να αφαιρεθούν.
- Πιο αυτοματοποιημένες αποφάσεις: Ο κανόνας του GDPR σχετικά με την αυτοματοποιημένη λήψη αποφάσεων μετατοπίζεται από μια εξαίρεση σε ένα εργαλείο που επιτρέπεται από προεπιλογή. Αυτό σημαίνει πιο αυτοματοποιημένες αποφάσεις σε κρίσιμους τομείς, όπως η αξιολόγηση πιστοληπτικής ικανότητας, τα φίλτρα προσλήψεων, η τιμολόγηση ασφαλίσεων ή η κατάταξη περιεχομένου με ασθενέστερη ανθρώπινη εποπτεία.
- Μειωμένη ορατότητα όταν οι εταιρείες κάνουν λάθη: Πολλές παραβιάσεις δεδομένων δεν θα χρειάζεται πλέον να αναφέρονται στις αρχές προστασίας δεδομένων. Μικρότερες ή «μεσαίου κινδύνου» διαρροές ενδέχεται να μην εξεταστούν ποτέ ως ζητήματα προστασίας δεδομένων. Το όριο για την αναφορά είναι υψηλότερο και η προθεσμία παρατείνεται από 72 σε 96 ώρες, γεγονός που μειώνει περαιτέρω την έγκαιρη εποπτεία.
- Συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου που χρησιμοποιούνται με λιγότερους ελέγχους και για μεγαλύτερο χρονικό διάστημα: Τα συστήματα που χρησιμοποιούνται στην αστυνόμευση, τη μετανάστευση, την πρόσβαση σε βασικές υπηρεσίες, την εκπαίδευση, την απασχόληση ή την πίστωση μπορούν να παραμείνουν υπό ασθενέστερη εποπτεία τουλάχιστον μέχρι το τέλος του 2027, ενώ εξακολουθούν να επηρεάζουν τα δικαιώματα των πολιτών σήμερα.
Εν ολίγοις: περισσότερη χρήση δεδομένων και αυτοματοποίηση, με λιγότερη διαφάνεια και ασθενέστερες εγγυήσεις για τα ανθρώπινα δικαιώματα.
Έννομο συμφέρον vs ρητή συγκατάθεση για εκπαίδευση ΤΝ: Οι κίνδυνοι
Εάν η εκπαίδευση της τεχνητής νοημοσύνης μπορεί να βασίζεται στο έννομο συμφέρον και όχι στη ρητή συγκατάθεση, οι εταιρείες αποκτούν τη δυνατότητα να απορροφούν τεράστιες ποσότητες δεδομένων συμπεριφοράς, τοποθεσίας και αλληλεπίδρασης (συμπεριλαμβανομένων ορισμένων τύπων ευαίσθητων δεδομένων) χωρίς να χρειάζεται να ζητήσουν την άδεια των ατόμων, υπό την προϋπόθεση ότι διενεργούν τη δική τους αξιολόγηση αναλογικότητας. Παράλληλα οι προτάσεις της Κομισιόν επιτρέπουν την ευρεία χρήση ευαίσθητων δεδομένων για τη διόρθωση μεροληψιών (bias correction).
Αν και το Omnibus εισάγει ένα φαινομενικά ισχυρότερο δικαίωμα αντίρρησης, ειδικά για την εκπαίδευση τεχνητής νοημοσύνης, η προστασία αυτή είναι σε μεγάλο βαθμό θεωρητική στην πράξη. Τα άτομα συνήθως δεν έχουν καμία εικόνα σε ποια μοντέλα έχουν εισαχθεί τα δεδομένα τους, συχνά ούτε και οι ίδιοι οι υπεύθυνοι επεξεργασίας έχουν αυτή τη γνώση, επειδή η εκπαίδευση βασίζεται σε τεράστια, μικτά σύνολα δεδομένων και συνεχή βελτίωση των μοντέλων. Μόλις τα δεδομένα επηρεάσουν τις παραμέτρους ενός μοντέλου, είναι τεχνικά και οργανωτικά εξαιρετικά δύσκολο να αναιρεθεί αυτή η συμβολή. Ως αποτέλεσμα, ενώ τα άτομα μπορεί να έχουν τυπικά το δικαίωμα να αντιταχθούν, η ουσιαστική άσκηση αυτού του δικαιώματος είναι σχεδόν αδύνατη. Στην πραγματικότητα, η εκπαίδευση της τεχνητής νοημοσύνης στο πλαίσιο του έννομου συμφέροντος γίνεται μονόδρομος: μόλις τα δεδομένα εισαχθούν, ο έλεγχος των ατόμων επί αυτών χάνεται σχεδόν εξ ολοκλήρου.
Εν κατακλείδα, όπως εξηγεί στο inside story η EDRi και η Homo Digitalis, συνολικά, αυτές οι μεταρρυθμίσεις μετατοπίζουν την ισορροπία δυνάμεων ακόμη περισσότερο υπέρ των μεγάλων εταιρειών τεχνολογίας. Οι εταιρείες θα αποκτήσουν πολύ μεγαλύτερη διακριτική ευχέρεια να καθορίζουν τι θεωρείται «προσωπικά δεδομένα», πότε η εκπαίδευση της τεχνητής νοημοσύνης μπορεί να δικαιολογηθεί ως «νόμιμη», αν ένα αίτημα πρόσβασης πρέπει να απορριφθεί ως «καταχρηστικό» και πότε μια παραβίαση δεδομένων θεωρείται «αρκετά σοβαρή» για να αναφερθεί.
Ταυτόχρονα, οι μεγάλες πλατφόρμες θα μπορούν να πραγματοποιούν εκτεταμένες μετρήσεις κοινού χωρίς τη συγκατάθεση των χρηστών και χωρίς το δικαίωμα των χρηστών να αντιταχθούν, ενισχύοντας την ήδη κυρίαρχη θέση τους και διευρύνοντας το χάσμα με τους μικρότερους ανταγωνιστές. Η πρόταση επιτρέπει επίσης στους παρόχους συστημάτων τεχνητής νοημοσύνης υψηλού κινδύνου να εξαιρούνται από τις υποχρεώσεις τους με μειωμένη διαφάνεια, πράγμα που σημαίνει ότι οι ρυθμιστικές αρχές (και το κοινό) ενδέχεται να μην γνωρίζουν καν ποια συστήματα απαιτούν έλεγχο.
Οι πρόσφατες προτάσεις της Κομισιόν έχουν μακρύ νομοθετικό δρόμο μέχρι να γίνουν επίσημοι κανονισμοί της ΕΕ, ωστόσο σύμφωνα με τις δύο οργανώσεις που μας μίλησαν, αν υιοθετηθούν ως έχουν, τα δύο πακέτα προτάσεων θα αναδιαμορφώσουν ριζικά το τοπίο της προστασίας δεδομένων στην ΕΕ. Η αλλαγή αυτή αποδυναμώνει το λεγόμενο «φαινόμενο των Βρυξελλών», δηλαδή το πώς ευρωπαϊκοί κανονισμοί εφαρμόζονται σε όλο τον κόσμο, καθώς σηματοδοτεί ότι η Ευρώπη είναι πλέον διατεθειμένη να μειώσει τα μέτρα προστασίας που κάποτε υπερασπιζόταν σε παγκόσμιο επίπεδο.
Εν συντομία, αντί να ενισχύσει τη φήμη της Ευρώπης ως παγκόσμιου ηγέτη στα ψηφιακά δικαιώματα, το Omnibus κινδυνεύει να αποτελέσει σημείο καμπής: μια απομάκρυνση από την αρχή των «θεμελιωδών δικαιωμάτων εκ σχεδιασμού», προς ένα μοντέλο όπου τα δικαιώματα σταδιακά ανταλλάσσονται στο όνομα της πρόσβασης σε δεδομένα και της καινοτομίας.
Το αποτέλεσμα είναι μια μακροπρόθεσμη παγίωση μοντέλων τεχνητής νοημοσύνης που βασίζονται σε εντατική χρήση δεδομένων και λογικές επιτήρησης, εις βάρος των δικαιωμάτων και της λογοδοσίας.

