Κανονιστική αιτιολόγηση και σκοπός των απαγορεύσεων
Ο Κανονισμός (ΕΕ) για την Τεχνητή Νοημοσύνη (EU AI Act) θεσπίζει ένα κανονιστικό πλαίσιο βάσει κινδύνου για τα συστήματα τεχνητής νοημοσύνης που διατίθενται στην αγορά ή χρησιμοποιούνται εντός της Ευρωπαϊκής Ένωσης. Στην κορυφή αυτού του πλαισίου βρίσκονται οι απαγορευμένες πρακτικές ΤΝ, τις οποίες ο Κανονισμός αξιολογεί ως πρακτικές που ενέχουν μη αποδεκτό κίνδυνο για τα θεμελιώδη δικαιώματα, τις δημοκρατικές αξίες ή τη δημόσια ασφάλεια.
Σε αντίθεση με τα συστήματα ΤΝ υψηλού κινδύνου, τα οποία μπορούν να αναπτυχθούν υπό αυστηρές εγγυήσεις, οι απαγορευμένες πρακτικές δεν επιδέχονται “μετριασμό μέσω συμμόρφωσης”. Απαγορεύονται απευθείας, διότι ο ενωσιακός νομοθέτης έκρινε ότι ορισμένες χρήσεις της ΤΝ είναι εκ φύσεως ασύμβατες με τις αξίες και τις θεμελιώδεις αρχές της Ένωσης.
Η κατανόηση του πεδίου εφαρμογής των απαγορεύσεων είναι κρίσιμη, διότι καθορίζει τα απόλυτα εξωτερικά όρια της νόμιμης ανάπτυξης και χρήσης συστημάτων ΤΝ υπό το ενωσιακό δίκαιο.
Η θέση των απαγορευμένων πρακτικών στο πλαίσιο του EU AI Act
Ο EU AI Act διακρίνει τέσσερα ρυθμιστικά επίπεδα:
- Απαγορευμένες πρακτικές ΤΝ (μη αποδεκτός κίνδυνος),
- Συστήματα ΤΝ υψηλού κινδύνου,
- Συστήματα περιορισμένου κινδύνου, και
- Συστήματα ελάχιστου κινδύνου.
Οι απαγορευμένες πρακτικές αποτελούν το ανώτατο επίπεδο κανονιστικής παρέμβασης. Εφόσον ένα σύστημα ΤΝ εμπίπτει σε αυτή την κατηγορία, δεν επιτρέπεται να διατεθεί στην αγορά, να τεθεί σε λειτουργία ή να χρησιμοποιηθεί εντός της Ευρωπαϊκής Ένωσης, ανεξαρτήτως τεχνικών διασφαλίσεων ή μέτρων διακυβέρνησης.
Η απαγόρευση καλύπτει ολόκληρο τον κύκλο ζωής της ΤΝ και δεσμεύει όλους τους εμπλεκόμενους φορείς, συμπεριλαμβανομένων παρόχων, χρηστών (deployers) και δημοσίων αρχών.
Βασικές κατηγορίες απαγορευμένων πρακτικών ΤΝ
Ο EU AI Act αναγνωρίζει ορισμένες κατηγορίες πρακτικών που θεωρούνται μη αποδεκτές λόγω του δυναμικού τους να υπονομεύσουν θεμελιώδη δικαιώματα ή να εκμεταλλευθούν ευάλωτες ομάδες. Οι απαγορεύσεις ορίζονται κυρίως βάσει περίπτωσης χρήσης και αποτελέσματος και όχι μόνο βάσει της υποκείμενης τεχνολογίας.
1) Χειριστικά και εκμεταλλευτικά συστήματα ΤΝ
Απαγορεύονται συστήματα ΤΝ όταν χρησιμοποιούν υποσυνείδητες τεχνικές ή άλλες χειριστικές μεθόδους που στρεβλώνουν ουσιωδώς την ανθρώπινη συμπεριφορά κατά τρόπο που προκαλεί ή είναι πιθανό να προκαλέσει βλάβη.
Στην απαγόρευση περιλαμβάνονται και συστήματα που σχεδιάζονται ώστε να εκμεταλλεύονται ψυχολογικές ευαλωτότητες λόγω ηλικίας, αναπηρίας ή κοινωνικοοικονομικής κατάστασης. Το καθοριστικό στοιχείο δεν είναι η «προώθηση/πείθω» καθαυτή, αλλά η συγκεκαλυμμένη χειραγώγηση που θίγει την αυτονομία λήψης αποφάσεων.
2) Κοινωνική βαθμολόγηση (social scoring) από δημόσιες αρχές
Ο Κανονισμός απαγορεύει συστήματα ΤΝ που χρησιμοποιούνται από ή για λογαριασμό δημοσίων αρχών για σκοπούς κοινωνικής βαθμολόγησης. Ως social scoring νοείται η αξιολόγηση ή κατάταξη ατόμων βάσει κοινωνικής συμπεριφοράς ή προσωπικών χαρακτηριστικών, όταν η βαθμολόγηση οδηγεί σε επιζήμια ή δυσμενή μεταχείριση.
Η απαγόρευση αντανακλά την ανησυχία ότι τέτοια συστήματα υπονομεύουν την ισότητα, την αναλογικότητα και την ανθρώπινη αξιοπρέπεια, ιδίως όταν τα αποτελέσματα εφαρμόζονται σε διαφορετικά πλαίσια, άσχετα με τον αρχικό σκοπό συλλογής δεδομένων.
3) Ορισμένες πρακτικές βιομετρικής ταυτοποίησης
Ο Κανονισμός εισάγει αυστηρούς περιορισμούς στη χρήση συστημάτων βιομετρικής ταυτοποίησης, ιδίως όταν λειτουργούν σε πραγματικό χρόνο και σε δημόσια προσβάσιμους χώρους.
Κατά γενικό κανόνα, η χρήση απομακρυσμένης βιομετρικής ταυτοποίησης σε πραγματικό χρόνο από αρχές επιβολής του νόμου σε δημόσιους χώρους απαγορεύεται. Ο EU AI Act προβλέπει μόνο στενά οριοθετημένες εξαιρέσεις, υπό αυστηρές προϋποθέσεις και προγενέστερη εξουσιοδότηση, λόγω του υψηλού κινδύνου για την ιδιωτικότητα και τα θεμελιώδη δικαιώματα.
4) Προγνωστική αστυνόμευση (predictive policing) βάσει profiling
Απαγορεύονται συστήματα ΤΝ για προγνωστική αστυνόμευση, όταν βασίζονται σε profiling ή σε αξιολόγηση της πιθανότητας τέλεσης αξιόποινων πράξεων και θεμελιώνονται σε προσωπικά χαρακτηριστικά αντί σε αντικειμενικά και επαληθεύσιμα πραγματικά περιστατικά.
Στόχος είναι η αποτροπή συστημάτων που «συναγάγουν» εγκληματική προδιάθεση από γνωρίσματα όπως προσωπικότητα, υπόβαθρο ή κοινωνικό περιβάλλον, αντί από συγκεκριμένα και συναφή στοιχεία υπόθεσης.
Έκταση εφαρμογής των απαγορεύσεων
Οι απαγορεύσεις εφαρμόζονται ανεξαρτήτως:
- του αν το σύστημα ΤΝ αναπτύχθηκε εντός ή εκτός ΕΕ,
- του αν χρησιμοποιείται από δημόσιους ή ιδιωτικούς φορείς, ή
- του αν προσφέρεται εμπορικά ή χρησιμοποιείται εσωτερικά.
Καθοριστικό είναι αν το σύστημα διατίθεται στην ενωσιακή αγορά, τίθεται σε λειτουργία ή χρησιμοποιείταιεντός της Ένωσης και αν η προβλεπόμενη χρήση του εμπίπτει σε απαγορευμένη κατηγορία.
Η εξωεδαφική (extraterritorial) εμβέλεια του EU AI Act αποσκοπεί στο να αποτρέψει νόμιμη «παράκαμψη» των απαγορεύσεων μέσω ανάθεσης ή διασυνοριακών μοντέλων ανάπτυξης.
Σχέση με τα συστήματα ΤΝ υψηλού κινδύνου
Οι απαγορευμένες πρακτικές πρέπει να διακρίνονται από τα συστήματα ΤΝ υψηλού κινδύνου. Και οι δύο κατηγορίες αφορούν σοβαρούς κινδύνους, όμως η κανονιστική τους αντιμετώπιση διαφέρει θεμελιωδώς:
- Τα υψηλού κινδύνου συστήματα μπορούν να χρησιμοποιηθούν εφόσον πληρούνται εκτεταμένες απαιτήσεις συμμόρφωσης.
- Οι απαγορευμένες πρακτικές αποκλείονται πλήρως από τη νόμιμη χρήση. Καμία αξιολόγηση συμμόρφωσης ή πλαίσιο διακυβέρνησης δεν μπορεί να «νομιμοποιήσει» απαγορευμένη περίπτωση χρήσης.
Η διάκριση αυτή αποτυπώνει τη θέση του ενωσιακού νομοθέτη ότι ορισμένες εφαρμογές ΤΝ ενέχουν κινδύνους που δεν μπορούν να μετριαστούν επαρκώς, ακόμη και με ισχυρές δικλείδες ασφαλείας.
Νομικές συνέπειες μη συμμόρφωσης
Η χρήση ή η διάθεση στην αγορά απαγορευμένων πρακτικών συνιστά σοβαρή παράβαση του EU AI Act και μπορεί να οδηγήσει σε:
- ενέργειες επιβολής από τις αρμόδιες αρχές,
- εντολές απόσυρσης ή απενεργοποίησης του συστήματος,
- σημαντικά διοικητικά πρόστιμα.
Λόγω της σοβαρότητας των κυρώσεων, η ακριβής αξιολόγηση του αν ένα σύστημα εμπίπτει σε απαγορευμένη κατηγορία είναι καίριας σημασίας.
Κανονιστική σημασία των απαγορευμένων πρακτικών
Το καθεστώς απαγορεύσεων επιτελεί και κανονιστική-αξιακή λειτουργία εντός του EU AI Act: οριοθετεί τις «κόκκινες γραμμές» αποδεκτής χρήσης της ΤΝ και σηματοδοτεί τη δέσμευση της Ένωσης στην προστασία θεμελιωδών δικαιωμάτων στην ψηφιακή εποχή.
Με τον εκ των προτέρων προσδιορισμό μη αποδεκτών πρακτικών, ο Κανονισμός επιδιώκει να ενισχύσει τη νομική βεβαιότητα και να αποτρέψει μη αναστρέψιμη κοινωνική βλάβη που θα μπορούσε να προκύψει από ανεξέλεγκτη ανάπτυξη συγκεκριμένων τεχνολογικών χρήσεων.
Συμπέρασμα
Οι απαγορευμένες πρακτικές ΤΝ βάσει του EU AI Act αποτελούν τα απόλυτα όρια της νόμιμης χρήσης τεχνητής νοημοσύνης στην Ευρωπαϊκή Ένωση. Οι απαγορεύσεις στοχεύουν εφαρμογές που χειραγωγούν συμπεριφορά, επιτρέπουν κοινωνική βαθμολόγηση, διευκολύνουν παρεμβατική βιομετρική ταυτοποίηση ή βασίζονται σε μη επιτρεπτό προγνωστικό profiling.
Σε αντίθεση με τα συστήματα υψηλού κινδύνου, οι απαγορευμένες πρακτικές δεν υπόκεινται σε «υπό όρους συμμόρφωση», αλλά αποκλείονται πλήρως από τη νόμιμη ανάπτυξη και χρήση. Η ορθή αναγνώριση απαγορευμένων περιπτώσεων χρήσης αποτελεί, συνεπώς, θεμελιώδες βήμα για την αξιολόγηση της νομικής επιτρεπτότητας ενός συστήματος ΤΝ υπό το ενωσιακό δίκαιο.
Σημείωση
Οι πληροφορίες που παρέχονται στην παρούσα σελίδα έχουν αποκλειστικά ενημερωτικό χαρακτήρα και δεν συνιστούν νομική συμβουλή.