Η διαφάνεια ως κανονιστική αρχή 

Η διαφάνεια αποτελεί θεμελιώδη αρχή της ευρωπαϊκής ψηφιακής ρύθμισης και διαδραματίζει κεντρικό ρόλο στον Κανονισμό (ΕΕ) για την Τεχνητή Νοημοσύνη (EU AI Act). Ο Κανονισμός βασίζεται στην παραδοχή ότι τα φυσικά πρόσωπα πρέπει να είναι σε θέση να αναγνωρίζουν πότε και πώς χρησιμοποιείται τεχνητή νοημοσύνη, ιδίως όταν τα συστήματα ΤΝ αλληλεπιδρούν άμεσα με ανθρώπους ή επηρεάζουν αποφάσεις που τους αφορούν. 

Σε αντίθεση με τις υποχρεώσεις διακυβέρνησης που ισχύουν για τα συστήματα ΤΝ υψηλού κινδύνου, οι υποχρεώσεις διαφάνειας εφαρμόζονται οριζόντια, σε συγκεκριμένες περιπτώσεις χρήσης και ανεξαρτήτως κατηγορίας κινδύνου. Σκοπός τους δεν είναι η απαγόρευση ή η υπό όρους έγκριση της χρήσης ΤΝ, αλλά η ενημέρωση, ιχνηλασιμότητα και συνειδητή αλληλεπίδραση. 

Η διαφάνεια στον EU AI Act συνδέεται στενά με τις έννοιες της αυτονομίας, της λογοδοσίας και της εμπιστοσύνης σε περιβάλλοντα όπου χρησιμοποιείται τεχνητή νοημοσύνη. 

Αποδέκτες των υποχρεώσεων διαφάνειας 

Οι υποχρεώσεις διαφάνειας απευθύνονται πρωτίστως σε παρόχους και χρήστες (deployers) συστημάτων ΤΝ, ανάλογα με την εκάστοτε περίπτωση χρήσης: 

• Οι πάροχοι φέρουν κατά κανόνα την ευθύνη για τον σχεδιασμό συστημάτων που επιτρέπουν τη διαφάνεια και για την παροχή των αναγκαίων πληροφοριών και οδηγιών. 

• Οι χρήστες (deployers) ευθύνονται για την αποτελεσματική εφαρμογή των μέτρων διαφάνειας στην πράξη, ιδίως σε περιβάλλοντα άμεσης αλληλεπίδρασης με φυσικά πρόσωπα. 

Όπως και σε άλλα σημεία του Κανονισμού, η κατανομή των υποχρεώσεων ακολουθεί λειτουργική προσέγγιση, βάσει του πραγματικού ελέγχου επί του σχεδιασμού και της χρήσης του συστήματος και όχι βάσει συμβατικών χαρακτηρισμών. 

Κύριες περιπτώσεις χρήσης που ενεργοποιούν υποχρεώσεις διαφάνειας 

Ο EU AI Act προσδιορίζει ορισμένα τυπικά σενάρια εφαρμογής στα οποία επιβάλλονται υποχρεώσεις διαφάνειας. Οι υποχρεώσεις αυτές δεν εξαρτώνται από την τεχνική πολυπλοκότητα του συστήματος, αλλά από τη φύση της αλληλεπίδρασης και τον δυνητικό της αντίκτυπο στα άτομα. 

Συστήματα ΤΝ που αλληλεπιδρούν με φυσικά πρόσωπα (π.χ. chatbots) 

Όταν ένα σύστημα ΤΝ έχει σχεδιαστεί ώστε να αλληλεπιδρά άμεσα με άτομα, οι χρήστες πρέπει να ενημερώνονται ότι αλληλεπιδρούν με σύστημα τεχνητής νοημοσύνης, εκτός εάν αυτό είναι προφανές από το πλαίσιο. 

Η υποχρέωση αυτή εφαρμόζεται, ενδεικτικά, σε: 

• συνομιλιακούς πράκτορες και chatbots, 

• εικονικούς βοηθούς, 

• αυτοματοποιημένα συστήματα εξυπηρέτησης πελατών. 

Στόχος είναι η αποτροπή παραπλανητικών ή απατηλών αλληλεπιδράσεων και η δυνατότητα των ατόμων να προσαρμόζουν τη συμπεριφορά και τις προσδοκίες τους. 

Συστήματα αναγνώρισης συναισθημάτων και βιομετρικής κατηγοριοποίησης 

Τα συστήματα ΤΝ που χρησιμοποιούνται για αναγνώριση συναισθημάτων ή βιομετρική κατηγοριοποίησηυπόκεινται σε αυξημένες υποχρεώσεις διαφάνειας. 

Τα άτομα που εκτίθενται σε τέτοια συστήματα πρέπει να ενημερώνονται για: 

• τη χρήση ανάλυσης βάσει τεχνητής νοημοσύνης, και 

• τον γενικό σκοπό του συστήματος. 

Οι υποχρεώσεις αυτές αντανακλούν τον ιδιαίτερα παρεμβατικό χαρακτήρα των βιομετρικών και συναισθηματικών τεχνολογιών και τον δυνητικό τους αντίκτυπο στην ιδιωτικότητα και την ανθρώπινη αξιοπρέπεια. 

Περιεχόμενο που παράγεται ή αλλοιώνεται από ΤΝ 

Ο EU AI Act ρυθμίζει επίσης ζητήματα διαφάνειας σε σχέση με περιεχόμενο που παράγεται ή τροποποιείται μέσω ΤΝ, όπως συνθετικός ήχος, βίντεο ή εικόνες. 

Όταν το περιεχόμενο έχει δημιουργηθεί ή μεταβληθεί με τη χρήση ΤΝ, οι υποχρεώσεις διαφάνειας αποσκοπούν στο να διασφαλίσουν ότι οι αποδέκτες δεν παραπλανώνται ως προς την προέλευση ή την αυθεντικότητά του, με την επιφύλαξη στενά οριοθετημένων εξαιρέσεων. 

Η διάσταση αυτή της διαφάνειας συνδέεται με ευρύτερες ανησυχίες σχετικά με την παραπληροφόρηση και την εμπιστοσύνη στις ψηφιακές επικοινωνίες. 

Σχέση με τις απαιτήσεις διαφάνειας του ΓΚΠΔ (GDPR) 

Οι υποχρεώσεις διαφάνειας του EU AI Act λειτουργούν παράλληλα και συμπληρωματικά προς τις υποχρεώσεις διαφάνειας του Γενικού Κανονισμού για την Προστασία Δεδομένων (GDPR). 

Παρότι τα δύο καθεστώτα μοιράζονται κοινούς στόχους, το επίκεντρό τους διαφέρει: 

• Η διαφάνεια του GDPR αφορά την επεξεργασία δεδομένων προσωπικού χαρακτήρα, συμπεριλαμβανομένων των νομικών βάσεων και των δικαιωμάτων των υποκειμένων. 

• Η διαφάνεια του EU AI Act αφορά τη χρήση της τεχνητής νοημοσύνης καθαυτής, ανεξαρτήτως του αν γίνεται επεξεργασία προσωπικών δεδομένων. 

Στην πράξη, συστήματα ΤΝ που επεξεργάζονται προσωπικά δεδομένα ενδέχεται να υπόκεινται σε σωρευτικές υποχρεώσεις διαφάνειας και βάσει των δύο πλαισίων, οι οποίες πρέπει να αντιμετωπίζονται συντονισμένα. 

Μορφή και χρόνος παροχής πληροφοριών διαφάνειας 

Ο EU AI Act δεν επιβάλλει ενιαία μορφή γνωστοποιήσεων διαφάνειας. Οι πληροφορίες πρέπει, ωστόσο, να είναι: 

• σαφείς, 

• προσβάσιμες, και 

• ανάλογες με το πλαίσιο χρήσης. 

Κατά την αξιολόγηση λαμβάνονται υπόψη, μεταξύ άλλων: 

• το κοινό στο οποίο απευθύνονται, 

• η πολυπλοκότητα του συστήματος ΤΝ, 

• οι δυνητικές συνέπειες της χρήσης ΤΝ για τα άτομα. 

Οι πληροφορίες διαφάνειας πρέπει να παρέχονται σε κατάλληλο χρόνο, συνήθως πριν ή κατά τη στιγμή της αλληλεπίδρασης, ώστε να μπορούν να επηρεάσουν ουσιαστικά τη συμπεριφορά ή τις αποφάσεις των ατόμων. 

Νομικές συνέπειες μη συμμόρφωσης 

Η μη συμμόρφωση με τις υποχρεώσεις διαφάνειας συνιστά παράβαση του EU AI Act και μπορεί να οδηγήσει σε ενέργειες επιβολής από τις αρμόδιες αρχές, όπως: 

• διορθωτικά μέτρα και εντολές συμμόρφωσης, 

• περιορισμούς στη χρήση του συστήματος ΤΝ, 

• διοικητικά πρόστιμα. 

Παρότι οι υποχρεώσεις διαφάνειας είναι, κατά κανόνα, λιγότερο επαχθείς από τις απαιτήσεις για συστήματα υψηλού κινδύνου, η μη συμμόρφωση μπορεί να συνεπάγεται ουσιώδεις κανονιστικούς και φήμης κινδύνους. 

Κανονιστική λειτουργία των υποχρεώσεων διαφάνειας 

Οι υποχρεώσεις διαφάνειας επιτελούν διακριτή κανονιστική λειτουργία εντός του EU AI Act. Στοχεύουν στη μείωση των ασυμμετριών πληροφόρησης μεταξύ των φορέων που χρησιμοποιούν ΤΝ και των προσώπων που επηρεάζονται από αυτήν και στη στήριξη της ενημερωμένης συμμετοχής σε περιβάλλοντα με διαμεσολάβηση ΤΝ. 

Με την επιβολή γνωστοποιήσεων σε συγκεκριμένα σενάρια, ο Κανονισμός επιδιώκει να ενισχύσει την αξιόπιστη χρήση της ΤΝ, χωρίς να επιβαρύνει δυσανάλογα εφαρμογές χαμηλού κινδύνου. 

Συμπέρασμα 

Οι υποχρεώσεις διαφάνειας βάσει του ενωσιακού δικαίου διασφαλίζουν ότι τα άτομα γνωρίζουν τη χρήση τεχνητής νοημοσύνης σε πλαίσια όπου η γνώση αυτή έχει νομική και ηθική σημασία. Εφαρμόζονται σε ποικίλες εφαρμογές ΤΝ, όπως chatbots, βιομετρικά συστήματα και περιεχόμενο που παράγεται από ΤΝ, και λειτουργούν παράλληλα με τις απαιτήσεις διαφάνειας του GDPR. 

Αν και οι υποχρεώσεις διαφάνειας δεν απαγορεύουν τη χρήση ΤΝ, αποτελούν ουσιώδες στοιχείο της ευρωπαϊκής προσέγγισης για υπεύθυνη και λογοδοτούσα τεχνητή νοημοσύνη. 

Σημείωση 

Οι πληροφορίες που παρέχονται στην παρούσα σελίδα έχουν αποκλειστικά ενημερωτικό χαρακτήρα και δεν συνιστούν νομική συμβουλή.