Εννοιολογικό πλαίσιο και κανονιστικός σκοπός 

Ο Κανονισμός (ΕΕ) για την Τεχνητή Νοημοσύνη (EU AI Act) εισάγει ένα εναρμονισμένο, ρόλο-κεντρικό κανονιστικό πλαίσιο για τα συστήματα τεχνητής νοημοσύνης που διατίθενται στην αγορά ή χρησιμοποιούνται εντός της Ευρωπαϊκής Ένωσης. Κεντρικής σημασίας στο πλαίσιο αυτό είναι η διάκριση μεταξύ παρόχων (providers) και χρηστών/εφαρμοστών (deployers) συστημάτων ΤΝ. 

Η διάκριση αυτή δεν είναι απλώς ορολογική. Ο Κανονισμός κατανέμει διαφορετικές υποχρεώσεις συμμόρφωσης, διακυβέρνησης και τεκμηρίωσης ανάλογα με τον ρόλο που αναλαμβάνει κάθε φορέας στον κύκλο ζωής του συστήματος ΤΝ. Η ορθή αναγνώριση του ρόλου αποτελεί, συνεπώς, κρίσιμο κατώφλι κανονιστικής εφαρμογής, καθώς καθορίζει το εύρος και την ένταση της ρυθμιστικής ευθύνης. 

Ο Κανονισμός υιοθετεί λειτουργική προσέγγιση: οι ρόλοι προσδιορίζονται βάσει των πραγματικών δραστηριοτήτων και του ελέγχου επί του συστήματος ΤΝ και όχι βάσει συμβατικών χαρακτηρισμών ή εμπορικών αυτοπροσδιορισμών. 

Συστηματική προσέγγιση του μοντέλου βάσει ρόλων 

Ο EU AI Act αναγνωρίζει περισσότερους φορείς στην αλυσίδα αξίας της ΤΝ, όπως παρόχους, χρήστες (deployers), εισαγωγείς και διανομείς. Στην πράξη, ωστόσο, το κύριο κανονιστικό βάρος φέρουν οι πάροχοι και οι χρήστες. 

Οι ρόλοι δεν είναι αμοιβαία αποκλειόμενοι. Υπό ορισμένες συνθήκες, ο ίδιος οργανισμός μπορεί να χαρακτηριστεί ταυτόχρονα ως πάροχος και χρήστης του ίδιου συστήματος ΤΝ. Η αξιολόγηση είναι πάντοτε συγκεκριμένη και εξατομικευμένη και πραγματοποιείται ανά σύστημα ΤΝ. 

Ο πάροχος (Provider) 

Νομικός ορισμός και λειτουργικός ρόλος 

Ως πάροχος νοείται κάθε φυσικό ή νομικό πρόσωπο, δημόσια αρχή ή άλλος φορέας που: 

• αναπτύσσει σύστημα ΤΝ ή αναθέτει την ανάπτυξή του, και 

• διαθέτει το σύστημα στην αγορά ή το θέτει σε λειτουργία υπό το όνομά του ή το εμπορικό του σήμα. 

Καθοριστικό στοιχείο δεν είναι ποιος υλοποίησε τεχνικά την ανάπτυξη, αλλά ποιος αναλαμβάνει τη ρυθμιστική ευθύνη για τη διάθεση του συστήματος και τον καθορισμό της προβλεπόμενης χρήσης του. 

Ο πάροχος, καθορίζοντας την προβλεπόμενη χρήση, διαμορφώνει άμεσα την κανονιστική ταξινόμηση του συστήματος, συμπεριλαμβανομένου του αν αυτό χαρακτηρίζεται ως σύστημα ΤΝ υψηλού κινδύνου. 

Κύριες υποχρεώσεις των παρόχων 

Οι πάροχοι φέρουν την πρωτογενή ευθύνη συμμόρφωσης με τον EU AI Act. Για συστήματα ΤΝ υψηλού κινδύνου, οι υποχρεώσεις τους περιλαμβάνουν ιδίως: 

• την ταξινόμηση του συστήματος βάσει κινδύνου, 

• τη θέσπιση συστήματος διαχείρισης κινδύνων, 

• την κατάρτιση και διατήρηση τεχνικής τεκμηρίωσης, 

• την εφαρμογή μέτρων διακυβέρνησης και ποιότητας δεδομένων, 

• τη διασφάλιση μηχανισμών ανθρώπινης εποπτείας, 

• τη διενέργεια αξιολόγησης συμμόρφωσης πριν από τη διάθεση στην αγορά, 

• την εγκαθίδρυση μηχανισμών μεταγενέστερης παρακολούθησης και διορθωτικών ενεργειών. 

Οι υποχρεώσεις αυτές ισχύουν πριν από τη διάθεση στην αγορά και συνεχίζονται καθ’ όλη τη διάρκεια λειτουργίας του συστήματος. 

Ο χρήστης / εφαρμοστής (Deployer) 

Νομικός ορισμός και λειτουργικός ρόλος 

Ως χρήστης (deployer) νοείται κάθε φυσικό ή νομικό πρόσωπο, δημόσια αρχή ή άλλος φορέας που χρησιμοποιεί σύστημα ΤΝ υπό τον έλεγχό του, χωρίς να είναι ο πάροχος. 

Οι χρήστες ενσωματώνουν συστήματα ΤΝ στις επιχειρησιακές τους διαδικασίες, όπως στη διαχείριση ανθρώπινου δυναμικού, στην εξυπηρέτηση πελατών, στην εκτίμηση κινδύνου ή στην υποστήριξη αποφάσεων. Ο ρόλος τους καθορίζεται, επομένως, από τη χρήση και εφαρμογή και όχι από την ανάπτυξη ή τη διάθεση στην αγορά. 

Κύριες υποχρεώσεις των χρηστών 

Οι υποχρεώσεις των χρηστών επικεντρώνονται στη νόμιμη και ορθή χρήση των συστημάτων ΤΝ. Ανάλογα με την κατηγορία κινδύνου, αυτές μπορεί να περιλαμβάνουν: 

• χρήση του συστήματος σύμφωνα με τις οδηγίες του παρόχου, 

• εφαρμογή μηχανισμών ανθρώπινης εποπτείας, όπου απαιτείται, 

• παρακολούθηση της απόδοσης του συστήματος στο επιχειρησιακό πλαίσιο, 

• αναφορά σοβαρών περιστατικών ή δυσλειτουργιών, 

• τήρηση υποχρεώσεων διαφάνειας έναντι των επηρεαζόμενων προσώπων. 

Παρότι οι χρήστες δεν ευθύνονται για τον σχεδιασμό του συστήματος, λογοδοτούν για τις πραγματικές συνέπειες της χρήσης του. 

Κριτήρια διάκρισης μεταξύ παρόχου και χρήστη 

Η διάκριση βασίζεται σε λειτουργικά κριτήρια και όχι σε συμβατικές ρυθμίσεις. Ενδεικτικά ερωτήματα είναι: 

• ποιος καθορίζει την προβλεπόμενη χρήση του συστήματος ΤΝ; 

• ποιος το διαθέτει στην αγορά ή το θέτει για πρώτη φορά σε λειτουργία; 

• ποιος προβαίνει σε ουσιώδεις τροποποιήσεις του συστήματος ή του σκοπού του; 

• ποιος ελέγχει τη συμμόρφωση με τις απαιτήσεις αξιολόγησης και τεκμηρίωσης; 

Ένας χρήστης μπορεί να καταστεί πάροχος εάν τροποποιήσει ουσιωδώς το σύστημα ή αλλάξει την προβλεπόμενη χρήση κατά τρόπο που επηρεάζει την κανονιστική του ταξινόμηση. Στις περιπτώσεις αυτές, ανακύπτουν υποχρεώσεις παρόχου εκ των υστέρων. 

Πολλαπλοί ρόλοι και μεταβολές ρόλων 

Ο EU AI Act αναγνωρίζει ρητώς ότι οι φορείς μπορεί να αναλαμβάνουν πολλαπλούς ρόλους ταυτόχρονα. Συνήθη παραδείγματα περιλαμβάνουν: 

• οργανισμούς που αναπτύσσουν συστήματα ΤΝ για εσωτερική χρήση, 

• χρήστες που προσαρμόζουν σε σημαντικό βαθμό συστήματα τρίτων, 

• ομίλους εταιρειών που μοιράζονται συστήματα ΤΝ μεταξύ θυγατρικών. 

Σε αυτές τις περιπτώσεις, οι υποχρεώσεις αξιολογούνται ανά ρόλο και ανά δραστηριότητα, με ιδιαίτερη προσοχή στα σημεία που ενεργοποιούν πρόσθετες κανονιστικές ευθύνες. 

Κατανομή ρόλων στα συστήματα ΤΝ υψηλού κινδύνου 

Η διάκριση μεταξύ παρόχου και χρήστη αποκτά ιδιαίτερη σημασία στα συστήματα ΤΝ υψηλού κινδύνου, όπου ο Κανονισμός προβλέπει ένα λεπτομερές και διαφοροποιημένο καθεστώς συμμόρφωσης. 

Οι υποχρεώσεις των παρόχων και των χρηστών είναι συμπληρωματικές, ώστε να διασφαλίζεται πλήρης κανονιστική κάλυψη σε ολόκληρο τον κύκλο ζωής του συστήματος. Εσφαλμένη αναγνώριση ρόλων μπορεί να οδηγήσει σε κενά συμμόρφωσης, κινδύνους επιβολής κυρώσεων ή εσφαλμένη κατανομή ευθύνης. 

Κανονιστική αιτιολόγηση 

Η προσέγγιση βάσει ρόλων αντανακλά συνειδητή κανονιστική επιλογή: η ευθύνη ανατίθεται εκεί όπου υφίσταται έλεγχος και επιρροή. Οι πάροχοι λογοδοτούν για τον σχεδιασμό, τη διάθεση και τη συμμόρφωση του συστήματος. Οι χρήστες λογοδοτούν για τη λειτουργική χρήση και τις επιπτώσεις της. 

Η λειτουργική αυτή κατανομή αποσκοπεί στην αποτροπή διάχυσης ή συμβατικής μετακύλισης ευθύνης και ενισχύει την αποτελεσματικότητα της ρύθμισης της ΤΝ. 

Συμπέρασμα 

Ο EU AI Act καθιερώνει σαφή διάκριση μεταξύ παρόχων και χρηστών συστημάτων τεχνητής νοημοσύνης και αποδίδει διακριτές κανονιστικές υποχρεώσεις σε κάθε ρόλο. Η ταξινόμηση βασίζεται στις πραγματικές λειτουργίες και στον έλεγχο και όχι σε συμβατικούς χαρακτηρισμούς. 

Η ορθή αναγνώριση του ρόλου αποτελεί βασική προϋπόθεση για τη συμμόρφωση με τον Κανονισμό και για την κατανόηση των κανονιστικών ευθυνών που απορρέουν από την ανάπτυξη, τη διάθεση και τη χρήση συστημάτων ΤΝ εντός της Ευρωπαϊκής Ένωσης. 

Σημείωση 

Οι πληροφορίες που παρέχονται στην παρούσα σελίδα έχουν αποκλειστικά ενημερωτικό χαρακτήρα και δεν συνιστούν νομική συμβουλή.