Αυτοί είναι οι νέοι κανόνες της Ευρωπαϊκής Ένωσης για την τεχνητή νοημοσύνη

Οι χώρες της Ευρωπαϊκής Ένωσης ενέκριναν την Τρίτη μια πολιτική συμφωνία που συνήφθη τον περασμένο Δεκέμβριο και η οποία θέτει τους κανόνες της ΕΕ για την τεχνητή νοημοσύνη που χρησιμοποιείται σε ένα ευρύ φάσμα βιομηχανιών και στην καθημερινή ζωή.

Οι νομοθέτες του Ευρωπαϊκού Κοινοβουλίου είχαν ήδη υποστηρίξει τον Μάρτιο ένα τροποποιημένο σχέδιο πρότασης της Ευρωπαϊκής Επιτροπής, ενώ την Τρίτη το Ευρωπαϊκό Συμβούλιο έδωσε το τελικό πράσινο φως.

Ο νόμος της ΕΕ για την τεχνητή νοημοσύνη πιθανότατα θα αποτελέσει σημείο αναφοράς για άλλες χώρες εν μέσω ανησυχιών σχετικά με τον ρόλο της τεχνολογίας στην παραπληροφόρηση, τις ψευδείς ειδήσεις και τη χρήση υλικού που προστατεύεται από πνευματικά δικαιώματα.

Όπως αναφέρεται στη σχετική ανακοίνωση του Συμβουλίου, «το νέο νομοθέτημα επιδιώκει να προωθήσει την ανάπτυξη και την υιοθέτηση ασφαλούς και αξιόπιστης ΤΝ σε ολόκληρη την ενιαία αγορά της ΕΕ τόσο από ιδιωτικούς όσο και από δημόσιους φορείς. Ταυτόχρονα, αποσκοπεί να διασφαλίσει τον σεβασμό των θεμελιωδών δικαιωμάτων των πολιτών της ΕΕ και να τονώσει τις επενδύσεις και την καινοτομία στην τεχνητή νοημοσύνη στην Ευρώπη. Η πράξη για την ΤΝ εφαρμόζεται μόνο σε τομείς που εμπίπτουν στο δίκαιο της ΕΕ, ωστόσο εξαιρούνται τα συστήματα που χρησιμοποιούνται αποκλειστικά για στρατιωτικούς και αμυντικούς σκοπούς, καθώς και για ερευνητικούς σκοπούς.

Συστήματα υψηλού κινδύνου και απαγορευμένες πρακτικές

Το νέο νομοθέτημα κατηγοριοποιεί τα διάφορα είδη τεχνητής νοημοσύνης ανάλογα με τον κίνδυνο. Τα συστήματα ΤΝ που παρουσιάζουν περιορισμένο μόνο κίνδυνο θα υπόκεινται σε πολύ ήπιες υποχρεώσεις διαφάνειας, ενώ τα συστήματα ΤΝ υψηλού κινδύνου θα αδειοδοτούνται, αλλά θα υπόκεινται σε ένα σύνολο απαιτήσεων και υποχρεώσεων για την απόκτηση πρόσβασης στην αγορά της ΕΕ. Συστήματα ΤΝ, όπως, για παράδειγμα, η γνωστική χειραγώγηση συμπεριφοράς και η κοινωνική βαθμολόγηση θα απαγορευτούν από την ΕΕ επειδή η επικινδυνότητά τους θεωρείται απαράδεκτη. Η πράξη απαγορεύει επίσης τη χρήση ΤΝ για προληπτική αστυνόμευση με βάση την κατάρτιση προφίλ και συστήματα που χρησιμοποιούν βιομετρικές πληροφορίες για τη συναγωγή συμπερασμάτων σχετικά με τη φυλετική καταγωγή, τη θρησκεία ή τον γενετήσιο προσανατολισμό των ατόμων.

Εξαιρέσεις από την επιβολή του νόμου

Προκειμένου να διατηρηθεί η δυνατότητά τους να χρησιμοποιούν ΤΝ στο ζωτικό έργο τους, το κείμενο περιλαμβάνει ορισμένες εξαιρέσεις καθώς και διασφαλίσεις για τις αρχές επιβολής του νόμου. Επιτρέπεται, σε ορισμένες περιπτώσεις, να χρησιμοποιούν εργαλείο ΤΝ υψηλού κινδύνου που δεν έχει περάσει επιτυχώς τη διαδικασία αξιολόγησης της συμμόρφωσης, καθώς και συστήματα εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους, με την επιφύλαξη ορισμένων αυστηρών διασφαλίσεων.

Συστήματα ΤΝ γενικού σκοπού και θεμελιώδη μοντέλα

Η πράξη για την ΤΝ εξετάζει επίσης τη χρήση μοντέλων ΤΝ γενικού σκοπού (ΤΝΓΣ).

Τα μοντέλα ΤΝΓΣ που δεν ενέχουν συστημικούς κινδύνους θα υπόκεινται σε ορισμένες περιορισμένες απαιτήσεις, για παράδειγμα όσον αφορά τη διαφάνεια, ενώ τα μοντέλα με συστημικούς κινδύνους θα πρέπει να συμμορφώνονται με αυστηρότερους κανόνες.

Μια νέα αρχιτεκτονική διακυβέρνησης

Για να διασφαλιστεί η ορθή επιβολή, συγκροτούνται διάφορα διοικητικά όργανα:

• Υπηρεσία ΤΝ εντός της Επιτροπής για την επιβολή των κοινών κανόνων σε ολόκληρη την ΕΕ
• Επιστημονική ομάδα ανεξάρτητων εμπειρογνωμόνων για την υποστήριξη των δραστηριοτήτων επιβολής
• Συντονιστικό συμβούλιο ΤΝ με εκπροσώπους των κρατών μελών για την παροχή συμβουλών και συνδρομής στην Επιτροπή και τα κράτη μέλη σχετικά με τη συνεπή και αποτελεσματική εφαρμογή της πράξης για την ΤΝ
• Συμβουλευτικό φόρουμ για τα ενδιαφερόμενα μέρη με σκοπό την παροχή τεχνικής εμπειρογνωμοσύνης στο συμβούλιο ΤΝ και στην Επιτροπή

Κυρώσεις

Τα πρόστιμα για παραβάσεις του κανονισμού για την ΤΝ καθορίζονται ως ποσοστό του παγκόσμιου ετήσιου κύκλου εργασιών της επιχείρησης που παρανομεί κατά το προηγούμενο οικονομικό έτος ή ως προκαθορισμένο ποσό, ανάλογα με το ποιο είναι υψηλότερο. Οι ΜΜΕ και οι νεοφυείς επιχειρήσεις υπόκεινται σε αναλογικά διοικητικά πρόστιμα.

Διαφάνεια και προστασία των θεμελιωδών δικαιωμάτων

Πριν από την εγκατάσταση ενός συστήματος ΤΝ υψηλού κινδύνου από ορισμένες οντότητες που παρέχουν δημόσιες υπηρεσίες, θα πρέπει να αξιολογηθεί ο αντίκτυπος στα θεμελιώδη δικαιώματα. Ο κανονισμός προβλέπει επίσης αυξημένη διαφάνεια όσον αφορά την ανάπτυξη και χρήση συστημάτων ΤΝ υψηλού κινδύνου. Τα συστήματα ΤΝ υψηλού κινδύνου, καθώς και ορισμένοι χρήστες ενός συστήματος ΤΝ υψηλού κινδύνου που είναι δημόσιοι φορείς θα πρέπει να καταχωρίζονται στη βάση δεδομένων της ΕΕ για συστήματα ΤΝ υψηλού κινδύνου, και οι χρήστες συστήματος αναγνώρισης συναισθημάτων θα πρέπει να ενημερώνουν τα φυσικά πρόσωπα όταν εκτίθενται σε τέτοιο σύστημα.

Μέτρα για τη στήριξη της καινοτομίας

Η πράξη για την ΤΝ προβλέπει ένα φιλικό προς την καινοτομία νομικό πλαίσιο και αποσκοπεί στην προώθηση τεκμηριωμένης ρυθμιστικής μάθησης. Το νέο νομοθέτημα προβλέπει ότι τα ρυθμιστικά δοκιμαστήρια ΤΝ, τα οποία δημιουργούν ένα ελεγχόμενο περιβάλλον για την ανάπτυξη, τη δοκιμή και την επικύρωση καινοτόμων συστημάτων ΤΝ, θα πρέπει επίσης να επιτρέπουν τη δοκιμή καινοτόμων συστημάτων ΤΝ σε πραγματικές συνθήκες.

Επόμενα βήματα

Αφού υπογραφεί από τους προέδρους του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, η νομοθετική πράξη θα δημοσιευθεί στην Επίσημη Εφημερίδα της ΕΕ τις προσεχείς ημέρες και θα τεθεί σε ισχύ είκοσι ημέρες μετά τη δημοσίευση. Ο νέος κανονισμός θα εφαρμοστεί δύο χρόνια μετά την έναρξη ισχύος του, με ορισμένες εξαιρέσεις για συγκεκριμένες διατάξεις».