Nέους κανόνες για μελλοντική χρήση τεχνητής νοημοσύνης προτείνει η Κομισιόν

Νέους κανόνες για τη μελλοντική χρήση τεχνητής νοημοσύνης (ΤΝ) στην ΕΕ, που περιλαμβάνουν ένα νομικό πλαίσιο και σχέδιο δράσης σε συντονισμό με τα κράτη μέλη, ενέκρινε σήμερα το Κολέγιο των Επιτρόπων και πρότεινε η Κομισιόν προς το Συμβούλιο των κρατών μελών.

Στόχος του πακέτου είναι η εγγύηση της ασφάλειας και των θεμελιωδών δικαιωμάτων των πολιτών και των επιχειρήσεων, με πρόσθετους κανόνες ασφαλείας.

Ο νέος κανονισμός για την ΤΝ έχει στόχο να διασφαλίσει ότι οι Ευρωπαίοι μπορούν να εμπιστεύονται όλα όσα έχει να προσφέρει η ΤΝ. Οι αναλογικοί και ευέλικτοι κανόνες θα αντιμετωπίσουν τους ειδικούς κινδύνους, που ενέχουν τα συστήματα ΤΝ και θα θέσουν τα πλέον υψηλά πρότυπα σε παγκόσμιο επίπεδο.

Οι νέοι κανόνες θα εφαρμόζονται άμεσα και με τον ίδιο τρόπο σε όλα τα κράτη μέλη βάσει ενός διαχρονικού ορισμού της τεχνητής νοημοσύνης.

Οι εν λόγω κανόνες ακολουθούν μια προσέγγιση με βάση τον κίνδυνο, ο οποίος κατατάσσεται στις κάτωθι κατηγορίες:

1) Μη αποδεκτός κίνδυνος: 

Εκεί εντάσσονται τα συστήματα ΤΝ που θεωρείται ότι συνιστούν σαφή απειλή για την ασφάλεια, τον βιοπορισμό και τα δικαιώματα των ατόμων θα απαγορεύονται. Εδώ περιλαμβάνονται συστήματα ή εφαρμογές ΤΝ που χειραγωγούν την ανθρώπινη συμπεριφορά για να παρακάμψουν την ελεύθερη βούληση των χρηστών (παραδείγματος χάριν, παιχνίδια με φωνητικό βοηθό που παροτρύνουν ανηλίκους σε επικίνδυνη συμπεριφορά) και συστήματα που επιτρέπουν την «κοινωνική βαθμολόγηση» από τις κυβερνήσεις.

2) Υψηλός κίνδυνος: 

Πρόκειται για τα συστήματα ΤΝ που χαρακτηρίζονται ως υψηλού κινδύνου περιλαμβάνεται η τεχνολογία ΤΝ που χρησιμοποιείται:

- στις υποδομές ζωτικής σημασίας (π.χ. μεταφορές), τεχνολογία ΤΝ, που θα μπορούσε να θέσει σε κίνδυνο τη ζωή και την υγεία των πολιτών·

- στην εκπαίδευση ή την επαγγελματική κατάρτιση, τεχνολογία ΤΝ που μπορεί να καθορίζει την πρόσβαση στην εκπαίδευση και την πορεία της επαγγελματικής ζωής ενός ατόμου (π.χ. βαθμολόγηση εξετάσεων)·

- στα κατασκευαστικά στοιχεία ασφαλείας των προϊόντων (π.χ. εφαρμογή ΤΝ σε υποβοηθούμενη από ρομπότ χειρουργική)·

- στην απασχόληση, στη διαχείριση εργαζομένων και στην πρόσβαση στην αυτοαπασχόληση (π.χ. λογισμικό διαλογής βιογραφικών σημειωμάτων για διαδικασίες πρόσληψης)·

- στις βασικές ιδιωτικές και δημόσιες υπηρεσίες (π.χ. αξιολόγηση πιστοληπτικής ικανότητας που στερεί από τους πολίτες τη δυνατότητα να λαμβάνουν δάνεια)·

- στην επιβολή του νόμου, τεχνολογία ΤΝ που μπορεί να παρεμβαίνει στα θεμελιώδη δικαιώματα των πολιτών (π.χ. αξιολόγηση της αξιοπιστίας των αποδεικτικών στοιχείων)·

- στη διαχείριση της μετανάστευσης, του ασύλου και των συνοριακών ελέγχων (π.χ. εξακρίβωση της γνησιότητας ταξιδιωτικών εγγράφων)·

- στην απονομή δικαιοσύνης και στις δημοκρατικές διαδικασίες (π.χ. εφαρμογή του νόμου σε συγκεκριμένα πραγματικά περιστατικά).

Τα συστήματα ΤΝ υψηλού κινδύνου θα υπόκεινται σε αυστηρές υποχρεώσεις προτού επιτραπεί η διάθεσή τους στην αγορά:

Κατάλληλα συστήματα εκτίμησης και μετριασμού των κινδύνων.

Επιπλέον, όλα τα συστήματα εξ αποστάσεως βιομετρικής ταυτοποίησης θεωρούνται υψηλού κινδύνου και υπόκεινται σε αυστηρές απαιτήσεις.

Η χρήση τους σε πραγματικό χρόνο σε δημοσίως προσβάσιμους χώρους για σκοπούς επιβολής του νόμου καταρχήν απαγορεύεται.

Οι ελάχιστες εξαιρέσεις σ` αυτόν τον κανόνα καθορίζονται και ρυθμίζονται αυστηρά (για παράδειγμα, όταν είναι απολύτως αναγκαίο για την αναζήτηση αγνοούμενου παιδιού, για την πρόληψη συγκεκριμένης και επικείμενης τρομοκρατικής απειλής ή για τον εντοπισμό, την επισήμανση, την ταυτοποίηση ή τη δίωξη δράστη ή υπόπτου σοβαρής αξιόποινης πράξης).

Η χρήση αυτή υπόκειται στην έγκριση δικαστικής ή άλλης ανεξάρτητης αρχής και σε κατάλληλους περιορισμούς όσον αφορά το χρονικό διάστημα, τη γεωγραφική εμβέλεια και τις βάσεις δεδομένων όπου πραγματοποιείται αναζήτηση.

3) Περιορισμένος κίνδυνος, δηλαδή συστήματα ΤΝ που υπόκεινται σε συγκεκριμένες υποχρεώσεις διαφάνειας:

Όταν χρησιμοποιούν συστήματα ΤΝ όπως τα διαλογικά ρομπότ (chatbot), οι χρήστες θα πρέπει να γνωρίζουν ότι αλληλεπιδρούν με μηχάνημα, ώστε να μπορούν να λάβουν τεκμηριωμένη απόφαση να συνεχίσουν ή να διακόψουν την αλληλεπίδραση.

4) Ελάχιστος κίνδυνος: 

Η νομική πρόταση επιτρέπει την ελεύθερη χρήση εφαρμογών όπως βιντεοπαιχνιδιών βασισμένων στην τεχνητή νοημοσύνη ή φίλτρων ανεπιθύμητης αλληλογραφίας. Η συντριπτική πλειονότητα των συστημάτων ΤΝ εμπίπτουν σε αυτή την κατηγορία. Το σχέδιο κανονισμού δεν παρεμβαίνει σε αυτή την κατηγορία, καθώς αυτά τα συστήματα ΤΝ συνεπάγονται μόνο ελάχιστο ή μηδενικό κίνδυνο για τα δικαιώματα και την ασφάλεια των πολιτών.

Όσον αφορά τη διακυβέρνηση, η Κομισιόν προτείνει οι εθνικές αρμόδιες αρχές εποπτείας της αγοράς να εποπτεύουν τους νέους κανόνες, ενώ η δημιουργία ενός Ευρωπαϊκού Συμβουλίου Τεχνητής Νοημοσύνης θα διευκολύνει την εφαρμογή τους και θα προωθήσει την ανάπτυξη προτύπων για την ΤΝ.

Επιπλέον, προτείνονται εθελοντικοί κώδικες δεοντολογίας για την ΤΝ μη υψηλού κινδύνου, καθώς και ρυθμιστικά δοκιμαστήρια για τη διευκόλυνση της υπεύθυνης καινοτομίας.

Η Κομισιόν αναφέρει ότι  συντονισμός θα ενισχύσει την ηγετική θέση της Ευρώπης στον τομέα της ανθρωποκεντρικής, βιώσιμης, ασφαλούς και αξιόπιστης ΤΝ χωρίς αποκλεισμούς.

Η Κομισιόν τονίζει ότι με τη συνολική επικαιροποίηση του συντονισμένου σχεδίου προτείνονται συγκεκριμένες κοινές δράσεις συνεργασίας προκειμένου να διασφαλιστεί ότι όλες οι προσπάθειες εναρμονίζονται με την ευρωπαϊκή στρατηγική για την τεχνητή νοημοσύνη και την Ευρωπαϊκή Πράσινη Συμφωνία, λαμβάνοντας παράλληλα υπόψη τις νέες προκλήσεις που συνεπάγεται η πανδημία του κορωνοϊού. Προτείνεται δε ένα όραμα για την επιτάχυνση των επενδύσεων στην ΤΝ, οι οποίες μπορούν να ωφελήσουν την ανάκαμψη. Σκοπός της είναι, επίσης, να δώσει ώθηση στην εφαρμογή εθνικών στρατηγικών ΤΝ, να εξαλείψει τον κατακερματισμό και να δώσει απάντηση σε παγκόσμιες προκλήσεις.

Το επικαιροποιημένο συντονισμένο σχέδιο θα χρησιμοποιήσει τη χρηματοδότηση που διατίθεται μέσω των προγραμμάτων «Ψηφιακή Ευρώπη» και «Ορίζων Ευρώπη», καθώς και του Μηχανισμού Ανάκαμψης και Ανθεκτικότητας που προβλέπει στόχο 20 % για ψηφιακές δαπάνες και των προγραμμάτων της πολιτικής συνοχής με σκοπό:

- τη δημιουργία ευνοϊκών συνθηκών για την ανάπτυξη και την αποδοχή της ΤΝ μέσω ανταλλαγής γνώσεων περί πολιτικής, διαμοιρασμού δεδομένων και επενδύσεων σε ζωτικές υπολογιστικές ικανότητες·

- την προώθηση της αριστείας στον τομέα της τεχνητής νοημοσύνης «από το εργαστήριο στην αγορά», με τη δημιουργία σύμπραξης δημόσιου-ιδιωτικού τομέα, τη δημιουργία και κινητοποίηση ικανοτήτων έρευνας, ανάπτυξης και καινοτομίας, και τη διάθεση εγκαταστάσεων δοκιμών και πειραματισμού, καθώς και κόμβων ψηφιακής καινοτομίας σε ΜΜΕ και δημόσιες διοικήσεις·

- τη διασφάλιση ότι η τεχνητή νοημοσύνη χρησιμοποιείται προς όφελος των ανθρώπων και αποτελεί μια δύναμη για το καλό της κοινωνίας, καθώς η Ευρώπη βρίσκεται στην πρωτοπορία της ανάπτυξης και της ευρείας χρήσης αξιόπιστης τεχνητής νοημοσύνης, καλλιεργώντας ταλέντα και δεξιότητες με την παροχή στήριξης για περιόδους πρακτικής άσκησης, διδακτορικά δίκτυα και μεταδιδακτορικές υποτροφίες σε ψηφιακούς τομείς, ενσωματώνοντας την εμπιστοσύνη στις πολιτικές για την ΤΝ και προωθώντας το ευρωπαϊκό όραμα για μια βιώσιμη και αξιόπιστη ΤΝ σε παγκόσμιο επίπεδο·

τη δημιουργία στρατηγικής ηγετικής θέσης σε τομείς και τεχνολογίες υψηλού αντίκτυπου, συμπεριλαμβανομένου του περιβάλλοντος, εστιάζοντας στη συμβολή της τεχνητής νοημοσύνης στη βιώσιμη παραγωγή, στην υγεία μέσω της επέκτασης της διασυνοριακής ανταλλαγής πληροφοριών, καθώς και στον δημόσιο τομέα, την κινητικότητα, τις εσωτερικές υποθέσεις και τη γεωργία, και τη ρομποτική.

Σε ό,τι αφορά τα μηχανολογικά προϊόντα, o εν λόγω νέος κανονισμός θα διασφαλίζει ότι η νέα γενιά μηχανημάτων θα εγγυάται την ασφάλεια των χρηστών και των καταναλωτών και ενθαρρύνει την καινοτομία. Θα διασφαλίζει δε την ασφαλή ενσωμάτωση του συστήματος ΤΝ στο σύνολο των μηχανημάτων. Οι επιχειρήσεις θα πρέπει να διενεργούν μία μόνο αξιολόγηση της συμμόρφωσης. 

Επιπλέον, ο νέος κανονισμός για τα μηχανήματα θα παρέχει μεγαλύτερη νομική σαφήνεια στις ισχύουσες διατάξεις, απλουστεύοντας τον διοικητικό φόρτο και το κόστος για τις εταιρείες μέσω των ψηφιακών μορφοτύπων για την τεκμηρίωση και της προσαρμογής των τελών αξιολόγησης της συμμόρφωσης για τις ΜΜΕ, διασφαλίζοντας παράλληλα τη συνοχή με το νομοθετικό πλαίσιο της ΕΕ για τα προϊόντα.

ΠΗΓΗ: ΚΥΠΕ