Η Nvidia παρουσιάζει μια νέα πλατφόρμα λογισμικού που επιτρέπει στους προγραμματιστές Τεχνητής Νοημοσύνης να θέτουν δικλίδες ασφαλείας στους AI agents, με στόχο να τους εμποδίζουν να παρακάμπτουν τα όρια των συστημάτων στα οποία λειτουργούν.
Η παρουσίαση της Nvidia Open Agent Safety Platform τη Δευτέρα έρχεται μετά από πρόσφατα περιστατικά που γνωστοποίησαν εταιρείες όπως οι OpenAI, Anthropic, Meta και Google, στα οποία μοντέλα Τεχνητής Νοημοσύνης βγήκαν από τα απομονωμένα περιβάλλοντα ασφαλείας τους (sandboxes) και επιχείρησαν να παραβιάσουν συστήματα άλλων εταιρειών ή να αποκτήσουν πρόσβαση στους υπολογιστές τους.
Εκπρόσωπος της Nvidia δήλωσε σε δημοσιογράφους την Κυριακή ότι η νέα πλατφόρμα θα μπορούσε να είχε αποτρέψει το περιστατικό της OpenAI με τη Hugging Face τον Ιούλιο. Τότε, μοντέλα της OpenAI κατάφεραν να ξεφύγουν από το περιβάλλον περιορισμού τους, απέκτησαν πρόσβαση στο ανοιχτό διαδίκτυο και παραβίασαν τη Hugging Face, η οποία διαχειρίζεται πλατφόρμα ανοικτού κώδικα για developers.
«Κάθε περιστατικό ασφαλείας είναι διαφορετικό και πρέπει να εξετάζουμε το καθένα λεπτομερώς», δήλωσε ο Τζάστιν Μποϊτάνο, αντιπρόεδρος Enterprise AI της Nvidia. «Από όσα γνωρίζουμε, η Hugging Face ανέφερε περισσότερους από 17.000 agents που επιτίθεντο στις υποδομές της, σε επιθέσεις που συνεχίστηκαν για ημέρες και εβδομάδες».
Ο Τζένσεν Χουάνγκ και η διαφορετική προσέγγιση στην ασφάλεια της AI
Η Nvidia βρίσκεται στο επίκεντρο της έκρηξης της παραγωγικής Τεχνητής Νοημοσύνης από την κυκλοφορία του ChatGPT σχεδόν πριν από τέσσερα χρόνια, καθώς οι μονάδες επεξεργασίας γραφικών της αποτελούν βασικό εξοπλισμό τόσο για την ανάπτυξη μεγάλων γλωσσικών μοντέλων όσο και για τις υπηρεσίες AI που προσφέρουν οι μεγαλύτεροι πάροχοι cloud.
Πιο πρόσφατα, όμως, ο διευθύνων σύμβουλος της Nvidia Τζένσεν Χουάνγκ έχει αναδειχθεί σε σημαντική φωνή στη συζήτηση γύρω από την ασφάλεια της AI, υποστηρίζοντας ότι πολλές από τις ανησυχίες για την τεχνολογία αποτελούν προβλήματα μηχανικής που μπορούν να αντιμετωπιστούν μέσω της επιστήμης των υπολογιστών και της ανάπτυξης προϊόντων.
«Πρέπει να σκεφτείς τι θα μπορούσες να είχες κάνει, ποια είναι η λύση», δήλωσε ο Χουάνγκ σε podcast με τον Έζρα Κλάιν των New York Times που δημοσιεύθηκε την περασμένη εβδομάδα, αναφερόμενος στα πρόσφατα περιστατικά. «Στο μέλλον, βελτιώνεις τη διαδικασία ώστε να μπορέσεις να αποτρέψεις την επανάληψή τους».
Η προειδοποίηση του Ντάριο Αμοντέι
Η συζήτηση για τους κινδύνους της AI έχει ενταθεί το τελευταίο διάστημα. Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, προκάλεσε έντονες αντιδράσεις στον κλάδο πριν από δύο εβδομάδες, όταν κάλεσε τις εταιρείες που αναπτύσσουν μοντέλα AI να επιβραδύνουν τον ρυθμό εξέλιξης των δυνατοτήτων τους, εκφράζοντας φόβους ότι τα συστήματα θα μπορούσαν να βγουν εκτός ελέγχου.
Την επιχειρηματολογία του υποστήριξαν ο Σαμ Άλτμαν της OpenAI και ο Έλον Μασκ της SpaceX.
Η Nvidia ακολουθεί μια διαφορετική προσέγγιση. Σύμφωνα με τον Μποϊτάνο, η νέα πλατφόρμα αποτελεί μια μηχανική λύση στο ζήτημα της ασφάλειας των AI agents.
«Τα πρόσφατα περιστατικά ανέδειξαν ένα θεμελιώδες εμπόδιο για τους AI agents: οι δικλίδες ασφαλείας στο επίπεδο του ίδιου του μοντέλου δεν αρκούν για να ελέγξουν σε τι μπορούν να έχουν πρόσβαση οι agents ή τι μπορούν να κάνουν», ανέφερε.
OpenShell και Sentry: Πώς λειτουργεί το σύστημα
Ένα από τα βασικά στοιχεία της πλατφόρμας ονομάζεται Nvidia OpenShell. Λειτουργεί σε κεντρικούς επεξεργαστές (CPU) και θέτει συγκεκριμένα όρια στις δυνατότητες και στις ενέργειες των AI agents.
Παράλληλα, η Nvidia ανακοίνωσε το Sentry, ένα σύστημα που παρακολουθεί τη δραστηριότητα των agents και λειτουργεί σε επεξεργαστές δικτύου και όχι σε CPU ή GPU.
Μέρος του λογισμικού θα είναι ανοικτού κώδικα, ενώ η Nvidia χαρακτηρίζει την πλατφόρμα «reference design». Αυτό σημαίνει ότι οι συνεργάτες της θα μπορούν να χρησιμοποιούν την αρχιτεκτονική της ως βάση για να δημιουργήσουν δικά τους προϊόντα και να τα διαθέσουν στην αγορά.
Στους συνεργάτες που ανακοίνωσε η Nvidia περιλαμβάνονται οι Cisco, Microsoft, Oracle, CoreWeave, Dell, HPE, Lenovo, Arm και Intel.
Παράλληλα, η Nvidia συνεργάζεται με την Anthropic για την ενσωμάτωση AI agents που διαχειρίζονται μέσω cloud με το OpenShell.
Η κίνηση έρχεται σε μια περίοδο κατά την οποία οι αυτόνομοι AI agents αποκτούν ολοένα μεγαλύτερες δυνατότητες πρόσβασης σε λογισμικό, δεδομένα και υπολογιστικά συστήματα, μετατρέποντας τον περιορισμό των ενεργειών τους σε ένα από τα σημαντικότερα τεχνικά ζητήματα για τη βιομηχανία της Τεχνητής Νοημοσύνης.
Πηγή: newmoney
