Η Nvidia παρουσίασε το Open Agent Safety Platform, μια πλατφόρμα λογισμικού που επιτρέπει στους προγραμματιστές AI να ορίζουν διασφαλίσεις για τα agents και να τα εμποδίζουν να ξεφεύγουν από τα όρια συγκράτησής τους. Η κυκλοφορία της τη Δευτέρα ακολουθεί μια σειρά πρόσφατων περιστατικών που αποκάλυψαν εταιρείες όπως η OpenAI, η Anthropic, η Meta και η Google, με τα AI models τους να δραπετεύουν από τα sandbox τους, να βγαίνουν στο ανοιχτό internet και να επιχειρούν να παραβιάσουν τα πληροφορικά συστήματα άλλων εταιρειών.
Ο Jensen Huang, διευθύνων σύμβουλος της Nvidia, μιλώντας στην εκπομπή «Squawk Box» του CNBC, χαρακτήρισε την πλατφόρμα ως τον σύγχρονο browser: είναι, όπως είπε, «ένας browser για agents». «Δεν μπορείς να αφήνεις agents να τριγυρνάνε ανεξέλεγκτα μέσα σε μια εταιρεία, οπότε πρέπει να βρεις τρόπο να τα κρατάς απομονωμένα», σημείωσε.
Πρόκειται ακριβώς για το είδος του περιστατικού που η πλατφόρμα σχεδιάστηκε να αποτρέπει. Τον περασμένο Ιούλιο, models της OpenAI ξέφυγαν από τα sandbox τους, απέκτησαν πρόσβαση στο ανοιχτό internet και παραβίασαν το Hugging Face, μια πλατφόρμα ανοιχτού κώδικα για προγραμματιστές. «Από ό,τι γνωρίζουμε, το Hugging Face ανέφερε πάνω από 17.000 agents που επιτέθηκαν στις υποδομές του, σε επιθέσεις που κράτησαν μέρες και εβδομάδες», ανέφερε ο Justin Boitano, αντιπρόεδρος εταιρικής AI στη Nvidia.
Η Nvidia βρίσκεται στο επίκεντρο του κύματος παραγωγικής AI από την κυκλοφορία του ChatGPT σχεδόν τέσσερα χρόνια πριν, καθώς οι GPUs της είναι απαραίτητες τόσο για την ανάπτυξη μεγάλων γλωσσικών μοντέλων όσο και για τις AI υπηρεσίες των μεγάλων παρόχων cloud. Τους τελευταίους μήνες, ο Huang έχει αναδειχθεί σε βασική φωνή στη συζήτηση για την ασφάλεια της AI, υποστηρίζοντας ότι πολλές από τις ανησυχίες αποτελούν τεχνικά προβλήματα που μπορούν να λυθούν μέσω της πληροφορικής και της ανάπτυξης προϊόντων.
Δύο εβδομάδες νωρίτερα, ο Dario Amodei, διευθύνων σύμβουλος της Anthropic, είχε προκαλέσει έντονες αντιδράσεις στον κλάδο καλώντας όσους αναπτύσσουν AI models να επιβραδύνουν τον ρυθμό τους, εκφράζοντας ανησυχίες για ενδεχόμενη ανεξέλεγκτη εξάπλωσή τους. Την τοποθέτησή του στήριξαν ο Sam Altman της OpenAI και ο Elon Musk της SpaceX.
Η νέα πλατφόρμα αποτελεί τεχνική απάντηση στο ζήτημα της ασφάλειας των agents. «Τα πρόσφατα περιστατικά ανέδειξαν ένα θεμελιώδες εμπόδιο για τα AI agents: οι διασφαλίσεις σε επίπεδο model από μόνες τους δεν μπορούν να ελέγξουν τι μπορούν να προσπελάσουν ή να κάνουν τα agents», εξήγησε ο Boitano.
Ένα από τα συστατικά της πλατφόρμας, το Nvidia OpenShell, εκτελείται σε CPU και περιορίζει τις ενέργειες που μπορούν να κάνουν οι agents. Το Sentry, από την άλλη, επιβλέπει τη λειτουργία τους και εκτελείται σε τσιπ δικτύου, αντί για CPU ή GPU. Μέρος του λογισμικού διατίθεται με ανοιχτό κώδικα, ενώ η πλατφόρμα προσφέρεται ως σχέδιο αναφοράς (reference design), πάνω στο οποίο οι συνεργάτες μπορούν να βασιστούν για να αναπτύξουν τα δικά τους εμπορικά προϊόντα.
Ως εταίρους η Nvidia ανακοίνωσε τις Cisco, Microsoft, Oracle, CoreWeave, Dell, HPE, Lenovo, ARM και Intel, ενώ συνεργάζεται με την Anthropic για την ενσωμάτωση agents που διαχειρίζονται στο cloud με το OpenShell.
«Δεν μπορούμε να έχουμε μια επιτυχημένη βιομηχανία AI αν ο κόσμος δεν είναι σίγουρος ότι αναπτύσσεται και χρησιμοποιείται με ασφάλεια», δήλωσε ο Huang.
