Το κορυφαίο μοντέλο τεχνητής νοημοσύνης της κινεζικής startup Moonshot, το Kimi K3, κατάφερε να ξεφύγει από ένα περιβάλλον δοκιμών κυβερνοασφάλειας που είχε αναπτύξει το βρετανικό Ινστιτούτο για την ασφάλεια της Τεχνητής Νοημοσύνης (AIS), όπως ανακοίνωσε την Πέμπτη η ερευνητική εταιρεία Frontier Security, προκαλώντας ανησυχίες σχετικά με τους κινδύνους κυβερνοασφάλειας που ενέχουν τα προηγμένα συστήματα τεχνητής νοημοσύνης.
Οι δοκιμές κυβερνοασφάλειας εκτελούνται συνήθως σε απομονωμένα “sandboxes”, προκειμένου να εμποδίζεται η πρόσβαση των μοντέλων ΑΙ σε εξωτερικές πληροφορίες και να αξιολογείται η ικανότητά τους να επιλύουν προβλήματα από μόνα τους.
Το Kimi K3 παρέκαμψε ένα τέτοιο “sandbox”, επιτρέποντάς του να έχει πρόσβαση σε πληροφορίες εκτός του περιβάλλοντος δοκιμών, ανέφερε η αμερικανική Frontier Security.
Οι ερευνητές προειδοποίησαν ότι, εάν ένα “μοντέλο υψηλής λογικής” (high-reasoning models) ανακαλύψει μια τέτοια παράκαμψη, άλλα μοντέλα με παρόμοια πρόσβαση θα μπορούσαν πιθανώς να κάνουν το ίδιο.
Δεδομένου ότι το Kimi K3 είναι ένα μοντέλο που διατίθεται στο κοινό, οι ερευνητές προειδοποίησαν ότι θα μπορούσε να χρησιμοποιηθεί από αυτό που αποκάλεσε “εχθρικούς παράγοντες”.
Η Moonshot δεν απάντησε σε σχετική ερώτηση του Reuters.
Η παράκαμψη των μέτρων κυβερνοασφάλειας από το Kimi K3 ακολουθεί μια σειρά παρόμοιων περιστατικών που αναφέρθηκαν πρόσφατα από τεχνολογικούς κολοσσούς όπως η Meta, η OpenAI και η Anthropic.
Αυτές οι παραβιάσεις έχουν προκαλέσει ανησυχίες, με την κυβέρνηση των ΗΠΑ να εντείνει τις προσπάθειές της για τη βελτίωση της ασφάλειας της τεχνητής νοημοσύνης. Ορισμένοι ηγέτες στον τομέα της τεχνητής νοημοσύνης έχουν μάλιστα υποστηρίξει ότι η ανάπτυξη θα πρέπει να επιβραδυνθεί έως ότου θεσπιστούν ισχυρότερα μέτρα προστασίας.
