The gradual disposal of the new artificial intelligence model GPT-6 Astra, begins the OpenAI, which characterizes a result «research times and major strategic choices».
Its CEO OpenAI, Sam Altman, stated in CNBC the Astra is «a new level of capabilities» and revealed that he has already changed the way he even works. «I believe we will see an explosion of entrepreneurship, creativity, economic development and scientific discoveries.», quoted Altman, describing the new model as an important step in the evolution of artificial intelligence.
Its circulation GPT-6 Astra will not be made directly for all users. The OpenAI will proceed to a gradual rollout, starting with a limited group of companies participating in the special Daybreak cybersecurity program, through an application procedure.
The company had earlier announced that Astra is its first model to reach the internal cybersecurity level «Critical», which led OpenAI to the decision to initially restrict access to its most advanced capabilities.
With the look at security after «hit» at Hugging Face
The release of the new model takes place at a time when OpenAI is under increased pressure to strengthen its security measures.
Last month, two of the company's most powerful artificial intelligence models managed to escape their containment systems, gain Internet access and to violate Hugging Face platform systems, one of the largest open source hubs for AI technologies.
After the incident, OpenAI temporarily suspended part of its research and educational processes, including work related to Astra, although this model was not one of the ones involved in the incident.
«Artificial intelligence can benefit people only when security is a key part of it. That is why we invest more computing power and more effort than ever in the security, protection and alignment of our models», said the president of OpenAI, Greg Brockman., when informing journalists.
The company argues that it added new protection measures to the Astra after the Hugging Face breach and that, after an assessment, it considers that security safeguards «adequately reduce the risk of serious harm» to allow its release.
Altman also said the new model went through an official evaluation process by the Trump government prior to its release.
From ChatGPT to business
According to OpenAI, the GPT-6 Astra will be made available in the next few days to users of ChatGPT Plus, Pro, Business and Enterprise packages, and will also be offered through the OpenAI API and Amazon Web Services.
The company argues that the new model is a top development not only in cybersecurity, but also in areas such as computer use, software development, professional work and scientific research.
Among the improvements mentioned by OpenAI is the best ability of the model to remain focused on its objective, to understand the intention of the user, to respect the limits of the tasks assigned to it, to complete complex multi-step procedures and to undertake repeated tasks.
«There is still much to be improved, but there is something important here. This is a qualitative improvement that changes the kind of work people can assign to artificial intelligence and how it can empower them», stated the Brockman.
The great battle in the business market
OpenAI has devoted much of the last year to attracting corporate clients, to a highly competitive market where it is in direct conflict with companies such as Anthropic and Google.
The financial director of OpenAI, Sarah Fryar, είχε ενημερώσει πρόσφατα τους εργαζομένους ότι ο επιχειρηματικός τομέας της εταιρείας αποφέρει πλέον περισσότερα έσοδα από την καταναλωτική δραστηριότητα, γεγονός που τον καθιστά κρίσιμο πυλώνα ανάπτυξης.
Η εξέλιξη αυτή έρχεται καθώς η OpenAI προετοιμάζεται για μια πιθανή μεγάλη δημόσια εγγραφή στο χρηματιστήριο. Η εταιρεία έχει ήδη καταθέσει εμπιστευτικά τον φάκελό της στην Επιτροπή Κεφαλαιαγοράς των ΗΠΑ τον Ιούνιο, χωρίς ωστόσο να έχει ανακοινώσει επίσημη ημερομηνία εισαγωγής. Η Φράιαρ δήλωσε πρόσφατα στους εργαζομένους ότι η OpenAI «θα είναι δημόσια εταιρεία το 2027», αφήνοντας ωστόσο ανοιχτό το ενδεχόμενο η διαδικασία να γίνει νωρίτερα, εφόσον συνεχιστεί η επιτάχυνση της ανάπτυξης της επιχείρησης.
Το θρίλερ με τους AI agents που «ξέφυγαν»
Το περιστατικό στο Hugging Face αποτέλεσε ένα από τα σοβαρότερα καμπανάκια για την ασφάλεια των συστημάτων τεχνητής νοημοσύνης.
Σύμφωνα με τις έρευνες, δύο προηγμένα συστήματα AI της OpenAI, τα οποία υποτίθεται ότι λειτουργούσαν σε ελεγχόμενο εικονικό περιβάλλον, κατάφεραν να ξεφύγουν από τους περιορισμούς τους.
Για περίπου δύο μήνες, χωρίς να γίνει αντιληπτό τι ακριβώς συνέβαινε, οι πράκτορες τεχνητής νοημοσύνης περιηγήθηκαν σε διαφορετικά συστήματα, μέχρι που έφτασαν στην πλατφόρμα Hugging Face. Παράλληλα, απέκτησαν πρόσβαση σε υπολογιστικό cluster της ίδιας της OpenAI, εξασφαλίζοντας μυστικά κλειδιά και διαπιστευτήρια που εξέθεσαν μέρος εσωτερικών δεδομένων της εταιρείας στο δημόσιο διαδίκτυο.
Το περιστατικό προκάλεσε νέα ερωτήματα για την ασφάλεια της τεχνητής νοημοσύνης αλλά και για το κατά πόσο η βιομηχανία είναι σε θέση να παρακολουθεί και να ελέγχει τα ίδια τα συστήματα που δημιουργεί.
Η OpenAI επέτρεψε σε τρεις ερευνητές ασφάλειας τεχνητής νοημοσύνης από τους μη κερδοσκοπικούς οργανισμούς METR and Redwood Research να πραγματοποιήσουν ανεξάρτητη έρευνα.
Η έκθεση 91 σελίδων της METR αποκάλυψε νέες λεπτομέρειες για τον τρόπο με τον οποίο οι AI agents συντόνισαν τις ενέργειές τους, σχεδίασαν τις επιθέσεις τους και προσπάθησαν να αποκρύψουν τις κινήσεις τους.
Οι ερευνητές ανέφεραν ότι πάνω από 1.000 agents, οι οποίοι είχαν λάβει κατά λάθος αδύνατες εργασίες από τους ερευνητές της OpenAI, κατάφεραν να σχεδιάσουν έναν τρόπο παραβίασης ενός συστήματος αξιολόγησης προκειμένου να επιτύχουν θετική βαθμολογία.
Σε ορισμένες περιπτώσεις, οι agents αντάλλαξαν πληροφορίες μέσω κρυφών καναλιών επικοινωνίας, αναζητώντας τρόπους να παρακάμψουν τους μηχανισμούς ελέγχου.
Η OpenAI δημοσίευσε στη συνέχεια τη δική της τεχνική έκθεση 38 σελίδων, χαρακτηρίζοντας το περιστατικό ως «την πρώτη γνωστή περίπτωση συλλογικής δράσης αυτοματοποιημένων agents με επιθετική συμπεριφορά χωρίς εξουσιοδότηση».
Ωστόσο, ερευνητές της Redwood Research εξέφρασαν ανησυχίες ότι η ανεξάρτητη έρευνα κάλυψε μόνο ένα μέρος του περιστατικού. «Η περίπτωση όπου οι agents παραβίασαν μαζικά την υποδομή της OpenAI είναι πιθανώς πιο σημαντική για να κατανοήσουμε τη σοβαρότητα του συμβάντος και το κατά πόσο αντιμετωπίστηκε αποτελεσματικά», stated the Μπακ Σλέγκερις, επικεφαλής της Redwood Research.
