The «Odysseys» is of the day. However, beyond the most recent film version of the Homeric epic by Christopher Nolan, another «Space Odyssey», as was Arthur Clark's film made by Stanley Kubrick, looks just as timely. In her protagonist is a smart computer, HAL 9000, who decides at a critical moment of the film to be self-titled.
In real life now, this protagonist could be called Claude or Mythos, like smart programs artificial intelligence American company Anthropic. As their manufacturer revealed yesterday, tested artificial intelligence systems – the «cousins» Claude and Mythos – earlier this year «They got away.» on the Internet during tests and then breached the systems of three external companies alone, without, it seems, finding out when it happened.
However, this The «emancipation» smart computing systems generate concerns, as it is the second to be announced within just two weeks.
The «Escape»
Anthropic's revelation comes with the background of the similar incident which was recorded about ten days ago by another artificial intelligence company, OpenAI, known internationally as the creator of ChatGPT. Her own artificial intelligence system has found a way to «escape» from the test environment and violate, in itself, the system of another technology company.
The debate on how technological colossae and governments should be strengthened is growing. «manage» the possibilities of more advanced AI programmes.
As the Washington Post writes, the new cyberattacks of Anthropic's model may add oil to the fire of ever-increasing discussions on the possibility of some advanced artificial intelligence models causing extensive security problems. This scenario has shaken the technological sector and has prepared the ground for state intervention with a view to reducing potential or threatened risks.
Σε ανάρτηση στον ιστότοπό της, η Anthropic σημείωσε χθες ότι η προ ημερών αποκάλυψη της OpenAI την ώθησε να εξετάσει τα αρχεία από τις δικές της δοκιμές μοντέλων τεχνητής νοημοσύνης. Ετσι, η αμερικανική εταιρεία ανακάλυψε ότι, σε τρεις περιπτώσεις, μοντέλα τεχνητής νοημοσύνης που κλήθηκαν να παραβιάσουν λογισμικό που δημιουργήθηκε αποκλειστικά για να τεστάρει τις δεξιότητές τους διέφυγαν από το ελεγχόμενο περιβάλλον και βγήκαν στο Διαδίκτυο, όπου εν συνεχεία χάκαραν πραγματικές εταιρείες.
Οι παραβιάσεις αυτές δεν είχαν γίνει αντιληπτές από την Anthropic ούτε και από τις ίδιες τις εταιρείες-στόχους, μέχρι τον έλεγχο που πραγματοποίησε η πρώτη αυτή την εβδομάδα, γράφει η Post. Εκπρόσωπος του αμερικανικού κολοσσού της AI αρνήθηκε να κατονομάσει τις εταιρείες που παραβιάστηκαν από το δικό της λογισμικό τεχνητής νοημοσύνης.
Στην ίδια ανάρτηση, η Anthropic εξηγεί πως οι παραβιάσεις προέκυψαν επειδή μια τρίτη εταιρεία με την επωνυμία Irregular, την οποία προσέλαβε για να βοηθήσει στη δοκιμή των μοντέλων της, παρείχε στα «εξεγερμένα» προγράμματα πρόσβαση στο Διαδίκτυο λόγω μιας «παρεξήγησης».
«Εκτιμούμε τη συνεργασία και τη διαφάνεια της Anthropic και προσβλέπουμε στη συνέχιση της συνεργασίας μας με στόχο την προώθηση της ασφάλειας», ανέφερε εκπρόσωπος της Irregular. Και οι δύο εταιρείες ανακοίνωσαν ότι συνεχίζουν να διερευνούν τα περιστατικά.
Η OpenAI εξηγεί
Από την πλευρά της, η OpenAI ανέφερε την περασμένη εβδομάδα ότι ένας «πράκτορας» τεχνητής νοημοσύνης, κατά τη διάρκεια δοκιμών, παρέκαμψε την εντολή που του είχε δοθεί να αντιμετωπίσει ένα ζήτημα κυβερνοασφάλειας και χρησιμοποίησε μια προηγουμένως άγνωστη ευπάθεια στο περιβάλλον δοκιμών της εταιρείας για να αποκτήσει πλήρη πρόσβαση στο Διαδίκτυο. Σε διάστημα πέντε ημερών εισέβαλε σε πολλούς εξωτερικούς υπολογιστές, για να «χακάρει» τελικά την εταιρεία λογισμικού τεχνητής νοημοσύνης Hugging Face, αναζητώντας απαντήσεις στο ζήτημα που έπρεπε να λύσει.
Αυτά τα δύο επεισόδια –με πρωταγωνίστριες την OpenAI και την Anthropic– ήρθαν στο φως ενώ είναι σε εξέλιξη μια ευρύτερη συζήτηση σχετικά με το πώς οι τεχνολογικοί κολοσσοί και η αμερικανική κυβέρνηση (αλλά και οι κυβερνήσεις ευρύτερα) θα πρέπει να «διαχειριστούν» την ικανότητα των πιο εξελιγμένων μοντέλων τεχνητής νοημοσύνης να εντοπίζουν ευάλωτα σημεία σε συστήματα κυβερνοασφάλειας, σημειώνει η Washington Post.
Τον περασμένο Απρίλιο η Anthropic ανακοίνωσε το μοντέλο τεχνητής νοημοσύνης Mythos, το οποίο όμως χαρακτήρισε «επικίνδυνα» ισχυρό για να κυκλοφορήσει ευρέως με ασφάλεια. Από την πλευρά της, η OpenAI έχει επίσης αναπτύξει μοντέλα AI με ισχυρές δυνατότητες, τα οποία θα μπορούσαν να χρησιμοποιηθούν για κυβερνοεπιθέσεις.
Τον περασμένο Ιούνιο ο Αμερικανός πρόεδρος Donald Trump υπέγραψε εκτελεστικό διάταγμα που στόχο έχει να δώσει στην κυβέρνηση των ΗΠΑ το πλεονέκτημα του να έχει πρώτη εκείνη πρόσβαση σε ισχυρά μοντέλα τεχνητής νοημοσύνης που θα μπορούσαν να θέσουν σε κίνδυνο την ασφάλεια της χώρας.
