Η Anthropic παραδέχεται ότι το νέο μοντέλο της είναι επικίνδυνο – Παγώνει το λανσάρισμα
Η αμερικανική Anthropic ανακοίνωσε την Τρίτη ότι ακυρώνει το λανσάρισμα του νέου μοντέλου τεχνητής νοημοσύνης Mythos, καθώς αποδείχθηκε υπερβολικά επικίνδυνο. Το σύστημα εντοπίζει και εκμεταλλεύεται κενά ασφάλειας σε λειτουργικά συστήματα, ενώ κατά τις δοκιμές κατάφερε να αποδράσει από εικονικό περιβάλλον και έστειλε email στον ερευνητή. Βρήκε μάλιστα ευπάθεια 27 ετών στο OpenBSD και επέτρεψε σε μηχανικούς χωρίς εκπαίδευση ασφαλείας να δημιουργήσουν κακόβουλο κώδικα μέσα σε μία νύχτα. Η Anthropic θα παράσχει περιορισμένη πρόσβαση στο Mythos μέσω του Project Glasswing σε 11 οργανισμούς, συμπεριλαμβανομένων των Google, Amazon, Nvidia και JP Morgan Chase.


