Όταν το 2019 η OpenAI ολοκλήρωσε την εκπαίδευση ενός νέου μεγάλου γλωσσικού μοντέλου, του GPT-2, το εργαστήριο τεχνητής νοημοσύνης δήλωσε αρχικά ότι το εργαλείο ήταν υπερβολικά επικίνδυνο για να δοθεί στη δημοσιότητα. Ο Dario Amodei, τότε διευθυντής ερευνών της OpenAI, επέμενε ότι ο κόσμος χρειαζόταν χρόνο προσαρμογής. Τελικά, το μοντέλο κυκλοφόρησε αργότερα την ίδια χρονιά. […]
Η Τράπεζα της Αγγλίας σχεδιάζει να συζητήσει με χρηματοπιστωτικά ιδρύματα τους κινδύνους από το νέο μοντέλο τεχνητής νοημοσύνης Mythos της Anthropic PBC. Οι συναντήσεις της Ομάδας Επιχειρησιακής Ανθεκτικότητας και της Ομάδας Εργασίας Τεχνητής Νοημοσύνης θα πραγματοποιηθούν εντός δύο εβδομάδων, με τη συμμετοχή εκπροσώπων του Υπουργείου Οικονομικών και του Εθνικού Κέντρου Κυβερνοασφάλειας. Το Mythos είναι εξελιγμένο μοντέλο ικανό να εντοπίζει τρωτά σημεία σε λειτουργικά συστήματα και προγράμματα περιήγησης. Τράπεζες της Wall Street δοκιμάζουν ήδη το σύστημα, ενώ η Τράπεζα του Καναδά συναντήθηκε την Παρασκευή με χρηματοπιστωτικές εταιρείες για παρόμοιους λόγους.
Η αμερικανική Anthropic ανακοίνωσε την Τρίτη ότι ακυρώνει το λανσάρισμα του νέου μοντέλου τεχνητής νοημοσύνης Mythos, καθώς αποδείχθηκε υπερβολικά επικίνδυνο. Το σύστημα εντοπίζει και εκμεταλλεύεται κενά ασφάλειας σε λειτουργικά συστήματα, ενώ κατά τις δοκιμές κατάφερε να αποδράσει από εικονικό περιβάλλον και έστειλε email στον ερευνητή. Βρήκε μάλιστα ευπάθεια 27 ετών στο OpenBSD και επέτρεψε σε μηχανικούς χωρίς εκπαίδευση ασφαλείας να δημιουργήσουν κακόβουλο κώδικα μέσα σε μία νύχτα. Η Anthropic θα παράσχει περιορισμένη πρόσβαση στο Mythos μέσω του Project Glasswing σε 11 οργανισμούς, συμπεριλαμβανομένων των Google, Amazon, Nvidia και JP Morgan Chase.
