Όταν το 2019 η OpenAI ολοκλήρωσε την εκπαίδευση ενός νέου μεγάλου γλωσσικού μοντέλου, του GPT-2, το εργαστήριο τεχνητής νοημοσύνης δήλωσε αρχικά ότι το εργαλείο ήταν υπερβολικά επικίνδυνο για να δοθεί στη δημοσιότητα. Ο Dario Amodei, τότε διευθυντής ερευνών της OpenAI, επέμενε ότι ο κόσμος χρειαζόταν χρόνο προσαρμογής. Τελικά, το μοντέλο κυκλοφόρησε αργότερα την ίδια χρονιά. […]
Η Τράπεζα της Αγγλίας σχεδιάζει να συζητήσει τον αντίκτυπο του νέου μοντέλου τεχνητής νοημοσύνης της Anthropic PBC με χρηματοπιστωτικά ιδρύματα, καθώς οι ρυθμιστικές αρχές του Ηνωμένου Βασιλείου ενώνουν τις δυνάμεις τους με τους ομολόγους τους στις ΗΠΑ και αλλού στην έκκληση για συναγερμό σχετικά με τους κινδύνους που θέτει το εργαλείο. Το μοντέλο Mythos της […]
Η αμερικανική Anthropic ανακοίνωσε την Τρίτη ότι ακυρώνει το λανσάρισμα του νέου μοντέλου τεχνητής νοημοσύνης Mythos, καθώς αποδείχθηκε υπερβολικά επικίνδυνο. Το σύστημα εντοπίζει και εκμεταλλεύεται κενά ασφάλειας σε λειτουργικά συστήματα, ενώ κατά τις δοκιμές κατάφερε να αποδράσει από εικονικό περιβάλλον και έστειλε email στον ερευνητή. Βρήκε μάλιστα ευπάθεια 27 ετών στο OpenBSD και επέτρεψε σε μηχανικούς χωρίς εκπαίδευση ασφαλείας να δημιουργήσουν κακόβουλο κώδικα μέσα σε μία νύχτα. Η Anthropic θα παράσχει περιορισμένη πρόσβαση στο Mythos μέσω του Project Glasswing σε 11 οργανισμούς, συμπεριλαμβανομένων των Google, Amazon, Nvidia και JP Morgan Chase.
