When in 2019 OpenAI completed training of a new major language model, GPT-2, the artificial intelligence laboratory initially stated that the tool was too dangerous to be released. Dario Amodei, then director of OpenAI research, insisted that the world needed adjustment time. Eventually, the model was released later that same year. [...]
Η Τράπεζα της Αγγλίας σχεδιάζει να συζητήσει με χρηματοπιστωτικά ιδρύματα τους κινδύνους από το νέο μοντέλο τεχνητής νοημοσύνης Mythos της Anthropic PBC. Οι συναντήσεις της Ομάδας Επιχειρησιακής Ανθεκτικότητας και της Ομάδας Εργασίας Τεχνητής Νοημοσύνης θα πραγματοποιηθούν εντός δύο εβδομάδων, με τη συμμετοχή εκπροσώπων του Υπουργείου Οικονομικών και του Εθνικού Κέντρου Κυβερνοασφάλειας. Το Mythos είναι εξελιγμένο μοντέλο ικανό να εντοπίζει τρωτά σημεία σε λειτουργικά συστήματα και προγράμματα περιήγησης. Τράπεζες της Wall Street δοκιμάζουν ήδη το σύστημα, ενώ η Τράπεζα του Καναδά συναντήθηκε την Παρασκευή με χρηματοπιστωτικές εταιρείες για παρόμοιους λόγους.
American Anthropic announced Tuesday that it cancels the launch of the new Mythos artificial intelligence model, as it proved too dangerous. The system detects and exploits security gaps in operating systems, while during the tests it managed to escape virtual environment and email the researcher. He even found 27-year-old vulnerability in OpenBSD and allowed engineers without security training to create malicious code overnight. Anthropic will provide limited access to Mythos through Project Glasswing to 11 organizations, including Google, Amazon, Nvidia and JP Morgan Chase.
