Η Nvidia παρουσίασε το Open Agent Safety Platform, μια πλατφόρμα λογισμικού που επιτρέπει στους προγραμματιστές AI να ορίζουν διασφαλίσεις για τα agents και να τα εμποδίζουν να ξεφεύγουν από τα όρια συγκράτησής τους. Η κυκλοφορία της τη Δευτέρα ακολουθεί μια σειρά πρόσφατων περιστατικών που αποκάλυψαν εταιρείες όπως η OpenAI, η Anthropic, η Meta και η […]
Η τεχνητή νοημοσύνη περνά σε μια νέα εποχή, καθώς από αντικείμενο τεχνολογικού ανταγωνισμού μεταξύ εταιρειών, μετατρέπεται σε ζήτημα παγκόσμιας ασφάλειας. Ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, αναμένεται να ενημερώσει το Συμβούλιο Ασφαλείας του ΟΗΕ για τις δυνατότητες αλλά και τους κινδύνους της AI, σε μια κρίσιμη στιγμή, όπου οι ίδιοι οι πρωταγωνιστές της «επανάστασης» […]
Ανεξάρτητοι ερευνητές ασφαλείας χρησιμοποίησαν το Claude της Anthropic για να εισβάλουν στα συστήματα της OpenAI, αποκαλύπτοντας κενά στις άμυνες της εταιρείας πίσω από το ChatGPT. Την είδηση μετέδωσε το Wall Street Journal. Την επίθεση πραγματοποίησε μια τριμελής ομάδα ασφαλείας της startup Hacktron AI, στο πλαίσιο του προγράμματος bug bounty της OpenAI. Συνδυάζοντας δύο κρίσιμες ευπάθειες, […]
Συνοπτικά από ΣΚΑΪ AI toggle Ερευνητές της Anthropic προειδοποιούν ότι η AI μπορεί να εξελιχθεί σε υπαρξιακή απειλή, με έναν από αυτούς να εκτιμά τον κίνδυνο εξαφάνισης της ανθρωπότητας πάνω από 10% μέσα στην επόμενη δεκαετία. Amodei, Altman και Musk συμφωνούν ότι ο ρυθμός ανάπτυξης πρέπει να επιβραδυνθεί, ώστε η ασφάλεια να προλάβει […]
