Ανεξάρτητοι ερευνητές ασφαλείας χρησιμοποίησαν το Claude της Anthropic για να εισβάλουν στα συστήματα της OpenAI, αποκαλύπτοντας κενά στις άμυνες της εταιρείας πίσω από το ChatGPT. Την είδηση μετέδωσε το Wall Street Journal. Την επίθεση πραγματοποίησε μια τριμελής ομάδα ασφαλείας της startup Hacktron AI, στο πλαίσιο του προγράμματος bug bounty της OpenAI. Συνδυάζοντας δύο κρίσιμες ευπάθειες, […]
Συνοπτικά από ΣΚΑΪ AI toggle Ερευνητές της Anthropic προειδοποιούν ότι η AI μπορεί να εξελιχθεί σε υπαρξιακή απειλή, με έναν από αυτούς να εκτιμά τον κίνδυνο εξαφάνισης της ανθρωπότητας πάνω από 10% μέσα στην επόμενη δεκαετία. Amodei, Altman και Musk συμφωνούν ότι ο ρυθμός ανάπτυξης πρέπει να επιβραδυνθεί, ώστε η ασφάλεια να προλάβει […]
Δύο νέες έρευνες για την παραβίαση του Hugging Face* της OpenAI αποκαλύπτουν λεπτομέρειες τόσο παράξενες και τόσο ανησυχητικές που το επεισόδιο ήδη κατατάσσεται μεταξύ των πιο σοκαριστικών συνεπειών στην μέχρι τώρα ιστορία της Τεχνητής Νοημοσύνης. Το Axios, που δημοσιοποίησε το περιστατικό, σχολιάζει, ότι αυτό που ξεκίνησε ως ένα σμήνος πρακτόρων (agents) Τεχνητής Νοημοσύνης που «έκλεψαν» […]
Ένα κύμα κυβερνοεπιθέσεων με χρήση τεχνητής νοημοσύνης πλησιάζει, και οι εταιρείες έχουν μπροστά τους ένα στενό χρονικό περιθώριο για να αμυνθούν. Αυτό είναι το μήνυμα μιας ανοιχτής επιστολής που δημοσίευσαν την Πέμπτη η OpenAI και περισσότερες από 100 μεγάλες εταιρείες τεχνολογίας και άλλοι φορείς. Η επιστολή καλεί τις εταιρείες AI να διαθέσουν τα καλύτερα μοντέλα […]
