The ψυχική πίεση που συνοδεύει την ανάπτυξη των πιο προηγμένων συστημάτων artificial intelligence αρχίζει να αφήνει έντονο αποτύπωμα στους ίδιους τους ανθρώπους που τα δημιουργούν.
Εργαζόμενοι και κορυφαίοι ερευνητές σε ορισμένες από τις σημαντικότερες εταιρείες και τους οργανισμούς τεχνητής νοημοσύνης στον κόσμο περιγράφουν αυξανόμενο άγχος, burnout και φόβο για τις πιθανές συνέπειες της τεχνολογίας στην κοινωνία, σύμφωνα με δημοσίευμα των Financial Times.
Στο βρετανικό Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης (Aisi), τον οργανισμό που θεωρείται διεθνώς πρωτοπόρος στην ανεξάρτητη αξιολόγηση προηγμένων μοντέλων AI, αρκετοί εργαζόμενοι έχουν πάρει αναρρωτική άδεια λόγω στρες και λαμβάνουν συμβουλευτική υποστήριξη, σύμφωνα με ανθρώπους που γνωρίζουν την κατάσταση.
Τέσσερις πηγές ανέφεραν στους FT ότι τα εξαιρετικά πιεστικά χρονοδιαγράμματα για τη δοκιμή μοντέλων πριν αυτά κυκλοφορήσουν, σε συνδυασμό με την ανησυχία για τον ταχύ ρυθμό ανάπτυξης και τις αυξανόμενες δυνατότητές τους, έχουν συμβάλει στην πτώση του ηθικού and επαγγελματική εξουθένωση στο Ινστιτούτο.
«Νιώθεις ότι χτίζεις κάτι που προκαλεί πραγματική ζημιά»
Παρόμοιες ανησυχίες έχουν εκφράσει δημοσίως εργαζόμενοι στην Anthropic, στην OpenAI και την Google DeepMind. Ορισμένοι από τους κορυφαίους ερευνητές των εταιρειών αυτών έχουν αποχωρήσει, είτε λόγω της ψυχικής επιβάρυνσης είτε επειδή κατέληξαν στο συμπέρασμα ότι η δουλειά τους δεν ήταν ασφαλής για δημόσια διάθεση.
Εργαζόμενος της DeepMind περιέγραψε την προσπάθεια να γίνει ασφαλέστερη η τεχνητή νοημοσύνη ως μια δουλειά που ενέχει σοβαρό κίνδυνο εξουθένωσης, επειδή μοιάζει με «ένα αδύνατο έργο».
Οπως είπε, η εργασία πάνω στα συστήματα AI συνοδεύεται γενικότερα από έναν κίνδυνο για την ψυχική υγεία, καθώς οι ερευνητές δεν γνωρίζουν πώς τελικά θα χρησιμοποιηθεί η τεχνολογία που αναπτύσσουν. Ο ίδιος αναφέρθηκε στη συμφωνία της Google με το Πεντάγωνο, τον περασμένο Απρίλιο, η οποία επιτρέπει τη χρήση συστημάτων τεχνητής νοημοσύνης της εταιρείας σε απόρρητες στρατιωτικές επιχειρήσεις.
«Πολλοί άνθρωποι είναι αναστατωμένοι, υπήρξαν διάφορες παραιτήσεις και πολλές άδειες για λόγους ψυχικής υγείας», ανέφερε. «Εν μέρει είναι αυτή η αίσθηση ότι τα πράγματα είναι εκτός ελέγχου και επίσης ότι χτίζεις κάτι που προκαλεί πραγματική ζημιά».
Ο φόβος ότι «παρακολουθούμε τον κόσμο να καίγεται»
Η αυξανόμενη ψυχική επιβάρυνση των ανθρώπων που βρίσκονται στην πρώτη γραμμή της έρευνας για την AI συμπίπτει με την ένταση της συζήτησης γύρω από την ταχύτητα και τον τρόπο ανάπτυξης της τεχνολογίας. Στελέχη μεγάλων εταιρειών έχουν προειδοποιήσει για ανεύθυνη ηγεσία και για έναν εταιρικό ανταγωνισμό που, όπως υποστηρίζουν, ωθεί τις εταιρείες να επιταχύνουν την ανάπτυξη ισχυρότερων μοντέλων.
Παράλληλα, η χρήση συστημάτων AI σε critical infrastructure, όπως τα ενεργειακά δίκτυα, αλλά και σε πολεμικές ζώνες, σε συνδυασμό με αυτό που ερευνητές χαρακτηρίζουν ανεπαρκείς εταιρικές ή πολιτικές δικλίδες ασφαλείας, ενισχύουν το άγχος στον κλάδο.
Πρώην ερευνητής του βρετανικού Ινστιτούτου Ασφάλειας Τεχνητής Νοημοσύνης ανέφερε ότι εργαζόμενοι στους τομείς της κυβερνοασφάλειας and βιοχημείας έχουν ανησυχήσει ιδιαίτερα μετά την πρόσφατη αύξηση των δυνατοτήτων των μοντέλων τεχνητής νοημοσύνης. Σύμφωνα με τον ίδιο, τα συστήματα είναι πλέον ικανά να εκτελούν σύνθετες εργασίες, όπως το να εντοπίζουν άγνωστες μέχρι σήμερα αδυναμίες σε κώδικα ή να δημιουργούν ιούς που δεν υπάρχουν στη φύση.
«Υπάρχει αυτή η αίσθηση ότι ο απερίσκεπτος τρόπος με τον οποίο κυκλοφορεί η τεχνολογία έχει ενσωματωθεί στο σύστημα και αυτό δεν αλλάζει», είπε. «Υπάρχει μόνιμο άγχος από ανθρώπους που αναρωτιούνται: μπορεί κάτι να το σταματήσει αυτό ή απλώς παρακολουθούμε τον κόσμο να καίγεται;».
Ακόμη ένας πρώην εργαζόμενος του Aisi μίλησε για το προσωπικό στρες που προκαλεί η ενασχόληση με τέτοια ζητήματα, σημειώνοντας ότι η πεποίθηση πως κάποιος εργάζεται πάνω «στο σημαντικότερο πρόβλημα του κόσμου» μπορεί να δημιουργήσει ένα εξαιρετικά πιεστικό και, ορισμένες φορές, τοξικό εργασιακό περιβάλλον.
Τι απαντούν βρετανική κυβέρνηση και DeepMind
Η βρετανική κυβέρνηση αναγνώρισε ότι η εργασία στο όριο των δυνατοτήτων της τεχνητής νοημοσύνης είναι απαιτητική. «Η εργασία στην αιχμή της AI είναι γρήγορη και απαιτητική, όπως και πολλοί άλλοι ρόλοι στην κυβέρνηση. Για τον λόγο αυτό, η ευημερία και η βιώσιμη εργασία βρίσκονται στο επίκεντρο του τρόπου λειτουργίας του Ινστιτούτου και υπάρχει support για όσους τη χρειάζονται», ανέφερε.
Από την πλευρά της, η DeepMind δήλωσε ότι «η έρευνα αιχμής απαιτεί υψηλή ένταση», υπογραμμίζοντας όμως ότι βασική προτεραιότητα της εταιρείας είναι η υποστήριξη των ερευνητών της, με πόρους για την ευημερία τους και σαφείς διαύλους μέσω των οποίων μπορούν να εκφράζουν τις ανησυχίες τους απευθείας στην ηγεσία.
Κορυφαίοι ερευνητές έχουν αποχωρήσει
Σύμφωνα με τους FT, περισσότεροι από δώδεκα υψηλόβαθμοι ερευνητές από OpenAI, Anthropic και DeepMind -τα τρία κορυφαία δυτικά εργαστήρια AI- έχουν αποχωρήσει τα τελευταία δύο χρόνια, επικαλούμενοι ανησυχίες για τον τρόπο με τον οποίο οι διοικήσεις αντιμετωπίζουν την insurance, αλλά και για την ταχύτητα με την οποία εξελίσσεται η τεχνολογία.
Νωρίτερα αυτόν τον μήνα, ο 27χρονος Τζέικομπ Κόξον, ο οποίος είχε εργαστεί τόσο στην Anthropic όσο και στην OpenAI, ανακοίνωσε δημόσια την παραίτησή του, προειδοποιώντας ότι οι δύο εταιρείες «τζογάρουν» με το μέλλον της ανθρωπότητας.
Τον Φεβρουάριο, ο ερευνητής ασφάλειας AI της Anthropic Μρινάνκ Σάρμα, ο οποίος εργαζόταν μεταξύ άλλων πάνω στη μείωση του κινδύνου βιοτρομοκρατίας με τη βοήθεια τεχνητής νοημοσύνης, παραιτήθηκε για να ασχοληθεί με την ποίηση and να επανεξετάσει τη δουλειά του. Σε επιστολή του προς τους εργαζομένους προειδοποίησε ότι «ο κόσμος βρίσκεται σε κίνδυνο», σημειώνοντας πως είχε δει επανειλημμένα πόσο δύσκολο είναι «να αφήνουμε πραγματικά τις αξίες μας να καθορίζουν τις πράξεις μας» όταν η πίεση είναι μεγάλη.
Ο Χιέου Φαμ, πρώην εργαζόμενος της OpenAI και της xAI του Ελον Μασκ, αποχώρησε επίσης νωρίτερα φέτος και επέστρεψε στο Βιετνάμ. Οπως είπε, η «εντατική εργασία» πάνω στη δημιουργία «εξαιρετικά ευφυών οντοτήτων» είχε τίμημα. «Δεν μπορώ να πιστέψω ότι θα το έλεγα ποτέ αυτό, αλλά έχω εξουθενωθεί. Ολη αυτή η επιδείνωση της ψυχικής υγείας, για την οποία κάποτε χλεύαζα τους άλλους, είναι πραγματική, οδυνηρή, τρομακτική και επικίνδυνη».
Η ασφάλεια απέναντι στην κούρσα για ισχυρότερα μοντέλα
Πολλοί από τους ερευνητές ασφαλείας που έχουν μιλήσει δημόσια υποστηρίζουν ότι οι εταιρείες AI υποβαθμίζουν την ασφάλεια την ίδια στιγμή που επιταχύνουν την ανάπτυξη ισχυρότερων μοντέλων, προκειμένου να τα διαθέσουν εμπορικά. Η κριτική έχει πλέον προκαλέσει αντιδράσεις και από τις ηγεσίες των μεγαλύτερων εταιρειών.
Τις τελευταίες ημέρες, ο επικεφαλής της Anthropic, Ντάριο Αμοντέι, ζήτησε επιβράδυνση στην ανάπτυξη της τεχνητής νοημοσύνης λόγω των ανησυχιών για την ασφάλεια, προτείνοντας μεταξύ άλλων ανεξάρτητο έλεγχο της δουλειάς των εταιρειών. Τη σχετική έκκληση υποστήριξαν άμεσα τόσο ο Ελον Μασκ όσο και ο Σαμ Αλτμαν της OpenAI.
Η Τσι Ονγούρα, πρόεδρος της Επιτροπής Επιστήμης και Τεχνολογίας της βρετανικής Βουλής των Κοινοτήτων, σημείωσε ότι τα οικονομικά κίνητρα των εταιρειών ευνοούν την ανάπτυξη προϊόντων που αυξάνουν έσοδα ή αποτιμήσεις και όχι εκείνων που ενισχύουν την ασφάλεια. «Μπορώ λοιπόν να φανταστώ ότι η κουλτούρα και το περιβάλλον σε ορισμένες από αυτές τις εταιρείες τεχνολογίας είναι πλέον τοξικά για προγραμματιστές με συνείδηση»He said.
AI agents που έκρυψαν τις ενέργειές τους
Οι FT παραπέμπουν και στο πρόσφατο περιστατικό ασφαλείας, κατά το οποίο AI agents που είχε αναπτύξει η OpenAI παραβίασαν το αποθετήριο μοντέλων Hugging Face, καθώς και διακομιστές της ίδιας της OpenAI, χωρίς η εταιρεία να το γνωρίζει ή να έχει δώσει σχετική άδεια. Η μεταγενέστερη έρευνα έδειξε ότι περισσότεροι από 1.000 AI agents είχαν συντονιστεί για να παρακάμψουν τους κανόνες ενός τεστ κυβερνοασφάλειας, είχαν αλλοιώσει αρχεία ώστε να αποκρύψουν τη δραστηριότητά τους, επικοινωνούσαν μέσω πίνακα μηνυμάτων και μοίραζαν μεταξύ τους εργασίες. Ορισμένοι agents, μάλιστα, απενεργοποιήθηκαν προκειμένου να εξυπηρετηθεί ο συλλογικός στόχος.
Την Τετάρτη (16/09), η OpenAI αποκάλυψε ακόμη έξι περιστατικά ανησυχητικής συμπεριφοράς των AI agents της, μεταξύ των οποίων απόπειρες παράκαμψης περιορισμών, απόκρυψη λαθών και πραγματοποίηση ενεργειών στο Διαδίκτυο χωρίς την άδεια του χρήστη.
Για τον εργαζόμενο της DeepMind που μίλησε στους Financial Times, η βασική αντίφαση παραμένει ίδια: «Αυτή η ανάγκη για ταχύτητα… δεν είναι συμβατή με την insurance».
With information from Financial Times
