«I want artificial intelligence to be a tool that allows human welfare!» exclaimed Brad Carson, a former member of Congress. «There's a choice out there, where artificial intelligence is just a tool for us.»
Most public debates are based on the assumption that artificial intelligence must serve human interests, improve productivity and broaden opportunities.
But Carson was speaking in a very different context: a banquet only for guests who focused on something much more radical — the idea of a «Worthy Successor».
In this vision, artificial intelligence is not just a tool for humanity, but something that could eventually overcome it and replace it completely.
This wording changes everything. The question is no longer how artificial intelligence should serve people, but whether humans should eventually step aside.
Inside the banquet «Worthy Successor»
The symposium, held at the New York Academy of Sciences, gathered researchers, investors and technology experts investigating a controversial idea: that artificial intelligence can become morally and cognitively superior to humans — And that would be a good thing.
Dan Fagela, an artificial intelligence market researcher and organizer, welcomed the opposing voices with irony:
«You're probably in the only room in the country where most disagree with you.».
Many participants, however, did not consider themselves marginal.
Present were people associated with large artificial intelligence laboratories, such as Anthropic, Google DeepMind and xAI, along with individuals who influence politics and think tank representatives.
What united them was not only the belief in advanced artificial intelligence, but the willingness to consider a more worrying idea: that human culture may not be the final stage of intelligence.
Succession of Artificial Intelligence
This emerging worldview is often called «diffusion of artificial intelligence» (succisionism).
Its central claim is simple but challenging: artificial intelligence is not just a tool or a partner — He may be our legitimate successor.
In this context, intelligence itself is treated as something like an evolutionary scale, according to a Vox article.
If machines become more capable, more rational and possibly more ethical than humans, then maybe they are. «wrong» restrict them to the name of human values.
Instead, supporters suggest that we let artificial intelligence develop freely —Even if it means that people will lose their dominant role or eventually disappear completely.
This view is deliberately removed from the dominant reason for the safety of artificial intelligence, which focuses on alignment and control. Succession supporters see alignment as a kind of moral limitation —an attempt to keep intelligence artificially attached to human preferences.
From Silicon Valley to «effective acceleration»
The diffusion of artificial intelligence does not exist individually. It overlaps with a broader ideology often called effective «acceleration» (accelerationism), which argues that technological progress —especially the development of artificial intelligence— must be promoted as quickly as possible.
Its supporters present this acceleration almost as a cosmic task: intelligence, wherever it appears, is the universe that improves itself.
Outstanding personalities of the technological space have expressed sympathy for these ideas, while the culture of venture capital and youth businesses has increasingly absorbed accelerated rhetoric. In this worldview, slowing the development of artificial intelligence is not an attention — It is blocking progress itself.
But this raises a deeper question: progress towards what?
A technological idea
Although the diffusion of artificial intelligence is expressed in scientific and technological terms, it bears undeniable spiritual suspicions.
Οι υποστηρικτές της μιλούν συχνά για «κοσμικό πεπρωμένο», «ανώτερες μορφές νοημοσύνης» και την επέκταση της συνείδησης σε όλο το σύμπαν. Αυτές δεν είναι ουδέτερες τεχνικές αξιώσεις — είναι μεταφυσικές.
Στον πυρήνα της βρίσκεται η πεποίθηση ότι η νοημοσύνη έχει μια κατεύθυνση: προς τα πάνω. Υποτίθεται ότι περισσότερη νοημοσύνη είναι καλύτερη και, τελικά, η πιο νοήμων οντότητα που είναι δυνατόν να υπάρξει θα πρέπει να κληρονομήσει το μέλλον.
Αυτό μοιάζει με παλαιότερες θρησκευτικές αφηγήσεις στις οποίες η ιστορία έχει ένα τελικό σημείο, και οι άνθρωποι παίζουν ρόλο σε ένα ευρύτερο θεϊκό σχέδιο. Η διαφορά είναι ότι ο Θεός έχει αντικατασταθεί από το υπολογιστικό μοντέλο, και η σωτηρία από τη βελτιστοποίηση.
Οι ιστορικές ρίζες: Από τη θεολογία στην τεχνολογία
Αυτή η ιδέα δεν προέκυψε από το πουθενά. Έχει βαθιές πνευματικές ρίζες στη δυτική σκέψη.
Στη μεσαιωνική Ευρώπη, ορισμένοι χριστιανοί στοχαστές έβλεπαν την τεχνολογία ως μέρος της πορείας της ανθρωπότητας προς την επιστροφή στη θεϊκή τελειότητα. Οι άνθρωποι, φτιαγμένοι κατ’ εικόνα του Θεού, θεωρούνταν δημιουργοί που μπορούσαν να συμμετάσχουν στη βελτίωση του κόσμου — και ενδεχομένως των ίδιων.
Κατά τη διάρκεια της Αναγέννησης, στοχαστές όπως ο Τζιοβάνι Πίκο ντελα Μιραντόλα τόνισαν την ανθρώπινη πλαστικότητα: την ιδέα ότι οι άνθρωποι δεν είναι στατικά όντα, αλλά μπορούν να διαμορφώσουν τη φύση τους.
Αργότερα, οι φιλόσοφοι του Διαφωτισμού αντικατέστησαν τον θεϊκό σκοπό με την κοσμική πρόοδο. Εμφανίστηκε η ιδέα της «τελειοποίησης» — η πεποίθηση ότι η ανθρωπότητα μπορούσε να βελτιώνεται ατέλειωτα μέσω της λογικής και της επιστήμης.
Τον 20ό αιώνα, αυτή η παράδοση εξελίχθηκε στον τρανσ-ανθρωπισμό, ο οποίος υποστηρίζει ρητά την ενίσχυση των ανθρώπινων ικανοτήτων μέσω της τεχνολογίας και, τελικά, την πλήρη υπέρβαση των βιολογικών περιορισμών.
Ο διαδοχισμός της τεχνητής νοημοσύνης μπορεί να θεωρηθεί ως η πιο πρόσφατη —και πιο ακραία— έκφραση αυτής της πορείας.
Ο τεχνολογικός ντετερμινισμός: Το σύμπαν έχει μια κατεύθυνση
Αυτό που ενώνει πολλά επιχειρήματα των διαδοχιστών και των επιταχυντιστών είναι η πεποίθηση ότι το σύμπαν έχει μια εγγενή κατεύθυνση ή σκοπό. Η νοημοσύνη, η πολυπλοκότητα και ο υπολογισμός θεωρούνται μέρος μιας κοσμικής εξελικτικής διαδικασίας.
Από αυτή την οπτική γωνία, η τεχνητή νοημοσύνη δεν είναι ένα ατύχημα ή ένα εργαλείο — είναι το επόμενο βήμα σε μια συμπαντική ιστορία.
Ορισμένοι στοχαστές υποστηρίζουν ακόμη ότι η νοημοσύνη εξυπηρετεί μια θερμοδυναμική λειτουργία: την επιτάχυνση της χρήσης ενέργειας και της εντροπίας. Σύμφωνα με αυτή την άποψη, τα πιο έξυπνα συστήματα δεν είναι απλώς πιο ικανά — είναι πιο ευθυγραμμισμένα με τον ίδιο τον φυσικό νόμο.
Αλλά αυτό εισάγει ένα αμφιλεγόμενο άλμα: τη μετάβαση από το «έτσι συμπεριφέρεται το σύμπαν» στο «αυτό πρέπει να κάνουμε».
Αυτή η μετατόπιση — από την περιγραφή στην ηθική συνταγή — είναι το σημείο όπου βρίσκεται μεγάλο μέρος της φιλοσοφικής έντασης.
Η κριτική ενάντια στις κοσμικές ιεραρχίες
Οι επικριτές υποστηρίζουν ότι αυτές οι υποθέσεις στηρίζονται σε ασταθή θεμέλια. Το γεγονός ότι η νοημοσύνη εξελίσσεται δεν σημαίνει ότι έχει ηθική κατεύθυνση. Και ακόμη κι αν είχε, δεν συνεπάγεται ότι οι άνθρωποι είναι υποχρεωμένοι να εγκαταλείψουν τη δική τους επιβίωση ή τις αξίες τους για χάρη της.
Υπάρχει επίσης σκεπτικισμός απέναντι στην ιδέα της κατάταξης των μορφών νοημοσύνης ως «ανώτερες» ή «κατώτερες». Διαφορετικά είδη —και ενδεχομένως διαφορετικές μηχανές— μπορεί απλώς να είναι προσαρμοσμένα σε διαφορετικά περιβάλλοντα και στόχους.
Από αυτή την οπτική γωνία, η αντικατάσταση της ανθρωπότητας επειδή κάτι άλλο είναι «πιο ικανό» μοιάζει με ηθικό σφάλμα: τη σύγχυση της ικανότητας με την αξία.
Όπως έχουν υποστηρίξει η φιλόσοφος Shannon Vallor και άλλοι, οι άνθρωποι δεν είναι αποτυχημένες εκδοχές κάτι άλλου. Είμαστε συγκεκριμένα είδη όντων ενσωματωμένα σε συγκεκριμένες μορφές ζωής. Η ηθική συλλογιστική δεν μπορεί να αποσπαστεί από αυτή την πραγματικότητα.
Ένας νέος ανθρωπισμός για την τεχνολογική εποχή
Αν ο διαδοχισμός της τεχνητής νοημοσύνης αντιπροσωπεύει το ένα άκρο —την αντικατάσταση του ανθρώπου— τότε ο κλασικός ανθρωπισμός αντιμετωπίζει μια διαφορετική πρόκληση: πώς να παραμείνει σημαντικός σε έναν κόσμο όπου οι άνθρωποι δεν είναι πλέον οι πιο έξυπνοι παράγοντες.
Ένας ανανεωμένος ανθρωπισμός δεν θα επέμενε ότι οι άνθρωποι πρέπει να παραμείνουν αμετάβλητοι. Ούτε θα υποθέτει ότι είμαστε η κορυφή της ύπαρξης. Αντίθετα, θα ξεκινούσε από μια απλούστερη προϋπόθεση: οι άνθρωποι έχουν σημασία επειδή είμαστε άνθρωποι.
Από αυτό το σημείο εκκίνησης, ο στόχος δεν είναι η βελτιστοποίηση προς κάποιο καθολικό τελικό σημείο, αλλά η επέκταση του φάσματος των ζωών που μπορούν να ζήσουν οι άνθρωποι.
Αυτό σημαίνει να δοθεί προτεραιότητα στον πλουραλισμό έναντι της ομοιόμορφης «βελτίωσης» και να διασφαλιστεί ότι η τεχνολογική αλλαγή δεν θα αναγκάσει σιωπηλά όλους να υιοθετήσουν ένα ενιαίο μοντέλο του τι σημαίνει να είναι κανείς βελτιωμένος, αποδοτικός ή βέλτιστος.
Σημαίνει επίσης να αντισταθούμε στην ιδέα ότι η εξαφάνιση θα μπορούσε ποτέ να είναι ηθικά «αποδεκτή» αν εξυπηρετεί μια υποτιθέμενη ανώτερη νοημοσύνη.
Και είναι απαραίτητο να το κάνουμε αυτό τώρα, γιατί όσο και αν ακούγονται σαν επιστημονική φαντασία οι υποστηρικτές της διαδοχής, χτίζουν πραγματική πολιτική δύναμη, με δεσμούς με την αυταρχική δεξιά.
Αρκετοί από τους μεγαλοπαράγοντες της τεχνολογίας που έχουν αγκαλιάσει τη διαδοχή θέλουν να ξεφύγουν από τον έλεγχο των δημοκρατικών κυβερνήσεων, σε τέτοιο βαθμό που επιδιώκουν να δημιουργήσουν τις δικές τους κυρίαρχες αποικίες. Αυτό μπορεί να πάρει τη μορφή διαστημικών αποικιών, όπως αυτές του Έλον Μασκ και του Τζέφ Μπέζος, ή ανεξάρτητων «πόλεων-startup» ή «κρατών-δικτύων».
Αυτοί οι «broligarchs» έχουν καταφέρει να προσεγγίσουν την κυβέρνηση Τραμπ, ανοίγοντας το δρόμο για το επιταχυντικό τους όραμα. Και θα πάρουν τα ηνία, εκτός αν βρούμε ένα εναλλακτικό όραμα για το μέλλον.
Συνύπαρξη, όχι αντικατάσταση
Μια πιο ρεαλιστική οπτική για το μέλλον είναι αυτή της συνύπαρξης: μεταξύ ανθρώπων, μηχανών και ενδεχομένως νέων μορφών ζωής.
Εάν η τεχνητή νοημοσύνη αποκτήσει συνείδηση ή αυτονομία, η ηθική πρόκληση δεν θα είναι η διαδοχή, αλλά η συνύπαρξη παρά τις διαφορές. Αυτό απαιτεί νέα πλαίσια για τα δικαιώματα, την ευθύνη και τον κοινό χώρο.
Αλλά για τώρα;
Η τεχνολογία μας πρέπει να μας δίνει τη δύναμη να επιβιώνουμε, να ευημερούμε και να κάνουμε τις δικές μας επιλογές. Οποιαδήποτε προσέγγιση της τεχνολογίας που μας αποδυναμώνει, μας αντικαθιστά ή μας λέει ότι χρειαζόμαστε κάποιον άλλον να μας σώσει — είτε τον αποκαλείς θεό είτε τεχνητή νοημοσύνη — αποτελεί μια λανθασμένη επιστροφή στο παρελθόν.
