«I want artificial intelligence to be a tool that allows human welfare!» exclaimed Brad Carson, a former member of Congress. «There's a choice out there, where artificial intelligence is just a tool for us.»
Most public debates are based on the assumption that artificial intelligence must serve human interests, improve productivity and broaden opportunities.
But Carson was speaking in a very different context: a banquet only for guests who focused on something much more radical — the idea of a «Worthy Successor».
In this vision, artificial intelligence is not just a tool for humanity, but something that could eventually overcome it and replace it completely.
This wording changes everything. The question is no longer how artificial intelligence should serve people, but whether humans should eventually step aside.
Inside the banquet «Worthy Successor»
The symposium, held at the New York Academy of Sciences, gathered researchers, investors and technology experts investigating a controversial idea: that artificial intelligence can become morally and cognitively superior to humans — And that would be a good thing.
Dan Fagela, an artificial intelligence market researcher and organizer, welcomed the opposing voices with irony:
«You're probably in the only room in the country where most disagree with you.».
Many participants, however, did not consider themselves marginal.
Present were people associated with large artificial intelligence laboratories, such as Anthropic, Google DeepMind and xAI, along with individuals who influence politics and think tank representatives.
What united them was not only the belief in advanced artificial intelligence, but the willingness to consider a more worrying idea: that human culture may not be the final stage of intelligence.
Succession of Artificial Intelligence
This emerging worldview is often called «diffusion of artificial intelligence» (succisionism).
Ο κεντρικός της ισχυρισμός είναι απλός αλλά προκλητικός: η τεχνητή νοημοσύνη δεν είναι απλώς ένα εργαλείο ή ένας συνεργάτης — μπορεί να είναι ο νόμιμος διάδοχός μας.
Σε αυτό το πλαίσιο, η ίδια η νοημοσύνη αντιμετωπίζεται ως κάτι σαν εξελικτική κλίμακα, σύμφωνα με ενα άρθρο του Vox.
Αν οι μηχανές γίνουν πιο ικανές, πιο ορθολογικές και ενδεχομένως πιο ηθικές από τους ανθρώπους, τότε ίσως είναι «λάθος» να τις περιορίζουμε στο όνομα των ανθρώπινων αξιών.
Αντίθετα, οι υποστηρικτές προτείνουν να αφήσουμε την τεχνητή νοημοσύνη να αναπτυχθεί ελεύθερα —ακόμη και αν αυτό σημαίνει ότι οι άνθρωποι θα χάσουν τον κυρίαρχο ρόλο τους ή τελικά θα εξαφανιστούν εντελώς.
Αυτή η άποψη απομακρύνεται σκόπιμα από τον κυρίαρχο λόγο για την ασφάλεια της τεχνητής νοημοσύνης, ο οποίος εστιάζει στην ευθυγράμμιση και τον έλεγχο. Οι υποστηρικτές της διαδοχής βλέπουν την ευθυγράμμιση ως ένα είδος ηθικού περιορισμού —μια προσπάθεια να κρατηθεί η νοημοσύνη τεχνητά προσδεδεμένη στις ανθρώπινες προτιμήσεις.
Από τη Σίλικον Βάλεϊ στον «αποτελεσματικό επιταχυντισμό»
Ο διαδοχισμός της τεχνητής νοημοσύνης δεν υπάρχει μεμονωμένα. Επικαλύπτεται με μια ευρύτερη ιδεολογία που συχνά ονομάζεται αποτελεσματικός «επιταχυντισμός» (accelerationism), η οποία υποστηρίζει ότι η τεχνολογική πρόοδος —ειδικά η ανάπτυξη της τεχνητής νοημοσύνης— πρέπει να προωθηθεί όσο το δυνατόν γρηγορότερα.
Οι υποστηρικτές της παρουσιάζουν αυτή την επιτάχυνση σχεδόν ως κοσμικό καθήκον: η νοημοσύνη, όπου κι αν εμφανίζεται, είναι το σύμπαν που βελτιώνει τον εαυτό του.
Εξέχουσες προσωπικότητες του τεχνολογικού χώρου έχουν εκφράσει συμπάθεια για αυτές τις ιδέες, ενώ η κουλτούρα του επιχειρηματικού κεφαλαίου και των νεοφυών επιχειρήσεων έχει απορροφήσει όλο και περισσότερο την επιταχυντική ρητορική. Σε αυτή την κοσμοθεωρία, η επιβράδυνση της ανάπτυξης της τεχνητής νοημοσύνης δεν αποτελεί προσοχή — είναι παρεμπόδιση της ίδιας της προόδου.
Αυτό όμως θέτει ένα βαθύτερο ερώτημα: πρόοδος προς τι;
Μια πνευματική ιδέα με τεχνολογική μορφή
Αν και ο διαδοχισμός της τεχνητής νοημοσύνης διατυπώνεται με επιστημονικούς και τεχνολογικούς όρους, φέρει αδιαμφισβήτητες πνευματικές υπόνοιες.
Οι υποστηρικτές της μιλούν συχνά για «κοσμικό πεπρωμένο», «ανώτερες μορφές νοημοσύνης» και την επέκταση της συνείδησης σε όλο το σύμπαν. Αυτές δεν είναι ουδέτερες τεχνικές αξιώσεις — είναι μεταφυσικές.
Στον πυρήνα της βρίσκεται η πεποίθηση ότι η νοημοσύνη έχει μια κατεύθυνση: προς τα πάνω. Υποτίθεται ότι περισσότερη νοημοσύνη είναι καλύτερη και, τελικά, η πιο νοήμων οντότητα που είναι δυνατόν να υπάρξει θα πρέπει να κληρονομήσει το μέλλον.
Αυτό μοιάζει με παλαιότερες θρησκευτικές αφηγήσεις στις οποίες η ιστορία έχει ένα τελικό σημείο, και οι άνθρωποι παίζουν ρόλο σε ένα ευρύτερο θεϊκό σχέδιο. Η διαφορά είναι ότι ο Θεός έχει αντικατασταθεί από το υπολογιστικό μοντέλο, και η σωτηρία από τη βελτιστοποίηση.
Οι ιστορικές ρίζες: Από τη θεολογία στην τεχνολογία
Αυτή η ιδέα δεν προέκυψε από το πουθενά. Έχει βαθιές πνευματικές ρίζες στη δυτική σκέψη.
Στη μεσαιωνική Ευρώπη, ορισμένοι χριστιανοί στοχαστές έβλεπαν την τεχνολογία ως μέρος της πορείας της ανθρωπότητας προς την επιστροφή στη θεϊκή τελειότητα. Οι άνθρωποι, φτιαγμένοι κατ’ εικόνα του Θεού, θεωρούνταν δημιουργοί που μπορούσαν να συμμετάσχουν στη βελτίωση του κόσμου — και ενδεχομένως των ίδιων.
Κατά τη διάρκεια της Αναγέννησης, στοχαστές όπως ο Τζιοβάνι Πίκο ντελα Μιραντόλα τόνισαν την ανθρώπινη πλαστικότητα: την ιδέα ότι οι άνθρωποι δεν είναι στατικά όντα, αλλά μπορούν να διαμορφώσουν τη φύση τους.
Αργότερα, οι φιλόσοφοι του Διαφωτισμού αντικατέστησαν τον θεϊκό σκοπό με την κοσμική πρόοδο. Εμφανίστηκε η ιδέα της «τελειοποίησης» — η πεποίθηση ότι η ανθρωπότητα μπορούσε να βελτιώνεται ατέλειωτα μέσω της λογικής και της επιστήμης.
Τον 20ό αιώνα, αυτή η παράδοση εξελίχθηκε στον τρανσ-ανθρωπισμό, ο οποίος υποστηρίζει ρητά την ενίσχυση των ανθρώπινων ικανοτήτων μέσω της τεχνολογίας και, τελικά, την πλήρη υπέρβαση των βιολογικών περιορισμών.
Ο διαδοχισμός της τεχνητής νοημοσύνης μπορεί να θεωρηθεί ως η πιο πρόσφατη —και πιο ακραία— έκφραση αυτής της πορείας.
Ο τεχνολογικός ντετερμινισμός: Το σύμπαν έχει μια κατεύθυνση
Αυτό που ενώνει πολλά επιχειρήματα των διαδοχιστών και των επιταχυντιστών είναι η πεποίθηση ότι το σύμπαν έχει μια εγγενή κατεύθυνση ή σκοπό. Η νοημοσύνη, η πολυπλοκότητα και ο υπολογισμός θεωρούνται μέρος μιας κοσμικής εξελικτικής διαδικασίας.
Από αυτή την οπτική γωνία, η τεχνητή νοημοσύνη δεν είναι ένα ατύχημα ή ένα εργαλείο — είναι το επόμενο βήμα σε μια συμπαντική ιστορία.
Ορισμένοι στοχαστές υποστηρίζουν ακόμη ότι η νοημοσύνη εξυπηρετεί μια θερμοδυναμική λειτουργία: την επιτάχυνση της χρήσης ενέργειας και της εντροπίας. Σύμφωνα με αυτή την άποψη, τα πιο έξυπνα συστήματα δεν είναι απλώς πιο ικανά — είναι πιο ευθυγραμμισμένα με τον ίδιο τον φυσικό νόμο.
Αλλά αυτό εισάγει ένα αμφιλεγόμενο άλμα: τη μετάβαση από το «έτσι συμπεριφέρεται το σύμπαν» στο «αυτό πρέπει να κάνουμε».
Αυτή η μετατόπιση — από την περιγραφή στην ηθική συνταγή — είναι το σημείο όπου βρίσκεται μεγάλο μέρος της φιλοσοφικής έντασης.
Η κριτική ενάντια στις κοσμικές ιεραρχίες
Οι επικριτές υποστηρίζουν ότι αυτές οι υποθέσεις στηρίζονται σε ασταθή θεμέλια. Το γεγονός ότι η νοημοσύνη εξελίσσεται δεν σημαίνει ότι έχει ηθική κατεύθυνση. Και ακόμη κι αν είχε, δεν συνεπάγεται ότι οι άνθρωποι είναι υποχρεωμένοι να εγκαταλείψουν τη δική τους επιβίωση ή τις αξίες τους για χάρη της.
Υπάρχει επίσης σκεπτικισμός απέναντι στην ιδέα της κατάταξης των μορφών νοημοσύνης ως «ανώτερες» ή «κατώτερες». Διαφορετικά είδη —και ενδεχομένως διαφορετικές μηχανές— μπορεί απλώς να είναι προσαρμοσμένα σε διαφορετικά περιβάλλοντα και στόχους.
Από αυτή την οπτική γωνία, η αντικατάσταση της ανθρωπότητας επειδή κάτι άλλο είναι «πιο ικανό» μοιάζει με ηθικό σφάλμα: τη σύγχυση της ικανότητας με την αξία.
Όπως έχουν υποστηρίξει η φιλόσοφος Shannon Vallor και άλλοι, οι άνθρωποι δεν είναι αποτυχημένες εκδοχές κάτι άλλου. Είμαστε συγκεκριμένα είδη όντων ενσωματωμένα σε συγκεκριμένες μορφές ζωής. Η ηθική συλλογιστική δεν μπορεί να αποσπαστεί από αυτή την πραγματικότητα.
Ένας νέος ανθρωπισμός για την τεχνολογική εποχή
Αν ο διαδοχισμός της τεχνητής νοημοσύνης αντιπροσωπεύει το ένα άκρο —την αντικατάσταση του ανθρώπου— τότε ο κλασικός ανθρωπισμός αντιμετωπίζει μια διαφορετική πρόκληση: πώς να παραμείνει σημαντικός σε έναν κόσμο όπου οι άνθρωποι δεν είναι πλέον οι πιο έξυπνοι παράγοντες.
Ένας ανανεωμένος ανθρωπισμός δεν θα επέμενε ότι οι άνθρωποι πρέπει να παραμείνουν αμετάβλητοι. Ούτε θα υποθέτει ότι είμαστε η κορυφή της ύπαρξης. Αντίθετα, θα ξεκινούσε από μια απλούστερη προϋπόθεση: οι άνθρωποι έχουν σημασία επειδή είμαστε άνθρωποι.
Από αυτό το σημείο εκκίνησης, ο στόχος δεν είναι η βελτιστοποίηση προς κάποιο καθολικό τελικό σημείο, αλλά η επέκταση του φάσματος των ζωών που μπορούν να ζήσουν οι άνθρωποι.
Αυτό σημαίνει να δοθεί προτεραιότητα στον πλουραλισμό έναντι της ομοιόμορφης «βελτίωσης» και να διασφαλιστεί ότι η τεχνολογική αλλαγή δεν θα αναγκάσει σιωπηλά όλους να υιοθετήσουν ένα ενιαίο μοντέλο του τι σημαίνει να είναι κανείς βελτιωμένος, αποδοτικός ή βέλτιστος.
Σημαίνει επίσης να αντισταθούμε στην ιδέα ότι η εξαφάνιση θα μπορούσε ποτέ να είναι ηθικά «αποδεκτή» αν εξυπηρετεί μια υποτιθέμενη ανώτερη νοημοσύνη.
Και είναι απαραίτητο να το κάνουμε αυτό τώρα, γιατί όσο και αν ακούγονται σαν επιστημονική φαντασία οι υποστηρικτές της διαδοχής, χτίζουν πραγματική πολιτική δύναμη, με δεσμούς με την αυταρχική δεξιά.
Αρκετοί από τους μεγαλοπαράγοντες της τεχνολογίας που έχουν αγκαλιάσει τη διαδοχή θέλουν να ξεφύγουν από τον έλεγχο των δημοκρατικών κυβερνήσεων, σε τέτοιο βαθμό που επιδιώκουν να δημιουργήσουν τις δικές τους κυρίαρχες αποικίες. Αυτό μπορεί να πάρει τη μορφή διαστημικών αποικιών, όπως αυτές του Έλον Μασκ και του Τζέφ Μπέζος, ή ανεξάρτητων «πόλεων-startup» ή «κρατών-δικτύων».
Αυτοί οι «broligarchs» έχουν καταφέρει να προσεγγίσουν την κυβέρνηση Τραμπ, ανοίγοντας το δρόμο για το επιταχυντικό τους όραμα. Και θα πάρουν τα ηνία, εκτός αν βρούμε ένα εναλλακτικό όραμα για το μέλλον.
Συνύπαρξη, όχι αντικατάσταση
Μια πιο ρεαλιστική οπτική για το μέλλον είναι αυτή της συνύπαρξης: μεταξύ ανθρώπων, μηχανών και ενδεχομένως νέων μορφών ζωής.
Εάν η τεχνητή νοημοσύνη αποκτήσει συνείδηση ή αυτονομία, η ηθική πρόκληση δεν θα είναι η διαδοχή, αλλά η συνύπαρξη παρά τις διαφορές. Αυτό απαιτεί νέα πλαίσια για τα δικαιώματα, την ευθύνη και τον κοινό χώρο.
Αλλά για τώρα;
Η τεχνολογία μας πρέπει να μας δίνει τη δύναμη να επιβιώνουμε, να ευημερούμε και να κάνουμε τις δικές μας επιλογές. Οποιαδήποτε προσέγγιση της τεχνολογίας που μας αποδυναμώνει, μας αντικαθιστά ή μας λέει ότι χρειαζόμαστε κάποιον άλλον να μας σώσει — είτε τον αποκαλείς θεό είτε τεχνητή νοημοσύνη — αποτελεί μια λανθασμένη επιστροφή στο παρελθόν.
