In the last one or two years, companies have begun to use so-called «AI agents» as normal «employees», including them in their organizational charts.
Emma Wiles, a professor at Boston University who studies how artificial intelligence affects workers, accidentally discovered this phenomenon in October, at a conference where two human resources executives stated that treating artificial intelligence agents as real employees was a way to increase productivity and to place their companies at the cutting edge of technology.
But when Dr. Wiles and her three Boston Consulting Group associates investigated further, they discovered a trap, according to The New York Times.
In an experiment involving dozens of companies with «employees» artificial intelligence, researchers found that directors tended to check documents with less attention when they were told that they had been created by a «official» artificial intelligence.
The directors did not detect mistakes other directors had detected when they were told they controlled a man’s work.
Dr. Wiles assumed that directors did not consider that detecting errors made by artificial intelligence employees was their responsibility.
If something went wrong, they could attribute it as a mistake by the tech team or executives who wanted artificial intelligence employees in the first place.
«But it's not your problem.», he said, expressing the directors' mindset about their own roles.
A new technology with many flaws
In the years since artificial intelligence appeared dynamically, many companies have realized the flaws created by technology and, at times, have taken steps to compensate for them.
They know that artificial intelligence models can be biased against certain groups of people, such as non-whites.
They know that chatbots can provide sure but incorrect answers to questions.
They know that bots sometimes reveal information that should remain private.
However, as companies rush to integrate artificial intelligence into their daily functions, researchers discover more subtle imperfections.
In principle, these imperfections could also be corrected. For example, companies could make directors directly responsible for the mistakes of existing artificial intelligence.
In practice, however, most corporate users seem to completely ignore these issues, which increases the possibility of undermining the promise of artificial intelligence for increased productivity and huge cost savings.
Shows AI «racism» To the people?
Even researchers who study artificial intelligence may only know a small part of the problems that technology creates. «There's a whole series of unknown strangers.», said Dr. Wiles.
A well documented but underestimated defect of artificial intelligence models is that they tend to favor the work produced by artificial intelligence.
A 2025 study in the Proceedings of the National Academy of Sciences found that several large language models had a low opinion of texts written by people, creating a «potentially a serious form of indirect ‘anti-human’ prejudice».
However, many companies seemed to ignore this problem or, at least, cannot imagine how it could cause chaos in their operations.
When a group of researchers analysed it in detail in a later study, finding that the artificial intelligence models used by companies to evaluate biographicals tend to favor those drawn up with the help of artificial intelligence against those who have been compiled entirely by people, this drew attention to some responsible hirings in companies.
Jane Yi Jiang, professor of business administration at Ohio University and co-author of this study, said that she and her co-authors were willing to help when hiring companies asked «how to improve their procedures».
Ωστόσο, επισήμαναν ότι αυτό σχεδόν σίγουρα δεν ήταν το μόνο πρόβλημα που οι εταιρείες εισήγαγαν ακούσια στην βιασύνη τους να υιοθετήσουν την τεχνητή νοημοσύνη. «Οι άνθρωποι προχωρούν πολύ γρήγορα στη χρήση των L.L.M. χωρίς να σκέφτονται πολύ τις επιπτώσεις και τις προκαταλήψεις», είπε.
Για παράδειγμα, ορισμένες εταιρείες χρησιμοποιούν πλέον την τεχνητή νοημοσύνη για να απαντήσουν σε ερωτήματα όπως πόσο να χρεώσουν για ένα προϊόν ή πού να ανοίξουν ένα νέο κατάστημα. Η εξάρτηση από την τεχνολογία για τέτοιους σκοπούς, ωστόσο, μπορεί γρήγορα να οδηγήσει σε λάθος κατεύθυνση.
Όταν αφεθούν στην κρίση τους, οι άνθρωποι συχνά συνεργάζονται και επιδιώκουν αποτελέσματα που ωφελούν και τις δύο πλευρές.
Όταν όμως τα μοντέλα τεχνητής νοημοσύνης αξιολογούν μια κατάσταση, τείνουν να υιοθετούν την πιο ψυχρά υπολογιστική, «ορθολογική» νοοτροπία που απορρέει από τη βασική θεωρία παιγνίων.
Μπορεί, για παράδειγμα, να οδηγήσουν μια εταιρεία να υποτιμήσει επιθετικά έναν ανταγωνιστή, ακόμα και αν αυτό ενέχει τον κίνδυνο ενός καταστροφικού πολέμου τιμών.
Το πρόβλημα του ορθολογισμού της AI
«Τα περισσότερα από τα μοντέλα L.L.M. που δοκιμάζουμε πιστεύουν ότι οι άνθρωποι είναι πιο ορθολογικοί από ό,τι είναι στην πραγματικότητα», δήλωσε ο Jiannan Xu, υποψήφιος διδάκτορας στο Πανεπιστήμιο του Μέριλαντ και συνεργάτης του Δρ. Jiang.
«Όμως, η πιο ορθολογική αντίδραση οδηγεί σε μια κακή κατάσταση για όλους» σε πολλές περιπτώσεις.
Κατ’ αρχήν, οι προγραμματιστές και οι χρήστες της τεχνητής νοημοσύνης μπορούν να διορθώσουν αυτές τις προκαταλήψεις. Ο Δρ Jiang και ο κ. Xu, για παράδειγμα, διαπίστωσαν ότι μπορούσαν να μειώσουν την αντι-ανθρώπινη προκατάληψη απλώς δίνοντας οδηγίες στα μοντέλα να επικεντρώνονται στην ποιότητα του γραπτού υλικού που αξιολογούν και να αποφεύγουν να λαμβάνουν υπόψη τον συγγραφέα.
Τα «μη γνωστά άγνωστα»
Ωστόσο, οι ερευνητές της τεχνητής νοημοσύνης δεν μπορούν να διορθώσουν προκαταλήψεις των οποίων δεν έχουν επίγνωση, και αρκετοί μελετητές ανέφεραν ότι ο αντίκτυπος αυτών των μη ανιχνεύσιμων προκαταλήψεων ενδέχεται να αυξηθεί.
Αν παραδείγματος χάριν τα μελλοντικά μοντέλα εκπαιδεύονται με δεδομένα που παράγονται από τα σημερινά μοντέλα χωρίς επαρκή προσοχή, θα δημιουργηθεί αναπόφευκτα ένα είδος αυτοενισχυόμενος κύκλος.
Σε αυτή την περίπτωση, «η τάση προς εδραίωση των υφιστάμενων προοπτικών και συμπεριφορών φαίνεται πιθανή», δήλωσε ο Shayne Longpre, ερευνητής τεχνητής νοημοσύνης και ιδρυτής της Data Provenance Initiative, μιας ομάδας που παρακολουθεί την υποδομή της τεχνητής νοημοσύνης.
Και μετά υπάρχουν τα «τυφλά σημεία» που προκύπτουν όχι τόσο από την ίδια την τεχνητή νοημοσύνη, όσο από τον τρόπο με τον οποίο την χρησιμοποιούν οι άνθρωποι.
Οι μελετητές που στρέφονται προς την τεχνητή νοημοσύνη σε κάθε στάδιο της ερευνητικής διαδικασίας — ρωτώντας την τεχνητή νοημοσύνη ποιες ερωτήσεις αξίζει να μελετηθούν, ζητώντας τη συμβουλή της για το πώς να απαντήσουν σε αυτές τις ερωτήσεις, αξιοποιώντας την για την ανάλυση δεδομένων, βασιζόμενοι σε αυτήν για τη σύνταξη των ευρημάτων — ενδέχεται να περιορίσουν ακούσια το εύρος της εργασίας τους.
«Δεν το παρατηρούμε απαραίτητα σε ατομικό επίπεδο», δήλωσε η Cecilie Steenbuch Traberg, ψυχολόγος στο Copenhagen Business School και συγγραφέας μιας πρόσφατης μελέτης για το θέμα.
«Αν ανταλλάσσεις απόψεις με ένα chatbot, το οποίο σε βοηθά να βρεις ιδέες, μπορεί να σου φαίνεται υπέροχο. Αλλά σε συλλογικό επίπεδο, φαίνεται αρκετά παρόμοιο. Όλοι ακούγονται το ίδιο».
Η Δρ. Wiles, δήλωσε ότι οι αδυναμίες δεν ήταν απαραίτητα εγγενείς στην τεχνολογία, αλλά προέκυψαν όταν οι άνθρωποι την υιοθέτησαν χωρίς να δώσουν ιδιαίτερη προσοχή στο τι θα μπορούσε να πάει στραβά.
Τους τελευταίους αιώνες, οι μελετητές και οι ηγέτες των επιχειρήσεων έχουν αναπτύξει ένα αξιόπιστο σύνολο πρακτικών για τη διαχείριση ανθρώπων.
Όμως, η ψυχολογία της διαχείρισης της τεχνητής νοημοσύνης είναι εντελώς διαφορετική, και «βγαίνουμε εκεί έξω στα τυφλά».
