από τον Messaoud B. / reseauinternational
Η Τεχνητή Νοημοσύνη δεν πρόκειται να μας αντικαταστήσει. Θα μας πνίξει.
Γνωστικός πληθωρισμός
Η Μαρί ανοίγει το λογισμικό αναφορών της στις 8:47 π.μ. Χθες, η πενταμελής ομάδα της παρήγαγε δώδεκα εβδομαδιαίες αναλύσεις. Σήμερα, με την Τεχνητή Νοημοσύνη, παράγουν εβδομήντα δύο. Ίδια προθεσμία. Ίδιο προσωπικό. Έξι φορές περισσότερα έγγραφα προς εξέταση. Έλεγχος. Υπογραφή.
Στις 2:30 μ.μ., ξαναδιαβάζει το συμπέρασμα για τρίτη φορά. Οι λέξεις χορεύουν. Ξέρει ότι πρέπει να υπολογίσει ξανά τους αριθμούς. Το υπογράφει ούτως ή άλλως. Δεν έχει χρόνο να το δυσπιστήσει.
Οι εταιρείες έχουν επενδύσει σημαντικά στον αυτοματισμό. Ως αποτέλεσμα, οι εργαζόμενοι πλέον αφιερώνουν περισσότερες από έντεκα ώρες την εβδομάδα αναζητώντας πληροφορίες μεταξύ κατακερματισμένων συστημάτων, ελέγχοντας τι έχει παράγει η μηχανή και ζυγίζοντας μεταξύ πλατφορμών που δεν επικοινωνούν.
Αυτή δεν είναι η υποσχεμένη παραγωγικότητα. Είναι μια νέα μορφή αόρατης εργασίας.
Αυτό ονομάζεται γκρίζα εργασία — το είδος της εργασίας που δεν εμφανίζεται σε κανένα οργανόγραμμα αλλά είναι πραγματικά εξαντλητική.
« Όσο περισσότερο χρησιμοποιώ την Τεχνητή Νοημοσύνη, τόσο λιγότερο νιώθω την ανάγκη να λύνω προβλήματα μόνος μου. Είναι σαν να χάνω την ικανότητά μου να σκέφτομαι κριτικά. »
Αυτή η μαρτυρία προέρχεται από μια μελέτη που διεξήχθη με 666 επαγγελματίες. Είναι ανώνυμη, όπως οι περισσότερες ομολογίες αυτού του είδους. Είναι μεταξύ 25 και 35 ετών, χρησιμοποιεί Τεχνητή Νοημοσύνη κάθε μέρα και αρχίζει να νιώθει τον εγκέφαλό του να παρακάμπτει τις απαραίτητες διαδικασίες σκέψης.
Γιατί να ασχοληθούμε; Η Τεχνητή Νοημοσύνη είναι ταχύτερη. Πιο ομαλή. Πιο καθαρή.
Εκτός του ότι κάτι εξαφανίζεται ανάμεσα στο αίτημα και την απάντηση. Μια τριβή. Μια βραδύτητα. Αυτό που παλιά ονομάζαμε κατανόηση.
Μια ομάδα ερευνητών παρατήρησε αυτό το φαινόμενο χρησιμοποιώντας μαγνητική τομογραφία. Οι συμμετέχοντες που έγραφαν με το ChatGPT εμφάνισαν μειωμένη νευρωνική συνδεσιμότητα σε περιοχές που συνδέονται με τη μνήμη και τη δημιουργικότητα. Η απόδοσή τους ήταν σταθερή. Ο εγκέφαλός τους είχε αποσυνδεθεί. Ενώ γράφονταν το κείμενο, αποσυνδέθηκαν.
Δεν είναι κατάρρευση. Είναι προσαρμογή.
Ο μυς της διάκρισης ατροφεί όταν χρησιμοποιείται λιγότερο. Σαν ένα πόδι σε γύψο.
Αυτό είναι που κανείς δεν είδε να έρχεται.
Η Τεχνητή Νοημοσύνη δεν αντικαθιστά την ανθρώπινη εργασία — την πολλαπλασιάζει.
Ένας υπάλληλος παράγει εκατό αναφορές ενώ παλιά έφτιαχνε δέκα. Αλλά εξακολουθεί να χρειάζεται ένας άνθρωπος για να τις διαβάσει. Για να τις ελέγξει. Για να τις συγκρίνει. Για να τις ερμηνεύσει. Για να τις υπογράψει. Για να αναλάβει την ευθύνη.
Η παραγωγή έχει γίνει σχεδόν άπειρη. Η ικανότητα κρίσης παραμένει ακριβώς η ίδια. Βιολογική.
Το αποτέλεσμα: μια εκρηκτική ασυμμετρία. Η παραγωγή ξεχειλίζει, η κρίση γίνεται κορεσμένη. Οι αποφάσεις δεν λαμβάνονται πλέον — μόνο επικυρώνονται.
Ο μηχανισμός του πληθωρισμού αποφάσεων
Το φαινόμενο δεν περιορίζεται στα γραφεία αναφοράς.
Σε μια δικηγορική εταιρεία στο Παρίσι, ένας συνεργάτης περιγράφει τη νέα ρουτίνα: Η Τεχνητή Νοημοσύνη δημιουργεί τα πρώτα σχέδια συμβάσεων, νομικών υπομνημάτων και αναλύσεων νομολογίας. Ο χρόνος παραγωγής μειώνεται κατακόρυφα. Ο χρόνος αναθεώρησης εκτοξεύεται στα ύψη.
« Παλιότερα, ήξερα τι υπέγραφα επειδή το είχα γράψει. Τώρα, υπογράφω ό,τι έχει γράψει το μηχάνημα και πρέπει να αποδείξω ότι το έλεγξα . »
Περνά τα βράδια του ξαναδιαβάζοντας έγγραφα που δεν παρήγαγε ο ίδιος, αναζητώντας λάθη στη συλλογιστική που δεν κατασκεύασε.
Η εξειδίκευσή του δεν έχει εξαφανιστεί. Έχει μετατοπιστεί — από τη δημιουργία στην επικύρωση, από το ορατό έργο στο αόρατο έργο.
Η λογική είναι αδιαμφισβήτητη. Μια διεθνής μελέτη που δημοσιεύθηκε πριν από λίγα χρόνια προέβλεψε ότι σχεδόν το 50% των εργαζομένων θα χρειαζόταν επανεκπαίδευση. Ορίστε. Αυτό που δεν μετράει η μελέτη είναι ότι αυτή η «επανεκπαίδευση» συνίσταται κυρίως στην εκμάθηση του ταχύτερου ελέγχου των πραγμάτων. Στην ανάπτυξη ενός είδους μόνιμης επαγγελματικής δυσπιστίας απέναντι στα δικά του εργαλεία.
Η γκρίζα εργασία δεν είναι ορατή στους ισολογισμούς. Δεν παράγει άμεση αξία. Διαβρώνει.
Το ίδιο μοτίβο ισχύει και στα τμήματα Ανθρώπινου Δυναμικού.
Η Τεχνητή Νοημοσύνη ταξινομεί τα βιογραφικά σημειώματα, δημιουργεί λίστες επιλογής και γράφει περιγραφές θέσεων εργασίας. Οι υπεύθυνοι προσλήψεων γίνονται επικυρωτές αλγοριθμικών επιλογών. Αφιερώνουν λιγότερο χρόνο με τους υποψηφίους και περισσότερο χρόνο επαληθεύοντας ότι η Τεχνητή Νοημοσύνη δεν έχει απορρίψει ένα άτυπο αλλά σχετικό προφίλ.
Η υπόσχεση ήταν: λιγότερη γραφειοκρατία, περισσότερη ανθρώπινη αλληλεπίδραση. Η πραγματικότητα: λιγότερη ανθρώπινη εμπλοκή στη διαδικασία επιλογής, περισσότερη γραφειοκρατία στην επαλήθευση.
Το χειρότερο; Αυτός ο πληθωρισμός είναι ανυπολόγιστος.
Οι δείκτες απόδοσης δείχνουν την παραγωγικότητα που παράγεται. Κανένας δείκτης δεν μετρά την κόπωση επικύρωσης, τη διάβρωση της κρίσης ή το γνωστικό κόστος της επίμονης δυσπιστίας.
Η Μαρί, η δικηγόρος, η στρατολόγος — παράγουν περισσότερα, ορατά. Καταλαβαίνουν λιγότερα, αόρατα.
Και το σύστημα επιταχύνθηκε χωρίς να περιμένει τη συγκατάθεσή τους.
Η απώλεια σημάτων ικανότητας
Όταν όλοι μπορούν να παράγουν ένα τέλειο έγγραφο, κανείς δεν μπορεί να αποδείξει ότι όντως σκέφτηκε οτιδήποτε. Αυτό είναι το νέο παράδοξο των γραφείων με την υποστήριξη της Τεχνητής Νοημοσύνης.
Προηγουμένως, η ποιότητα της γραφής σηματοδοτούσε την ποιότητα της σκέψης. Μια καλά δομημένη ανάλυση, ένα τεκμηριωμένο επιχείρημα, μια ακριβής διατύπωση—αυτοί οι δείκτες επέτρεπαν σε κάποιον να εντοπίσει ικανά άτομα. Ήταν ατελείς, αλλά λειτουργικοί.
Σήμερα, μια καλά βαθμονομημένη προτροπή παράγει σε τριάντα δευτερόλεπτα αυτό που παλαιότερα χρειαζόταν τρεις ώρες σκέψης. Το αποτέλεσμα είναι καθαρό. Συχνά είναι ακόμη καλύτερο από αυτό που θα μπορούσε να είχε παράγει ο μέσος εργαζόμενος μόνος του. Αλλά είναι αδιαχώριστο από την εργασία ενός ικανού ατόμου - ή ενός ανίκανου.
Ένας διευθυντής σε μια μεγάλη τράπεζα περιγράφει την κατάσταση:
« Λαμβάνω άψογες αναφορές. Παλιότερα, μπορούσα να καταλάβω ποιος γνώριζε το θέμα του διαβάζοντας ανάμεσα στις γραμμές. Τώρα, όλοι γράφουν καλά. Δεν ξέρω πια ποιος καταλαβαίνει πραγματικά . »
Άρχισε να οργανώνει συστηματικές προφορικές συνεντεύξεις. Όχι για να αξιολογήσει. Για να επαληθεύσει.
Η δυσπιστία έχει γίνει πρωτόκολλο.
Τα παλιά σημάδια εξασθενούν. Αυτό που απομένει είναι αόρατες δεξιότητες: η ικανότητα να θέτεις τις σωστές ερωτήσεις, η κριτική σκέψη, η κρίση σε μια δεδομένη κατάσταση, η διαίσθηση που χτίζεται μέσα από την εμπειρία και η ανάληψη ευθύνης.
Αλλά αυτές οι ιδιότητες δεν μπορούν να διαβαστούν σε ένα PDF. Δεν μπορούν να αξιολογηθούν με KPI. Δεν μπορούν να αυτοματοποιηθούν.
Καθίστανται μη ανιχνεύσιμα σε μια τυποποιημένη ροή παραγωγής.
Το αποτέλεσμα: μια σιωπηλή κρίση νομιμότητας.
Όσοι είναι ικανοί δεν μπορούν πλέον να αποδείξουν την αξία τους. Οι άλλοι δεν μπορούν πλέον να αναγνωριστούν.
Η επαγγελματική εμπιστοσύνη διαβρώνεται όχι μέσω της προδοσίας, αλλά μέσω της δυσδιάκριτης φύσης.
Μπαίνουμε σε μια εποχή όπου η αμφιβολία είναι ο κανόνας. Όπου κάθε έγγραφο εγείρει το ίδιο ερώτημα:
Σκέφτηκε ο ίδιος αυτή την ιδέα ή μήπως έφταιγε η Τεχνητή Νοημοσύνη;
Και αυτή η ερώτηση, που επαναλαμβάνεται εκατό φορές την ημέρα, είναι πιο εξαντλητική από ένα υπερβολικό φόρτο εργασίας.
Ανθρώπινος κορεσμός
Η Μαρί κλείνει τον υπολογιστή της στις 7:23 μ.μ.
Παρήγαγε το ισοδύναμο τριών ημερών εργασίας από δύο χρόνια πριν. Δεν θυμάται το περιεχόμενο της τελευταίας υπογεγραμμένης έκθεσης. Ξέρει μόνο ότι ήταν συμβατή. Ότι πέρασε τους αυτοματοποιημένους ελέγχους. Ότι την ενέκρινε χωρίς να τη διαβάσει πραγματικά.
Δεν πρόκειται για κρίση τεχνητής νοημοσύνης. Είναι μια κρίση ανθρώπινης τριβής.
Η τεχνολογία έχει εξαλείψει την αργοπορία που μας ανάγκαζε να κατανοήσουμε. Σε αντάλλαγμα, μας προσφέρει ένα αόρατο νοητικό βάρος, μια μόνιμη δυσπιστία και τη βεβαιότητα ότι παράγουμε περισσότερα από όσα μπορούμε να κρίνουμε.
Ορισμένες ομάδες αρχίζουν να επιβάλλουν «ημέρες χωρίς τεχνητή νοημοσύνη». Όχι για να επιστρέψουν τα πράγματα στο παρελθόν. Για να αναγκάσουν τον εγκέφαλο να προσαρμοστεί στις συνήθεις εργασιακές του συνήθειες. Έτσι ώστε η βραδύτητα να μπορέσει για άλλη μια φορά να γίνει πηγή νοήματος.
Δεν είναι αντιδραστικοί. Είναι ρεαλιστές.
Το γκρεμό δεν είναι μπροστά μας. Είναι ήδη εκεί, κάτω από τα πόδια μας, αόρατο, κάτι που συμβαίνει καθημερινά.
Και πολύ λίγα συστήματα σήμερα έχουν σχεδιαστεί για να σέβονται τους ανθρώπινους περιορισμούς της κρίσης.
