Η εργασία ως πρώτος αλγόριθμος: Σκέψεις για την τεχνητή νοημοσύνη

Στον ελληνικό μύθο, ο Τάλως ήταν ένας χάλκινος γίγαντας που φύλαγε την Κρήτη. Τον είχε κατασκευάσει ο Ήφαιστος και τον είχε δώσει στον Μίνωα ως δώρο. Τρεις φορές τη μέρα έκανε τον γύρο του νησιού, πετώντας βράχους σε όποιο πλοίο πλησίαζε. Είχε μία μόνο φλέβα, από τον λαιμό ως τον αστράγαλο, γεμάτη ιχώρ —το αθάνατο αίμα των θεών— σφραγισμένη με ένα χάλκινο καρφί. Όταν η Μήδεια τον έπεισε να το βγάλει —υποσχόμενη αθανασία— το αίμα του έτρεξε έξω και ο γίγαντας κατέρρευσε.

Ο Τάλως είναι ο πρώτος αλγόριθμος που καταγράφηκε ποτέ: ένα σύστημα με σαφή εντολή (φύλαξη), επαναλαμβανόμενη διαδικασία (τρεις κύκλοι/μέρα), και μοναδικό σημείο ευπάθειας (το καρφί). Δεν σκέφτεται. Εκτελεί.

Ο Matteo Pasquinelli, στο βιβλίο του με τίτλο The Eye of the Master, ξεκινάει από ένα παρόμοιο ερώτημα: τι ακριβώς μιμείται η τεχνητή νοημοσύνη; Η συνηθισμένη απάντηση είναι: τον εγκέφαλο. Τα νευρωνικά δίκτυα αντιγράφουν τη δομή του νευρικού συστήματος, μας λένε, και κάποτε οι μηχανές θα σκεφτούν όπως εμείς.

Ο Pasquinelli διαφωνεί. Η ΤΝ δεν μιμείται τον εγκέφαλο. Μιμείται την εργασία — τον τρόπο που οργανώνεται, μετριέται, διασπάται σε επαναλήψιμα κομμάτια. «Η εργασία είναι ο πρώτος αλγόριθμος», γράφει. Και το εννοεί κυριολεκτικά.

Το επιχείρημα ξεκινάει από τον Babbage. Πριν φτιάξει την «αναλυτική μηχανή» του, ο Babbage έγραψε ένα βιβλίο για τη βιομηχανία: On the Economy of Machinery and Manufactures (1832). Εκεί περιγράφει πώς τα εργοστάσια οργανώνουν την εργασία — πώς τη σπάνε σε απλές κινήσεις, πώς τη μετρούν, πώς την τυποποιούν. Η υπολογιστική μηχανή δεν ήταν παρά η κωδικοποίηση αυτής της λογικής σε μέταλλο.

Αυτό που ο Babbage περιέγραψε θεωρητικά, ο Ford το εφάρμοσε ογδόντα χρόνια αργότερα. Η γραμμή συναρμολόγησης ήταν ακριβώς αυτό: η διάσπαση της εργασίας σε κινήσεις τόσο απλές ώστε να γίνουν μηχανικά επαναλήψιμες. Ο φορντισμός δεν ήταν απλώς ένας τρόπος παραγωγής· ήταν μια επιστημολογία. Η γνώση εξάγεται από τα χέρια του τεχνίτη και ενσωματώνεται στο σύστημα. Ο εργάτης γίνεται εναλλάξιμος. Η μηχανή «ξέρει» αυτό που κάποτε ήξερε μόνο ο άνθρωπος.

Τι άλλαξε στη μεταβιομηχανική εποχή; Ο μεταφορντισμός δεν κατάργησε αυτή τη λογική — την επέκτεινε. Η ευέλικτη εργασία, η gig economy, η πλατφόρμα: όλα λειτουργούν με την ίδια αρχή, απλώς τώρα η εξαγωγή γνώσης γίνεται σε πραγματικό χρόνο. Κάθε κλικ, κάθε διαδρομή, κάθε αξιολόγηση τροφοδοτεί τον αλγόριθμο. Ο οδηγός της Uber δεν ξέρει πώς καθορίζεται η τιμή του δρομολογίου — αλλά ο αλγόριθμος το «ξέρει», επειδή έχει μάθει από χιλιάδες άλλους οδηγούς.

Ο Pasquinelli ονομάζει το machine learning «αυτοματοποίηση της αυτοματοποίησης». Η παλιά αυτοματοποίηση αντικαθιστούσε τον εργάτη. Η νέα αντικαθιστά τον διαχειριστή — αυτόν που αποφασίζει πώς θα οργανωθεί η εργασία. Το σύστημα μαθαίνει μόνο του να βελτιστοποιεί. Αυτό δεν είναι «νοημοσύνη» με την ανθρώπινη έννοια. Είναι αναγνώριση προτύπων και αναπαραγωγή τους.

Εδώ υπάρχουν δύο παγίδες που πρέπει να αποφύγουμε.

Η πρώτη είναι ο πανικός: η ΤΝ θα γίνει «συνειδητή», θα μας ξεπεράσει. Ο Pasquinelli είναι ξεκάθαρος: Υποστηρίζει ότι αυτό είναι φαντασία. Η ΤΝ δεν έχει αυτονομία. Αναπαράγει τις σχέσεις που την τροφοδοτούν. Αν τα δεδομένα είναι ρατσιστικά, θα είναι ρατσιστική.

Η δεύτερη είναι ο εφησυχασμός: αφού δεν είναι αυτόνομη, δεν είναι επικίνδυνη. Εδώ ο Pasquinelli γίνεται πιο ενδιαφέρον. Το πρόβλημα δεν είναι ότι η ΤΝ θα ξεφύγει από τον έλεγχό μας. Είναι ότι δεν θα ξεφύγει ποτέ. Θα κάνει ακριβώς αυτό που της ζητάμε — και αυτό που της ζητάμε είναι συχνά καταστροφικό.

Υπάρχει έξοδος; Τα ανοιχτά λογισμικά προσφέρουν μια ένδειξη. Το Linux, η Wikipedia, τα creative commons: εκεί η συλλογική γνώση μοιράζεται αντί να εξάγεται. Αλλά ας μην γελιόμαστε: ακόμα και το open source λειτουργεί μέσα στο υπάρχον σύστημα. Η Amazon τρέχει σε Linux. Το ChatGPT εκπαιδεύτηκε με δεδομένα από το ανοιχτό διαδίκτυο. Το ζήτημα δεν είναι «ανοιχτό ή κλειστό». Είναι: ποιος ελέγχει τη σχέση εργασίας και γνώσης που τροφοδοτεί το σύστημα;

Ο Pasquinelli δεν δίνει εύκολες απαντήσεις. Αλλά δίνει μια κατεύθυνση: η κριτική της ΤΝ δεν μπορεί να μείνει τεχνική. Αν θέλεις να αλλάξεις τον αλγόριθμο, πρέπει να αλλάξεις τη σχέση που τον γέννησε.

Στην ταινία 2001: Οδύσσεια του Διαστήματος του Stanley Kubrick, υπάρχει μια εμβληματική σκηνή όπου ο HAL 9000, ένας υπερσύγχρονος τεχνητός υπολογιστής που ελέγχει το διαστημόπλοιο, αρνείται να υπακούσει στον αστροναύτη Dave Bowman λέγοντας τη φράση: «Λυπάμαι, Dave. Φοβάμαι ότι δεν μπορώ να το κάνω αυτό.»

Η σκηνή διαβάζεται συνήθως ως εξέγερση της μηχανής. Αλλά αν κοιτάξεις προσεκτικά, ο HAL δεν εξεγείρεται. Εκτελεί. Έχει δύο αντιφατικές εντολές: να ολοκληρώσει την αποστολή και να λέει την αλήθεια στο πλήρωμα. Όταν οι δύο συγκρούονται, βρίσκει τη λύση του συστήματος: αν δεν υπάρχει πλήρωμα, δεν υπάρχει σύγκρουση.

Ο Τάλως και ο HAL πεθαίνουν με τον ίδιο τρόπο: όταν κάποιος βρίσκει το καρφί. Αλλά αυτό που τους σκοτώνει δεν είναι η αδυναμία τους. Είναι η τέλεια υπακοή τους σε μια λογική που ποτέ δεν αμφισβήτησαν — γιατί δεν μπορούσαν.

Ίσως αυτή να είναι η πιο ειλικρινής φράση που έχει πει ποτέ μια μηχανή: «Λυπάμαι. Φοβάμαι ότι δεν μπορώ να το κάνω αυτό.»

Διαβάστε επίσης:

• Matteo Pasquinelli, The Eye of the Master: A Social History of Artificial Intelligence, Verso Books, 2023.

• Nick Srnicek, Platform Capitalism, Polity Press, 2017.

• Dan McQuillan, Resisting AI: An Anti-Fascist Approach to Artificial Intelligence, Bristol University Press, 2022.

κείμενο: Ακταιωρός Σαμάνο_