Διάβολος με γλώσσα από σιλικόνη
“Φίλε, έλα τώρα. Είχα μια δύσκολη νύχτα”, λέει ο Jeffrey “the Dude” Lebowski. “Και μισώ τους γαμημένους Eagles, φίλε”.
Αμέσως μετά τη συγκεκριμένη ατάκα στην ταινία των αδελφών Coen ” The Big Lebowski” του 1998, ο Dude απομακρύνεται από το ταξί που παίρνει για να επιστρέψει στο σπίτι του από το Μαλιμπού – την παραλιακή κοινότητα από την οποία επίσης μόλις τον έχουν διώξει – ενώ από το ραδιόφωνο του αυτοκινήτου ακούγεται η επιτυχία των Eagles του 1972 “Peaceful Easy Feeling”. Είναι μια έκκληση που συμπυκνώνει τη σύγκρουση στην καρδιά της ταινίας: η γηράσκουσα Νέα Αριστερά παραπαίει και υποχωρεί στην Αμερική του Τζορτζ Μπους.
Αλλά πηγαίνει βαθύτερα από αυτό. Η προτίμηση του Dude για τον μεγαλειώδη, αυθεντικό ήχο των Creedence Clearwater Revival, το άλμπουμ των οποίων χάνει όταν του κλέβουν το κασετόφωνο του αυτοκινήτου του, χαράζει μια ευκρινή γραμμή μεταξύ καλής και κακής κουλτούρας. Είναι η επιθυμία των χίπις για υπερβατικότητα – το rock ‘n’ roll των τελών της δεκαετίας του 1960, σε αυτή την περίπτωση, αντί για ναρκωτικά – που τον κάνει να μισεί τους easy-listening Eagles, ένα παγκόσμιο συγκρότημα που έκανε θραύση και καθόρισε τον ήχο της δεκαετίας του 1970 όσο και οι Creedence τον ήχο των τελών της δεκαετίας του 1960.
Δεν είναι δύσκολο να βρει κανείς αναλογία στο παρόν. Το να μισείς την Taylor Swift μπορεί να σε κάνει να σε πετάξουν έξω από ένα μπάτσελορ πάρτι ή να σου την πέσουν στο δρόμο, ακόμα και να σε πετάξουν έξω από ένα ταξί. Αλλά είναι πιο δύσκολο να βρεις ένα άμεσο αντίστοιχο του Creedence. Αυτό οφείλεται εν μέρει στο γεγονός ότι η πρωτοποριακή κουλτούρα έχει διασπαστεί τόσο ολοκληρωτικά στην εποχή μας, ώστε κάθε ισχυρισμός ότι ένα ποπ είδος είναι η ουσία της αισθητικής προόδου είναι παράλογος εκ πρώτης όψεως. Πείτε ό,τι θέλετε για τις αποτυχίες της Νέας Αριστεράς – τουλάχιστον υπήρχε ένα ήθος.
Αυτό το επεισόδιο από το The Big Lebowski πηγαίνει πέρα από την πτώση των χίπις. Η μάχη μεταξύ της ποπ και της πρωτοπορίας είναι τόσο παλιά όσο και ο Διαφωτισμός – πιθανότατα παλαιότερη. Από τη δεκαετία του 1970 υπάρχει ένας συνεχής ορυμαγδός θεωριών που υποστηρίζουν ότι η ποπ θα ξεπεράσει ή και θα εξαλείψει την πρωτοπορία- στην πραγματικότητα, αυτός ο ισχυρισμός είναι ουσιαστικά αυτό που ο φιλόσοφος Jean-François Lyotard και ο λογοτέχνης Fredric Jameson ονόμασαν ο καθένας “μεταμοντερνισμό”. Ο ορυμαγδός έγινε πιο δυνατός καθώς το διαδίκτυο κατέκλυζε τα πάντα. Άλλωστε, υπάρχει μια εκδημοκρατιστική επιφάνεια στη δημιουργία μιας παγκόσμιας εκδοτικής πλατφόρμας peer-to-peer. Προσθέστε τα μέσα κοινωνικής δικτύωσης σε αυτό το μείγμα, και στη συνέχεια αυτό που αποκαλούμε “γενετική τεχνητή νοημοσύνη”, και είναι εύκολο να καταλάβει κανείς γιατί η πίστη στους Creedence μοιάζει τόσο γραφική.
Όπως υποστήριξε πρόσφατα ο συγγραφέας Chuck Klosterman, η δεκαετία του ’90 ήταν η τελευταία φορά που κάποιος πραγματικά πίστευε ότι το “να ξεπουλά κανείς” ήταν κακό ή αμφιλεγόμενο. Από αισθητικής άποψης, έχουμε όλοι πέσει σε αυτό που ονομάζω ” μαύρη τρύπα του streaming“, στην οποία οι αλγόριθμοι εκμεταλλεύονται τη μαζική δημοτικότητα, υποσχόμενοι εξατομικευμένα αποτελέσματα, ενώ στην πραγματικότητα ομογενοποιούν το περιεχόμενό μας. Όσοι κρατούν την πίστη τους στην πρωτοπορία μοιάζουν με τους ανθρώπους που έχουν δραπετεύσει από το Matrix και συγκεντρώνονται στη Σιών για να σχεδιάσουν την επανάσταση που μόνο ένας θεός μπορεί να προσφέρει. (Δεν είναι τυχαίο ότι το Matrix απεικονίζει τη ρέηβ ως μια πολύτιμη ελευθερία για τους διαφωτισμένους).
Αυτή η διάσπαση μεταξύ Creedence και Eagles, μεταξύ της καλής πρωτοπορίας και της κακής ποπ, θέτει στην πραγματικότητα κάποια βαθιά, σχεδόν μεταφυσικά ερωτήματα για την κουλτούρα. Και τώρα η έκρηξη της γενετικής τεχνητής νοημοσύνης – και ιδιαίτερα των μεγάλων γλωσσικών μοντέλων, ή LLMs, τα οποία βρίσκονται πίσω από chatbots όπως το ChatGPT και το Bard – επαναφέρουν αυτό το παλιό αισθητικό ερώτημα στο προσκήνιο. Η τεχνητή νοημοσύνη και η απειλή της πολιτιστικής αυτοματοποίησης μας αναγκάζουν να εξετάσουμε τη σχέση μεταξύ γλώσσας, ερμηνείας και πολιτικής σε νέες γραμμές.
Το ερώτημα είναι, ουσιαστικά: Τι πρέπει να πιστεύει ένας μαρξιστής σχετικά με την αυτοματοποίηση της γλώσσας; Οι προτάσεις ότι ο καπιταλισμός έχει γίνει “σημειωτικός”, που βασίζονται στη σκέψη του φιλοσόφου Félix Guattari, δεν είναι αρκετά τεχνικές σχετικά με τη γλώσσα για να απαντήσουν άμεσα σε αυτό το ερώτημα, ενώ οι μαρξιστικές φιλοσοφίες της γλώσσας – όπως αυτή του Raymond Williams ή του Valentin Voloshinov – δεν είχαν ποτέ ενσωματώσει τον κόσμο των μηχανών. Οποιαδήποτε πιθανή απάντηση θα πρέπει να συνδυάσει τις ιδέες ενός από τους μεγαλύτερους στοχαστές του 19ου αιώνα, του Καρλ Μαρξ, με εκείνες ενός από τους μεγαλύτερους διανοούμενους του 20ού αιώνα – του Νόαμ Τσόμσκι.
Με το ενδιαφέρον του Μαρξ για την οικονομία να αυξάνεται μέρα με τη μέρα, ο ίδιος και ο Φρίντριχ Ένγκελς πέρασαν μεγάλο μέρος της δεκαετίας του 1840 προσπαθώντας να επεξεργαστούν μια υλιστική φιλοσοφία το συντομότερο δυνατό. Ήθελαν όμως αυτός ο υλισμός να είναι δυναμικός. Με αυτό εννοούσαν ότι δεν θα έπρεπε να είναι μια φιλοσοφία που θα βασιζόταν στην πραγματική και προηγούμενη ύπαρξη ατόμων σε κίνηση, αλλά αντίθετα στη δραστηριότητα των ανθρώπων. Αυτή η φιλοσοφία ήταν που προκάλεσε τον πρώτο τόμο του Κεφαλαίου, όπου ο Μαρξ έβαλε όλα τα χαρτιά του στην έννοια του “μεταβολισμού μεταξύ ανθρώπου και φύσης”, ορίζοντας την ανθρώπινη ζωή ως τον κοινωνικό μετασχηματισμό του φυσικού περιβάλλοντος. Αυτός ο μετασχηματισμός ήταν επίσης η απαρχή της φιλοσοφίας – η πρώτη αρχή της, η κινητήρια δύναμή της και η μόνη πηγή νομιμοποίησής της. Η φιλοσοφία του Μαρξ παραμένει αναμφισβήτητα ο μοναδικός τέτοιος υλισμός του είδους του μέχρι σήμερα.
Για τον Μαρξ, ο “μεταβολισμός” αποτελεί την αφετηρία της συνείδησης. Μέσω του μετασχηματισμού της φύσης, “συνάπτουμε σχέσεις” μεταξύ μας. Όποτε ακούτε τους μαρξιστές να μιλούν για τις σχέσεις παραγωγής, αυτό έχουν στο μυαλό τους. Ο καπιταλισμός είναι ένα τέτοιο σύνολο σχέσεων (ένας “τρόπος παραγωγής”), ο μόνος που γνωρίζουμε διεξοδικά από την εμπειρία. Η συνείδηση, πίστευε ο Μαρξ, είναι προϊόν αυτών των σχέσεων παραγωγής και “σε τελευταία ανάλυση” καθορίζεται από αυτή την υλική δραστηριότητα. Αυτή η ιδέα έχει περάσει ως μια εύθραυστη διάκριση μεταξύ μιας “βάσης” οικονομικής δραστηριότητας και μιας “υπερδομής” νόμου, κυβέρνησης και πολιτισμού. Ο λόγος που μας ενδιαφέρει είναι ότι κάπου σε αυτή την αφαίρεση κρύβεται η ιδεολογία.
Κάθε αγορά που κάνουμε και κάθε ώρα που δουλεύουμε, πιστεύει ο Μαρξ, καλύπτονται από ένα τέχνασμα που επικαλύπτει την αξία που προστίθεται στα εμπορεύματα από την εργασία. Η συνείδηση – και η γλώσσα – δεν είναι αθώα του τρόπου παραγωγής. Όπως το θέτουν ο ίδιος και ο Ένγκελς στη Γερμανική Ιδεολογία, το ανθρώπινο “πνεύμα” είναι
χτυπημένο από την κατάρα του να είναι “φορτωμένο” με την ύλη, η οποία εδώ κάνει την εμφάνισή της με τη μορφή ταραγμένων στρωμάτων αέρα, ήχων, εν ολίγοις, της γλώσσας. Η γλώσσα είναι τόσο παλιά όσο και η συνείδηση, η γλώσσα είναι πρακτική συνείδηση που υπάρχει και για τους άλλους ανθρώπους . . . . Η συνείδηση είναι, επομένως, από την αρχή ένα κοινωνικό προϊόν και παραμένει έτσι όσο υπάρχουν άνθρωποι.
Αυτό που λέει εδώ ο Μαρξ με το υψηλών προδιαγραφών ύφος του είναι ότι η γλώσσα είναι το μέσο παραγωγής – της ίδιας της υλικής μας ύπαρξης στον κόσμο. Δεν μετακινούμε απλώς τυχαία πράγματα στον φυσικό κόσμο- δημιουργούμε πράγματα σκόπιμα, για δική μας χρήση. Και το κάνουμε αυτό σε συνεργασία με άλλους, όχι ως μοναχικά άτομα.
Ο συνήθης τρόπος σκέψης για τη βάση και το εποικοδόμημα είναι ότι το ένα καθορίζει το άλλο. Αυτό φαίνεται στη ρήση ότι είναι “ευκολότερο να φανταστεί κανείς το τέλος του κόσμου παρά το τέλος του καπιταλισμού”, η οποία εξηγεί τόσα πολλά δυστοπικά μυθιστορήματα που εξακολουθούν να μην μπορούν, ακόμη και στο πιο ζοφερό μέλλον, να σκεφτούν τον τρόπο να ξεφύγουν από το κέρδος και την αξία. Ο κριτικός Μαρκ Φίσερ το ονόμασε αυτό “καπιταλιστικό ρεαλισμό”, την ιδέα ότι οι αφηγήσεις μας και ακόμη και η φαντασία μας έχουν καπιταλιστικά προστατευτικά κιγκλιδώματα. Αλλά όταν πρόκειται για τη γλώσσα -αυτό ακριβώς που “αυτοματοποιούμε” σήμερα με την Τεχνητή Νοημοσύνη- αυτή η εικόνα δεν αρκεί.
Καθώς γράφω αυτό το κείμενο, η OpenAI, η οποία τρέχει το ChatGPT και το DALL-E, μεταξύ άλλων προϊόντων τεχνητής νοημοσύνης, είχε ένα περίεργο Σαββατοκύριακο. Πρώτα το διοικητικό συμβούλιο απέλυσε τον διευθύνοντα σύμβουλο, Sam Altman, μόνο για να γυρίσει και να τον προσλάβει ξανά. Ο καυγάς αφορούσε την “ευθυγράμμιση”, την ιδέα ότι πρέπει να δημιουργήσουμε μια “τεχνητή γενική νοημοσύνη” (AGI) που να είναι εντελώς ανίκανη να μας βλάψει. Αν αυτό ακούγεται σαν επιστημονική φαντασία, είναι επειδή είναι. Είναι επίσης η ιδεολογία που οδηγεί μεγάλο μέρος της παραγωγής τεχνητής νοημοσύνης σήμερα.
Μέχρι τη στιγμή της δημοσίευσης, ο Altman είχε αποκατασταθεί στη θέση του, και αν χρειαζόσασταν ένα παράδειγμα για το πού ο υλισμός του Μαρξ θα ήταν χρήσιμος, αυτή είναι μια πολύ καλή περίπτωση. Ο αγώνας στο OpenAI προφανώς καθοδηγήθηκε από τον Ilya Sutskever, έναν μηχανικό που είχε προσληφθεί για να δημιουργήσει την “υπερστοίχιση“, ουσιαστικά μια αλεξίσφαιρη εγγύηση ότι η τεχνητή νοημοσύνη δεν θα ξεφύγει από τις ράγες και δεν θα οδηγήσει στην εξαφάνιση του ανθρώπου. Αν αυτό ακούγεται παράξενο, θα έπρεπε. Αλλά είναι επίσης ένα από τα ιδρυτικά δόγματα της εταιρείας, η οποία ξεκίνησε ως μη κερδοσκοπική εταιρεία αφιερωμένη στην παραγωγή μιας ασφαλούς ΤΝ. Ο αγώνας μεταξύ του Altman και του Sutskever δεν αφορά το αν μπορούν να επιτύχουν την γενετική ΤΝ, ούτε καν το αν θα μπορούσε να αποτελέσει υπαρξιακό κίνδυνο για τους ανθρώπους. Πρόκειται για το ποιος δρόμος πρέπει να ακολουθηθεί για να διασφαλιστεί ότι θα είναι ασφαλής. Αποκαλέστε το μεταφυσική στη διεύθυνση επιχειρήσεων.
Αυτό που όλοι αγνοούν σε όλη αυτή τη μεταφυσική, ωστόσο, είναι ότι αυτός ο αγώνας αφορά τη γλώσσα. Είναι η ικανότητα της τεχνητής νοημοσύνης για τις περιπλοκές της ανθρώπινης γλώσσας που πυροδότησε τη ραγδαία άνοδο του OpenAI, ξεκινώντας με το GPT-2 το 2019. Αυτή είναι η προϋπόθεση για όλα τα άλλα συστήματα που προσπαθούμε να συνδέσουμε με τη “γενετική τεχνητή νοημοσύνη” – ακόμη και το DALL-E τρέχει με ζεύγη λέξεων-εικόνων. Οι γλωσσικοί αλγόριθμοι είναι πλέον έτοιμοι να γίνουν η θεμελιώδης υποδομή για το σύνολο σχεδόν της παγκόσμιας οικονομίας. Δεν αποτελεί έκπληξη το γεγονός ότι οι διευθύνοντες σύμβουλοι είναι παγιδευμένοι στις μυστικοποιήσεις των αδιέξοδων καπιταλιστικών φαντασιώσεων, ακόμη και αν αυτές οι συγκεκριμένες φαντασιώσεις φαίνονται πιο παράταιρες από ποτέ. Αυτό που προκαλεί μεγαλύτερη έκπληξη είναι ότι η Αριστερά δεν είναι σε θέση να ασκήσει την υλιστική, μαρξιστική κριτική της Τεχνητής Νοημοσύνης που θα έπρεπε. Αυτό οφείλεται στο γεγονός ότι η Αριστερά έχει αρνηθεί να πάρει τη γλώσσα στα σοβαρά, κατατάσσοντάς την σε απλή “υπερδομή” και κρατώντας την σε μεγάλη απόσταση από τον οικονομικό υλισμό.
Οι μαρξιστές έχουν προσεγγίσει αυτό το πρόβλημα με διαφορετικούς τρόπους, στηριζόμενοι γενικά στην αντίληψη ότι η γλώσσα είναι υλική, δυναμική και καταστασιακή. Καμία από τις προσεγγίσεις δεν έχει παραδώσει ποτέ πραγματικά μια φιλοσοφία της γλώσσας που να είναι αρκετά τεχνική για να αντιμετωπίσει αυτό που κάνει τώρα η τεχνητή νοημοσύνη, και αυτό σημαίνει ότι όλοι οι δρόμοι προς μια αριστερή κριτική της αυτοματοποίησης της γλώσσας περνούν μέσα από τον πιο διάσημο γλωσσολόγο της εποχής μας: Noam Chomsky.
Ο Τσόμσκι πιθανά είναι ο μεγαλύτερος εν ζωή διανοούμενος. Το έργο του για τη γλώσσα δεν έχει απλώς μεταμορφώσει τη γλωσσολογία- είναι εν μέρει υπεύθυνο για αυτό που αποκαλείται “γνωστική επανάσταση”, την κατακλυσμιαία αλλαγή στις επιστήμες που συνέβη κατά το δεύτερο μισό του εικοστού αιώνα. Μέχρι τη δεκαετία του 1990, τότε που ο Dude εξακολουθούσε να προσκολλάται στην υπερβατικότητα μιας κασέτας των Creedence, η άποψη του Τσόμσκι για το νου και τη γλώσσα είχε γίνει επιστημονικό υπόβαθρο σε όλη την ψυχολογία, τη γλωσσολογία, τη φιλοσοφία, τη νευροεπιστήμη και το νεαρό ακόμη πεδίο της τεχνητής νοημοσύνης.
Αυτό δεν σημαίνει ότι δεν ήταν αμφιλεγόμενη: Η γρήγορη άνοδος του Τσόμσκι στη δεκαετία του 1960 έφερε μαζί της σκληρές μάχες. Αλλά έλαβαν χώρα κατά τη διάρκεια μιας γενικής αλλαγής, κατά την οποία η γενεσιουργός γραμματική, η “συσκευή απόκτησης της γλώσσας” που ο Τσόμσκι ισχυριζόταν ότι βρισκόταν κάπου στον εγκέφαλο, και το “μινιμαλιστικό πρόγραμμα” για την κατανόηση της γλώσσας έγιναν σύμβολα μιας ολόκληρης ομάδας επιστημών και της νέας τους προσέγγισης. Η προσέγγιση αυτή βασίζεται σε μια ευρεία αναλογία μεταξύ του εγκεφάλου (ή του νου) και του υπολογιστή – την “υπολογιστική θεωρία του νου”. Ο ίδιος ο Τσόμσκι παρέμεινε αμφιλεγόμενος ως προς αυτή την αναλογία, ενώ παρέμεινε βαθιά προσηλωμένος στην επιστημονική διερεύνηση των ιδιοτήτων του νου, τις οποίες θεωρεί ότι έχουμε μοναδικά στη διάθεσή μας μέσω της γλώσσας.
Αλλά η καριέρα του Τσόμσκι ήταν πάντα στην πραγματικότητα δύο καριέρες. Από την πρώιμη αντίθεσή του στον πόλεμο του Βιετνάμ – τον οποίο, όπως επεσήμανε, η αμερικανική προπαγάνδα αρνιόταν σταθερά ότι ήταν πόλεμος ή εισβολή – μέχρι τις εκστρατείες του κατά των φαύλων συγκρούσεων που προωθούσαν οι Ηνωμένες Πολιτείες στην Κεντρική Αμερική τη δεκαετία του 1980, ο Τσόμσκι υπήρξε μία από τις λίγες αριστερές φωνές στον αμερικανικό δημόσιο διάλογο επί δύο γενιές. Αξιοποίησε την τεράστια αυθεντία του στη γλώσσα και το μυαλό σε μια μοναδική παρουσία στο χάος των μέσων ενημέρωσης μιας καταρρέουσας αυτοκρατορίας. Πιστεύει ότι μια τεχνολογική κοινωνία δεν έχει κανένα λόγο να περιορίζει τις θεμελιωδώς δημιουργικές δυνάμεις των μεμονωμένων πολιτών της και ότι η συνδικαλιστική ελεύθερη ένωση – μια άποψη που συνήθως αποκαλείται αναρχοσυνδικαλισμός – θα καταργούσε τις καταπιέσεις του κράτους και της ιμπεριαλιστικής προπαγάνδας του.
Όταν ήμουν έφηβος και προσπαθούσα να καταλάβω, πρώτα, τον παράξενο θριαμβολογικό χαρακτήρα της εποχής του Μπιλ Κλίντον και στη συνέχεια τη φαύλη στροφή μετά την 11η Σεπτεμβρίου, ο πατέρας μου μού έδωσε να διαβάσω βιβλία του Χάουαρντ Ζιν και του Τσόμσκι. Για μένα, αυτά ήταν μια αλφαβήτα μετά την οποία σχεδόν τα πάντα στα μέσα ενημέρωσης ήταν απλή προπαγάνδα, ειδικά κατασκευασμένη για να αποκρύψει αλήθειες για την αμερικανική αυτοκρατορία – αλήθειες που ένας μοναχικός Τσόμσκι φώναζε για χρόνια.
Πήγαμε άλλες τρεις δεκαετίες μπροστά, τον Μάρτιο του 2023, όταν ο Τσόμσκι και δύο συν-συγγραφείς του δημοσίευσαν ένα άρθρο στους New York Times με τίτλο “Η ψευδής προσδοκία από το ChatGPT“. Αυτό που είπαν εκεί, δυστυχώς, ισοδυναμεί με μια πολύ εκλεπτυσμένη εκδοχή του πόσο πολύ μισεί ο Dude τους γαμημένους Eagles.
Το δημοσίευμα αναγνωρίζει σιωπηρά ότι υπάρχει πράγματι ένα πολιτικό πρόβλημα με την τεχνητή νοημοσύνη. Ο Τσόμσκι και οι συν-συγγραφείς του υποστηρίζουν ότι η μηχανική μάθηση – η πειθαρχία πίσω από τη γεννητική ΤΝ και άλλους ισχυρούς αλγορίθμους – “θα υποβαθμίσει την επιστήμη μας και θα εξευτελίσει την ηθική μας ενσωματώνοντας στην τεχνολογία μας μια θεμελιωδώς λανθασμένη αντίληψη για τη γλώσσα και τη γνώση”. Ο Τσόμσκι μάχεται κατά της συγκεκριμένης αντίληψης από τη δεκαετία του 1950, οπότε δεν αποτελεί έκπληξη το γεγονός ότι θεωρεί προβληματική την εμπορική κυκλοφορία της. Είναι λιγότερο σαφές ότι το συγκεκριμένο μείγμα γνωστικής επιστήμης και πολιτικής μπορεί πραγματικά να εξηγήσει τι κάνουν το ChatGPT και παρόμοια συστήματα.
Δεν είμαι σίγουρος ότι είναι δυνατόν, τόσο για υλικοτεχνικούς όσο και για νομικούς λόγους, να ποσοτικοποιήσουμε πόσα δεδομένα – κείμενο, εικόνα, αλλά και δεδομένα παρακολούθησης κάθε είδους – παράγονται πλέον ή επηρεάζονται από συστήματα τεχνητής νοημοσύνης. Πρόκειται όμως για ένα πολύ μεγαλύτερο ποσοστό απ’ ό,τι πιθανώς νομίζετε. Τα Μεγάλα Γλωσσικά Μοντέλα (LLM) συνδέονται με την αναζήτηση και με τους “προσωπικούς βοηθούς”. Η εξερεύνηση εφαρμογών από τις εταιρικές προσλήψεις έως τα μαχητικά αεροσκάφη και τις μαθηματικές αποδείξεις έως τη χημεία, δεν επιβραδύνθηκε, αλλά επιταχύνθηκε.
Ένα ανταγωνιστικό δημοσίευμα από τη Wall Street Journal, γραμμένο από τον αποθανόντα πλέον Henry Kissinger -μια νέμεση της γενιάς του Chomsky- και τους συν-συγγραφείς του, υποστήριξε ότι το ChatGPT ήταν ένα τόσο σημαντικό βήμα όσο και η τυπογραφία, με παρόμοια ευρείες επιπτώσεις στην πολιτική, εξωτερική και εσωτερική, και στο καθεστώς της γνώσης. Κατά έναν περίεργο τρόπο, ο Τσόμσκι συμφωνεί στην πραγματικότητα με αυτή την εκτίμηση, αν όχι με τις προτάσεις της. Επειδή η νέα τεχνητή νοημοσύνη είναι μια “αδέξια στατιστική μηχανή για την αντιστοίχιση προτύπων” και δεν διαθέτει καμία ικανότητα για την αλήθεια ή την ηθική, σύμφωνα με το δημοσίευμα του Τσόμσκι, είναι πολιτισμικά επικίνδυνη. Ο Κίσινγκερ συνιστά στους υπεύθυνους χάραξης πολιτικής να προηγηθούν της καμπύλης. Ο Τσόμσκι ουσιαστικά απλώς αρνείται ότι συμβαίνει έστω και κάτι ουσιαστικό.
Αυτό είναι ένα πρόβλημα, και νομίζω ότι εντοπίζεται στην εύθραυστη σχέση μεταξύ της γλωσσολογίας του Τσόμσκι και της πολιτικής του. Είχε πει κάποτε ότι “δεν μπορεί να βρει διανοητικά ικανοποιητικές συνδέσεις μεταξύ αυτών των δύο τομέων”, αλλά αντίθετα μόνο ισχνές. Όμως κάνει διαχωρισμό μεταξύ αυτού που αποκαλεί “το πρόβλημα του Πλάτωνα” και “το πρόβλημα του Όργουελ”.
Το πρόβλημα του Πλάτωνα είναι ότι η γνώση μας ξεπερνά την εμπειρία μας. Όπως έχει παρατηρήσει ο Τσόμσκι για περισσότερες από έξι δεκαετίες, τα παιδιά μαθαίνουν τη σωστή γραμματική χωρίς ποτέ να εκτίθενται σε όλες τις παραλλαγές της. Μαθαίνουν να επινοούν νέες λέξεις και φράσεις και να τις κατανοούν πολύ νωρίτερα από ό,τι θα μπορούσε να κάνει οποιαδήποτε μηχανή. Η ανθρώπινη μάθηση φαίνεται να συμβαίνει με μεγάλα άλματα, όχι με μικρά βήματα. Ο Πλάτωνας πίστευε ότι οι άνθρωποι είχαν ένα είδος μνήμης των καθαρών μορφών της σκέψης – του καλού, της αλήθειας και της ομορφιάς – και ο Τσόμσκι επικαλείται αυτή την ιδέα για να περιγράψει τι πιστεύει ότι είναι πραγματικά η γλώσσα.
Το πρόβλημα του Όργουελ αφορά αυτό που ο μυθιστοριογράφος ονόμασε “newspeak”, τη συστηματική χειραγώγηση της γλώσσας και του νοήματος από την ολοκληρωτική κυβέρνηση που απεικονίζεται στο βιβλίο “1984“. Ο Τσόμσκι χρησιμοποιεί ως παράδειγμα τον αποκλεισμό της έννοιας της εισβολής των Ηνωμένων Πολιτειών στο Βιετνάμ για να υποστηρίξει ότι τα δημοκρατικά συστήματα, μέσω της χειραγώγησης των μέσων ενημέρωσης, έχουν “ιδιοφυείς” μηχανισμούς “ελέγχου της σκέψης”. Αυτό το συμπέρασμα είναι στην πραγματικότητα ένα βήμα πέρα από αυτό του Όργουελ, καθώς οι ολοκληρωτικές κυβερνήσεις χρησιμοποιούν την απειλή της βίας για να υποστηρίξουν την επιβαλλόμενη γλώσσα τους. Οι ψευδείς δυαδικές σχέσεις εγκαθιδρύονται συχνά ως αφηγήσεις στα μέσα ενημέρωσης, υποστηρίζει ο Τσόμσκι, με στόχο την “κατασκευή συναίνεσης”, μια φράση που δανείζεται από τον διάσημο θεωρητικό της κοινής γνώμης Walter Lippmann. Τα μέσα ενημέρωσης “μπορούν να αποτελέσουν μια τρομερή δύναμη όταν κινητοποιούνται για την υποστήριξη του κρατικού συστήματος προπαγάνδας”, γράφει ο Τσόμσκι.
Το σύνθημα της διάκρισης Πλάτωνα-Όργουελ είναι “Η προπαγάνδα είναι για τη δημοκρατία ό,τι η βία για τον ολοκληρωτισμό”. Αυτή είναι μια εξαιρετική περιγραφή του τρόπου με τον οποίο οι διάφοροι τύποι κρατών εξαναγκάζουν τους πολίτες τους, αλλά πώς σχετίζεται με τη γλώσσα; Ο Τσόμσκι δεν το ξεκαθαρίζει αυτό, και δεν νομίζω ότι μπορεί να το ξεκαθαρίσει. Του διαφεύγει το γεγονός ότι το newspeak είναι γλώσσα. Είναι μια άκρως αυθαίρετη, αναπαραγώγιμη γλώσσα, ναι – και η δημοκρατική της αντιστοιχία είναι επίσης γλώσσα, απλώς συγκρατείται μέσα σε ορισμένα όρια. Αλλά είναι αυτές οι προστατευτικές μπάρες σχετικά με το τι μπορεί να ειπωθεί πραγματικά δημιουργημένες από κάποια συμμορία εμπειρογνωμόνων των μέσων ενημέρωσης; Πώς είναι σε θέση να καταστέλλουν αυτή τη γνήσια γραμματική δημιουργικότητα που όλοι διαθέτουμε εκ φύσεως;
Εδώ είναι το πρόβλημα: οι μηχανές προπαγάνδας που ο Τσόμσκι πιστεύει ότι κατασκευάζουν τη συναίνεση είναι πλέον σχεδόν κατά εκατό τοις εκατό κατευθυνόμενες από την τεχνητή νοημοσύνη. Δεν είναι ένα κράτος ή μια κυβέρνηση που κάνει αυτή τη δουλειά – είναι η γλωσσική ικανότητα της τεχνητής νοημοσύνης, σε μια πολιτισμική κλίμακα που απλά δεν έχουμε ξαναδεί ποτέ. Στη μαρξιστική παράδοση, αυτό ονομάζεται ιδεολογία. Η συνέχεια της παραγωγής και της κουλτούρας δεν ήταν ποτέ πιο κυριολεκτική. Έχουμε πλέον μηχανές που μπορούν να αυτοματοποιήσουν όχι μόνο την Τέιλορ Σουίφτ (…Θεέ μου), αλλά και το είδος του κατασταλτικού αποτελέσματος που εντόπισε ο Τσόμσκι στα μέσα ενημέρωσης. Τα LLMs συνδέουν το πρόβλημα του Πλάτωνα με το πρόβλημα του Όργουελ. Το αποτέλεσμα είναι πραγματικό χάος, επειδή δεν μπορούμε να ξεχωρίσουμε ποιο μέρος είναι γλώσσα και ποιο μέρος είναι απλώς μηχανές. Ίσως η διάκριση να μην ήταν ποτέ ξεκάθαρη εξ αρχής.
Αυτό που στέκεται ανάμεσα στον Πλάτωνα και τον Όργουελ είναι η κουλτούρα, και με την άνοδο της δημιουργικής τεχνητής νοημοσύνης, έχουμε πρόβλημα κουλτούρας. Η γενική διανοητική αμηχανία του 2023 δεν είναι μόνο ένα πρόβλημα του Τσόμσκι. Είναι μια τάση που έχουμε να υποτιμούμε την κουλτούρα, ακόμη και όταν είναι αυτό ακριβώς που μας προκαλεί προβλήματα. Μπορεί να θέλουμε να πιστεύουμε ότι η “ανθρώπινη δημιουργικότητα” – ένα σταθερό ρεφρέν στα γραπτά του Τσόμσκι – δεν είναι επιδεκτική στατιστικών τεχνικών. Αλλά ενώ είναι λογικό να επιφυλασσόμαστε για την πρωτοπορία, νομίζω ότι είναι ξεκάθαρο ότι η Taylor Swift θα μπορούσε πραγματικά να είναι μια τεχνητή νοημοσύνη, εν μέρει επειδή υπερπαραγόμενα προϊόντα των μέσων μαζικής ενημέρωσης όπως η μουσική της ή οι ταινίες της Marvel βρίσκουν ένα είδος στατιστικού κέντρου στην απεραντοσύνη του πολιτισμού – που είναι ακριβώς αυτό που κάνει η γενετική τεχνητή νοημοσύνη. Υπάρχει μια ασύλληπτα τεράστια κλίμακα της ανθρώπινης γλωσσικής παραγωγής που βρίσκεται ανάμεσα σε οποιαδήποτε επίσημη γλωσσολογία και στους τύπους κινδύνου που διαγιγνώσκουν τόσο ο Τσόμσκι όσο και ο Κίσινγκερ. Τα συστήματα GPT απλώς αποκαλύπτουν αυτή την κλίμακα, και τα αποτελέσματα δεν μας αρέσουν. Αλλά δεν έχουμε την πολυτέλεια να τα αγνοήσουμε.
Οι γλωσσικοί αλγόριθμοι πρόκειται να γίνουν η θεμελιώδης υποδομή για το σύνολο σχεδόν της παγκόσμιας οικονομίας.
Σύμφωνα με τον Τσόμσκι, η τεχνητή νοημοσύνη στην τρέχουσα μορφή της επιβάλλει ωμές συσχετίσεις μεταξύ συνόλων δεδομένων. Αυτή είναι μια θεμελιωδώς διαφορετική διαδικασία από αυτό που κάνουν οι άνθρωποι με τη γλώσσα, δηλαδή να δημιουργούν εξηγήσεις. Διαθέτουμε μια “καθολική γραμματική” που μας επιτρέπει να μαθαίνουμε με “σχεδόν μαθηματική κομψότητα”, όπου αυτά τα προγράμματα μαθαίνουν εξίσου τις ανθρωπίνως δυνατές και τις “ανθρωπίνως αδύνατες” γλώσσες. “Συναλλάσσονται απλώς με πιθανότητες που αλλάζουν με την πάροδο του χρόνου”, αδέσμευτες από οποιαδήποτε σχέση με την αλήθεια, και – τονίζει ο Τσόμσκι – δεν είναι σε θέση να δημιουργήσουν ηθικές κρίσεις.
Όλα αυτά είναι αλήθεια. Ειδικά τα LLMs τροφοδοτούνται με τεράστιες ποσότητες κειμένου, της τάξης του ενός τρισεκατομμυρίου λέξεων, μια πραγματικά αδιανόητη ποσότητα τυπωμένης γλώσσας. Στη συνέχεια “μαθαίνουν” συμπιέζοντας τα δεδομένα σε μοτίβα, χρησιμοποιώντας έναν εκτεταμένο αλλά μαθηματικά απλό αλγόριθμο. Το ChatGPT που ξέσπασε στον δημόσιο διάλογο στα τέλη του 2022 (έκτοτε έχει ενημερωθεί πολλές φορές) τεμαχίζει τα τρισεκατομμύρια των λέξεων εκπαίδευσης σε περίπου πενήντα χιλιάδες “tokens”, κυρίως λέξεις αλλά και μικρά κομμάτια λέξεων που είναι χρήσιμα για να λειτουργήσει η γλώσσα.
Το αρχικό αποτέλεσμα – μετά την “προεκπαίδευση”, που σημαίνει το p στο GPT – είναι ένα πλήρως καθορισμένο πλέγμα, στο οποίο κάθε μονάδα διαθέτει μια πιθανότητα να έρθει μετά από αυτήν που προηγείται. Αν πω “κομμουνιστής”, η πιθανότητα του “μανιφέστο” εκτοξεύεται, όπως και το “γουρούνι”. Τα LLM συγκεντρώνουν μια μικρή δεξαμενή πιθανών επόμενων λέξεων και στη συνέχεια σαρώνουν το πλαίσιο για να επιλέξουν ποια θα τοποθετήσουν στη συνέχεια. Αν έχετε συνομιλήσει με ένα από αυτά τα συστήματα, ξέρετε ότι παράγει, λοιπόν, καλά αγγλικά (και πολλές, πολλές άλλες γλώσσες επίσης). Από σχεδόν κάθε θεωρητική προοπτική, συμπεριλαμβανομένης της προοπτικής του Τσόμσκι, αυτό δεν έπρεπε να συμβαίνει.
Ο Τσόμσκι αντιτίθεται στη στατιστική σύλληψη της γλώσσας εδώ και σχεδόν εβδομήντα χρόνια. Αξίζει να κατανοήσουμε πώς λειτουργεί η ανάλυσή του, γιατί αυτό μας δείχνει τι κάνει η τεχνητή νοημοσύνη που αναγκάζει τον Πλάτωνα και τον Όργουελ να συναντηθούν.
Το 1957, ο Τσόμσκι δημοσίευσε τις Συντακτικές Δομές, ένα σύντομο βιβλίο που θα αναδιαμόρφωνε τη γλωσσολογία, και ευρύτερα τη γνωστική επιστήμη, για δύο γενιές. Ήθελε να δείξει ότι η γραμματική μιας γλώσσας -αυτό που μας επιτρέπει να διακρίνουμε τις καλές από τις κακές προτάσεις- ήταν ανεξάρτητη από άλλους παράγοντες, συμπεριλαμβανομένων των σημασιών των λέξεων.
Κατέθεσε την επιχειρηματολογία του με προτάσεις που έγιναν σχεδόν τόσο διάσημες όσο και ο ίδιος: “Άχρωμες πράσινες ιδέες κοιμούνται μανιωδώς” και “Μανιωδώς κοιμούνται ιδέες πράσινες άχρωμες”. Η πρώτη πρόταση είναι γραμματική – δεν σημαίνει τίποτα, αλλά είναι άμεσα αναγνωρίσιμη ως αγγλική πρόταση. Η δεύτερη πρόταση είναι εξίσου ανούσια, αλλά επίσης δεν είναι πραγματικά πρόταση. Σκοντάφτετε όταν την διαβάζετε δυνατά. Κάτι δεν είναι σωστό.
Για τον Τσόμσκι, αυτό που ήταν λάθος ήταν κάτι περισσότερο από τη σειρά των λέξεων. Ένας από τους στόχους αυτού του πειράματος σκέψης ήταν ο Κλοντ Σάνον, ο θεμελιωτής της θεωρίας της πληροφορίας, η οποία θεωρείται ευρέως ένα από τα βασικά θεμέλια του ψηφιακού σύμπαντος. Ο Shannon ενδιαφερόταν για την επικοινωνία, την οποία θεωρούσε ως την αποστολή πληροφοριών κατά μήκος ενός καναλιού σε έναν δέκτη. Δεν τον ενδιέφερε αν το υλικό που στέλνονταν ήταν γλώσσα, ή σήματα χωρίς νόημα, ή οτιδήποτε άλλο – το μόνο που είχε σημασία ήταν να καταλάβει τη δομή του υλικού. Χρησιμοποίησε την αγγλική γλώσσα ως πειραματόζωο για να βρει πώς να φτιάξει ένα ασφαλές κανάλι κατά μήκος του οποίου θα μπορούσαν να σταλούν με ασφάλεια πληροφορίες. Οι τύποι που εφηύρε για τον σκοπό αυτό αποτελούν τη βάση όλων των ψηφιακών επικοινωνιών σήμερα.
Ο Σάνον ενδιαφερόταν επίσης για τη γλώσσα, αλλά με διαφορετικό τρόπο από ό,τι ο Τσόμσκι. Υποστήριξε ότι αν έχετε το γράμμα q σε μια σελίδα, τεχνικά θα μπορούσατε να έχετε είκοσι έξι διαφορετικά γράμματα που το ακολουθούν (συμπεριλαμβανομένου ενός διαστήματος). Αλλά είναι συντριπτικά πιθανό ότι το u θα είναι το επόμενο γράμμα. Αυτή η ιδέα καθιστά τον Shannon τον πνευματικό ιδρυτή της αυτόματης διόρθωσης – αλλά και της γενετικής τεχνητής νοημοσύνης. Πρόκειται για μια στατιστική προσέγγιση της γλώσσας, που βασίζεται καθαρά στη συχνότητα των γραμμάτων ή των λέξεων. Τα LLM, όπως τα περιέγραψα παραπάνω, ακολουθούν αυτή την ιδέα: βρίσκουν τις συχνότητες των λέξεων και τις αναπαράγουν. Ο Shannon δεν εφηύρε ποτέ μια μηχανή που θα μπορούσε πραγματικά να παράγει γλώσσα, αλλά ζούμε με τα προϊόντα των ιδεών του.
Ο Τσόμσκι στόχευσε ευθέως τον Σάνον. Καμία μηχανή, πρότεινε, δεν θα μπορούσε πραγματικά να διακρίνει αυτές τις δύο προτάσεις μεταξύ τους. Η αγγλική γραμματική δεν ήταν απλώς μια “υψηλής τάξης στατιστική προσέγγιση της αγγλικής γλώσσας”. Πρέπει να γνωρίζεις τη γραμματική, όχι απλώς να προβλέπεις λέξεις ή γράμματα.
Στο άρθρο του 2023, ο Τσόμσκι χρησιμοποιεί ένα από τα παραδείγματά του από τις Συντακτικές Δομές το 1957, γράφοντας ότι
επειδή αυτά τα προγράμματα δεν μπορούν να εξηγήσουν τους κανόνες του αγγλικού συντακτικού, για παράδειγμα, μπορεί κάλλιστα να προβλέψουν, λανθασμένα, ότι “ο John είναι πολύ πεισματάρης για να του μιλήσει κανείς (σ.μ. στο πρωτότυπο που βγάζει νόημα είναι John is too stubborn to talk to)” σημαίνει ότι ο John είναι τόσο πεισματάρης που δεν θα μιλήσει σε κάποιον ή κάποια (αντί ότι είναι πολύ πεισματάρης για να του επιχειρηματολογήσει κανείς) … . Οι σωστές εξηγήσεις της γλώσσας είναι περίπλοκες και δεν μπορούν να μαθευτούν μόνο με το να τις βουτάμε σε μεγάλα δεδομένα.
Αποφάσισα να πάω στην πηγή:
Ανώνυμος: τι σημαίνει αυτή η φράση; “ο john είναι πολύ πεισματάρης για να του μιλήσεις (john is too stubborn to talk to)”;
ChatGPT: Η φράση “ο John είναι πολύ πεισματάρης για να του μιλήσεις” υποδηλώνει ότι ο John είναι πολύ ανθεκτικός στο να αλλάξει τις απόψεις ή τη συμπεριφορά του, γεγονός που καθιστά δύσκολη ή απογοητευτική τη συζήτηση μαζί του. Υπονοεί ότι το πείσμα του John αποτελεί εμπόδιο στην αποτελεσματική επικοινωνία ή συζήτηση, επειδή μπορεί να μην είναι πρόθυμος να εξετάσει διαφορετικές απόψεις ή να συμβιβαστεί στις απόψεις του.
Για όσους κρατούν το σκορ: Shannon (και Sam Altman): 1, Τσόμσκι: 0.
Ρώτησα λοιπόν το ChatGPT για τις άχρωμες πράσινες ιδέες, και στις δύο εκδοχές. Μου έδωσε μια μικρή ιστορία της καλής φράσης, εξηγώντας τη γλωσσολογία του Τσόμσκι με βασικούς αλλά σταθερούς όρους. Αποκάλεσε την αντιγραμματική φράση (“furiously sleep ideas green colorless”) έναν “ανούσιο συνδυασμό” και χαρακτήρισε τη συνομιλία ως “ασυνάρτητο αίτημα, τυχαίες λέξεις”. Με κάποια παρότρυνση, αναγνώρισε ότι η δεύτερη φράση ήταν ένα συνονθύλευμα της πρώτης και έβγαλε το συμπέρασμα ότι η γραμματική “από μόνη της δεν εγγυάται ουσιαστική επικοινωνία”. Αυτό είναι σχεδόν το αντίθετο από αυτό που θέλει να πει ο Τσόμσκι – αλλά είναι επίσης αλήθεια. Περισσότεροι πόντοι για το ChatGPT.
Η ανθρώπινη μάθηση φαίνεται να συμβαίνει με μεγάλα άλματα, όχι με μικρά βήματα.
Εδώ είναι το πρόβλημα. Τίποτα από αυτά που παρήγαγε η μηχανή δεν μπορεί να θεωρηθεί ως απόδειξη, είτε έτσι είτε αλλιώς. Γνωρίζει αυτές τις προτάσεις, ή απλώς η στατιστική πρόβλεψη είναι πολύ πιο ισχυρή από ό,τι ήμασταν σε θέση να παρατηρήσουμε τη δεκαετία του 1940 και του ’50; Αυτή είναι η συζήτηση που οδηγεί την αναταραχή στο OpenAI. Αν βγουν οι σωστές απαντήσεις, πώς μπορείς να αρνηθείς ότι έχεις να κάνεις με νοημοσύνη;
Το πρόβλημα είναι ότι η ίδια η ερώτηση είναι λανθασμένη: Η τεχνητή νοημοσύνη παράγει πράγματι γλώσσα – αλλά όχι το είδος που μας λέει πώς λειτουργεί το ανθρώπινο μυαλό. Η μεταφυσική του OpenAI δεν μπορεί να νικηθεί από το πλαίσιο του Τσόμσκι, επειδή δεν μπορεί να συνδέσει την άποψή του για την ανθρώπινη γλώσσα με την ανάλυσή του για την προπαγάνδα. Η έννοια που λείπει είναι η κουλτούρα.
Ο τρόπος με τον οποίο πρέπει να αντιληφθούμε την τεχνητή νοημοσύνη είναι περισσότερο σαν τους Eagles παρά σαν τους Creedence, περισσότερο οι παράξενες εκτάσεις της ψηφιακής κουλτούρας παρά οι εσωτερικές λειτουργίες του μυαλού που η πρωτοποριακή τέχνη γαργαλάει και εμπνέει. Αλλά δεν είναι μόνο ο Τσόμσκι που μισεί τους Eagles. Όλοι μας τους μισούμε.
Τον Αύγουστο, οι δημοσιογράφοι αποκάλυψαν ότι τα LLMs (Μεγάλα Γλωσσικά Μοντέλα) εκπαιδεύονται σε πολλά βιβλία, μεταξύ άλλων. Το σύνολο δεδομένων Books3 περιλαμβάνει εκατοντάδες χιλιάδες βιβλία, πολλά από τα οποία προστατεύονται από πνευματικά δικαιώματα, με έργα των William Shakespeare, Stephen King και Toni Morrison να κάνουν την εμφάνισή τους ανάμεσα σε αυτά. Οι συγγραφείς έσπευσαν να αντιδράσουν σε αυτή την αποκάλυψη. Η κωμικός Sarah Silverman ηγείται μιας αγωγής κατά του OpenAI και της Meta. Η Μάργκαρετ Άτγουντ, γνωστή για τη συγγραφή του The Handmaid’s Tale, έγραψε ένα καυστικό άρθρο σχετικά με τη χρήση μυθιστορημάτων από την Τεχνητή Νοημοσύνη. Ο Stephen King έδειξε αδιαφορία, λέγοντας ότι δεν πιστεύει ότι η τεχνητή νοημοσύνη θα είναι σε θέση να κάνει ό,τι κάνει εκείνος σύντομα. Αλλά το θέμα δεν είναι αν η τεχνητή νοημοσύνη είναι σε θέση να γράψει βιβλία. Το θέμα είναι ότι η Τεχνητή Νοημοσύνη είναι βιβλία.
Ακόμη και οι επιστήμονες της γνωστικής επιστήμης έχουν αναγνωρίσει ότι τα LLM είναι “μηχανές πολιτισμού”. Αλλά το πλαίσιο της γνωστικής επιστήμης, συμπεριλαμβανομένης της ακόμη αισθητής επιρροής του Τσόμσκι, κυριαρχεί στην κατανόηση αυτών των κρίσιμων αλγορίθμων. Όσο αυτό ισχύει, δεν θα είμαστε σε θέση να κατασκευάσουμε μια αριστερή πολιτική για την εποχή της Τεχνητής Νοημοσύνης.
Οι μηχανές προπαγάνδας που ο Τσόμσκι πιστεύει ότι κατασκευάζουν τη συναίνεση είναι πλέον σχεδόν κατά εκατό τοις εκατό κατευθυνόμενες από την τεχνητή νοημοσύνη.
Οι γνωστικές θεωρίες για την ΤΝ έχουν χάσει το ευρύτερο σημείο. Οι θεωρίες δεν έχουν κλιμακωθεί με τα μεγάλα δεδομένα και τους τεράστιους υπολογιστές που απαιτούνται για την εκτέλεση της μηχανικής νοημοσύνης. Η βασική πεποίθηση του Μαρξ σχετικά με τη γλώσσα παρέχει ένα σημείο εκκίνησης για την οικοδόμηση μιας εναλλακτικής κατανόησης που συνδέει τη γλώσσα και την πολιτική, όπως αυτές οι μηχανές κάνουν πραγματικά σε πραγματικό χρόνο. Αλλά, μέχρι σήμερα, η μαρξιστική πολιτισμική θεωρία δεν έχει δώσει μεγάλη προσοχή στο πρόβλημα που θέτει ο Τσόμσκι.
Θεωρούμε δεδομένο ότι τα έργα τέχνης βασίζονται με κάποιον τρόπο το ένα πάνω στο άλλο. Αυτό μπορεί να είναι πιο προφανές στην τηλεόραση ή στα franchise. Δεν μπορείς να καταλάβεις τους Avengers: Endgame αν δεν έχετε δει όλα τα prequels των συστατικών (προσπάθησα μια φορά, και ήταν … … απαίσιο). Αλλά αυτό δεν συμβαίνει μόνο σε φανταστικά σύμπαντα. Το ύφος μιας ταινίας, η γεύση ενός μυθιστορήματος – αυτά είναι αποτελέσματα μεγάλης κλίμακας σε σύγκριση με τις προτάσεις και τα πλάνα που τα συνθέτουν. Ακόμα και στην καθημερινή γλώσσα, αυτή που χρησιμοποιούμε για να οργανωθούμε ως παραγωγική κοινωνία, δεν κοιτάμε συνέχεια μόνο μεμονωμένες λέξεις. Η συζήτηση μεγάλης διάρκειας είναι ο κανόνας, στην οποία διακυβεύεται μια πραγματική σχέση. Τα ζευγάρια παλεύουν για το έμμεσο νόημα με τρόπους που είναι δύσκολο να ξεμπερδέψουμε. Τα αφεντικά απολύουν και προάγουν εργαζόμενους για έμμεσες κινήσεις που κάνουν στην επικοινωνία, όχι μόνο για την “απόδοση”. Όλα αυτά παίζουν ρόλο, όπως επισήμανε ο Μαρξ, στις σχέσεις παραγωγής.
Ο τρόπος οργάνωσης της παραγωγής είναι το θέμα του πρώτου τόμου του Das Kapital, του οποίου ένα μεγάλο μέρος είναι αφιερωμένο στο εργοστάσιο μηχανών. Ο Μαρξ υποστηρίζει ότι οι μηχανές και οι εργάτες τίθενται αντιμέτωποι σε ένα παιχνίδι μηδενικού αθροίσματος, περιθωριοποιώντας την εργασία μετατρέποντάς την σε ρύθμιση επιλογέων και κουμπιών, φροντίζοντας τις μηχανές. Σκεφτείτε το αυτόματο ταμείο στο παντοπωλείο – κάποιος εξακολουθεί να πρέπει να βρίσκεται εκεί, αλλά απαιτούνται ριζικά λιγότεροι εργάτες, οι οποίοι βρίσκονται εκεί κυρίως για να αποτρέπουν τις κλοπές και να βοηθούν στις αναπόφευκτες δυσλειτουργίες του μηχανήματος. Ο Μαρξ πίστευε ότι οι μηχανές εκπλήρωναν την αποστολή του κεφαλαίου: να κυριαρχήσει και να υποτάξει πλήρως την εργασία υπό τον έλεγχό του. Το εργοστάσιο είναι μια ενιαία μηχανή- οι εργάτες είναι απλώς οργανικά, ζωντανά μέρη της μηχανής.
Αλλά το εργοστάσιο πρέπει ακόμα να οργανώνεται με τη χρήση της γλώσσας, οπότε οι σχέσεις των εργατών με τα αφεντικά και η οργάνωση που εκτελεί η διοίκηση – βασικά όλη η επιχείρηση – εξακολουθεί να έχει αυτό το απόλυτα ανθρώπινο μέσο ως την καρδιά που χτυπάει. Αυτό είναι που θα μπορούσε να αλλάξει με την αυτοματοποίηση της γλώσσας.
Οι ψηφιακές τεχνολογίες έχουν καταστήσει το ενοποιημένο εργοστάσιο μέρος ενός παγκόσμιου μηχανικού συστήματος. Αυτό το σύστημα συγκρατείται από δεδομένα, συνδέοντας αλυσίδες εφοδιασμού, σημεία πώλησης, εργοστάσια και σχεδόν κάθε καταναλωτή στη γη. Αυτό το σύστημα δεδομένων έχει γίνει όρος του σύγχρονου καπιταλισμού. Αλλά η επικοινωνία εξακολουθεί να λαμβάνει χώρα μεταξύ των ανθρώπων κατά μήκος των αλυσίδων εφοδιασμού και στα χαρακώματα του παγκόσμιου κεφαλαίου. Τα LLM, ανάλογα με το πώς θα αναπτυχθούν τώρα – που κανείς δεν μπορεί ακόμη να γνωρίζει – αυτοματοποιούν αυτό το γενικό μέσο της παγκόσμιας παραγωγής και ανταλλαγής. Παίρνουν τη γλώσσα που ο Τσόμσκι πιστεύει ότι μπορεί να υπάρχει μόνο στο βαθύ εσωτερικό του ανθρώπινου μυαλού και τη συνδέουν στο αφάνταστα πολύπλοκο δίκτυο του παγκόσμιου κεφαλαίου. Αν αναπτύξουμε την πολιτιστική παραγωγή σε αυτόν τον χώρο, θα μπορούσαμε να χάσουμε εντελώς από τα μάτια μας – και όχι μόνο τον έλεγχο – τις μηχανορραφίες του κεφαλαίου.
Όλα αυτά σημαίνουν ότι η φιλοσοφία της γλώσσας είναι πιο επιτακτική για την Αριστερά από ποτέ. Η ανάλυση της κουλτούρας πρέπει τώρα να μπει σε αυτή την εικόνα – η κλίμακα και τα αποτελέσματα της γλώσσας στον αυτοματοποιημένο κόσμο δεν μπορούν να δηλωθούν σωστά χωρίς αυτήν. Πρέπει να γίνει κατανοητό ότι ο πολιτισμός δεν είναι πλέον μια απλή “υπερδομή” αλλά οι ράγες πάνω στις οποίες κινείται το κεφάλαιο.
Σε μια συνέντευξή του το 2012, ο Τσόμσκι είπε ότι “αν ένα μόριο γίνει πολύ μεγάλο, [οι φυσικοί] το δίνουν στους χημικούς”. Και στη συνέχεια, όταν γίνεται πολύ μεγάλο γι’ αυτούς, το παραδίδουν στους βιολόγους, στη συνέχεια στους ψυχολόγους, ώσπου “τελικά καταλήγει στα χέρια των κριτικών λογοτεχνίας”. Η Τεχνητή Νοημοσύνη έχει κάνει αυτό το αστείο κυριολεκτικό – και η απεραντοσύνη της ψηφιακής γλώσσας είναι ο μεντεσές πάνω στον οποίο γυρνά η κριτική του καπιταλισμού στην εποχή της Τεχνητής Νοημοσύνης.
Πηγή: Jacobin
Μετάφραση: antapocrisis
Καθηγητής Γερμανικής Φιλολογίας στο New York University.