Η αφορμή για αυτή τη συζήτηση δόθηκε από το εξαιρετικά επίκαιρο Διεθνές Συνέδριο «Γράφω, μεταφράζω, σκέφτομαι στην εποχή της Τεχνητής Νοημοσύνης», που θα πραγματοποιηθεί στην Αθήνα στις 27 και 28 Φεβρουαρίου. Το συνέδριο επιχειρεί μεταξύ άλλων να χαρτογραφήσει τα νέα δεδομένα που φέρνει η σαρωτική είσοδος των Μεγάλων Γλωσσικών Μοντέλων (LLMs) στην πνευματική μας ζωή.
Καλεσμένος μας είναι ο Christoph Durt (Κρις Ντουάρτ), ένας από τους πιο διεισδυτικούς στοχαστές στον τομέα της Φιλοσοφίας της Τεχνολογίας. Ο Durt, με σπουδές και ερευνητικό έργο που γεφυρώνουν την κλασική φιλοσοφία με την ψηφιακή πραγματικότητα (μπορείτε να βρείτε το πλούσιο έργο του στο durt.de), δεν στέκεται απλώς στην επιφάνεια των πραγμάτων. Αναλύει πώς η ψηφιοποίηση μετασχηματίζει την ανθρώπινη εμπειρία, τη γνώση και την ίδια μας την ικανότητα να παράγουμε νόημα.
Και μια απαραίτητη εξομολόγηση: Η μετάφραση της συνέντευξης που ακολουθεί ολοκληρώθηκε σε χρόνο μηδέν, χάρη στη βοήθεια της ίδιας της Τεχνητής Νοημοσύνης. Αν προσπαθούσαμε να μεταφράσουμε μόνοι μας αυτές τις έννοιες από τα αγγλικά στα ελληνικά πιθανότατα θα χρειαζόμασταν πολλές εργατοώρες. Το γεγονός ότι διαβάζετε αυτό το κείμενο τώρα, αποδεικνύει στην πράξη η ΤΝ είναι ένα πανίσχυρο εργαλείο, αρκεί να μην την αφήσεις να σκεφτεί αντί για σένα.
Υ.Γ. Και οι δύο συμφωνήσαμε ότι έχει δρόμο ακόμη η ΤΝ να φτάσει στα σωστά επίπεδα μετάφρασης.
– Στο πλαίσιο του Διεθνούς Συνεδρίου «Γράφω, μεταφράζω, σκέφτομαι στην εποχή της Τεχνητής Νοημοσύνης», ποια θεωρείτε ότι είναι η μεγαλύτερη πρόκληση που καλούνται να αντιμετωπίσουν σήμερα οι συγγραφείς, οι μεταφραστές και οι διανοούμενοι;
Η ταχύτητα με την οποία αναπτύσσονται τα Μεγάλα Γλωσσικά Μοντέλα (LLMs) δεν δίνει στους ανθρώπους και στην κοινωνία, την πολιτική, το δίκαιο και την εκπαίδευσή μας, αρκετό χρόνο για να προσαρμοστούν. Είναι δύσκολο να πιστέψει κανείς ότι το ChatGPT κυκλοφόρησε μόλις πριν από 3 χρόνια και μερικούς μήνες.
Συγκρίνετε αυτό με μια παλαιότερη τεχνολογία που άλλαξε τα δεδομένα: τη γραφή. Η γραφή αναπτύχθηκε σε διάστημα χιλιάδων ετών, και οι άνθρωποι είχαν χιλιάδες χρόνια για να αναπτύξουν λογικούς τρόπους χρήσης της. Πολλοί άνθρωποι δεν συνειδητοποιούν καν πλέον πόσο βαθιά ανατρεπτική είναι στην πραγματικότητα η τεχνολογία της γραφής.
Τα LLMs είναι ακόμη πιο ανατρεπτικά, όχι μόνο λόγω της ταχύτητας εξάπλωσής τους, αλλά και λόγω αυτού που κάνουν. Μετασχηματίζουν το νόημα χωρίς να κατανοούν το νόημα. Αλλάζουν τον τρόπο που σκεφτόμαστε, αλληλεπιδρούμε και ενεργούμε. Δεν κατανοούμε πραγματικά πόσο μεγάλο μέρος της χρήσης της γλώσσας μας και των αλληλεπιδράσεών μας μπορεί να αυτοματοποιηθεί με αυτόν τον τρόπο. Μέχρι στιγμής, είχαμε μόνο τις πρώτες ενδείξεις για τον αντίκτυπο της αυτοματοποιημένης παραγωγής νοηματικού κειμένου και άλλων τεχνουργημάτων.
Εδώ στην Αθήνα, μια ζωντανή συζήτηση για το πώς η γραφή επηρεάζει τη γνώση και την κατανόηση βρισκόταν ήδη σε εξέλιξη πριν από 2.500 χρόνια. Οι άνθρωποι ένιωθαν τις ανατροπές της τεχνολογίας της γραφής, όπως ακριβώς οι άνθρωποι σήμερα αισθάνονται ότι τα LLMs διαταράσσουν την πνευματική μας ζωή και την κοινωνία.
Τότε, οι φιλόσοφοι αντιτάχθηκαν στη σοφιστεία και τη ρητορική που δεν υπολόγιζαν την αλήθεια. Το 2005, μια σύγχρονη εκδοχή αυτού οδήγησε τον φιλόσοφο Harry Frankfurt να αναρωτηθεί: «Γιατί υπάρχει τόση αρλούμπα (bullshit);». Σήμερα, κατακλυζόμαστε από «AI slop» (πρόχειρο περιεχόμενο ΤΝ). Και επιπλέον: οι μηχανές αντικαθιστούν την ανθρώπινη πνευματική εργασία και χρησιμοποιούνται για να χειραγωγήσουν το μυαλό και τη συμπεριφορά μας.
Τα LLMs μας αναγκάζουν να επανεξετάσουμε παλιά ερωτήματα σχετικά με τον ανθρώπινο νου, τον βιόκοσμό μας και την τεχνολογία. Πρέπει όμως να καταβάλουμε πραγματική προσπάθεια για να φτάσουμε γρήγορα σε μια καλύτερη κατανόηση — όχι μόνο για να προλάβουμε τις εξελίξεις, αλλά και για να προβλέψουμε τι έρχεται. Αυτό απαιτεί θεμελιώδη φιλοσοφικό στοχασμό πάνω στα LLMs και τον αντίκτυπό τους στη γραφή, τη μετάφραση, τη σκέψη, τη γνώση, την κατανόηση, την επικοινωνία, την κοινωνία και ούτω καθεξής.
Σε όλες αυτές τις διαστάσεις, μπορούμε να βασιστούμε στις αρχαιοελληνικές συζητήσεις. Τα παραδοσιακά LLMs εκπαιδεύονται σε γραπτό κείμενο, και ακόμη και όταν επεξεργάζονται βίντεο, το κάνουν μέσω γραπτών συμβόλων (tokens).
Ωστόσο, πρέπει επίσης να προχωρήσουμε πολύ περισσότερο. Η γραφή μπορεί να αλλάξει το νόημα ως έναν βαθμό, αλλά τα LLMs είναι φτιαγμένα για να παράγουν νοηματικά δημιουργήματα. Στοχεύουν στην ανθρώπινη ικανότητα απόδοσης νοήματος. Πρέπει να κατανοήσουμε πώς τα LLMs μπορούν να χρησιμοποιηθούν για τη χειραγώγηση της σκέψης και της συμπεριφοράς των ανθρώπων σε μεγάλη κλίμακα.
Σήμερα, λίγοι δισεκατομμυριούχοι έχουν τα εργαλεία να επηρεάζουν τις πληροφορίες που λαμβάνουν δισεκατομμύρια άνθρωποι και τον τρόπο με τον οποίο αυτές τους παρουσιάζονται. Αυτή η χούφτα ανθρώπων έχει τα δικά της συμφέροντα, σκοπούς και φόβους, και συχνά αυτά δεν ευθυγραμμίζονται με το καλό των περισσοτέρων από εμάς. Όταν μπορούν να χειραγωγήσουν το τι και πώς σκεφτόμαστε σε μεγάλη κλίμακα, αυτό είναι επικίνδυνο.
– Υποστηρίζετε ότι τα LLMs συχνά συγχέονται με τους δημιουργούς (συγγραφείς). Κατά τη γνώμη σας, τι είναι αυτό που θεμελιώνει ουσιαστικά την έννοια της «πατρότητας ενός συγγραφικού έργου» (authorship);
Κατά την άποψή μου, η «πατρότητα ενός έργου» θεμελιώνεται ουσιαστικά στην απόδοση νοήματος (sense-making). Δεν λέω ότι οι δημιουργοί αποτελούν την υπέρτατη αυθεντία όσον αφορά το νόημα ενός κειμένου, ούτε ότι πρέπει να κατανοήσουμε την ψυχοσύνθεσή τους για να καταλάβουμε το έργο τους. Αλλά για να είναι κανείς δημιουργός, πρέπει να έχει τουλάχιστον μια κάποια κατανόηση του νοήματος αυτού που έχει φτιάξει. Αυτή η κατανόηση είναι αναγκαστικά ατελής. Η γραφή παραμένει πάντα ανοιχτή σε ερμηνεία, αμφισβήτηση και επανερμηνεία.
Η πατρότητα ενός έργου είναι κάτι παραπάνω από την απλή παράθεση πληροφοριών· ανοίγει έναν ορίζοντα νοήματος προς εξερεύνηση από άλλους. Αυτός ο ορίζοντας βρίσκεται στο «μεταξύ» δημιουργών και ερμηνευτών. Τα LLMs μπορούν να έχουν έναν ρόλο σε αυτό. Είναι δομημένα από κείμενα γραμμένα από ανθρώπους και επεξεργάζονται εντολές (prompts) που έχουν συνταχθεί από ανθρώπους. Όμως, από μόνα τους, δεν είναι δημιουργοί.
Η συλλογή, ο υπολογισμός ή η παραγωγή μπορεί να αποτελούν μέρη της δημιουργικής διαδικασίας, και οι δημιουργοί εμπλέκονται επίσης σε αυτές τις δραστηριότητες. Αλλά η δημιουργική πατρότητα είναι πολλά περισσότερα. Ενώ τα LLMs κάνουν κάτι παραπάνω από το να παπαγαλίζουν απλώς την ανθρώπινη χρήση της γλώσσας, η εσωτερική τους λειτουργία περιορίζεται σε υπολογισμούς πάνω σε κείμενα που έχουν γραφτεί από άλλους. Συχνά κατασκευάζονται και παρουσιάζονται με τρόπους που δημιουργούν την ψευδαίσθηση ενός δημιουργού.
Δεν πρέπει όμως να εξαπατόμαστε από αυτή την ψευδαίσθηση. Ένας άνθρωπος που θα παρήγαγε κείμενο υπολογίζοντας αριθμούς, δεν θα ήταν ούτε αυτός δημιουργός.
Έχουμε διαφορετικές λέξεις γι’ αυτό. Η λέξη «παραγωγός» ή «γεννήτρια» αποδίδει καλύτερα τον ρόλο ενός τέτοιου ανθρώπου. Το να αποκαλούμε ένα LLM «μηχανή παραγωγής κειμένου» ή «γεννήτρια κειμένου», θα προκαλέσει λιγότερη σύγχυση από το να του αποδίδουμε την ιδιότητα του δημιουργού.
Η απόδοση δημιουργικής πατρότητας στα LLMs αγνοεί τον τρόπο με τον οποίο κατασκευάζονται και λειτουργούν. Παραβλέπει όλους τους ανθρώπους που εμπλέκονται στον σχεδιασμό, την εκπαίδευση, την εγκατάσταση και την παροχή εντολών σε ένα LLM. Και απορρίπτει το γεγονός ότι υπάρχουν άνθρωποι υπεύθυνοι για το αποτέλεσμα που παράγει ένα LLM.
Μερικές φορές αυτό γίνεται επίτηδες. Οι μεγαλόστομοι ισχυρισμοί για την Τεχνητή Γενική Νοημοσύνη (AGI) —η οποία υποτίθεται ότι είναι ικανή να κάνει οτιδήποτε μπορεί να κάνει ένας άνθρωπος— αποσπούν την προσοχή από τα πραγματικά προβλήματα των υπαρκτών LLMs.
– Η διάλεξή σας στο Συνέδριο επικεντρώνεται στη σχέση μεταξύ δημιουργικής πατρότητας, ερμηνείας και νοήματος στο πλαίσιο κειμένων που παράγονται από LLMs. Σε διάλογο με τον «θάνατο του συγγραφέα», όπως διατυπώθηκε από τον Ρολάν Μπαρτ, θα λέγατε ότι η άνοδος των LLMs θέτει υπό αμφισβήτηση τον ίδιο τον ρόλο του δημιουργού ή μάλλον μια συγκεκριμένη αντίληψη για το τι σημαίνει πατρότητα;
Ο Μπαρτ απορρίπτει την ιδέα ότι η γλώσσα απλώς μεταδίδει τις εσωτερικές ψυχολογικές καταστάσεις ενός δημιουργού σε μια άλλη συνείδηση. Όταν λέει ότι «η γλώσσα μιλάει», προσπαθεί να εξηγήσει το φαινόμενο κατά το οποίο μπορούμε να βγάλουμε νόημα από τη χρήση της γλώσσας χωρίς να γνωρίζουμε τον δημιουργό της.
Ερμηνεύω αυτό ως εξής: το νόημα είναι ενσωματωμένο στη χρήση της γλώσσας μέσα σε ένα πλαίσιο, συμπεριλαμβανομένου του χρόνου και του πολιτισμού. Η γραφή αφαιρεί μεγάλο μέρος του πλαισίου, αλλά οι αναγνώστες ανασυγκροτούν το νόημα τοποθετώντας το κείμενο στο δικό τους πλαίσιο.
Τελικά, το νόημα είναι ενσωματωμένο σε έναν λίγο έως πολύ κοινό κόσμο. Δεν κατοικεί αποκλειστικά στον ακροατή ή στον αναγνώστη, αλλά και οι δύο παίζουν σημαντικούς ρόλους. Ούτε ο αναγνώστης ούτε ο δημιουργός μπορούν να εξαλειφθούν.
Τα LLMs μετασχηματίζουν την αλληλεπίδραση μεταξύ δημιουργού, γλώσσας και αναγνώστη. Ο στοχασμός πάνω στα LLMs μπορεί να προκαλέσει συγκεκριμένες αντιλήψεις περί πατρότητας. Φιλόσοφοι όπως ο Coeckelbergh και ο Gunkel χρησιμοποιούν τον Μπαρτ για να υποστηρίξουν ότι μια συγκεκριμένη έννοια πρέπει να εγκαταλειφθεί: αυτή του δημιουργού ως της μοναδικής αυθεντίας για το νόημα ενός κειμένου. Συμφωνώ ότι αυτή η συγκεκριμένη αντίληψη είναι ένα κατασκεύασμα που μπορεί να απορριφθεί. Αλλά αυτό δεν ισχύει για την έννοια του δημιουργού συνολικά.
Ο Μπαρτ, ο Φουκώ, ο Ντεριντά, ο Βιτγκενστάιν και άλλοι δεν απέρριψαν απλώς μια απλοϊκή έννοια του νοήματος και της πατρότητας. Έδειξαν ότι η γραφή είναι ενσωματωμένη σε κοινωνικά, πολιτιστικά, ιστορικά, φιλοσοφικά, πολιτικά και οικονομικά πλαίσια. Οι βαθιές τους εντάσεις βρίσκονται σε αυτή την ευρύτερη κατανόηση, όχι απλώς στην απόρριψη μιας στενής οπτικής.
Η σκέψη γύρω από τα LLMs μας δίνει μια φρέσκια προοπτική για τη δημιουργική πατρότητα. Αυτή η προοπτική δικαιώνει ορισμένους ισχυρισμούς αυτών των φιλοσόφων, οι οποίοι συχνά αντιμετωπίζονται ως αναμφισβήτητες αυθεντίες. Επιπλέον, μας εξοπλίζει με νέα εργαλεία για να αναστοχαστούμε κριτικά πάνω στις ιδέες τους και να φωτίσουμε τη συνεχιζόμενη συζήτηση για την πατρότητα. Τα LLMs αναδιαμορφώνουν βαθιά τον ρόλο του δημιουργού, και χρειαζόμαστε ανανεωμένο φιλοσοφικό στοχασμό για να καταλάβουμε το γιατί και το πώς.
– Στο έργο σας, εξερευνάτε τη σχέση μεταξύ του ανθρώπινου νου και των ψηφιακών τεχνολογιών. Πώς επηρεάζει η συνεχιζόμενη αλληλεπίδραση με τα LLMs τον τρόπο που σκεφτόμαστε, γράφουμε και ερμηνεύουμε;
Ακόμη και πριν από την ΤΝ, ορισμένοι συγγραφείς απέφευγαν ήδη την προσπάθεια που απαιτεί η σοβαρή ανάγνωση και γραφή. Δεν έκαναν τίποτα άλλο από το να συλλέγουν ψήγματα πληροφοριών και να τα επικολλούν σε προκαθορισμένα σχήματα. Τώρα, το κείμενο που παράγεται από ΤΝ κατακλύζει τα πάντα. Οι δημιουργοί αντικαθίστανται από LLMs και το διαδίκτυο βουλιάζει στο «AI slop» (πρόχειρο περιεχόμενο ΤΝ). Αυτός ο κατακλυσμός από κείμενα χωρίς πνεύμα έχει σοβαρές συνέπειες για τον τρόπο με τον οποίο αντιλαμβανόμαστε τον κόσμο και υπονομεύει τα θεμέλια της ελευθερίας του λόγου, της κοινωνίας και της δημοκρατίας.
Τα LLMs επαναλαμβάνουν μοτίβα που εξάγουν από το σώμα κειμένων τους και τα οποία ενισχύονται κατά την εκπαίδευση. Τείνουν να παράγουν σχηματικό, κοινότοπο και συχνά μεροληπτικό κείμενο. Μπορούν να βοηθήσουν τους συγγραφείς να λειάνουν τη γραφή τους και να την κάνουν πιο κατανοητή στους άλλους. Από την άλλη πλευρά, μπορούν να ισοπεδώσουν το περιεχόμενο και το ύφος, και να εμποδίσουν την πρωτότυπη γραφή.
Τα LLMs έχουν ήδη αλλάξει τον τρόπο με τον οποίο οι άνθρωποι γράφουν και μιλούν. Για παράδειγμα, υπήρξε μια έκρηξη στη χρήση της λέξης «delve» (εμβαθύνω) από τότε που κυκλοφόρησε το ChatGPT. Η λέξη ήταν σπάνια στις περισσότερες αγγλόφωνες περιοχές, αλλά όχι στη Νιγηρία — όπου διαμένουν πολλοί από τους εργαζόμενους (click workers) που εκπαίδευσαν τα μοντέλα. Θα μπορούσε κανείς να το δει αυτό ως μια μορφή εκδίκησης των αποικιοκρατούμενων εναντίον εκείνων που τους επέβαλαν τη γλώσσα τους… δεν το λέω τελείως σοβαρά αυτό. Είναι γεγονός όμως ότι οι άνθρωποι μιλούν και γράφουν όλο και περισσότερο σαν LLM.
Ανέφερα ήδη ότι τα LLMs μπορούν να χρησιμοποιηθούν καταχρηστικά για τη χειραγώγηση του τρόπου σκέψης και συμπεριφοράς των ανθρώπων. Αυτό είναι επικίνδυνο. Ειδικά αν αναλογιστεί κανείς ότι τα LLMs προωθούν επίσης την αποειδίκευση (deskilling). Πολλοί άνθρωποι τα χρησιμοποιούν για να κάνουν την πνευματική εργασία αντί για αυτούς, αντί να τα χρησιμοποιούν για να βελτιώσουν τη δική τους πνευματική εργασία.
Όταν οι άνθρωποι σταματούν να χρησιμοποιούν τις νοητικές τους ικανότητες, τις χάνουν. Οι άνθρωποι μπαίνουν στον πειρασμό να παραμελούν όχι μόνο απλές νοητικές εργασίες, αλλά και τον κριτικό αναστοχασμό. Όλα αυτά συμβαίνουν σε μια εποχή που χρειαζόμαστε απεγνωσμένα την ικανότητα να κατανοούμε πολύπλοκες σχέσεις και αλληλεπιδράσεις.
Ταυτόχρονα, βλέπω μεγάλες δυνατότητες στα LLMs. Μου επέτρεψαν να κάνω πράγματα που κάποτε ήταν πολύ πιο δύσκολα ή απλώς ανέφικτα. Μπορώ να τα χρησιμοποιήσω για να εκτελέσω σύνθετες αναζητήσεις, να αποκαλύψω κρυμμένες πληροφορίες, να διεξάγω έρευνα, να αναλύσω κείμενα, να αλληλεπιδράσω με κείμενα, να κάνω περίπλοκες αλλαγές σε κείμενα, να αμφισβητήσω τη δική μου σκέψη, να βελτιώσω τη γραφή μου, να μάθω γλώσσες και τόσα άλλα. Τα LLMs μπορούν να είναι χρήσιμα για οποιονδήποτε εργάζεται σοβαρά με το κείμενο. Και η κριτική σκέψη γύρω από αυτά ρίχνει νέο φως σε παλιά προβλήματα — όπως οι συζητήσεις για τη γραφή στην Αρχαία Αθήνα που προανέφερα.
– Βλέπετε την Τεχνητή Νοημοσύνη πρωτίστως ως ένα εργαλείο που υποστηρίζει τη δημιουργικότητα, ως έναν μοχλό ευρύτερου πολιτισμικού μετασχηματισμού ή ως μια εξέλιξη της οποίας οι μακροπρόθεσμες συνέπειες παραμένουν δύσκολο να προβλεφθούν;
Η ΤΝ είναι ένα εργαλείο, αλλά είναι επίσης κάτι πολύ περισσότερο από αυτό. Αποτελεί μία έκφραση της ψηφιοποίησης, μιας διαδικασίας που εξελίσσεται εδώ και αιώνες. Η ψηφιοποίηση δεν είναι απλώς συνέπεια των ηλεκτρονικών υπολογιστών — οι ίδιοι οι υπολογιστές είναι αποτέλεσμα της ψηφιοποίησης και, με τη σειρά τους, επιτάχυναν τη διαδικασία. Οι μακροπρόθεσμες συνέπειες είναι δύσκολο να προβλεφθούν, αλλά επηρεάζουν σαφώς κάθε πτυχή της ανθρώπινης ζωής: τη σκέψη, τις εμπειρίες, τα συναισθήματα, ακόμη και την ίδια την ανθρώπινη φύση.
Καθώς όλα αυτά είναι θέματα με τα οποία καταπιάνεται η φιλοσοφία, ο θεμελιώδης φιλοσοφικός στοχασμός είναι χρήσιμος για να κατανοήσουμε πώς η ψηφιοποίηση αλλάζει τους πολιτισμούς και τις συνειδήσεις. Έχω γράψει αρκετά άρθρα πάνω σε αυτό, τα οποία είναι ελεύθερα διαθέσιμα στην ιστοσελίδα μου [www.durt.de]. Επίσης, έχω δημιουργήσει ένα σύντομο βίντεο που εξηγεί γιατί η φιλοσοφία είναι απαραίτητη για την κατανόηση της ΤΝ. Οι ενδιαφερόμενοι αναγνώστες μπορούν εύκολα να το βρουν στο YouTube.
– Τι θα συμβουλεύατε νέους συγγραφείς και μεταφραστές που βιώνουν αβεβαιότητα απέναντι στις ραγδαίες τεχνολογικές αλλαγές;
Μην δέχεστε απλώς συμβουλές από άλλους — σκεφτείτε μόνοι σας. Η ΤΝ αναλαμβάνει ήδη την πνευματικά αδιάφορη εργασία. Οι μέρες που μπορούσε κανείς να βγάλει το ψωμί του μεταφράζοντας εγχειρίδια από μια κυρίαρχη γλώσσα σε μια άλλη, έχουν τελειώσει. Οι εργασίες γραφής χαμηλού επιπέδου αυτοματοποιούνται. Όμως, η εργασία υψηλής ποιότητας παραμένει. Οι στοχαστικοί μεταφραστές εξακολουθούν να έχουν ευκαιρίες. Οι πρωτότυποι συγγραφείς έχουν ακόμη περισσότερες. Διατηρήστε την εστίασή σας στην ποιότητα.
Θα συνιστούσα επίσης να μάθετε πώς η τεχνολογία μπορεί να υποστηρίξει το σπουδαίο έργο. Όχι μόνο την περίπλοκη ανάλυση κειμένου με LLMs, αλλά και απλά πράγματα. Όπως το τυφλό σύστημα πληκτρολόγησης, τα λογισμικά κρατήσεων σημειώσεων και βιβλιογραφίας, καθώς και τις μηχανές υπαγόρευσης και μετατροπής κειμένου σε ομιλία.
Παράλληλα, απολαύστε τη δια βίου μάθηση. Αναλογιστείτε τι επιθυμείτε πραγματικά. Αντί να κυνηγάτε μια φαινομενικά καλά καθορισμένη καριέρα που μπορεί να εξαφανιστεί, χρησιμοποιήστε αυτή τη στιγμή για να ασχοληθείτε με αυτό που πραγματικά σας ενδιαφέρει. Να έχετε ένα βάσιμο κίνητρο, συνδεθείτε με την καρδιά σας. Απολαύστε τη διαμόρφωση της δικής σας άποψης και προκαλέστε σοβαρά τον εαυτό σας με διαφορετικές οπτικές γωνίες. Πειραματιστείτε. Σκεφτείτε αυθεντικά και μάθετε συνεχώς. Αυτό είναι που σας δίνει τη δυνατότητα να δημιουργήσετε σπουδαίο έργο.
– Εάν ο «δημιουργός» υφίσταται μετασχηματισμό στο τρέχον πλαίσιο, πώς θα περιγράφατε αυτή τη μεταβολή στη δημιουργική ταυτότητα; Τι είδους δεξιότητες (φιλοσοφικές, γλωσσικές ή ψηφιακές) πιστεύετε ότι θα χρειαστεί ο δημιουργός του μέλλοντος;
Τα LLMs λειτουργούν μόνο επειδή εκπαιδεύονται πάνω στο απίστευτο έργο συγγραφέων καθ’ όλη τη διάρκεια της ιστορίας· τουλάχιστον εκείνων των οποίων τα κείμενα έχουν διασωθεί, ψηφιοποιηθεί και επιλεγεί από τις εταιρείες τεχνολογίας. Υπάρχουν πραγματικοί δημιουργοί πίσω από το κείμενο που παράγεται από LLM. Και υπάρχει ευθύνη. Απλώς είναι πιο δύσκολο να την διακρίνει κανείς.
Ανησυχώ βαθύτατα για το γεγονός ότι πολλοί άνθρωποι χρησιμοποιούν τα LLMs με λάθος τρόπο. Τα χρησιμοποιούν για να συνοψίζουν κείμενα αντί να εμβαθύνουν πραγματικά στο υλικό. Τα χρησιμοποιούν για να κάνουν την πνευματική εργασία αντί για αυτούς — πράγματα όπως η καταιγίδα ιδεών (brainstorming) ή ακόμα και η συγγραφή κειμένου. Όταν οι συγγραφείς αντικαθιστούν τη δική τους σκέψη με τα LLMs, δεν αναπτύσσουν τις δικές τους δεξιότητες. Δεν μαθαίνουν ποτέ, ή αποτυγχάνουν να εξασκήσουν, ουσιαστικές ικανότητες όπως η καθαρή σκέψη και η αυθεντική γραφή. Το αποτέλεσμα είναι επιφανειακό κείμενο και μια αυτοπροκληθείσα «απο-ειδίκευση». Διατρέχουν επίσης τον κίνδυνο να δημοσιεύσουν κλισέ κείμενα που δεν θα υποστήριζαν πραγματικά.
Εφόσον τα LLMs μπορούν να παράγουν ασταμάτητα αμέτρητες ποσότητες επιφανειακού περιεχομένου, η ικανότητα να αναγνωρίζουμε και να αποφεύγουμε την επιπολαιότητα θα γίνει ακόμη πιο κρίσιμη. Θα χρειαστεί να ακονίσουμε τη δική μας σκέψη, να χρησιμοποιούμε τα LLMs στοχαστικά χωρίς να γινόμαστε εξαρτημένοι από αυτά, και να κατανοήσουμε πώς μετασχηματίζουν την ίδια τη γλώσσα.
– Εάν, μετά από πενήντα χρόνια, ανακαλύπταμε ότι ένα εμβληματικό λογοτεχνικό έργο της εποχής μας είχε γραφτεί σε μεγάλο βαθμό με τη βοήθεια ενός LLM, θα άλλαζε αυτό τον τρόπο που το διαβάζουμε και το αξιολογούμε;
Σε πενήντα χρόνια από τώρα, οι στάσεις του κοινού θα έχουν αλλάξει δραματικά. Δεν μπορούμε πραγματικά να προβλέψουμε πώς θα σκέφτονται και θα νιώθουν οι άνθρωποι τότε. Θέλω να πω, ακόμα και σήμερα, ορισμένοι άνθρωποι δεν ενδιαφέρονται ιδιαίτερα για την αυθεντικότητα. Υπάρχουν εκείνοι που δεν τους νοιάζει καν αν ο «εραστής» τους τρέφει συναισθήματα γι’ αυτούς, αρκεί να κάνει αυτό που θέλουν. Αλλά για εκείνους που εκτιμούν την αυθεντικότητα, φαντάζομαι ότι οι απόψεις για το κείμενο που παράγεται από ΤΝ θα εξελιχθούν αρκετά.
Πιστεύω ότι έχει σημασία το ποιος μιλάει ή γράφει. Όχι απαραίτητα για να κατανοήσουμε την ψυχοσύνθεση του δημιουργού, αν και τα κείμενα συχνά αποκαλύπτουν πολλά γι’ αυτήν. Αλλά για να κατανοήσουμε το ίδιο το περιεχόμενο — για να του δώσουμε καλύτερο νόημα και να το ερμηνεύσουμε πληρέστερα.
Αν ένα LLM βοηθούσε στη δημιουργία ενός εμβληματικού λογοτεχνικού έργου, αυτό θα ήταν συναρπαστικό. Λόγω της φύσης τους, όμως, τα LLMs παράγουν κείμενο που κινείται στον μέσο όρο. Είναι απίθανο να παράγουν εμβληματική λογοτεχνία. Είπα ήδη ότι το πρόβλημα της «αρλούμπας» (bullshit) του Frankfurt έχει απλώς ενταθεί από τα LLMs. Τα LLMs παράγουν μαζικά περιεχόμενο χωρίς πνεύμα, εκθετικά περισσότερο από πριν. Πνιγόμαστε ήδη σε κλισέ και επιφανειακά κείμενα, και τα LLMs παράγουν ακόμη περισσότερα.
Οι συγγραφείς που βασίζονται υπερβολικά στα LLMs γενικά δεν πρόκειται να παράγουν σπουδαία λογοτεχνία. Αν όμως κάτι τέτοιο πετύχαινε, θα μας έλεγε κάτι ενδιαφέρον για τη δύναμη της υπολογιστικής επεξεργασίας πάνω στο τεράστιο σώμα κειμένων στο οποίο έχει εκπαιδευτεί το LLM. Και θα μας έδειχνε νέους τρόπους με τους οποίους θα μπορούσαν να χρησιμοποιηθούν αυτά τα εργαλεία.
– Αν σας ζητούσαν να σχεδιάσετε ένα LLM ειδικά για συγγραφείς και μεταφραστές, ποιο είναι το χαρακτηριστικό που θα θέλατε οπωσδήποτε να έχει και ποιο εκείνο που θα επιλέγατε συνειδητά να αποκλείσετε;
Θα ήθελα να αμφισβητεί αυτά που έχουν γράψει οι δημιουργοί και να βρίσκει αντεπιχειρήματα. Και θα ήθελα να αρνείται να δημιουργήσει ένα πρώτο προσχέδιο (draft). Εκεί είναι που η ΤΝ αναλαμβάνει τα ηνία και αντικαθιστά την ανθρώπινη πατρότητα. Οι δημιουργοί υποβαθμίζονται σε άτομα που δίνουν εντολές (prompters) και σε επιμελητές. Δεν είναι ότι τα LLMs θέλουν να υποδουλώσουν την ανθρωπότητα — αλλά αν δεν τα χρησιμοποιούμε σωστά, κινδυνεύουμε να υποδουλωθούμε εμείς οι ίδιοι στους αλγορίθμους.
Περισσότερες πληροφορίες για το συνέδριο θα βρείτε εδώ
Ακολουθεί η συνέντευξη στα αγγλικά
The occasion for this discussion was the highly timely International Conference “Writing, Translating, Thinking in the Age of Artificial Intelligence,” which will take place in Athens on February 27th and 28th. Τhe conference attempts to map, among other things, the new realities brought about by the sweeping arrival of Large Language Models (LLMs) in our intellectual life.
Our guest is Christoph Durt, one of the most insightful thinkers in the field of Philosophy of Technology. Durt, with studies and research that bridge classical philosophy and digital reality (his extensive work can be found at durt.de), does not merely stay on the surface of things. He analyzes how digitization transforms human experience, knowledge, and our very capacity to produce meaning.
And a necessary confession: The translation of the interview that follows was completed in no time, thanks to the help of Artificial Intelligence itself. If we had attempted to translate these concepts from English to Greek on our own, it would likely have required many man-hours. The fact that you are reading this text right now demonstrates in practice that AI is a powerful tool, provided you don’t let it do the thinking for you.
P.S. We both agreed that AI still has a long way to go to reach the proper levels of translation.
– In the context of the International Conference “Writing, Translating, Thinking in the Age of Artificial Intelligence,” what do you consider to be the greatest challenge that writers, translators, and intellectuals are called to face today?
The speed at which LLMs are being deployed doesn’t give humans and our society, politics, law, and education, enough time to adjust. It’s hard to believe that ChatGPT was released only 3 years and a few months ago.
Compare this with an earlier game-changing technology: writing. Writing developed over thousands of years, and humans have had thousands of years to develop reasonable ways to use it. Many people don’t even realize anymore how profoundly disruptive the technology of writing actually is.
LLMs are even more disruptive, not only because of the speed of their deployment, but also because of what they do. They transform meaning without understanding meaning. They change how we think, interact, and act. We don’t really understand how much of our language use and interactions can be automated in this way. So far, we’ve had only the first glimpses into the impact of automated generation of meaningful text and other artifacts.
Here in Athens, a lively debate about how writing affects knowledge and understanding was already underway 2,500 years ago. People felt the disruptions of the technology of writing, much as people today feel that LLMs disrupt our mental life and society.
Then, philosophers opposed sophistry and rhetoric without regard for truth. In 2005, a contemporary version of this has led the philosopher Harry Frankfurt to ask: “Why is there so much bullshit?” today, we are flooded with “AI slop.” And more: Machines replace human mental work, and they are used to manipulate our minds and behavior.
LLMs force us to rethink old questions about the human mind, our lifeworld, and technology. But we need to put real effort into reaching a better understanding quickly—not only to catch up, but also to anticipate what’s coming. This requires fundamental philosophical reflection on LLMs and their impact on writing, translation, thinking, knowledge, understanding, communication, society, and so on.
In all of these dimensions, we can build on ancient Greek discussions. Traditional LLMs are trained on written text, and even when they process video, they do so by means of written tokens.
Yet we also need to go much further. Writing can change meaning to some extent, but LLMs are made to generate meaningful artifacts. They target human sense-making. We need to understand how LLMs can be used to manipulate people’s thinking and behavior on a large scale.
today, a few billionaires have the tools to influence the information that billions of people receive and how it’s presented to them. That handful of people have their own interests, purposes, and fears, and often they don’t align with what’s good for most of us. When they can manipulate what and how we think on a large scale, that’s dangerous.
– You argue that LLMs are often mistaken for authors. In your view, what fundamentally grounds the concept of “authorship”?
In my view, authorship is fundamentally grounded in sense-making. I’m not saying authors are the ultimate authority on a text’s meaning, or that we need to understand their psyche to understand their work. But to be an author, you must have at least some understanding of the meaning of what you’ve created. That understanding is necessarily incomplete. Writing always remains open to interpretation, contestation, and reinterpretation.
Authorship is more than just stating information; it opens a horizon of sense-making for others to explore. The horizon is in the in-between between authors and interpreters. LLMs can have a part in this. They are built of human-authored text and process human-authored prompts. But by themselves, they’re not authors.
Collecting, computing, or generating can be parts of authorship, and authors engage in these activities, too. But authorship is much more. While LLMs do more than just parrot human language use, their inner workings are limited to computations on texts written by others. They’re often built and framed in ways that produce the illusion of an author.
But we shouldn’t be fooled by that illusion. A human who produces text by calculating numbers wouldn’t be an author either.
We have different words for this. The word “producer” or “generator” better captures the role of such a human. Calling an LLM a text-producing machine, or a text-generator, will lead to less confusion than attributing authorship to it.
Attributing authorship to LLMs ignores how they’re built and how they function. It overlooks all the people involved in designing, training, deploying, and prompting an LLM. And it hides the fact that there are people responsible for an LLM’s output.
Sometimes that’s done on purpose. Grand claims about Artificial General Intelligence—which is supposedly able to do everything a human can do—distract from the actual problems with actually existing LLMs.
– Your lecture at the Conference focuses on the relationship between authorship, interpretation, and meaning in the context of texts generated by LLMs. In dialogue with the “death of the author,” as formulated by Roland Barthes, would you say that the rise of LLMs calls into question the role of the author itself, or rather a specific conception of what authorship means?
Barthes rejects the idea that language simply transmits an author’s internal psychological states to another consciousness. When he says that “language speaks,” he tries to explain the phenomenon that we can make sense of language use without knowing its author.
I interpret this to mean that meaning is embedded in language use within a context, including time and culture. Writing strips away much context, but readers reconstruct meaning by placing the text in their own context.
Ultimately, meaning is embedded in a more or less shared world. It doesn’t reside solely in the listener or reader, but both play important roles. Neither the reader nor the author can be eliminated.
LLMs transform the interplay between author, language, and reader. Reflecting on LLMs can challenge specific conceptions of authorship. Philosophers like Coeckelbergh and Gunkel use Barthes to argue that one particular concept should be given up, that of the author as the sole authority of the meaning of a text. I agree that this specific notion is a fabrication that can be dismissed. But that’s not true for the concept of the author altogether.
Barthes, Foucault, Derrida, Wittgenstein, and others didn’t merely dismiss a simplistic concept of meaning and authorship. They showed that writing is embedded in societal, cultural, historical, philosophical, political, and economic contexts. Their profound insights lie in this broader understanding, not just in rejecting one narrow view.
Thinking about LLMs gives us a fresh perspective on authorship. This perspective vindicates some claims by these philosophers, who are often treated as unquestionable authorities. More, it also equips us with new tools to critically reflect on their ideas and illuminate the ongoing discussion of authorship. LLMs profoundly reshape the author’s role, and we need renewed philosophical reflection to understand why and how.
– In your work, you explore the relationship between the human mind and digital technologies. How does sustained interaction with LLMs affect the way we think, write, and interpret?
Even before AI, some writers were already avoiding the effort involved in serious reading and writing. They’d do nothing but collect bits of information and paste them into pre-given schemes. Now, AI-generated text floods everything. Authors are being replaced with LLMs, and the Internet is becoming swamped with AI slop. This flood of mindless text has serious consequences for how we make sense of the world and undermines the foundations of free speech, society, and democracy.
LLMs repeat patterns they extract from their text corpus and which are reinforced during training. They tend to produce schematic, clichéd, and often biased text. They can help authors smooth their writing and make it more understandable to others. On the other hand, they can flatten content and style, and inhibit original writing.
LLMs have already changed how people write and talk. For instance, there’s been an explosion in the use of the word “delve” since ChatGPT launched. The word had been rare in most English-speaking regions, but not in Nigeria—where many of the click workers reside who trained the models. You could see this as a form of revenge by the colonized against those who imposed their language on them… I’m not completely serious here. But it’s a fact that people are talking and writing more and more like an LLM.
I already mentioned that LLMs can be misused to manipulate how people think and behave. That’s dangerous. Especially when you consider that LLMs also promote deskilling. Many people use them to do mental work for them rather than to improve their own mental work.
When people stop using their mental capabilities, they lose them. People are tempted to neglect not only simple mental tasks, but also critical reflection. All of this is happening at a time when we desperately need the ability to understand complex relationships and interactions.
At the same time, I see great potential in LLMs. They’ve enabled me to do things that were once far more difficult or simply not feasible. I can use them to perform complex searches, uncover hidden information, conduct research, analyze texts, interact with texts, make complex changes to text, challenge my own thinking, smooth my writing, learn languages, and so much more. LLMs can be useful for everyone who seriously works with text. And thinking critically about them sheds new light on old problems—like the discussions about writing in Ancient Athens I mentioned.
– Do you see Artificial Intelligence primarily as a tool that supports creativity, as a driver of broader cultural transformation, or as a development whose long-term consequences remain difficult to foresee?
AI is a tool, but it’s also much more than that. It’s one expression of the digitization, a process that’s been unfolding for centuries. Digitization isn’t merely a consequence of electronic computers—computers are themselves a result of digitization, and they’ve accelerated the process in turn. The long-term consequences are hard to predict, but they clearly affect every aspect of human life: our thinking, experiences, emotions, and even human nature itself.
Since these are all topics philosophy deals with, fundamental philosophical reflection is useful for understanding how digitization changes cultures and minds. I wrote several articles on this, which are freely available on my website [www.durt.de]. I also made a short video explaining why philosophy is essential for understanding AI. Interested readers can easily find it on YouTube.
– What advice would you offer to young writers and translators who experience uncertainty in the face of rapid technological change?
Don’t just take advice from others—think for yourself. AI is already taking over thoughtless work. The days of making a living translating manuals from one major language to another are over. Low-level writing tasks are being automated. But high-quality work remains. Thoughtful translators still have opportunities. Original writers have even more. Keep your focus on quality.
I’d also recommend learning how technology can support great work. Not only complex text analysis with LLMs, but also simple things. Like touch typing, note-taking and bibliography software, and dictation and text-to-speech engines.
At the same time, enjoy lifelong learning. Reflect on what you genuinely want. Instead of chasing a seemingly well-defined career that may vanish, use this moment to engage with what truly matters to you. Have a well-grounded motivation, connect with your heart. Enjoy working out your own view, and seriously challenge yourself with different perspectives. Experiment. Think authentically and continuously learn. That’s what enables you to author great work.
– If the “author” is undergoing transformation in our current context, how would you describe this shift in authorial identity? What kinds of skills (philosophical, linguistic or digital) do you think the author of the future will need?
LLMs only work because they are trained on the incredible work of writers throughout history; at least those whose texts have survived, been digitized, and selected by tech companies. There are real authors behind the LLM-generated text. And there is responsibility. It’s just harder to see.
I’m deeply worried that many people are using LLMs the wrong way. They use them to summarize texts rather than to actually engage with the material. They use them to do mental work for them—things like brainstorming, or even writing text. When writers replace their own thinking with LLMs, they’re not developing their own skills. They never learn, or they fail to practice, essential abilities like clear thinking and authentic writing. The result is superficial text and self-inflicted deskilling. They also risk publishing clichéd text they wouldn’t truly stand behind.
Since LLMs can churn out endless amounts of superficial content, the ability to recognize and avoid superficiality will become even more critical. We’ll need to sharpen our own thinking, use LLMs thoughtfully without becoming dependent on them, and understand how they are transforming language itself.
– If, fifty years from now, we were to discover that an iconic literary work of our time had been written largely with the assistance of an LLM, would that change the way we read and evaluate it?
Fifty years from now, public attitudes will have shifted dramatically. We can’t really predict how people will think and feel then. I mean, even today, some people don’t care much about authenticity. There are those who don’t even care whether their “lover” has feelings for them, as long as they just do what they want. But for those who do value authenticity, I imagine attitudes about AI-generated text will evolve quite a bit.
I think it matters who’s speaking or writing. Not necessarily to understand the psyche of the author, though texts often do reveal a lot about it. But to understand the content itself—to make better sense of it, and to interpret it more fully.
If an LLM helps create an iconic literary work, that would be fascinating. By their nature, though, LLMs generate average text. They are unlikely to produce iconic literature. I already said that Frankfurt’s problem of “bullshit” has only been amplified by LLMs. LLMs mass-produce mindless content, exponentially more than before. We’re already drowning in clichéd and superficial text, and LLMs generate even more of it.
Writers who lean too heavily on LLMs generally won’t produce great literature. But if this succeeds, it would tell us something interesting about the power of computational processing over the massive text corpus the LLM has been trained on. And it would show us new ways in which these tools might be used.
– If you were asked to design an LLM specifically for writers and translators, what is the one feature you would definitely want it to have and what is the one feature you would consciously choose to exclude?
I’d want it to challenge what authors have written and to find counterarguments. And I’d want it to refuse to generate a first draft. That’s where AI takes over and replaces human authorship. Authors get degraded to prompters and editors. It’s not that LLMs want to enslave humanity—but if we don’t use them properly, we risk enslaving ourselves with algorithms.
