Ο κόσμος άλλαξε μορφή. Οι πόλεις απλώθηκαν σε δίκτυα, οι αγορές κινήθηκαν μέσα από αλγορίθμους, η επικοινωνία έγινε στιγμιαία και η γνώση πέρασε από τις βιβλιοθήκες στις οθόνες. Ο άνθρωπος έμαθε να επεμβαίνει στο γονιδίωμα, να χαρτογραφεί τον εγκέφαλο, να στέλνει μηχανές σε άλλους πλανήτες και να δημιουργεί συστήματα που γράφουν, υπολογίζουν, προβλέπουν και αποφασίζουν με ταχύτητα που πριν από λίγες γενιές θα έμοιαζε αδιανόητη.
Αυτό είναι το μεγάλο ηθικό πρόβλημα της εποχής. Δημιουργήσαμε εργαλεία που μπορούν να επηρεάσουν κοινωνίες ολόκληρες, αλλά συνεχίζουμε να τα χειριζόμαστε με ανθρώπινα κίνητρα που δεν έχουν αλλάξει πολύ από την αρχαιότητα. Η φιλοδοξία, ο φόβος, η ματαιοδοξία, η απληστία, η ανάγκη επιβολής, η επιθυμία της εικόνας και η αποφυγή της ευθύνης δεν εξαφανίστηκαν επειδή ο κόσμος έγινε ψηφιακός. Βρήκαν απλώς καινούργια μέσα έκφρασης.
Η τεχνητή νοημοσύνη κάνει αυτή την αλήθεια πιο καθαρή. Μια έξυπνη μηχανή μπορεί να αναλύσει δεδομένα, να εντοπίσει μοτίβα, να παράγει κείμενα, να δημιουργήσει εικόνες, να βοηθήσει στην ιατρική, στην έρευνα, στην εκπαίδευση, στη διοίκηση. Μπορεί να γίνει εργαλείο εξαιρετικής προόδου. Όμως η ίδια δύναμη μπορεί να χρησιμοποιηθεί για παραπλάνηση, επιτήρηση, χειραγώγηση, αυτοματοποίηση της αδικίας και συγκέντρωση εξουσίας σε χέρια που δεν λογοδοτούν επαρκώς.
Το κρίσιμο σημείο δεν βρίσκεται μόνο στη μηχανή. Βρίσκεται στον άνθρωπο που την εκπαιδεύει, την ελέγχει, την πουλά, την εφαρμόζει, την παρουσιάζει ως αντικειμενική, την κρύβει πίσω από τεχνικούς όρους και τελικά αποφασίζει ποια χρήση της θεωρεί αποδεκτή. Η μηχανή δεν εισάγει από μόνη της ήθος στον κόσμο. Το ήθος εισέρχεται από τις ανθρώπινες αποφάσεις που την περιβάλλουν.
Ο Ηράκλειτος έγραψε: «Ἦθος ἀνθρώπῳ δαίμων». Ο χαρακτήρας του ανθρώπου είναι η μοίρα του. Η φράση αυτή μοιάζει να έρχεται από μακριά, αλλά μιλά με ακρίβεια στο παρόν. Η μοίρα μιας κοινωνίας δεν κρίνεται μόνο από την ευφυΐα των εργαλείων της. Κρίνεται από τον χαρακτήρα των ανθρώπων που τα χρησιμοποιούν. Ένα προηγμένο σύστημα στα χέρια ανθρώπων χωρίς ακεραιότητα δεν παράγει πολιτισμό. Παράγει πιο αποτελεσματικές μορφές αδικίας.
Σήμερα μιλάμε συνεχώς για καινοτομία. Η λέξη έχει γίνει σχεδόν τελετουργική. Τη χρησιμοποιούν εταιρείες, κυβερνήσεις, πανεπιστήμια, οργανισμοί, πολιτικοί, διαφημιστές. Κάθε νέα πλατφόρμα, κάθε νέο προϊόν, κάθε νέο μοντέλο παρουσιάζεται ως βήμα προς το μέλλον. Σπάνια όμως ρωτάμε με την ίδια επιμονή ποιον άνθρωπο υπηρετεί αυτό το μέλλον και τι είδους άνθρωπο παράγει. Ένας κόσμος που βελτιστοποιεί τα πάντα εκτός από τον χαρακτήρα του κινδυνεύει να γίνει εντυπωσιακός στην επιφάνεια και φτωχός στο βάθος.
Η υπερπληροφόρηση είναι ένα χαρακτηριστικό παράδειγμα. Δεν ζούμε σε εποχή σιωπής. Ζούμε σε εποχή ασταμάτητης ομιλίας. Κάθε γεγονός γίνεται αμέσως σχόλιο, κάθε σχόλιο γίνεται σύγκρουση, κάθε σύγκρουση γίνεται περιεχόμενο. Η πληροφορία δεν φτάνει απλώς στον άνθρωπο. Τον περικυκλώνει. Τον ερεθίζει, τον κουράζει, τον θυμώνει, τον επιβεβαιώνει, τον αποσπά. Μέσα σε αυτή τη διαρκή ροή, η διάκριση ανάμεσα στο αληθινό και στο εντυπωσιακό γίνεται όλο και πιο δύσκολη.
Το πιο επικίνδυνο δεν είναι ότι ο άνθρωπος εξαπατάται πάντα από άγνοια. Συχνά εξαπατάται από επιθυμία. Θέλει να πιστέψει κάτι επειδή τον βολεύει, επειδή τον δικαιώνει, επειδή ανήκει στην ομάδα του, επειδή του προσφέρει έναν εχθρό, επειδή του αφαιρεί την ανάγκη να εξετάσει τον εαυτό του. Οι αλγόριθμοι δεν δημιούργησαν αυτή την αδυναμία. Την αξιοποίησαν. Την μέτρησαν, την οργάνωσαν, την εμπορευματοποίησαν.
Έτσι η δημόσια ζωή γεμίζει βεβαιότητες χωρίς βάθος. Άνθρωποι που δεν διάβασαν αρκετά μιλούν σαν να γνωρίζουν τα πάντα. Άνθρωποι που δεν αμφέβαλαν ποτέ για τον εαυτό τους απαιτούν να εμπιστευθούν όλοι την κρίση τους. Άνθρωποι που δεν άντεξαν την πολυπλοκότητα καταφεύγουν σε συνθήματα. Η ταχύτητα της εποχής δεν αφήνει πάντα χώρο για ωρίμανση. Παράγει άμεση αντίδραση, αλλά όχι αναγκαστικά σκέψη.
Σε αυτό το περιβάλλον, η ηθική δεν είναι διακοσμητική έννοια. Δεν είναι κεφάλαιο σε εταιρικό εγχειρίδιο ούτε ωραία λέξη σε δημόσια ομιλία. Είναι η πρακτική δύναμη που περιορίζει την αυθαιρεσία όταν κανείς δεν κοιτάζει. Είναι η εσωτερική αντίσταση απέναντι στο εύκολο ψέμα, στο βολικό μισόλογο, στην καλοστημένη δικαιολογία, στην κατάχρηση που μπορεί να περάσει απαρατήρητη. Είναι αυτό που μένει όταν λείπει ο έλεγχος.
Ο σύγχρονος κόσμος έχει πολλούς μηχανισμούς συμμόρφωσης, αλλά λιγότερη εσωτερική πειθαρχία. Έχει πολιτικές, κανονισμούς, διαδικασίες, ελέγχους, πλαίσια, επιτροπές, δηλώσεις αξιών. Όλα αυτά είναι αναγκαία. Όμως δεν αρκούν όταν οι άνθρωποι μαθαίνουν να τα παρακάμπτουν, να τα χρησιμοποιούν ως άλλοθι ή να τα επικαλούνται χωρίς να τα πιστεύουν. Η γλώσσα της ηθικής μπορεί εύκολα να γίνει εργαλείο συγκάλυψης όταν δεν συνοδεύεται από χαρακτήρα.
Το βλέπουμε σε εργασιακούς χώρους όπου η αξιοκρατία αναφέρεται συχνά, αλλά η μετριότητα προστατεύεται όταν είναι χρήσιμη. Το βλέπουμε σε οργανισμούς που μιλούν για διαφάνεια, ενώ οι πραγματικές αποφάσεις λαμβάνονται σε κλειστά δωμάτια. Το βλέπουμε σε δημόσιες συζητήσεις όπου η αλήθεια υποχωρεί μπροστά στη στρατηγική επικοινωνία. Το βλέπουμε και στην τεχνολογία, όταν η λέξη «καινοτομία» χρησιμοποιείται για να αποφευχθούν ερωτήματα για εξουσία, ευθύνη και συνέπειες.
Όσο μεγαλώνει ένα σύστημα, τόσο αυξάνεται και το ηθικό βάρος του. Ένα μικρό λάθος μπορεί να επηρεάσει λίγους ανθρώπους. Ένα λάθος ενσωματωμένο σε ένα παγκόσμιο ψηφιακό σύστημα μπορεί να επηρεάσει εκατομμύρια. Μια προκατάληψη που άλλοτε έμενε μέσα σε ένα γραφείο μπορεί σήμερα να περάσει σε ένα μοντέλο, σε μια πλατφόρμα, σε έναν αυτοματοποιημένο μηχανισμό απόφασης. Η αδικία γίνεται πιο δύσκολα ορατή όταν αποκτά τεχνική μορφή. Δεν φωνάζει. Δεν θυμώνει. Δεν μοιάζει πάντα με αυθαιρεσία. Μερικές φορές εμφανίζεται ως ουδέτερο αποτέλεσμα.
Γι’ αυτό οι έξυπνες μηχανές απαιτούν πιο έντιμους ανθρώπους. Όχι πιο έξυπνους μόνο. Όχι πιο καταρτισμένους μόνο. Πιο έντιμους. Ανθρώπους που να μπορούν να πουν την αλήθεια ακόμη κι όταν δεν τους συμφέρει. Να αναγνωρίσουν το σφάλμα πριν γίνει ζημιά. Να μη χρησιμοποιήσουν την πολυπλοκότητα ως καταφύγιο ανευθυνότητας. Να καταλάβουν ότι το ερώτημα «μπορούμε να το κάνουμε;» δεν είναι ποτέ αρκετό χωρίς το ερώτημα «τι θα προκαλέσει;».
Η εποχή μας έχει ανάγκη από μια πιο ώριμη αντίληψη της προόδου. Η πρόοδος δεν μπορεί να μετριέται μόνο σε ταχύτητα, παραγωγικότητα, δυνατότητες και κλίμακα. Χρειάζεται να μετριέται και σε ποιότητα ανθρώπινης ζωής, σε δικαιοσύνη, σε εμπιστοσύνη, σε αλήθεια, σε ευθύνη. Αλλιώς παράγουμε έναν κόσμο που ξέρει να λειτουργεί καλύτερα, αλλά όχι απαραίτητα να ζει καλύτερα.
Ο άνθρωπος είναι το αδύναμο σημείο των μεγάλων του επιτευγμάτων. Όχι επειδή είναι ανίκανος, αλλά επειδή είναι διχασμένος. Μπορεί να δημιουργεί και να καταστρέφει με το ίδιο χέρι. Να θεραπεύει και να εκμεταλλεύεται. Να αναζητά την αλήθεια και να προτιμά το ψέμα όταν τον βολεύει. Να μιλά για το κοινό καλό και να υπηρετεί το προσωπικό συμφέρον. Αυτό το ρήγμα δεν το ακυρώνει η τεχνολογία. Το μεταφέρει σε μεγαλύτερη κλίμακα.
Εδώ βρίσκεται η αξία της αρχαίας σοφίας. Δεν χρειάζεται να τη μετατρέψουμε σε μουσειακή επίκληση ούτε να φορτώσουμε το παρόν με αποφθέγματα. Αρκεί να καταλάβουμε ότι οι παλαιότεροι πολιτισμοί είχαν δει καθαρά κάτι που παραμένει αληθινό: ο άνθρωπος μπορεί να αλλάζει εργαλεία, πόλεις, θεσμούς και γλώσσες, αλλά η εσωτερική του πάλη επιστρέφει με νέα μορφή σε κάθε εποχή. Η ύβρις, η ματαιοδοξία, η απληστία, η τύφλωση της ισχύος και η ανάγκη για αυτοσυγκράτηση δεν ανήκουν στο παρελθόν. Κυκλοφορούν σήμερα με σύγχρονα ονόματα.
Αν θέλουμε λοιπόν να μιλήσουμε σοβαρά για το μέλλον, πρέπει να μιλήσουμε σοβαρά για τον άνθρωπο. Όχι ως χρήστη, πελάτη, ψηφοφόρο, παραγωγική μονάδα ή σύνολο δεδομένων. Ως ηθικό ον που μπορεί να σταθεί στο ύψος της δύναμής του ή να συντριβεί από αυτήν. Η τεχνητή νοημοσύνη, οι βιοτεχνολογίες, τα παγκόσμια δίκτυα και οι αυτοματοποιημένες υποδομές δεν μας απαλλάσσουν από αυτή την ανάγκη. Την κάνουν επείγουσα.
Ο κόσμος άλλαξε μορφή, αλλά ο άνθρωπος κουβαλά ακόμη τα ίδια εσωτερικά ρήγματα. Αυτό πρέπει να είναι το σημείο εκκίνησης κάθε σοβαρής συζήτησης για την πρόοδο. Οι έξυπνες μηχανές δεν θα διορθώσουν από μόνες τους τον ανέντιμο άνθρωπο. Θα του δώσουν ισχυρότερα μέσα. Γι’ αυτό το ερώτημα του μέλλοντος δεν είναι μόνο τεχνολογικό. Είναι βαθιά ηθικό.
Το μέλλον δεν θα κριθεί από το αν οι μηχανές θα γίνουν αρκετά έξυπνες. Θα κριθεί από το αν οι άνθρωποι θα γίνουν αρκετά έντιμοι για να τις χρησιμοποιήσουν.
Βιβλιογραφικές και ενδεικτικές αναφορές
Ηράκλειτος, απόσπασμα Β119: «Ἦθος ἀνθρώπῳ δαίμων».
UNESCO, Recommendation on the Ethics of Artificial Intelligence, 2021.
OECD, OECD AI Principles, αρχικά υιοθετημένες το 2019 και αναθεωρημένες το 2024.
European Union, Artificial Intelligence Act, 2024.
Zuboff, Shoshana, The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power, PublicAffairs, 2019.
O’Neil, Cathy, Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy, Crown, 2016.
Noble, Safiya Umoja, Algorithms of Oppression: How Search Engines Reinforce Racism, NYU Press, 2018.
Kozyreva, Anastasia, Lewandowsky, Stephan, and Hertwig, Ralph, “Citizens Versus the Internet: Confronting Digital Challenges With Cognitive Tools,” Psychological Science in the Public Interest, 2020.
Pennycook, Gordon, and Rand, David G., “The Psychology of Fake News,” Trends in Cognitive Sciences, 2021.
Floridi, Luciano, and Cowls, Josh, “A Unified Framework of Five Principles for AI in Society,” Harvard Data Science Review, 2019.
