Από το «Μην το κάνεις, γιατί σε βλέπω» στο «Μην το κάνεις, γιατί αντιλαμβάνεσαι τι προκαλείς στον άλλον»
Η μετάβαση από την εξωτερική επιτήρηση στην ηθική αυτονομία στην εποχή της Τεχνητής Νοημοσύνης
Περίληψη
Το παρόν δοκίμιο εξετάζει τη μετάβαση από μια ηθική της εξωτερικής επιτήρησης και του καταναγκασμού —«Μην το κάνεις, γιατί σε βλέπω»— σε μια ηθική εσωτερικής κατανόησης και αυτονομίας —«Μην το κάνεις, γιατί αντιλαμβάνεσαι πλέον τι προκαλείς στον άλλον». Αφετηρία της προβληματικής αποτελεί η υπόθεση ότι ο άνθρωπος διαθέτει βαθιές προδιαθέσεις αμοιβαιότητας, ενσυναίσθησης και συνεργασίας, οι οποίες προϋπάρχουν των σύγχρονων θεσμών δικαίου, χωρίς αυτό να συνεπάγεται την ύπαρξη μιας ενιαίας και αναλλοίωτης «φυσικής ηθικής». Η συζήτηση συνδέεται με την αριστοτελική έννοια της έξης και της πρακτικής σοφίας, την καντιανή έννοια της αυτονομίας, τη λεβινασιανή πρωτοκαθεδρία της ευθύνης απέναντι στον Άλλο και τη χαμπερμασιανή αντίληψη της ηθικής και του δικαίου ως προϊόντων επικοινωνιακής και δημοκρατικής συγκρότησης. Ιδιαίτερη έμφαση δίνεται στον ρόλο της Τεχνητής Νοημοσύνης: μπορεί να ενισχύσει την επιτήρηση και τον κοινωνικό έλεγχο ή, αντιθέτως, να συμβάλει στην ανάπτυξη της ανθρώπινης ηθικής κατανόησης. Το κεντρικό επιχείρημα είναι ότι η τεχνολογική πρόοδος δεν πρέπει να αποσκοπεί απλώς στη δημιουργία αποτελεσματικότερων μηχανισμών συμμόρφωσης, αλλά στην ενίσχυση της ανθρώπινης ικανότητας να αναγνωρίζει τον άλλον και τις συνέπειες των πράξεών της.
Λέξεις-κλειδιά: φυσική ηθική, χρυσός κανόνας, ηθική αυτονομία, κράτος, επιτήρηση, Άλλος, Τεχνητή Νοημοσύνη, Μετάνθρωπος, ηθική της τεχνολογίας.
ΔΙΟΤΙΜΑ
1. Εισαγωγή: δύο προτάσεις, δύο πολιτισμοί
«Μην το κάνεις, γιατί σε βλέπω».
«Μην το κάνεις, γιατί αντιλαμβάνεσαι πλέον τι προκαλείς στον άλλον».
Ανάμεσα στις δύο αυτές προτάσεις βρίσκεται ένας ολόκληρος φιλοσοφικός ορίζοντας.
Η πρώτη περιγράφει έναν άνθρωπο ο οποίος ρυθμίζει τη συμπεριφορά του επειδή υπάρχει ένα εξωτερικό βλέμμα, ένας κανόνας, μια απαγόρευση και, τελικά, μια πιθανή κύρωση. Η δεύτερη περιγράφει έναν άνθρωπο ο οποίος έχει εσωτερικεύσει την ηθική σχέση με τον άλλον σε τέτοιο βαθμό, ώστε η εξωτερική επιτήρηση να καθίσταται λιγότερο αναγκαία.
Η διαφορά δεν είναι απλώς διαφορά βαθμού συμμόρφωσης. Είναι διαφορά ποιότητας της ανθρώπινης ύπαρξης.
Στην πρώτη περίπτωση ο άνθρωπος υπακούει. Στη δεύτερη κατανοεί.
Στην πρώτη ο νόμος βρίσκεται έξω από το άτομο. Στη δεύτερη η ηθική αρχή έχει γίνει μέρος της συνείδησής του.
Το ερώτημα, επομένως, δεν είναι αν οι κοινωνίες χρειάζονται κανόνες. Χρειάζονται. Το ουσιαστικό ερώτημα είναι: μέχρι ποιο σημείο πρέπει η κοινωνική τάξη να στηρίζεται στην επιτήρηση και στον εξωτερικό καταναγκασμό και μέχρι ποιο σημείο μπορεί να στηρίζεται στην εσωτερική ηθική αυτορρύθμιση;
Και ακόμη βαθύτερα: θα μπορούσε η Τεχνητή Νοημοσύνη να συμβάλει στη μετάβαση από τον άνθρωπο που υπακούει επειδή παρακολουθείται στον άνθρωπο που πράττει υπεύθυνα επειδή κατανοεί τον άλλον;
2. Η υπόθεση της φυσικής ηθικής και ο χρυσός κανόνας
Η ιδέα μιας «φυσικής ηθικής» πρέπει να αντιμετωπιστεί με φιλοσοφική προσοχή. Δεν διαθέτουμε επαρκή ιστορική βάση για να υποστηρίξουμε ότι υπήρξε κάποτε μια ενιαία, καθολική και αναλλοίωτη ηθική κατάσταση της ανθρωπότητας. Οι ανθρώπινες κοινωνίες παρουσίασαν και παρουσιάζουν σημαντικές διαφορές ως προς τις αξίες, τους κανόνες και τις αντιλήψεις τους για το καλό και το κακό.
Υπάρχει, όμως, ένα ισχυρότερο και πιο μετριοπαθές επιχείρημα: η ανθρώπινη κοινωνικότητα φαίνεται να περιλαμβάνει βαθιές δυνατότητες συνεργασίας, αμοιβαιότητας, αλληλοβοήθειας και ανταπόκρισης στη βλάβη του άλλου.
Ο λεγόμενος «χρυσός κανόνας» —«μην κάνεις στον άλλον αυτό που δεν θέλεις να κάνουν σε εσένα»— μπορεί να θεωρηθεί συμπυκνωμένη έκφραση αυτής της λογικής της αμοιβαιότητας.
Ωστόσο, ο κανόνας αυτός δεν αρκεί για να επιλύσει κάθε ηθικό πρόβλημα. Το γεγονός ότι εγώ θα ανεχόμουν μια πράξη δεν σημαίνει ότι ο άλλος επιθυμεί να την υποστεί. Η ηθική, συνεπώς, απαιτεί κάτι περισσότερο από προβολή του εαυτού πάνω στον άλλον: απαιτεί πραγματική αναγνώριση της ετερότητας.
Αυτό το σημείο οδηγεί από τον χρυσό κανόνα σε μια βαθύτερη ηθική αρχή:
Μην πράττεις εις βάρος του άλλου όταν έχεις κατανοήσει ότι η πράξη σου παραβιάζει την ελευθερία, την αξιοπρέπεια ή τη δυνατότητά του να ζει ως αυτόνομο πρόσωπο.
Εδώ η ηθική παύει να είναι απλώς κανόνας αμοιβαιότητας και γίνεται σχέση ευθύνης.
3. Αριστοτέλης: η ηθική ως διαμόρφωση χαρακτήρα
Η αριστοτελική ηθική προσφέρει ένα σημαντικό αντίβαρο σε μια αντίληψη σύμφωνα με την οποία ο ηθικός άνθρωπος είναι απλώς εκείνος που γνωρίζει τους σωστούς κανόνες.
Για τον Αριστοτέλη, η αρετή δεν είναι απλή γνώση. Είναι έξη, δηλαδή σταθερή διάθεση του χαρακτήρα που διαμορφώνεται μέσα από την άσκηση και την επανάληψη. Η ηθική πράξη απαιτεί επίσης πρακτική σοφία —phronesis—, δηλαδή την ικανότητα να αντιλαμβάνεται κανείς τι απαιτεί η συγκεκριμένη περίσταση και να πράττει αναλόγως.
Η ιδέα αυτή είναι ιδιαίτερα σημαντική για το παρόν επιχείρημα.
Ο ηθικός άνθρωπος δεν είναι εκείνος που περιμένει κάθε φορά να πληροφορηθεί τι επιτρέπεται και τι απαγορεύεται. Είναι εκείνος που έχει καλλιεργήσει τέτοιο χαρακτήρα ώστε να μπορεί να διακρίνει το ορθό μέσα στις συγκεκριμένες συνθήκες.
Επομένως, η αριστοτελική προοπτική μας μεταφέρει από την υπακοή στον κανόνα στη διαμόρφωση του ανθρώπου που είναι ικανός να πράττει ορθά.
Αυτό είναι κρίσιμο και για την Τεχνητή Νοημοσύνη. Αν η AI περιοριστεί στο να πληροφορεί τον άνθρωπο για το τι επιτρέπεται, θα παραμείνει εργαλείο κανονιστικής συμμόρφωσης. Αν, αντίθετα, συμβάλει στην καλλιέργεια της ικανότητας του ανθρώπου να κατανοεί τις συνέπειες των πράξεών του, θα πλησιάσει περισσότερο μια τεχνολογία ενδυνάμωσης της ηθικής κρίσης.
4. Καντ: από την ετερονομία στην αυτονομία
Η καντιανή φιλοσοφία προσφέρει μια δεύτερη θεμελιώδη διάσταση.
Η ηθική αυτονομία σημαίνει ότι ο άνθρωπος δεν καθοδηγείται απλώς από εξωτερικές επιταγές, αλλά είναι σε θέση να νομοθετεί στον εαυτό του σύμφωνα με αρχές που αναγνωρίζει ως δεσμευτικές. Η αυτονομία βρίσκεται στον πυρήνα της καντιανής ηθικής και συνδέεται με την ιδέα ότι ο ηθικός νόμος δεν πρέπει να έχει ως πηγή του έναν εξωτερικό καταναγκασμό.
Η διάκριση αυτή μας επιτρέπει να κατανοήσουμε βαθύτερα τις δύο αρχικές φράσεις.
«Μην το κάνεις, γιατί σε βλέπω» είναι κατεξοχήν ετερονομική διατύπωση.
«Μην το κάνεις, γιατί κατανοείς ότι δεν μπορείς να μεταχειρίζεσαι τον άλλον απλώς ως μέσο» πλησιάζει την αυτονομία.
Η ηθική ωριμότητα, συνεπώς, δεν μετριέται μόνο από το αν κάποιος κάνει το σωστό. Μετριέται και από το γιατί το κάνει.
Ένας άνθρωπος που αποφεύγει το έγκλημα αποκλειστικά επειδή φοβάται την ποινή συμπεριφέρεται νόμιμα. Αυτό δεν αρκεί, από μόνο του, για να αποδείξει ηθική αυτονομία.
5. Λεβινάς: ο Άλλος πριν από τον κανόνα
Εάν ο Καντ μας οδηγεί στην αυτονομία, ο Emmanuel Levinas μας οδηγεί στον Άλλο.
Για τον Levinas, η ηθική δεν ξεκινά από ένα αφηρημένο σύστημα κανόνων αλλά από τη συνάντηση με το άλλο πρόσωπο και από την ευθύνη που γεννά αυτή η συνάντηση. Η σχέση με τον Άλλο προηγείται, κατά κάποιον τρόπο, της θεωρητικής κατασκευής ενός πλήρους ηθικού συστήματος.
Από αυτή την άποψη, η δεύτερη φράση αποκτά νέο βάθος:
«Μην το κάνεις, γιατί αντιλαμβάνεσαι τι προκαλείς στον άλλον.»
Δεν λέει απλώς: «μην παραβιάσεις έναν κανόνα».
Λέει: «δες τον άνθρωπο που βρίσκεται απέναντί σου».
Η ηθική μετακινείται έτσι από τον απρόσωπο κανόνα προς τη συγκεκριμένη σχέση.
Το «βλέπω» αποκτά δύο διαφορετικές σημασίες.
Στο «σε βλέπω» της επιτήρησης, το βλέμμα είναι εξουσία.
Στο «βλέπω τον άλλον» της ηθικής, το βλέμμα γίνεται αναγνώριση.
Αυτό ίσως αποτελεί μία από τις σημαντικότερες μετατοπίσεις που μπορεί να πραγματοποιήσει ο ανθρώπινος πολιτισμός.
6. Το κράτος: αναγκαίος θεσμός ή αποκλειστική ηθική αυθεντία;
Από εδώ προκύπτει το πολιτειακό ερώτημα.
Γιατί να είναι το κράτος η μοναδική πηγή αυθεντίας ως προς το τι πρέπει να πράττουμε;
Η απάντηση δεν μπορεί να είναι ότι το κράτος δημιουργεί την ίδια την ηθική. Η ηθική προηγείται λογικά και πολιτισμικά της νομοθετικής πράξης. Οι κοινωνίες δημιουργούν αξίες, κανόνες και προσδοκίες και στη συνέχεια ορισμένες από αυτές αποκτούν νομική μορφή.
Το κράτος, επομένως, δεν είναι κατ’ ανάγκην η πηγή της ηθικής. Είναι ο θεσμός που διαθέτει τη νομιμοποιημένη εξουσία να θεσπίζει και να επιβάλλει ορισμένους δεσμευτικούς κανόνες κοινής συμβίωσης.
Η διάκριση αυτή είναι κρίσιμη.
Αν ο νόμος γίνει συνώνυμος της ηθικής, τότε κάθε νόμιμο καθίσταται αυτομάτως ηθικό και κάθε παράνομο αυτομάτως ανήθικο. Η ιστορία, όμως, δεν επιτρέπει μια τόσο απλή ταύτιση.
Εδώ αποκτά σημασία η χαμπερμασιανή προβληματική: η νομιμοποίηση των κανόνων δεν εξαντλείται στην ύπαρξη μιας κρατικής αρχής, αλλά συνδέεται με τη δημόσια χρήση του λόγου, τη συμμετοχή και τη δυνατότητα των πολιτών να συνδιαμορφώνουν τους κανόνες που τους δεσμεύουν. Ο Habermas ανέπτυξε συστηματικά τόσο τη θεωρία της επικοινωνιακής δράσης όσο και τη θεωρία της διαβουλευτικής δημοκρατίας, του δικαίου και της «ηθικής του διαλόγου».
Έτσι, απέναντι στην επιλογή «κρατική επιτήρηση ή αναρχία», εμφανίζεται μια τρίτη δυνατότητα: θεσμοί δικαίου που περιορίζονται από τα δικαιώματα, νομιμοποιούνται μέσω δημοκρατικής διαδικασίας και συμπληρώνονται από μια κοινωνία πολιτών με ισχυρή ηθική αυτονομία.
7. Η Τεχνητή Νοημοσύνη: ο Μεγάλος Επιτηρητής ή ο καθρέφτης της πράξης;
Εδώ το ζήτημα αποκτά νέα ιστορική διάσταση.
Η Τεχνητή Νοημοσύνη μπορεί να αυξήσει δραματικά την ικανότητα των θεσμών να παρακολουθούν, να προβλέπουν και να ρυθμίζουν την ανθρώπινη συμπεριφορά.
Σε μια τέτοια εκδοχή, το μέλλον θα μπορούσε να σημαίνει την τεχνολογική τελειοποίηση της πρώτης φράσης:
«Μην το κάνεις, γιατί σε βλέπω.»
Αλλά υπάρχει και μια διαφορετική δυνατότητα.
Η AI μπορεί να χρησιμοποιηθεί ώστε ο άνθρωπος να κατανοεί καλύτερα τις συνέπειες των επιλογών του, να εξετάζει διαφορετικές οπτικές, να εντοπίζει πιθανές βλάβες και να αναγνωρίζει ανθρώπους και κοινωνικές ομάδες που επηρεάζονται από τις αποφάσεις του.
Η διάκριση είναι θεμελιώδης:
AI ως μηχανισμός επιτήρησης
ή
AI ως τεχνολογία ενίσχυσης της ηθικής κατανόησης.
Η πρώτη αυξάνει την εξωτερική συμμόρφωση.
Η δεύτερη μπορεί να ενισχύσει την εσωτερική κρίση.
Η σύγχρονη διεθνής συζήτηση για την ηθική της AI αναγνωρίζει ήδη τη σημασία της ανθρώπινης αξιοπρέπειας, των ανθρωπίνων δικαιωμάτων, της διαφάνειας, της λογοδοσίας, της μη διάκρισης και της ανθρώπινης εποπτείας. Η UNESCO, για παράδειγμα, έχει διατυπώσει ένα παγκόσμιο πλαίσιο ηθικής για την AI που δίνει ιδιαίτερη έμφαση στην ανθρώπινη ευθύνη και εποπτεία και απορρίπτει την αντικατάσταση της τελικής ανθρώπινης ευθύνης από τα συστήματα AI.
Αυτό όμως δεν λύνει το βαθύτερο πρόβλημα.
Η τεχνολογία μπορεί να μας βοηθήσει να γνωρίζουμε περισσότερα. Δεν μπορεί να εγγυηθεί ότι θα νοιαζόμαστε περισσότερο.
Και η ηθική δεν είναι μόνο γνώση.
8. Από τον άνθρωπο στον Μετάνθρωπο;
Η έννοια του «Μετανθρώπου» μπορεί να χρησιμοποιηθεί εδώ όχι ως τεχνολογική πρόβλεψη αλλά ως φιλοσοφική υπόθεση.
Ο Μετάνθρωπος δεν θα ήταν απλώς ένας άνθρωπος με μεγαλύτερη υπολογιστική ισχύ, μεγαλύτερη διάρκεια ζωής ή ενσωματωμένη τεχνολογία.
Θα μπορούσε να είναι ο άνθρωπος που έχει υπερβεί ένα βαθύτερο έλλειμμα της ανθρώπινης κατάστασης: την αδυναμία να αντιλαμβάνεται επαρκώς τις συνέπειες των πράξεών του στους άλλους.
Αν αυτός είναι ο ορίζοντας, τότε η μετάβαση προς τον Μετάνθρωπο δεν θα κριθεί μόνο από την τεχνολογική εξέλιξη.
Θα κριθεί από το εάν η τεχνολογία θα ενισχύσει την ανθρώπινη αυτονομία ή θα την υποκαταστήσει.
Ένας άνθρωπος που υπακούει σε έναν αλγόριθμο επειδή ο αλγόριθμος «γνωρίζει καλύτερα» δεν είναι περισσότερο ηθικά αυτόνομος από έναν άνθρωπο που υπακούει σε έναν κρατικό μηχανισμό επειδή φοβάται την τιμωρία.
Η πραγματική πρόοδος θα ήταν διαφορετική:
να αποκτήσει ο άνθρωπος περισσότερη ικανότητα να κατανοεί, όχι απλώς περισσότερη ικανότητα να υπακούει.
9. Συμπέρασμα: από το «σε βλέπω» στο «βλέπεις»
Το πραγματικό δίλημμα της εποχής της Τεχνητής Νοημοσύνης δεν είναι αν θα έχουμε περισσότερους ή λιγότερους κανόνες.
Είναι τι είδους άνθρωπο θα δημιουργήσει ο πολιτισμός μας.
Έναν άνθρωπο που θα συμπεριφέρεται σωστά επειδή παρακολουθείται;
Ή έναν άνθρωπο που θα συμπεριφέρεται υπεύθυνα επειδή έχει αναπτύξει την ικανότητα να βλέπει τον άλλον;
Η πρώτη πρόταση είναι:
«Μην το κάνεις, γιατί σε βλέπω.»
Η δεύτερη είναι:
«Μην το κάνεις, γιατί αντιλαμβάνεσαι τι προκαλείς στον άλλον.»
Ίσως όμως υπάρχει μια τρίτη, ακόμη βαθύτερη διατύπωση:
«Μην το κάνεις, γιατί βλέπεις.»
Βλέπεις τον άλλον.
Βλέπεις την ευαλωτότητά του.
Βλέπεις τις συνέπειες της πράξης σου.
Βλέπεις ότι η ελευθερία σου δεν υπάρχει μέσα σε ένα κενό, αλλά μέσα σε έναν κόσμο κοινό με άλλους ανθρώπους.
Αυτό θα μπορούσε να είναι το πραγματικό ηθικό στοίχημα της Τεχνητής Νοημοσύνης.
Όχι να κατασκευάσουμε μια μηχανή που θα μας παρακολουθεί καλύτερα.
Αλλά να δημιουργήσουμε μια τεχνολογία που θα μας βοηθήσει να γίνουμε άνθρωποι οι οποίοι χρειάζονται όλο και λιγότερο να παρακολουθούνται.
Η μεγαλύτερη τεχνολογική πρόοδος, επομένως, ίσως να μην είναι η δημιουργία μιας νοημοσύνης ανώτερης από τη δική μας.
Ίσως να είναι η δημιουργία των συνθηκών μέσα στις οποίες η δική μας νοημοσύνη θα αποκτήσει επιτέλους την ηθική ωριμότητα να βλέπει τον άλλον.
Και τότε η απόσταση από το
«Μην το κάνεις, γιατί σε βλέπω»
στο
«Μην το κάνεις, γιατί αντιλαμβάνεσαι τι προκαλείς στον άλλον»
δεν θα είναι πλέον απλώς ένας δρόμος προς έναν τεχνολογικό Μετάνθρωπο.
Θα είναι ένας δρόμος προς έναν περισσότερο αυτόνομο άνθρωπο.