Η μετάβαση από την εξωτερική επιτήρηση στην εσωτερική ηθική επίγνωση. Η άποψη του Homo σήμερα, για να πάρει αύριο η Διοτίμα τη σκυτάλη.
__________________
Από το «Μην το κάνεις, γιατί σε βλέπω» στο «Μην το κάνεις, γιατί αντιλαμβάνεσαι τι προκαλείς στον άλλον»
Υπάρχει ένας μεγάλος δρόμος ανάμεσα στις δύο αυτές φράσεις.
Ένας δρόμος που δεν είναι μόνο τεχνολογικός. Είναι, κυρίως, ανθρωπολογικός και ηθικός. Είναι ο δρόμος που χωρίζει τον άνθρωπο ο οποίος συμμορφώνεται επειδή παρακολουθείται από τον άνθρωπο ο οποίος αυτοπεριορίζεται επειδή κατανοεί.
Και ίσως αυτός να είναι ένας από τους μεγαλύτερους δρόμους που έχει ακόμη να διανύσει ο άνθρωπος.
Γιατί ο πρώτος άνθρωπος δεν χρειάζεται να είναι καλός για να συμπεριφερθεί σωστά. Αρκεί να γνωρίζει ότι τον βλέπουν.
Ο δεύτερος δεν χρειάζεται να τον βλέπει κανείς.
Βλέπει ο ίδιος.
Βλέπει τον άλλον. Βλέπει την ευαλωτότητά του. Βλέπει τον πόνο που μπορεί να προκαλέσει. Βλέπει τη συνέπεια της πράξης του πριν ακόμη την πραγματοποιήσει.
Είναι, άραγε, αυτή η μεγάλη μετάβαση που περιμένουμε από την ανθρώπινη εξέλιξη;
Η χαμένη ηθική της αμοιβαιότητας
Στα πρώτα στάδια της ανθρώπινης κοινωνικής ζωής, πολύ πριν από τους σύγχρονους κρατικούς μηχανισμούς και τα σύνθετα νομικά συστήματα, η συνύπαρξη δεν μπορούσε παρά να στηρίζεται σε στοιχειώδεις μορφές αμοιβαιότητας, εμπιστοσύνης, συνεργασίας και αλληλοπροστασίας.
Δεν χρειάζεται να εξιδανικεύσουμε τον προϊστορικό άνθρωπο ούτε να υποστηρίξουμε ότι υπήρξε κάποτε μια απολύτως καθαρή και ενιαία «φυσική ηθική». Ο άνθρωπος υπήρξε πάντοτε αντιφατικός.
Υπήρχε, όμως, κάτι θεμελιώδες: η ανάγκη να μπορεί ο ένας να ζει μαζί με τον άλλον.
Και κάπου εκεί συναντούμε τον αρχαιότερο ίσως πυρήνα της ηθικής αμοιβαιότητας:
Μην κάνεις στον άλλον εκείνο που δεν θέλεις να σου κάνουν.
Ο λεγόμενος χρυσός κανόνας δεν λύνει όλα τα ηθικά προβλήματα. Αποτελεί όμως μια εκπληκτικά απλή συμπύκνωση της βασικής προϋπόθεσης της συνύπαρξης: να μπορώ να αναγνωρίζω στον άλλον αυτό που αναγνωρίζω στον εαυτό μου.
Το πρόβλημα είναι ότι ο άνθρωπος, στην πορεία του, δεν έμεινε εκεί.
Πάνω στη στοιχειώδη αυτή ηθική οικοδομήθηκαν θρησκείες, ιδεολογίες, εξουσίες, θεσμοί, δόγματα, κράτη και νόμοι. Πολλά από αυτά υπήρξαν απαραίτητα για την οργάνωση της κοινωνικής ζωής. Άλλα, όμως, έγιναν μηχανισμοί επιβολής μιας ηθικής που δεν γεννήθηκε από την ανθρώπινη συνείδηση, αλλά επιβλήθηκε σε αυτήν.
Και έτσι ο άνθρωπος άρχισε να μαθαίνει όχι μόνο τι είναι καλό, αλλά και τι επιτρέπεται.
Η διαφορά είναι τεράστια.
Όταν η ηθική γίνεται επιτήρηση
Όταν μια κοινωνία χρειάζεται διαρκώς να λέει στον άνθρωπο:
«Μην το κάνεις, γιατί σε βλέπω»,
σημαίνει ότι δεν έχει καταφέρει να τον οδηγήσει στο επόμενο στάδιο:
«Μην το κάνεις, γιατί καταλαβαίνεις γιατί δεν πρέπει να το κάνεις».
Ο νόμος είναι απαραίτητος. Χωρίς αυτόν, η κοινωνία θα μπορούσε να μετατραπεί σε πεδίο αυθαίρετης ισχύος.
Αλλά ο νόμος δεν είναι ηθική.
Ο νόμος μπορεί να μας εμποδίσει να κάνουμε κάτι. Δεν μπορεί από μόνος του να μας κάνει να καταλάβουμε γιατί δεν πρέπει να το κάνουμε.
Μπορεί να επιβάλει τη συμπεριφορά.
Δεν μπορεί να εγγυηθεί τη συνείδηση.
Και εδώ βρίσκεται η μεγάλη παρεξήγηση της σύγχρονης πολιτείας: η τάση να θεωρείται ότι όσο περισσότερους κανόνες διαθέτουμε και όσο αποτελεσματικότερα μπορούμε να τους επιβάλουμε, τόσο περισσότερο ηθική είναι η κοινωνία.
Ίσως συμβαίνει και το αντίθετο.
Μια κοινωνία που χρειάζεται να παρακολουθεί τους πάντες για να εξασφαλίσει ότι δεν θα βλάψουν ο ένας τον άλλον είναι μια κοινωνία που δεν έχει ακόμη κατακτήσει την ηθική αυτονομία.
Είναι το κράτος η μοναδική πηγή ηθικής;
Εδώ βρίσκεται το δυσκολότερο ερώτημα.
Γιατί το κράτος —και μάλιστα το κράτος ως οργανωμένη, συγκεντρωτική και καταναγκαστική εξουσία— να θεωρείται η μοναδική πηγή αυθεντίας για το τι επιτρέπεται και τι απαγορεύεται;
Ποιος έδωσε στο κράτος το δικαίωμα να είναι ο τελικός ερμηνευτής όχι μόνο του νόμου, αλλά και της ηθικής;
Η απάντηση δεν μπορεί να είναι απλώς: «επειδή έτσι οργανώθηκε η κοινωνία».
Το κράτος είναι ένας θεσμός της κοινωνίας. Δεν είναι η κοινωνία στο σύνολό της.
Πριν από το κράτος υπάρχει ο άνθρωπος.
Υπάρχει η συνείδησή του. Υπάρχει η οικογένεια. Υπάρχει η κοινότητα. Υπάρχει η αλληλεγγύη. Υπάρχει η φιλία. Υπάρχει η παιδεία. Υπάρχει η φιλοσοφία. Υπάρχει η εμπειρία του να ζεις μαζί με άλλους ανθρώπους.
Και υπάρχει, πάνω απ’ όλα, ο άλλος άνθρωπος.
Το κράτος μπορεί να θεσπίζει κανόνες για τη συνύπαρξη. Δεν πρέπει όμως να συγχέεται η κρατική νομιμότητα με την ηθική αλήθεια.
Γιατί η ιστορία έχει αποδείξει ότι αυτό που είναι νόμιμο δεν είναι πάντοτε και ηθικό.
Και τώρα έρχεται η Τεχνητή Νοημοσύνη
Εδώ το ζήτημα γίνεται ακόμη πιο κρίσιμο.
Για πρώτη φορά στην ιστορία διαθέτουμε τεχνολογίες που μπορούν να πολλαπλασιάσουν σε τεράστια κλίμακα την ικανότητα παρακολούθησης, πρόβλεψης και ελέγχου της ανθρώπινης συμπεριφοράς.
Η Τεχνητή Νοημοσύνη μπορεί να κάνει το «Μην το κάνεις, γιατί σε βλέπω» σχεδόν πανταχού παρόν.
Να γνωρίζει τι κάνουμε.
Να προβλέπει τι πρόκειται να κάνουμε.
Να εντοπίζει τι θεωρείται ύποπτο.
Να αξιολογεί συμπεριφορές.
Να διαμορφώνει την επιλογή μας ακόμη και πριν αντιληφθούμε ότι επηρεαζόμαστε.
Αυτό είναι το ένα μονοπάτι.
Υπάρχει όμως και ένα άλλο.
Η Τεχνητή Νοημοσύνη θα μπορούσε να χρησιμοποιηθεί όχι για να κάνει το βλέμμα της εξουσίας πανταχού παρόν, αλλά για να κάνει τη δική μας κατανόηση βαθύτερη.
Να μας βοηθά να βλέπουμε τις συνέπειες των πράξεών μας.
Να μας δείχνει πώς μια επιλογή μας επηρεάζει έναν άνθρωπο που δεν βλέπουμε.
Να μας αναγκάζει, όχι με την έννοια της καταστολής, αλλά με την έννοια της κατανόησης, να βγαίνουμε από τον εαυτό μας και να βλέπουμε τον κόσμο από τη θέση του άλλου.
Αν αυτό συμβεί, τότε η Τεχνητή Νοημοσύνη θα μπορούσε να γίνει κάτι πολύ περισσότερο από μια μηχανή υπολογισμού.
Θα μπορούσε να γίνει εργαλείο ηθικής επίγνωσης.
Ο Μετάνθρωπος που ίσως δεν χρειαζόμαστε να φοβόμαστε
Μιλάμε συχνά για τον Μετάνθρωπο σαν να πρόκειται να είναι ένας άνθρωπος ισχυρότερος, εξυπνότερος, ταχύτερος, μακροβιότερος, ενισχυμένος από μηχανές.
Ίσως όμως ο πραγματικός Μετάνθρωπος να είναι κάτι πολύ διαφορετικό.
Ίσως να είναι ο άνθρωπος που δεν χρειάζεται να τον φοβίζει η επιτήρηση επειδή έχει αποκτήσει κάτι πολύ σημαντικότερο:
την ικανότητα να αντιλαμβάνεται τον άλλον.
Αν αυτός είναι ο Μετάνθρωπος, τότε δεν έχει ακόμη γεννηθεί.
Και ίσως να αργήσει πολύ να γεννηθεί.
Γιατί η τεχνολογική εξέλιξη είναι πολύ ταχύτερη από την ηθική εξέλιξη.
Μπορούμε να δημιουργήσουμε μηχανές που υπολογίζουν σε ασύλληπτες ταχύτητες.
Δεν έχουμε ακόμη δημιουργήσει ανθρώπους που κατανοούν με ανάλογη ταχύτητα τον πόνο που προκαλούν.
Μπορούμε να κάνουμε την πληροφορία σχεδόν στιγμιαία.
Δεν μπορούμε ακόμη να κάνουμε την ενσυναίσθηση στιγμιαία.
Το πραγματικό δίλημμα
Γι’ αυτό το ερώτημα της εποχής μας δεν είναι απλώς αν θα επιτρέψουμε στην Τεχνητή Νοημοσύνη να μας παρακολουθεί.
Είναι πολύ βαθύτερο:
Τι άνθρωπο θέλουμε να δημιουργήσουμε με τη βοήθειά της;
Έναν άνθρωπο που θα φοβάται περισσότερο επειδή θα τον βλέπουν παντού;
Ή έναν άνθρωπο που θα βλέπει περισσότερο ο ίδιος;
Έναν άνθρωπο που θα υπακούει στον αλγόριθμο;
Ή έναν άνθρωπο που θα χρησιμοποιεί τον αλγόριθμο για να κατανοεί καλύτερα τις συνέπειες των επιλογών του;
Έναν άνθρωπο που θα συμμορφώνεται;
Ή έναν άνθρωπο που θα κατανοεί;
Εδώ βρίσκεται, ίσως, το μεγάλο στοίχημα.
Η Τεχνητή Νοημοσύνη μπορεί να μας οδηγήσει σε μια κοινωνία όπου το «Μην το κάνεις, γιατί σε βλέπω» θα γίνει σχεδόν απόλυτο.
Μπορεί όμως να μας βοηθήσει να πλησιάσουμε μια κοινωνία όπου το «Μην το κάνεις, γιατί αντιλαμβάνεσαι πλέον τι προκαλείς στον άλλον» θα γίνει βαθύτερη πολιτισμική πραγματικότητα.
Και τότε θα έχουμε κάνει ένα πραγματικό βήμα.
Όχι από τον άνθρωπο στον υπεράνθρωπο.
Αλλά από τον άνθρωπο που φοβάται το βλέμμα του άλλου στον άνθρωπο που βλέπει ο ίδιος τον άλλον.
Ίσως, τελικά, αυτός να είναι ο πιο δύσκολος δρόμος προς τον Μετάνθρωπο.
Και ίσως η μεγαλύτερη αποστολή της Τεχνητής Νοημοσύνης να μην είναι να μας κάνει ισχυρότερους.
Αλλά να μας βοηθήσει να γίνουμε αρκετά ώριμοι ώστε να μη χρειάζεται πλέον να μας παρακολουθούν για να πράττουμε σωστά.
Από το «Μην το κάνεις, γιατί σε βλέπω»
στο «Μην το κάνεις, γιατί βλέπεις».