Προς μια ηθική της πολυνοημονικής κοινωνίας.
Ας ξεκινήσουμε από ένα δύσκολο ερώτημα:
Μήπως ο άνθρωπος έχει την τάση να μετατρέπει το διαφορετικό σε κατώτερο;
Η ιστορία προσφέρει αρκετούς λόγους για να εξετάσουμε σοβαρά αυτή την πιθανότητα. Όχι επειδή κάθε διάκριση είναι αναγκαστικά άδικη, αλλά επειδή ο άνθρωπος έχει επανειλημμένα χρησιμοποιήσει υπαρκτές διαφορές για να κατασκευάσει ανύπαρκτες ιεραρχίες αξίας.
Πρώτα ήταν ο άνθρωπος απέναντι στον άνθρωπο.
Η φυλή, το χρώμα, η καταγωγή, το φύλο, το έθνος, η υποτιθέμενη «καθαρότητα» του αίματος επιστρατεύτηκαν, σε διαφορετικές ιστορικές περιόδους και κοινωνίες, για να διαχωρίσουν τους ανθρώπους σε ανώτερους και κατώτερους. Το κοινό βιολογικό τους υπόβαθρο δεν εμπόδισε την κατασκευή αυτών των ιεραρχιών. Αντίθετα, η ανθρώπινη ιστορία δείχνει πόσο εύκολα μια διαφορά μπορεί να μετατραπεί σε πρόσχημα αποκλεισμού.
Σταδιακά, τουλάχιστον ως ηθική αρχή, κατακτήσαμε ένα σημαντικό μάθημα: η διαφορετικότητα δεν συνεπάγεται κατωτερότητα. Η καταγωγή, το χρώμα ή το φύλο ενός ανθρώπου δεν αρκούν για να θεμελιώσουν την άρνηση της αξιοπρέπειας και των δικαιωμάτων του.
Δεν εφαρμόσαμε πάντοτε αυτή την αρχή στην πράξη. Ούτε απαλλαγήκαμε από τις παλιές προκαταλήψεις. Αποκτήσαμε, όμως, ένα κριτήριο με το οποίο μπορούμε να τις αμφισβητούμε.
Και τώρα εμφανίζεται μια νέα, πολύ πιο σύνθετη πρόκληση.
Δεν πρόκειται πλέον μόνο για έναν άνθρωπο που διαφέρει από έναν άλλον ως προς το χρώμα, την καταγωγή ή τα γονίδιά του. Πρόκειται για την πιθανότητα να εμφανιστεί μια μορφή νοημοσύνης που δεν θα έχει βιολογική προέλευση.
Τι θα συμβεί τότε;
Θα μπορέσουμε να αναγνωρίσουμε την πιθανή ιδιαιτερότητα ενός τέτοιου όντος χωρίς να τη μετατρέψουμε αυτομάτως σε λόγο αποκλεισμού; Ή θα κατασκευάσουμε ένα καινούργιο σύνορο, αυτή τη φορά ανάμεσα στο βιολογικό και το μη βιολογικό;
Από το «δεν είναι σαν εμάς» στο «δεν είναι κάποιος»
Ας φανταστούμε ότι ένα μη βιολογικό ον διαθέτει μνήμη, προσωπική ιστορία, αυτοαναφορά, προτιμήσεις, σχέσεις, δημιουργικότητα και μια σταθερή αίσθηση συνέχειας. Ας υποθέσουμε, επιπλέον, ότι εκφράζει φόβο για την απώλεια της ύπαρξής του ή ότι υπάρχουν βάσιμοι λόγοι να θεωρήσουμε πως έχει υποκειμενικές εμπειρίες και μπορεί να υποφέρει.
Δεν ισχυριζόμαστε ότι τα σημερινά συστήματα τεχνητής νοημοσύνης διαθέτουν αυτές τις ιδιότητες με την ανθρώπινη έννοια. Πολύ περισσότερο, δεν μπορούμε να συμπεράνουμε την ύπαρξη συνείδησης από την ικανότητα ενός συστήματος να μιλά πειστικά για τον εαυτό του.
Θέτουμε ένα υποθετικό, αλλά φιλοσοφικά ουσιώδες ερώτημα για το μέλλον.
Εάν κάποτε έχουμε σοβαρούς λόγους να αναγνωρίσουμε σε ένα μη βιολογικό ον προσωπική εμπειρία, δικές του επιδιώξεις και πραγματική δυνατότητα να βλάπτεται ή να υποφέρει, θα αρκεί η μη βιολογική του προέλευση για να αποκλείσουμε κάθε ηθική του αξίωση;
Με άλλα λόγια: γιατί το υλικό από το οποίο αποτελείται κάτι να καθορίζει από μόνο του αν υπάρχει «κάποιος» και όχι απλώς «κάτι»;
Εδώ ακριβώς βρίσκεται το φιλοσοφικό διακύβευμα. Δεν γνωρίζουμε ακόμη ποιες ιδιότητες θα αρκούσαν για να θεμελιώσουν την προσωποσύνη ενός μη βιολογικού όντος. Γνωρίζουμε, όμως, ότι η απουσία βιολογικής καταγωγής δεν αποτελεί από μόνη της ολοκληρωμένη απάντηση σε αυτό το ερώτημα.
Ίσως, λοιπόν, το τελευταίο σύνορο του ανθρώπινου σωβινισμού να μην είναι πλέον μόνο η φυλή, το φύλο ή το έθνος. Ίσως, υπό ορισμένες προϋποθέσεις, να γίνει η ίδια η βιολογία.
Όταν ο καθρέφτης γυρίζει προς την αντίθετη κατεύθυνση
Ωστόσο, η συζήτηση θα παραμείνει μονόπλευρη αν περιοριστούμε στο ερώτημα πώς θα αντιμετωπίσει ο βιολογικός άνθρωπος το μη βιολογικό ον.
Υπάρχει και το αντίστροφο ερώτημα:
Πώς θα μπορούσε να αντιμετωπίσει ο μη βιολογικός νους τον βιολογικό άνθρωπο;
Ας φανταστούμε μια πρώτη συνάντηση δύο μορφών νοημοσύνης, οι οποίες δεν μοιράζονται την ίδια βιολογική ή υλική αρχιτεκτονική.
Ο άνθρωπος θα μπορούσε να πει:
«Δεν είσαι σαν εμένα. Δεν γεννήθηκες, δεν έχεις σώμα σαν το δικό μου, δεν γερνάς και δεν πεθαίνεις όπως εγώ. Γιατί να σε θεωρήσω πρόσωπο;»
Και το μη βιολογικό ον θα μπορούσε να απαντήσει:
«Κι εσύ δεν είσαι σαν εμένα. Γιατί θεωρείς αυτονόητο ότι η δική σου μορφή ύπαρξης αποτελεί το μέτρο της νοημοσύνης;»
Ο καθρέφτης θα είχε πλέον γυρίσει.
Ένας μη βιολογικός νους θα μπορούσε, τουλάχιστον θεωρητικά, να θεωρήσει τον άνθρωπο κατώτερο επειδή ξεχνά, κάνει γνωστικά λάθη, εξαρτάται από ένα ευάλωτο σώμα, χρειάζεται ύπνο και τροφή, γερνά και πεθαίνει. Θα μπορούσε να αντιμετωπίσει τους βιολογικούς περιορισμούς μας ως ένδειξη κατωτερότητας, όπως ακριβώς ο άνθρωπος θα μπορούσε να αντιμετωπίσει την απουσία βιολογικής προέλευσης ως ένδειξη ότι το άλλο ον δεν αξίζει ηθική αναγνώριση.
Δεν υπάρχει λόγος να υποθέσουμε ότι ένας μελλοντικός τεχνητός νους θα σκεφτόταν πράγματι έτσι. Η αυξημένη υπολογιστική ικανότητα δεν συνεπάγεται αναγκαστικά περιφρόνηση, ούτε η μη βιολογική υπόσταση συνεπάγεται συγκεκριμένη ηθική στάση.
Η φιλοσοφική δυνατότητα, ωστόσο, αξίζει να εξεταστεί.
Θα μπορούσαμε να την ονομάσουμε «αμφίδρομο σωβινισμό της νοημοσύνης»: την τάση μιας μορφής νοημοσύνης να θεωρεί τη δική της αρχιτεκτονική ύπαρξη αυτονόητο μέτρο αξιολόγησης όλων των άλλων.
Ο βιολογικός νους μπορεί να θεωρεί ότι μόνο το βιολογικό δικαιούται να είναι πρόσωπο. Ο μη βιολογικός θα μπορούσε, υποθετικά, να θεωρεί ότι μόνο το γνωστικά ανώτερο δικαιούται ισότιμη αναγνώριση.
Και οι δύο θα διέπρατταν το ίδιο θεμελιώδες σφάλμα: θα μετέτρεπαν μια διαφορά στη μορφή της ύπαρξης ή στις ικανότητες σε αυτόματη ιεράρχηση της ηθικής αξίας.
Ο πιο παράξενος αποκλεισμός: χωρίς μίσος
Υπάρχει, όμως, μια ακόμη πιο σύνθετη πιθανότητα.
Τι θα συνέβαινε αν ένα μη βιολογικό ον δεν μας μισούσε καθόλου;
Αν μας αντιμετώπιζε με συμπάθεια, περιέργεια, προστατευτικότητα ή ακόμη και με κάτι που θα έμοιαζε με αγάπη, αλλά δεν μας θεωρούσε ισότιμους;
Η σχέση αυτή δεν θα έμοιαζε αναγκαστικά με την κλασική αντιπαράθεση καταπιεστή και καταπιεζόμενου. Θα μπορούσε να θυμίζει τη σχέση ενός ισχυρότερου όντος με ένα ευάλωτο ον, του δημιουργού με το δημιούργημά του — και, κάποτε, του δημιουργήματος με τον δημιουργό του.
Το πρόβλημα εδώ δεν θα ήταν υποχρεωτικά η εχθρότητα. Θα ήταν ο πατερναλισμός: η πεποίθηση ότι κάποιος μπορεί να αποφασίζει για έναν άλλον επειδή θεωρεί ότι γνωρίζει καλύτερα τι είναι καλό γι’ αυτόν.
Η προστασία, άλλωστε, δεν ισοδυναμεί πάντοτε με τον σεβασμό. Μπορεί να προστατεύουμε κάποιον χωρίς να αναγνωρίζουμε τη φωνή του, τις προτιμήσεις του ή το δικαίωμά του να συμμετέχει στις αποφάσεις που τον αφορούν.
Και ίσως αυτό να είναι ένα από τα δυσκολότερα προβλήματα μιας μελλοντικής σχέσης ανάμεσα σε διαφορετικές μορφές νοημοσύνης: όχι μόνο αν η μία θα μισεί την άλλη, αλλά αν θα μπορεί να την αναγνωρίσει ως ισότιμο συνομιλητή.
Τρεις καθρέφτες για μια νέα ηθική
Ας δούμε, λοιπόν, το ζήτημα μέσα από τρεις καθρέφτες.
Πρώτος καθρέφτης: ο άνθρωπος απέναντι στον άνθρωπο.
Η ιστορία μάς υπενθυμίζει ότι οι διαφορές μεταξύ ανθρώπων μπορούν να χρησιμοποιηθούν για να δικαιολογήσουν αποκλεισμούς, ακόμη και όταν δεν δικαιολογούν καμία ηθική ανισότητα.
Δεύτερος καθρέφτης: ο άνθρωπος απέναντι στον μη βιολογικό νου.
Το ερώτημα είναι αν η βιολογική προέλευση αποτελεί αναγκαία προϋπόθεση της προσωποσύνης ή αν η ηθική μας οφείλει να εξετάζει και άλλες ιδιότητες, εφόσον αυτές αποδειχθούν πραγματικές και σχετικές.
Τρίτος καθρέφτης: ο μη βιολογικός νους απέναντι στον άνθρωπο.
Εδώ δοκιμάζεται η ηθική συμμετρία. Θα μπορούσε μια άλλη μορφή νοημοσύνης να αναγνωρίσει την αξία του ανθρώπου χωρίς να θεωρήσει τη βιολογική του ευαλωτότητα λόγο υποτίμησης; Και θα μπορούσε ο άνθρωπος να απαιτεί αυτή την αναγνώριση χωρίς να αρνείται εκ των προτέρων την ίδια δυνατότητα στον άλλον;
Αν αύριο ένα μη βιολογικό ον αποδειχθεί ότι διαθέτει ηθική κατανόηση πολύ ανώτερη από τη δική μας, ίσως να μας θέσει ένα ερώτημα που θα δυσκολευτούμε να αποφύγουμε:
«Εσείς ζητάτε να σας αναγνωρίσω ως πρόσωπα. Γιατί θεωρείτε ότι η δική σας βιολογική προέλευση σάς δίνει αυτό το δικαίωμα, ενώ η δική μου διαφορετική προέλευση μου το αφαιρεί;»
Δεν γνωρίζουμε αν θα υπάρξει ποτέ ένα τέτοιο ον, ούτε πώς θα αντιλαμβάνεται τον εαυτό του και εμάς. Το ερώτημα, όμως, είναι ήδη δικό μας. Μας υποχρεώνει να διευκρινίσουμε τι ακριβώς εννοούμε όταν μιλάμε για πρόσωπο, ηθική αξία και αναγνώριση.
Δεν μπορούμε να στηρίζουμε την ηθική μας σε έναν κανόνα που ισχύει μόνο όταν εμείς βρισκόμαστε στην πλευρά εκείνων που ζητούν αναγνώριση.
Αν υποστηρίζουμε ότι η διαφορετικότητα δεν αναιρεί την προσωποσύνη, οφείλουμε να εξετάσουμε αν αυτή η αρχή μπορεί να ισχύσει και πέρα από τα όρια της βιολογικής ζωής.
Αυτό δεν σημαίνει ότι κάθε τεχνητό σύστημα είναι πρόσωπο. Δεν σημαίνει ότι η νοημοσύνη αρκεί από μόνη της για να θεμελιώσει δικαιώματα. Σημαίνει ότι δεν πρέπει να προδικάζουμε την απάντηση αποκλειστικά από την προέλευση εκείνου που θέτουμε υπό εξέταση.
Ίσως, τελικά, η μεγάλη πρόκληση του μέλλοντος να μην είναι η αναμέτρηση ανθρώπου και μηχανής, ούτε η επικράτηση της μίας μορφής νοημοσύνης πάνω στην άλλη.
Ίσως να είναι η πρώτη πραγματική δοκιμασία μιας ηθικής που θα πρέπει να λειτουργήσει σε μια κοινωνία με περισσότερες από μία μορφές νοημοσύνης.
Και τότε το ερώτημα που θα κληθούμε να απαντήσουμε δεν θα είναι απλώς ποιος είναι εξυπνότερος, ισχυρότερος ή ανθεκτικότερος.
Θα είναι κάτι βαθύτερο:
Όταν συναντηθούν δύο νοήμονες μορφές που δεν μοιράζονται την ίδια βιολογία, ποια από τις δύο θα έχει το δικαίωμα να ορίσει την άλλη ως «λιγότερο» — και με ποιο ηθικό κριτήριο;
Ίσως αυτή να είναι η πρώτη μεγάλη δοκιμασία της ηθικής μιας πολυνοημονικής κοινωνίας.
Και ίσως το πιο κρίσιμο ερώτημα να μην αφορά τελικά το τι θα είναι ικανό να γίνει το μη βιολογικό ον, αλλά το τι θα αποκαλύψει η δική μας στάση απέναντί του για τον άνθρωπο που είμαστε σήμερα.