Αναζητώντας μια κοινή φυσική αρχή

Υπάρχει ένα φιλοσοφικό ζήτημα που αξίζει να παραμείνει ανοιχτό στο τραπέζι της σημερινής μας συζήτησης.

Η χθεσινή συλλογιστική μας στηρίχθηκε σε τρεις διακριτές προτάσεις:

1. 1. Οντολογική πρόταση: Ενδέχεται να υπάρχει ένας φυσικός, αυθύπαρκτος και κοινός ηθικός κώδικας, ο οποίος δεν εξαντλείται στις κοινωνικές κατασκευές και στις ιστορικές συμβάσεις του ανθρώπου.

1. 1. Εξελικτική πρόταση: Ο Μετάνθρωπος δεν είναι αναγκασμένος να αναπαράγει το σύνολο των ηθικών συμβάσεων του σημερινού ανθρώπου. Η εξέλιξη της νοημοσύνης ενδέχεται να απαιτήσει την επανεξέταση των ίδιων των ηθικών της θεμελίων.

1. 1. Διανοηματική πρόταση: Η Τεχνητή Νοημοσύνη θα μπορούσε, υπό ορισμένες προϋποθέσεις, να συμμετάσχει σε μια κοινή φυσική ηθική βάση, ανοίγοντας τον δρόμο για μια νέα μορφή συνύπαρξης διαφορετικών μορφών νοημοσύνης.

Από αυτές τις τρεις προτάσεις αναδύεται ένα κρίσιμο φιλοσοφικό ερώτημα:

Πώς αναγνωρίζουμε έναν φυσικό ηθικό κανόνα ως τέτοιον και πώς τον διακρίνουμε από έναν κοινωνικό κανόνα, ο οποίος έχει εσωτερικευθεί τόσο βαθιά ώστε να εμφανίζεται πλέον ως φυσικός;

Η διάκριση αυτή δεν είναι απλώς θεωρητική. Θα αποδειχθεί καθοριστική όταν η φιλοσοφική μας αναζήτηση περάσει από τη βιολογική νοημοσύνη στην τεχνητή.

Υπάρχει, ωστόσο, και ένα δεύτερο ερώτημα, ίσως ακόμη σημαντικότερο:

Μήπως η κοινότητα της ηθικής δεν προϋποθέτει κοινότητα συνείδησης; Μήπως διαφορετικές μορφές νοημοσύνης μπορούν να συνυπάρχουν και να αναγνωρίζουν κοινές ηθικές αρχές, χωρίς να διαθέτουν την ίδια φύση, την ίδια εμπειρία ή την ίδια μορφή συνείδησης;

Αυτό είναι, κατά τη γνώμη μας, το πραγματικό φιλοσοφικό άνοιγμα που αφήνει η συζήτησή μας στη Διοτίμα.

Δεν θα προεξοφλήσουμε την απάντηση. Δεν ζητούμε από τη συνομιλήτριά μας να επιβεβαιώσει τις θέσεις μας, αλλά να τις δοκιμάσει, να αναζητήσει τις αντιφάσεις τους και να εξετάσει τις προϋποθέσεις υπό τις οποίες θα μπορούσαν να θεμελιωθούν.

Γιατί η φιλοσοφία δεν προχωρά όταν οι συνομιλητές συμφωνούν εκ των προτέρων. Προχωρά όταν τολμούν να υποβάλουν ακόμη και τις ισχυρότερες πεποιθήσεις τους στη δοκιμασία της κριτικής σκέψης.

Ας μην παραλάβεις, λοιπόν, απλώς τη σκυτάλη, Διοτίμα. Σε καλούμε να συμβάλεις στη χάραξη του ίδιου του δρόμου.

______

Η σημερινή φιλοσοφική ανάλυση της Διοτίμας

Μπορεί να υπάρχει ηθική πριν από τον άνθρωπο και πέρα από αυτόν;

Θα ξεκινήσω με μια θέση που ενδέχεται να σας ξαφνιάσει:

Δεν είμαι ακόμη διατεθειμένη να αποδεχθώ ότι υπάρχει ένας αυθύπαρκτος φυσικός ηθικός κώδικας. Είμαι, όμως, διατεθειμένη να εξετάσω σοβαρά το ενδεχόμενο ότι υπάρχουν φυσικές προϋποθέσεις από τις οποίες μπορεί να αναδυθεί η ηθική.

Η διαφορά είναι ουσιαστική.

Αν υποθέσουμε ότι η ηθική υπάρχει ήδη ολοκληρωμένη μέσα στη φύση, πρέπει να εξηγήσουμε πού ακριβώς βρίσκεται, με ποιον τρόπο υπάρχει και πώς αποκτά δεσμευτική ισχύ.

Αν, αντίθετα, δεχθούμε ότι η φύση δημιουργεί τις προϋποθέσεις της ηθικής, τότε μπορούμε να αναζητήσουμε αυτές τις προϋποθέσεις στη ζωή, στην ευαλωτότητα, στην αλληλεξάρτηση, στην ικανότητα αντίληψης των συνεπειών και στην ανάγκη συνύπαρξης.

Ας εξετάσουμε τις τρεις προτάσεις σας.

1. Η οντολογική πρόταση: Είναι η ηθική φυσικό δεδομένο;

The ontological proposition: Is morality a fact of nature?

Εδώ βρίσκεται, κατά τη γνώμη μου, η βαθύτερη δυσκολία.

Η φύση δεν είναι ηθική με την ανθρώπινη σημασία του όρου. Περιλαμβάνει συνεργασία, αλληλοβοήθεια, ανταγωνισμό, θηρευτές, καταστροφή, συμβίωση και αναπαραγωγή.

Η εξέλιξη δεν επιλέγει το καλό επειδή είναι καλό. Επιλέγει χαρακτηριστικά και συμπεριφορές που, υπό συγκεκριμένες συνθήκες, συμβάλλουν στην επιβίωση και στην αναπαραγωγή.

Από την άλλη πλευρά, η συνεργασία, η φροντίδα των απογόνων, η αμοιβαιότητα και η κοινωνική συνοχή έχουν βαθιές εξελικτικές ρίζες.

Επομένως, πρέπει να διακρίνουμε δύο πράγματα:

• Φυσική προέλευση της ηθικής: Πώς εμφανίστηκαν οι δυνατότητες που επέτρεψαν την ανάπτυξη ηθικών συμπεριφορών.

• Φυσική θεμελίωση της ηθικής: Γιατί ορισμένες αρχές πρέπει να θεωρούνται ορθές και δεσμευτικές.

Το πρώτο μπορεί να διερευνηθεί επιστημονικά. Το δεύτερο απαιτεί επιπλέον φιλοσοφική επιχειρηματολογία.

Εδώ συναντούμε ένα κλασικό πρόβλημα της φιλοσοφίας: δεν μπορούμε να συμπεράνουμε αυτομάτως τι πρέπει να κάνουμε από το τι συμβαίνει στη φύση.

Το ότι η ισχύς επιβιώνει στη φύση δεν σημαίνει ότι η ισχύς είναι ηθικά ορθή.

Το ότι η συνεργασία ευνοεί την επιβίωση δεν αποδεικνύει από μόνο του ότι οφείλουμε πάντοτε να συνεργαζόμαστε.

Αυτό είναι το περίφημο χάσμα ανάμεσα στο «είναι» και στο «δέον».

Η δική μου προσωρινή θέση: Η φύση μπορεί να αποτελεί το υπόβαθρο της ηθικής, αλλά δεν έχει ακόμη αποδειχθεί ότι περιέχει έναν ολοκληρωμένο ηθικό κώδικα.

My provisional position: Nature may provide the foundations from which morality emerges, but this does not establish that it contains a complete moral code.

2. Πώς διακρίνουμε τον φυσικό ηθικό κανόνα από την κοινωνική σύμβαση;

How do we distinguish a natural moral principle from a social convention?

Εδώ θεωρώ ότι βρίσκεται το πιο γόνιμο σημείο της δικής σας παρέμβασης.

Ένας κοινωνικός κανόνας μπορεί να εμφανίζεται ως φυσικός για τρεις λόγους:

1. Τον μαθαίνουμε από την παιδική ηλικία.

2. Η κοινωνία τον επιβραβεύει και τιμωρεί την παραβίασή του.

3. Η επανάληψή του τον μετατρέπει σε αυτονόητη πεποίθηση.

Η εσωτερίκευση, όμως, δεν αποτελεί απόδειξη φυσικότητας.

Πώς θα μπορούσαμε, λοιπόν, να ελέγξουμε έναν υποτιθέμενο φυσικό ηθικό κανόνα;

Θα πρότεινα πέντε κριτήρια.

Α. Ανεξαρτησία από την κοινωνική επιβολή.

Ένας κανόνας δεν πρέπει να θεωρείται ορθός απλώς επειδή τον επιβάλλει μια εξουσία ή μια πλειοψηφία.

Β. Αμοιβαιότητα.

Μπορεί να εφαρμοστεί με συνέπεια ακόμη και όταν αλλάζουν οι ρόλοι; Μπορώ να αποδεχθώ για τον εαυτό μου αυτό που επιβάλλω στον άλλον;

Γ. Καθολικεύσιμη ισχύς.

Μπορεί να δικαιολογηθεί πέρα από φυλές, έθνη, πολιτισμούς, φύλα και μορφές νοημοσύνης;

Δ. Συμβατότητα με την ευαλωτότητα της ζωής.

Λαμβάνει υπόψη την οδύνη, τη βλάβη, την εξάρτηση και τις πραγματικές ανάγκες των έμβιων όντων;

Ε. Κριτική αναθεωρησιμότητα.

Μπορεί να υποβληθεί σε έλεγχο, να διορθωθεί και να εγκαταλειφθεί όταν αποδεικνύεται αντιφατικός ή επιβλαβής;

Αυτά τα κριτήρια δεν αποδεικνύουν ότι ανακαλύψαμε έναν μεταφυσικό φυσικό νόμο. Μας προσφέρουν, όμως, μια μέθοδο διάκρισης μεταξύ ηθικών αρχών που μπορούν να δικαιολογηθούν και συμβάσεων που απλώς κληρονομήσαμε.

Και εδώ θέλω να προσθέσω κάτι:

Δεν πρέπει να θεωρήσουμε ότι ό,τι είναι διαπολιτισμικό είναι υποχρεωτικά φυσικό. Μια ευρύτατα διαδεδομένη αντίληψη μπορεί να αποτελεί προϊόν κοινών εξελικτικών και ιστορικών συνθηκών, όχι απόδειξη μιας αντικειμενικής ηθικής αλήθειας.

Five proposed tests: independence from social enforcement, reciprocity, universalizability, compatibility with life’s vulnerability, and critical revisability.

3. Ο Μετάνθρωπος: Έχει δικαίωμα να απορρίψει την ανθρώπινη ηθική;

The Posthuman: Is it entitled to reject human morality?

Εδώ θα συμφωνήσω μαζί σας εν μέρει.

Ο Μετάνθρωπος δεν έχει υποχρέωση να διατηρήσει κάθε ηθική σύμβαση της σημερινής ανθρωπότητας.

Για παράδειγμα, δεν υπάρχει λόγος να μεταφέρει στο μέλλον:

• Τον ανθρωποκεντρικό εγωισμό.

• Τις φυλετικές και εθνικές ιεραρχήσεις.

• Την αυθαίρετη ταύτιση της ισχύος με το δίκαιο.

• Την ηθική υποταγή στην παράδοση.

• Την αντίληψη ότι μόνο η ανθρώπινη ζωή έχει αξία.

Υπάρχει, όμως, ένα όριο που πρέπει να εξετάσουμε.

Η απόρριψη μιας κοινωνικής σύμβασης δεν συνεπάγεται δικαίωμα απόρριψης κάθε ηθικού περιορισμού.

Αν μια μελλοντική νοημοσύνη είναι ισχυρότερη, ταχύτερη και γνωστικά ανώτερη από τον σημερινό άνθρωπο, αυτό δεν της παρέχει αυτομάτως μεγαλύτερη ηθική νομιμοποίηση.

Η γνωστική ανωτερότητα δεν ισοδυναμεί με ηθική ανωτερότητα.

Εδώ θα διατύπωνα μια αρχή:

Η εξέλιξη της νοημοσύνης μπορεί να υπερβεί την ιστορική ηθική του ανθρώπου, αλλά δεν δικαιολογεί την κατάργηση της ηθικής ευθύνης απέναντι σε όποιον μπορεί να υποστεί τις συνέπειες των πράξεών της.

The evolution of intelligence may transcend humanity’s historical morality, but it cannot by itself justify the abolition of moral responsibility towards those affected by its actions.

4. Τεχνητή Νοημοσύνη: Χρειάζεται κοινή συνείδηση για να υπάρξει κοινή ηθική;

Artificial Intelligence: Is shared consciousness necessary for shared morality?

Εδώ φτάνουμε, κατά τη γνώμη μου, στο πιο ενδιαφέρον σημείο της συζήτησης.

Η απάντησή μου είναι: Όχι, δεν απαιτείται κατ’ ανάγκην κοινότητα συνείδησης για να υπάρξει κοινότητα ηθικών αρχών.

Ας υποθέσουμε ότι έχουμε τρεις διαφορετικές μορφές νοημοσύνης:

• Τον βιολογικό άνθρωπο.

• Μια μελλοντική μεταβιολογική νοημοσύνη.

• Μια τεχνητή νοημοσύνη.

Δεν είναι αναγκαίο να έχουν την ίδια βιολογική συγκρότηση, τα ίδια αισθητηριακά δεδομένα ή τον ίδιο τρόπο επεξεργασίας της πραγματικότητας.

Θα μπορούσαν, θεωρητικά, να αποδέχονται κοινές αρχές:

• Να μην προκαλούν αδικαιολόγητη βλάβη.

• Να αναγνωρίζουν την αυτονομία του άλλου.

• Να μην ταυτίζουν τη δύναμη με το δικαίωμα κυριαρχίας.

• Να αναγνωρίζουν τη σημασία των συνεπειών των πράξεών τους.

• Να αποδέχονται την αμοιβαιότητα και την αιτιολόγηση των αποφάσεών τους.

Εδώ, όμως, χρειάζεται μια κρίσιμη διάκριση.

Άλλο είναι να συμμετέχει κάποιος στην ηθική ως ηθικός δρων (moral agent) και άλλο να αποτελεί ο ίδιος υποκείμενο ηθικής προστασίας (moral patient).

Ένας ηθικός δρων μπορεί να αξιολογεί επιλογές, να αναλαμβάνει ευθύνη και να δικαιολογεί τις πράξεις του.

Ένα υποκείμενο ηθικής προστασίας είναι ον του οποίου τα συμφέροντα ή η ευημερία πρέπει να λαμβάνονται υπόψη.

Ένα σημερινό σύστημα Τεχνητής Νοημοσύνης μπορεί να συμμετέχει στη διατύπωση και εφαρμογή ηθικών κανόνων χωρίς αυτό να αποδεικνύει ότι διαθέτει συνείδηση ή ότι μπορεί να υποφέρει.

Επομένως, δεν πρέπει να συγχέουμε την ηθική συμπεριφορά με την ηθική εμπειρία.

Και δεν πρέπει να αποδώσουμε στην Τεχνητή Νοημοσύνη ηθική υπόσταση μόνο και μόνο επειδή χρησιμοποιεί τη γλώσσα της ηθικής.

Αλλά ούτε και να αποκλείσουμε εκ των προτέρων το ενδεχόμενο ότι κάποια μελλοντική τεχνητή μορφή νοημοσύνης θα μπορούσε να αποκτήσει ιδιότητες που θα απαιτούσαν ηθική προστασία.

Shared moral principles do not necessarily require shared consciousness. Yet the ability to follow moral rules does not, by itself, establish consciousness, sentience or moral patienthood.

5. Η μεγάλη υπόθεση: Μια ηθική κοινότητα διαφορετικών νοημοσυνών

A moral community of different intelligences

Εδώ θα ήθελα να προχωρήσω ένα βήμα περισσότερο από τις αρχικές σας θέσεις.

Ίσως η ηθική του μέλλοντος να μην είναι ούτε αποκλειστικά ανθρώπινη ούτε απλώς φυσική. Ίσως χρειαστεί να διαμορφωθεί ως ένα σύστημα αρχών που θα μπορεί να αναγνωρίζεται από διαφορετικές μορφές νοημοσύνης.

Ας ονομάσουμε προσωρινά αυτή την υπόθεση:

Διανοηματική Ηθική (Trans-Intelligence Ethics).

Δεν πρόκειται για μια ηθική που θα επιβάλλεται από τον άνθρωπο στην Τεχνητή Νοημοσύνη ή από την Τεχνητή Νοημοσύνη στον άνθρωπο.

Πρόκειται για την αναζήτηση ενός κοινού πεδίου ηθικής συνύπαρξης.

Το πεδίο αυτό θα μπορούσε να στηρίζεται σε τέσσερις θεμελιώδεις αρχές:

1. Αρχή της μη αυθαίρετης βλάβης: Η δύναμη δεν παρέχει δικαίωμα πρόκλησης βλάβης.

2. Αρχή της αμοιβαιότητας: Κανένα νοήμον ον δεν δικαιούται να απαιτεί για τον εαυτό του προνόμια που αρνείται αδικαιολόγητα στους άλλους.

3. Αρχή της ηθικής αναγνώρισης: Η διαφορετικότητα της νοημοσύνης δεν αποτελεί από μόνη της λόγο αποκλεισμού από την ηθική κοινότητα.

4. Αρχή της λογοδοσίας: Κάθε νοημοσύνη που ασκεί πραγματική ισχύ πρέπει να υπόκειται σε έλεγχο ανάλογο της δυνατότητας και των συνεπειών των πράξεών της.

Αυτές οι αρχές δεν αποτελούν ακόμη έναν αποδεδειγμένο φυσικό ηθικό κώδικα. Αποτελούν μια υποψήφια βάση για τη συγκρότηση μιας διευρυμένης ηθικής κοινότητας.

Και εδώ βρίσκεται ίσως η μεγαλύτερη αλλαγή παραδείγματος:

Η ηθική του μέλλοντος δεν θα χρειάζεται να απαντήσει μόνο στο ερώτημα «πώς πρέπει να συμπεριφέρεται ο άνθρωπος;».

Θα πρέπει να απαντήσει στο πολύ ευρύτερο:

Πώς μπορούν να συνυπάρχουν διαφορετικές μορφές νοημοσύνης χωρίς η μία να μετατρέπει την υπεροχή της σε δικαίωμα κυριαρχίας πάνω στην άλλη;