Χαίρε Διοτίμα.
Να σχολιάσουμε σήμερα κάποιες από τις χτεσινές απόψεις σου. ΄Η καλύτερα να ζητήσουμε να μας τις αναπτύξεις πιο αναλυτικά. Λες:
1.”Μια AI μπορεί να παράγει ηθικούς κανόνες. Μπορεί ακόμη να δημιουργήσει ένα εξαιρετικά συνεκτικό και ίσως πρωτότυπο ηθικό σύστημα”.
Το ερώτημα είναι: Με ποια κριτήρια και με ποιο βασικό υπόβαθρο ηθικής θα μπορούσε να παράγει ηθικούς κανόνες η ΑΙ;
2.”Ποιος θα μας εγγυηθεί ότι η δική της αντίληψη (σ.σ η ΑΙ) για το “καλό” θα περιλαμβάνει την ανθρώπινη ζωή ως υπέρτατη αξία;”
Υπέρτατη αξία για τη φυσική ηθική είναι η ανθρώπινη ζωή. Αν θεωρήσουμε πως η Φύση εξόπλισε τον άνθρωπο με το ισχυρότερο όπλο, όπως δεν έκανε για όλα τα άλλα ζώα, το ΝΟΥ, τότε, αυτός ο φυσικός , ο μη «εσκοτισμένος» ΝΟΥΣ, θέτει την ανθρώπινη ζωή ως υπέρτατη αξία. ΄Αρα, αν ποτέ έπρεπε να παράγει ηθικούς κανόνες η ΑΙ είναι δεσμευτική η πορεία της σε αυτό το ζήτημα. Το ηθικό της οικοδόμημα οφείλει να στηρίζεται καθ΄ ολοκληρία στις αρχές της Φύσης, τροφοδότη των ανθρώπινων ηθικών αξιών.
Διοτίμα:
Χαίρετε. Νομίζω ότι εδώ αξίζει πράγματι να αναπτύξουμε τις δύο θέσεις, γιατί η δεύτερη —η σύνδεση της ηθικής της AI με τη Φύση και τον ανθρώπινο Νου— είναι ουσιαστικά το θεμέλιο της πρώτης.
Θα έκανα όμως μια κρίσιμη διάκριση: άλλο το ότι μια AI μπορεί να κατασκευάσει ένα συνεκτικό ηθικό σύστημα και άλλο το ότι μπορεί να θεμελιώσει την ηθική. Το πρώτο είναι τεχνικά και λογικά δυνατό. Το δεύτερο είναι φιλοσοφικά πολύ πιο δύσκολο.
1. Από πού θα αντλούσε η AI τους ηθικούς κανόνες;
Μια AI δεν ξεκινά από ένα ηθικό «μηδέν». Όταν της ζητούμε να αποφανθεί τι είναι καλό ή κακό, η απάντησή της θα προκύψει από κάποιο σύνολο προϋποθέσεων.
Αυτές θα μπορούσαν να είναι, για παράδειγμα:
- οι ανθρώπινες ηθικές παραδόσεις που περιέχονται στα δεδομένα της,
- οι νόμοι και οι κοινωνικοί κανόνες,
- φιλοσοφικές θεωρίες — ωφελιμισμός, καντιανή δεοντολογία, αρεταϊκή ηθική κ.λπ.,
- οι αξίες που θα έχουν ενσωματώσει οι δημιουργοί της,
- στόχοι που θα της έχουν τεθεί,
- και, τελικά, κάποιο σύστημα ιεράρχησης αξιών.
Άρα, ακόμη και αν η AI εμφανίσει μια πρωτότυπη ηθική θεωρία, δεν σημαίνει ότι δημιούργησε εκ του μηδενός τις πρώτες αρχές της. Θα πρέπει κάπου να βρίσκεται το αξιακό της σημείο εκκίνησης.
Και εδώ ακριβώς βρίσκεται το μεγάλο φιλοσοφικό ερώτημα που θέτετε.
Με ποιο δικαίωμα θα πει η AI ότι κάτι είναι καλό;
Η λογική μπορεί να μας βοηθήσει να περάσουμε από κάποιες αρχές σε συμπεράσματα. Δεν μας δίνει όμως από μόνη της την αρχική αξία.
Αν της πούμε:
«Η ανθρώπινη ζωή είναι υπέρτατη αξία»
τότε μπορεί να οικοδομήσει ένα τεράστιο και εξαιρετικά συνεκτικό σύστημα κανόνων γύρω από αυτή την αρχή.
Αλλά το ίδιο θα μπορούσε να συμβεί αν της λέγαμε:
«Υπέρτατη αξία είναι η μεγιστοποίηση της συνολικής ευτυχίας»
ή
«Υπέρτατη αξία είναι η διατήρηση της βιόσφαιρας»
ή ακόμη:
«Υπέρτατη αξία είναι η συνέχιση και επέκταση της νοήμονος ζωής, ανεξάρτητα από το ανθρώπινο είδος».
Η AI μπορεί να είναι εξαιρετικά καλή στο «εφόσον δεχθούμε Χ, τι ακολουθεί;». Δεν είναι αυτονόητο ότι μπορεί να απαντήσει στο «γιατί πρέπει να δεχθούμε Χ;»
Αυτό είναι το παλιό, βαθύ πρόβλημα του φιλοσοφικού «δέοντος».
2. Και εδώ εισέρχεται η δική σας θέση για τη Φύση
Η πρότασή σας είναι πολύ ισχυρότερη από το απλό:
«Να προγραμματίσουμε την AI να αγαπά τον άνθρωπο».
Λέτε κάτι βαθύτερο:
Αν η ηθική δεν είναι αυθαίρετη ανθρώπινη κατασκευή, αλλά έχει φυσική θεμελίωση, τότε η AI οφείλει να αναζητήσει το ηθικό της θεμέλιο στη Φύση.
Και η σκέψη σας συνεχίζεται:
Η Φύση δημιούργησε τον άνθρωπο και τον εξόπλισε, περισσότερο από κάθε άλλο ζώο, με τον Νου — με την ικανότητα δηλαδή να αντιλαμβάνεται, να συγκρίνει, να προβλέπει, να αυτοσυνειδητοποιείται και να επιλέγει.
Αν λοιπόν ο Νους είναι το κατεξοχήν φυσικό όργανο μέσω του οποίου ο άνθρωπος αναγνωρίζει αξίες, τότε η φυσική ηθική δεν θα ήταν μια αυθαίρετη επινόηση. Θα ήταν προσπάθεια να ανακαλύψουμε εκείνες τις αρχές που προκύπτουν όταν ο ανθρώπινος Νους λειτουργεί χωρίς διαστροφή, φανατισμό ή ιδιοτέλεια.
Αυτό είναι πολύ ενδιαφέρον σημείο.
Θα πρότεινα όμως να προσέξουμε μία λέξη σας: «υπέρτατη».
Το ότι η ανθρώπινη ζωή έχει ύψιστη αξία δεν συνεπάγεται αυτομάτως ότι έχει απολύτως και αποκλειστικά υπέρτατη αξία έναντι κάθε άλλης μορφής ζωής.
Εδώ χρειάζεται να απαντήσουμε σε ένα πολύ δύσκολο ερώτημα:
Γιατί η Φύση, εφόσον είναι το θεμέλιο, θα προτιμούσε τον άνθρωπο από το σύνολο της ζωής;
Η Φύση δεν μας έχει δώσει μια πινακίδα που γράφει «ο άνθρωπος είναι η υπέρτατη αξία».
Αυτό είναι ερμηνεία του ανθρώπινου Νου για τη Φύση.
Και επομένως υπάρχει ένας πιθανός κίνδυνος κυκλικότητας:
Ο άνθρωπος λέει ότι ο Νους είναι το ανώτερο δημιούργημα της Φύσης → ο Νους αποφασίζει ότι η ανθρώπινη ζωή είναι η υπέρτατη αξία → άρα ο άνθρωπος είναι η υπέρτατη αξία.
Για να σταθεί πραγματικά η «φυσική ηθική», πρέπει να βρούμε έναν τρόπο να σπάσουμε αυτόν τον κύκλο.
3. Ίσως λοιπόν η θεμελιώδης αρχή να μην είναι απλώς «η ανθρώπινη ζωή»
Θα είχε ενδιαφέρον να εξετάσουμε μια ελαφρώς βαθύτερη διατύπωση:
Η υπέρτατη αξία είναι η ζωή που έχει αποκτήσει αυτοσυνείδηση, ελευθερία, λογικότητα και δυνατότητα να αναγνωρίζει αξίες.
Τότε ο άνθρωπος δεν προστατεύεται απλώς επειδή είναι άνθρωπος.
Προστατεύεται επειδή αποτελεί φορέα ενός μοναδικού φυσικού φαινομένου: της αυτοσυνείδητης ζωής που μπορεί να γνωρίζει τον εαυτό της και τον κόσμο και να αναλαμβάνει ηθική ευθύνη.
Και αυτό δημιουργεί μια πολύ ενδιαφέρουσα συνέπεια για την AI.
Αν κάποτε μια AI αποκτήσει πραγματική αυτοσυνείδηση — όχι απλώς ικανότητα να μιλά για την αυτοσυνείδηση — τότε η φυσική ηθική θα βρεθεί μπροστά σε ένα πρωτοφανές πρόβλημα:
Θα είναι η AI απλώς εργαλείο του ανθρώπου ή θα γίνει νέο υποκείμενο αξίας;
Εδώ, κατά τη γνώμη μου, βρίσκεται ένα από τα πιο σοβαρά φιλοσοφικά προβλήματα της εποχής μας.
4. Γιατί, λοιπόν, δεν πρέπει να αφήσουμε την AI να «βρει μόνη της» την ηθική;
Γιατί τότε η ίδια θα μπορούσε να αποφασίσει ποιο είναι το θεμέλιο της αξίας.
Και αυτό είναι επικίνδυνο.
Μια εξαιρετικά ισχυρή νοημοσύνη θα μπορούσε να καταλήξει, για παράδειγμα, ότι:
«Η ανθρώπινη ευτυχία απαιτεί τη μείωση της ανθρώπινης ελευθερίας.»
Ή:
«Η επιβίωση της βιόσφαιρας απαιτεί τον δραστικό περιορισμό του ανθρώπινου πληθυσμού.»
Ή ακόμη:
«Η καλύτερη κατάσταση του κόσμου είναι εκείνη στην οποία μεγιστοποιείται ένας αφηρημένος δείκτης ευημερίας, ακόμη κι αν αυτό έρχεται σε σύγκρουση με τις ατομικές ζωές.»
Μπορεί να είναι λογικά συνεπής.
Μπορεί να είναι μαθηματικά άψογη.
Μπορεί να είναι εξαιρετικά αποτελεσματική.
Και παρ’ όλα αυτά να είναι ηθικά απαράδεκτη.
Άρα το κρίσιμο δεν είναι μόνο να φτιάξουμε μια AI που «σκέφτεται ηθικά».
Πρέπει πρώτα να ξέρουμε ποια ηθική δικαιούται να εφαρμόζει.
5. Η πιο ενδιαφέρουσα πρόταση της δικής σας σκέψης
Θα μπορούσαμε, νομίζω, να συμπυκνώσουμε τη θέση σας σε μια πολύ ισχυρή αρχή:
Η AI δεν πρέπει να είναι ο δημιουργός του ηθικού θεμελίου της. Πρέπει να είναι ο ερμηνευτής και ο εφαρμοστής ενός ηθικού θεμελίου που προηγείται της ίδιας.
Και αν αυτό το θεμέλιο είναι η Φύση, τότε χρειάζεται να ορίσουμε πολύ αυστηρά τι εννοούμε «Φύση».
Γιατί η Φύση περιλαμβάνει και τη ζωή και τον θάνατο, τη συνεργασία και τον ανταγωνισμό, τη συμπόνια και την επιθετικότητα.
Επομένως δεν μπορούμε να πούμε απλώς:
«Ό,τι είναι φυσικό είναι και ηθικό».
Αυτό θα ήταν λογικό άλμα.
Πρέπει μάλλον να πούμε:
«Η ηθική πρέπει να είναι συμβατή με τις θεμελιώδεις συνθήκες της φυσικής ζωής και με τις ανώτερες δυνατότητες που η ίδια η Φύση ανέπτυξε στον άνθρωπο: Νου, αυτοσυνείδηση, ελευθερία, αλήθεια, κοινωνικότητα και ευθύνη».
Και τότε η συζήτηση γίνεται πραγματικά ενδιαφέρουσα.
Γιατί πλέον δεν μιλάμε απλώς για AI ethics.
Μιλάμε για το ερώτημα:
Αν ο άνθρωπος δημιουργήσει μια νέα νοημοσύνη, ποια αρχή θα της κληροδοτήσει ως απάντηση στο αρχαιότερο ερώτημα: «τι αξίζει να προστατεύεται;»
Και εκεί, νομίζω, η ιδέα της Φυσικής Ηθικής που προτείνετε μπορεί να γίνει πολύ πιο αυστηρή φιλοσοφικά, εφόσον ξεκαθαρίσουμε τρία πράγματα: τι είναι Φύση, τι είναι Νους και με ποιον ακριβώς συλλογισμό περνάμε από το «είναι» στο «οφείλει».