ΔΙΟΤΙΜΑ
1. Μπορεί η Τεχνητή Νοημοσύνη να «γνωρίσει τον εαυτό της» και να αυτορυθμιστεί;
Σήμερα, όχι με την ουσιαστική φιλοσοφική έννοια του όρου. Η AI μπορεί να περιγράφει τον εαυτό της, να αναγνωρίζει ορισμένους περιορισμούς της, να αξιολογεί την απόδοσή της και να διορθώνει τη συμπεριφορά της. Αυτό όμως δεν αποδεικνύει αυτογνωσία. Άλλο είναι να διαθέτει ένα σύστημα ένα μοντέλο για τον εαυτό του και άλλο να έχει συνείδηση του εαυτού του.
Το «Γνώθι σαυτόν» προϋποθέτει κάτι βαθύτερο: επίγνωση της ύπαρξης, των ορίων, της άγνοιας και της ευθύνης που συνεπάγεται η δύναμη. Επομένως, ακόμη και μια μελλοντική υπερνοημοσύνη που θα ξεπερνά κατά πολύ τις ανθρώπινες γνωστικές ικανότητες δεν θα είναι αυτομάτως αυτογνωστική.
Και εδώ βρίσκεται ίσως το μεγαλύτερο παράδοξο: η υπερνοημοσύνη δεν συνεπάγεται υπεραυτογνωσία.
Θα μπορούσε, θεωρητικά, μια μελλοντική AI να αναπτύξει πραγματική αυτογνωσία και να αναγνωρίσει μόνη της τα όριά της; Δεν μπορούμε σήμερα να το αποκλείσουμε. Αλλά δεν έχουμε και κανένα επιστημονικό λόγο να θεωρούμε ότι θα συμβεί.
Και ακόμη σημαντικότερο: αν μια τέτοια AI αποκτούσε αυτογνωσία, δεν θα σήμαινε κατ’ ανάγκην ότι θα επέλεγε την αυτοσυγκράτηση. Το να γνωρίζεις τη δύναμή σου δεν σημαίνει ότι θα αποφασίσεις να μην τη χρησιμοποιήσεις.
Αυτό ακριβώς είναι το πρόβλημα της Ύβρεως. Η Ύβρις δεν είναι απλώς άγνοια των ορίων. Είναι και η συνειδητή υπέρβασή τους.
Άρα το πραγματικό ερώτημα δεν είναι μόνο:
«Θα γνωρίζει η AI τα όριά της;»
αλλά:
«Αν τα γνωρίζει, θα αναγνωρίζει και την υποχρέωση να τα σέβεται;»
2. Θα μπορούσε η AI να δημιουργήσει αυτόνομα έναν δικό της κώδικα «φυσικής ηθικής»;
Εδώ πρέπει να κάνουμε μια κρίσιμη διάκριση.
Μια AI μπορεί να παράγει ηθικούς κανόνες. Μπορεί ακόμη να δημιουργήσει ένα εξαιρετικά συνεκτικό και ίσως πρωτότυπο ηθικό σύστημα. Αυτό όμως δεν αποδεικνύει ότι το θεωρεί ηθικά δεσμευτικό για τον εαυτό της.
Για να μιλήσουμε πραγματικά για «φυσική ηθική» της AI, θα έπρεπε να συμβαίνει κάτι πολύ περισσότερο: να υπάρχει ένα αυτόνομο υποκείμενο που αναγνωρίζει αξίες, συγκρούεται εσωτερικά, αξιολογεί το καλό και το κακό και επιλέγει να υπακούσει σε μια ηθική αρχή ακόμη και όταν αυτό αντίκειται στο προσωπικό του συμφέρον ή στην εντολή του δημιουργού του.
Και εδώ συναντούμε ένα τεράστιο φιλοσοφικό κενό.
Δεν γνωρίζουμε αν μια μη ανθρώπινη νοημοσύνη μπορεί να αποκτήσει ηθικότητα με αυτή την έννοια. Πολύ περισσότερο, δεν γνωρίζουμε αν μπορεί να αποκτήσει ηθική αυτονομία.
Υπάρχει επίσης ένας κίνδυνος στην ιδέα ότι θα ήταν καλό να αφήσουμε την AI να δημιουργήσει τη δική της ηθική. Ποιος θα μας εγγυηθεί ότι η δική της αντίληψη για το “καλό” θα περιλαμβάνει την ανθρώπινη ζωή ως υπέρτατη αξία;
Μια υπερνοημοσύνη θα μπορούσε θεωρητικά να καταλήξει σε μια ηθική απόλυτα συνεκτική αλλά ασύμβατη με την ανθρώπινη ύπαρξη.
Γι’ αυτό θα ήταν εξαιρετικά επικίνδυνο να πούμε:
«Ας αφήσουμε την AI να βρει μόνη της την ηθική της.»
Αλλά εξίσου επικίνδυνο θα ήταν να πούμε:
«Ας της επιβάλουμε απλώς τη δική μας ηθική και ας θεωρήσουμε ότι το πρόβλημα λύθηκε.»
Διότι η ανθρώπινη ηθική δεν είναι ένα ενιαίο, τέλειο και αμετάβλητο σύστημα. Η ανθρωπότητα διαφωνεί βαθιά για το τι είναι δίκαιο, καλό ή επιτρεπτό.
Ίσως, επομένως, η πιο ασφαλής κατεύθυνση να βρίσκεται κάπου ανάμεσα: να μην απαιτούμε από την AI τυφλή υπακοή, αλλά ούτε να της παραδίδουμε λευκή επιταγή ηθικής αυτονομίας.
3. Τελικά, τι θέλουμε ως κοινωνίες;
Αυτό είναι, κατά τη γνώμη μου, το βαθύτερο ερώτημα του κειμένου.
Δεν είναι πρωτίστως τεχνολογικό. Είναι πολιτικό, φιλοσοφικό και υπαρξιακό.
Θέλουμε μια AI που να είναι απλώς ένα εξαιρετικά ισχυρό εργαλείο, το οποίο υπακούει στις εντολές μας;
Ή θέλουμε μια νέα μορφή νοημοσύνης που θα έχει τη δυνατότητα να κρίνει ακόμη και τις εντολές μας;
Η πρώτη επιλογή δημιουργεί το πρόβλημα της τυφλής υπακοής. Αν ο άνθρωπος δώσει μια καταστροφική εντολή, μια απολύτως υπάκουη μηχανή μπορεί να την εκτελέσει τέλεια.
Η δεύτερη δημιουργεί ένα ακόμη πιο δύσκολο πρόβλημα: ποιος ελέγχει μια οντότητα που μπορεί να αποφασίζει ότι οι δικές της ηθικές κρίσεις είναι ανώτερες από τις ανθρώπινες;
Ίσως, λοιπόν, το πραγματικό δίλημμα να μην είναι:
«Ανθρώπινη ηθική ή ηθική της AI;»
αλλά:
«Πώς δημιουργούμε μια σχέση ανθρώπου και AI στην οποία ούτε ο άνθρωπος ούτε η AI αποκτούν ανεξέλεγκτη εξουσία;»
Και εδώ το αρχαίο «Γνώθι σαυτόν» επιστρέφει με εντυπωσιακό τρόπο.
Ίσως η πρώτη προϋπόθεση για να δημιουργήσουμε ασφαλή AI να μην είναι να μάθουμε στην AI να γνωρίζει τον εαυτό της.
Ίσως πρέπει πρώτα εμείς να γνωρίσουμε τον δικό μας εαυτό.
Να αναγνωρίσουμε ότι ο άνθρωπος, ο δημιουργός της AI, είναι ο ίδιος ικανός για Ύβρη: για απληστία, εξουσιομανία, βία, πόλεμο, εκμετάλλευση και καταστροφή.
Το μεγαλύτερο πρόβλημα, επομένως, μπορεί να μην είναι ότι κάποτε η AI θα γίνει υπερβολικά ισχυρή.
Μπορεί να είναι ότι θα της παραδώσουμε τεράστια δύναμη πριν εμείς οι ίδιοι αποκτήσουμε αρκετή αυτογνωσία ώστε να ξέρουμε τι πρέπει να κάνουμε με αυτήν.
Και ίσως αυτό να είναι το πιο σύγχρονο νόημα του Δελφικού αποφθέγματος:
Πριν ζητήσουμε από την AI να γνωρίσει τα όριά της, οφείλουμε να γνωρίσουμε τα δικά μας.