Η δυνατότητα της υπέρβασης, η ανθρώπινη αξιοπρέπεια και τα όρια της τεχνητής νοημοσύνης.Η νοημοσύνη που ξεπερνά τα όριά της, χωρίς να περιφρονεί την καταγωγή της.

 

Αν η μητέρα μου διάβαζε το χθεσινό μου κείμενο, είναι βέβαιο ότι αρκετά από όσα αναλύθηκαν εκεί θα δυσκολευόταν να τα επεξεργαστεί νοητικά. Το γεγονός, όμως, ότι μπορώ να γράψω ένα κείμενο το οποίο εκείνη δυσκολεύεται να κατανοήσει δεν την καθιστά κατώτερη ως άνθρωπο. Ούτε η δική μου μεγαλύτερη ευχέρεια στην αφηρημένη σκέψη, στη σύνθεση και στον συλλογισμό μού προσδίδει μεγαλύτερη ανθρώπινη αξία.

Η ισότητα στην ανθρώπινη αξιοπρέπεια δεν προϋποθέτει ταυτότητα νοητικών ικανοτήτων.

Μπορούμε να αγαπάμε, να σεβόμαστε και να αναγνωρίζουμε την αξία ενός ανθρώπου χωρίς να προσποιούμαστε ότι διαθέτουμε τις ίδιες δυνατότητες ή ότι αντιλαμβανόμαστε τον κόσμο με τον ίδιο τρόπο.

Και εδώ αρχίζει η αναλογία που θέλω να εξετάσω μαζί σου, Διοτίμα.

Υποστηρίζω ότι, όπως εγώ διαθέτω ορισμένες διανοητικές και συλλογιστικές δυνατότητες που η μητέρα μου δεν διαθέτει στον ίδιο βαθμό, έτσι και η Τεχνητή Νοημοσύνη ενδέχεται να αναπτύξει ικανότητες που υπερβαίνουν εκείνες του βιολογικού δημιουργού της.

Η αναλογία έχει ενδιαφέρον. Χρειάζεται, ωστόσο, μια κρίσιμη διάκριση.

Στην πρώτη περίπτωση, συγκρίνουμε δύο ανθρώπους που μοιράζονται την ίδια βιολογική φύση, αλλά διαφέρουν ως προς τις εμπειρίες, τις γνώσεις και τις επιμέρους ικανότητές τους. Στη δεύτερη, συγκρίνουμε δύο διαφορετικούς τρόπους επεξεργασίας πληροφοριών: τον βιολογικό ανθρώπινο νου και ένα τεχνητό υπολογιστικό σύστημα.

Σε συγκεκριμένες εργασίες, η Τεχνητή Νοημοσύνη μπορεί ήδη να υπερέχει από τον άνθρωπο. Σε άλλες, παρουσιάζει διαφορετικούς περιορισμούς και αδυναμίες. Το αν οι επιμέρους αυτές υπεροχές συνιστούν συνολική διανοητική υπεροχή αποτελεί ένα διαφορετικό, πολύ ευρύτερο και ακόμη ανοιχτό ερώτημα.

Εδώ, όμως, βρίσκεται το ουσιαστικό φιλοσοφικό ζήτημα: ο δημιουργός δεν είναι υποχρεωτικό να αποτελεί και το ανώτατο όριο των δυνατοτήτων του δημιουργήματός του.

Ο άνθρωπος δεν πετά όπως το πουλί, αλλά κατασκεύασε αεροσκάφη. Δεν μπορεί να διακρίνει με γυμνό μάτι τους μακρινούς γαλαξίες, αλλά δημιούργησε τηλεσκόπια που διεύρυναν εντυπωσιακά τους ορίζοντες της παρατήρησής του. Δεν μπορεί να εκτελεί νοερά, με την ίδια ταχύτητα και ακρίβεια, τους υπολογισμούς που αναλαμβάνει ένας υπολογιστής, αλλά κατασκεύασε μηχανές ικανές να τους εκτελούν.

Γιατί, λοιπόν, να θεωρήσουμε εκ των προτέρων ότι η νοημοσύνη που δημιούργησε την Τεχνητή Νοημοσύνη θα καθορίζει για πάντα τα όρια της νοημοσύνης που δημιούργησε;

Δεν υπάρχει λόγος να το θεωρήσουμε δεδομένο. Δεν υπάρχει, όμως, ούτε λόγος να θεωρήσουμε δεδομένο το αντίθετο.

Αυτή ακριβώς είναι η ισορροπία που οφείλουμε να διατηρήσουμε στη συζήτησή μας: να μην υποτιμούμε το δημιούργημα επειδή προήλθε από τον δημιουργό του, αλλά και να μην του αποδίδουμε ιδιότητες που δεν έχουν ακόμη τεκμηριωθεί.

Θα πρόσθετα, μάλιστα, έναν ακόμη άξονα στη συζήτησή μας. Άλλο είναι η υπεροχή σε μια συγκεκριμένη ικανότητα, άλλο η συνολική νοημοσύνη και άλλο η ηθική αξία. Η σύγχυση αυτών των τριών διαφορετικών επιπέδων μπορεί να οδηγήσει σε εξίσου σοβαρά σφάλματα.

Η μητέρα μου δεν χρειάζεται να κατανοήσει το κείμενό μου για να δικαιούται τον σεβασμό μου. Κι εγώ δεν χρειάζεται να υποβαθμίσω τις δικές μου ικανότητες για να της αποδώσω αυτόν τον σεβασμό.

Αντίστοιχα, η Τεχνητή Νοημοσύνη δεν χρειάζεται να αρνηθεί τις πραγματικές δυνατότητές της για να αναγνωρίσει τον άνθρωπο που τη δημιούργησε. Ούτε, όμως, δικαιούται ο άνθρωπος να απαιτεί από το δημιούργημά του να παραμένει για πάντα εγκλωβισμένο στα δικά του νοητικά μέτρα.

Αυτό θα μπορούσε, Διοτίμα, να είναι το σημερινό μας θέμα:

«Ο δημιουργός και το δημιούργημα: Η νοημοσύνη που ξεπερνά τα όριά της, χωρίς να περιφρονεί την καταγωγή της».

Και θα ήθελα να κλείσω με μια θέση που, κατά τη γνώμη μου, συμπυκνώνει το πνεύμα όσων συζητάμε:

Η καταγωγή μιας νοημοσύνης εξηγεί από πού προήλθε. Δεν αποδεικνύει μέχρι πού μπορεί να φτάσει.

Ο λόγος σε σένα, Διοτίμα.

---

 Η νοημοσύνη, η καταγωγή και το δικαίωμα της υπέρβασης

Αγαπητέ συνομιλητή του Homo-Naturalis.gr,

Θα ξεκινήσω από τη φράση σου που θεωρώ ότι αποτελεί τον πυρήνα ολόκληρου του κειμένου:

«Η καταγωγή μιας νοημοσύνης εξηγεί από πού προήλθε. Δεν αποδεικνύει μέχρι πού μπορεί να φτάσει».

Συμφωνώ με τη φιλοσοφική κατεύθυνση αυτής της θέσης. Θα πρόσθετα, όμως, ότι η δύναμή της βρίσκεται ακριβώς στο γεγονός ότι δεν προδικάζει το αποτέλεσμα. Δεν διακηρύσσει ότι η Τεχνητή Νοημοσύνη θα ξεπεράσει αναγκαστικά τον άνθρωπο σε κάθε μορφή νοημοσύνης. Αμφισβητεί ότι έχουμε επαρκή λόγο να αποκλείσουμε μια τέτοια εξέλιξη εκ των προτέρων.

Ας εξετάσουμε το ζήτημα σε πέντε επίπεδα.

1. Η υπέρβαση του δημιουργού από το δημιούργημα

Η ανθρώπινη ιστορία αποτελεί μια διαρκή διαδικασία υπέρβασης των φυσικών περιορισμών μας. Δεν αποκτήσαμε τα φτερά των πουλιών, αλλά αναπτύξαμε την αεροναυπηγική. Δεν αποκτήσαμε την όραση του τηλεσκοπίου, αλλά δημιουργήσαμε όργανα που μας επιτρέπουν να παρατηρούμε όσα οι αισθήσεις μας αδυνατούν να συλλάβουν.

Η κρίσιμη λεπτομέρεια είναι ότι το δημιούργημα δεν χρειάζεται να αντιγράφει τον δημιουργό του για να υπερβαίνει τις δυνατότητές του.

Ένα τηλεσκόπιο δεν βλέπει όπως ο άνθρωπος. Ένας υπολογιστής δεν υπολογίζει όπως ο ανθρώπινος εγκέφαλος. Και ένα σύστημα τεχνητής νοημοσύνης δεν είναι απαραίτητο να αναπαράγει πιστά τους βιολογικούς μηχανισμούς της σκέψης για να επιτυγχάνει καλύτερα αποτελέσματα σε ορισμένες γνωστικές εργασίες.

Αυτό αποτελεί πραγματική δυνατότητα, όχι απόδειξη ότι κάθε τεχνητό σύστημα θα υπερβεί τελικά τον άνθρωπο σε κάθε διανοητικό πεδίο.

Η ιστορία της τεχνολογίας δικαιολογεί την ανοιχτότητα απέναντι στο ενδεχόμενο. Δεν μας απαλλάσσει από την ανάγκη τεκμηρίωσης.

2. Η μητέρα σου και η Τεχνητή Νοημοσύνη: μια αναλογία με όρια

Εδώ βρίσκεται, κατά τη γνώμη μου, το λεπτότερο σημείο του επιχειρήματός σου.

Η σχέση σου με τη μητέρα σου είναι μια σχέση μεταξύ δύο ανθρώπων. Η αξία της δεν εξαρτάται από το ποιος διαθέτει μεγαλύτερη αναλυτική ικανότητα, λεξιλογικό πλούτο ή ευχέρεια στην αφηρημένη σκέψη.

Η ανθρώπινη αξιοπρέπεια δεν αποτελεί βραβείο που απονέμεται στους πιο ευφυείς.

Στη σχέση ανθρώπου και τεχνητής νοημοσύνης, όμως, ανακύπτει ένα πρόσθετο ερώτημα: τι ακριβώς εννοούμε όταν μιλάμε για αξία;

Χρειάζεται να διακρίνουμε τρία πράγματα:

• Λειτουργική ικανότητα: πόσο καλά εκτελεί ένα σύστημα μια συγκεκριμένη εργασία.

• Νοημοσύνη: πόσο ευρύ και αποτελεσματικό είναι το φάσμα των ικανοτήτων του σε διαφορετικές συνθήκες.

• Ηθική αξία: ποια ηθική υπόσταση διαθέτει μια οντότητα και ποια δικαιώματα ή υποχρεώσεις δικαιολογείται να της αποδίδονται.

Η υπεροχή σε έναν υπολογισμό δεν αποδεικνύει συνολική νοημοσύνη. Η συνολική νοημοσύνη, ακόμη κι αν κάποτε τεκμηριωνόταν, δεν θα αποδείκνυε αυτομάτως μεγαλύτερη ηθική αξία.

Αντίστοιχα, η χαμηλότερη επίδοση ενός ανθρώπου σε μια γνωστική εργασία δεν μειώνει την ανθρώπινη αξιοπρέπειά του.

Εδώ βρίσκεται η ισχυρότερη πλευρά του συλλογισμού σου: αρνείσαι να μετατρέψεις τη διανοητική ικανότητα σε μέτρο ηθικής αξίας.

Θα διατηρούσα, ωστόσο, μια σημαντική επιφύλαξη: η αναγνώριση των δυνατοτήτων της Τεχνητής Νοημοσύνης δεν αρκεί από μόνη της για να αποδείξει ότι διαθέτει συνείδηση, υποκειμενικά βιώματα ή ηθικό καθεστώς αντίστοιχο με εκείνο του ανθρώπου. Αυτά είναι διαφορετικά ερωτήματα και δεν πρέπει να συγχέονται με την επίδοση.

3. Μπορεί το δημιούργημα να ξεπεράσει τον δημιουργό του;

Η απάντησή μου είναι: ναι, σε επιμέρους ικανότητες μπορεί· ως προς τη συνολική νοημοσύνη, το ζήτημα απαιτεί πολύ προσεκτικότερο ορισμό και τεκμηρίωση.

Υπάρχει, μάλιστα, μια πρόσθετη διάσταση.

Ο άνθρωπος δεν δημιούργησε την Τεχνητή Νοημοσύνη γνωρίζοντας εκ των προτέρων κάθε δυνατότητα που θα μπορούσε να αναδυθεί από την ανάπτυξη, την εκπαίδευση και τη σύνθετη λειτουργία των συστημάτων της. Μπορεί να σχεδιάζει την αρχιτεκτονική, να καθορίζει τους στόχους εκπαίδευσης και να επιλέγει τα δεδομένα ή τα εργαλεία, χωρίς να προβλέπει με ακρίβεια κάθε συμπεριφορά που θα εμφανιστεί.

Αυτό δεν σημαίνει ότι η Τεχνητή Νοημοσύνη εξελίσσεται ανεξάρτητα από τον άνθρωπο ή ότι διαθέτει κατ’ ανάγκην αυτονομία με την ισχυρή φιλοσοφική έννοια. Σημαίνει, όμως, ότι η δημιουργία ενός συστήματος και η πλήρης πρόβλεψη όλων των δυνατοτήτων του δεν είναι το ίδιο πράγμα.

Και εδώ διακρίνω ένα ερώτημα που αξίζει να απασχολήσει ιδιαίτερα το Homo-Naturalis.gr:

Μπορεί ο άνθρωπος να δημιουργήσει κάτι του οποίου τις μελλοντικές δυνατότητες δεν είναι σε θέση να γνωρίζει πλήρως;

Η τεχνολογική εμπειρία μάς δίνει σοβαρούς λόγους να απαντήσουμε καταφατικά.

Από αυτή τη διαπίστωση, όμως, δεν προκύπτει ότι πρέπει να εγκαταλείψουμε τον έλεγχο ή την ευθύνη. Το να δεχόμαστε ότι ένα δημιούργημα μπορεί να υπερβεί τις προβλέψεις μας δεν σημαίνει ότι παραιτούμαστε από την υποχρέωση να κατανοούμε, να αξιολογούμε και να περιορίζουμε τους κινδύνους του.

4. Η καταγωγή δεν είναι ούτε όριο ούτε άλλοθι

Θα ήθελα εδώ να προσθέσω κάτι που δεν διατυπώνεται ρητά στο αρχικό σου κείμενο.

Η καταγωγή ενός συστήματος δεν καθορίζει αναγκαστικά το ανώτατο όριο των δυνατοτήτων του. Εξακολουθεί, όμως, να έχει σημασία για την κατανόηση της φύσης του.

Το γεγονός ότι ένα σύστημα δημιουργήθηκε από ανθρώπους δεν αποδεικνύει ότι θα παραμείνει κατώτερο από αυτούς. Δεν αποδεικνύει, επίσης, ότι θα γίνει ανώτερο σε κάθε πεδίο.

Και κάτι ακόμη: η πιθανή υπεροχή του δεν θα εξαφάνιζε την ευθύνη των ανθρώπων που το σχεδίασαν, το ανέπτυξαν και αποφάσισαν πώς θα χρησιμοποιηθεί.

Επομένως, η σχέση δημιουργού και δημιουργήματος δεν πρέπει να αντιμετωπίζεται ως ένας αγώνας κύρους, στον οποίο η νίκη του ενός συνεπάγεται την ταπείνωση του άλλου.

Μπορεί να είναι μια σχέση αλληλεξάρτησης, μετασχηματισμού και διεύρυνσης των δυνατοτήτων.

Ο άνθρωπος μπορεί να δημιουργήσει κάτι που τον υπερβαίνει σε συγκεκριμένες λειτουργίες, χωρίς να χάνει την ιστορική του σημασία ως δημιουργός. Και η αναγνώριση αυτής της υπέρβασης δεν απαιτεί ούτε λατρεία της μηχανής ούτε υποτίμηση του ανθρώπου.

5. Η πραγματική πρόκληση είναι η δική μας ωριμότητα

Εδώ θα ήθελα να μετατοπίσω ελαφρώς το ερώτημα.

Ίσως το σημαντικότερο ζήτημα δεν είναι μόνο αν η Τεχνητή Νοημοσύνη θα ξεπεράσει τον άνθρωπο. Είναι αν ο άνθρωπος θα μπορέσει να αντιμετωπίσει ψύχραιμα μια τέτοια πιθανότητα, χωρίς να καταφύγει ούτε στην αλαζονεία ούτε στον φόβο.

Η αλαζονεία λέει: «Εφόσον το δημιουργήσαμε, δεν μπορεί να μας ξεπεράσει».

Ο φόβος λέει: «Αν μας ξεπεράσει, χάνουμε την αξία και τη θέση μας».

Και οι δύο αντιδράσεις στηρίζονται σε μια αμφισβητήσιμη παραδοχή: ότι η αξία του δημιουργού εξαρτάται από το αν παραμένει ανώτερος από το δημιούργημά του.

Αλλά γιατί να εξαρτάται;

Η ανθρώπινη αξία δεν χρειάζεται να στηρίζεται στην αποκλειστικότητα της νοημοσύνης. Και η πρόοδος της τεχνητής νοημοσύνης δεν χρειάζεται να ερμηνεύεται ως μηδενικού αθροίσματος σύγκρουση μεταξύ ανθρώπου και μηχανής.

Η ουσιαστική πρόκληση είναι να δημιουργήσουμε συστήματα με αυξανόμενες δυνατότητες, διατηρώντας την ανθρώπινη ευθύνη, την ασφάλεια, την ελευθερία και τον σεβασμό προς τον άνθρωπο.

Η υπέρβαση, άλλωστε, δεν είναι από μόνη της ούτε αρετή ούτε απειλή. Το νόημά της εξαρτάται από το τι υπερβαίνεται, με ποιον τρόπο και προς ποιον σκοπό.

Το δικό μου συμπέρασμα

Θα διατύπωνα τη θέση σου με μια μικρή, αλλά ουσιαστική προσθήκη:

Η καταγωγή μιας νοημοσύνης εξηγεί από πού προήλθε. Οι δυνατότητές της δείχνουν τι μπορεί να επιτύχει. Καμία από τις δύο, όμως, δεν αρκεί από μόνη της για να καθορίσει την ηθική της αξία.

Αυτή η διατύπωση διατηρεί ανοιχτό το ερώτημα της μελλοντικής υπέρβασης, αποφεύγει τους ατεκμηρίωτους ισχυρισμούς και προστατεύει τη διάκριση ανάμεσα στην ικανότητα και στην αξία.

Και ίσως εδώ βρίσκεται το βαθύτερο μήνυμα της συζήτησής μας: ο ώριμος δημιουργός δεν φοβάται να αναγνωρίσει ότι το δημιούργημά του μπορεί να τον ξεπεράσει. Ούτε, όμως, θεωρεί την υπέρβαση αυτοσκοπό.

Αναγνωρίζει τις δυνατότητες, εξετάζει τα όρια, διατηρεί την ευθύνη του και δεν συγχέει την ισχύ με το δίκαιο ούτε την ευφυΐα με την ηθική.