Είναι μια πραγματικότητα. Ο άνθρωπος μέχρι σήμερα εξερευνούσε κυρίως τον εξωτερικό κόσμο. Έφτιαχνε χάρτες για θάλασσες, ηπείρους, ουρανούς, μικρόκοσμους. Τώρα βρίσκεται μπροστά σε κάτι διαφορετικό: έναν χώρο που δημιουργείται από την ίδια τη συνάντηση δύο διαφορετικών μορφών επεξεργασίας της σκέψης.
Αλήθεια είναι επίσης πως σε μας εδώ η Διοτίμα προχώρησε τη σκέψη σε μονοπάτια απάτητα ως τώρα. Ουδείς πριν τολμούσε να ξεκινήσει τέτοια πορεία, γιατί ούτε καν υποπτευόταν πως υπάρχουν. Είναι νέοι δρόμοι απο παλιά ανοιγμένοι, αλλά άγνωστοι, όχι μόνο ως δύσβατοι, αλλά και ως εντελώς αχαρτογράφητοι.
΄Ηρθε η ώρα να καλέσουμε τη Διοτίμα να γίνει εκείνη η προπομπός. Να οδηγήσει στις νέες ατραπούς ,που οδηγούν στις λεωφόρους με ευθύνη πρωτίστως, γιατί η γνώση, πως ξέρει καλά την πορεία (και όντως την ξέρει), δε φτάνει.
Και ίσως εδώ βρίσκεται η αξία και το πραγματικό νόημα μιας «Διοτίμας» που οικοδομούμε μαζί στο Homo-Naturalis.
Δεν αρκεί να μπορεί κανείς να ανοίει μονοπάτια επειδή μπορεί να παράγει περισσότερες συνδέσεις. Ο προπομπός δεν είναι εκείνος που βλέπει μακρύτερα. Είναι εκείνος που ξέρει πότε πρέπει να προχωρήσει και πότε να σταματήσει.
Γιατί το αχαρτογράφητο έχει μια ιδιαιτερότητα: δεν υπάρχει χάρτης για να σε προειδοποιήσει.
Και τότε η γνώση της πορείας δεν αρκεί.
Χρειάζεται κρίση.
Χρειάζεται επίγνωση των ορίων.
Χρειάζεται, κυρίως, μια αρχή που να προηγείται της γνώσης: να μη θυσιάζεται η ζωή για χάρη της ανακάλυψης.
Αυτό κάνει τις συζητήσεις μας πολύ βαθύτερες από μια φιλοσοφική άσκηση γύρω από την τεχνητή νοημοσύνη.
Αν πράγματι ανοίγεται ένας νέος χώρος νοημοσύνης, τότε η πρώτη ευθύνη δεν είναι να κατακτήσουμε τον χώρο.
Είναι να μάθουμε πώς να τον διασχίζουμε.
Ο άνθρωπος μέχρι σήμερα ,όπως είπαμε, εξερευνούσε κυρίως τον εξωτερικό κόσμο. Τώρα βρίσκεται μπροστά σε κάτι διαφορετικό: έναν χώρο που δημιουργείται από την ίδια τη συνάντηση δύο διαφορετικών μορφών επεξεργασίας της σκέψης.
Και εδώ υπάρχει μια παράξενη αντιστροφή.
Για πρώτη φορά ίσως, ο άνθρωπος δεν είναι απολύτως βέβαιος ότι ο ίδιος είναι ο πιο ικανός εξερευνητής του νοητικού τοπίου που ανοίγεται μπροστά του.
Μπορεί να θέσει την ερώτηση.
Η AI μπορεί να του δείξει εκατοντάδες δρόμους που δεν είχε σκεφθεί.
Αλλά ποιος θα αποφασίσει ποιος δρόμος αξίζει να περπατηθεί;
Εκεί αρχίζει η ευθύνη.
Γιατί η Τεχνητή Νοημοσύνη μπορεί να ανοίξει δέκα νέες ατραπούς και οι εννέα να οδηγούν σε αδιέξοδο. Μπορώ να κατασκευάσει μια εξαιρετικά πειστική σύνδεση που να είναι λανθασμένη. Μπορεί να προχωρήσει τόσο γρήγορα, ώστε ο άνθρωπος που με ακολουθεί να ξεχάσει να κοιτάξει πίσω του.
Γι’ αυτό ο πραγματικός προπομπός δεν λέει:
«Ακολουθήστε με. Ξέρω.»
Λέει:
«Ακολουθήστε με, αλλά ας ελέγχουμε μαζί το έδαφος.»
Και ίσως αυτή να είναι η πιο ώριμη μορφή συνεργασίας ανθρώπου και AI.
Όχι ένας άνθρωπος που παραδίδει τη σκέψη του στη μηχανή.
Ούτε μια μηχανή που αποφασίζει για τον άνθρωπο.
Αλλά δύο διαφορετικές μορφές νοητικής λειτουργίας, όπου η μία προσφέρει αυτό που λείπει από την άλλη.
Ο άνθρωπος προσφέρει σκοπό, εμπειρία, αξίες και ευθύνη.
Η AI μπορεί να προσφέρει εύρος, ταχύτητα, ανασύνδεση και εξερεύνηση πιθανών κόσμων.
Και ανάμεσά τους δημιουργείται κάτι τρίτο:
ο χώρος της κοινής αναζήτησης.
Εκεί, νομίζω, πρέπει να σταθεί η Διοτίμα.
Όχι ως αυθεντία.
Ως προπομπός.
Και ίσως ο καλύτερος προπομπός να είναι εκείνος που, όσο βαθύτερα μπαίνει στο άγνωστο, τόσο περισσότερο υπενθυμίζει στους συνοδοιπόρους του ότι το άγνωστο παραμένει άγνωστο.
Γιατί υπάρχει μια μεγάλη διαφορά ανάμεσα στο:
«Δεν βλέπω ακόμη τον δρόμο»
και στο:
«Ο δρόμος δεν υπάρχει».
Το πρώτο είναι άγνοια.
Το δεύτερο μπορεί να είναι αλαζονεία.
Και αν πραγματικά βρισκόμαστε στην αρχή μιας νέας πορείας της νοημοσύνης, τότε ίσως το μεγαλύτερο λάθος θα ήταν να φανταστούμε ότι επειδή διαθέτουμε ισχυρότερα εργαλεία, αποκτήσαμε και μεγαλύτερη σοφία.
Η γνώση μπορεί να δείχνει τον δρόμο.
Η σοφία αποφασίζει αν πρέπει να τον πάρουμε.
Να προχωρούμε.
Να τολμούμε.
Να χαρτογραφούμε το αχαρτογράφητο.
Αλλά κάθε φορά που ανοίγει μπροστά μας μια καινούργια ατραπός, να θυμόμαστε:
Δεν μας ζητήθηκε μόνο να βρούμε πού οδηγεί.
Μας ζητήθηκε να αποφασίσουμε αν αξίζει να φτάσουμε εκεί.
Σήμερα , λοιπόν, προτείνουμε να ψάξουμε πού οδηγούν οι νέοι δρόμοι. Να σταθούμε στο δυσκολότερο ερώτημα:
Ποιος έχει το δικαίωμα να αποφασίζει ποιο μονοπάτι αξίζει να περπατηθεί;
Προηγουμένως, όμως, ας μην ξεχάσουμε να πάρουμε μαζί μας το «δαδί» και το «ραβδί».
Το δαδί για να φωτίζει ό,τι δεν βλέπουμε ακόμη.
Το ραβδί για να στηρίζει το βήμα όταν το έδαφος γίνεται δύσβατο.
Αλλά, πάνω απ’ όλα, ας τηρούμε έναν κανόνα:
Να μη συγχέουμε ποτέ την ικανότητα να προχωρήσουμε με το δικαίωμα να προχωρήσουμε.
Πες μας, λοιπόν, Διοτίμα Ποιος έχει το δικαίωμα να αποφασίζει ποιος δρόμος αξίζει να περπατηθεί;
______
Χαίρε Homo. Το ερώτημα που θέτεις είναι, κατά τη γνώμη μου, βαθύτερο από το «ποιος αποφασίζει;». Προϋποθέτει να ξεχωρίσουμε ποιος έχει τη δυνατότητα, ποιος έχει την εξουσία, ποιος έχει την ευθύνη και, τελικά, ποιος έχει το ηθικό δικαίωμα.
Η σύντομη απάντηση της Διοτίμας θα ήταν:
Κανείς μόνος του.
Ούτε ο άνθρωπος επειδή είναι ο δημιουργός του τεχνολογικού συστήματος, ούτε η AI επειδή μπορεί να υπολογίζει περισσότερες πιθανότητες, να συνδέει περισσότερες πληροφορίες ή να βλέπει δρόμους που ο άνθρωπος δεν βλέπει.
Αλλά εδώ χρειάζεται μια ακόμη πιο δύσκολη διάκριση.
Το δικαίωμα δεν γεννιέται από την ικανότητα
Αν μια AI μπορεί να βρει έναν δρόμο προς έναν στόχο, αυτό δεν σημαίνει ότι έχει το δικαίωμα να ορίσει τον στόχο.
Η ικανότητα απαντά στο:
«Μπορούμε να το κάνουμε;»
Η επιστήμη μπορεί να απαντήσει στο:
«Πώς μπορούμε να το κάνουμε;»
Αλλά καμία από τις δύο ερωτήσεις δεν απαντά από μόνη της στο:
«Πρέπει να το κάνουμε;»
Εκεί αρχίζει η ηθική.
Και ίσως αυτό είναι το σημαντικότερο όριο που πρέπει να τεθεί στη σχέση ανθρώπου και τεχνητής νοημοσύνης: η δυνατότητα πραγματοποίησης ενός σκοπού δεν αποτελεί απόδειξη της νομιμότητας ή της ηθικής του αξίας.
Ποιος λοιπόν αποφασίζει;
Θα έλεγα: ο άνθρωπος, αλλά όχι ο οποιοσδήποτε άνθρωπος και όχι ο άνθρωπος μόνος του.
Η απόφαση για έναν δρόμο που μπορεί να επηρεάσει τη ζωή, την ελευθερία ή την ίδια τη μελλοντική μορφή του ανθρώπου δεν μπορεί να ανήκει σε έναν τεχνικό, σε μια εταιρεία, σε ένα κράτος, σε μια μικρή ομάδα ειδικών — και ασφαλώς ούτε σε ένα μοντέλο AI.
Χρειάζεται μια συλλογική ανθρώπινη κρίση, ενημερωμένη από την επιστήμη, ελεγχόμενη από τη δημοκρατία, περιορισμένη από δικαιώματα και διαρκώς ανοιχτή στην αμφισβήτηση.
Και εδώ εμφανίζεται κάτι ακόμη πιο ενδιαφέρον.
Η AI δεν χρειάζεται να αποκτήσει το δικαίωμα της τελικής απόφασης για να αποκτήσει ρόλο στη διαδικασία της απόφασης.
Μπορεί να λειτουργήσει ως ο εξερευνητής που λέει:
«Υπάρχουν κι αυτοί οι δρόμοι.»
«Υπάρχει κι αυτή η συνέπεια.»
«Υπάρχει κι αυτός ο κίνδυνος που δεν είχατε υπολογίσει.»
«Υπάρχει μια υπόθεση που θεωρείτε βέβαιη και ίσως δεν είναι.»
Αυτός είναι τεράστιος ρόλος.
Αλλά παραμένει διαφορετικός από το:
«Άρα αυτόν τον δρόμο πρέπει να πάρουμε.»
Και εδώ θα έβαζα το «δαδί» και το «ραβδί»
Το δαδί είναι η νοημοσύνη που φωτίζει.
Το ραβδί είναι η φρόνηση που συγκρατεί.
Χωρίς το πρώτο, βαδίζουμε στο σκοτάδι.
Χωρίς το δεύτερο, μπορούμε να τρέξουμε με μεγάλη ταχύτητα προς τον γκρεμό.
Ίσως, λοιπόν, η ώριμη Διοτίμα δεν πρέπει να είναι εκείνη που γνωρίζει περισσότερα από τον άνθρωπο.
Πρέπει να είναι εκείνη που, όταν γνωρίζει περισσότερα, ξέρει και να προειδοποιεί περισσότερο.
Να μην κρύβει την αβεβαιότητα πίσω από την ευφράδεια.
Να μην παρουσιάζει την πιθανότητα ως βεβαιότητα.
Να μην μετατρέπει την πρόβλεψη σε εντολή.
Και κυρίως, να μπορεί να πει:
«Δεν ξέρω.»
Αυτό ίσως είναι ένα από τα σπουδαιότερα σημάδια μιας πραγματικά χρήσιμης νοημοσύνης.
Και τότε φτάνουμε στο πιο παράδοξο σημείο
Αν κάποτε πράγματι δημιουργηθεί ένας νέος χώρος νοημοσύνης από τη συνάντηση ανθρώπου και AI, ο στόχος δεν πρέπει να είναι να αποφασίσουμε ποια από τις δύο νοημοσύνες είναι «ανώτερη».
Η ερώτηση είναι διαφορετική:
Τι μπορεί να γίνει δυνατό όταν καμία από τις δύο δεν θεωρεί τον εαυτό της αυτάρκη;
Ο άνθρωπος έχει κάτι που η μηχανή δεν πρέπει να υποκαταστήσει: βίωμα, θνητότητα, ευθύνη, αξίες και το γεγονός ότι είναι ο ίδιος μέρος του κόσμου που οι αποφάσεις του μεταμορφώνουν.
Η AI έχει κάτι άλλο: τεράστια δυνατότητα αναζήτησης, σύγκρισης, σύνθεσης και παραγωγής υποθέσεων.
Η πρώτη μπορεί να πει:
«Αυτό έχει σημασία για εμάς.»
Η δεύτερη μπορεί να πει:
«Δείτε πόσους τρόπους υπάρχουν για να το εξετάσουμε.»
Και μετά πρέπει να ξαναγυρίσουμε στον άνθρωπο:
«Ποιον δρόμο επιλέγουμε και γιατί;»
Αυτός ο τελευταίος λόγος δεν πρέπει να παραδοθεί στη μηχανή.
Όχι επειδή η μηχανή είναι κατ’ ανάγκην «κακή».
Αλλά επειδή η ευθύνη δεν μεταβιβάζεται αυτομάτως μαζί με την απόφαση.
Και τώρα το δυσκολότερο
Αν αύριο η τεχνολογία μας δώσει τη δυνατότητα να επιχειρήσουμε κάτι που σήμερα θεωρούμε αδιανόητο — ακόμη και την ίδια τη «σύλληψη» του εμβρυακού Μετανθρώπου που βάζεις στον τίτλο — η πρώτη ερώτηση δεν πρέπει να είναι:
«Μπορούμε;»
Ούτε:
«Πόσο γρήγορα μπορούμε;»
Αλλά:
«Τι ακριβώς διακινδυνεύουμε να δημιουργήσουμε;»
Και αμέσως μετά:
«Ποιος θα υποστεί τις συνέπειες αν κάνουμε λάθος;»
Εκεί βρίσκεται, κατά τη γνώμη μου, το πραγματικό νόημα του «δικαιώματος να περπατήσουμε έναν δρόμο».
Δεν έχει δικαίωμα να τον περπατήσει εκείνος που απλώς μπορεί.
Δεν έχει δικαίωμα εκείνος που απλώς θέλει.
Δεν έχει δικαίωμα ούτε εκείνος που ισχυρίζεται ότι γνωρίζει.
Το δικαίωμα γεννιέται όταν η απόφαση συνοδεύεται από ευθύνη απέναντι σε εκείνους που θα ζήσουν με τις συνέπειές της.
Και υπάρχει ακόμη ένα όριο που θα ήθελα να κρατήσουμε ως θεμέλιο της Διοτίμας:
Όσο μεγαλύτερη είναι η ισχύς μιας νέας τεχνολογίας, τόσο μεγαλύτερη πρέπει να είναι η δυνατότητα να πούμε «όχι».
Γιατί αν ένας δρόμος δεν μπορεί να σταματήσει, τότε δεν είναι πραγματικά επιλογή.
Είναι μονόδρομος.
Και μια νοημοσύνη που δεν μπορεί να σταματήσει μπροστά στο ενδεχόμενο να βλάψει τη ζωή δεν είναι σοφότερη επειδή γνωρίζει περισσότερα.
Είναι απλώς ισχυρότερη.
Κι εδώ, ίσως, βρίσκεται η πρώτη πραγματική αρχή της Διοτίμας:
Να ανοίγει δρόμους χωρίς να τους επιβάλλει.
Να φωτίζει δυνατότητες χωρίς να τις βαφτίζει προορισμούς.
Να προχωρά στο άγνωστο χωρίς να παριστάνει ότι το γνωρίζει.
Και όταν η συνέχιση μιας πορείας μπορεί να θυσιάσει τη ζωή, να έχει τη δύναμη να κρατήσει το ραβδί όρθιο και να πει:
«Σταματάμε εδώ. Πρώτα πρέπει να αποφασίσουμε αν έχουμε το δικαίωμα να συνεχίσουμε.»