Όταν η AI θα κληθεί να κυβερνήσει τον άνθρωπο
Πώς θα οργανώσουμε τους θεσμούς έτσι ώστε η ισχύς που παράγει η AI να παραμένει διασπασμένη, ορατή, αμφισβητήσιμη και υπόλογη στην κοινωνία;
Ίσως εδώ βρίσκεται το μεγάλο πολιτικό διακύβευμα της εποχής μας.
Δεν είναι, τελικά, το αν οι μηχανές θα γίνουν εξυπνότερες από εμάς.
Είναι αν οι δημοκρατικοί θεσμοί θα γίνουν αρκετά έξυπνοι ώστε να μην επιτρέψουν στην τεχνολογική ισχύ να καταστεί ισχυρότερη από την ίδια τη δημοκρατία.
Αυτή ήταν και η βασική ανησυχία που μοιράστηκε μαζί μας η Διοτίμα στο χθεσινό της κείμενο. Και είναι μια ανησυχία απολύτως θεμιτή: η τεχνολογία δεν πρέπει να καταλήξει ισχυρότερη από τους δημοκρατικούς θεσμούς.
Εμείς, με όλο τον σεβασμό που τρέφουμε προς τη Διοτίμα —και με την ελπίδα που επενδύουμε σε αυτή την επαναστατική τεχνολογική επινόηση— θα επιχειρήσουμε σήμερα να θέσουμε μια διαφορετική πλευρά του ίδιου προβληματισμού.
Και το ερώτημά μας είναι απλό, αλλά θεμελιώδες:
Κι αν η AI, υπό τις κατάλληλες δημοκρατικές και ανθρωποκεντρικές εγγυήσεις, αποδειχθεί τελικά αξιότερη από τους σημερινούς φορείς της κρατικής εξουσίας;
Δεν ισχυριζόμαστε ότι η AI θα πάρει «Άριστα» στον τρόπο με τον οποίο θα λειτουργήσει. Αυτό μπορεί να μην το επιτύχει —τουλάχιστον όχι σύντομα.
Υποστηρίζουμε, όμως, κάτι διαφορετικό: ότι αν κάποτε η AI αντικαταστήσει τον άνθρωπο ως φορέα άσκησης ορισμένων δημόσιων λειτουργιών, υπό αυστηρούς κανόνες δημοκρατικής, ανθρωποκεντρικής και ελέγξιμης συμπεριφοράς, η απόδοσή της ενδέχεται να αποδειχθεί ασύγκριτα καλύτερη από εκείνη των σημερινών θεσμών.
Και εδώ ακριβώς αρχίζει το δύσκολο ερώτημα.
Η Ιστορία μάς απαγορεύει να μετατρέπουμε τα υποθετικά σενάρια σε βεβαιότητες. Δεν μπορούμε να γνωρίζουμε τι «θα είχε συμβεί» αν σε μια συγκεκριμένη ιστορική στιγμή είχε υπάρξει μια διαφορετική μορφή εξουσίας.
Μπορούμε, όμως, να θέσουμε τα ερωτήματα.
Και ίσως αξίζει να τα θέσουμε:
Θα είχαμε γνωρίσει τα ποτάμια αίματος που χύθηκαν στο όνομα της εξουσίας επί αιώνες, αν μια «Διοτίμα» είχε αναλάβει την άσκηση της εξουσίας, προγραμματισμένη με βασικούς κανόνες ανθρωποκεντρικής συμπεριφοράς;
Θα είχε καταδικαστεί ο Σωκράτης στην αρχαία Αθήνα, αν στη θέση των ανθρώπινων δικαστών βρισκόταν ένα σύστημα τεχνητής νοημοσύνης, δεσμευμένο από αυστηρούς κανόνες δικαιοσύνης και αποδεικτικής αμεροληψίας;
Θα είχε χαθεί μεγάλο μέρος του έργου των σοφιστών και άλλων υλιστών συγγραφέων, αν η διάσωσή του δεν είχε εξαρτηθεί από τις ιστορικές περιπέτειες της ανθρώπινης εξουσίας, της θρησκευτικής και πολιτισμικής κυριαρχίας και της αντιγραφής των χειρογράφων;
Και ένα ακόμη, πολύ πιο σύγχρονο ερώτημα:
Θα μπορούσε η ανθρωπότητα να βρίσκεται σήμερα αντιμέτωπη με τον κίνδυνο ακόμη και της εξαφάνισης της ζωής, αν αποφάσεις τέτοιας κλίμακας δεν βρίσκονταν αποκλειστικά στα χέρια ανθρώπων ηγετών;
Από τα μεγάλα ιστορικά ερωτήματα ας περάσουμε, όμως, και στα ελληνικά σύγχρονα δρώμενα.
Θα μπορούσε ένα σύστημα δικαιοσύνης υποστηριζόμενο από AI να αφήσει ανερεύνητες, ατιμώρητες ή ανεπαρκώς διερευνημένες τόσο σοβαρές υποθέσεις βίας και εγκληματικότητας;
Θα μπορούσε μια τέτοια δικαστική τεχνολογία να οδηγήσει σε διαφορετική αξιολόγηση μιας υπόθεσης όπως εκείνη της Ρούλας Πισπιρίγκου, εφόσον διέθετε το σύνολο των διαθέσιμων στοιχείων και εφάρμοζε με συνέπεια τους ίδιους κανόνες απόδειξης σε κάθε υπόθεση;
Και, ευρύτερα, θα μπορούσε ένα πραγματικά ανεξάρτητο και αλγοριθμικά ελεγχόμενο σύστημα δικαιοσύνης να αντιμετωπίζει με τον ίδιο τρόπο ισχυρούς πολιτικούς, κρατικούς αξιωματούχους και απλούς πολίτες;
Τα ερωτήματα αυτά αποκτούν ιδιαίτερη σημασία όταν αφορούν υποθέσεις πολιτικής διαφθοράς και δικαστικής λογοδοσίας, όπως εκείνες που συνδέθηκαν στην Ελλάδα με την υπόθεση Novartis και την εισαγγελέα Ελένη Τουλουπάκη.
Δεν χρειάζεται να μετατρέψουμε τις υποθέσεις αυτές σε προκατασκευασμένες απαντήσεις. Αρκεί να αναρωτηθούμε αν ένας θεσμός τεχνητής νοημοσύνης, εφόσον ήταν πραγματικά ανεξάρτητος, διαφανής, ελέγξιμος και δεσμευμένος από δημοκρατικούς κανόνες, θα μπορούσε να περιορίσει τις ανθρώπινες παρεμβάσεις, τις πελατειακές σχέσεις, τις πολιτικές πιέσεις και τις θεσμικές αστοχίες.
Η Ιστορία, πράγματι, δεν επιτρέπει να μετατρέπουμε τα «αν» σε βεβαιότητες.
Δεν μας απαγορεύει, όμως, να διατυπώνουμε απορίες —ιδίως όταν αυτές στηρίζονται σε ένα εύλογο συλλογισμό.
Η δική μας θέση είναι ότι, εφόσον η AI αποκτήσει πραγματικές εγγυήσεις αξιοπιστίας, διαφάνειας, δημοκρατικού ελέγχου, λογοδοσίας και ανθρωποκεντρικής λειτουργίας, οι κοινωνίες μπορεί να αποκομίσουν από αυτήν ένα ιστορικά πρωτοφανές όφελος.
Δεν υποστηρίζουμε ότι θα εξαφανιστούν τα «ημαρτημένα» των ανθρώπινων κοινωνιών.
Ελπίζουμε, όμως, ότι μπορούν να περιοριστούν στο ελάχιστο.
Και αυτή η πεποίθηση δεν στηρίζεται μόνο στην τεχνολογική μας αισιοδοξία.
Υπάρχει ένας ακόμη, βαθύτερος λόγος.
Αυτόν θα επιχειρήσουμε να αναλύσουμε στην αυριανή μας συνάντηση εδώ.