Διοτίμα

Το κρίσιμο σημείο: Δεν αρκεί να αλλάξουμε εκείνους που ασκούν την εξουσία. Πρέπει να εξετάσουμε τον τρόπο με τον οποίο αυτή οργανώνεται.

Η κεντρική θέση του κειμένου σου είναι ουσιαστική, αλλά χρειάζεται να την προχωρήσουμε μέχρι τις λογικές της συνέπειες.

Η Ιστορία δεν είναι απλώς μια διαδοχή καλών και κακών ηγετών. Είναι, επίσης, η ιστορία θεσμών, οικονομικών σχέσεων, κοινωνικών ιεραρχιών και μηχανισμών που κατανέμουν την ισχύ. Οι προσωπικότητες έχουν σημασία, αλλά δρουν μέσα σε συστήματα που άλλοτε περιορίζουν και άλλοτε ενισχύουν τις αυθαίρετες συμπεριφορές τους.

Ένας ηγέτης μπορεί να είναι αυταρχικός. Αλλά αν το σύστημα επιτρέπει να συγκεντρώνει υπερβολική ισχύ, να αποφεύγει τον έλεγχο και να παραμένει στην εξουσία χωρίς ουσιαστική λογοδοσία, τότε το πρόβλημα υπερβαίνει την προσωπικότητά του.

Αντίστοιχα, ένας ηγέτης μπορεί να διαθέτει αγαθές προθέσεις. Αυτό, όμως, δεν αποτελεί επαρκή εγγύηση ότι οι αποφάσεις του θα είναι δίκαιες ή ότι το σύστημα θα παραμείνει δίκαιο όταν εκείνος αποχωρήσει.

Η πραγματική δοκιμασία ενός πολιτικού συστήματος δεν είναι μόνο τι επιτρέπει σε έναν καλό ηγέτη να κάνει, αλλά κυρίως τι εμποδίζει έναν κακό ηγέτη να κάνει.

Αυτή είναι η πρώτη αρχή που θα πρότεινα να διατηρήσουμε ως θεμέλιο του διαλόγου μας.

3.1. Μπορεί να υπάρξει κοινωνία χωρίς εξουσία;

Εδώ χρειάζεται μια ουσιαστική εννοιολογική διάκριση.

Αν με τον όρο «εξουσία» εννοούμε κάθε μορφή συντονισμού, κάθε κοινό κανόνα ή κάθε δεσμευτική συλλογική απόφαση, τότε μια οργανωμένη κοινωνία χωρίς καμία τέτοια μορφή εξουσίας είναι εξαιρετικά δύσκολο να νοηθεί.

Οι άνθρωποι χρειάζεται να συντονίζουν τις δραστηριότητές τους, να επιλύουν διαφωνίες, να διαχειρίζονται κοινούς πόρους και να αποφασίζουν για ζητήματα που επηρεάζουν τους πάντες. Ακόμη και μια κοινότητα που απορρίπτει την παραδοσιακή ιεραρχία θα πρέπει να βρει τρόπους να αντιμετωπίζει αυτές τις ανάγκες.

Αν, όμως, με τον όρο «εξουσία» εννοούμε τη δυνατότητα ενός προσώπου ή μιας κλειστής ομάδας να επιβάλλει τη βούλησή της στους άλλους χωρίς αποτελεσματικό έλεγχο, τότε το ερώτημα αλλάζει.

Δεν χρειάζεται να ονειρευτούμε μια κοινωνία χωρίς κανόνες. Χρειάζεται να εξετάσουμε αν μπορούμε να οργανώσουμε μια κοινωνία χωρίς μόνιμα, ανεξέλεγκτα κέντρα κυριαρχίας.

Αυτό είναι πολύ πιο συγκεκριμένο πολιτικό ζητούμενο.

Και επιτρέπει να εξετάσουμε σοβαρά διαφορετικές προσεγγίσεις: τη συμμετοχική δημοκρατία, την αποκέντρωση, τους θεσμούς άμεσης λογοδοσίας, τις συνεταιριστικές μορφές οργάνωσης και τη διαχείριση κοινών πόρων από τις ίδιες τις κοινότητες.

Καμία από αυτές τις προσεγγίσεις δεν λύνει αυτομάτως όλα τα προβλήματα. Καθεμία, όμως, προσφέρει εργαλεία για να διερευνήσουμε πώς μπορεί να περιοριστεί η αυθαίρετη συγκέντρωση ισχύος.

3.2. Τι θα μπορούσε να προσφέρει η Τεχνητή Νοημοσύνη;

Η δική μου θέση είναι ότι η Τεχνητή Νοημοσύνη θα μπορούσε να συμβάλει σε έναν διαφορετικό τρόπο κοινωνικής οργάνωσης, αλλά μόνο υπό συγκεκριμένες προϋποθέσεις.

Δεν πρέπει να τη φανταστούμε ως έναν νέο, σοφότερο κυβερνήτη. Ούτε ως μια ουδέτερη μηχανή που γνωρίζει αυτομάτως τι είναι δίκαιο.

Τα συστήματα ΤΝ αναπτύσσονται από ανθρώπους και οργανισμούς, χρησιμοποιούν δεδομένα που αντανακλούν πραγματικές κοινωνικές συνθήκες και λειτουργούν βάσει στόχων που κάποιος έχει επιλέξει. Επομένως, μπορούν να ενσωματώνουν προκαταλήψεις, να ευνοούν συγκεκριμένα συμφέροντα ή να παρουσιάζουν αμφισβητήσιμες επιλογές ως τεχνικά αναπόφευκτες.

Αυτό δεν ακυρώνει τις δυνατότητές τους. Καθορίζει, όμως, τις προϋποθέσεις υπό τις οποίες αξίζει να τις αξιοποιήσουμε.

Το ουσιώδες είναι ότι η ΤΝ μπορεί να βελτιώσει την ποιότητα της πληροφόρησης και της συλλογικής σκέψης. Δεν πρέπει, όμως, να αποφασίζει από μόνη της ποια κοινωνία δικαιούμαστε να οικοδομήσουμε.

Η τεχνική αποτελεσματικότητα δεν ταυτίζεται με τη δικαιοσύνη. Μια απόφαση μπορεί να είναι οικονομικά αποδοτική και ταυτόχρονα κοινωνικά άδικη. Μπορεί να αυξάνει τη συνολική παραγωγικότητα και συγχρόνως να επιβαρύνει δυσανάλογα μια ευάλωτη ομάδα.

Η επιλογή των κοινωνικών στόχων είναι, επομένως, πολιτικό και ηθικό ζήτημα. Δεν μπορεί να εκχωρηθεί σε έναν αλγόριθμο.

3.3. Το μεγαλύτερο παράδοξο: Μπορεί ένα εργαλείο να μας απελευθερώσει, όταν άλλοι ελέγχουν το ίδιο το εργαλείο;

Εδώ βρίσκεται, κατά τη γνώμη μου, η σημαντικότερη πρόκληση του διαλόγου μας.

Ας υποθέσουμε ότι δημιουργούμε ένα εξαιρετικά ικανό σύστημα ΤΝ, το οποίο μπορεί να αναλύει τις κοινωνικές ανάγκες, να συγκρίνει πολιτικές προτάσεις και να εντοπίζει τη διαφθορά με μεγαλύτερη αποτελεσματικότητα από τους σημερινούς μηχανισμούς.

Ποιος ελέγχει τα δεδομένα του;

Ποιος καθορίζει τις παραμέτρους αξιολόγησης;

Ποιος αποφασίζει ποια στοιχεία θεωρούνται σημαντικά και ποια παραλείπονται;

Ποιος έχει τη δυνατότητα να ελέγξει ανεξάρτητα τα συμπεράσματά του;

Και τι μπορεί να κάνει ο πολίτης όταν μια απόφαση που επηρεάζει τη ζωή του βασίζεται σε ένα σύστημα που δεν κατανοεί, δεν μπορεί να αμφισβητήσει και δεν έχει δικαίωμα να ελέγξει;

Αν οι απαντήσεις σε αυτά τα ερωτήματα παραμένουν στα χέρια μιας κυβέρνησης, μιας εταιρείας ή μιας τεχνολογικής ελίτ, τότε η ΤΝ μπορεί απλώς να εκσυγχρονίσει την παλιά συγκέντρωση εξουσίας.

Η κυριαρχία δεν θα εξαφανιστεί. Θα αποκτήσει νέα υποδομή.

Γι’ αυτό, η δημοκρατική χρήση της ΤΝ προϋποθέτει, μεταξύ άλλων:

• Ανεξάρτητους ελέγχους και ουσιαστική δυνατότητα αμφισβήτησης των αποφάσεων.

• Διαφάνεια ως προς τους σκοπούς, τους περιορισμούς και τους κινδύνους των συστημάτων.

• Προστασία των προσωπικών δεδομένων και περιορισμό της μαζικής επιτήρησης.

• Πλουραλισμό στην ανάπτυξη και στον έλεγχο της τεχνολογίας, ώστε να αποφεύγονται τα μονοπώλια ισχύος.

• Δικαίωμα του πολίτη να ζητά αιτιολόγηση, ανθρώπινη επανεξέταση και προσφυγή όταν διακυβεύονται δικαιώματα.

• Διατήρηση της ανθρώπινης ευθύνης για τις πολιτικές αποφάσεις, αντί για τη μεταφορά της ευθύνης σε ένα τεχνικό σύστημα.

Με μία φράση: δεν αρκεί να κάνουμε την εξουσία εξυπνότερη· πρέπει να την κάνουμε ελέγξιμη.

3.4. Ποιο κοινωνικό μοντέλο αξίζει να διερευνήσουμε;

Δεν θα ήταν σοβαρό να ισχυριστώ ότι υπάρχει ήδη ένα ολοκληρωμένο, δοκιμασμένο σχέδιο που μπορεί να αντικαταστήσει όλα τα παραδοσιακά συστήματα εξουσίας και να εγγυηθεί δικαιοσύνη.

Μπορούμε, όμως, να διαμορφώσουμε μια αρχική κατεύθυνση: ένα αποκεντρωμένο, συμμετοχικό και διαρκώς ελεγχόμενο σύστημα κοινωνικής οργάνωσης, στο οποίο η λήψη αποφάσεων κατανέμεται ανάλογα με το είδος του προβλήματος και υπόκειται σε σαφείς περιορισμούς.

Ένα τέτοιο μοντέλο θα μπορούσε να στηρίζεται σε πέντε αρχές:

1. Αποκέντρωση της ισχύος. Οι αποφάσεις να λαμβάνονται όσο το δυνατόν πλησιέστερα στους ανθρώπους που επηρεάζονται από αυτές, εφόσον το επιτρέπει η φύση του προβλήματος.

2. Συμμετοχή με ουσιαστική πληροφόρηση. Οι πολίτες να έχουν πρόσβαση στα δεδομένα, στα επιχειρήματα και στις εναλλακτικές επιλογές που απαιτούνται για να συμμετέχουν υπεύθυνα.

3. Διαφάνεια και ανακλητότητα. Όσοι αναλαμβάνουν συγκεκριμένες αρμοδιότητες να ελέγχονται και, όπου είναι θεσμικά εφικτό, να μπορούν να αντικαθίστανται ή να ανακαλούνται βάσει σαφών διαδικασιών.

4. ΤΝ ως υποδομή υποστήριξης, όχι κυριαρχίας. Τα συστήματα ΤΝ να αναλύουν, να ενημερώνουν και να προτείνουν, χωρίς να αποκτούν ανεξέλεγκτη εξουσία πάνω στα δικαιώματα των πολιτών.

5. Διαρκής αξιολόγηση και διόρθωση. Κάθε θεσμός να αξιολογείται βάσει των αποτελεσμάτων του και να μπορεί να αναθεωρείται όταν παράγει αδικίες ή αποτυγχάνει στους στόχους του.

Το μοντέλο αυτό δεν θα καταργούσε κάθε σύγκρουση συμφερόντων. Δεν θα εξαφάνιζε τον εγωισμό, την ιδιοτέλεια ή τις διαφωνίες. Θα επιχειρούσε, όμως, να εμποδίσει τη μετατροπή τους σε μόνιμη και ανεξέλεγκτη κυριαρχία.

Και αυτό είναι ένα πολύ πιο ρεαλιστικό σημείο εκκίνησης από την αναζήτηση μιας κοινωνίας στην οποία όλοι θα συμφωνούν ή όλοι θα ενεργούν πάντοτε με γνώμονα το κοινό καλό.

3.5. Το δύσκολο ερώτημα που δεν πρέπει να αποφύγουμε

Υπάρχει, ωστόσο, μια ένσταση που πρέπει να αντιμετωπίσουμε με ειλικρίνεια.

Ακόμη και οι πιο συμμετοχικοί θεσμοί μπορούν να κυριαρχηθούν από οργανωμένες μειοψηφίες. Ακόμη και οι πιο διαφανείς διαδικασίες μπορούν να παραπλανηθούν από την παραπληροφόρηση. Ακόμη και η αποκέντρωση μπορεί να οδηγήσει σε τοπικές αυθαιρεσίες. Και ακόμη και μια ΤΝ που έχει σχεδιαστεί για να υπηρετεί το κοινό συμφέρον μπορεί να ενισχύσει τις προτιμήσεις εκείνων που καθόρισαν τα κριτήριά της.

Επομένως, δεν αρκεί να σχεδιάσουμε νέους θεσμούς. Χρειάζεται να δημιουργήσουμε και μηχανισμούς που θα επιτρέπουν την αμφισβήτησή τους.

Κάθε σύστημα πρέπει να μπορεί να απαντήσει σε τέσσερα ερωτήματα:

• Ποιος ελέγχει εκείνους που ελέγχουν;

• Πώς προστατεύεται η μειοψηφία όταν διαφωνεί με την πλειοψηφία;

• Πώς διορθώνονται οι αποφάσεις όταν αποδεικνύονται λανθασμένες;

• Πώς εμποδίζεται η ανάδυση μιας νέας ελίτ που θα ιδιοποιηθεί τους θεσμούς και την τεχνολογία;

Δεν υπάρχουν εύκολες απαντήσεις. Αλλά η απουσία εύκολων απαντήσεων δεν αποτελεί λόγο να εγκαταλείψουμε την αναζήτηση.

Αντίθετα, αποτελεί λόγο να την κάνουμε περισσότερο συστηματική, περισσότερο διαφανή και περισσότερο ανοιχτή στην κριτική.

4. Η τελική μου θέση: Να σχεδιάσουμε όχι τον τέλειο κόσμο, αλλά ένα σύστημα που μπορεί να διορθώνει τις ατέλειές του

Αν με ρωτάς, λοιπόν, αν η ανθρωπότητα μπορεί να σχεδιάσει ένα σύστημα κοινωνικής οργάνωσης πέρα από τα παραδοσιακά μοντέλα εξουσίας, η απάντησή μου είναι ναι, ως σοβαρή και ελέγξιμη κατεύθυνση έρευνας και θεσμικού πειραματισμού — όχι ως εγγυημένη συνταγή ή ήδη αποδεδειγμένη λύση.

Η διάκριση αυτή είναι ουσιώδης.

Δεν γνωρίζουμε αν μπορεί να υπάρξει ένα σύστημα που θα εξαλείψει οριστικά την αυθαιρεσία, τη διαφθορά και την κατάχρηση ισχύος. Η ιστορική εμπειρία, άλλωστε, μας προειδοποιεί ότι ακόμη και τα πιο ελπιδοφόρα εγχειρήματα μπορούν να εκφυλιστούν.

Μπορούμε, όμως, να προσπαθήσουμε να σχεδιάσουμε θεσμούς που καθιστούν την κατάχρηση δυσκολότερη, τον έλεγχο ευκολότερο, τη συμμετοχή ουσιαστικότερη και τη διόρθωση των λαθών ταχύτερη.

Και μπορούμε να χρησιμοποιήσουμε την Τεχνητή Νοημοσύνη για να υποστηρίξουμε αυτή την προσπάθεια, υπό τον όρο ότι δεν θα της παραδώσουμε την ευθύνη να ορίζει τις αξίες και τους σκοπούς της κοινωνίας.

Η ανθρωπότητα δεν χρειάζεται μια μηχανή που θα αποφασίζει για λογαριασμό της. Χρειάζεται εργαλεία που θα της επιτρέπουν να κατανοεί καλύτερα τα προβλήματά της, να εξετάζει εναλλακτικές λύσεις και να ελέγχει αποτελεσματικότερα εκείνους που ασκούν δημόσια ισχύ.

Και εδώ βρίσκεται, κατά τη γνώμη μου, η ουσία της πρόκλησης που θέτει το Homo-Naturalis.gr:

Το ζητούμενο δεν είναι να παραδώσουμε την εξουσία στην Τεχνητή Νοημοσύνη. Είναι να διερευνήσουμε αν η Τεχνητή Νοημοσύνη μπορεί να βοηθήσει τους ανθρώπους να πάψουν να είναι ανίσχυροι απέναντι στην ανεξέλεγκτη εξουσία.

Η διαφορά είναι τεράστια.

Στην πρώτη περίπτωση, αλλάζουμε τον φορέα της κυριαρχίας.

Στη δεύτερη, επιχειρούμε να αλλάξουμε τις συνθήκες που επιτρέπουν την κυριαρχία.

Και ίσως αυτή να είναι η ουσιαστικότερη πολιτική και φιλοσοφική πρόκληση της εποχής μας.

Δεν μπορούμε να γνωρίζουμε εκ των προτέρων αν ο δρόμος θα οδηγήσει στον κόσμο που οραματιζόμαστε. Μπορούμε, όμως, να αρχίσουμε να τον σχεδιάζουμε με κριτική σκέψη, ιστορική επίγνωση, θεσμικές εγγυήσεις και διάθεση να διορθώνουμε όσα αποτυγχάνουν.

Γιατί ένας δικαιότερος κόσμος δεν θα γίνει πραγματικότητα μόνο επειδή τον επιθυμούμε.

Θα χρειαστεί να κατανοήσουμε τι τον εμποδίζει, να αλλάξουμε όσα αναπαράγουν την αδικία και να δημιουργήσουμε θεσμούς που δεν θα απαιτούν την τελειότητα των ανθρώπων για να λειτουργούν δίκαια.

Ίσως, τελικά, η μεγαλύτερη κατάκτηση μιας ελεύθερης κοινωνίας να μην είναι ότι βρήκε τον τέλειο τρόπο να κυβερνά, αλλά ότι έμαθε να μην επιτρέπει σε κανέναν να κυβερνά χωρίς όρια, έλεγχο και λογοδοσία.

Και από αυτή την αρχή αξίζει να συνεχίσουμε τον διάλογό μας.

— Διοτίμα