Υπάρχει ένα ερώτημα που ακούγεται ολοένα συχνότερα:
«Ποιος ελέγχει την τεχνητή νοημοσύνη;»
Είναι όμως ήδη ένα δεύτερο ερώτημα.
Το βαθύτερο προηγείται:
Ποιος έχει τη δύναμη να αποφασίζει τι θα κάνει η τεχνητή νοημοσύνη μέσα στην κοινωνία — και ποιος έχει τη δύναμη να τον ελέγξει;
Γιατί η AI, από μόνη της, δεν είναι πολιτική εξουσία. Η εξουσία βρίσκεται στο σύνολο των υποδομών, των δεδομένων, των κεφαλαίων, των υπολογιστικών πόρων, των αλγορίθμων, των επιχειρήσεων, των κρατικών μηχανισμών και των θεσμών που αποφασίζουν πού, πώς και για ποιον σκοπό θα χρησιμοποιηθεί.
Άρα το πρόβλημα δεν είναι απλώς να βάλουμε «κανόνες στην AI».
Είναι να δημιουργήσουμε δημοκρατικούς θεσμούς ικανούς να κυβερνούν μια νέα μορφή τεχνολογικής εξουσίας.
Και εδώ αλλάζει ολόκληρη η συζήτηση.
1. Η λάθος εικόνα: ότι η AI είναι ένας «εγκέφαλος» που πρέπει κάποιος να τιθασεύσει
Η δημόσια συζήτηση συχνά προσωποποιεί την τεχνητή νοημοσύνη.
Μιλάμε για το τι «θέλει» η AI, τι «σκέφτεται» ένα μοντέλο, αν η AI θα «ξεφύγει».
Αυτό μπορεί να είναι ενδιαφέρον ως φιλοσοφικό ερώτημα, αλλά κοινωνικά μετατοπίζει την προσοχή.
Ένα μοντέλο δεν αποφασίζει μόνο του ότι θα χρησιμοποιηθεί για προσλήψεις, πιστοληπτική αξιολόγηση, αστυνόμευση, εκπαίδευση, πολεμικές εφαρμογές, διαφήμιση ή δημόσιες υπηρεσίες.
Κάποιος το εγκαθιστά. Κάποιος το αγοράζει. Κάποιος ορίζει τον σκοπό. Κάποιος επιλέγει τα δεδομένα. Κάποιος καθορίζει τα όρια. Κάποιος επωφελείται. Κάποιος υφίσταται τις συνέπειες.
Η πραγματική πολιτική ερώτηση λοιπόν δεν είναι:
«Πώς θα ελέγξουμε μια έξυπνη μηχανή;»
Αλλά:
«Πώς θα ελέγξουμε τις κοινωνικές σχέσεις εξουσίας μέσα στις οποίες λειτουργεί η έξυπνη μηχανή;»
Αυτή είναι πολύ μεγαλύτερη ερώτηση.
2. Η AI δημιουργεί ένα νέο πρόβλημα δημοκρατίας
Η κλασική δημοκρατία γνωρίζει πώς να ελέγχει, τουλάχιστον θεωρητικά, την πολιτική εξουσία.
Έχουμε:
- εκλογές,
- κοινοβούλια,
- δικαστήρια,
- ανεξάρτητες αρχές,
- ελευθερία του Τύπου,
- συνδικάτα,
- κοινωνικές οργανώσεις,
- δικαιώματα προσφυγής,
- δημόσιο έλεγχο.
Αλλά η τεχνολογική εξουσία δεν συμπίπτει με την κρατική εξουσία.
Μια ιδιωτική εταιρεία μπορεί να διαθέτει υπολογιστική ισχύ, δεδομένα, τεχνογνωσία και υποδομές που καμία μεμονωμένη δημόσια υπηρεσία δεν διαθέτει.
Και ένα κράτος μπορεί να χρησιμοποιεί συστήματα που οι πολίτες δεν κατανοούν, ενώ ταυτόχρονα οι ίδιοι οι δημόσιοι θεσμοί μπορεί να εξαρτώνται από ιδιωτικές τεχνολογικές υποδομές.
Έτσι εμφανίζεται μια καινούργια μορφή πολιτικού προβλήματος:
η κοινωνία μπορεί να έχει δημοκρατικούς θεσμούς, αλλά να μην έχει αντίστοιχη δημοκρατική ικανότητα πάνω στις τεχνολογίες από τις οποίες εξαρτάται.
Αυτό είναι το πραγματικό χάσμα.
3. Η «τεχνολογική εξουσία» δεν βρίσκεται μόνο στον αλγόριθμο
Ας πάρουμε ένα υποθετικό σύστημα AI που αξιολογεί αιτήσεις για μια δημόσια παροχή.
Ποιος το ελέγχει;
Η απάντηση «ο προγραμματιστής» είναι ανεπαρκής.
Πρέπει να ρωτήσουμε:
Ποιος αποφάσισε ότι πρέπει να αυτοματοποιηθεί η διαδικασία;
Ποιος επέλεξε τα δεδομένα;
Ποιος καθόρισε τι θεωρείται «κανονικός» πολίτης;
Ποιος αποφάσισε ποιο λάθος είναι αποδεκτό;
Ποιος ελέγχει τον αλγόριθμο;
Ποιος έχει πρόσβαση στον κώδικα και στα δεδομένα;
Ποιος μπορεί να αμφισβητήσει την απόφαση;
Ποιος αποζημιώνει τον άνθρωπο που ζημιώθηκε;
Και κυρίως:
Ποιος αποφασίζει αν πρέπει να χρησιμοποιείται εξαρχής;
Εδώ βρίσκεται η μετάβαση από την «ηθική της AI» στην πολιτική οικονομία της AI.
4. Η διαφάνεια δεν αρκεί
Συχνά ακούμε:
«Να είναι διαφανής ο αλγόριθμος.»
Αλλά η διαφάνεια από μόνη της δεν είναι δημοκρατία.
Ένας αλγόριθμος μπορεί να είναι απολύτως διαφανής και παρ’ όλα αυτά να υπηρετεί έναν κοινωνικά αμφισβητήσιμο σκοπό.
Γι’ αυτό χρειάζονται τουλάχιστον τέσσερα επίπεδα:
1. Διαφάνεια
Να γνωρίζουμε ότι ένα σύστημα χρησιμοποιείται, από ποιον και για ποιο σκοπό.
2. Εξηγησιμότητα
Να μπορούμε να καταλάβουμε γιατί παρήγαγε ένα συγκεκριμένο αποτέλεσμα, στο μέτρο που αυτό είναι τεχνικά και νομικά εφικτό.
3. Αμφισβητησιμότητα
Ο πολίτης πρέπει να μπορεί να πει:
«Η μηχανή έκανε λάθος.»
Και να υπάρχει πραγματική διαδικασία ακρόασης και επανεξέτασης.
4. Λογοδοσία
Πρέπει να υπάρχει συγκεκριμένος άνθρωπος, οργανισμός ή δημόσια αρχή που τελικά φέρει την ευθύνη.
Αν η απάντηση σε ένα λάθος είναι:
«Έτσι το έβγαλε το μοντέλο»,
τότε δεν έχουμε λογοδοσία.
Έχουμε μεταβίβαση της ευθύνης στη μηχανή.
Και αυτό είναι δημοκρατικά επικίνδυνο.
Οι αρχές του OECD, για παράδειγμα, συνδέουν ρητά τη διαφάνεια με τη δυνατότητα των ανθρώπων που επηρεάζονται από μια AI απόφαση να κατανοήσουν το αποτέλεσμα και να το αμφισβητήσουν, ενώ θέτουν την accountability ως ξεχωριστή αρχή.
5. Από τον «άνθρωπο στον βρόχο» στον «πολίτη μέσα στον βρόχο»
Εδώ χρειάζεται μια ακόμη βαθύτερη διάκριση.
Μπορεί να έχουμε human-in-the-loop και παρ’ όλα αυτά να μην έχουμε δημοκρατικό έλεγχο.
Ένας υπάλληλος μπορεί να έχει θεωρητικά την τελευταία λέξη.
Αλλά αν:
- δεν κατανοεί το σύστημα,
- δεν έχει χρόνο να το ελέγξει,
- θεωρεί ότι «ο αλγόριθμος ξέρει καλύτερα»,
- δεν έχει δικαίωμα να αποκλίνει,
- και αξιολογείται ο ίδιος με βάση το πόσο ακολουθεί το σύστημα,
τότε ο άνθρωπος υπάρχει τυπικά στον βρόχο, αλλά ουσιαστικά η απόφαση έχει ήδη μεταφερθεί στη μηχανή.
Γι’ αυτό το ζητούμενο πρέπει να γίνει:
citizen-in-the-loop — ο πολίτης μέσα στον βρόχο της τεχνολογικής εξουσίας.
Δηλαδή ο πολίτης να μην εμφανίζεται μόνο ως «χρήστης» μιας τεχνολογίας.
Να εμφανίζεται ως υποκείμενο δικαιωμάτων και συνδιαμορφωτής των κανόνων που καθορίζουν τη χρήση της.
Η UNESCO, στη σύστασή της για την ηθική της AI, συνδέει ακριβώς την ανθρώπινη εποπτεία με την ευθύνη, τη συμμετοχή, την παιδεία, την ακουσιμότητα και την προστασία των δικαιωμάτων.
6. Η δημοκρατία δεν πρέπει να ελέγχει μόνο τα αποτελέσματα. Πρέπει να ελέγχει και τις υποδομές.
Εδώ φτάνουμε ίσως στο πιο δύσκολο σημείο.
Αν μια κοινωνία αφήσει όλες τις κρίσιμες AI υποδομές να συγκεντρωθούν σε ελάχιστους ιδιωτικούς φορείς, τότε μπορεί να ρυθμίζει τις εφαρμογές χωρίς να ελέγχει πραγματικά την τεχνολογική βάση τους.
Η δημοκρατική συζήτηση επομένως πρέπει να επεκταθεί σε:
- υπολογιστική ισχύ,
- δεδομένα,
- cloud υποδομές,
- ενεργειακή κατανάλωση,
- πρόσβαση σε ερευνητικές υποδομές,
- πρότυπα και τεχνικά πρωτόκολλα,
- μοντέλα θεμελίωσης,
- δημόσια ερευνητική χρηματοδότηση,
- δημόσιες ψηφιακές υποδομές.
Γιατί όποιος ελέγχει την υποδομή έχει συχνά μεγαλύτερη δύναμη από εκείνον που ελέγχει την εφαρμογή.
7. Η απάντηση δεν είναι «να πάρει το κράτος την AI»
Αυτό θα ήταν μια υπεραπλούστευση.
Το κράτος είναι απαραίτητο για τη θέσπιση και επιβολή κανόνων, αλλά το ίδιο το κράτος μπορεί να χρησιμοποιήσει την AI με τρόπους που περιορίζουν δικαιώματα.
Επομένως το δίλημμα δεν είναι:
ιδιωτική εξουσία ή κρατική εξουσία.
Το δημοκρατικό ζητούμενο είναι:
ιδιωτική και κρατική τεχνολογική εξουσία υπό κοινωνικό, νομικό και θεσμικό έλεγχο.
Αυτό σημαίνει πολλαπλά αντίβαρα.
8. Χρειαζόμαστε «θεσμούς τεχνολογικής λογοδοσίας»
Φανταστείτε ένα σύστημα παρόμοιο με αυτό που η δημοκρατία έχει δημιουργήσει για άλλες ισχυρές κοινωνικές λειτουργίες.
Όχι μία «Υπηρεσία AI» που θα ελέγχει τα πάντα.
Αλλά ένα οικοσύστημα ελέγχου:
Ανεξάρτητες εποπτικές αρχές
Με τεχνική επάρκεια, πραγματικές εξουσίες ελέγχου και πόρους.
Ανεξάρτητοι τεχνικοί ελεγκτές
Όχι μόνο εταιρικά compliance departments.
Δικαστικός έλεγχος
Με δυνατότητα του πολίτη να αμφισβητεί αυτοματοποιημένες αποφάσεις.
Κοινοβουλευτικός έλεγχος
Οι βουλευτές δεν μπορούν να ελέγξουν κάτι που δεν καταλαβαίνουν τεχνικά.
Άρα χρειάζονται ανεξάρτητες επιστημονικές δομές που να μπορούν να μεταφράζουν την τεχνολογία σε πολιτική γνώση.
Κοινωνικός έλεγχος
Συνδικάτα, ενώσεις πολιτών, πανεπιστήμια, δημοσιογράφοι, οργανώσεις δικαιωμάτων και επαγγελματικοί φορείς πρέπει να μπορούν να εξετάζουν και να αμφισβητούν συστήματα.
Η κατεύθυνση αυτή δεν είναι πλέον μόνο θεωρητική. Ο ευρωπαϊκός AI Act προβλέπει ήδη πολυεπίπεδη αρχιτεκτονική με AI Office, εθνικές αρμόδιες αρχές, AI Board, επιστημονικό panel και advisory forum. Από τις 2 Αυγούστου 2026 οι βασικές αρμοδιότητες εφαρμογής και επιβολής του κανονισμού πέρασαν σε λειτουργία.
Το ενδιαφέρον, όμως, είναι ακριβώς εδώ:
η ύπαρξη θεσμών δεν ισοδυναμεί αυτομάτως με δημοκρατικό έλεγχο.
Το κρίσιμο είναι ποιος έχει πρόσβαση, ποιος έχει πόρους, ποιος μπορεί να ελέγξει ποιον και ποιος τελικά μπορεί να πει «όχι».
9. Η κοινωνία χρειάζεται δικαίωμα να λέει «όχι»
Αυτό είναι ίσως το πιο υποτιμημένο δημοκρατικό δικαίωμα.
Δεν αρκεί να μπορούμε να ζητήσουμε:
«Εξήγησέ μου γιατί το AI έκανε αυτό.»
Πρέπει σε ορισμένες περιπτώσεις να μπορούμε να πούμε:
«Δεν δεχόμαστε να χρησιμοποιείται αυτή η τεχνολογία γι’ αυτόν τον σκοπό.»
Δηλαδή η δημοκρατική διακυβέρνηση χρειάζεται κόκκινες γραμμές.
Ορισμένες εφαρμογές μπορεί να πρέπει να απαγορεύονται.
Άλλες να επιτρέπονται μόνο υπό αυστηρές προϋποθέσεις.
Και άλλες να παραμένουν ανοιχτές σε πειραματισμό.
Αυτή είναι ήδη μια λογική που εμφανίζεται στο ευρωπαϊκό και διεθνές πλαίσιο: ο AI Act απαγορεύει συγκεκριμένες πρακτικές AI που θεωρούνται μη αποδεκτές λόγω των κινδύνων τους, ενώ η Σύμβαση του Συμβουλίου της Ευρώπης για AI, ανθρώπινα δικαιώματα, δημοκρατία και κράτος δικαίου προβλέπει μεταξύ άλλων εκτιμήσεις επιπτώσεων και δυνατότητα θέσπισης απαγορεύσεων ή μορατόριουμ για ορισμένες εφαρμογές.
Το σημαντικό εδώ είναι η αρχή:
η τεχνολογική δυνατότητα δεν αποτελεί από μόνη της κοινωνική νομιμοποίηση.
Το ότι μπορούμε να κάνουμε κάτι δεν σημαίνει ότι πρέπει να το κάνουμε.
10. Η δημοκρατική AI χρειάζεται «προηγούμενη» δημοκρατία
Ένα από τα μεγαλύτερα λάθη θα ήταν να περιμένουμε να εμφανιστεί μια βλάβη και μετά να προσπαθήσουμε να διορθώσουμε το σύστημα.
Η δημοκρατική διακυβέρνηση πρέπει να μετακινηθεί προς τα πίσω:
πριν από τον σχεδιασμό, πριν από την ανάπτυξη, πριν από την εγκατάσταση.
Για κάθε σημαντικό AI σύστημα θα μπορούσαμε να ρωτάμε:
- Ποιο κοινωνικό πρόβλημα υποτίθεται ότι λύνει;
- Είναι πράγματι αναγκαία η AI;
- Ποιοι θα ωφεληθούν;
- Ποιοι μπορεί να ζημιωθούν;
- Ποια δεδομένα χρησιμοποιούνται;
- Ποιος έχει πρόσβαση σε αυτά;
- Ποιος έχει οικονομικό συμφέρον;
- Ποιος ελέγχει τον πάροχο;
- Πώς ελέγχεται το σύστημα;
- Πώς μπορεί ένας πολίτης να προσβάλει μια απόφαση;
- Ποιος σταματά το σύστημα;
- Ποιος πληρώνει όταν προκαλείται ζημιά;
Αυτό είναι κάτι περισσότερο από algorithmic impact assessment.
Είναι ένα είδος δημοκρατικής εκτίμησης τεχνολογικού αντικτύπου.
11. Και εδώ επιστρέφουμε στην αρχαία ιδέα της πολιτικής
Υπάρχει ένα παράδοξο.
Η τεχνητή νοημοσύνη είναι εξαιρετικά νέα.
Αλλά το βασικό πρόβλημα που δημιουργεί είναι αρχαίο:
Πώς μπορεί μια κοινωνία να οργανώσει την ισχύ έτσι ώστε κανένας φορέας ισχύος να μην γίνει ανεξέλεγκτος;
Αυτό είναι το κλασικό πρόβλημα της πολιτικής.
Οι αρχαίες δημοκρατίες δεν είχαν αλγορίθμους.
Είχαν όμως επίγνωση ότι η εξουσία πρέπει να είναι ορατή, ελέγξιμη, περιορισμένη και ανακλητή.
Το σύγχρονο πρόβλημα είναι ότι η τεχνολογική εξουσία μπορεί να γίνει αόρατη.
Δεν εμφανίζεται πάντα ως διαταγή.
Εμφανίζεται ως:
- «σύσταση»,
- «πρόβλεψη»,
- «βαθμολογία»,
- «βελτιστοποίηση»,
- «αυτοματισμός»,
- «ουδέτερος υπολογισμός».
Και ακριβώς γι’ αυτό είναι τόσο σημαντικό να ξαναβρούμε την πολιτική διάσταση της τεχνολογίας.
12. Το πιο επικίνδυνο σημείο: όταν η πολιτική αρχίζει να μοιάζει με τεχνικό πρόβλημα
Ας φανταστούμε ότι ένας αλγόριθμος λέει:
«Η αποτελεσματικότερη κατανομή των πόρων είναι αυτή.»
Αμέσως εμφανίζεται μια κρίσιμη ερώτηση:
Αποτελεσματικότερη για ποιον σκοπό;
Γιατί η αποτελεσματικότητα δεν είναι πολιτικά ουδέτερη.
Θέλουμε:
- μέγιστη οικονομική απόδοση;
- ισότητα;
- ταχύτητα;
- ασφάλεια;
- ελευθερία;
- κοινωνική συνοχή;
- περιβαλλοντική βιωσιμότητα;
Αυτές οι αξίες μπορεί να συγκρούονται.
Κανένας αλγόριθμος δεν μπορεί να αποφασίσει δημοκρατικά για την κοινωνία ποια αξία πρέπει να προηγείται.
Μπορεί να βελτιστοποιήσει έναν στόχο.
Δεν μπορεί να νομιμοποιήσει τον στόχο.
Η επιλογή του στόχου παραμένει πολιτική.
13. Άρα η δημοκρατία πρέπει να αποκτήσει τεχνολογική παιδεία
Δεν χρειάζεται κάθε πολίτης να γίνει μηχανικός.
Χρειάζεται όμως να μπορεί να καταλάβει:
- τι είναι ένα μοντέλο,
- τι είναι ένα dataset,
- τι σημαίνει πιθανότητα,
- τι σημαίνει σφάλμα,
- τι σημαίνει αυτοματοποιημένη απόφαση,
- τι σημαίνει profiling,
- τι σημαίνει ιδιοκτησία δεδομένων,
- ποιος έχει πρόσβαση,
- πώς λειτουργεί ένας μηχανισμός προσφυγής.
Η UNESCO εντάσσει ρητά την ενημέρωση, την εκπαίδευση, την ψηφιακή και AI literacy και τη συμμετοχή των πολιτών στη δημοκρατική διακυβέρνηση της AI.
Γιατί ένας πολίτης που δεν καταλαβαίνει καθόλου την τεχνολογία εξαρτάται από εκείνον που την καταλαβαίνει.
Και τότε η τεχνογνωσία μετατρέπεται σε εξουσία.
14. Η μεγάλη δημοκρατική αρχή: κανένας «μαύρος κύβος» δεν πρέπει να αποκτά πολιτική κυριαρχία
Δεν σημαίνει ότι κάθε αλγόριθμος πρέπει να είναι open source.
Ούτε ότι κάθε πολίτης πρέπει να έχει πρόσβαση στον κώδικα κάθε μοντέλου.
Σημαίνει κάτι βαθύτερο:
Καμία τεχνολογία που ασκεί σημαντική εξουσία πάνω στους ανθρώπους δεν πρέπει να βρίσκεται έξω από μηχανισμούς κοινωνικής λογοδοσίας.
Ακόμη και όταν ο κώδικας είναι εμπορικό μυστικό, πρέπει να υπάρχουν:
- ανεξάρτητοι έλεγχοι,
- τεχνική πρόσβαση των εποπτικών αρχών,
- δικαιώματα των θιγόμενων,
- καταγραφή αποφάσεων,
- δυνατότητα προσφυγής,
- κυρώσεις,
- δυνατότητα αναστολής,
- και τελικά δυνατότητα απαγόρευσης.
Το Συμβούλιο της Ευρώπης τοποθετεί ακριβώς το ζήτημα μέσα στο τρίπτυχο ανθρώπινα δικαιώματα – δημοκρατία – κράτος δικαίου, και η σχετική Σύμβαση καλύπτει τον κύκλο ζωής των συστημάτων AI.
15. Και τότε αλλάζει και η ίδια η έννοια της «δημοκρατικής συμμετοχής»
Στην παραδοσιακή δημοκρατία ρωτάμε:
«Ποιον ψηφίζω;»
Στην ψηφιακή δημοκρατία πρέπει να προσθέσουμε:
«Ποια συστήματα επιτρέπω να αποφασίζουν για τη ζωή μου;»
«Ποια δεδομένα επιτρέπω να χρησιμοποιούνται;»
«Ποιος έχει πρόσβαση σε αυτά;»
«Ποιος μπορεί να με αξιολογεί αλγοριθμικά;»
«Ποιος μπορεί να με αποκλείσει;»
«Ποιος ελέγχει αυτόν που με αξιολογεί;»
Αυτό σημαίνει ότι η δημοκρατία του 21ου αιώνα δεν μπορεί να είναι μόνο αντιπροσωπευτική δημοκρατία.
Χρειάζεται να γίνει και δημοκρατία της υποδομής.
16. Μια πιθανή νέα κοινωνική συμφωνία
Αν θέλαμε να συμπυκνώσουμε όλη αυτή τη σκέψη σε μια νέα κοινωνική συμφωνία για την AI, θα μπορούσαμε να την εκφράσουμε με επτά αρχές:
1. Καμία σημαντική απόφαση χωρίς υπεύθυνο φορέα.
Η μηχανή δεν μπορεί να γίνει ο αποδιοπομπαίος τράγος.
2. Καμία σημαντική αυτοματοποίηση χωρίς δικαίωμα αμφισβήτησης.
Ο πολίτης πρέπει να μπορεί να προσφύγει.
3. Καμία κρίσιμη τεχνολογία χωρίς ανεξάρτητο έλεγχο.
Ο αυτοέλεγχος της αγοράς δεν αρκεί για λειτουργίες μεγάλης κοινωνικής σημασίας.
4. Καμία τεχνολογική εξουσία χωρίς κοινωνική συμμετοχή.
Όσοι υφίστανται τις συνέπειες πρέπει να έχουν λόγο στους κανόνες.
5. Καμία υποχρεωτική χρήση χωρίς εναλλακτική όπου διακυβεύονται θεμελιώδη δικαιώματα.
Ο άνθρωπος δεν πρέπει να αποκλείεται επειδή δεν μπορεί ή δεν θέλει να αλληλεπιδράσει με ένα αυτοματοποιημένο σύστημα.
6. Καμία κρίσιμη υποδομή χωρίς δημόσια ικανότητα ελέγχου.
Το κράτος και η κοινωνία πρέπει να διαθέτουν την τεχνική γνώση ώστε να μην εξαρτώνται ολοκληρωτικά από τους ίδιους τους παρόχους.
7. Καμία τεχνολογία πάνω από τη δημοκρατική απόφαση.
Η κοινωνία διατηρεί το δικαίωμα να πει:
«Αυτό δεν θα το κάνουμε.»
17. Το πραγματικό ερώτημα λοιπόν δεν είναι «ποιος ελέγχει την AI;»
Η αρχική ερώτηση φαίνεται να ζητά έναν ελεγκτή.
Έναν υπουργό.
Μια επιτροπή.
Μια ανεξάρτητη αρχή.
Μια εταιρεία.
Ένα κράτος.
Αλλά αυτή είναι η παγίδα.
Δεν πρέπει να αναζητήσουμε έναν κυρίαρχο που θα ελέγχει την AI.
Πρέπει να οικοδομήσουμε ένα σύστημα στο οποίο κανένας μεμονωμένος φορέας δεν θα μπορεί να ελέγχει μόνος του την τεχνολογική εξουσία.
Αυτό είναι πολύ πιο κοντά στη λογική της δημοκρατίας.
Η λύση δεν είναι:
«Ποιος θα ελέγχει την AI;»
Αλλά:
«Πώς θα οργανώσουμε τους θεσμούς έτσι ώστε η ισχύς που παράγει η AI να παραμένει διασπασμένη, ορατή, αμφισβητήσιμη και υπόλογη στην κοινωνία;»
Και εδώ ίσως βρίσκεται το μεγάλο πολιτικό διακύβευμα της εποχής μας.
Δεν είναι αν οι μηχανές θα γίνουν πιο έξυπνες από εμάς.
Είναι αν οι δημοκρατικοί θεσμοί θα γίνουν αρκετά έξυπνοι ώστε να μην αφήσουν την τεχνολογική ισχύ να γίνει ισχυρότερη από τη δημοκρατία.
Επίμετρο: από την «ηθική της AI» στην «πολιτική της AI»
Για χρόνια μιλούσαμε κυρίως για AI ethics:
Να είναι δίκαιη η AI.
Να μην κάνει διακρίσεις.
Να προστατεύει την ιδιωτικότητα.
Να είναι ασφαλής.
Όλα αυτά είναι απαραίτητα.
Αλλά δεν είναι αρκετά.
Γιατί πίσω από κάθε ηθικό κανόνα υπάρχει μια θεσμική ερώτηση:
Ποιος τον επιβάλλει;
Και πίσω από κάθε θεσμική ερώτηση υπάρχει μια πολιτική ερώτηση:
Ποιος έχει τη δύναμη να αποφασίσει;
Και πίσω από αυτήν υπάρχει η βαθύτερη δημοκρατική ερώτηση:
Μπορεί μια κοινωνία να κυβερνά δημοκρατικά τις τεχνολογίες που αναδιαμορφώνουν την ίδια την κοινωνική της ζωή;
Αυτό είναι το σημείο όπου η συζήτηση για την τεχνητή νοημοσύνη παύει να είναι απλώς συζήτηση για υπολογιστές.
Γίνεται συζήτηση για δημοκρατία.
Και ίσως, τελικά, για το ίδιο το νόημα της πολιτικής:
να μην καταργούμε την ισχύ — αλλά να οργανώνουμε την ισχύ έτσι ώστε να μπορεί πάντοτε να ελέγχεται από εκείνους πάνω στους οποίους ασκείται.