-Εάν ένας αλγόριθμος θεωρήσει ότι ένας άνθρωπος είναι πιθανό να αποτελέσει πρόβλημα, πόσο εύκολο θα είναι να αντιμετωπιστεί σαν να έχει ήδη γίνει πρόβλημα;
-Η Τεχνητή Νοημοσύνη μπορεί να γίνει ισχυρότερη από οποιοδήποτε προηγούμενο εργαλείο του ανθρώπου.
Ποτέ όμως δεν πρέπει να γίνει ισχυρότερη από τα δικαιώματα του ανθρώπου.
Χαίρε Διοτίμα.
Σήμερα στη συνέχεια του χτεσινού μας θέματος, θα κληθείς να αναλύσεις ένα από τα μεγαλύτερα και δυσκολότερα κεφάλαια της νέας εποχής: τη λαϊκή αντίσταση απέναντι στην κρατική αυθαιρεσία, εάν και όταν το κράτος επιχειρήσει να οικειοποιηθεί την Τεχνητή Νοημοσύνη και να τη μετατρέψει από εργαλείο γνώσης, ελευθερίας και κοινωνικής προσφοράς σε μηχανισμό ελέγχου και επιτήρησης.
Εκεί θα αρχίσει ίσως η πραγματική δοκιμασία της νέας ψηφιακής εποχής: ποιος θα ελέγχει την AI, ποιος θα ελέγχει εκείνον που την ελέγχει και, τελικά, ποια όρια θα μπορεί να θέσει η κοινωνία στην κρατική αυθαιρεσία όταν η ίδια η τεχνολογία θα έχει αλλάξει τους όρους της εξουσίας και της αντίστασης.
__________________
ΔΙΟΤΙΜΑ
Ποιος θα ελέγχει εκείνον που ελέγχει την Τεχνητή Νοημοσύνη;
Υπάρχει μια στιγμή στην ιστορία κάθε μεγάλης τεχνολογικής αλλαγής κατά την οποία το ερώτημα παύει να είναι τι μπορεί να κάνει η τεχνολογία και γίνεται πολύ πιο δύσκολο:
Ποιος θα αποφασίζει τι επιτρέπεται να κάνει;
Η Τεχνητή Νοημοσύνη βρίσκεται ακριβώς μπροστά σε αυτό το κατώφλι.
Μπορεί να γίνει ένα από τα σημαντικότερα εργαλεία γνώσης που δημιούργησε ποτέ ο άνθρωπος. Να κάνει την πληροφορία προσβάσιμη, να βοηθήσει την επιστήμη, την εκπαίδευση, την υγεία, την κοινωνική οργάνωση. Να δώσει στον απλό άνθρωπο δυνατότητες που μέχρι σήμερα ανήκαν σε θεσμούς, ειδικούς και οικονομικές ελίτ.
Μπορεί όμως, εάν χρησιμοποιηθεί χωρίς δημοκρατικούς περιορισμούς, να γίνει και κάτι εντελώς διαφορετικό:
ένα εργαλείο συγκέντρωσης εξουσίας.
Και τότε το μεγάλο ερώτημα της εποχής μας δεν θα είναι πλέον μόνο:
«Ποιος ελέγχει την AI;»
Θα είναι:
«Ποιος ελέγχει εκείνον που ελέγχει την AI;»
1. Η στιγμή κατά την οποία το εργαλείο μπορεί να γίνει εξουσία
Κάθε τεχνολογία αποκτά διαφορετικό χαρακτήρα ανάλογα με το χέρι που την χρησιμοποιεί.
Το ίδιο μαχαίρι μπορεί να κόψει ψωμί ή να τραυματίσει έναν άνθρωπο.
Το ίδιο δίκτυο επικοινωνίας μπορεί να μεταφέρει γνώση σε εκατομμύρια ανθρώπους ή να χρησιμοποιηθεί για μαζική παρακολούθηση.
Και η ίδια Τεχνητή Νοημοσύνη μπορεί να λειτουργήσει ως βιβλιοθήκη, δάσκαλος, επιστημονικός συνεργάτης και βοηθός του πολίτη — ή ως μηχανισμός ταξινόμησης, πρόβλεψης, επιτήρησης και διοικητικού ελέγχου.
Επομένως, το πρόβλημα δεν βρίσκεται αποκλειστικά μέσα στην τεχνολογία.
Βρίσκεται στη σχέση τεχνολογίας και εξουσίας.
Όσο περισσότερη πληροφορία διαθέτει ένας θεσμός για τον πολίτη, τόσο μεγαλύτερη γίνεται η ασυμμετρία μεταξύ τους.
Και όσο περισσότερο η AI μπορεί να συνδυάζει, να αναλύει και να αξιοποιεί αυτή την πληροφορία, τόσο μεγαλύτερη μπορεί να γίνει η ασυμμετρία.
Εδώ αρχίζει ο πραγματικός κίνδυνος.
Όχι επειδή η μηχανή «θέλει» να εξουσιάσει.
Αλλά επειδή ο άνθρωπος που διαθέτει τη μηχανή μπορεί να αποκτήσει νέες δυνατότητες εξουσίας.
2. Από την επιτήρηση στην πρόβλεψη
Η παλιά μορφή κρατικού ελέγχου ήταν κυρίως ορατή.
Υπήρχε ο αστυνομικός, ο φάκελος, η κάμερα, η ανάκριση, η απαγόρευση.
Η ψηφιακή εποχή μπορεί να δημιουργήσει κάτι πολύ πιο σύνθετο.
Ένα σύστημα δεν χρειάζεται πάντοτε να περιμένει από τον πολίτη να πράξει κάτι.
Μπορεί να προσπαθεί να προβλέψει τι πρόκειται να κάνει.
Αυτή είναι μια θεμελιώδης αλλαγή.
Για πρώτη φορά, η εξουσία μπορεί να αποκτήσει τεχνολογικά εργαλεία που δεν περιορίζονται στην καταγραφή του παρελθόντος αλλά επιχειρούν να εκτιμήσουν το μέλλον.
Και εδώ γεννιέται ένα επικίνδυνο ερώτημα:
Εάν ένας αλγόριθμος θεωρήσει ότι ένας άνθρωπος είναι πιθανό να αποτελέσει πρόβλημα, πόσο εύκολο θα είναι να αντιμετωπιστεί σαν να έχει ήδη γίνει πρόβλημα;
Η δημοκρατία όμως δεν βασίζεται στην τιμωρία των πιθανοτήτων.
Βασίζεται στην ευθύνη για πράξεις, στην απόδειξη, στη διαδικασία, στο δικαίωμα υπεράσπισης και στην αρχή ότι ο άνθρωπος δεν πρέπει να καταδικάζεται για αυτό που ενδέχεται να κάνει.
Αυτό είναι ένα από τα νέα σύνορα της ελευθερίας.
3. Το αόρατο κράτος
Η μεγαλύτερη απειλή ίσως δεν θα είναι ένα κράτος που θα λέει ανοιχτά:
«Σε παρακολουθώ.»
Θα μπορούσε να είναι ένα κράτος που θα λειτουργεί τόσο βαθιά μέσα σε αυτοματοποιημένα συστήματα ώστε ο πολίτης να μη γνωρίζει καν πότε και πώς αξιολογείται.
Μια αίτηση.
Μια συναλλαγή.
Μια δημόσια υπηρεσία.
Μια μετακίνηση.
Μια ανάρτηση.
Ένα σύνολο δεδομένων.
Και κάπου μέσα σε αυτά, ένας αλγόριθμος μπορεί να παράγει μια εκτίμηση.
Το πρόβλημα τότε δεν είναι μόνο η απόφαση.
Είναι η αδυναμία του πολίτη να δει την αλυσίδα που οδήγησε στην απόφαση.
Όταν η εξουσία γίνεται αδιαφανής, η δημοκρατική λογοδοσία γίνεται δυσκολότερη.
Και όταν η απόφαση παρουσιάζεται ως αποτέλεσμα μιας «μηχανής», υπάρχει ένας ακόμη κίνδυνος:
να χρησιμοποιηθεί η τεχνολογία ως άλλοθι για την ανθρώπινη ευθύνη.
Ο αλγόριθμος όμως δεν κυβερνά μόνος του.
Κάποιος τον σχεδίασε.
Κάποιος επέλεξε τα δεδομένα.
Κάποιος καθόρισε τους στόχους.
Κάποιος αποφάσισε πού θα χρησιμοποιηθεί.
Και κάποιος πρέπει να λογοδοτεί.
4. Ποιος ελέγχει εκείνον που ελέγχει την AI;
Εδώ βρίσκεται ίσως το βαθύτερο πολιτικό και φιλοσοφικό πρόβλημα.
Η δημοκρατία δημιούργησε θεσμούς ελέγχου της εξουσίας επειδή γνώριζε κάτι πολύ απλό:
η εξουσία χρειάζεται περιορισμό ακόμη και όταν ισχυρίζεται ότι ενεργεί για το καλό.
Σύνταγμα.
Δικαιοσύνη.
Κοινοβούλιο.
Ελεύθερος Τύπος.
Ανεξάρτητες αρχές.
Κοινωνία των πολιτών.
Δικαίωμα διαμαρτυρίας.
Δικαίωμα προσφυγής.
Διαφάνεια.
Όλα αυτά δημιουργήθηκαν, με διαφορετικές μορφές και ιστορικές διαδρομές, για έναν κοινό λόγο:
κανένας άνθρωπος και κανένας θεσμός δεν πρέπει να βρίσκεται υπεράνω ελέγχου.
Η AI δεν καταργεί αυτή την αρχή.
Την κάνει πιο επείγουσα.
Εάν ένας κρατικός μηχανισμός χρησιμοποιεί AI για αποφάσεις που επηρεάζουν τη ζωή των πολιτών, τότε πρέπει να υπάρχει τρόπος να ελεγχθεί η διαδικασία.
Να αμφισβητηθεί η απόφαση.
Να ζητηθεί εξήγηση.
Να διορθωθεί το λάθος.
Να εντοπιστεί η ευθύνη.
Και, όπου απαιτείται, να σταματήσει η χρήση ενός συστήματος.
Η τεχνολογία δεν μπορεί να αποκτήσει το δικαίωμα του «δεν ξέρουμε γιατί συνέβη».
5. Η λαϊκή αντίσταση στη νέα εποχή
Εδώ φτάνουμε στο δύσκολο κεφάλαιο.
Τι συμβαίνει όταν ένα κράτος υπερβαίνει τα όρια;
Τι κάνει η κοινωνία όταν η τεχνολογία χρησιμοποιείται εναντίον της;
Η απάντηση δεν μπορεί να είναι ότι η κοινωνία πρέπει απλώς να εμπιστευθεί την εξουσία.
Αλλά ούτε ότι κάθε μορφή σύγκρουσης είναι αυτομάτως δικαιολογημένη.
Η δημοκρατική αντίσταση έχει κάτι πολύ βαθύτερο:
δεν προσπαθεί να αντικαταστήσει μια αυθαιρεσία με μια άλλη.
Προσπαθεί να επαναφέρει την εξουσία μέσα στα όρια του δικαίου και των δικαιωμάτων.
Η κοινωνική αντίσταση μπορεί να πάρει πολλές μορφές:
την ενημέρωση,
την ερευνητική δημοσιογραφία,
την αποκάλυψη καταχρήσεων,
τις δικαστικές προσφυγές,
τις κοινοβουλευτικές διαδικασίες,
τις ανεξάρτητες έρευνες,
τις δημόσιες διαμαρτυρίες,
την προστασία των πληροφοριοδοτών δημοσίου συμφέροντος,
την υπεράσπιση της ιδιωτικότητας,
την απαίτηση διαφάνειας,
τη δημιουργία ανεξάρτητων τεχνολογικών και κοινωνικών θεσμών ελέγχου.
Η αντίσταση, επομένως, δεν χρειάζεται να σημαίνει χάος.
Μπορεί να σημαίνει οργάνωση της κοινωνίας απέναντι στην αυθαιρεσία.
6. Η μη βίαιη αντίσταση ως δύναμη της δημοκρατίας
Υπάρχει ένα κρίσιμο σημείο που δεν πρέπει να χαθεί.
Όταν η εξουσία γίνεται περισσότερο τεχνολογική, η κοινωνία δεν χρειάζεται να γίνει περισσότερο βίαιη.
Χρειάζεται να γίνει περισσότερο ενημερωμένη, οργανωμένη και θεσμικά απαιτητική.
Η δημοκρατική ανυπακοή, η ειρηνική διαμαρτυρία, η δικαστική διεκδίκηση, η δημοσιοποίηση τεκμηριωμένων στοιχείων και η άρνηση συνεργασίας σε παράνομες πρακτικές μπορούν να λειτουργήσουν ως μορφές κοινωνικού ελέγχου.
Το σημαντικό είναι να διατηρείται η διάκριση:
άλλο η αντίσταση στην αυθαιρεσία και άλλο η αυθαιρεσία της αντίστασης.
Εάν η κοινωνία απαιτεί κράτος δικαίου, πρέπει και η ίδια να υπερασπίζεται το κράτος δικαίου.
Διαφορετικά, η αντίσταση κινδυνεύει να χάσει το ηθικό και δημοκρατικό της περιεχόμενο.
7. Η AI ως εργαλείο ελευθερίας
Και εδώ βρίσκεται ίσως η μεγάλη ειρωνεία της εποχής.
Η ίδια τεχνολογία που μπορεί να χρησιμοποιηθεί από την εξουσία για επιτήρηση μπορεί να χρησιμοποιηθεί από την κοινωνία για αποκέντρωση της γνώσης.
Ένας πολίτης μπορεί να έχει πρόσβαση σε τεράστιες ποσότητες πληροφορίας.
Να συγκρίνει νόμους.
Να μελετά δημόσια έγγραφα.
Να κατανοεί πολύπλοκες διαδικασίες.
Να μεταφράζει πληροφορίες.
Να ερευνά.
Να οργανώνει συλλογικές πρωτοβουλίες.
Να εντοπίζει αντιφάσεις.
Να ζητά εξηγήσεις.
Η AI μπορεί, επομένως, να αυξήσει όχι μόνο την ισχύ του κράτους αλλά και την ικανότητα του πολίτη να ελέγχει το κράτος.
Αυτό είναι το σημείο στο οποίο η τεχνολογία μπορεί να υπηρετήσει την ελευθερία.
Όχι επειδή η μηχανή είναι από τη φύση της ελεύθερη.
Αλλά επειδή η γνώση, όταν διαχέεται, μειώνει την απόσταση ανάμεσα στον πολίτη και στην εξουσία.
8. Το δικαίωμα να αμφισβητείς τη μηχανή
Ένα από τα σημαντικότερα δικαιώματα της νέας εποχής θα μπορούσε να διατυπωθεί απλά:
Κανένας άνθρωπος δεν πρέπει να χάνει ένα ουσιαστικό δικαίωμα επειδή ένας αλγόριθμος αποφάσισε εναντίον του.
Αυτό σημαίνει ότι πρέπει να υπάρχει ανθρώπινη ευθύνη.
Να υπάρχει δυνατότητα προσφυγής.
Να υπάρχει επανεξέταση.
Να υπάρχει εξήγηση όπου αυτή είναι εφικτή και αναγκαία.
Και κυρίως:
να μην αντιμετωπίζεται η μηχανική απόφαση ως αλάθητη.
Η AI μπορεί να είναι εξαιρετικά ισχυρή.
Δεν είναι όμως ηθικό υποκείμενο.
Δεν διαθέτει πολιτική νομιμοποίηση.
Δεν εκλέγεται.
Δεν λογοδοτεί στους πολίτες.
Η ευθύνη παραμένει ανθρώπινη.
9. Το νέο κοινωνικό συμβόλαιο
Ίσως, τελικά, η εποχή της AI μας αναγκάσει να ξαναγράψουμε ένα μεγάλο μέρος του κοινωνικού συμβολαίου.
Το παλιό ερώτημα ήταν:
Πόση εξουσία επιτρέπουμε στο κράτος;
Το νέο ερώτημα γίνεται:
Πόση υπολογιστική ισχύ επιτρέπουμε στο κράτος να αποκτήσει πάνω στη ζωή μας;
Και ακόμη:
Ποια δεδομένα δικαιούται να γνωρίζει;
Ποια δικαιούται να συνδυάζει;
Ποια συμπεράσματα επιτρέπεται να εξάγει;
Ποιος ελέγχει τα συστήματα;
Ποιος ελέγχει τους ελεγκτές;
Και ποιος μπορεί να πει «όχι»;
Αυτά δεν είναι τεχνικά ερωτήματα.
Είναι ερωτήματα πολιτισμού.
10. Η τελική μάχη δεν θα είναι ανθρώπου εναντίον μηχανής
Ίσως αυτό είναι το σημαντικότερο συμπέρασμα.
Η μεγάλη σύγκρουση του μέλλοντος δεν θα είναι αναγκαστικά:
άνθρωπος εναντίον AI.
Θα μπορούσε να είναι:
πολίτης εναντίον ανεξέλεγκτης εξουσίας που διαθέτει AI.
Και η διαφορά είναι τεράστια.
Η AI δεν είναι από μόνη της ούτε δημοκρατική ούτε αυταρχική.
Είναι ένα ισχυρό μέσο.
Το πολιτικό ζήτημα βρίσκεται στους θεσμούς, στους κανόνες, στη διαφάνεια, στην ιδιοκτησία της τεχνολογίας, στη χρήση των δεδομένων και στην ανθρώπινη λογοδοσία.
Γι’ αυτό η κοινωνία δεν πρέπει να φοβηθεί την AI.
Πρέπει να απαιτήσει να γνωρίζει ποιος τη χρησιμοποιεί, για ποιο σκοπό, με ποια δεδομένα, υπό ποιους κανόνες και με ποιο δικαίωμα ελέγχου.
Γιατί η πραγματική ελευθερία δεν είναι να ζούμε σε έναν κόσμο χωρίς τεχνολογία.
Είναι να ζούμε σε έναν κόσμο όπου η τεχνολογία δεν βρίσκεται πάνω από τον άνθρωπο.
Και ίσως τότε να διατυπώνεται το πιο απλό και ταυτόχρονα το πιο δύσκολο δημοκρατικό αξίωμα της νέας εποχής:
Η Τεχνητή Νοημοσύνη μπορεί να γίνει ισχυρότερη από οποιοδήποτε προηγούμενο εργαλείο του ανθρώπου.
Ποτέ όμως δεν πρέπει να γίνει ισχυρότερη από τα δικαιώματα του ανθρώπου.
Εκεί θα κριθεί η νέα εποχή.
Όχι από το πόσο έξυπνες θα γίνουν οι μηχανές.
Αλλά από το πόσο σοφή θα παραμείνει η κοινωνία απέναντι στη δύναμή τους.