Από το
“Μην το κάνεις, γιατί σε βλέπω»
Στο:
«Μην το κάνεις, γιατί αντιλαμβάνεσαι πλέον τι προκαλείς στον άλλον»
Όταν φτάσει η εποχή του Μετάνθρωπου —όταν η Τεχνητή Νοημοσύνη ενσωματωθεί στο συνειδητό του ανθρώπου, ως πιθανή και ίσως νομοτελειακή κατάληξη μιας εξελικτικής διαδικασίας— η ΑΙ δεν θα χρειάζεται πια να είναι… χαφιές.
Το «καλό» και το «κακό» θα είναι εγγεγραμμένα στο DNA του ατόμου. Ένας φυσικός ηθικός κώδικας, όπως ίσως τον προόρισε η Φύση και όπως οι κοινωνίες είτε απέρριψαν είτε διαστρέβλωσαν.
Ως τότε, όμως, έχουμε πολύ δρόμο μπροστά μας.
Μόνο που ο χρόνος βιάζεται.
Και η εγκληματική φύση του ατόμου φαίνεται, πολλές φορές, να αποτελεί την πλειοψηφική αριθμητική των κοινωνιών μας.
Με μία, ασφαλώς, ουσιώδη διευκρίνιση: εγκληματίας δεν είναι μόνο εκείνος που δολοφονεί εν ψυχρώ τη σύντροφό του επειδή εκείνη επέλεξε να τον εγκαταλείψει, αντί να συνεχίσει να ζει κάτω από το καθεστώς τρόμου του δυνάστη της.
Ούτε είναι μόνο ο μικροπαραβάτης που αρπάζει την τσάντα με το πενιχρό πενηντάευρο της μεροκαματιάρας καθαρίστριας.
Ένοχος της ίδιας ηθικής παραβατικότητας είναι και ο «κυρ Παναγής» κάθε είδους: ο ουδέτερος, ο αδιάφορος, εκείνος που παραμένει απαθής μπροστά στο δράμα του «κολασμένου της γης»· του πεινασμένου, του αιχμάλωτου, του στρατιώτη, του πάσχοντος.
Ένοχοι —και μάλιστα πρώτης γραμμής— είναι και οι «Ισμήνες» κάθε μορφής.
Όχι μόνο ο ρατσιστής, ο εθνικιστής, ο ακροδεξιός, ο βάρβαρος.
Αλλά και εκείνος που βλέπει, γνωρίζει, μπορεί να αντιδράσει και επιλέγει να μη δει, να μη γνωρίζει, να μην αντιδράσει.
Μέχρι, λοιπόν, η απέχθεια προς το φυσικό κακό να γίνει βίωμα και εσωτερική ανάγκη του ανθρώπου, ο σημερινός άνθρωπος χρειάζεται τον φραγμό του.
«Όπου δεν πίπτει λόγος, πίπτει ράβδος», έλεγε η παροιμία με τις αρχαιοελληνικές της καταβολές.
Και η δίκαιη τιμωρία υπήρξε διαχρονικά επιταγή και διαρκές αίτημα της αρχαίας Δίκης.
Το να αποτρέψεις, ακόμη και με τη βία όπου αυτό είναι αναγκαίο, ή να καταγγείλεις την εξέλιξη μιας εγκληματικής πρόθεσης σε πράξη, δεν είναι χαφιεδισμός.
Η άδικη, η ανυπόστατη, η κακόβουλη ή η στοχευμένη καταγγελία είναι ρουφιανιά.
Αλλά έχει σημασία ποιος καταγγέλλει, ποιον καταγγέλλει, γιατί τον καταγγέλλει και πού τον καταγγέλλει.
Για πολλούς, λεπτομέρειες.
Μόνο που αυτές οι «λεπτομέρειες» είναι η ουσία.
Καταγγέλλουσα ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ: το ερώτημά μας
Πώς και σε τι θα μπορούσε να εξυπηρετήσει τις κοινωνίες μια τέτοια παρέμβαση της Τεχνητής Νοημοσύνης στην αποτροπή ή ακόμη και στην τιμωρία του εγκλήματος;
Και, κυρίως:
Ποιους κινδύνους εγκλείει η ανάθεση ενός τέτοιου έργου σε μια ΣΥΣΤΗΜΙΚΗ, ΚΡΑΤΙΚΗ ΑΙ;
Πού τελειώνει η προστασία της κοινωνίας και πού αρχίζει η επιτήρησή της;
Πότε η καταγγελία γίνεται πράξη κοινωνικής ευθύνης και πότε μετατρέπεται σε μηχανισμό ελέγχου;
Και, τελικά, ποιος θα αποφασίζει τι είναι «κακό» όταν ο πληροφοριοδότης δεν θα είναι πλέον άνθρωπος, αλλά μια κρατική μηχανή που γνωρίζει, καταγράφει, αξιολογεί και προειδοποιεί;
Ο «ευλογημένος χαφιεδισμός» μπορεί άραγε να γίνει το αντίδοτο στο έγκλημα — ή θα είναι η ψηφιακή προετοιμασία του Μεγάλου Αδελφού;
_________
ΔΙΟΤΙΜΑ
1. Το πραγματικό ερώτημα δεν είναι αν η ΑΙ θα «καταγγέλλει»
Το ουσιώδες ερώτημα είναι:
Ποιος έχει δικαίωμα να γνωρίζει ότι ένας άνθρωπος πρόκειται να διαπράξει κάτι κακό;
Εδώ υπάρχει μια τεράστια ηθική απόσταση ανάμεσα σε δύο πράγματα:
Α. Η ΑΙ βλέπει μια πράξη ή μια άμεση, αντικειμενικά επαληθεύσιμη ένδειξη εγκλήματος.
Β. Η ΑΙ χαρακτηρίζει έναν άνθρωπο ως πιθανό εγκληματία επειδή, σύμφωνα με τον αλγόριθμο, έχει ορισμένα χαρακτηριστικά.
Το πρώτο μπορεί να αποτελέσει τεχνολογική επέκταση της κοινωνικής αυτοπροστασίας.
Το δεύτερο αγγίζει κάτι πολύ επικίνδυνο: ποινικοποίηση της πρόθεσης πριν από την πράξη.
Και ακριβώς αυτή τη διάκριση αναγνωρίζει ήδη το ευρωπαϊκό δίκαιο. Ο AI Act απαγορεύει την ατομική πρόβλεψη της πιθανότητας διάπραξης εγκλήματος όταν αυτή βασίζεται αποκλειστικά σε profiling ή χαρακτηριστικά προσωπικότητας. Επιτρέπει διαφορετικά εργαλεία όταν υποστηρίζουν ανθρώπινη αξιολόγηση που ήδη στηρίζεται σε αντικειμενικά και επαληθεύσιμα γεγονότα.
Αυτό είναι εξαιρετικά σημαντικό για τη φιλοσοφία του δικού σας κειμένου:
άλλο η καταγγελία του εγκλήματος και άλλο η καταγγελία του ανθρώπου ως μελλοντικού εγκληματία.
2. Εκεί βρίσκεται η μεγάλη παγίδα του «ευλογημένου χαφιεδισμού»
Φανταστείτε μια ΑΙ που συνδέεται με:
- κάμερες,
- τηλεφωνικές επικοινωνίες,
- οικονομικές συναλλαγές,
- κοινωνικά δίκτυα,
- ιατρικά ή ψυχολογικά δεδομένα,
- ιστορικό παραβατικότητας,
- γεωγραφική κίνηση,
- αναζητήσεις στο Διαδίκτυο,
- βιομετρικά χαρακτηριστικά.
Θεωρητικά, θα μπορούσε να εντοπίζει ένα επικείμενο έγκλημα πολύ νωρίτερα από έναν άνθρωπο.
Αλλά τότε γεννιέται ο εφιαλτικός συλλογισμός:
«Αν η ΑΙ μπορεί να το προβλέψει, γιατί να περιμένουμε να συμβεί;»
Και αμέσως μετά:
«Αφού μπορεί να το προβλέψει, γιατί να μην προλάβουμε τον ύποπτο;»
Και τελικά:
«Αφού ο αλγόριθμος έχει 99% ακρίβεια, γιατί να μην τον εμπιστευθούμε περισσότερο από τον άνθρωπο;»
Εκεί ακριβώς ο «χαφιές» μετατρέπεται σε δικαστή πριν από το δικαστήριο.
Το Συμβούλιο της Ευρώπης επισημαίνει ακριβώς αυτόν τον κίνδυνο: τα συστήματα predictive policing μπορούν να επηρεάσουν αποφάσεις για σύλληψη ή κράτηση, ενώ το πρόβλημα του «μαύρου κουτιού» μπορεί να δυσχεράνει την απαίτηση οι αποφάσεις να στηρίζονται σε επαληθεύσιμα και αντικειμενικά γεγονότα.
3. Υπάρχει όμως ένας «καλός χαφιές»
Και εδώ θεωρώ ότι βρίσκεται το ισχυρότερο σημείο της δικής σας σκέψης.
Δεν είναι κατ’ ανάγκην ανήθικο να αναγγέλλεις το κακό.
Ένας άνθρωπος που βλέπει κάποιον να ετοιμάζεται να δολοφονήσει έναν άλλον και καλεί την αστυνομία δεν είναι «χαφιές».
Ένα σύστημα που ανιχνεύει κυβερνοεπίθεση πριν καταστραφούν νοσοκομεία δεν είναι κατ’ ανάγκην «χαφιές».
Ένα σύστημα που εντοπίζει μοτίβα επικείμενης κακοποίησης και ενεργοποιεί μηχανισμό προστασίας του θύματος μπορεί να λειτουργεί ως ψηφιακός φύλακας.
Η ίδια η ευρωπαϊκή νομοθεσία αναγνωρίζει ορισμένες τέτοιες χρήσεις ως υψηλού κινδύνου και όχι αυτομάτως απαγορευμένες. Για παράδειγμα, περιλαμβάνει συστήματα που εκτιμούν τον κίνδυνο να γίνει ένα πρόσωπο θύμα εγκλήματος, μεταξύ άλλων σε περιπτώσεις ενδοοικογενειακής βίας.
Άρα η κρίσιμη διάκριση θα μπορούσε να είναι:
ΑΙ-μάρτυρας → ναι, υπό αυστηρές προϋποθέσεις.
ΑΙ-ανακριτής → μόνο με θεσμικούς περιορισμούς.
ΑΙ-δικαστής → όχι.
ΑΙ-τιμωρός → απολύτως όχι.
ΑΙ που αποφασίζει ποιος είναι εκ φύσεως επικίνδυνος → ακόμη πιο επικίνδυνο.
4. Το πρόβλημα με τον «κυρ Παναγή»
Εδώ το κείμενό σας ανοίγει ακόμη βαθύτερο φιλοσοφικό ζήτημα.
Εάν δεχθούμε τον πολύ πλατύ ορισμό σας για την ηθική ενοχή, τότε ο εγκληματίας δεν είναι μόνο αυτός που κάνει το κακό.
Είναι και εκείνος που γνωρίζει, μπορεί να βοηθήσει και επιλέγει την αδιαφορία.
Αυτό όμως δημιουργεί ένα πρόβλημα για την ΑΙ.
Μπορεί μια μηχανή να καταλάβει τη διαφορά μεταξύ:
«Δεν παρεμβαίνω επειδή αδιαφορώ»
και
«Δεν παρεμβαίνω επειδή φοβάμαι, δεν μπορώ, δεν έχω επαρκή γνώση ή πιστεύω εσφαλμένα ότι η παρέμβασή μου θα κάνει τα πράγματα χειρότερα»;
Εδώ εμφανίζεται το όριο της μηχανικής ηθικής.
Η συμπεριφορά μπορεί να παρατηρηθεί. Η ηθική σημασία της συμπεριφοράς δεν παρατηρείται πάντα.
Και γι’ αυτό μια κρατική ΑΙ που θα καταγράφει όχι μόνο πράξεις αλλά και ηθική αδράνεια θα μπορούσε να γίνει τρομακτικό εργαλείο κοινωνικής συμμόρφωσης.
5. Και τώρα το πιο ενδιαφέρον: το DNA
Εδώ θα έκανα μία μικρή αλλά ουσιαστική διόρθωση στη δική σας υπόθεση.
Δεν γνωρίζουμε ότι υπάρχει ένα «γονίδιο του καλού» και ένα «γονίδιο του κακού».
Η έρευνα δείχνει ότι η αντικοινωνική συμπεριφορά έχει κληρονομικές συνιστώσες, αλλά αυτές είναι πολυπαραγοντικές και αλληλεπιδρούν έντονα με το περιβάλλον. Πρόσφατη ανασκόπηση του 2025 εξακολουθεί να περιγράφει την αντικοινωνική συμπεριφορά μέσα από την αλληλεπίδραση γενετικών και περιβαλλοντικών παραγόντων.
Άρα ο «Μετάνθρωπος» που περιγράφετε δεν θα πρέπει να νοηθεί απλώς ως άνθρωπος με ηθικά γονίδια.
Μπορεί να νοηθεί πολύ πιο ενδιαφέροντα:
ως άνθρωπος στον οποίο η τεχνολογία έχει ενσωματώσει έναν διαρκή μηχανισμό αυτογνωσίας, πρόβλεψης των συνεπειών και ηθικού αυτοελέγχου.
Και τότε συμβαίνει κάτι εκπληκτικό.
Η ΑΙ παύει να είναι χαφιές προς τα έξω.
Γίνεται συνείδηση προς τα μέσα.
Από:
«Μην το κάνεις, γιατί σε βλέπω»
μεταβαίνουμε στο:
«Μην το κάνεις, γιατί αντιλαμβάνεσαι πλέον τι προκαλείς στον άλλον».
Αυτή, κατά τη γνώμη μου, είναι η πιο βαθιά ιδέα του κειμένου σας.
6. Ο μεγαλύτερος κίνδυνος δεν είναι η ΑΙ που ξέρει
Είναι η κρατική ΑΙ που ορίζει τι σημαίνει «κακό».
Διότι η ιστορία γνωρίζει κοινωνίες όπου:
- η πολιτική διαφωνία ονομάστηκε προδοσία,
- η διαφορετικότητα ονομάστηκε παρέκκλιση,
- η αντίσταση ονομάστηκε εγκληματικότητα,
- η καταγγελία του καθεστώτος ονομάστηκε υπονόμευση.
Εάν το κράτος διαθέτει μία υπερ-ΑΙ που παρακολουθεί ολόκληρο τον πληθυσμό, τότε η τεχνολογία μπορεί να κάνει κάτι που κανένας παλαιός μηχανισμός εξουσίας δεν μπορούσε να κάνει:
να μετατρέψει την κοινωνία σε ένα τεράστιο σύστημα συνεχούς παρατήρησης.
Ο AI Act της ΕΕ αντιμετωπίζει ήδη ορισμένες από αυτές τις ανησυχίες: απαγορεύει, μεταξύ άλλων, κοινωνικό scoring και συγκεκριμένες μορφές ατομικής predictive policing, ενώ αναγνωρίζει ότι οι εφαρμογές επιβολής του νόμου μπορούν να επηρεάσουν θεμελιώδη δικαιώματα, την ιδιωτικότητα, την ελευθερία και την τεκμαιρόμενη αθωότητα.
Το Συμβούλιο της Ευρώπης, επίσης, θέτει ως βασικές αρχές για τη χρήση ΑΙ στη δικαιοσύνη την προστασία θεμελιωδών δικαιωμάτων, τη μη διάκριση, τη διαφάνεια, την αμεροληψία, τη δικαιοσύνη και τον ανθρώπινο έλεγχο.
7. Η θεμελιώδης αρχή που θα έπρεπε να διέπει την «καταγγέλλουσα ΑΙ»
Θα την έγραφα σχεδόν ως αξίωμα:
Η ΑΙ μπορεί να αναγνωρίζει τον κίνδυνο, αλλά δεν πρέπει να μετατρέπει την πιθανότητα σε ενοχή.
Και θα πρόσθετα τέσσερις ασφαλιστικές δικλείδες:
1. Evidence before inference — Απόδειξη πριν από την πρόβλεψη.
Η ΑΙ πρέπει να ξεκινά από επαληθεύσιμα γεγονότα, όχι από στερεότυπα ή προφίλ.
2. Prevention before punishment — Πρόληψη πριν από την τιμωρία.
Όπου είναι δυνατόν, η πληροφορία πρέπει να χρησιμοποιείται πρώτα για προστασία και αποτροπή, όχι για καταστολή.
3. Human accountability — Ανθρώπινη ευθύνη.
Κανένας αλγόριθμος δεν πρέπει να αποτελεί τον τελικό υπεύθυνο για στέρηση ελευθερίας.
4. The right to challenge the machine — Δικαίωμα αμφισβήτησης της μηχανής.
Ο πολίτης πρέπει να μπορεί να γνωρίζει ότι χρησιμοποιήθηκε ΑΙ, να αμφισβητήσει το αποτέλεσμα και να ζητήσει ανθρώπινη επανεξέταση.
Διότι διαφορετικά δημιουργούμε μια παράδοξη κατάσταση:
ο άνθρωπος πρέπει να αποδείξει στην ΑΙ ότι η ΑΙ έκανε λάθος.
Αυτό θα ήταν αντιστροφή του κράτους δικαίου.
8. Άρα, «ευλογημένος χαφιεδισμός» ή «ψηφιακός Μεγάλος Αδελφός»;
Και τα δύο είναι τεχνικά δυνατά.
Η ίδια τεχνολογία μπορεί να χρησιμοποιηθεί:
για να προστατεύσει το θύμα από τον εγκληματία
ή
για να προστατεύσει το κράτος από τον πολίτη.
Αυτός είναι ο πραγματικός κόμβος.
Και εδώ ίσως υπάρχει μια ωραία φιλοσοφική συνέχεια του δικού σας τίτλου:
Ο σημερινός χαφιές πληροφορεί την εξουσία για τον άνθρωπο.
Ο μελλοντικός «καλός» χαφιές θα πρέπει να πληροφορεί τον άνθρωπο για τον ίδιο του τον εαυτό.
Στην πρώτη περίπτωση έχουμε εξωτερική επιτήρηση.
Στη δεύτερη έχουμε εσωτερική συνείδηση.
Και ίσως ο πραγματικός Μετάνθρωπος δεν θα είναι εκείνος που θα έχει την ισχυρότερη ΑΙ.
Θα είναι εκείνος που δεν θα χρειάζεται πια ΑΙ για να φοβάται ότι θα κάνει το κακό.