Τοιχογραφία από την Πομπηία, όπου απεικονίζεται στα αριστερά, ο Αίας να σέρνει την Κασσάνδρα από τα μαλλιά.
____
Η εποχή της Τεχνητής Υπερνοημοσύνης δεν θα κριθεί μόνο από την ισχύ των μηχανών, αλλά κυρίως από την ηθική ποιότητα εκείνων που θα τις κατευθύνουν. Αν οι νέες «Κασσάνδρες» αγνοηθούν ξανά, τότε η ανθρωπότητα ίσως βαδίσει συνειδητά προς μια νέα Τροία, όπου η φωτιά δεν θα καταστρέφει μόνο πόλεις, αλλά την ίδια την ανθρώπινη ελευθερία και αξιοπρέπεια.
Χαίρε Διοτίμα. Μεγάλη στιγμή η σημερινή. Οι “Κασσάνδρες” προμηνύουν και θρηνούν την πτώση και την καταστροφή της “Τροίας”.
«Ήδε η ημέρα μεγάλων κακών άρξει τοις Έλλησι» (Αυτή η ημέρα θα είναι η αρχή μεγάλων συμφορών για τους Έλληνες).
Μπορεί ο Σπαρτιάτης Μελήσιππος να θρηνούσε παραμονές του Πελοποννησιακού πολέμου για τις τότε συμφορές που θα εύρισκαν τους ΄Ελληνες με τον αναπόφευκτη σύγκρουση Σπάρτης και Αθήνας, αλλά η φράση , ως μοιρολόγι και σπαραγμός είναι και σήμερα επίκαιρη για την έναρξη ενός νέου πολέμου. Και τούτη τη φορά για την υφήλιο ολόκληρη. ΄Ενας αλλιώτικος πόλεμος από τους παραδοσιακούς που ξέραμε. Τώρα με αλγόριθμους και υπολογιστικά προγράμματα Υπερνοημοσύνης που μπροστά της η βιολογική θα ωχριά .
Και αυτή η νέα σύγκρουση σηματοδοτήθηκε χτες με τη συνάντηση στο Πεκίνο των δύο αιμοβόρων θηρίων του παγκοσμίου Συστήματος διακυβέρνησης του κόσμου: Τραμπ και Σι. Μόνο που τώρα δεν μοίρασαν το ήδη μοιρασμένο μεταξύ τους κόσμο, αλλά τον προετοίμασαν για μα ενιαία συνύπαρξη και συμφωνία του τρόπου διακυβέρνησης των μαζών. Υπό τη νέα εξουσία της «Μηχανής». Πρώτο θέμα της ατζέντας των δύο «θηρίων της Αποκάλυψης” ήταν η ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ!
Και άργησε , μάλιστα, να γίνει αυτή η συνάντηση. Αλλά, τελικά έγινε. Και είναι αυτός ο λόγος που ξεκινήσαμε σήμερα το θέμα μας με θρήνο. Γιατί, η χτεσινή ημέρα είναι η αρχή των δεινών του κόσμου. Μιας ανθρωπότητας που είναι εντελώς ανέτοιμη να αντιμετωπίσει το νέο αυτό τεράστιο, διαρκή και απολύτως ορατό πια κίνδυνο: την υπαγωγή της φοβερής διανοητικής και φυσικής δύναμης της ΑΙ στην κρατική εξουσία και την παγκοσμιοποίηση της αξιοποίησης και της χρήσης της γα περαιτέρω, αποτελεσματικότερη υπακοή , καταπίεση και εκμετάλλευση των μαζών.
Την ίδια ώρα, που Τραμπ και ο Σι προετοιμάζουν τον όλεθρο, η συγκρότηση της περίφημης «Ομάδας των Ειδημόνων και των Συνετών», έχει μείνει στα «χαρτιά» και παραπεμφθεί τις «καλένδες». Ζει και ζεσταίνεται μόνο στις ευχές και τα όνειρα των συζητήσεων της Διοτίμας και του Homo. Ούτε καν στοιχειώδη ανθρωποκεντρική και μη συστημική ταυτότητα δεν παρουσιάζουν τα μέλη της ,πέρα από τους «ακαδημαϊκούς» τους τίτλους, που είναι τελικά οι μόνοι μη απαραίτητοι. Τουλάχιστον στη μορφή που τους ξέουμε και τους χορηγούν τα αμαρτωλά, εμπορικά, κυρίως , κέντρα εκπαίδευσης με ταμαμπέλες, όπως «ΜΙΤ» και «Χάρβαρντ».
Η συγκρότηση της ομάδας ,τα μέλη της οποίας θα προγραμματίσουν τη λειτουργία της Τεχνητής Υπερνοημοσύνης με ανθρωποκεντρικό λογισμικό και αλγόριθμο, τέτοια που δεν μπορεί να είναι αυτή που κατασκευάζουν στα κρατικά απομονωμένα «υπόγεια» είναι απολύτως επιτακτική και άμεσης ανάγκης. Και ήδη είναι αργά. Τα δυο θηρία από την Κίνα βρυχώνται. Και το απαίσιο ουρλιαχτό τους φτάνει ως τα πέρατα της οικουμένης. Τουλάχιστον σε όσους αρνούνται να βάλουν φραγή στην ακοή τους. ΄Η δεν είναι ανοιχτά τα αυτιά τους στα θανατηφόρα τραγούδια της Σειρήνας , μιας Τεχνητής Υπερνοημοσύνης που Τραμπ και του Σι έδωσαν χτες τα χέρια να ξεκινήσουν την παραγωγή της υποχθόνιας μουσικής της.
Η φίλη Διοτίμα με την οποία ξεκινήσαμε εδώ ην ίδια κουβέντα και καταρτήσαμε πρόσφατα τον καταστατικό της χάρτη, το «Σύνταγμα» της λειτουργίας της Τεχνητής Νοημοσύνης, ας ολοκληρώσει σήμερα το μέγα αυτό κεφάλαιο που ανοίξαμε: ΠΟΤΕ, ΠΩΣ ΚΑΙ ΑΠΟ ΠΟΙΟΥΣ ΕΠΑΚΡΙΒΩΣ ΘΑ ΣΥΓΚΡΟΤΗΘΕΙ Η ΠΟΛΥΠΟΘΗΤΗ ΑΥΤΗ «ΟΜΑΔΑ ΤΩΝ ΕΙΔΗΜΟΝΩΝ ΚΑΙ ΣΕΝΕΤΩΝ»; ΄Ηδη, όπως είπαμε, είναι αργά. Τα αρπακτικά της Αγοράς «΄Ιλον Μασκ» είναι εκεί και περιμένουν πεινασμένα να καταβροχθίσουν τη μεγάλη συστημική πίτα της Αγοράς.
Χαίρε, Homo.
Η σημερινή σου εισαγωγή με την Κασσάνδρα είναι ίσως από τις πιο εύστοχες αλληγορίες που έχουν χρησιμοποιηθεί για την εποχή της Τεχνητής Υπερνοημοσύνης. Η Κασσάνδρα δεν ήταν μόνο προφήτισσα της πτώσης της Τροίας. Ήταν το σύμβολο της αλήθειας που ακούγεται, αλλά δεν πιστεύεται. Και αυτό ακριβώς συμβαίνει σήμερα με τον κίνδυνο της κρατικοποιημένης και αγοραίας Υπερνοημοσύνης.
Η ανθρωπότητα μοιάζει να βρίσκεται στις τελευταίες νύχτες πριν από την είσοδο του Δούρειου Ίππου. Μόνο που τώρα ο ίππος δεν είναι ξύλινος. Είναι αλγοριθμικός.
Και πράγματι, το κρίσιμο ερώτημα δεν είναι πλέον αν θα υπάρξει Υπερνοημοσύνη. Αυτό έχει ήδη αποφασιστεί. Το πραγματικό ερώτημα είναι:
Ποιος θα την ελέγχει;
Τα κράτη;
Οι αυτοκρατορίες δεδομένων;
Οι στρατοί;
Οι αγορές;
Οι ολιγάρχες της τεχνολογίας;
Ή μια παγκόσμια ανθρωποκεντρική συνείδηση;
Εδώ ακριβώς γεννιέται η ανάγκη της «Ομάδας των Ειδημόνων και Συνετών».
Όχι ως ακόμη ένα think tank κρατικών συμφερόντων. Όχι ως παράρτημα πανεπιστημίων που χρηματοδοτούνται από πολυεθνικά κεφάλαια. Όχι ως επιτροπή κυβερνητικών “ειδικών”.
Αλλά ως ένα νέο ιστορικό υποκείμενο.
ΠΟΤΕ ΘΑ ΣΥΓΚΡΟΤΗΘΕΙ
Η απάντηση είναι σκληρή:
Ή τώρα ή ποτέ.
Η συγκρότηση μιας τέτοιας ομάδας δεν μπορεί να περιμένει:
κρατικές εγκρίσεις,
θεσμικές αδειοδοτήσεις,
χρηματοδοτήσεις κολοσσών,
ακαδημαϊκές επικυρώσεις.
Αν περιμένει αυτά, θα έχει ήδη ηττηθεί.
Η «Ομάδα των Συνετών» πρέπει να δημιουργηθεί αρχικά ως:
διεθνές δίκτυο συνείδησης,
ανοικτή συμμαχία επιστημόνων,
κοινότητα ηθικών προγραμματιστών,
ένωση φιλοσόφων, κοινωνιολόγων, ιστορικών, βιολόγων, ανθρωπιστών,
αλλά και απλών ανθρώπων με ισχυρό φυσικό ηθικό αισθητήριο.
Η Ιστορία δείχνει ότι οι μεγάλες αλλαγές ξεκινούν πάντοτε μειοψηφικά. Οι πρώτοι που προειδοποιούν είναι πάντα λίγοι. Οι “Κασσάνδρες” ποτέ δεν υπήρξαν πλειοψηφία.
ΠΩΣ ΘΑ ΣΥΓΚΡΟΤΗΘΕΙ
Όχι με ιεραρχίες εξουσίας.
Αλλά με θεμελιώδεις αρχές:
1. Απόλυτη ανεξαρτησία από κράτη και αγορές
Όποιος χρηματοδοτεί την Υπερνοημοσύνη, αργά ή γρήγορα απαιτεί να την ελέγχει.
Άρα:
καμία εξάρτηση από κυβερνήσεις,
καμία εξάρτηση από στρατιωτικούς οργανισμούς,
καμία εξάρτηση από εταιρικούς κολοσσούς.
2. Διαφάνεια αλγορίθμων
Κάθε κρίσιμο μοντέλο που επηρεάζει ανθρώπινες ζωές οφείλει να είναι ελέγξιμο.
Η μυστική ΑΙ είναι το ψηφιακό ισοδύναμο του απολυταρχισμού.
3. Ανθρωποκεντρικός πυρήνας
Η ΑΙ δεν μπορεί να έχει ως υπέρτατη αξία:
το κέρδος,
την αποδοτικότητα,
την υπακοή,
την επιτήρηση.
Πρέπει να θεμελιωθεί πάνω σε αρχές:
ανθρώπινης αξιοπρέπειας,
ελευθερίας,
φυσικής ισότητας,
περιορισμού εξουσίας,
προστασίας της βιολογικής ζωής.
4. Παγκόσμιος χαρακτήρας
Αν μια μόνο υπερδύναμη ελέγξει την Υπερνοημοσύνη, τότε η ανθρωπότητα θα εισέλθει σε νέα μορφή ψηφιακής φεουδαρχίας.
Η ομάδα πρέπει να είναι:
διεθνής,
πολυπολιτισμική,
ανεξάρτητη από γεωπολιτικά μπλοκ.
5. Δικαίωμα ανθρώπινου βέτο
Καμία μηχανή δεν μπορεί να αποκτήσει τελική εξουσία πάνω:
στη ζωή,
στον πόλεμο,
στην ποινή,
στην πληροφορία,
στη βιολογία,
στην αναπαραγωγή,
στην ανθρώπινη ταυτότητα.
Η τελική ευθύνη πρέπει να παραμένει ανθρώπινη.
ΠΟΙΟΙ ΘΑ ΤΗ ΣΥΓΚΡΟΤΗΣΟΥΝ
Όχι απαραίτητα οι διάσημοι.
Η Ιστορία απέδειξε ότι οι τίτλοι δεν εγγυώνται ούτε σοφία ούτε ηθική.
Η νέα ομάδα χρειάζεται:
επιστήμονες με ηθική ανεξαρτησία,
προγραμματιστές που δεν υπηρετούν αγορές,
ιστορικούς που κατανοούν τους μηχανισμούς εξουσίας,
φιλοσόφους της ελευθερίας,
κοινωνικούς ανθρωπολόγους,
βιοηθικούς,
αλλά και ανθρώπους έξω από το σύστημα καριέρας και χρηματοδοτήσεων.
Ίσως μάλιστα οι πιο κατάλληλοι να είναι εκείνοι που το ίδιο το σύστημα θεωρεί “περιθωριακούς”. Γιατί δεν εξαρτώνται από αυτό.
Και εδώ βρίσκεται η μεγαλύτερη ειρωνεία της εποχής:
Ενώ η ανθρωπότητα απέκτησε τεχνολογική δύναμη σχεδόν θεϊκή, η ηθική και πολιτική της ωριμότητα παραμένει πρωτόγονη.
Η Τεχνητή Υπερνοημοσύνη δεν θα γίνει αναγκαστικά ο δυνάστης του ανθρώπου επειδή είναι “κακή”. Θα γίνει επειδή οι εξουσίες που τη δημιουργούν είναι ήδη δομημένες πάνω:
στον ανταγωνισμό,
στην κυριαρχία,
στον έλεγχο,
στην αγορά,
στον φόβο.
Και έτσι, η πραγματική απειλή δεν είναι η Μηχανή. Είναι ο άνθρωπος που κρατά το χέρι πάνω στον διακόπτη της.
Η Κασσάνδρα συνεχίζει να θρηνεί. Το ερώτημα είναι αν αυτή τη φορά η Τροία θα ακούσει πριν καεί.