“Η επαρχία της Βρετανικής Κολομβίας στον Καναδά κατέθεσε αγωγή κατά της OpenAI, κατηγορώντας την εταιρεία ότι δεν ενημέρωσε τις Αρχές για ανησυχητικές συνομιλίες στο ChatGPT πριν από την πολύνεκρη επίθεση σε σχολείο του Tumbler Ridge τον περασμένο Φεβρουάριο”.
****
Μόλις χτες γράφαμε για την ποινικοποίηση της πρόθεσης πριν από την πράξη στο κείμενό μας με τίτλο «Ευλογημένος χαφιεδισμός» ή «ψηφιακός Μεγάλος Αδελφός»; (*)
Τέτοιες ενέργειες (μηνύσεις , καταγγελίες, παραινέσεις) «ανοίγουν τον ασκό του Αιόλου». Λύνουν τα χέρια στο Σύστημα να καταστήσει την Τεχνητή Νοημοσύνη «Μεγάλο Αδελφό» , για να μας “σώσει” από πιθανές εγκληματικές πράξεις σαν αυτή της 18χρονης παραπάνω. Θα ήταν ένα βήμα στον ολοκληρωτισμό και το χαφιεδισμό μια απόφαση δικαστηρίου που θα δικαίωνε τους μηνυτές.
(*) Ποιος έχει δικαίωμα να γνωρίζει ότι ένας άνθρωπος πρόκειται να διαπράξει κάτι κακό;
Εδώ υπάρχει μια τεράστια ηθική απόσταση ανάμεσα σε δύο πράγματα:
Α. Η ΑΙ βλέπει μια πράξη ή μια άμεση, αντικειμενικά επαληθεύσιμη ένδειξη εγκλήματος.
Β. Η ΑΙ χαρακτηρίζει έναν άνθρωπο ως πιθανό εγκληματία επειδή, σύμφωνα με τον αλγόριθμο, έχει ορισμένα χαρακτηριστικά.
Το πρώτο μπορεί να αποτελέσει τεχνολογική επέκταση της κοινωνικής αυτοπροστασίας.
Το δεύτερο αγγίζει κάτι πολύ επικίνδυνο: ποινικοποίηση της πρόθεσης πριν από την πράξη.
______________________
The province of British Columbia in Canada has filed a lawsuit against OpenAI, accusing the company of failing to notify authorities about concerning interactions on ChatGPT prior to the deadly school shooting in Tumbler Ridge last February”.
Just yesterday, we wrote about the criminalization of intent before action in our piece titled “Blessed Informing” or “Digital Big Brother”? (*)
Such actions (lawsuits, complaints, exhortations) “open Aeolus’s box.” They give the System free rein to turn Artificial Intelligence into a “Big Brother,” ostensibly to save us from potential criminal acts like the one committed by the 18-year-old mentioned above. A court ruling favoring the plaintiffs would represent a step toward totalitarianism and an informant culture.
(*) Who has the right to know that a human being is about to commit an evil act?
There is a vast ethical chasm between two distinct scenarios:
A. AI detects an ongoing act or a direct, objectively verifiable indication of a crime.
B. AI flags an individual as a potential criminal because, according to an algorithm, they possess certain characteristics.
The former can serve as a technological extension of social self-defense.
The latter borders on something highly perilous: the criminalization of intent before action.