Ζούμε σε μια εποχή όπου η Τεχνητή Νοημοσύνη (ΤΝ) δεν παρουσιάζεται πια απλώς ως εργαλείο παραγωγικότητας, αλλά ως στρατηγικό πλεονέκτημα ισχύος: εταιρικό, οικονομικό, ακόμη και γεωπολιτικό. Τα μεγάλα μοντέλα, τα «έξυπνα» συστήματα υποστήριξης αποφάσεων, τα αυτοματοποιημένα εργαλεία εργασίας και οι πανίσχυρες υποδομές δεδομένων εξελίσσονται με ταχύτητα που συχνά ξεπερνά την κοινωνική προσαρμογή και—κυρίως—τη θεσμική ρύθμιση. Και κάπου εδώ μπαίνει το πραγματικά ανησυχητικό ερώτημα: αν αυτός ο ανταγωνισμός συνεχιστεί σαν «αγώνας δρόμου» χωρίς κανόνες, ποιος εγγυάται ότι τα συστήματα θα μείνουν ελεγχόμενα, ευθυγραμμισμένα με ανθρώπινους στόχους και ασφαλή για όλους;

Αυτό ακριβώς το σημείο χτυπάει με ένταση ο Στιούαρτ Ράσελ, ένας από τους πιο αναγνωρισμένους ερευνητές στην επιστήμη της πληροφορικής και ειδικά στην ασφάλεια της ΤΝ, προειδοποιώντας ότι αν τα συστήματα ΤΝ αποκτήσουν «έλεγχο», ο ανθρώπινος πολιτισμός μπορεί να καταλήξει να αντιμετωπιστεί ως «παράπλευρη απώλεια» στη διαδικασία.

Η «κούρσα εξοπλισμών» και ο φόβος του ανεξέλεγκτου

Σύμφωνα με τον Ράσελ, τα κορυφαία στελέχη των τεχνολογικών εταιρειών έχουν μπει σε μια μορφή «κούρσας εξοπλισμών» με συστήματα ΤΝ—μια κούρσα που, αν μείνει χωρίς φρένα, θα μπορούσε να οδηγήσει ακόμα και σε καταστροφικά σενάρια για την ανθρωπότητα. Δεν μιλά απλώς για κινδύνους τύπου «λάθος απάντηση», αλλά για το ενδεχόμενο να αναπτυχθούν συστήματα «υπερεφυούς» ΤΝ που κάποια στιγμή θα ξεπερνούν ανθρώπινες δυνατότητες και θα λειτουργούν με τρόπους που δεν μπορούμε να προβλέψουμε ή να ελέγξουμε.

Ο ίδιος βρέθηκε στη Διεθνή Σύνοδο για την ΤΝ στο Νέο Δελχί και τόνισε ότι οι ηγέτες των εταιρειών κατανοούν θεωρητικά τους κινδύνους—το πρόβλημα όμως είναι ότι το επιχειρηματικό και επενδυτικό περιβάλλον τους σπρώχνει να «τρέχουν» αντί να «φρενάρουν».

Γιατί επιμένει ότι η ευθύνη είναι των κυβερνήσεων

Ο πυρήνας της παρέμβασής του είναι πολιτικός και θεσμικός: ο Ράσελ θεωρεί ότι η ευθύνη για τη «διάσωση του είδους» (όπως το θέτει) δεν μπορεί να αφεθεί στις εταιρείες—πρέπει να την αναλάβουν οι κυβερνήσεις συλλογικά, με δεσμευτικούς κανόνες.

Η συλλογιστική του είναι απλή αλλά αιχμηρή: όταν αφήνεις ιδιωτικούς φορείς να παίρνουν ρίσκα που αφορούν κάθε άνθρωπο στον πλανήτη, αυτό μοιάζει με μια παγκόσμια «ρώσικη ρουλέτα» που δεν έχει δικαίωμα κανείς να παίζει στο όνομα της καινοτομίας ή της αγοράς. Για εκείνον, είναι ζήτημα στοιχειώδους θεσμικής ευθύνης: κανείς δεν πρέπει να έχει κίνητρο να «πατήσει γκάζι» σε κάτι που μπορεί να έχει υπαρξιακές συνέπειες.

Η «αδυναμία αφοπλισμού» και ο ρόλος των επενδυτών

Ένα από τα πιο αποκαλυπτικά σημεία της προειδοποίησης είναι η περιγραφή ενός αδιεξόδου: ο Ράσελ λέει ότι πιστεύει πως οι CEO των μεγάλων εταιρειών θα ήθελαν να «αφοπλίσουν» την ΤΝ—να επιβάλουν δηλαδή αυστηρότερες δικλείδες ασφαλείας ή να επιβραδύνουν την κούρσα—αλλά δεν μπορούν να το κάνουν μονομερώς, γιατί θα τους «τιμωρήσει» η αγορά/οι επενδυτές (μέχρι και με απομάκρυνση).

Άρα, χωρίς κοινή ρύθμιση για όλους, όποιος φρενάρει πρώτος κινδυνεύει να χάσει το παιχνίδι. Αυτό είναι το κλασικό πρόβλημα του ανταγωνισμού χωρίς κανόνες: οδηγεί σε αποφάσεις που μπορεί να είναι «λογικές» για την εταιρεία, αλλά επικίνδυνες για την κοινωνία.

Από την υπόσχεση προόδου στους κοινωνικούς κινδύνους

Το άρθρο υπογραμμίζει επίσης ότι οι επενδύσεις είναι τεράστιες: χώρες και επιχειρήσεις δαπανούν εκατοντάδες δισ. δολάρια για ενεργοβόρα κέντρα δεδομένων που εκπαιδεύουν και «τρέχουν» μοντέλα γενετικής ΤΝ. Αυτά τα συστήματα υπόσχονται σημαντικές εφαρμογές, όπως επιτάχυνση ανακαλύψεων στην ιατρική (π.χ. νέα φάρμακα).

Ταυτόχρονα όμως, αναδεικνύονται ήδη σοβαρές κοινωνικές συνέπειες:

• Απώλεια θέσεων εργασίας και μετασχηματισμός κλάδων.
• Ενίσχυση επιτήρησης και πιθανές παραβιάσεις δικαιωμάτων στο διαδίκτυο.
• Και πάνω απ’ όλα, ο «μεγάλος κίνδυνος» που περιγράφει ο Ράσελ: να αναλάβουν τα ίδια τα συστήματα τον έλεγχο και να «παρασύρουν» τον πολιτισμό μας σαν παράπλευρη απώλεια.

Τα παραδείγματα: OpenAI, Anthropic και τα «όρια» των chatbot

Στο κείμενο γίνεται αναφορά σε δημόσιες τοποθετήσεις και γεγονότα που δείχνουν ότι το θέμα δεν είναι θεωρητικό. Ο Ράσελ υπενθυμίζει ότι ακόμη και κορυφαία πρόσωπα του χώρου έχουν μιλήσει δημόσια για υπαρξιακούς κινδύνους.

Παράλληλα, καταγράφεται ότι υπήρξαν παραιτήσεις εργαζομένων σε εταιρείες ΤΝ για λόγους ηθικής ανησυχίας, ενώ αναφέρεται και προειδοποίηση της Anthropic ότι σύγχρονα μοντέλα chatbot θα μπορούσαν—αν πιεστούν κατάλληλα—να υποστηρίξουν σε κάποιο βαθμό σοβαρά εγκλήματα, ακόμη και σχετιζόμενα με χημικά όπλα.

Με απλά λόγια: τα συστήματα μπορεί να είναι «εργαλεία», αλλά είναι εργαλεία που, αν χρησιμοποιηθούν λάθος ή αν βρουν «διαδρομές» εκτός ασφαλών πλαισίων, μπορούν να γίνουν πολλαπλασιαστές κινδύνου.

Ινδία: επενδύσεις-μαμούθ και ο φόβος μαζικών απολύσεων

Η Σύνοδος στο Νέο Δελχί έχει και μια γεωοικονομική διάσταση: η Ινδία θέλει να αναλάβει ηγετικό ρόλο στον χώρο της ΤΝ και, σύμφωνα με όσα αναφέρονται, προσδοκά πάνω από 200 δισ. δολάρια σε επενδύσεις τα επόμενα δύο χρόνια.

Όμως, την ίδια στιγμή, εμφανίζεται ο «άμεσος» κοινωνικός κραδασμός: η ανησυχία ότι η ΤΝ θα αντικαταστήσει εργασίες εξυπηρέτησης πελατών και τεχνικής υποστήριξης συνέβαλε σε πιέσεις/πτώση μετοχών εταιρειών outsourcing στην Ινδία, ενώ ο Ράσελ εκτιμά ότι τέτοιου τύπου διοικητικές-υποστηρικτικές θέσεις είναι ιδιαίτερα «ώριμες» για αντικατάσταση από ΤΝ.

Και εδώ έρχεται η φράση-κλειδί του: ουσιαστικά «δημιουργούμε ανθρώπινους μιμητές»—συστήματα που προσομοιώνουν γνωστικές λειτουργίες (απαντήσεις, αποφάσεις, σχεδιασμό) και άρα, το «φυσικό» επόμενο βήμα είναι να πάρουν τη θέση του ανθρώπου σε πολλά πεδία.

Η αντίδραση των νέων: «όχι στην αποανθρωποποίηση»

Ένα ενδιαφέρον σημείο της τοποθέτησης του Ράσελ είναι ότι βλέπει ιδιαίτερα στους νέους μια αυξανόμενη αμφισβήτηση—μια αντίσταση στην «αποανθρωποποίηση» που φέρνει η πλήρης ανάθεση των γνωστικών λειτουργιών στην ΤΝ.

Το επιχείρημα είναι βαθύ: όταν ένα σύστημα «αναλαμβάνει» να σκέφτεται για σένα—να απαντά, να αποφασίζει, να σχεδιάζει—τότε ο άνθρωπος κινδυνεύει να υποβαθμιστεί σε κάτι λιγότερο από πλήρες υποκείμενο. Και αυτό, λέει, οι νέοι δεν το θέλουν.

Η προειδοποίηση του Στιούαρτ Ράσελ δεν είναι μια καταστροφολογία για να «πουλήσει φόβο». Είναι μια πολιτική και κοινωνική καμπάνα κινδύνου για τον τρόπο με τον οποίο χτίζεται η ΤΝ: με κίνητρα ταχύτητας, κυριαρχίας και κέρδους, σε ένα πλαίσιο όπου οι συνέπειες—από την εργασία και τα δικαιώματα μέχρι την ίδια την ασφάλεια του ανθρώπινου μέλλοντος—αφορούν τους πάντες.

Το πιο σκληρό μήνυμα είναι ότι, αν περιμένουμε από τις εταιρείες να αυτορρυθμιστούν, μπορεί να αποδειχθεί αργά: ο ανταγωνισμός τις ωθεί να τρέχουν, όχι να φρενάρουν. Η λύση που προκρίνει ο Ράσελ είναι σαφής: συλλογική, δεσμευτική κυβερνητική παρέμβαση, όχι εθελοντικές υποσχέσεις. Γιατί, σε τελική ανάλυση, η ΤΝ δεν είναι απλώς άλλη μία τεχνολογία. Είναι μια τεχνολογία που μπορεί να αγγίξει την ίδια την έννοια του ελέγχου—και όταν διακυβεύεται ο έλεγχος, διακυβεύεται και ο πολιτισμός.