Παραιτήθηκε από την Google DeepMind και προειδοποιεί: «Η AI μπορεί να μας σκοτώσει όλους – Ο χρόνος τελειώνει»

Μια ακόμη φωνή μέσα από τα ίδια τα εργαστήρια που αναπτύσσουν τα ισχυρότερα συστήματα Τεχνητής Νοημοσύνης έρχεται να ενισχύσει τη συζήτηση για το πόσο γρήγορα πρέπει να προχωρήσει η τεχνολογία – και πού πρέπει να μπουν τα όριά της.

Ο Μπιλάλ Τσουγκτάι, πρώην μηχανικός έρευνας της Google DeepMind, αποκάλυψε ότι αποχώρησε από την εταιρεία όπου εργαζόταν στην ασφάλεια και την «ευθυγράμμιση» προηγμένων συστημάτων AI και διατύπωσε μία από τις πιο δραματικές προειδοποιήσεις που έχουν ακουστεί δημόσια από άνθρωπο του κλάδου.

«Πιστεύω ειλικρινά ότι η Τεχνητή Νοημοσύνη έχει τη δυνατότητα να μας σκοτώσει όλους και ότι μπορεί να μας τελειώνει ο χρόνος για να αποτρέψουμε αυτό το ενδεχόμενο», έγραψε.

Τι είδε στη DeepMind και γιατί παραιτήθηκε

Ο Τσουγκτάι εργαζόταν ως research engineer στη Google DeepMind και είχε συμμετάσχει σε έρευνα γύρω από την ασφάλεια της AI.

Αποχώρησε από την εταιρεία τον Ιούλιο του 2026 και στις 14 Σεπτεμβρίου εξήγησε δημόσια τους λόγους που τον οδήγησαν στην απόφαση.

Όπως ανέφερε, μέσα στη DeepMind είχε τη δυνατότητα να παρακολουθεί από κοντά την ταχύτητα με την οποία εξελίσσονται τα συστήματα Τεχνητής Νοημοσύνης. Η ανησυχία του επικεντρώνεται όχι τόσο στα σημερινά chatbot, όσο στην πορεία προς πολύ ισχυρότερα συστήματα που θα μπορούσαν να αποκτήσουν ικανότητες πολύ μεγαλύτερες από τις σημερινές.

Τι σημαίνουν AGI και «alignment»

Ο ίδιος εργαζόταν ειδικά πάνω σε δύο έννοιες που βρίσκονται πλέον στο κέντρο της συζήτησης για την ασφάλεια της AI: την AGI και το alignment.

Με τον όρο AGI – Artificial General Intelligence ή Τεχνητή Γενική Νοημοσύνη περιγράφεται υποθετικά ένα σύστημα που θα μπορεί να εκτελεί ένα πολύ μεγάλο εύρος πνευματικών εργασιών σε επίπεδο αντίστοιχο ή ανώτερο από εκείνο του ανθρώπου και όχι απλώς μία συγκεκριμένη εργασία.

Το «alignment», από την άλλη, είναι το πρόβλημα του πώς εξασφαλίζεται ότι ένα ολοένα ισχυρότερο σύστημα θα συνεχίσει να λειτουργεί σύμφωνα με τους ανθρώπινους στόχους, τους περιορισμούς και τις προθέσεις που του έχουν δοθεί.

Με απλά λόγια, το ερώτημα είναι: αν ένα σύστημα γίνει εξαιρετικά ικανό, μπορούμε να είμαστε βέβαιοι ότι θα εξακολουθήσει να κάνει αυτό που πραγματικά θέλουμε;

Δεν είναι η πρώτη παραίτηση που συνοδεύεται από τόσο σκληρή προειδοποίηση

Ο Τσουγκτάι δεν είναι ο μόνος ερευνητής που εγκαταλείπει έναν κορυφαίο οργανισμό AI και στη συνέχεια εκφράζει δημόσια έντονη ανησυχία.

Λίγες ημέρες νωρίτερα, ο ερευνητής της Anthropic Τζέικομπ Κόξον ανακοίνωσε τη δική του παραίτηση, υποστηρίζοντας ότι οι μεγάλες εταιρείες κινούνται προς την ανάπτυξη αυτοβελτιούμενης υπερνοημοσύνης χωρίς επαρκείς εγγυήσεις ασφαλείας.

Ο Κόξον προχώρησε ακόμη περισσότερο, υποστηρίζοντας ότι άνθρωποι που εργάζονται στην ανάπτυξη της AI πιστεύουν πραγματικά ότι η τεχνολογία θα μπορούσε να οδηγήσει στην εξαφάνιση της ανθρωπότητας μέχρι το τέλος της δεκαετίας.

Η εκτίμηση του 10% που άνοιξε ακόμη μεγαλύτερη συζήτηση

Ακόμη μεγαλύτερη αίσθηση προκάλεσε η δημόσια παρέμβαση του Έβαν Χούμπινγκερ, επικεφαλής του Alignment Science στην Anthropic.

Απαντώντας στον Κόξον, δήλωσε ότι συμφωνεί με την ουσία της προειδοποίησης και έδωσε τη δική του προσωπική εκτίμηση: θεωρεί ότι η πιθανότητα η AI να οδηγήσει στην εξαφάνιση της ανθρωπότητας μέσα στην επόμενη δεκαετία είναι μεγαλύτερη από 10%.

Η «αυτοβελτιούμενη» AI που φοβίζει τους ερευνητές

Εδώ βρίσκεται και το δυσκολότερο κομμάτι της συζήτησης.

Ο όρος recursive self-improvement, ή αναδρομική αυτοβελτίωση, περιγράφει ένα υποθετικό σενάριο στο οποίο ένα σύστημα Τεχνητής Νοημοσύνης αποκτά την ικανότητα να συμβάλλει ουσιαστικά στην κατασκευή ενός ακόμη ισχυρότερου συστήματος.

Εκείνο με τη σειρά του θα μπορούσε να δημιουργήσει ένα ακόμη καλύτερο και η διαδικασία να επαναλαμβάνεται.

Ο φόβος ορισμένων ερευνητών είναι ότι, εάν αυτή η διαδικασία εξελιχθεί πολύ γρήγορα, η ικανότητα των ανθρώπων να κατανοούν, να ελέγχουν ή να περιορίζουν τα νέα συστήματα μπορεί να μην προλαβαίνει τον ρυθμό βελτίωσής τους.

«Πρέπει να σταματήσει η μανιώδης κούρσα»

Ο Τσουγκτάι δεν υποστηρίζει ότι η ανάπτυξη της Τεχνητής Νοημοσύνης πρέπει να σταματήσει.

Το επιχείρημά του είναι διαφορετικό: οι μεγάλες εταιρείες δεν μπορούν να συνεχίσουν έναν αγώνα στον οποίο κάθε μία φοβάται ότι, εάν επιβραδύνει, θα την προσπεράσει ο ανταγωνισμός.

«Πρέπει να αποφύγουμε αυτή τη μανιώδη κούρσα μεταξύ των εταιρειών Τεχνητής Νοημοσύνης», ανέφερε.

Κατά την άποψή του, ο ρυθμός ανάπτυξης πρέπει να προσαρμοστεί σε επίπεδο που επιτρέπει στην κοινωνία, στους ερευνητές και στις κυβερνήσεις να αντιμετωπίζουν τους νέους κινδύνους πριν αυτοί αποκτήσουν ακραίες διαστάσεις.

Αμοντέι, Άλτμαν και Μασκ βρήκαν ένα σπάνιο σημείο συμφωνίας

Η συζήτηση πήρε ακόμη μεγαλύτερες διαστάσεις όταν ο διευθύνων σύμβουλος της Anthropic Ντάριο Αμοντέι ζήτησε δημόσια επιβράδυνση της ανάπτυξης των ισχυρότερων μοντέλων, ώστε οι μηχανισμοί ασφαλείας να μπορέσουν να ακολουθήσουν.

Η παρέμβασή του απέκτησε ιδιαίτερη βαρύτητα επειδή βρήκε υποστήριξη από δύο ανθρώπους που σπάνια βρίσκονται στην ίδια πλευρά της συζήτησης: τον Σαμ Άλτμαν και τον Έλον Μασκ.

Οι επικεφαλής κορυφαίων εταιρειών του κλάδου συγκλίνουν πλέον τουλάχιστον σε ένα σημείο: όσο τα μοντέλα αποκτούν μεγαλύτερες δυνατότητες, οι διαδικασίες ελέγχου και αξιολόγησης ασφαλείας πρέπει να εξελίσσονται εξίσου γρήγορα.

Η άλλη πλευρά της συζήτησης

Οι ακραίες προβλέψεις για εξαφάνιση της ανθρωπότητας δεν αποτελούν, ωστόσο, κοινά αποδεκτή θέση στον επιστημονικό κόσμο.

Δεν υπάρχει σήμερα τρόπος να υπολογιστεί με βεβαιότητα μια πιθανότητα όπως «10%» για ένα γεγονός αυτού του είδους, ούτε συναίνεση για το αν ή πότε θα δημιουργηθούν συστήματα πραγματικής υπερνοημοσύνης.

Η συζήτηση περιλαμβάνει από τη μία ερευνητές που θεωρούν ότι ακόμη και μια μικρή πιθανότητα καταστροφικής έκβασης απαιτεί άμεση δράση και, από την άλλη, όσους θεωρούν ότι τα πιο άμεσα και μετρήσιμα προβλήματα της AI –απάτες, κυβερνοεπιθέσεις, παραπληροφόρηση, επιπτώσεις στην εργασία και συγκέντρωση ισχύος– πρέπει να έχουν μεγαλύτερη προτεραιότητα.

Αυτό που έχει αλλάξει είναι ότι η συζήτηση για τα ακραία σενάρια δεν περιορίζεται πλέον σε θεωρητικούς εκτός της βιομηχανίας. Προέρχεται όλο και συχνότερα από ανθρώπους που έχουν εργαστεί στις ίδιες τις εταιρείες οι οποίες κατασκευάζουν τα ισχυρότερα μοντέλα AI.

Και αυτό ακριβώς κάνει την προειδοποίηση του Τσουγκτάι περισσότερο ενδιαφέρουσα από μία ακόμη δυστοπική πρόβλεψη: προέρχεται από έναν άνθρωπο που εργαζόταν για να λύσει το ίδιο πρόβλημα ασφάλειας για το οποίο τώρα λέει ότι ο διαθέσιμος χρόνος μπορεί να λιγοστεύει.