Anthropic: Το AI χρησιμοποιήθηκε σε προσπάθειες ανάπτυξης βιολογικών όπλων – Οι νέες προειδοποιήσεις για τους κινδύνους

Νέα διάσταση στη συζήτηση για τους κινδύνους που μπορεί να δημιουργήσει η ανεξέλεγκτη χρήση της τεχνητής νοημοσύνης δίνει η τελευταία έκθεση ασφαλείας της Anthropic, καθώς η εταιρεία ανακοίνωσε ότι εντόπισε και σταμάτησε προσπάθειες αξιοποίησης των μοντέλων Claude για δραστηριότητες που θα μπορούσαν να συνδεθούν με την ανάπτυξη βιολογικών όπλων.

Η έκθεση, η οποία αφορά περιστατικά που καταγράφηκαν από τον Δεκέμβριο του 2025 έως τον Αύγουστο του 2026, περιγράφει ένα ευρύ φάσμα κακόβουλων χρήσεων της τεχνολογίας. Σε αυτές περιλαμβάνονται κυβερνοεπιθέσεις, επιχειρήσεις επιρροής, απάτες, συστήματα επιτήρησης αλλά και εφαρμογές που σχετίζονται με όπλα.

Πέντε περιστατικά με βιολογικό ενδιαφέρον

Ιδιαίτερη ανησυχία προκαλούν οι πέντε περιπτώσεις που η Anthropic εντόπισε και ανέκοψε, στις οποίες τα μοντέλα της χρησιμοποιήθηκαν με τρόπο που, σύμφωνα με την εταιρεία, θα μπορούσε να διευκολύνει την ανάπτυξη βιολογικών όπλων.

Η Anthropic χαρακτηρίζει τη βιολογική κατάχρηση έναν από τους σοβαρότερους κινδύνους που συνδέονται με τα σύγχρονα συστήματα τεχνητής νοημοσύνης. Το πρόβλημα, όπως επισημαίνει, είναι ότι οι ίδιες επιστημονικές γνώσεις μπορούν να έχουν απολύτως θεμιτές εφαρμογές, όπως η ανάπτυξη φαρμάκων, εμβολίων και θεραπειών, αλλά μπορούν παράλληλα να αξιοποιηθούν για επικίνδυνους σκοπούς.

Ο επικεφαλής ανάλυσης απειλών της εταιρείας, Jacob Klein, περιέγραψε την κατάσταση ως ιδιαίτερα σύνθετη, υπογραμμίζοντας ότι η κακόβουλη πρόθεση δεν είναι πάντοτε εύκολο να αναγνωριστεί από την αρχή.

Ρωσική κυβερνοκατασκοπεία και προπαγάνδα

Στην ίδια έκθεση καταγράφεται η χρήση του Claude από πρόσωπα που, σύμφωνα με την Anthropic, συνδέονται με ρωσική εκστρατεία κυβερνοκατασκοπείας, αλλά και από ιρανικό οργανισμό προπαγάνδας.

Μεταξύ των περιστατικών που εντοπίστηκαν περιλαμβάνονται επίσης προσπάθειες δημιουργίας ψεύτικων εφαρμογών γνωριμιών, απάτες μέσω δικτύων Wi-Fi ξενοδοχείων και ανάπτυξη συστημάτων παρακολούθησης με στόχο τον εντοπισμό αντιφρονούντων.

Η εταιρεία υποστηρίζει ακόμη ότι κινεζικές εταιρείες AI επιχείρησαν να αντιγράψουν τις δυνατότητες του Claude.

AI και συμβατικά όπλα

Η έκθεση δεν περιορίζεται στα βιολογικά όπλα. Η Anthropic αναφέρει έξι περιστατικά στα οποία το Claude χρησιμοποιήθηκε για την ανάπτυξη λογισμικού που συνδέεται με συμβατικά οπλικά συστήματα, μεταξύ άλλων πυραύλους, drones, βόμβες και πυρομαχικά, καθώς και με συστήματα ελέγχου και στόχευσης.

Παράλληλα, η εταιρεία αναφέρει ότι ομάδα χάκερ που συνδέεται με τη ρωσική Midnight Blizzard χρησιμοποίησε AI για τη δημιουργία κακόβουλου λογισμικού το οποίο μπορούσε να αντιλαμβάνεται πότε εντοπιζόταν από συστήματα ασφαλείας και να τροποποιεί τον κώδικά του ώστε να αποφεύγει την ανίχνευση.

Αντίστοιχες απόπειρες και στο Gemini

Το ζήτημα δεν αφορά μόνο την Anthropic. Η Google έχει επίσης αναφέρει περιστατικό κατά το οποίο χρήστης επιχείρησε να αξιοποιήσει το Gemini για να λάβει λεπτομερείς οδηγίες σχετικά με τη σύνθεση βιολογικών παραγόντων με δυνατότητα μετατροπής τους σε όπλα.

Οι εξελίξεις ενισχύουν τις πιέσεις προς τις εταιρείες τεχνητής νοημοσύνης να ενισχύσουν τους μηχανισμούς ασφαλείας και να εντοπίζουν όχι μόνο το περιεχόμενο των ερωτημάτων, αλλά και τον πιθανό σκοπό για τον οποίο χρησιμοποιούνται τα μοντέλα.

Οι φόβοι για την «υπερνοημοσύνη»

Η δημοσιοποίηση της έκθεσης έρχεται σε μια περίοδο αυξανόμενων προειδοποιήσεων από ερευνητές του κλάδου.

Στελέχη της Anthropic έχουν εκτιμήσει ότι υπάρχει πιθανότητα άνω του 10% η τεχνητή νοημοσύνη να οδηγήσει ακόμη και σε αφανισμό της ανθρωπότητας μέσα στην επόμενη δεκαετία, εκτίμηση που έχει προκαλέσει έντονη συζήτηση γύρω από τα όρια της ανάπτυξης των συστημάτων AI.

Ανάλογες ανησυχίες έχουν εκφραστεί και από στελέχη άλλων εταιρειών. Ο επικεφαλής επιστήμονας της OpenAI, Jakub Pachocki, έχει ζητήσει «εθελοντικές επιβραδύνσεις» στην ανάπτυξη της τεχνολογίας έως ότου υπάρξουν επαρκείς δικλίδες ασφαλείας.

Ο Σάντερς ζητά προσωρινό «φρένο»

Στις ΗΠΑ, ο γερουσιαστής Μπέρνι Σάντερς έχει ταχθεί υπέρ αυστηρότερων περιορισμών και έχει προτείνει προσωρινή αναστολή της ανάπτυξης προηγμένων συστημάτων AI, καθώς και απαγόρευση της τεχνητής υπερνοημοσύνης.

Στον αντίποδα, ο Ντόναλντ Τραμπ έχει υποβαθμίσει τις συγκεκριμένες ανησυχίες, επισημαίνοντας ότι οι ΗΠΑ πρέπει να διατηρήσουν την πρωτοπορία στην τεχνητή νοημοσύνη.

Η Anthropic υποστηρίζει από την πλευρά της ότι τα περιστατικά που εντοπίστηκαν έχουν ήδη ενσωματωθεί στις διαδικασίες ασφαλείας της, ενώ αναφέρει ότι σε περιπτώσεις όπου κρίθηκε απαραίτητο μοιράστηκε πληροφορίες με αρμόδιες αρχές και άλλες εταιρείες του κλάδου.