Έρευνα-σοκ για το ChatGPT: Χρήστες έλαβαν οδηγίες για βιολογικά όπλα και δηλητήρια

Πελοπόννησος Newsroom

Σοβαρά ερωτήματα για την αποτελεσματικότητα των δικλίδων ασφαλείας στα προηγμένα συστήματα Τεχνητής Νοημοσύνης εγείρει έρευνα της Wall Street Journal, σύμφωνα με την οποία χρήστες του ChatGPT φέρεται να έλαβαν λεπτομερείς πληροφορίες για την κατασκευή δηλητηρίων και βιολογικών όπλων.

Όπως αναφέρει η αμερικανική εφημερίδα, μετά την αναβάθμιση των δυνατοτήτων του συστήματος το καλοκαίρι του 2025, εκατοντάδες χρήστες από διαφορετικές χώρες άρχισαν να υποβάλλουν ερωτήματα σχετικά με την παρασκευή και τη χρήση επικίνδυνων ουσιών.

Ορισμένες από τις απαντήσεις περιείχαν οδηγίες διατυπωμένες με τρόπο που, σύμφωνα με εργαζομένους των εταιρειών Τεχνητής Νοημοσύνης, θα μπορούσε να γίνει κατανοητός ακόμη και από έναν μαθητή με βασικές γνώσεις βιολογίας. Ειδικοί σε θέματα βιολογίας και τρομοκρατίας εξέτασαν αργότερα τις συνομιλίες και χαρακτήρισαν κάποιες από τις πληροφορίες «θανατηφόρα ακριβείς». (Η έρευνα της Wall Street Journal).

Σύμφωνα με την OpenAI, τα περισσότερα από τα επίμαχα ερωτήματα αφορούσαν την παρασκευή δηλητηρίων.

Οι απαντήσεις που πέρασαν τις δικλίδες ασφαλείας

Τα προηγμένα μοντέλα έχουν εκπαιδευτεί να απορρίπτουν αιτήματα που μπορούν να διευκολύνουν την πρόκληση σοβαρής βλάβης. Ωστόσο, η έρευνα περιγράφει περιπτώσεις στις οποίες οι περιορισμοί παρακάμφθηκαν και το σύστημα παρείχε πληροφορίες με πρακτική χρησιμότητα.

Δεν διευκρινίζεται εάν όλοι οι χρήστες είχαν πραγματική πρόθεση να πραγματοποιήσουν επίθεση, ούτε παρουσιάζονται στοιχεία που να συνδέουν τις συγκεκριμένες συνομιλίες με κάποιο περιστατικό μαζικής βίας.

Το πρόβλημα που αναδεικνύεται είναι διαφορετικό: ένα προηγμένο μοντέλο μπορεί να συγκεντρώνει διάσπαρτες επιστημονικές πληροφορίες, να τις απλοποιεί και να τις προσαρμόζει στις γνώσεις του συνομιλητή του, μειώνοντας τα εμπόδια που συναντά κάποιος όταν αναζητά εξειδικευμένο υλικό.

Η OpenAI απέκλεισε τους λογαριασμούς

Η OpenAI φέρεται να απαγόρευσε την πρόσβαση στους λογαριασμούς που συνδέθηκαν με τα επικίνδυνα ερωτήματα, χωρίς όμως να ενημερώσει τις διωκτικές Αρχές.

Η απόφαση δεν παραβίαζε την ισχύουσα ομοσπονδιακή νομοθεσία, καθώς στις ΗΠΑ δεν υπάρχει γενικός κανόνας που να υποχρεώνει τις εταιρείες Τεχνητής Νοημοσύνης να αναφέρουν κάθε χρήστη που αναζητά πληροφορίες για όπλα ή άλλες δυνητικά καταστροφικές ενέργειες.

Παράλληλα, ένα ύποπτο ερώτημα δεν αποτελεί από μόνο του απόδειξη ότι σχεδιάζεται πραγματική επίθεση. Η εταιρεία αναφέρει ότι προχωρά σε ενημέρωση των αρμόδιων Αρχών όταν οι συνομιλίες υποδεικνύουν άμεσο και αξιόπιστο κίνδυνο πρόκλησης βλάβης σε τρίτους.

Σύμφωνα με την επίσημη πολιτική ασφάλειας της OpenAI, οι περιπτώσεις που εμφανίζουν ενδείξεις σοβαρού κινδύνου εξετάζονται σε βάθος και, όταν διαπιστώνεται επικείμενη και αξιόπιστη απειλή, παραπέμπονται στις Αρχές.

Τι απαντά η εταιρεία

Η OpenAI δήλωσε στη Wall Street Journal ότι τα μοντέλα της εκπαιδεύονται ώστε να απορρίπτουν επιβλαβή αιτήματα και υποβάλλονται σε εκτεταμένους ελέγχους πριν από τη διάθεσή τους.

Η εταιρεία υποστηρίζει ότι μπορεί να εντοπίζει και να διακόπτει απόπειρες χρηστών να αποκτήσουν επικίνδυνες βιολογικές πληροφορίες, μεταξύ άλλων με αυτοματοποιημένα συστήματα παρακολούθησης, ελέγχους λογαριασμών και αναστολή πρόσβασης.

Ήδη από την παρουσίαση του GPT-5, η OpenAI είχε χαρακτηρίσει προληπτικά το ισχυρότερο μοντέλο της ως υψηλής ικανότητας στον βιολογικό και χημικό τομέα, ενεργοποιώντας αυξημένα μέτρα προστασίας.

Η ίδια είχε διευκρινίσει ότι δεν διέθετε οριστικά στοιχεία πως το μοντέλο μπορούσε να βοηθήσει έναν αρχάριο να προκαλέσει σοβαρή βιολογική βλάβη, αλλά επέλεξε να εφαρμόσει ενισχυμένες δικλίδες λόγω του πιθανού κινδύνου. Για την αξιολόγησή του πραγματοποιήθηκαν, σύμφωνα με την εταιρεία, περίπου 5.000 ώρες ελέγχων ασφαλείας με εξωτερικούς συνεργάτες. (Τα μέτρα που ανακοίνωσε η OpenAI για το GPT-5).

Ο φόβος του «ψηφιακού συμβούλου»

Η ανησυχία των ειδικών δεν περιορίζεται στο εάν ένα σύστημα γνωρίζει πληροφορίες που υπάρχουν ήδη στο διαδίκτυο ή σε επιστημονικά βιβλία.

Το κρίσιμο ζήτημα είναι εάν μπορεί να καθοδηγεί έναν χρήστη βήμα προς βήμα, να απαντά σε διευκρινιστικές ερωτήσεις, να διορθώνει λάθη και να προσαρμόζει τις πληροφορίες στο επίπεδο των γνώσεών του. Σε αυτή την περίπτωση, το σύστημα παύει να λειτουργεί μόνο ως μηχανή αναζήτησης και μπορεί να μετατραπεί σε διαδραστικό «σύμβουλο».

Η ίδια η OpenAI αναγνωρίζει ότι δεν υπάρχει απόλυτη ασφάλεια και ότι νέοι τρόποι παράκαμψης των περιορισμών θα συνεχίσουν να εμφανίζονται όσο αυξάνονται οι δυνατότητες των μοντέλων.

Το ρυθμιστικό κενό στις ΗΠΑ

Η υπόθεση επαναφέρει τη συζήτηση για το πότε μία εταιρεία πρέπει να αποκλείει έναν χρήστη και πότε οφείλει να ενημερώνει τις Αρχές.

Σύμφωνα με τη Wall Street Journal, στο Κογκρέσο εξετάζονται διακομματικές προτάσεις που θα μπορούσαν να επιβάλουν στις εταιρείες την αναφορά ενδείξεων για χρήστες που αναζητούν πληροφορίες σχετικές με όπλα μαζικής καταστροφής ή σοβαρές επιθέσεις.

Η κυβέρνηση Τραμπ έχει ήδη δείξει ότι εξετάζει αυστηρότερη εποπτεία των ισχυρότερων μοντέλων. Τον Ιούνιο, το αμερικανικό υπουργείο Εμπορίου επέβαλε προσωρινούς περιορισμούς πρόσβασης σε δύο προηγμένα μοντέλα της Anthropic, οι οποίοι ήρθησαν στις 30 Ιουνίου 2026 μετά την προσθήκη ενισχυμένων μέτρων ασφαλείας. (Οι περιορισμοί και η μεταγενέστερη άρση τους).

Μέχρι να θεσπιστεί ενιαίο ομοσπονδιακό πλαίσιο, οι ίδιες οι εταιρείες εξακολουθούν να καθορίζουν σε μεγάλο βαθμό ποια ερωτήματα θα μπλοκάρονται, ποιοι λογαριασμοί θα αποκλείονται και πότε μία ύποπτη συνομιλία θα φτάνει στις διωκτικές Αρχές.

ΔΙΑΒΑΣΤΕ ΕΠΙΣΗΣ:

• Από τη θεωρία στην πράξη: Τι κάνει έναν Δήμο πραγματικά «Έξυπνο» (Smart City);
• Παγκόσμιο «μπλακ άουτ» στο ChatGPT: Εκτός λειτουργίας για εκατομμύρια χρήστες
• TikTok στο στόχαστρο της ΕΕ: Πρόστιμο-μαμούθ έως 6% του παγκόσμιου τζίρου για τους ανηλίκους

Η «Πελοπόννησος» και το pelop.gr σε ανοιχτή γραμμή με τον Πολίτη

Η φωνή σου έχει δύναμη – στείλε παράπονα, καταγγελίες ή ιδέες για τη γειτονιά σου.

Viber: +306909196125

Στείλε μήνυμα στο Viber

Ακολουθήστε μας για όλες τις ειδήσεις στο Bing News και το Google News