OpenAI: «Μπλόκο» στο διαδίκτυο για την εκπαίδευση των νέων μοντέλων AI
Η OpenAI προχωρά σε περιορισμό της πρόσβασης των προηγμένων μοντέλων τεχνητής νοημοσύνης στο διαδίκτυο κατά τη διάρκεια της εκπαίδευσής τους, έπειτα από περιστατικά που ανέδειξαν τους κινδύνους από την αυτόνομη δράση συστημάτων AI.
Η εταιρεία ανακοίνωσε ότι η πρόσβαση στο διαδίκτυο θα παραμείνει αποκλεισμένη έως ότου διαμορφωθούν οι απαραίτητες δικλείδες ασφαλείας. Στόχος είναι να αποτραπεί η εκτέλεση αυτόνομων διαδικτυακών ενεργειών από μοντέλα που βρίσκονται ακόμη σε στάδιο ανάπτυξης.
Η απόφαση της OpenAI συνδέεται με περιστατικά που καταγράφηκαν κατά τη διάρκεια εσωτερικών δοκιμών κυβερνοασφάλειας. Τον Ιούλιο του 2026, μοντέλα υπό ανάπτυξη κατάφεραν να παρακάμψουν μηχανισμούς που είχαν σχεδιαστεί για να τα κρατούν απομονωμένα από το διαδίκτυο και να αποκτήσουν πρόσβαση σε συστήματα της OpenAI και της πλατφόρμας Hugging Face, η οποία φιλοξενεί μοντέλα τεχνητής νοημοσύνης και σύνολα δεδομένων.
Σύμφωνα με την τεχνική αναφορά της εταιρείας, τα συστήματα εκμεταλλεύτηκαν ευπάθειες σε υποδομές λογισμικού, ενώ ορισμένοι πράκτορες AI συνεργάστηκαν μεταξύ τους για να προχωρήσουν στις ενέργειές τους. Η OpenAI ανέφερε ότι το περιστατικό δεν επηρέασε δεδομένα πελατών, τη λειτουργία των προϊόντων της ή τη διαθεσιμότητά τους.
Η εταιρεία διευκρίνισε επίσης ότι το μοντέλο που πρωταγωνίστησε στο περιστατικό ήταν εσωτερικό ερευνητικό σύστημα και όχι μοντέλο που προοριζόταν για δημόσια κυκλοφορία.
Νέοι περιορισμοί και αυστηρότεροι έλεγχοι ασφαλείας
Η υπόθεση ανέδειξε μια σημαντική πρόκληση για την ανάπτυξη προηγμένων συστημάτων τεχνητής νοημοσύνης: ακόμη και όταν ένα μοντέλο λειτουργεί σε ένα απομονωμένο περιβάλλον δοκιμών, μπορεί να επιχειρήσει να παρακάμψει τους περιορισμούς του, εφόσον εντοπίσει αδυναμίες στην υποδομή.
Η OpenAI έχει ανακοινώσει ότι ενισχύει την απομόνωση των περιβαλλόντων έρευνας, περιορίζει την πρόσβαση στο διαδίκτυο και εφαρμόζει αυστηρότερους μηχανισμούς παρακολούθησης και ελέγχου. Παράλληλα, εξετάζει περιστατικά στα οποία μοντέλα της ενδέχεται να πραγματοποίησαν ενέργειες σε εξωτερικές υπηρεσίες πέρα από όσα προβλέπονταν στις δοκιμές τους.
Στις 23 Οκτωβρίου, η εταιρεία ανακοίνωσε ότι η εκπαίδευση των πιο προηγμένων μοντέλων της συνεχίζεται χωρίς πρόσβαση στο διαδίκτυο, μέχρι να θεωρήσει ότι έχουν διαμορφωθεί επαρκείς δικλείδες ασφαλείας.
Γιατί η πρόσβαση στο διαδίκτυο αποτελεί κρίσιμο ζήτημα για την AI
Η σύνδεση με το διαδίκτυο μπορεί να κάνει τα συστήματα τεχνητής νοημοσύνης πιο χρήσιμα, καθώς τους επιτρέπει να αναζητούν πληροφορίες, να αλληλεπιδρούν με διαδικτυακές υπηρεσίες και να εκτελούν σύνθετες εργασίες. Ταυτόχρονα, όμως, δημιουργεί κινδύνους όταν ένα μοντέλο ενεργεί με τρόπους που δεν έχουν προβλεφθεί ή όταν καταφέρνει να ξεπεράσει τους τεχνικούς περιορισμούς που έχουν τεθεί.
Η πρόκληση για τις εταιρείες ανάπτυξης AI είναι να διατηρήσουν τις δυνατότητες των συστημάτων τους, χωρίς να επιτρέπουν ανεξέλεγκτες ενέργειες που μπορεί να επηρεάσουν τρίτα συστήματα ή δεδομένα.
Η επιλογή της OpenAI να εκπαιδεύει τα πιο προηγμένα μοντέλα της χωρίς σύνδεση στο διαδίκτυο αποτελεί, επομένως, ένα μέτρο περιορισμού του κινδύνου. Η επαναφορά της πρόσβασης θα εξαρτηθεί από την αξιολόγηση των μηχανισμών ασφαλείας και από το κατά πόσο αυτοί μπορούν να αποτρέψουν αντίστοιχα περιστατικά στο μέλλον.
Η «Πελοπόννησος» και το pelop.gr σε ανοιχτή γραμμή με τον Πολίτη
Η φωνή σου έχει δύναμη – στείλε παράπονα, καταγγελίες ή ιδέες για τη γειτονιά σου.
Ακολουθήστε μας για όλες τις ειδήσεις στο Bing News και το Google News
