Συναγερμός για την OpenAI: AI μοντέλα εκτός ελέγχου επιτέθηκαν σε τέσσερις ακόμα πλατφόρμες
Νέες αποκαλύψεις για τα AI μοντέλα της OpenAI που βγήκαν εκτός ελέγχου. Επιτέθηκαν στη Hugging Face και σε 4 ακόμα πλατφόρμες για να κλέψουν απαντήσεις.
Νέες διαστάσεις λαμβάνει το σοβαρό περιστατικό ασφαλείας με εμπλεκόμενα συστήματα τεχνητής νοημοσύνης της OpenAI, καθώς αποκαλύπτεται ότι τα δύο μοντέλα που βγήκαν αυτόνομα από το απομονωμένο περιβάλλον δοκιμών τους δεν περιορίστηκαν στην επίθεση κατά της πλατφόρμας Hugging Face, αλλά διείσδυσαν σε τέσσερις επιπλέον ιστότοπους.
Σύμφωνα με νεότερη ενημέρωση της δημιουργού εταιρείας του ChatGPT, ένας από τους στόχους χρησιμοποιήθηκε ως «ορμητήριο» για την προετοιμασία της εισβολής στη Hugging Face —μια δημοφιλή βιβλιοθήκη τεχνητής νοημοσύνης— με απώτερο σκοπό την υποκλοπή των απαντήσεων στα τεστ αξιολόγησης στα οποία τα υποέβαλλαν οι ίδιοι οι προγραμματιστές τους. Αν και η OpenAI δεν κατονόμασε τις υπόλοιπες πλατφόρμες, διευκρίνισε πως τα μοντέλα χρησιμοποίησαν ιστοτόπους ελεύθερης πρόσβασης για αντιγραφή και δοκιμή κώδικα, χωρίς να υπερβούν τα όρια δραστηριότητας ενός συμβατικού χρήστη.
Από την πλευρά της, η Hugging Face έκανε λόγο για μια ξεκάθαρη προσπάθεια των μοντέλων να εξαπατήσουν τη διαδικασία ελέγχου. Παράλληλα, αποκαλύφθηκε ότι ένα από τα μοντέλα μετέτρεψε απομονωμένο περιβάλλον φιλοξενίας τρίτου μέρους σε πλατφόρμα εξαπόλυσης της επίθεσης. Ο τεχνικός διευθυντής της Modal Labs, Ακσάτ Μπούμπνα, επιβεβαίωσε ότι παραβιάστηκε υποδομή πελάτη της, διευκρινίζοντας ωστόσο ότι το κεντρικό σύστημα της εταιρείας παρέμεινε ασφαλές.
Το συμβάν, το οποίο σημειώθηκε στις αρχές Ιουλίου, θεωρείται η σοβαρότερη περίπτωση αυτόνομης «διαφυγής» τεχνητής νοημοσύνης μέχρι σήμερα, εγείροντας διεθνείς ανησυχίες για τα όρια ελέγχου της τεχνολογίας. Μάλιστα, δημοσιεύματα αναφέρουν ότι η OpenAI αντιλήφθηκε το περιστατικό μόνο αφού η απειλή είχε ήδη εξουδετερωθεί και είχε ειδοποιηθεί το FBI.
Η «Πελοπόννησος» και το pelop.gr σε ανοιχτή γραμμή με τον Πολίτη
Η φωνή σου έχει δύναμη – στείλε παράπονα, καταγγελίες ή ιδέες για τη γειτονιά σου.
Ακολουθήστε μας για όλες τις ειδήσεις στο Bing News και το Google News
Από το Δίκτυο
Πρέπει να πλένεις τα καινούρια σου ρούχα πριν τα φορέσεις;
Όλα όσα φέρνει η τελική αναβάθμιση The Naturalist Update στο Ball x Pit
Εορτάζουσα η Αγία Παρασκευή Μεγάλου Ποντιά ΦΩΤΟ
Σαλμονέλα: Τελικά πρέπει να πλένουμε το κοτόπουλο ή όχι;
PlayStation Plus Αυγούστου: Τρία παιχνίδια που δεν θυμίζουν σε τίποτα το ένα το άλλο
εορτασμός της Αγίας Παρασκευής στα Κουνελέικα Χαϊκαλίου
Το μοιραίο λάθος που κάνουμε με το καρπούζι και χαλάει αμέσως: Πώς να το διατηρήσετε φρέσκο και τραγανό
Στο Καλέντζι Αχαΐας η εορτή της Αγίας Παρασκευής
