ChatGPT: Αόρατο υδατογράφημα στα κείμενα στην Ευρώπη – Τι αλλάζει για τους χρήστες

Πελοπόννησος Newsroom

Μια νέα αλλαγή στον τρόπο με τον οποίο αναγνωρίζεται το περιεχόμενο που παράγεται από τεχνητή νοημοσύνη φέρνει η OpenAI στην Ευρωπαϊκή Ένωση, καθώς ανακοίνωσε ότι θα αρχίσει να ενσωματώνει αόρατο υδατογράφημα σε κείμενα που δημιουργούνται από το ChatGPT και το Codex.

Η αλλαγή αφορά επιλέξιμους χρήστες στην Ευρωπαϊκή Ένωση και εντάσσεται στην προσπάθεια συμμόρφωσης της εταιρείας με τις απαιτήσεις διαφάνειας που προβλέπει η ευρωπαϊκή νομοθεσία για την τεχνητή νοημοσύνη.

Το νέο σύστημα δεν θα εμφανίζεται στην οθόνη ως κάποιο σύμβολο ή ένδειξη. Αντίθετα, το υδατογράφημα ενσωματώνεται στον τρόπο με τον οποίο το μοντέλο επιλέγει και συνδυάζει τις λέξεις κατά τη δημιουργία ενός κειμένου. Στόχος είναι να μπορεί ένας ειδικός ανιχνευτής να εκτιμήσει αν ένα κείμενο έχει παραχθεί από μοντέλο της OpenAI.

Πώς λειτουργεί το αόρατο υδατογράφημα

Σε αντίθεση με ένα κλασικό υδατογράφημα εικόνας, το σύστημα δεν προσθέτει κάποιο εμφανές σημάδι στο κείμενο. Το σήμα ενσωματώνεται στη γλωσσική παραγωγή του μοντέλου και παραμένει μέσα στο ίδιο το κείμενο.

Αυτό σημαίνει ότι, σύμφωνα με την OpenAI, το σήμα μπορεί να ακολουθεί το περιεχόμενο ακόμη και όταν ο χρήστης το αντιγράφει και το επικολλά αλλού.

Η εταιρεία υποστηρίζει ότι το υδατογράφημα δεν περιέχει πληροφορίες που μπορούν να ταυτοποιήσουν τον χρήστη. Δεν αποκαλύπτει ποιος έδωσε την εντολή στο ChatGPT, σε ποιον ανήκει ένας λογαριασμός ή ποιος δημιούργησε το συγκεκριμένο κείμενο.

Ουσιαστικά, η τεχνολογία επιχειρεί να απαντήσει σε ένα περιορισμένο ερώτημα: αν ένα κείμενο είναι πιθανό να έχει παραχθεί από μοντέλο της OpenAI.

Πότε θα εφαρμοστεί στην Ευρώπη

Η OpenAI ανακοίνωσε ότι η λειτουργία θα αρχίσει να διατίθεται σταδιακά μέσα στις επόμενες εβδομάδες σε επιλέξιμους χρήστες του ChatGPT και του Codex στην Ευρωπαϊκή Ένωση.

Η εταιρεία συνδέει την απόφαση με τις υποχρεώσεις διαφάνειας που απορρέουν από την Πράξη για την Τεχνητή Νοημοσύνη της ΕΕ (EU AI Act), οι σχετικές απαιτήσεις της οποίας τέθηκαν σε εφαρμογή στις 2 Αυγούστου.

Παράλληλα, οι προγραμματιστές που χρησιμοποιούν το API της OpenAI μπορούν να ενεργοποιήσουν από τώρα τη λειτουργία για συγκεκριμένα μοντέλα, ανεξάρτητα από τη χώρα στην οποία βρίσκονται. Η δυνατότητα αυτή δεν ενεργοποιείται αυτόματα και αποτελεί επιλογή των προγραμματιστών.

Η OpenAI διευκρινίζει ότι δεν προχωρά, προς το παρόν, σε καθολική ενεργοποίηση του συστήματος υδατογράφησης για όλα τα κείμενα που παράγονται παγκοσμίως.

Δεν είναι αλάνθαστο το σύστημα

Η ίδια η εταιρεία αναγνωρίζει ότι η τεχνολογία έχει σημαντικούς περιορισμούς. Το υδατογράφημα μπορεί να είναι δύσκολο να εντοπιστεί σε σύντομα κείμενα, ενώ η επεξεργασία ενός κειμένου ή η μετάφρασή του μπορεί να μειώσει σημαντικά ή ακόμη και να εξαφανίσει το σχετικό σήμα.

Σε δοκιμές της OpenAI, η αντικατάσταση περίπου του 10% των λέξεων με συνώνυμα μείωσε την αποτελεσματικότητα ανίχνευσης από περίπου 92% σε 66%.

Η εταιρεία αναφέρει επίσης ότι ιδιαίτερη δυσκολία παρουσιάζουν κείμενα όπως σύντομες απαντήσεις, μαθηματικές λύσεις και μεταφράσεις.

Για τον λόγο αυτό, ο ανιχνευτής της τεχνολογίας δεν θα είναι αρχικά διαθέσιμος στο ευρύ κοινό. Η OpenAI αναφέρει ότι πρόσβαση θα έχουν εγκεκριμένοι ερευνητές, προκειμένου να αξιολογηθεί η αποτελεσματικότητα της μεθόδου και να βελτιωθεί περαιτέρω.

Η τεχνολογία textGrain

Παράλληλα με την ανακοίνωση, η OpenAI δημοσίευσε τεχνική έκθεση για τη μέθοδο που χρησιμοποιεί, η οποία ονομάζεται textGrain.

Η προσέγγιση βασίζεται στη δημιουργία ενός κρυφού μοτίβου στις επιλογές που κάνει το μοντέλο κατά την παραγωγή των επόμενων λέξεων. Με την ανάλυση πολλών τέτοιων επιλογών, ένας ειδικός ανιχνευτής μπορεί να αναζητήσει το συγκεκριμένο μοτίβο χρησιμοποιώντας το κείμενο και το αντίστοιχο κλειδί.

Σύμφωνα με την OpenAI, η υδατογράφηση δεν επηρεάζει ουσιαστικά την ταχύτητα ή τις δυνατότητες των μοντέλων. Η εταιρεία υποστηρίζει ότι στις δοκιμές της δεν διαπιστώθηκε ουσιαστική αλλαγή στον τρόπο με τον οποίο παράγονται ή διαβάζονται οι απαντήσεις.

Η ίδια, πάντως, αντιμετωπίζει την τεχνολογία ως ένα πεδίο που βρίσκεται ακόμη υπό εξέλιξη, αναγνωρίζοντας ότι απαιτούνται περαιτέρω δοκιμές και βελτιώσεις.

Το βασικό ζητούμενο είναι η δυνατότητα αναγνώρισης περιεχομένου που παράγεται από τεχνητή νοημοσύνη χωρίς να προστίθεται εμφανής σήμανση στο κείμενο. Η OpenAI υπογραμμίζει, ωστόσο, ότι το υδατογράφημα αποτελεί εργαλείο ένδειξης προέλευσης και όχι μηχανισμό ταυτοποίησης του ανθρώπου που χρησιμοποίησε το ChatGPT.

Η «Πελοπόννησος» και το pelop.gr σε ανοιχτή γραμμή με τον Πολίτη

Η φωνή σου έχει δύναμη – στείλε παράπονα, καταγγελίες ή ιδέες για τη γειτονιά σου.

Viber: +306909196125

Στείλε μήνυμα στο Viber

Ακολουθήστε μας για όλες τις ειδήσεις στο Bing News και το Google News