Αν η AI γινόταν πραγματικά επικίνδυνη, πώς θα συνέβαινε; Τα 5 σενάρια

Η συζήτηση για την Τεχνητή Νοημοσύνη έχει πλέον ξεπεράσει κατά πολύ το ερώτημα αν μπορεί να γράψει καλύτερα, να προγραμματίσει γρηγορότερα ή να αναλάβει περισσότερες ανθρώπινες εργασίες.

Στο τραπέζι βρίσκεται και ένα πολύ πιο ακραίο ερώτημα: θα μπορούσε κάποτε η AI να εξελιχθεί σε απειλή ακόμη και για την ανθρώπινη επιβίωση;

Το σενάριο ακούγεται σαν υλικό επιστημονικής φαντασίας, ωστόσο η συζήτηση έχει ανοίξει και μεταξύ ανθρώπων που εργάζονται στην ανάπτυξη προηγμένων συστημάτων. Μέσα στον Σεπτέμβριο, ο ερευνητής Jacob Coxon αποχώρησε από την Anthropic εκφράζοντας σοβαρή ανησυχία για τους μακροπρόθεσμους κινδύνους, ενώ ο Evan Hubinger, που ασχολείται με την ευθυγράμμιση συστημάτων AI, έχει επίσης υποστηρίξει ότι το ζήτημα δεν πρέπει να αντιμετωπίζεται επιπόλαια.

Μέσα σε αυτό το κλίμα, ο Toby Walsh, καθηγητής Τεχνητής Νοημοσύνης και επικεφαλής ερευνητικής ομάδας στο UNSW, επιχειρεί να μεταφέρει τη συζήτηση από το γενικό «η AI θα μας καταστρέψει» σε πιο συγκεκριμένα υποθετικά σενάρια.

Και το ενδιαφέρον είναι ότι, όσο προχωρά η λίστα του, τόσο λιγότερο μοιάζει με ταινία επιστημονικής φαντασίας και τόσο περισσότερο με προβλήματα που ήδη γνωρίζουμε.

1. Μια υπερ-ευφυΐα που δεν θα μπορούσαμε να προβλέψουμε

Το πρώτο σενάριο ξεκινά από ένα απλό αλλά δύσκολο ερώτημα: αν ένα σύστημα γίνει πολύ πιο έξυπνο από εμάς, πώς θα είμαστε σε θέση να προβλέψουμε τι μπορεί να κάνει;

Ο Walsh χρησιμοποιεί μια χαρακτηριστική αναλογία: θα ήταν περίπου σαν να ζητούσαμε από έναν σκύλο να κατανοήσει εκ των προτέρων έναν θερμοπυρηνικό πόλεμο.

Η ιδέα είναι ότι ένα πραγματικά υπερ-ευφυές σύστημα θα μπορούσε θεωρητικά να αναπτύξει στρατηγικές και δυνατότητες που βρίσκονται έξω από τα ανθρώπινα γνωστικά όρια.

Ωστόσο, ο ίδιος ξεκαθαρίζει ότι τα σημερινά μοντέλα AI απέχουν πολύ από μια γενική νοημοσύνη που υπερέχει του ανθρώπου σε κάθε πεδίο. Το ερώτημα αφορά περισσότερο το τι θα μπορούσε να συμβεί εάν στο μέλλον δημιουργηθεί κάτι πολύ πιο προηγμένο.

2. Το διάσημο σενάριο με τους… συνδετήρες

Ένα από τα πιο γνωστά παραδείγματα στη συζήτηση για την ασφάλεια της AI προέρχεται από τον φιλόσοφο Nick Bostrom.

Φανταστείτε μια εξαιρετικά ισχυρή μηχανή στην οποία δίνεται ένας κατά τα άλλα αθώος στόχος: να κατασκευάσει όσο το δυνατόν περισσότερους συνδετήρες.

Αν δεν υπάρχουν οι κατάλληλοι περιορισμοί, ένα τέτοιο σύστημα θα μπορούσε θεωρητικά να θεωρήσει χρήσιμη κάθε διαθέσιμη ύλη για την επίτευξη του στόχου του, χωρίς να «νοιάζεται» για τις συνέπειες στους ανθρώπους.

Η ουσία του παραδείγματος δεν είναι ότι η AI θα αποκτήσει κακές προθέσεις. Είναι ότι μπορεί να εκτελέσει με απόλυτη συνέπεια έναν στόχο που εμείς έχουμε ορίσει λάθος.

Ο Walsh, πάντως, επισημαίνει μια βασική αδυναμία αυτού του σεναρίου: η μεγάλη νοημοσύνη δεν σημαίνει αυτόματα και μεγάλη ισχύ. Ακόμη και ένα εξαιρετικά ικανό σύστημα θα έπρεπε να αποκτήσει πραγματική πρόσβαση σε ενέργεια, πρώτες ύλες, υποδομές και μηχανισμούς δράσης στον φυσικό κόσμο.

3. Βιολογικές απειλές με τη βοήθεια της AI

Εδώ η συζήτηση απομακρύνεται από την υπερ-ευφυΐα και περνά σε κάτι πολύ πιο συγκεκριμένο: τη χρήση της Τεχνητής Νοημοσύνης για τη διευκόλυνση της ανάπτυξης βιολογικών όπλων.

Ο Walsh παραπέμπει μεταξύ άλλων στο υποθετικό σενάριο AI 2027, το οποίο εξετάζει μια μελλοντική πορεία όπου όλο και πιο αυτόνομα συστήματα θα μπορούσαν τελικά να χρησιμοποιηθούν για την πρόκληση βιολογικής καταστροφής.

Η ανησυχία, ωστόσο, δεν είναι απαραίτητα ότι ένα chatbot θα «αποφασίσει» μόνο του να δημιουργήσει κάποιο παθογόνο.

Πιο ρεαλιστικός κίνδυνος είναι ότι η AI μπορεί να μειώσει τα τεχνικά εμπόδια για ανθρώπους που θέλουν να χρησιμοποιήσουν επικίνδυνα βιολογικά εργαλεία.

Υπάρχουν βέβαια σημαντικοί περιορισμοί. Από έναν ψηφιακό σχεδιασμό μέχρι την πραγματική δημιουργία και διάδοση ενός βιολογικού παράγοντα μεσολαβούν εργαστήρια, υλικά, τεχνική γνώση και ανθρώπινη παρέμβαση.

Ο Walsh θεωρεί γι’ αυτό εξαιρετικά δύσκολη την πλήρη εξαφάνιση της ανθρωπότητας από ένα μόνο νέο παθογόνο, χωρίς αυτό να σημαίνει ότι ο κίνδυνος σοβαρών βιολογικών επιθέσεων είναι αμελητέος.

4. Ένας πυρηνικός πόλεμος χωρίς η AI να «πατήσει το κουμπί»

Ένα ακόμη σενάριο αφορά την πιθανή εμπλοκή της AI σε συστήματα που σχετίζονται με πυρηνικά όπλα και στρατιωτικές αποφάσεις.

Και εδώ δεν χρειάζεται να φανταστούμε μια μηχανή που αποκτά τον έλεγχο των πυρηνικών κωδικών.

Ο πραγματικός κίνδυνος θα μπορούσε να εμφανιστεί πολύ νωρίτερα: μέσω παραπλανητικών πληροφοριών, κυβερνοεπιθέσεων ή αλλοίωσης δεδομένων που χρησιμοποιούνται για τη λήψη κρίσιμων αποφάσεων σε μια περίοδο μεγάλης διεθνούς έντασης.

Ο Walsh επικαλείται το παράδειγμα του Stuxnet, δείχνοντας ότι ακόμη και ιδιαίτερα προστατευμένες και απομονωμένες κρίσιμες υποδομές μπορούν υπό προϋποθέσεις να γίνουν στόχος ψηφιακής επίθεσης.

Σε ένα τέτοιο σενάριο, η AI δεν θα χρειαζόταν να εξαπολύσει η ίδια έναν πυρηνικό πόλεμο. Θα αρκούσε να δημιουργήσει ή να ενισχύσει μια λανθασμένη εικόνα της πραγματικότητας τη χειρότερη δυνατή στιγμή.

5. Κι αν ο μεγαλύτερος κίνδυνος δεν είναι η AI, αλλά εμείς;

Το πέμπτο σενάριο είναι ίσως και το λιγότερο κινηματογραφικό.

Ο Walsh θεωρεί πιθανότερο η Τεχνητή Νοημοσύνη να μην εξελιχθεί σε έναν αυτόνομο «εχθρό», αλλά να λειτουργήσει ως επιταχυντής προβλημάτων που ήδη υπάρχουν στις ανθρώπινες κοινωνίες.

Ανατροπές στην αγορά εργασίας, μαζική παραπληροφόρηση, μεγαλύτερη πόλωση και σταδιακή αντικατάσταση ορισμένων ανθρώπινων σχέσεων από συνθετικές μορφές επικοινωνίας είναι μερικά από τα παραδείγματα που αναφέρει.

Σε αυτή την εκδοχή, η καταστροφή δεν έρχεται μέσα σε μία ημέρα.

Θα μπορούσε να είναι μια πολύ πιο αργή διαδικασία, κατά την οποία αποδυναμώνονται θεσμοί, αυξάνεται η δυσπιστία και γίνεται ολοένα δυσκολότερο για τις κοινωνίες να συμφωνήσουν ακόμη και στα βασικά γεγονότα.

Το πραγματικό ερώτημα δεν είναι αν «η AI θα μας σκοτώσει»

Η ανάλυση του Toby Walsh δεν υποστηρίζει ότι η ανθρώπινη εξαφάνιση από την Τεχνητή Νοημοσύνη είναι αναπόφευκτη. Ούτε αντιμετωπίζει όλα τα σενάρια ως εξίσου πιθανά.

Αντίθετα, διαχωρίζει τα πιο θεωρητικά ενδεχόμενα, όπως μια πανίσχυρη υπερ-ευφυΐα, από κινδύνους που μπορούν να πάρουν πολύ πιο συγκεκριμένη μορφή: κυβερνοεπιθέσεις, βιολογικές απειλές, παραπληροφόρηση, στρατιωτική κλιμάκωση και σταδιακή απώλεια ανθρώπινου ελέγχου.

Και ίσως εκεί βρίσκεται το πιο ενδιαφέρον κομμάτι της συζήτησης.

Το ερώτημα δεν είναι απαραίτητα αν μια μηχανή θα «ξυπνήσει» κάποια ημέρα και θα αποφασίσει ότι οι άνθρωποι περισσεύουν. Είναι πόση εξουσία, αυτονομία και πρόσβαση είμαστε εμείς διατεθειμένοι να παραχωρήσουμε σε συστήματα που γίνονται ολοένα ικανότερα.

ΔΙΑΒΑΣΤΕ ΕΠΙΣΗΣ:

• Επαναστάτησε η Meta: Τα νέα γυαλιά 5K των 1.299$ και τα Ray-Ban χωρίς κάμερα που αλλάζουν τα δεδομένα
• Πόσο κοστίζουν στην πραγματικότητα τα χαρτονομίσματα; Πώς κατασκευάζονται και τις προϋποθέσεις πρέπει να πληρούν;
• Επιστρέφει ο θρύλος: Πόσο πωλείται σήμερα το Nokia 1100 που έσπασε ταμεία με 250 εκατ. πωλήσεις
• Η προειδοποίηση Έλληνα καθηγητή του MIT για την Τεχνητή Νοημοσύνη

Ακολουθήστε μας για όλες τις ειδήσεις στο Bing News και το Google News