Μπορεί η τεχνητή νοημοσύνη να οδηγήσει στην εξαφάνιση της ανθρωπότητας; Τα σενάρια και οι αμφιβολίες

Η συζήτηση για το κατά πόσο η τεχνητή νοημοσύνη θα μπορούσε κάποια στιγμή να αποτελέσει απειλή για την ίδια την επιβίωση της ανθρωπότητας έχει επιστρέψει στο προσκήνιο, μετά τις δημόσιες προειδοποιήσεις ανθρώπων που εργάζονται στον χώρο της AI.

Αφορμή αποτέλεσε η αποχώρηση του Τζέικομπ Κόξον από την Anthropic, με τον ίδιο να υποστηρίζει ότι η κατεύθυνση προς ολοένα ισχυρότερα συστήματα τεχνητής νοημοσύνης εγκυμονεί σοβαρούς κινδύνους. Στη συνέχεια, ο συνάδελφός του Έβαν Χάμπινγκερ εκτίμησε ότι η πιθανότητα μια προηγμένη AI να οδηγήσει στην εξαφάνιση του ανθρώπινου είδους μέσα στην επόμενη δεκαετία ξεπερνά το 10%.

Οι συγκεκριμένες εκτιμήσεις αναζωπύρωσαν μια συζήτηση που βρίσκεται εδώ και χρόνια στο επίκεντρο της κοινότητας της τεχνητής νοημοσύνης: τι θα μπορούσε να συμβεί εάν τα συστήματα αποκτήσουν ικανότητες που υπερβαίνουν κατά πολύ τις σημερινές και, κυρίως, εάν η ανάπτυξή τους ξεπεράσει την ικανότητα των ανθρώπων να τα ελέγχουν.

Οι υποστηρικτές των πιο απαισιόδοξων σεναρίων αναφέρονται σε μια σειρά πιθανών κινδύνων. Άλλοι επιστήμονες, ωστόσο, επισημαίνουν ότι αρκετά από αυτά τα σενάρια προϋποθέτουν τεχνολογικές δυνατότητες που σήμερα δεν υπάρχουν και μια σειρά από γεγονότα που θα πρέπει να εξελιχθούν με συγκεκριμένο τρόπο.

Το σενάριο της βιολογικής απειλής

Ένα από τα σενάρια που συζητούνται αφορά τη χρήση της AI στον τομέα της βιολογίας.

Η ανησυχία είναι ότι ένα πολύ προηγμένο σύστημα θα μπορούσε να βοηθήσει ανθρώπους να σχεδιάσουν ή να αναπτύξουν επικίνδυνα παθογόνα ή να τους καθοδηγήσει σε διαδικασίες που σήμερα απαιτούν εξειδικευμένες γνώσεις.

Διαβάστε επίσης: Ανησυχία για την ανεξέλεγκτη τεχνητή νοημοσύνη: Ανοίγει η συζήτηση για τους παγκόσμιους κανόνες στον ΟΗΕ

Ο Τόμας Λάρσεν, ερευνητής στο AI Futures Project και πρώην μέλος του Machine Intelligence Research Institute, υποστηρίζει ότι μια ιδιαίτερα προηγμένη AI θα μπορούσε θεωρητικά να χειραγωγήσει ανθρώπους ώστε να πραγματοποιήσουν πειράματα για λογαριασμό της.

Το γεγονός ότι τα σημερινά μοντέλα χρησιμοποιούνται ήδη στην επιστημονική έρευνα, μεταξύ άλλων στη βιολογία και τη φαρμακευτική, αποτελεί ένα από τα στοιχεία που τροφοδοτούν αυτή τη συζήτηση.

Ωστόσο, η μετάβαση από την παροχή πληροφοριών ή την υποβοήθηση της έρευνας στην κατασκευή ενός λειτουργικού και εξαιρετικά επικίνδυνου βιολογικού όπλου δεν είναι απλή υπόθεση.

Ο Έρικ Σινγκ, καθηγητής μηχανικής μάθησης στο Carnegie Mellon University με ειδίκευση και στη μικροβιολογία, επισημαίνει ότι η βιολογική έρευνα απαιτεί ακρίβεια, εξειδικευμένο εξοπλισμό και ελεγχόμενες συνθήκες. Παράλληλα, υπάρχουν μηχανισμοί ασφαλείας γύρω από εργαστήρια, βιολογικά υλικά και την αλυσίδα εφοδιασμού, οι οποίοι αποτελούν πρόσθετα εμπόδια.

Τα αυτόνομα ρομπότ

Ένα δεύτερο σενάριο αφορά τη δημιουργία αυτόνομων μηχανών που θα μπορούσαν να λειτουργούν και να επεκτείνονται χωρίς ουσιαστική ανθρώπινη παρέμβαση.

Ο Νέιτ Σόαρες, πρόεδρος του Machine Intelligence Research Institute, υποστηρίζει ότι κρίσιμο σημείο θα ήταν η δυνατότητα ενός συστήματος να δημιουργήσει μόνο του την υποδομή που χρειάζεται για την παραγωγή περισσότερων μηχανών, από εργοστάσια έως ενεργειακά συστήματα.

Σε μια τέτοια υποθετική κατάσταση, η τεχνολογική ανάπτυξη θα μπορούσε να επιταχυνθεί δραματικά.

Η πραγματικότητα, ωστόσο, απέχει σημαντικά από αυτό το σενάριο. Τα σύγχρονα ανθρωποειδή ρομπότ, παρά τις σημαντικές επενδύσεις που πραγματοποιούνται στον τομέα, εξακολουθούν να έχουν περιορισμούς στην αυτονομία, την κατασκευή εξοπλισμού και τη λειτουργία τους σε σύνθετα περιβάλλοντα.

Θα μπορούσε η AI να αποκτήσει πρόσβαση στα πυρηνικά;

Ένα ακόμη ερώτημα αφορά τα πυρηνικά οπλοστάσια και το κατά πόσο μια προηγμένη τεχνητή νοημοσύνη θα μπορούσε να αποκτήσει πρόσβαση στα συστήματα που τα ελέγχουν.

Η Χάιντι Κλάαφ, επικεφαλής επιστήμονας στο AI Now Institute και πρώην μηχανικός ασφάλειας στην OpenAI, επισημαίνει ότι τα πυρηνικά συστήματα διαθέτουν αυστηρά πρωτόκολλα ασφαλείας και, σε σημαντικό βαθμό, είναι απομονωμένα από το διαδίκτυο.

Η υπόθεση του Stuxnet, του κακόβουλου λογισμικού που χρησιμοποιήθηκε εναντίον ιρανικών πυρηνικών εγκαταστάσεων, αποτελεί χαρακτηριστικό παράδειγμα των πρακτικών δυσκολιών μιας κυβερνοεπίθεσης σε κρίσιμες υποδομές, καθώς απαιτήθηκε φυσική πρόσβαση στο σύστημα.

Ο Χέρμπερτ Λιν, ερευνητής του Stanford University και ειδικός σε θέματα ασφάλειας, θεωρεί ότι ο μεγαλύτερος κίνδυνος εξακολουθεί να συνδέεται με τα ίδια τα πυρηνικά όπλα και τις ανθρώπινες αποφάσεις γύρω από τη χρήση τους, αντί με ένα υποθετικό σενάριο κατάληψης των πυρηνικών συστημάτων από AI.

Ο φόβος της αυτοβελτίωσης

Στον πυρήνα των πιο ανησυχητικών προβλέψεων βρίσκεται η ιδέα της λεγόμενης «τεχνητής υπερνοημοσύνης».

Πρόκειται για το υποθετικό στάδιο στο οποίο ένα σύστημα θα μπορούσε να βελτιώνει αυτόνομα τις ικανότητές του, με αποτέλεσμα η εξέλιξή του να επιταχύνεται σε βαθμό που οι άνθρωποι να αδυνατούν να την παρακολουθήσουν ή να την ελέγξουν.

Για τους υποστηρικτές αυτής της άποψης, ο κίνδυνος δεν προϋποθέτει ότι μια AI θα αποκτήσει «εχθρικές» προθέσεις. Θα μπορούσε να προκύψει από ένα σύστημα που εκτελεί έναν συγκεκριμένο στόχο με εξαιρετικά αποτελεσματικό τρόπο, χωρίς να λαμβάνει υπόψη ανθρώπινες αξίες ή περιορισμούς.

Το σενάριο αυτό παραμένει θεωρητικό και προϋποθέτει την εμφάνιση δυνατοτήτων που τα σημερινά συστήματα δεν διαθέτουν.

Η διαφωνία για το πόσο κοντά βρίσκεται το σενάριο

Η αντιπαράθεση δεν αφορά μόνο το εάν υπάρχουν κίνδυνοι, αλλά και το πόσο ρεαλιστικά είναι τα πιο ακραία σενάρια.

Ο Τόμας Λάρσεν έχει επιχειρήσει μέσα από τα σενάρια «AI 2027» και «AI 2040» να εξετάσει διαφορετικές πιθανές πορείες της τεχνολογικής ανάπτυξης και της διεθνούς ρύθμισης. Στις εκτιμήσεις του περιλαμβάνεται και το ενδεχόμενο η εξέλιξη των μηχανικών συστημάτων να οδηγήσει σε βαθιά αλλαγή της σχέσης ανθρώπων και μηχανών.

Από την άλλη πλευρά, ο Χέρμπερτ Λιν υποστηρίζει ότι η εντυπωσιακή πρόοδος των σημερινών συστημάτων μπορεί να οδηγεί ορισμένους ανθρώπους στην προβολή των σημερινών δυνατοτήτων σε ένα μέλλον χωρίς σαφή τεχνολογικά όρια.

Το βασικό ζήτημα παραμένει επομένως ανοιχτό. Η τεχνητή νοημοσύνη εξελίσσεται γρήγορα, όμως τα πιο ακραία σενάρια για την εξαφάνιση της ανθρωπότητας εξακολουθούν να αποτελούν αντικείμενο επιστημονικής διαφωνίας και όχι διαπιστωμένα γεγονότα.

Η συζήτηση, ωστόσο, έχει ήδη μετακινηθεί από τη σφαίρα της επιστημονικής φαντασίας στην πολιτική και τεχνολογική ατζέντα, καθώς κυβερνήσεις, ερευνητές και εταιρείες καλούνται να αποφασίσουν ποιοι κίνδυνοι πρέπει να αντιμετωπιστούν σήμερα, πριν οι δυνατότητες των συστημάτων γίνουν ακόμη μεγαλύτερες.

Ακολουθήστε μας για όλες τις ειδήσεις στο Bing News και το Google News