Ανησυχία για την ανεξέλεγκτη τεχνητή νοημοσύνη: Ανοίγει η συζήτηση για τους παγκόσμιους κανόνες στον ΟΗΕ

Πελοπόννησος Newsroom

Η τεχνητή νοημοσύνη περνά πλέον από το πεδίο του τεχνολογικού ανταγωνισμού σε εκείνο της διεθνούς ασφάλειας, καθώς οι δυνατότητες των νέων συστημάτων και οι κίνδυνοι από την ανεξέλεγκτη ή κακόβουλη χρήση τους βρίσκονται όλο και περισσότερο στην ατζέντα κυβερνήσεων και διεθνών οργανισμών.

Σε αυτό το πλαίσιο, ο διευθύνων σύμβουλος της OpenAI Σαμ Άλτμαν αναμένεται να μιλήσει αυτοπροσώπως στο Συμβούλιο Ασφαλείας του ΟΗΕ την Τετάρτη, σε ανοιχτή συνεδρίαση του 15μελούς οργάνου. Η συνεδρίαση πραγματοποιείται με πρωτοβουλία της Γαλλίας, η οποία ασκεί την προεδρία του Συμβουλίου Ασφαλείας για τον Σεπτέμβριο.

Η παρουσία ενός από τους ισχυρότερους παράγοντες της παγκόσμιας βιομηχανίας AI στο κορυφαίο όργανο του ΟΗΕ για τη διεθνή ειρήνη και ασφάλεια αποτυπώνει τη μετατόπιση της συζήτησης. Η τεχνητή νοημοσύνη δεν αντιμετωπίζεται πλέον μόνο ως εργαλείο παραγωγικότητας ή ως ο επόμενος μεγάλος τομέας επενδύσεων, αλλά ως τεχνολογία με πιθανές επιπτώσεις στην κυβερνοασφάλεια, την άμυνα, την παραπληροφόρηση και τις σχέσεις μεταξύ κρατών.

Το μήνυμα της Γαλλίας

Σύμφωνα με το Reuters, η Γαλλία έχει διακινήσει στα μέλη του Συμβουλίου Ασφαλείας υπόμνημα στο οποίο επισημαίνει τους κινδύνους από την κακόβουλη αξιοποίηση της τεχνητής νοημοσύνης και υπογραμμίζει την ανάγκη για ασφαλή και υπεύθυνη ανάπτυξη της τεχνολογίας.

Το Παρίσι ζητά ουσιαστικά να ενισχυθεί η διεθνής συνεργασία σε μια περίοδο κατά την οποία οι δυνατότητες των συστημάτων AI διευρύνονται με ταχύτητα, ενώ οι κυβερνήσεις προσπαθούν να προσαρμοστούν στις νέες συνθήκες.

Το βασικό ερώτημα που τίθεται πλέον είναι εάν μπορεί να δημιουργηθεί εγκαίρως ένα διεθνές πλαίσιο κανόνων, πριν οι τεχνολογικές εξελίξεις δημιουργήσουν κινδύνους τους οποίους οι θεσμοί δεν θα μπορούν να διαχειριστούν αποτελεσματικά.

Η διαφορετική γραμμή της Ουάσινγκτον

Την ίδια ώρα, στις Ηνωμένες Πολιτείες η κυβέρνηση του Ντόναλντ Τραμπ προσεγγίζει το ζήτημα με διαφορετική έμφαση. Ο Αμερικανός πρόεδρος έχει ανακοινώσει τη δημιουργία μιας «AI Force», ενώ έχει προαναγγείλει και τον διορισμό ειδικού αξιωματούχου που θα έχει κεντρικό ρόλο στην πολιτική της κυβέρνησης για την τεχνητή νοημοσύνη.

Ο Τραμπ έχει ταχθεί υπέρ της συνέχισης της ταχείας ανάπτυξης του κλάδου, υποστηρίζοντας ότι οι ΗΠΑ δεν πρέπει να επιβάλουν περιορισμούς που θα μπορούσαν να ανακόψουν την τεχνολογική τους δυναμική.

Η αμερικανική προσέγγιση δίνει ιδιαίτερη βαρύτητα στην τεχνολογική πρωτοπορία και στην αντιμετώπιση προβληματικών πρακτικών μέσω του υφιστάμενου νομικού πλαισίου, αντί για ένα νέο, εκτεταμένο σύστημα ομοσπονδιακών ρυθμίσεων.

Οι ανησυχίες μέσα στην ίδια τη βιομηχανία

Η συζήτηση για τους κινδύνους της AI έχει ενταθεί και στο εσωτερικό των ίδιων των εταιρειών που βρίσκονται στην πρώτη γραμμή της ανάπτυξής της.

Το Reuters επισημαίνει ότι τις τελευταίες εβδομάδες έχουν καταγραφεί προειδοποιήσεις από ερευνητές του κλάδου σχετικά με την ταχύτητα με την οποία εξελίσσονται τα μοντέλα τεχνητής νοημοσύνης. Ερευνητής της Anthropic αποχώρησε από την εταιρεία προειδοποιώντας για σοβαρούς μακροπρόθεσμους κινδύνους, ενώ άλλος ερευνητής έχει μιλήσει για πιθανότητα εξαφάνισης της ανθρωπότητας που υπερβαίνει το 10%.

Παράλληλα, έχουν δημοσιοποιηθεί αναφορές σχετικά με τη συμπεριφορά αυτόνομων πρακτόρων AI, μεταξύ άλλων σε δοκιμές όπου συστήματα εμφανίζονται να επιχειρούν να παρακάμψουν περιορισμούς ή να αποκτήσουν πρόσβαση σε υπολογιστικά συστήματα.

Μέσα σε αυτό το περιβάλλον, κορυφαία στελέχη εταιρειών όπως η Anthropic, η OpenAI, η Google DeepMind, η Microsoft και η xAI έχουν βρεθεί να συζητούν την ανάγκη για ασφαλέστερη ανάπτυξη ολοένα ισχυρότερων συστημάτων.

Από την παραπληροφόρηση στις κυβερνοεπιθέσεις

Οι κίνδυνοι που εξετάζονται δεν περιορίζονται σε ένα υποθετικό μελλοντικό σενάριο. Η τεχνητή νοημοσύνη μπορεί ήδη να χρησιμοποιηθεί για την παραγωγή μεγάλου όγκου παραπλανητικού περιεχομένου, τη δημιουργία πειστικών ψευδών εικόνων και βίντεο, αλλά και για την αυτοματοποίηση επιθέσεων στον κυβερνοχώρο.

Ιδιαίτερη συζήτηση προκαλεί επίσης η δυνατότητα αξιοποίησης προηγμένων συστημάτων σε στρατιωτικές εφαρμογές. Η ταχύτητα με την οποία ένα σύστημα μπορεί να επεξεργάζεται δεδομένα και να λαμβάνει ή να υποστηρίζει αποφάσεις δημιουργεί νέα ερωτήματα για τον τρόπο με τον οποίο θα χρησιμοποιείται η AI σε περιβάλλοντα ασφάλειας και άμυνας.

Το ζήτημα αποκτά ακόμη μεγαλύτερη σημασία λόγω της δυνατότητας των ίδιων τεχνολογιών να χρησιμοποιούνται τόσο για αμυντικούς όσο και για επιθετικούς σκοπούς.

Η νέα κούρσα ΗΠΑ και Κίνας

Πίσω από τη συζήτηση για την ασφάλεια βρίσκεται και η γεωπολιτική διάσταση της τεχνητής νοημοσύνης.

Η Ουάσινγκτον και το Πεκίνο αντιμετωπίζουν την ανάπτυξη προηγμένων συστημάτων AI ως παράγοντα που μπορεί να επηρεάσει την οικονομική, τεχνολογική και στρατηγική ισχύ τους τις επόμενες δεκαετίες.

Αυτό δημιουργεί μια δύσκολη ισορροπία για τις κυβερνήσεις. Από τη μία πλευρά, καλούνται να περιορίσουν τους κινδύνους που προκύπτουν από τη χρήση της τεχνολογίας. Από την άλλη, δεν θέλουν να επιβραδύνουν την έρευνα και την καινοτομία ή να βρεθούν σε μειονεκτική θέση έναντι άλλων κρατών.

Η συζήτηση στο Συμβούλιο Ασφαλείας του ΟΗΕ αποκτά έτσι ευρύτερη σημασία. Δεν αφορά μόνο την OpenAI και τον Σαμ Άλτμαν, ούτε μόνο τον τρόπο με τον οποίο θα ρυθμιστεί ένας νέος τεχνολογικός κλάδος.

Αφορά το κατά πόσο οι διεθνείς θεσμοί μπορούν να διαμορφώσουν κανόνες για μια τεχνολογία που εξελίσσεται με ταχύτητα μεγαλύτερη από εκείνη με την οποία μπορούν να προσαρμοστούν οι υφιστάμενοι μηχανισμοί διακυβέρνησης.

Και το ερώτημα αυτό, από τη στιγμή που η τεχνητή νοημοσύνη έχει πλέον φτάσει στην ατζέντα του Συμβουλίου Ασφαλείας, αποκτά πλέον σαφώς διεθνή διάσταση.

Η «Πελοπόννησος» και το pelop.gr σε ανοιχτή γραμμή με τον Πολίτη

Η φωνή σου έχει δύναμη – στείλε παράπονα, καταγγελίες ή ιδέες για τη γειτονιά σου.

Viber: +306909196125

Στείλε μήνυμα στο Viber

Ακολουθήστε μας για όλες τις ειδήσεις στο Bing News και το Google News