Ένα λάθος της AI λίγο έλειψε να φέρει ΗΠΑ και Κίνα σε σύγκρουση – Τα αεροσκάφη είχαν ήδη απογειωθεί
Ένοπλοι Αμερικανοί στρατιωτικοί ετοιμάζονταν να επιβιβαστούν σε κινεζικό πλοίο, όταν αποκαλύφθηκε ότι η πληροφορία για μεταφορά εξαρτημάτων πυρηνικού προγράμματος ήταν λανθασμένη – Τι αποκάλυψε το CNN
Μία λανθασμένη πληροφορία που δημιουργήθηκε με τη βοήθεια τεχνητής νοημοσύνης έφερε τις αμερικανικές ένοπλες δυνάμεις ένα βήμα πριν από επιχείρηση εναντίον κινεζικού πλοίου στη Μέση Ανατολή, σε ένα περιστατικό που, σύμφωνα με πηγή του CNN, «παραλίγο να ξεκινήσει πόλεμο».
Το περιστατικό συνέβη την άνοιξη του 2026, ενώ βρισκόταν σε εξέλιξη ο πόλεμος με το Ιράν. Έκθεση πληροφοριών που κυκλοφόρησε στο αμερικανικό στρατιωτικό σύστημα ανέφερε ότι κινεζικό πλοίο στην περιοχή μετέφερε εξαρτήματα που σχετίζονταν με πρόγραμμα πυρηνικών όπλων. Το CNN αποκάλυψε την υπόθεση επικαλούμενο τέσσερις πηγές που γνώριζαν το περιστατικό.
Η αντίδραση ήταν άμεση. Σύμφωνα με το αμερικανικό δίκτυο, στρατιωτικές δυνάμεις άρχισαν να προετοιμάζουν την αναχαίτιση του πλοίου. Ένοπλοι στρατιωτικοί βρίσκονταν σε ετοιμότητα να επιβιβαστούν σε αυτό, ενώ αμερικανικά στρατιωτικά αεροσκάφη είχαν ήδη απογειωθεί.
Και τότε, λίγο πριν αρχίσει η επιχείρηση, κάποιος κοίταξε ξανά την πληροφορία.
Το chatbot είχε αναγνωρίσει λάθος το φορτίο
Η έκθεση είχε συνταχθεί από αναλυτή που εργαζόταν σε διοίκηση ειδικών επιχειρήσεων. Ο αναλυτής είχε χρησιμοποιήσει chatbot τεχνητής νοημοσύνης για να επεξεργαστεί πληροφορίες σχετικά με το φορτίο του κινεζικού πλοίου.
Στο σύστημα εισήχθησαν, σύμφωνα με το CNN, τόσο πληροφορίες από ανοικτές πηγές όσο και διαβαθμισμένα δεδομένα σημάτων που βρίσκονταν στη διάθεση των αμερικανικών υπηρεσιών.
Το chatbot συνέδεσε τα δεδομένα και κατέληξε ότι το υλικό που μετέφερε το πλοίο αποτελούσε τμήμα πυρηνικού προγράμματος.
Μόνο που αυτό δεν ήταν αλήθεια.
Όταν πιο έμπειροι αναλυτές εξέτασαν τα αρχικά στοιχεία, διαπίστωσαν ότι το σύστημα τεχνητής νοημοσύνης είχε αναγνωρίσει λανθασμένα το φορτίο. Το CNN δεν μπόρεσε να εξακριβώσει τι ακριβώς μετέφερε το πλοίο. Μία από τις πηγές του χαρακτήρισε ολόκληρη την αναφορά «εντελώς λανθασμένη».
Η στρατιωτική επιχείρηση ακυρώθηκε πριν οι αμερικανικές δυνάμεις επιβιβαστούν στο κινεζικό σκάφος.
Η AI χρησιμοποιήθηκε ξανά για να γραφτεί η έκθεση
Υπάρχει ακόμη μία λεπτομέρεια που κάνει την υπόθεση ιδιαίτερα ανησυχητική.
Μετά την αρχική λανθασμένη ανάλυση, ο αναλυτής χρησιμοποίησε ξανά τεχνητή νοημοσύνη προκειμένου να μετατρέψει τα ευρήματα σε τυποποιημένη έκθεση πληροφοριών, δηλαδή σε έγγραφο της μορφής που κυκλοφορεί και αξιοποιείται από στρατιωτικούς αξιωματούχους.
Έτσι, η εσφαλμένη εκτίμηση πέρασε στο σύστημα με τη μορφή μιας κανονικής αναφοράς πληροφοριών και διακινήθηκε ευρύτερα στις αμερικανικές ένοπλες δυνάμεις.
Δεν έχει διευκρινιστεί ποιο πρόγραμμα χρησιμοποιήθηκε. Το CNN αναφέρει ότι δεν κατάφερε να εξακριβώσει εάν επρόκειτο για εμπορικά διαθέσιμο chatbot ή για εσωτερικό σύστημα τεχνητής νοημοσύνης της αμερικανικής κυβέρνησης.
«Η AI σε βοηθά να φτάσεις πιο γρήγορα σε μια κακή ιδέα»
Το περιστατικό αναδεικνύει ένα διαφορετικό πρόβλημα από τα περισσότερο φουτουριστικά σενάρια γύρω από την τεχνητή νοημοσύνη: όχι μια AI που αποφασίζει από μόνη της να προκαλέσει σύγκρουση, αλλά ανθρώπους που λαμβάνουν κρίσιμες αποφάσεις βασισμένοι σε λανθασμένη πληροφορία την οποία παρήγαγε ένα σύστημα AI.
Πηγή με γνώση της χρήσης της τεχνητής νοημοσύνης στις αμερικανικές υπηρεσίες το συνόψισε στο CNN με μία χαρακτηριστική φράση: «Η AI σε βοηθά να φτάσεις πιο γρήγορα σε μια κακή ιδέα».
Σύμφωνα με τις πηγές του δικτύου, παρόμοιες «παραισθήσεις» –όπως αποκαλούνται οι περιπτώσεις στις οποίες ένα σύστημα AI παράγει πειστική αλλά λανθασμένη πληροφορία– δεν αποτελούν μεμονωμένο φαινόμενο στις αμερικανικές υπηρεσίες πληροφοριών.
Η AI μπαίνει όλο και περισσότερο στον αμερικανικό στρατό
Το περιστατικό αποκαλύπτεται την ώρα που το Πεντάγωνο επιταχύνει τη χρήση τεχνητής νοημοσύνης στις ένοπλες δυνάμεις.
Τον Ιανουάριο ο υπουργός Άμυνας Πιτ Χέγκσεθ παρουσίασε στρατηγική επιτάχυνσης της χρήσης AI, με στόχο τα νέα εργαλεία να χρησιμοποιηθούν ευρύτερα από στρατιωτικό και πολιτικό προσωπικό. Η τεχνητή νοημοσύνη αξιοποιείται ήδη σε τομείς από την επεξεργασία τεράστιων όγκων πληροφοριών και την επιλογή στόχων μέχρι την εφοδιαστική και τη διαχείριση στρατιωτικών πόρων.
Το CNN επισημαίνει, ωστόσο, ότι η εφαρμογή γίνεται με διαφορετικά συστήματα και κανόνες σε διαφορετικά τμήματα του στρατού και των υπηρεσιών πληροφοριών και ότι δεν υπάρχει ενιαίο σύνολο προτύπων για την επαλήθευση των πληροφοριών που παράγουν αυτά τα εργαλεία.
Η αμερικανική Διοίκηση Ειδικών Επιχειρήσεων Ειρηνικού και το Πεντάγωνο δεν απάντησαν στο αίτημα του CNN για σχόλιο σχετικά με το συγκεκριμένο περιστατικό.
Το συμβάν τελικά δεν εξελίχθηκε σε αντιπαράθεση ΗΠΑ–Κίνας. Η απόσταση όμως ανάμεσα σε μια λανθασμένη απάντηση chatbot και σε μια πραγματική στρατιωτική επιχείρηση αποδείχθηκε, στην συγκεκριμένη περίπτωση, πολύ μικρότερη απ’ όσο θα περίμενε κανείς.
Η «Πελοπόννησος» και το pelop.gr σε ανοιχτή γραμμή με τον Πολίτη
Η φωνή σου έχει δύναμη – στείλε παράπονα, καταγγελίες ή ιδέες για τη γειτονιά σου.
Ακολουθήστε μας για όλες τις ειδήσεις στο Bing News και το Google News
Από το Δίκτυο
Η εκδήλωση του Ινστιτούτου Ανάπτυξης Δυτικής Ελλάδας ΦΩΤΟ
MobLand season 2: Η επιστροφή της σειράς που δεν παρακολουθείται με το κινητό στο χέρι
Καμένη κατσαρόλα: Το απλό «trick» με Coca-Cola που εξαφανίζει τα καμένα χωρίς τρίψιμο
Μουσική εκδήλωση από τον Σύλλογο Άνω Συχαινών και τους Εθελοντές Πυροσβέστες
Νέος ιός χτυπά τα Android και με AI σου αδειάζει τους τραπεζικους λογαριασμούς
