«Συγγνώμη… λάθος πληροφορία λόγω AI» – Πώς οι ΗΠΑ έφτασαν μια ανάσα από ένα πόλεμο με την Κίνα

Και αυτό γιατί όπως αποκαλύπτει το CNNi σε αποκλειστικό του άρθρο, οι δύο παγκόσμιες δυνάμεις θα μπορούσαν τώρα να βρίσκονται σε πόλεμο, όχι εμπορικό, αλλά πραγματικό.

Όλα ξεκίνησαν την άνοιξη, όταν μία έκθεση των μυστικών υπηρεσιών εστάλη στον αμερικανικό στρατό εν μέσω του πολέμου με το Ιράν και σήμανε αμέσως συναγερμό: Ένα κινεζικό πλοίο στη Μέση Ανατολή μετέφερε εξαρτήματα ενός προγράμματος πυρηνικών όπλων.

Ο αμερικανικός στρατός ανέλαβε δράση με σχέδια αναχαίτισης του πλοίου, σύμφωνα με τέσσερις πηγές που γνωρίζουν το περιστατικό. Ένοπλα μέλη του ειδικών δυνάμεων ετοιμάστηκαν για το ρεσάλτο στο πλοίο, στρατιωτικά αεροσκάφη πετούσαν στον αέρα, και κυριολεκτικά την τελευταία στιγμή «ακυρώθηκε» η προγραμματισμένη επιχείρηση.

Θα μπορούσε να πρόκειται για κατασκοπευτικό θρίλερ, αλλά αποτελεί μέρος μιας πραγματικής επιχείρησης που λίγο έλειψε να ανοίξει πόλεμο μεταξύ ΗΠΑ και Κίνας.

Ευτυχώς, οι Αμερικανοί αξιωματούχοι έψαξαν βαθύτερα στην έκθεση που συνέταξε αναλυτής της διοίκησης ειδικών επιχειρήσεων και διαπίστωσαν ότι είχε δημιουργηθεί με τη βοήθεια τεχνητής νοημοσύνης (AI) – και ότι ένα chatbot που είχε χρησιμοποιήσει ο αναλυτής στην πραγματικότητα έκανε λάθος. Το CNNi δεν μπόρεσε να επαληθεύσει το φορτίο του κινεζικού πλοίου.

Όμως, σύμφωνα με μία από τις πηγές που αποκάλυψαν το θέμα, η πληροφορία αποδείχτηκε «εντελώς ψευδής» και «παραλίγο να ξεκινήσει έναν πόλεμο». Οποιαδήποτε επιχείρηση των ΗΠΑ εναντίον ενός κινεζικού πλοίου θα μπορούσε να κινδυνεύσει να εξελιχθεί σε ένοπλη σύγκρουση μεταξύ των δύο εθνών.

Η χρήση της AI από το στρατό των ΗΠΑ

Σε ολόκληρο τον αμερικανικό στρατό και την κοινότητα των μυστικών υπηρεσιών, οι αξιωματούχοι πιέζουν να ενσωματώσουν την Τεχνητή Νοημοσύνη σε σχεδόν κάθε πτυχή της δουλειάς, από την ανάλυση των τεράστιων όγκων ακατέργαστων πληροφοριών που συλλέγουν οι ΗΠΑ και την επιλογή στόχων για επιθέσεις, έως τις πιο απλές εφαρμογές όπως η διαχείριση του προϋπολογισμού, της εφοδιαστικής και των αλυσίδων εφοδιασμού.

Ωστόσο, το παραπάνω επεισόδιο ήρθε να υπογραμμίσει τους σοβαρούς κινδύνους της ανεξέλεγκτης χρήσης μιας ισχυρής, νέας και σχετικά ελάχιστα κατανοητής τεχνολογίας. Οι αναλυτές φοβούνται εδώ και καιρό ότι η Τεχνητή Νοημοσύνη θα μπορούσε να οδηγήσει σε έναν καταστροφικό λανθασμένο υπολογισμό, εάν τα κράτη βασιστούν σε αυτή για τον προσδιορισμό πολεμικών στόχων.

Στην προκειμένη περίπτωση, τα λάθος δεδομένα και οι λάθος υπολογισμοί θα μπορούσαν είχαν οδηγήσει τις Ηνωμένες Πολιτείες να ανοίξουν πυρ εναντίον του κινεζικού πλοίου μόνο και μόνο χρησιμοποιώντας ανακριβείς πληροφορίες.

Ο αναλυτής ρώτησε ένα chatbot σχετικά με κάποιες αναφορές πληροφοριών σχετικά με το μανιφέστο του πλοίου που προέρχονταν από την Διοίκηση Ειδικών Επιχειρήσεων του Ειρηνικού των ΗΠΑ, με έδρα τη Χαβάη. Δεν ήταν σαφές εάν το chatbot ήταν εμπορικά διαθέσιμο ή προϊόν της κυβέρνησης των ΗΠΑ.

«Τα εσωτερικά εργαλεία είναι ως επί το πλείστον απλώς αντίγραφα των εμπορικών συσκευών που φορούν… κραγιόν», δήλωσε ένας πρώην ανώτερος Αμερικανός αξιωματούχος που γνωρίζει τα συστήματα τεχνητής νοημοσύνης που χρησιμοποιούνται από στρατιωτικούς και αναλυτές πληροφοριών.

Η AI συνδύασε πληροφορίες ανοιχτού κώδικα με μυστικές πληροφορίες σημάτων σε κυβερνητικές αποθήκες και κατέληξε στο παραλίγο… μοιραίο συμπέρασμα για το υλικό που μετέφερε το κινεζικό πλοίο.

Στη συνέχεια, ο αναλυτής χρησιμοποίησε ξανά την Τεχνητή Νοημοσύνη για να συσκευάσει τα ευρήματα σε μια τυποποιημένη έκθεση πληροφοριών – το είδος που εμπιστεύονται οι στρατιωτικοί αξιωματούχοι – και τελικά την προώθησε στο Πεντάγωνο. Η Διοίκηση Ειδικών Επιχειρήσεων των ΗΠΑ στον Ειρηνικό και το Πεντάγωνο δεν απάντησαν σε αίτημα για σχολιασμό.

Όποιος βιάζεται… σκοντάφτει

Η λογική για την ταχεία υιοθέτηση της Τεχνητής Νοημοσύνης είναι ότι μπορεί να βοηθήσει τον στρατό να λάβει γρήγορες αποφάσεις στο πεδίο της μάχης, όπως ποιους στόχους να χτυπήσει ή ποια στρατιωτικά μέσα να μετακινήσει πού και άμεσα.

Αξιωματούχοι λένε ότι οι ΗΠΑ δεν έχουν την πολυτέλεια να μείνουν πίσω στην ενσωμάτωση της Τεχνητής Νοημοσύνης σε περίπτωση που χρειαστεί μια μέρα να πολεμήσουν την Κίνα ή έναν άλλο αντίπαλο που θα μπορούσε ενδεχομένως να παραμείνει ένα βήμα μπροστά από τις ΗΠΑ.

Τον περασμένο Ιανουάριο, ο Υπουργός Πολέμου, Πιτ Χέγκσεθ, δημοσίευσε τη «Στρατηγική Επιτάχυνσης Τεχνητής Νοημοσύνης» της υπηρεσίας του, σε μια προσπάθεια να επιταχύνει τη χρήση της Τεχνητής Νοημοσύνης από τον στρατό.

«Θα εξαπολύσουμε πειραματισμούς, θα εξαλείψουμε τα γραφειοκρατικά εμπόδια, θα εστιάσουμε τις επενδύσεις μας και θα επιδείξουμε την προσέγγιση εκτέλεσης που απαιτείται για να διασφαλίσουμε ότι θα ηγηθούμε στην στρατιωτική Τεχνητή Νοημοσύνη», δήλωσε ο Χέγσεθ σε ομιλία του ανακοινώνοντας τη στρατηγική.

Η στρατηγική προωθεί επίσης την ευρεία χρήση της σε ολόκληρο τον στρατό, διατάσσοντας το υπουργείο να διαθέσει την Τεχνητή Νοημοσύνη μέσω διαφόρων προγραμμάτων με στόχο τον «εκδημοκρατισμό του πειραματισμού και του μετασχηματισμού της Τεχνητής Νοημοσύνης σε ολόκληρο το Υπουργείο, θέτοντας τα κορυφαία παγκοσμίως μοντέλα Τεχνητής Νοημοσύνης της Αμερικής απευθείας στα χέρια των τριών εκατομμυρίων πολιτικών και στρατιωτικών υπαλλήλων μας, σε όλα τα επίπεδα ταξινόμησης», ανέφερε ένα υπόμνημα που ανακοίνωνε τη στρατηγική.

Εργαλεία χωρίς αξιοπιστία

Ωστόσο, η προσπάθεια είναι αποκεντρωμένη, όπως ανέφεραν πολλοί Αμερικανοί αξιωματούχοι που είναι εξοικειωμένοι με τη δυναμική, με διαφορετικά τμήματα της κυβέρνησης να χρησιμοποιούν διαφορετικά εργαλεία, βάσει διαφορετικών εντολών και προτύπων ασφαλείας.

Δεν υπάρχει ένα ενιαίο σύνολο προτύπων για τον τρόπο με τον οποίο οι ΗΠΑ επαληθεύουν τις πληροφορίες που παράγονται από αυτά τα εργαλεία. Ο συνδυασμός διαφορετικών συστημάτων Τεχνητής Νοημοσύνης που αναπτύσσονται από διαφορετικές γωνιές της στρατιωτικής και της μυστικής κοινότητας σημαίνει ότι η σχετική αξιοπιστία και λειτουργικότητα ποικίλλουν σημαντικά.

Για εβδομάδες, οι υπεύθυνοι χάραξης πολιτικής στην Ουάσινγκτον συζητούν έντονα την Τεχνητή Νοημοσύνη μετά από μια σειρά δυσοίωνων προειδοποιήσεων από μηχανικούς της Σίλικον Βάλεϊ και διευθύνοντες συμβούλους τεχνολογίας για την πιθανότητα η Τεχνητή Νοημοσύνη να απελευθερωθεί από τους ανθρώπινους περιορισμούς, με πιθανές συνέπειες που θα οδηγήσουν στο τέλος του πολιτισμού.

Οδηγεί σε πόλεμο… άνευ νοημοσύνης

Ωστόσο, το επεισόδιο με το κινεζικό πλοίο υπογραμμίζει έναν διαφορετικό και πιο άμεσο κίνδυνο: τους ανθρώπους να λαμβάνουν καταστροφικές αποφάσεις βασισμένες σε ανακριβείς ή παραπλανητικές πληροφορίες που παράγονται από την Τεχνητή Νοημοσύνη ή άλλα αυτοματοποιημένα συστήματα.

Πηγές ανέφεραν ότι ο στρατός στρέφεται γρήγορα στην Τεχνητή Νοημοσύνη για να βοηθήσει στη στόχευση, έναν τομέα που ενέχει τον προφανή κίνδυνο μοιραίων λαθών.

«Η χρήση της Τεχνητής Νοημοσύνης ως προς τον προσδιορισμό στόχων αυξάνεται ραγδαία και ίσως δεν υπάρχει τρόπος να αποφευχθεί μία δραματική αστοχία με θύματα αμάχους», δήλωσε μια άλλη πηγή που γνωρίζει τις τρέχουσες πολιτικές του στρατού.

Το είδος της «παραίσθησης» που προκάλεσε το εργαλείο που χρησιμοποίησε ο παραπάνω αναλυτής δεν ήταν μεμονωμένο περιστατικό στην κοινότητα των μυστικών υπηρεσιών, από τότε που αυτά τα εργαλεία άρχισαν να πολλαπλασιάζονται σε όλες τις κυβερνήσεις, σύμφωνα με μία από τις πηγές.

Για ορισμένους μεγαλύτερους σε ηλικία αξιωματούχους των μυστικών υπηρεσιών – ακόμη και για εκείνους που υποστηρίζουν ευρέως τη χρήση της Τεχνητής Νοημοσύνης εντός του στρατού – η Τεχνητή Νοημοσύνη έχει ασκήσει πίεση στους αναλυτές να παράγουν και να διαδίδουν πληροφορίες ταχύτερα, αφήνοντας ανοιχτή την πόρτα σε λάθη.

Οι νεότεροι αναλυτές, ειδικότερα -ανέφεραν αρκετές πηγές- είναι εξοικειωμένοι με αυτά τα εργαλεία και θεωρείται πιο πιθανό να τα εμπιστευτούν με… κλειστά τα μάτια. «Τελικά, η Τεχνητή Νοημοσύνη προσφέρει όντως πολύ γρήγορα την ευκαιρία για ένα τραγικό στρατιωτικό λάθος», κατέληξε μία από τις πηγές.