Λάθος της AI παραλίγο να προκαλέσει σύγκρουση ΗΠΑ-Κίνας στη Μέση Ανατολή - «Είχαν απογειωθεί αεροσκάφη»

Οι Ηνωμένες Πολιτείες παραλίγο να εξαπολύσουν στρατιωτική επιχείρηση εναντίον κινεζικού πλοίου στη Μέση Ανατολή, καθώς πίστευαν ότι μετέφερε εξαρτήματα για πυρηνικά όπλα. Η πληροφορία προερχόταν από έκθεση που είχε συνταχθεί με τη βοήθεια τεχνητής νοημοσύνης και είχε κυκλοφορήσει την άνοιξη στις αμερικανικές ένοπλες δυνάμεις, σύμφωνα με πηγές του CNN.

Οι αμερικανικές δυνάμεις κινητοποιήθηκαν, καταρτίζοντας σχέδια για την αναχαίτιση του πλοίου, σύμφωνα με τέσσερις πηγές που γνωρίζουν το περιστατικό. Όπως αναφέρουν, ένοπλοι Αμερικανοί στρατιώτες προετοιμάζονταν να επιβιβαστούν στο πλοίο, ενώ στρατιωτικά αεροσκάφη είχαν ήδη απογειωθεί.

Λίγο πριν από την προγραμματισμένη επιχείρηση, αξιωματούχοι εξέτασαν πιο προσεκτικά την έκθεση, την οποία είχε συντάξει αναλυτής διοίκησης ειδικών επιχειρήσεων, και διαπίστωσαν ότι είχε δημιουργηθεί με τη βοήθεια τεχνητής νοημοσύνης (AI) και ότι το chatbot που είχε χρησιμοποιήσει ο αναλυτής είχε αναγνωρίσει εσφαλμένα το υλικό που μετέφερε το πλοίο.

Η έκθεση, σύμφωνα με μία από τις πηγές, ήταν «εντελώς ψευδής». Ωστόσο, όπως είπε η ίδια πηγή, «παραλίγο να προκαλέσει πόλεμο». Οποιαδήποτε αμερικανική επιχείρηση εναντίον κινεζικού πλοίου θα μπορούσε να οδηγήσει σε κλιμάκωση και σε ένοπλη σύγκρουση μεταξύ των δύο χωρών.

Στις αμερικανικές ένοπλες δυνάμεις και τις υπηρεσίες πληροφοριών, η τεχνητή νοημοσύνη χρησιμοποιείται όλο και περισσότερο σε ένα ευρύ φάσμα εργασιών, από την ανάλυση πληροφοριών και την επιλογή στόχων για στρατιωτικά πλήγματα έως τη διαχείριση προϋπολογισμών, logistics και εφοδιαστικών αλυσίδων.

Το συγκεκριμένο περιστατικό, ωστόσο, αναδεικνύει τους σοβαρούς κινδύνους που συνεπάγεται η χρήση της για την επιλογή στόχων εν μέσω πολέμου.
Στη συγκεκριμένη περίπτωση, ο αναλυτής χρησιμοποίησε chatbot για να εξετάσει πληροφορίες σχετικά με το δηλωμένο φορτίο του πλοίου, οι οποίες προέρχονταν από τη Διοίκηση Ειδικών Επιχειρήσεων των ΗΠΑ στον Ειρηνικό, με έδρα τη Χαβάη. Δεν κατέστη σαφές εάν το chatbot ήταν κάποιο εμπορικά διαθέσιμο εργαλείο ή προϊόν της αμερικανικής κυβέρνησης.

«Τα εσωτερικά εργαλεία είναι ως επί το πλείστον απλώς αντίγραφα των εμπορικών εφαρμογών με λίγο “μακιγιάζ”», δήλωσε πρώην ανώτερος Αμερικανός αξιωματούχος με γνώση των συστημάτων τεχνητής νοημοσύνης που χρησιμοποιούν στρατιωτικοί αναλυτές και στελέχη των υπηρεσιών πληροφοριών.

Το chatbot συνδύασε πληροφορίες από ανοιχτές πηγές με απόρρητα δεδομένα που διέθεταν οι αμερικανικές υπηρεσίες και κατέληξε στο λανθασμένο συμπέρασμα για το φορτίο του πλοίου.

Στη συνέχεια, ο αναλυτής χρησιμοποίησε ξανά την τεχνητή νοημοσύνη για να μετατρέψει τα ευρήματα σε μια τυπική έκθεση πληροφοριών από αυτές που θεωρούνται αξιόπιστες από στρατιωτικούς αξιωματούχους και την προώθησε στις αρμόδιες υπηρεσίες.

O αμερικανικός στρατός εκτιμά ότι η χρήση τεχνητής νοημοσύνης μπορεί να επιταχύνει κρίσιμες αποφάσεις στο πεδίο της μάχης, όπως ποιοι στόχοι θα πληγούν ή πού πρέπει να μετακινηθούν στρατιωτικές δυνάμεις και μέσα.

Αμερικανοί αξιωματούχοι υποστηρίζουν ότι οι ΗΠΑ δεν μπορούν να μείνουν πίσω στην ενσωμάτωση της τεχνητής νοημοσύνης, καθώς σε μια μελλοντική σύγκρουση με την Κίνα ή άλλον αντίπαλο, εκείνος θα μπορούσε διαφορετικά να αποκτήσει επιχειρησιακό πλεονέκτημα.

Πηγή: skai.gr