KI-Fehlanalyse bringt USA und China an den Rand eines Konflikts

Ein KI-generierter Bericht führte beinahe zu einer Konfrontation zwischen den USA und China.

Washington. Ein von künstlicher Intelligenz erstellter Geheimdienstbericht hätte die USA beinahe in einen militärischen Konflikt mit China verwickeln können. Der Bericht behauptete fälschlicherweise, ein chinesisches Schiff transportiere im Nahen Osten Komponenten für ein nukleares Waffenprogramm. Diese Information führte dazu, dass das US-Militär Vorbereitungen traf, das Schiff abzufangen. Laut Quellen waren bewaffnete Soldaten bereit, an Bord zu gehen, und Militärflugzeuge waren bereits in der Luft.

Erst kurz vor der geplanten Durchführung wurde der Bericht genauer untersucht und als falsch erkannt. Ein Analyst des US-Sonderkommandos hatte einen Chatbot genutzt, um die Fracht des Schiffes zu bewerten, wobei der Chatbot fälschlicherweise die transportierten Materialien identifizierte. Es ist unklar, ob ein kommerziell erhältliches oder ein von der US-Regierung entwickeltes KI-System verwendet wurde. Der verwendete Chatbot kombinierte offene Quellen mit geheimen US-Geheimdienstinformationen, was zu der fehlerhaften Schlussfolgerung führte.

Die Episode wirft ein Schlaglicht auf die Risiken der Abhängigkeit von KI in sicherheitsrelevanten Bereichen. Es kann einem durchaus mulmig werden, wenn die US-Armee einen offensichtlich fehlerhaften Prozess so lange nicht erkennt. Die US-Streitkräfte und Geheimdienste verwenden KI in vielen Bereichen, von der Analyse großer Datenmengen bis hin zur Auswahl militärischer Ziele. Laut informierten Quellen gibt es jedoch keine einheitlichen Regeln zur Überprüfung von KI-generierten Informationen, was insbesondere bei der Auswahl von Zielen ein Risiko darstellt. Die tragische Bombardierung einer Mädchenschule im Iran mit 160 Toten geht Gerüchten zufolge auch auf das Konto einer unüberprüften KI-Analyse.

Die Spannungen zwischen den USA und China sind bereits aufgrund anderer geopolitischer Konflikte hoch.

Einige Analysten befürchten, dass der Druck, schneller Informationen zu verarbeiten, durch den Einsatz von KI zunimmt, was das Risiko von Fehlern beträchtlich erhöht. Die schnelle Einführung von KI wird unter anderem damit begründet, dass die USA bei der militärischen Nutzung solcher Systeme nicht hinter anderen Staaten zurückfallen dürfen. Verteidigungsminister Pete Hegseth hat Anfang des Jahres eine Strategie zur Beschleunigung der KI-Nutzung im Pentagon angekündigt, deren Ziel unter anderem ist, die Technologie für rund drei Millionen militärische und zivile Mitarbeiter des Ministeriums zugänglich zu machen.

Quellen: Telex, 444
Photo: Pester Lloyd (Grafik)

Neu · Jeden Freitag als PDF

Der Pester Lloyd als Wochenzeitung – wie früher am Kiosk, nur digital

Ausgabe 7.–13. September 2026, 10 Seiten im großen Zeitungsformat. Darin unter anderem:

• Geheime Beschlüsse, offene Kassen – Századvég und die 3000er-Ära Orbáns• Systemversagen im Kinderschutz – Regierung legt Schockbericht vor und verspricht Milliardenhilfe

Zeitung ansehen – 2,50 €

In eigener Sache – Ihr Kauf unterstützt unabhängigen Journalismus ohne Paywall.