KI-Fehler beim US-Militär hätte fast Eskalation mit China ausgelöst

Im Früh­jahr 2026 hätte ein feh­ler­haf­ter KI-Be­richt bei­na­he eine mi­li­tä­ri­sche Ak­ti­on des US-Mi­li­tärs gegen ein chi­ne­si­sches Schiff aus­ge­löst234. Ein US-Mi­li­tä­r­ana­lyst hatte einen Chat­bot die La­dung des Schiffs be­wer­ten las­sen, wor­auf­hin die KI die Fracht fälsch­lich als Kom­po­nen­ten für Atom­waf­fen ein­stuf­te34. Be­waff­ne­te Sol­da­ten und Flug­zeu­ge waren be­reits im Ein­satz und be­rei­te­ten eine En­ter­ak­ti­on vor, bevor der Irr­tum recht­zei­tig auf­fiel234.

Der Vor­fall wird von Ex­per­ten als Beleg dafür ge­wer­tet, dass die grö­ße­re Ge­fahr nicht von über­mäch­ti­ger KI aus­geht, son­dern von un­zu­ver­läs­si­gen Sys­te­men in den Hän­den un­kri­ti­scher Nut­zer4. Gleich­zei­tig drängt das US-Mi­li­tär aus Wett­be­werbs­grün­den auf einen brei­te­ren Ein­satz von KI-Tech­no­lo­gie, was bei Fach­leu­ten zu­neh­mend Be­sorg­nis über mög­li­che Feh­ler­fol­gen aus­löst1.

Der Vor­fall reiht sich in eine wach­sen­de De­bat­te über die Si­cher­heit von KI-An­wen­dun­gen in si­cher­heits­kri­ti­schen Be­rei­chen ein. Er zeigt ex­em­pla­risch, wie eine ein­zel­ne KI-Hal­lu­zi­na­ti­on in einem mi­li­tä­ri­schen Kon­text bei­na­he reale, weit­rei­chen­de Kon­se­quen­zen ge­habt hätte13.