KI-Halluzination hätte laut CNN Beinahe-Einsatz der US-Armee ausgelöst

Laut einem CNN-Be­richt hat eine KI-Ana­ly­se im Früh­jahr beim US-Mi­li­tär bei­na­he eine mi­li­tä­ri­sche Ak­ti­on aus­ge­löst12. Ein Fracht­schiff aus China soll­te dem­nach ge­en­tert wer­den, nach­dem die KI ver­meint­lich Hin­wei­se auf Atom­waf­fen­tech­nik an Bord lo­ka­li­siert hatte12.

Be­rich­ten zu­fol­ge waren be­reits Flug­zeu­ge in der Luft, um die Ope­ra­ti­on durch­zu­füh­ren, bevor der Ein­satz ge­stoppt wurde12. Die von der KI ge­mel­de­ten In­for­ma­ti­o­nen stell­ten sich dem­nach als Hal­lu­zi­na­ti­on her­aus, also als feh­ler­haf­te, aber über­zeu­gend klin­gen­de Ana­ly­se ohne reale Grund­la­ge12.

Der Vor­fall zeigt ex­em­pla­risch die Ri­si­ken, die ent­ste­hen, wenn KI-Sys­te­me in si­cher­heits­kri­ti­schen mi­li­tä­ri­schen Ent­schei­dungs­pro­zes­sen ein­ge­setzt wer­den. Fehl­in­ter­pre­ta­ti­o­nen könn­ten im Ernst­fall gra­vie­ren­de di­plo­ma­ti­sche oder mi­li­tä­ri­sche Kon­se­quen­zen nach sich zie­hen.