Pentagon räumt KI-Fehler bei Raketenangriff auf Schule ein

Das Pen­ta­gon hat ein­ge­räumt, dass eine zu star­ke Ab­hän­gig­keit von künst­li­cher In­tel­li­genz bei der Zie­l­aus­wahl zu einem Ra­ke­ten­an­griff auf eine Schu­le im Iran bei­ge­tra­gen habe1. Der Vor­fall löste eine brei­te Dis­kus­si­on über die Ver­ant­wor­tung au­to­ma­ti­sier­ter Ent­schei­dungs­sys­te­me im mi­li­tä­ri­schen Kon­text aus1. Die ge­naue Rolle der ein­ge­setz­ten KI-Sys­te­me bei der Fehl­ein­schät­zung wird der­zeit wei­ter un­ter­sucht1.

Die hohe Zahl an Kom­men­ta­ren zu dem Be­richt deu­tet auf eine in­ten­si­ve öf­fent­li­che De­bat­te über die Gren­zen des KI-Ein­sat­zes in si­cher­heits­re­le­van­ten Ent­schei­dun­gen hin1. Kri­ti­ker sehen in dem Vor­fall ein Warn­si­gnal für den zu­neh­men­den Ein­satz au­to­ma­ti­sier­ter Sys­te­me in mi­li­tä­ri­schen Ab­läu­fen1. Bis­lang ist un­klar, wel­che kon­kre­ten Kon­se­quen­zen das Pen­ta­gon aus dem Vor­fall zie­hen wird1.