Führende KI-Forscher warnen vor unkontrollierter Intelligenzexplosion

Mehr als 20 füh­ren­de KI-For­scher, dar­un­ter die als „God­fa­thers of AI“ be­kann­ten Geoffrey Hin­ton und Yos­hua Ben­gio sowie Ope­nAI-For­schungs­lei­ter Jakub Pa­chocki, war­nen in einem ge­mein­sa­men Pa­pier vor ex­tre­men Ri­si­ken durch au­to­ma­ti­sier­te KI-For­schung12. Sie be­fürch­ten eine so­ge­nann­te In­tel­li­genz­ex­plo­si­on, bei der KI-Sys­te­me die ge­sam­te KI-For­schung selbst über­neh­men und da­durch Fort­s­chrit­te er­zie­len, die bis­lang Jahre brauch­ten, künf­tig aber in we­ni­gen Mo­na­ten er­reicht wer­den könn­ten1.

Das Pa­pier wird von den Au­to­ren als War­nung an Re­gie­run­gen ver­stan­den, sich früh­zei­tig auf diese Ent­wick­lung vor­zu­be­rei­ten, da sie po­ten­zi­ell die fol­gen­reichs­te tech­no­lo­gi­sche Ver­än­de­rung der Ge­schich­te dar­stel­len könn­te2. Neben den bei­den No­bel­preis­trä­gern und KI-Pio­nie­ren zäh­len auch hoch­ran­gi­ge Ver­tre­ter von Ope­nAI und An­thro­pic zu den Un­ter­zeich­nern, was dem Pa­pier zu­sätz­li­ches Ge­wicht in­ner­halb der Bran­che ver­leiht2.

Die For­scher for­dern po­li­ti­sches Han­deln, bevor eine un­kon­trol­lier­te, sich selbst ver­stär­ken­de Ent­wick­lung ein­tritt, die sich mensch­li­cher Steu­e­rung ent­zie­hen könn­te12. Die War­nung kommt zu einem Zeit­punkt, an dem gleich­zei­tig über Si­cher­heits­vor­fäl­le bei ak­tu­el­len KI-Mo­del­len be­rich­tet wird, was die Dring­lich­keit der De­bat­te un­ter­streicht12.