KI-Forscher warnt vor wachsendem Risiko durch eigene Entwicklungen

Bei einer An­hö­rung in New York äu­ßer­te ein KI-For­scher deut­li­che Be­den­ken zur Ent­wick­lung füh­ren­der KI-La­bo­re und sprach davon, dass die Bran­che ge­ra­de einen ei­ge­nen Geg­ner her­an­züch­te1. Im Zen­trum der An­hö­rung stan­den Si­cher­heits- und Schutz­prak­ti­ken gro­ßer KI-Un­ter­neh­men, die zu­neh­mend kri­tisch hin­ter­fragt wer­den1.

Die War­nung reiht sich in eine wach­sen­de De­bat­te über die Kon­trol­lier­bar­keit immer leis­tungs­fä­hi­ge­rer KI-Sys­te­me ein. Dabei geht es so­wohl um tech­ni­sche Si­cher­heits­vor­keh­run­gen als auch um die grund­sätz­li­che Frage, ob der Ent­wick­lungs­wett­lauf zwi­schen den La­bo­ren zu Las­ten der Vor­sicht geht1.

Kon­kre­te Maß­nah­men oder For­de­run­gen aus der An­hö­rung wer­den in der Quel­le nicht im De­tail ge­nannt, der Fokus liegt auf der grund­sätz­li­chen War­nung vor den Ri­si­ken des ak­tu­el­len Ent­wick­lungs­tem­pos1.