Kalifornien prüft Notausschalter für KI-Systeme

Ka­li­for­ni­ens Gou­ver­neur Gavin New­som hat eine Exe­cu­ti­ve Order er­las­sen, die ver­schie­de­ne Maß­nah­men zur Re­gu­lie­rung von KI-Sys­te­men vor­an­trei­ben soll12. Ein zen­tra­ler Punkt dabei ist die Prü­fung eines so­ge­nann­ten „Kill Switch“, mit dem KI-Mo­del­le im Not­fall ab­ge­schal­tet wer­den könn­ten12.

Die In­itia­ti­ve reiht sich in eine wach­sen­de De­bat­te um Si­cher­heits­me­cha­nis­men bei fort­ge­schrit­te­nen KI-Sys­te­men ein. Ka­li­for­ni­en gilt als Stand­ort vie­ler gro­ßer KI-Un­ter­neh­men und könn­te mit sol­chen Re­ge­lun­gen bun­des­wei­te Stan­dards be­ein­flus­sen12.

De­tails zur kon­kre­ten tech­ni­schen Um­set­zung eines sol­chen Not­aus­schal­ters sind bis­lang nicht be­kannt. Es bleibt offen, wie prak­ti­ka­bel ein zen­tra­ler Ab­schalt­me­cha­nis­mus bei ver­teil­ten, oft cloud­ba­sier­ten KI-Sys­te­men tat­säch­lich wäre.