OpenAI- und Anthropic-Chefs warnen UN vor KI-Risiken

Die Chefs von Ope­nAI und An­thro­pic, Sam Alt­man und Dario Amo­dei, haben in ge­trenn­ten An­spra­chen vor dem UN-Si­cher­heits­rat vor Ge­fah­ren durch Künst­li­che In­tel­li­genz für die ge­sam­te Mensch­heit ge­warnt1234. Alt­man sagte, die Mensch­heit stehe vor der Wahl zwi­schen einer neuen kre­a­ti­ven Re­nais­sance oder einer in­dus­tri­el­len Re­vo­lu­ti­on des Um­bruchs und Chaos4. Beide boten an, an einer stär­ke­ren in­ter­na­ti­o­na­len Re­gu­lie­rung ihrer ei­ge­nen Tech­no­lo­gie mit­zu­wir­ken23.

Be­mer­kens­wert ist, dass beide Un­ter­neh­men erst einen Tag zuvor neue, güns­ti­ge­re KI-Mo­del­le ver­öf­fent­licht hat­ten, wäh­rend sie gleich­zei­tig vor den Ri­si­ken ihrer Pro­duk­te warn­ten1. Diese Dop­pel­rol­le als War­ner und An­bie­ter der Tech­no­lo­gie wird von Be­ob­ach­tern kri­tisch ge­se­hen. Alt­man ge­hört zu meh­re­ren Tech-Ma­na­gern, die ge­for­dert haben, das Ent­wick­lungs­tem­po bei KI zu dros­seln, um Ri­si­ken bes­ser zu ma­na­gen5.

Der Auf­tritt vor dem Si­cher­heits­rat er­folg­te zudem vor dem Hin­ter­grund po­li­ti­scher Span­nun­gen: US-Prä­si­dent Do­nald Trump hatte zuvor ein „glo­ba­lis­ti­sches Vor­ha­ben“ zur in­ter­na­ti­o­na­len Kon­trol­le von KI zu­rück­ge­wie­sen5. Trotz­dem plä­dier­ten Alt­man und Amo­dei für glo­ba­le Zu­sam­me­n­a­r­beit bei der Re­gu­lie­rung Künst­li­cher In­tel­li­genz3.