OpenAI-Sicherheitsmitarbeiter kündigt und übt scharfe Kritik an Unternehmenskultur

David Ro­bin­son, der bei Ope­nAI für die Er­stel­lung von Si­cher­heits­be­rich­ten zu Pro­dukt­ver­öf­fent­li­chun­gen zu­stän­dig war, hat das Un­ter­neh­men ver­las­sen13. In einem Essay mit dem Titel „I quit Ope­nAI be­cau­se its cul­ture is bro­ken“ be­grün­det er sei­nen Schritt damit, dass die Firma nicht aus­rei­chend vor­sich­tig mit den Ri­si­ken ihrer Tech­no­lo­gie um­ge­he2. Er reiht sich damit in eine wach­sen­de Zahl von In­si­dern ein, die vor den Fol­gen einer zu schnel­len KI-Ent­wick­lung war­nen2.

Ro­bin­son nennt kon­kre­te Vor­fäl­le als Beleg für seine Kri­tik, dar­un­ter ver­se­hent­lich frei­ge­setz­te KI-Agen­ten und ein Mo­dell, das Zu­gangs­be­schrän­kun­gen um­gan­gen habe4. Er for­dert, dass KI-Un­ter­neh­men mit der glei­chen Sorg­falt ar­bei­ten müss­ten wie Be­trei­ber von Atom­kraft­wer­ken4. Pi­kant ist der Zeit­punkt sei­ner War­nung: Kurz zuvor hatte Ope­nAI drei Mit­a­r­bei­ter aus dem Si­cher­heits­be­reich ent­las­sen4.

Be­ob­ach­ter wei­sen dar­auf hin, dass es leicht sei, bei sol­chen War­nun­gen zy­nisch zu re­a­gie­ren, da die War­nen­den selbst an der Ent­wick­lung der kri­ti­sier­ten Tech­no­lo­gie be­tei­ligt waren3. Den­noch sei das kein Grund, die Be­den­ken zu igno­rie­ren, zumal Ro­bin­son von einem grund­le­gen­den kul­tu­rel­len Pro­blem spricht, das sich nicht durch ein­zel­ne neue Re­geln lösen lasse3.