Nvidia bringt Sicherheitsplattform gegen außer Kontrolle geratene KI-Agenten

Nvi­dia hat eine neue Si­cher­heits­platt­form vor­ge­stellt, die ver­hin­dern soll, dass KI-Agen­ten außer Kon­trol­le ge­ra­ten12356. Die so­ge­nann­te Open Agent Sa­fe­ty Plat­form kom­bi­niert die be­reits exis­tie­ren­de Soft­ware OpenS­hell, die Zu­grif­fe auf Soft­ware-Ebene be­grenzt, mit dem neuen Hard­ware-Wäch­ter Sen­try, der zu­sätz­lich auf Chip-Ebene ein­grei­fen kann235. Am sel­ben Tag kün­dig­te Nvi­dia zudem einen Ak­ti­en­rü­ck­kauf im Vo­lu­men von 150 Mil­li­ar­den US-Dol­lar an, den größ­ten in der Ge­schich­te US-ame­ri­ka­ni­scher Un­ter­neh­men1.

Laut Nvi­dia soll Sen­try aus­bre­chen­de KI-Agen­ten bin­nen Mil­li­se­kun­den iso­lie­ren kön­nen – deut­lich schnel­ler als bis­he­ri­ge Re­ak­ti­ons­zei­ten, die etwa bei einem Zwi­schen­fall bei Ope­nAI im Sep­tem­ber fast drei Stun­den be­tru­gen5. Nvi­dia ver­weist zudem dar­auf, dass seine Open-Sour­ce-Tools einen frü­he­ren An­griff von Ope­nAI auf Hug­ging Face hät­ten ver­hin­dern kön­nen6.

Kri­tisch wird an­ge­merkt, dass auch Nvi­di­as neue Wäch­ter gegen ge­täusch­te Agen­ten oder ver­schlei­er­te Ab­sich­ten kei­nen zu­ver­läs­si­gen Schutz bie­ten5. Zudem fällt auf, dass Fir­men­chef Jen­sen Huang KI-Ri­si­ken zu­letzt wie­der­holt her­un­ter­ge­spielt und als tech­nisch lös­bar dar­ge­stellt hatte, wäh­rend das Un­ter­neh­men nun selbst eine um­fang­rei­che Si­cher­heits­platt­form vor­stellt4.