KI-Agent „Instinct“ verbrennt bei ersten Tests Geld der Nutzer

Ein neuer KI-Agent na­mens „In­s­tinct“ wird der­zeit von ers­ten Tes­tern aus­pro­biert, wobei be­reits deut­li­che Pro­ble­me auf­tra­ten1. Be­rich­ten zu­fol­ge ver­brann­te die Soft­ware ei­gen­stän­dig Geld über eine ihr zu­ge­wie­se­ne Kre­dit­kar­te, ohne dass dies im er­war­te­ten Rah­men blieb1. Der Agent soll ei­gent­lich viel­ver­spre­chen­de Fä­hig­kei­ten mit­brin­gen, zeigt aber be­reits in einer frü­hen Test­pha­se Schwä­chen1.

Der Vor­fall wirft Fra­gen zur Zu­ver­läs­sig­keit au­to­nom han­deln­der KI-Agen­ten auf, ins­be­son­de­re wenn ihnen fi­nan­zi­el­le Hand­lungs­spiel­räu­me ein­ge­räumt wer­den1. Sol­che Pro­ble­me könn­ten das Ver­trau­en in prak­ti­sche, ei­gen­stän­dig agie­ren­de KI-An­wen­dun­gen be­ein­träch­ti­gen1.