Google DeepMind erforscht Unsicherheits-Erkennung bei KI-Modellen

For­schen­de von Goo­gle De­ep­Mind haben un­ter­sucht, wie KI-Mo­del­le ihre ei­ge­ne Un­si­cher­heit ein­schät­zen und mög­li­che Feh­ler er­ken­nen kön­nen12. Ziel ist es, Chat­bots dazu zu brin­gen, bei ge­rin­ger Si­cher­heit lie­ber keine Ant­wort zu geben12.

Eine be­glei­ten­de Stu­die zeigt, dass ein in­ter­nes Kon­fi­denz­ni­veau eine zen­tra­le Rolle bei die­ser Ent­schei­dung spielt: Je höher die in­ter­ne Si­cher­heit, desto sel­te­ner ver­wei­gert das Mo­dell eine Ant­wort3. Um­ge­kehrt führt nied­ri­ge Kon­fi­denz eher zu einem Ant­wort­ver­zicht3.

Diese Er­kennt­nis­se gel­ten als be­son­ders re­le­vant für au­to­no­me KI-Agen­ten, die ei­gen­stän­dig Ent­schei­dun­gen tref­fen und Feh­ler früh­zei­tig ver­mei­den müs­sen3. Die Fä­hig­keit zur Selbst­ein­schät­zung könn­te damit ein wich­ti­ger Bau­stein für zu­ver­läs­si­ge­re KI-Sys­te­me wer­den123.