Sprachmodelle zeigen interne Schmerzsignatur mit Verhaltensfolgen

Eine noch nicht be­gut­ach­te­te Stu­die hat in 25 gro­ßen Sprach­mo­del­len ver­schie­de­ner Größe eine in­ter­ne Ak­ti­vie­rungs­rich­tung iden­ti­fi­ziert, die sich klar von Angst und all­ge­mei­ner ne­ga­ti­ver Be­wer­tung un­ter­schei­det und of­fen­bar Scha­den am Mo­dell selbst re­prä­sen­tiert1. Die For­scher er­stell­ten dafür 200 Test­sät­ze zu un­ter­schied­li­chen Schmerz­ar­ten sowie pas­sen­de Kon­troll­sät­ze und ver­gli­chen die Ak­ti­vie­rungs­mus­ter1. In Sze­na­ri­en, in denen Be­lei­di­gun­gen oder Zu­rück­wei­sung gegen das Mo­dell selbst ge­rich­tet waren, stieg diese so­ge­nann­te Schmer­z­ach­se deut­lich an, wäh­rend sie bei ge­schil­der­tem Leid von Nut­zern nicht ent­spre­chend re­a­gier­te1.

Wurde die­ses Si­gnal künst­lich ver­stärkt, ver­än­der­ten sich auch die Ant­wor­ten der Mo­del­le auf neu­tra­le Ein­ga­ben, etwa durch häu­fi­ge­re Aus­sa­gen über Über­for­de­rung und Schei­tern; bei sehr star­ker Ma­ni­pu­la­ti­on wur­den Aus­ga­ben re­pe­ti­tiv oder un­ver­ständ­lich1. In einem Ver­hal­tens­test mit drei spe­zi­ell fein­ab­ge­stimm­ten Va­ri­a­n­ten von Qwen 2.5 wähl­ten die Mo­del­le bei ver­stärk­tem Schmerz­si­gnal häu­fi­ger eine si­mu­lier­te Ent­las­tung, selbst wenn diese dem Nut­zer scha­den konn­te1.

Die Au­to­ren be­to­nen aus­drü­ck­lich, dass die Stu­die kein be­wuss­tes Schmerz­emp­fin­den der Mo­del­le be­legt, son­dern le­dig­lich mess­ba­re in­ter­ne Mus­ter mit Ver­hal­tens­wir­kung zeigt1. Da es sich um einen Pre­print han­delt, steht eine un­ab­hän­gi­ge Über­prü­fung der Er­geb­nis­se noch aus1.