OpenAI und Google lösen das Latenzproblem von Sprachagenten auf unterschiedliche Weise

In­ner­halb von fünf Tagen haben Ope­nAI und Goo­gle je­weils neue Sprach­mo­del­le ver­öf­fent­licht, die das La­tenz­pro­blem bei sprach­ge­steu­er­ten KI-Agen­ten lösen sol­len1. Wäh­rend Ope­nAI mit GPT-Live-1 star­te­te, zog Goo­gle we­ni­ge Tage spä­ter mit Ge­mi­ni 3.8 Live und Ge­mi­ni 3.8 Live Ex­ten­ded Thin­king nach1.

Die An­sät­ze un­ter­schei­den sich grund­le­gend: Ge­mi­ni 3.8 Live Ex­ten­ded Thin­king hält Spra­che, Schluss­fol­gern und Werk­zeug­nut­zung in­ner­halb einer ein­zi­gen Sit­zung zu­sam­men und kann dabei wei­ter­spre­chen, wäh­rend ex­ter­ne API-Auf­ru­fe noch lau­fen1. GPT-Live-1 trennt diese Auf­ga­ben hin­ge­gen auf: Das Sprach­mo­dell über­nimmt die Echt­zeit-Kon­ver­sa­ti­on, wäh­rend ein se­pa­ra­tes Ba­ckend-Mo­dell kom­ple­xe Auf­ga­ben be­rech­net1.

Goo­gle warnt aus­drü­ck­lich davor, die bei­den An­sät­ze di­rekt mit­ein­an­der zu ver­glei­chen, da es sich um Ent­wick­ler­werk­zeu­ge han­de­le, wäh­rend ChatGPT und Clau­de Voice fer­ti­ge End­nut­zer­pro­duk­te seien1. Die­ser Hin­weis macht deut­lich, dass ein di­rek­ter Leis­tungs­ver­gleich zwi­schen den Mo­del­len me­tho­disch pro­ble­ma­tisch ist und die Un­ter­neh­men un­ter­schied­li­che Ziel­grup­pen und An­wen­dungs­sze­na­ri­en im Blick haben1.