Die Architektur: STT, LLM, TTS
Unter der Haube besteht jeder KI-Voice-Agent aus drei Bausteinen, die pro Gesprächszug durchlaufen werden. Zuerst die Spracherkennung (STT, Speech-to-Text): Sie wandelt das, was der Anrufer sagt, in Text um. Dann das Sprachmodell (LLM): Es liest den bisherigen Gesprächsverlauf, die hinterlegten Anweisungen und das Wissen über den Betrieb, und formuliert daraus die Antwort. Zuletzt die Sprachsynthese (TTS, Text-to-Speech): Sie macht aus dem Antworttext eine Stimme am Telefon.
Dazu kommt eine vierte Schicht, die in Schaubildern gern fehlt: die Anbindung. Ein Voice-Agent, der nur redet, ist eine Demo. Nützlich wird er, wenn das Sprachmodell während des Gesprächs Werkzeuge aufrufen darf: den Kalender prüfen, einen Rückrufwunsch speichern, ein Anliegen ans Team übergeben. Erst diese Verbindung macht aus dem Sprachsystem einen Agenten, der etwas erledigt.
Wenn dich der Ablauf aus Nutzersicht interessiert, statt aus Techniksicht: Der Beitrag Wie funktioniert ein KI-Anrufbeantworter? geht denselben Weg einmal ohne Fachbegriffe. Und wer beim Oberbegriff einsteigen will, findet unter Voice-KI die Einordnung, wozu sprechende KI über das Telefon hinaus eingesetzt wird.
Latenz: das Qualitätskriterium, das jeder hört
Ob sich ein Voice-Agent gut anfühlt, entscheidet sich nicht an der Wortwahl, sondern an der Pause davor. Menschen antworten im Gespräch fast ohne Verzögerung; jede der drei Stufen kostet Rechenzeit, und die Verzögerungen addieren sich. Wird die Pause vor der Antwort zu lang, passiert am Telefon immer dasselbe: Der Anrufer fragt „Hallo, sind Sie noch dran?“, redet dazwischen oder legt auf.
Gute Systeme verkürzen die Kette, indem sie streamen: Die Spracherkennung schreibt schon mit, während der Anrufer noch spricht. Das Sprachmodell beginnt zu formulieren, bevor der Satz zu Ende ist. Die Stimme fängt an zu sprechen, sobald die ersten Worte der Antwort feststehen. Dazu kommt die Kunst des richtigen Zeitpunkts: Der Agent muss erkennen, wann der Anrufer wirklich fertig ist, und darf ihm weder ins Wort fallen noch verlegen schweigen. Wenn du Anbieter oder Plattformen vergleichst, ist das der Punkt, den du im Testanruf prüfst, nicht im Prospekt.
Voice-Agent, Voicebot, IVR: drei Systeme, eine Leitung
Alle drei melden sich am Telefon, und genau deshalb werden sie ständig verwechselt. Der Unterschied liegt darin, wer das Gespräch steuert:
| Kriterium | IVR (Sprachmenü) | Voicebot | KI-Voice-Agent |
|---|---|---|---|
| Steuerung durch den Anrufer | Tastendruck („Drücken Sie die 1“) | Erkannte Schlüsselwörter | Freies Gespräch in ganzen Sätzen |
| Gesprächsverlauf | Festes Menü | Vorgezeichneter Dialogbaum | Wird pro Gesprächszug vom Sprachmodell entschieden |
| Reaktion auf Unerwartetes | Sackgasse oder Warteschleife | „Das habe ich leider nicht verstanden“ | Fragt nach und passt den Verlauf an |
| Zwischenfragen und Themenwechsel | Nicht vorgesehen | Wirft den Dialogbaum aus der Bahn | Beantwortet die Frage und kehrt zum Anliegen zurück |
| Technik dahinter | Telefonanlage mit Ansagen | Spracherkennung plus feste Regeln | STT, LLM und TTS in Echtzeit verkettet |
| Typischer Einsatz | Vorsortierung großer Hotlines | Einfache Standardauskünfte | Anrufannahme, Terminanfragen, Vorqualifizierung |
Ein IVR sortiert vor, mehr nicht. Ein Voicebot führt einfache Standarddialoge, bis der Anrufer etwas sagt, das nicht im Baum steht. Der Voice-Agent ist die Stufe darüber: Er hält ein echtes Gespräch aus, weil kein Baum ihm vorschreibt, wohin es gehen muss. Wichtig für die Einordnung: Die schlechten Erfahrungen, die viele Anrufer mit „Sprachcomputern“ gemacht haben, stammen aus den ersten beiden Kategorien.
KI-Telefonagent im deutschen Mittelstand
Im US-Markt beantworten Voice-Agents ganze Hotlines. Im deutschen Mittelstand sieht der Einsatz anders aus, und ehrlicherweise unspektakulärer: Es geht um die Anrufe, die heute niemand annimmt. Der Betrieb ist auf der Baustelle, im Beratungsgespräch oder im Feierabend, das Telefon klingelt trotzdem. Der Voice-Agent geht ran, nimmt das Anliegen samt Rückrufnummer vollständig auf, beantwortet Fragen zu Zeiten und Abläufen und legt dem Team eine sortierte Liste hin: wer, was, wie dringend.
In der Praxis läuft das über eine Rufumleitung: Die bestehende Nummer bleibt, der Agent übernimmt nur, wenn niemand abnimmt oder besetzt ist. In dieser Rolle firmiert dasselbe System hierzulande meist als KI-Telefonassistent. Der Begriff beschreibt keinen technischen Unterschied, sondern die Perspektive: Voice-Agent sagt, was die Technik kann. Telefonassistent sagt, wofür ein Betrieb sie einsetzt.
Build oder Buy: selbst bauen oder betreiben lassen
Wer bis hierhin gelesen hat, kann die nächste Frage selbst stellen: Warum nicht einfach selbst bauen? Plattformen wie Vapi oder Retell verketten STT, LLM und TTS fertig, die Abrechnung läuft nach Gesprächsminuten, und einen ersten Agenten hat ein Entwickler an einem Nachmittag stehen. Das ist keine Übertreibung, und wer gern baut, sollte genau damit anfangen. Für einen Prototyp, der zeigt, was geht, ist der Selbstbau der schnellste Weg.
Der Unterschied zeigt sich zwischen Prototyp und Betrieb. Ein Agent, der echte Kundenanrufe annimmt, braucht Prompts, die gegen hunderte echte Gespräche getestet sind, eine saubere Anbindung an Rufnummer und Telefonanlage, geregelte Auftragsverarbeitung nach DSGVO, Übergaberegeln für Fälle, die der Agent nicht lösen soll, und jemanden, der Transkripte liest und nachschärft, wenn sich etwas ändert. Nichts davon ist Raketentechnik. Es ist laufende Arbeit, und sie hört nicht auf, wenn der Agent live ist.
Die ehrliche Entscheidungsregel: Hast du Entwicklerzeit übrig und Lust, ein weiteres System dauerhaft zu betreiben, ist der Selbstbau ein legitimer Weg. Willst du das Ergebnis, aber nicht den Betrieb, nimmst du eine betreute Lösung, bei der jemand anderes testet, wartet und haftet, wenn nachts um elf ein Kunde anruft. Beides ist vertretbar. Unvertretbar ist nur, einen ungetesteten Prototyp auf echte Kunden loszulassen.