Sprach-KI: Wenn das Restrisiko das Projekt kippt.
KI-Sprachassistenten können Supportteams enorm entlasten, haben aber ihre Tücken. Es geht dabei nicht nur um die Offenlegung, dass jemand mit einer KI spricht, wie sie Art. 50 des EU AI Acts fordert. Schwieriger ist es, verlässliche Antworten sicherzustellen und Verantwortung für mögliche Fehler zu übernehmen. Daran geraten selbst sinnvolle Projekte ins Stocken. Ein Lösungsansatz.
Zusammenfassung (TL; DR):
- Sprach-KI entlastet den Kundenservice erheblich, birgt jedoch aufgrund ihrer probabilistischen Natur stets ein unvorhersehbares Restrisiko für falsche Angaben.
- Aus Angst vor Haftungsfragen blockieren Unternehmen oft sinnvolle Projekte durch übertriebene Prüfprozesse, da sich Risiken bei generativer KI nie vollständig eliminieren lassen.
- Verantwortung bedeutet daher nicht das Ausschließen aller Risiken, sondern deren bewusste Begrenzung und Abwägung gegenüber den Nachteilen des Stillstands.
„Ich bin ihre digitale Assistentin und arbeite mit künstlicher Intelligenz.“ Viel mehr braucht es zunächst nicht, um eine Sprachdialoganwendung transparent zu machen. Nutzer wissen, dass sie nicht mit einem Menschen sprechen, und können die Interaktion entsprechend einordnen.
Bei modernen Voice-Systemen ist dieser Hinweis keine Formalität. Die neuesten Anwendungen reagieren flüssig, greifen Gesprächsinhalte auf und klingen so natürlich, dass viele Menschen den Unterschied kaum noch erkennen. Eine künstlich verfremdete Stimme wäre jedoch kaum die bessere Lösung: Je intuitiver die Interaktion verläuft, desto eher schildern Nutzer ihr Anliegen in eigenen Worten, statt sich mühsam an die vermutete Logik eines Systems anzupassen.
Die entscheidende Grenze verläuft nicht zwischen natürlicher und künstlicher Stimme. Sie verläuft zwischen einer Anwendung, die ihre Rolle offenlegt, und einer Anwendung, die menschliche Fähigkeiten nur imitiert. Denn ein System kann überzeugend klingen und trotzdem fachlich an seine Grenzen stoßen. Gerade die sprachliche Souveränität erzeugt Erwartungen: Wer wie ein kompetenter Gesprächspartner wirkt, dem trauen Nutzer auch kompetente Antworten zu. Diese Übereinstimmung zwischen Wirkung und tatsächlicher Leistungsfähigkeit herzustellen, ist wesentlich anspruchsvoller als die Kennzeichnung selbst.
Nicht jeder Output lässt sich garantieren
Damit beginnt das eigentliche Problem. Generative Sprachmodelle arbeiten nicht wie klassische, regelbasierte Software. Sie erzeugen Antworten auf Basis von Wahrscheinlichkeiten und reagieren auf Gesprächsverläufe, Formulierungen und Kontexte, die sich nicht vollständig vorab modellieren lassen.
Das bedeutet nicht, dass Unternehmen dem Verhalten eines Systems hilflos ausgeliefert wären. Anwendungen können auf klar umrissene Aufgaben beschränkt, mit geprüften Wissensquellen verbunden und intensiv getestet werden. Für sensible Fälle lassen sich Übergaben an menschliche Mitarbeiter vorsehen. Ebenso können Unternehmen festlegen, zu welchen Themen ein System Auskunft geben darf und bei welchen Anliegen es abbrechen oder weiterleiten muss.
Auch bei sorgfältiger Entwicklung bleibt jedoch ein Restrisiko. Kein Anbieter kann jede Gesprächssituation vorhersehen oder garantieren, dass jeder Output korrekt, angemessen und rechtlich unbedenklich ist. Hier trifft die Funktionsweise generativer KI auf eine Erwartung aus der klassischen Softwareentwicklung: Systeme sollen vollständig prüfbar und ihr Verhalten verbindlich sein. Für generative Anwendungen ist das nur begrenzt möglich.
Unsicherheit produziert Prozesse
Oft können Unternehmen diesen Widerspruch nicht vernünftig auflösen, was sich bereits zu Projektbeginn zeigt. KI-Anbieter erhalten umfangreiche Fragenkataloge zu verwendeten Modellen, Datenhaltung, Testverfahren, Schutzmaßnahmen gegen Manipulation oder möglichen Rechtsverletzungen. Solche Prüfungen sind keineswegs überflüssig. Wer ein KI-System in seine Prozesse integriert, muss wissen, welche Komponenten zum Einsatz kommen und wie Risiken begrenzt werden.
Allerdings werden die Fragen nicht immer am konkreten Anwendungsfall ausgerichtet. Ein Sprachassistent, der bei einem Energieversorger das Anliegen eines Anrufers erkennt und ihn an die zuständige Abteilung weiterleitet, durchläuft mitunter ähnlich umfassende Prüfungen wie eine Anwendung, die eigenständig komplexe Inhalte generiert oder Entscheidungen vorbereitet. Schon Spracherkennung und Intent-Erkennung können umfangreiche Governance-Prozesse auslösen, obwohl das System am Ende lediglich dafür sorgt, dass ein Kunde schneller beim richtigen Ansprechpartner landet. Es soll sich aber nicht in fünfminütige Diskussionen verwickeln lassen oder Firmeninterna ausplaudern.
In der Praxis entsteht so ein erheblicher Aufwand. Fragen zu Prompt Injection, Jailbreaking, Benchmarks, Trainingsdaten oder möglichen Verletzungen von Schutzrechten müssen von unterschiedlichen Fachbereichen beantwortet werden. Entwickler, Betriebsteams, Datenschutzverantwortliche und Juristen arbeiten an Dokumenten, deren Aufbau von Kunde zu Kunde variiert. Was als Prüfung beginnt, wird nicht selten zu einem eigenen Projekt. Der Umfang der Dokumentation ist dabei nicht automatisch ein Maß für die Sicherheit einer Anwendung. Er zeigt häufig vor allem, wie groß die Unsicherheit auf beiden Seiten noch ist.
Verantwortung bleibt beim anwendenden Unternehmen
Hinter vielen Prüfprozessen steht eine nachvollziehbare Frage: Wer haftet, wenn das System etwas Falsches sagt? Das einsetzende Unternehmen möchte sich gegenüber dem Technologieanbieter absichern. Der Anbieter kann jedoch nur für die technische Ausgestaltung einstehen, nicht für jede Folge des konkreten Einsatzes. In welchem Prozess und mit welchen Auswirkungen die Anwendung eingesetzt wird, entscheidet letztlich der Betreiber.
Damit landet die zentrale Abwägung beim Management: Welches Risiko ist angesichts des Nutzens vertretbar? Diese Entscheidung lässt sich nicht durch einen weiteren Fragebogen ersetzen. Sie verlangt technisches Verständnis, Kenntnis des Anwendungsfalls und eine klare Vorstellung davon, welche Fehler tolerierbar sind und welche nicht. Fehlt diese Kompetenz, wird Verantwortung häufig weitergereicht. Der Betreiber verlangt Garantien vom Anbieter, der Anbieter verweist auf die konkrete Ausgestaltung der Anwendung, und intern möchte niemand eine Entscheidung vertreten, die ein verbleibendes Risiko enthält. Projekte werden daraufhin enger gefasst, verzögert oder ganz aufgegeben, nicht unbedingt, weil ihr Risiko zu hoch wäre, sondern weil es sich nicht auf null reduzieren lässt.
Nichtstun beseitigt kein Risiko
In der Debatte über KI steht meist das Risiko fehlerhafter Anwendungen im Mittelpunkt. Seltener wird gefragt, was verloren geht, wenn sinnvolle Projekte aus Unsicherheit gar nicht erst starten.
Ein Sprachassistent, der Anrufer schneller zur richtigen Stelle führt, Routineanfragen übernimmt oder Informationen außerhalb üblicher Servicezeiten bereitstellt, schafft einen konkreten Nutzen. Wird ein solches Projekt wegen unerfüllbarer Garantien gestoppt, verschwinden die bestehenden Probleme nicht. Stattdessen bleiben lange Wartezeiten, überlastete Serviceteams und Prozesse bestehen, die sich technisch längst verbessern ließen.
Verantwortung bedeutet deshalb nicht, jedes Restrisiko auszuschließen. Sie bedeutet, Nutzen und mögliche Schäden realistisch gegeneinander abzuwägen und den Einsatz entsprechend zu begrenzen. Dazu gehören ein klar definierter Anwendungsfall, geprüfte Wissensquellen, verbindliche Grenzen für die Antworten des Systems und die Übergabe an einen Menschen, sobald ein Anliegen kritisch oder uneindeutig wird.
Ebenso wichtig sind klare Zuständigkeiten. Unternehmen müssen festlegen, wer das System im laufenden Betrieb überwacht, wie Fehler ausgewertet werden und wann Anpassungen notwendig sind. Auf diese Weise wird das Restrisiko nicht verdrängt, sondern kontrollierbar gemacht.
Wer jedes verbleibende Risiko zum Ausschlusskriterium erklärt, entscheidet sich nicht für Sicherheit, sondern für den Status quo. Verantwortlicher KI-Einsatz beginnt dort, wo Unternehmen Risiken weder ignorieren noch vollständig beseitigen wollen, sondern sie bewusst begrenzen und tragen.
