Oft gefragt
Erfinden Chatbots Antworten?
Jeder hat schon von einer KI gelesen, die mit großer Überzeugung Unsinn erzählt. Da liegt die Sorge nahe: Was, wenn der Chatbot auf meiner Website Preise erfindet oder Leistungen verspricht, die es gar nicht gibt? Ob das passiert, hängt vor allem davon ab, worauf sich der Assistent stützen darf.
Von Fabian Schlier
Das Wichtigste in Kürze
- Sprachmodelle halluzinieren vor allem dann, wenn ihnen eine verlässliche Grundlage fehlt.
- Ein Website-Assistent antwortet aus Ihren eigenen Inhalten und sagt offen, wenn dort nichts steht.
- Wer die Gespräche liest und Wissen ergänzt, hat die Qualität selbst in der Hand.
Woher die Sorge kommt
Die Sorge hat einen realen Hintergrund. Allgemeine KI-Chatprogramme haben immer wieder Schlagzeilen gemacht, mit Antworten, die überzeugend klangen und schlicht falsch waren. Erfundene Quellen, falsche Daten, Zusammenhänge, die es nicht gibt.
Für einen Betrieb wäre so etwas heikel. Nennt der Chat einem Interessenten einen Preis, den es nicht gibt, oder sagt er eine Leistung zu, die Sie gar nicht anbieten, haben Sie ein Problem. Im besten Fall ein peinliches Telefonat. Im schlechtesten einen verärgerten Kunden. Es lohnt sich also, zu verstehen, woher solche Fehler kommen.
Was eine Halluzination eigentlich ist
Ein Sprachmodell hat aus riesigen Textmengen gelernt, wie Sprache funktioniert. Es baut Antworten, indem es Wort für Wort die wahrscheinlichste Fortsetzung bildet. Das klappt erstaunlich gut. Aber das Modell „weiß“ nicht im menschlichen Sinn, was stimmt.
Fragt man es etwas, wozu es keine verlässliche Grundlage hat, formuliert es trotzdem eine plausibel klingende Antwort. Diesen Effekt nennt man Halluzination. Besonders anfällig sind Fragen nach konkreten Fakten, die das Modell nie gesehen hat. Ihre Öffnungszeiten zum Beispiel. Ihre Preise. Ihr Einzugsgebiet.
Das Problem entsteht also vor allem dort, wo ein Modell ohne Grundlage antwortet. An dieser Stelle unterscheidet sich ein Website-Assistent von einem allgemeinen Chatprogramm.
Ein Assistent, der nur Ihre Inhalte kennt
Ein Website-Assistent soll kein Alleswisser sein. Er wird auf eine festgelegte Wissensquelle beschränkt: Ihre Website und das, was Sie zusätzlich hinterlegen. Stellt ein Besucher eine Frage, sucht der Assistent zuerst die passenden Textstellen heraus und formuliert seine Antwort auf dieser Basis. Fachleute nennen das Retrieval-Augmented Generation (RAG).
Ein richtig aufgesetzter Website-Chatbot stützt sich auf Ihre eigenen Inhalte. Steht dort keine passende Information, sagt er das offen, statt zu raten. Aus der Wissenslücke wird dann eine Anfrage an Ihr Team und keine falsche Auskunft.
So arbeitet auch chattastic. Der Assistent liest Ihre Website samt verknüpfter Unterseiten ein und antwortet aus diesen Inhalten plus dem Wissen, das Sie im Dashboard ergänzen. Kann er eine Frage nicht beantworten, bietet er an, das Anliegen an Ihr Team weiterzugeben.
Ein Beispiel: ein Malerbetrieb im Umland, Samstagnachmittag. Ein Besucher fragt: „Streicht ihr auch Holzfassaden?“ Steht dazu etwas auf der Website, antwortet der Assistent auf dieser Grundlage. Steht dort nichts, lautet eine gute Antwort etwa: „Dazu habe ich leider keine gesicherte Information. Ich gebe Ihre Frage gern an unser Team weiter. Darf ich Ihren Namen und eine Telefonnummer notieren?“
Für den Betrieb ist das der bessere Ausgang. Der Besucher bekommt keine falsche Auskunft, und am Montag liegt eine konkrete Anfrage vor. Solche Anfragen sind oft besonders interessant, weil hinter einer sehr speziellen Frage meist ein ziemlich konkretes Vorhaben steckt.
Wo trotzdem Fehler passieren können
Ganz ausschließen lassen sich Fehler nicht. Bei Menschen übrigens auch nicht. Eine KI kann eine Formulierung auf Ihrer Website missverstehen oder zwei Angaben ungünstig verknüpfen. Und wenn auf Ihrer Website noch die Preise von vor drei Jahren stehen, gibt der Assistent eben diese wieder.
Deshalb sollte ein Chatbot keine verbindlichen Zusagen machen. Individuelle Angebote, Festpreise im Einzelfall und fest zugesagte Termine bleiben bei Ihrem Team. Eine Rechts-, Steuer- oder medizinische Beratung ersetzt ein Assistent ebenfalls nicht. Legen Sie diese Grenzen klar fest und sorgen Sie dafür, dass der Assistent sie kennt.
Hinterlegen Sie für heikle Themen eine feste Linie, etwa: „Konkrete Preise nennen wir nach einer kurzen Bestandsaufnahme. Ich nehme Ihre Angaben gern auf, dann meldet sich unser Team mit einem Angebot.“ Die Antwort bleibt hilfreich und verspricht nichts.
So prüfen und verbessern Sie die Antworten
Die Qualität der Antworten haben Sie zu einem großen Teil selbst in der Hand. Bewährt hat sich eine einfache Routine:
- Stellen Sie dem Assistenten die zehn Fragen, die Ihr Team am häufigsten hört. Ruhig auch ein paar unbequeme.
- Lesen Sie in den ersten Wochen regelmäßig die Gesprächsverläufe im Dashboard.
- Wo der Assistent passen musste, ergänzen Sie das fehlende Wissen.
- Ändern sich Preise oder Leistungen, lesen Sie die Website neu ein.
Eine ausführliche Anleitung steht im Artikel Chatbot-Wissen pflegen. Nebenbei merken viele Betriebe dabei, welche Fragen ihre Website bisher offenlässt. Davon haben auch Besucher etwas, die gar nicht chatten.
Die Grundlage macht den Unterschied
Halluzinationen gibt es wirklich, das hat sich niemand ausgedacht. Sie entstehen aber vor allem dann, wenn ein Modell ohne Grundlage antwortet. Ist der Assistent auf Ihre Inhalte begrenzt, gibt er Lücken offen zu, und schauen Sie in den ersten Wochen regelmäßig in die Gespräche, bekommen Besucher verlässliche Antworten. Ihr Team bekommt die Anfragen, die ohnehin eine persönliche Antwort brauchen. Am schnellsten sehen Sie das im Test mit Ihrer Website. Stellen Sie dort ruhig die Fragen, bei denen Sie selbst am skeptischsten sind.
Häufige Fragen
Kann ein Website-Chatbot falsche Preise nennen?
Er gibt wieder, was auf Ihrer Website und in Ihrem hinterlegten Wissen steht. Stehen dort veraltete Preise, kann er diese nennen. Halten Sie Ihre Inhalte daher aktuell und legen Sie fest, dass verbindliche Preise nur Ihr Team nennt.
Was macht der Assistent, wenn er eine Antwort nicht kennt?
Ein gut aufgesetzter Assistent sagt offen, dass ihm die Information fehlt, und bietet an, das Anliegen an Ihr Team weiterzugeben.
