Oft gefragt
Erfinden Chatbots Antworten?
Jeder hat schon von einer KI gelesen, die mit großer Überzeugung Unsinn erzählt. Da liegt die Sorge nahe: Was, wenn der Chatbot auf meiner Website Preise erfindet oder Leistungen verspricht, die es gar nicht gibt? Ob das passiert, hängt vor allem davon ab, worauf sich der Assistent stützen darf.
Von Fabian Schlier
Das Wichtigste in Kürze
- Sprachmodelle halluzinieren vor allem dann, wenn ihnen eine verlässliche Grundlage fehlt.
- Ein Website-Assistent antwortet aus deinen eigenen Inhalten und sagt offen, wenn dort nichts steht.
- Wer die Gespräche liest und Wissen ergänzt, hat die Qualität selbst in der Hand.
Woher die Sorge kommt
Die Sorge hat einen realen Hintergrund. Allgemeine KI-Chatprogramme haben immer wieder Schlagzeilen gemacht, mit Antworten, die überzeugend klangen und schlicht falsch waren. Erfundene Quellen, falsche Daten, Zusammenhänge, die es nicht gibt.
Für einen Betrieb wäre so etwas heikel. Nennt der Chat einem Interessenten einen Preis, den es nicht gibt, oder sagt er eine Leistung zu, die du gar nicht anbietest, hast du ein Problem. Im besten Fall ein peinliches Telefonat. Im schlechtesten einen verärgerten Kunden. Es lohnt sich also, zu verstehen, woher solche Fehler kommen.
Was eine Halluzination eigentlich ist
Ein Sprachmodell hat aus riesigen Textmengen gelernt, wie Sprache funktioniert. Es baut Antworten, indem es Wort für Wort die wahrscheinlichste Fortsetzung bildet. Das klappt erstaunlich gut. Aber das Modell „weiß“ nicht im menschlichen Sinn, was stimmt.
Fragt man es etwas, wozu es keine verlässliche Grundlage hat, formuliert es trotzdem eine plausibel klingende Antwort. Diesen Effekt nennt man Halluzination. Besonders anfällig sind Fragen nach konkreten Fakten, die das Modell nie gesehen hat. Deine Öffnungszeiten zum Beispiel. Deine Preise. Dein Einzugsgebiet.
Das Problem entsteht also vor allem dort, wo ein Modell ohne Grundlage antwortet. An dieser Stelle unterscheidet sich ein Website-Assistent von einem allgemeinen Chatprogramm.
Ein Assistent, der nur deine Inhalte kennt
Ein Website-Assistent soll kein Alleswisser sein. Er wird auf eine festgelegte Wissensquelle beschränkt: deine Website und das, was du zusätzlich hinterlegst. Stellt ein Besucher eine Frage, sucht der Assistent zuerst die passenden Textstellen heraus und formuliert seine Antwort auf dieser Basis. Fachleute nennen das Retrieval-Augmented Generation (RAG).
Ein richtig aufgesetzter Website-Chatbot stützt sich auf deine eigenen Inhalte. Steht dort keine passende Information, sagt er das offen, statt zu raten. Aus der Wissenslücke wird dann eine Anfrage an dein Team und keine falsche Auskunft.
So arbeitet auch chattastic. Der Assistent liest deine Website samt verknüpfter Unterseiten ein und antwortet aus diesen Inhalten plus dem Wissen, das du im Dashboard ergänzt. Kann er eine Frage nicht beantworten, bietet er an, das Anliegen an dein Team weiterzugeben.
Ein Beispiel: ein Malerbetrieb im Umland, Samstagnachmittag. Ein Besucher fragt: „Streicht ihr auch Holzfassaden?“ Steht dazu etwas auf der Website, antwortet der Assistent auf dieser Grundlage. Steht dort nichts, lautet eine gute Antwort etwa: „Dazu habe ich leider keine gesicherte Information. Ich gebe Ihre Frage gern an unser Team weiter. Darf ich Ihren Namen und eine Telefonnummer notieren?“
Für den Betrieb ist das der bessere Ausgang. Der Besucher bekommt keine falsche Auskunft, und am Montag liegt eine konkrete Anfrage vor. Solche Anfragen sind oft besonders interessant, weil hinter einer sehr speziellen Frage meist ein ziemlich konkretes Vorhaben steckt.
Wo trotzdem Fehler passieren können
Ganz ausschließen lassen sich Fehler nicht. Bei Menschen übrigens auch nicht. Eine KI kann eine Formulierung auf deiner Website missverstehen oder zwei Angaben ungünstig verknüpfen. Und wenn auf deiner Website noch die Preise von vor drei Jahren stehen, gibt der Assistent eben diese wieder.
Deshalb sollte ein Chatbot keine verbindlichen Zusagen machen. Individuelle Angebote, Festpreise im Einzelfall und fest zugesagte Termine bleiben bei deinem Team. Eine Rechts-, Steuer- oder medizinische Beratung ersetzt ein Assistent ebenfalls nicht. Leg diese Grenzen klar fest und sorge dafür, dass der Assistent sie kennt.
Hinterlege für heikle Themen eine feste Linie, etwa: „Konkrete Preise nennen wir nach einer kurzen Bestandsaufnahme. Ich nehme Ihre Angaben gern auf, dann meldet sich unser Team mit einem Angebot.“ Die Antwort bleibt hilfreich und verspricht nichts.
So prüfst und verbesserst du die Antworten
Die Qualität der Antworten hast du zu einem großen Teil selbst in der Hand. Bewährt hat sich eine einfache Routine:
- Stell dem Assistenten die zehn Fragen, die dein Team am häufigsten hört. Ruhig auch ein paar unbequeme.
- Lies in den ersten Wochen regelmäßig die Gesprächsverläufe im Dashboard.
- Wo der Assistent passen musste, ergänzt du das fehlende Wissen.
- Ändern sich Preise oder Leistungen, liest du die Website neu ein.
Eine ausführliche Anleitung steht im Artikel Chatbot-Wissen pflegen. Nebenbei merken viele Betriebe dabei, welche Fragen ihre Website bisher offenlässt. Davon haben auch Besucher etwas, die gar nicht chatten.
Die Grundlage macht den Unterschied
Halluzinationen gibt es wirklich, das hat sich niemand ausgedacht. Sie entstehen aber vor allem dann, wenn ein Modell ohne Grundlage antwortet. Ist der Assistent auf deine Inhalte begrenzt, gibt er Lücken offen zu, und schaust du in den ersten Wochen regelmäßig in die Gespräche, bekommen Besucher verlässliche Antworten. Dein Team bekommt die Anfragen, die ohnehin eine persönliche Antwort brauchen. Am schnellsten siehst du das im Test mit deiner Website. Stell dort ruhig die Fragen, bei denen du selbst am skeptischsten bist.
Häufige Fragen
Kann ein Website-Chatbot falsche Preise nennen?
Er gibt wieder, was auf deiner Website und in deinem hinterlegten Wissen steht. Stehen dort veraltete Preise, kann er diese nennen. Halte deine Inhalte daher aktuell und leg fest, dass verbindliche Preise nur dein Team nennt.
Was macht der Assistent, wenn er eine Antwort nicht kennt?
Ein gut aufgesetzter Assistent sagt offen, dass ihm die Information fehlt, und bietet an, das Anliegen an dein Team weiterzugeben.
