Fragen Sie ein allgemeines KI-Modell, wie lange die Rückgabefrist in Ihrem Shop ist, und Sie bekommen eine Antwort. Sie klingt überzeugend. Sie kann aber auch erfunden sein, denn das Modell hat Ihre Rückgaberichtlinie nie gesehen. Retrieval-Augmented Generation – kurz RAG – ist die Technik, die genau das behebt, und der Grund, warum man einem KI-Agenten im Unternehmen überhaupt Kundengespräche anvertrauen kann.
Das Problem: Modelle kennen Ihr Geschäft nicht
Große Sprachmodelle lernen aus riesigen Mengen öffentlicher Texte. Das macht sie sprachgewandt, doch ihr Wissen endet bei ihren Trainingsdaten – und darin kamen Ihre Preise, Ihr Bestand, Ihre Öffnungszeiten und Ihre Richtlinien nie vor. Fehlt einem Modell eine Information, füllt es die Lücke gern mit etwas Plausiblem. In einem Kundengespräch ist eine plausible, aber falsche Antwort – ein Liefertermin, ein Rabatt, eine Garantiebedingung – schlimmer als gar keine.
So funktioniert RAG, Schritt für Schritt
- 1Aufnehmen: Ihre Dokumente – Produktlisten, FAQs, Richtlinien, Website-Seiten – werden in kurze Abschnitte zerlegt.
- 2Indexieren: Jeder Abschnitt wird in eine numerische Darstellung (ein Embedding) umgewandelt, die seine Bedeutung erfasst. So lässt er sich nach Bedeutung statt nach exakten Wörtern durchsuchen.
- 3Abrufen: Wenn ein Kunde eine Frage stellt, findet das System die dafür relevantesten Abschnitte.
- 4Generieren: Das Sprachmodell formuliert die Antwort auf Grundlage dieser Abschnitte, statt sich auf das zu verlassen, woran es sich zufällig erinnert.
Weil der Abruf nach Bedeutung sucht, findet ein Kunde, der fragt „Kann ich das zurückschicken?“, trotzdem Ihren Abschnitt „Rückgabe und Umtausch“ – obwohl keines der Wörter übereinstimmt.
Warum RAG im Kundenservice zählt
- Genauigkeit: Die Antworten stammen aus Ihren eigenen Informationen, sodass Preise und Richtlinien mit Ihrem tatsächlichen Angebot übereinstimmen.
- Einfache Aktualisierung: Ändern Sie ein Dokument, ändern sich die Antworten des Agenten mit – ganz ohne neues Training.
- Ehrliche Lücken: Wird nichts Relevantes gefunden, kann der Agent sagen, dass er es nicht weiß, und an einen Menschen übergeben.
- Eine Quelle für alle Kanäle: Dieselbe Wissensdatenbank beantwortet Fragen auf WhatsApp, Instagram und Facebook.
So bauen Sie eine Wissensdatenbank auf, die funktioniert
RAG kann nur abrufen, was Sie bereitstellen – die Qualität Ihrer Dokumente bestimmt also die Qualität der Antworten. Ein paar Gewohnheiten machen einen großen Unterschied:
- Schreiben Sie die Antworten auf Ihre häufigsten Fragen in verständlicher Sprache auf, ein Thema pro Abschnitt.
- Nennen Sie die Details, nach denen Kunden fragen: Preise, Größen, Lieferzeiten, Liefergebiete, Öffnungszeiten.
- Entfernen Sie veraltete Dokumente, statt alte und neue Versionen nebeneinander liegen zu lassen.
- Sehen Sie sich Gespräche an, die der Agent übergeben hat – jedes weist meist auf eine fehlende Antwort hin, die Sie ergänzen können.
RAG bei Neksio
Jeder Neksio-Agent nutzt RAG. Sie laden Dokumente hoch (in den Bezahltarifen auch Ihre Website und FAQs), und der Agent antwortet auf dieser Grundlage auf WhatsApp, Instagram und Facebook. Wie sich Agenten grundsätzlich von Chatbots unterscheiden, lesen Sie im Beitrag Was sind KI-Agenten?.
Starten Sie mit einem einzigen Dokument und ergänzen Sie nach und nach.
Häufig gestellte Fragen
- Wofür steht RAG?
- Für Retrieval-Augmented Generation, also „abrufgestützte Generierung“. Das System ruft relevante Abschnitte aus Ihren eigenen Dokumenten ab, und das Sprachmodell erzeugt daraus seine Antwort.
- Verhindert RAG KI-Halluzinationen?
- Bei geschäftlichen Fragen reduziert es sie stark, weil das Modell aus abgerufenen Abschnitten statt aus dem Gedächtnis antwortet. Am besten funktioniert es mit einer klaren, aktuellen Wissensdatenbank und einem Agenten, der zugibt, wenn nichts Relevantes gefunden wurde.
- Muss ich die KI neu trainieren, wenn sich meine Informationen ändern?
- Nein. Mit RAG aktualisieren Sie einfach das Dokument, und schon die nächste Antwort nutzt die neuen Informationen. Ein Modelltraining ist nicht nötig.
- Welche Dokumente sollte ich hochladen?
- Beginnen Sie mit den Antworten auf Ihre häufigsten Fragen: Produkte und Preise, Lieferung und Rückgabe, Öffnungszeiten und Kontaktdaten. Ergänzen Sie mehr, sobald der Agent eine Frage übergibt, die er nicht beantworten konnte.