KI-Assistenten mit RAG: Antworten automatisieren

Ein generatives KI-Modell allein kennt Ihr Unternehmen nicht: Es weiss nicht, was Ihr Mustervertrag sagt, wie Ihre internen Abläufe aussehen oder wie die Antworten auf die häufigen Fragen Ihrer Kunden lauten. Und wenn Sie es fragen, neigt es dazu, eine plausible Antwort zu erfinden. RAG dient genau dazu, diese Lücke zu schliessen: die KI auf Ihren Dokumenten antworten zu lassen, nicht auf ihrem generischen Gedächtnis. Es ist die Technik, die KI-Assistenten im Unternehmen wirklich nützlich macht. Sehen wir uns an, wie sie funktioniert und wo sie Sinn ergibt.

Was RAG ist, ohne Fachjargon

RAG steht für Retrieval-Augmented Generation: durch Abruf verstärkte Generierung. Der Mechanismus in drei Schritten:

1. Wenn eine Frage eintrifft, sucht das System in Ihren Dokumenten die relevantesten Passagen.
2. Es liefert diese Passagen zusammen mit der Frage an das KI-Modell.
3. Das Modell generiert die Antwort auf Grundlage dieses Materials und kann die Quelle angeben.

Der Unterschied zu einem generischen Chatbot ist wesentlich: Die KI antwortet nicht “aus dem Gedächtnis”, sondern ausgehend von Ihren aktuellen Inhalten. Dies reduziert Halluzinationen stark und erlaubt es, die Antwort durch Rückverfolgung zum Ursprungsdokument zu überprüfen.

Warum ein generischer Chatbot nicht genügt

Ein Assistent, der nur auf dem Modell beruht, hat drei Grenzen, die RAG angeht:

• Er kennt Ihre Daten nicht: Er hat Ihre Handbücher, Preislisten oder Richtlinien nie gesehen.
• Er ist nicht aktuell: Sein Wissen endet zu einem bestimmten Zeitpunkt und umfasst nicht, was sich im Unternehmen geändert hat.
• Er erfindet mit Überzeugung: Wenn er etwas nicht weiss, produziert er dennoch eine glaubwürdig klingende Antwort.

Mit RAG wird das Unternehmenswissen einfach durch Aktualisieren der indexierten Dokumente aktualisiert, ohne das Modell anzutasten. Es ist der praktische Weg, um einen Assistenten zu haben, der über Ihre Realität spricht.

Konkrete Anwendungsfälle in einem KMU

Die Bereiche, in denen ein RAG-Assistent am meisten bringt, sind jene mit vielen wiederkehrenden Fragen und einer bereits bestehenden Dokumentenbasis.

• Kundensupport: Antworten auf häufige Fragen auf Basis von Handbüchern, FAQ und Bedingungen, mit der Quelle nur einen Klick entfernt.
• Interner Support: Mitarbeitende fragen Abläufe, HR-Richtlinien und technische Dokumentation ab, statt sie von Hand zu suchen.
• Dokumentensuche: in Sekunden die richtige Klausel in Hunderten von Verträgen oder Berichten finden.
• Onboarding: neue Mitarbeitende, die sofortige Antworten zu den Unternehmensprozessen erhalten.

Der Nutzen besteht nicht darin, Menschen zu ersetzen, sondern Zeit freizusetzen von wiederkehrenden Anfragen und ein Wissen zugänglich zu machen, das heute in Ordnern und Köpfen verstreut ist.

Die menschliche Kontrolle bleibt notwendig

RAG reduziert Halluzinationen, es beseitigt sie nicht. Das Modell kann eine Passage noch immer falsch deuten oder Quellen unkorrekt kombinieren. Daraus einige Regeln:

• Für Anwendungen, die Pflichten, Zahlen oder Entscheidungen berühren (Steuern, Verträge, Beträge), muss der Output stets von einer Fachperson validiert werden. Eine falsche Antwort zu einem Satz oder einer Frist kommt teuer zu stehen.
• Antworten an die Öffentlichkeit sollten die Quelle angeben, damit die Nutzer sie überprüfen können.
• Für Fragen, die der Assistent nicht mit Sicherheit beantworten kann, ist ein Weg vorzusehen: besser ein “Ich verbinde Sie mit einer Person” als eine erfundene Antwort.

Das entscheidende Thema: Datenschutz

Ein RAG-Assistent arbeitet auf Ihren Unternehmensdokumenten, die oft personenbezogene oder vertrauliche Daten enthalten. Hier ist die technologische Wahl zugleich eine Frage der Compliance.

• Vermeiden Sie es, vertrauliche Dokumente in kostenlose öffentliche Werkzeuge hochzuladen, die die Daten weiterverwenden können.
• Bevorzugen Sie Unternehmenslösungen, die garantieren, dass Ihre Dokumente nicht zum Training der Modelle verwendet werden, und die klarstellen, wo sie gespeichert sind.
• Beachten Sie das neue Schweizer Datenschutzgesetz (revDSG): Die Bearbeitung personenbezogener Daten von Kunden und Mitarbeitenden erfordert Aufmerksamkeit darauf, wo und wie sie bearbeitet werden, besonders wenn der Anbieter im Ausland ist.
• Legen Sie fest, welche Dokumente der Assistent indexieren darf und für wen die Antworten zugänglich sind, damit vertrauliche Informationen nicht für Personen sichtbar werden, die sie nicht sehen sollten.

Wie man das Projekt aufsetzt

Ein geordneter Weg vermeidet die Begeisterung, die zu nichts führt: Beginnen Sie mit einem präzisen Bereich mit vielen wiederkehrenden Fragen, bringen Sie Ordnung in die Dokumente, die das System speisen (schmutziges Material liefert schmutzige Antworten), führen Sie einen Piloten zu einem abgegrenzten Fall durch, messen Sie, wie viele Anfragen wirklich gut bearbeitet werden, und behalten Sie stets einen Ausweg zu einer Person. Besser ein zuverlässiger Assistent auf einem engen Gebiet als ein unzuverlässiger Alleskönner.

Wie wir arbeiten

SIH ONE ist eine KI-native Treuhandgruppe: Wir setzen diese Techniken in unseren eigenen Prozessen ein und kennen sowohl ihr Potenzial als auch ihre Grenzen. Wir helfen Ihnen zu verstehen, wo ein RAG-basierter Assistent in Ihrem Unternehmen wirklich Sinn ergibt, ihn auf einer geordneten Dokumentenbasis aufzusetzen und dies im Einklang mit dem Schweizer Datenschutz zu tun, mit menschlicher Kontrolle dort, wo es darauf ankommt.

Möchten Sie wiederkehrende Antworten automatisieren, ohne auf Zuverlässigkeit zu verzichten? Sprechen wir gemeinsam darüber.