- Was ist ein KI-Wissensassistent?
- Ein Programm, dem deine Leute Fragen in ganzen Sätzen stellen und das aus euren eigenen Unterlagen antwortet: Handbücher, Verträge, Tickets, Code. Unter jeder Antwort steht die Fundstelle. Er ersetzt die Suche im Laufwerk und die Frage an den einen Kollegen, der sich auskennt.
- Was ist ein RAG-System?
- Ein System nach dem Prinzip Retrieval-Augmented Generation (RAG). Das Modell bekommt vor der Antwort die passenden Abschnitte aus euren Dokumenten und antwortet aus ihnen, statt aus dem Gedächtnis. Unser eigener Wissensspeicher heißt danach Zeasy RAG und läuft seit 2025.
- Ist ein RAG-System dasselbe wie ein KI-Chatbot mit eigenen Daten?
- Im Kern ja. Du schreibst eine Frage und bekommst eine Antwort aus eurem Firmenwissen statt aus dem Gedächtnis des Modells. Bei uns kommen zwei Dinge dazu: Unter jeder Antwort steht die Fundstelle, und die Rechte gelten schon bei der Suche. Manche nennen das auch KI-Wissensdatenbank oder interne KI-Suche.
- Reichen nicht ChatGPT, Microsoft Copilot oder NotebookLM mit eigenen Dateien?
- Für eine Person und ein paar Dateien reicht ein fertiges Werkzeug oft, und dann sagen wir dir das im Erstgespräch. Einen eigenen Assistenten bauen wir, wenn viele Leute fragen, die nicht alle dasselbe sehen dürfen, wenn sich die Unterlagen laufend ändern oder wenn die Daten das Haus nicht verlassen sollen.
- Was ist der Unterschied zwischen RAG und Fine-Tuning?
- Bei RAG bleibt das Wissen in den Dokumenten, das Modell schlägt nach. Ändert sich ein Dokument, kommt die nächste Antwort aus der neuen Fassung. Beim Fine-Tuning lernt ein Modell ein Verhalten, etwa Tickets der richtigen Abteilung zuzuordnen. So haben wir es beim KI-Ticketrouting gebaut. Für Fragen an Handbücher und Verträge ist Nachschlagen der richtige Weg.
- Halluziniert ein RAG-System?
- Ein Sprachmodell allein schreibt auch dann einen flüssigen Satz, wenn es die Antwort nicht kennt. Das nennt man Halluzination. Wir bauen das RAG-System so, dass es nur aus gefundenen Abschnitten antwortet und sie als Fundstellen anhängt. Findet es nichts, sagt es das. Jede Antwort kannst du mit einem Klick an ihrer Fundstelle prüfen.
- Was passiert, wenn der Assistent keine Antwort weiß?
- Dann sagt er, dass er in den Unterlagen nichts gefunden hat. Wir bauen ihn so, dass er nur aus gefundenen Abschnitten antwortet. Fragen ohne Treffer lassen sich sammeln, sie zeigen, welche Unterlage fehlt.
- Sieht jeder Mitarbeiter alle Dokumente?
- Nein. Wer was fragen darf, legst du fest, nach Nutzer, Rolle oder Mandant. Die Rechte gelten schon bei der Suche. Ein Abschnitt, den jemand nicht öffnen darf, kommt in seinen Antworten nicht vor.
- RAG und DSGVO: Verlassen unsere Daten das Unternehmen?
- Das entscheiden wir mit dir, bevor gebaut wird. Ein Modell kann bei dir im Haus laufen. So ist es beim KI-Ticketrouting, dort verlassen neue Tickets das Unternehmen nicht. Verarbeiten wir deine Daten, bekommst du einen Vertrag zur Auftragsverarbeitung nach Art. 28 DSGVO.
- Wie bleibt das Wissen im RAG-System aktuell?
- Ändert sich eine Quelle, wird sie neu eingelesen, ohne dass jemand eine Liste pflegt. Die nächste Antwort kommt aus der neuen Fassung. Unser eigener Speicher ist kurz nach jeder Änderung auf dem neuen Stand.
- Wie lange dauert es, ein RAG-System entwickeln zu lassen?
- Das hängt an Zahl und Art der Quellen und an den Rechten. Eine erste Spanne in Wochen nennt dir der Rechner auf der Kontaktseite nach vier Fragen. Fest steht der Ablauf: Erstgespräch, zwei Tage bei dir, daraus Pflichtenheft und Angebot. Danach binden wir zuerst die Unterlagen an, nach denen am häufigsten gefragt wird, und ihr testet mit echten Fragen. Gebaut wird in Sprints von einer Woche, jeder endet mit einer Demo.
- Was kostet ein RAG-System oder KI-Wissensassistent?
- Wir rechnen nach Aufwand, nicht nach der Zahl der Fragen. Wie viele Stunden es werden, hängt an Zahl und Art der Quellen und an den Rechten. Einen ersten Kostenrahmen gibt dir der Rechner auf der Kontaktseite in vier Fragen, ohne Kontaktdaten. Erstgespräch und Kostenrahmen kosten 0 €. Dazu kommen laufende Kosten für den Betrieb.