Ein KI-Assistent, der Ihre Unterlagen kennt und die Quelle nennt.

So arbeitet ein Assistent mit Quellenangabe

Der Assistent lernt Ihre Dokumente nicht auswendig. Er sucht zu jeder Frage die passenden Abschnitte und lässt ein Sprachmodell nur daraus antworten. Das Verfahren heißt Retrieval-Augmented Generation (RAG). Wie es funktioniert und was BSI und Datenschutzkonferenz dazu schreiben, erklärt der Ratgeber KI-Assistent mit eigenen Dokumenten.

1. 1Frage stellen: in normaler Sprache, so wie man eine Kollegin fragt.
2. 2Stellen finden: Eine Suche wählt aus Ihren Dokumenten die Abschnitte, die zur Frage passen.
3. 3Antwort formulieren: Ein Sprachmodell schreibt die Antwort aus genau diesen Abschnitten.
4. 4Quelle zeigen: Unter der Antwort stehen Dokument, Abschnitt und Stand, zum Nachlesen mit einem Klick.

Die Demo: ein Handbuch, das antwortet

In der Demo hat Haustechnik Weber, ein erfundener Sanitär- und Heizungsbetrieb, sein Betriebshandbuch in 13 kurzen Dokumenten: Notdienst, Urlaub, Fahrzeugnutzung, Arbeitsschutz beim Löten, Kundenschlüssel und mehr. Sie fragen wie im Betriebsalltag, etwa „Was tun bei Gasgeruch?“ oder „Darf ich den Firmenwagen privat nutzen?“.

Offen gesagt: In der Demo formuliert keine KI. Die Antwort besteht aus wörtlich zitierten Sätzen, die eine Volltextsuche mit BM25-Ranking, deutschen Wortformen und Synonymen findet. So zeigt die Demo, wovon die Qualität zuerst abhängt: ob die richtige Stelle gefunden wird. Im Projekt formuliert ein Sprachmodell die Antwort aus solchen Stellen und nennt die Quellen.

Fragen Sie auch nach etwas, das nicht im Handbuch steht, etwa dem WLAN-Passwort. Die Demo sagt dann, dass keine Stelle gut genug passt, und schlägt eine Ansprechperson vor. Die Suche läuft vollständig in Ihrem Browser.

Wofür sich ein Assistent eignet

• Handwerk und Betriebe: Betriebshandbuch, Arbeitsschutz, Notdienstregeln, Preislisten. Neue Mitarbeitende finden Antworten, ohne im Büro anzurufen.
• Verwaltung: Dienstanweisungen, Verfahrensbeschreibungen und Fachvorschriften für die Sachbearbeitung, mit Verweis auf die geltende Fassung.
• Stiftungen und Förderprogramme: Förderrichtlinien und Bearbeitungshinweise für das eigene Team oder Antworten auf häufige Fragen von Antragstellenden. Passt zu einer Online-Antragsstrecke.

Warum die Quelle der Kern ist

Sprachmodelle können Inhalte erfinden, und falsche Antworten klingen oft überzeugend. Steht unter jeder Antwort, worauf sie beruht, lässt sie sich in Sekunden nachprüfen. Wir zeigen deshalb zu jeder Antwort Dokument, Abschnitt, Stand und Ansprechperson, wie in der Demo. Findet die Suche keine passende Stelle, sagt der Assistent das, statt aus dem allgemeinen Wissen des Modells zu antworten.

Ein verwandtes Prinzip nutzt unsere Plattform Catalyst: In der Qualitätsstufe Pro+ werden die erzeugten Produktdaten mit einer zusätzlichen KI-Faktenprüfung gegen die Rohdaten abgeglichen.

Datenschutz und Speicherort

Wo Ihre Dokumente liegen und welches Sprachmodell antwortet, legen wir im Konzept fest. Anwendungen, die wir betreiben, laufen auf Servern in Deutschland (Hetzner, Nürnberg), mit Auftragsverarbeitungsvertrag. Auch das Sprachmodell lässt sich in Deutschland betreiben; ob das oder ein Cloud-Dienst besser passt, entscheiden wir mit Ihnen anhand der Kriterien der Datenschutzkonferenz.

Nicht jede Person darf alles lesen. Zugriffsrechte setzen wir in der Suche selbst um, nicht über Anweisungen an das Modell, so wie es das BSI empfiehlt: Der Assistent findet nur Abschnitte, die die fragende Person auch öffnen dürfte.

Eigener Assistent oder ChatGPT mit Datei-Upload?

Für einzelne Fragen an ein Dokument genügt oft ein allgemeiner Chatdienst. Ein eigener Assistent lohnt sich, wenn viele Personen dieselben, gepflegten Unterlagen nutzen. Was bei Chatdiensten zu Kontoart und Training gilt, steht im Ratgeber.

So entsteht Ihr Assistent

1. 1Erstgespräch: Sie zeigen uns die Dokumente und nennen typische Fragen aus dem Alltag.
2. 2Konzept mit Festpreis: Wir legen Dokumentauswahl, Speicherort, Sprachmodell und Zugriffsrechte fest. Sie bekommen einen klickbaren Entwurf und einen Festpreis je Etappe.
3. 3Erste Etappe, die Suche: Ihre Dokumente werden durchsuchbar, und Sie testen mit echten Fragen, ob die richtigen Stellen kommen. Das sieht aus wie unsere Demo.
4. 4Zweite Etappe, die Antworten: Erst wenn die Suche trifft, formuliert ein Sprachmodell die Antworten, immer mit Quelle.
5. 5Betrieb: Auf Wunsch betreiben wir den Assistenten und aktualisieren den Suchindex, wenn sich Dokumente ändern. Mehr unter Betrieb und Wartung.

Was ein Assistent kostet

Nach dem Erstgespräch nennen wir einen Festpreis je Etappe, bevor Code entsteht. Den Aufwand bestimmen vor allem Zahl und Zustand der Dokumente, die Zugriffsrechte und die Einbindung, etwa ins Intranet.

Laufend kommen Betrieb und Modellnutzung hinzu, abhängig vor allem von der Zahl der Fragen. Die einzelnen Kostenblöcke erklärt der Ratgeber KI-Assistent mit eigenen Dokumenten.