KI für Unternehmenswissen.
Antworten mit Quelle und Berechtigung.

Was ist eine KI-Wissensdatenbank?

Eine KI-Wissensdatenbank ist keine neue Datenbank, sondern eine Suche über Ihre vorhandenen Dokumente, die Fragen in ganzen Sätzen beantwortet und die Quelle nennt. Das System zerlegt Dokumente in Abschnitte, legt sie in einem Index ab und reicht bei jeder Frage die passenden Abschnitte an ein Sprachmodell weiter. Die Dokumente bleiben, wo sie liegen. Ob die Antworten taugen, entscheidet die Qualität dieser Ablagen, nicht die Wahl des Modells.

Was ist RAG im Unternehmen?

RAG steht für Retrieval Augmented Generation: erst suchen, dann antworten. Vor jeder Antwort sucht das System die passenden Abschnitte in Ihren Dokumenten und gibt nur diese an das Sprachmodell. Das Modell wird dafür nicht mit Ihren Daten trainiert, neue Dokumente sind nach dem nächsten Abgleich nutzbar. Das BSI nennt als Vorteil, dass sich die Textauszüge hinter einer Antwort anzeigen lassen. Das mildert Halluzinationen, schließt sie aber nicht aus.

Wie kann ich Unternehmenswissen mit KI durchsuchen?

Sie haben fünf Wege: Microsoft 365 Copilot, einen Firmen-Chat wie ChatGPT Business, eine Enterprise-Suche wie Glean oder Gemini Enterprise, die KI in Confluence, Notion oder Ihrem Dokumentenmanagement und den Selbstbau mit RAG. Welcher passt, hängt davon ab, wo Ihr Wissen liegt und wie viele Systeme Rechte mitbringen. Die fünf Fragen im Entscheidungsweg führen zu einem ersten Kandidaten. Prüfen Sie ihn danach 30 Tage mit 50 echten Fragen, bevor Sie Lizenzen für alle kaufen.

Brauche ich ein Firmen-ChatGPT mit eigenen Dokumenten?

Nicht unbedingt. Ein Firmen-Chat reicht, wenn kleine Teams ausgewählte Dokumente hochladen oder wenige Quellen anbinden, etwa mit ChatGPT Business oder Langdock. Liegt Ihr Wissen verteilt in vielen Systemen und sollen die Rechte jeder Quelle gelten, passen Copilot oder eine Enterprise-Suche besser. Wege, Kosten und Eigenbetrieb offener Modelle beschreibt der Ratgeber Unternehmens-ChatGPT. Entscheidend ist nicht der Chat, sondern ob die Anbindung die Berechtigungen übernimmt.

Kennt die KI automatisch meine Berechtigungen?

Nein, nicht automatisch. Mehrere Anbieter geben an, bestehende Berechtigungen der Quellen zu übernehmen, etwa Microsoft 365 Copilot, Atlassian Rovo, Glean und Langdock. Das gilt nur, solange die Rechte in der Quelle stimmen: Ein Ordner mit Freigabe für alle bleibt für alle offen. Im Sprachmodell selbst lässt sich laut Datenschutzkonferenz nicht steuern, wer welche Informationen sehen darf. Prüfen Sie es mit einem Testkonto ohne Sonderrechte.

Wie verhindere ich, dass die KI veraltete Dokumente nennt?

Mit Pflege vor der Anbindung. Kennzeichnen Sie je Dokumentart die gültige Fassung, schließen Sie Archive und Entwürfe vom Index aus und pflegen Sie ein Gültig-ab-Datum. Die Antwort sollte Fassung und Datum nennen, damit Nutzer veraltete Treffer erkennen. Notion bietet etwa ein Siegel für verifizierte Seiten, das in Suche und KI-Zitaten erscheint. Legen Sie je Quelle eine verantwortliche Person fest und prüfen Sie quartalsweise mit den Testfragen.

Was kostet eine KI-Wissensdatenbank?

Lizenzen kosten laut Preislisten meist zweistellige Beträge je Nutzer und Monat, etwa Microsoft 365 Copilot 26,00 € zzgl. MwSt. bei jährlicher Abrechnung. Amazon Q Business Pro kostet 20 US-Dollar je Nutzer plus Index, Glean nennt keinen Preis. Der Selbstbau hat keine Lizenz, aber Entwicklungs- und Betriebstage. Laut Bitkom nennen 50 % der KI-Anwender die Datenaufbereitung als großen Kostenpunkt, 21 % die Lizenzen. Ihre Rechnung machen Sie im Rechner mit eigenen Werten.

Microsoft 365 Copilot, Glean oder Selbstbau: Was passt für den Mittelstand?

Arbeiten Ihre Beschäftigten in Microsoft 365, ist Copilot nach unserer Einschätzung meist der erste Kandidat, weil Dokumente und Rechte dort liegen. Verteiltes Wissen in vielen Systemen spricht für eine Enterprise-Suche wie Glean oder Gemini Enterprise. Der Selbstbau lohnt bei besonderen Anforderungen und vorhandener Entwicklerkapazität, denn Pflege und Betrieb bleiben bei Ihnen. Das ist eine Einschätzung von Find-Your-Software, kein Ranking. Vergleichen Sie mit denselben 50 Fragen.

Muss ich ein Sprachmodell mit meinen Dokumenten trainieren?

Nein. Für Wissenssuche trainieren Sie nichts, Sie binden Dokumente an. Bei RAG bleiben die Dokumente außerhalb des Modells, dadurch lassen sich Rechte steuern, Änderungen schnell nutzen und Quellen zeigen. Die Datenschutzkonferenz hebt hervor, dass sich Rechte und Rollen in der Vektordatenbank steuern lassen, im Sprachmodell nicht. Fragen Sie den Anbieter, ob Ihre Eingaben zum Training verwendet werden, und lassen Sie den Ausschluss im Vertrag festhalten.

Ist KI-Wissenssuche DSGVO-konform?

Sie kann es sein, wenn Vertrag, Rechtsgrundlage und Technik stimmen. Sie brauchen einen Vertrag zur Auftragsverarbeitung nach Art. 28 DSGVO, eine Prüfung der Drittlandübermittlung nach Art. 44 ff., einen Löschweg im Index und häufig eine Datenschutz-Folgenabschätzung nach Art. 35. Heikel sind Personalakten, Mails und Protokolle mit Namen. Die Datenschutzkonferenz hat im Oktober 2025 eine Orientierungshilfe zu RAG herausgegeben. Keine Rechtsberatung: Binden Sie Ihre Datenschutzbeauftragte früh ein.

Muss der Betriebsrat der KI-Wissenssuche zustimmen?

Er ist zu beteiligen. Nach § 90 Abs. 1 Nr. 3 BetrVG muss der Arbeitgeber den Betriebsrat über den Einsatz von Künstlicher Intelligenz rechtzeitig unterrichten. Zusätzlich greift die Mitbestimmung nach § 87 Abs. 1 Nr. 6 BetrVG, wenn die Technik Verhalten oder Leistung der Beschäftigten überwachen kann, etwa durch Protokolle der Fragen. Beziehen Sie den Betriebsrat vor dem Pilot ein und regeln Sie die Auswertung der Protokolle. Das ist keine Rechtsberatung.

Wie messe ich, ob die KI-Suche gut ist?

Mit einem festen Satz von 50 Fragen aus Ihrem Alltag: 30 Fragen mit bekannter Antwort, 10 Berechtigungsfallen und 10 Fragen ohne Antwort im Bestand. Bewerten Sie jede Antwort als richtig mit Quelle, richtig ohne Quelle, falsch oder keine Antwort. Lassen Sie die Fragen vor dem Pilot, danach und jedes Quartal laufen. Ein Rechteverstoß ist ein Abbruchkriterium. Die Schwellen im Pilotplan sind angenommene Vorschläge, passen Sie sie an Ihr Risiko an.