Das Wissen Ihres Unternehmens mit KI durchsuchen: Copilot oder Gemini, ein Suchprodukt wie Glean oder Eigenbau

Jemand in Ihrem Unternehmen fragt, wo die aktuelle Erstattungsrichtlinie steht. Die Antwort liegt an drei Orten: auf einer Wiki-Seite, in einem Ticket-Verlauf und in einer Chat-Nachricht vom letzten Frühjahr. Wissenssuche mit KI liest all diese Quellen und antwortet mit einer einzigen Antwort und Links dorthin, woher sie stammt. Es gibt drei Wege. Sie können den Assistenten Ihrer Office-Suite nutzen, der womöglich eine eigene Lizenz braucht, ein Enterprise-Search-Produkt kaufen oder ein System auf Ihren eigenen Daten bauen. Welcher Weg richtig ist, hängt vor allem davon ab, in wie vielen Tools Ihr Wissen liegt und wie ordentlich Ihre Zugriffsrechte sind.

Wann genügt die einfache Suche, und wann nicht?

Einfache Suche genügt, wenn die Leute wissen, welches Tool sie öffnen müssen, und die Seite einen klaren Titel hat. Eine Wiki-Suchleiste oder die Suche in einem gemeinsamen Laufwerk leistet das gut und kostet nichts extra.

In drei Fällen genügt sie nicht mehr. Die Antwort verteilt sich auf mehrere Tools. Die Frage nutzt Wörter, die in keinem Dokument vorkommen. Oder die Person möchte eine einzige kurze Antwort. Bevor Sie etwas kaufen, fragen Sie zehn Kolleginnen und Kollegen nach ihrer letzten Frage, deren Beantwortung länger als zehn Minuten dauerte. Wenn die meisten auf ein Tool zeigen, verbessern Sie zuerst die Suche dieses Tools.

Wie funktioniert Retrieval, und wie kommt eine Antwort zu ihren Quellen?

Retrieval heißt, die Passagen zu finden, die am wahrscheinlichsten die Antwort enthalten, bevor irgendeine Antwort geschrieben wird. Eine Software liest Ihre Dokumente und zerlegt sie in Passagen. Sie legt diese in einem Index ab, einer vorab aufgebauten Nachschlagestruktur, damit eine Suche nicht jedes Mal jede Datei liest. Wenn jemand eine Frage stellt, holt das System die am besten passenden Passagen. Dann schreibt ein großes Sprachmodell, die Art Programm hinter ChatGPT, daraus eine Antwort.

RAG, kurz für Retrieval-Augmented Generation, ist die Bezeichnung für diese Schritte zusammen. AWS beginnt seine Erklärung mit „Retrieval-Augmented Generation (RAG) ist der Prozess, die Ausgabe eines großen Sprachmodells zu optimieren“ und ergänzt: „Die Ausgabe kann Zitate oder Verweise auf Quellen enthalten.“

Damit nicht nur exakte Wörter, sondern auch die Bedeutung passt, wandeln viele Systeme jede Passage in ein Embedding um. Ein Embedding ist eine Zahlenliste, die für die Bedeutung des Textes steht, sodass Passagen zu ähnlichen Themen nah beieinanderliegen. OpenAI beschreibt Embeddings als Möglichkeit, „die Verwandtschaft von Zeichenfolgen zu messen“.

Die Quellen neben einer Antwort stammen normalerweise aus den Passagen, die dem Modell übergeben wurden. Ein Link zeigt, woher das System sagt, dass der Text stammt. Er beweist nicht, dass das Modell ihn richtig gelesen hat, öffnen Sie daher die Links bei einer Stichprobe von Antworten.

Was deckt der Assistent in unserer Office-Suite ab, und wo hört er auf?

Ein Connector ist eine Software, die ein externes Tool wie Confluence oder ein CRM ausliest und dessen Inhalte an das Suchsystem weitergibt. Microsoft gibt an, „über 100 vorkonfigurierte Connectors für gängige Dienste“ anzubieten. Auf der Google-Seite übernimmt ein eigenes Produkt diese Aufgabe, getrennt vom Gemini-Assistenten in den Workspace-Apps. Google sagt: „Gemini Enterprise ist eine Intranet-Suche, ein KI-Assistent und eine agentische Plattform“ mit „vorkonfigurierten Connectors für gängige Drittanbieter-Anwendungen wie Confluence, Jira, Microsoft SharePoint und ServiceNow.“

Die Grenzen sind praktischer Natur. Ein Suite-Assistent liest am besten, was bereits in der Suite liegt. Ein Tool ohne fertigen Connector braucht einen eigenen. Auf der Seite von Microsoft steht: „Benutzerdefinierte Connectors bieten Flexibilität, erfordern aber Wartung.“ Ranking, Antwortstil und die Auswahl der Modelle bestimmt der Anbieter, daher können Sie sie weniger anpassen als in einem selbst gebauten System.

Was bringt ein spezielles Suchprodukt zusätzlich, und worauf verzichten wir?

Glean, Elastic, Coveo, Guru und Atlassian Rovo sind Beispiele für Produkte, mit denen man über viele Tools hinweg sucht. Atlassian sagt: „Mit Rovo Search können Sie mehrere Tools gleichzeitig durchsuchen, ohne den Kontext zu wechseln.“ Der Nutzen fällt unterschiedlich aus, prüfen Sie daher drei Dinge. Für wie viele Ihrer Tools gibt es einen fertigen Connector, den der Anbieter pflegt? Wie werden Ergebnisse gerankt, und nutzt das Produkt als Signal, wer woran arbeitet, etwa den Autor einer Seite? Können Sie nachvollziehen, warum ein Ergebnis auf Platz eins steht?

Sie verlieren Einfachheit. Ein Suchprodukt ist meist ein weiterer Vertrag und eine weitere Admin-Konsole. Wenn der Anbieter es hostet und Ihre Inhalte indexiert, hält dieser Anbieter auch eine durchsuchbare Kopie. Diese Kopie braucht eine eigene Prüfung von Region, Aufbewahrung und Anbieterzugriff.

Woraus besteht der Eigenbau, und wer betreibt ihn danach?

Es gibt fünf Teile. Connectors lesen jede Quelle samt ihren Berechtigungsdaten. Ein Ingestion-Job zerlegt Dokumente in Passagen und aktualisiert sie. Ein Index unterstützt Stichwort- und Embedding-Suche. Ein Antwortschritt gibt die besten Passagen an ein Modell weiter und weist es an, sie zu zitieren. Ein Chat-Bildschirm oder ein Add-in, mit Protokollen und einer Admin-Ansicht, vervollständigt das Ganze. In der Dokumentation von Elastic heißt es: „Sicherheit auf Dokumentebene schränkt die Dokumente ein, auf die Nutzer Lesezugriff haben“. Auf manchen Abonnementstufen synchronisieren die eigenen Connectors von Elastic diese Berechtigungen für Quellen wie Confluence und SharePoint Online. Bei anderen Quellen schreiben Sie die Zuordnung selbst.

Die Arbeit nach dem Start ist der größere Teil. Jemand muss Connectors reparieren, wenn sich eine Quelle ändert, die Einspeisung erneut ausführen, die Modellrechnung im Blick behalten, die Testfragen aktuell halten und erklären, warum der Assistent gesagt hat, was er gesagt hat. Benennen Sie diese Personen, bevor Sie beginnen.

Wie werden Zugriffsrechte übernommen, und was ist das Oversharing-Problem?

Die meisten Quellen führen einen Eintrag darüber, wer jedes Element öffnen darf, oft Zugriffskontrollliste oder ACL genannt. Ein Connector, der Inhalte in einen Index kopiert, sollte diesen Eintrag mitkopieren. Für solche Connectors sagt Microsoft: „Jedes Element umfasst Inhalt, Metadaten (wie Titel und URL) und eine Zugriffskontrollliste (ACL), die Berechtigungen durchsetzt.“ Glean sagt: „Wenn ein Nutzer ein Dokument im Quellsystem nicht öffnen kann, kann dieses Dokument nicht als Kontext verwendet, nicht als Suchergebnis zurückgegeben und nicht als Quellenangabe angezeigt werden.“

Die Kopie ist nur so gut wie jeder einzelne Connector. SharePoint und Google Drive haben Ordner, Gruppen und Freigabelinks. Confluence hat Einschränkungen für Bereiche und Seiten. Slack hat private Kanäle und Direktnachrichten. Ein CRM hat Rollen und Datensatzeigentümer. Fragen Sie für jede Quelle, wie der Anbieter diese Regeln liest, wie schnell eine Änderung ankommt und was passiert, wenn eine Regel nicht gelesen werden kann. Die sichere Antwort auf die letzte Frage lautet, das Element auszublenden.

Oversharing ist das ältere Problem, das ein Assistent sichtbar macht. Angenommen, ein Gehaltsordner wurde vor Jahren mit dem ganzen Unternehmen geteilt. Die Suche hat ihn nie angezeigt, weil niemand danach schaute, ein Assistent kann es. Microsoft stellt fest: „Übermäßig freigegebene oder schlecht verwaltete Inhalte können die Ergebnisse von Copilot beeinträchtigen und das Risiko erhöhen.“ Der Bericht zu den Berechtigungen von SharePoint-Websites, Teil von SharePoint Advanced Management, zeigt, welche Websites Zugriff für „alle außer externen Benutzern“ gewähren, eine Gruppe, die „automatisch alle internen Benutzer umfasst, aber externe Gäste ausschließt“. Gehen Sie die Websites mit dem weitesten Zugriff vor dem Start mit ihren Eigentümern durch und beginnen Sie die Pilotphase mit einer kleinen Auswahl an Quellen.

Was passiert mit veralteten, doppelten und widersprüchlichen Dokumenten?

Der Assistent kann womöglich nicht erkennen, welche von zwei Richtlinien aktuell ist. Er zitiert vielleicht beide oder zitiert selbstbewusst die alte. Benennen Sie für jede Quelle einen Verantwortlichen, mustern Sie Veraltetes aus und führen Sie pro Thema eine einzige maßgebliche Quelle. Bitten Sie den Assistenten, Datum und Autor jeder Quelle anzuzeigen und zu sagen, wenn Quellen sich widersprechen.

Die Aktualität hat eine zweite Seite: wie schnell eine Änderung im Index ankommt. Microsoft sagt: „Neue Dokumente, die zu SharePoint-Online-Websites hinzugefügt werden, auf die über die Websitevererbung mindestens zwei Nutzer zugreifen können, werden täglich indexiert.“ Für ein bereits indexiertes Dokument heißt es: „Die Änderungen werden sofort indexiert.“ Lassen Sie sich von jedem Anbieter beide Verzögerungen schriftlich nennen.

Wie testen wir die Antwortqualität vor dem Start mit unseren eigenen Fragen?

Erfassen Sie echte Fragen von Mitarbeitenden, jeweils mit der richtigen Antwort und dem Dokument, aus dem sie stammen sollte. Lassen Sie dasselbe Set bei jedem Kandidaten laufen. Bewerten Sie vier Dinge: das richtige Dokument unter den Quellen, eine korrekte Antwort, ein ehrliches Eingeständnis, wenn kein Dokument weiterhilft, und die Beachtung der Zugriffsrechte.

Der Zugriffstest braucht zwei Logins. Stellen Sie eine Frage, deren Antwort in einem Ordner liegt, den nur eine Person öffnen darf. Die andere Person darf keine Spur davon erhalten, nicht einmal einen Quellentitel. Wiederholen Sie das Set nach jeder Änderung. Unser oben verlinkter Artikel zu Bestehensgrenzen behandelt die Schwellenwerte.

Was protokolliert der KI-Assistent, und wer kann sehen, was Leute gefragt haben?

Fragen können heikel sein, etwa eine zum Disziplinarverfahren eines Kollegen. Microsoft sagt, seine Audit-Datensätze „enthalten Details dazu, welcher Benutzer mit Copilot interagiert hat, wann die Interaktion stattfand und wo sie stattfand“. Davon getrennt heißt es, die gespeicherten Daten „umfassen die Eingabe des Benutzers und die Antwort von Copilot“, und weiter: „Zum Anzeigen und Verwalten dieser gespeicherten Daten können Administratoren die Inhaltssuche oder Microsoft Purview verwenden.“ Fragen Sie für jeden Weg, wer den Text der Fragen lesen kann, aus welchem Grund und wie lange.

Was bedeuten DSGVO-Rollen, Region, Aufbewahrung und Löschung für den Index?

Die DSGVO ist das Datenschutzrecht der EU. Wenn ein Anbieter für Sie personenbezogene Daten verarbeitet, sind Sie in der Regel der Verantwortliche, der festlegt, warum und wie Daten verwendet werden. Der Anbieter ist der Auftragsverarbeiter, der in Ihrem Auftrag handelt. In den Leitlinien des Europäischen Datenschutzausschusses heißt es: „Der Auftragsverarbeiter darf nicht über die Weisungen des Verantwortlichen hinausgehen.“ Weiter: „Die Weisungen des Verantwortlichen müssen dokumentiert werden.“ Ein Auftragsverarbeiter darf einen weiteren nur dann hinzuziehen, wenn „der Verantwortliche zuvor spezifisch oder allgemein schriftlich zugestimmt hat“. Lassen Sie jeden Vertrag von Ihrer eigenen Rechtsberatung lesen.

Fragen Sie jeden Anbieter direkt nach der Region. Microsoft sagt: „EU-Datenverkehr bleibt innerhalb der EU Data Boundary, während weltweiter Datenverkehr für die LLM-Verarbeitung in die EU und in andere Länder oder Regionen gesendet werden kann.“ Ein Hinweis auf derselben Seite ergänzt: „Von Anthropic als Unterauftragsverarbeiter bereitgestellte Modelle sind derzeit von der EU Data Boundary ausgenommen.“ Microsoft erklärt, diese Modelle seien für Kunden innerhalb dieser Grenze standardmäßig deaktiviert, prüfen Sie also die Admin-Einstellung. Zum Index heißt es: „Für Kunden innerhalb der Europäischen Union Data Boundary (EUDB) wird der Index in einem Rechenzentrum in der EU/EFTA gespeichert.“ Microsoft sagt außerdem: „Prompts, Antworten und Daten, auf die über Microsoft Graph zugegriffen wird, werden nicht zum Training von Foundation-LLMs verwendet.“

Der Index ist eine Kopie Ihrer Dokumente, personenbezogene Daten in einem Dokument stehen also auch im Index und oft in den Protokollen. Im Leitfaden des Ausschusses für kleine Unternehmen heißt es: „Beantworten Sie eine Betroffenenanfrage immer innerhalb eines Monats.“ Für eine komplexe Anfrage erlaubt er „zwei weitere Monate“, wenn die Person innerhalb des ersten Monats informiert wird. Fragen Sie, wie lange ein gelöschtes Dokument braucht, um den Index zu verlassen, ob Backups und Protokolle seinen Text behalten und wie sich die Fragen einer einzelnen Person entfernen lassen.

Wie unterscheidet sich die Preisgestaltung pro Seat von nutzungsabhängigen Preisen?

Bei der Preisgestaltung pro Seat wird ein fester Betrag für jeden namentlich benannten Nutzer berechnet, ob diese Person sucht oder nicht. Bei nutzungsabhängigen Preisen zahlen Sie für das, was das System tut, etwa für den verarbeiteten Text. Anbieter nutzen das eine oder das andere oder eine Mischung. Fragen Sie schriftlich nach dem aktuellen Preis, mit Mindestzahlen an Seats, Zusatzmodulen und Connector-Gebühren, und fragen Sie, wer eine Lizenz braucht.

Als Beispiel für nutzungsabhängige Preise: Auf der Preisseite von OpenAI kostet das Modell text-embedding-3-small 0,02 US-Dollar pro Million Tokens und text-embedding-3-large 0,13 US-Dollar. Ein Token ist ein kleines Textstück, das Anbieter zählen und abrechnen. Dazu kommen die Kosten für die Speicherung des Index, den Betrieb des Modells und die beteiligten Personen. Nehmen wir ein erfundenes Archiv von 50.000 Dokumenten mit je etwa 2.000 Tokens, also 100 Millionen Tokens. Sie einmal in Embeddings umzuwandeln kostet mit dem kleinen Modell 2 US-Dollar und mit dem großen 13 US-Dollar. Die Archivgröße ist eine Annahme, und Listenpreise können sich ändern.

Wie sieht Lock-in aus, und was sollten wir behalten, um wechseln zu können?

Lock-in sitzt dort, wo Ihr Aufwand hingeflossen ist: in Connectors, die in der Konsole eines Anbieters eingerichtet wurden, in Ranking-Regeln in dessen Format, in Berechtigungszuordnungen, die nur er besitzt. Der Index lässt sich aus Ihren Quellen neu aufbauen und fällt daher am wenigsten ins Gewicht. Bewahren Sie Ihre Testfragen mit den erwarteten Antworten auf, dazu eine schriftliche Übersicht, wie Berechtigungen gelesen werden, die Anweisungen an das Modell und jeden eigenen Connector-Code. Fordern Sie einen Export der Protokolle an. Vereinbaren Sie Export und Löschung im Vertrag.

Wann ist eine eigene Wissenssuche gerechtfertigt?

Selbst zu bauen ist gerechtfertigt, wenn die Suche Teil des Produkts ist, das Sie verkaufen, denn dann sind Ihre Kunden die Nutzer und keine Mitarbeiterlizenz deckt sie ab. Es ist auch gerechtfertigt, wenn eine Datenvorgabe jedes Produkt ausschließt, auch solche, die in Ihrer eigenen Cloud laufen. Für die reine Mitarbeitersuche lässt es sich kaum rechtfertigen, weil Sie Connectors, Zugriffskontrolle, Protokolle und Bereitschaftsdienst übernehmen würden.

Was sollten wir einen Anbieter oder eine Firma fragen, die es bauen würde?

Für einen Anbieter oder Suite-Hersteller:

• Für welche unserer Quellen gibt es fertige Connectors, und wer pflegt sie?
• Wie lesen Sie die Berechtigungen aus jeder Quelle, und was passiert, wenn eine Regel nicht gelesen werden kann?
• Wie lange braucht es, bis eine Änderung oder eine Löschung im Index ankommt?
• Wo werden Index, Fragen und Protokolle verarbeitet, und wer kann die Fragen lesen?
• Was kostet ein Monat unserer realen Nutzung, und was können wir exportieren, wenn wir gehen?

Für eine Firma, die es bauen würde:

• Welche Teile schreiben Sie selbst, und welche übernehmen Sie aus bestehenden Produkten?
• Läuft es in unserem Cloud-Konto, und wer hält die Schlüssel?
• Wie werden Sie Antworten und Zugriffsrechte testen, und wer auf unserer Seite gibt sie frei?
• Wer betreibt es nach dem Start, und was kostet das pro Monat?

Wo passt amBrain ins Bild?

amBrain gibt diesen Blog heraus. Zu seinem eigenen Produkt sagt es: „Unser eigenes Produkt aigo läuft auf KI-Agenten, die aus einem gemeinsamen Speicher von Unternehmensfakten recherchieren, schreiben, prüfen und messen. Ein Mensch gibt alles frei, was rausgeht.“

Dieser Artikel ist keine Fallstudie und beschreibt keine Kundenarbeit. Er behauptet nicht, dass amBrain für irgendeinen Kunden ein Wissenssuchsystem gebaut hat. Die Zeile oben bezieht sich auf das eigene Produkt von amBrain, und die Beispiele sind allgemein gehalten.

Die hier genannten Unternehmen, Produkte und öffentlichen Stellen werden nach ihren veröffentlichten Seiten zitiert, gelesen am 11. November 2026. Der Artikel behauptet keine Beziehung zwischen amBrain und einem von ihnen und nennt keine Preise oder Zeitpläne von amBrain.

amBrain entwickelt seit 2019 Software. Dazu, wie es mit Kunden arbeitet, sagt es: „Drei Formate: vollständige Umsetzung, ein dediziertes Team oder in Ihr Team eingebettete Entwickler.“ Zum Eigentum lautet sein Satz: „Der Kunde behält das volle Eigentum an Produkt und Code, ausgenommen unsere wiederverwendbaren Komponenten.“ Verlangen Sie vor der Unterschrift die namentliche Liste dieser Komponenten.

Wenn amBrain auf Ihrer Auswahlliste steht, stellen Sie ihm dieselben Fragen wie jeder anderen Firma.