amBrain
FinTechOct 16, 202610 Min. Lesezeit

Lizenzen für ChatGPT Enterprise und Microsoft Copilot oder eine Pipeline zur Dokumentenverarbeitung: Was ein reguliertes Unternehmen braucht

DokumentenverarbeitungRegulierte BranchenBack-Office-AutomatisierungWer es baut
Bild konnte nicht geladen werden

Lizenzen für ChatGPT Enterprise und Copilot helfen, Dokumente einzeln zu lesen. Eine Pipeline prüft die Felder jedes Dokuments und schreibt sie in Ihre Systeme.

ChatGPT Enterprise, ChatGPT Business und Microsoft Copilot geben Mitarbeitern einen Assistenten, der einen Vertrag oder eine Schadenmeldung lesen und Fragen dazu beantworten kann. Diese Abonnements pro Person, oft Lizenzen oder Seats genannt, passen zu Dokumenten, die Menschen einzeln lesen und über die sie einzeln entscheiden. Wenn dieselben Arten von Dokumenten jeden Tag eingehen und ihre Felder in einem anderen System landen müssen, brauchen Sie eine Pipeline zur Dokumentenverarbeitung. Sie liest jedes Dokument mit einem großen Sprachmodell (LLM), der Art von KI hinter ChatGPT. Dann prüft sie jedes Feld anhand Ihrer Regeln, schickt zweifelhafte an eine Person und schreibt den Rest in Ihre Systeme. In einem regulierten Unternehmen entscheiden das Volumen und der Ort, an dem Ihre Dokumente verarbeitet werden dürfen, zwischen beidem.

Die kurze Antwort: Behalten Sie die Lizenzen für das Lesen, das Entwerfen und einzelne Fragen zu Dokumenten, die nach Ihren Regeln in die Cloud des Anbieters dürfen. Setzen Sie eine Pipeline ein, gekauft oder gebaut, wenn täglich Dokumente eingehen, die zu einer Handvoll bekannter Typen gehören, ihre Felder in ein anderes System fließen und Sie eine gemessene Genauigkeit je Feld und ein Protokoll je Dokument brauchen. Bewerten Sie vor der Entscheidung beides an derselben Stichprobe Ihrer eigenen Dokumente.

Was bringen Lizenzen für ChatGPT Enterprise und Copilot einem regulierten Unternehmen?

Lizenzen geben jedem Mitarbeiter einen Assistenten, bepreist pro Person und abgedeckt durch geschäftliche Bedingungen dazu, wie der Anbieter Unternehmensdaten nutzt. Die Preisseite von OpenAI, abgerufen am 16. Oktober 2026, sagt, dass die kostenpflichtigen ChatGPT-Tarife, Business und Enterprise eingeschlossen, „pro Nutzer und Monat abgerechnet werden“. Die Seite von Microsoft zu den Lizenzoptionen beschreibt Microsoft Copilot, das Produkt, das Microsoft früher Microsoft 365 Copilot nannte, als „Add-on-Plan“ zu einem Microsoft-365-Abonnement, mit einer Lizenz, die jedem Nutzer zugewiesen wird.

Die Enterprise-Datenschutzseite von OpenAI, aktualisiert am 8. Januar 2026, sagt: „Wir trainieren unsere Modelle standardmäßig nicht mit Ihren Daten.“ Diese Zusage gibt OpenAI unter anderem für ChatGPT Business, ChatGPT Enterprise und seine API. Die API ist die Schnittstelle, über die Ihre eigene Software die Modelle von OpenAI aufruft. Die Datenschutzseite von Microsoft zu Copilot, abgerufen am 16. Oktober 2026, sagt: „Prompts, Antworten und Daten, auf die über Microsoft Graph zugegriffen wird, werden nicht zum Training von Foundation-LLMs verwendet, einschließlich der von Microsoft Copilot genutzten.“ Microsoft Graph ist die Schicht, über die Copilot die E-Mails, Chats und Dateien Ihres Unternehmens liest.

Die Dokumente gehen trotzdem in die Cloud des Anbieters. Für EU-Kunden bezeichnet Microsoft Copilot als Dienst der EU-Datengrenze (EU Data Boundary), also als Dienst, dessen Kundendaten Microsoft nach eigener Zusage innerhalb der EU und der EFTA speichert und verarbeitet, und ergänzt: „Modelle, die von Anthropic als Unterauftragsverarbeiter bereitgestellt werden, sind derzeit von der EU-Datengrenze ausgenommen.“ Die Seite von Microsoft zu Anthropic-Modellen sagt, dass bei Kunden innerhalb der EU-Datengrenze und im Vereinigten Königreich „Anthropic-Modelle standardmäßig deaktiviert sind“. Wenn Ihre Regeln vorschreiben, dass bestimmte Dokumente auf Servern bleiben müssen, die Sie kontrollieren, scheiden Lizenzen für diese Dokumente aus. Für einen Assistenten, der auf Ihren eigenen Servern läuft, lesen Sie den oben verlinkten Artikel über ein privates ChatGPT.

Wo reichen Lizenzen für die Arbeit mit Dokumenten nicht mehr aus?

Bei hohem Volumen ist die erste Grenze die Zeit der Menschen: Für jedes Dokument muss jemand es hochladen, fragen, die Antwort lesen und das Ergebnis kopieren. OpenAI begrenzt außerdem das Tempo. Sein Hilfeartikel zu Datei-Uploads, am selben Tag abgerufen, sagt: „Sie können alle 3 Stunden bis zu 80 Dateien hochladen.“ Und weiter: „OpenAI kann diese Limits zu Spitzenzeiten senken.“

Zwei Kollegen, die dieselbe Frage unterschiedlich formulieren, können aus demselben Formular unterschiedliche Werte erhalten. Eine feste schriftliche Anweisung je Dokumenttyp hilft. Selbst dann muss jemand messen, wie oft jedes Feld richtig herauskommt, indem er die Antworten an einem Abnahmeset bewertet. Das ist eine Sammlung echter Dokumente, zu denen Ihre Mitarbeiter den richtigen Wert jedes Feldes aufgeschrieben haben.

In einem Chat bleibt das Ergebnis auf dem Bildschirm, und jemand tippt es in das Schaden-, Ticket- oder Onboarding-System ab, jedes Mal mit dem Risiko eines neuen Fehlers. Eine Pipeline prüft jeden Wert anhand Ihrer Regeln, etwa einen Betrag innerhalb eines Limits, ein Datum, das es gibt, oder eine Kundennummer, die zu Ihren Daten passt, und schreibt ihn selbst ein.

Zu den Lizenzen gehören Protokolle der Unterhaltungen. OpenAI schreibt, dass Workspace-Administratoren von ChatGPT Enterprise „über die Enterprise Compliance API auf ein Audit-Log der Unterhaltungen und GPTs zugreifen können“, und Microsoft speichert „den Prompt des Nutzers und die Antwort von Copilot“. Ein Dokumentenprozess braucht stattdessen womöglich ein Protokoll je Dokument, das die Anweisungen und die Modellversion hinter jedem Feld zeigt, die bestandenen Prüfungen und wer es freigegeben hat. Fragen Sie Ihr Compliance-Team, was davon Ihr Prozess braucht.

Können Copilot-Agenten oder Custom GPTs die Arbeit der Pipeline übernehmen?

Teilweise. Custom GPTs und Copilot-Agenten sind Assistenten, die für bestimmte Aufgaben eingerichtet sind. An Ihre Systeme angebunden, können sie einen Teil des manuellen Abtippens übernehmen, und für manche Dokumenttypen kann das reichen.

Die Datenschutzseite von OpenAI sagt, dass Mitglieder eines Workspace „GPTs intern erstellen und teilen können“. Dieselbe Seite sagt, dass Apps „ChatGPT ermöglichen, Informationen an verbundene interne Quellen und Anwendungen von Drittanbietern zu senden und von dort abzurufen“, und dass Administratoren auswählen, welche Apps eingeschaltet sind. Microsoft lässt Copilot Agenten und Konnektoren zu anderen Tools nutzen. Seine Datenschutzseite sagt: „Administratoren haben die volle Kontrolle darüber, welche Agenten in ihrer Organisation zugelassen sind.“ Außerdem rät sie Unternehmen, die einen Agenten nutzen, „die Datenschutzerklärung und die Nutzungsbedingungen des Agenten zu prüfen, um festzustellen, wie er mit den Daten Ihrer Organisation umgeht.“

Testen Sie einen Agenten so, wie Sie eine Pipeline testen würden. Lassen Sie ihn auf Ihrem Abnahmeset laufen, finden Sie heraus, wo jedes Dokument verarbeitet wird, auch beim Anbieter des Agenten selbst, und sehen Sie sich das Protokoll an, das er für jedes Dokument führt. Setzen Sie ihn nur für die Dokumenttypen ein, bei denen er besteht.

Was bringt eine Dokumenten-Pipeline zusätzlich?

Eine Pipeline durchläuft bei jedem Dokument dieselben Schritte, und eine Person sieht nur die Dokumente, die die Prüfungen nicht bestehen:

  • Der Eingang sammelt Dokumente aus E-Mails, einer Upload-Seite oder einem Scanner und sortiert sie nach Typ
  • Ein Sprachmodell liest jedes Dokument und liefert die abgefragten Felder, jeweils mit der Stelle im Dokument, aus der der Wert stammt
  • Ihre Regeln prüfen jeden Wert, und alles Zweifelhafte geht in eine Review-Queue, die Liste der Dokumente, die auf eine Person warten
  • Geprüfte Werte werden in das System geschrieben, das sie nutzt
  • Ein Protokoll je Dokument hält die Modellversion, die Anweisungen, die Prüfergebnisse und den Namen eines etwaigen Prüfers fest

Das Modell kann eines sein, das Ihre Mitarbeiter schon nutzen. Die Datenschutzseite von OpenAI trennt die beiden Nutzungen: „Der einfachste Einstieg in OpenAI ist, ChatGPT Business oder ChatGPT Enterprise für Ihre Mitarbeiter bereitzustellen“, und „Wenn Ihre Engineering-Teams mit unserer Technologie eigene Lösungen bauen möchten, probieren Sie unsere API Platform aus“. Eine Pipeline kann die API eines Anbieters unter dessen Geschäftsbedingungen aufrufen oder ein Open-Weight-Modell auf Servern betreiben, die Sie kontrollieren. Ein Open-Weight-Modell ist ein Modell, dessen Dateien Sie herunterladen und selbst betreiben können. Der oben verlinkte Artikel über API, selbst gehostete und hybride Setups vergleicht diese Optionen.

Die Bedingungen für die API unterscheiden sich von denen für die Lizenzen, lesen Sie sie also getrennt. Dieselbe Seite von OpenAI sagt: „Mit Ausnahme bestimmter Endpunkte und Funktionen, die in unserer Plattformdokumentation aufgeführt sind, kann OpenAI API-Eingaben und -Ausgaben bis zu 30 Tage lang sicher aufbewahren, um die Dienste bereitzustellen und Missbrauch zu erkennen.“ Außerdem können Sie laut der Seite Zero Data Retention (keine Datenaufbewahrung) beantragen, und zwar „für berechtigte Endpunkte, wenn Sie einen qualifizierenden Anwendungsfall haben“.

Wie entscheiden wir, welche Dokumente wohin gehen?

Listen Sie Ihre Dokumenttypen auf und notieren Sie für jeden: wie viele pro Monat eingehen, wie viele Felder Sie aus jedem Dokument entnehmen, in welches System diese Felder gehen und ob die Dokumente Ihren Perimeter (die Server und Cloud-Konten, die Ihr Unternehmen kontrolliert) verlassen dürfen.

  • Lizenzen passen zu unterschiedlichen Dokumenten, die eine Person ohnehin liest, um etwas zu entscheiden, etwa zu einem Vertrag, den man vor einem Meeting liest, wenn nichts daraus in ein anderes System geht
  • Eine Pipeline passt zu Typen, die sich wiederholen, etwa Schadenmeldungen, Rechnungen oder Kontoeröffnungsunterlagen, wenn ihre Felder in ein anderes System fließen und ein Fehler konkrete Kosten hat, etwa eine falsche Zahlung
  • Dokumente, die Ihren Perimeter nicht verlassen dürfen, brauchen unabhängig vom Volumen ein System auf Servern, die Sie kontrollieren, also eine Pipeline oder einen privaten Assistenten

Lizenzen und eine Pipeline können nebeneinander laufen. Die Mitarbeiter behalten ihre Lizenzen zum Lesen und Entwerfen, und der stetige Strom von Standarddokumenten wandert in die Pipeline.

Wie vergleichen wir beides an unseren eigenen Dokumenten?

Bewerten Sie beides auf einem gemeinsamen Abnahmeset aus aktuellen Dokumenten jedes Typs. Der oben verlinkte Artikel über den Kauf von KI-Software zur Dokumentenverarbeitung oder den Bau einer Pipeline erklärt, wie Sie das Set aufbauen und einen Teil davon für die finale Bewertung zurückhalten.

  • Geben Sie zwei oder drei Mitarbeitern die Lizenzen und eine schriftliche Anweisung je Dokumenttyp, und stoppen Sie die Zeit, während sie eine Stichprobe aus dem Set abarbeiten
  • Bewerten Sie ihre Antworten Feld für Feld anhand der richtigen Werte
  • Lassen Sie die Pipeline dieselbe Stichprobe dort verarbeiten, wo Ihre Regeln die Verarbeitung der Dokumente erlauben, und bewerten Sie sie auf dieselbe Weise
  • Vergleichen Sie die Genauigkeit für jedes Feld, die Arbeitsminuten pro Dokument und wie viele Ergebnisse ohne erneutes Abtippen im Zielsystem angekommen sind

Wenn die Lizenzen bei einem Dokumenttyp so gut abschneiden wie die Pipeline und der Zeitaufwand der Mitarbeiter vertretbar ist, bleiben Sie für diesen Typ bei den Lizenzen.

Was kostet jede Option, wenn das Volumen wächst?

Bei Preisen pro Person folgt die Rechnung für die Lizenzen der Zahl der Mitarbeiter, dazu kommen zusätzlich gekaufte Nutzungsguthaben. Verdoppelt sich das Volumen und stellen Sie Leute ein, um es zu bewältigen, kaufen Sie auch mehr Lizenzen. Die Rechnung einer Pipeline folgt den Dokumenten: Modellnutzung oder Server, dazu die Mitarbeiter, die die Review-Queue abarbeiten, und die Leute, die das System betreiben. Bitten Sie Ihren Lizenzanbieter und jede Firma, die eine Pipeline anbietet, dieselben schriftlich festgelegten Volumen für drei Jahre zu bepreisen, und rechnen Sie auf beiden Seiten die Zeit Ihrer eigenen Mitarbeiter mit ein.

Können wir mit Lizenzen anfangen und später eine Pipeline ergänzen?

Ja, und die Monate mit Lizenzen können die Pipeline vorbereiten. Während die Mitarbeiter damit arbeiten, sammeln Sie für jeden Dokumenttyp die Liste der Felder, die Sie daraus entnehmen, die schriftliche Anweisung, auf die sich Ihre Mitarbeiter geeinigt haben, und die Dokumente, bei denen die Mitarbeiter das Ergebnis korrigieren mussten. Feldliste und Anweisung werden zum Ausgangspunkt der Spezifikation der Pipeline. Die korrigierten Dokumente kommen mit ihren richtigen Werten in das Abnahmeset.

Bewahren Sie dieses Material in den eigenen Ablagen Ihres Unternehmens auf und nicht verstreut über Chatverläufe, damit Sie jeden Anbieter und jede Firma, mit denen Sie später sprechen, daran testen können.

Was sollten wir eine Firma fragen, die anbietet, die Pipeline zu bauen?

  • Welche Dokumenten-Pipeline haben Sie in Produktion gebracht, also in den täglichen Einsatz, und was ist mit den Dokumenten passiert, die sie nicht lesen konnte?
  • Sind Sie bereit, Ihren Prototyp auf unserem Abnahmeset bewerten zu lassen, soweit unsere Regeln das erlauben, bevor wir den vollständigen Bau beauftragen?
  • Welche unserer Dokumenttypen würden Sie bei den Mitarbeitern und ihren Lizenzen lassen, und warum?
  • Was enthält das Protokoll je Dokument, und kann unser Compliance-Team es ohne Ihre Hilfe lesen?
  • Wem gehören der Code, die Anweisungen an das Modell und das Abnahmeset, wenn die Arbeit endet?

Wo passt amBrain ins Bild?

Das einzige Sprachmodell-Projekt, das amBrain öffentlich beschreibt, ist dieses: „Wir haben eine LLM-Integration innerhalb des FinTech-Perimeters eines Kunden in Produktion gebracht: die Extraktion und Normalisierung unstrukturierter Mitteilungen von Brokern und Handelsplätzen – Kapitalmaßnahmen, Instrumenten- und Margin-Änderungen – zu strukturierten Datensätzen, die das Handelssystem verarbeitet.“

Dieser Artikel ist keine Case Study, und der Kunde wird nicht genannt. Die zitierte Zeile sagt nicht, wie dieses Projekt begann, welches Modell es nutzte, wo das Modell lief oder welche der oben beschriebenen Schritte es umfasste. Nichts hier sagt, dass amBrain Lizenzen durch eine Pipeline ersetzt, beides für einen Kunden verglichen, Systeme für Schadenmeldungen, Rechnungen oder Kontoeröffnungsunterlagen gebaut oder ChatGPT Enterprise, ChatGPT Business, Microsoft Copilot oder die OpenAI API für irgendjemanden eingeführt hat. OpenAI und Microsoft werden als Beispiele anhand ihrer eigenen veröffentlichten Seiten genannt, und der Artikel behauptet keine Beziehung zwischen ihnen und amBrain. Preise, Zeitpläne oder Bedingungen von amBrain für einen Prototyp oder einen Test vor der Unterschrift werden nicht genannt.

amBrain entwickelt seit 2019 Software. Es arbeitet in drei Formaten: vollständige Umsetzung, ein dediziertes Team oder in Ihr Team eingebettete Entwickler. Zum Eigentum lautet sein Satz: „Der Kunde behält das volle Eigentum an Produkt und Code, ausgenommen unsere wiederverwendbaren Komponenten.“ Wenn amBrain auf Ihrer Shortlist steht, geben Sie ihm dasselbe Abnahmeset und dieselben Fragen wie jeder anderen Firma.

Liegt ein solcher Entwurf bei Ihnen auf dem Tisch?

Bringen Sie Ihre aktuelle Architektur und den Fehlerfall mit, der Sie beunruhigt - wir gehen ihn in einer halben Stunde gemeinsam durch.