Generative KI für die aufgezeichneten Telefonate eines Brokers: auf eigenen Servern transkribieren und durchsuchen oder ein Compliance-Produkt kaufen

Nach MiFID II muss eine Wertpapierfirma in der EU Gespräche über Kundenaufträge und ihre eigenen Geschäfte aufzeichnen, die Aufzeichnungen fünf Jahre lang aufbewahren und sie regelmäßig überprüfen. Generative KI kann aus diesen Aufzeichnungen Text, Zusammenfassungen und einen Suchindex machen, sodass ein Prüfer direkt zur relevanten Stelle eines Gesprächs springen kann, ohne stundenlang Audio anzuhören. Sie können das als Teil eines Compliance-Produkts für Gesprächsaufzeichnung kaufen oder offene Modelle auf Ihren eigenen Servern betreiben, sodass die Aufzeichnungen Ihre Systeme nie verlassen. In beiden Fällen bleibt die Audioaufnahme der offizielle Nachweis, und ein Mensch sollte sie anhören, bevor auf Grundlage eines Transkripts gehandelt wird, denn Spracherkennungsmodelle schreiben manchmal Wörter, die niemand gesagt hat.

Was verlangen die EU-Regeln von einem Broker bei aufgezeichneten Gesprächen?

Nach Artikel 16 Absatz 7 MiFID II, der EU-Richtlinie über Wertpapierdienstleistungen, müssen die Aufzeichnungen einer Wertpapierfirma Telefongespräche und elektronische Kommunikation zu mindestens zwei Dingen umfassen: zu Geschäften, die die Firma für eigene Rechnung tätigt, und zur Annahme, Übermittlung und Ausführung von Kundenaufträgen. Dazu gehören auch Gespräche, die zu einem Geschäft führen sollen, selbst wenn kein Geschäft folgt. Firmen müssen Kunden vorab darüber informieren, dass solche Gespräche aufgezeichnet werden.

Die von der ESMA, der Wertpapiermarktaufsicht der EU, veröffentlichte Online-Fassung des Artikels sagt, dass diese Aufzeichnungen „für einen Zeitraum von fünf Jahren aufzubewahren sind“, auf Verlangen der für die Firma zuständigen Aufsicht bis zu sieben Jahre. Sie müssen dem betroffenen Kunden außerdem auf Anfrage zur Verfügung gestellt werden. Alle Quellen in diesem Artikel wurden am 2. November 2026 abgerufen.

Artikel 76 der Delegierten Verordnung (EU) 2017/565 der Kommission regelt die Einzelheiten. Für ein KI-Projekt sind diese Teile davon wichtig:

• Um zu prüfen, ob die Regeln zu Aufzeichnung und Aufbewahrung eingehalten werden, müssen Firmen „die Aufzeichnungen über Geschäfte und Aufträge, die diesen Anforderungen unterliegen, einschließlich der einschlägigen Gespräche, regelmäßig überwachen“, und diese Überwachung „muss risikobasiert und verhältnismäßig sein“
• Aufzeichnungen müssen in einem Format aufbewahrt werden, „das es nicht erlaubt, die ursprüngliche Aufzeichnung zu verändern oder zu löschen“, und sie müssen „leicht zugänglich“ sein
• Firmen „müssen die Qualität, Richtigkeit und Vollständigkeit der Aufzeichnungen aller Telefonaufzeichnungen sicherstellen“

Ein von einem Modell erstelltes Transkript ist deshalb ein Mittel, um Stellen in der Aufzeichnung zu finden, und es sollte die Audioaufnahme niemals ersetzen oder verändern.

Was kann generative KI mit den Aufzeichnungen anfangen?

Die Arbeit erledigen zwei Hauptarten von Modellen. Ein Spracherkennungsmodell wandelt das Audio in Text um, und ein Sprachmodell, wie es hinter Chat-Assistenten steckt, arbeitet mit diesem Text. Zusammen mit einigen kleineren Werkzeugen können sie:

• Ein Transkript mit einem Zeitstempel in jeder Zeile schreiben, damit ein Prüfer genau an diese Stelle im Audio springen kann
• Kennzeichnen, wer spricht. Das nennt man Sprecherdiarisierung, und dafür braucht es meist ein eigenes Modell
• Ein Gespräch in wenigen Zeilen zusammenfassen, die zum Beispiel das Instrument, den Betrag und das Anliegen des Kunden nennen
• Compliance-Mitarbeitern ermöglichen, alle Gespräche nach genauen Wörtern oder nach Bedeutung zu durchsuchen, etwa um jedes Gespräch zu finden, in dem einem Kunden eine Rendite auf eine Anlage versprochen wurde, egal mit welchen Worten
• Gespräche zur Prüfung durch einen Menschen auswählen, nach Regeln, die das Compliance-Team festlegt

Keines der beiden Modelle sollte entscheiden, ob in einem Gespräch gegen eine Regel verstoßen wurde. OpenAI veröffentlicht für Whisper, sein offenes Spracherkennungsmodell, eine Modellkarte: ein Dokument, das beschreibt, wofür das Modell gedacht ist und wo seine Schwächen liegen. Die Karte rät vom Einsatz ab „in Hochrisikobereichen wie Entscheidungskontexten, in denen Mängel bei der Genauigkeit zu ausgeprägten Mängeln bei den Ergebnissen führen können.“ Eine Feststellung über einen Kunden oder einen Mitarbeiter sollte von einer Person kommen, die sich das Gespräch angehört hat.

Dieselbe Modellkarte warnt davor, Aufnahmen von Personen zu transkribieren, die „ohne ihre Zustimmung gemacht wurden“. MiFID II verpflichtet Firmen, Kunden darüber zu informieren, dass Gespräche aufgezeichnet werden. Ob dieser Hinweis auch die Transkription durch ein Modell abdeckt, ist eine Frage für Ihren Datenschutzbeauftragten.

Wenn das System Gespräche von Mitarbeitern markiert, fragen Sie Ihren Anwalt, wie die KI-Verordnung der EU (EU AI Act) darauf anzuwenden ist. Ihr Anhang III führt KI-Systeme, die in Arbeitsverhältnissen verwendet werden, um „die Leistung und das Verhalten von Personen zu beobachten und zu bewerten“, als Hochrisiko-Systeme auf. Ihr Artikel 5 verbietet KI, die Emotionen von Menschen am Arbeitsplatz ableitet, außer aus medizinischen Gründen oder Sicherheitsgründen.

Wie genau sind die Transkripte?

Die Genauigkeit hängt von der Sprache, der Qualität der Telefonleitung und dem Vokabular ab, etwa von Instrumentennamen. Die Projektseite von Whisper sagt, seine Leistung „variiert je nach Sprache stark“. Die Modellkarte ergänzt, dass die Genauigkeit je nach Akzent und Dialekt ungleich ist und dass die Ausgabe „Texte enthalten kann, die in der Audioeingabe gar nicht gesprochen werden (d. h. Halluzination)“.

Erfundener Text dieser Art kommt nicht oft vor. Eine Studie von Allison Koenecke und Kollegen aus dem Jahr 2024 schickte 2023 kurze Clips von jeweils etwa einem Satz Länge an den Whisper-Dienst von OpenAI. Sie stellte fest, dass „etwa 1% der Audiotranskriptionen ganze halluzinierte Wortfolgen oder Sätze enthielten“. Diese erfundenen Wortfolgen traten häufiger bei Sprechern mit langen Pausen auf. Als die Forscher die problematischen Clips im Dezember 2023 erneut durchlaufen ließen, waren viele der Fehler verschwunden, einige blieben. Ein Gespräch enthält viele Sätze, daher ist die Wahrscheinlichkeit eines Fehlers irgendwo im Gespräch höher als bei einem einzelnen Clip.

In einem Gespräch über ein Geschäft liegen die teuren Fehler bei Zahlen, Instrumentennamen und der Frage, ob der Kunde kaufen oder verkaufen gesagt hat. Testen Sie jedes System an Ihren eigenen Gesprächen, bevor Sie sich darauf verlassen:

• Nehmen Sie eine Stichprobe aktueller Gespräche von verschiedenen Desks, in verschiedenen Sprachen und über verschiedene Telefonleitungen, und lassen Sie Menschen korrekte Transkripte davon schreiben
• Vergleichen Sie den Text des Modells mit diesen Transkripten und zählen Sie Fehler bei Beträgen, Preisen, Instrumentennamen und Kauf- oder Verkaufsanweisungen getrennt von allen anderen Fehlern
• Wo ein Gespräch zu einem Auftrag geführt hat, gleichen Sie den Betrag im Transkript mit dem Auftrag in Ihrem Handelssystem ab
• Wiederholen Sie den Test, wann immer sich das Modell oder seine Einstellungen ändern

Sollten wir ein Produkt kaufen oder die Modelle auf eigenen Servern betreiben?

Compliance-Produkte für Aufzeichnung und Archivierung bieten bereits Transkription und Suche an. Eines davon ist Smarsh: Seine Seite zu Sprachaufzeichnungen sagt, das Produkt könne „Anrufe automatisch in durchsuchbaren Text umwandeln“, und nennt „KI-generierte Zusammenfassungen, Sentiment-Analyse, Schwärzung und Anreicherung mit Metadaten“. Smarsh beschreibt seine Technologie als „cloud-nativ“, also dafür gebaut, in der Cloud zu laufen.

Das ist die schnellere Option, wenn Sie Gespräche bereits bei einem solchen Anbieter archivieren und das Audio in seiner Cloud verarbeiten lassen dürfen. Fragen Sie vor der Unterschrift, in welchen Ländern das Audio und die Transkripte verarbeitet und gespeichert werden, ob sie zum Training der Modelle des Anbieters genutzt werden und wie Sie alles davon exportieren können, wenn Sie zu einem anderen Anbieter wechseln.

Die Modelle selbst zu betreiben heißt, offene Modelle auf Servern zu nutzen, die Sie kontrollieren. Ein offenes Modell ist eines, dessen Hersteller die Modelldateien veröffentlicht, damit jeder sie herunterladen und betreiben kann. Laut der Projektseite von Whisper sind sein Code und seine Modellgewichte, also die Dateien, die enthalten, was das Modell gelernt hat, unter der MIT-Lizenz veröffentlicht. Das große Modell von Whisper braucht etwa 10 GB GPU-Speicher, sein schnelleres Turbo-Modell etwa 6 GB. Das passt auf eine einzige Rechenzentrums-GPU, einen Prozessor, der für die Art von Rechenarbeit gebaut ist, die Modelle leisten.

Für die Diarisierung veröffentlicht das Open-Source-Toolkit pyannote ein Modell namens community-1 unter der Lizenz CC-BY-4.0. Sie laden seine Dateien von Hugging Face herunter, einer Website, die Modelldateien hostet, nachdem Sie die Nutzungsbedingungen des Modells akzeptiert haben, und danach läuft es auf Ihren eigenen Servern. In den Standardeinstellungen sendet das Toolkit außerdem anonyme Nutzungsdaten an pyannote, etwa die Länge jeder verarbeiteten Datei, und seine Projektseite erklärt, wie man das abschaltet.

Dasselbe Toolkit kann ein kostenpflichtiges Modell aufrufen, precision-2. Im Beispiel auf der Projektseite „läuft es auf Servern von pyannoteAI“, und die Preisseite von pyannoteAI bietet im Enterprise-Tarif auch einen On-Premise-Betrieb an. Wer Ihr System baut, sollte Ihnen zeigen, welches Modell es nutzt und wo dieses Modell läuft, denn der Name allein verrät nicht, wohin das Audio geht.

Zusammenfassungen und die Suche nach Bedeutung brauchen eigene Modelle auf denselben Servern. Wie viel GPU-Speicher ein Sprachmodell belegt, behandelt der Artikel über generative KI auf eigenen Servern.

Eigene Server sind in diesen Fällen sinnvoll:

• Aufzeichnungen dürfen Ihre Systeme nicht verlassen, wegen Ihrer eigenen Richtlinien oder der Verträge mit Ihren Kunden
• Sie wollen Transkripte und Zusammenfassungen mit dem Kundendatensatz und dem Auftrag in Ihren eigenen Systemen verknüpfen
• Ihre Gespräche werden in Sprachen oder mit Akzenten geführt, mit denen die von Ihnen getesteten Produkte schlecht zurechtkommen
• Bei Ihrem Gesprächsvolumen sind die Gebühren eines Produkts höher als die Kosten für Server und die Leute, die sie betreiben

Egal welche Option Sie wählen, behandeln Sie Transkripte und Zusammenfassungen wie die Aufzeichnungen selbst. Geben Sie ihnen die Zugriffsrechte, die Aufbewahrungsfrist und die Löschregeln der Aufzeichnungen, und stimmen Sie diese mit Ihrem Compliance-Team und Ihrem Datenschutzbeauftragten ab. Legen Sie vorab fest, ob ein Kunde, der eine Kopie einer Aufzeichnung verlangt, auch das Transkript erhält.

Was sollten wir eine Firma fragen, die das System bauen würde?

• Welches Spracherkennungsmodell und welches Sprachmodell werden laufen, unter welchen Lizenzen und auf wessen Servern?
• Sendet irgendein Teil des Systems, einschließlich Diarisierung und Suche, Audio, Text oder Nutzungsdaten an einen externen Dienst?
• Wie werden Sie die Genauigkeit an unseren Gesprächen testen, und wie werden Beträge, Preise und Instrumentennamen geprüft?
• Wie kommt ein Prüfer von einer Zeile des Transkripts zur selben Stelle in der Originalaufnahme?
• Wie werden die Originalaufzeichnungen davor geschützt, verändert oder gelöscht zu werden?
• Wer kann welche Gespräche sehen, und wird jede Suche und jede Wiedergabe protokolliert?
• Wenn wir ein Modell wechseln, wird der Test dann wiederholt, und werden alte Transkripte unverändert aufbewahrt oder mit dem neuen Modell neu erstellt?

Wo passt amBrain ins Bild?

Das einzige Kundenprojekt mit einem Sprachmodell, das amBrain öffentlich beschreibt, ist dieses: „Wir haben eine LLM-Integration innerhalb des FinTech-Perimeters eines Kunden in Produktion gebracht: die Extraktion und Normalisierung unstrukturierter Mitteilungen von Brokern und Handelsplätzen – Kapitalmaßnahmen, Instrumenten- und Margin-Änderungen – zu strukturierten Datensätzen, die das Handelssystem verarbeitet.“

Dieser Artikel ist keine Case Study und beschreibt keine Arbeit für Kunden. Er sagt nicht, dass amBrain für irgendeinen Kunden Gesprächstranskription, Sprachsuche oder Compliance-Überwachung gebaut hat, und das oben zitierte Projekt arbeitet nur mit schriftlichen Mitteilungen. Die hier genannten Unternehmen und Produkte werden anhand ihrer veröffentlichten Seiten zitiert, und der Artikel behauptet keine Beziehung zwischen amBrain und einem von ihnen. Er nennt weder Preise noch Zeitpläne von amBrain.

Er ist auch keine Rechtsberatung. Der Artikel behandelt nur EU-Regeln. Andere Länder haben eigene, prüfen Sie die Regeln für Ihre Firma also mit einem Anwalt.

amBrain entwickelt seit 2019 Software. Es arbeitet in drei Formaten: vollständige Umsetzung, ein dediziertes Team oder in Ihr Team eingebettete Entwickler. Zum Eigentum lautet sein Satz: „Der Kunde behält das volle Eigentum an Produkt und Code, ausgenommen unsere wiederverwendbaren Komponenten.“ Wenn amBrain auf Ihrer Shortlist steht, stellen Sie ihm dieselben Fragen wie jeder anderen Firma.