GenAI

ブローカーの通話録音に生成AIを:自社サーバーで文字起こしと検索を行うか、コンプライアンス製品を買うか

EU のルールが録音した通話についてブローカーに何を求めているか、音声認識モデルと言語モデルがそれを検索可能なテキストと要約にどう変えるか、それらのモデルがどこで誤るか、そしてコンプライアンス製品より自社サーバーのほうがよい選択になるのはどんなときかを解説する。

執筆:amBrain読了9分

この記事の内容

MiFID II のもとで、EU の投資サービス業者は、顧客の注文と自己の取引に関する通話を録音し、その録音を5年間保存し、定期的に確認しなければならない。生成AIはそうした録音をテキスト、要約、検索インデックスに変えることができ、レビュー担当者は何時間もの音声を聞かなくても、通話の中の該当する瞬間へ直接たどり着ける。これは、コンプライアンス向けの録音製品の一部として買うこともできるし、録音が自社のシステムの外に一切出ないよう、自社のサーバーでオープンモデルを動かすこともできる。どちらの場合も、正式な記録は音声の録音のままであり、文字起こしにもとづいて行動する前に、人がその録音を聞くべきである。音声モデルは、ときに誰も言っていない言葉を書き出すからだ。

短い答え:すでに文字起こしを提供するベンダーで通話をアーカイブしていて、自社に適用されるルールがそのベンダーのクラウドでの音声の処理を認めているなら、製品を買う。録音を社内にとどめなければならない場合や、自社の注文システムと顧客システムに結びついた文字起こしが必要な場合は、自社のサーバーでモデルを動かす。どちらの場合も、まず自社の通話のサンプルで文字起こしをテストし、顧客や従業員について誰かが判断を下す前に、人に音声を聞いてもらうこと。

EU のルールは、録音した通話についてブローカーに何を求めているのか

投資サービスに関する EU の指令である MiFID II の第16条(7) は、投資サービス業者の記録には、少なくとも次の二つの事柄についての電話での会話と電子通信が含まれなければならないとしている:業者が自己勘定で行う取引と、顧客の注文の受領、伝達、執行である。取引につながることを意図した通話は、結果として取引が行われなかった場合でも含まれる。業者は、そうした通話が録音されることを事前に顧客に伝えなければならない。

EU の証券市場当局である ESMA が公開しているこの条文のオンライン版によれば、これらの記録は「5年間保存されなければならない」。業者の監督当局が求めれば、最長7年間となる。また、記録は、求めに応じて関係する顧客に提供されなければならない。この記事の出典はすべて2026年11月2日に閲覧した。

詳細は、欧州委員会委任規則 (EU) 2017/565 の第76条が定めている。AI のプロジェクトにとって重要なのは、そのうち次の部分である:

  • 録音と記録保存のルールが守られていることを確かめるため、業者は「関連する会話を含め、これらの要件の対象となる取引と注文の記録を定期的に監視しなければならない」。そしてその監視は「リスクに基づき、比例的なものでなければならない」
  • 記録は「元の記録の変更や削除ができない」形式で保存しなければならず、「容易にアクセスできる」ものでなければならない
  • 業者は「すべての電話録音の記録の品質、正確性、完全性を確保しなければならない」

したがって、モデルが作った文字起こしは、録音の中から目当ての箇所を見つけるための手段であり、決して音声に取って代わったり、音声を変えたりしてはならない。

生成AIは録音で何ができるのか

仕事をするのは、主に二種類のモデルである。音声認識モデルが音声をテキストに変え、チャットアシスタントの裏で動いている種類のモデルである言語モデルが、そのテキストを扱う。いくつかの小さなツールと組み合わせると、これらのモデルは次のことができる:

  • 各行にタイムスタンプを付けた文字起こしを作り、レビュー担当者が音声のその瞬間へ飛べるようにする
  • 誰が話しているかを示す。これは話者分離(話者ダイアライゼーション)と呼ばれ、通常は別のモデルが必要になる
  • 通話を数行に要約し、たとえば銘柄、金額、顧客が何を求めたかを示す
  • コンプライアンス担当者が、すべての通話を正確な語句や意味で検索できるようにする。たとえば、どんな言葉が使われたかにかかわらず、顧客に投資のリターンが約束された通話をすべて探し出せる
  • コンプライアンスチームが書いたルールを使って、人がレビューすべき通話を選び出す

どちらのモデルにも、通話がルールに違反したかどうかを判断させるべきではない。OpenAI は、自社のオープンな音声認識モデルである Whisper のモデルカードを公開している。モデルが何のためのものか、どこに弱点があるかを説明する文書である。このカードは、「意思決定の場面のような、精度の欠陥が結果の顕著な欠陥につながりうる高リスクの領域での」使用を推奨していない。顧客や従業員についての判断は、その通話を聞いた人が下すべきである。

同じモデルカードは、「本人の同意なしに取得された」人の録音を文字起こしすることについて注意を促している。MiFID II は、通話が録音されることを顧客に伝えるよう業者に義務づけている。その通知がモデルによる文字起こしまで含むかどうかは、データ保護責任者が判断する問題である。

システムが従業員の通話にフラグを立てるなら、EU AI Act がどう適用されるかを弁護士に尋ねる。同法の附属書 III は、雇用関係において「人の業績と行動を監視し、評価する」ために使われる AI システムを、高リスクとして挙げている。同法の第5条は、医療上または安全上の理由による場合を除き、職場にいる人の感情を推測する AI を禁じている。

文字起こしはどれくらい正確か

精度は、言語、電話回線の品質、そして銘柄名のような語彙によって変わる。Whisper のプロジェクトページは、その性能は「言語によって大きく異なる」と述べている。モデルカードはさらに、精度はアクセントや方言によってばらつきがあり、出力には「音声入力の中で実際には話されていないテキストが含まれることがある(すなわちハルシネーション)」と付け加えている。

モデルが作り出すこの種のテキストは、よくあるものではない。Allison Koenecke らによる2024年の研究は、2023年に、それぞれ一文ほどの長さの短いクリップを OpenAI の Whisper のサービスに送った。その結果、「音声の文字起こしのおよそ1%に、丸ごとハルシネーションによるフレーズや文が含まれていた」ことがわかった。こうした作り出されたフレーズは、話の途中で長い間を置く話者でより多く現れた。研究者たちが2023年12月に問題のクリップをもう一度処理したところ、誤りの多くは消えていたが、一部は残っていた。通話には多くの文が含まれるので、通話のどこかに誤りがある確率は、一つのクリップの場合より高くなる。

取引についての通話で高くつく誤りは、数字、銘柄名、そして顧客が買いと言ったのか売りと言ったのかにある。どのシステムも、頼る前に自社の通話でテストすること:

  • さまざまなデスク、言語、電話回線から最近の通話のサンプルを取り、人に正確な文字起こしを書いてもらう
  • モデルのテキストをそれらの文字起こしと比べ、金額、価格、銘柄名、売買の指示の誤りを、それ以外のすべての誤りとは別に数える
  • 通話が注文につながった場合は、文字起こしの金額を取引システムの注文と照合する
  • モデルやその設定が変わるたびに、テストをやり直す

製品を買うべきか、自社サーバーでモデルを動かすべきか

コンプライアンス向けの録音・アーカイブ製品は、すでに文字起こしと検索を提供している。その一つが Smarsh だ:音声録音についての同社のページは、製品が「通話を自動的に検索可能なテキストに変換」できると述べ、「AI が生成する要約、センチメント分析、墨消し、メタデータの付加」を挙げている。同社は自らの技術を「クラウドネイティブ」、つまりクラウドで動くように作られたものだと説明している。

すでにそうしたベンダーで通話をアーカイブしていて、そのクラウドで音声を処理させることが認められているなら、こちらのほうが早い選択肢である。契約の前に、音声と文字起こしがどの国で処理・保存されるのか、それらがベンダーのモデルの学習に使われるのか、別のベンダーに移る場合にそれらをすべてどうエクスポートできるのかを尋ねる。

モデルを自分で動かすとは、自社が管理するサーバーでオープンモデルを使うことである。オープンモデルとは、開発元がモデルのファイルを公開し、誰でもダウンロードして動かせるようにしているモデルのことだ。Whisper のプロジェクトページによれば、そのコードとモデルの重み、つまりモデルが学習した内容を保持するファイルは、MIT ライセンスで公開されている。Whisper の large モデルには約10 GB の GPU メモリが必要で、より高速な turbo モデルでは約6 GB だ。これはデータセンター向けの GPU 1基に収まる。GPU とは、モデルが行う種類の計算のために作られたプロセッサーである。

話者分離については、オープンソースのツールキット pyannote が、community-1 というモデルを CC-BY-4.0 ライセンスで公開している。モデルの利用条件に同意したうえで、モデルファイルをホストするサイトである Hugging Face からそのファイルをダウンロードすれば、あとは自社のサーバーで動く。このツールキットは、既定の設定のままだと、処理した各ファイルの長さのような匿名の利用データを pyannote に送信もする。その止め方は、プロジェクトページに説明されている。

同じツールキットは、有料のモデル precision-2 を呼び出すこともできる。プロジェクトページの例では、このモデルは「pyannoteAI のサーバーで動く」。pyannoteAI の料金ページは、Enterprise プランでのオンプレミス導入も提供している。システムを構築する側が誰であれ、どのモデルを使い、そのモデルがどこで動くのかを示してもらうべきである。名前だけでは、音声がどこへ送られるのかはわからないからだ。

要約と意味による検索には、同じサーバー上にそれぞれ専用のモデルが必要になる。言語モデルがどれだけの GPU メモリを使うかは、生成AIを自社サーバーで動かすことについての記事で扱っている。

自社サーバーが理にかなうのは、次のような場合である:

  • 自社の方針や顧客との契約により、録音を自社のシステムの外に出してはならない
  • 文字起こしと要約を、自社のシステムにある顧客の記録と注文に結びつけたい
  • 自社の通話が、試した製品ではうまく扱えない言語やアクセントで行われている
  • 通話の量が多く、製品の料金が、サーバーとそれを運用する人員のコストを上回る

どちらの選択肢を選ぶにしても、文字起こしと要約は録音そのものと同じように扱う。録音と同じアクセス権、保持期間、削除ルールを適用し、それらをコンプライアンスチームとデータ保護責任者と取り決めておく。録音のコピーを求めた顧客に文字起こしも渡すかどうかは、事前に決めておく。

システムの構築を任せる会社に何を聞くべきか

  • どの音声認識モデルとどの言語モデルを、どのライセンスのもとで、誰のサーバーで動かすのか
  • 話者分離や検索を含め、システムのどこかの部分が、音声、テキスト、利用データを外部のサービスに送ることはあるのか
  • 自社の通話で精度をどうテストし、金額、価格、銘柄名をどう確認するのか
  • レビュー担当者は、文字起こしの一行から、元の音声の同じ瞬間へどうたどり着くのか
  • 元の録音は、変更や削除からどう守られるのか
  • 誰がどの通話を見られるのか。すべての検索とすべての再生はログに記録されるのか
  • モデルを変えるとき、テストはやり直されるのか。過去の文字起こしはそのまま保存されるのか、それとも新しいモデルで作り直されるのか

amBrain はどこに位置づけられるか

amBrain が公に説明している、言語モデルを使った顧客のプロジェクトは、次の一件だ:「私たちは、顧客の FinTech 環境の境界内で LLM の統合を本番稼働させた:ブローカーや取引施設から届く非構造化の通知 ― コーポレートアクション、銘柄や証拠金の変更 ― を抽出・正規化し、トレーディングシステムが取り込む構造化された記録にするものだ。」

この記事は事例紹介ではなく、顧客のための仕事についても述べていない。amBrain がいずれかの顧客のために通話の文字起こし、音声検索、コンプライアンスの監視を構築したとは述べておらず、上で引用したプロジェクトが扱うのは書面の通知だけである。ここで名前を挙げた企業と製品は、それぞれが公開しているページから引用したものであり、この記事は、amBrain とそれらのいずれかとのあいだに何らかの関係があるとは主張しない。amBrain の価格や期間も示さない。

この記事は法的助言でもない。扱っているのは EU のルールだけである。ほかの国にはそれぞれ独自のルールがあるので、自社に適用されるルールは弁護士に確認する。

amBrain は2019年からソフトウェアを作っている。働き方には三つの形態がある:フルデリバリー、専任チーム、あるいはあなたのチームに入るエンジニア。所有権についての一文はこうだ:「顧客は、プロダクトとコードの完全な所有権を保持する。ただし、私たちの再利用可能なコンポーネントは除く。」amBrain が候補リストに入っているなら、ほかのどの会社とも同じ質問をすること。

トピック

  • 通話録音
  • 音声認識
  • 自社サーバーで動くAI
  • コンプライアンス

言語モデルを本番稼働させますか?

設計案、または解決しようとしている問題と、すでにお持ちの数字をお送りください。

プロジェクトについてお聞かせください

24時間以内に、明確な進行計画をお返しします。

手元に似た設計はありますか?

24時間以内に、明確な進行計画をお返しします。

無料のプロジェクト初回相談 · 30分