金融サービスのAI：何に使われ、なぜガバナンスが必要なのか

何をAIと呼ぶのか

OECDの人工知能に関する理事会勧告は、2023年の改正後の定義で、AIシステムを「明示的または暗黙の目的のために、受け取った入力から、予測、コンテンツ、推奨、判断などの出力をどう生み出すかを推論し、物理的または仮想の環境に影響を与えうる、機械ベースのシステム」としています。この定義には、債務不履行を予測する与信のモデルも、回答を文章で作るチャットボットも含まれます。

誰もが使う唯一の定義はありません。国際決済銀行（BIS）の金融安定研究所が2024年に公表した論文は、世界的に受け入れられたAIの定義がないことが、AIの使われ方やリスクの理解を妨げていると指摘しています。会社がAIを管理するには、まず自社のどのシステムをAIとして扱うのかを決める必要があります。

金融機関は何に使っているのか

金融安定理事会（FSB）は2017年の報告書で、使い方を4つに分けました。

• 顧客に向けた使い方（フロントオフィス）。信用スコアリング、保険、顧客向けのチャットボットなど。
• 業務に向けた使い方（バックオフィス）。
• 金融市場でのトレーディングとポートフォリオの運用。
• 規制の遵守と監督。企業によるもの（レグテック）と、当局によるもの（サプテック）があります。

BISの論文は、特に3つの使い方を取り上げています。顧客対応のチャットボット、マネーロンダリング対策の確認を含む不正の検知、そして与信と保険の引受けです。FSBの2024年の報告書は、金融分野でのAIの現在の使い方の大半が、社内業務の改善と規制の遵守に向けられているとしています。生成AIは文書の要約、情報の検索、プログラムの作成といった新しい使い方をもたらしましたが、多くの金融機関は慎重に取り組んでいるようだとしています。

昔からあるリスクが大きくなる

BISの論文によれば、AIのリスクの多くは、金融当局がもともと注視しているものと同じです。信用リスク、オペレーショナル・リスク、評判のリスク、行為（コンダクト）のリスク、金融システムの安定に関わるリスクなどです。その一部はAIで大きくなります。一部のAIモデルは説明が難しく、適切かどうかを判断しにくいため、モデルリスクが大きくなりえます。プライバシー、セキュリティ、偏りといったデータに関わるリスクも大きくなりえます。

説明できることは、繰り返し出てくる論点です。FSBは2017年の時点で、AIや機械学習の手法を解釈したり監査したりできないことが、マクロのリスク、つまり金融システム全体のリスクになりうると警告していました。

金融システムにとってのリスク

FSBの2024年の報告書は、金融システム全体のリスクを高めうるAI関連の脆弱性として、4つを挙げています。

• 外部の提供者への依存。専用のハードウェア、クラウド、事前学習済みモデルの提供者に頼っており、その市場は少数に集中しています。
• 市場の相関。多くの会社が共通のAIモデルやデータを使うことで、相関が高まりうること。
• サイバーリスク。
• モデルリスク、データの質、ガバナンス。

報告書はさらに、生成AIが金融詐欺や金融市場での偽情報を増やしうるとしています。生成AIと外部の提供者については第4回で改めて扱います。

ガバナンスが加えるもの

BISの論文によれば、大半の金融当局はAIに特化した規制を出していません。AIに関する指針に共通するテーマ、つまり信頼性と健全性、説明責任、透明性、公平性、倫理は、ガバナンス、リスク管理、消費者保護に関する既存の金融の規制に概ね含まれています。実務では、AIを管理するとは、システムごとに次の4つの問いに答えることです。

• どの使い方を認めるか。顧客や会社への害が大きくなりうるため、より強い統制が必要な使い方はどれか。
• 設計から廃止まで、各システムについて誰が責任を負うのか。
• 使う前と、動いている間にどう確かめるのか。
• 顧客と監督当局に何を伝えるのか、判断をどう説明できるのか。

次回以降は、これらを順に扱います。国際的な原則、AIのモデルリスク管理、生成AIと外部の提供者、そしてこれらを貸し手としてどう組み立てるかです。