本記事はGurobi.comに掲載されている下記の記事を日本語訳しています。
Explaining Explainability in Financial Services: What It Means and Why Optimization Delivers It
あるモデルがローン申請を却下するよう推奨します。ポートフォリオエンジンが夜間に顧客の退職資金口座をリバランスします。資本配分システムが事業部門間で準備金を移動させます。どの場合にも、いずれ誰かが同じ質問をするでしょう。「なぜシステムはそのように判断したのですか？」
金融サービスでは、その問いは必然のものです。その問いに答えられるかどうかが、規制当局、顧客、監査人に対して正当性を示せる意思決定と、そうでない意思決定を分けます。
説明可能性とは何を意味するのか
説明可能性とは、システムがその出力を生成した理由を、人が検証できる言葉で述べられる能力です。これは「解釈可能性」よりも高い基準です。解釈可能性は、多くの場合、モデルが抽象的にどのように機能するかを理解することにすぎません。
説明可能性が問うのは、モデルが一般にどのように振る舞うかではなく、このモデルが、この顧客について、この日に、なぜまさにこの判断を下したのかということです。意思決定が真に説明可能であるためには、考慮された要因、それぞれの相対的な重要性、そしてそれらの要因から最終的な結果に至る明確なつながりという三つが必要です。
このうち一つでも欠ければ、正しい可能性はあるものの、実際には誰も正当化できない意思決定を下すことになります。
金融サービスで説明可能性が重要である理由
規制はその理由の一つです。米連邦準備制度のモデルリスク管理に関するSR 11-7、Equal Credit Opportunity Act（信用機会均等法）の不利益措置に関する要件、バーゼルの自己資本規制などの枠組みは、いずれも金融機関に判断過程を示すことを求めています。そして、「モデルがそう言ったから」という説明で満足する規制当局はありません。
そこには資金と信頼が同時にかかっています。顧客口座のリバランスを調整するウェルスマネージャーは、取引をわかりやすい言葉で説明する必要があり(特に課税事象を引き起こす取引である場合)、また、信用供与を拒否する銀行にはそのための具体的で正当性を示せる理由が必要です。
説明を誤れば、コンプライアンス上のリスクにさらされるだけではなく、顧客との関係そのものも危険にさらされます。そして、これらの意思決定は重大で、多くの場合取り消すことができないため、リスクを誤って価格付けするモデルや説明できない取引は、誰かが異常に気付く前に積み重なって重大な財務上の損失となる可能性があります。「システムがなぜそうしたのかは分かりません」で済ませられる余地はほとんどありません。
まさにここで、ブラックボックス型の機械学習（ML）モデルが問題に直面します。ニューラルネットワークは、より単純なモデルよりも正確にデフォルトリスクを予測できるかもしれませんが、特定の申請を却下する判断をどの要因が左右したかを示せないのであれば、規制上の意思決定には利用できません。監査証跡を伴わない精度では、依然としてリスクにさらされたままです。
最適化が優位性を持つ領域
数理最適化は、まさにこの問題を解決するために構築されており、その説明可能性は構造に由来します。混合整数計画モデルや二次計画モデルは、目的と制約を明示します。すなわち、「リスク、エクスポージャー、トラッキングエラー、または規制要件に関するこれらの制約を満たしながら目的を最大化する」という形です。意思決定へのすべての入力は、モデル内で名前が付けられた監査可能な項目です。
ポートフォリオが変更された場合、その変更を特定の制約または係数までさかのぼって追跡できます。問題が実行不可能である場合、GurobiのIIS（Irreducible Inconsistent Subsystem）などのツールは、推測に頼るのではなく、問題の原因となっている互いに矛盾する制約の極小集合を特定します。
また、階層型の多目的最適化を使えば、どの意思決定が行われたかだけでなく、それを生み出した優先順位も示せます。例えば、最初にトラッキングエラーを最小化し、次に取引コストを、続いてポートフォリオの複雑さまたは投資家の選好を最小化するという順序です。
この最後の点は、MyGoalsのような組織にとって極めて重要です。MyGoalsはカナダの企業で、顧客ごとに非常に詳細な個人レベルの財務モデルを構築しています。同社のチームは、顧客固有の目標に基づき、時間の経過に沿った拠出と引き出しの最適な順序を決定するために、Gurobiを利用した数理最適化を使用しています。
MyGoalsの創業者であるRaphi Zaionz氏は、次のように述べています。「これは単に最良の答えを得ることではありません。アドバイザーと顧客に、理解し信頼できる計画を提供することなのです。」
これにより、「アルゴリズムが決定した」という表現は、「この取引を生み出した優先順位の正確な順序はこれです」という表現へと変わります。この説明は、顧客、コンプライアンス担当者、社内監査チームのすべてを同時に納得させます。
より大きな視点
これらはいずれも、最適化を機械学習と対立させるものではありません。実際、この二つは連携して機能し、さらに大規模言語モデル（LLM）が両方の上に重ねられるケースも増えています。MLモデルは多くの場合、予測を得意としています。最適化は、予測を、正当性を示せる意思決定へと変えるものです。あらゆる意思決定が、いずれ規制当局、顧客、または法廷によって審査される可能性がある業界では、これらの組合せによって初めて意思決定の正当性を示すことができます。
組織が意思決定システムを選択する場合、精度だけでは、より難しい問いへの回答にはなりません。「その答え、目の前にいる人に説明できますか？」
