A Unified Framework for Debiased Machine Learning: Riesz Representer Fitting under Bregman Divergence

Masahiro Kato。2026年。プレプリント（arXiv:2601.07752）。 English

デバイアス機械学習で因果効果や構造パラメータを推定するには、バイアスを打ち消す補正項である Riesz representer の推定が中心的な役割を果たします。この論文は、Riesz representer にモデルを当てはめ、Bregman ダイバージェンスの最小化で推定する Generalized Riesz Regression を提案し、これまで別々に発展してきた推定手法を一つの枠組みに統一しました。

研究が扱う問題

Riesz representer の推定には、二乗距離を最小化する Riesz regression や KL ダイバージェンスに基づく tailored loss に加え、共変量のモーメントを直接そろえるバランシング法や密度比推定の流用まで、系譜の異なる方法が並立してきました。それぞれの関係が整理されないままでは、どの方法をいつ使うべきか、性質の違いが何に由来するのかが分かりません。

提案した方法

representer のモデルとリンク関数を決め、経験 Bregman ダイバージェンスの最小化として推定を定式化します。ダイバージェンスに二乗距離を選ぶと Riesz regression が、KL ダイバージェンスを選ぶと tailored loss が、そのまま特別な場合として現れます。さらに、ダイバージェンスとリンク関数の組を適切に選ぶと、推定問題の双対が共変量バランシングに一致します（automatic covariate balancing）。

主な結果と成立条件

同じ組の選び方のもとで、推定した representer で結果変数を重み付けた標本平均が、回帰関数を推定しなくても Neyman 直交性を満たすことを示しました（automatic Neyman orthogonalization）。この性質は直交スコアの推定誤差を減らすだけでなく、デバイアス機械学習と標的最尤推定（TMLE）の違いがどこにあるかを明確にします。これらの性質は、ダイバージェンスとモデルの指定（リンク関数）が適合しているという条件の下で成り立ちます。

先行研究との関係

機械学習と直交スコアによる因果推論の枠組みは Chernozhukov らのデバイアス機械学習（2018年、Double/debiased machine learning for treatment and structural parameters）が確立し、補正項を回帰として直接推定する Riesz regression も同じグループが提案しました（2024年、Automatic Debiased Machine Learning via Riesz Regression）。共変量のバランスを直接取る方法は Imai と Ratkovic の共変量バランシング傾向スコア（2014年、Covariate Balancing Propensity Score）が代表的で、補正を推定に織り込む別の道筋として van der Laan と Rubin の標的最尤推定（2006年、Targeted Maximum Likelihood Learning）があります。この論文の貢献は、これらを Bregman ダイバージェンスの選択という一つの軸で説明し、バランシングと直交化が自動的に成り立つ条件を明らかにした点にあります。Riesz regression を密度比の直接推定として捉え直した同じ系列の研究もあります（Finance Research Letters 採択済み、Riesz Regression As Direct Density Ratio Estimation）。

利用できる状況

平均処置効果をはじめとする因果効果や構造パラメータを、機械学習を使って推定する場面全般で利用できます。枠組みは Python パッケージ genriesz として実装されており、関連する研究の系列は Generalized Riesz Regression のページにまとめています。

論文と資料

BibTeX

@misc{unified-framework-debiased-ml-bregman,
  author       = {Masahiro Kato},
  title        = {A Unified Framework for Debiased Machine Learning: Riesz Representer Fitting under Bregman Divergence},
  year         = {2026},
  eprint       = {2601.07752},
  archivePrefix = {arXiv},
  url          = {https://arxiv.org/abs/2601.07752},
}