解析

sanov の定理の証明

sanov の定理は大偏差原理の一種であり、統計的推論におけるKLダイバージェンスの最小化 (= 尤度の最大化) の意味を理解するのに必須の定理です。本記事では sanov の定理を証明します。概ね [TC] に沿って...

続きを読む

本記事では sanov の定理の証明を行う準備として、大偏差原理の基礎をまとめます。本記事は [TC] の内容を大いに参考にしており、概ね [TC] に沿って述べていますが、一部補完、省略、順番の変更等しています。 ...

続きを読む

ポーランド空間 (可分完備距離空間) $S$ 上の符号付有限 Borel 測度全体 $\mathcal{M}_{\mathbb{R}}(S)$ には全変動ノルム $||\cdot||_{var}$ による位相と弱位相の...

続きを読む

距離空間 $(S, d)$ 上の Borel 確率測度全体の集合 $\mathcal{P}(S)$ には距離を定義することができ、元の距離空間のいくつかの特徴を引き継ぐことが知られています。例えば、可分性や完備性、コン...

続きを読む

この記事は以下の記事を読むにあたっての予備知識をまとめたものです。同じ記事にすると長くなりすぎるので分けることにしました。「距離空間上の Borel 確率測度全体は距離空間になる」「Prokhorov...

続きを読む

統計的仮説検定は、仮説を正しいとした場合の期待値と実際の期待値のずれ具合により、仮説が正しいかどうかを検証する手法です。大偏差原理は期待値から外れる確率の漸近的な挙動を記述するものであり、仮説検定に応用できるのではない...

続きを読む

統計モデル (=確率モデル) ではしばしば、( $p(x)$ を省いて) 条件付き確率 $p(y | x)$ のみを考える事があります。また、統計モデルはいくつかの統計モデルを組み合わせて構成される事があります。これら...

続きを読む

測度論に苦手意識を持つ人は多いようです。私もその一人で、学生の頃に結構勉強したつもりでしたが、この記事を書くときには全て忘れていました。振り返ってみると、測度論はルベーグの収束定理やフビニの定理のようなインパクトのある...

続きを読む

多様体論で基礎となる3つの定理、逆関数定理、陰関数定理の証明を紹介します。これらは、写像の一点の情報からその点の局所的な性質を導くことのできる強力な定理です。逆関数定理と陰関数定理はどちらかを示せばもう一方が示されると...

続きを読む