解析

• 2023.06.21

1次元のクラメールの定理の証明

        クラメールの定理は以下の記事 「統計的仮説検定とクラメールの定理」 で証明していますが、この記事ではキュムラント母関数が任意の点で有限であることを仮定していました。本記事では、キュムラント母関数の値が $\...

続きを読む

• 2023.06.01

開区間上の凸関数は連続である

        開区間 $U \subset \mathbb{R}$ 上の凸関数 $f: U \to \mathbb{R}$ が連続であることを示します。ここで、凸関数であるとは、任意の $x, y \in U$ と任意の $0 \l...

続きを読む

• 2023.03.24

sanov の定理の証明

        sanov の定理は大偏差原理の一種であり、統計的推論におけるKLダイバージェンスの最小化 (= 尤度の最大化) の意味を理解するのに必須の定理です。本記事では sanov の定理を証明します。概ね [TC] に沿って...

続きを読む

• 2023.03.23

大偏差原理の基礎 (sanovの定理の証明の準備として)

        本記事では sanov の定理の証明を行う準備として、大偏差原理の基礎をまとめます。本記事は [TC] の内容を大いに参考にしており、概ね [TC] に沿って述べていますが、一部補完、省略、順番の変更等しています。 ...

続きを読む

• 2023.03.23

ポーランド空間上の有限 Borel 測度全体の位相的性質

        ポーランド空間 (可分完備距離空間) $S$ 上の符号付有限 Borel 測度全体 $\mathcal{M}_{\mathbb{R}}(S)$ には全変動ノルム $||\cdot||_{var}$ による位相と弱位相の...

続きを読む

• 2023.03.11

Prokhorov 距離と可分性、完備性、コンパクト性の遺伝

        距離空間 $(S, d)$ 上の Borel 確率測度全体の集合 $\mathcal{P}(S)$ には距離を定義することができ、元の距離空間のいくつかの特徴を引き継ぐことが知られています。例えば、可分性や完備性、コン...

続きを読む

• 2023.02.11

距離空間上の Borel 確率測度全体は距離空間になる

        距離空間 $(S, d)$ 上の Borel 確率測度全体の集合 $\mathcal{P}(S)$ には距離を定義することができ、元の距離空間のいくつかの特徴を引き継ぐことが知られています。例えば、可分性や完備性、コン...

続きを読む

• 2023.02.11

距離空間上の Borel 確率測度全体は距離空間になる (準備編)

        この記事は以下の記事を読むにあたっての予備知識をまとめたものです。同じ記事にすると長くなりすぎるので分けることにしました。 「距離空間上の Borel 確率測度全体は距離空間になる」 「Prokhorov...

続きを読む

• 2023.01.02

統計的仮説検定とクラメールの定理

        統計的仮説検定は、仮説を正しいとした場合の期待値と実際の期待値のずれ具合により、仮説が正しいかどうかを検証する手法です。大偏差原理は期待値から外れる確率の漸近的な挙動を記述するものであり、仮説検定に応用できるのではない...

続きを読む

• 2022.12.10

確率の合成と統計モデル【Giryモナド】

        統計モデル (=確率モデル) ではしばしば、条件付き確率 $p(y | x)$ を考える事があります。また、統計モデルはいくつかの統計モデルを組み合わせて構成される事があります。これらは統計モデルを確率的写像 (sto...

続きを読む