解析

• 2023.06.01

開区間上の凸関数は連続である

        開区間 $U \subset \mathbb{R}$ 上の凸関数 $f: U \to \mathbb{R}$ が連続であることを示します。ここで、凸関数であるとは、任意の $x, y \in U$ と任意の $0 \l...

続きを読む

• 2023.03.24

sanov の定理の証明

        sanov の定理は大偏差原理の一種であり、統計的推論におけるKLダイバージェンスの最小化 (= 尤度の最大化) の意味を理解するのに必須の定理です。本記事では sanov の定理を証明します。概ね [TC] に沿って...

続きを読む

• 2023.03.23

大偏差原理の基礎 (sanovの定理の証明の準備として)

        本記事では sanov の定理の証明を行う準備として、大偏差原理の基礎をまとめます。本記事は [TC] の内容を大いに参考にしており、概ね [TC] に沿って述べていますが、一部補完、省略、順番の変更等しています。 ...

続きを読む

• 2023.03.23

ポーランド空間上の有限 Borel 測度全体の位相的性質

        ポーランド空間 (可分完備距離空間) $S$ 上の符号付有限 Borel 測度全体 $\mathcal{M}_{\mathbb{R}}(S)$ には全変動ノルム $||\cdot||_{var}$ による位相と弱位相の...

続きを読む

• 2023.03.11

Prokhorov 距離と可分性、完備性、コンパクト性の遺伝

        距離空間 $(S, d)$ 上の Borel 確率測度全体の集合 $\mathcal{P}(S)$ には距離を定義することができ、元の距離空間のいくつかの特徴を引き継ぐことが知られています。例えば、可分性や完備性、コン...

続きを読む

• 2023.02.11

距離空間上の Borel 確率測度全体は距離空間になる

        距離空間 $(S, d)$ 上の Borel 確率測度全体の集合 $\mathcal{P}(S)$ には距離を定義することができ、元の距離空間のいくつかの特徴を引き継ぐことが知られています。例えば、可分性や完備性、コン...

続きを読む

• 2023.02.11

距離空間上の Borel 確率測度全体は距離空間になる (準備編)

        この記事は以下の記事を読むにあたっての予備知識をまとめたものです。同じ記事にすると長くなりすぎるので分けることにしました。 「距離空間上の Borel 確率測度全体は距離空間になる」 「Prokhorov...

続きを読む

• 2023.01.02

統計的仮説検定とクラメールの定理

        統計的仮説検定は、仮説を正しいとした場合の期待値と実際の期待値のずれ具合により、仮説が正しいかどうかを検証する手法です。大偏差原理は期待値から外れる確率の漸近的な挙動を記述するものであり、仮説検定に応用できるのではない...

続きを読む

• 2022.12.10

確率の合成と統計モデル【Giryモナド】

        統計モデル (=確率モデル) ではしばしば、( $p(x)$ を省いて) 条件付き確率 $p(y | x)$ のみを考える事があります。また、統計モデルはいくつかの統計モデルを組み合わせて構成される事があります。これら...

続きを読む

• 2022.09.05

【ルベーグ積分】測度論が難しいのは全体像を俯瞰しにくいからではないか？

        測度論に苦手意識を持つ人は多いようです。私もその一人で、学生の頃に結構勉強したつもりでしたが、この記事を書くときには全て忘れていました。振り返ってみると、測度論はルベーグの収束定理やフビニの定理のようなインパクトのある...

続きを読む