解析

• 2024.03.05

収束半径の境界上での冪級数の振る舞いについて

        以下の記事で、冪級数の収束半径や、収束半径の内側での四則演算、微積分について述べました。 「収束冪級数に許される演算」 しかし、収束半径のちょうど境界の上での振る舞いについては全く触れませんでした。そこでこ...

続きを読む

• 2024.02.08

収束冪級数に許される演算

        $I \subset \mathbb{R}$ を開区間とし、$f: I \to \mathbb{R}$ を無限回微分可能な関数とします。$a \in I$ に対し、 $$\sum_{n = 0}^{\infty}...

続きを読む

• 2024.02.05

冪級数の収束半径は幾何級数との比較で求められる

        冪級数 $\sum_{n=0}^{\infty} a_n x^n$ $(a_n \in \mathbb{R})$ には、収束半径と呼ばれる $R \in [0, \infty]$ が定まります。そして $\sum_{n...

続きを読む

• 2023.06.29

KL ダイバージェンス最小化の意味を理解するための記事まとめ

        KL ダイバージェンス最小化の意味を説明することをテーマに、幾つか記事を書いてきました。これらの記事を書いた動機は、KL ダイバージェンスの最小化 (最尤推定) は統計的推論の最も基本的な手法であるにもかかわらず、手に...

続きを読む

• 2023.06.28

KL ダイバージェンス最小化（最尤推定）の確率論的な意味

        統計的推論では多くの場合、最尤推定という方法が用いられます。それにもかかわらず、最尤推定の確率的な意味について書かれた教科書は多くありません。実は最尤推定を考案したフィッシャー自身、尤度について「"合理的な信念の尺度"...

続きを読む

• 2023.06.27

ネイマン・ピアソンの補題と仮説検定の漸近挙動

        $S$ を集合とし、$S$ 上の $n$ 個のデータ $\{x_1, \dots, x_n\}$ が与えられたとします。このデータを生成した分布の候補が $2$ つあるとし、それぞれ $P$, $Q$ とおくこととしま...

続きを読む

• 2023.06.21

1次元のクラメールの定理の証明

        クラメールの定理は以下の記事 「統計的仮説検定とクラメールの定理」 で証明していますが、この記事ではキュムラント母関数が任意の点で有限であることを仮定していました。本記事では、キュムラント母関数の値が $\...

続きを読む

• 2023.06.21

KL ダイバージェンスは τ-位相に関して good rate function である

        可分完備距離空間 (ポーランド空間) $S$ 上の確率測度全体 $\mathcal{P}(S)$ の、弱位相に関する sanov の定理を以下の記事で示しました。 「sanov の定理の証明」 しかし弱位相...

続きを読む

• 2023.06.21

sanov の定理の拡張とクラメールの定理

        以下の記事で sanov の定理を示しました。 「sanov の定理の証明」 しかし、sanov の定理が弱位相における開集合、閉集合にしか適用できないと、応用が制限されて不便です。本記事では、もっと一般の...

続きを読む

• 2023.06.01

開区間上の凸関数は連続である

        開区間 $U \subset \mathbb{R}$ 上の凸関数 $f: U \to \mathbb{R}$ が連続であることを示します。ここで、凸関数であるとは、任意の $x, y \in U$ と任意の $0 \l...

続きを読む