分布の収束と特性関数

この章の目標

• 概収束・確率収束・$L^p$ 収束・分布収束の関係を証明し、反例を挙げられる
• ポルトマントー定理、ヘリーの選出定理とプロホロフの定理（$\mathbb{R}$ 上）を証明できる
• 特性関数を計算し、反転公式・一意性定理・レヴィの連続性定理を証明して使える
• 特性関数の滑らかさとモーメントの関係を説明できる

前提：第1章、第2章、06-measure-integration 第4章

3.1 収束の 4 つの型

大数の法則は「$S_n/n$ が定数に近づく」ことを述べた。次章の中心極限定理は「$(S_n - nm)/\sqrt{n}$ の分布が正規分布に近づく」ことを述べる。これは確率変数そのものではなく分布の収束であり、確率変数が同じ確率空間上にある必要すらない。この章ではまず収束概念を整理し、分布の収束を調べる強力な道具である特性関数を導入する。

定義 3.1 確率変数 $X_n, X$ について（概収束・確率収束は定義 2.1）

1. $p > 0$ とする。$E[\lvert X_n - X \rvert^p] \to 0$ のとき $X_n$ は $X$ に $L^p$ 収束するといい、$X_n \xrightarrow{L^p} X$ と書く。
2. $X$ の分布関数 $F$ のすべての連続点 $x$ で $F_{X_n}(x) \to F(x)$ となるとき、$X_n$ は $X$ に分布収束 (convergence in distribution) するといい、$X_n \xrightarrow{d} X$ と書く。

分布収束は分布だけで決まる概念で、$X_n$ と $X$ は別々の確率空間上にあってよい。連続点に限るのは、$X_n = 1/n$ が $X = 0$ に「近づく」ことを含めたいからである（$F_{X_n}(0) = 0 \not\to 1 = F_X(0)$）。

定理 3.2（収束の関係）

1. $X_n \to X$ a.s. ならば $X_n \xrightarrow{P} X$。
2. $X_n \xrightarrow{L^p} X$ ならば $X_n \xrightarrow{P} X$。また $0 < p < q$ のとき $L^q$ 収束すれば $L^p$ 収束する。
3. $X_n \xrightarrow{P} X$ ならば、部分列 $X_{n_k}$ で $X_{n_k} \to X$ a.s. となるものがある。
4. $X_n \xrightarrow{P} X$ ならば $X_n \xrightarrow{d} X$。
5. 定数 $c$ について $X_n \xrightarrow{d} c$ ならば $X_n \xrightarrow{P} c$。

証明. 1. $A_n = \lbrace \lvert X_n - X \rvert > \varepsilon \rbrace$ とおくと $\limsup_n A_n \subset \lbrace X_n \not\to X \rbrace$ は零集合なので、$P(A_n) \leq P\left(\bigcup_{k \geq n} A_k\right) \to P(\limsup_k A_k) = 0$。

2. マルコフの不等式 $P(\lvert X_n - X \rvert > \varepsilon) \leq E[\lvert X_n - X \rvert^p]/\varepsilon^p$。後半はリャプノフの不等式（例 1.20）。

3. $P(\lvert X_{n_k} - X \rvert > 2^{-k}) < 2^{-k}$ となる増加列 $n_k$ をとると、ボレル–カンテリの第 1 補題より a.s. で有限個の $k$ を除き $\lvert X_{n_k} - X \rvert \leq 2^{-k}$。

4. $x$ を $F = F_X$ の連続点、$\varepsilon > 0$ とすると

（たとえば $X_n \leq x$ かつ $\lvert X_n - X \rvert \leq \varepsilon$ なら $X \leq x + \varepsilon$）。$n \to \infty$ として $F(x - \varepsilon) \leq \liminf_n F_{X_n}(x) \leq \limsup_n F_{X_n}(x) \leq F(x + \varepsilon)$ を得て、$\varepsilon \to 0$ とすればよい。

5. $X = c$ の分布関数は $\mathbf{1}_{[c, \infty)}$ で、$c \pm \varepsilon$ は連続点だから、$P(\lvert X_n - c \rvert > \varepsilon) \leq F_{X_n}(c - \varepsilon) + 1 - F_{X_n}(c + \varepsilon) \to 0 + 1 - 1 = 0$。$\square$

例 3.3（逆が成り立たない例）

1. 確率収束・$L^p$ 収束するが概収束しない：$X_n$ を独立で $P(X_n = 1) = 1/n$、$P(X_n = 0) = 1 - 1/n$ とする。$E[\lvert X_n \rvert^p] = 1/n \to 0$ だが、$\sum_n 1/n = \infty$ かつ $\sum_n (1 - 1/n) = \infty$ なので、第 2 補題より $X_n = 1$ も $X_n = 0$ も a.s. で無限回起こり、$X_n$ は確率 1 で収束しない。
2. 概収束するが $L^1$ 収束しない：$([0,1], \lambda)$ 上で $X_n = n\mathbf{1}_{(0, 1/n)}$。$X_n \to 0$ a.s. だが $E[X_n] = 1$。
3. 分布収束するが確率収束しない：$X \sim N(0,1)$、$X_n = -X$ とすると $X_n \overset{d}{=} X$ なので $X_n \xrightarrow{d} X$ だが、$P(\lvert X_n - X \rvert > \varepsilon) = P(\lvert X \rvert > \varepsilon/2)$ は 0 に近づかない。

注意 3.4（$L^1$ 収束の特徴づけ）$X_n \xrightarrow{P} X$ かつ $\lbrace X_n \rbrace$ が一様可積分（06-measure-integration 第4章 定義 4.20）ならば $X_n \xrightarrow{L^1} X$ である。実際、任意の部分列はさらに a.s. 収束する部分列をもち（定理 3.2 の 3）、ヴィタリの収束定理（同 定理 4.23）よりそれは $L^1$ で $X$ に収束する。「任意の部分列が $X$ に収束する部分列をもつ」ことから列全体が収束する。この原理は以下でも繰り返し使う。

3.2 分布の弱収束とポルトマントー定理

分布関数の収束を、確率測度の言葉で言い換える。

定義 3.5（弱収束, weak convergence）$\mathbb{R}^d$ 上の確率測度 $\mu_n, \mu$ について、すべての有界連続関数 $f \in C_b(\mathbb{R}^d)$ で $\int f\ d\mu_n \to \int f\ d\mu$ となるとき、$\mu_n$ は $\mu$ に弱収束するといい、$\mu_n \Rightarrow \mu$ と書く。

これは 06-measure-integration 第8章 定義 8.11 の弱収束と同じものである。定理 1.12 により $\int f\ d\mu_{X} = E[f(X)]$ なので、確率変数の言葉では「すべての $f \in C_b$ で $E[f(X_n)] \to E[f(X)]$」となる。

定理 3.6（ポルトマントー定理, portmanteau theorem）$\mathbb{R}$ 上の確率測度 $\mu_n, \mu$ と、それらの分布関数 $F_n, F$ について、次は同値である。

1. $F$ のすべての連続点 $x$ で $F_n(x) \to F(x)$。
2. $\mu_n \Rightarrow \mu$。
3. すべての閉集合 $C$ について $\limsup_n \mu_n(C) \leq \mu(C)$。
4. すべての開集合 $G$ について $\liminf_n \mu_n(G) \geq \mu(G)$。
5. $\mu(\partial A) = 0$ を満たすすべてのボレル集合 $A$ について $\mu_n(A) \to \mu(A)$。

証明. 2 ⇒ 3：閉集合 $C$ に対し $f_k(x) = \max\lbrace 0, 1 - k\ d(x, C) \rbrace$ とおくと、$f_k \in C_b$、$\mathbf{1}_C \leq f_k$ で、$C$ が閉なので $f_k \downarrow \mathbf{1}_C$。よって $\limsup_n \mu_n(C) \leq \lim_n \int f_k\ d\mu_n = \int f_k\ d\mu$ で、$k \to \infty$ とすれば優収束定理より右辺は $\mu(C)$ に収束する。

3 ⇔ 4：補集合をとればよい。

3, 4 ⇒ 5：$A^\circ \subset A \subset \overline{A}$ より

$\mu(\partial A) = 0$ なら両端は $\mu(A)$ に等しい。

5 ⇒ 1：$x$ が $F$ の連続点なら $\mu(\partial(-\infty, x]) = \mu(\lbrace x \rbrace) = 0$。

1 ⇒ 2：$f \in C_b$、$M = \sup \lvert f \rvert$、$\varepsilon > 0$ とする。$F$ の不連続点は高々可算（問題 1.1）なので連続点は稠密であり、$F$ の連続点 $a < b$ で $F(a) < \varepsilon$、$1 - F(b) < \varepsilon$ となるものがとれる。$f$ は $[a, b]$ 上一様連続なので、連続点 $a = t_0 < t_1 < \cdots < t_r = b$ を細かくとって、$x \in (t_{j-1}, t_j]$ のとき $\lvert f(x) - f(t_j) \rvert < \varepsilon$ とできる。$g = \sum_j f(t_j)\mathbf{1}_{(t_{j-1}, t_j]}$ とおくと、1 より $\int g\ d\mu_n = \sum_j f(t_j)(F_n(t_j) - F_n(t_{j-1})) \to \int g\ d\mu$。また

であり、$\mu$ についても同じ評価が成り立つ。よって $\limsup_n \lvert \int f\ d\mu_n - \int f\ d\mu \rvert \leq 2\varepsilon(1 + 2M)$。$\square$

したがって $X_n \xrightarrow{d} X$ と $\mu_{X_n} \Rightarrow \mu_X$ は同値である。2〜5 の同値性は一般の距離空間上の確率測度についても成り立ち、$\mathbb{R}^d$ 値の確率ベクトルの分布収束は 2 で定義する。

系 3.7（連続写像定理）$X_n \xrightarrow{d} X$ で $g\colon \mathbb{R} \to \mathbb{R}$ が連続ならば、$g(X_n) \xrightarrow{d} g(X)$。

証明. $f \in C_b$ なら $f \circ g \in C_b$ なので $E[f(g(X_n))] \to E[f(g(X))]$。$\square$

分布収束は分布についての主張だが、次の定理により概収束の問題に帰着できることが多い。

定理 3.8（スコロホッドの表現定理, Skorokhod representation theorem）$\mathbb{R}$ 上の確率測度について $\mu_n \Rightarrow \mu$ ならば、ある確率空間上の確率変数 $Y_n \sim \mu_n$、$Y \sim \mu$ で $Y_n \to Y$ a.s. となるものが存在する。

ここでは主張のみ述べる。$\mathbb{R}$ 上では、$((0,1), \lambda)$ 上で分位点関数 $Y_n = F_n^{-1}$、$Y = F^{-1}$（定理 1.7 の証明）をとればよく、$F^{-1}$ の連続点（可算個を除くすべての $u$）で $F_n^{-1}(u) \to F^{-1}(u)$ となることを示せばよい（Durrett の教科書を参照）。一般の可分完備距離空間でも成り立つ。

3.3 タイトネスとヘリーの選出定理

コンパクト性の議論（有界列は収束部分列をもつ）を確率測度の列に対して行いたい。しかし $\mu_n = \delta_n$（点 $n$ の単位質量）は、どの部分列も確率測度に弱収束しない。分布関数は各点で $F_n(x) \to 0$ に収束するが、極限は分布関数ではない。質量が無限遠に逃げるのである。

定理 3.9（ヘリーの選出定理, Helly's selection theorem）分布関数の列 $F_n$ に対し、部分列 $F_{n_k}$ と、単調非減少・右連続で $0 \leq G \leq 1$ を満たす関数 $G$ が存在して、$G$ のすべての連続点 $x$ で $F_{n_k}(x) \to G(x)$ となる。

証明. 有理数を $q_1, q_2, \dots$ と並べる。$(F_n(q_1))_n$ は $[0,1]$ の有界列なので収束部分列をもつ。そのさらに部分列で $q_2$ での値が収束するものをとり、以下これを繰り返して対角線論法を用いれば、部分列 $n_k$ ですべての $q \in \mathbb{Q}$ について $F_{n_k}(q) \to H(q)$ となるものが得られる。$H$ は $\mathbb{Q}$ 上単調非減少である。

とおくと $G$ は単調非減少で $0 \leq G \leq 1$。右連続性：$x$ と $\varepsilon > 0$ に対し $H(q) < G(x) + \varepsilon$ となる有理数 $q > x$ があり、$x < y < q$ なら $G(y) \leq H(q) < G(x) + \varepsilon$。

$x$ を $G$ の連続点とし、$\varepsilon > 0$ とする。有理数 $r_1 < r_2 < x < s$ を $G(x) - \varepsilon < G(r_1)$、$G(s) < G(x) + \varepsilon$ となるようにとる。$G$ の定義と $H$ の単調性から $H(r_2) \geq G(r_1)$ かつ $H(s) \leq G(s)$ である。$F_{n_k}(r_2) \leq F_{n_k}(x) \leq F_{n_k}(s)$ で $k \to \infty$ とすると

極限 $G$ が分布関数になる（$G(-\infty) = 0$、$G(\infty) = 1$）ためには、質量が逃げないことが必要である。

定義 3.10（タイト, tight）$\mathbb{R}$ 上の確率測度の族 $\lbrace \mu_\lambda \rbrace$ がタイトであるとは、任意の $\varepsilon > 0$ に対し $M > 0$ があって $\sup_\lambda \mu_\lambda(\mathbb{R} \setminus [-M, M]) < \varepsilon$ となることをいう。

定理 3.11（プロホロフの定理, Prokhorov's theorem, $\mathbb{R}$ の場合）$\mathbb{R}$ 上の確率測度の列 $\lbrace \mu_n \rbrace$ について、次は同値である。

1. $\lbrace \mu_n \rbrace$ はタイトである。
2. 任意の部分列が、ある確率測度に弱収束する部分列をもつ。

証明. 1 ⇒ 2：部分列にヘリーの選出定理を適用して $F_{n_k} \to G$（$G$ の連続点で）とする。$\varepsilon > 0$ に対しタイト性の $M$ をとり、$M' > M$ を $\pm M'$ がともに $G$ の連続点となるようにとる。$G(M') = \lim_k F_{n_k}(M') \geq 1 - \varepsilon$、$G(-M') \leq \varepsilon$ なので、$G(\infty) = 1$、$G(-\infty) = 0$ であり、$G$ は分布関数である（定理 1.7）。ポルトマントー定理より $\mu_{n_k}$ は $G$ の定める確率測度に弱収束する。

2 ⇒ 1：タイトでないとすると、$\varepsilon > 0$ と部分列 $n_k$ で $\mu_{n_k}(\mathbb{R} \setminus [-k, k]) \geq \varepsilon$ となるものがある。仮定よりさらに部分列が確率測度 $\mu$ に弱収束する。閉集合 $\mathbb{R} \setminus (-M, M)$ にポルトマントー定理を適用すると、$k \geq M$ なら $\mu_{n_k}(\mathbb{R} \setminus (-M, M)) \geq \varepsilon$ だから $\mu(\mathbb{R} \setminus (-M, M)) \geq \varepsilon$。これがすべての $M$ で成り立つことは $\mu(\mathbb{R}) = 1$ に矛盾する。$\square$

特に、弱収束する列はタイトである（2 が自明に成り立つ）。

系 3.12 $\lbrace \mu_n \rbrace$ がタイトで、弱収束する部分列の極限がすべて同じ確率測度 $\mu$ ならば、$\mu_n \Rightarrow \mu$。

証明. そうでなければ、$f \in C_b$、$\varepsilon > 0$、部分列 $n_k$ で $\lvert \int f\ d\mu_{n_k} - \int f\ d\mu \rvert \geq \varepsilon$ となるものがある。定理 3.11 よりさらに部分列が弱収束し、仮定よりその極限は $\mu$ なので矛盾する。$\square$

3.4 特性関数

独立な確率変数の和の分布は畳み込みで与えられ（例 1.27）、$n$ 回の畳み込みを直接扱うのは難しい。フーリエ変換は畳み込みを積に変える。これが特性関数を使う理由である。

定義 3.13（特性関数, characteristic function）確率変数 $X$（分布 $\mu$）の特性関数を

$$\varphi_X(t) = E[e^{itX}] = \int_{\mathbb{R}} e^{itx}\ \mu(dx) \qquad (t \in \mathbb{R})$$

で定める。$\mathbb{R}^d$ 値の確率ベクトルについては $\varphi_X(t) = E[e^{i\langle t, X \rangle}]$（$t \in \mathbb{R}^d$）とする。

$\lvert e^{itX} \rvert = 1$ なので、特性関数はどんな分布に対しても定義される（モーメント母関数 $E[e^{tX}]$ は存在しないことがある）。$\varphi_X$ は分布 $\mu$ のフーリエ変換である（18-pde 第2章 の $\hat{f}(\xi) = \int e^{-ix\xi} f(x)\ dx$ とは指数の符号が逆で、$X$ が密度 $f$ をもてば $\varphi_X(t) = \hat{f}(-t)$ である）。

命題 3.14 特性関数 $\varphi = \varphi_X$ について次が成り立つ。

1. $\varphi(0) = 1$、$\lvert \varphi(t) \rvert \leq 1$、$\varphi(-t) = \overline{\varphi(t)}$。
2. $\varphi$ は $\mathbb{R}$ 上一様連続である。
3. $\varphi_{aX + b}(t) = e^{ibt}\varphi_X(at)$。
4. $X$ と $Y$ が独立ならば $\varphi_{X + Y} = \varphi_X \varphi_Y$。

証明. 1 と 3 は定義から明らか。2：$\lvert \varphi(t + h) - \varphi(t) \rvert \leq E[\lvert e^{ihX} - 1 \rvert]$ であり、右辺は $t$ によらず、優収束定理より $h \to 0$ で 0 に収束する。4：$e^{itX}$ と $e^{itY}$ は独立な有界複素確率変数なので、実部・虚部に分けて定理 1.25 を使えば $E[e^{itX}e^{itY}] = E[e^{itX}]E[e^{itY}]$。$\square$

例 3.15（特性関数の計算）

• $B(n, p)$：$(1 - p + pe^{it})^n$（$\operatorname{Be}(p)$ の特性関数 $1 - p + pe^{it}$ の $n$ 乗）。
• $\operatorname{Po}(\lambda)$：$\sum_k e^{-\lambda}\frac{\lambda^k}{k!}e^{itk} = \exp(\lambda(e^{it} - 1))$。
• $U(-a, a)$：$\frac{1}{2a}\int_{-a}^a e^{itx}\ dx = \frac{\sin at}{at}$（$t \neq 0$）。
• $\operatorname{Exp}(\lambda)$：$\int_0^\infty \lambda e^{-\lambda x}e^{itx}\ dx = \frac{\lambda}{\lambda - it}$。
• $N(0, 1)$：$e^{-t^2/2}$。実際 $\varphi(t) = \frac{1}{\sqrt{2\pi}}\int e^{itx}e^{-x^2/2}\ dx$ は積分記号下で微分でき（優関数 $\lvert x \rvert e^{-x^2/2}$、06-measure-integration 第3章 定理 3.25）、部分積分すると

$\varphi(0) = 1$ と合わせて $\varphi(t) = e^{-t^2/2}$。命題 3.14 の 3 より $N(m, \sigma^2)$ の特性関数は $e^{imt - \sigma^2 t^2/2}$ である。

特性関数から分布を復元する公式が次の反転公式である。以下 $S(u) = \int_0^u \frac{\sin v}{v}\ dv$ とおく。$S$ は奇関数で有界であり、ディリクレ積分により $u \to \infty$ で $S(u) \to \pi/2$ となる（05-complex-analysis 第5章）。

定理 3.16（反転公式, inversion formula）$\mu$ を $\mathbb{R}$ 上の確率測度、$\varphi$ をその特性関数とする。$a < b$ について

$$\lim_{T \to \infty} \frac{1}{2\pi}\int_{-T}^{T} \frac{e^{-ita} - e^{-itb}}{it}\varphi(t)\ dt = \mu((a, b)) + \frac{1}{2}\mu(\lbrace a \rbrace) + \frac{1}{2}\mu(\lbrace b \rbrace)$$

証明. $\left\lvert \frac{e^{-ita} - e^{-itb}}{it} \right\rvert = \left\lvert \int_a^b e^{-ity}\ dy \right\rvert \leq b - a$ なので、$[-T, T] \times \mathbb{R}$ 上でフビニの定理が使え、左辺の積分は

に等しい。内側の被積分関数の実部 $\frac{\sin t(x-a) - \sin t(x-b)}{t}$ は $t$ の偶関数、虚部 $-\frac{\cos t(x-a) - \cos t(x-b)}{t}$ は有界な奇関数なので、内側の積分は

となる。これは $T, x$ について有界で、$T \to \infty$ のとき $x < a$ または $x > b$ なら 0、$x = a$ または $x = b$ なら $1/2$、$a < x < b$ なら 1 に収束する。有界収束定理より結論を得る。$\square$

系 3.17（一意性定理）特性関数が等しい確率測度は等しい。

証明. 二つの確率測度 $\mu, \nu$ の原子（正の質量をもつ点）は高々可算個である。$a, b$ がどちらの原子でもなければ、反転公式より $\mu((a, b]) = \nu((a, b])$。そのような $a \to -\infty$ をとれば、原子でない $b$ で分布関数が一致し、右連続性からすべての $b$ で一致する。定理 1.7 より $\mu = \nu$。$\square$

定理 3.18（密度の反転公式）$\int_{\mathbb{R}} \lvert \varphi(t) \rvert\ dt < \infty$ ならば、$\mu$ は有界連続な密度

$$f(x) = \frac{1}{2\pi}\int_{\mathbb{R}} e^{-itx}\varphi(t)\ dt$$

をもつ。

証明. 反転公式の被積分関数は $(b - a)\lvert \varphi(t) \rvert$ で抑えられるので、左辺は $\mathbb{R}$ 上の積分になり、その絶対値は $\frac{b - a}{2\pi}\int \lvert \varphi \rvert$ 以下である。$b \downarrow a$ とすれば $\mu(\lbrace a \rbrace) = 0$、すなわち $\mu$ は原子をもたない。すると反転公式とフビニの定理から $\mu((a, b)) = \frac{1}{2\pi}\int \left(\int_a^b e^{-itx}\ dx\right)\varphi(t)\ dt = \int_a^b f(x)\ dx$。優収束定理より $f$ は連続で、$\lvert f \rvert \leq \frac{1}{2\pi}\int \lvert \varphi \rvert$。すべての区間上の積分が非負の実数なので $f$ は非負実数値であり、区間上で一致する二つの測度は等しいから $\mu(dx) = f(x)\ dx$。$\square$

例 3.19（コーシー分布の特性関数）密度 $\frac{1}{2}e^{-\lvert x \rvert}$ の分布（ラプラス分布）の特性関数は $\frac{1}{2}\left(\frac{1}{1 - it} + \frac{1}{1 + it}\right) = \frac{1}{1 + t^2}$ で、可積分である。定理 3.18 より $\frac{1}{2}e^{-\lvert x \rvert} = \frac{1}{2\pi}\int e^{-itx}\frac{1}{1 + t^2}\ dt$、すなわち

よってコーシー分布の特性関数は $e^{-\lvert t \rvert}$ である。これは $t = 0$ で微分できず、平均が存在しないことに対応する（定理 3.24 参照）。

3.5 レヴィの連続性定理

特性関数の各点収束が分布収束と同値であることを示す。これが中心極限定理の証明の骨格になる。

補題 3.20 確率測度 $\mu$ と特性関数 $\varphi$、$u > 0$ について

$$\mu\left(\left\lbrace x \mid \lvert x \rvert \geq 2/u \right\rbrace\right) \leq \frac{1}{u}\int_{-u}^{u} (1 - \varphi(t))\ dt$$

証明. $\frac{1}{u}\int_{-u}^u (1 - e^{itx})\ dt = 2 - \frac{2\sin ux}{ux}$（$x = 0$ では 0）である。フビニの定理より右辺は $\int 2\left(1 - \frac{\sin ux}{ux}\right)\mu(dx)$ に等しい。被積分関数は非負で、$\lvert ux \rvert \geq 2$ では $\left\lvert \frac{\sin ux}{ux} \right\rvert \leq \frac{1}{2}$ より $1$ 以上である。$\square$

定理 3.21（レヴィの連続性定理, Lévy's continuity theorem）$\mu_n$ を確率測度、$\varphi_n$ をその特性関数とする。

1. $\mu_n \Rightarrow \mu$ ならば、すべての $t$ で $\varphi_n(t) \to \varphi_\mu(t)$。
2. すべての $t$ で $\varphi_n(t)$ がある関数 $\varphi(t)$ に収束し、$\varphi$ が $t = 0$ で連続ならば、$\varphi$ はある確率測度 $\mu$ の特性関数で $\mu_n \Rightarrow \mu$。

証明. 1. $\cos tx$ と $\sin tx$ は $x$ の有界連続関数である。

2. まずタイト性を示す。$\varphi(0) = \lim \varphi_n(0) = 1$ で $\varphi$ は 0 で連続だから、$\varepsilon > 0$ に対し $u > 0$ を $\frac{1}{u}\int_{-u}^u \lvert 1 - \varphi(t) \rvert\ dt < \varepsilon$ となるようにとれる。$\lvert 1 - \varphi_n \rvert \leq 2$ なので有界収束定理より $\frac{1}{u}\int_{-u}^u (1 - \varphi_n) \to \frac{1}{u}\int_{-u}^u (1 - \varphi)$。補題 3.20 より、ある $N$ 以降のすべての $n$ で $\mu_n(\lbrace \lvert x \rvert \geq 2/u \rbrace) < 2\varepsilon$。有限個の $n < N$ についても $M$ を大きくとれば $\mu_n(\lbrace \lvert x \rvert > M \rbrace) < 2\varepsilon$ とできるので、$\lbrace \mu_n \rbrace$ はタイトである。定理 3.11 より任意の部分列はさらに部分列が確率測度 $\nu$ に弱収束し、1 より $\varphi_\nu = \lim \varphi_{n} = \varphi$。一意性定理より $\nu$ は部分列によらないので、系 3.12 より $\mu_n$ 全体がこの $\nu =: \mu$ に弱収束する。$\square$

例 3.22（連続性の仮定は外せない）$\mu_n = N(0, n)$ とすると $\varphi_n(t) = e^{-nt^2/2}$ は $t \neq 0$ で 0、$t = 0$ で 1 に収束する。極限は 0 で不連続で、実際 $\mu_n$ は弱収束しない（質量が $\pm\infty$ に逃げる）。

3.6 モーメントとの関係

特性関数の $t = 0$ の近くでの滑らかさは、分布の裾の軽さ（モーメントの存在）に対応する。次の補題は次章でも使う。

補題 3.23 $x \in \mathbb{R}$、$n \in \mathbb{Z}_{\geq 0}$ について

$$\left\lvert e^{ix} - \sum_{k=0}^{n}\frac{(ix)^k}{k!} \right\rvert \leq \min\left\lbrace \frac{\lvert x \rvert^{n+1}}{(n+1)!}, \frac{2\lvert x \rvert^n}{n!} \right\rbrace$$

証明. 左辺の絶対値の中を $R_n(x)$ とおく。$R_n(0) = 0$、$R_n' = iR_{n-1}$（$n \geq 1$）なので $R_n(x) = i\int_0^x R_{n-1}(s)\ ds$。$R_0(x) = e^{ix} - 1 = i\int_0^x e^{is}\ ds$ より $\lvert R_0(x) \rvert \leq \min\lbrace \lvert x \rvert, 2 \rbrace$。$n - 1$ で成り立つとすると

定理 3.24 $E[\lvert X \rvert^n] < \infty$ ならば $\varphi = \varphi_X$ は $C^n$ 級で、$k \leq n$ について $\varphi^{(k)}(t) = E[(iX)^k e^{itX}]$、特に $\varphi^{(k)}(0) = i^k E[X^k]$ である。さらに $t \to 0$ のとき

$$\varphi(t) = \sum_{k=0}^{n}\frac{(it)^k E[X^k]}{k!} + o(\lvert t \rvert^n)$$

証明. $\lvert \partial_t^k e^{itx} \rvert = \lvert x \rvert^k$ は $k \leq n$ で $\mu_X$-可積分なので、積分記号下の微分を繰り返してよく、導関数の連続性は優収束定理から従う。展開については補題 3.23 より

であり、右辺の期待値は $2\lvert X \rvert^n/n!$ を優関数とする優収束定理により $t \to 0$ で 0 に収束する。$\square$

特に $E[X] = 0$、$E[X^2] = \sigma^2$ なら $\varphi(t) = 1 - \frac{\sigma^2 t^2}{2} + o(t^2)$ であり、これが次章の中心極限定理の出発点である。

注意 3.25（モーメント問題）すべてのモーメントが一致しても分布が一致するとは限らない（対数正規分布とそのモーメントを保つ変形が古典的な反例）。ある $a > 0$ について $E[e^{a\lvert X \rvert}] < \infty$ ならば、モーメント列は分布を一意に定める（主張のみ。特性関数が $0$ の近くで解析的になることから従う）。

まとめ

• 概収束 ⇒ 確率収束 ⇒ 分布収束、$L^p$ 収束 ⇒ 確率収束。確率収束すれば概収束する部分列がある。逆はいずれも成り立たない。
• 分布収束は確率測度の弱収束（有界連続関数の積分の収束）と同値で、閉集合・開集合・境界が零集合の集合による特徴づけがある（ポルトマントー定理）。
• ヘリーの選出定理により分布関数の列は部分列が収束するが、極限が確率分布になるにはタイト性（質量が無限遠に逃げない）が必要十分である（プロホロフの定理）。
• 特性関数 $\varphi_X(t) = E[e^{itX}]$ は常に存在し、独立な和を積に変える。反転公式により分布を一意に定める。
• レヴィの連続性定理：特性関数が各点収束し極限が 0 で連続ならば分布収束する。
• $E[\lvert X \rvert^n] < \infty$ なら $\varphi$ は $C^n$ 級で、$t = 0$ での展開の係数がモーメントを与える。

演習問題