確率論

科目の概要

コインを投げる、サイコロを振る、株価が揺れる、花粉の微粒子が水中でふらつく。偶然に支配される現象にも、数多く集まると驚くほど精密な法則が現れる。表の出る割合は $1/2$ に近づき（大数の法則）、そのゆらぎは正規分布に従い（中心極限定理）、ランダムウォークは 2 次元までは必ず原点に戻るが 3 次元では戻らないことがある（ポリアの定理）。確率論はこのような法則を数学として厳密に述べ、証明する分野である。

20 世紀の初めまで、確率論は「同様に確からしい」場合の数え上げと、直観に頼った議論の寄せ集めであった。「無限回のコイン投げ」や「連続な時間のランダムな運動」を扱おうとすると、確率を与えるべき事象の範囲や極限の意味があいまいになる。コルモゴロフ（1933 年）は、確率空間とは全測度 1 の測度空間であると定めることでこの問題を解決した。事象は可測集合、確率変数は可測関数、期待値はルベーグ積分であり、測度論（06-measure-integration）の定理がそのまま確率論の道具になる。

一方で、確率論は単なる測度論の応用ではない。独立性、条件付き期待値、マルチンゲール、停止時刻、マルコフ性といった確率論固有の概念が理論を動かし、「賭けに必勝法はない」「公平な賭けの所持金は振動し続けられない」といった直観的な原理が厳密な定理になる。この科目では、コイン投げ・ランダムウォーク・ギャンブルの直観と測度論的な定理を往復しながら、次の内容を学ぶ。

確率空間・独立性・期待値と基本的な不等式、ボレル–カンテリの補題
大数の法則（弱法則・強法則）とコルモゴロフの 0-1 法則
分布の収束と特性関数、中心極限定理とその精密化（リンデベルグ、ベリー–エシーン、大偏差）
条件付き期待値とマルチンゲール（任意抽出定理、ドゥーブの不等式、収束定理）
マルコフ連鎖（再帰と過渡、定常分布、収束定理、エルゴード定理）
ブラウン運動と伊藤積分、確率微分方程式と熱方程式

確率論は統計学・統計力学・数理ファイナンス・情報理論・アルゴリズム（乱択アルゴリズム、マルコフ連鎖モンテカルロ法）の基礎であり、偏微分方程式論・調和解析・エルゴード理論・組合せ論とも深く結びついている。

前提知識

測度と積分：σ-加法族と測度、π-λ 定理（06-measure-integration 第1章）、単調収束定理・優収束定理（第3章）、 $L^p$ 空間と一様可積分性（第4章）、フビニの定理（第5章）、ラドン–ニコディムの定理（第6章）
微分積分：級数、スターリングの公式、広義積分（01-calculus）
線形代数：対称行列の対角化（02-linear-algebra 第7章）。第4章の多次元正規分布で使う。
ヒルベルト空間の射影定理と正規直交基底（10-functional-analysis 第2章）。第5章・第7章で使うが、結果を認めれば読み進められる。

この科目の記法

記号	意味
$(\Omega, \mathcal{F}, P)$	確率空間
$E[X]$ 、 $E[X; A]$	期待値、 $E[X\mathbf{1}_A]$
$\operatorname{Var}(X)$ 、 $\operatorname{Cov}(X, Y)$	分散、共分散
a.s.	ほとんど確実に（確率 1 で）
i.i.d.	独立同分布 (independent and identically distributed)
$S_n$	部分和 $X_1 + \cdots + X_n$
$X \sim \mu$	$X$ の分布が $\mu$
$X_n \xrightarrow{P} X$ 、 $X_n \xrightarrow{d} X$	確率収束、分布収束
$\mu_n \Rightarrow \mu$	確率測度の弱収束
$B(n,p)$ 、 $\operatorname{Po}(\lambda)$ 、 $\operatorname{Be}(p)$ 、 $\operatorname{Ge}(p)$	二項分布、ポアソン分布、ベルヌーイ分布、幾何分布
$N(m, \sigma^2)$ 、 $N(m, V)$ 、 $U(a, b)$ 、 $\operatorname{Exp}(\lambda)$	正規分布、多次元正規分布、一様分布、指数分布
$\Phi$	標準正規分布 $N(0,1)$ の分布関数
$\varphi_X(t) = E[e^{itX}]$	特性関数
$E[X \mid \mathcal{G}]$	条件付き期待値
$(\mathcal{F}_n)$ 、 $(\mathcal{F}_t)$	フィルトレーション
$P_x$ 、 $E_x$	状態 $x$ から出発するマルコフ連鎖（ブラウン運動）の確率・期待値

到達目標

[ ] 確率空間・確率変数・分布・期待値を測度論の言葉で定義し、離散・連続の典型的な分布を扱える
[ ] マルコフ・チェビシェフ・イェンセンの不等式を使い、π-系を用いて独立性を判定できる。ボレル–カンテリの補題を証明して使える
[ ] 大数の弱法則・強法則を（切断とエテマディの方法を含めて）証明し、コルモゴロフの 0-1 法則を使える
[ ] 概収束・確率収束・ $L^p$ 収束・分布収束の関係を証明し、反例を挙げられる。ポルトマントー定理とプロホロフの定理（ $\mathbb{R}$ 上）を証明できる
[ ] 特性関数の反転公式・一意性定理・レヴィの連続性定理を証明し、分布の収束の判定に使える
[ ] 中心極限定理とリンデベルグの定理、ポアソンの少数の法則を証明できる。多次元正規分布を扱い、クラメール–ウォルドの方法を使える
[ ] ベリー–エシーンの定理・クラメールの大偏差原理・重複対数の法則の主張と意味を説明し、チェルノフ限界を導ける
[ ] 条件付き期待値をラドン–ニコディムの定理と $L^2$ の射影で理解し、その性質を証明して計算に使える
[ ] 任意抽出定理・ドゥーブの不等式・マルチンゲール収束定理を証明し、ギャンブラーの破産・ポリアの壺・分岐過程に応用できる
[ ] マルコフ連鎖の状態を分類し、ポリアの定理、定常分布の存在と一意性、カップリングによる収束定理、エルゴード定理を証明できる
[ ] ブラウン運動を構成し、反射原理で最大値の分布を求め、2 次変分を計算できる
[ ] 伊藤積分の構成を説明し、伊藤の公式を用いて幾何ブラウン運動やオルンシュタイン–ウーレンベック過程を扱える

章立て

確率空間と確率変数 — 確率空間と確率変数・分布、分布関数、典型的な離散・連続分布、期待値とモーメント、基本的な不等式、独立性と π-系、ボレル–カンテリの補題、独立な確率変数列の存在とコルモゴロフの拡張定理。
大数の法則 — 弱法則と強法則（エテマディの証明）、コルモゴロフの 0-1 法則、コルモゴロフの不等式と 3 級数定理、モンテカルロ法・正規数・ワイエルシュトラス近似への応用、グリヴェンコ–カンテリの定理。
分布の収束と特性関数 — 収束の 4 つの型と反例、弱収束とポルトマントー定理、ヘリーの選出定理とプロホロフの定理、特性関数の反転公式と一意性、レヴィの連続性定理、モーメントとの関係。
中心極限定理 — i.i.d. の中心極限定理、リンデベルグ–フェラーの定理、ポアソンの少数の法則、多次元正規分布とクラメール–ウォルドの方法、ベリー–エシーン、クラメールの大偏差、重複対数の法則、安定分布。
条件付き期待値とマルチンゲール — 条件付き期待値（ラドン–ニコディムと $L^2$ 射影）、マルチンゲールと公平な賭け、停止時刻と任意抽出定理、ドゥーブの不等式、上向き横断数と収束定理、一様可積分性、後ろ向きマルチンゲールと強法則、ポリアの壺と分岐過程。
マルコフ連鎖とランダムウォーク — 推移確率とチャップマン–コルモゴロフの等式、強マルコフ性、再帰と過渡・周期、ポリアの定理、定常分布の存在と一意性、カップリングによる収束定理、エルゴード定理、詳細つり合いとメトロポリス法。
ブラウン運動と確率積分入門 — ガウス過程、ハール関数によるブラウン運動の構成、スケーリング・時間反転・強マルコフ性、反射原理、2 次変分と経路の性質、伊藤積分と伊藤の公式、確率微分方程式の例、熱方程式との関係。

学習時間の目安と進め方

学部 3〜4 年の通年講義（90 分 × 25〜30 回）に相当する。1 章あたり演習を含めて 12〜20 時間を見込むとよい。
章の依存関係は「第1章 → 第2章 → 第3章 → 第4章」が幹である。第5章は第2章まで、第6章は第5章の停止時刻まで、第7章は第4章（多次元正規分布）と第5章を使う。急ぐ場合は第1章・第2章のあと第5章・第6章に進んでもよい。
定理を読んだら、必ずコイン投げやランダムウォークの具体例で意味を確かめること。可能なら計算機で実験（シミュレーション）してみるとよい。大数の法則や中心極限定理の収束の様子、ランダムウォークの再帰と過渡の違いは、実際に見ると印象が大きく変わる。
仮定の役割は反例で確かめるのが効果的である。本科目の主な反例：コーシー分布（平均が存在せず大数の法則も中心極限定理も成り立たない）、倍賭け法と「倍か無か」（a.s. 収束しても期待値が保存されない）、1 勝ち越したらやめる戦略（停止時刻が有限でも任意抽出定理が破れる）、無相関だが独立でない正規確率変数、周期的なマルコフ連鎖（収束しない）。
測度論の定理（収束定理・フビニの定理・ラドン–ニコディムの定理）は、確率論では「期待値と極限の交換」「独立な確率変数の積の期待値」「条件付き期待値の存在」として現れる。つまずいたら 06-measure-integration の該当する章に戻って確認すること。

参考文献

日本語

舟木直久『確率論』（朝倉書店）— 測度論的確率論の標準的な教科書。極限定理からマルチンゲール、マルコフ過程、ブラウン運動まで、本科目の範囲を過不足なく扱う。
伊藤清『確率論』（岩波書店）— 確率積分の創始者による古典的な教科書。確率過程の基礎を高い視点から論じている。
西尾真喜子『確率論』（実教出版）— 極限定理を中心に、測度論に基づく確率論を丁寧に展開する。
佐藤坦『はじめての確率論測度から確率へ』（共立出版）— 測度論の初歩から確率論へ橋渡しする入門書。第1章・第2章の副読本に向く。
志賀徳造『ルベーグ積分から確率論』（共立出版）— ルベーグ積分の基礎から確率論への応用までを一冊で扱う。

英語

R. Durrett, Probability: Theory and Examples (Cambridge University Press) — 例と演習が豊富な大学院向けの標準的教科書。極限定理・マルチンゲール・マルコフ連鎖・ブラウン運動の全体について、本科目の主な参照先である。
D. Williams, Probability with Martingales (Cambridge University Press) — マルチンゲールを軸に測度論的確率論を簡潔かつ明快に展開する。第5章の参照先として最適。
P. Billingsley, Probability and Measure (Wiley) — 測度論と確率論を一体として詳しく論じる古典。中心極限定理や弱収束の扱いが詳しい。
I. Karatzas, S. E. Shreve, Brownian Motion and Stochastic Calculus (Springer) — ブラウン運動と確率積分・確率微分方程式の本格的な教科書。第7章の先を学ぶために。

次に学ぶもの

確率解析：連続時間のマルチンゲール、局所化による伊藤積分の一般化、ギルサノフの定理、確率微分方程式の強解と弱解、拡散過程へ進む（Karatzas–Shreve）。
偏微分方程式論・関数解析：ブラウン運動の生成作用素 $\frac{1}{2}\Delta$ と熱半群は、作用素半群（10-functional-analysis 第7章）や発展方程式（18-pde 第5章）の典型例である。熱方程式の古典的な扱いは 08-differential-equations 第7章を参照。
エルゴード理論・統計力学：マルコフ連鎖のエルゴード定理は、測度を保つ変換に対するバーコフのエルゴード定理へ一般化される。大偏差原理は統計力学のエントロピーと密接に関係する。
統計学・数理ファイナンス：中心極限定理とカイ二乗検定、経験過程とコルモゴロフ–スミルノフ検定、ブラック–ショールズ模型は、この科目の直接の応用である。
総合演習：20-problems 第7章（微分方程式と確率論）。

章の一覧