第6章コンパクトリー群の表現（リー群と表現論）

この章の目標

コンパクト群のハール測度を使って、有限次元表現の完全可約性とシューアの直交関係を証明できる

ピーター–ワイルの定理をコンパクト作用素のスペクトル定理から証明し、 $L^2(G)$ の分解を説明できる

$SU(2)$ の既約表現と指標を決定し、 $SO(3)$ の表現と球面調和関数の関係を説明できる

極大トーラス・ワイルの積分公式・ワイルの指標公式の関係を $SU(2)$ で確かめられる

非コンパクト群 $\operatorname{SL}_2(\mathbb{R})$ のユニタリ表現論がコンパクト群と大きく異なることを説明できる

前提：第1章、第2章、第5章、関数解析第2章・第5章（コンパクト自己共役作用素のスペクトル定理）、測度と積分第8章（ラドン測度）、微分方程式第6章（フーリエ級数）

有限群の表現論（第1章）の核心は、群上の平均 $\frac{1}{\lvert G \rvert}\sum_g$ であった。コンパクト群には、これに代わる不変な積分――ハール測度――がある。その結果、有限群の理論はほぼそのままコンパクト群に拡張される：有限次元表現は完全可約で、既約指標は正規直交系をなす。さらにピーター–ワイルの定理により、 $L^2(G)$ は既約表現の行列要素で張られる。 $G = S^1$ ならこれはフーリエ級数の完全性そのものであり、ピーター–ワイルの定理は「非可換群上のフーリエ解析」の基本定理である。

この章では、 $G$ はコンパクト（ハウスドルフ）な位相群とし、主にコンパクトリー群を例にとる。

6.1 ハール測度

定理 6.1（ハール測度, Haar measure）コンパクト群 $G$ 上には、左不変（ $\mu(gA) = \mu(A)$ ）な正則ボレル確率測度 $\mu$ がただ一つ存在する。 $\mu$ は右不変かつ逆元をとる写像で不変でもある。（存在と一意性は主張のみ。）

$\int_G f(g)\ d\mu(g)$ を $\int_G f(g)\ dg$ と書く。存在は、局所コンパクト群に対してリースの表現定理（測度と積分第8章）を用いて示されるのが標準的である。コンパクトリー群なら構成は易しい： $T_eG$ 上の 0 でない最高次の交代形式 $\omega_e$ を一つとり、左移動で $\omega_g = (L_{g^{-1}})^{\ast}\omega_e$ と延ばせば、左不変な体積形式が得られる（多様体第6章）。

一意性を認めれば、両側不変性は次のように示される。 $h$ を固定すると $A \mapsto \mu(Ah)$ は再び左不変な正則ボレル確率測度なので $\mu$ に等しい。 $A \mapsto \mu(A^{-1})$ も同様である。また、空でない開集合 $U$ について $\mu(U) > 0$ である（有限個の左移動 $g_iU$ が $G$ を覆うから）。したがって、連続関数 $f \geq 0$ が恒等的に 0 でなければ $\int_G f\ dg > 0$ 。

例 6.2 (1) 有限群では $\mu(A) = \lvert A \rvert/\lvert G \rvert$ （第1章の平均）。(2) $S^1 = U(1)$ では $d\theta/2\pi$ 、トーラス $T^n$ では $d\theta_1 \cdots d\theta_n/(2\pi)^n$ 。(3) $SU(2) \cong S^3$ （例 2.4）では正規化された $S^3$ の表面測度である。実際、例 2.4 の形の行列（ $a, b \in \mathbb{C}$ は任意）の全体 $\mathbb{H} \cong \mathbb{R}^4$ 上で $\det$ はユークリッドノルムの 2 乗 $\lvert a \rvert^2 + \lvert b \rvert^2$ に等しく、 $g \in SU(2)$ による左右の積は $\det$ を保つ線形写像なので $\mathbb{R}^4$ の直交変換であり、 $S^3$ の表面測度を保つ。

6.2 表現と完全可約性

定義 6.3 コンパクト群 $G$ の（有限次元）表現とは、連続な準同型 $\pi\colon G \to \operatorname{GL}(V)$ （ $V$ は有限次元複素ベクトル空間）である。内積を保つ（ $\pi(g)$ がユニタリ）ときユニタリ表現という。ヒルベルト空間 $\mathcal{H}$ 上のユニタリ表現とは、準同型 $\pi\colon G \to U(\mathcal{H})$ で、各 $v \in \mathcal{H}$ について $g \mapsto \pi(g)v$ が連続（強連続）なものをいう。

定理 6.4 コンパクト群の有限次元表現 $(\pi, V)$ には $G$ -不変な内積が存在する。したがって有限次元表現はユニタリ化でき、完全可約である。

証明. 任意のエルミート内積 $\langle \cdot, \cdot \rangle_0$ から $\langle u, v \rangle = \int_G \langle \pi(g)u, \pi(g)v \rangle_0\ dg$ を作る。被積分関数は $g$ について連続なので積分は定義され、 $\langle \cdot, \cdot \rangle$ はエルミート形式である。 $v \neq 0$ なら $g \mapsto \lVert \pi(g)v \rVert_0^2$ は正の連続関数なので $\langle v, v \rangle > 0$ 。右不変性から $\langle \pi(h)u, \pi(h)v \rangle = \int_G \langle \pi(gh)u, \pi(gh)v \rangle_0\ dg = \langle u, v \rangle$ 。部分表現 $W$ の直交補空間 $W^\perp$ は、 $\pi(g)^{\ast} = \pi(g^{-1})$ より不変である。あとは $\dim V$ に関する帰納法。 $\square$

$\mathbb{R}$ （コンパクトでない）の表現 $t \mapsto I + tN$ （ $N$ は例 2.6 の冪零行列）は完全可約でない（例 1.9 と同じ）。

補足

ユニタリトリック（ワイル）： $SU(n)$ は単連結コンパクト群で、そのリー環の複素化は $\mathfrak{su}(n) \otimes \mathbb{C} = \mathfrak{sl}_n(\mathbb{C})$ である。定理 2.24 により、 $\mathfrak{sl}_n(\mathbb{C})$ の有限次元表現（ $\mathfrak{su}(n)$ に制限する）と $SU(n)$ の有限次元表現は一対一に対応し、不変部分空間も一致する。したがって定理 6.4 から $\mathfrak{sl}_n(\mathbb{C})$ の表現の完全可約性（ワイルの定理 3.29 の特別な場合）が従う。一般の複素半単純リー環もコンパクト実形をもつので、同じ議論が使える。

6.3 シューアの直交関係と行列要素

シューアの補題（定理 1.11）は同じ証明でコンパクト群の有限次元既約表現にも成り立つ。既約なユニタリ表現の同値類の全体を $\widehat{G}$ と書き、各類から代表 $(\pi, V_\pi)$ 、 $d_\pi = \dim V_\pi$ を選んでおく。

定義 6.5（行列要素, matrix coefficient）有限次元ユニタリ表現 $(\pi, V)$ と $u, v \in V$ に対し、 $G$ 上の連続関数 $c_{u,v}(g) = \langle \pi(g)u, v \rangle$ を行列要素という。正規直交基底 $e_1, \dots, e_d$ について $\pi_{ij}(g) = \langle \pi(g)e_j, e_i \rangle$ は $\pi(g)$ の行列の $(i, j)$ 成分である。

有限次元表現の行列要素全体の張る空間を $\mathcal{E}(G)$ と書く。完全可約性から、 $\mathcal{E}(G)$ は既約表現の行列要素 $\pi_{ij}$ ( $[\pi] \in \widehat{G}$ ) で張られる。

定理 6.6（シューアの直交関係, Schur orthogonality relations） $\pi, \sigma$ を既約な有限次元ユニタリ表現とすると、 $u, v \in V_\pi$ , $u', v' \in V_\sigma$ について
$\int_G \langle \pi(g)u, v \rangle\overline{\langle \sigma(g)u', v' \rangle}\,dg = \begin{cases} 0 & (\pi \not\cong \sigma) \\ \dfrac{1}{d_\pi}\langle u, u' \rangle\overline{\langle v, v' \rangle} & (\pi = \sigma) \end{cases}$

証明. 線形写像 $A\colon V_\sigma \to V_\pi$ を $Ax = \langle x, u' \rangle u$ で定め、 $A^\circ = \int_G \pi(g)A\sigma(g)^{-1}\ dg$ とおく（成分ごとの積分）。左不変性から $\pi(h)A^\circ\sigma(h)^{-1} = A^\circ$ なので $A^\circ$ は $G$ -線形である。一方、 $\sigma(g)$ のユニタリ性から $\langle \sigma(g)^{-1}v', u' \rangle = \overline{\langle \sigma(g)u', v' \rangle}$ なので

\langle A^\circ v', v \rangle = \int_G \langle \sigma(g)^{-1}v', u' \rangle\langle \pi(g)u, v \rangle\,dg = \int_G \langle \pi(g)u, v \rangle\overline{\langle \sigma(g)u', v' \rangle}\,dg

$\pi \not\cong \sigma$ ならシューアの補題より $A^\circ = 0$ 。 $\pi = \sigma$ なら $A^\circ = c\ \mathrm{id}$ で、 $\operatorname{tr}A^\circ = \operatorname{tr}A = \langle u, u' \rangle$ より $c = \langle u, u' \rangle/d_\pi$ 。よって $\langle A^\circ v', v \rangle = \frac{1}{d_\pi}\langle u, u' \rangle\langle v', v \rangle$ 。 $\square$

系 6.7

$\lbrace \sqrt{d_\pi}\ \pi_{ij} \mid [\pi] \in \widehat{G},\ 1 \leq i, j \leq d_\pi \rbrace$ は $L^2(G)$ の正規直交系である。

既約指標 $\chi_\pi(g) = \operatorname{tr}\pi(g)$ は $\int_G \chi_\pi\overline{\chi_\sigma}\ dg = \delta_{\pi\sigma}$ を満たす。

有限次元表現 $V$ は指標で同型を除いて決まり、 $\pi$ の重複度は $\int_G \chi_V\overline{\chi_\pi}\ dg$ 、 $V$ が既約 $\iff$ $\int_G \lvert \chi_V \rvert^2\ dg = 1$ 。

証明. 1 は定理 6.6 に $u, v, u', v'$ として基底ベクトルを代入したもの。2： $\chi_\pi = \sum_i\pi_{ii}$ なので $\int\chi_\pi\overline{\chi_\pi} = \sum_{i,j}\int\pi_{ii}\overline{\pi_{jj}} = \sum_{i,j}\delta_{ij}/d_\pi = 1$ 、異なる類なら 0。3 は第1章の系 1.20 と同じ議論である。 $\square$

6.4 ピーター–ワイルの定理

定理 6.8（ピーター–ワイルの定理, Peter–Weyl theorem） $G$ をコンパクト群とする。

$\mathcal{E}(G)$ は $C(G)$ で一様ノルムに関して稠密である。

$\lbrace \sqrt{d_\pi}\ \pi_{ij} \rbrace$ は $L^2(G)$ の完全正規直交系である。

$g \neq e$ ならば、 $\pi(g) \neq I$ となる既約表現 $\pi$ が存在する。

証明のために二つの補題を用意する。

補題 6.9（一様連続性） $f \in C(G)$ , $\varepsilon > 0$ とすると、 $e$ の近傍 $U$ で「 $xy^{-1} \in U$ または $x^{-1}y \in U$ ならば $\lvert f(x) - f(y) \rvert < \varepsilon$ 」を満たすものが存在する。

証明. 各 $x$ について、連続性から $e$ の近傍 $V_x$ で $v \in V_x \Rightarrow \lvert f(vx) - f(x) \rvert < \varepsilon/2$ となるものがあり、 $W_xW_x \subset V_x$ となる $e$ の近傍 $W_x$ がとれる。コンパクト性から $G = \bigcup_{k=1}^N W_{x_k}x_k$ となり、 $U_1 = \bigcap_k W_{x_k}$ とおく。 $x = uy$ ( $u \in U_1$ ) とし、 $y = wx_k$ ( $w \in W_{x_k}$ ) とすると、 $\lvert f(y) - f(x_k) \rvert < \varepsilon/2$ かつ $x = (uw)x_k$ , $uw \in V_{x_k}$ より $\lvert f(x) - f(x_k) \rvert < \varepsilon/2$ 。よって $xy^{-1} \in U_1$ なら $\lvert f(x) - f(y) \rvert < \varepsilon$ 。 $\tilde{f}(x) = f(x^{-1})$ に同じ議論を使って得た $U_2$ について、 $x^{-1}y \in U_2^{-1}$ なら $\lvert f(x) - f(y) \rvert < \varepsilon$ となる。 $U = U_1 \cap U_2^{-1}$ とすればよい。 $\square$

補題 6.10（畳み込み作用素） $\varphi \in C(G)$ は実数値で $\varphi(g^{-1}) = \varphi(g)$ を満たすとし、 $L^2(G)$ 上の作用素
$(T_\varphi f)(x) = \int_G \varphi(xy^{-1})f(y)\,dy$
を考える。(1) $T_\varphi$ はコンパクトな自己共役作用素である。(2) $T_\varphi f$ は連続で $\lVert T_\varphi f \rVert_\infty \leq \lVert \varphi \rVert_\infty\lVert f \rVert_2$ 。(3) 右移動 $(R_gf)(x) = f(xg)$ と可換である。

証明. (1) 核 $k(x, y) = \varphi(xy^{-1})$ は $G \times G$ 上連続なので $L^2(G \times G)$ に属し、 $T_\varphi$ はヒルベルト–シュミット作用素、したがってコンパクトである（関数解析第5章）。 $k(y, x) = \varphi(yx^{-1}) = \varphi((xy^{-1})^{-1}) = k(x, y)$ は実数値なので自己共役。(2) コーシー–シュワルツの不等式と $\mu(G) = 1$ から評価を得る。連続性は、補題 6.9 を $\varphi$ に適用し、 $(xy^{-1})(x'y^{-1})^{-1} = xx'^{-1}$ に注意すればよい。(3) 右不変性により $y \mapsto yg$ と置換して

(T_\varphi R_gf)(x) = \int_G \varphi(xy^{-1})f(yg)\,dy = \int_G \varphi(xgy^{-1})f(y)\,dy = (R_gT_\varphi f)(x)

$\square$

定理 6.8 の証明. 1： $f \in C(G)$ , $\varepsilon > 0$ とし、補題 6.9 の $U$ をとる。ウリゾーンの補題により、台が $U \cap U^{-1}$ に含まれる連続関数 $\psi \geq 0$ で $\psi(e) > 0$ となるものがあり、 $\varphi(g) = c(\psi(g) + \psi(g^{-1}))$ （ $c > 0$ は $\int\varphi = 1$ となる定数）は補題 6.10 の条件を満たす。 $\varphi(xy^{-1}) \neq 0$ なら $xy^{-1} \in U$ で $\lvert f(y) - f(x) \rvert < \varepsilon$ 、また不変性から $\int_G\varphi(xy^{-1})\ dy = \int_G\varphi = 1$ なので

\lvert T_\varphi f(x) - f(x) \rvert = \Bigl\lvert \int_G\varphi(xy^{-1})\bigl(f(y) - f(x)\bigr)\,dy \Bigr\rvert \leq \varepsilon

が任意の $x$ で成り立つ。次に $T_\varphi f$ が $\mathcal{E}(G)$ の一様閉包に属することを示す。 $\lambda \neq 0$ に対する $T_\varphi$ の固有空間 $E_\lambda$ は有限次元で（コンパクト作用素）、補題 6.10 (2) より連続関数からなり（ $h = \lambda^{-1}T_\varphi h$ ）、(3) より右移動で不変である。 $E_\lambda$ の基底 $f_1, \dots, f_n$ をとり $R_gf_j = \sum_i a_{ij}(g)f_i$ と書くと、 $a_{ij}$ は有限次元表現 $R\vert_{E_\lambda}$ の行列成分（連続関数）で、 $f_j(g) = (R_gf_j)(e) = \sum_i a_{ij}(g)f_i(e)$ 。したがって $E_\lambda \subset \mathcal{E}(G)$ 。スペクトル定理により $f = f_0 + \sum_{\lambda \neq 0}P_\lambda f$ （ $f_0 \in \ker T_\varphi$ 、 $P_\lambda$ は $E_\lambda$ への射影、和は $L^2$ で収束）であり、有限部分和 $S_N$ について $T_\varphi S_N = \sum\lambda P_\lambda f \in \mathcal{E}(G)$ は、(2) の評価により $T_\varphi(f - f_0) = T_\varphi f$ に一様収束する。よって $f$ は $\mathcal{E}(G)$ の元で一様に $2\varepsilon$ 以内に近似できる。

2：正規直交性は系 6.7。 $C(G)$ は $L^2(G)$ で稠密で（測度と積分第8章）、 $\lVert \cdot \rVert_2 \leq \lVert \cdot \rVert_\infty$ なので 1 より $\mathcal{E}(G)$ は $L^2(G)$ で稠密である。

3：すべての既約表現で $\pi(g) = I$ なら、すべての行列要素が $c(g) = c(e)$ を満たし、1 より任意の $f \in C(G)$ で $f(g) = f(e)$ 。ウリゾーンの補題より $g = e$ 。 $\square$

$\pi$ の行列要素の張る空間を $\mathcal{E}_\pi$ （ $d_\pi^2$ 次元）とすると、定理 6.8 は

L^2(G) = \widehat{\bigoplus_{[\pi] \in \widehat{G}}}\ \mathcal{E}_\pi

（直交直和の閉包）を意味する。 $R_h\pi_{ij}(g) = \pi_{ij}(gh) = \sum_k\pi_{ik}(g)\pi_{kj}(h)$ なので、各 $i$ について $\pi_{i1}, \dots, \pi_{id}$ の張る空間は右正則表現で $\pi$ と同型であり、 $L^2(G)$ の右正則表現には各既約表現 $\pi$ がちょうど $d_\pi$ 回現れる（命題 1.22 の一般化）。 $G \times G$ の表現（左右の移動）としては $\mathcal{E}_\pi \cong \operatorname{End}(V_\pi)$ である。フーリエ係数 $\widehat{f}(\pi) = \int_G f(g)\pi(g)^{\ast}\ dg$ を使うと、

f = \sum_{[\pi] \in \widehat{G}}d_\pi\operatorname{tr}\bigl(\widehat{f}(\pi)\pi(\cdot)\bigr), \qquad \lVert f \rVert_2^2 = \sum_{[\pi] \in \widehat{G}}d_\pi\lVert \widehat{f}(\pi) \rVert_{\mathrm{HS}}^2

（ $L^2$ での展開とプランシュレルの公式）となる。実際 $\langle f, \pi_{ij} \rangle = \widehat{f}(\pi)_{ji}$ である。

系 6.11 既約指標 $\lbrace \chi_\pi \rbrace$ は、 $L^2(G)$ の類関数（ $f(hgh^{-1}) = f(g)$ a.e.）のなす閉部分空間の完全正規直交系である。

証明. $f$ を類関数とすると、 $g \mapsto h^{-1}gh$ の置換により $\pi(h)\widehat{f}(\pi)\pi(h)^{-1} = \widehat{f}(\pi)$ となり、シューアの補題から $\widehat{f}(\pi) = c\ I$ 、トレースを比べて $c = \langle f, \chi_\pi \rangle/d_\pi$ 。上の展開に代入すると $f = \sum_\pi\langle f, \chi_\pi \rangle\chi_\pi$ 。 $\square$

例 6.12 (1) $G = S^1$ ：既約表現は 1 次元で（系 1.13）、連続準同型 $S^1 \to U(1)$ は $\chi_n(e^{i\theta}) = e^{in\theta}$ ( $n \in \mathbb{Z}$ ) で尽きる（定理 2.10 より $e^{i\theta} \mapsto e^{ic\theta}$ の形で、 $\theta = 2\pi$ で 1 に戻るので $c \in \mathbb{Z}$ ）。定理 6.8 は三角多項式の一様稠密性と、 $\lbrace e^{in\theta} \rbrace$ が $L^2(S^1)$ の完全正規直交系であること（フーリエ級数論の基本定理）そのものである。(2) 有限群： $\dim L^2(G) = \lvert G \rvert = \sum_\pi d_\pi^2$ 。

系 6.13 コンパクトリー群は忠実な有限次元表現をもつ。したがって $U(n)$ の閉部分群（行列リー群）と同型である。

証明の概略. 定理 6.8 の 3 より、各 $g \neq e$ に対し $\pi(g) \neq I$ となる $\pi$ がある。有限個の表現の直和 $\pi_1 \oplus \cdots \oplus \pi_k$ の核 $K_k$ は閉部分群の減少列をなす。コンパクトリー群の閉部分群はリー部分群で、真に小さい閉部分群は次元か連結成分の個数（有限）が真に小さいので、この列は有限回で止まる。止まった核が $e$ 以外の元 $g$ を含めば、 $\pi(g) \neq I$ となる $\pi$ を加えて核をさらに小さくできるので、核は $\lbrace e \rbrace$ である。 $\square$

6.5 $SU(2)$ の既約表現と指標

$V_n$ を 2 変数 $z_1, z_2$ の $n$ 次斉次多項式の空間（ $\dim V_n = n + 1$ ）とし、 $z = {}^t(z_1, z_2)$ として

(\pi_n(g)P)(z) = P(g^{-1}z) \qquad (g \in SU(2))

で $SU(2)$ の表現を定める。 $t_\theta = \operatorname{diag}(e^{i\theta}, e^{-i\theta})$ とおく。

共役類： $g \in SU(2)$ はユニタリ対角化 $g = kt_\theta k^{-1}$ （ $k \in U(2)$ ）でき、 $k$ をスカラー倍して $\det k = 1$ にできるので、 $SU(2)$ 内で $t_\theta$ と共役である。例 2.6 の 90° 回転 $J \in SU(2)$ について $Jt_\theta J^{-1} = t_{-\theta}$ なので、 $\theta \in [0, \pi]$ にとれ、 $\operatorname{tr}g = 2\cos\theta$ から $\theta$ は一意である。よって類関数は $\theta \in [0, \pi]$ の関数と同一視できる。

指標： $t_\theta^{-1}z = (e^{-i\theta}z_1, e^{i\theta}z_2)$ なので、単項式 $z_1^{n-k}z_2^k$ は固有値 $e^{-i(n-2k)\theta}$ の固有ベクトルであり、

\chi_n(t_\theta) = \sum_{k=0}^n e^{i(n-2k)\theta} = \frac{\sin(n+1)\theta}{\sin\theta} \qquad (0 < \theta < \pi)

$\chi_n(e) = n + 1$ , $\chi_n(-I) = (-1)^n(n+1)$ である。

命題 6.14（ $SU(2)$ のワイルの積分公式） $f$ を $SU(2)$ 上の連続な類関数とすると
$\int_{SU(2)}f(g)\,dg = \frac{2}{\pi}\int_0^\pi f(t_\theta)\sin^2\theta\,d\theta$

証明. $SU(2) \cong S^3 \subset \mathbb{R}^4$ で、 $a = x_0 + ix_1$ , $b = x_2 + ix_3$ とすると $\operatorname{tr}g = 2x_0$ 。 $g$ が $t_\theta$ と共役であることと $x_0 = \cos\theta$ は同値なので、類関数は $x_0$ だけの関数である。極座標 $(x_0, x_1, x_2, x_3) = (\cos\theta, \sin\theta\cdot\omega)$ （ $\theta \in [0, \pi]$ , $\omega \in S^2$ ）で $S^3$ の表面測度は $\sin^2\theta\ d\theta\ d\sigma(\omega)$ （ $\sigma$ は $S^2$ の面積要素）であり、全体積は $\frac{\pi}{2} \cdot 4\pi = 2\pi^2$ 。例 6.2 (3) よりハール測度はこれを $2\pi^2$ で割ったものなので、 $\omega$ について積分して $\frac{4\pi}{2\pi^2} = \frac{2}{\pi}$ を得る。 $\square$

定理 6.15（ $SU(2)$ の既約表現） $\pi_n$ ( $n = 0, 1, 2, \dots$ ) は既約で、 $SU(2)$ の既約表現はこれで尽きる。すなわち $\widehat{SU(2)} = \lbrace \pi_n \mid n \geq 0 \rbrace$ 。

証明. 既約性：命題 6.14 より

\int_{SU(2)}\lvert \chi_n \rvert^2\,dg = \frac{2}{\pi}\int_0^\pi\sin^2(n+1)\theta\,d\theta = \frac{2}{\pi} \cdot \frac{\pi}{2} = 1

なので系 6.7 より既約である。次元が異なるので互いに同型でない。

完全性：既約表現 $\sigma$ がどの $\pi_n$ とも同型でないとし、その指標を $\chi$ とする。 $F(\theta) = \chi(t_\theta)\sin\theta$ は $\mathbb{R}$ 上の連続な周期 $2\pi$ の奇関数である（ $\chi(t_{-\theta}) = \chi(t_\theta)$ ）。系 6.7 より、すべての $n \geq 0$ について

0 = \int_{SU(2)}\chi\overline{\chi_n}\,dg = \frac{2}{\pi}\int_0^\pi F(\theta)\sin(n+1)\theta\,d\theta

奇関数 $F$ のフーリエ係数はすべて 0 となるので $F = 0$ （連続関数のフーリエ係数による一意性、微分方程式第6章）。よって $0 < \theta < \pi$ で $\chi(t_\theta) = 0$ となり、連続性から $\chi(e) = 0$ 。しかし $\chi(e) = \dim\sigma \geq 1$ で矛盾する。 $\square$

補足

リー環を使う別証明： $SU(2)$ は単連結で $\mathfrak{su}(2) \otimes \mathbb{C} = \mathfrak{sl}_2(\mathbb{C})$ なので、 $SU(2)$ の表現は $\mathfrak{sl}_2(\mathbb{C})$ の表現と一対一に対応する（定理 2.24）。 $\pi_n$ の微分は第4章の $V(n)$ （多項式による実現）と同型であり、定理 4.3 がそのまま定理 6.15 を与える。指標の等式 $\chi_m\chi_n = \sum_{k=0}^{\min(m,n)}\chi_{m+n-2k}$ から、クレブシュ–ゴルダンの公式 $\pi_m \otimes \pi_n \cong \bigoplus_k\pi_{m+n-2k}$ （定理 5.20）も従う。

6.6 $SO(3)$ の表現と球面調和関数

定理 2.23 の二重被覆 $SU(2) \to SO(3) = SU(2)/\lbrace \pm I \rbrace$ により、 $SO(3)$ の既約表現は $-I$ が自明に作用する $SU(2)$ の既約表現と一対一に対応する。 $\pi_n(-I)P(z) = P(-z) = (-1)^nP(z)$ なので、それは $n = 2\ell$ が偶数の場合である。したがって

\widehat{SO(3)} = \lbrace \rho_\ell \mid \ell = 0, 1, 2, \dots \rbrace, \qquad \dim\rho_\ell = 2\ell + 1

角 $\theta$ の回転 $R_\theta$ （軸は任意、どれも共役）は $t_{\theta/2}$ の像なので（2.8 節）、

\chi_{\rho_\ell}(R_\theta) = \chi_{2\ell}(t_{\theta/2}) = \sum_{m=-\ell}^{\ell}e^{im\theta} = \frac{\sin(2\ell+1)\theta/2}{\sin\theta/2}

$\rho_0$ は自明表現、 $\rho_1$ は $\mathbb{C}^3$ 上の自然な表現、 $\rho_1 \otimes \rho_1 \cong \rho_2 \oplus \rho_1 \oplus \rho_0$ である（問題 6.4）。

これらの表現は具体的に実現できる。 $\mathcal{P}_\ell$ を $\mathbb{R}^3$ 上の複素係数の $\ell$ 次斉次多項式の空間、 $\mathcal{H}_\ell = \lbrace P \in \mathcal{P}_\ell \mid \Delta P = 0 \rbrace$ を調和多項式の空間とし、 $SO(3)$ を $(gP)(x) = P(g^{-1}x)$ で作用させる。ラプラシアン $\Delta$ は回転と可換なので $\mathcal{H}_\ell$ は不変部分空間である。 $\mathcal{H}_\ell$ の元の $S^2$ への制限を球面調和関数 (spherical harmonics) という。

定理 6.16

$\dim\mathcal{H}_\ell = 2\ell + 1$ であり、 $\mathcal{H}_\ell \cong \rho_\ell$ （特に既約）。

$L^2(S^2) = \widehat{\bigoplus_{\ell \geq 0}}\ \mathcal{H}_\ell\vert_{S^2}$ （直交直和の閉包）で、 $SO(3)$ の各既約表現はちょうど 1 回ずつ現れる。

球面上のラプラシアン $\Delta_{S^2}$ は $\mathcal{H}_\ell\vert_{S^2}$ 上で $-\ell(\ell + 1)$ 倍として作用する。

証明. 1： $\mathcal{P}$ 上の内積 $\langle x^a, x^b \rangle = a!\ \delta_{ab}$ （多重指数の記法）を考えると、 $\partial_j$ の随伴作用素は $x_j$ 倍であり、 $\Delta\colon \mathcal{P}_\ell \to \mathcal{P}_{\ell-2}$ の随伴は $r^2 = x_1^2 + x_2^2 + x_3^2$ 倍である。 $Q \in \mathcal{P}_{\ell-2}$ が $\Delta$ の像と直交すれば $\langle P, r^2Q \rangle = 0$ ( $\forall P$ ) より $r^2Q = 0$ 、 $Q = 0$ なので $\Delta$ は全射であり、

\dim\mathcal{H}_\ell = \dim\mathcal{P}_\ell - \dim\mathcal{P}_{\ell-2} = \frac{(\ell+1)(\ell+2)}{2} - \frac{(\ell-1)\ell}{2} = 2\ell + 1

指標を計算する。 $z$ 軸の周りの回転 $R_\theta$ について、 $\mathcal{P}_\ell$ の基底 $(x_1 + ix_2)^a(x_1 - ix_2)^bx_3^c$ ( $a + b + c = \ell$ ) は固有値 $e^{-i(a-b)\theta}$ の固有ベクトルである（ $(x_1 \pm ix_2) \circ R_\theta^{-1} = e^{\mp i\theta}(x_1 \pm ix_2)$ ）。よって $\chi_{\mathcal{P}_\ell}(R_\theta)$ における $e^{im\theta}$ の係数は $a - b = -m$ となる組 $(a, b, c)$ の個数で、 $a \leftrightarrow b$ の対称性から、これは $\lvert \lbrace (a, b, c) \mid a + b + c = \ell,\ a - b = \lvert m \rvert \rbrace \rvert = \lfloor (\ell - \lvert m \rvert)/2 \rfloor + 1$ （ $\lvert m \rvert \leq \ell$ ）に等しい。完全系列 $0 \to \mathcal{H}_\ell \to \mathcal{P}_\ell \xrightarrow{\Delta} \mathcal{P}_{\ell-2} \to 0$ より $\chi_{\mathcal{H}_\ell} = \chi_{\mathcal{P}_\ell} - \chi_{\mathcal{P}_{\ell-2}}$ で、 $e^{im\theta}$ の係数は $\lvert m \rvert \leq \ell$ のとき $(\lfloor (\ell - \lvert m \rvert)/2 \rfloor + 1) - \lfloor (\ell - \lvert m \rvert)/2 \rfloor = 1$ 。よって $\chi_{\mathcal{H}_\ell}(R_\theta) = \sum_{m=-\ell}^\ell e^{im\theta} = \chi_{\rho_\ell}(R_\theta)$ で、系 6.7 より $\mathcal{H}_\ell \cong \rho_\ell$ 。

2（概略）：斉次多項式は $S^2$ への制限で決まる。 $\mathcal{P}_\ell = \mathcal{H}_\ell \oplus r^2\mathcal{P}_{\ell-2}$ （上の直交分解）で $r^2 = 1$ on $S^2$ だから、帰納的に多項式の制限全体は $\sum_\ell\mathcal{H}_\ell\vert_{S^2}$ に等しく、ストーン–ワイエルシュトラスの定理より $C(S^2)$ で稠密、したがって $L^2(S^2)$ で稠密。 $\ell$ の異なる $\mathcal{H}_\ell\vert_{S^2}$ は非同型な既約部分表現なので、シューアの補題により $L^2(S^2)$ で直交する（直交射影の制限が $G$ -線形写像になるため）。

3： $\mathbb{R}^3$ の極座標で $\Delta = \partial_r^2 + \frac{2}{r}\partial_r + \frac{1}{r^2}\Delta_{S^2}$ 。 $P = r^\ell Y$ （ $Y = P\vert_{S^2}$ ）を代入すると $0 = r^{\ell-2}\bigl(\ell(\ell - 1) + 2\ell\bigr)Y + r^{\ell-2}\Delta_{S^2}Y$ なので $\Delta_{S^2}Y = -\ell(\ell+1)Y$ 。 $\square$

2 は、等質空間 $S^2 = SO(3)/SO(2)$ についてのフロベニウスの相互律（定理 1.38 の類似）の現れでもある： $\rho_\ell$ が $L^2(SO(3)/SO(2))$ に現れる重複度は $\dim\rho_\ell^{SO(2)}$ 、すなわち $\rho_\ell$ のウェイト 0 の空間の次元 1 に等しい。量子力学では、 $\ell$ は方位量子数、 $m$ （ $R_\theta$ の固有値 $e^{im\theta}$ ）は磁気量子数であり、水素原子の軌道の縮退度 $2\ell + 1$ はこの表現論から説明される（微分方程式第7章の変数分離も参照）。 $\Delta_{S^2}$ は $\mathfrak{so}(3)$ のカシミール元の作用であり、既約表現上スカラーになることがシューアの補題から直ちにわかる。

6.7 極大トーラスと共役定理

$SU(2)$ の解析では「すべての元が対角行列 $t_\theta$ に共役」であることが決定的だった。これは一般のコンパクト連結リー群に拡張される。コンパクト連結な可換リー群は $T^r = (S^1)^r$ と同型であり（主張のみ）、トーラスと呼ばれる。 $G$ の部分群として極大なトーラスを極大トーラス (maximal torus) という。

定理 6.17（極大トーラス定理, E. カルタン） $G$ をコンパクト連結リー群、 $T$ を極大トーラスとする。

$G$ の任意の元は $T$ の元と共役である： $G = \bigcup_{g \in G}gTg^{-1}$ 。

極大トーラスは互いに共役である。

$\exp\colon \mathfrak{g} \to G$ は全射である。

ワイル群 $W = N_G(T)/T$ は有限群で、 $T$ の 2 元が $G$ で共役であるのは $W$ で移り合うときに限る。したがって $G$ 上の類関数は $T$ 上の $W$ -不変関数と一対一に対応する。

（主張のみ。Bröcker–tom Dieck の本の第IV章を参照。）

$G$	極大トーラス $T$	$W$
$U(n)$	対角ユニタリ行列	$\mathfrak{S}_n$
$SU(n)$	行列式 1 の対角ユニタリ行列	$\mathfrak{S}_n$
$SO(2n)$	回転行列 $R(\theta_1), \dots, R(\theta_n)$ のブロック対角	符号の反転が偶数個の符号つき置換
$SO(2n+1)$	上に $1$ を加えたもの	符号つき置換
$SU(2)$	$\lbrace t_\theta \rbrace$	$\mathbb{Z}/2$

$U(n)$ では 1 はユニタリ行列の対角化（スペクトル定理）そのもので、 $W$ は置換行列が引き起こす対角成分の並べ替えである。複素化したリー環 $\mathfrak{g}_{\mathbb{C}}$ を $\mathfrak{t}_{\mathbb{C}}$ に関してルート空間分解すると、ルートは $T$ の指標 $e^\alpha\colon T \to S^1$ として現れ、 $N_G(T)/T$ はルート系のワイル群（第4章）と同型になる（主張のみ）。 $G$ が半単純（ $\mathfrak{g}_{\mathbb{C}}$ が半単純）のとき、 $T$ の指標 $e^\lambda$ の全体（解析的整ウェイト）は、ルート格子 $Q$ とウェイト格子 $\Lambda$ の間の格子であり、 $G$ が単連結なら $\Lambda$ に一致する（ $U(n)$ のように中心がトーラスを含む群では $\mathfrak{g}_{\mathbb{C}}$ は半単純でなく、この記述はそのままでは当てはまらない）。例えば $SU(2)$ では $e^{n\omega}(t_\theta) = e^{in\theta}$ ( $n \in \mathbb{Z}$ ) ですべての整ウェイトが現れるが、 $SO(3)$ では $\alpha = 2\omega$ の倍数だけが現れる（偶数の $n$ だけが $SO(3)$ の表現を与えることに対応する）。

6.8 ワイルの積分公式と指標公式

定理 6.18（ワイルの積分公式, Weyl integration formula） $G$ をコンパクト連結リー群、 $T$ を極大トーラス、 $\Phi$ をルート系とする。 $G$ 上の連続な類関数 $f$ について
$\int_G f(g)\,dg = \frac{1}{\lvert W \rvert}\int_T f(t)\,\lvert \Delta(t) \rvert^2\,dt, \qquad \lvert \Delta(t) \rvert^2 = \prod_{\alpha \in \Phi^+}\bigl\lvert 1 - e^\alpha(t) \bigr\rvert^2$
が成り立つ（ $dt$ は $T$ のハール測度）。（主張のみ。証明は写像 $G/T \times T \to G$ , $(gT, t) \mapsto gtg^{-1}$ のヤコビアンの計算による。）

$SU(2)$ で確かめよう。 $\Phi = \lbrace \pm\alpha \rbrace$ , $e^\alpha(t_\theta) = e^{2i\theta}$ なので $\lvert 1 - e^{2i\theta} \rvert^2 = 4\sin^2\theta$ 、 $\lvert W \rvert = 2$ 、 $dt = d\theta/2\pi$ ( $0 \leq \theta < 2\pi$ )。右辺は $\frac{1}{2}\int_0^{2\pi}f(t_\theta)4\sin^2\theta\frac{d\theta}{2\pi} = \frac{2}{\pi}\int_0^\pi f(t_\theta)\sin^2\theta\ d\theta$ となり（ $f(t_\theta) = f(t_{-\theta})$ を使った）、命題 6.14 と一致する。

ワイルの積分公式は、第5章の指標公式の解析的な証明を与える。

ワイルの指標公式の解析的証明の方針. $G$ を単連結とし、既約表現 $\pi$ の指標を $\chi$ とする。 $\Delta(t) = \sum_{w \in W}\varepsilon(w)e^{w\rho}(t)$ （分母）とおくと、 $\Delta$ は $W$ について交代的（ $\Delta(wt) = \varepsilon(w)\Delta(t)$ ）で、 $\chi$ は $W$ -不変だから $\Delta\chi$ は交代的であり、 $T$ の指標 $e^\mu$ の整数係数の一次結合である。交代的な一次結合は、正則な支配的ウェイト $\mu$ についての $A_\mu = \sum_w\varepsilon(w)e^{w\mu}$ の整数係数の和 $\Delta\chi = \sum_\mu c_\mu A_\mu$ に書ける。 $T$ 上で $e^\mu$ たちは正規直交なので $\int_T\lvert A_\mu \rvert^2dt = \lvert W \rvert$ であり、 $\int_G\lvert \chi \rvert^2 = 1$ とワイルの積分公式から

1 = \frac{1}{\lvert W \rvert}\int_T\lvert \Delta\chi \rvert^2\,dt = \sum_\mu c_\mu^2

整数 $c_\mu$ の 2 乗和が 1 なので、ただ一つの $\mu$ について $c_\mu = \pm 1$ である。最高ウェイト $\lambda$ の項を比べると $\mu = \lambda + \rho$ , $c_\mu = 1$ となり、 $\chi = A_{\lambda+\rho}/A_\rho$ を得る。さらに、既約指標が類関数の完全系をなすこと（系 6.11）から、すべての支配的ウェイト $\lambda$ に既約表現が対応することも従う。詳細は Bröcker–tom Dieck の本の第VI章を参照。 $\square$

$SU(2)$ では $\rho = \omega$ , $e^\omega(t_\theta) = e^{i\theta}$ なので、公式は $\chi_n(t_\theta) = \frac{e^{i(n+1)\theta} - e^{-i(n+1)\theta}}{e^{i\theta} - e^{-i\theta}}$ となり 6.5 節の計算と一致する。 $U(n)$ では $T$ の元を $\operatorname{diag}(x_1, \dots, x_n)$ とすると、最高ウェイト $\lambda = (\lambda_1 \geq \cdots \geq \lambda_n)$ の既約指標は

\chi_\lambda(x) = \frac{\det\bigl(x_i^{\lambda_j + n - j}\bigr)}{\det\bigl(x_i^{n-j}\bigr)}

（シューア多項式）であり、分母はヴァンデルモンド行列式 $\prod_{i < j}(x_i - x_j)$ である（5.8 節）。こうして、単連結コンパクト群 $SU(n)$ の表現論と、第5章の $\mathfrak{sl}_n(\mathbb{C})$ の最高ウェイト理論は、ユニタリトリックを通じて同じものになる。

6.9 非コンパクト群の表現論への展望

コンパクト性を外すと様相は一変する。

命題 6.19 $\operatorname{SL}_2(\mathbb{R})$ の有限次元ユニタリ表現は自明表現の直和に限る。

証明. $(\pi, V)$ を有限次元ユニタリ表現とする。 $u(t) = I + tE = e^{tE}$ （ $E$ は例 2.15 の基底）, $a_s = \operatorname{diag}(e^s, e^{-s})$ とすると $a_su(t)a_s^{-1} = u(e^{2s}t)$ 。 $\pi(u(t))$ はユニタリな 1 径数部分群なので $\pi(u(t)) = e^{tA}$ で、 $A$ は歪エルミート行列である（定理 2.10）。上の関係式を $t = 0$ で微分すると $\pi(a_s)A\pi(a_s)^{-1} = e^{2s}A$ なので、 $A$ の固有値の集合はすべての $s$ について $e^{2s}$ 倍で不変であり、有限集合だから $\lbrace 0 \rbrace$ である。歪エルミート行列は対角化可能なので $A = 0$ 、すなわち $\pi(u(t)) = I$ 。 $Ju(t)J^{-1} = {}^tu(-t)$ なので、下三角の冪単行列 ${}^tu(t)$ でも $\pi = I$ 。最後に、 $\operatorname{SL}_2(\mathbb{R})$ は上下の冪単行列で生成される。実際 $ad - bc = 1$ , $c \neq 0$ なら

\begin{pmatrix} a & b \\ c & d \end{pmatrix} = u\Bigl(\frac{a-1}{c}\Bigr)\,{}^tu(c)\,u\Bigl(\frac{d-1}{c}\Bigr)

であり（右辺を計算すると右上の成分は $\frac{a(d-1) + (a-1)}{c} = \frac{ad - 1}{c} = b$ ）、 $c = 0$ の元には先に ${}^tu(1)$ を掛ければよい。よって $\pi$ は自明である。 $\square$

したがって、 $\operatorname{SL}_2(\mathbb{R})$ のような非コンパクト単純リー群の自明でない既約ユニタリ表現は無限次元である。 $\operatorname{SL}_2(\mathbb{R})$ の既約ユニタリ表現はバーグマン (1947) によって分類され、次の系列からなる（主張のみ）。

主系列表現：上三角部分群の指標から誘導した表現（1.10 節の誘導表現の類似）で、 $L^2(\mathbb{R})$ 上に実現される。
離散系列表現： $k \geq 2$ に対し、上半平面 $\mathbb{H}$ 上の正則関数で $\int_{\mathbb{H}}\lvert f(z) \rvert^2y^{k-2}\ dx\ dy < \infty$ を満たすものの空間に、 $g^{-1}$ の第 1 行を $(a, b)$ 、第 2 行を $(c, d)$ として $(\pi_k(g)f)(z) = (cz + d)^{-k}f\bigl(\frac{az+b}{cz+d}\bigr)$ で作用させたもの（とその複素共役）。重さ $k$ のモジュラー形式（リーマン面と保型形式第3章）と深く関係する。
補系列表現と自明表現。

$L^2(\operatorname{SL}_2(\mathbb{R}))$ は、ピーター–ワイルの定理の類似として、主系列の「連続和」（直積分）と離散系列の直和に分解する（ハリシュ＝チャンドラのプランシュレル定理）。非コンパクト群の表現論は、無限次元表現をリー環の側から扱う $(\mathfrak{g}, K)$ -加群の理論、保型形式と $L^2(\Gamma\backslash G)$ のスペクトル分解、さらにラングランズ・プログラムへとつながっている。詳しくは Knapp の本、小林・大島の本を参照。

まとめ

コンパクト群には両側不変なハール確率測度があり、有限群の平均の役割を果たす。
有限次元表現は不変内積をもち完全可約。シューアの直交関係により、既約表現の行列要素 $\sqrt{d_\pi}\pi_{ij}$ と既約指標は正規直交系をなす。
ピーター–ワイルの定理：行列要素は $C(G)$ で一様稠密で、 $L^2(G)$ の完全正規直交系をなす。証明は畳み込み作用素（コンパクト自己共役）のスペクトル分解による。 $S^1$ ではフーリエ級数論。
$SU(2)$ の既約表現は $n$ 次斉次多項式の空間 $\pi_n$ で尽き、指標は $\sin(n+1)\theta/\sin\theta$ 。
$SO(3)$ の既約表現は $\pi_{2\ell}$ に対応し、調和多項式 $\mathcal{H}_\ell$ （球面調和関数）として実現され、 $L^2(S^2)$ に各 1 回現れる。
コンパクト連結リー群の元は極大トーラスに共役で、類関数の積分はワイルの積分公式で $T$ 上に帰着する。これがワイルの指標公式の解析的証明を与える。
非コンパクト単純群では自明でない既約ユニタリ表現は無限次元であり、 $\operatorname{SL}_2(\mathbb{R})$ では主系列・離散系列などが現れる。

演習問題

問題 6.1 ★ トーラス $T^2 = S^1 \times S^1$ の既約表現をすべて求め、ピーター–ワイルの定理が 2 変数フーリエ級数の完全性を意味することを説明せよ。

解答

$T^2$ は可換なので既約表現は 1 次元（系 1.13）で、連続準同型 $T^2 \to U(1)$ である。各成分 $S^1 \to U(1)$ への制限は $e^{i\theta} \mapsto e^{in\theta}$ の形（例 6.12）なので、既約表現は $\chi_{m,n}(e^{i\theta_1}, e^{i\theta_2}) = e^{i(m\theta_1 + n\theta_2)}$ ( $m, n \in \mathbb{Z}$ ) で尽きる。 $d_\pi = 1$ なので定理 6.8 の 2 は「 $\lbrace e^{i(m\theta_1 + n\theta_2)} \rbrace$ が $L^2(T^2, d\theta_1d\theta_2/4\pi^2)$ の完全正規直交系である」ことを意味し、1 は 2 変数三角多項式の一様稠密性である。

問題 6.2 ★ $SU(2)$ の表現 $\pi_1^{\otimes 3}$ を指標を用いて既約分解せよ。

解答

$\chi_1(t_\theta) = 2\cos\theta$ で、 $\chi_1^3 = 8\cos^3\theta = 2\cos 3\theta + 6\cos\theta$ 。一方 $\chi_3 = e^{3i\theta} + e^{i\theta} + e^{-i\theta} + e^{-3i\theta} = 2\cos 3\theta + 2\cos\theta$ なので $\chi_1^3 = \chi_3 + 2\chi_1$ 。よって $\pi_1^{\otimes 3} \cong \pi_3 \oplus \pi_1^{\oplus 2}$ （次元 $8 = 4 + 2 \cdot 2$ ）。クレブシュ–ゴルダンの公式からも $\pi_1 \otimes \pi_1 = \pi_2 \oplus \pi_0$ 、 $\pi_2 \otimes \pi_1 = \pi_3 \oplus \pi_1$ で同じ結果を得る。

問題 6.3 ★★ $\int_{SU(2)}(\operatorname{tr}g)^{2k}\ dg$ を計算し、カタラン数 $C_k = \frac{1}{k+1}\binom{2k}{k}$ に等しいことを示せ。これは表現論的には何を数えているか。（ヒント： $\int_0^\pi\cos^{2m}\theta\ d\theta = \pi\binom{2m}{m}/4^m$ 。）

解答

命題 6.14 より、積分は $\frac{2}{\pi}\int_0^\pi(2\cos\theta)^{2k}\sin^2\theta\ d\theta = \frac{2 \cdot 4^k}{\pi}\bigl(I_k - I_{k+1}\bigr)$ 、 $I_m = \int_0^\pi\cos^{2m}\theta\ d\theta$ 。ヒントより

\frac{2 \cdot 4^k}{\pi}\Bigl(\frac{\pi}{4^k}\binom{2k}{k} - \frac{\pi}{4^{k+1}}\binom{2k+2}{k+1}\Bigr) = 2\binom{2k}{k}\Bigl(1 - \frac{2k+1}{2k+2}\Bigr) = \frac{1}{k+1}\binom{2k}{k}

（ $\binom{2k+2}{k+1} = \binom{2k}{k}\frac{2(2k+1)}{k+1}$ を使った）。 $\operatorname{tr}g = \chi_1(g)$ は実数なので、積分は $\int\chi_1^{2k}\overline{\chi_0} =$ 「 $\pi_1^{\otimes 2k}$ に含まれる自明表現の重複度」 $= \dim(\pi_1^{\otimes 2k})^{SU(2)}$ である。 $k = 1, 2, 3$ で $1, 2, 5$ 。例えば $k = 2$ では $\pi_1^{\otimes 4} = \pi_4 \oplus 3\pi_2 \oplus 2\pi_0$ で、確かに 2 である。

問題 6.4 ★★ $SO(3)$ の $\mathbb{C}^3$ 上の自然な表現 $\rho_1$ について $\rho_1 \otimes \rho_1 \cong \rho_2 \oplus \rho_1 \oplus \rho_0$ を示し、各成分を具体的に（ $3 \times 3$ 行列の空間 $\mathbb{C}^3 \otimes \mathbb{C}^3$ の部分空間として）記述せよ。

解答

指標は $\chi_{\rho_1}(R_\theta) = e^{-i\theta} + 1 + e^{i\theta}$ なので $\chi_{\rho_1}^2 = \sum_{m=-2}^2 e^{im\theta} + \sum_{m=-1}^1 e^{im\theta} + 1 = \chi_{\rho_2} + \chi_{\rho_1} + \chi_{\rho_0}$ （ $e^{\pm 2i\theta}$ の係数 1、 $e^{\pm i\theta}$ の係数 2、定数項 3 を確かめよ）。 $\mathbb{C}^3 \otimes \mathbb{C}^3$ を行列 $X$ の空間とみると $g$ は $X \mapsto gX{}^tg$ と作用し、トレース 0 の対称行列（5 次元、 $\rho_2$ ）、交代行列（3 次元、交代行列 $L_x$ と $x$ の対応 $gL_xg^{-1} = L_{gx}$ で $\rho_1$ ）、単位行列のスカラー倍（1 次元、 $g{}^tg = I$ より不変、 $\rho_0$ ）に分解する。これは $SU(2)$ の $\pi_2 \otimes \pi_2 = \pi_4 \oplus \pi_2 \oplus \pi_0$ でもある。

問題 6.5 ★★ $\operatorname{SL}_2(\mathbb{R})$ の（連続な、複素）有限次元既約表現は、 $\operatorname{Sym}^n\mathbb{C}^2$ （ $\mathbb{C}^2$ 上の標準表現の対称積）で尽きることを示せ。（ヒント：連結な群の不変部分空間はリー環の不変部分空間と一致する。）

解答

$(\pi, V)$ を有限次元既約表現とする（連続準同型は滑らか：系 2.21）。微分 $d\pi$ を複素線形に $\mathfrak{sl}_2(\mathbb{C}) = \mathfrak{sl}_2(\mathbb{R}) \otimes \mathbb{C}$ に延ばす。 $\operatorname{SL}_2(\mathbb{R})$ は連結なので（ $\exp$ の像で生成される）、部分空間が $\pi(G)$ で不変であることと $d\pi(\mathfrak{sl}_2(\mathbb{R}))$ で不変であることは同値であり、後者は $\mathfrak{sl}_2(\mathbb{C})$ で不変であることと同値である。よって $V$ は既約 $\mathfrak{sl}_2(\mathbb{C})$ -加群で、定理 4.3 より $V(n) \cong \operatorname{Sym}^n\mathbb{C}^2$ と同型である。 $\operatorname{Sym}^n\mathbb{C}^2$ は $\operatorname{SL}_2(\mathbb{R})$ の表現でもあり、微分が $V$ と同型な二つの表現は、連結群では系 2.21 により同型である。 $n \geq 1$ のとき、これらはユニタリ化できない（命題 6.19）ことに注意する。

問題 6.6 ★★ $SU(2)$ の指標について、 $\int_{SU(2)}\chi_k\chi_m\chi_n\ dg$ は、 $\lvert m - n \rvert \leq k \leq m + n$ かつ $k + m + n$ が偶数のとき 1、それ以外は 0 であることを示せ。

解答

指標は実数値なので、積分は $\int(\chi_m\chi_n)\overline{\chi_k} =$ 「 $\pi_m \otimes \pi_n$ における $\pi_k$ の重複度」である。クレブシュ–ゴルダンの公式より $\pi_m \otimes \pi_n = \bigoplus_{j=0}^{\min(m,n)}\pi_{m+n-2j}$ で、現れる $k = m + n - 2j$ は $\lvert m - n \rvert \leq k \leq m + n$ かつ $k \equiv m + n \pmod 2$ を満たすものちょうどであり、各 1 回である。

問題 6.7 ★★★ コンパクト群 $G$ のヒルベルト空間 $\mathcal{H}$ 上の既約ユニタリ表現は有限次元であることを示せ。（ヒント： $0 \neq v \in \mathcal{H}$ について、 $\mathbb{C}v$ への直交射影 $P$ を平均した $T = \int_G\pi(g)P\pi(g)^{-1}\ dg$ を考えよ。）

解答

$\lVert v \rVert = 1$ とする。 $\pi(g)P\pi(g)^{-1}$ は $x \mapsto \langle x, \pi(g)v \rangle\pi(g)v$ という階数 1 の作用素で、 $g \mapsto \pi(g)v$ がノルム連続なので作用素ノルムについて連続である。したがって $T$ は（作用素ノルムで収束する）リーマン和の極限として定義でき、コンパクト作用素のノルム極限なのでコンパクトである。 $T$ は正の自己共役作用素で、 $\langle Tv, v \rangle = \int_G\lvert \langle v, \pi(g)v \rangle \rvert^2dg > 0$ （被積分関数は連続で $g = e$ で 1）なので $T \neq 0$ 。ハール測度の不変性から $\pi(h)T\pi(h)^{-1} = T$ 。 $T$ の 0 でない固有値 $\lambda$ の固有空間 $E_\lambda$ は有限次元（コンパクト作用素のスペクトル定理）で、 $T$ と可換な $\pi(h)$ で不変な 0 でない閉部分空間である。既約性から $\mathcal{H} = E_\lambda$ であり、 $\mathcal{H}$ は有限次元である。