多変数関数の微分

この章の目標

• $\mathbb{R}^n$ のノルム・開集合・閉集合・コンパクト集合を扱い、有界閉集合上の連続関数が最大値をとることを証明できる
• 多変数関数の極限・連続性を ε-δ 論法で扱い、「直線に沿った極限」では不十分であることを理解する
• 全微分（線形近似）を定義し、偏微分可能性・方向微分可能性との違いを反例で説明できる
• $C^1$ 級なら全微分可能であること、連鎖律、シュワルツの定理を証明できる
• 多変数のテイラーの定理を導き、ヘッセ行列の正定値性で極値を判定できる

前提：第1章〜第4章、02-linear-algebra 第1章、第8章 二次形式（正定値性）

7.1 $\mathbb{R}^n$ の距離と位相

1 変数の解析学は「$\lvert x - a \rvert$ が小さい」という概念の上に築かれていた。多変数では、これを点と点の距離に置き換える。

$\mathbb{R}^n$ の元 $x = (x_1, \dots, x_n)$ を縦ベクトルとも同一視する。標準内積を $\langle x, y \rangle = \sum_{i=1}^{n}x_iy_i$、ユークリッドノルムを $\lVert x \rVert = \sqrt{\langle x, x \rangle}$ と定め、$\lVert x - y \rVert$ を $x$ と $y$ の距離とする。

命題 7.1 (1)（コーシー–シュワルツの不等式）$\lvert \langle x, y \rangle \rvert \leq \lVert x \rVert\lVert y \rVert$。 (2)（三角不等式）$\lVert x + y \rVert \leq \lVert x \rVert + \lVert y \rVert$。 (3) $\max_i\lvert x_i \rvert \leq \lVert x \rVert \leq \sqrt{n}\max_i\lvert x_i \rvert$。

証明. (1) $y = 0$ なら自明。$y \neq 0$ なら任意の $t \in \mathbb{R}$ で $0 \leq \lVert x - ty \rVert^2 = \lVert x \rVert^2 - 2t\langle x, y \rangle + t^2\lVert y \rVert^2$。$t = \frac{\langle x, y \rangle}{\lVert y \rVert^2}$ とすると $0 \leq \lVert x \rVert^2 - \frac{\langle x, y \rangle^2}{\lVert y \rVert^2}$。(2) $\lVert x + y \rVert^2 = \lVert x \rVert^2 + 2\langle x, y \rangle + \lVert y \rVert^2 \leq (\lVert x \rVert + \lVert y \rVert)^2$。(3) $x_i^2 \leq \sum_j x_j^2 \leq n\max_j x_j^2$。$\square$

(3) より、「$\lVert x^{(k)} - a \rVert \to 0$」と「各成分が収束する」は同値である。点列 $(x^{(k)})$ が $a$ に収束するとは $\lVert x^{(k)} - a \rVert \to 0$ のことであり、点列の収束は成分ごとの収束と同値である。したがって、コーシー列の収束（各成分がコーシー列）やボルツァノ–ワイエルシュトラスの定理（成分ごとに順に部分列をとる）も $\mathbb{R}^n$ で成り立つ。

定義 7.2（開集合・閉集合）$a \in \mathbb{R}^n$、$r > 0$ に対して $B(a, r) = \lbrace x \mid \lVert x - a \rVert < r \rbrace$ を開球 (open ball) という。$U \subset \mathbb{R}^n$ が開集合 (open set) であるとは、各 $a \in U$ に対して $B(a, r) \subset U$ となる $r > 0$ が存在することをいう。補集合が開集合である集合を閉集合 (closed set) という。$A$ に含まれる最大の開集合を内部 $A^\circ$、$A$ を含む最小の閉集合を閉包 $\overline{A}$、$\partial A = \overline{A} \setminus A^\circ$ を境界という。

開球は開集合である（$x \in B(a, r)$ なら三角不等式より $B(x, r - \lVert x - a \rVert) \subset B(a, r)$）。閉球 $\lbrace x \mid \lVert x - a \rVert \leq r \rbrace$ は閉集合である。

命題 7.3 $F \subset \mathbb{R}^n$ が閉集合であるための必要十分条件は、$F$ の点列が収束するとき、その極限が常に $F$ に属することである。

証明. (必要性) $x^{(k)} \in F$、$x^{(k)} \to a$ で $a \notin F$ とすると、補集合は開なので $B(a, r) \cap F = \emptyset$ となる $r$ があるが、十分大きな $k$ で $x^{(k)} \in B(a, r)$ となり矛盾。(十分性) 補集合が開でないとすると、ある $a \notin F$ があって各 $k$ で $B(a, \frac{1}{k})$ が $F$ の点 $x^{(k)}$ を含む。$x^{(k)} \to a \notin F$ となり仮定に反する。$\square$

定義 7.4（コンパクト集合）$K \subset \mathbb{R}^n$ の任意の点列が $K$ の点に収束する部分列をもつとき、$K$ はコンパクト (compact) であるという。

定理 7.5 $K \subset \mathbb{R}^n$ がコンパクトであるための必要十分条件は、$K$ が有界閉集合であることである。

証明. (十分性) $K$ の点列は有界なので、ボルツァノ–ワイエルシュトラスの定理より収束部分列をもち、$K$ は閉なのでその極限は $K$ に属する（命題 7.3）。(必要性) 有界でなければ $\lVert x^{(k)} \rVert > k$ となる点列がとれ、どの部分列も収束しない。閉でなければ、命題 7.3 より $K$ の外に極限をもつ収束点列があり、その部分列もすべて同じ極限に収束するので $K$ の点に収束しない。$\square$

7.2 多変数関数の極限と連続性

$D \subset \mathbb{R}^n$、$f\colon D \to \mathbb{R}^m$ とする。1 変数の場合の $\lvert \cdot \rvert$ をノルムに置き換えれば、極限・連続性の定義はそのまま移せる：$a$ を $D$ の集積点として

であり、$a \in D$ で $\lim_{x \to a} f(x) = f(a)$（または $a$ が孤立点）のとき $f$ は $a$ で連続という。第3章と同様に点列による特徴づけ（定理 3.6）が成り立ち、和・積・合成は連続性を保つ。$f = (f_1, \dots, f_m)$ が連続であることと各成分 $f_i$ が連続であることは同値である（命題 7.1 (3)）。

1 変数と本質的に違うのは、$x$ が $a$ に近づく方向・経路が無数にあることである。

例 7.6 (1) $f(x, y) = \frac{xy}{x^2 + y^2}$（$(x,y) \neq 0$）は原点で極限をもたない。直線 $y = kx$ に沿って近づくと $f(x, kx) = \frac{k}{1 + k^2}$ で、値が $k$ によって異なる。 (2) $f(x, y) = \frac{x^2y}{x^2 + y^2}$ は原点で $0$ に収束する。

下書き. $\frac{x^2}{x^2 + y^2} \leq 1$ なので $\lvert f(x, y) \rvert \leq \lvert y \rvert \leq \lVert (x, y) \rVert$。よって $\delta = \varepsilon$ でよい。

証明. $\varepsilon > 0$ に対し $\delta = \varepsilon$ とする。$0 < \lVert (x, y) \rVert < \delta$ なら $\lvert f(x, y) - 0 \rvert \leq \lvert y \rvert \leq \lVert (x, y) \rVert < \varepsilon$。$\square$

(3) $f(x, y) = \frac{x^2y}{x^4 + y^2}$ は、原点を通るどの直線に沿って近づいても $0$ に近づく（$y = kx$ なら $f = \frac{kx}{x^2 + k^2} \to 0$、$x = 0$ なら $f = 0$）。しかし放物線 $y = x^2$ に沿うと $f = \frac{1}{2}$ なので、原点で極限をもたない。

第3章の最大値定理とハイネ–カントールの定理は、証明を一字一句変えずに（ボルツァノ–ワイエルシュトラスを $\mathbb{R}^n$ 版にして）次のように一般化される。

定理 7.7 $K \subset \mathbb{R}^n$ をコンパクト集合、$f\colon K \to \mathbb{R}$ を連続とする。

1. $f$ は有界であり、最大値と最小値をとる。
2. $f$ は $K$ 上一様連続である：$\forall \varepsilon > 0,\ \exists \delta > 0,\ \forall x, y \in K,\ \lVert x - y \rVert < \delta \Rightarrow \lvert f(x) - f(y) \rvert < \varepsilon$。

証明. (1) 定理 3.21 の証明で、$[a, b]$ を $K$ に、系 1.35 (3) を定義 7.4 に置き換えればよい。(2) 定理 3.25 の証明と同様。$\square$

線形写像の大きさを測るために、行列のノルムを導入しておく。$m \times n$ 行列 $A$ に対し $\lVert A \rVert = \sup_{\lVert x \rVert \leq 1}\lVert Ax \rVert$ を作用素ノルム (operator norm) という。$Ax$ の第 $i$ 成分にコーシー–シュワルツの不等式を使うと $\lVert Ax \rVert \leq \left(\sum_{i,j}a_{ij}^2\right)^{1/2}\lVert x \rVert$ なので $\lVert A \rVert < \infty$ であり、

が成り立つ。特に線形写像はリプシッツ連続である。

7.3 偏微分と全微分

以下 $U \subset \mathbb{R}^n$ は開集合とする。$e_j$ を第 $j$ 標準基底ベクトルとする。

定義 7.8（偏微分, partial derivative）$f\colon U \to \mathbb{R}$、$a \in U$ に対して、極限

$$\frac{\partial f}{\partial x_j}(a) = \lim_{t \to 0}\frac{f(a + te_j) - f(a)}{t}$$

が存在するとき、$f$ は $a$ で $x_j$ について偏微分可能であるといい、これを偏微分係数という。$\partial_jf(a)$、$f_{x_j}(a)$ とも書く。

偏微分は「他の変数を固定して 1 変数関数として微分する」ことであり、計算は高校の微分と同じである。しかし、偏微分可能性は関数の振る舞いについてほとんど何も保証しない。

例 7.9（偏微分可能だが連続でない）例 7.6 (1) の $f(x, y) = \frac{xy}{x^2 + y^2}$ に $f(0, 0) = 0$ と定める。座標軸上で $f = 0$ なので $f_x(0, 0) = f_y(0, 0) = 0$ であり、原点で偏微分可能である。しかし原点で極限をもたないので連続ではない。

偏微分は座標軸方向の情報しか見ていない。1 変数の微分の本質が「一次式による近似」であったことを思い出すと、多変数での正しい定義は次のようになる。

定義 7.10（全微分可能性, differentiability）$f\colon U \to \mathbb{R}^m$、$a \in U$ とする。$m \times n$ 行列 $A$（すなわち線形写像 $\mathbb{R}^n \to \mathbb{R}^m$）が存在して

$$f(a + h) = f(a) + Ah + o(\lVert h \rVert) \quad (h \to 0), \quad \text{すなわち} \quad \lim_{h \to 0}\frac{\lVert f(a + h) - f(a) - Ah \rVert}{\lVert h \rVert} = 0$$

が成り立つとき、$f$ は $a$ で（全）微分可能であるといい、$A$ を $f$ の $a$ における微分 (derivative) と呼んで $Df(a)$ と書く。$U$ の各点で微分可能なとき $f$ は $U$ で微分可能という。

$A$ は存在すれば一意である：$A, A'$ がともに条件を満たせば、$\frac{\lVert (A - A')h \rVert}{\lVert h \rVert} \to 0$ であり、$h = te_j$（$t \to 0$）とすると $(A - A')e_j = 0$ がすべての $j$ で成り立つ。

命題 7.11 $f\colon U \to \mathbb{R}^m$ が $a$ で微分可能ならば、次が成り立つ。

1. $f$ は $a$ で連続である。
2. 任意の $v \in \mathbb{R}^n$ について、方向微分 $D_vf(a) = \lim_{t \to 0}\frac{f(a + tv) - f(a)}{t}$ が存在し、$D_vf(a) = Df(a)v$。
3. 各成分は偏微分可能で、$Df(a)$ はヤコビ行列 (Jacobian matrix) $\left(\frac{\partial f_i}{\partial x_j}(a)\right)_{i,j}$ に等しい。

証明. (1) $\lVert f(a + h) - f(a) \rVert \leq \lVert Df(a) \rVert\lVert h \rVert + o(\lVert h \rVert) \to 0$。(2) $v \neq 0$ として $h = tv$ を代入すると $\frac{f(a + tv) - f(a)}{t} = Df(a)v + \frac{o(\lvert t \rvert\lVert v \rVert)}{t} \to Df(a)v$。(3) (2) で $v = e_j$ とし、第 $i$ 成分を見ればよい。$\square$

$m = 1$ のとき、$Df(a)$ は $1 \times n$ 行列であり、これを縦ベクトルにしたものを勾配 (gradient) $\nabla f(a) = (\partial_1f(a), \dots, \partial_nf(a))$ と書く。$Df(a)h = \langle \nabla f(a), h \rangle$ である。

命題 7.11 の逆はどれも成り立たない。

例 7.12（すべての方向微分が存在するが微分可能でない）例 7.6 (3) の $f(x, y) = \frac{x^2y}{x^4 + y^2}$、$f(0,0) = 0$ を考える。$v = (v_1, v_2)$ とすると、$v_2 \neq 0$ なら

$v_2 = 0$ なら $f(tv) = 0$ なので $D_vf(0) = 0$。すべての方向微分が存在するが、$v \mapsto D_vf(0)$ は線形でなく、そもそも $f$ は原点で連続でない。

では、どのような条件があれば全微分可能になるのか。実用上最も重要な十分条件が次である。

定理 7.13（$C^1$ 級なら微分可能）$f\colon U \to \mathbb{R}$ のすべての偏導関数 $\partial_jf$ が $a$ の近くで存在し、$a$ で連続ならば、$f$ は $a$ で微分可能である。

証明. 下書き. $f(a + h) - f(a)$ を、座標軸に平行な線分をたどる $n$ 個の差に分解し、それぞれに 1 変数の平均値の定理を使う。

清書. $B(a, r) \subset U$ を偏導関数が存在する範囲とし、$\lVert h \rVert < r$ とする。$p_0 = a$、$p_j = a + h_1e_1 + \cdots + h_je_j$（$p_n = a + h$）とおくと、$p_{j-1}$ と $p_j$ は第 $j$ 座標だけが異なり、両者を結ぶ線分は $B(a, r)$ に含まれる。1 変数関数 $t \mapsto f(p_{j-1} + te_j)$ に平均値の定理を使うと

よって

$\lVert q_j - a \rVert \leq \lVert h \rVert$ なので、$h \to 0$ のとき偏導関数の $a$ での連続性より右辺の和は $0$ に収束する。$\square$

すべての偏導関数が $U$ 上で存在して連続なとき、$f$ は $C^1$ 級であるという（$\mathbb{R}^m$ 値なら各成分が $C^1$ 級）。定理 7.13 より $C^1$ 級関数は微分可能であり、実際の計算では「偏導関数が連続であることを確かめて、ヤコビ行列を計算する」のが標準的な手順になる。$C^1$ 級は微分可能性の十分条件であって必要条件ではない（問題 7.5）。

勾配には幾何学的な意味がある。$\lVert v \rVert = 1$ の方向への変化率 $D_vf(a) = \langle \nabla f(a), v \rangle$ は、コーシー–シュワルツの不等式より $v = \frac{\nabla f(a)}{\lVert \nabla f(a) \rVert}$ のとき最大値 $\lVert \nabla f(a) \rVert$ をとる。つまり勾配は $f$ が最も急に増加する方向を向き、その大きさは最大の増加率である。また、第8章で見るように、勾配は等高面 $\lbrace f = c \rbrace$ に直交する。

7.4 連鎖律

定理 7.14（連鎖律, chain rule）$U \subset \mathbb{R}^n$、$V \subset \mathbb{R}^m$ を開集合、$g\colon U \to V$ が $a$ で微分可能、$f\colon V \to \mathbb{R}^l$ が $b = g(a)$ で微分可能ならば、$f \circ g$ は $a$ で微分可能で

$$D(f \circ g)(a) = Df(g(a))\,Dg(a) \quad (\text{行列の積})$$

証明. $A = Dg(a)$、$B = Df(b)$ とおく。微分可能性より

と書け、$h \to 0$ で $\rho_1(h) \to 0$、$k \to 0$ で $\rho_2(k) \to 0$ である（$\rho_2(0) = 0$ と定める）。$k = g(a + h) - g(a) = Ah + \lVert h \rVert\rho_1(h)$ とおくと $\lVert k \rVert \leq (\lVert A \rVert + \lVert \rho_1(h) \rVert)\lVert h \rVert$ であり、

右辺を $\lVert h \rVert$ で割ったものの大きさは $\lVert B \rVert\lVert \rho_1(h) \rVert + (\lVert A \rVert + \lVert \rho_1(h) \rVert)\lVert \rho_2(k) \rVert$ 以下である。$h \to 0$ のとき $k \to 0$（$g$ は $a$ で連続）なので $\rho_2(k) \to 0$（$k = 0$ のときも $\rho_2(0) = 0$ で問題ない）、よってこれは $0$ に収束する。$\square$

成分で書くと、$z = f(y)$、$y = g(x)$ のとき

である。高校の合成関数の微分 $\frac{dz}{dx} = \frac{dz}{dy}\frac{dy}{dx}$ が、行列の積に置き換わった形である。

例 7.15（極座標）$f(x, y)$ を $C^1$ 級とし、$u(r, \theta) = f(r\cos\theta, r\sin\theta)$ とおくと

特に $u_r^2 + \frac{1}{r^2}u_\theta^2 = f_x^2 + f_y^2$（$r > 0$）。

例 7.16（曲線に沿った微分）$\gamma\colon (\alpha, \beta) \to U$ が微分可能な曲線、$f\colon U \to \mathbb{R}$ が微分可能なら、$\frac{d}{dt}f(\gamma(t)) = \langle \nabla f(\gamma(t)), \gamma'(t) \rangle$。$\gamma$ が等高面 $\lbrace f = c \rbrace$ 上の曲線なら左辺は $0$ なので、$\nabla f$ は等高面上の曲線の速度ベクトルと直交する。

連鎖律から多変数の平均値の定理が得られる。$a, b \in \mathbb{R}^n$ を結ぶ線分を $[a, b] = \lbrace (1 - t)a + tb \mid 0 \leq t \leq 1 \rbrace$ と書く。

定理 7.17（平均値の定理）$f\colon U \to \mathbb{R}$ が微分可能で $[a, b] \subset U$ ならば、線分 $[a, b]$ 上のある点 $c$ で $f(b) - f(a) = \langle \nabla f(c), b - a \rangle$。

証明. $\varphi(t) = f(a + t(b - a))$ に 1 変数の平均値の定理を使うと $\varphi(1) - \varphi(0) = \varphi'(\theta)$（$0 < \theta < 1$）であり、連鎖律より $\varphi'(\theta) = \langle \nabla f(a + \theta(b - a)), b - a \rangle$。$\square$

系 7.18 $U$ が凸な開集合（任意の 2 点を結ぶ線分を含む）で、$U$ 上 $\nabla f = 0$ ならば、$f$ は定数である。

$U$ が凸でなくても連結な開集合（弧状連結な開集合。任意の 2 点を座標軸に平行な線分をつないだ折れ線で結べる）なら、同じ結論が成り立つ。$\mathbb{R}^m$ 値関数に対しては定理 7.17 の等式は一般に成り立たない（$f(t) = (\cos t, \sin t)$ を $[0, 2\pi]$ で考えよ）が、不等式版は成り立つ（第8章の定理 8.4）。

7.5 高階偏微分とシュワルツの定理

偏導関数 $\partial_jf$ がさらに偏微分可能なとき、$\partial_i\partial_jf = \frac{\partial^2 f}{\partial x_i\partial x_j}$ などと書く。$k$ 階までのすべての偏導関数が存在して連続なとき $f$ は $C^k$ 級、すべての $k$ で $C^k$ 級なとき $C^\infty$ 級という。2 変数では $f_{xy} = (f_x)_y = \frac{\partial^2 f}{\partial y\partial x}$ と書く（微分する順に添字を並べる）。

偏微分の順序は交換できるだろうか。一般にはできない。

例 7.19（順序交換できない例）

$y \neq 0$ なら $\frac{f(h, y) - f(0, y)}{h} = \frac{y(h^2 - y^2)}{h^2 + y^2} \to -y$ なので $f_x(0, y) = -y$（$y = 0$ でも $f(h, 0) = 0$ より成り立つ）。同様に $\frac{f(x, k)}{k} = \frac{x(x^2 - k^2)}{x^2 + k^2} \to x$ より $f_y(x, 0) = x$。したがって

であり、二つの 2 階偏微分係数は異なる。

定理 7.20（シュワルツの定理, Schwarz's theorem）$f\colon U \to \mathbb{R}$（$U \subset \mathbb{R}^2$ 開集合）について、$(a, b) \in U$ の近くで $f_x$、$f_y$、$f_{xy}$ が存在し、$f_{xy}$ が $(a, b)$ で連続ならば、$f_{yx}(a, b)$ も存在して $f_{yx}(a, b) = f_{xy}(a, b)$。

証明. 小さな $h, k \neq 0$ に対して、2 階差分

を考える。$\psi(x) = f(x, b + k) - f(x, b)$ とおくと $\Delta = \psi(a + h) - \psi(a)$ なので、平均値の定理より

さらに $y \mapsto f_x(a + \theta_1h, y)$ に平均値の定理を使うと $\Delta(h, k) = hk\ f_{xy}(a + \theta_1h, b + \theta_2k)$（$0 < \theta_1, \theta_2 < 1$）。$f_{xy}$ の連続性より、$\varepsilon > 0$ に対して $\delta > 0$ があり、$0 < \lvert h \rvert, \lvert k \rvert < \delta$ なら

一方、$h$ を固定して $k \to 0$ とすると $\frac{\Delta(h, k)}{k} \to f_y(a + h, b) - f_y(a, b)$。上の不等式で $k \to 0$ とすると、$0 < \lvert h \rvert < \delta$ で

よって $f_{yx}(a, b) = \lim_{h \to 0}\frac{f_y(a + h, b) - f_y(a, b)}{h}$ が存在して $f_{xy}(a, b)$ に等しい。$\square$

特に $f$ が $C^2$ 級なら $\partial_i\partial_jf = \partial_j\partial_if$ であり、帰納法により、$C^k$ 級関数の $k$ 階以下の偏導関数は微分の順序によらない。例 7.19 では $f_{xy}$ が原点で連続でない。

7.6 多変数のテイラーの定理

$f$ を $C^{k+1}$ 級とし、線分 $[a, a + h] \subset U$ とする。$g(t) = f(a + th)$ とおくと、連鎖律を繰り返し使って

一般に $g^{(p)}(t) = \sum_{i_1, \dots, i_p}h_{i_1}\cdots h_{i_p}\partial_{i_1}\cdots\partial_{i_p}f(a + th)$ であり、これを $\bigl((h \cdot \nabla)^pf\bigr)(a + th)$ と略記する。1 変数のテイラーの定理を $g$ に $t = 1$ で適用すると次を得る。

定理 7.21（多変数のテイラーの定理）$f\colon U \to \mathbb{R}$ が $C^{k+1}$ 級で、線分 $[a, a + h] \subset U$ ならば、ある $\theta \in (0, 1)$ について

$$f(a + h) = \sum_{p=0}^{k}\frac{1}{p!}\bigl((h \cdot \nabla)^pf\bigr)(a) + \frac{1}{(k+1)!}\bigl((h \cdot \nabla)^{k+1}f\bigr)(a + \theta h)$$

特に 2 次までを書くと、ヘッセ行列 (Hessian matrix) $H_f(a) = \bigl(\partial_i\partial_jf(a)\bigr)_{i,j}$（シュワルツの定理より対称行列）を用いて

となる。$f$ が $C^2$ 級なら、$H_f$ の連続性より $\lvert \langle (H_f(a + \theta h) - H_f(a))h, h \rangle \rvert \leq \lVert H_f(a + \theta h) - H_f(a) \rVert\lVert h \rVert^2 = o(\lVert h \rVert^2)$ なので

が成り立つ（ペアノ剰余の形）。

例 7.22 $f(x, y) = e^x\cos y$ の原点での 2 次までの展開：$f_x = e^x\cos y$、$f_y = -e^x\sin y$、$f_{xx} = e^x\cos y$、$f_{xy} = -e^x\sin y$、$f_{yy} = -e^x\cos y$ より、原点で $\nabla f = (1, 0)$、$H_f = \operatorname{diag}(1, -1)$（対角成分が $1, -1$ の対角行列）。よって $e^x\cos y = 1 + x + \frac{1}{2}(x^2 - y^2) + o(x^2 + y^2)$。1 変数の展開 $(1 + x + \frac{x^2}{2})(1 - \frac{y^2}{2})$ の 2 次までと一致する。

7.7 極値とヘッセ行列

命題 7.23 $f\colon U \to \mathbb{R}$ が $a \in U$ で極値をとり、$a$ で微分可能ならば、$\nabla f(a) = 0$。

証明. 各 $j$ について、1 変数関数 $t \mapsto f(a + te_j)$ は $t = 0$ で極値をとるので、補題 4.10 より $\partial_jf(a) = 0$。$\square$

$\nabla f(a) = 0$ となる点を臨界点 (critical point) という。臨界点での振る舞いは、(1) 式の 2 次の項、すなわち二次形式 $h \mapsto \langle H_f(a)h, h \rangle$ で決まる。対称行列 $H$ が正定値 (positive definite) であるとは、すべての $h \neq 0$ で $\langle Hh, h \rangle > 0$ となることをいい、負定値も同様に定める。正の値と負の値の両方をとるとき不定値 (indefinite) という（02-linear-algebra 第8章。固有値がすべて正・すべて負・正負両方を含む、と同値）。

定理 7.24（極値の判定）$f\colon U \to \mathbb{R}$ を $C^2$ 級、$a$ を臨界点とする。

1. $H_f(a)$ が正定値ならば、$f$ は $a$ で狭義の極小をとる。
2. $H_f(a)$ が負定値ならば、$f$ は $a$ で狭義の極大をとる。
3. $H_f(a)$ が不定値ならば、$f$ は $a$ で極値をとらない（$a$ は鞍点 (saddle point) である）。

証明. (1) 単位球面 $S = \lbrace h \mid \lVert h \rVert = 1 \rbrace$ は有界閉集合なのでコンパクトであり、連続関数 $h \mapsto \langle H_f(a)h, h \rangle$ は $S$ 上で最小値 $\lambda$ をとる。正定値性より $\lambda > 0$ で、同次性から $\langle H_f(a)h, h \rangle \geq \lambda\lVert h \rVert^2$ がすべての $h$ で成り立つ。(1) 式の $o(\lVert h \rVert^2)$ の項が $\frac{\lambda}{4}\lVert h \rVert^2$ 以下となる範囲 $0 < \lVert h \rVert < \delta$ では

(2) は $-f$ に (1) を適用する。(3) $\langle H_f(a)v, v \rangle > 0$、$\langle H_f(a)w, w \rangle < 0$ となる $v, w$ をとる。(1) 式より $f(a + tv) - f(a) = \frac{t^2}{2}\langle H_f(a)v, v \rangle + o(t^2)$ は小さい $t \neq 0$ で正、同様に $f(a + tw) - f(a)$ は負である。$\square$

$H_f(a)$ が半定値（例えば固有値に $0$ を含む）の場合は、この定理では判定できない。$f = x^2 + y^4$（極小）と $f = x^2 + y^3$（極値でない）は、どちらも原点で $H_f = \operatorname{diag}(2, 0)$ である。

2 変数の場合は、判定を行列式で書ける。

系 7.25 $n = 2$ で、臨界点 $a$ におけるヘッセ行列の成分を $A = f_{xx}(a)$、$B = f_{xy}(a) = f_{yx}(a)$、$C = f_{yy}(a)$ とする。

• $AC - B^2 > 0$ かつ $A > 0$ なら狭義の極小、$AC - B^2 > 0$ かつ $A < 0$ なら狭義の極大。
• $AC - B^2 < 0$ なら鞍点。

証明. $A \neq 0$ なら平方完成により $Ah^2 + 2Bhk + Ck^2 = A\left(h + \frac{B}{A}k\right)^2 + \frac{AC - B^2}{A}k^2$。$AC - B^2 > 0$ なら二つの係数は $A$ と同符号なので、$A > 0$ で正定値、$A < 0$ で負定値。$AC - B^2 < 0$ のとき、$A \neq 0$ なら二つの係数が異符号で不定値、$A = 0$ なら $B \neq 0$ で $2Bhk + Ck^2$ は $k \neq 0$ を固定して $h$ を動かせば正負両方の値をとる。$\square$

例 7.26 $f(x, y) = x^3 + y^3 - 3xy$。$\nabla f = (3x^2 - 3y, 3y^2 - 3x) = 0$ より $y = x^2$、$x = y^2$ なので $x^4 = x$、臨界点は $(0, 0)$ と $(1, 1)$。$f_{xx} = 6x$、$f_{xy} = -3$、$f_{yy} = 6y$ であり、$(0, 0)$ では $AC - B^2 = -9 < 0$ で鞍点、$(1, 1)$ では $AC - B^2 = 27 > 0$、$A = 6 > 0$ で狭義の極小（値 $f(1, 1) = -1$）。$f(x, 0) = x^3$ は下に有界でないので、これは最小値ではない。