定義5.1 $V$ を実数域上の線形空間とする。$\forall\bm{\alpha}, \bm{\beta}\in V$ に対して一つの実数 $(\bm{\alpha}, \bm{\beta})$ を確定させ、これを $\bm{\alpha}$ と $\bm{\beta}$ の内積と呼ぶ。内積は次の条件を満たすものとする。
定義より直ちに得られる。
定理5.1 $\forall\bm{\alpha}, \bm{\beta}, \bm{\gamma}\in V$、実数 $k$ に対して常に
(1) 定義5.1より $(\bm{\alpha},\bm{\beta}+\bm{\gamma})=(\bm{\beta}+\bm{\gamma},\bm{\alpha})=(\bm{\beta},\bm{\alpha})+(\bm{\gamma},\bm{\alpha})=(\bm{\alpha},\bm{\beta})+(\bm{\alpha},\bm{\gamma})$。
(2) 定義5.1より $(\bm{\alpha},k\bm{\beta})=(k\bm{\beta},\bm{\alpha})=k(\bm{\beta},\bm{\alpha})=k(\bm{\alpha},\bm{\beta})$。
定義5.2 内積が定義された線形空間をユークリッド空間という。
定義5.3 ユークリッド空間内で、任意のベクトル $\bm{\alpha}$ に対して $\sqrt{(\bm{\alpha},\bm{\alpha})}$ を $\bm{\alpha}$ の長さと定義し、$|\bm{\alpha}|$ と記す。すなわち $|\bm{\alpha}|=\sqrt{(\bm{\alpha},\bm{\alpha})}$。
長さが1のベクトルを単位ベクトルという。
$|\bm{\alpha}|=0$ となるのは $\bm{\alpha}=\bm{0}$ のときに限り、$\bm{\alpha}\neq\bm{0}$ ならば $\dfrac{1}{|\bm{\alpha}|}\bm{\alpha}$ は単位ベクトルである。なぜなら
よって $\left|\dfrac{1}{|\bm{\alpha}|}\bm{\alpha}\right| = 1$。
定理5.2 $|k\bm{\alpha}| = \sqrt{(k\bm{\alpha},k\bm{\alpha})} = \sqrt{k^2(\bm{\alpha},\bm{\alpha})} = |k|\sqrt{(\bm{\alpha},\bm{\alpha})} = |k||\bm{\alpha}|$。
定理5.3（コーシー（Cauchy）の不等式） ユークリッド空間内で、任意の2つのベクトル $\bm{\alpha}, \bm{\beta}$ に対して常に
等号は $\bm{\alpha}, \bm{\beta}$ が線形従属のときに限り成立する。
$\bm{\alpha}, \bm{\beta}$ が線形独立のとき、任意の実数 $k$ に対して常に $k\bm{\alpha}+\bm{\beta}\neq\bm{0}$、よって
展開すると
左辺は $k$ の二次関数で常に正であるから判別式 $\Delta=(\bm{\alpha},\bm{\beta})^2-(\bm{\alpha},\bm{\alpha})(\bm{\beta},\bm{\beta})<0$、すなわち $|(\bm{\alpha},\bm{\beta})|<|\bm{\alpha}||\bm{\beta}|$。
$\bm{\alpha}, \bm{\beta}$ が線形従属のとき、$\bm{\beta}=k\bm{\alpha}$（$\bm{\alpha}=\bm{0}$ のときは $\bm{\alpha}=k\bm{\beta}$ とおけばよい）とおくと $|(\bm{\alpha},\bm{\beta})|=|(\bm{\alpha},k\bm{\alpha})|=|k(\bm{\alpha},\bm{\alpha})|=|k||\bm{\alpha}|^2=|\bm{\alpha}||k\bm{\alpha}|=|\bm{\alpha}||\bm{\beta}|$。
よって定理5.3が証明される。
定理5.4（三角不等式） ユークリッド空間内で、任意の2つのベクトル $\bm{\alpha}, \bm{\beta}$ に対して常に
等号は $\bm{\alpha}$ と $\bm{\beta}$ の一方が零ベクトルであるか、または $\bm{\beta}=k\bm{\alpha}$（$k>0$）が成立するとき（すなわち両ベクトルが同方向に平行なとき）に限り成立する。
$|\bm{\alpha}+\bm{\beta}|^2 = (\bm{\alpha}+\bm{\beta},\bm{\alpha}+\bm{\beta}) = |\bm{\alpha}|^2+|\bm{\beta}|^2+2(\bm{\alpha},\bm{\beta}) \leq |\bm{\alpha}|^2+|\bm{\beta}|^2+2|\bm{\alpha}||\bm{\beta}| = (|\bm{\alpha}|+|\bm{\beta}|)^2$。両辺の平方根をとると $|\bm{\alpha}+\bm{\beta}|\leq|\bm{\alpha}|+|\bm{\beta}|$。
等号は $(\bm{\alpha},\bm{\beta})=|\bm{\alpha}||\bm{\beta}|$ のときにのみ成立する。
$V$ の次元が3および2のとき、3つのベクトル $\bm{\alpha}, \bm{\beta}, \bm{\alpha}+\bm{\beta}$ は三角形の3辺をなし、不等式 $|\bm{\alpha}+\bm{\beta}|\leq|\bm{\alpha}|+|\bm{\beta}|$ は三角形の一辺が他の二辺の和以下であることを表す。そのためこの不等式は三角不等式と呼ばれる。
定義5.4 $\bm{\alpha}, \bm{\beta}$ がユークリッド空間内の任意の2つの非零ベクトルであるとき、$\bm{\alpha}, \bm{\beta}$ 間のなす角 $\theta$ は次の式で確定する。
定理5.3より $|(\bm{\alpha},\bm{\beta})|\leq|\bm{\alpha}||\bm{\beta}|$、$|\bm{\alpha}|\neq0$、$|\bm{\beta}|\neq0$ であるから $-1\leq\dfrac{(\bm{\alpha},\bm{\beta})}{|\bm{\alpha}||\bm{\beta}|}\leq1$。したがって定義5.4は意味をもつ。$\dfrac{(\bm{\alpha},\bm{\beta})}{|\bm{\alpha}||\bm{\beta}|}$ の値により $\theta$ は $0\leq\theta\leq\pi$ の範囲で唯一つに確定する。
定義5.5 $(\bm{\alpha},\bm{\beta})=0$ のとき、2つのベクトル $\bm{\alpha}, \bm{\beta}$ は直交するという。
定義より零ベクトルは任意のベクトルと直交する。
次に直交するベクトルの組に関する定理を示す。
定理5.5 $\bm{\alpha}_1, \bm{\alpha}_2, \cdots, \bm{\alpha}_m$ が互いに直交する $m$ 個の非零ベクトルであれば、$\bm{\alpha}_1, \bm{\alpha}_2, \cdots, \bm{\alpha}_m$ は必ず線形独立である。
$\displaystyle\sum_{j=1}^{m}k_j\bm{\alpha}_j=\bm{0}$ とおき、両端と $\bm{\alpha}_i$ の内積をとると
すなわち $\displaystyle\sum_{j=1}^{m}k_j(\bm{\alpha}_j,\bm{\alpha}_i)=0$。仮定より $j\neq i$ のとき $(\bm{\alpha}_j,\bm{\alpha}_i)=0$ であるからこれは $k_i(\bm{\alpha}_i,\bm{\alpha}_i)=0$ となる。$\bm{\alpha}_i\neq\bm{0}$ より $(\bm{\alpha}_i,\bm{\alpha}_i)>0$、よって $k_i=0$（$i=1,2,\cdots,m$）。これは $\bm{\alpha}_1,\bm{\alpha}_2,\cdots,\bm{\alpha}_m$ が線形独立であることを示す。
系 $n$ 次元ベクトル空間内で、互いに直交する非零ベクトルの個数は $n$ を超えない。$n$ 次元ユークリッド空間内に $n$ 個の互いに直交する非零ベクトルが存在するかどうかは§5.2で答える。以下では $n$ 次ユークリッド空間に限定して議論する。
三次元ベクトル空間 $V_3$ において $\bm{\alpha}=a_1\bm{i}+a_2\bm{j}+a_3\bm{k}$、$\bm{\beta}=b_1\bm{i}+b_2\bm{j}+b_3\bm{k}$ のとき、$\bm{\alpha}\cdot\bm{\beta}=a_1b_1+a_2b_2+a_3b_3$ は $V_3$ における一種の内積である。このときコーシーの不等式は
三角不等式は
$n$ 次元ベクトル空間 $V_n$ について内積 $(\bm{\alpha},\bm{\beta})$ を定義するには、一組の基底間の内積を確定すればよい。$\bm{\varepsilon}_1,\bm{\varepsilon}_2,\cdots,\bm{\varepsilon}_n$ が $V_n$ の一組の基底であり
とすると
$a_{ij}=(\bm{\varepsilon}_i,\bm{\varepsilon}_j)=(\bm{\varepsilon}_j,\bm{\varepsilon}_i)=a_{ji}$（$i,j=1,2,\cdots,n$）であるから $\bm{A}$ は対称行列である。行列 $\bm{A}$ を $V_n$ の基底 $\bm{\varepsilon}_1,\bm{\varepsilon}_2,\cdots,\bm{\varepsilon}_n$ のもとでの計量行列（グラム行列）という。
$\forall\bm{\alpha},\bm{\beta}\in V_n$、$\bm{\alpha}=\sum_{i=1}^n x_i\bm{\varepsilon}_i$、$\bm{\beta}=\sum_{i=1}^n y_i\bm{\varepsilon}_i$ とすれば
$\bm{\alpha}=\bm{\beta}$ とすれば $|\bm{\alpha}|$ の計算公式
が得られる。したがって $\bm{A}$ は $V_n$ 内の任意の2つのベクトルの内積を確定する。
$\bm{A}$ は対称性の他にも内積の正定性を保証するための別の性質をもつ必要があるが、これは後で議論する。
式 (5.1)・(5.2) を行列形式で表すため、$\bm{x}=\begin{bmatrix}x_1\\ x_2\\ \vdots\\ x_n\end{bmatrix}$、$\bm{y}=\begin{bmatrix}y_1\\ y_2\\ \vdots\\ y_n\end{bmatrix}$ を $\bm{\alpha}, \bm{\beta}$ の基底 $\bm{\varepsilon}_1,\bm{\varepsilon}_2,\cdots,\bm{\varepsilon}_n$ のもとでの座標列ベクトルとすると、行列の積により式 (5.1) は
と表せる。式 (5.2) は
と表せる。式 (5.1$'$) の $\bm{x}'\bm{A}\bm{y}$ を双線形型という。それは $x_1, x_2, \cdots, x_n$ についても $y_1, y_2, \cdots, y_n$ についても線形の斉次式である。
また式 (5.2$'$) の $\bm{x}'\bm{A}\bm{x}$ を二次形式といい、$x_1, x_2, \cdots, x_n$ についての二次の斉次式である。
定理5.6 ユークリッド空間 $V_n$ の一組の固定した基底 $\bm{\varepsilon}_1,\bm{\varepsilon}_2,\cdots,\bm{\varepsilon}_n$ のもとで、$\bm{\alpha}=\sum_{i=1}^n x_i\bm{\varepsilon}_i$、$\bm{\beta}=\sum_{i=1}^n y_i\bm{\varepsilon}_i$ の内積 $(\bm{\alpha},\bm{\beta})$ は双線形型
で与えられる。ここで $\bm{x}=\begin{bmatrix}x_1\\ \vdots\\ x_n\end{bmatrix}$、$\bm{y}=\begin{bmatrix}y_1\\ \vdots\\ y_n\end{bmatrix}$ はそれぞれ $\bm{\alpha}, \bm{\beta}$ の基底のもとでの座標列ベクトルであり、$\bm{A}=\begin{bmatrix}a_{11}&\cdots&a_{1n}\\ \vdots&&\vdots\\ a_{n1}&\cdots&a_{nn}\end{bmatrix}$（$a_{ij}=(\bm{\varepsilon}_i,\bm{\varepsilon}_j)$）は $V_n$ の基底 $\bm{\varepsilon}_1,\bm{\varepsilon}_2,\cdots,\bm{\varepsilon}_n$ のもとでの計量行列である。$\bm{\alpha}$ の長さの平方 $|\bm{\alpha}|^2$ は二次形式 $|\bm{\alpha}|^2=\bm{x}'\bm{A}\bm{x}$ で与えられる。
計量行列 $\bm{A}$ は一組の基底 $\bm{\varepsilon}_1,\bm{\varepsilon}_2,\cdots,\bm{\varepsilon}_n$ によって確定される。すなわち
ここで行列の積を要素がベクトルの行列に拡張している。$\bm{\varepsilon}_i$ と $\bm{\varepsilon}_j$ の積は $(\bm{\varepsilon}_i,\bm{\varepsilon}_j)$ で表される。以下の第一の問いを提起する。ユークリッド空間において基底が変わると、計量行列はどのように変化するか。
定理5.7 ユークリッド空間 $V_n$ の基底 $\bm{\varepsilon}_1,\bm{\varepsilon}_2,\cdots,\bm{\varepsilon}_n$ のもとでの計量行列が $\bm{A}$ であり、新基底 $\bm{\varepsilon}_1',\bm{\varepsilon}_2',\cdots,\bm{\varepsilon}_n'$ のもとでの計量行列が $\bm{B}$ のとき、$\bm{B}=\bm{C}'\bm{A}\bm{C}$（$\bm{C}$ は旧基底から新基底への推移行列）。
新旧基底の関係式 $(\bm{\varepsilon}_1',\bm{\varepsilon}_2',\cdots,\bm{\varepsilon}_n')=(\bm{\varepsilon}_1,\bm{\varepsilon}_2,\cdots,\bm{\varepsilon}_n)\bm{C}$ を代入して新基底を消去すると
すなわち $\bm{B}=\bm{C}'\bm{A}\bm{C}$。
定義5.6 2つの行列 $\bm{A}$ と $\bm{B}$ について、可逆行列 $\bm{C}$ が存在して $\bm{B}=\bm{C}'\bm{A}\bm{C}$ が成立するとき、$\bm{B}$ と $\bm{A}$ は合同であるという。
明らかに $\bm{B}$ と $\bm{A}$ が合同のとき $\bm{A}$ も $\bm{B}$ と合同である。$\bm{B}=\bm{C}'\bm{A}\bm{C}$ より $\bm{A}=(\bm{C}')^{-1}\bm{B}\bm{C}^{-1}=(\bm{C}^{-1})'\bm{B}\bm{C}^{-1}$。
一つのユークリッド空間は異なる基底のもとで計量行列が互いに合同である。
第二の問いを考える。一つのユークリッド空間において、計量行列が最も簡単になる基底をどのように選べばよいか。明らかに最も簡単な計量行列は単位行列 $\bm{E}_n$ であり、このとき新しい基底の長さが1で互いに直交する。すなわち $(\bm{\varepsilon}_i,\bm{\varepsilon}_j)=\begin{cases}1,&i=j,\\0,&i\neq j\end{cases}$。このような基底を正規直交基底（標準正交基底）と呼ぶ。
したがって計量行列が単位行列に化せるかという問題は、ユークリッド空間に正規直交基底が存在するかという問題に帰着される。行列の観点からは、ある計量行列 $\bm{A}$ に対して可逆行列 $\bm{C}$ が存在して $\bm{C}'\bm{A}\bm{C}=\bm{E}_n$ となるかという問題である。答えは肯定的であり、以下のシュミット（Schmidt）の正規直交化過程で解決できる。
ユークリッド空間内で一組の基底 $\bm{\alpha}_1, \bm{\alpha}_2, \cdots, \bm{\alpha}_n$ が与えられたとき、一組の正規直交基底 $\bm{\gamma}_1, \bm{\gamma}_2, \cdots, \bm{\gamma}_n$ を構成できる。この $\bm{\gamma}_i$ は $\bm{\alpha}_1, \bm{\alpha}_2, \cdots, \bm{\alpha}_n$ の線形結合（$i=1,2,\cdots,n$）となる。
まず一組の直交基底 $\bm{\beta}_1, \bm{\beta}_2, \cdots, \bm{\beta}_n$ を構成する。各 $\bm{\beta}_i$ が $\bm{\alpha}_1, \bm{\alpha}_2, \cdots, \bm{\alpha}_n$ の線形結合となるように以下の方法で構成する。
$\bm{\beta}_1=\bm{\alpha}_1$、$\bm{\beta}_2=k\bm{\beta}_1+\bm{\alpha}_2$ とおき、$k$ を $(\bm{\beta}_2,\bm{\beta}_1)=0$ となるように選ぶ。すなわち
$\bm{\beta}_3=k_1\bm{\beta}_1+k_2\bm{\beta}_2+\bm{\alpha}_3$ とおき、$k_1, k_2$ を $(\bm{\beta}_1,\bm{\beta}_3)=0$、$(\bm{\beta}_2,\bm{\beta}_3)=0$ となるように選ぶと
一般に $\bm{\beta}_1, \bm{\beta}_2, \cdots, \bm{\beta}_{i-1}$ が既に得られ、互いに直交しているとき
とおき、$k_1, k_2, \cdots, k_{i-1}$ を $(\bm{\beta}_1,\bm{\beta}_i)=(\bm{\beta}_2,\bm{\beta}_i)=\cdots=(\bm{\beta}_{i-1},\bm{\beta}_i)=0$ となるように選ぶと
こうして $n$ 個のベクトル $\bm{\beta}_1, \bm{\beta}_2, \cdots, \bm{\beta}_n$ が得られる。$i>1$ のとき
各 $\bm{\beta}_i\neq\bm{0}$（$i=1,2,\cdots,n$）であることは次のように確認できる。$\bm{\beta}_1=\bm{\alpha}_1\neq\bm{0}$。$\bm{\beta}_1,\bm{\beta}_2,\cdots,\bm{\beta}_{i-1}$ が非零であることが既に分かっているとき、以上の方法により $\bm{\beta}_i$ は線形独立なベクトル $\bm{\alpha}_1,\bm{\alpha}_2,\cdots,\bm{\alpha}_i$ の線形結合であり $\bm{\alpha}_i$ の係数が1であるから $\bm{\beta}_i\neq\bm{0}$ である。したがって以上の方法で $n$ 個の非零ベクトル $\bm{\beta}_1, \bm{\beta}_2, \cdots, \bm{\beta}_n$ が確実に得られる。
式 (5.6) より $\bm{\alpha}_i$ は $\bm{\beta}_1, \bm{\beta}_2, \cdots, \bm{\beta}_i$ の線形結合であり、$\bm{\beta}_1, \bm{\beta}_2, \cdots, \bm{\beta}_n$ は互いに直交する線形独立なベクトルである。
さらに
とおくと $\bm{\gamma}_1, \bm{\gamma}_2, \cdots, \bm{\gamma}_n$ が一組の正規直交基底となる。（各 $\bm{\beta}_i$ をその長さで割って単位化する。）
例題5.1． 三次元ベクトル $\bm{\alpha}_1=\bm{i}+\bm{j}+\bm{k}$、$\bm{\alpha}_2=\bm{i}+2\bm{j}+\bm{k}$、$\bm{\alpha}_3=-\bm{j}+\bm{k}$ に対してシュミットの正規直交化を適用して一組の正規直交基底を構成せよ。
解． $\bm{\gamma}_1=\dfrac{1}{\sqrt{3}}(\bm{i}+\bm{j}+\bm{k})$、$\bm{\beta}_2=k\bm{\gamma}_1+\bm{\alpha}_2$ とおき $k$ を $(\bm{\beta}_2,\bm{\gamma}_1)=0$ となるように選ぶと $0=k+(\bm{\alpha}_2,\bm{\gamma}_1)$、よって
すなわち
$\bm{\beta}_3=p\bm{\gamma}_1+q\bm{\gamma}_2+\bm{\alpha}_3$ とおき、$p, q$ を $(\bm{\beta}_3,\bm{\gamma}_1)=0$、$(\bm{\beta}_3,\bm{\gamma}_2)=0$ となるように選ぶと
よって
よって正規直交基底は
例題5.2． 多項式で構成される線形空間において、2つの多項式 $f(x), \phi(x)$ の内積を次のように定義する。
この広義積分は収束し内積の三つの条件（対称性・線形性・正定性）を満たす。シュミットの正規直交化を用いて関数 $1, x, x^2$ を正規直交化せよ。
解． まず積分を計算する。
$\bm{\gamma}_1=1$（明らかに $|\bm{\gamma}_1|=1$）。$\bm{\beta}_2=k+x$ とおき $k$ を $(\bm{\beta}_2,\bm{\gamma}_1)=0$ となるように選ぶと
また
よって $\bm{\gamma}_2=\bm{\beta}_2=x-1$。
$\bm{\beta}_3=p+q(x-1)+x^2$ とおき $p, q$ を $(\bm{\beta}_3,\bm{\gamma}_1)=0$、$(\bm{\beta}_3,\bm{\gamma}_2)=0$ となるように選ぶと
よって $\bm{\beta}_3 = -2-4(x-1)+x^2 = x^2-4x+2$。
また $(\bm{\beta}_3,\bm{\beta}_3)=\int_0^{+\infty}(x^2-4x+2)^2\mathrm{e}^{-x}\,\mathrm{d}x = 4$、よって
三つの正規直交関数は
これはラゲール多項式の前三項である。
元の問題に戻る。ユークリッド空間が基底 $\bm{\varepsilon}_1,\bm{\varepsilon}_2,\cdots,\bm{\varepsilon}_n$ のもとでの計量行列 $\bm{A}$ をもつとき、シュミットの正規直交化法を用いて一組の正規直交基底 $\bm{\varepsilon}_1',\bm{\varepsilon}_2',\cdots,\bm{\varepsilon}_n'$ を構成できる。正規直交化の手順より
ここで $p_{ii}$ は全て正数（構成中の $\bm{\beta}_i$ の長さの逆数）。したがって新基底と旧基底の推移行列は
と表せ、簡略して $(\bm{\varepsilon}_1',\bm{\varepsilon}_2',\cdots,\bm{\varepsilon}_n')=(\bm{\varepsilon}_1,\bm{\varepsilon}_2,\cdots,\bm{\varepsilon}_n)\bm{P}$。
定理5.8 $\bm{A}$ がユークリッド空間 $V_n$ の一つの計量行列であれば、対角要素が全て正の上三角行列
が存在して $\bm{A}=\bm{Q}'\bm{Q}$（コレスキー分解）。
$\bm{A}$ が旧基底 $\bm{\varepsilon}_1,\bm{\varepsilon}_2,\cdots,\bm{\varepsilon}_n$ のもとでの計量行列とする。シュミットの正規直交化法により一組の正規直交基底 $\bm{\varepsilon}_1',\bm{\varepsilon}_2',\cdots,\bm{\varepsilon}_n'$ が得られ、式 (5.7) より
したがって $\bm{A}=(\bm{P}')^{-1}\bm{P}^{-1}=(\bm{P}^{-1})'\bm{P}^{-1}$。$\bm{P}$ は対角要素が全て正の上三角行列であるから、その逆行列も存在し上三角行列でありその対角要素も全て正である。$\bm{Q}=\bm{P}^{-1}$ とおくと $\bm{A}=\bm{Q}'\bm{Q}$。
ユークリッド空間 $V_n$ の一組の基底 $\bm{\varepsilon}_1,\bm{\varepsilon}_2,\cdots,\bm{\varepsilon}_n$ のもとでの計量行列は
$\bm{\alpha}=\sum_{i=1}^n x_i\bm{\varepsilon}_i$、$\bm{\beta}=\sum_{i=1}^n y_i\bm{\varepsilon}_i$ の内積 $(\bm{\alpha},\bm{\beta})$ の計算公式は
1つのベクトル $\bm{\alpha}$ の長さは
この基底でのコーシーの不等式は
基底が正規直交基底 $\bm{\varepsilon}_1',\bm{\varepsilon}_2',\cdots,\bm{\varepsilon}_n'$ のとき、$\bm{\alpha}=\sum_{i=1}^n x_i\bm{\varepsilon}_i'$、$\bm{\beta}=\sum_{i=1}^n y_i\bm{\varepsilon}_i'$ の内積は
ベクトルの長さは
コーシーの不等式は
ベクトル $\bm{\alpha}, \bm{\beta}$ のなす角 $\theta$ は
空間解析幾何学では、ベクトル $a\bm{i}+b\bm{j}+c\bm{k}$ が $\bm{i}, \bm{j}, \bm{k}$ という正規直交基底での表示であり、上の内積はこれまで学んだベクトルの内積・長さおよび2ベクトルのなす角の公式の一般化である。以下 $n$ 次元ベクトルの座標は特に断りなければ正規直交基底のもとでの座標とする。
$n$ 元実係数の斉次二次式（二次形式）を研究する。
$2a_{ij}x_ix_j$ を $a_{ij}x_ix_j+a_{ji}x_jx_i$（ただし $a_{ij}=a_{ji}$）と書くと、上の二次形式は対称形式で書ける。
$\bm{A}=\begin{bmatrix}a_{11}&\cdots&a_{1n}\\ \vdots&&\vdots\\ a_{n1}&\cdots&a_{nn}\end{bmatrix}$、$\bm{x}=\begin{bmatrix}x_1\\ \vdots\\ x_n\end{bmatrix}$ とおくと、二次形式は行列の積で
または簡略して $\bm{x}'\bm{A}\bm{x}$ と表せる。ここで $\bm{A}$ は対称行列である。
一つの二次形式はベクトルの関数とみなせる。$\bm{x}=\begin{bmatrix}x_1\\ \vdots\\ x_n\end{bmatrix}$ がある基底のもとでのベクトルの座標であるとき、一つの二次形式は一つのベクトルの座標 $x_1, x_2, \cdots, x_n$ の二次斉次関数である。一つの二次形式はある基底のもとで一つの対称行列 $\bm{A}$ に対応する。
基底が変わると二次形式の対応行列はどのように変化するか。基底 $\bm{\alpha}_1, \bm{\alpha}_2, \cdots, \bm{\alpha}_n$ から基底 $\bm{\beta}_1, \bm{\beta}_2, \cdots, \bm{\beta}_n$ への推移行列を $\bm{C}$ とする（すなわち $(\bm{\beta}_1,\bm{\beta}_2,\cdots,\bm{\beta}_n)=(\bm{\alpha}_1,\bm{\alpha}_2,\cdots,\bm{\alpha}_n)\bm{C}$（$\bm{C}$ は可逆）、あるベクトルの基底 $\bm{\alpha}_1,\cdots,\bm{\alpha}_n$ のもとでの座標 $\bm{x}=\begin{bmatrix}x_1\\ \vdots\\ x_n\end{bmatrix}$ と新基底 $\bm{\beta}_1,\cdots,\bm{\beta}_n$ のもとでの座標 $\bm{y}=\begin{bmatrix}y_1\\ \vdots\\ y_n\end{bmatrix}$ の関係は $\bm{x}=\bm{Cy}$）。
$\bm{x}=\bm{Cy}$ を二次形式 $\bm{x}'\bm{A}\bm{x}$ に代入すると $\bm{x}'\bm{A}\bm{x}=(\bm{Cy})'\bm{A}(\bm{Cy})=\bm{y}'(\bm{C}'\bm{A}\bm{C})\bm{y}$。
よって二次形式 $\bm{x}'\bm{A}\bm{x}$ は新基底のもとでの対応行列が $\bm{C}'\bm{A}\bm{C}$ となる。これより次の定理が得られる。
定理5.9 二次形式 $\bm{x}'\bm{A}\bm{x}$ は座標変換 $\bm{x}=\bm{Cy}$ を経て $\bm{y}'\bm{B}\bm{y}$ に化せる。$\bm{B}=\bm{C}'\bm{A}\bm{C}$ であるから、異なる基底のもとで同一の二次形式に対応する行列は互いに合同である。
どのような新しい座標を選べば二次形式 $\bm{x}'\bm{A}\bm{x}$ の形式が最も簡単になるか。最も簡単な二次形式は平方項のみを含むもの、すなわち対応行列が対角行列である。ある二次形式に対して、座標変換によって平方項のみにできるか。もし可能ならば、その新しい座標をどのように求めるか。まず2つの例から始めて一般的な方法を導出する。
例題5.3． 二次形式 $f(x_1,x_2,x_3,x_4)=x_1^2+x_3^2+2x_4^2+4x_1x_2+2x_1x_3+4x_1x_4+2x_2x_3+2x_2x_4+2x_3x_4$ を標準形に変換せよ。
解． まず $x_1$ を含む全ての項を一つの完全平方式にまとめる。
次に $x_2$ を含む全ての項を完全平方式にまとめると
残りの3項はちょうど1つの完全平方式になり、
新しい座標を
すなわち $\bm{y}=\bm{C}^{-1}\bm{x}$ とおくと、新座標のもとで二次形式は平方和 $y_1^2+y_2^2-y_3^2$ に化せる。式 (5.8) から推移行列 $\bm{C}$ の逆行列が得られる。
よって
確認：$f$ の対応行列を $\bm{A}$ とすると $\bm{C}'\bm{A}\bm{C}=\mathrm{diag}(1,\,1,\,-1,\,0)$。
例題5.4． 二次形式 $f(x_1,x_2,x_3)=x_1x_2+4x_1x_3+x_2x_3$ を標準形に変換せよ。
解． $x_1=y_1+y_2$、$x_2=y_1-y_2$、$x_3=y_3$ と置換すると二次形式は
に化せる。例題5.3と同様の方法を適用すると
よって
すなわち $\bm{z}=\bm{C}^{-1}\bm{x}$ として元の二次形式は $f=z_1^2-z_2^2-z_3^2$ に化せる。推移行列は
確認：$f$ の対応行列を $\bm{A}=\begin{bmatrix}0&\frac{1}{2}&2\\ \frac{1}{2}&0&\frac{1}{2}\\ 2&\frac{1}{2}&0\end{bmatrix}$ とすると $\bm{C}'\bm{A}\bm{C}=\mathrm{diag}(1,\,-1,\,-1)$。
以上の配方法より、使用した変換は確かに座標変換であり、変換に対応する行列は可逆行列である。以上の2例より、同様の方法を用いることで任意の二次形式を平方項のみを含み、かつ平方項の係数が $+1$、$-1$ または $0$ の形に変換できることが分かる。
定理5.10 任意の実係数 $n$ 元二次形式 $\bm{x}'\bm{A}\bm{x}$ は、座標変換により新座標のもとで平方項のみを含む形に変換できる。すなわち $\bm{x}'\bm{A}\bm{x}=y_1^2+y_2^2+\cdots+y_p^2-y_{p+1}^2-\cdots-y_r^2$（ここで $0\leq p\leq r\leq n$）。このとき二次形式の新基底のもとでの対応行列は主対角線上に $p$ 個の $1$、$(r-p)$ 個の $-1$、$(n-r)$ 個の $0$ をもつ対角行列である。
定理5.11（慣性法則） 一つの二次形式に対して、どのような座標変換を用いて平方項のみの形に変換しても、その正項の個数 $p$ と負項の個数 $(r-p)$ は唯一つに確定する。換言すれば $n$ 次対称行列 $\bm{A}$ に対して可逆行列 $\bm{C}$ が存在して対角行列に変換されるとき、主対角線上に $p$ 個の $1$、$(r-p)$ 個の $-1$、$(n-r)$ 個の $0$ をもち、$p, r$ は $\bm{A}$ によって唯一つに確定する。
この唯一つに確定した対角行列をその二次形式の標準形という。$p$ を二次形式の正慣性指数、$r-p$ を負慣性指数、$r$ を二次形式の階数という。
以上の二次形式を平方項の代数和にする方法は主に配方法を用いるものであった。以下では行列の基本変換を用いる方法を紹介する。二次形式の対応行列 $\bm{A}$ を書き出し、その下に $\bm{E}_n$ を置いて $2n\times n$ 行列 $\begin{bmatrix}\bm{A}\\ \bm{E}_n\end{bmatrix}$ を構成する。この行列に列の基本変換を1回施すごとに、$\bm{A}$ の部分には同じ基本変換を行に対しても施す。二次形式行列 $\bm{A}$ が対角行列に変換されたとき、単位行列は求める可逆行列 $\bm{C}$ に変換されている。
実際 $2n\times n$ 行列 $\begin{bmatrix}\bm{A}\\ \bm{E}_n\end{bmatrix}$ に列の基本変換を施すことは右から基本行列を掛けることと同じである。$\bm{A}$ の行に対して同じ基本変換を施すことは左からその転置を掛けることと同じであり、$r$ 回の列の基本変換に対して $r$ 回の行の基本変換を施した後 $\bm{A}$ は次のように変換される。
$\bm{E}_n$ には列の基本変換のみを施しているから $\bm{E}_n$ は最終的に $\bm{E}_n\bm{C}_1\bm{C}_2\cdots\bm{C}_r=\bm{C}$ に変換される。ここで $\bm{C}=\bm{C}_1\bm{C}_2\cdots\bm{C}_r$ は可逆行列である。
特別な二次形式、正定二次形式について議論する。
定義5.7 任意のベクトル $\bm{x}\in\mathbb{R}^n$ に対して二次形式の値が常に $\geq0$ であり、かつその値が $0$ になるのは $\bm{x}=\bm{0}$ のときに限るならば、この二次形式を正定二次形式といい、その対応行列を正定行列と記して $\bm{A}>0$ と表す。
換言すれば $\sum_{i,j=1}^n a_{ij}x_ix_j\geq0$ であり、$x_1=x_2=\cdots=x_n=0$ のときにのみ値が $0$ となる。定義より $n$ 次元ユークリッド空間の計量行列は正定である（$(\bm{\alpha},\bm{\alpha})=\bm{x}'\bm{A}\bm{x}\geq0$）。
定理5.12 二次形式 $\sum_{i,j=1}^n a_{ij}x_ix_j$ が正定二次形式であるための必要十分条件は、その正慣性指数が $n$ であること。すなわち標準形が $\begin{bmatrix}1&&0\\&\ddots&\\0&&1\end{bmatrix}$ であること。
正慣性指数が $n$ であれば、二次形式が正定であることは明らか。逆に正慣性指数が $n$ より小さい場合に二次形式が正定でないことを証明する。二次形式の正慣性指数を $p<n$ とすれば、座標変換後に二次形式は
$y_1, y_2, \cdots, y_p$ を $\bm{x}$ の一次斉次式とみなし（座標変換 $\bm{x}=\bm{Cy}$ または $\bm{y}=\bm{C}^{-1}\bm{x}$ から分かる）、次の方程式組
を考える。方程式の個数が $p<n$ であるから非零解 $(x_1^{(0)}, x_2^{(0)}, \cdots, x_n^{(0)})$ が存在する。この非零解を二次形式に代入すると、式 (5.9) より
（ここで $y_{p+1}^{(0)}, y_{p+2}^{(0)}, \cdots, y_r^{(0)}$ は $(x_1^{(0)}, x_2^{(0)}, \cdots, x_n^{(0)})$ を $y_{p+1}, y_{p+2}, \cdots, y_r$ に代入した値であり $y_i$ は $x_1, x_2, \cdots, x_n$ の一次式）。
これにより二次形式は正定でないことが示された。
系 二次形式が正定であれば対応行列 $\bm{A}$ は $\bm{A}=\bm{D}'\bm{D}$ と表せる。ここで $\bm{D}$ は可逆行列。
正定行列 $\bm{A}$ と $\bm{E}_n$ は合同であり、可逆行列 $\bm{C}$ が存在して $\bm{C}'\bm{A}\bm{C}=\bm{E}_n$。よって $\bm{A}=(\bm{C}')^{-1}\bm{E}_n\bm{C}^{-1}=(\bm{C}')^{-1}\bm{C}^{-1}=(\bm{C}^{-1})'\bm{C}^{-1}=\bm{D}'\bm{D}$（$\bm{D}=\bm{C}^{-1}$ は可逆）。
定理5.13 二次形式 $\bm{x}'\bm{A}\bm{x}$ が正定であれば対応行列の行列式 $|\bm{A}|>0$。
定理5.12の系より $|\bm{A}|=|\bm{D}'\bm{D}|=|\bm{D}'||\bm{D}|=|\bm{D}|^2>0$。
$|\bm{A}|>0$ は二次形式が正定であるための必要条件であるが十分条件ではない。例えば行列 $\begin{bmatrix}1&&0\\&1&\\&&-1\\0&&&-1\end{bmatrix}$ に対応する二次形式の行列式は $1$ であるが、明らかにこの二次形式は正定でない。
定理5.14 二次形式 $\sum_{i,j=1}^n a_{ij}x_ix_j$ が正定 $\Longleftrightarrow$ 次の $n$ 個の主小行列式の値がすべて $>0$。
必要性：二次形式が正定のとき $x_{r+1}=x_{r+2}=\cdots=x_n=0$ とおけば $r$ 元二次形式 $\sum_{i,j=1}^r a_{ij}x_ix_j$ も正定である。定理5.13より各主小行列式の値は $>0$（$r=1,2,\cdots,n$）。
十分性（数学的帰納法）：$n=1$ のとき定理は明らかに成立する。$n-1$ 元二次形式に対して定理が成立すると仮定し、$n$ 元二次形式についても成立することを証明する。
帰納仮定より $n-1$ 元二次形式 $\sum_{i,j=1}^{n-1} a_{ij}x_ix_j$ は正定であるから $n-1$ 次可逆行列 $\bm{Q}$ が存在して $\bm{Q}'\bm{BQ}=\bm{E}_{n-1}$。ここで $\bm{B}=\begin{bmatrix}a_{11}&\cdots&a_{1,n-1}\\ \vdots&&\vdots\\ a_{n-1,1}&\cdots&a_{n-1,n-1}\end{bmatrix}$。
$\bm{A}$ をブロック分割すると $\bm{A}=\begin{bmatrix}\bm{B}&\bm{b}\\ \bm{b}'&a_{nn}\end{bmatrix}$（$\bm{b}=\begin{bmatrix}a_{1n}\\ \vdots\\ a_{n-1,n}\end{bmatrix}$）。$\bm{d}=-\bm{B}^{-1}\bm{b}$ とおくと
両端の行列式をとると $|\bm{Q}'||\bm{A}||\bm{Q}|=a_{nn}-\bm{b}'\bm{B}^{-1}\bm{b}$、すなわち $a_{nn}-\bm{b}'\bm{B}^{-1}\bm{b}=|\bm{A}||\bm{Q}|^2>0$。
よって $\begin{bmatrix}\bm{E}_{n-1}&\bm{0}\\ \bm{0}'&a_{nn}-\bm{b}'\bm{B}^{-1}\bm{b}\end{bmatrix}$ は正定行列であり $\bm{A}$ も正定行列である（$\bm{A}$ と正定行列が合同）。定理が証明された。
例題5.5． 二次形式 $x_1^2+2x_2^2+5x_3^2+2x_1x_2-4x_2x_3$ が正定二次形式か否かを判定せよ。
解法1． 二次形式の対応行列は $\begin{bmatrix}1&1&0\\ 1&2&-2\\ 0&-2&5\end{bmatrix}$。三つの主小行列式の値は $1$、$\begin{vmatrix}1&1\\1&2\end{vmatrix}=1$、$\begin{vmatrix}1&1&0\\1&2&-2\\0&-2&5\end{vmatrix}=1$。定理5.14より正定二次形式である。
解法2． 配方すると $x_1^2+2x_2^2+5x_3^2+2x_1x_2-4x_2x_3=(x_1+x_2)^2+(x_2-2x_3)^2+x_3^2$。よって値は $\geq0$ であり、値が $0$ となるのは $x_1+x_2=0$、$x_2-2x_3=0$、$x_3=0$ のとき、すなわち $x_1=x_2=x_3=0$ のときのみ。したがって正定二次形式である。
定義5.8 二次形式の値が常に $\leq0$、すなわち $\sum_{i,j=1}^n a_{ij}x_ix_j\leq0$（$\forall\bm{x}\in\mathbb{R}^n$）であり、値が $0$ となるのは $x_1=x_2=\cdots=x_n=0$ のときに限るならば、この二次形式を負定二次形式といい $\bm{A}<0$ と記す。明らかに $\sum_{i,j=1}^n a_{ij}x_ix_j$ が負定二次形式であるための必要十分条件は $\sum_{i,j=1}^n (-a_{ij})x_ix_j$ が正定二次形式であること。定理5.14より一つの二次形式が負定かどうかを判断するための必要十分条件が得られる。
定理5.15 二次形式 $\sum_{i,j=1}^n a_{ij}x_ix_j$ が負定 $\Longleftrightarrow$
定義5.9 二次形式 $\bm{x}'\bm{A}\bm{x}$ の値が常に $\geq0$（$\forall\bm{x}\in\mathbb{R}^n$）であるが、$\bm{x}\neq\bm{0}$ でも $\bm{y}'\bm{A}\bm{y}=0$ となる非零ベクトル $\bm{y}=(y_1,y_2,\cdots,y_n)^{\mathrm{T}}$ が存在するならば、この二次形式を半正定といい $\bm{A}\geq0$ と記す。
行列 $\bm{A}=\begin{bmatrix}a_{11}&\cdots&a_{1n}\\ \vdots&&\vdots\\ a_{n1}&\cdots&a_{nn}\end{bmatrix}$ が正定（負定）であるための必要条件は主対角要素がすべて正（負）数であることである。この条件が十分条件でないことを例で示せ。
最後に多変数関数の極値の判定に関する十分条件を与える。
$f(x_1,x_2,\cdots,x_n)$ が点 $(x_1^{(0)},x_2^{(0)},\cdots,x_n^{(0)})$ の近傍内で連続な二階偏導関数をもつとする。
多変数関数の極値の判定方法（十分条件）：点 $(x_1^{(0)},\cdots,x_n^{(0)})$ において各一階偏導関数 $f'_{x_i}=0$ が成立し、かつ点 $(x_1^{(0)},\cdots,x_n^{(0)})$ において
が成立すれば、点 $(x_1^{(0)},x_2^{(0)},\cdots,x_n^{(0)})$ は $f(x_1,x_2,\cdots,x_n)$ の極小値点である。
§5.3では座標変換によって一つの二次形式を標準形に変換した。$n$ 元二次形式の標準形は合わせて $\dfrac{(n+1)(n+2)}{2}$ 個ある。この結果は非常に簡単であるが欠点がある。すなわち使用する座標変換が非常に一般的すぎて、ユークリッド幾何学のような一部の幾何学的問題では座標変換が直交変換（新基底が正規直交基底）に限定される。
推移行列 $\bm{C}=\begin{bmatrix}C_{11}&\cdots&C_{1n}\\ \vdots&&\vdots\\ C_{n1}&\cdots&C_{nn}\end{bmatrix}$ の列ベクトルが新基底の旧基底のもとでの座標であり、旧基底を正規直交基底と仮定するので、新基底が正規直交基底であるための条件は $\bm{C}$ が直交行列、すなわち $\bm{C}'\bm{C}=\bm{E}$、$\bm{C}'=\bm{C}^{-1}$ であることである。このように一つの二次形式は直交変換によって対応行列 $\bm{C}'\bm{A}\bm{C}=\bm{C}^{-1}\bm{A}\bm{C}$ を得る。これは元の行列 $\bm{A}$ と相似であり、かつ合同でもある。したがって一つの二次形式の行列を直交変換によって対角行列に変換することと、線形変換の行列を対角化することが同一の問題に帰着される。まず予備定理をいくつか述べる。
定理5.16 実対称行列 $\bm{A}$ の任意の固有値は実数である。
$\lambda$ を対称行列の一つの固有値、$\bm{x}$ を対応する固有ベクトルとすると $\bm{Ax}=\lambda\bm{x}$。$\bar{\bm{x}}$ は $\bm{x}$ の成分の共役複素数をとったベクトル。両辺左から $\bar{\bm{x}}'$ を掛けると $\bar{\bm{x}}'\bm{Ax}=\lambda\bar{\bm{x}}'\bm{x}$。
$\bar{\bm{x}}'\bm{Ax}$ は一つの実数である。なぜなら $\overline{\bar{\bm{x}}'\bm{Ax}}=\bm{x}'\bar{\bm{A}}\bar{\bm{x}}=\bm{x}'\bm{A}\bar{\bm{x}}$（$\bm{A}$ は実行列）、また $\bm{x}'\bm{A}\bar{\bm{x}}=(\bm{x}'\bm{A}\bar{\bm{x}})'=\bar{\bm{x}}'\bm{A}'\bm{x}=\bar{\bm{x}}'\bm{Ax}$ であるから $\overline{\bar{\bm{x}}'\bm{Ax}}=\bar{\bm{x}}'\bm{Ax}$、よって $\bar{\bm{x}}'\bm{Ax}$ は実数。
また $\bar{\bm{x}}'\bm{x}$ は非零の実数であるから $\lambda=\dfrac{\bar{\bm{x}}'\bm{Ax}}{\bar{\bm{x}}'\bm{x}}$ は実数。
実対称行列の固有値は全て実数であるから、その固有ベクトルも実ベクトルとして取れる。以下 $\bm{x}$ は正規直交基底のもとでの座標列ベクトルとする。
定理5.17 実対称行列 $\bm{A}$ の異なる固有値に対応する固有ベクトルは互いに直交する。
$\lambda_1, \lambda_2$ が実対称行列 $\bm{A}$ の二つの異なる固有値、$\bm{x}_1, \bm{x}_2$ がそれぞれ $\lambda_1, \lambda_2$ に対応する固有ベクトルとすると $\bm{Ax}_1=\lambda_1\bm{x}_1$、$\bm{Ax}_2=\lambda_2\bm{x}_2$。
$\lambda_1\bm{x}_1'\bm{x}_2=(\lambda_1\bm{x}_1)'\bm{x}_2=(\bm{Ax}_1)'\bm{x}_2=\bm{x}_1'\bm{A}'\bm{x}_2=\bm{x}_1'\bm{Ax}_2=\lambda_2\bm{x}_1'\bm{x}_2$。
移項すると $(\lambda_1-\lambda_2)\bm{x}_1'\bm{x}_2=0$。$\lambda_1-\lambda_2\neq0$ であるから $\bm{x}_1'\bm{x}_2=0$、すなわち $\bm{x}_1\perp\bm{x}_2$。
定理5.18 任意の実対称行列 $\bm{A}$ に対して直交行列 $\bm{C}$ が存在して
ここで $\lambda_1, \lambda_2, \cdots, \lambda_n$ は $\bm{A}$ のすべての固有値である。
数学的帰納法。$n=1$ のとき定理は明らかに成立する。$n-1$ 次対称行列に対して定理が成立すると仮定し、$n$ 次対称行列についても成立することを証明する。
$\bm{A}$ を実対称行列とし、$\bm{x}_1$ を $\bm{A}$ の固有値 $\lambda_1$ に対応する一つの単位長の固有ベクトルとする。$n-1$ 個のベクトル $\bm{y}_2, \bm{y}_3, \cdots, \bm{y}_n$ を選んで $\bm{x}_1, \bm{y}_2, \bm{y}_3, \cdots, \bm{y}_n$ が $n$ 次元ユークリッド空間の一組の基底をなすようにする。シュミットの正規直交化によって一組の正規直交基底 $\bm{x}_1, \bm{x}_2, \cdots, \bm{x}_n$ を構成し、これら $n$ 個のベクトルを列ベクトルとして行列 $\bm{P}$ を作ると $\bm{P}$ は直交行列（$\bm{P}'\bm{P}=\bm{E}_n$）。$\bm{x}_1$ は $\bm{A}$ の $\lambda_1$ に対応する固有ベクトルであるから
$\bm{P}'\bm{A}\bm{P}$ も対称行列であるから $b_{12}=b_{13}=\cdots=b_{1n}=0$、かつ
は $(n-1)$ 次対称行列。帰納仮定より $(n-1)$ 次直交行列 $\bm{Q}_{n-1}$ が存在して $\bm{Q}'_{n-1}\bm{B}_{n-1}\bm{Q}_{n-1}=\begin{bmatrix}\lambda_2&&0\\&\ddots&\\0&&\lambda_n\end{bmatrix}$。
よって
$\bm{Q}=\begin{bmatrix}1&\bm{0}'\\ \bm{0}&\bm{Q}_{n-1}\end{bmatrix}$ とおくと $\bm{Q}$ は $n$ 次直交行列、$\bm{PQ}$ も2つの直交行列の積であるから直交行列、$\bm{C}=\bm{PQ}$ とおくと $\bm{C}^{-1}\bm{A}\bm{C}=\bm{C}'\bm{A}\bm{C}=\begin{bmatrix}\lambda_1&&0\\&\ddots&\\0&&\lambda_n\end{bmatrix}$。
$\bm{C}^{-1}\bm{A}\bm{C}$ と $\bm{A}$ は相似であるから同じ固有値をもち、対角行列の対角要素 $\lambda_1, \lambda_2, \cdots, \lambda_n$ が $\bm{A}$ のすべての固有値である。
系 $\bm{A}$ が実対称行列のとき $\lambda$ が $\bm{A}$ の $r$ 重固有値であれば、対応する $\lambda$ の固有ベクトルの線形独立な最大個数はちょうど $r$ である。
実対称行列 $\bm{A}$ に対して直交行列 $\bm{C}$ を求め $\bm{C}^{-1}\bm{A}\bm{C}=\bm{C}'\bm{A}\bm{C}=\begin{bmatrix}\lambda_1&&0\\&\ddots&\\0&&\lambda_n\end{bmatrix}$ となるようにするには、まず $\bm{A}$ のすべての固有値 $\lambda_1, \lambda_2, \cdots, \lambda_n$ を求め、各固有値に対応する固有ベクトルを求める。もし一つの固有値 $\lambda$ が $r$ 重根であれば、まず対応する $r$ 個の線形独立な固有ベクトルを求め、シュミットの正規直交化によって対応するこの $r$ 重根の固有値の $r$ 個の互いに直交する単位固有ベクトルを得る。定理5.17より、これらの固有ベクトルの全体が合わせて $n$ 個の互いに直交する単位固有ベクトルをなす。以下に例を示す。
例題5.6． 二次形式 $x_1^2+2x_2^2+3x_3^2+4x_1x_2-4x_2x_3$ を直交変換によって平方項のみを含む二次形式に変換せよ。
解． 対応行列は $\bm{A}=\begin{bmatrix}1&2&0\\ 2&2&-2\\ 0&-2&3\end{bmatrix}$。固有方程式を展開すると $(\lambda+1)(\lambda-2)(\lambda-5)=0$。
$\lambda=-1$ に対応する方程式組 $\begin{bmatrix}2&2&0\\ 2&3&-2\\ 0&-2&3\end{bmatrix}\begin{bmatrix}x\\y\\z\end{bmatrix}=\bm{0}$、単位固有ベクトル $\left(-\dfrac{2}{3},\dfrac{2}{3},\dfrac{1}{3}\right)'$。
$\lambda=2$ に対応する方程式組 $\begin{bmatrix}-1&2&0\\ 2&0&-2\\ 0&-2&1\end{bmatrix}\begin{bmatrix}x\\y\\z\end{bmatrix}=\bm{0}$、単位固有ベクトル $\left(\dfrac{2}{3},\dfrac{1}{3},\dfrac{2}{3}\right)'$。
$\lambda=5$ に対応する方程式組 $\begin{bmatrix}-4&2&0\\ 2&-3&-2\\ 0&-2&-2\end{bmatrix}\begin{bmatrix}x\\y\\z\end{bmatrix}=\bm{0}$、単位固有ベクトル $\left(\dfrac{1}{3},\dfrac{2}{3},-\dfrac{2}{3}\right)'$。
対称行列の異なる固有値に対応する固有ベクトルは互いに直交するから、直交行列
が求める直交行列である。確認：$\bm{C}'\bm{A}\bm{C}=\begin{bmatrix}-1&&0\\&2&\\0&&5\end{bmatrix}$。
例題5.7． 行列 $\begin{bmatrix}2&2&-2\\ 2&5&-4\\ -2&-4&5\end{bmatrix}$ を直交行列によって対角行列に変換せよ。
解． 固有方程式は $(\lambda-1)^2(\lambda-10)=0$、固有値は $\lambda_1=\lambda_2=1$、$\lambda_3=10$。
$\lambda=1$ に対応する方程式組 $\begin{bmatrix}1&2&-2\\ 2&4&-4\\ -2&-4&4\end{bmatrix}\begin{bmatrix}x\\y\\z\end{bmatrix}=\bm{0}$、二つの線形独立な固有ベクトル $(2,0,1)'$、$(0,1,1)'$。これらをシュミットの正規直交化すると $\dfrac{1}{\sqrt{5}}(2,0,1)'$、$\dfrac{1}{3\sqrt{5}}(-2,5,4)'$。
$\lambda=10$ に対応する単位固有ベクトルは $\dfrac{1}{3}(1,2,-2)'$。
よって直交行列
確認：$\bm{C}'\begin{bmatrix}2&2&-2\\ 2&5&-4\\ -2&-4&5\end{bmatrix}\bm{C}=\begin{bmatrix}1&0&0\\ 0&1&0\\ 0&0&10\end{bmatrix}$。
例題5.8． $n$ 次対称行列 $\bm{A}=\begin{bmatrix}0&&1\\ &\ddots&\\ 1&&0\end{bmatrix}$ を直交行列によって対角行列に変換せよ。
解． 行列 $\bm{A}$ を $n$ 次元ユークリッド空間の線形変換 $\sigma$ の正規直交基底 $\bm{\alpha}_1, \bm{\alpha}_2, \cdots, \bm{\alpha}_n$ のもとでの表現行列とみなすと
$n$ 個の線形独立な固有ベクトルを求める。
$n=2m$（偶数）のとき、固有ベクトルは $\bm{\alpha}_1+\bm{\alpha}_n$、$\bm{\alpha}_2+\bm{\alpha}_{n-1}$、$\cdots$、$\bm{\alpha}_m+\bm{\alpha}_{m+1}$（固有値 $1$）と $\bm{\alpha}_1-\bm{\alpha}_n$、$\bm{\alpha}_2-\bm{\alpha}_{n-1}$、$\cdots$、$\bm{\alpha}_m-\bm{\alpha}_{m+1}$（固有値 $-1$）の合わせて $2m=n$ 個。
これら $n$ 個の固有ベクトルは互いに直交する。$\bm{\alpha}_1, \bm{\alpha}_2, \cdots, \bm{\alpha}_n$ から以上 $2m$ 個の固有ベクトルへの推移行列は
$\bm{PP}'=2\bm{E}$ であるから $\dfrac{\bm{P}}{\sqrt{2}}$ は直交行列。$\bm{C}=\dfrac{1}{\sqrt{2}}\bm{P}$ とおくと $\bm{C}'=\bm{C}^{-1}$、
$n=2m+1$（奇数）のとき、固有ベクトルは $\bm{\alpha}_1+\bm{\alpha}_n$、$\cdots$、$\bm{\alpha}_m+\bm{\alpha}_{m+2}$、$\bm{\alpha}_{m+1}$（固有値 $1$）と $\bm{\alpha}_1-\bm{\alpha}_n$、$\cdots$、$\bm{\alpha}_m-\bm{\alpha}_{m+2}$（固有値 $-1$）の $n$ 個。推移行列は
$\bm{C}=\dfrac{1}{\sqrt{2}}\bm{P}$（直交行列）とおくと
最後に対称行列が正定であることのもう一つの判定方法を与える。
定理5.19 実対称行列 $\bm{A}$ が正定であるための必要十分条件は $\bm{A}$ の固有値が全て正数であることである。
必要性：$\lambda$ が正定行列 $\bm{A}$ の一つの固有値、$\bm{x}$ が $\lambda$ に対応する固有ベクトルとする。$\bm{Ax}=\lambda\bm{x}$ の両辺左から $\bm{x}'$ を掛けると $\bm{x}'\bm{Ax}=\lambda\bm{x}'\bm{x}$。$\bm{A}$ が正定であるから $\bm{x}'\bm{Ax}>0$、$\bm{x}$ は固有ベクトルで $\bm{x}\neq\bm{0}$ であるから $\bm{x}'\bm{x}>0$、よって $\lambda>0$。
十分性：$\bm{A}$ の固有値 $\lambda_1, \lambda_2, \cdots, \lambda_n$ が全て正数のとき、定理5.18より直交行列 $\bm{C}$ が存在して $\bm{C}'\bm{A}\bm{C}=\begin{bmatrix}\lambda_1&&0\\&\ddots&\\0&&\lambda_n\end{bmatrix}$。
$\forall\bm{x}\neq\bm{0}$、$\bm{y}$ を $\bm{x}=\bm{Cy}$ で定まるベクトルとすれば $\bm{y}$ は非零ベクトルであるから
よって $\bm{A}$ は正定。
系 実対称行列 $\bm{A}$ が負定であるための必要十分条件は $\bm{A}$ の固有値が全て負数であることである。
問1． $\theta \in (0, 1)$、$A, B \in \mathrm{Sym}_d(\mathbb{R})$ が $A, B > 0$ とする。このとき、
を示せ。
解． $A > 0$（正定値対称行列）であるから、正定値対称行列である平方根行列 $A^{1/2}$ およびその逆行列 $A^{-1/2}$ が存在する。左辺の行列式を変形すると、
となる。ここで $C = A^{-1/2}BA^{-1/2}$ とおくと、$B > 0$ より $C > 0$（正定値対称行列）である。$C$ の固有値を $\lambda_1, \lambda_2, \dots, \lambda_d$ とすると、これらはすべて正の実数である。行列式の値は固有値の積に等しいため、
となる。$\theta \in (0,1)$ であり、重み付き相加・相乗平均の不等式より、各 $i$ に対して
が成り立つ。両辺ともに正であるから、各辺の積をとると
を得る。したがって、
となり、題意の不等式が示された。
問2．
がユニタリ行列を用いて対角化可能であり、かつ $a-b=2$ であるとする。この行列をユニタリ行列 $U$ を用いて対角化せよ。
解． 実行列 $A$ がユニタリ行列を用いて対角化可能であるための必要十分条件は、$A$ が正規行列であること、すなわち $A^T A = A A^T$ を満たすことである。$A^T A$ と $A A^T$ の対角成分を比較すると、
これらが等しいことから、$a^2 = b^2$、$c^2 = 4$、$d^2 = 9$ が得られる。$a-b=2$ より $a=1,\,b=-1$ である。次に非対角成分を比較すると、
となる。このとき、
は実交代行列（$A^T = -A$）であり、確かに正規行列の条件を満たす。
$A$ の固有多項式は、
より、固有値は $\lambda = \pm i,\,\pm 4i$ である。
各固有値に対する固有ベクトルを求め、正規化する。$\lambda = i$ のとき、$(A - i I)\mathbf{x} = \mathbf{0}$ を解くと、固有ベクトルの一つとして $\mathbf{v}_1 = \begin{pmatrix} 4-7i \\ 5+5i \\ -3-i \\ 5 \end{pmatrix}$ が得られる。$\|\mathbf{v}_1\| = \sqrt{150} = 5\sqrt{6}$ より $\mathbf{u}_1 = \dfrac{1}{5\sqrt{6}} \mathbf{v}_1$。$\lambda = -i$ のとき、実行列の固有ベクトルの性質から $\mathbf{v}_1$ の共役をとり、$\mathbf{u}_2 = \dfrac{1}{5\sqrt{6}} \begin{pmatrix} 4+7i \\ 5-5i \\ -3+i \\ 5 \end{pmatrix}$。$\lambda = 4i$ のとき、$(A - 4i I)\mathbf{x} = \mathbf{0}$ を解くと、固有ベクトルの一つとして $\mathbf{v}_3 = \begin{pmatrix} 4+2i \\ 5+5i \\ -3+11i \\ -10 \end{pmatrix}$ が得られる。$\|\mathbf{v}_3\| = \sqrt{300} = 10\sqrt{3}$ より $\mathbf{u}_3 = \dfrac{1}{10\sqrt{3}} \mathbf{v}_3$。$\lambda = -4i$ のとき、同様に共役をとり $\mathbf{u}_4 = \dfrac{1}{10\sqrt{3}} \begin{pmatrix} 4-2i \\ 5-5i \\ -3-11i \\ -10 \end{pmatrix}$。
以上より、これらを並べたユニタリ行列 $U = (\mathbf{u}_1\ \mathbf{u}_2\ \mathbf{u}_3\ \mathbf{u}_4)$、すなわち
を用いると、$A$ は
と対角化される。