定義 2.1 (線形変換群) $n$ 次元複素線形空間 $V$ 上の全非退化(非特異)線形変換の全体は、変換の合成を乗法として群をなす。 これを $n$ 次元一般線形群 $GL(V, \mathbb{C})$ という。 その部分群 $L(V, \mathbb{C})$ を $V$ 上の線形変換群という。
非退化でない変換(行列式がゼロの変換)を除く理由は、逆元が存在しないため群をなさないからである。
定義 2.2 (群の表示) 同態写像 $A: G \to L(V, \mathbb{C})$ が存在して、
を満たすとき、$A$ を群 $G$ の線形表示(表示)という。
互いに逆な元は互いに逆な変換に対応する。同態写像が全単射(同型写像)のとき、その表示を忠実表示という。 一つの群には一般に無数の表示が存在するが、後に定義する等価・不等価および既約・可約の概念によって分類される。最も重要なのは不等価不可約表示である。
線形空間として関数空間を用いる場合、基底が関数 $\phi(\bm{r})$ であるときの表示の扱いを説明しておく。 一般に抽象群の元 $g$ は座標 $\bm{r}$ に作用し、$A(g)$ は関数 $\phi(\bm{r})$ に作用する。 $\bm{r}' = g\bm{r}$ とおき、変換の前後で関数値が変わらないという条件
から、変換された関数は
と定義される。これは座標と関数を同時に変換すると関数値は変わらないという自然な要請に対応する (例えば、$xy$ 平面を回転させ、関数もそれに追随して回転すると、全体の関数値は変化しない)。
定義 2.3 (等価表示) 群 $G$ の各元に非特異変換 $A(g)$ が対応しているとする。 $V$ 上の非特異変換 $P$($\det P \neq 0$)をとると、
より $P^{-1}A(g)P$ も群 $G$ の表示をなす。これを元の表示の等価表示という。
表示とその等価表示の行列の関係を基底の変換から導いておく。 二組の基底を $(e_1, e_2, \ldots)$ と $(e'_1, e'_2, \ldots)$ とし、変換行列を $P$ で
と結ぶ。同じ線形変換 $y = A(g)x$ を二組の基底で展開すると、
ここで $[A(g)]_B$ は基底 $B$ のもとでの係数行列を表す。したがって、
定義 2.4 (可約表示) 群 $G$ の表示空間 $V$ に不変な真部分空間 $W$ が存在するとき、その表示を可約表示という。 このとき行列は
という上三角ブロック形式をとる。ここで「真部分空間」とは $V$ 自身でも $\{0\}$ だけでもない部分空間を意味し、「不変」とは $\forall\, y \in W,\; \forall\, g \in G$ に対して $A(g)y \in W$ が成り立つことを意味する。
定義 2.5 (直和) 群 $G$ の表示空間 $V$ において、$W,\, W'$ がともに $V$ の部分空間であり、$\forall\, x \in V$ が $x = y + z$($y \in W,\; z \in W'$)と一意に分解できるとき、
と書き、$V$ は $W$ と $W'$ の直和であるという。
定義 2.6 (完全可約表示) 群 $G$ の表示空間 $V$ が二つの不変部分空間の直和に分解されるとき、その表示を完全可約表示という。 行列形式では
と対角ブロック形式になる。表示 $A$ も直和の形で $A = C \oplus B$ と書く。
この操作を繰り返すと、可約表示は一連の不可約表示の直和に分解される。
ここで $p$ は不可約表示の番号、$m_p$ はその重複度(出現回数)である。
定理 2.1 (有限群の表示定理) 有限群において、表示が可約ならば完全可約である。
可約表示の形式を
とおく。ある行列 $P = \begin{pmatrix} I & C \\ 0 & I \end{pmatrix}$ によって対角ブロック化
を実現したい。方程式 $P^{-1}A(g_\alpha)P = \begin{pmatrix} G_1 & 0 \\ 0 & G_2 \end{pmatrix}$ を展開すると、$C$ が満たすべき方程式は
また、$A(g_\alpha)A(g_\beta) = A(g_\alpha g_\beta)$ という表示の性質から、
が導かれる。式 (3) に $G_2(g_\alpha^{-1})$ を右からかけると
となるので、$C$ の解として
を試みる($n_G$ は群の位数)。これを代入すると、式 (4) を用いて、
定義 2.7 (ユニタリ表示) ユニタリ変換群またはユニタリ行列群による表示をユニタリ表示という。 ユニタリ表示では
が成り立つ。
定理 2.2 ユニタリ表示が可約ならば完全可約である。
ユニタリ表示が定義する内積空間を $V = W \oplus W'$ と分解する($W$ は不変真部分空間、$W'$ は $W$ の直交補空間)。 $W'$ もまた不変部分空間であることを示せばよい。
$\forall\, y \in W,\; \forall\, z \in W'$ に対して $(y, z) = 0$ だから、
ここで $y' = A(g^{-1})y \in W$($W$ は不変)。よって $A(g)z \in W'$、すなわち $W'$ は不変部分空間である。
定義 2.8 (群空間と群代数) 複素数体 $\mathbb{C}$ と群 $G$ をとり、群元の加法と数乗を定義して線形空間を構成したものを群空間 $V_G$ という。
群空間の元 $x = \sum_\alpha x_\alpha g_\alpha$、$y = \sum_\beta y_\beta g_\beta$ に対して、乗法を
と定義すると、$V_G$ は群代数 $\mathbb{C}[G]$(または $RG$)をなす。 $y$ の成分を $y_{\alpha^{-1}\gamma}$ と書くのは、$g_\gamma = g_\alpha g_{\alpha^{-1}\gamma}$ となる $g_{\alpha^{-1}\gamma}$ の存在を保証するためである。
定義 2.9 (左・右正則表示) 群代数 $\mathbb{C}[G]$ 上の線形変換群 $\{L(g)\}$ を
と定義すると、この同態写像は表示をなす。これを左正則表示という。
右正則表示は同様に $R(g_i)\,x = \sum_j x_j\, g_j g_i^{-1}$ と定義される。 左・右正則表示はともに同型写像であり、忠実表示である。これらを総称して正則表示という。
定理 2.3 (Schur の補題 I) 群 $G$ が有限次元ベクトル空間 $V_A$ と $V_B$ 上にそれぞれ不可約表示 $A$、$B$ をもつとする。 $\forall\, g \in G$ に対して線形写像 $M: V_A \to V_B$ が
を満たすとき、以下が成り立つ。
$V_A$ 内の部分空間 $N = \{x \in V_A \mid Mx = 0\}$ を考える。 $\forall\, g \in G$ に対して
よって $N$ は $V_A$ の不変部分空間である。$V_A$ は不可約だから $N = V_A$ または $N = \{0\}$ のいずれかである。
$N = V_A$ の場合:任意の $x \in V_A$ について $Mx = 0$、すなわち $M = 0$。
$N = \{0\}$ の場合:$Mx_1 = Mx_2$ ならば $M(x_1 - x_2) = 0$ だから $x_1 - x_2 \in N = \{0\}$、すなわち $x_1 = x_2$。よって $M$ は単射である。
次に像 $R = \{y \in V_B \mid y = Mx,\; x \in V_A\}$ を考える。$\forall\, g \in G$ に対して
よって $R$ は $V_B$ の不変部分空間であり、$B$ の不可約性から $R = V_B$ または $R = \{0\}$。 $M$ は単射で $V_A \neq \{0\}$ だから $R \neq \{0\}$、したがって $R = V_B$ であり、$M$ は全単射となって逆写像が存在する。 このとき $B(g) = M A(g) M^{-1}$ だから $A$ と $B$ は等価である。
以上から、$M \neq 0$ ならば $A$ と $B$ は等価(命題 2)。その対偶として、$A$ と $B$ が不等価ならば $M = 0$(命題 1)。
定理 2.4 (Schur の補題 II) $A$ を群 $G$ の有限次元複素線形空間 $V$ 上の不可約表示とする。 $V$ 上の線形変換 $M$ が $\forall\, g \in G$ に対して
を満たすならば $M = \lambda E$($\lambda$ はスカラー、$E$ は単位変換)である。 すなわち、不可約表示の任意の行列と可換な行列は必ず定数行列である。
$M$ は変換行列だから固有値 $\lambda_0$ をもち、$My = \lambda_0 y$ を満たす $y$ が存在する。 部分集合 $R = \{y \in V \mid My = \lambda_0 y\}$ を考えると、$\forall\, g \in G$ に対して
よって $R$ は不変部分空間であり、不可約性から $R = V$ または $R = \{0\}$。 $\lambda_0$ は固有値で $R \neq \{0\}$ だから $R = V$、すなわち $Mx = \lambda_0 x$ が $V$ 全体で成り立つから $M = \lambda_0 E$。
定理 2.5 有限群の複素線形空間上の任意の表示は、ユニタリ表示と等価である。
$V$ の内積を $(x \mid y)$、群の位数を $n$ とし、新しい内積を
と定義する。これは正定値であり、重排定理 $g_i g$ が $g_i$ とともに群全体を動くことから、すべての $g$ について $\langle A(g)x \mid A(g)y \rangle = \langle x \mid y \rangle$ が成り立つ。 すなわち $A$ は内積 $\langle\ \mid\ \rangle$ に関してユニタリである。 そこで、元の内積 $(\ \mid\ )$ に関する正規直交基底を、$\langle\ \mid\ \rangle$ に関する正規直交基底へ移す非特異変換 $X$ をとる。このとき
が成り立つ。これを用いると、$X^{-1}AX$ が元の内積に関してユニタリであることが確認できる。
定理 2.6 (正交性定理) 群 $G$ の不等価不可約ユニタリ表示を $A^p$(次元 $s_p$)とする。 これらの表示行列の成分は群関数として内積空間を構成し、
が成り立つ($n$ は群の位数)。
Step 1(行の正交性):$s_p$ 次行列 $D$ を任意にとり、
を構成する。$A^p(g_j)C = CA^p(g_j)$ が示せるから(重排定理による添字の入れ替えで確認できる)、Schur の補題 II より $C = \lambda(D) E$。 $D$ として $(b, c)$ 成分だけが $1$ の行列単位をとると、
ここでユニタリ表示の性質 $A^p_{ab}(g_i^{-1}) = A^{p\dagger}_{ab}(g_i) = A^{p*}_{ba}(g_i)$ を用いた。
Step 2(係数 $\lambda$ の決定):$a = a'$ とおいて $a$ で和をとると、
よって $\lambda(D) = \delta_{bc}/s_p$ が得られる。Step 1 と合わせると
Step 3(表示間の正交性):不等価不可約表示 $A^r$、$A^p$(次元 $s_r,\, s_p$)に対して
を構成すると $A^p(g_j)C' = C'A^r(g_j)$ が示せるから、Schur の補題 I より任意の $D$ について $C' = 0$。 $D$ を行列単位にとって成分を書けば、$r \neq p$ のとき $(A^p_{ab} \mid A^r_{a'b'}) = 0$ を得る。これと Step 1, 2 を合わせて式 (6) が得られる。
定理 2.7 (完備性定理) 有限群 $G$ のすべての不等価不可約表示 $A^p$ の集合について、$A^p_{ab}$ が $p, a, b$ の全体を動くとき、群関数空間は完備である。
まず表示行列の第 $a$ 行の群関数は正交性定理より互いに正交しており、一つの部分空間を構成する。 第 $b$ 列の元 $\sum_i A^p_{ab}(g_i)g_i$ に右正則変換を作用させると、
よってこのベクトルは第 $a$ 行の部分空間内に留まるから、不変部分空間をなす。
$q$ 個の不等価不可約ユニタリ表示から構成される線形空間を $V$ とし、$V = RG$ を証明するために直交補空間 $V^\perp$ を考える。 $V$ が不変部分空間ならば $V^\perp$ も不変部分空間である。$V^\perp$ の基底ベクトル $X$ に右正則変換を施すと、
となり($A^r$ は $RG$ の不可約不等価表示)、$V^\perp$ のベクトルが $V$ の基底で展開されることから $V^\perp \subset V$ が導かれ矛盾する。 よって $V^\perp = \{0\}$、すなわち $V = RG$ が示された。
定理 2.8 (Burnside の定理) 不可約表示の次元の $2$ 乗の和は群の位数に等しい。すなわち、
群 $G$ の位数が $n$ であり群関数空間の次元も $n$ である。 完備性定理より正交群関数 $\sqrt{s_p} A^p_{ab}(g_i)$ が完備系をなすから、 その線形空間の次元は $s_1^2 + s_2^2 + \cdots = n$。
定義 2.10 (指標) 群 $G$ の表示 $A$ に対して、その指標を
と定義する。 相似変換でトレースは変わらないから等価な表示は同じ指標をもつ。 また、同じ類の元はすべて共役であるからトレースが等しく、指標は群関数であるとともに類の関数でもある。
定理 2.9 (指標の第一正交定理) 有限群の不可約表示の指標は
を満たす。
正交性定理を用いる。
指標がまた類の関数でもあることから、内積を類ごとにまとめて書くことができる。
ここで $K_i$ は類、$n_i$ はその類の元の個数である。
第一正交定理から次の三点が導かれる。
定理 2.10 (指標の完備性) 有限群のすべての不等価不可約表示の指標は、類関数の空間において完備である。
類関数 $f$ の展開式を
とおく。$f$ は類関数だから $f(g_i) = \frac{1}{n}\sum_j f(g_j^{-1}g_i g_j)$。これを展開式に代入して正交性定理を用いると、
よって任意の類関数は不可約表示の指標の線形結合で表され、指標の完備性が示された。 このことから、類関数空間の次元(類の個数)と不等価不可約表示の個数が等しいことも導かれる。
定理 2.11 (指標の第二正交定理)
すなわち異なる類の指標は正交する。
$q \times q$ 行列 $F$ を
と定義する(類の個数と不等価不可約表示の個数は定理 2.10 により等しいので、$F$ は正方行列である)。第一正交定理より、
したがって $FF^\dagger = E$($F$ はユニタリ行列)。よって
整理すると $\dfrac{1}{n}\sum_r n_i\,\chi^{r*}(K_i)\chi^r(K_j) = \delta_{ij}$ を得る。
以上の正交定理を用いて指標表(キャラクター表)を作成することができる。 指標表の行は不等価不可約表示に、列は類に対応し、第一・第二正交定理はそれぞれ行・列の正交性を与える。 表の形式を示す。
図 2.1:指標表の模式図。$A^p$ は表示、$n_i$ は類 $K_i$ の元の個数。
定義 2.11 (行列の直積・Kronecker 積) $m$ 次行列 $A$ と $n$ 次行列 $B$ の直積を
と定義する。成分で書くと $(A \otimes B)_{abcd} = A_{ac} B_{bd}$。
直積は次の性質をもつ。
定義 2.12 (群表示の直積) 群 $G$ の二つの表示 $A$、$B$ について、直積 $C = A \otimes B$ を定義する。 直積の性質 4 より
が成り立つから $C$ も表示をなす。対応する指標は
直積表示の指標 $\chi^A\chi^B$ を不可約表示の指標と内積をとって展開すれば、直積表示にどの不可約表示が何回含まれるかが分かる。
定義 2.13 (直積群の表示) $G = G_1 \otimes G_2$ において、$G_1$ が表示 $A$、$G_2$ が表示 $B$ をもつとき、
は群 $G$ の表示をなす。二つの不可約表示の直積も不可約である。
次に、部分群の既知の表示から群全体の表示を構成する方法——誘導表示——を説明する。
群 $G$ があまりにも複雑な場合、それを直接不可約表示に分解するのは難しい。 そこで「小から大へ」という方針をとる。群 $G$ の中の部分群 $H$ とその表示 $B$ および表示空間 $W$ を既知として、$G$ の表示を構成することを考える。
定義 2.14 (誘導表示) 部分群 $H \leq G$ とその表示 $B$(表示空間 $W$)から構成される $G$ の表示を誘導表示といい、 $\mathrm{Ind}_H^G B$、$B{\uparrow}_H^G$、あるいは単に $U^B$ などと表す。
構成の手順は次の通りである。
Step 1(関数空間 $V$ の定義): 写像 $f: G \to W$ の全体を考え、変換性
を要請する。これにより $f$ は $H$ の作用に従って変換される。
Step 2(線形変換の定義): $V$ 上の線形変換 $U(g)$ を
と定義する。式 (7) を用いると $[U(g)f](hg'') = f(hg''g) = B(h)f(g''g)$ となり、変換性が保たれる。
Step 3(表示であることの確認): $[U(g'')U(g')f](g) = [U(g')f](gg'') = f(gg''g') = [U(g''g')f](g)$ より $U$ は群の乗法規則を保ち、$G$ の表示をなす。
誘導表示の具体的な行列形式を求めるには次の手順をとる。
Step 1(関数空間の次元の確定): $V: G \to W$ の写像だから、空間の次元は $n \times d$ である($n = |G|$、$d = \dim W$)。 変換性 (7) により、$f$ は同じ右剰余類の中では $B(h)$ を介して値が決まるから、群を右剰余類に分解して $G = Hg_1 \cup Hg_2 \cup \cdots \cup Hg_l$($g_1 = e$、$l = |G|/|H|$)とすると、$f$ は代表元 $g_1, \ldots, g_l$ での値で決まり、次元は $l \times d$ に縮小される。
Step 2(基底の確定): $l \times d$ 個の基底を
と定義する($r = 1, \ldots, d$;$j = 1, \ldots, l$;$\bm{e}_r$ は $W$ の基底)。
Step 3(表示行列の確定): 代表元 $g_k$ での値を考えると、$g_k g = h g_i$($h \in H$、すなわち $h = g_k g g_i^{-1}$)と分解できて、
$\dot{B}(x)$ を、$x \in H$ のとき $B(x)$、そうでないとき $0$ と定義すると、$[U(g)f](g_k) = \sum_i \dot{B}(g_k g g_i^{-1})\,f(g_i)$ であるから、誘導表示の行列は
と書ける。誘導表示の指標は
ここで $\dot{\chi}^B(x)$ は $x \in H$ のとき $\chi^B(x)$、そうでないとき $0$ である。$m = |H|$ は部分群の位数で、$t = h g_j$($h \in H$)と書くと $\chi^B$ が $H$ の元による共役で変わらないため、各 $j$ がちょうど $m$ 回数えられることを補正している。
逆に、群 $G$ の表示 $A$ を部分群 $H$ に制限したものを縮小表示 $A|_H$ という。縮小表示は可約になることも不可約になることもある。
定理 2.12 (Frobenius の定理) 誘導表示 $U^B$ における不可約表示 $A$ の重複度は、縮小表示 $A|_H$ における $B$ の重複度と等しい。
内積の計算を行う。
位数 $3$ の巡回群 $\mathbb{Z}_3 = \{e,\, a,\, a^2\}$ の $1$ 次元表示をすべて求めよ。Burnside の定理との関係も述べよ。
$1$ 次元表示では $A(a)$ は複素数 $\omega$ で、$a^3 = e$ より $\omega^3 = 1$。したがって
の三つがあり、$A(a^k) = \omega^k$ で表示が決まる。これらは互いに不等価で、いずれも $1$ 次元だから不可約である。 Burnside の定理 $\sum_p s_p^2 = 3$ に対し $1^2 + 1^2 + 1^2 = 3$ となり、これですべてである。アーベル群の不可約表示はすべて $1$ 次元であり、その個数は群の位数に等しい。
$S_3$ の不可約表示の次元は $1, 1, 2$ であることを示し、指標表を作れ。
$S_3$ の類は、恒等 $\{e\}$、互換 $\{(1\,2),(1\,3),(2\,3)\}$、$3$ 次輪換 $\{(1\,2\,3),(1\,3\,2)\}$ の三つである。類の個数は不等価不可約表示の個数に等しい(定理 2.10)ので、不可約表示は三つ。 自明表示(すべて $1$)と符号表示(偶置換で $+1$、奇置換で $-1$)の $1$ 次元表示が二つある。Burnside の定理 $1 + 1 + s^2 = 6$ より、残りは $s = 2$ である。
$2$ 次元表示 $E$ の指標は正則表示の分解から求まる。正則表示の指標は $(6, 0, 0)$ で、$A_1 \oplus A_2 \oplus 2E$ と分解されるから、互換では $0 = 1 - 1 + 2\chi_E$ より $\chi_E = 0$、$3$ 次輪換では $0 = 1 + 1 + 2\chi_E$ より $\chi_E = -1$。指標表は次の通り。
| $e$(1 個) | 互換(3 個) | 3 次輪換(2 個) | |
| $A_1$ | 1 | 1 | 1 |
| $A_2$ | 1 | $-1$ | 1 |
| $E$ | 2 | 0 | $-1$ |
第一正交定理の確認:$(\chi_E \mid \chi_E) = \dfrac{1}{6}(2^2 + 3\cdot 0 + 2\cdot(-1)^2) = 1$、$(\chi_{A_1} \mid \chi_E) = \dfrac{1}{6}(2 + 0 - 2) = 0$。
$S_3$ が三つの点を置換する $3$ 次元表示の指標は $(3,\, 1,\, 0)$($e$、互換、$3$ 次輪換の順)である。これを不可約表示の直和に分解せよ。
重複度は指標の内積 $m_p = (\chi^p \mid \chi)$ で与えられる(類の元の個数 $1, 3, 2$ を重みとする)。
よって $3$ 次元表示 $= A_1 \oplus E$ である(次元は $1 + 2 = 3$ で一致する)。$A_1$ は三つの点の和 $x_1 + x_2 + x_3$ を張る不変部分空間に対応する。