Abbiamo visto in un precedente articolo che cos’è la rappresentazione indotta di un gruppo, di cui usiamo la notazione. In questo articolo, vediamo il criterio di Mackey, che stabilisce condizioni necessarie e sufficienti per l’irriducibilità della rappresentazione indotta. Seguiamo Serre, Linear Representations of Finite Groups.
Per poter spiegare il criterio di Mackey, ci servono alcune informazioni preliminari. Prima di tutto:
Lemma. Dato $g \in G$ e un sottogruppo $H < G$, allora l’intersezione $H_g = g H g^{-1} \cap H$ è un sottogruppo di $H$.
La dimostrazione è banale: chiaramente $H_s$ contiene l’identità, e dati due elementi $g h_1 g^{-1}, g h_2 g^{-1} \in H_g$ allora $(g h_1 g^{-1})(g h_2 g^{-1}) = g h_1 h_2 g^{-1}$ appartiene a $g H g^{-1}$ e quindi a $H_g$. È quindi un gruppo, e poiché è un sottoinsieme di $H$ per costruzione, è un suo sottogruppo.
Data una rappresentazione $\rho$ di $H$ possiamo definire una rappresentazione $\rho_g$ di $H_g$ semplicemente restringendola a $H_g$ (che è un sottogruppo di $H$), ovvero $\rho_g(x)=\rho(x)$; questa è la rappresentazione ristretta. Esiste un’altra maniera di definire una rappresentazione di $H_g$ partendo da una di $H$, ovvero definiamo la rappresentazione $\rho^g$ di $H_g$ ponendo
$$\rho^g(x) = \rho(g^{-1} x g)$$
Dato che ogni elemento di $H_g$ è della forma $x=g h g^{-1}$ allora $g^{-1} x g = h \in H$ “annulla” la coniugazione per $g$. L’apparizione di queste rappresentazioni potrebbe sembrare strana. Sono utili a causa del teorema seguente, noto anche come teorema di restrizione di Mackey:
Teorema. Sotto le ipotesi sopra, la restrizione della rappresentazione indotta si decompone come rappresentazione nella forma seguente:
$$\mathrm{Res}_H\,\mathrm{Ind}_H^G\rho = \bigoplus_{s \in H \backslash G / H} \mathrm{Ind}_{H_s}^H\rho^s$$
dove $H \backslash G /H$ sono i coinsiemi doppi di $H$ in $G$.
Dimostrazione. I coinsiemi doppi sono sottoinsiemi di $G$ della forma $H g H$ per $g \in G$, ovvero due elementi $x, y$ sono nello stesso coinsieme doppio se e solo se $y = h_1 x h_2$ per $h_1, h_2 \in H$; i coinsiemi doppi sono unioni dei coinsiemi destri o sinistri di $H$ e partizionano $G$. Con un certo abuso di notazione per gli $s$ denoteremo sia i coinsiemi doppi sia una certa scelta di rappresentanti per i coinsiemi. Passando alla dimostrazione vera e propria, abbiamo che come spazio vettoriale
$$\mathrm{Ind}_H^G\rho = \bigoplus_{\xi_i} \xi_i \otimes V$$
dove gli $\xi_i$ sono rappresentanti dei coinsiemi $G/H$ e $V$ è lo spazio di rappresentazione di $\rho$ (che è una rappresentazione di $H$). L’azione della rappresentazione indotta ristretta ad $H$ è data da
$$\rho_{\mathrm{Ind}}(h) \xi_i \otimes v = h \xi_i \otimes v = \xi_j \otimes \rho(h’) v$$
dove $h \xi_i = \xi_j h’$, ovvero $\xi_j = h \xi_i h’^{-1}$, perciò l’azione della rappresentazione indotta mescola tutti e soli i rappresentanti dei coinsiemi $G/H$ che si trovino nello stesso coinsieme doppio. Perciò è naturale definire lo spazio
$$V_s \equiv \bigoplus_{\xi_i \in s} \xi_i \otimes V$$
dove $s$ rappresenta i coinsiemi doppi; questa costruzione è ben definita, perché i coinsiemi doppi sono unioni dei coinsiemi destri o sinistri. Perciò come spazio vettoriale abbiamo
$$\mathrm{Res}_H\, \mathrm{Ind}_H^G\rho = \bigoplus_{s \in H \backslash G / H } V_s$$
Per dimostrare che questa è una decomposizione di rappresentazioni, dobbiamo dimostrare che i $V_s$ sono sottospazi invarianti di $\mathrm{Res}_H\, \mathrm{Ind}_H^G\rho$, e che la sua restrizione ad ognuno dei $V_s$ è isomorfa alla rappresentazione richiesta. Il primo pezzo l’abbiamo già fatto sopra, quando abbiamo dimostrato che l’azione della rappresentazione ristretta indotta mescola solo rappresentanti dei coinsiemi nello stesso coinsieme doppio. Per il secondo pezzo, notiamo che poiché $\xi_i \in s$, cioè nel coinsieme doppio $HsH$, allora $\xi_i = h_1 s h_2$. Ma notiamo che come spazi vettoriali
$$ \xi_i \otimes V = h_1 s h_2 \otimes V = h_1 s \otimes V $$
dato che $\rho(h_2)V=V$ essendo $\rho$ invertibile. Ora al variare di $h$, i coinsiemi $hs H$ formano tutti i coinsiemi di $G/H$ che appartengono a $H s H$. Perciò invece di sommare sugli $\xi_i$ potremmo anche sommare sui coinsiemi distinti della forma $hs H$, ovvero
$$V_s = \bigoplus_{\xi_i \in s} \xi_i \otimes V = \bigoplus_{h: hs H} hs \otimes V$$
Ma quand’è che due “coinsiemi” $hs H$ e $h’s H$ sono uguali? Ciò avviene precisamente quando $(hs)^{-1} h’s \in H$, ovvero quando $s^{-1} h^{-1} h’ s \in H$, cioè quando $h^{-1} h’ \in s H s^{-1}$. Ma poiché naturalmente $h^{-1} h’ \in H$, allora i due “coinsiemi” sono uguali se e solo se $h^{-1} h’ \in H_s$, ovvero se $h H_s = h’ H_s$. In altre parole, stiamo sommando su un insieme di rappresentanti dei coinsiemi $H/H_s$. Perciò possiamo finalmente scrivere
$$V_s = \bigoplus_{h_i \in H/H_s} h_i s \otimes V$$
Questo è quasi lo spazio di rappresentazione di $\mathrm{Ind}_{H_s}^H\rho^s$, che, come abbiamo visto in un precedente articolo è dato da
$$\mathrm{Ind}_{H_s}^H\rho^s = \bigoplus_{h_i \in H/H_s} h_i \otimes V$$
L’unica cosa che manca è togliere quel fattore di $s$. Ma i due spazi sono chiaramente isomorfi: infatti c’è un isomorfismo di spazi vettoriali $M: V_s \to \mathrm{Ind}_{H_s}^H\rho^s$ definito da $h_i s \otimes v \to h_i \otimes v$, ed estendendo linearmente. L’unica cosa quindi che rimane da dimostrare è che questo isomorfismo è in realtà una mappa equivariante. Applicando $\rho^s_{\mathrm{Ind}}$ a un elemento di base abbiamo
$$\rho^s_{\mathrm{Ind}}(h) h_i \otimes v = h h_i \otimes v = h_j \otimes \rho^s(h_j^{-1} h h_i) v = h_j \otimes \rho((h_js)^{-1} h (h_is) v$$
dove $h h_i = h_j h’$ per un qualche $h’ \in H_s$ e $h_j$ è un altro rappresentante dei coinsiemi $H/H_s$. In particolare, abbiamo $h_j^{-1} h h_i \in H_s$, ovvero $(h_js)^{-1} h (h_is) \in H$. Ora vediamo come agisce l’altra rappresentazione su un suo elemento base in questo sottospazio; abbaimo
$$\rho_{\mathrm{Ind}}(h) h_i s \otimes v = h h_i s \otimes v = h_k s \otimes \rho((h_k s)^{-1} h (h_i s)) v$$
dove abbiamo fatto lo stesso giochetto di prima ovvero abbiamo scritto $h h_i s = h_k s h’$ in modo tale da poter spostare $h’$ sul secondo elemento. Vediamo che abbiamo ottenuto lo stesso elemento dell’altra rappresentazione (a meno dell’applicazione di $M$) purché $h_j = h_k$. Si tratta quindi di dimostrare quest’ultimo fatto e abbiamo concluso. Per definizione di $h_j$ sappiamo che $h h_i \in h_j H_s$. Invece per definizione di $h_k$ sappiamo che $h (h_i s) \in h_k s H$, ovvero spostando gli $s$ abbiamo $h h_i \in h_k H_s$; poiché i coinsiemi non hanno intersezione, poiché $h h_i$ appartiene ad entrambi, allora sono identici: perciò $h_k H_s = h_j H_s$. Ma poiché gli $h_i$ sono rappresentanti degli insiemi, ce n’è uno solo per insieme, e quindi $h_k=h_j$. $\square$
Dopo questa dimostrazione molto difficile, il teorema di Mackey è abbastanza facile sia da formulare che da dimostrare:
Teorema (Mackey) Sia $H < G$ e $\rho$ una rappresentazione di $H$. Allora la rappresentazione indotta $\rho_{\mathrm{Ind}}$ su $G$ è irriducibile se e solo se le seguenti due condizioni sono verificate:
- $\rho$ è irriducibile.
- Per ogni $g \in G-H$ le due rappresentazioni $\rho_g$ e $\rho^g$ di $H_g$ (definite come sopra) sono disgiunte, ovvero non hanno nessun componente irriducibile in comune.
Dimostrazione. Una condizione necessaria e sufficiente per l’irriducibilità di $\rho_{\mathrm{Ind}}$ è che $\expval{\rho_{\mathrm{Ind}}, \rho_{\mathrm{Ind}}}_G=1$ (per i teoremi di ortogonalità). Abbiamo visto in un precedente articolo la reciprocità di Frobenius, che in questo caso afferma che
$$\expval{\rho_{\mathrm{Ind}}, \rho_{\mathrm{Ind}}}_G = \expval{\rho, \mathrm{Res}_H\,\mathrm{Ind}_H^G\rho}_H$$
dove semplicemente $\rho_{\mathrm{Ind}} \equiv \mathrm{Ind}_H^G \rho$ sono la stessa cosa. A questo punto utilizzando la proposizione precedente, abbiamo che
$$\mathrm{Res}_H\,\mathrm{Ind}_H^G\rho = \bigoplus_{s \in H \backslash G / H} \mathrm{Ind}_{H_s}^H\rho^s$$
Perciò sostituendo troviamo che
$$\expval{\rho, \mathrm{Res}_H\,\mathrm{Ind}_H^G\rho}_H = \sum_{s \in H \backslash G / H} \expval{\rho, \mathrm{Ind}_{H_s}^H\rho^s}_H = \sum_{s \in H \backslash G / H} \expval{\mathrm{Res}_{H_s} \rho,\rho^s}_{H_s}$$
dove abbiamo di nuovo utilizzato la reciprocità di Frobenius. Tra i coinsiemi doppi ne abbiamo uno banale, cioè $s=1$ che è banalmente $H$, e altri non banali. Per l’ortogonalità dei caratteri irriducibili, il fatto che $\rho_s$ e $\rho^s$ siano disgiunte è equivalente a $\expval{\rho_s, \rho^s}_{H_s}=0$. Notiamo inoltre che per $s=1$, abbiamo $H_s=H$ e quindi entrambe le rappresentazioni sono semplicemente $\rho$, per cui $\expval{\rho, \rho} \geq 1$ (ciò si vede facilmente espandendo $\rho$ nelle sue componenti irriducibili; allora $\expval{\rho, \rho}$ è uguale alla somma dei quadrati delle molteplicità delle rappresentazioni irriducibili). Perciò l’irriducibilità della rappresentazione indotta originale è equivalente al fatto che $\expval{\rho, \rho}=1$ (e quindi $\rho$ è irriducibile) insieme al fatto che tutti gli altri termini nella somma su $s$ sopra sono nulli, che è precisamente la seconda condizione. $\square$