Un concetto centrale nella teoria delle rappresentazioni è il concetto di rappresentazione irriducibile. Queste rappresentazioni formano i “mattoni” con cui è possibile costruire ogni altra rappresentazione. Inoltre, ogni gruppo finito ammette una rappresentazione fedele (per il teorema di Cayley ogni gruppo finito è un sottogruppo del gruppo delle permutazioni $S_N$ per un qualche $N$, e $S_N$ può essere rappresentato fedelmente dalle matrici di permutazione). Tuttavia, non è detto che un gruppo abbia delle rappresentazioni fedeli irriducibili.
Innanzitutto abbiamo il seguente risultato che caratterizza parzialmente tali gruppi:
Proposizione. Se $G$ ammette una rappresentazione fedele irriducibile, allora il centro di $G$ è ciclico.
Dimostrazione. Chiamiamo $\rho$ la rappresentazione fedele irriducibile. Supponiamo che $h \in Z(G)$, il centro di $G$. Allora abbiamo
$$\rho(g) \rho(h) = \rho(gh) = \rho(hg) = \rho(h) \rho(g)$$
per un elemento qualsiasi $g \in G$, dove abbiamo usato il fatto che gli elementi del centro sono esattamente quelli che commutano con tutti gli altri. Allora per il lemma di Schur, poiché $\rho(h)$ commuta con la rappresentazione $\rho$, allora $\rho(h) = \lambda(h) I$ dove $I$ è la matrice identità. Poiché $\rho$ è unitaria, $\abs{\lambda(h)}=1$. In particolare $\lambda: Z(G) \to \U(1)$ è un omomorfismo, poiché dati due elementi $h_1, h_2$ nel centro abbiamo
$$\lambda(h_1 h_2) I = \rho(h_1 h_2) = \rho(h_1) \rho(h_2) = \lambda(h_1) \lambda(h_2) I$$
Inoltre, poiché $\rho$ è fedele, $\lambda$ è iniettivo. Infatti l’iniettività è equivalente a $\ker{\lambda}=\{1\}$, ma se $\lambda(h) = 1$ allora $\rho(h)=I$, ma poiché $\rho$ è fedele, ciò implica $h=1$. Ciò implica che $\lambda: Z(G) \to \mathrm{im}(\lambda) \subset \U(1)$ è biettivo e quindi un isomorfismo. Perciò $Z(G)$ è isomorfo ad un sottogruppo finito di $\U(1)$, e come abbiamo visto in un precedente articolo, tutti i sottogruppi finiti di $\U(1)$ sono ciclici. Perciò $Z(G)$ è ciclico. $\square$
Questo risultato già ci dice che se un gruppo ha centro non ciclico, allora non può avere rappresentazioni fedeli irriducibili. Abbiamo subito il seguente corollario:
Corollario. Un gruppo abeliano ammette rappresentazioni fedeli irriducibili se e solo se è ciclico.
Dimostrazione. In un gruppo abeliano $Z(G)=G$ se ammette rappresentazioni fedeli irriducibili allora è ciclico. Al contrario, se è ciclico allora è $\Z_N$ per qualche $N$ e abbiamo esplicitamente la rappresentazione fedele irriducibile $\rho(g^k) = e^{2\pi i k/N}$ dove $g$ è il generatore di $\Z_N$. $\square$
Questo risultato ci dà subito l’idea del più semplice controesempio possibile: il gruppo di Klein $\Z_2 \times \Z_2$, per cui possiamo controllare manualmente che nessuna delle quattro rappresentazioni irriducibili è fedele.
In particolare, avere centro ciclico è una condizione necessaria ma non sufficiente per ammettere una rappresentazione irriducibile fedele. Abbiamo un risultato positivo:
Teorema. Sia $G$ un gruppo semplice finito. Allora tutte le rappresentazioni irriducibili non banali di $G$ sono fedeli.
Dimostrazione. Un gruppo è semplice se i suoi unici sottogruppi normali sono quello banale e il gruppo stesso. Ora consideriamo una rappresentazione irriducibile $\rho(g)$. Il fatto che $\rho$ è fedele è equivalente a dire che $\rho(g)=I$ implica $g=1$, cioè che $\rho$ ha kernel banale. Supponiamo invece che $\mathrm{ker}(\rho)$ non sia banale. In generale $\mathrm{ker}(\rho)$ è un sottogruppo normale di $G$. Poiché $G$ è semplice, e il kernel non è banale allora $\mathrm{ker}(\rho)=G$ e quindi la rappresentazione $\rho$ è tale che $\rho(g)=1$ per ogni $g$, perciò è la rappresentazione banale. Perciò se $G$ ha rappresentazioni irriducibili non banali, queste sono necessariamente fedeli. $\square$
In particolare il centro di un gruppo è sempre normale e quindi se $G$ è semplice $Z(G) = \{1\}$, che è ciclico. Ulteriori informazioni sul problema si possono trovare in questo post e in questo articolo, nel quale troviamo una condizione sufficiente (ma non necessaria) abbastanza semplice:
Teorema. Se tutti i sottogruppi di Sylow di $G$ hanno centro ciclico, allora $G$ ammette una rappresentazione fedele irriducibile.
che è abbastanza semplice da controllare in pratica.