Consideriamo una rappresentazione $\rho$ di un gruppo finito $G$ il cui corrispondente spazio vettoriale è $V_\rho$. Molto spesso si cercano dei sottospazi invarianti delle rappresentazioni, tuttavia oggi ci facciamo una domanda diversa, ovvero cercheremo i vettori invarianti.
Diciamo che un vettore $x \in V_\rho$ è invariante se $\rho(g)x = x$ per ogni $g \in G$. Questa definizione è molto più restrittiva rispetto alla definizione di sottospazio invariante, perché per un sottospazio invariante $W \subset V_\rho$ richiediamo soltanto che $\rho(g) x \in W$ per ogni $x \in W$. Chiaramente se $V_\rho$ è una rappresentazione irriducibile allora non ha sottospazi invarianti non banali, e quindi non ha vettori invarianti. Tuttavia qui consideriamo rappresentazioni generiche.
Lo strumento fondamentale che ci permette di trovare i vettori invarianti è la mappa “media” $M: V_\rho \to V_\rho$ definita da
$$M(x) = \frac{1}{\abs{G}} \sum_{g\in G} \rho(g) x$$
In altre parole applichiamo la rappresentazione $\rho(g)$ al vettore $x$ per ogni $g$ e ne facciamo la media. La mappa $M$ ha diverse proprietà utili. Innanzittutto per ogni $x \in V_\rho$, $M(x)$ è un vettore invariante. Infatti abbiamo
$$\rho(g) M(x) = \rho(g)\frac{1}{\abs{G}} \sum_{h\in G} \rho(h) x = \frac{1}{\abs{G}} \sum_{h\in G} \rho(gh) x = \frac{1}{\abs{G}} \sum_{h\in G} \rho(h) x = M(x)$$
dove abbiamo usato prima il fatto che $\rho$ è una rappresentazione e poi che sommare su tutti gli $h$ o su tutti gli $hg$ è la stessa cosa. Ciò dimostra che in realtà $M: V_\rho \to \mathrm{Inv}\pqty{V_\rho}$, dove $\mathrm{Inv}\pqty{V_\rho}$ è lo spazio dei vettori invarianti della rappresentazione $\rho$. Inoltre se $x$ è invariante allora $\rho(g) x=x$ per ogni $g$, e quindi $M(x)=x$. Perciò $M: V_\rho \to \mathrm{Inv}\pqty{V_\rho}$ è suriettiva.
Ora dimostriamo un’ultima proprietà utile, cioè che $M$ è una proiezione, ovvero $M^2=M$. Abbiamo infatti
$$M^2(x) = \frac{1}{\abs{G}} \sum_{g\in G} \rho(g) M(x) = \frac{1}{\abs{G}^2} \sum_{h\in G} \sum_{g\in G} \rho(g) \rho(h) x =\frac{1}{\abs{G}^2} \sum_{h\in G} \sum_{g\in G} \rho(gh) x=\\
=\frac{1}{\abs{G}^2} \sum_{h\in G} \sum_{g\in G} \rho(g) x=\frac{1}{\abs{G}} \sum_{h\in G} M(x) = M(x)$$
Poiché $M^2=M$, allora $M$ avrà come autovalori solamente $0$ o $1$. Gli autovettori con autovalore $1$ formeranno uno base dello spazio dei vettori con autovalore $1$, cioè lo spazio dei vettori invarianti $\mathrm{Inv}\pqty{V_\rho}$. Perciò la dimensione dello spazio invariante è data dalla somma degli autovalori di $M$,
$$\mathrm{dim}\mathrm{Inv}\pqty{V_\rho} = \tr{M}=\frac{1}{\abs{G}} \sum_{g \in G}\chi_\rho(g)$$
dove $\chi_\rho(g) = \tr\rho(g)$ è il carattere di $\rho$. In particolare abbiamo anche una ricetta esplicita per trovare la base di $\mathrm{Inv}\pqty{V_\rho}$, ovvero basta scrivere $M$ come matrice e diagonalizzarla.