Consideriamo due matrici arbitrarie $A$ e $B$. Sotto quali condizioni hanno un autovettore in comune? E come facciamo a trovare tutti gli autovettori comuni? Il problema è facile se $A$ e $B$ commutano, ma qui consideriamo il caso generale. Seguiamo Shemesh, Common Elgenvectors of Two Matrices.
Supponiamo che $A$ e $B$ abbiano un autovettore in comune. Ovvero esiste un vettore $x$ tale che
\begin{align*}
Ax &= \lambda x\\
Bx &= \mu x
\end{align*}
Allora in particolare abbiamo che $(AB -BA)x = (\lambda \mu -\mu\lambda)x = 0$. Ciò vuol dire che in particolare il commutatore $[A,B] = AB-BA$ ha un autovettore nullo. Quindi in altri termini $\ker([A,B]) \neq \{0\}$ è non banale, e $\det [A,B]=0$. Questo criterio è certamente necessario, e quindi se non viene soddisfatto, sappiamo già che $A$ e $B$ non avranno autovettori in comune. Ma è anche un criterio sufficiente? La risposta è no.
Notiamo che il ragionamento precedente può essere esteso a potenze arbitrarie delle due matrici. Se $x$ è un autovettore comune, allora $[A^k, B^l] x = 0$ e quindi $\ker([A^k,B^l]) \neq \{0\}$. Per ogni $k,l$ anche questo è criterio necessario. Mettendo insieme questi spazi, si può dimostrare la seguente condizione necessaria e sufficiente:
Teorema. (Shemesh) Due matrici $n \times n$ $A$ e $B$ hanno un autovettore in comune se e solo se $\cap_{k,l=1}^{n-1} \ker([A^k,B^l]) \neq \{0\}$.
La dimostrazione procede nel modo seguente. Una direzione l’abbiamo già fatta: se infatti $A$ e $B$ hanno un autovettore in comune $x$, allora $x \in \ker([A^k,B^l])$ per ogni $k,l$ e quindi $x \in \cap_{k,l=1}^{n-1} \ker([A^k,B^l]) \neq \{0\}$.
Resta da dimostrare la proposizione conversa. Consideriamo
$$V = \cap_{k,l=1}^{n-1} \ker([A^k,B^l])$$
Per ipotesi $V \neq \{0\}$. Vogliamo quindi trovare un autovettore comune ad $A$ e $B$. La cosa importante è dimostrare che $A$ e $B$ lasciano $V$ invariante. Se ciò è vero, possiamo quindi definire le restrizioni a $V$ di $A$ e $B$, che chiamiamo $A \lvert_V$ e $B \lvert_V$, che sono mappe lineari su $V$. Poiché tutti i vettori $v \in V$ soddisfano $[A,B] v = 0$, allora $A \lvert_V$ e $B \lvert_V$ commutano. È un risultato standard che due matrici che commutano hanno in comune almeno un autovettore. Ne segue che esiste un vettore $v \in V$ che è un autovettore comune di $A \lvert_V$ e $B \lvert_V$ e quindi di $A$ e $B$.
Ora rimane da dimostrare solo che $A$ e $B$ lasciano $V$ invariante. Prima di tutto notiamo che
$$V = \cap_{k,l=1}^{n-1} \ker([A^k,B^l]) = \cap_{k,l=1}^{\infty} \ker([A^k,B^l]) $$
Ciò segue dal teorema di Cayley-Hamilton, secondo cui se $A$ è $n\times n$, allora
$$A^n = \sum_{k=0}^{n-1} c_k A^k$$
per dei coefficienti $c_k$. Ciò implica che un commutatore $[A^k,B^l]$ con $k \geq n$ o $l \geq n$ può essere scritto come combinazione lineare di commutatori $[A^k,B^l]$ con $k < n$ e $l < n$. Perciò se $v \in \cap_{k,l=1}^{n-1} \ker([A^k,B^l])$ allora $[A^k, B^l] v =0$ per ogni $k < n$ e $l < n$ e quindi da quanto sopra $[A^k, B^l] v =0$ per ogni $k,l$. Perciò i due insiemi sono in realtà lo stesso insieme.
A questo punto dato $v \in V$ definiamo l’insieme $V_v$ formato dagli elementi della forma $p(A,B) v$ dove $p$ è un polinomio qualsiasi (con coefficienti complessi). È chiaro che $V_v$ è uno spazio lineare, ed è invariante rispetto ad $A$ e $B$ (se $p(A,B)$ è un polinomio, anche $A p(A,B)$ è un polinomio). Ma poiché l’azione di $A$ e $B$ e di ogni loro potenza commuta su $v$ (perché $[A^k,B^l]v = 0$ dato che $v \in V$), allora gli elementi in $V_v$ sono tutti combinazioni lineari di elementi della forma $A^p B^q v$. Ovvero, $x \in V_v$ può essere scritto come $x = \sum_{p,q=1}^\infty c_{pq} A^p B^q v$. Ma quindi abbiamo anche
$$AB x = BA x = \sum_{p,q=1}^\infty c_{pq} A^{p+1} B^{q+1} v$$
Ne segue che $[A,B] x =0$ e quindi $x \in V$. Perciò $V_v \subset V$ per ogni $v$. Inoltre poiché $v \in V_v$, abbiamo anche $V = \cup_{v \in V} V_v$ e poiché ogni $V_v$ è lasciato invariante da $A$ e $B$, allora anche $V$ è invariante. Ciò conclude la dimostrazione. $\square$