Una matrice ha due diagonali: una è la diagonale “normale”, l’altra è la diagonale opposta, e una matrice antidiagonale è una matrice non-nulla solo nella diagonale opposta, ad esempio
$$A = \begin{pmatrix}0 & 0 & A_1 \\ 0 & A_2 & 0 \\ A_3 & 0 & 0 \end{pmatrix}\,\,\,\,\,\,\,\,\,\,\,\,B = \begin{pmatrix}0 & 0 & 0 & 0 & B_1 \\ 0 & 0 & 0 & B_2 & 0 \\ 0 & 0 & B_3 & 0 & 0 \\ 0 & B_4 & 0 & 0 & 0 \\ B_5 & 0 & 0 & 0 & 0 \end{pmatrix}$$
Inversa
Prima di tutto consideriamo l’inversa di una matrice antidiagonale. Dimostreremo che l’inversa è di nuovo una matrice antidiagonale con gli elementi dati dai reciproci degli elementi della matrice originale, ovvero
$$A^{-1} = \begin{pmatrix}0 & 0 & A_1^{-1} \\ 0 & A_2^{-1} & 0 \\ A_3^{-1} & 0 & 0 \end{pmatrix}\,\,\,\,\,\,\,\,\,\,\,\,B^{-1} = \begin{pmatrix}0 & 0 & 0 & 0 & B_1^{-1} \\ 0 & 0 & 0 & B_2^{-1} & 0 \\ 0 & 0 & B_3^{-1} & 0 & 0 \\ 0 & B_4^{-1} & 0 & 0 & 0 \\ B_5^{-1} & 0 & 0 & 0 & 0 \end{pmatrix}$$
Consideriamo una generica matrice $n \times n$ $M$ antidiagonale. In termini matematici ciò vuol dire che l’elemento $M_{ij}$ di $M$ è nullo a meno che $i+j = n+1$, ovvero
$$M_{ij}=\begin{cases}M_{i} & i+j=n+1\\ 0 & \mathrm{altrimenti} \end{cases}$$
dove $M_{i}$ è un numero qualsiasi. Perciò ora dimostriamo che
$$\pqty{M^{-1}}_{ij} =\begin{cases}M_{i}^{-1} & i+j=n+1\\ 0 & \mathrm{altrimenti} \end{cases} $$
Abbiamo infatti
$$(M M^{-1})_{ij} = \sum_{k} M_{ik} \pqty{M^{-1}}_{kj}$$
Ora $M_{ik}$ è nullo a meno che $i + k = n+1$, e allo stesso modo $\pqty{M^{-1}}_{kj}$ è nullo a meno che $k+j = n+1$. Perciò il prodotto $M_{ik} \pqty{M^{-1}}_{kj}$ è sempre nullo a meno che $i=j$ e quindi $(M M^{-1})_{ij} = 0$ per $i \neq j$. Se invece $i=j$ allora $M_{ik} \pqty{M^{-1}}_{kj}$ è non-nullo solo se $k=n+1-i=n+1-j$, nel qual caso il prodotto è uguale a $1$ perché $\pqty{M^{-1}}_i = M^{-1}_i$ e quindi la somma è uguale a $1$. Concludiamo che $(M M^{-1})_{ij}=\delta_{ij}$ e quindi $M^{-1}$ è davvero l’inversa di $M$.
Determinante
Per calcolare il determinante di una matrice antidiagonale consideriamo il caso
$$B = \begin{pmatrix}0 & 0 & 0 & 0 & B_1 \\ 0 & 0 & 0 & B_2 & 0 \\ 0 & 0 & B_3 & 0 & 0 \\ 0 & B_4 & 0 & 0 & 0 \\ B_5 & 0 & 0 & 0 & 0 \end{pmatrix}$$
Scegliamo di espandere sulla prima riga. Abbiamo tutti zero tranne $B_1$, che conta con un segno positivo, perciò
\begin{align*}
\det{B} &=+B_1 \det\begin{pmatrix}0 & 0 & 0 & B_2 \\ 0 & 0 & B_3 & 0 \\ 0 & B_4 & 0 & 0 \\ B_5 & 0 & 0 & 0 \end{pmatrix} =\\
&=(+B_1)(-B_2) \det\begin{pmatrix}0 & 0 & B_3 \\ 0 & B_4 & 0\\ B_5 & 0 & 0 \end{pmatrix}= \ldots \\
&= (+B_1)(-B_2)(+B_3)(-B_4)(+B_5) = B_1 B_2 B_3 B_4 B_5
\end{align*}
Perciò in questo caso il determinante è dato semplicemente dal prodotto degli elementi non-nulli. Tuttavia nel caso $2 \times 2$ è facile vedere che introduciamo un segno meno:
$$\det\begin{pmatrix}0 & A \\ B & 0\end{pmatrix} = -AB$$
Per trovare la formula in generale consideriamo una generica matrice $n \times n$ antidiagonale $M$ e immaginiamo di applicare la formula sopra per il determinante, espandendo la prima riga. Per una matrice $k \times k$ il segno del $k$-esimo elemento della prima riga nel determinante è $(-1)^{k-1}$. Perciò il primo elemento comparirà nel prodotto come $(-1)^{n-1} M_1$, il secondo elemento come $(-1)^{(n-1)-1} M_2$ e così via, perciò in definitiva otteniamo:
$$\det{M} = \prod_{i=1}^n (-1)^{n-i} M_i = (-1)^{\sum_{i=1}^n (n-i)} \prod_{i=1}^n M_i$$
La somma $\sum_{i=1}^n (n-i)$ può essere calcolata invertendola e usando la nota formula per la somma dei primi $k$ numeri naturali, $\sum_{i=1}^n (n-i) = \sum_{i=1}^{n-1} i = (n-1)n/2$. Perciò in definitiva
$$\det{M} = (-1)^{(n-1)n/2} \prod_{i=1}^n M_i$$
ovvero è data dal prodotto degli elementi non-nulli per un segno che dipende dalla dimensione della matrice. In particolare il segno alterna ogni due: partendo da $n=1$, la sequenza è $+,-,-,+,+,-,-,\ldots$