N.B. Prima di continuare, il nucleo che ti ho dato è sbagliato! Avevo letto che l'entrata (2,1) era $c$, invece che $0$.
Comunque, la definizione di nucleo (o kernel) è questa, per un'applicazione $f$ tra spazi vettoriali $V$ e $W$.
$\ker(f)= { \vec v \in V: f(\vec v)=\vec 0}$, dove $f: V \rarr W$
Nel tuo caso $V =RR^3$, mentre $W$ è lo spazio vettoriale delle matrici quadrate di dimensione $2$ a coefficienti reali (puoi verificare che è uno spazio vettoriale).
E' conveniente lavorare "in coordinate", ossia l'obiettivo è quello di scrivere la tua applicazione tra $RR^3$ e $RR^4$, dove è più semplice lavorare.
Dunque si sfrutta il fatto che $Mat(2,2, RR) \cong RR^4$ tramite l'isomorfismo dato da
\( \Phi:\begin{bmatrix} a & b \\ c & d \end{bmatrix} \mapsto \begin{bmatrix} a \\ b \\ c \\ d \end{bmatrix} \)
A questo punto, per ricondursi come dicevamo ad un'applicazione $F: RR^3 \rarr RR^4$ è sufficiente sfruttare $\Phi$ con la seguente composizione:
$F=\Phi \circ f: RR^3 \rightarrow Mat(2,2, RR) \rarr RR^4$
Pertanto nella pratica la matrice la scrivi come vettore e studi l'applicazione lineare tra $RR^3$ ed $RR^4$ data da:
$F((a),(b),(c))=((a+b),(0),(2a),(-b))$
Ora , per definizione di nucleo (vedi prima riga): devo trovare i vettori $\vec v$ di $RR^3$ tali che $F(\vec v)=\vec 0 quad \star$ .
Ma $F(\vec v)=((a+b),(0),(2a),(-b))$, pertanto $\star$ si riscrive come il *sistema omogeneo*
\( \begin{cases} a+b=0 \\ 2a=0 \\ -b=0 \end{cases} \)
da cui segue che $a=b=0$, mentre $c$ resta libera. Pertanto il kernel è dato dai vettori del tipo $(0,0,c)=c \vec e_3$, con $c \in RR$ e dunque è un sottospazio di dimensione $1$. (Con $\vec e_3$ indico il terzo vettore della base canonica $((0),(0),(1))$)