Una base di \(\mathbb R[t]\) è fatta da \(\{1,t,t^2,t^3,\dots,t^n,\dots\}\); ciò significa che i vettori della base $B$ che ti hanno dato non si scrivono come hai scritto tu, bensì così:
\[
B = \{( 1 , 1 , 7 , 1 ), ( 2, 1, 4, 1 ) , ( -1, 2 , 5 , -1 )\}
\] Ciò per dire che $4t^2$ non è uno scalare in \(\mathbb{R}_{\le 3}[t]\); è un vettore, precisamente si tratta del vettore \(\left(\begin{smallmatrix} 0\\0\\1\\0\end{smallmatrix} \right)\). Al netto di questa precisazione, l'esercizio è un comune esercizio di algebra lineare.
In particolare,
definire $ f_k $ come $ A_k \cdot t $ per ricavare la matrice dei coefficienti rispetto alla base "in entrata ed in uscita".
non ha molto senso: $t$ è il vettore \(\left(\begin{smallmatrix} 0\\1\\0\\0\end{smallmatrix} \right)\), come fai ad applicarlo a $A_k$? Anche appartenendo esso a $X$ (non lo fa, perché \(3p(-1) -p'(1)\neq 0\)), e avendolo scritto in base $B$, che senso avrebbe questa operazione?
Quel che devi fare, piuttosto, è prendere un generico elemento di \(X = \mathbb{R}_{\le 3}[t]\), diciamo \(v = \left(\begin{smallmatrix} a\\b\\c\end{smallmatrix} \right)\), e considerare la matrice che, nella base $B$, manda $v$ in $Av$. Questo prescrive l'azione di $f_k$... esattamente come l'applicazione che, dando ad $X$ base $B$ a dominio e codominio, ha matrice $A_k$. Tautologico, n'est-ce pas?
Ora, devi trovare quei valori di $k$ tali che $A_k$ ha nucleo non banale, come certamente hai già fatto troppe volte. Non lo farò al posto tuo, se non altro perché è un'operazione elementare, e risolve il punto 1.
Un tale valore di $k$ (probabilmente è solo uno) ora ti permetterà, una volta fissato, di trovare una base di \(\ker f_k\). Questo risolve il punto 2.
Da ultimo, devi verificare che il vettore \(\left(\begin{smallmatrix} -1\\3\\15\\0\end{smallmatrix} \right)\) appartiene a $X$; lo fa: quali sono le sue coordinate nella base $B$? Diciamo che sono \(\left(\begin{smallmatrix} a\\b\\c\end{smallmatrix} \right)\); di conseguenza, la sua immagine mediante \(f_{-2}\) non può che essere il prodotto di matrici \(A_{-2}\cdot \left(\begin{smallmatrix} a\\b\\c\end{smallmatrix} \right)\): anche questo è un conto che sai fare.