Stai facendo confusione. Insomma, le cose sono molto più sottili. Ad ogni modo, un conto è diagonalizzare per similitudine mediante la matrice inversa (endomorfismo), un conto è diagonalizzare per congruenza mediante la matrice trasposta (forma bilineare). Solo se la matrice di cambiamento di base è ortogonale, l'inversa è uguale alla trasposta, i due procedimenti sono identici. Nel tuo caso:
$[[x,y,z,t]]*[[1,-4,3,0],[-4,1,0,0],[3,0,1,0],[0,0,0,1]]*[[x],[y],[z],[t]]$
$[[1,-4,3,0],[-4,1,0,0],[3,0,1,0],[0,0,0,1]]*[[-5],[-4],[3],[0]]=-4*[[-5],[-4],[3],[0]]$
$[[1,-4,3,0],[-4,1,0,0],[3,0,1,0],[0,0,0,1]]*[[0],[0],[0],[1]]=1*[[0],[0],[0],[1]]$
$[[1,-4,3,0],[-4,1,0,0],[3,0,1,0],[0,0,0,1]]*[[0],[3],[4],[0]]=1*[[0],[3],[4],[0]]$
$[[1,-4,3,0],[-4,1,0,0],[3,0,1,0],[0,0,0,1]]*[[5],[-4],[3],[0]]=6*[[5],[-4],[3],[0]]$
se non normalizzi gli autovettori, dovendo procedere con la matrice di cambiamento di base sottostante:
$[[x],[y],[z],[t]]=[[-5,0,0,5],[-4,0,3,-4],[3,0,4,3],[0,1,0,0]]*[[x_1],[y_1],[z_1],[t_1]]$
ottieni la seguente forma:
$[[x_1,y_1,z_1,t_1]]*[[-200,0,0,0],[0,1,0,0],[0,0,25,0],[0,0,0,300]]*[[x_1],[y_1],[z_1],[t_1]]$
Infatti:
$[[x,y,z,t]]*[[1,-4,3,0],[-4,1,0,0],[3,0,1,0],[0,0,0,1]]*[[x],[y],[z],[t]]=$
$=[[x_1,y_1,z_1,t_1]]*[[-5,0,0,5],[-4,0,3,-4],[3,0,4,3],[0,1,0,0]]^t*[[1,-4,3,0],[-4,1,0,0],[3,0,1,0],[0,0,0,1]]*[[-5,0,0,5],[-4,0,3,-4],[3,0,4,3],[0,1,0,0]]*[[x_1],[y_1],[z_1],[t_1]]=$
$=[[x_1,y_1,z_1,t_1]]*[[-5,-4,3,0],[0,0,0,1],[0,3,4,0],[5,-4,3,0]]*[[1,-4,3,0],[-4,1,0,0],[3,0,1,0],[0,0,0,1]]*[[-5,0,0,5],[-4,0,3,-4],[3,0,4,3],[0,1,0,0]]*[[x_1],[y_1],[z_1],[t_1]]=$
$=[[x_1,y_1,z_1,t_1]]*[[-5,-4,3,0],[0,0,0,1],[0,3,4,0],[5,-4,3,0]]*[[20,0,0,30],[16,0,3,-24],[-12,0,4,18],[0,1,0,0]]*[[x_1],[y_1],[z_1],[t_1]]=$
$=[[x_1,y_1,z_1,t_1]]*[[-200,0,0,0],[0,1,0,0],[0,0,25,0],[0,0,0,300]]*[[x_1],[y_1],[z_1],[t_1]]$
Ebbene, la forma di cui sopra non è considerata canonica perchè la matrice di cambiamento di base non è ortogonale. Del resto, poichè in $RR^2$ per quanto riguarda le coniche (curve nel piano) così come in $RR^3$ per quanto riguarda le quadriche (superfici nello spazio) si richiede che la riduzione a forma canonica sia effettuata mediante un movimento rigido, una rotazione per intenderci, la generalizzazione appare del tutto naturale.