Vi ringrazio immensamente per le vostre risposte, ne approfitto per chiarire ulteriormente il mio dubbio:
Premetto che concettualmente so che la cosa non può farsi, volevo però capirlo anche matematicamente;
in effetti noi lavoriamo su un campione da cui otteniamo $\hat\beta$, perciò abbiamo solo le realizzazioni campionarie della variabile casuale $y$.
1) Per quello che ho capito io so che sia $\epsilon$ che $\hat\epsilon$ sono V.C.
Noi abbiamo detto che
Sergio ha scritto:Così come PX, anche MX è una matrice di proiezione ortogonale, la
prima sullo spazio generato dalle colonne di X, la seconda sul suo complemento ortogonale. E una matrice di
proiezione non è invertibile!
Ora io so che $MX$ non è invertibile perché di rango $n*n$, mentre $X$ risulta di rango pieno per $k$ e per
noi risulta $k<=n$.
So perfettamente quanto sia stupido ed insensato ottenere un $k=n$, ma concedetemi per un
secondo il ragionamento, se io usassi un simile $k$ a quel punto:
1.1) $MX$ sarebbe invertibile?
1.2) Se $MX$ è invertibile ed io conoscessi perfettamente la distribuzione di $\epsilon$ potrei
ricavare quella di $\hat\epsilon$ sfruttando la relazione $\hat\epsilon=MX^-1*\epsilon$?
2) Non ci avevo mai pensato prima, ma avendo ricavato che
Sergio ha scritto:Inciso: la varianza dell'errore è per ipotesi $σ2I$, quella dei residui è invece $(I−PX)σ2$, a conferma che errore e residuo hanno distribuzioni diverse.
ciò implica che la varianza di $\hat\epsilon>=\epsilon?$
3) Potrei avere un rimando ad un libro di testo o link che spighi il fatto che:
3.1) Sergio ha scritto:Inciso: la varianza dell'errore è per ipotesi $σ2I$, quella
dei residui è invece $(I−PX)σ2$, a conferma che errore e residuo hanno distribuzioni diverse.
3.2) Le matrici di proiezione non sono invertibili.
Mi piacerebbe colmare la mia lacuna