Distribuzione asintotica della deviazione standard campionaria

[francisgiz]

Testo:
Siano $ X1,...,Xn $ variabili aleatorie indipendenti $N$( $ mu $ , $ sigma^2 $ ) e $ s^2 $ la varianza
campionaria.
Trovare la distribuzione asintotica (per n grande) di $ s$ , la radice quadrata di $ s^2 $.

Buona sera, ho trovato difficoltà nello svolgimento dell'esercizio.
Qualcuno può aiutarmi? Grazie

[tommik]

Buona sera, ho trovato difficoltà nello svolgimento dell'esercizio.

leggo e rileggo il tuo post ma non riesco a capire quali siano queste difficoltà. Ad ogni modo nel titolo scrivi "Distribuzione asintotica varianza campionaria" quando per la varianza capionaria $S^2$ puoi calcolarne anche la distribuzione esatta, partendo dal fatto noto che, in un modello gaussiano, $(n-1)S^2/sigma^2~chi_((n-1))^2$

...poi nel testo del topic chiedi la distribuzione asintotica di $S$ .... cerca di essere preciso e postare i tentativi fatti.....

per la distribuzione asintotica conviene utlizzare le proprietà asintotiche degli stimatori di massima verosimiglianza

[francisgiz]

Ho fatto alcuni esercizi in cui ho applicato il metodo delta e le proprietà asintotiche degli stimatori di massima verosimiglianza a variabili aleatorie che potevo approssimare con $N$($0,1$). Sul mio libro non c'è l'approssimazione si $S^2$ tramite la funzione chi-quadro quindi non so come muovermi. Sai indicarmi qualche dispensa su cui poter studiare oppure esercizi svolti che mi aiutino a capire come devo svolgere l'esercizio? Grazie

[tommik]

1) calcoli lo stimatore di massima verosimiglianza di $sigma$ che sarà in funzione di $S$

2) Tale stimatore si distribuisce asintoticamente come una normale di media $sigma$ e varianza

$1/(nmathbb{E}_theta{partial/(partialtheta)logf(x|theta)}^2)$

se l'espressione viene complicata nei calcoli può essere utile riscriverla così

$1/(-nmathbb{E}_theta{partial^2/(partialtheta^2)logf(x|theta)})$

invocando la Seconda Identità di Bartlett

Un modo alternativo di procedere è cercare lo stimatore di massima verosimiglianza di $sigma^2$ e ricondursi alla distribuzione asintotica di $S$ utilizzando il "Metodo Delta", ovvero moltiplicando la varianza precedente per $(g'(theta))^2$

[francisgiz]

Ok ora mi é chiaro il procedimento, ma non capisco una cosa. La $ f(X, vartheta ) $ é la funzione si $ S^2$ calcolata in $X $e $ vartheta $, che è il mio stimatore. Quindi nel mio caso devo fare le derivate rispetto a $ vartheta $ della funzione dove al posto di $ sigma ^2 $ scrivo $ vartheta $ ??

[tommik]

La $f(x|theta)$ è la densità del modello, nel tuo caso una normale. Il parametro ignoto lo puoi definire tu, puoi metterci $theta$ al posto di $sigma$ oppure al posto di $sigma^2$, come preferisci. Io ti consiglio di esprimerla già in funzione del parametro che vuoi analizzare.
Non voglio risolverti l'esercizio perché ad un esame del genere si suppone che tu sappia destreggiarti bene ed anche perché questa è la politica del forum; ora provo a farti vedere un esercizio semplicissimo giusto per spiegarti il procediemento e magari più tardi cerco di buttarne giù uno un po' più articolato così vedi come si procede nei casi più complessi

Esempio (facilissimo)

Prendiamo un campione casuale $(X_1,...,X_n)$ estratto da una distribuzione esponenziale $f(x|theta)=thetae^(-thetax)$ e cerchiamo la distribuzione asintotica di $T=1/bar(X)_n$

Come sappiamo, $T$ è lo stimatore di massima verosimiglianza di $theta$

Testo nascosto, fai click qui per vederlo

$L=theta^n e^(-thetaSigmax)$

$logL=n/theta-thetaSigmax$

$partial/(partialtheta)logL=n/theta-Sigmax =0 rarr hat(theta)=n/(Sigmax)=1/bar(X)$

quindi per le note proprietà, $T$ è asintoticamente normale di media $theta$ (cioè di media pari al parametro che si va a stimare) e di varianza come ti ho scritto sopra:

$logf=logtheta-thetax$

$partial/(partialtheta)logf=1/theta-x$

$partial^2/(partialtheta^2)logf=-1/theta^2$


quindi

$1/(-nmathbb{E}_theta{partial^2/(partialtheta^2)logf(x|theta)})=theta^2/n$

in definitiva $Tdot~N(theta;theta^2/n)$

volendo usare l'altra formulazione per il calcolo della varianza ottieni sempre


$1/(nmathbb{E}_theta{partial/(partialtheta)logf(x|theta)}^2)=1/(nmathbb{E}_theta(1/theta-x)^2)$

a questo punto osservi che $mathbb{E}_theta(x-1/theta)^2=1/theta^2$ essendo proprio la definizione di varianza della popolazione e quindi il risultato è il medesimo (grazie a San Bartlett, sempre sia lodato )

Ora cercherò in rete qualche cosa di interessante....c'è tutto, ti assicuro, basta saper cercare!

Ne ho trovato uno interessante (senza la soluzione) e l'ho messo QUI; come di consueto, un topic un esercizio.

Buon lavoro

[francisgiz]

Ciao, ho provato a scrivere qualcosa e sono arrivato a una conclusione ma non so se sia giusto. Riporto il procedimento:
Nella densità di una $N( mu , sigma ^2 )$ sostituisco a $sigma$ il parametro $theta$.
A questo punto $f(X,theta)= 1/ (sqrt(2*pi ) *theta )*e^-(((x-mu )^2)/(2theta ^2)) $ .
$ ln f(x,theta )=-ln(sqrt(2*pi)*theta )-(((x-mu )^2)/(2theta ^2)) $ .
Calcolo ora le derivate rispetto a $theta$:
$ (partial^1 f)/(partial theta)=-1/theta+((x-mu)^2)/theta^3 $
$ (partial^2 f)/(partial theta^2)=1/theta^2-3((x-mu)^2)/theta^4 $.
Perciò facendo calcoli ho trovato che la varianza asintotica è:
$ 1/(-n*E[1/theta^2-3((x-mu)^2)/theta^4])=1/(n*(3/theta^4-1/theta^2)) $.
Non sono sicuro però di aver trovato esattamente la distribuzione di s.

[tommik]

Questo esercizio l'ho cercato, risolto e postato apposta per te

la densità che hai scritto è sbagliata, ci hai messo $theta$, $mu$ e pure $sigma^2$....boh...

dov'è il calcolo dello stimatore di massima verosimiglianza?

ecc ecc

la densità è questa, dove pongo $theta=sigma^2$:

$f(x,mu,theta)=1/sqrt(theta 2pi) e^(-1/(2theta)(x-mu)^2)$

Intanto occorre sapere se $mu$ è noto oppure no. Supponiamo che non lo sia (anche perché se fosse nota allora non avresti la varianza campionaria $S^2=1/(n-1)Sigma_x(x-bar(x))^2$ ma un'altra statistica)

La verosimiglianza è questa (già dopo aver calcolato la verosimiglianza profilo per $mu$ ed averlo stimato):

$L(theta) prop theta^(-n/2)e^(-1/(2theta)Sigma_x(x-bar(x))^2$

....conticini....

$-mathbb{E}[partial^2/(partialtheta^2)logL(theta)]=(n-2)/(2theta^2$

Quindi lo stimatore di massima verosimiglianza della varianza della popolazione ha una distribuzione asintotica normale così definita:

$hat(theta) dot~N(theta;(2theta^2)/(n-2))=N(sigma^2;(2sigma^4)/(n-2))$

Il tuo stimatore $S$ è in funzione dello stimatore di max verosimiglianza? direi di si, viene

$hat(theta)=(n-1)/nS^2$

quindi puoi applicare il metodo delta per calocolare la distribuzione asintotica di $S$.

(ho fatto i conti velocemente mentre mangiavo un panino.....ricontrolla)

[francisgiz]

Scusa ho ricontrollato ora quello che ho scritto qui nello svolgimento e ho scritto una funzione assolutamente sbagliata, scrivendola dal tablet ho sbagliato a riportarla. Quella che ho calcolato io é la stessa che hai scritto tu. Ho capito ora come svolgerlo. Per quanto riguarda l'esercizio che mi hai linkato , io avevo provato a farlo in modo diverso ma mi sono bloccato negli ultimi passaggi, ho visto come lo hai fatto tu e l'ho capito perciò ora provo a rifarlo da solo. Grazie dell'aiuto!

[tommik]

La distribuzione asintotica di $S$ mi viene così:

$Sdot~N(sqrt(n/(n-1))sigma;(nsigma^2)/(2(n-1)(n-2)))$

APPROFONDIMENTO E COMMENTI:
E' un esercizio un po' del "piffero" perché media e varianza di $S$ (partendo da un modello gaussiano) si possono calcolare con precisione, quindi in maniera esatta e non solo approssimata...

Infatti, ricordando che $U=((n-1)S^2)/sigma^2~"Gamma"((n-1)/2;1/2)$

da cui $S=sigma/sqrt(n-1) sqrt(u)$

Otteniamo quindi facilmente¹

$mathbb{E}[S]=sigma/sqrt(n-1)int_(0)^(oo)(1/2)^((n-1)/2)/(Gamma((n-1)/2))sqrt(u) *u^(((n-1)/2)-1)e^(-u/2)du=$

$=sigma/sqrt(n-1)(1/2)^(-1/2)(Gamma(n/2))/(Gamma((n-1)/2))int_(0)^(oo)(1/2)^(n/2)/(Gamma(n/2))u^(n/2-1)e^(-u/2)du=sqrt(2/(n-1))(Gamma(n/2))/(Gamma((n-1)/2))*sigma$

ed anche per la varianza, molto più semplicemente, si ottiene

$V[S]=mathbb{E}[S^2]-mathbb{E}^2[S]=mathbb{E}[sigma^2/(n-1)U]-mathbb{E}^2[S]=sigma^2/(n-1)mathbb{E}[U]-mathbb{E}^2[S]=sigma^2[1-2/(n-1)((Gamma(n/2))/(Gamma((n-1)/2)))^2]$

puoi controllare che il valore dei parametri asintotici tendono a quelli esatti....(io ho già controllato )

---

Note

1. non so se tu sia abituato a calcolare questi integrali....nel dubbio ti metto tutti i passaggi ↑