stimatore di massima verosimiglianza

Messaggioda Francesco78 » 03/02/2010, 16:07

Sia X1,.....,Xn un capione proveniente dalla distribuzione b(3,a). Determinate lo stimatore di massima verosimiglianza (MV) per a e calcolare il valore atteso di questo stimatore.

Da quello che ho capito leggendo un mio vecchio libro dovrei trovarmi davanti ad una distribuzione binomiale , quidi
data la distribuzione binomiale X~b(1,p) lo stimatore Mv di p=(1/n) $ sum_(i = 1)^(n) $ Xi
e il valore atteso di tale stimatore sara E[x]=1p

Quindi l'esercizio precedente dovrebbe svolgersi cosi : lo stimatore Mv di a=(3/n)$ sum_(i = 1)^(n) $ Xi
e il valore atteso di tale stimatore sara E[a]=3a
Francesco78
Starting Member
Starting Member
 
Messaggio: 1 di 5
Iscritto il: 03/02/2010, 15:32

Messaggioda erika007 » 05/02/2010, 19:22

Ciao Francesco anche io sto cercando di risolvere questo esercizio.
Per quanto io ne sappia,avendo una binomiale b(m,p) la stima di MV risulta essere p=1/mn $ sum_(j = 1)^(n) $ Xj = $ bar (x)/m $

La stima di MV non dovrebbe essere allora p=1/3n $ sum_(j = 1)^(n) $ Xj = $ bar (x)/m $ ?
erika007
Starting Member
Starting Member
 
Messaggio: 3 di 12
Iscritto il: 02/02/2010, 12:47

Messaggioda Kiliz » 06/02/2010, 03:46

Ciao :D lo stimatore di massima verosimiglianza per p da una bin(n,p) risulta essere :
calcoliamo l'equazione di verosimiglianza:
$L(X1,..,Xn;p) = prod_{i=1}^n p ^ i (1-p) ^ (n - i) $ , = $ p^sum(X i) (1-p)^(n-sum(X i)) $ applichiamo una trasformata logaritmica , abbiamo :
$ log p sum(X i) + log (1-p) (n-sum(X i)) $
calcoliamo l'informazione osservata, quindi la derivata prima:
$ l(p) = 1/p(sum(X i)) - 1/(1-p)(n-sum(X i)) $
Esplicitando in base a p (non riporto i calcoli, è matematica elementare) otteniamo : $p =( sum (X i) )/ n$

Conseguentemente, per il caso in studio avrete che la stima di MV per p da una bin(3,p) è $ p =( sum (X i) )/ 3$

Il valore atteso dello stimatore è $ E[p]=E[sum(X i) / 3] $ ; tiriamo fuori le costanti: abbiamo $ 1/3 E[sum(X i)] $. il valore atteso della somma è uguale alla somma dei valori attesi quindi : $ E(sum(X i)) = 3 p $. Alla fine otterremo $ E[p] = 3 p / 3 $. Diremo che lo stimatore è corretto , infatti E[hat(p)]=p.
Avatar utente
Kiliz
Starting Member
Starting Member
 
Messaggio: 3 di 35
Iscritto il: 06/02/2010, 01:41
Località: Università degli studi di Padova

Re: stimatore di massima verosimiglianza

Messaggioda Frasandro » 26/10/2016, 16:50

Kiliz ha scritto:
Il valore atteso dello stimatore è $ E[p]=E[sum(X i) / 3] $ ; tiriamo fuori le costanti: abbiamo $ 1/3 E[sum(X i)] $. il valore atteso della somma è uguale alla somma dei valori attesi quindi : $ E(sum(X i)) = 3 p $. Alla fine otterremo $ E[p] = 3 p / 3 $. Diremo che lo stimatore è corretto , infatti E[hat(p)]=p.


quindi in caso di una Bernoulli abbiamo: $ mathbb(E)[1/nsum(y_i) ] = 1/n mathbb(E)[sum(y_i) ]=(1/n)npi _0=pi_0 $ e quindi è corretto. Per quale motivo affermiamo che è corretto?

In caso di una esponenziale, $ mathbb(E)[n(1/(sumy_i)) ] $? il valore atteso risulta? :roll:

Grazie
Frasandro
Average Member
Average Member
 
Messaggio: 206 di 516
Iscritto il: 20/04/2015, 08:58

Re: stimatore di massima verosimiglianza

Messaggioda tommik » 26/10/2016, 16:51

Frasandro ha scritto:In caso di una esponenziale, $ mathbb(E)[n(1/(sumy_i)) ] $? il valore atteso risulta? :roll:

Grazie


questo è interessante....

Partiamo da una distribuzione esponenziale

$f(y)=thetae^(-thetay)$

Tale distribuzione si può vedere come una $Gamma(1;theta)$. Estraiamo un campione di ampiezza n, casuale. Sappiamo allora che

$sumy~Gamma(n;theta)$

Sappiamo inoltre che , se $Y~Gamma$ allora $1/Y ~$ Gamma inversa di media $theta/(n-1)$

infatti:
Testo nascosto, fai click qui per vederlo
supponiamo di avere $y=Sigmax~Gamma(n;theta)=theta^n/(Gamma(n))y^(n-1)e^(-thetay)$

Calcoliamo

$E(1/y)=int_(0)^(oo)1/ytheta^n/(Gamma(n))y^(n-1)e^(-thetay)dy=$

$=theta/(n-1)int_(0)^(oo)theta^(n-1)/(Gamma(n-1))y^((n-1)-1)e^(-thetay)dy=theta/(n-1)$


quindi

$E(n/(Sigmay))=n/(n-1)theta$


Quindi lo stimatore è distorto per $theta$ ma con una distorsione eliminabile e comunque asintoticamente corretto, come tutti gli stimatori di MV

Ora, dopo le risposte, le domande:

1) qual è allora uno stimatore corretto di $theta$?

2) tale stimatore è anche UMVUE?
tommik
Moderatore
Moderatore
 
Messaggio: 2312 di 11278
Iscritto il: 23/04/2015, 13:13
Località: Cassano Magnago

Re: stimatore di massima verosimiglianza

Messaggioda Frasandro » 30/10/2016, 08:52

prima di passare alle risposte da dare alle tue domande :lol: c'è qualcosa che non capisco nella prima parte del tuo intervento.

Anzichè scomodare la Gamma io non posso procedere così come ho fatto con la Bernoulli?

Frasandro ha scritto:quindi in caso di una Bernoulli abbiamo: $ mathbb(E)[1/nsum(y_i) ] = 1/n mathbb(E)[sum(y_i) ]=(1/n)npi _0=pi_0 $.


io avevo provato a risolverlo così: $ nsum mathbb E [1/y_i]=n.n1/lambda = n^2/lambda $
Frasandro
Average Member
Average Member
 
Messaggio: 207 di 516
Iscritto il: 20/04/2015, 08:58

Re: stimatore di massima verosimiglianza

Messaggioda tommik » 30/10/2016, 09:13

no, non puoi farlo....ed infatti il risultato che trovi è sbagliato. Ecco lo stesso esempio tratto dal MGB svolto più o meno come ti ho mostrato io...

Immagine

Nella Bernulliana il tuo stimatore è una cosa del genere

$T=X_(1)+X_(2)+...+X_(n)$

quindi la media di T si calcola facilmente utilizzanndo le proprietà delle medie: $E(X+Y)=E(X)+E(Y)$

ma nel caso della esponenziale il tuo stimatore è fatto così (a parte la costante n)


$T=1/(X_(1)+X_(2)+...+X_(n))$


qui come fai ad applicare le proprietà delle medie???

l'unico modo è conoscere la distribuzione di $Y=X_(1)+X_(2)+...+X_(n)$

e tale distribuzione è nota -> è una Gamma, come del resto lo è anche l'esponenziale negativa. Infatti nota che

$Exp(theta)-=Gamma(1;theta)$

Altresì è noto (e te lo devi tatuare sul braccio!) che la somma di n esponenziali $Exp(theta)$ iid è una gamma di parametri $(n;theta)$

La parte difficile è che non basta questa distribuzione....o conosci anche la distribuzione gamma inversa oppure (e ti ho messo anche tutti i passaggi analitici nello spoiler) devi calcolare

$E(1/y)$ nota la distribuzione (Gamma) di Y

l'esercizio è molto interessante....studiatelo bene e dimmi cosa non hai capito....è un bell'esercizio di inferenza....non siamo più nel calcolo delle probabilità...qui gli argomenti sono molto più "fini"

Inoltre ti posso assicurare che la distribuzione Gamma, per quanto possa apparire antipatica, è molto utile. Guarda ad esempio come ho risolto facilmente QUESTO

:-D
Ultima modifica di tommik il 03/11/2016, 14:48, modificato 2 volte in totale.
tommik
Moderatore
Moderatore
 
Messaggio: 2329 di 11278
Iscritto il: 23/04/2015, 13:13
Località: Cassano Magnago

Re: stimatore di massima verosimiglianza

Messaggioda tommik » 30/10/2016, 09:34

Frasandro ha scritto:prima di passare alle risposte da dare alle tue domande


prima che rispondi ti dò anche un aiuto:

per trovare lo stimatore non distorto è davvero facile....basta correggere il valore atteso trovato con l'opportuna costante

per l'UMVUE ci sono due strade: o calcolare il limite inferiore della Cramer Rao....oppure (ed è la strada di gran lunga più semplice) utilizzare il lemma di Lehman Scheffé....


aspetto progressi :wink:
tommik
Moderatore
Moderatore
 
Messaggio: 2331 di 11278
Iscritto il: 23/04/2015, 13:13
Località: Cassano Magnago

Re: stimatore di massima verosimiglianza

Messaggioda Frasandro » 30/10/2016, 09:43

tommik ha scritto:
Frasandro ha scritto:prima di passare alle risposte da dare alle tue domande


prima che rispondi ti dò anche un aiuto:

per trovare lo stimatore non distorto è davvero facile....basta correggere il valore atteso trovato con l'opportuna costante

per l'UMVUE ci sono due strade: o calcolare il limite inferiore della Cramer Rao....oppure utilizzare il lemma di Lehman Scheffé....


aspetto progressi :wink:



sisi stavo proprio per scriverti in merito a questo.... ho trovato un tuo intervento in un'altra discussione ;-)...in quel caso si parlava di una poisson.
Frasandro
Average Member
Average Member
 
Messaggio: 208 di 516
Iscritto il: 20/04/2015, 08:58

Re: stimatore di massima verosimiglianza

Messaggioda tommik » 30/10/2016, 09:47

con il lemma di Lehman Scheffé è davvero facile...


il lemma afferma che uno stimatore non distorto, funzione di uno stimatore sufficiente e completo è UMVUE...


quindi

1) cerchi lo stimatore sufficiente

2) la completezza può essere molto difficile da provare....ma se la distribuzione appartiene alla famiglia esponenziale....allora lo stimatore sufficiente è anche completo

2) lo stimatore non distorto ora dovresti averlo.....

problema risolto....

oggi dò troppi consigli....
tommik
Moderatore
Moderatore
 
Messaggio: 2332 di 11278
Iscritto il: 23/04/2015, 13:13
Località: Cassano Magnago

Prossimo

Torna a Statistica e probabilità

Chi c’è in linea

Visitano il forum: Nessuno e 1 ospite