Tesi Robotica Analisi, progettazione e implementazione... | Page 25
i
i
“LP_Tesi” — 2013/10/17 — 18:27 — page 25 — #25
i
i
1.1. MAXIMUM LIKELIHOOD
25
dove la funzione di verosimiglianza L è una funzione dei parametri θ.
A questo punto è possibile definire lo stimatore maximum likelihood (ML) come
N
ˆ
θM L = argmax
θ
p (xi |θ)
i=1
Un risultato significativo si ha quando le osservazioni sono corrotte da rumore
che si assume avere distribuzione normale N µ, σ 2 . In questo caso la stima
Maximum Likelihood dei parametri diventa
N
µM L , σM L = argmax
ˆ
ˆ2
µ,σ 2
N xi |µ, σ 2
i=1
Questa funzione può essere ottimizzata derivando rispetto ad ognuno dei parametri
e successivamente ponendo a zero ciascuna derivata parziale. Per semplificare i
passaggi conviene ottimizzare il logaritmo della funzione di likelihood, dato che
trasforma le moltiplicazioni in somme ed elimina gli esponenziali. Dal momento
che il logaritmo è una funzione monotona crescente la posizione dei punti di
ottimo non cambia.
N
i=1
µM L , σM L = argmax µ,σ2
ˆ
ˆ2
log N xi |µ, σ 2
N
= argmax log −0.5N log (2π) − 0.5N log σ 2 − 0.5
µ,σ 2
i=1
2
(xi − µ)
σ2
Differenziando la log-likelihood rispetto a µ e σ 2 si ottengono i valori stimati
µM L e σM L .
ˆ
ˆ2
Concentrandosi sulla stima del parametro µ e manipolando la log-likelihood si
ottiene il seguente risultato
N
µM L
ˆ
=
argmax log −0.5N log (2π) − 0.5N log σ 2 − 0.5
µ
i=1
2
(xi − µ)
σ2
N
=
argmax log −
µ
(xi − µ)
2
i=1
N
=
(xi − µ)
argmin log
µ
2
i=1
i
i
i
i