Handout

6 Varianz versus Verzerrung
Dank der Messfehler haben wir meist eine verzerrte Verteilung unser Parameterschätzer,
die so oder so ähnlich aussehen könnte:
Abbildung 7: Ein extremes Beispiel einer linearen Regression mit n=20 und
λ = 0.5. Der wahre Wert von β ist 1. Hier sehen eine naive Schätzung die
den Meßfehler ignoriert
Wenn man nun aber gegen diese Verzerrung etwas tun möchte, hat man
ja z.B. mit der Fuller Modifikation ein recht gutes Werkzeug bei der Hand.
Abbildung 8: Hier ist obiges Beispiel mit der Fuller Korrektur zu sehen
Doch wie man feststellt, verschwindet zwar die Verzerrung zu großen Teilen,
doch leider haben wir nun eine riesige Varianz. Dieses nicht wirklich zu
lösende Problem bezeichnet man als ”
Bias−Variance Tradeoff “(Verzerrungs−Varianz
Tradeoff)
14