Appunti di Calcolo Numerico - Esercizi e Dispense - Università degli ...

6.2. Retta di regressione lineare
Figura 6.2: Dati sperimentali (a sinistra) della Tabella 6.2 e polinomio di interpolazione (a destra).
Per minimizzare questa funzione, occorre porre le derivate parziali della S rispetto ad a 0 e a 1 uguali a zero. 2
Si pone dunque
0 = ∂S(a 0, a 1 )
∂a 0
= ∂
∂a 0
0 = ∂S(a 0, a 1 )
∂a 1
= ∂
∂a 1
n∑ [ ] 2
n∑ [ ]
(a0 + a 1 x i ) − y i = 2 (a0 + a 1 x i ) − y i
i=0
i=0
n∑ [ ] 2
n∑ [ ]
(a0 + a 1 x i ) − y i = 2 (a0 + a 1 x i ) − y i xi
i=0
Queste equazioni si semplificano nel sistema delle cosiddette equazioni normali:
{
(n + 1)a0 + a 1
∑ n
i=0 x i = ∑ n
i=0 y i
a 0
∑ n
i=0 x i + a 1
∑ n
i=0 x2 i = ∑ n
i=0 x i y i
i=0
Introducendo la notazione A 12 = ∑ n
i=0 x i , A 22 = ∑ n
i=0 x2 i , b 1 = ∑ n
i=0 y i e b 2 = ∑ n
i=0 x i y i e osservando che la
matrice del sistema è simmetrica (A 12 = A 21 ), la soluzione è data da:
a 0 = A 22b 1 − A 12 b 2
(n + 1)A 22 − A 2 12
a 1 = (n + 1)b 2 − A 12 b 1
(n + 1)A 22 − A 2 12
Nell’esempio proposto, per calcolare la retta di approssimazione ai minimi quadrati, dobbiamo calcolare
i coefficienti delle equazioni normali. In Tabella 6.3 poniamo i valori che servono per risolvere il sistema: la
soluzione è a 0 = −0.87333333 e a 1 = 1.62969697. La retta è rappresentata in Figura 6.3.
La retta che abbiamo appena costruito è la retta che minimizza gli scarti verticali, supponendo affetti
da errore le ordinate delle coppie di punti a disposizione. Essa prende pure il nome di retta di regressione
lineare sugli scarti verticali.
Osserviamo che il baricentro dei punti assegnati giace sulla retta ai minimi quadrati, in quanto considerando
la prima equazione del sistema si ha, per X = ∑ n
i=0 x i /(n + 1) e Y = ∑ n
i=0 y i /(n + 1) (le coordinate del
baricentro dei punti assegnati):
Sul
baricentro
a 0 + a 1 X = Y
Se invece sono affetti da errore le ascisse delle coppie di punti, si può cercare la retta che minimizza gli
scarti orizzontali, detta anche retta di regressione lineare sugli scarti orizzontali, (basta scambiare il ruolo
delle x con quello delle y per ricavare, con lo stesso procedimento, la retta p 1 (y) = b 0 + b 1 y). Il baricentro dei
punti assegnati giace anche su questa retta, da cui possiamo concludere che esso è il punto di intersezione
delle due rette che minimizzano gli scarti verticali e orizzontali.
2 Per funzioni f (x) di una variabile reale, i punti di massimo o minimo si trovano tra i punti critici della f , per i quali f ′ (x) = 0,
studiando il segno della f ′′ . Analogo procedimento si segue per funzioni di due variabili. Per la funzione S(a 0 , a 1 ) che stiamo studiando,
si può provare che i valori (a 0 , a 1 ) che annullano le derivate parziali della S rappresentano i valori che minimizzano la S stessa. Questo
argomento viene approfondito nei corsi di Analisi Matematica.
87