Formula computazionale per la varianza: differenze tra le versioni

Versione delle 19:57, 31 ago 2021

Versione attuale delle 15:44, 21 gen 2022

Riga 15:

</math>

L'uso di queste formule può tuttavia essere sconveniente nella pratica quando si utilizza l'aritmetica in [[virgola mobile]] con precisione limitata: la sottrazione tra due valori di grandezza analoga può portare a una [[Cancellazione numerica|cancellazione catastrofica]],<ref>{{cita libro|autore=[[Donald E. Knuth]]|titolo=[[The Art of Computer Programming]]'', vol. 2: ''"Seminumerical Algorithms''"|edizione=3|anno=1998|città=Boston|editore=Addison-Wesley|lingua=en}} p. 232</ref> e causare così una perdita di significato quando <math>\operatorname{E}(X)^2 \gg \operatorname{Var}(X)</math>.

Esistono altri [[algoritmi per il calcolo della varianza]] [[stabilità numerica|numericamente stabili]] per l'uso con l'aritmetica in virgola mobile.