Pentium FDIV bug: differenze tra le versioni

Versione delle 11:55, 16 giu 2006

Versione delle 12:37, 6 lug 2006

Riga 5:

==Occorrenza ed esempio==

Secondo Intel, i casi in cui il risultato era errato sono stati stimati come 1 su 9 billionimiliardi, con una perdita di precisione che può arrivare fino alla quinta cifra decimale significativa.

Un esempio molto evidente è il seguente (4 decimali significativi corretti):

4195835.0/3145727.0 = 1.333820449136241000 risultato corretto