Pentium FDIV bug: differenze tra le versioni

Contenuto cancellato Contenuto aggiunto
SieBot (discussione | contributi)
Occorrenza ed esempio: Precisione risultato corretto (ga 64 a 80 bit)
Riga 8:
Secondo Intel, i casi in cui il risultato era errato sono stati stimati come 1 su 9 [[Bilione|bilioni]], con una perdita di precisione che può arrivare fino alla quinta cifra decimale significativa.
Un esempio molto evidente è il seguente (4 decimali significativi corretti):
4195835.0/3145727.0 = 1.333820449136241000333820449136241002 risultato corretto
4195835.0/3145727.0 = 1.333739068902037589 su un Pentium con FDIV bug