Pentium FDIV bug: differenze tra le versioni
Contenuto cancellato Contenuto aggiunto
m Bot: Modifico: fr:Bug de la division du Pentium |
→Occorrenza ed esempio: Precisione risultato corretto (ga 64 a 80 bit) |
||
Riga 8:
Secondo Intel, i casi in cui il risultato era errato sono stati stimati come 1 su 9 [[Bilione|bilioni]], con una perdita di precisione che può arrivare fino alla quinta cifra decimale significativa.
Un esempio molto evidente è il seguente (4 decimali significativi corretti):
4195835.0/3145727.0 = 1.
4195835.0/3145727.0 = 1.333739068902037589 su un Pentium con FDIV bug
|