x86_64 FPU: Set 64-bit precision for fadd/fsub/fsqrt etc.
authorJohn Marino <netbsd@marino.st>
Thu, 12 Jul 2012 11:15:12 +0000 (13:15 +0200)
committerJohn Marino <draco@marino.st>
Thu, 12 Jul 2012 11:34:07 +0000 (13:34 +0200)
commita8f1df175ae170933e9bcd35269f24460dabc606
treebf561750a4303a003e1081cb593a1045111c2eae
parent2a180eab7fa5501b3960ba7fb20834f3f355b184
x86_64 FPU: Set 64-bit precision for fadd/fsub/fsqrt etc.

On AMD64, GCC and the ABI expects the x87 unit to be running in 80/64
mode rather than 64/53 mode seen on i386.  This corrects errors seen
in long double tests involving runtime calculations.  Previously, the
results of these runtime calculations would get rounded due to use
of 53-bit mantissas.
sys/platform/pc64/x86_64/machdep.c
sys/platform/pc64/x86_64/mp_machdep.c
sys/platform/pc64/x86_64/npx.c
sys/platform/vkernel64/x86_64/cpu_regs.c
sys/platform/vkernel64/x86_64/npx.c