Optimizations, expanded comments, and accuracy fixes.
authorPeter Avalos <pavalos@dragonflybsd.org>
Tue, 3 Jul 2007 04:54:07 +0000 (04:54 +0000)
committerPeter Avalos <pavalos@dragonflybsd.org>
Tue, 3 Jul 2007 04:54:07 +0000 (04:54 +0000)
For in-depth comments, see the FreeBSD cvs logs:
s_cbrt.c:  1.8-1.14
s_sbrtf.c: 1.8-1.17

Obtained-from:  FreeBSD

lib/libm/src/s_cbrt.c
lib/libm/src/s_cbrtf.c

index afe8fb8..1bfcaed 100644 (file)
@@ -9,8 +9,11 @@
  * is preserved.
  * ====================================================
  *
+ * Optimized by Bruce D. Evans.
+ *
+ * $FreeBSD: src/lib/msun/src/s_cbrt.c,v 1.14 2005/12/20 01:21:30 bde Exp $
  * $NetBSD: s_cbrt.c,v 1.11 2002/05/26 22:01:54 wiz Exp $
- * $DragonFly: src/lib/libm/src/s_cbrt.c,v 1.1 2005/07/26 21:15:20 joerg Exp $
+ * $DragonFly: src/lib/libm/src/s_cbrt.c,v 1.2 2007/07/03 04:54:07 pavalos Exp $
  */
 
 #include <math.h>
  * Return cube root of x
  */
 static const u_int32_t
-       B1 = 715094163, /* B1 = (682-0.03306235651)*2**20 */
-       B2 = 696219795; /* B2 = (664-0.03306235651)*2**20 */
+       B1 = 715094163, /* B1 = (1023-1023/3-0.03306235651)*2**20 */
+       B2 = 696219795; /* B2 = (1023-1023/3-54/3-0.03306235651)*2**20 */
 
+/* |1/cbrt(x) - p(x)| < 2**-23.5 (~[-7.93e-8, 7.929e-8]). */
 static const double
-C =  5.42857142857142815906e-01, /* 19/35     = 0x3FE15F15, 0xF15F15F1 */
-D = -7.05306122448979611050e-01, /* -864/1225 = 0xBFE691DE, 0x2532C834 */
-E =  1.41428571428571436819e+00, /* 99/70     = 0x3FF6A0EA, 0x0EA0EA0F */
-F =  1.60714285714285720630e+00, /* 45/28     = 0x3FF9B6DB, 0x6DB6DB6E */
-G =  3.57142857142857150787e-01; /* 5/14      = 0x3FD6DB6D, 0xB6DB6DB7 */
+P0 =  1.87595182427177009643,          /* 0x3ffe03e6, 0x0f61e692 */
+P1 = -1.88497979543377169875,          /* 0xbffe28e0, 0x92f02420 */
+P2 =  1.621429720105354466140,         /* 0x3ff9f160, 0x4a49d6c2 */
+P3 = -0.758397934778766047437,         /* 0xbfe844cb, 0xbee751d9 */
+P4 =  0.145996192886612446982;         /* 0x3fc2b000, 0xd4e4edd7 */
 
 double
 cbrt(double x)
 {
        int32_t hx;
+       union {
+           double value;
+           uint64_t bits;
+       } u;
        double r,s,t=0.0,w;
        u_int32_t sign;
        u_int32_t high,low;
 
-       GET_HIGH_WORD(hx,x);
+       EXTRACT_WORDS(hx,low,x);
        sign=hx&0x80000000;             /* sign= sign(x) */
        hx  ^=sign;
        if(hx>=0x7ff00000) return(x+x); /* cbrt(NaN,INF) is itself */
-       GET_LOW_WORD(low,x);
-       if((hx|low)==0)
-           return(x);          /* cbrt(0) is itself */
-
-       SET_HIGH_WORD(x,hx);    /* x <- |x| */
-    /* rough cbrt to 5 bits */
-       if(hx<0x00100000)               /* subnormal number */
-         {SET_HIGH_WORD(t,0x43500000); /* set t= 2**54 */
-          t*=x; GET_HIGH_WORD(high,t); SET_HIGH_WORD(t,high/3+B2);
-         }
-       else
-         SET_HIGH_WORD(t,hx/3+B1);
-
 
-    /* new cbrt to 23 bits, may be implemented in single precision */
-       r=t*t/x;
-       s=C+r*t;
-       t*=G+F/(s+E+D/s);
+    /*
+     * Rough cbrt to 5 bits:
+     *    cbrt(2**e*(1+m) ~= 2**(e/3)*(1+(e%3+m)/3)
+     * where e is integral and >= 0, m is real and in [0, 1), and "/" and
+     * "%" are integer division and modulus with rounding towards minus
+     * infinity.  The RHS is always >= the LHS and has a maximum relative
+     * error of about 1 in 16.  Adding a bias of -0.03306235651 to the
+     * (e%3+m)/3 term reduces the error to about 1 in 32. With the IEEE
+     * floating point representation, for finite positive normal values,
+     * ordinary integer divison of the value in bits magically gives
+     * almost exactly the RHS of the above provided we first subtract the
+     * exponent bias (1023 for doubles) and later add it back.  We do the
+     * subtraction virtually to keep e >= 0 so that ordinary integer
+     * division rounds towards minus infinity; this is also efficient.
+     */
+       if(hx<0x00100000) {             /* zero or subnormal? */
+           if((hx|low)==0)
+               return(x);              /* cbrt(0) is itself */
+           SET_HIGH_WORD(t,0x43500000); /* set t= 2**54 */
+           t*=x;
+           GET_HIGH_WORD(high,t);
+           INSERT_WORDS(t,sign|((high&0x7fffffff)/3+B2),0);
+       } else
+           INSERT_WORDS(t,sign|(hx/3+B1),0);
 
-    /* chopped to 20 bits and make it larger than cbrt(x) */
-       GET_HIGH_WORD(high,t);
-       INSERT_WORDS(t,high+0x00000001,0);
+    /*
+     * New cbrt to 23 bits:
+     *    cbrt(x) = t*cbrt(x/t**3) ~= t*P(t**3/x)
+     * where P(r) is a polynomial of degree 4 that approximates 1/cbrt(r)
+     * to within 2**-23.5 when |r - 1| < 1/10.  The rough approximation
+     * has produced t such than |t/cbrt(x) - 1| ~< 1/32, and cubing this
+     * gives us bounds for r = t**3/x.
+     *
+     * Try to optimize for parallel evaluation as in k_tanf.c.
+     */
+       r=(t*t)*(t/x);
+       t=t*((P0+r*(P1+r*P2))+((r*r)*r)*(P3+r*P4));
 
+    /*
+     * Round t away from zero to 23 bits (sloppily except for ensuring that
+     * the result is larger in magnitude than cbrt(x) but not much more than
+     * 2 23-bit ulps larger).  With rounding towards zero, the error bound
+     * would be ~5/6 instead of ~4/6.  With a maximum error of 2 23-bit ulps
+     * in the rounded t, the infinite-precision error in the Newton
+     * approximation barely affects third digit in the the final error
+     * 0.667; the error in the rounded t can be up to about 3 23-bit ulps
+     * before the final error is larger than 0.667 ulps.
+     */
+       u.value=t;
+       u.bits=(u.bits+0x80000000)&0xffffffffc0000000ULL;
+       t=u.value;
 
-    /* one step newton iteration to 53 bits with error less than 0.667 ulps */
-       s=t*t;          /* t*t is exact */
-       r=x/s;
-       w=t+t;
-       r=(r-t)/(w+r);  /* r-s is exact */
-       t=t+t*r;
+    /* one step Newton iteration to 53 bits with error < 0.667 ulps */
+       s=t*t;                          /* t*t is exact */
+       r=x/s;                          /* error <= 0.5 ulps; |r| < |t| */
+       w=t+t;                          /* t+t is exact */
+       r=(r-t)/(w+r);                  /* r-t is exact; w+r ~= 3*t */
+       t=t+t*r;                        /* error <= 0.5 + 0.5/3 + epsilon */
 
-    /* retore the sign bit */
-       GET_HIGH_WORD(high,t);
-       SET_HIGH_WORD(t,high|sign);
        return(t);
 }
index e2d43a6..325a989 100644 (file)
@@ -1,5 +1,6 @@
 /* s_cbrtf.c -- float version of s_cbrt.c.
  * Conversion to float by Ian Lance Taylor, Cygnus Support, ian@cygnus.com.
+ * Debugged and optimized by Bruce D. Evans.
  */
 
 /*
@@ -12,8 +13,9 @@
  * is preserved.
  * ====================================================
  *
+ * $FreeBSD: src/lib/msun/src/s_cbrtf.c,v 1.17 2007/05/29 07:13:07 bde Exp $
  * $NetBSD: s_cbrtf.c,v 1.7 2002/05/26 22:01:54 wiz Exp $
- * $DragonFly: src/lib/libm/src/s_cbrtf.c,v 1.1 2005/07/26 21:15:20 joerg Exp $
+ * $DragonFly: src/lib/libm/src/s_cbrtf.c,v 1.2 2007/07/03 04:54:07 pavalos Exp $
  */
 
 #include <math.h>
  * Return cube root of x
  */
 static const unsigned
-       B1 = 709958130, /* B1 = (84+2/3-0.03306235651)*2**23 */
-       B2 = 642849266; /* B2 = (76+2/3-0.03306235651)*2**23 */
-
-static const float
-C =  5.4285717010e-01, /* 19/35     = 0x3f0af8b0 */
-D = -7.0530611277e-01, /* -864/1225 = 0xbf348ef1 */
-E =  1.4142856598e+00, /* 99/70     = 0x3fb50750 */
-F =  1.6071428061e+00, /* 45/28     = 0x3fcdb6db */
-G =  3.5714286566e-01; /* 5/14      = 0x3eb6db6e */
+       B1 = 709958130, /* B1 = (127-127.0/3-0.03306235651)*2**23 */
+       B2 = 642849266; /* B2 = (127-127.0/3-24/3-0.03306235651)*2**23 */
 
 float
 cbrtf(float x)
 {
-       float r,s,t;
+       double r,T;
+       float t;
        int32_t hx;
        u_int32_t sign;
        u_int32_t high;
@@ -45,26 +41,34 @@ cbrtf(float x)
        sign=hx&0x80000000;             /* sign= sign(x) */
        hx  ^=sign;
        if(hx>=0x7f800000) return(x+x); /* cbrt(NaN,INF) is itself */
-       if(hx==0)
-           return(x);          /* cbrt(0) is itself */
 
-       SET_FLOAT_WORD(x,hx);   /* x <- |x| */
     /* rough cbrt to 5 bits */
-       if(hx<0x00800000)               /* subnormal number */
-         {SET_FLOAT_WORD(t,0x4b800000); /* set t= 2**24 */
-          t*=x; GET_FLOAT_WORD(high,t); SET_FLOAT_WORD(t,high/3+B2);
-         }
-       else
-         SET_FLOAT_WORD(t,hx/3+B1);
+       if(hx<0x00800000) {             /* zero or subnormal? */
+           if(hx==0)
+               return(x);              /* cbrt(+-0) is itself */
+           SET_FLOAT_WORD(t,0x4b800000); /* set t= 2**24 */
+           t*=x;
+           GET_FLOAT_WORD(high,t);
+           SET_FLOAT_WORD(t,sign|((high&0x7fffffff)/3+B2));
+       } else
+           SET_FLOAT_WORD(t,sign|(hx/3+B1));
 
+    /*
+     * First step Newton iteration (solving t*t-x/t == 0) to 16 bits.  In
+     * double precision so that its terms can be arranged for efficiency
+     * without causing overflow or underflow.
+     */
+       T=t;
+       r=T*T*T;
+       T=T*((double)x+x+r)/(x+r+r);
 
-    /* new cbrt to 23 bits */
-       r=t*t/x;
-       s=C+r*t;
-       t*=G+F/(s+E+D/s);
+    /*
+     * Second step Newton iteration to 47 bits.  In double precision for
+     * efficiency and accuracy.
+     */
+       r=T*T*T;
+       T=T*((double)x+x+r)/(x+r+r);
 
-    /* retore the sign bit */
-       GET_FLOAT_WORD(high,t);
-       SET_FLOAT_WORD(t,high|sign);
-       return(t);
+    /* rounding to 24 bits is perfect in round-to-nearest mode */
+       return(T);
 }