Merge branch 'vendor/TEXINFO'
[dragonfly.git] / contrib / mpfr / frac.c
1 /* mpfr_frac -- Fractional part of a floating-point number.
2
3 Copyright 2002, 2003, 2004, 2006, 2007, 2008, 2009 Free Software Foundation, Inc.
4 Contributed by the Arenaire and Cacao projects, INRIA.
5
6 This file is part of the GNU MPFR Library.
7
8 The GNU MPFR Library is free software; you can redistribute it and/or modify
9 it under the terms of the GNU Lesser General Public License as published by
10 the Free Software Foundation; either version 2.1 of the License, or (at your
11 option) any later version.
12
13 The GNU MPFR Library is distributed in the hope that it will be useful, but
14 WITHOUT ANY WARRANTY; without even the implied warranty of MERCHANTABILITY
15 or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU Lesser General Public
16 License for more details.
17
18 You should have received a copy of the GNU Lesser General Public License
19 along with the GNU MPFR Library; see the file COPYING.LIB.  If not, write to
20 the Free Software Foundation, Inc., 51 Franklin St, Fifth Floor, Boston,
21 MA 02110-1301, USA. */
22
23
24 #define MPFR_NEED_LONGLONG_H
25 #include "mpfr-impl.h"
26
27 /* Optimization note: it is not a good idea to call mpfr_integer_p,
28    as some cases will take longer (the number may be parsed twice). */
29
30 int
31 mpfr_frac (mpfr_ptr r, mpfr_srcptr u, mp_rnd_t rnd_mode)
32 {
33   mp_exp_t re, ue;
34   mp_prec_t uq;
35   mp_size_t un, tn, t0;
36   mp_limb_t *up, *tp, k;
37   int sh;
38   mpfr_t tmp;
39   mpfr_ptr t;
40   int inex;
41   MPFR_SAVE_EXPO_DECL (expo);
42
43   /* Special cases */
44   if (MPFR_UNLIKELY(MPFR_IS_NAN(u)))
45     {
46       MPFR_SET_NAN(r);
47       MPFR_RET_NAN;
48     }
49   else if (MPFR_UNLIKELY(MPFR_IS_INF(u) || mpfr_integer_p (u)))
50     {
51       MPFR_CLEAR_FLAGS(r);
52       MPFR_SET_SAME_SIGN(r, u);
53       MPFR_SET_ZERO(r);
54       MPFR_RET(0);  /* zero is exact */
55     }
56
57   ue = MPFR_GET_EXP (u);
58   if (ue <= 0)  /* |u| < 1 */
59     return mpfr_set (r, u, rnd_mode);
60
61   /* Now |u| >= 1, meaning that an overflow is not possible. */
62
63   uq = MPFR_PREC(u);
64   un = (uq - 1) / BITS_PER_MP_LIMB;  /* index of most significant limb */
65   un -= (mp_size_t) (ue / BITS_PER_MP_LIMB);
66   /* now the index of the MSL containing bits of the fractional part */
67
68   up = MPFR_MANT(u);
69   sh = ue % BITS_PER_MP_LIMB;
70   k = up[un] << sh;
71   /* the first bit of the fractional part is the MSB of k */
72
73   if (k != 0)
74     {
75       int cnt;
76
77       count_leading_zeros(cnt, k);
78       /* first bit 1 of the fractional part -> MSB of the number */
79       re = -cnt;
80       sh += cnt;
81       MPFR_ASSERTN (sh < BITS_PER_MP_LIMB);
82       k <<= cnt;
83     }
84   else
85     {
86       re = sh - BITS_PER_MP_LIMB;
87       /* searching for the first bit 1 (exists since u isn't an integer) */
88       while (up[--un] == 0)
89         re -= BITS_PER_MP_LIMB;
90       MPFR_ASSERTN(un >= 0);
91       k = up[un];
92       count_leading_zeros(sh, k);
93       re -= sh;
94       k <<= sh;
95     }
96   /* The exponent of r will be re */
97   /* un: index of the limb of u that contains the first bit 1 of the FP */
98
99   t = (mp_size_t) (MPFR_PREC(r) - 1) / BITS_PER_MP_LIMB < un ?
100     (mpfr_init2 (tmp, (un + 1) * BITS_PER_MP_LIMB), tmp) : r;
101   /* t has enough precision to contain the fractional part of u */
102   /* If we use a temporary variable, we take the non-significant bits
103      of u into account, because of the mpn_lshift below. */
104   MPFR_CLEAR_FLAGS(t);
105   MPFR_SET_SAME_SIGN(t, u);
106
107   /* Put the fractional part of u into t */
108   tn = (MPFR_PREC(t) - 1) / BITS_PER_MP_LIMB;
109   MPFR_ASSERTN(tn >= un);
110   t0 = tn - un;
111   tp = MPFR_MANT(t);
112   if (sh == 0)
113     MPN_COPY_DECR(tp + t0, up, un + 1);
114   else /* warning: un may be 0 here */
115     tp[tn] = k | ((un) ? mpn_lshift (tp + t0, up, un, sh) : (mp_limb_t) 0);
116   if (t0 > 0)
117     MPN_ZERO(tp, t0);
118
119   MPFR_SAVE_EXPO_MARK (expo);
120
121   if (t != r)
122     { /* t is tmp */
123       MPFR_EXP (t) = 0;  /* should be re, but not necessarily in the range */
124       inex = mpfr_set (r, t, rnd_mode);  /* no underflow */
125       mpfr_clear (t);
126       MPFR_EXP (r) += re;
127     }
128   else
129     { /* There may be remaining non-significant bits in t (= r). */
130       int carry;
131
132       MPFR_EXP (r) = re;
133       carry = mpfr_round_raw (tp, tp,
134                               (mp_prec_t) (tn + 1) * BITS_PER_MP_LIMB,
135                               MPFR_IS_NEG (r), MPFR_PREC (r), rnd_mode,
136                               &inex);
137       if (carry)
138         {
139           tp[tn] = MPFR_LIMB_HIGHBIT;
140           MPFR_EXP (r) ++;
141         }
142     }
143
144   MPFR_SAVE_EXPO_FREE (expo);
145   return mpfr_check_range (r, inex, rnd_mode);
146 }