Initial import from FreeBSD RELENG_4:
[dragonfly.git] / contrib / perl5 / lib / bigfloat.pl
1 package bigfloat;
2 require "bigint.pl";
3 # Arbitrary length float math package
4 #
5 # by Mark Biggar
6 #
7 # number format
8 #   canonical strings have the form /[+-]\d+E[+-]\d+/
9 #   Input values can have inbedded whitespace
10 # Error returns
11 #   'NaN'           An input parameter was "Not a Number" or 
12 #                       divide by zero or sqrt of negative number
13 # Division is computed to 
14 #   max($div_scale,length(dividend)+length(divisor)) 
15 #   digits by default.
16 # Also used for default sqrt scale
17
18 $div_scale = 40;
19
20 # Rounding modes one of 'even', 'odd', '+inf', '-inf', 'zero' or 'trunc'.
21
22 $rnd_mode = 'even';
23
24 #   bigfloat routines
25 #
26 #   fadd(NSTR, NSTR) return NSTR            addition
27 #   fsub(NSTR, NSTR) return NSTR            subtraction
28 #   fmul(NSTR, NSTR) return NSTR            multiplication
29 #   fdiv(NSTR, NSTR[,SCALE]) returns NSTR   division to SCALE places
30 #   fneg(NSTR) return NSTR                  negation
31 #   fabs(NSTR) return NSTR                  absolute value
32 #   fcmp(NSTR,NSTR) return CODE             compare undef,<0,=0,>0
33 #   fround(NSTR, SCALE) return NSTR         round to SCALE digits
34 #   ffround(NSTR, SCALE) return NSTR        round at SCALEth place
35 #   fnorm(NSTR) return (NSTR)               normalize
36 #   fsqrt(NSTR[, SCALE]) return NSTR        sqrt to SCALE places
37 \f
38 # Convert a number to canonical string form.
39 #   Takes something that looks like a number and converts it to
40 #   the form /^[+-]\d+E[+-]\d+$/.
41 sub main'fnorm { #(string) return fnum_str
42     local($_) = @_;
43     s/\s+//g;                               # strip white space
44     if (/^([+-]?)(\d*)(\.(\d*))?([Ee]([+-]?\d+))?$/
45           && ($2 ne '' || defined($4))) {
46         my $x = defined($4) ? $4 : '';
47         &norm(($1 ? "$1$2$x" : "+$2$x"), (($x ne '') ? $6-length($x) : $6));
48     } else {
49         'NaN';
50     }
51 }
52
53 # normalize number -- for internal use
54 sub norm { #(mantissa, exponent) return fnum_str
55     local($_, $exp) = @_;
56     if ($_ eq 'NaN') {
57         'NaN';
58     } else {
59         s/^([+-])0+/$1/;                        # strip leading zeros
60         if (length($_) == 1) {
61             '+0E+0';
62         } else {
63             $exp += length($1) if (s/(0+)$//);  # strip trailing zeros
64             sprintf("%sE%+ld", $_, $exp);
65         }
66     }
67 }
68
69 # negation
70 sub main'fneg { #(fnum_str) return fnum_str
71     local($_) = &'fnorm($_[$[]);
72     vec($_,0,8) ^= ord('+') ^ ord('-') unless $_ eq '+0E+0'; # flip sign
73     s/^H/N/;
74     $_;
75 }
76
77 # absolute value
78 sub main'fabs { #(fnum_str) return fnum_str
79     local($_) = &'fnorm($_[$[]);
80     s/^-/+/;                                   # mash sign
81     $_;
82 }
83
84 # multiplication
85 sub main'fmul { #(fnum_str, fnum_str) return fnum_str
86     local($x,$y) = (&'fnorm($_[$[]),&'fnorm($_[$[+1]));
87     if ($x eq 'NaN' || $y eq 'NaN') {
88         'NaN';
89     } else {
90         local($xm,$xe) = split('E',$x);
91         local($ym,$ye) = split('E',$y);
92         &norm(&'bmul($xm,$ym),$xe+$ye);
93     }
94 }
95 \f
96 # addition
97 sub main'fadd { #(fnum_str, fnum_str) return fnum_str
98     local($x,$y) = (&'fnorm($_[$[]),&'fnorm($_[$[+1]));
99     if ($x eq 'NaN' || $y eq 'NaN') {
100         'NaN';
101     } else {
102         local($xm,$xe) = split('E',$x);
103         local($ym,$ye) = split('E',$y);
104         ($xm,$xe,$ym,$ye) = ($ym,$ye,$xm,$xe) if ($xe < $ye);
105         &norm(&'badd($ym,$xm.('0' x ($xe-$ye))),$ye);
106     }
107 }
108
109 # subtraction
110 sub main'fsub { #(fnum_str, fnum_str) return fnum_str
111     &'fadd($_[$[],&'fneg($_[$[+1]));    
112 }
113
114 # division
115 #   args are dividend, divisor, scale (optional)
116 #   result has at most max(scale, length(dividend), length(divisor)) digits
117 sub main'fdiv #(fnum_str, fnum_str[,scale]) return fnum_str
118 {
119     local($x,$y,$scale) = (&'fnorm($_[$[]),&'fnorm($_[$[+1]),$_[$[+2]);
120     if ($x eq 'NaN' || $y eq 'NaN' || $y eq '+0E+0') {
121         'NaN';
122     } else {
123         local($xm,$xe) = split('E',$x);
124         local($ym,$ye) = split('E',$y);
125         $scale = $div_scale if (!$scale);
126         $scale = length($xm)-1 if (length($xm)-1 > $scale);
127         $scale = length($ym)-1 if (length($ym)-1 > $scale);
128         $scale = $scale + length($ym) - length($xm);
129         &norm(&round(&'bdiv($xm.('0' x $scale),$ym),$ym),
130             $xe-$ye-$scale);
131     }
132 }
133 \f
134 # round int $q based on fraction $r/$base using $rnd_mode
135 sub round { #(int_str, int_str, int_str) return int_str
136     local($q,$r,$base) = @_;
137     if ($q eq 'NaN' || $r eq 'NaN') {
138         'NaN';
139     } elsif ($rnd_mode eq 'trunc') {
140         $q;                         # just truncate
141     } else {
142         local($cmp) = &'bcmp(&'bmul($r,'+2'),$base);
143         if ( $cmp < 0 ||
144                  ($cmp == 0 &&
145                   ( $rnd_mode eq 'zero'                             ||
146                    ($rnd_mode eq '-inf' && (substr($q,$[,1) eq '+')) ||
147                    ($rnd_mode eq '+inf' && (substr($q,$[,1) eq '-')) ||
148                    ($rnd_mode eq 'even' && $q =~ /[24680]$/)        ||
149                    ($rnd_mode eq 'odd'  && $q =~ /[13579]$/)        )) ) {
150             $q;                     # round down
151         } else {
152             &'badd($q, ((substr($q,$[,1) eq '-') ? '-1' : '+1'));
153                                     # round up
154         }
155     }
156 }
157
158 # round the mantissa of $x to $scale digits
159 sub main'fround { #(fnum_str, scale) return fnum_str
160     local($x,$scale) = (&'fnorm($_[$[]),$_[$[+1]);
161     if ($x eq 'NaN' || $scale <= 0) {
162         $x;
163     } else {
164         local($xm,$xe) = split('E',$x);
165         if (length($xm)-1 <= $scale) {
166             $x;
167         } else {
168             &norm(&round(substr($xm,$[,$scale+1),
169                          "+0".substr($xm,$[+$scale+1,1),"+10"),
170                   $xe+length($xm)-$scale-1);
171         }
172     }
173 }
174 \f
175 # round $x at the 10 to the $scale digit place
176 sub main'ffround { #(fnum_str, scale) return fnum_str
177     local($x,$scale) = (&'fnorm($_[$[]),$_[$[+1]);
178     if ($x eq 'NaN') {
179         'NaN';
180     } else {
181         local($xm,$xe) = split('E',$x);
182         if ($xe >= $scale) {
183             $x;
184         } else {
185             $xe = length($xm)+$xe-$scale;
186             if ($xe < 1) {
187                 '+0E+0';
188             } elsif ($xe == 1) {
189                 &norm(&round('+0',"+0".substr($xm,$[+1,1),"+10"), $scale);
190             } else {
191                 &norm(&round(substr($xm,$[,$xe),
192                       "+0".substr($xm,$[+$xe,1),"+10"), $scale);
193             }
194         }
195     }
196 }
197     
198 # compare 2 values returns one of undef, <0, =0, >0
199 #   returns undef if either or both input value are not numbers
200 sub main'fcmp #(fnum_str, fnum_str) return cond_code
201 {
202     local($x, $y) = (&'fnorm($_[$[]),&'fnorm($_[$[+1]));
203     if ($x eq "NaN" || $y eq "NaN") {
204         undef;
205     } else {
206         ord($y) <=> ord($x)
207         ||
208         (  local($xm,$xe,$ym,$ye) = split('E', $x."E$y"),
209              (($xe <=> $ye) * (substr($x,$[,1).'1')
210              || &bigint'cmp($xm,$ym))
211         );
212     }
213 }
214 \f
215 # square root by Newtons method.
216 sub main'fsqrt { #(fnum_str[, scale]) return fnum_str
217     local($x, $scale) = (&'fnorm($_[$[]), $_[$[+1]);
218     if ($x eq 'NaN' || $x =~ /^-/) {
219         'NaN';
220     } elsif ($x eq '+0E+0') {
221         '+0E+0';
222     } else {
223         local($xm, $xe) = split('E',$x);
224         $scale = $div_scale if (!$scale);
225         $scale = length($xm)-1 if ($scale < length($xm)-1);
226         local($gs, $guess) = (1, sprintf("1E%+d", (length($xm)+$xe-1)/2));
227         while ($gs < 2*$scale) {
228             $guess = &'fmul(&'fadd($guess,&'fdiv($x,$guess,$gs*2)),".5");
229             $gs *= 2;
230         }
231         &'fround($guess, $scale);
232     }
233 }
234
235 1;