More namespace issues.
[kopensolaris-gnu/glibc.git] / sysdeps / ieee754 / dbl-64 / mpa.c
1
2 /*
3  * IBM Accurate Mathematical Library
4  * Copyright (c) International Business Machines Corp., 2001
5  *
6  * This program is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU Lesser General Public License as published by
8  * the Free Software Foundation; either version 2 of the License, or
9  * (at your option) any later version.
10  *
11  * This program is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public License
17  * along with this program; if not, write to the Free Software
18  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA.
19  */
20 /************************************************************************/
21 /*  MODULE_NAME: mpa.c                                                  */
22 /*                                                                      */
23 /*  FUNCTIONS:                                                          */
24 /*               mcr                                                    */
25 /*               acr                                                    */
26 /*               cr                                                     */
27 /*               cpy                                                    */
28 /*               cpymn                                                  */
29 /*               norm                                                   */
30 /*               denorm                                                 */
31 /*               mp_dbl                                                 */
32 /*               dbl_mp                                                 */
33 /*               add_magnitudes                                         */
34 /*               sub_magnitudes                                         */
35 /*               add                                                    */
36 /*               sub                                                    */
37 /*               mul                                                    */
38 /*               inv                                                    */
39 /*               dvd                                                    */
40 /*                                                                      */
41 /* Arithmetic functions for multiple precision numbers.                 */
42 /* Relative errors are bounded                                          */
43 /************************************************************************/
44
45
46 #include "endian.h"
47 #include "mpa.h"
48 #include "mpa2.h"
49 /* mcr() compares the sizes of the mantissas of two multiple precision  */
50 /* numbers. Mantissas are compared regardless of the signs of the       */
51 /* numbers, even if x->d[0] or y->d[0] are zero. Exponents are also     */
52 /* disregarded.                                                         */
53 static int mcr(const mp_no *x, const mp_no *y, int p) {
54   int i;
55   for (i=1; i<=p; i++) {
56     if      (X[i] == Y[i])  continue;
57     else if (X[i] >  Y[i])  return  1;
58     else                    return -1; }
59   return 0;
60 }
61
62
63
64 /* acr() compares the absolute values of two multiple precision numbers */
65 int __acr(const mp_no *x, const mp_no *y, int p) {
66   int i;
67
68   if      (X[0] == ZERO) {
69     if    (Y[0] == ZERO) i= 0;
70     else                 i=-1;
71   }
72   else if (Y[0] == ZERO) i= 1;
73   else {
74     if      (EX >  EY)   i= 1;
75     else if (EX <  EY)   i=-1;
76     else                 i= mcr(x,y,p);
77   }
78
79   return i;
80 }
81
82
83 /* cr90 compares the values of two multiple precision numbers           */
84 int  __cr(const mp_no *x, const mp_no *y, int p) {
85   int i;
86
87   if      (X[0] > Y[0])  i= 1;
88   else if (X[0] < Y[0])  i=-1;
89   else if (X[0] < ZERO ) i= __acr(y,x,p);
90   else                   i= __acr(x,y,p);
91
92   return i;
93 }
94
95
96 /* Copy a multiple precision number. Set *y=*x. x=y is permissible.      */
97 void __cpy(const mp_no *x, mp_no *y, int p) {
98   int i;
99
100   EY = EX;
101   for (i=0; i <= p; i++)    Y[i] = X[i];
102
103   return;
104 }
105
106
107 /* Copy a multiple precision number x of precision m into a */
108 /* multiple precision number y of precision n. In case n>m, */
109 /* the digits of y beyond the m'th are set to zero. In case */
110 /* n<m, the digits of x beyond the n'th are ignored.        */
111 /* x=y is permissible.                                      */
112
113 void __cpymn(const mp_no *x, int m, mp_no *y, int n) {
114
115   int i,k;
116
117   EY = EX;     k=MIN(m,n);
118   for (i=0; i <= k; i++)    Y[i] = X[i];
119   for (   ; i <= n; i++)    Y[i] = ZERO;
120
121   return;
122 }
123
124 /* Convert a multiple precision number *x into a double precision */
125 /* number *y, normalized case  (|x| >= 2**(-1022))) */
126 static void norm(const mp_no *x, double *y, int p)
127 {
128   #define R  radixi.d
129   int i;
130 #if 0
131   int k;
132 #endif
133   double a,c,u,v,z[5];
134   if (p<5) {
135     if      (p==1) c = X[1];
136     else if (p==2) c = X[1] + R* X[2];
137     else if (p==3) c = X[1] + R*(X[2]  +   R* X[3]);
138     else if (p==4) c =(X[1] + R* X[2]) + R*R*(X[3] + R*X[4]);
139   }
140   else {
141     for (a=ONE, z[1]=X[1]; z[1] < TWO23; )
142         {a *= TWO;   z[1] *= TWO; }
143
144     for (i=2; i<5; i++) {
145       z[i] = X[i]*a;
146       u = (z[i] + CUTTER)-CUTTER;
147       if  (u > z[i])  u -= RADIX;
148       z[i] -= u;
149       z[i-1] += u*RADIXI;
150     }
151
152     u = (z[3] + TWO71) - TWO71;
153     if (u > z[3])   u -= TWO19;
154     v = z[3]-u;
155
156     if (v == TWO18) {
157       if (z[4] == ZERO) {
158         for (i=5; i <= p; i++) {
159           if (X[i] == ZERO)   continue;
160           else                {z[3] += ONE;   break; }
161         }
162       }
163       else              z[3] += ONE;
164     }
165
166     c = (z[1] + R *(z[2] + R * z[3]))/a;
167   }
168
169   c *= X[0];
170
171   for (i=1; i<EX; i++)   c *= RADIX;
172   for (i=1; i>EX; i--)   c *= RADIXI;
173
174   *y = c;
175   return;
176 #undef R
177 }
178
179 /* Convert a multiple precision number *x into a double precision */
180 /* number *y, denormalized case  (|x| < 2**(-1022))) */
181 static void denorm(const mp_no *x, double *y, int p)
182 {
183   int i,k;
184   double c,u,z[5];
185 #if 0
186   double a,v;
187 #endif
188
189 #define R  radixi.d
190   if (EX<-44 || (EX==-44 && X[1]<TWO5))
191      { *y=ZERO; return; }
192
193   if      (p==1) {
194     if      (EX==-42) {z[1]=X[1]+TWO10;  z[2]=ZERO;  z[3]=ZERO;  k=3;}
195     else if (EX==-43) {z[1]=     TWO10;  z[2]=X[1];  z[3]=ZERO;  k=2;}
196     else              {z[1]=     TWO10;  z[2]=ZERO;  z[3]=X[1];  k=1;}
197   }
198   else if (p==2) {
199     if      (EX==-42) {z[1]=X[1]+TWO10;  z[2]=X[2];  z[3]=ZERO;  k=3;}
200     else if (EX==-43) {z[1]=     TWO10;  z[2]=X[1];  z[3]=X[2];  k=2;}
201     else              {z[1]=     TWO10;  z[2]=ZERO;  z[3]=X[1];  k=1;}
202   }
203   else {
204     if      (EX==-42) {z[1]=X[1]+TWO10;  z[2]=X[2];  k=3;}
205     else if (EX==-43) {z[1]=     TWO10;  z[2]=X[1];  k=2;}
206     else              {z[1]=     TWO10;  z[2]=ZERO;  k=1;}
207     z[3] = X[k];
208   }
209
210   u = (z[3] + TWO57) - TWO57;
211   if  (u > z[3])   u -= TWO5;
212
213   if (u==z[3]) {
214     for (i=k+1; i <= p; i++) {
215       if (X[i] == ZERO)   continue;
216       else {z[3] += ONE;   break; }
217     }
218   }
219
220   c = X[0]*((z[1] + R*(z[2] + R*z[3])) - TWO10);
221
222   *y = c*TWOM1032;
223   return;
224
225 #undef R
226 }
227
228 /* Convert a multiple precision number *x into a double precision number *y. */
229 /* The result is correctly rounded to the nearest/even. *x is left unchanged */
230
231 void __mp_dbl(const mp_no *x, double *y, int p) {
232 #if 0
233   int i,k;
234   double a,c,u,v,z[5];
235 #endif
236
237   if (X[0] == ZERO)  {*y = ZERO;  return; }
238
239   if      (EX> -42)                 norm(x,y,p);
240   else if (EX==-42 && X[1]>=TWO10)  norm(x,y,p);
241   else                              denorm(x,y,p);
242 }
243
244
245 /* dbl_mp() converts a double precision number x into a multiple precision  */
246 /* number *y. If the precision p is too small the result is truncated. x is */
247 /* left unchanged.                                                          */
248
249 void __dbl_mp(double x, mp_no *y, int p) {
250
251   int i,n;
252   double u;
253
254   /* Sign */
255   if      (x == ZERO)  {Y[0] = ZERO;  return; }
256   else if (x >  ZERO)   Y[0] = ONE;
257   else                 {Y[0] = MONE;  x=-x;   }
258
259   /* Exponent */
260   for (EY=ONE; x >= RADIX; EY += ONE)   x *= RADIXI;
261   for (      ; x <  ONE;   EY -= ONE)   x *= RADIX;
262
263   /* Digits */
264   n=MIN(p,4);
265   for (i=1; i<=n; i++) {
266     u = (x + TWO52) - TWO52;
267     if (u>x)   u -= ONE;
268     Y[i] = u;     x -= u;    x *= RADIX; }
269   for (   ; i<=p; i++)     Y[i] = ZERO;
270   return;
271 }
272
273
274 /*  add_magnitudes() adds the magnitudes of *x & *y assuming that           */
275 /*  abs(*x) >= abs(*y) > 0.                                                 */
276 /* The sign of the sum *z is undefined. x&y may overlap but not x&z or y&z. */
277 /* No guard digit is used. The result equals the exact sum, truncated.      */
278 /* *x & *y are left unchanged.                                              */
279
280 static void add_magnitudes(const mp_no *x, const mp_no *y, mp_no *z, int p) {
281
282   int i,j,k;
283
284   EZ = EX;
285
286   i=p;    j=p+ EY - EX;    k=p+1;
287
288   if (j<1)
289      {__cpy(x,z,p);  return; }
290   else   Z[k] = ZERO;
291
292   for (; j>0; i--,j--) {
293     Z[k] += X[i] + Y[j];
294     if (Z[k] >= RADIX) {
295       Z[k]  -= RADIX;
296       Z[--k] = ONE; }
297     else
298       Z[--k] = ZERO;
299   }
300
301   for (; i>0; i--) {
302     Z[k] += X[i];
303     if (Z[k] >= RADIX) {
304       Z[k]  -= RADIX;
305       Z[--k] = ONE; }
306     else
307       Z[--k] = ZERO;
308   }
309
310   if (Z[1] == ZERO) {
311     for (i=1; i<=p; i++)    Z[i] = Z[i+1]; }
312   else   EZ += ONE;
313 }
314
315
316 /*  sub_magnitudes() subtracts the magnitudes of *x & *y assuming that      */
317 /*  abs(*x) > abs(*y) > 0.                                                  */
318 /* The sign of the difference *z is undefined. x&y may overlap but not x&z  */
319 /* or y&z. One guard digit is used. The error is less than one ulp.         */
320 /* *x & *y are left unchanged.                                              */
321
322 static void sub_magnitudes(const mp_no *x, const mp_no *y, mp_no *z, int p) {
323
324   int i,j,k;
325
326   EZ = EX;
327
328   if (EX == EY) {
329     i=j=k=p;
330     Z[k] = Z[k+1] = ZERO; }
331   else {
332     j= EX - EY;
333     if (j > p)  {__cpy(x,z,p);  return; }
334     else {
335       i=p;   j=p+1-j;   k=p;
336       if (Y[j] > ZERO) {
337         Z[k+1] = RADIX - Y[j--];
338         Z[k]   = MONE; }
339       else {
340         Z[k+1] = ZERO;
341         Z[k]   = ZERO;   j--;}
342     }
343   }
344
345   for (; j>0; i--,j--) {
346     Z[k] += (X[i] - Y[j]);
347     if (Z[k] < ZERO) {
348       Z[k]  += RADIX;
349       Z[--k] = MONE; }
350     else
351       Z[--k] = ZERO;
352   }
353
354   for (; i>0; i--) {
355     Z[k] += X[i];
356     if (Z[k] < ZERO) {
357       Z[k]  += RADIX;
358       Z[--k] = MONE; }
359     else
360       Z[--k] = ZERO;
361   }
362
363   for (i=1; Z[i] == ZERO; i++) ;
364   EZ = EZ - i + 1;
365   for (k=1; i <= p+1; )
366     Z[k++] = Z[i++];
367   for (; k <= p; )
368     Z[k++] = ZERO;
369
370   return;
371 }
372
373
374 /* Add two multiple precision numbers. Set *z = *x + *y. x&y may overlap  */
375 /* but not x&z or y&z. One guard digit is used. The error is less than    */
376 /* one ulp. *x & *y are left unchanged.                                   */
377
378 void __add(const mp_no *x, const mp_no *y, mp_no *z, int p) {
379
380   int n;
381
382   if      (X[0] == ZERO)     {__cpy(y,z,p);  return; }
383   else if (Y[0] == ZERO)     {__cpy(x,z,p);  return; }
384
385   if (X[0] == Y[0])   {
386     if (__acr(x,y,p) > 0)      {add_magnitudes(x,y,z,p);  Z[0] = X[0]; }
387     else                     {add_magnitudes(y,x,z,p);  Z[0] = Y[0]; }
388   }
389   else                       {
390     if ((n=__acr(x,y,p)) == 1) {sub_magnitudes(x,y,z,p);  Z[0] = X[0]; }
391     else if (n == -1)        {sub_magnitudes(y,x,z,p);  Z[0] = Y[0]; }
392     else                      Z[0] = ZERO;
393   }
394   return;
395 }
396
397
398 /* Subtract two multiple precision numbers. *z is set to *x - *y. x&y may */
399 /* overlap but not x&z or y&z. One guard digit is used. The error is      */
400 /* less than one ulp. *x & *y are left unchanged.                         */
401
402 void __sub(const mp_no *x, const mp_no *y, mp_no *z, int p) {
403
404   int n;
405
406   if      (X[0] == ZERO)     {__cpy(y,z,p);  Z[0] = -Z[0];  return; }
407   else if (Y[0] == ZERO)     {__cpy(x,z,p);                 return; }
408
409   if (X[0] != Y[0])    {
410     if (__acr(x,y,p) > 0)      {add_magnitudes(x,y,z,p);  Z[0] =  X[0]; }
411     else                     {add_magnitudes(y,x,z,p);  Z[0] = -Y[0]; }
412   }
413   else                       {
414     if ((n=__acr(x,y,p)) == 1) {sub_magnitudes(x,y,z,p);  Z[0] =  X[0]; }
415     else if (n == -1)        {sub_magnitudes(y,x,z,p);  Z[0] = -Y[0]; }
416     else                      Z[0] = ZERO;
417   }
418   return;
419 }
420
421
422 /* Multiply two multiple precision numbers. *z is set to *x * *y. x&y      */
423 /* may overlap but not x&z or y&z. In case p=1,2,3 the exact result is     */
424 /* truncated to p digits. In case p>3 the error is bounded by 1.001 ulp.   */
425 /* *x & *y are left unchanged.                                             */
426
427 void __mul(const mp_no *x, const mp_no *y, mp_no *z, int p) {
428
429   int i, i1, i2, j, k, k2;
430   double u;
431
432                       /* Is z=0? */
433   if (X[0]*Y[0]==ZERO)
434      { Z[0]=ZERO;  return; }
435
436                        /* Multiply, add and carry */
437   k2 = (p<3) ? p+p : p+3;
438   Z[k2]=ZERO;
439   for (k=k2; k>1; ) {
440     if (k > p)  {i1=k-p; i2=p+1; }
441     else        {i1=1;   i2=k;   }
442     for (i=i1,j=i2-1; i<i2; i++,j--)  Z[k] += X[i]*Y[j];
443
444     u = (Z[k] + CUTTER)-CUTTER;
445     if  (u > Z[k])  u -= RADIX;
446     Z[k]  -= u;
447     Z[--k] = u*RADIXI;
448   }
449
450                  /* Is there a carry beyond the most significant digit? */
451   if (Z[1] == ZERO) {
452     for (i=1; i<=p; i++)  Z[i]=Z[i+1];
453     EZ = EX + EY - 1; }
454   else
455     EZ = EX + EY;
456
457   Z[0] = X[0] * Y[0];
458   return;
459 }
460
461
462 /* Invert a multiple precision number. Set *y = 1 / *x.                     */
463 /* Relative error bound = 1.001*r**(1-p) for p=2, 1.063*r**(1-p) for p=3,   */
464 /* 2.001*r**(1-p) for p>3.                                                  */
465 /* *x=0 is not permissible. *x is left unchanged.                           */
466
467 void __inv(const mp_no *x, mp_no *y, int p) {
468   int i;
469 #if 0
470   int l;
471 #endif
472   double t;
473   mp_no z,w;
474   static const int np1[] = {0,0,0,0,1,2,2,2,2,3,3,3,3,3,3,3,3,3,
475                             4,4,4,4,4,4,4,4,4,4,4,4,4,4,4};
476   const mp_no mptwo = {1,{1.0,2.0,0.0,0.0,0.0,0.0,0.0,0.0,0.0,0.0,
477                          0.0,0.0,0.0,0.0,0.0,0.0,0.0,0.0,0.0,0.0,
478                          0.0,0.0,0.0,0.0,0.0,0.0,0.0,0.0,0.0,0.0,
479                          0.0,0.0,0.0,0.0,0.0,0.0,0.0,0.0,0.0,0.0}};
480
481   __cpy(x,&z,p);  z.e=0;  __mp_dbl(&z,&t,p);
482   t=ONE/t;   __dbl_mp(t,y,p);    EY -= EX;
483
484   for (i=0; i<np1[p]; i++) {
485     __cpy(y,&w,p);
486     __mul(x,&w,y,p);
487     __sub(&mptwo,y,&z,p);
488     __mul(&w,&z,y,p);
489   }
490   return;
491 }
492
493
494 /* Divide one multiple precision number by another.Set *z = *x / *y. *x & *y */
495 /* are left unchanged. x&y may overlap but not x&z or y&z.                   */
496 /* Relative error bound = 2.001*r**(1-p) for p=2, 2.063*r**(1-p) for p=3     */
497 /* and 3.001*r**(1-p) for p>3. *y=0 is not permissible.                      */
498
499 void __dvd(const mp_no *x, const mp_no *y, mp_no *z, int p) {
500
501   mp_no w;
502
503   if (X[0] == ZERO)    Z[0] = ZERO;
504   else                {__inv(y,&w,p);   __mul(x,&w,z,p);}
505   return;
506 }