(__expm1l, expm1l): Remove NO_LONG_DOUBLE aliases.
[kopensolaris-gnu/glibc.git] / sysdeps / ieee754 / ldbl-96 / e_lgammal_r.c
1 /*
2  * ====================================================
3  * Copyright (C) 1993 by Sun Microsystems, Inc. All rights reserved.
4  *
5  * Developed at SunPro, a Sun Microsystems, Inc. business.
6  * Permission to use, copy, modify, and distribute this
7  * software is freely granted, provided that this notice
8  * is preserved.
9  * ====================================================
10  */
11
12 /* Long double expansions contributed by
13    Stephen L. Moshier <moshier@na-net.ornl.gov>  */
14
15 /* __ieee754_lgammal_r(x, signgamp)
16  * Reentrant version of the logarithm of the Gamma function
17  * with user provide pointer for the sign of Gamma(x).
18  *
19  * Method:
20  *   1. Argument Reduction for 0 < x <= 8
21  *      Since gamma(1+s)=s*gamma(s), for x in [0,8], we may
22  *      reduce x to a number in [1.5,2.5] by
23  *              lgamma(1+s) = log(s) + lgamma(s)
24  *      for example,
25  *              lgamma(7.3) = log(6.3) + lgamma(6.3)
26  *                          = log(6.3*5.3) + lgamma(5.3)
27  *                          = log(6.3*5.3*4.3*3.3*2.3) + lgamma(2.3)
28  *   2. Polynomial approximation of lgamma around its
29  *      minimun ymin=1.461632144968362245 to maintain monotonicity.
30  *      On [ymin-0.23, ymin+0.27] (i.e., [1.23164,1.73163]), use
31  *              Let z = x-ymin;
32  *              lgamma(x) = -1.214862905358496078218 + z^2*poly(z)
33  *   2. Rational approximation in the primary interval [2,3]
34  *      We use the following approximation:
35  *              s = x-2.0;
36  *              lgamma(x) = 0.5*s + s*P(s)/Q(s)
37  *      Our algorithms are based on the following observation
38  *
39  *                             zeta(2)-1    2    zeta(3)-1    3
40  * lgamma(2+s) = s*(1-Euler) + --------- * s  -  --------- * s  + ...
41  *                                 2                 3
42  *
43  *      where Euler = 0.5771... is the Euler constant, which is very
44  *      close to 0.5.
45  *
46  *   3. For x>=8, we have
47  *      lgamma(x)~(x-0.5)log(x)-x+0.5*log(2pi)+1/(12x)-1/(360x**3)+....
48  *      (better formula:
49  *         lgamma(x)~(x-0.5)*(log(x)-1)-.5*(log(2pi)-1) + ...)
50  *      Let z = 1/x, then we approximation
51  *              f(z) = lgamma(x) - (x-0.5)(log(x)-1)
52  *      by
53  *                                  3       5             11
54  *              w = w0 + w1*z + w2*z  + w3*z  + ... + w6*z
55  *
56  *   4. For negative x, since (G is gamma function)
57  *              -x*G(-x)*G(x) = pi/sin(pi*x),
58  *      we have
59  *              G(x) = pi/(sin(pi*x)*(-x)*G(-x))
60  *      since G(-x) is positive, sign(G(x)) = sign(sin(pi*x)) for x<0
61  *      Hence, for x<0, signgam = sign(sin(pi*x)) and
62  *              lgamma(x) = log(|Gamma(x)|)
63  *                        = log(pi/(|x*sin(pi*x)|)) - lgamma(-x);
64  *      Note: one should avoid compute pi*(-x) directly in the
65  *            computation of sin(pi*(-x)).
66  *
67  *   5. Special Cases
68  *              lgamma(2+s) ~ s*(1-Euler) for tiny s
69  *              lgamma(1)=lgamma(2)=0
70  *              lgamma(x) ~ -log(x) for tiny x
71  *              lgamma(0) = lgamma(inf) = inf
72  *              lgamma(-integer) = +-inf
73  *
74  */
75
76 #include "math.h"
77 #include "math_private.h"
78
79 #ifdef __STDC__
80 static const long double
81 #else
82 static long double
83 #endif
84   half = 0.5L,
85   one = 1.0L,
86   pi = 3.14159265358979323846264L,
87   two63 = 9.223372036854775808e18L,
88
89   /* lgam(1+x) = 0.5 x + x a(x)/b(x)
90      -0.268402099609375 <= x <= 0
91      peak relative error 6.6e-22 */
92   a0 = -6.343246574721079391729402781192128239938E2L,
93   a1 =  1.856560238672465796768677717168371401378E3L,
94   a2 =  2.404733102163746263689288466865843408429E3L,
95   a3 =  8.804188795790383497379532868917517596322E2L,
96   a4 =  1.135361354097447729740103745999661157426E2L,
97   a5 =  3.766956539107615557608581581190400021285E0L,
98
99   b0 =  8.214973713960928795704317259806842490498E3L,
100   b1 =  1.026343508841367384879065363925870888012E4L,
101   b2 =  4.553337477045763320522762343132210919277E3L,
102   b3 =  8.506975785032585797446253359230031874803E2L,
103   b4 =  6.042447899703295436820744186992189445813E1L,
104   /* b5 =  1.000000000000000000000000000000000000000E0 */
105
106
107   tc =  1.4616321449683623412626595423257213284682E0L,
108   tf = -1.2148629053584961146050602565082954242826E-1,/* double precision */
109 /* tt = (tail of tf), i.e. tf + tt has extended precision. */
110   tt = 3.3649914684731379602768989080467587736363E-18L,
111   /* lgam ( 1.4616321449683623412626595423257213284682E0 ) =
112 -1.2148629053584960809551455717769158215135617312999903886372437313313530E-1 */
113
114   /* lgam (x + tc) = tf + tt + x g(x)/h(x)
115      - 0.230003726999612341262659542325721328468 <= x
116      <= 0.2699962730003876587373404576742786715318
117      peak relative error 2.1e-21 */
118   g0 = 3.645529916721223331888305293534095553827E-18L,
119   g1 = 5.126654642791082497002594216163574795690E3L,
120   g2 = 8.828603575854624811911631336122070070327E3L,
121   g3 = 5.464186426932117031234820886525701595203E3L,
122   g4 = 1.455427403530884193180776558102868592293E3L,
123   g5 = 1.541735456969245924860307497029155838446E2L,
124   g6 = 4.335498275274822298341872707453445815118E0L,
125
126   h0 = 1.059584930106085509696730443974495979641E4L,
127   h1 =  2.147921653490043010629481226937850618860E4L,
128   h2 = 1.643014770044524804175197151958100656728E4L,
129   h3 =  5.869021995186925517228323497501767586078E3L,
130   h4 =  9.764244777714344488787381271643502742293E2L,
131   h5 =  6.442485441570592541741092969581997002349E1L,
132   /* h6 = 1.000000000000000000000000000000000000000E0 */
133
134
135   /* lgam (x+1) = -0.5 x + x u(x)/v(x)
136      -0.100006103515625 <= x <= 0.231639862060546875
137      peak relative error 1.3e-21 */
138   u0 = -8.886217500092090678492242071879342025627E1L,
139   u1 =  6.840109978129177639438792958320783599310E2L,
140   u2 =  2.042626104514127267855588786511809932433E3L,
141   u3 =  1.911723903442667422201651063009856064275E3L,
142   u4 =  7.447065275665887457628865263491667767695E2L,
143   u5 =  1.132256494121790736268471016493103952637E2L,
144   u6 =  4.484398885516614191003094714505960972894E0L,
145
146   v0 =  1.150830924194461522996462401210374632929E3L,
147   v1 =  3.399692260848747447377972081399737098610E3L,
148   v2 =  3.786631705644460255229513563657226008015E3L,
149   v3 =  1.966450123004478374557778781564114347876E3L,
150   v4 =  4.741359068914069299837355438370682773122E2L,
151   v5 =  4.508989649747184050907206782117647852364E1L,
152   /* v6 =  1.000000000000000000000000000000000000000E0 */
153
154
155   /* lgam (x+2) = .5 x + x s(x)/r(x)
156      0 <= x <= 1
157      peak relative error 7.2e-22 */
158   s0 =  1.454726263410661942989109455292824853344E6L,
159   s1 = -3.901428390086348447890408306153378922752E6L,
160   s2 = -6.573568698209374121847873064292963089438E6L,
161   s3 = -3.319055881485044417245964508099095984643E6L,
162   s4 = -7.094891568758439227560184618114707107977E5L,
163   s5 = -6.263426646464505837422314539808112478303E4L,
164   s6 = -1.684926520999477529949915657519454051529E3L,
165
166   r0 = -1.883978160734303518163008696712983134698E7L,
167   r1 = -2.815206082812062064902202753264922306830E7L,
168   r2 = -1.600245495251915899081846093343626358398E7L,
169   r3 = -4.310526301881305003489257052083370058799E6L,
170   r4 = -5.563807682263923279438235987186184968542E5L,
171   r5 = -3.027734654434169996032905158145259713083E4L,
172   r6 = -4.501995652861105629217250715790764371267E2L,
173   /* r6 =  1.000000000000000000000000000000000000000E0 */
174
175
176 /* lgam(x) = ( x - 0.5 ) * log(x) - x + LS2PI + 1/x w(1/x^2)
177    x >= 8
178    Peak relative error 1.51e-21
179    w0 = LS2PI - 0.5 */
180   w0 =  4.189385332046727417803e-1L,
181   w1 =  8.333333333333331447505E-2L,
182   w2 = -2.777777777750349603440E-3L,
183   w3 =  7.936507795855070755671E-4L,
184   w4 = -5.952345851765688514613E-4L,
185   w5 =  8.412723297322498080632E-4L,
186   w6 = -1.880801938119376907179E-3L,
187   w7 =  4.885026142432270781165E-3L;
188
189 #ifdef __STDC__
190 static const long double zero = 0.0L;
191 #else
192 static long double zero = 0.0L;
193 #endif
194
195 #ifdef __STDC__
196 static long double
197 sin_pi (long double x)
198 #else
199 static long double
200 sin_pi (x)
201      long double x;
202 #endif
203 {
204   long double y, z;
205   int n, ix;
206   u_int32_t se, i0, i1;
207
208   GET_LDOUBLE_WORDS (se, i0, i1, x);
209   ix = se & 0x7fff;
210   ix = (ix << 16) | (i0 >> 16);
211   if (ix < 0x3ffd8000) /* 0.25 */
212     return __sinl (pi * x);
213   y = -x;                       /* x is assume negative */
214
215   /*
216    * argument reduction, make sure inexact flag not raised if input
217    * is an integer
218    */
219   z = __floorl (y);
220   if (z != y)
221     {                           /* inexact anyway */
222       y  *= 0.5;
223       y = 2.0*(y - __floorl(y));                /* y = |x| mod 2.0 */
224       n = (int) (y*4.0);
225     }
226   else
227     {
228       if (ix >= 0x403f8000)  /* 2^64 */
229         {
230           y = zero; n = 0;                 /* y must be even */
231         }
232       else
233         {
234         if (ix < 0x403e8000)  /* 2^63 */
235           z = y + two63;        /* exact */
236         GET_LDOUBLE_WORDS (se, i0, i1, z);
237         n = i1 & 1;
238         y  = n;
239         n <<= 2;
240       }
241     }
242
243   switch (n)
244     {
245     case 0:
246       y = __sinl (pi * y);
247       break;
248     case 1:
249     case 2:
250       y = __cosl (pi * (half - y));
251       break;
252     case 3:
253     case 4:
254       y = __sinl (pi * (one - y));
255       break;
256     case 5:
257     case 6:
258       y = -__cosl (pi * (y - 1.5));
259       break;
260     default:
261       y = __sinl (pi * (y - 2.0));
262       break;
263     }
264   return -y;
265 }
266
267
268 #ifdef __STDC__
269 long double
270 __ieee754_lgammal_r (long double x, int *signgamp)
271 #else
272 long double
273 __ieee754_lgammal_r (x, signgamp)
274      long double x;
275      int *signgamp;
276 #endif
277 {
278   long double t, y, z, nadj, p, p1, p2, q, r, w;
279   int i, ix;
280   u_int32_t se, i0, i1;
281
282   *signgamp = 1;
283   GET_LDOUBLE_WORDS (se, i0, i1, x);
284   ix = se & 0x7fff;
285
286   if ((ix | i0 | i1) == 0)
287     return one / fabsl (x);
288
289   ix = (ix << 16) | (i0 >> 16);
290
291   /* purge off +-inf, NaN, +-0, and negative arguments */
292   if (ix >= 0x7fff0000)
293     return x * x;
294
295   if (ix < 0x3fc08000) /* 2^-63 */
296     {                           /* |x|<2**-63, return -log(|x|) */
297       if (se & 0x8000)
298         {
299           *signgamp = -1;
300           return -__ieee754_logl (-x);
301         }
302       else
303         return -__ieee754_logl (x);
304     }
305   if (se & 0x8000)
306     {
307       t = sin_pi (x);
308       if (t == zero)
309         return one / fabsl (t); /* -integer */
310       nadj = __ieee754_logl (pi / fabsl (t * x));
311       if (t < zero)
312         *signgamp = -1;
313       x = -x;
314     }
315
316   /* purge off 1 and 2 */
317   if ((((ix - 0x3fff8000) | i0 | i1) == 0)
318       || (((ix - 0x40008000) | i0 | i1) == 0))
319     r = 0;
320   else if (ix < 0x40008000) /* 2.0 */
321     {
322       /* x < 2.0 */
323       if (ix <= 0x3ffee666) /* 8.99993896484375e-1 */
324         {
325           /* lgamma(x) = lgamma(x+1) - log(x) */
326           r = -__ieee754_logl (x);
327           if (ix >= 0x3ffebb4a) /* 7.31597900390625e-1 */
328             {
329               y = x - one;
330               i = 0;
331             }
332           else if (ix >= 0x3ffced33)/* 2.31639862060546875e-1 */
333             {
334               y = x - (tc - one);
335               i = 1;
336             }
337           else
338             {
339               /* x < 0.23 */
340               y = x;
341               i = 2;
342             }
343         }
344       else
345         {
346           r = zero;
347           if (ix >= 0x3fffdda6) /* 1.73162841796875 */
348             {
349               /* [1.7316,2] */
350               y = x - 2.0;
351               i = 0;
352             }
353           else if (ix >= 0x3fff9da6)/* 1.23162841796875 */
354             {
355               /* [1.23,1.73] */
356               y = x - tc;
357               i = 1;
358             }
359           else
360             {
361               /* [0.9, 1.23] */
362               y = x - one;
363               i = 2;
364             }
365         }
366       switch (i)
367         {
368         case 0:
369           p1 = a0 + y * (a1 + y * (a2 + y * (a3 + y * (a4 + y * a5))));
370           p2 = b0 + y * (b1 + y * (b2 + y * (b3 + y * (b4 + y))));
371           r += half * y + y * p1/p2;
372           break;
373         case 1:
374     p1 = g0 + y * (g1 + y * (g2 + y * (g3 + y * (g4 + y * (g5 + y * g6)))));
375     p2 = h0 + y * (h1 + y * (h2 + y * (h3 + y * (h4 + y * (h5 + y)))));
376     p = tt + y * p1/p2;
377           r += (tf + p);
378           break;
379         case 2:
380  p1 = y * (u0 + y * (u1 + y * (u2 + y * (u3 + y * (u4 + y * (u5 + y * u6))))));
381       p2 = v0 + y * (v1 + y * (v2 + y * (v3 + y * (v4 + y * (v5 + y)))));
382           r += (-half * y + p1 / p2);
383         }
384     }
385   else if (ix < 0x40028000) /* 8.0 */
386     {
387       /* x < 8.0 */
388       i = (int) x;
389       t = zero;
390       y = x - (double) i;
391   p = y *
392      (s0 + y * (s1 + y * (s2 + y * (s3 + y * (s4 + y * (s5 + y * s6))))));
393   q = r0 + y * (r1 + y * (r2 + y * (r3 + y * (r4 + y * (r5 + y * (r6 + y))))));
394       r = half * y + p / q;
395       z = one;                  /* lgamma(1+s) = log(s) + lgamma(s) */
396       switch (i)
397         {
398         case 7:
399           z *= (y + 6.0);       /* FALLTHRU */
400         case 6:
401           z *= (y + 5.0);       /* FALLTHRU */
402         case 5:
403           z *= (y + 4.0);       /* FALLTHRU */
404         case 4:
405           z *= (y + 3.0);       /* FALLTHRU */
406         case 3:
407           z *= (y + 2.0);       /* FALLTHRU */
408           r += __ieee754_logl (z);
409           break;
410         }
411     }
412   else if (ix < 0x40418000) /* 2^66 */
413     {
414       /* 8.0 <= x < 2**66 */
415       t = __ieee754_logl (x);
416       z = one / x;
417       y = z * z;
418       w = w0 + z * (w1
419           + y * (w2 + y * (w3 + y * (w4 + y * (w5 + y * (w6 + y * w7))))));
420       r = (x - half) * (t - one) + w;
421     }
422   else
423     /* 2**66 <= x <= inf */
424     r = x * (__ieee754_logl (x) - one);
425   if (se & 0x8000)
426     r = nadj - r;
427   return r;
428 }