d43923def50a932b72c1518c0c401cda4bd701ad
[jlayton/glibc.git] / sysdeps / ieee754 / dbl-64 / halfulp.c
1 /*
2  * IBM Accurate Mathematical Library
3  * written by International Business Machines Corp.
4  * Copyright (C) 2001 Free Software Foundation
5  *
6  * This program is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU Lesser General Public License as published by
8  * the Free Software Foundation; either version 2 of the License, or
9  * (at your option) any later version.
10  *
11  * This program is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public License
17  * along with this program; if not, write to the Free Software
18  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA.
19  */
20 /************************************************************************/
21 /*                                                                      */
22 /* MODULE_NAME:halfulp.c                                                */
23 /*                                                                      */
24 /*  FUNCTIONS:halfulp                                                   */
25 /*  FILES NEEDED: mydefs.h dla.h endian.h                               */
26 /*                uroot.c                                               */
27 /*                                                                      */
28 /*Routine halfulp(double x, double y) computes x^y where result does    */
29 /*not need rounding. If the result is closer to 0 than can be           */
30 /*represented it returns 0.                                             */
31 /*     In the following cases the function does not compute anything    */
32 /*and returns a negative number:                                        */
33 /*1. if the result needs rounding,                                      */
34 /*2. if y is outside the interval [0,  2^20-1],                         */
35 /*3. if x can be represented by  x=2**n for some integer n.             */
36 /************************************************************************/
37
38 #include "endian.h"
39 #include "mydefs.h"
40 #include "dla.h"
41 #include "math_private.h"
42
43 double __ieee754_sqrt(double x);
44
45 int4 tab54[32] = {
46    262143, 11585, 1782, 511, 210, 107, 63, 42,
47        30,    22,   17,  14,  12,  10,  9,  7,
48         7,     6,    5,   5,   5,   4,  4,  4,
49         3,     3,    3,   3,   3,   3,  3,  3 };
50
51
52 double __halfulp(double x, double y)
53 {
54   mynumber v;
55   double z,u,uu,j1,j2,j3,j4,j5;
56   int4 k,l,m,n;
57   if (y <= 0) {               /*if power is negative or zero */
58     v.x = y;
59     if (v.i[LOW_HALF] != 0) return -10.0;
60     v.x = x;
61     if (v.i[LOW_HALF] != 0) return -10.0;
62     if ((v.i[HIGH_HALF]&0x000fffff) != 0) return -10;   /* if x =2 ^ n */
63     k = ((v.i[HIGH_HALF]&0x7fffffff)>>20)-1023;         /* find this n */
64     z = (double) k;
65     return (z*y == -1075.0)?0: -10.0;
66   }
67                               /* if y > 0  */
68   v.x = y;
69     if (v.i[LOW_HALF] != 0) return -10.0;
70
71   v.x=x;
72                               /*  case where x = 2**n for some integer n */
73   if (((v.i[HIGH_HALF]&0x000fffff)|v.i[LOW_HALF]) == 0) {
74     k=(v.i[HIGH_HALF]>>20)-1023;
75     return (((double) k)*y == -1075.0)?0:-10.0;
76   }
77
78   v.x = y;
79   k = v.i[HIGH_HALF];
80   m = k<<12;
81   l = 0;
82   while (m)
83     {m = m<<1; l++; }
84   n = (k&0x000fffff)|0x00100000;
85   n = n>>(20-l);                       /*   n is the odd integer of y    */
86   k = ((k>>20) -1023)-l;               /*   y = n*2**k                   */
87   if (k>5) return -10.0;
88   if (k>0) for (;k>0;k--) n *= 2;
89   if (n > 34) return -10.0;
90   k = -k;
91   if (k>5) return -10.0;
92
93                             /*   now treat x        */
94   while (k>0) {
95     z = __ieee754_sqrt(x);
96     EMULV(z,z,u,uu,j1,j2,j3,j4,j5);
97     if (((u-x)+uu) != 0) break;
98     x = z;
99     k--;
100  }
101   if (k) return -10.0;
102
103   /* it is impossible that n == 2,  so the mantissa of x must be short  */
104
105   v.x = x;
106   if (v.i[LOW_HALF]) return -10.0;
107   k = v.i[HIGH_HALF];
108   m = k<<12;
109   l = 0;
110   while (m) {m = m<<1; l++; }
111   m = (k&0x000fffff)|0x00100000;
112   m = m>>(20-l);                       /*   m is the odd integer of x    */
113
114             /*   now check whether the length of m**n is at most 54 bits */
115
116   if  (m > tab54[n-3]) return -10.0;
117
118              /* yes, it is - now compute x**n by simple multiplications  */
119
120   u = x;
121   for (k=1;k<n;k++) u = u*x;
122   return u;
123 }