Include errno.h.
[kopensolaris-gnu/glibc.git] / stdlib / strtol.c
1 /* Copyright (C) 1991, 1992, 1994, 1995 Free Software Foundation, Inc.
2
3 This file is part of the GNU C Library.
4
5 The GNU C Library is free software; you can redistribute it and/or
6 modify it under the terms of the GNU Library General Public License as
7 published by the Free Software Foundation; either version 2 of the
8 License, or (at your option) any later version.
9
10 The GNU C Library is distributed in the hope that it will be useful,
11 but WITHOUT ANY WARRANTY; without even the implied warranty of
12 MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
13 Library General Public License for more details.
14
15 You should have received a copy of the GNU Library General Public
16 License along with the GNU C Library; see the file COPYING.LIB.  If
17 not, write to the Free Software Foundation, Inc., 675 Mass Ave,
18 Cambridge, MA 02139, USA.  */
19
20 #include <ctype.h>
21 #include <limits.h>
22 #include <stddef.h>
23 #include <stdlib.h>
24 #include <errno.h>
25
26 /* Nonzero if we are defining `strtoul' or `strtouq', operating on unsigned
27    integers.  */
28 #ifndef UNSIGNED
29 #define UNSIGNED        0
30 #endif
31
32 /* If QUAD is defined, we are defining `strtoq' or `strtouq',
33    operating on `long long int's.  */
34 #ifdef QUAD
35 #if UNSIGNED
36 #define strtoul         strtouq
37 #else
38 #define strtol          strtoq
39 #endif
40 #define LONG            long long
41 #undef  LONG_MIN
42 #define LONG_MIN        LONG_LONG_MIN
43 #undef  LONG_MAX
44 #define LONG_MAX        LONG_LONG_MAX
45 #undef  ULONG_MAX
46 #define ULONG_MAX       maxquad
47 /* XXX Work around gcc bug with using this constant.  */
48 static unsigned long long int maxquad = ULONG_LONG_MAX;
49 #else
50 #define LONG    long
51 #endif
52
53 /* Convert NPTR to an `unsigned long int' or `long int' in base BASE.
54    If BASE is 0 the base is determined by the presence of a leading
55    zero, indicating octal or a leading "0x" or "0X", indicating hexadecimal.
56    If BASE is < 2 or > 36, it is reset to 10.
57    If ENDPTR is not NULL, a pointer to the character after the last
58    one converted is stored in *ENDPTR.  */
59 #if     UNSIGNED
60 unsigned LONG int
61 #define strtol  strtoul
62 #else
63 LONG int
64 #endif
65 strtol (nptr, endptr, base)
66      const char *nptr;
67      char **endptr;
68      int base;
69 {
70   int negative;
71   register unsigned LONG int cutoff;
72   register unsigned int cutlim;
73   register unsigned LONG int i;
74   register const char *s;
75   register unsigned char c;
76   const char *save;
77   int overflow;
78
79   if (base < 0 || base == 1 || base > 36)
80     base = 10;
81
82   s = nptr;
83
84   /* Skip white space.  */
85   while (isspace (*s))
86     ++s;
87   if (*s == '\0')
88     goto noconv;
89
90   /* Check for a sign.  */
91   if (*s == '-')
92     {
93       negative = 1;
94       ++s;
95     }
96   else if (*s == '+')
97     {
98       negative = 0;
99       ++s;
100     }
101   else
102     negative = 0;
103
104   if (base == 16 && s[0] == '0' && toupper (s[1]) == 'X')
105     s += 2;
106
107   /* If BASE is zero, figure it out ourselves.  */
108   if (base == 0)
109     if (*s == '0')
110       {
111         if (toupper (s[1]) == 'X')
112           {
113             s += 2;
114             base = 16;
115           }
116         else
117           base = 8;
118       }
119     else
120       base = 10;
121
122   /* Save the pointer so we can check later if anything happened.  */
123   save = s;
124
125   cutoff = ULONG_MAX / (unsigned LONG int) base;
126   cutlim = ULONG_MAX % (unsigned LONG int) base;
127
128   overflow = 0;
129   i = 0;
130   for (c = *s; c != '\0'; c = *++s)
131     {
132       if (isdigit (c))
133         c -= '0';
134       else if (isalpha (c))
135         c = toupper (c) - 'A' + 10;
136       else
137         break;
138       if (c >= base)
139         break;
140       /* Check for overflow.  */
141       if (i > cutoff || (i == cutoff && c > cutlim))
142         overflow = 1;
143       else
144         {
145           i *= (unsigned LONG int) base;
146           i += c;
147         }
148     }
149
150   /* Check if anything actually happened.  */
151   if (s == save)
152     goto noconv;
153
154   /* Store in ENDPTR the address of one character
155      past the last character we converted.  */
156   if (endptr != NULL)
157     *endptr = (char *) s;
158
159 #if     !UNSIGNED
160   /* Check for a value that is within the range of
161      `unsigned LONG int', but outside the range of `LONG int'.  */
162   if (i > (negative ?
163            -(unsigned LONG int) LONG_MIN : (unsigned LONG int) LONG_MAX))
164     overflow = 1;
165 #endif
166
167   if (overflow)
168     {
169       errno = ERANGE;
170 #if     UNSIGNED
171       return ULONG_MAX;
172 #else
173       return negative ? LONG_MIN : LONG_MAX;
174 #endif
175     }
176
177   /* Return the result of the appropriate sign.  */
178   return (negative ? -i : i);
179
180 noconv:
181   /* There was no number to convert.  */
182   if (endptr != NULL)
183     *endptr = (char *) nptr;
184   return 0L;
185 }