Change variable pointed to by h_errnop in all error cases (PR 244).
[kopensolaris-gnu/glibc.git] / resolv / nss_dns / dns-host.c
1 /* Copyright (C) 1996, 1997 Free Software Foundation, Inc.
2    This file is part of the GNU C Library.
3    Extended from original form by Ulrich Drepper <drepper@cygnus.com>, 1996.
4
5    The GNU C Library is free software; you can redistribute it and/or
6    modify it under the terms of the GNU Library General Public License as
7    published by the Free Software Foundation; either version 2 of the
8    License, or (at your option) any later version.
9
10    The GNU C Library is distributed in the hope that it will be useful,
11    but WITHOUT ANY WARRANTY; without even the implied warranty of
12    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
13    Library General Public License for more details.
14
15    You should have received a copy of the GNU Library General Public
16    License along with the GNU C Library; see the file COPYING.LIB.  If not,
17    write to the Free Software Foundation, Inc., 59 Temple Place - Suite 330,
18    Boston, MA 02111-1307, USA.  */
19
20 /* Parts of this file are plain copies of the file `gethtnamadr.c' from
21    the bind package and it has the following copyright.  */
22
23 /*
24  * ++Copyright++ 1985, 1988, 1993
25  * -
26  * Copyright (c) 1985, 1988, 1993
27  *    The Regents of the University of California.  All rights reserved.
28  *
29  * Redistribution and use in source and binary forms, with or without
30  * modification, are permitted provided that the following conditions
31  * are met:
32  * 1. Redistributions of source code must retain the above copyright
33  *    notice, this list of conditions and the following disclaimer.
34  * 2. Redistributions in binary form must reproduce the above copyright
35  *    notice, this list of conditions and the following disclaimer in the
36  *    documentation and/or other materials provided with the distribution.
37  * 3. All advertising materials mentioning features or use of this software
38  *    must display the following acknowledgement:
39  *      This product includes software developed by the University of
40  *      California, Berkeley and its contributors.
41  * 4. Neither the name of the University nor the names of its contributors
42  *    may be used to endorse or promote products derived from this software
43  *    without specific prior written permission.
44  *
45  * THIS SOFTWARE IS PROVIDED BY THE REGENTS AND CONTRIBUTORS ``AS IS'' AND
46  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
47  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
48  * ARE DISCLAIMED.  IN NO EVENT SHALL THE REGENTS OR CONTRIBUTORS BE LIABLE
49  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
50  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
51  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
52  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
53  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
54  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
55  * SUCH DAMAGE.
56  * -
57  * Portions Copyright (c) 1993 by Digital Equipment Corporation.
58  *
59  * Permission to use, copy, modify, and distribute this software for any
60  * purpose with or without fee is hereby granted, provided that the above
61  * copyright notice and this permission notice appear in all copies, and that
62  * the name of Digital Equipment Corporation not be used in advertising or
63  * publicity pertaining to distribution of the document or software without
64  * specific, written prior permission.
65  *
66  * THE SOFTWARE IS PROVIDED "AS IS" AND DIGITAL EQUIPMENT CORP. DISCLAIMS ALL
67  * WARRANTIES WITH REGARD TO THIS SOFTWARE, INCLUDING ALL IMPLIED WARRANTIES
68  * OF MERCHANTABILITY AND FITNESS.   IN NO EVENT SHALL DIGITAL EQUIPMENT
69  * CORPORATION BE LIABLE FOR ANY SPECIAL, DIRECT, INDIRECT, OR CONSEQUENTIAL
70  * DAMAGES OR ANY DAMAGES WHATSOEVER RESULTING FROM LOSS OF USE, DATA OR
71  * PROFITS, WHETHER IN AN ACTION OF CONTRACT, NEGLIGENCE OR OTHER TORTIOUS
72  * ACTION, ARISING OUT OF OR IN CONNECTION WITH THE USE OR PERFORMANCE OF THIS
73  * SOFTWARE.
74  * -
75  * --Copyright--
76  */
77
78 #include <ctype.h>
79 #include <errno.h>
80 #include <netdb.h>
81 #include <stdio.h>
82 #include <stdlib.h>
83 #include <stddef.h>
84 #include <string.h>
85 #include <sys/syslog.h>
86
87 #include "nsswitch.h"
88
89 /* Get implementation for some internal functions.  */
90 #include "../resolv/mapv4v6addr.h"
91 #include "../resolv/mapv4v6hostent.h"
92
93 /* Maximum number of aliases we allow.  */
94 #define MAX_NR_ALIASES  48
95 #define MAX_NR_ADDRS    48
96
97 #if PACKETSZ > 1024
98 # define MAXPACKET      PACKETSZ
99 #else
100 # define MAXPACKET      1024
101 #endif
102 /* As per RFC 1034 and 1035 a host name cannot exceed 255 octets in length.  */
103 #ifdef MAXHOSTNAMELEN
104 # undef MAXHOSTNAMELEN
105 #endif
106 #define MAXHOSTNAMELEN 256
107
108 static const char AskedForGot[] = "\
109 gethostby*.getanswer: asked for \"%s\", got \"%s\"";
110
111
112 /* We need this time later.  */
113 typedef union querybuf
114 {
115   HEADER hdr;
116   u_char buf[MAXPACKET];
117 } querybuf;
118
119
120 static enum nss_status getanswer_r (const querybuf *answer, int anslen,
121                                     const char *qname, int qtype,
122                                     struct hostent *result, char *buffer,
123                                     size_t buflen, int *h_errnop);
124
125 enum nss_status
126 _nss_dns_gethostbyname2_r (const char *name, int af, struct hostent *result,
127                            char *buffer, size_t buflen, int *h_errnop)
128 {
129   querybuf host_buffer;
130   int size, type, n;
131   const char *cp;
132
133   switch (af) {
134   case AF_INET:
135     size = INADDRSZ;
136     type = T_A;
137     break;
138   case AF_INET6:
139     size = IN6ADDRSZ;
140     type = T_AAAA;
141     break;
142   default:
143     *h_errnop = NETDB_INTERNAL;
144     __set_errno (EAFNOSUPPORT);
145     return NSS_STATUS_UNAVAIL;
146   }
147
148   result->h_addrtype = af;
149   result->h_length = size;
150
151   /*
152    * if there aren't any dots, it could be a user-level alias.
153    * this is also done in res_query() since we are not the only
154    * function that looks up host names.
155    */
156   if (strchr (name, '.') == NULL && (cp = __hostalias (name)) != NULL)
157     name = cp;
158
159   n = res_search (name, C_IN, type, host_buffer.buf, sizeof (host_buffer.buf));
160   if (n < 0)
161     {
162       *h_errnop = h_errno;
163       return errno == ECONNREFUSED ? NSS_STATUS_UNAVAIL : NSS_STATUS_NOTFOUND;
164     }
165
166   return getanswer_r (&host_buffer, n, name, type, result, buffer, buflen,
167                       h_errnop);
168 }
169
170
171 enum nss_status
172 _nss_dns_gethostbyname_r (const char *name, struct hostent *result,
173                           char *buffer, size_t buflen, int *h_errnop)
174 {
175   enum nss_status status = NSS_STATUS_NOTFOUND;
176
177   if (_res.options & RES_USE_INET6)
178     status = _nss_dns_gethostbyname2_r (name, AF_INET6, result, buffer,
179                                         buflen, h_errnop);
180   if (status == NSS_STATUS_NOTFOUND)
181     status = _nss_dns_gethostbyname2_r (name, AF_INET, result, buffer,
182                                         buflen, h_errnop);
183
184   return status;
185 }
186
187
188 enum nss_status
189 _nss_dns_gethostbyaddr_r (const char *addr, int len, int af,
190                           struct hostent *result, char *buffer, size_t buflen,
191                           int *h_errnop)
192 {
193   static const u_char mapped[] = { 0,0, 0,0, 0,0, 0,0, 0,0, 0xff,0xff };
194   static const u_char tunnelled[] = { 0,0, 0,0, 0,0, 0,0, 0,0, 0,0 };
195   const u_char *uaddr = (const u_char *)addr;
196   struct host_data
197   {
198     char *aliases[MAX_NR_ALIASES];
199     unsigned char host_addr[16];        /* IPv4 or IPv6 */
200     char *h_addr_ptrs[MAX_NR_ADDRS + 1];
201     char linebuffer[0];
202   } *host_data = (struct host_data *) buffer;
203   querybuf host_buffer;
204   char qbuf[MAXDNAME+1], *qp;
205   int size, n, status;
206
207   if (af == AF_INET6 && len == IN6ADDRSZ &&
208       (memcmp (uaddr, mapped, sizeof mapped) == 0
209        || memcmp (uaddr, tunnelled, sizeof tunnelled) == 0))
210     {
211       /* Unmap. */
212       addr += sizeof mapped;
213       uaddr += sizeof mapped;
214       af = AF_INET;
215       len = INADDRSZ;
216     }
217
218   switch (af)
219     {
220     case AF_INET:
221       size = INADDRSZ;
222       break;
223     case AF_INET6:
224       size = IN6ADDRSZ;
225       break;
226     default:
227       __set_errno (EAFNOSUPPORT);
228       *h_errnop = NETDB_INTERNAL;
229       return NSS_STATUS_UNAVAIL;
230     }
231   if (size != len)
232     {
233       __set_errno (EAFNOSUPPORT);
234       *h_errnop = NETDB_INTERNAL;
235       return NSS_STATUS_UNAVAIL;
236     }
237
238   switch (af)
239     {
240     case AF_INET:
241       sprintf (qbuf, "%u.%u.%u.%u.in-addr.arpa", (uaddr[3] & 0xff),
242                (uaddr[2] & 0xff), (uaddr[1] & 0xff), (uaddr[0] & 0xff));
243       break;
244     case AF_INET6:
245       qp = qbuf;
246       for (n = IN6ADDRSZ - 1; n >= 0; n--)
247         qp += sprintf (qp, "%x.%x.", uaddr[n] & 0xf, (uaddr[n] >> 4) & 0xf);
248       strcpy(qp, "ip6.int");
249       break;
250     default:
251       /* Cannot happen.  */
252     }
253
254   n = res_query (qbuf, C_IN, T_PTR, (u_char *)host_buffer.buf,
255                  sizeof host_buffer);
256   if (n < 0)
257     {
258       *h_errnop = h_errno;
259       return errno == ECONNREFUSED ? NSS_STATUS_UNAVAIL : NSS_STATUS_NOTFOUND;
260     }
261
262   status = getanswer_r (&host_buffer, n, qbuf, T_PTR, result, buffer, buflen,
263                         h_errnop);
264   if (status != NSS_STATUS_SUCCESS)
265     {
266       *h_errnop = h_errno;
267       return status;
268     }
269
270 #ifdef SUNSECURITY
271   This is not implemented because it is not possible to use the current
272   source from bind in a multi-threaded program.
273 #endif
274
275   result->h_addrtype = af;
276   result->h_length = len;
277   memcpy (host_data->host_addr, addr, len);
278   host_data->h_addr_ptrs[0] = (char *) host_data->host_addr;
279   host_data->h_addr_ptrs[1] = NULL;
280   if (af == AF_INET && (_res.options & RES_USE_INET6))
281     {
282       map_v4v6_address ((char *) host_data->host_addr,
283                         (char *) host_data->host_addr);
284       result->h_addrtype = AF_INET6;
285       result->h_length = IN6ADDRSZ;
286     }
287   *h_errnop = NETDB_SUCCESS;
288   return NSS_STATUS_SUCCESS;
289 }
290
291
292 static enum nss_status
293 getanswer_r (const querybuf *answer, int anslen, const char *qname, int qtype,
294              struct hostent *result, char *buffer, size_t buflen,
295              int *h_errnop)
296 {
297   struct host_data
298   {
299     char *aliases[MAX_NR_ALIASES];
300     unsigned char host_addr[16];        /* IPv4 or IPv6 */
301     char *h_addr_ptrs[MAX_NR_ADDRS + 1];
302     char linebuffer[0];
303   } *host_data = (struct host_data *) buffer;
304   int linebuflen = buflen - offsetof (struct host_data, linebuffer);
305   register const HEADER *hp;
306   const u_char *end_of_message, *cp;
307   int n, ancount, qdcount;
308   int haveanswer, had_error;
309   char *bp, **ap, **hap;
310   char tbuf[MAXDNAME];
311   const char *tname;
312   int (*name_ok) __P ((const char *));
313
314   tname = qname;
315   result->h_name = NULL;
316   end_of_message = answer->buf + anslen;
317   switch (qtype)
318     {
319     case T_A:
320     case T_AAAA:
321       name_ok = res_hnok;
322       break;
323     case T_PTR:
324       name_ok = res_dnok;
325       break;
326     default:
327       return NSS_STATUS_UNAVAIL;  /* XXX should be abort(); */
328     }
329
330   /*
331    * find first satisfactory answer
332    */
333   hp = &answer->hdr;
334   bp = host_data->linebuffer;
335   ancount = ntohs (hp->ancount);
336   qdcount = ntohs (hp->qdcount);
337   cp = answer->buf + HFIXEDSZ;
338   if (qdcount != 1)
339     {
340       *h_errnop = NO_RECOVERY;
341       return NSS_STATUS_UNAVAIL;
342     }
343
344   n = dn_expand (answer->buf, end_of_message, cp, bp, linebuflen);
345   if (n < 0 || (*name_ok) (bp) == 0)
346     {
347       *h_errnop = NO_RECOVERY;
348       return NSS_STATUS_UNAVAIL;
349     }
350   cp += n + QFIXEDSZ;
351
352   if (qtype == T_A || qtype == T_AAAA)
353     {
354       /* res_send() has already verified that the query name is the
355        * same as the one we sent; this just gets the expanded name
356        * (i.e., with the succeeding search-domain tacked on).
357        */
358       n = strlen (bp) + 1;             /* for the \0 */
359       if (n >= MAXHOSTNAMELEN)
360         {
361           __set_h_errno (NO_RECOVERY);
362           return NSS_STATUS_TRYAGAIN;
363         }
364       result->h_name = bp;
365       bp += n;
366       linebuflen -= n;
367       /* The qname can be abbreviated, but h_name is now absolute. */
368       qname = result->h_name;
369     }
370
371   ap = host_data->aliases;
372   *ap = NULL;
373   result->h_aliases = host_data->aliases;
374   hap = host_data->h_addr_ptrs;
375   *hap = NULL;
376   result->h_addr_list = host_data->h_addr_ptrs;
377   haveanswer = 0;
378   had_error = 0;
379
380   while (ancount-- > 0 && cp < end_of_message && had_error == 0)
381     {
382       int type, class;
383
384       n = dn_expand (answer->buf, end_of_message, cp, bp, linebuflen);
385       if (n < 0 || (*name_ok) (bp) == 0)
386         {
387           ++had_error;
388           continue;
389         }
390       cp += n;                          /* name */
391       type = _getshort (cp);
392       cp += INT16SZ;                    /* type */
393       class = _getshort(cp);
394       cp += INT16SZ + INT32SZ;          /* class, TTL */
395       n = _getshort(cp);
396       cp += INT16SZ;                    /* len */
397       if (class != C_IN)
398         {
399           /* XXX - debug? syslog? */
400           cp += n;
401           continue;                     /* XXX - had_error++ ? */
402         }
403
404       if ((qtype ==T_A || qtype == T_AAAA) && type == T_CNAME)
405         {
406           if (ap >= &host_data->aliases[MAX_NR_ALIASES - 1])
407             continue;
408           n = dn_expand (answer->buf, end_of_message, cp, tbuf, sizeof tbuf);
409           if (n < 0 || (*name_ok) (tbuf) == 0)
410             {
411               ++had_error;
412               continue;
413             }
414           cp += n;
415           /* Store alias.  */
416           *ap++ = bp;
417           n = strlen (bp) + 1;          /* For the \0.  */
418           if (n >= MAXHOSTNAMELEN)
419             {
420               ++had_error;
421               continue;
422             }
423           bp += n;
424           linebuflen -= n;
425           /* Get canonical name.  */
426           n = strlen (tbuf) + 1;        /* For the \0.  */
427           if ((size_t) n > buflen || n >= MAXHOSTNAMELEN)
428             {
429               ++had_error;
430               continue;
431             }
432           strcpy (bp, tbuf);            /* Cannot overflow.  */
433           result->h_name = bp;
434           bp += n;
435           linebuflen -= n;
436           continue;
437         }
438
439       if (qtype == T_PTR && type == T_CNAME)
440         {
441           n = dn_expand (answer->buf, end_of_message, cp, tbuf, sizeof tbuf);
442           if (n < 0 || res_hnok (tbuf) == 0)
443             {
444               ++had_error;
445               continue;
446             }
447           cp += n;
448           /* Get canonical name. */
449           n = strlen (tbuf) + 1;   /* For the \0.  */
450           if ((size_t) n > buflen || n >= MAXHOSTNAMELEN)
451             {
452               ++had_error;
453               continue;
454             }
455           strcpy (bp, tbuf);            /* Cannot overflow.  */
456           tname = bp;
457           bp += n;
458           linebuflen -= n;
459           continue;
460         }
461       if (type != qtype)
462         {
463           syslog (LOG_NOTICE | LOG_AUTH,
464                "gethostby*.getanswer: asked for \"%s %s %s\", got type \"%s\"",
465                   qname, p_class (C_IN), p_type (qtype), p_type (type));
466           cp += n;
467           continue;                     /* XXX - had_error++ ? */
468         }
469
470       switch (type)
471         {
472         case T_PTR:
473           if (strcasecmp (tname, bp) != 0)
474             {
475               syslog (LOG_NOTICE | LOG_AUTH, AskedForGot, qname, bp);
476               cp += n;
477               continue;                 /* XXX - had_error++ ? */
478             }
479           n = dn_expand (answer->buf, end_of_message, cp, bp, linebuflen);
480           if (n < 0 || res_hnok (bp) == 0)
481             {
482               ++had_error;
483               break;
484             }
485 #if MULTI_PTRS_ARE_ALIASES
486           cp += n;
487           if (haveanswer == 0)
488             result->h_name = bp;
489           else if (ap < &host_data->aliases[MAXALIASES-1])
490             *ap++ = bp;
491           else
492             n = -1;
493           if (n != -1)
494             {
495               n = strlen (bp) + 1;      /* for the \0 */
496               if (n >= MAXHOSTNAMELEN)
497                 {
498                   ++had_error;
499                   break;
500                 }
501               bp += n;
502               linebuflen -= n;
503             }
504           break;
505 #else
506           result->h_name = bp;
507           if (_res.options & RES_USE_INET6)
508             {
509               n = strlen (bp) + 1;      /* for the \0 */
510               if (n >= MAXHOSTNAMELEN)
511                 {
512                   ++had_error;
513                   break;
514                 }
515               bp += n;
516               linebuflen -= n;
517               map_v4v6_hostent (result, &bp, &linebuflen);
518             }
519           *h_errnop = NETDB_SUCCESS;
520           return NSS_STATUS_SUCCESS;
521 #endif
522         case T_A:
523         case T_AAAA:
524           if (strcasecmp (result->h_name, bp) != 0)
525             {
526               syslog (LOG_NOTICE | LOG_AUTH, AskedForGot, result->h_name, bp);
527               cp += n;
528               continue;                 /* XXX - had_error++ ? */
529             }
530           if (n != result->h_length)
531             {
532               cp += n;
533               continue;
534             }
535           if (!haveanswer)
536             {
537               register int nn;
538
539               result->h_name = bp;
540               nn = strlen (bp) + 1;     /* for the \0 */
541               bp += nn;
542               linebuflen -= nn;
543             }
544
545           bp += sizeof (align) - ((u_long) bp % sizeof (align));
546
547           if (n >= linebuflen)
548             {
549               ++had_error;
550               continue;
551             }
552           if (hap >= &host_data->h_addr_ptrs[MAX_NR_ADDRS-1])
553             {
554               cp += n;
555               continue;
556             }
557           memcpy (*hap++ = bp, cp, n);
558           bp += n;
559           cp += n;
560           linebuflen -= n;
561           break;
562         default:
563           abort ();
564         }
565       if (had_error == 0)
566         ++haveanswer;
567     }
568
569   if (haveanswer > 0)
570     {
571       *ap = NULL;
572       *hap = NULL;
573 #if defined(RESOLVSORT)
574       /*
575        * Note: we sort even if host can take only one address
576        * in its return structures - should give it the "best"
577        * address in that case, not some random one
578        */
579       if (_res.nsort && haveanswer > 1 && qtype == T_A)
580         addrsort (host_data->h_addr_ptrs, haveanswer);
581 #endif /*RESOLVSORT*/
582
583       if (result->h_name == NULL)
584         {
585           n = strlen (qname) + 1;       /* For the \0.  */
586           if (n > linebuflen || n >= MAXHOSTNAMELEN)
587             goto no_recovery;
588           strcpy (bp, qname);           /* Cannot overflow.  */
589           result->h_name = bp;
590           bp += n;
591           linebuflen -= n;
592         }
593
594       if (_res.options & RES_USE_INET6)
595         map_v4v6_hostent (result, &bp, &linebuflen);
596       *h_errnop = NETDB_SUCCESS;
597       return NSS_STATUS_SUCCESS;
598     }
599  no_recovery:
600   *h_errnop = NO_RECOVERY;
601   return NSS_STATUS_TRYAGAIN;
602 }