42300b0f4d9df39d008f3a446dcd5de6f8343717
[kopensolaris-gnu/glibc.git] / sysdeps / unix / sysv / linux / dl-execstack.c
1 /* Stack executability handling for GNU dynamic linker.  Linux version.
2    Copyright (C) 2003 Free Software Foundation, Inc.
3    This file is part of the GNU C Library.
4
5    The GNU C Library is free software; you can redistribute it and/or
6    modify it under the terms of the GNU Lesser General Public
7    License as published by the Free Software Foundation; either
8    version 2.1 of the License, or (at your option) any later version.
9
10    The GNU C Library is distributed in the hope that it will be useful,
11    but WITHOUT ANY WARRANTY; without even the implied warranty of
12    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
13    Lesser General Public License for more details.
14
15    You should have received a copy of the GNU Lesser General Public
16    License along with the GNU C Library; if not, write to the Free
17    Software Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA
18    02111-1307 USA.  */
19
20 #include <ldsodefs.h>
21 #include <sys/mman.h>
22 #include <errno.h>
23 #include <stdbool.h>
24 #include <stackinfo.h>
25
26 extern void *__libc_stack_end;
27
28 int
29 internal_function
30 _dl_make_stack_executable (void)
31 {
32   if (__libc_stack_end == 0)
33     /* XXX for a DT_NEEDED library that requires the change,
34        this is not initialized yet!
35     */
36     return ENOSYS;
37
38 #if _STACK_GROWS_DOWN
39   /* This gives us the highest page that needs to be changed.  */
40   uintptr_t page = (uintptr_t) __libc_stack_end & -(intptr_t) GL(dl_pagesize);
41
42   /* There is always a hole in the address space below the bottom of the
43      stack.  So when we make an mprotect call that starts below the bottom
44      of the stack, it will include the hole and fail with ENOMEM.
45
46      We start with a random guess at how deep the stack might have gotten
47      so as to have extended the GROWSDOWN mapping to lower pages.  */
48
49   size_t size = GL(dl_pagesize) * 8;
50   page = page + GL(dl_pagesize) - size;
51   while (1)
52     {
53       if (__mprotect ((void *) page, size,
54                       PROT_READ|PROT_WRITE|PROT_EXEC) == 0)
55         /* We got this chunk changed; loop to do another chunk below.  */
56         page -= size;
57       else
58         {
59           if (errno != ENOMEM)  /* Unexpected failure mode.  */
60             return errno;
61
62           if (size == GL(dl_pagesize))
63             /* We just tried to mprotect the top hole page and failed.
64                We are done.  */
65             break;
66
67           /* Our mprotect call failed because it started below the lowest
68              stack page.  Try again on just the top half of that region.  */
69           size /= 2;
70           page += size;
71         }
72     }
73
74 #elif _STACK_GROWS_UP
75
76   /* This gives us the lowest page that needs to be changed.  */
77   uintptr_t page = (uintptr_t) __libc_stack_end & -(intptr_t) GL(dl_pagesize);
78
79   /* There is always a hole in the address space above the top of the
80      stack.  So when we make an mprotect call that spans past the top
81      of the stack, it will include the hole and fail with ENOMEM.
82
83      We start with a random guess at how deep the stack might have gotten
84      so as to have extended the GROWSUP mapping to higher pages.  */
85
86   size_t size = GL(dl_pagesize) * 8;
87   while (1)
88     {
89       if (__mprotect ((void *) page, size,
90                       PROT_READ|PROT_WRITE|PROT_EXEC) == 0)
91         /* We got this chunk changed; loop to do another chunk below.  */
92         page += size;
93       else
94         {
95           if (errno != ENOMEM)  /* Unexpected failure mode.  */
96             return errno;
97
98           if (size == GL(dl_pagesize))
99             /* We just tried to mprotect the lowest hole page and failed.
100                We are done.  */
101             break;
102
103           /* Our mprotect call failed because it extended past the highest
104              stack page.  Try again on just the bottom half of that region.  */
105           size /= 2;
106         }
107     }
108
109 #else
110 # error "Define either _STACK_GROWS_DOWN or _STACK_GROWS_UP"
111 #endif
112
113   return 0;
114 }
115 rtld_hidden_def (_dl_make_stack_executable)