40a95c6f917b0cca133d2684e6d2455f6a575524
[kopensolaris-gnu/glibc.git] / nptl / pthread_create.c
1 /* Copyright (C) 2002, 2003 Free Software Foundation, Inc.
2    This file is part of the GNU C Library.
3    Contributed by Ulrich Drepper <drepper@redhat.com>, 2002.
4
5    The GNU C Library is free software; you can redistribute it and/or
6    modify it under the terms of the GNU Lesser General Public
7    License as published by the Free Software Foundation; either
8    version 2.1 of the License, or (at your option) any later version.
9
10    The GNU C Library is distributed in the hope that it will be useful,
11    but WITHOUT ANY WARRANTY; without even the implied warranty of
12    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
13    Lesser General Public License for more details.
14
15    You should have received a copy of the GNU Lesser General Public
16    License along with the GNU C Library; if not, write to the Free
17    Software Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA
18    02111-1307 USA.  */
19
20 #include <errno.h>
21 #include <stdbool.h>
22 #include <stdlib.h>
23 #include <string.h>
24 #include "pthreadP.h"
25 #include <hp-timing.h>
26 #include <ldsodefs.h>
27 #include <atomic.h>
28 #include <libc-internal.h>
29
30 #include <shlib-compat.h>
31
32
33 /* Local function to start thread and handle cleanup.  */
34 static int start_thread (void *arg);
35 /* Similar version used when debugging.  */
36 static int start_thread_debug (void *arg);
37
38
39 /* Nozero if debugging mode is enabled.  */
40 int __pthread_debug;
41
42 /* Globally enabled events.  */
43 static td_thr_events_t __nptl_threads_events;
44
45 /* Pointer to descriptor with the last event.  */
46 static struct pthread *__nptl_last_event;
47
48 /* Number of threads running.  */
49 unsigned int __nptl_nthreads = 1;
50
51
52 /* Code to allocate and deallocate a stack.  */
53 #define DEFINE_DEALLOC
54 #include "allocatestack.c"
55
56 /* Code to create the thread.  */
57 #include "createthread.c"
58
59
60 /* Table of the key information.  */
61 struct pthread_key_struct __pthread_keys[PTHREAD_KEYS_MAX]
62   __attribute__ ((section (".bss")));
63 hidden_def (__pthread_keys)
64
65 /* This is for libthread_db only.  */
66 const int __pthread_pthread_sizeof_descr = sizeof (struct pthread);
67
68 struct pthread *
69 internal_function
70 __find_in_stack_list (pd)
71      struct pthread *pd;
72 {
73   list_t *entry;
74   struct pthread *result = NULL;
75
76   lll_lock (stack_cache_lock);
77
78   list_for_each (entry, &stack_used)
79     {
80       struct pthread *curp;
81
82       curp = list_entry (entry, struct pthread, header.data.list);
83       if (curp == pd)
84         {
85           result = curp;
86           break;
87         }
88     }
89
90   if (result == NULL)
91     list_for_each (entry, &__stack_user)
92       {
93         struct pthread *curp;
94
95         curp = list_entry (entry, struct pthread, header.data.list);
96         if (curp == pd)
97           {
98             result = curp;
99             break;
100           }
101       }
102
103   lll_unlock (stack_cache_lock);
104
105   return result;
106 }
107
108
109 /* Deallocate POSIX thread-local-storage.  */
110 static void
111 internal_function
112 deallocate_tsd (struct pthread *pd)
113 {
114   /* Maybe no data was ever allocated.  This happens often so we have
115      a flag for this.  */
116   if (pd->specific_used)
117     {
118       size_t round;
119       bool found_nonzero;
120
121       for (round = 0, found_nonzero = true;
122            found_nonzero && round < PTHREAD_DESTRUCTOR_ITERATIONS;
123            ++round)
124         {
125           size_t cnt;
126           size_t idx;
127
128           /* So far no new nonzero data entry.  */
129           found_nonzero = false;
130
131           for (cnt = idx = 0; cnt < PTHREAD_KEY_1STLEVEL_SIZE; ++cnt)
132             if (pd->specific[cnt] != NULL)
133               {
134                 size_t inner;
135
136                 for (inner = 0; inner < PTHREAD_KEY_2NDLEVEL_SIZE;
137                      ++inner, ++idx)
138                   {
139                     void *data = pd->specific[cnt][inner].data;
140
141                     if (data != NULL
142                         /* Make sure the data corresponds to a valid
143                            key.  This test fails if the key was
144                            deallocated and also if it was
145                            re-allocated.  It is the user's
146                            responsibility to free the memory in this
147                            case.  */
148                         && (pd->specific[cnt][inner].seq
149                             == __pthread_keys[idx].seq)
150                         /* It is not necessary to register a destructor
151                            function.  */
152                         && __pthread_keys[idx].destr != NULL)
153                       {
154                         pd->specific[cnt][inner].data = NULL;
155                         __pthread_keys[idx].destr (data);
156                         found_nonzero = true;
157                       }
158                   }
159
160                 if (cnt != 0)
161                   {
162                     /* The first block is allocated as part of the thread
163                        descriptor.  */
164                     free (pd->specific[cnt]);
165                     pd->specific[cnt] = NULL;
166                   }
167                 else
168                   /* Clear the memory of the first block for reuse.  */
169                   memset (&pd->specific_1stblock, '\0',
170                           sizeof (pd->specific_1stblock));
171               }
172             else
173               idx += PTHREAD_KEY_1STLEVEL_SIZE;
174         }
175
176       pd->specific_used = false;
177     }
178 }
179
180
181 /* Deallocate a thread's stack after optionally making sure the thread
182    descriptor is still valid.  */
183 void
184 internal_function
185 __free_tcb (struct pthread *pd)
186 {
187   /* The thread is exiting now.  */
188   if (__builtin_expect (atomic_bit_test_set (&pd->cancelhandling,
189                                              TERMINATED_BIT) == 0, 1))
190     {
191       /* Remove the descriptor from the list.  */
192       if (DEBUGGING_P && __find_in_stack_list (pd) == NULL)
193         /* Something is really wrong.  The descriptor for a still
194            running thread is gone.  */
195         abort ();
196
197       /* Run the destructor for the thread-local data.  */
198       deallocate_tsd (pd);
199
200       /* Queue the stack memory block for reuse and exit the process.  The
201          kernel will signal via writing to the address returned by
202          QUEUE-STACK when the stack is available.  */
203       __deallocate_stack (pd);
204     }
205 }
206
207
208 static int
209 start_thread (void *arg)
210 {
211   /* One more thread.  */
212   atomic_increment (&__nptl_nthreads);
213
214   struct pthread *pd = (struct pthread *) arg;
215
216 #if HP_TIMING_AVAIL
217   /* Remember the time when the thread was started.  */
218   hp_timing_t now;
219   HP_TIMING_NOW (now);
220   THREAD_SETMEM (pd, cpuclock_offset, now);
221 #endif
222
223   /* This is where the try/finally block should be created.  For
224      compilers without that support we do use setjmp.  */
225   if (setjmp (pd->cancelbuf) == 0)
226     {
227       /* Run the code the user provided.  */
228       pd->result = pd->start_routine (pd->arg);
229     }
230
231   /* Clean up any state libc stored in thread-local variables.  */
232   __libc_thread_freeres ();
233
234   /* If this is the last thread we terminate the process now.  We
235      do not notify the debugger, it might just irritate it if there
236      is no thread left.  */
237   if (__builtin_expect (atomic_decrement_and_test (&__nptl_nthreads), 0))
238     /* This was the last thread.  */
239     exit (0);
240
241   /* Report the death of the thread if this is wanted.  */
242   if (__builtin_expect (pd->report_events, 0))
243     {
244       /* See whether TD_DEATH is in any of the mask.  */
245       const int idx = __td_eventword (TD_DEATH);
246       const uint32_t mask = __td_eventmask (TD_DEATH);
247
248       if ((mask & (__nptl_threads_events.event_bits[idx]
249                    | pd->eventbuf.eventmask.event_bits[idx])) != 0)
250         {
251           /* Yep, we have to signal the death.  Add the descriptor to
252              the list but only if it is not already on it.  */
253           if (pd->nextevent == NULL)
254             {
255               pd->eventbuf.eventnum = TD_DEATH;
256               pd->eventbuf.eventdata = pd;
257
258               do
259                 pd->nextevent = __nptl_last_event;
260               while (atomic_compare_and_exchange_acq (&__nptl_last_event, pd,
261                                                       pd->nextevent) != 0);
262             }
263
264           /* Now call the function to signal the event.  */
265           __nptl_death_event ();
266         }
267     }
268
269
270   /* The thread is exiting now.  */
271   atomic_bit_set (&pd->cancelhandling, EXITING_BIT);
272
273   /* If the thread is detached free the TCB.  */
274   if (IS_DETACHED (pd))
275     /* Free the TCB.  */
276     __free_tcb (pd);
277
278   /* We cannot call '_exit' here.  '_exit' will terminate the process.
279
280      The 'exit' implementation in the kernel will signal when the
281      process is really dead since 'clone' got passed the CLONE_CLEARTID
282      flag.  The 'tid' field in the TCB will be set to zero.
283
284      The exit code is zero since in case all threads exit by calling
285      'pthread_exit' the exit status must be 0 (zero).  */
286   __exit_thread_inline (0);
287
288   /* NOTREACHED */
289   return 0;
290 }
291
292
293 /* Just list start_thread but we do some more things needed for a run
294    with a debugger attached.  */
295 static int
296 start_thread_debug (void *arg)
297 {
298   struct pthread *pd = (struct pthread *) arg;
299
300   /* Get the lock the parent locked to force synchronization.  */
301   lll_lock (pd->lock);
302   /* And give it up right away.  */
303   lll_unlock (pd->lock);
304
305   /* Now do the actual startup.  */
306   return start_thread (arg);
307 }
308
309
310 /* Default thread attributes for the case when the user does not
311    provide any.  */
312 static const struct pthread_attr default_attr =
313   {
314     /* Just some value > 0 which gets rounded to the nearest page size.  */
315     .guardsize = 1,
316   };
317
318
319 int
320 __pthread_create_2_1 (newthread, attr, start_routine, arg)
321      pthread_t *newthread;
322      const pthread_attr_t *attr;
323      void *(*start_routine) (void *);
324      void *arg;
325 {
326   STACK_VARIABLES;
327   const struct pthread_attr *iattr;
328   struct pthread *pd;
329   int err;
330
331   iattr = (struct pthread_attr *) attr;
332   if (iattr == NULL)
333     /* Is this the best idea?  On NUMA machines this could mean
334        accessing far-away memory.  */
335     iattr = &default_attr;
336
337   err = ALLOCATE_STACK (iattr, &pd);
338   if (__builtin_expect (err != 0, 0))
339     /* Something went wrong.  Maybe a parameter of the attributes is
340        invalid or we could not allocate memory.  */
341     return err;
342
343
344   /* Initialize the TCB.  All initializations with zero should be
345      performed in 'get_cached_stack'.  This way we avoid doing this if
346      the stack freshly allocated with 'mmap'.  */
347
348   /* Reference to the TCB itself.  */
349   pd->header.data.self = pd;
350
351 #ifdef TLS_TCB_AT_TP
352   /* Self-reference.  */
353   pd->header.data.tcb = pd;
354 #endif
355
356   /* Store the address of the start routine and the parameter.  Since
357      we do not start the function directly the stillborn thread will
358      get the information from its thread descriptor.  */
359   pd->start_routine = start_routine;
360   pd->arg = arg;
361
362   /* Copy the thread attribute flags.  */
363   pd->flags = iattr->flags;
364
365   /* Initialize the field for the ID of the thread which is waiting
366      for us.  This is a self-reference in case the thread is created
367      detached.  */
368   pd->joinid = iattr->flags & ATTR_FLAG_DETACHSTATE ? pd : NULL;
369
370   /* The debug events are inherited from the parent.  */
371   pd->eventbuf = THREAD_SELF->eventbuf;
372
373
374   /* Determine scheduling parameters for the thread.
375      XXX How to determine whether scheduling handling is needed?  */
376   if (0 && attr != NULL)
377     {
378       if (iattr->flags & ATTR_FLAG_NOTINHERITSCHED)
379         {
380           /* Use the scheduling parameters the user provided.  */
381           pd->schedpolicy = iattr->schedpolicy;
382           memcpy (&pd->schedparam, &iattr->schedparam,
383                   sizeof (struct sched_param));
384         }
385       else
386         {
387           /* Just store the scheduling attributes of the parent.  */
388           pd->schedpolicy = __sched_getscheduler (0);
389           __sched_getparam (0, &pd->schedparam);
390         }
391     }
392
393   /* Pass the descriptor to the caller.  */
394   *newthread = (pthread_t) pd;
395
396   /* Start the thread.  */
397   err = create_thread (pd, STACK_VARIABLES_ARGS);
398   if (err != 0)
399     {
400       /* Something went wrong.  Free the resources.  */
401       __deallocate_stack (pd);
402       return err;
403     }
404
405   return 0;
406 }
407 versioned_symbol (libpthread, __pthread_create_2_1, pthread_create, GLIBC_2_1);
408
409
410 #if SHLIB_COMPAT(libpthread, GLIBC_2_0, GLIBC_2_1)
411 int
412 __pthread_create_2_0 (newthread, attr, start_routine, arg)
413      pthread_t *newthread;
414      const pthread_attr_t *attr;
415      void *(*start_routine) (void *);
416      void *arg;
417 {
418   /* The ATTR attribute is not really of type `pthread_attr_t *'.  It has
419      the old size and access to the new members might crash the program.
420      We convert the struct now.  */
421   struct pthread_attr new_attr;
422
423   if (attr != NULL)
424     {
425       struct pthread_attr *iattr = (struct pthread_attr *) attr;
426       size_t ps = __getpagesize ();
427
428       /* Copy values from the user-provided attributes.  */
429       new_attr.schedparam = iattr->schedparam;
430       new_attr.schedpolicy = iattr->schedpolicy;
431       new_attr.flags = iattr->flags;
432
433       /* Fill in default values for the fields not present in the old
434          implementation.  */
435       new_attr.guardsize = ps;
436       new_attr.stackaddr = NULL;
437       new_attr.stacksize = 0;
438
439       /* We will pass this value on to the real implementation.  */
440       attr = (pthread_attr_t *) &new_attr;
441     }
442
443   return __pthread_create_2_1 (newthread, attr, start_routine, arg);
444 }
445 compat_symbol (libpthread, __pthread_create_2_0, pthread_create,
446                GLIBC_2_0);
447 #endif