Major TLS cleanups.
[dragonfly.git] / lib / libc_r / uthread / uthread_init.c
1 /*
2  * Copyright (c) 1995-1998 John Birrell <jb@cimlogic.com.au>
3  * All rights reserved.
4  *
5  * Redistribution and use in source and binary forms, with or without
6  * modification, are permitted provided that the following conditions
7  * are met:
8  * 1. Redistributions of source code must retain the above copyright
9  *    notice, this list of conditions and the following disclaimer.
10  * 2. Redistributions in binary form must reproduce the above copyright
11  *    notice, this list of conditions and the following disclaimer in the
12  *    documentation and/or other materials provided with the distribution.
13  * 3. All advertising materials mentioning features or use of this software
14  *    must display the following acknowledgement:
15  *      This product includes software developed by John Birrell.
16  * 4. Neither the name of the author nor the names of any co-contributors
17  *    may be used to endorse or promote products derived from this software
18  *    without specific prior written permission.
19  *
20  * THIS SOFTWARE IS PROVIDED BY JOHN BIRRELL AND CONTRIBUTORS ``AS IS'' AND
21  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
22  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
23  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
24  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
25  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
26  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
27  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
28  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
29  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
30  * SUCH DAMAGE.
31  *
32  * $FreeBSD: src/lib/libc_r/uthread/uthread_init.c,v 1.23.2.11 2003/02/24 23:27:32 das Exp $
33  * $DragonFly: src/lib/libc_r/uthread/uthread_init.c,v 1.9 2005/05/11 19:47:00 dillon Exp $
34  */
35
36 /* Allocate space for global thread variables here: */
37 #define GLOBAL_PTHREAD_PRIVATE
38
39 #include <errno.h>
40 #include <stdlib.h>
41 #include <string.h>
42 #include <fcntl.h>
43 #include <paths.h>
44 #include <poll.h>
45 #include <unistd.h>
46 #include <sys/ioctl.h>
47 #include <sys/sysctl.h>
48 #include <sys/time.h>
49 #include <sys/ttycom.h>
50 #include <sys/param.h>
51 #include <sys/user.h>
52 #include <sys/mman.h>
53 #include <machine/reg.h>
54 #include <pthread.h>
55 #include "pthread_private.h"
56
57 /*
58  * These are needed when linking statically.  All references within
59  * libgcc (and in the future libc) to these routines are weak, but
60  * if they are not (strongly) referenced by the application or other
61  * libraries, then the actual functions will not be loaded.
62  */
63 static void *thread_references[] = {
64         &_pthread_once,
65         &_pthread_key_create,
66         &_pthread_key_delete,
67         &_pthread_getspecific,
68         &_pthread_setspecific,
69         &_pthread_mutex_init,
70         &_pthread_mutex_destroy,
71         &_pthread_mutex_lock,
72         &_pthread_mutex_trylock,
73         &_pthread_mutex_unlock,
74         &_pthread_cond_init,
75         &_pthread_cond_destroy,
76         &_pthread_cond_wait,
77         &_pthread_cond_timedwait,
78         &_pthread_cond_signal,
79         &_pthread_cond_broadcast
80 };
81
82 #ifdef GCC_2_8_MADE_THREAD_AWARE
83 typedef void *** (*dynamic_handler_allocator)();
84 extern void __set_dynamic_handler_allocator(dynamic_handler_allocator);
85
86 static pthread_key_t except_head_key;
87
88 typedef struct {
89         void **__dynamic_handler_chain;
90         void *top_elt[2];
91 } except_struct;
92
93 static void ***dynamic_allocator_handler_fn()
94 {
95         except_struct *dh = (except_struct *)pthread_getspecific(except_head_key);
96
97         if(dh == NULL) {
98                 dh = (except_struct *)malloc( sizeof(except_struct) );
99                 memset(dh, '\0', sizeof(except_struct));
100                 dh->__dynamic_handler_chain= dh->top_elt;
101                 pthread_setspecific(except_head_key, (void *)dh);
102         }
103         return &dh->__dynamic_handler_chain;
104 }
105 #endif /* GCC_2_8_MADE_THREAD_AWARE */
106
107 /*
108  * Threaded process initialization
109  */
110
111 void    _thread_init(void) __attribute__((constructor));
112
113 void
114 _thread_init(void)
115 {
116         int             fd;
117         int             flags;
118         int             i;
119         size_t          len;
120         int             mib[2];
121         struct clockinfo clockinfo;
122         struct sigaction act;
123
124         /* Check if this function has already been called: */
125         if (_thread_initial)
126                 /* Only initialise the threaded application once. */
127                 return;
128
129         /*
130          * Make gcc quiescent about thread_references not being
131          * referenced:
132          */
133         if (thread_references[0] == NULL)
134                 PANIC("Mandatory pthread_* functions not loaded");
135
136         /*
137          * Check for the special case of this process running as
138          * or in place of init as pid = 1:
139          */
140         if (getpid() == 1) {
141                 /*
142                  * Setup a new session for this process which is
143                  * assumed to be running as root.
144                  */
145                 if (setsid() == -1)
146                         PANIC("Can't set session ID");
147                 if (revoke(_PATH_CONSOLE) != 0)
148                         PANIC("Can't revoke console");
149                 if ((fd = __sys_open(_PATH_CONSOLE, O_RDWR)) < 0)
150                         PANIC("Can't open console");
151                 if (setlogin("root") == -1)
152                         PANIC("Can't set login to root");
153                 if (__sys_ioctl(fd, TIOCSCTTY, (char *) NULL) == -1)
154                         PANIC("Can't set controlling terminal");
155                 if (__sys_dup2(fd, 0) == -1 ||
156                     __sys_dup2(fd, 1) == -1 ||
157                     __sys_dup2(fd, 2) == -1)
158                         PANIC("Can't dup2");
159         }
160
161         /* Get the standard I/O flags before messing with them : */
162         for (i = 0; i < 3; i++) {
163                 if (((_pthread_stdio_flags[i] =
164                     __sys_fcntl(i, F_GETFL, NULL)) == -1) &&
165                     (errno != EBADF))
166                         PANIC("Cannot get stdio flags");
167         }
168
169         /*
170          * Create a pipe that is written to by the signal handler to prevent
171          * signals being missed in calls to _select:
172          */
173         _thread_mksigpipe();
174
175         /* Allocate and initialize the ready queue: */
176         if (_pq_alloc(&_readyq, PTHREAD_MIN_PRIORITY, PTHREAD_LAST_PRIORITY) != 0) {
177                 /* Abort this application: */
178                 PANIC("Cannot allocate priority ready queue.");
179         }
180         /* Allocate memory for the thread structure of the initial thread: */
181         else if ((_thread_initial = (pthread_t) malloc(sizeof(struct pthread))) == NULL) {
182                 /*
183                  * Insufficient memory to initialise this application, so
184                  * abort:
185                  */
186                 PANIC("Cannot allocate memory for initial thread");
187         }
188         /* Allocate memory for the scheduler stack: */
189         else if ((_thread_kern_sched_stack = malloc(SCHED_STACK_SIZE)) == NULL)
190                 PANIC("Failed to allocate stack for scheduler");
191         else {
192                 /* Zero the global kernel thread structure: */
193                 memset(&_thread_kern_thread, 0, sizeof(struct pthread));
194                 _thread_kern_thread.flags = PTHREAD_FLAGS_PRIVATE;
195                 _thread_kern_thread.tcb = _libc_allocate_tls();
196                 memset(_thread_initial, 0, sizeof(struct pthread));
197
198                 /* Initialize the waiting and work queues: */
199                 TAILQ_INIT(&_waitingq);
200                 TAILQ_INIT(&_workq);
201
202                 /* Initialize the scheduling switch hook routine: */
203                 _sched_switch_hook = NULL;
204
205                 /* Give this thread default attributes: */
206                 memcpy((void *) &_thread_initial->attr, &pthread_attr_default,
207                     sizeof(struct pthread_attr));
208
209                 /* Initialize the thread stack cache: */
210                 SLIST_INIT(&_stackq);
211
212                 /* Find the stack top */
213                 mib[0] = CTL_KERN;
214                 mib[1] = KERN_USRSTACK;
215                 len = sizeof (int);
216                 if (sysctl(mib, 2, &_usrstack, &len, NULL, 0) == -1)
217                         _usrstack = (void *)USRSTACK;
218                 _next_stack = _usrstack - PTHREAD_STACK_INITIAL -
219                     PTHREAD_STACK_DEFAULT - (2 * PTHREAD_STACK_GUARD);
220                 /*
221                  * Create a red zone below the main stack.  All other stacks are
222                  * constrained to a maximum size by the paramters passed to
223                  * mmap(), but this stack is only limited by resource limits, so
224                  * this stack needs an explicitly mapped red zone to protect the
225                  * thread stack that is just beyond.
226                  */
227                 if (mmap(_usrstack - PTHREAD_STACK_INITIAL -
228                     PTHREAD_STACK_GUARD, PTHREAD_STACK_GUARD, 0, MAP_ANON,
229                     -1, 0) == MAP_FAILED)
230                         PANIC("Cannot allocate red zone for initial thread");
231
232                 _thread_initial->tcb = tls_get_tcb();
233                 /* Set the main thread stack pointer. */
234                 _thread_initial->stack = _usrstack - PTHREAD_STACK_INITIAL;
235
236                 /* Set the stack attributes: */
237                 _thread_initial->attr.stackaddr_attr = _thread_initial->stack;
238                 _thread_initial->attr.stacksize_attr = PTHREAD_STACK_INITIAL;
239
240                 /* Setup the context for the scheduler: */
241                 _setjmp(_thread_kern_sched_jb);
242                 SET_STACK_JB(_thread_kern_sched_jb, _thread_kern_sched_stack +
243                     SCHED_STACK_SIZE - sizeof(double));
244                 SET_RETURN_ADDR_JB(_thread_kern_sched_jb, _thread_kern_scheduler);
245
246                 /*
247                  * Write a magic value to the thread structure
248                  * to help identify valid ones:
249                  */
250                 _thread_initial->magic = PTHREAD_MAGIC;
251
252                 /* Set the initial cancel state */
253                 _thread_initial->cancelflags = PTHREAD_CANCEL_ENABLE |
254                     PTHREAD_CANCEL_DEFERRED;
255
256                 /* Default the priority of the initial thread: */
257                 _thread_initial->base_priority = PTHREAD_DEFAULT_PRIORITY;
258                 _thread_initial->active_priority = PTHREAD_DEFAULT_PRIORITY;
259                 _thread_initial->inherited_priority = 0;
260
261                 /* Initialise the state of the initial thread: */
262                 _thread_initial->state = PS_RUNNING;
263
264                 /* Set the name of the thread: */
265                 _thread_initial->name = strdup("_thread_initial");
266
267                 /* Initialize joiner to NULL (no joiner): */
268                 _thread_initial->joiner = NULL;
269
270                 /* Initialize the owned mutex queue and count: */
271                 TAILQ_INIT(&(_thread_initial->mutexq));
272                 _thread_initial->priority_mutex_count = 0;
273
274                 /* Initialize the global scheduling time: */
275                 _sched_ticks = 0;
276                 gettimeofday((struct timeval *) &_sched_tod, NULL);
277
278                 /* Initialize last active: */
279                 _thread_initial->last_active = (long) _sched_ticks;
280
281                 /* Initialize the initial context: */
282                 _thread_initial->curframe = NULL;
283
284                 /* Initialise the rest of the fields: */
285                 _thread_initial->poll_data.nfds = 0;
286                 _thread_initial->poll_data.fds = NULL;
287                 _thread_initial->sig_defer_count = 0;
288                 _thread_initial->yield_on_sig_undefer = 0;
289                 _thread_initial->specific_data = NULL;
290                 _thread_initial->cleanup = NULL;
291                 _thread_initial->flags = 0;
292                 TAILQ_INIT(&_thread_list);
293                 TAILQ_INSERT_HEAD(&_thread_list, _thread_initial, tle);
294                 _set_curthread(_thread_initial);
295
296                 /* Initialise the global signal action structure: */
297                 sigfillset(&act.sa_mask);
298                 act.sa_handler = (void (*) ()) _thread_sig_handler;
299                 act.sa_flags = SA_SIGINFO | SA_RESTART;
300
301                 /* Clear pending signals for the process: */
302                 sigemptyset(&_process_sigpending);
303
304                 /* Clear the signal queue: */
305                 memset(_thread_sigq, 0, sizeof(_thread_sigq));
306
307                 /* Enter a loop to get the existing signal status: */
308                 for (i = 1; i < NSIG; i++) {
309                         /* Check for signals which cannot be trapped: */
310                         if (i == SIGKILL || i == SIGSTOP) {
311                         }
312
313                         /* Get the signal handler details: */
314                         else if (__sys_sigaction(i, NULL,
315                             &_thread_sigact[i - 1]) != 0) {
316                                 /*
317                                  * Abort this process if signal
318                                  * initialisation fails:
319                                  */
320                                 PANIC("Cannot read signal handler info");
321                         }
322
323                         /* Initialize the SIG_DFL dummy handler count. */
324                         _thread_dfl_count[i] = 0;
325                 }
326
327                 /*
328                  * Install the signal handler for the most important
329                  * signals that the user-thread kernel needs. Actually
330                  * SIGINFO isn't really needed, but it is nice to have.
331                  */
332                 if (__sys_sigaction(_SCHED_SIGNAL, &act, NULL) != 0 ||
333                     __sys_sigaction(SIGINFO,       &act, NULL) != 0 ||
334                     __sys_sigaction(SIGCHLD,       &act, NULL) != 0) {
335                         /*
336                          * Abort this process if signal initialisation fails:
337                          */
338                         PANIC("Cannot initialise signal handler");
339                 }
340                 _thread_sigact[_SCHED_SIGNAL - 1].sa_flags = SA_SIGINFO;
341                 _thread_sigact[SIGINFO - 1].sa_flags = SA_SIGINFO;
342                 _thread_sigact[SIGCHLD - 1].sa_flags = SA_SIGINFO;
343
344                 /* Get the process signal mask: */
345                 __sys_sigprocmask(SIG_SETMASK, NULL, &_process_sigmask);
346
347                 /* Get the kernel clockrate: */
348                 mib[0] = CTL_KERN;
349                 mib[1] = KERN_CLOCKRATE;
350                 len = sizeof (struct clockinfo);
351                 if (sysctl(mib, 2, &clockinfo, &len, NULL, 0) == 0)
352                         _clock_res_usec = clockinfo.tick > CLOCK_RES_USEC_MIN ?
353                             clockinfo.tick : CLOCK_RES_USEC_MIN;
354
355                 /* Get the table size: */
356                 if ((_thread_dtablesize = getdtablesize()) < 0) {
357                         /*
358                          * Cannot get the system defined table size, so abort
359                          * this process.
360                          */
361                         PANIC("Cannot get dtablesize");
362                 }
363                 /* Allocate memory for the file descriptor table: */
364                 if ((_thread_fd_table = (struct fd_table_entry **) malloc(sizeof(struct fd_table_entry *) * _thread_dtablesize)) == NULL) {
365                         /* Avoid accesses to file descriptor table on exit: */
366                         _thread_dtablesize = 0;
367
368                         /*
369                          * Cannot allocate memory for the file descriptor
370                          * table, so abort this process.
371                          */
372                         PANIC("Cannot allocate memory for file descriptor table");
373                 }
374                 /* Allocate memory for the pollfd table: */
375                 if ((_thread_pfd_table = (struct pollfd *) malloc(sizeof(struct pollfd) * _thread_dtablesize)) == NULL) {
376                         /*
377                          * Cannot allocate memory for the file descriptor
378                          * table, so abort this process.
379                          */
380                         PANIC("Cannot allocate memory for pollfd table");
381                 } else {
382                         /*
383                          * Enter a loop to initialise the file descriptor
384                          * table:
385                          */
386                         for (i = 0; i < _thread_dtablesize; i++) {
387                                 /* Initialise the file descriptor table: */
388                                 _thread_fd_table[i] = NULL;
389                         }
390
391                         /* Initialize stdio file descriptor table entries: */
392                         for (i = 0; i < 3; i++) {
393                                 if ((_thread_fd_table_init(i) != 0) &&
394                                     (errno != EBADF))
395                                         PANIC("Cannot initialize stdio file "
396                                             "descriptor table entry");
397                         }
398                 }
399         }
400
401 #ifdef GCC_2_8_MADE_THREAD_AWARE
402         /* Create the thread-specific data for the exception linked list. */
403         if(pthread_key_create(&except_head_key, NULL) != 0)
404                 PANIC("Failed to create thread specific execption head");
405
406         /* Setup the gcc exception handler per thread. */
407         __set_dynamic_handler_allocator( dynamic_allocator_handler_fn );
408 #endif /* GCC_2_8_MADE_THREAD_AWARE */
409
410         /* Initialise the garbage collector mutex and condition variable. */
411         if (pthread_mutex_init(&_gc_mutex,NULL) != 0 ||
412             pthread_cond_init(&_gc_cond,NULL) != 0)
413                 PANIC("Failed to initialise garbage collector mutex or condvar");
414 }
415
416 int _thread_autoinit_dummy_decl = 0;
417
418
419 void
420 _thread_mksigpipe(void)
421 {
422         int fd, flags, i;
423
424         /*
425          * Create a pipe that is written to by the signal handler to
426          * prevent signals being missed in calls to
427          * __sys_select: 
428          */
429         if (__sys_pipe(_thread_kern_pipe) != 0) {
430                 /* Cannot create pipe, so abort: */
431                 PANIC("Cannot create pthread kernel pipe.");
432         }
433         /*
434          * Make sure the pipe does not get in the way of stdio:
435          */
436         for (i = 0; i < 2; i++) {
437                 if (_thread_kern_pipe[i] < 3) {
438                         fd = __sys_fcntl(_thread_kern_pipe[i], F_DUPFD, 3);
439                         if (fd == -1)
440                             PANIC("Cannot create kernel pipe");
441                         __sys_close(_thread_kern_pipe[i]);
442                         _thread_kern_pipe[i] = fd;
443                 }
444         }
445         /* Get the flags for the read pipe: */
446         if ((flags = __sys_fcntl(_thread_kern_pipe[0], F_GETFL, NULL)) == -1)
447                 abort();
448         /* Make the read pipe non-blocking: */
449         if (__sys_fcntl(_thread_kern_pipe[0], F_SETFL, flags | O_NONBLOCK) == -1)
450                 abort();
451         /* Get the flags for the write pipe: */
452         if ((flags = __sys_fcntl(_thread_kern_pipe[1], F_GETFL, NULL)) == -1)
453                 abort();
454         /* Make the write pipe non-blocking: */
455         if (__sys_fcntl(_thread_kern_pipe[1], F_SETFL, flags | O_NONBLOCK) == -1)
456                 abort();
457 }