Cleanup lwkt threads a bit, change the exit/reap interlock.
[dragonfly.git] / sys / kern / kern_exit.c
1 /*
2  * Copyright (c) 1982, 1986, 1989, 1991, 1993
3  *      The Regents of the University of California.  All rights reserved.
4  * (c) UNIX System Laboratories, Inc.
5  * All or some portions of this file are derived from material licensed
6  * to the University of California by American Telephone and Telegraph
7  * Co. or Unix System Laboratories, Inc. and are reproduced herein with
8  * the permission of UNIX System Laboratories, Inc.
9  *
10  * Redistribution and use in source and binary forms, with or without
11  * modification, are permitted provided that the following conditions
12  * are met:
13  * 1. Redistributions of source code must retain the above copyright
14  *    notice, this list of conditions and the following disclaimer.
15  * 2. Redistributions in binary form must reproduce the above copyright
16  *    notice, this list of conditions and the following disclaimer in the
17  *    documentation and/or other materials provided with the distribution.
18  * 3. All advertising materials mentioning features or use of this software
19  *    must display the following acknowledgement:
20  *      This product includes software developed by the University of
21  *      California, Berkeley and its contributors.
22  * 4. Neither the name of the University nor the names of its contributors
23  *    may be used to endorse or promote products derived from this software
24  *    without specific prior written permission.
25  *
26  * THIS SOFTWARE IS PROVIDED BY THE REGENTS AND CONTRIBUTORS ``AS IS'' AND
27  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
28  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
29  * ARE DISCLAIMED.  IN NO EVENT SHALL THE REGENTS OR CONTRIBUTORS BE LIABLE
30  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
31  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
32  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
33  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
34  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
35  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
36  * SUCH DAMAGE.
37  *
38  *      @(#)kern_exit.c 8.7 (Berkeley) 2/12/94
39  * $FreeBSD: src/sys/kern/kern_exit.c,v 1.92.2.11 2003/01/13 22:51:16 dillon Exp $
40  * $DragonFly: src/sys/kern/kern_exit.c,v 1.11 2003/06/27 03:30:42 dillon Exp $
41  */
42
43 #include "opt_compat.h"
44 #include "opt_ktrace.h"
45
46 #include <sys/param.h>
47 #include <sys/systm.h>
48 #include <sys/sysproto.h>
49 #include <sys/kernel.h>
50 #include <sys/malloc.h>
51 #include <sys/proc.h>
52 #include <sys/pioctl.h>
53 #include <sys/tty.h>
54 #include <sys/wait.h>
55 #include <sys/vnode.h>
56 #include <sys/resourcevar.h>
57 #include <sys/signalvar.h>
58 #include <sys/ptrace.h>
59 #include <sys/acct.h>           /* for acct_process() function prototype */
60 #include <sys/filedesc.h>
61 #include <sys/shm.h>
62 #include <sys/sem.h>
63 #include <sys/aio.h>
64 #include <sys/jail.h>
65
66 #include <vm/vm.h>
67 #include <vm/vm_param.h>
68 #include <sys/lock.h>
69 #include <vm/pmap.h>
70 #include <vm/vm_map.h>
71 #include <vm/vm_zone.h>
72 #include <vm/vm_extern.h>
73 #include <sys/user.h>
74
75 /* Required to be non-static for SysVR4 emulator */
76 MALLOC_DEFINE(M_ZOMBIE, "zombie", "zombie proc status");
77
78 static MALLOC_DEFINE(M_ATEXIT, "atexit", "atexit callback");
79
80 static int wait1 __P((struct wait_args *, int));
81
82 /*
83  * callout list for things to do at exit time
84  */
85 struct exitlist {
86         exitlist_fn function;
87         TAILQ_ENTRY(exitlist) next;
88 };
89
90 TAILQ_HEAD(exit_list_head, exitlist);
91 static struct exit_list_head exit_list = TAILQ_HEAD_INITIALIZER(exit_list);
92
93 /*
94  * exit --
95  *      Death of process.
96  *
97  * SYS_EXIT_ARGS(int rval)
98  */
99 void
100 sys_exit(struct sys_exit_args *uap)
101 {
102         exit1(W_EXITCODE(uap->rval, 0));
103         /* NOTREACHED */
104 }
105
106 /*
107  * Exit: deallocate address space and other resources, change proc state
108  * to zombie, and unlink proc from allproc and parent's lists.  Save exit
109  * status and rusage for wait().  Check for child processes and orphan them.
110  */
111 void
112 exit1(int rv)
113 {
114         struct proc *p = curproc;
115         struct proc *q, *nq;
116         struct vmspace *vm;
117         struct vnode *vtmp;
118         struct exitlist *ep;
119
120         if (p->p_pid == 1) {
121                 printf("init died (signal %d, exit %d)\n",
122                     WTERMSIG(rv), WEXITSTATUS(rv));
123                 panic("Going nowhere without my init!");
124         }
125
126         aio_proc_rundown(p);
127
128         /* are we a task leader? */
129         if(p == p->p_leader) {
130                 struct kill_args killArgs;
131                 killArgs.signum = SIGKILL;
132                 q = p->p_peers;
133                 while(q) {
134                         killArgs.pid = q->p_pid;
135                         /*
136                          * The interface for kill is better
137                          * than the internal signal
138                          */
139                         kill(&killArgs);
140                         nq = q;
141                         q = q->p_peers;
142                 }
143                 while (p->p_peers) 
144                   tsleep((caddr_t)p, PWAIT, "exit1", 0);
145         } 
146
147 #ifdef PGINPROF
148         vmsizmon();
149 #endif
150         STOPEVENT(p, S_EXIT, rv);
151         wakeup(&p->p_stype);    /* Wakeup anyone in procfs' PIOCWAIT */
152
153         /* 
154          * Check if any loadable modules need anything done at process exit.
155          * e.g. SYSV IPC stuff
156          * XXX what if one of these generates an error?
157          */
158         TAILQ_FOREACH(ep, &exit_list, next) 
159                 (*ep->function)(p->p_thread);
160
161         if (p->p_flag & P_PROFIL)
162                 stopprofclock(p);
163         MALLOC(p->p_ru, struct rusage *, sizeof(struct rusage),
164                 M_ZOMBIE, M_WAITOK);
165         /*
166          * If parent is waiting for us to exit or exec,
167          * P_PPWAIT is set; we will wakeup the parent below.
168          */
169         p->p_flag &= ~(P_TRACED | P_PPWAIT);
170         p->p_flag |= P_WEXIT;
171         SIGEMPTYSET(p->p_siglist);
172         if (timevalisset(&p->p_realtimer.it_value))
173                 untimeout(realitexpire, (caddr_t)p, p->p_ithandle);
174
175         /*
176          * Reset any sigio structures pointing to us as a result of
177          * F_SETOWN with our pid.
178          */
179         funsetownlst(&p->p_sigiolst);
180
181         /*
182          * Close open files and release open-file table.
183          * This may block!
184          */
185         fdfree(p);
186
187         if(p->p_leader->p_peers) {
188                 q = p->p_leader;
189                 while(q->p_peers != p)
190                         q = q->p_peers;
191                 q->p_peers = p->p_peers;
192                 wakeup((caddr_t)p->p_leader);
193         }
194
195         /*
196          * XXX Shutdown SYSV semaphores
197          */
198         semexit(p);
199
200         /* The next two chunks should probably be moved to vmspace_exit. */
201         vm = p->p_vmspace;
202         /*
203          * Release user portion of address space.
204          * This releases references to vnodes,
205          * which could cause I/O if the file has been unlinked.
206          * Need to do this early enough that we can still sleep.
207          * Can't free the entire vmspace as the kernel stack
208          * may be mapped within that space also.
209          *
210          * Processes sharing the same vmspace may exit in one order, and
211          * get cleaned up by vmspace_exit() in a different order.  The
212          * last exiting process to reach this point releases as much of
213          * the environment as it can, and the last process cleaned up
214          * by vmspace_exit() (which decrements exitingcnt) cleans up the
215          * remainder.
216          */
217         ++vm->vm_exitingcnt;
218         if (--vm->vm_refcnt == 0) {
219                 if (vm->vm_shm)
220                         shmexit(p);
221                 pmap_remove_pages(vmspace_pmap(vm), VM_MIN_ADDRESS,
222                     VM_MAXUSER_ADDRESS);
223                 (void) vm_map_remove(&vm->vm_map, VM_MIN_ADDRESS,
224                     VM_MAXUSER_ADDRESS);
225         }
226
227         if (SESS_LEADER(p)) {
228                 register struct session *sp = p->p_session;
229
230                 if (sp->s_ttyvp) {
231                         /*
232                          * Controlling process.
233                          * Signal foreground pgrp,
234                          * drain controlling terminal
235                          * and revoke access to controlling terminal.
236                          */
237                         if (sp->s_ttyp && (sp->s_ttyp->t_session == sp)) {
238                                 if (sp->s_ttyp->t_pgrp)
239                                         pgsignal(sp->s_ttyp->t_pgrp, SIGHUP, 1);
240                                 (void) ttywait(sp->s_ttyp);
241                                 /*
242                                  * The tty could have been revoked
243                                  * if we blocked.
244                                  */
245                                 if (sp->s_ttyvp)
246                                         VOP_REVOKE(sp->s_ttyvp, REVOKEALL);
247                         }
248                         if (sp->s_ttyvp)
249                                 vrele(sp->s_ttyvp);
250                         sp->s_ttyvp = NULL;
251                         /*
252                          * s_ttyp is not zero'd; we use this to indicate
253                          * that the session once had a controlling terminal.
254                          * (for logging and informational purposes)
255                          */
256                 }
257                 sp->s_leader = NULL;
258         }
259         fixjobc(p, p->p_pgrp, 0);
260         (void)acct_process(p);
261 #ifdef KTRACE
262         /*
263          * release trace file
264          */
265         p->p_traceflag = 0;     /* don't trace the vrele() */
266         if ((vtmp = p->p_tracep) != NULL) {
267                 p->p_tracep = NULL;
268                 vrele(vtmp);
269         }
270 #endif
271         /*
272          * Release reference to text vnode
273          */
274         if ((vtmp = p->p_textvp) != NULL) {
275                 p->p_textvp = NULL;
276                 vrele(vtmp);
277         }
278
279         /*
280          * Once we set SZOMB the process can get reaped.  The wait1 code
281          * will also wait for TDF_EXITED to be set in the thread's flags,
282          * indicating that it has been completely switched out.
283          */
284
285         /*
286          * Remove proc from allproc queue and pidhash chain.
287          * Place onto zombproc.  Unlink from parent's child list.
288          */
289         LIST_REMOVE(p, p_list);
290         LIST_INSERT_HEAD(&zombproc, p, p_list);
291         p->p_stat = SZOMB;
292
293         LIST_REMOVE(p, p_hash);
294
295         q = LIST_FIRST(&p->p_children);
296         if (q)          /* only need this if any child is S_ZOMB */
297                 wakeup((caddr_t) initproc);
298         for (; q != 0; q = nq) {
299                 nq = LIST_NEXT(q, p_sibling);
300                 LIST_REMOVE(q, p_sibling);
301                 LIST_INSERT_HEAD(&initproc->p_children, q, p_sibling);
302                 q->p_pptr = initproc;
303                 q->p_sigparent = SIGCHLD;
304                 /*
305                  * Traced processes are killed
306                  * since their existence means someone is screwing up.
307                  */
308                 if (q->p_flag & P_TRACED) {
309                         q->p_flag &= ~P_TRACED;
310                         psignal(q, SIGKILL);
311                 }
312         }
313
314         /*
315          * Save exit status and final rusage info, adding in child rusage
316          * info and self times.
317          */
318         p->p_xstat = rv;
319         *p->p_ru = p->p_stats->p_ru;
320         calcru(p, &p->p_ru->ru_utime, &p->p_ru->ru_stime, NULL);
321         ruadd(p->p_ru, &p->p_stats->p_cru);
322
323         /*
324          * notify interested parties of our demise.
325          */
326         KNOTE(&p->p_klist, NOTE_EXIT);
327
328         /*
329          * Notify parent that we're gone.  If parent has the PS_NOCLDWAIT
330          * flag set, notify process 1 instead (and hope it will handle
331          * this situation).
332          */
333         if (p->p_pptr->p_procsig->ps_flag & PS_NOCLDWAIT) {
334                 struct proc *pp = p->p_pptr;
335                 proc_reparent(p, initproc);
336                 /*
337                  * If this was the last child of our parent, notify
338                  * parent, so in case he was wait(2)ing, he will
339                  * continue.
340                  */
341                 if (LIST_EMPTY(&pp->p_children))
342                         wakeup((caddr_t)pp);
343         }
344
345         if (p->p_sigparent && p->p_pptr != initproc) {
346                 psignal(p->p_pptr, p->p_sigparent);
347         } else {
348                 psignal(p->p_pptr, SIGCHLD);
349         }
350
351         wakeup((caddr_t)p->p_pptr);
352 #if defined(tahoe)
353         /* move this to cpu_exit */
354         p->p_thread->td_pcb->pcb_saveacc.faddr = (float *)NULL;
355 #endif
356         /*
357          * cpu_exit is responsible for clearing curproc, since
358          * it is heavily integrated with the thread/switching sequence.
359          *
360          * Other substructures are freed from wait().
361          */
362         if (--p->p_limit->p_refcnt == 0) {
363                 FREE(p->p_limit, M_SUBPROC);
364                 p->p_limit = NULL;
365         }
366
367         /*
368          * Finally, call machine-dependent code to release the remaining
369          * resources including address space, the kernel stack and pcb.
370          * The address space is released by "vmspace_free(p->p_vmspace)";
371          * This is machine-dependent, as we may have to change stacks
372          * or ensure that the current one isn't reallocated before we
373          * finish.  cpu_exit will end with a call to cpu_switch(), finishing
374          * our execution (pun intended).
375          */
376         cpu_proc_exit();
377 }
378
379 #ifdef COMPAT_43
380 /*
381  * owait()
382  *
383  * owait_args(int dummy)
384  */
385 int
386 owait(struct owait_args *uap)
387 {
388         struct wait_args w;
389
390         w.options = 0;
391         w.rusage = NULL;
392         w.pid = WAIT_ANY;
393         w.status = NULL;
394         return (wait1(&w, 1));
395 }
396 #endif /* COMPAT_43 */
397
398 int
399 wait4(struct wait_args *uap)
400 {
401         return (wait1(uap, 0));
402 }
403
404 /*
405  * wait1()
406  *
407  * wait_args(int pid, int *status, int options, struct rusage *rusage)
408  */
409 static int
410 wait1(struct wait_args *uap, int compat)
411 {
412         struct proc *q = curproc;
413         struct proc *p, *t;
414         int status, nfound, error;
415
416         if (uap->pid == 0)
417                 uap->pid = -q->p_pgid;
418         if (uap->options &~ (WUNTRACED|WNOHANG|WLINUXCLONE))
419                 return (EINVAL);
420 loop:
421         nfound = 0;
422         LIST_FOREACH(p, &q->p_children, p_sibling) {
423                 if (uap->pid != WAIT_ANY &&
424                     p->p_pid != uap->pid && p->p_pgid != -uap->pid)
425                         continue;
426
427                 /* This special case handles a kthread spawned by linux_clone 
428                  * (see linux_misc.c).  The linux_wait4 and linux_waitpid functions
429                  * need to be able to distinguish between waiting on a process and
430                  * waiting on a thread.  It is a thread if p_sigparent is not SIGCHLD,
431                  * and the WLINUXCLONE option signifies we want to wait for threads
432                  * and not processes.
433                  */
434                 if ((p->p_sigparent != SIGCHLD) ^ ((uap->options & WLINUXCLONE) != 0))
435                         continue;
436
437                 nfound++;
438                 if (p->p_stat == SZOMB) {
439                         /*
440                          * The process's thread may still be in the middle
441                          * of switching away, we can't rip its stack out from
442                          * under it until TDF_EXITED is set.
443                          */
444                         if ((p->p_thread->td_flags & TDF_EXITED) == 0) {
445                                 tsleep(p->p_thread, PWAIT, "reap", 0);
446                                 goto loop;
447                         }
448                         KASSERT(p->p_lock == 0, ("p_lock not 0! %p", p));
449
450                         /* charge childs scheduling cpu usage to parent */
451                         if (curproc->p_pid != 1) {
452                                 curproc->p_estcpu =
453                                     ESTCPULIM(curproc->p_estcpu + p->p_estcpu);
454                         }
455
456                         q->p_retval[0] = p->p_pid;
457 #ifdef COMPAT_43
458                         if (compat)
459                                 q->p_retval[1] = p->p_xstat;
460                         else
461 #endif
462                         if (uap->status) {
463                                 status = p->p_xstat;    /* convert to int */
464                                 if ((error = copyout((caddr_t)&status,
465                                     (caddr_t)uap->status, sizeof(status))))
466                                         return (error);
467                         }
468                         if (uap->rusage && (error = copyout((caddr_t)p->p_ru,
469                             (caddr_t)uap->rusage, sizeof (struct rusage))))
470                                 return (error);
471                         /*
472                          * If we got the child via a ptrace 'attach',
473                          * we need to give it back to the old parent.
474                          */
475                         if (p->p_oppid && (t = pfind(p->p_oppid))) {
476                                 p->p_oppid = 0;
477                                 proc_reparent(p, t);
478                                 psignal(t, SIGCHLD);
479                                 wakeup((caddr_t)t);
480                                 return (0);
481                         }
482                         p->p_xstat = 0;
483                         ruadd(&q->p_stats->p_cru, p->p_ru);
484                         FREE(p->p_ru, M_ZOMBIE);
485                         p->p_ru = NULL;
486
487                         /*
488                          * Decrement the count of procs running with this uid.
489                          */
490                         (void)chgproccnt(p->p_ucred->cr_ruidinfo, -1, 0);
491
492                         /*
493                          * Free up credentials.
494                          */
495                         crfree(p->p_ucred);
496                         p->p_ucred = NULL;
497
498                         /*
499                          * Remove unused arguments
500                          */
501                         if (p->p_args && --p->p_args->ar_ref == 0)
502                                 FREE(p->p_args, M_PARGS);
503
504                         /*
505                          * Finally finished with old proc entry.
506                          * Unlink it from its process group and free it.
507                          */
508                         leavepgrp(p);
509                         LIST_REMOVE(p, p_list); /* off zombproc */
510                         LIST_REMOVE(p, p_sibling);
511
512                         if (--p->p_procsig->ps_refcnt == 0) {
513                                 if (p->p_sigacts != &p->p_addr->u_sigacts)
514                                         FREE(p->p_sigacts, M_SUBPROC);
515                                 FREE(p->p_procsig, M_SUBPROC);
516                                 p->p_procsig = NULL;
517                         }
518
519                         vm_waitproc(p);
520                         zfree(proc_zone, p);
521                         nprocs--;
522                         return (0);
523                 }
524                 if (p->p_stat == SSTOP && (p->p_flag & P_WAITED) == 0 &&
525                     (p->p_flag & P_TRACED || uap->options & WUNTRACED)) {
526                         p->p_flag |= P_WAITED;
527                         q->p_retval[0] = p->p_pid;
528 #ifdef COMPAT_43
529                         if (compat) {
530                                 q->p_retval[1] = W_STOPCODE(p->p_xstat);
531                                 error = 0;
532                         } else
533 #endif
534                         if (uap->status) {
535                                 status = W_STOPCODE(p->p_xstat);
536                                 error = copyout((caddr_t)&status,
537                                         (caddr_t)uap->status, sizeof(status));
538                         } else
539                                 error = 0;
540                         return (error);
541                 }
542         }
543         if (nfound == 0)
544                 return (ECHILD);
545         if (uap->options & WNOHANG) {
546                 q->p_retval[0] = 0;
547                 return (0);
548         }
549         if ((error = tsleep((caddr_t)q, PWAIT | PCATCH, "wait", 0)))
550                 return (error);
551         goto loop;
552 }
553
554 /*
555  * make process 'parent' the new parent of process 'child'.
556  */
557 void
558 proc_reparent(child, parent)
559         register struct proc *child;
560         register struct proc *parent;
561 {
562
563         if (child->p_pptr == parent)
564                 return;
565
566         LIST_REMOVE(child, p_sibling);
567         LIST_INSERT_HEAD(&parent->p_children, child, p_sibling);
568         child->p_pptr = parent;
569 }
570
571 /*
572  * The next two functions are to handle adding/deleting items on the
573  * exit callout list
574  * 
575  * at_exit():
576  * Take the arguments given and put them onto the exit callout list,
577  * However first make sure that it's not already there.
578  * returns 0 on success.
579  */
580
581 int
582 at_exit(function)
583         exitlist_fn function;
584 {
585         struct exitlist *ep;
586
587 #ifdef INVARIANTS
588         /* Be noisy if the programmer has lost track of things */
589         if (rm_at_exit(function)) 
590                 printf("WARNING: exit callout entry (%p) already present\n",
591                     function);
592 #endif
593         ep = malloc(sizeof(*ep), M_ATEXIT, M_NOWAIT);
594         if (ep == NULL)
595                 return (ENOMEM);
596         ep->function = function;
597         TAILQ_INSERT_TAIL(&exit_list, ep, next);
598         return (0);
599 }
600
601 /*
602  * Scan the exit callout list for the given item and remove it.
603  * Returns the number of items removed (0 or 1)
604  */
605 int
606 rm_at_exit(function)
607         exitlist_fn function;
608 {
609         struct exitlist *ep;
610
611         TAILQ_FOREACH(ep, &exit_list, next) {
612                 if (ep->function == function) {
613                         TAILQ_REMOVE(&exit_list, ep, next);
614                         free(ep, M_ATEXIT);
615                         return(1);
616                 }
617         }       
618         return (0);
619 }
620
621 void check_sigacts (void)
622 {
623         struct proc *p = curproc;
624         struct sigacts *pss;
625         int s;
626
627         if (p->p_procsig->ps_refcnt == 1 &&
628             p->p_sigacts != &p->p_addr->u_sigacts) {
629                 pss = p->p_sigacts;
630                 s = splhigh();
631                 p->p_addr->u_sigacts = *pss;
632                 p->p_sigacts = &p->p_addr->u_sigacts;
633                 splx(s);
634                 FREE(pss, M_SUBPROC);
635         }
636 }
637