MPSAFE TTY - Fix deadlock in reporting of probe errors.
[dragonfly.git] / sys / kern / subr_prf.c
1 /*-
2  * Copyright (c) 1986, 1988, 1991, 1993
3  *      The Regents of the University of California.  All rights reserved.
4  * (c) UNIX System Laboratories, Inc.
5  * All or some portions of this file are derived from material licensed
6  * to the University of California by American Telephone and Telegraph
7  * Co. or Unix System Laboratories, Inc. and are reproduced herein with
8  * the permission of UNIX System Laboratories, Inc.
9  *
10  * Redistribution and use in source and binary forms, with or without
11  * modification, are permitted provided that the following conditions
12  * are met:
13  * 1. Redistributions of source code must retain the above copyright
14  *    notice, this list of conditions and the following disclaimer.
15  * 2. Redistributions in binary form must reproduce the above copyright
16  *    notice, this list of conditions and the following disclaimer in the
17  *    documentation and/or other materials provided with the distribution.
18  * 3. All advertising materials mentioning features or use of this software
19  *    must display the following acknowledgement:
20  *      This product includes software developed by the University of
21  *      California, Berkeley and its contributors.
22  * 4. Neither the name of the University nor the names of its contributors
23  *    may be used to endorse or promote products derived from this software
24  *    without specific prior written permission.
25  *
26  * THIS SOFTWARE IS PROVIDED BY THE REGENTS AND CONTRIBUTORS ``AS IS'' AND
27  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
28  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
29  * ARE DISCLAIMED.  IN NO EVENT SHALL THE REGENTS OR CONTRIBUTORS BE LIABLE
30  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
31  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
32  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
33  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
34  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
35  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
36  * SUCH DAMAGE.
37  *
38  *      @(#)subr_prf.c  8.3 (Berkeley) 1/21/94
39  * $FreeBSD: src/sys/kern/subr_prf.c,v 1.61.2.5 2002/08/31 18:22:08 dwmalone Exp $
40  * $DragonFly: src/sys/kern/subr_prf.c,v 1.21 2008/07/17 23:56:23 dillon Exp $
41  */
42
43 #include "opt_ddb.h"
44
45 #include <sys/param.h>
46 #include <sys/systm.h>
47 #include <sys/kernel.h>
48 #include <sys/msgbuf.h>
49 #include <sys/malloc.h>
50 #include <sys/proc.h>
51 #include <sys/priv.h>
52 #include <sys/tty.h>
53 #include <sys/tprintf.h>
54 #include <sys/stdint.h>
55 #include <sys/syslog.h>
56 #include <sys/cons.h>
57 #include <sys/uio.h>
58 #include <sys/sysctl.h>
59 #include <sys/lock.h>
60 #include <sys/ctype.h>
61
62 #include <sys/thread2.h>
63 #include <sys/spinlock2.h>
64
65 #ifdef DDB
66 #include <ddb/ddb.h>
67 #endif
68
69 /*
70  * Note that stdarg.h and the ANSI style va_start macro is used for both
71  * ANSI and traditional C compilers.  We use the __ machine version to stay
72  * within the kernel header file set.
73  */
74 #include <machine/stdarg.h>
75
76 #define TOCONS  0x01
77 #define TOTTY   0x02
78 #define TOLOG   0x04
79
80 /* Max number conversion buffer length: a u_quad_t in base 2, plus NUL byte. */
81 #define MAXNBUF (sizeof(intmax_t) * NBBY + 1)
82
83 struct putchar_arg {
84         int     flags;
85         int     pri;
86         struct  tty *tty;
87 };
88
89 struct snprintf_arg {
90         char    *str;
91         size_t  remain;
92 };
93
94 extern  int log_open;
95
96 struct  tty *constty;                   /* pointer to console "window" tty */
97
98 static void  msglogchar(int c, int pri);
99 static void  msgaddchar(int c, void *dummy);
100 static void  kputchar (int ch, void *arg);
101 static char *ksprintn (char *nbuf, uintmax_t num, int base, int *lenp,
102                        int upper);
103 static void  snprintf_func (int ch, void *arg);
104
105 static int consintr = 1;                /* Ok to handle console interrupts? */
106 static int msgbufmapped;                /* Set when safe to use msgbuf */
107 static struct spinlock cons_spin = SPINLOCK_INITIALIZER(cons_spin);
108
109 int msgbuftrigger;
110
111 static int      log_console_output = 1;
112 TUNABLE_INT("kern.log_console_output", &log_console_output);
113 SYSCTL_INT(_kern, OID_AUTO, log_console_output, CTLFLAG_RW,
114     &log_console_output, 0, "");
115
116 static int unprivileged_read_msgbuf = 1;
117 SYSCTL_INT(_security, OID_AUTO, unprivileged_read_msgbuf, CTLFLAG_RW,
118     &unprivileged_read_msgbuf, 0,
119     "Unprivileged processes may read the kernel message buffer");
120
121 /*
122  * Warn that a system table is full.
123  */
124 void
125 tablefull(const char *tab)
126 {
127
128         log(LOG_ERR, "%s: table is full\n", tab);
129 }
130
131 /*
132  * Uprintf prints to the controlling terminal for the current process.
133  */
134 int
135 uprintf(const char *fmt, ...)
136 {
137         struct proc *p = curproc;
138         __va_list ap;
139         struct putchar_arg pca;
140         int retval = 0;
141
142         if (p && p->p_flag & P_CONTROLT &&
143             p->p_session->s_ttyvp) {
144                 __va_start(ap, fmt);
145                 pca.tty = p->p_session->s_ttyp;
146                 pca.flags = TOTTY;
147
148                 retval = kvcprintf(fmt, kputchar, &pca, 10, ap);
149                 __va_end(ap);
150         }
151         return (retval);
152 }
153
154 tpr_t
155 tprintf_open(struct proc *p)
156 {
157
158         if ((p->p_flag & P_CONTROLT) && p->p_session->s_ttyvp) {
159                 sess_hold(p->p_session);
160                 return ((tpr_t) p->p_session);
161         }
162         return ((tpr_t) NULL);
163 }
164
165 void
166 tprintf_close(tpr_t sess)
167 {
168         if (sess)
169                 sess_rele((struct session *) sess);
170 }
171
172 /*
173  * tprintf prints on the controlling terminal associated
174  * with the given session.
175  */
176 int
177 tprintf(tpr_t tpr, const char *fmt, ...)
178 {
179         struct session *sess = (struct session *)tpr;
180         struct tty *tp = NULL;
181         int flags = TOLOG;
182         __va_list ap;
183         struct putchar_arg pca;
184         int retval;
185
186         if (sess && sess->s_ttyvp && ttycheckoutq(sess->s_ttyp, 0)) {
187                 flags |= TOTTY;
188                 tp = sess->s_ttyp;
189         }
190         __va_start(ap, fmt);
191         pca.tty = tp;
192         pca.flags = flags;
193         pca.pri = LOG_INFO;
194         retval = kvcprintf(fmt, kputchar, &pca, 10, ap);
195         __va_end(ap);
196         msgbuftrigger = 1;
197         return (retval);
198 }
199
200 /*
201  * Ttyprintf displays a message on a tty; it should be used only by
202  * the tty driver, or anything that knows the underlying tty will not
203  * be revoke(2)'d away.  Other callers should use tprintf.
204  */
205 int
206 ttyprintf(struct tty *tp, const char *fmt, ...)
207 {
208         __va_list ap;
209         struct putchar_arg pca;
210         int retval;
211
212         __va_start(ap, fmt);
213         pca.tty = tp;
214         pca.flags = TOTTY;
215         retval = kvcprintf(fmt, kputchar, &pca, 10, ap);
216         __va_end(ap);
217         return (retval);
218 }
219
220 /*
221  * Log writes to the log buffer, and guarantees not to sleep (so can be
222  * called by interrupt routines).  If there is no process reading the
223  * log yet, it writes to the console also.
224  */
225 int
226 log(int level, const char *fmt, ...)
227 {
228         __va_list ap;
229         int retval;
230         struct putchar_arg pca;
231
232         pca.tty = NULL;
233         pca.pri = level;
234         pca.flags = log_open ? TOLOG : TOCONS;
235
236         __va_start(ap, fmt);
237         retval = kvcprintf(fmt, kputchar, &pca, 10, ap);
238         __va_end(ap);
239
240         msgbuftrigger = 1;
241         return (retval);
242 }
243
244 #define CONSCHUNK 128
245
246 void
247 log_console(struct uio *uio)
248 {
249         int c, i, error, iovlen, nl;
250         struct uio muio;
251         struct iovec *miov = NULL;
252         char *consbuffer;
253         int pri;
254
255         if (!log_console_output)
256                 return;
257
258         pri = LOG_INFO | LOG_CONSOLE;
259         muio = *uio;
260         iovlen = uio->uio_iovcnt * sizeof (struct iovec);
261         MALLOC(miov, struct iovec *, iovlen, M_TEMP, M_WAITOK);
262         MALLOC(consbuffer, char *, CONSCHUNK, M_TEMP, M_WAITOK);
263         bcopy((caddr_t)muio.uio_iov, (caddr_t)miov, iovlen);
264         muio.uio_iov = miov;
265         uio = &muio;
266
267         nl = 0;
268         while (uio->uio_resid > 0) {
269                 c = (int)szmin(uio->uio_resid, CONSCHUNK);
270                 error = uiomove(consbuffer, (size_t)c, uio);
271                 if (error != 0)
272                         break;
273                 for (i = 0; i < c; i++) {
274                         msglogchar(consbuffer[i], pri);
275                         if (consbuffer[i] == '\n')
276                                 nl = 1;
277                         else
278                                 nl = 0;
279                 }
280         }
281         if (!nl)
282                 msglogchar('\n', pri);
283         msgbuftrigger = 1;
284         FREE(miov, M_TEMP);
285         FREE(consbuffer, M_TEMP);
286         return;
287 }
288
289 /*
290  * Output to the console.
291  */
292 int
293 kprintf(const char *fmt, ...)
294 {
295         __va_list ap;
296         int savintr;
297         struct putchar_arg pca;
298         int retval;
299
300         savintr = consintr;             /* disable interrupts */
301         consintr = 0;
302         __va_start(ap, fmt);
303         pca.tty = NULL;
304         pca.flags = TOCONS | TOLOG;
305         pca.pri = -1;
306         retval = kvcprintf(fmt, kputchar, &pca, 10, ap);
307         __va_end(ap);
308         if (!panicstr)
309                 msgbuftrigger = 1;
310         consintr = savintr;             /* reenable interrupts */
311         return (retval);
312 }
313
314 int
315 kvprintf(const char *fmt, __va_list ap)
316 {
317         int savintr;
318         struct putchar_arg pca;
319         int retval;
320
321         savintr = consintr;             /* disable interrupts */
322         consintr = 0;
323         pca.tty = NULL;
324         pca.flags = TOCONS | TOLOG;
325         pca.pri = -1;
326         retval = kvcprintf(fmt, kputchar, &pca, 10, ap);
327         if (!panicstr)
328                 msgbuftrigger = 1;
329         consintr = savintr;             /* reenable interrupts */
330         return (retval);
331 }
332
333 /*
334  * Limited rate kprintf.  The passed rate structure must be initialized
335  * with the desired reporting frequency.  A frequency of 0 will result in
336  * no output.
337  *
338  * count may be initialized to a negative number to allow an initial
339  * burst.
340  */
341 void
342 krateprintf(struct krate *rate, const char *fmt, ...)
343 {
344         __va_list ap;
345
346         if (rate->ticks != (int)time_second) {
347                 rate->ticks = (int)time_second;
348                 if (rate->count > 0)
349                         rate->count = 0;
350         }
351         if (rate->count < rate->freq) {
352                 ++rate->count;
353                 __va_start(ap, fmt);
354                 kvprintf(fmt, ap);
355                 __va_end(ap);
356         }
357 }
358
359 /*
360  * Print a character on console or users terminal.  If destination is
361  * the console then the last bunch of characters are saved in msgbuf for
362  * inspection later.
363  *
364  * NOT YET ENTIRELY MPSAFE, EVEN WHEN LOGGING JUST TO THE SYSCONSOLE.
365  */
366 static void
367 kputchar(int c, void *arg)
368 {
369         struct putchar_arg *ap = (struct putchar_arg*) arg;
370         int flags = ap->flags;
371         struct tty *tp = ap->tty;
372         if (panicstr)
373                 constty = NULL;
374         if ((flags & TOCONS) && tp == NULL && constty) {
375                 tp = constty;
376                 flags |= TOTTY;
377         }
378         if ((flags & TOTTY) && tp && tputchar(c, tp) < 0 &&
379             (flags & TOCONS) && tp == constty)
380                 constty = NULL;
381         if ((flags & TOLOG))
382                 msglogchar(c, ap->pri);
383         if ((flags & TOCONS) && constty == NULL && c != '\0')
384                 cnputc(c);
385 }
386
387 /*
388  * Scaled down version of sprintf(3).
389  */
390 int
391 ksprintf(char *buf, const char *cfmt, ...)
392 {
393         int retval;
394         __va_list ap;
395
396         __va_start(ap, cfmt);
397         retval = kvcprintf(cfmt, NULL, (void *)buf, 10, ap);
398         buf[retval] = '\0';
399         __va_end(ap);
400         return (retval);
401 }
402
403 /*
404  * Scaled down version of vsprintf(3).
405  */
406 int
407 kvsprintf(char *buf, const char *cfmt, __va_list ap)
408 {
409         int retval;
410
411         retval = kvcprintf(cfmt, NULL, (void *)buf, 10, ap);
412         buf[retval] = '\0';
413         return (retval);
414 }
415
416 /*
417  * Scaled down version of snprintf(3).
418  */
419 int
420 ksnprintf(char *str, size_t size, const char *format, ...)
421 {
422         int retval;
423         __va_list ap;
424
425         __va_start(ap, format);
426         retval = kvsnprintf(str, size, format, ap);
427         __va_end(ap);
428         return(retval);
429 }
430
431 /*
432  * Scaled down version of vsnprintf(3).
433  */
434 int
435 kvsnprintf(char *str, size_t size, const char *format, __va_list ap)
436 {
437         struct snprintf_arg info;
438         int retval;
439
440         info.str = str;
441         info.remain = size;
442         retval = kvcprintf(format, snprintf_func, &info, 10, ap);
443         if (info.remain >= 1)
444                 *info.str++ = '\0';
445         return (retval);
446 }
447
448 int
449 ksnrprintf(char *str, size_t size, int radix, const char *format, ...)
450 {
451         int retval;
452         __va_list ap;
453
454         __va_start(ap, format);
455         retval = kvsnrprintf(str, size, radix, format, ap);
456         __va_end(ap);
457         return(retval);
458 }
459
460 int
461 kvsnrprintf(char *str, size_t size, int radix, const char *format, __va_list ap)
462 {
463         struct snprintf_arg info;
464         int retval;
465
466         info.str = str;
467         info.remain = size;
468         retval = kvcprintf(format, snprintf_func, &info, radix, ap);
469         if (info.remain >= 1)
470                 *info.str++ = '\0';
471         return (retval);
472 }
473
474 int
475 kvasnrprintf(char **strp, size_t size, int radix,
476              const char *format, __va_list ap)
477 {
478         struct snprintf_arg info;
479         int retval;
480
481         *strp = kmalloc(size, M_TEMP, M_WAITOK);
482         info.str = *strp;
483         info.remain = size;
484         retval = kvcprintf(format, snprintf_func, &info, radix, ap);
485         if (info.remain >= 1)
486                 *info.str++ = '\0';
487         return (retval);
488 }
489
490 void
491 kvasfree(char **strp)
492 {
493         if (*strp) {
494                 kfree(*strp, M_TEMP);
495                 *strp = NULL;
496         }
497 }
498
499 static void
500 snprintf_func(int ch, void *arg)
501 {
502         struct snprintf_arg *const info = arg;
503
504         if (info->remain >= 2) {
505                 *info->str++ = ch;
506                 info->remain--;
507         }
508 }
509
510 /*
511  * Put a NUL-terminated ASCII number (base <= 36) in a buffer in reverse
512  * order; return an optional length and a pointer to the last character
513  * written in the buffer (i.e., the first character of the string).
514  * The buffer pointed to by `nbuf' must have length >= MAXNBUF.
515  */
516 static char *
517 ksprintn(char *nbuf, uintmax_t num, int base, int *lenp, int upper)
518 {
519         char *p, c;
520
521         p = nbuf;
522         *p = '\0';
523         do {
524                 c = hex2ascii(num % base);
525                 *++p = upper ? toupper(c) : c;
526         } while (num /= base);
527         if (lenp)
528                 *lenp = p - nbuf;
529         return (p);
530 }
531
532 /*
533  * Scaled down version of printf(3).
534  *
535  * Two additional formats:
536  *
537  * The format %b is supported to decode error registers.
538  * Its usage is:
539  *
540  *      kprintf("reg=%b\n", regval, "<base><arg>*");
541  *
542  * where <base> is the output base expressed as a control character, e.g.
543  * \10 gives octal; \20 gives hex.  Each arg is a sequence of characters,
544  * the first of which gives the bit number to be inspected (origin 1), and
545  * the next characters (up to a control character, i.e. a character <= 32),
546  * give the name of the register.  Thus:
547  *
548  *      kvcprintf("reg=%b\n", 3, "\10\2BITTWO\1BITONE\n");
549  *
550  * would produce output:
551  *
552  *      reg=3<BITTWO,BITONE>
553  *
554  * XXX:  %D  -- Hexdump, takes pointer and separator string:
555  *              ("%6D", ptr, ":")   -> XX:XX:XX:XX:XX:XX
556  *              ("%*D", len, ptr, " " -> XX XX XX XX ...
557  */
558
559 #define PCHAR(c) {int cc=(c); if(func) (*func)(cc,arg); else *d++=cc; retval++;}
560
561 int
562 kvcprintf(char const *fmt, void (*func)(int, void*), void *arg,
563           int radix, __va_list ap)
564 {
565         char nbuf[MAXNBUF];
566         char *d;
567         const char *p, *percent, *q;
568         u_char *up;
569         int ch, n;
570         uintmax_t num;
571         int base, tmp, width, ladjust, sharpflag, neg, sign, dot;
572         int cflag, hflag, jflag, lflag, qflag, tflag, zflag;
573         int dwidth, upper;
574         char padc;
575         int retval = 0, stop = 0;
576         int usespin;
577
578         /*
579          * Make a supreme effort to avoid reentrant panics or deadlocks.
580          */
581         if (func == kputchar) {
582                 if (mycpu->gd_flags & GDF_KPRINTF)
583                         return(0);
584                 atomic_set_long(&mycpu->gd_flags, GDF_KPRINTF);
585         }
586
587         num = 0;
588         if (!func)
589                 d = (char *) arg;
590         else
591                 d = NULL;
592
593         if (fmt == NULL)
594                 fmt = "(fmt null)\n";
595
596         if (radix < 2 || radix > 36)
597                 radix = 10;
598
599         usespin = (panic_cpu_gd != mycpu &&
600                    func == kputchar &&
601                    (((struct putchar_arg *)arg)->flags & TOTTY) == 0);
602         if (usespin) {
603                 crit_enter_hard();
604                 spin_lock_wr(&cons_spin);
605         }
606
607         for (;;) {
608                 padc = ' ';
609                 width = 0;
610                 while ((ch = (u_char)*fmt++) != '%' || stop) {
611                         if (ch == '\0')
612                                 goto done;
613                         PCHAR(ch);
614                 }
615                 percent = fmt - 1;
616                 dot = dwidth = ladjust = neg = sharpflag = sign = upper = 0;
617                 cflag = hflag = jflag = lflag = qflag = tflag = zflag = 0;
618
619 reswitch:
620                 switch (ch = (u_char)*fmt++) {
621                 case '.':
622                         dot = 1;
623                         goto reswitch;
624                 case '#':
625                         sharpflag = 1;
626                         goto reswitch;
627                 case '+':
628                         sign = 1;
629                         goto reswitch;
630                 case '-':
631                         ladjust = 1;
632                         goto reswitch;
633                 case '%':
634                         PCHAR(ch);
635                         break;
636                 case '*':
637                         if (!dot) {
638                                 width = __va_arg(ap, int);
639                                 if (width < 0) {
640                                         ladjust = !ladjust;
641                                         width = -width;
642                                 }
643                         } else {
644                                 dwidth = __va_arg(ap, int);
645                         }
646                         goto reswitch;
647                 case '0':
648                         if (!dot) {
649                                 padc = '0';
650                                 goto reswitch;
651                         }
652                 case '1': case '2': case '3': case '4':
653                 case '5': case '6': case '7': case '8': case '9':
654                                 for (n = 0;; ++fmt) {
655                                         n = n * 10 + ch - '0';
656                                         ch = *fmt;
657                                         if (ch < '0' || ch > '9')
658                                                 break;
659                                 }
660                         if (dot)
661                                 dwidth = n;
662                         else
663                                 width = n;
664                         goto reswitch;
665                 case 'b':
666                         num = (u_int)__va_arg(ap, int);
667                         p = __va_arg(ap, char *);
668                         for (q = ksprintn(nbuf, num, *p++, NULL, 0); *q;)
669                                 PCHAR(*q--);
670
671                         if (num == 0)
672                                 break;
673
674                         for (tmp = 0; *p;) {
675                                 n = *p++;
676                                 if (num & (1 << (n - 1))) {
677                                         PCHAR(tmp ? ',' : '<');
678                                         for (; (n = *p) > ' '; ++p)
679                                                 PCHAR(n);
680                                         tmp = 1;
681                                 } else
682                                         for (; *p > ' '; ++p)
683                                                 continue;
684                         }
685                         if (tmp)
686                                 PCHAR('>');
687                         break;
688                 case 'c':
689                         PCHAR(__va_arg(ap, int));
690                         break;
691                 case 'D':
692                         up = __va_arg(ap, u_char *);
693                         p = __va_arg(ap, char *);
694                         if (!width)
695                                 width = 16;
696                         while(width--) {
697                                 PCHAR(hex2ascii(*up >> 4));
698                                 PCHAR(hex2ascii(*up & 0x0f));
699                                 up++;
700                                 if (width)
701                                         for (q=p;*q;q++)
702                                                 PCHAR(*q);
703                         }
704                         break;
705                 case 'd':
706                 case 'i':
707                         base = 10;
708                         sign = 1;
709                         goto handle_sign;
710                 case 'h':
711                         if (hflag) {
712                                 hflag = 0;
713                                 cflag = 1;
714                         } else
715                                 hflag = 1;
716                         goto reswitch;
717                 case 'j':
718                         jflag = 1;
719                         goto reswitch;
720                 case 'l':
721                         if (lflag) {
722                                 lflag = 0;
723                                 qflag = 1;
724                         } else
725                                 lflag = 1;
726                         goto reswitch;
727                 case 'n':
728                         if (cflag)
729                                 *(__va_arg(ap, char *)) = retval;
730                         else if (hflag)
731                                 *(__va_arg(ap, short *)) = retval;
732                         else if (jflag)
733                                 *(__va_arg(ap, intmax_t *)) = retval;
734                         else if (lflag)
735                                 *(__va_arg(ap, long *)) = retval;
736                         else if (qflag)
737                                 *(__va_arg(ap, quad_t *)) = retval;
738                         else
739                                 *(__va_arg(ap, int *)) = retval;
740                         break;
741                 case 'o':
742                         base = 8;
743                         goto handle_nosign;
744                 case 'p':
745                         base = 16;
746                         sharpflag = (width == 0);
747                         sign = 0;
748                         num = (uintptr_t)__va_arg(ap, void *);
749                         goto number;
750                 case 'q':
751                         qflag = 1;
752                         goto reswitch;
753                 case 'r':
754                         base = radix;
755                         if (sign)
756                                 goto handle_sign;
757                         goto handle_nosign;
758                 case 's':
759                         p = __va_arg(ap, char *);
760                         if (p == NULL)
761                                 p = "(null)";
762                         if (!dot)
763                                 n = strlen (p);
764                         else
765                                 for (n = 0; n < dwidth && p[n]; n++)
766                                         continue;
767
768                         width -= n;
769
770                         if (!ladjust && width > 0)
771                                 while (width--)
772                                         PCHAR(padc);
773                         while (n--)
774                                 PCHAR(*p++);
775                         if (ladjust && width > 0)
776                                 while (width--)
777                                         PCHAR(padc);
778                         break;
779                 case 't':
780                         tflag = 1;
781                         goto reswitch;
782                 case 'u':
783                         base = 10;
784                         goto handle_nosign;
785                 case 'X':
786                         upper = 1;
787                         /* FALLTHROUGH */
788                 case 'x':
789                         base = 16;
790                         goto handle_nosign;
791                 case 'z':
792                         zflag = 1;
793                         goto reswitch;
794 handle_nosign:
795                         sign = 0;
796                         if (cflag)
797                                 num = (u_char)__va_arg(ap, int);
798                         else if (hflag)
799                                 num = (u_short)__va_arg(ap, int);
800                         else if (jflag)
801                                 num = __va_arg(ap, uintmax_t);
802                         else if (lflag)
803                                 num = __va_arg(ap, u_long);
804                         else if (qflag)
805                                 num = __va_arg(ap, u_quad_t);
806                         else if (tflag)
807                                 num = __va_arg(ap, ptrdiff_t);
808                         else if (zflag)
809                                 num = __va_arg(ap, size_t);
810                         else
811                                 num = __va_arg(ap, u_int);
812                         goto number;
813 handle_sign:
814                         if (cflag)
815                                 num = (char)__va_arg(ap, int);
816                         else if (hflag)
817                                 num = (short)__va_arg(ap, int);
818                         else if (jflag)
819                                 num = __va_arg(ap, intmax_t);
820                         else if (lflag)
821                                 num = __va_arg(ap, long);
822                         else if (qflag)
823                                 num = __va_arg(ap, quad_t);
824                         else if (tflag)
825                                 num = __va_arg(ap, ptrdiff_t);
826                         else if (zflag)
827                                 num = __va_arg(ap, ssize_t);
828                         else
829                                 num = __va_arg(ap, int);
830 number:
831                         if (sign && (intmax_t)num < 0) {
832                                 neg = 1;
833                                 num = -(intmax_t)num;
834                         }
835                         p = ksprintn(nbuf, num, base, &tmp, upper);
836                         if (sharpflag && num != 0) {
837                                 if (base == 8)
838                                         tmp++;
839                                 else if (base == 16)
840                                         tmp += 2;
841                         }
842                         if (neg)
843                                 tmp++;
844
845                         if (!ladjust && padc != '0' && width &&
846                             (width -= tmp) > 0) {
847                                 while (width--)
848                                         PCHAR(padc);
849                         }
850                         if (neg)
851                                 PCHAR('-');
852                         if (sharpflag && num != 0) {
853                                 if (base == 8) {
854                                         PCHAR('0');
855                                 } else if (base == 16) {
856                                         PCHAR('0');
857                                         PCHAR('x');
858                                 }
859                         }
860                         if (!ladjust && width && (width -= tmp) > 0)
861                                 while (width--)
862                                         PCHAR(padc);
863
864                         while (*p)
865                                 PCHAR(*p--);
866
867                         if (ladjust && width && (width -= tmp) > 0)
868                                 while (width--)
869                                         PCHAR(padc);
870
871                         break;
872                 default:
873                         while (percent < fmt)
874                                 PCHAR(*percent++);
875                         /*
876                          * Since we ignore an formatting argument it is no 
877                          * longer safe to obey the remaining formatting
878                          * arguments as the arguments will no longer match
879                          * the format specs.
880                          */
881                         stop = 1;
882                         break;
883                 }
884         }
885 done:
886         /*
887          * Cleanup reentrancy issues.
888          */
889         if (func == kputchar)
890                 atomic_clear_long(&mycpu->gd_flags, GDF_KPRINTF);
891         if (usespin) {
892                 spin_unlock_wr(&cons_spin);
893                 crit_exit_hard();
894         }
895         return (retval);
896 }
897
898 #undef PCHAR
899
900 /*
901  * Called from the panic code to try to get the console working
902  * again in case we paniced inside a kprintf().
903  */
904 void
905 kvcreinitspin(void)
906 {
907         spin_init(&cons_spin);
908         atomic_clear_long(&mycpu->gd_flags, GDF_KPRINTF);
909 }
910
911
912 /*
913  * Put character in log buffer with a particular priority.
914  *
915  * MPSAFE
916  */
917 static void
918 msglogchar(int c, int pri)
919 {
920         static int lastpri = -1;
921         static int dangling;
922         char nbuf[MAXNBUF];
923         char *p;
924
925         if (!msgbufmapped)
926                 return;
927         if (c == '\0' || c == '\r')
928                 return;
929         if (pri != -1 && pri != lastpri) {
930                 if (dangling) {
931                         msgaddchar('\n', NULL);
932                         dangling = 0;
933                 }
934                 msgaddchar('<', NULL);
935                 for (p = ksprintn(nbuf, (uintmax_t)pri, 10, NULL, 0); *p;)
936                         msgaddchar(*p--, NULL);
937                 msgaddchar('>', NULL);
938                 lastpri = pri;
939         }
940         msgaddchar(c, NULL);
941         if (c == '\n') {
942                 dangling = 0;
943                 lastpri = -1;
944         } else {
945                 dangling = 1;
946         }
947 }
948
949 /*
950  * Put char in log buffer.   Make sure nothing blows up beyond repair if
951  * we have an MP race.
952  *
953  * MPSAFE.
954  */
955 static void
956 msgaddchar(int c, void *dummy)
957 {
958         struct msgbuf *mbp;
959         int rindex;
960         int windex;
961
962         if (!msgbufmapped)
963                 return;
964         mbp = msgbufp;
965         windex = mbp->msg_bufx;
966         mbp->msg_ptr[windex] = c;
967         if (++windex >= mbp->msg_size)
968                 windex = 0;
969         rindex = mbp->msg_bufr;
970         if (windex == rindex) {
971                 rindex += 32;
972                 if (rindex >= mbp->msg_size)
973                         rindex -= mbp->msg_size;
974                 mbp->msg_bufr = rindex;
975         }
976         mbp->msg_bufx = windex;
977 }
978
979 static void
980 msgbufcopy(struct msgbuf *oldp)
981 {
982         int pos;
983
984         pos = oldp->msg_bufr;
985         while (pos != oldp->msg_bufx) {
986                 msglogchar(oldp->msg_ptr[pos], -1);
987                 if (++pos >= oldp->msg_size)
988                         pos = 0;
989         }
990 }
991
992 void
993 msgbufinit(void *ptr, size_t size)
994 {
995         char *cp;
996         static struct msgbuf *oldp = NULL;
997
998         size -= sizeof(*msgbufp);
999         cp = (char *)ptr;
1000         msgbufp = (struct msgbuf *) (cp + size);
1001         if (msgbufp->msg_magic != MSG_MAGIC || msgbufp->msg_size != size ||
1002             msgbufp->msg_bufx >= size || msgbufp->msg_bufr >= size) {
1003                 bzero(cp, size);
1004                 bzero(msgbufp, sizeof(*msgbufp));
1005                 msgbufp->msg_magic = MSG_MAGIC;
1006                 msgbufp->msg_size = (char *)msgbufp - cp;
1007         }
1008         msgbufp->msg_ptr = cp;
1009         if (msgbufmapped && oldp != msgbufp)
1010                 msgbufcopy(oldp);
1011         msgbufmapped = 1;
1012         oldp = msgbufp;
1013 }
1014
1015 /* Sysctls for accessing/clearing the msgbuf */
1016
1017 static int
1018 sysctl_kern_msgbuf(SYSCTL_HANDLER_ARGS)
1019 {
1020         struct ucred *cred;
1021         int error;
1022
1023         /*
1024          * Only wheel or root can access the message log.
1025          */
1026         if (unprivileged_read_msgbuf == 0) {
1027                 KKASSERT(req->td->td_proc);
1028                 cred = req->td->td_proc->p_ucred;
1029
1030                 if ((cred->cr_prison || groupmember(0, cred) == 0) &&
1031                     priv_check(req->td, PRIV_ROOT) != 0
1032                 ) {
1033                         return (EPERM);
1034                 }
1035         }
1036
1037         /*
1038          * Unwind the buffer, so that it's linear (possibly starting with
1039          * some initial nulls).
1040          */
1041         error = sysctl_handle_opaque(oidp, msgbufp->msg_ptr + msgbufp->msg_bufx,
1042             msgbufp->msg_size - msgbufp->msg_bufx, req);
1043         if (error)
1044                 return (error);
1045         if (msgbufp->msg_bufx > 0) {
1046                 error = sysctl_handle_opaque(oidp, msgbufp->msg_ptr,
1047                     msgbufp->msg_bufx, req);
1048         }
1049         return (error);
1050 }
1051
1052 SYSCTL_PROC(_kern, OID_AUTO, msgbuf, CTLTYPE_STRING | CTLFLAG_RD,
1053     0, 0, sysctl_kern_msgbuf, "A", "Contents of kernel message buffer");
1054
1055 static int msgbuf_clear;
1056
1057 static int
1058 sysctl_kern_msgbuf_clear(SYSCTL_HANDLER_ARGS)
1059 {
1060         int error;
1061         error = sysctl_handle_int(oidp, oidp->oid_arg1, oidp->oid_arg2, req);
1062         if (!error && req->newptr) {
1063                 /* Clear the buffer and reset write pointer */
1064                 bzero(msgbufp->msg_ptr, msgbufp->msg_size);
1065                 msgbufp->msg_bufr = msgbufp->msg_bufx = 0;
1066                 msgbuf_clear = 0;
1067         }
1068         return (error);
1069 }
1070
1071 SYSCTL_PROC(_kern, OID_AUTO, msgbuf_clear,
1072     CTLTYPE_INT | CTLFLAG_RW | CTLFLAG_SECURE, &msgbuf_clear, 0,
1073     sysctl_kern_msgbuf_clear, "I", "Clear kernel message buffer");
1074
1075 #ifdef DDB
1076
1077 DB_SHOW_COMMAND(msgbuf, db_show_msgbuf)
1078 {
1079         int i, j;
1080
1081         if (!msgbufmapped) {
1082                 db_printf("msgbuf not mapped yet\n");
1083                 return;
1084         }
1085         db_printf("msgbufp = %p\n", msgbufp);
1086         db_printf("magic = %x, size = %d, r= %d, w = %d, ptr = %p\n",
1087             msgbufp->msg_magic, msgbufp->msg_size, msgbufp->msg_bufr,
1088             msgbufp->msg_bufx, msgbufp->msg_ptr);
1089         for (i = 0; i < msgbufp->msg_size; i++) {
1090                 j = (i + msgbufp->msg_bufr) % msgbufp->msg_size;
1091                 db_printf("%c", msgbufp->msg_ptr[j]);
1092         }
1093         db_printf("\n");
1094 }
1095
1096 #endif /* DDB */