Add an option (-n ncpus) to specify the number of cpus a virtual kernel
[dragonfly.git] / sys / platform / vkernel / platform / init.c
1 /*
2  * Copyright (c) 2006 The DragonFly Project.  All rights reserved.
3  * 
4  * This code is derived from software contributed to The DragonFly Project
5  * by Matthew Dillon <dillon@backplane.com>
6  * 
7  * Redistribution and use in source and binary forms, with or without
8  * modification, are permitted provided that the following conditions
9  * are met:
10  * 
11  * 1. Redistributions of source code must retain the above copyright
12  *    notice, this list of conditions and the following disclaimer.
13  * 2. Redistributions in binary form must reproduce the above copyright
14  *    notice, this list of conditions and the following disclaimer in
15  *    the documentation and/or other materials provided with the
16  *    distribution.
17  * 3. Neither the name of The DragonFly Project nor the names of its
18  *    contributors may be used to endorse or promote products derived
19  *    from this software without specific, prior written permission.
20  * 
21  * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS
22  * ``AS IS'' AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT
23  * LIMITED TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS
24  * FOR A PARTICULAR PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE
25  * COPYRIGHT HOLDERS OR CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT,
26  * INCIDENTAL, SPECIAL, EXEMPLARY OR CONSEQUENTIAL DAMAGES (INCLUDING,
27  * BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
28  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED
29  * AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY,
30  * OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT
31  * OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
32  * SUCH DAMAGE.
33  * 
34  * $DragonFly: src/sys/platform/vkernel/platform/init.c,v 1.41 2007/07/02 02:37:05 dillon Exp $
35  */
36
37 #include <sys/types.h>
38 #include <sys/systm.h>
39 #include <sys/kernel.h>
40 #include <sys/stat.h>
41 #include <sys/mman.h>
42 #include <sys/cons.h>
43 #include <sys/random.h>
44 #include <sys/vkernel.h>
45 #include <sys/tls.h>
46 #include <sys/reboot.h>
47 #include <sys/proc.h>
48 #include <sys/msgbuf.h>
49 #include <sys/vmspace.h>
50 #include <sys/socket.h>
51 #include <sys/sockio.h>
52 #include <vm/vm_page.h>
53
54 #include <machine/globaldata.h>
55 #include <machine/tls.h>
56 #include <machine/md_var.h>
57 #include <machine/vmparam.h>
58
59 #include <net/if.h>
60 #include <net/if_arp.h>
61 #include <net/ethernet.h>
62 #include <net/bridge/if_bridgevar.h>
63 #include <netinet/in.h>
64 #include <arpa/inet.h>
65
66 #include <stdio.h>
67 #include <stdlib.h>
68 #include <unistd.h>
69 #include <fcntl.h>
70 #include <string.h>
71 #include <err.h>
72 #include <errno.h>
73 #include <assert.h>
74
75 vm_paddr_t phys_avail[16];
76 vm_paddr_t Maxmem;
77 vm_paddr_t Maxmem_bytes;
78 int MemImageFd = -1;
79 struct vkdisk_info DiskInfo[VKDISK_MAX];
80 int DiskNum;
81 struct vknetif_info NetifInfo[VKNETIF_MAX];
82 int NetifNum;
83 char *pid_file;
84 vm_offset_t KvaStart;
85 vm_offset_t KvaEnd;
86 vm_offset_t KvaSize;
87 vm_offset_t virtual_start;
88 vm_offset_t virtual_end;
89 vm_offset_t kernel_vm_end;
90 vm_offset_t crashdumpmap;
91 vm_offset_t clean_sva;
92 vm_offset_t clean_eva;
93 struct msgbuf *msgbufp;
94 caddr_t ptvmmap;
95 vpte_t  *KernelPTD;
96 vpte_t  *KernelPTA;     /* Warning: Offset for direct VA translation */
97 u_int cpu_feature;      /* XXX */
98 u_int tsc_present;      /* XXX */
99 int optcpus;            /* number of cpus - see mp_start() */
100
101 struct privatespace *CPU_prvspace;
102
103 static struct trapframe proc0_tf;
104 static void *proc0paddr;
105
106 static void init_sys_memory(char *imageFile);
107 static void init_kern_memory(void);
108 static void init_globaldata(void);
109 static void init_vkernel(void);
110 static void init_disk(char *diskExp[], int diskFileNum, enum vkdisk_type type); 
111 static void init_netif(char *netifExp[], int netifFileNum);
112 static void writepid( void );
113 static void cleanpid( void );
114 static void usage(const char *str);
115
116 static int save_ac;
117 static char **save_av;
118
119 /*
120  * Kernel startup for virtual kernels - standard main() 
121  */
122 int
123 main(int ac, char **av)
124 {
125         char *memImageFile = NULL;
126         char *netifFile[VKNETIF_MAX];
127         char *diskFile[VKDISK_MAX];
128         char *cdFile[VKDISK_MAX];
129         char *suffix;
130         int netifFileNum = 0;
131         int diskFileNum = 0;
132         int cdFileNum = 0;
133         int c;
134         int i;
135         int n;
136         
137         save_ac = ac;
138         save_av = av;
139
140         /*
141          * Process options
142          */
143         kernel_mem_readonly = 1;
144 #ifdef SMP
145         optcpus = 2;
146 #endif
147
148         while ((c = getopt(ac, av, "c:svm:n:r:e:i:p:I:U")) != -1) {
149                 switch(c) {
150                 case 'e':
151                         /*
152                          * name=value:name=value:name=value...
153                          */
154                         n = strlen(optarg);
155                         kern_envp = malloc(n + 2);
156                         for (i = 0; i < n; ++i) {
157                                 if (optarg[i] == ':')
158                                         kern_envp[i] = 0;
159                                 else
160                                         kern_envp[i] = optarg[i];
161                         }
162                         kern_envp[i++] = 0;
163                         kern_envp[i++] = 0;
164                         break;
165                 case 's':
166                         boothowto |= RB_SINGLE;
167                         break;
168                 case 'v':
169                         bootverbose = 1;
170                         break;
171                 case 'i':
172                         memImageFile = optarg;
173                         break;
174                 case 'I':
175                         if (netifFileNum < VKNETIF_MAX)
176                                 netifFile[netifFileNum++] = strdup(optarg);
177                         break;
178                 case 'r':
179                         if (diskFileNum + cdFileNum < VKDISK_MAX)
180                                 diskFile[diskFileNum++] = strdup(optarg);
181                         break;
182                 case 'c':
183                         if (diskFileNum + cdFileNum < VKDISK_MAX)
184                                 cdFile[cdFileNum++] = strdup(optarg);
185                         break;
186                 case 'm':
187                         Maxmem_bytes = strtoull(optarg, &suffix, 0);
188                         if (suffix) {
189                                 switch(*suffix) {
190                                 case 'g':
191                                 case 'G':
192                                         Maxmem_bytes <<= 30;
193                                         break;
194                                 case 'm':
195                                 case 'M':
196                                         Maxmem_bytes <<= 20;
197                                         break;
198                                 case 'k':
199                                 case 'K':
200                                         Maxmem_bytes <<= 10;
201                                         break;
202                                 default:
203                                         Maxmem_bytes = 0;
204                                         usage("Bad maxmem option");
205                                         /* NOT REACHED */
206                                         break;
207                                 }
208                         }
209                         break;
210                 case 'n':
211                         /*
212                          * This value is set up by mp_start(), don't just
213                          * set ncpus here.
214                          */
215 #ifdef SMP
216                         optcpus = strtol(optarg, NULL, 0);
217                         if (optcpus < 1 || optcpus > 32)
218                                 usage("Bad ncpus, valid range is 1-32");
219 #else
220                         if (strtol(optarg, NULL, 0) != 1) {
221                                 usage("You built a UP vkernel, only 1 cpu!");
222                         }
223 #endif
224                         
225                 case 'p':
226                         pid_file = optarg;      
227                         break;
228                 case 'U':
229                         kernel_mem_readonly = 0;
230                         break;
231                 }
232         }
233
234         writepid();
235         cpu_disable_intr();
236         init_sys_memory(memImageFile);
237         init_kern_memory();
238         init_globaldata();
239         init_vkernel();
240         init_kqueue();
241         init_disk(diskFile, diskFileNum, VKD_DISK);
242         init_disk(cdFile, cdFileNum, VKD_CD);
243         init_netif(netifFile, netifFileNum);
244         init_exceptions();
245         mi_startup();
246         /* NOT REACHED */
247         exit(1);
248 }
249
250 /*
251  * Initialize system memory.  This is the virtual kernel's 'RAM'.
252  */
253 static
254 void
255 init_sys_memory(char *imageFile)
256 {
257         struct stat st;
258         int i;
259         int fd;
260
261         /*
262          * Figure out the system memory image size.  If an image file was
263          * specified and -m was not specified, use the image file's size.
264          */
265
266         if (imageFile && stat(imageFile, &st) == 0 && Maxmem_bytes == 0)
267                 Maxmem_bytes = (vm_paddr_t)st.st_size;
268         if ((imageFile == NULL || stat(imageFile, &st) < 0) && 
269             Maxmem_bytes == 0) {
270                 err(1, "Cannot create new memory file %s unless "
271                        "system memory size is specified with -m",
272                        imageFile);
273                 /* NOT REACHED */
274         }
275
276         /*
277          * Maxmem must be known at this time
278          */
279         if (Maxmem_bytes < 32 * 1024 * 1024 || (Maxmem_bytes & SEG_MASK)) {
280                 err(1, "Bad maxmem specification: 32MB minimum, "
281                        "multiples of %dMB only",
282                        SEG_SIZE / 1024 / 1024);
283                 /* NOT REACHED */
284         }
285
286         /*
287          * Generate an image file name if necessary, then open/create the
288          * file exclusively locked.  Do not allow multiple virtual kernels
289          * to use the same image file.
290          */
291         if (imageFile == NULL) {
292                 for (i = 0; i < 1000000; ++i) {
293                         asprintf(&imageFile, "/var/vkernel/memimg.%06d", i);
294                         fd = open(imageFile, 
295                                   O_RDWR|O_CREAT|O_EXLOCK|O_NONBLOCK, 0644);
296                         if (fd < 0 && errno == EWOULDBLOCK) {
297                                 free(imageFile);
298                                 continue;
299                         }
300                         break;
301                 }
302         } else {
303                 fd = open(imageFile, O_RDWR|O_CREAT|O_EXLOCK|O_NONBLOCK, 0644);
304         }
305         printf("Using memory file: %s\n", imageFile);
306         if (fd < 0 || fstat(fd, &st) < 0) {
307                 err(1, "Unable to open/create %s", imageFile);
308                 /* NOT REACHED */
309         }
310
311         /*
312          * Truncate or extend the file as necessary.
313          */
314         if (st.st_size > Maxmem_bytes) {
315                 ftruncate(fd, Maxmem_bytes);
316         } else if (st.st_size < Maxmem_bytes) {
317                 char *zmem;
318                 off_t off = st.st_size & ~SEG_MASK;
319
320                 kprintf("%s: Reserving blocks for memory image\n", imageFile);
321                 zmem = malloc(SEG_SIZE);
322                 bzero(zmem, SEG_SIZE);
323                 lseek(fd, off, SEEK_SET);
324                 while (off < Maxmem_bytes) {
325                         if (write(fd, zmem, SEG_SIZE) != SEG_SIZE) {
326                                 err(1, "Unable to reserve blocks for memory image");
327                                 /* NOT REACHED */
328                         }
329                         off += SEG_SIZE;
330                 }
331                 if (fsync(fd) < 0)
332                         err(1, "Unable to reserve blocks for memory image");
333                 free(zmem);
334         }
335         MemImageFd = fd;
336         Maxmem = Maxmem_bytes >> PAGE_SHIFT;
337 }
338
339 /*
340  * Initialize kernel memory.  This reserves kernel virtual memory by using
341  * MAP_VPAGETABLE
342  */
343
344 static
345 void
346 init_kern_memory(void)
347 {
348         void *base;
349         void *try;
350         char *zero;
351         char dummy;
352         char *topofstack = &dummy;
353         vpte_t pte;
354         int i;
355
356         /*
357          * Memory map our kernel virtual memory space.  Note that the
358          * kernel image itself is not made part of this memory for the
359          * moment.
360          *
361          * The memory map must be segment-aligned so we can properly
362          * offset KernelPTD.
363          *
364          * If the system kernel has a different MAXDSIZ, it might not
365          * be possible to map kernel memory in its prefered location.
366          * Try a number of different locations.
367          */
368         try = (void *)0x40000000;
369         base = NULL;
370         while ((char *)try + KERNEL_KVA_SIZE < topofstack) {
371                 base = mmap(try, KERNEL_KVA_SIZE, PROT_READ|PROT_WRITE,
372                             MAP_FILE|MAP_SHARED|MAP_VPAGETABLE,
373                             MemImageFd, 0);
374                 if (base == try)
375                         break;
376                 if (base != MAP_FAILED)
377                         munmap(base, KERNEL_KVA_SIZE);
378                 try = (char *)try + 0x10000000;
379         }
380         if (base != try) {
381                 err(1, "Unable to mmap() kernel virtual memory!");
382                 /* NOT REACHED */
383         }
384         madvise(base, KERNEL_KVA_SIZE, MADV_NOSYNC);
385         KvaStart = (vm_offset_t)base;
386         KvaSize = KERNEL_KVA_SIZE;
387         KvaEnd = KvaStart + KvaSize;
388         printf("KVM mapped at %p-%p\n", (void *)KvaStart, (void *)KvaEnd);
389
390         /*
391          * Create a top-level page table self-mapping itself. 
392          *
393          * Initialize the page directory at physical page index 0 to point
394          * to an array of page table pages starting at physical page index 1
395          */
396         lseek(MemImageFd, 0L, 0);
397         for (i = 0; i < KERNEL_KVA_SIZE / SEG_SIZE; ++i) {
398                 pte = ((i + 1) * PAGE_SIZE) | VPTE_V | VPTE_R | VPTE_W;
399                 write(MemImageFd, &pte, sizeof(pte));
400         }
401
402         /*
403          * Initialize the PTEs in the page table pages required to map the
404          * page table itself.  This includes mapping the page directory page
405          * at the base so we go one more loop then normal.
406          */
407         lseek(MemImageFd, PAGE_SIZE, 0);
408         for (i = 0; i <= KERNEL_KVA_SIZE / SEG_SIZE * sizeof(vpte_t); ++i) {
409                 pte = (i * PAGE_SIZE) | VPTE_V | VPTE_R | VPTE_W;
410                 write(MemImageFd, &pte, sizeof(pte));
411         }
412
413         /*
414          * Initialize remaining PTEs to 0.  We may be reusing a memory image
415          * file.  This is approximately a megabyte.
416          */
417         i = (KERNEL_KVA_SIZE / PAGE_SIZE - i) * sizeof(pte);
418         zero = malloc(PAGE_SIZE);
419         bzero(zero, PAGE_SIZE);
420         while (i) {
421                 write(MemImageFd, zero, (i > PAGE_SIZE) ? PAGE_SIZE : i);
422                 i = i - ((i > PAGE_SIZE) ? PAGE_SIZE : i);
423         }
424         free(zero);
425
426         /*
427          * Enable the page table and calculate pointers to our self-map
428          * for easy kernel page table manipulation.
429          *
430          * KernelPTA must be offset so we can do direct VA translations
431          */
432         mcontrol(base, KERNEL_KVA_SIZE, MADV_SETMAP,
433                  0 | VPTE_R | VPTE_W | VPTE_V);
434         KernelPTD = (vpte_t *)base;                       /* pg directory */
435         KernelPTA = (vpte_t *)((char *)base + PAGE_SIZE); /* pg table pages */
436         KernelPTA -= KvaStart >> PAGE_SHIFT;
437
438         /*
439          * phys_avail[] represents unallocated physical memory.  MI code
440          * will use phys_avail[] to create the vm_page array.
441          */
442         phys_avail[0] = PAGE_SIZE +
443                         KERNEL_KVA_SIZE / PAGE_SIZE * sizeof(vpte_t);
444         phys_avail[0] = (phys_avail[0] + PAGE_MASK) & ~(vm_paddr_t)PAGE_MASK;
445         phys_avail[1] = Maxmem_bytes;
446
447         /*
448          * (virtual_start, virtual_end) represent unallocated kernel virtual
449          * memory.  MI code will create kernel_map using these parameters.
450          */
451         virtual_start = KvaStart + PAGE_SIZE +
452                         KERNEL_KVA_SIZE / PAGE_SIZE * sizeof(vpte_t);
453         virtual_start = (virtual_start + PAGE_MASK) & ~(vm_offset_t)PAGE_MASK;
454         virtual_end = KvaStart + KERNEL_KVA_SIZE;
455
456         /*
457          * kernel_vm_end could be set to virtual_end but we want some 
458          * indication of how much of the kernel_map we've used, so
459          * set it low and let pmap_growkernel increase it even though we
460          * don't need to create any new page table pages.
461          */
462         kernel_vm_end = virtual_start;
463
464         /*
465          * Allocate space for process 0's UAREA.
466          */
467         proc0paddr = (void *)virtual_start;
468         for (i = 0; i < UPAGES; ++i) {
469                 pmap_kenter_quick(virtual_start, phys_avail[0]);
470                 virtual_start += PAGE_SIZE;
471                 phys_avail[0] += PAGE_SIZE;
472         }
473
474         /*
475          * crashdumpmap
476          */
477         crashdumpmap = virtual_start;
478         virtual_start += MAXDUMPPGS * PAGE_SIZE;
479
480         /*
481          * msgbufp maps the system message buffer
482          */
483         assert((MSGBUF_SIZE & PAGE_MASK) == 0);
484         msgbufp = (void *)virtual_start;
485         for (i = 0; i < (MSGBUF_SIZE >> PAGE_SHIFT); ++i) {
486                 pmap_kenter_quick(virtual_start, phys_avail[0]);
487                 virtual_start += PAGE_SIZE;
488                 phys_avail[0] += PAGE_SIZE;
489         }
490         msgbufinit(msgbufp, MSGBUF_SIZE);
491
492         /*
493          * used by kern_memio for /dev/mem access
494          */
495         ptvmmap = (caddr_t)virtual_start;
496         virtual_start += PAGE_SIZE;
497
498         /*
499          * Bootstrap the kernel_pmap
500          */
501         pmap_bootstrap();
502 }
503
504 /*
505  * Map the per-cpu globaldata for cpu #0.  Allocate the space using
506  * virtual_start and phys_avail[0]
507  */
508 static
509 void
510 init_globaldata(void)
511 {
512         int i;
513         vm_paddr_t pa;
514         vm_offset_t va;
515
516         /*
517          * Reserve enough KVA to cover possible cpus.  This is a considerable
518          * amount of KVA since the privatespace structure includes two 
519          * whole page table mappings.
520          */
521         virtual_start = (virtual_start + SEG_MASK) & ~(vm_offset_t)SEG_MASK;
522         CPU_prvspace = (void *)virtual_start;
523         virtual_start += sizeof(struct privatespace) * SMP_MAXCPU;
524
525         /*
526          * Allocate enough physical memory to cover the mdglobaldata
527          * portion of the space and the idle stack and map the pages
528          * into KVA.  For cpu #0 only.
529          */
530         for (i = 0; i < sizeof(struct mdglobaldata); i += PAGE_SIZE) {
531                 pa = phys_avail[0];
532                 va = (vm_offset_t)&CPU_prvspace[0].mdglobaldata + i;
533                 pmap_kenter_quick(va, pa);
534                 phys_avail[0] += PAGE_SIZE;
535         }
536         for (i = 0; i < sizeof(CPU_prvspace[0].idlestack); i += PAGE_SIZE) {
537                 pa = phys_avail[0];
538                 va = (vm_offset_t)&CPU_prvspace[0].idlestack + i;
539                 pmap_kenter_quick(va, pa);
540                 phys_avail[0] += PAGE_SIZE;
541         }
542
543         /*
544          * Setup the %gs for cpu #0.  The mycpu macro works after this
545          * point.
546          */
547         tls_set_fs(&CPU_prvspace[0], sizeof(struct privatespace));
548 }
549
550 /*
551  * Initialize very low level systems including thread0, proc0, etc.
552  */
553 static
554 void
555 init_vkernel(void)
556 {
557         struct mdglobaldata *gd;
558
559         gd = &CPU_prvspace[0].mdglobaldata;
560         bzero(gd, sizeof(*gd));
561
562         gd->mi.gd_curthread = &thread0;
563         thread0.td_gd = &gd->mi;
564         ncpus = 1;
565         ncpus2 = 1;     /* rounded down power of 2 */
566         ncpus_fit = 1;  /* rounded up power of 2 */
567         /* ncpus2_mask and ncpus_fit_mask are 0 */
568         init_param1();
569         gd->mi.gd_prvspace = &CPU_prvspace[0];
570         mi_gdinit(&gd->mi, 0);
571         cpu_gdinit(gd, 0);
572         mi_proc0init(&gd->mi, proc0paddr);
573         lwp0.lwp_md.md_regs = &proc0_tf;
574
575         /*init_locks();*/
576         cninit();
577         rand_initialize();
578 #if 0   /* #ifdef DDB */
579         kdb_init();
580         if (boothowto & RB_KDB)
581                 Debugger("Boot flags requested debugger");
582 #endif
583 #if 0
584         initializecpu();        /* Initialize CPU registers */
585 #endif
586         init_param2((phys_avail[1] - phys_avail[0]) / PAGE_SIZE);
587
588 #if 0
589         /*
590          * Map the message buffer
591          */
592         for (off = 0; off < round_page(MSGBUF_SIZE); off += PAGE_SIZE)
593                 pmap_kenter((vm_offset_t)msgbufp + off, avail_end + off);
594         msgbufinit(msgbufp, MSGBUF_SIZE);
595 #endif
596 #if 0
597         thread0.td_pcb_cr3 ... MMU
598         lwp0.lwp_md.md_regs = &proc0_tf;
599 #endif
600 }
601
602 /*
603  * Filesystem image paths for the virtual kernel are optional.  
604  * If specified they each should point to a disk image, 
605  * the first of which will become the root disk.
606  *
607  * The virtual kernel caches data from our 'disk' just like a normal kernel,
608  * so we do not really want the real kernel to cache the data too.  Use
609  * O_DIRECT to remove the duplication.
610  */
611 static
612 void
613 init_disk(char *diskExp[], int diskFileNum, enum vkdisk_type type)
614 {
615         int i;  
616
617         if (diskFileNum == 0)
618                 return;
619
620         for(i=0; i < diskFileNum; i++){
621                 char *fname;
622                 fname = diskExp[i];
623
624                 if (fname == NULL) {
625                         warnx("Invalid argument to '-r'");
626                         continue;
627                 }
628
629                 if (DiskNum < VKDISK_MAX) {
630                         struct stat st; 
631                         struct vkdisk_info* info = NULL;
632                         int fd;
633                         size_t l = 0;
634
635                         if (type == VKD_DISK)
636                             fd = open(fname, O_RDWR|O_DIRECT|O_EXLOCK|O_NONBLOCK, 0644);
637                         else
638                             fd = open(fname, O_RDONLY|O_DIRECT, 0644);
639                         if (fd < 0 || fstat(fd, &st) < 0) {
640                                 if (errno == EAGAIN)
641                                         fprintf(stderr, "You may already have a vkernel using this disk image!\n");
642                                 err(1, "Unable to open/create %s", fname);
643                                 /* NOT REACHED */
644                         }
645                         /* get rid of O_NONBLOCK, keep O_DIRECT */
646                         if (type == VKD_DISK)
647                                 fcntl(fd, F_SETFL, O_DIRECT);
648
649                         info = &DiskInfo[DiskNum];
650                         l = strlen(fname);
651
652                         info->unit = i;
653                         info->fd = fd;
654                         info->type = type;
655                         memcpy(info->fname, fname, l);
656
657                         if (i == 0) {
658                                 if (type == VKD_CD)
659                                     rootdevnames[0] = "cd9660:vcd0a";
660                                 else if (type == VKD_DISK)
661                                     rootdevnames[0] = "ufs:vkd0s0a";
662                         }
663
664                         DiskNum++;
665                 } else {
666                         warnx("vkd%d (%s) > VKDISK_MAX", DiskNum, fname);
667                         continue;
668                 }
669         }
670 }
671
672 static
673 int
674 netif_set_tapflags(int tap_unit, int f, int s)
675 {
676         struct ifreq ifr;
677         int flags;
678
679         bzero(&ifr, sizeof(ifr));
680
681         snprintf(ifr.ifr_name, sizeof(ifr.ifr_name), "tap%d", tap_unit);
682         if (ioctl(s, SIOCGIFFLAGS, &ifr) < 0) {
683                 warn("tap%d: ioctl(SIOCGIFFLAGS) failed", tap_unit);
684                 return -1;
685         }
686
687         /*
688          * Adjust if_flags
689          *
690          * If the flags are already set/cleared, then we return
691          * immediately to avoid extra syscalls
692          */
693         flags = (ifr.ifr_flags & 0xffff) | (ifr.ifr_flagshigh << 16);
694         if (f < 0) {
695                 /* Turn off flags */
696                 f = -f;
697                 if ((flags & f) == 0)
698                         return 0;
699                 flags &= ~f;
700         } else {
701                 /* Turn on flags */
702                 if (flags & f)
703                         return 0;
704                 flags |= f;
705         }
706
707         /*
708          * Fix up ifreq.ifr_name, since it may be trashed
709          * in previous ioctl(SIOCGIFFLAGS)
710          */
711         snprintf(ifr.ifr_name, sizeof(ifr.ifr_name), "tap%d", tap_unit);
712
713         ifr.ifr_flags = flags & 0xffff;
714         ifr.ifr_flagshigh = flags >> 16;
715         if (ioctl(s, SIOCSIFFLAGS, &ifr) < 0) {
716                 warn("tap%d: ioctl(SIOCSIFFLAGS) failed", tap_unit);
717                 return -1;
718         }
719         return 0;
720 }
721
722 static
723 int
724 netif_set_tapaddr(int tap_unit, in_addr_t addr, in_addr_t mask, int s)
725 {
726         struct ifaliasreq ifra;
727         struct sockaddr_in *in;
728
729         bzero(&ifra, sizeof(ifra));
730         snprintf(ifra.ifra_name, sizeof(ifra.ifra_name), "tap%d", tap_unit);
731
732         /* Setup address */
733         in = (struct sockaddr_in *)&ifra.ifra_addr;
734         in->sin_family = AF_INET;
735         in->sin_len = sizeof(*in);
736         in->sin_addr.s_addr = addr;
737
738         if (mask != 0) {
739                 /* Setup netmask */
740                 in = (struct sockaddr_in *)&ifra.ifra_mask;
741                 in->sin_len = sizeof(*in);
742                 in->sin_addr.s_addr = mask;
743         }
744
745         if (ioctl(s, SIOCAIFADDR, &ifra) < 0) {
746                 warn("tap%d: ioctl(SIOCAIFADDR) failed", tap_unit);
747                 return -1;
748         }
749         return 0;
750 }
751
752 static
753 int
754 netif_add_tap2brg(int tap_unit, const char *ifbridge, int s)
755 {
756         struct ifbreq ifbr;
757         struct ifdrv ifd;
758
759         bzero(&ifbr, sizeof(ifbr));
760         snprintf(ifbr.ifbr_ifsname, sizeof(ifbr.ifbr_ifsname),
761                  "tap%d", tap_unit);
762
763         bzero(&ifd, sizeof(ifd));
764         strlcpy(ifd.ifd_name, ifbridge, sizeof(ifd.ifd_name));
765         ifd.ifd_cmd = BRDGADD;
766         ifd.ifd_len = sizeof(ifbr);
767         ifd.ifd_data = &ifbr;
768
769         if (ioctl(s, SIOCSDRVSPEC, &ifd) < 0) {
770                 /*
771                  * 'errno == EEXIST' means that the tap(4) is already
772                  * a member of the bridge(4)
773                  */
774                 if (errno != EEXIST) {
775                         warn("ioctl(%s, SIOCSDRVSPEC) failed", ifbridge);
776                         return -1;
777                 }
778         }
779         return 0;
780 }
781
782 #define TAPDEV_OFLAGS   (O_RDWR | O_NONBLOCK)
783
784 /* XXX major()/minor() can't be used in vkernel */
785 #define TAPDEV_MAJOR(x) ((int)(((u_int)(x) >> 8) & 0xff))
786 #define TAPDEV_MINOR(x) ((int)((x) & 0xffff00ff))
787
788 #ifndef TAP_CDEV_MAJOR
789 #define TAP_CDEV_MAJOR  149
790 #endif
791
792 /*
793  * Locate the first unused tap(4) device file if auto mode is requested,
794  * or open the user supplied device file, and bring up the corresponding
795  * tap(4) interface.
796  *
797  * NOTE: Only tap(4) device file is supported currently
798  */
799 static
800 int
801 netif_open_tap(const char *netif, int *tap_unit, int s)
802 {
803         char tap_dev[MAXPATHLEN];
804         int tap_fd, failed;
805         struct stat st;
806
807         *tap_unit = -1;
808
809         if (strcmp(netif, "auto") == 0) {
810                 int i;
811
812                 /*
813                  * Find first unused tap(4) device file
814                  */
815                 for (i = 0; ; ++i) {
816                         snprintf(tap_dev, sizeof(tap_dev), "/dev/tap%d", i);
817                         tap_fd = open(tap_dev, TAPDEV_OFLAGS);
818                         if (tap_fd >= 0 || errno == ENOENT)
819                                 break;
820                 }
821                 if (tap_fd < 0) {
822                         warnx("Unable to find a free tap(4)");
823                         return -1;
824                 }
825         } else {
826                 /*
827                  * User supplied tap(4) device file
828                  */
829                 if (netif[0] == '/')    /* Absolute path */
830                         strlcpy(tap_dev, netif, sizeof(tap_dev));
831                 else
832                         snprintf(tap_dev, sizeof(tap_dev), "/dev/%s", netif);
833
834                 tap_fd = open(tap_dev, TAPDEV_OFLAGS);
835                 if (tap_fd < 0) {
836                         warn("Unable to open %s", tap_dev);
837                         return -1;
838                 }
839         }
840
841         /*
842          * Check whether the device file is a tap(4)
843          */
844         failed = 1;
845         if (fstat(tap_fd, &st) == 0 && S_ISCHR(st.st_mode) &&
846             TAPDEV_MAJOR(st.st_rdev) == TAP_CDEV_MAJOR) {
847                 *tap_unit = TAPDEV_MINOR(st.st_rdev);
848
849                 /*
850                  * Bring up the corresponding tap(4) interface
851                  */
852                 if (netif_set_tapflags(*tap_unit, IFF_UP, s) == 0)
853                         failed = 0;
854         } else {
855                 warnx("%s is not a tap(4) device", tap_dev);
856         }
857
858         if (failed) {
859                 close(tap_fd);
860                 tap_fd = -1;
861                 *tap_unit = -1;
862         }
863         return tap_fd;
864 }
865
866 #undef TAPDEV_MAJOR
867 #undef TAPDEV_MINOR
868 #undef TAPDEV_OFLAGS
869
870 /*
871  * Following syntax is supported,
872  * 1) x.x.x.x             tap(4)'s address is x.x.x.x
873  *
874  * 2) x.x.x.x/z           tap(4)'s address is x.x.x.x
875  *                        tap(4)'s netmask len is z
876  *
877  * 3) x.x.x.x:y.y.y.y     tap(4)'s address is x.x.x.x
878  *                        pseudo netif's address is y.y.y.y
879  *
880  * 4) x.x.x.x:y.y.y.y/z   tap(4)'s address is x.x.x.x
881  *                        pseudo netif's address is y.y.y.y
882  *                        tap(4) and pseudo netif's netmask len are z
883  *
884  * 5) bridgeX             tap(4) will be added to bridgeX
885  *
886  * 6) bridgeX:y.y.y.y     tap(4) will be added to bridgeX
887  *                        pseudo netif's address is y.y.y.y
888  *
889  * 7) bridgeX:y.y.y.y/z   tap(4) will be added to bridgeX
890  *                        pseudo netif's address is y.y.y.y
891  *                        pseudo netif's netmask len is z
892  */
893 static
894 int
895 netif_init_tap(int tap_unit, in_addr_t *addr, in_addr_t *mask, int s)
896 {
897         in_addr_t tap_addr, netmask, netif_addr;
898         int next_netif_addr;
899         char *tok, *masklen_str, *ifbridge;
900
901         *addr = 0;
902         *mask = 0;
903
904         tok = strtok(NULL, ":/");
905         if (tok == NULL) {
906                 /*
907                  * Nothing special, simply use tap(4) as backend
908                  */
909                 return 0;
910         }
911
912         if (inet_pton(AF_INET, tok, &tap_addr) > 0) {
913                 /*
914                  * tap(4)'s address is supplied
915                  */
916                 ifbridge = NULL;
917
918                 /*
919                  * If there is next token, then it may be pseudo
920                  * netif's address or netmask len for tap(4)
921                  */
922                 next_netif_addr = 0;
923         } else {
924                 /*
925                  * Not tap(4)'s address, assume it as a bridge(4)
926                  * iface name
927                  */
928                 tap_addr = 0;
929                 ifbridge = tok;
930
931                 /*
932                  * If there is next token, then it must be pseudo
933                  * netif's address
934                  */
935                 next_netif_addr = 1;
936         }
937
938         netmask = netif_addr = 0;
939
940         tok = strtok(NULL, ":/");
941         if (tok == NULL)
942                 goto back;
943
944         if (inet_pton(AF_INET, tok, &netif_addr) <= 0) {
945                 if (next_netif_addr) {
946                         warnx("Invalid pseudo netif address: %s", tok);
947                         return -1;
948                 }
949                 netif_addr = 0;
950
951                 /*
952                  * Current token is not address, then it must be netmask len
953                  */
954                 masklen_str = tok;
955         } else {
956                 /*
957                  * Current token is pseudo netif address, if there is next token
958                  * it must be netmask len
959                  */
960                 masklen_str = strtok(NULL, "/");
961         }
962
963         /* Calculate netmask */
964         if (masklen_str != NULL) {
965                 u_long masklen;
966
967                 masklen = strtoul(masklen_str, NULL, 10);
968                 if (masklen < 32 && masklen > 0) {
969                         netmask = htonl(~((1LL << (32 - masklen)) - 1)
970                                         & 0xffffffff);
971                 } else {
972                         warnx("Invalid netmask len: %lu", masklen);
973                         return -1;
974                 }
975         }
976
977         /* Make sure there is no more token left */
978         if (strtok(NULL, ":/") != NULL) {
979                 warnx("Invalid argument to '-I'");
980                 return -1;
981         }
982
983 back:
984         if (ifbridge == NULL) {
985                 /* Set tap(4) address/netmask */
986                 if (netif_set_tapaddr(tap_unit, tap_addr, netmask, s) < 0)
987                         return -1;
988         } else {
989                 /* Tie tap(4) to bridge(4) */
990                 if (netif_add_tap2brg(tap_unit, ifbridge, s) < 0)
991                         return -1;
992         }
993
994         *addr = netif_addr;
995         *mask = netmask;
996         return 0;
997 }
998
999 /*
1000  * NetifInfo[] will be filled for pseudo netif initialization.
1001  * NetifNum will be bumped to reflect the number of valid entries
1002  * in NetifInfo[].
1003  */
1004 static
1005 void
1006 init_netif(char *netifExp[], int netifExpNum)
1007 {
1008         int i, s;
1009
1010         if (netifExpNum == 0)
1011                 return;
1012
1013         s = socket(AF_INET, SOCK_DGRAM, 0);     /* for ioctl(SIOC) */
1014         if (s < 0)
1015                 return;
1016
1017         for (i = 0; i < netifExpNum; ++i) {
1018                 struct vknetif_info *info;
1019                 in_addr_t netif_addr, netif_mask;
1020                 int tap_fd, tap_unit;
1021                 char *netif;
1022
1023                 netif = strtok(netifExp[i], ":");
1024                 if (netif == NULL) {
1025                         warnx("Invalid argument to '-I'");
1026                         continue;
1027                 }
1028
1029                 /*
1030                  * Open tap(4) device file and bring up the
1031                  * corresponding interface
1032                  */
1033                 tap_fd = netif_open_tap(netif, &tap_unit, s);
1034                 if (tap_fd < 0)
1035                         continue;
1036
1037                 /*
1038                  * Initialize tap(4) and get address/netmask
1039                  * for pseudo netif
1040                  *
1041                  * NB: Rest part of netifExp[i] is passed
1042                  *     to netif_init_tap() implicitly.
1043                  */
1044                 if (netif_init_tap(tap_unit, &netif_addr, &netif_mask, s) < 0) {
1045                         /*
1046                          * NB: Closing tap(4) device file will bring
1047                          *     down the corresponding interface
1048                          */
1049                         close(tap_fd);
1050                         continue;
1051                 }
1052
1053                 info = &NetifInfo[NetifNum];
1054                 info->tap_fd = tap_fd;
1055                 info->tap_unit = tap_unit;
1056                 info->netif_addr = netif_addr;
1057                 info->netif_mask = netif_mask;
1058
1059                 NetifNum++;
1060                 if (NetifNum >= VKNETIF_MAX)    /* XXX will this happen? */
1061                         break;
1062         }
1063         close(s);
1064 }
1065
1066 static
1067 void
1068 writepid( void )
1069 {
1070         pid_t self;
1071         FILE *fp;
1072
1073         if (pid_file != NULL) {
1074                 self = getpid();
1075                 fp = fopen(pid_file, "w");
1076
1077                 if (fp != NULL) {
1078                         fprintf(fp, "%ld\n", (long)self);
1079                         fclose(fp);
1080                 }
1081                 else {
1082                         perror("Warning: couldn't open pidfile");
1083                 }
1084         }
1085 }
1086
1087 static
1088 void
1089 cleanpid( void ) 
1090 {
1091         if (pid_file != NULL) {
1092                 if ( unlink(pid_file) != 0 )
1093                         perror("Warning: couldn't remove pidfile");
1094         }
1095 }
1096
1097 static
1098 void
1099 usage(const char *str)
1100 {
1101         fprintf(stderr, "%s\n", str);
1102         exit(1);
1103 }
1104
1105 void
1106 cpu_reset(void)
1107 {
1108         kprintf("cpu reset, rebooting vkernel\n");
1109         closefrom(3);
1110         cleanpid();
1111         execv(save_av[0], save_av);
1112 }
1113
1114 void
1115 cpu_halt(void)
1116 {
1117         kprintf("cpu halt, exiting vkernel\n");
1118         cleanpid();
1119         exit(0);
1120 }