sys/kern/kern_linker.c

   1 /*-
   2  * Copyright (c) 1997 Doug Rabson
   3  * All rights reserved.
   4  *
   5  * Redistribution and use in source and binary forms, with or without
   6  * modification, are permitted provided that the following conditions
   7  * are met:
   8  * 1. Redistributions of source code must retain the above copyright
   9  *    notice, this list of conditions and the following disclaimer.
  10  * 2. Redistributions in binary form must reproduce the above copyright
  11  *    notice, this list of conditions and the following disclaimer in the
  12  *    documentation and/or other materials provided with the distribution.
  13  *
  14  * THIS SOFTWARE IS PROVIDED BY THE AUTHOR AND CONTRIBUTORS ``AS IS'' AND
  15  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  16  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
  17  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
  18  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
  19  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
  20  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
  21  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
  22  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
  23  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
  24  * SUCH DAMAGE.
  25  *
  26  * $FreeBSD: src/sys/kern/kern_linker.c,v 1.41.2.3 2001/11/21 17:50:35 luigi Exp $
  27  * $DragonFly: src/sys/kern/kern_linker.c,v 1.6 2003/06/27 01:53:25 dillon Exp $
  28  */
  29
  30 #include "opt_ddb.h"
  31
  32 #include <sys/param.h>
  33 #include <sys/kernel.h>
  34 #include <sys/systm.h>
  35 #include <sys/malloc.h>
  36 #include <sys/sysproto.h>
  37 #include <sys/sysent.h>
  38 #include <sys/proc.h>
  39 #include <sys/lock.h>
  40 #include <sys/module.h>
  41 #include <sys/linker.h>
  42 #include <sys/fcntl.h>
  43 #include <sys/libkern.h>
  44 #include <sys/namei.h>
  45 #include <sys/vnode.h>
  46 #include <sys/sysctl.h>
  47
  48 #include <vm/vm_zone.h>
  49
  50 #ifdef KLD_DEBUG
  51 int kld_debug = 0;
  52 #endif
  53
  54 MALLOC_DEFINE(M_LINKER, "kld", "kernel linker");
  55 linker_file_t linker_current_file;
  56 linker_file_t linker_kernel_file;
  57
  58 static struct lock lock;        /* lock for the file list */
  59 static linker_class_list_t classes;
  60 static linker_file_list_t linker_files;
  61 static int next_file_id = 1;
  62
  63 static void
  64 linker_init(void* arg)
  65 {
  66     lockinit(&lock, PVM, "klink", 0, 0);
  67     TAILQ_INIT(&classes);
  68     TAILQ_INIT(&linker_files);
  69 }
  70
  71 SYSINIT(linker, SI_SUB_KLD, SI_ORDER_FIRST, linker_init, 0);
  72
  73 int
  74 linker_add_class(const char* desc, void* priv,
  75                  struct linker_class_ops* ops)
  76 {
  77     linker_class_t lc;
  78
  79     lc = malloc(sizeof(struct linker_class), M_LINKER, M_NOWAIT);
  80     if (!lc)
  81         return ENOMEM;
  82     bzero(lc, sizeof(*lc));
  83
  84     lc->desc = desc;
  85     lc->priv = priv;
  86     lc->ops = ops;
  87     TAILQ_INSERT_HEAD(&classes, lc, link);
  88
  89     return 0;
  90 }
  91
  92 static int
  93 linker_file_sysinit(linker_file_t lf)
  94 {
  95     struct linker_set* sysinits;
  96     struct sysinit** sipp;
  97     struct sysinit** xipp;
  98     struct sysinit* save;
  99     const moduledata_t *moddata;
 100     int error;
 101
 102     KLD_DPF(FILE, ("linker_file_sysinit: calling SYSINITs for %s\n",
 103                    lf->filename));
 104
 105     sysinits = (struct linker_set*)
 106         linker_file_lookup_symbol(lf, "sysinit_set", 0);
 107
 108     KLD_DPF(FILE, ("linker_file_sysinit: SYSINITs %p\n", sysinits));
 109     if (!sysinits)
 110         return 0; /* XXX is this correct ? No sysinit ? */
 111
 112     /* HACK ALERT! */
 113     for (sipp = (struct sysinit **)sysinits->ls_items; *sipp; sipp++) {
 114         if ((*sipp)->func == module_register_init) {
 115             moddata = (*sipp)->udata;
 116             error = module_register(moddata, lf);
 117             if (error) {
 118                 printf("linker_file_sysinit \"%s\" failed to register! %d\n",
 119                     lf->filename, error);
 120                 return error;
 121             }
 122         }
 123     }
 124
 125     /*
 126      * Perform a bubble sort of the system initialization objects by
 127      * their subsystem (primary key) and order (secondary key).
 128      *
 129      * Since some things care about execution order, this is the
 130      * operation which ensures continued function.
 131      */
 132     for (sipp = (struct sysinit **)sysinits->ls_items; *sipp; sipp++) {
 133         for (xipp = sipp + 1; *xipp; xipp++) {
 134             if ((*sipp)->subsystem < (*xipp)->subsystem ||
 135                  ((*sipp)->subsystem == (*xipp)->subsystem &&
 136                   (*sipp)->order <= (*xipp)->order))
 137                 continue;       /* skip*/
 138             save = *sipp;
 139             *sipp = *xipp;
 140             *xipp = save;
 141         }
 142     }
 143
 144
 145     /*
 146      * Traverse the (now) ordered list of system initialization tasks.
 147      * Perform each task, and continue on to the next task.
 148      */
 149     for (sipp = (struct sysinit **)sysinits->ls_items; *sipp; sipp++) {
 150         if ((*sipp)->subsystem == SI_SUB_DUMMY)
 151             continue;   /* skip dummy task(s)*/
 152
 153         /* Call function */
 154         (*((*sipp)->func))((*sipp)->udata);
 155     }
 156     return 0; /* no errors */
 157 }
 158
 159 static void
 160 linker_file_sysuninit(linker_file_t lf)
 161 {
 162     struct linker_set* sysuninits;
 163     struct sysinit** sipp;
 164     struct sysinit** xipp;
 165     struct sysinit* save;
 166
 167     KLD_DPF(FILE, ("linker_file_sysuninit: calling SYSUNINITs for %s\n",
 168                    lf->filename));
 169
 170     sysuninits = (struct linker_set*)
 171         linker_file_lookup_symbol(lf, "sysuninit_set", 0);
 172
 173     KLD_DPF(FILE, ("linker_file_sysuninit: SYSUNINITs %p\n", sysuninits));
 174     if (!sysuninits)
 175         return;
 176
 177     /*
 178      * Perform a reverse bubble sort of the system initialization objects
 179      * by their subsystem (primary key) and order (secondary key).
 180      *
 181      * Since some things care about execution order, this is the
 182      * operation which ensures continued function.
 183      */
 184     for (sipp = (struct sysinit **)sysuninits->ls_items; *sipp; sipp++) {
 185         for (xipp = sipp + 1; *xipp; xipp++) {
 186             if ((*sipp)->subsystem > (*xipp)->subsystem ||
 187                  ((*sipp)->subsystem == (*xipp)->subsystem &&
 188                   (*sipp)->order >= (*xipp)->order))
 189                 continue;       /* skip*/
 190             save = *sipp;
 191             *sipp = *xipp;
 192             *xipp = save;
 193         }
 194     }
 195
 196
 197     /*
 198      * Traverse the (now) ordered list of system initialization tasks.
 199      * Perform each task, and continue on to the next task.
 200      */
 201     for (sipp = (struct sysinit **)sysuninits->ls_items; *sipp; sipp++) {
 202         if ((*sipp)->subsystem == SI_SUB_DUMMY)
 203             continue;   /* skip dummy task(s)*/
 204
 205         /* Call function */
 206         (*((*sipp)->func))((*sipp)->udata);
 207     }
 208 }
 209
 210 static void
 211 linker_file_register_sysctls(linker_file_t lf)
 212 {
 213     struct linker_set* sysctls;
 214
 215     KLD_DPF(FILE, ("linker_file_register_sysctls: registering SYSCTLs for %s\n",
 216                    lf->filename));
 217
 218     sysctls = (struct linker_set*)
 219         linker_file_lookup_symbol(lf, "sysctl_set", 0);
 220
 221     KLD_DPF(FILE, ("linker_file_register_sysctls: SYSCTLs %p\n", sysctls));
 222     if (!sysctls)
 223         return;
 224
 225     sysctl_register_set(sysctls);
 226 }
 227
 228 static void
 229 linker_file_unregister_sysctls(linker_file_t lf)
 230 {
 231     struct linker_set* sysctls;
 232
 233     KLD_DPF(FILE, ("linker_file_unregister_sysctls: registering SYSCTLs for %s\n",
 234                    lf->filename));
 235
 236     sysctls = (struct linker_set*)
 237         linker_file_lookup_symbol(lf, "sysctl_set", 0);
 238
 239     KLD_DPF(FILE, ("linker_file_unregister_sysctls: SYSCTLs %p\n", sysctls));
 240     if (!sysctls)
 241         return;
 242
 243     sysctl_unregister_set(sysctls);
 244 }
 245
 246 int
 247 linker_load_file(const char* filename, linker_file_t* result)
 248 {
 249     linker_class_t lc;
 250     linker_file_t lf;
 251     int foundfile, error = 0;
 252     char *koname = NULL;
 253
 254     /* Refuse to load modules if securelevel raised */
 255     if (securelevel > 0)
 256         return EPERM;
 257
 258     lf = linker_find_file_by_name(filename);
 259     if (lf) {
 260         KLD_DPF(FILE, ("linker_load_file: file %s is already loaded, incrementing refs\n", filename));
 261         *result = lf;
 262         lf->refs++;
 263         goto out;
 264     }
 265
 266     koname = malloc(strlen(filename) + 4, M_LINKER, M_WAITOK);
 267     if (koname == NULL) {
 268         error = ENOMEM;
 269         goto out;
 270     }
 271     sprintf(koname, "%s.ko", filename);
 272     lf = NULL;
 273     foundfile = 0;
 274     for (lc = TAILQ_FIRST(&classes); lc; lc = TAILQ_NEXT(lc, link)) {
 275         KLD_DPF(FILE, ("linker_load_file: trying to load %s as %s\n",
 276                        filename, lc->desc));
 277
 278         error = lc->ops->load_file(koname, &lf);        /* First with .ko */
 279         if (lf == NULL && error == ENOENT)
 280             error = lc->ops->load_file(filename, &lf);  /* Then try without */
 281         /*
 282          * If we got something other than ENOENT, then it exists but we cannot
 283          * load it for some other reason.
 284          */
 285         if (error != ENOENT)
 286             foundfile = 1;
 287         if (lf) {
 288             linker_file_register_sysctls(lf);
 289             error = linker_file_sysinit(lf);
 290
 291             *result = lf;
 292             goto out;
 293         }
 294     }
 295     /*
 296      * Less than ideal, but tells the user whether it failed to load or
 297      * the module was not found.
 298      */
 299     if (foundfile)
 300         error = ENOEXEC;        /* Format not recognised (or unloadable) */
 301     else
 302         error = ENOENT;         /* Nothing found */
 303
 304 out:
 305     if (koname)
 306         free(koname, M_LINKER);
 307     return error;
 308 }
 309
 310 linker_file_t
 311 linker_find_file_by_name(const char* filename)
 312 {
 313     linker_file_t lf = 0;
 314     char *koname;
 315
 316     koname = malloc(strlen(filename) + 4, M_LINKER, M_WAITOK);
 317     if (koname == NULL)
 318         goto out;
 319     sprintf(koname, "%s.ko", filename);
 320
 321     lockmgr(&lock, LK_SHARED, 0, curthread);
 322     for (lf = TAILQ_FIRST(&linker_files); lf; lf = TAILQ_NEXT(lf, link)) {
 323         if (!strcmp(lf->filename, koname))
 324             break;
 325         if (!strcmp(lf->filename, filename))
 326             break;
 327     }
 328     lockmgr(&lock, LK_RELEASE, 0, curthread);
 329
 330 out:
 331     if (koname)
 332         free(koname, M_LINKER);
 333     return lf;
 334 }
 335
 336 linker_file_t
 337 linker_find_file_by_id(int fileid)
 338 {
 339     linker_file_t lf = 0;
 340
 341     lockmgr(&lock, LK_SHARED, 0, curthread);
 342     for (lf = TAILQ_FIRST(&linker_files); lf; lf = TAILQ_NEXT(lf, link))
 343         if (lf->id == fileid)
 344             break;
 345     lockmgr(&lock, LK_RELEASE, 0, curthread);
 346
 347     return lf;
 348 }
 349
 350 linker_file_t
 351 linker_make_file(const char* pathname, void* priv, struct linker_file_ops* ops)
 352 {
 353     linker_file_t lf = 0;
 354     int namelen;
 355     const char *filename;
 356
 357     filename = rindex(pathname, '/');
 358     if (filename && filename[1])
 359         filename++;
 360     else
 361         filename = pathname;
 362
 363     KLD_DPF(FILE, ("linker_make_file: new file, filename=%s\n", filename));
 364     lockmgr(&lock, LK_EXCLUSIVE, 0, curthread);
 365     namelen = strlen(filename) + 1;
 366     lf = malloc(sizeof(struct linker_file) + namelen, M_LINKER, M_WAITOK);
 367     if (!lf)
 368         goto out;
 369     bzero(lf, sizeof(*lf));
 370
 371     lf->refs = 1;
 372     lf->userrefs = 0;
 373     lf->flags = 0;
 374     lf->filename = (char*) (lf + 1);
 375     strcpy(lf->filename, filename);
 376     lf->id = next_file_id++;
 377     lf->ndeps = 0;
 378     lf->deps = NULL;
 379     STAILQ_INIT(&lf->common);
 380     TAILQ_INIT(&lf->modules);
 381
 382     lf->priv = priv;
 383     lf->ops = ops;
 384     TAILQ_INSERT_TAIL(&linker_files, lf, link);
 385
 386 out:
 387     lockmgr(&lock, LK_RELEASE, 0, curthread);
 388     return lf;
 389 }
 390
 391 int
 392 linker_file_unload(linker_file_t file)
 393 {
 394     module_t mod, next;
 395     struct common_symbol* cp;
 396     int error = 0;
 397     int i;
 398
 399     /* Refuse to unload modules if securelevel raised */
 400     if (securelevel > 0)
 401         return EPERM;
 402
 403     KLD_DPF(FILE, ("linker_file_unload: lf->refs=%d\n", file->refs));
 404     lockmgr(&lock, LK_EXCLUSIVE, 0, curthread);
 405     if (file->refs == 1) {
 406         KLD_DPF(FILE, ("linker_file_unload: file is unloading, informing modules\n"));
 407         /*
 408          * Inform any modules associated with this file.
 409          */
 410         for (mod = TAILQ_FIRST(&file->modules); mod; mod = next) {
 411             next = module_getfnext(mod);
 412
 413             /*
 414              * Give the module a chance to veto the unload.
 415              */
 416             if ((error = module_unload(mod)) != 0) {
 417                 KLD_DPF(FILE, ("linker_file_unload: module %x vetoes unload\n",
 418                                mod));
 419                 lockmgr(&lock, LK_RELEASE, 0, curthread);
 420                 goto out;
 421             }
 422
 423             module_release(mod);
 424         }
 425     }
 426
 427     file->refs--;
 428     if (file->refs > 0) {
 429         lockmgr(&lock, LK_RELEASE, 0, curthread);
 430         goto out;
 431     }
 432
 433     /* Don't try to run SYSUNINITs if we are unloaded due to a link error */
 434     if (file->flags & LINKER_FILE_LINKED) {
 435         linker_file_sysuninit(file);
 436         linker_file_unregister_sysctls(file);
 437     }
 438
 439     TAILQ_REMOVE(&linker_files, file, link);
 440     lockmgr(&lock, LK_RELEASE, 0, curthread);
 441
 442     for (i = 0; i < file->ndeps; i++)
 443         linker_file_unload(file->deps[i]);
 444     free(file->deps, M_LINKER);
 445
 446     for (cp = STAILQ_FIRST(&file->common); cp;
 447          cp = STAILQ_FIRST(&file->common)) {
 448         STAILQ_REMOVE(&file->common, cp, common_symbol, link);
 449         free(cp, M_LINKER);
 450     }
 451
 452     file->ops->unload(file);
 453     free(file, M_LINKER);
 454
 455 out:
 456     return error;
 457 }
 458
 459 int
 460 linker_file_add_dependancy(linker_file_t file, linker_file_t dep)
 461 {
 462     linker_file_t* newdeps;
 463
 464     newdeps = malloc((file->ndeps + 1) * sizeof(linker_file_t*),
 465                      M_LINKER, M_WAITOK);
 466     if (newdeps == NULL)
 467         return ENOMEM;
 468     bzero(newdeps, (file->ndeps + 1) * sizeof(linker_file_t*));
 469
 470     if (file->deps) {
 471         bcopy(file->deps, newdeps, file->ndeps * sizeof(linker_file_t*));
 472         free(file->deps, M_LINKER);
 473     }
 474     file->deps = newdeps;
 475     file->deps[file->ndeps] = dep;
 476     file->ndeps++;
 477
 478     return 0;
 479 }
 480
 481 caddr_t
 482 linker_file_lookup_symbol(linker_file_t file, const char* name, int deps)
 483 {
 484     c_linker_sym_t sym;
 485     linker_symval_t symval;
 486     linker_file_t lf;
 487     caddr_t address;
 488     size_t common_size = 0;
 489     int i;
 490
 491     KLD_DPF(SYM, ("linker_file_lookup_symbol: file=%x, name=%s, deps=%d\n",
 492                   file, name, deps));
 493
 494     if (file->ops->lookup_symbol(file, name, &sym) == 0) {
 495         file->ops->symbol_values(file, sym, &symval);
 496         if (symval.value == 0)
 497             /*
 498              * For commons, first look them up in the dependancies and
 499              * only allocate space if not found there.
 500              */
 501             common_size = symval.size;
 502         else {
 503             KLD_DPF(SYM, ("linker_file_lookup_symbol: symbol.value=%x\n", symval.value));
 504             return symval.value;
 505         }
 506     }
 507
 508     if (deps) {
 509         for (i = 0; i < file->ndeps; i++) {
 510             address = linker_file_lookup_symbol(file->deps[i], name, 0);
 511             if (address) {
 512                 KLD_DPF(SYM, ("linker_file_lookup_symbol: deps value=%x\n", address));
 513                 return address;
 514             }
 515         }
 516
 517         /* If we have not found it in the dependencies, search globally */
 518         for (lf = TAILQ_FIRST(&linker_files); lf; lf = TAILQ_NEXT(lf, link)) {
 519             /* But skip the current file if it's on the list */
 520             if (lf == file)
 521                 continue;
 522             /* And skip the files we searched above */
 523             for (i = 0; i < file->ndeps; i++)
 524                 if (lf == file->deps[i])
 525                     break;
 526             if (i < file->ndeps)
 527                 continue;
 528             address = linker_file_lookup_symbol(lf, name, 0);
 529             if (address) {
 530                 KLD_DPF(SYM, ("linker_file_lookup_symbol: global value=%x\n", address));
 531                 return address;
 532             }
 533         }
 534     }
 535
 536     if (common_size > 0) {
 537         /*
 538          * This is a common symbol which was not found in the
 539          * dependancies.  We maintain a simple common symbol table in
 540          * the file object.
 541          */
 542         struct common_symbol* cp;
 543
 544         for (cp = STAILQ_FIRST(&file->common); cp;
 545              cp = STAILQ_NEXT(cp, link))
 546             if (!strcmp(cp->name, name)) {
 547                 KLD_DPF(SYM, ("linker_file_lookup_symbol: old common value=%x\n", cp->address));
 548                 return cp->address;
 549             }
 550
 551         /*
 552          * Round the symbol size up to align.
 553          */
 554         common_size = (common_size + sizeof(int) - 1) & -sizeof(int);
 555         cp = malloc(sizeof(struct common_symbol)
 556                     + common_size
 557                     + strlen(name) + 1,
 558                     M_LINKER, M_WAITOK);
 559         if (!cp) {
 560             KLD_DPF(SYM, ("linker_file_lookup_symbol: nomem\n"));
 561             return 0;
 562         }
 563         bzero(cp, sizeof(struct common_symbol) + common_size + strlen(name)+ 1);
 564
 565         cp->address = (caddr_t) (cp + 1);
 566         cp->name = cp->address + common_size;
 567         strcpy(cp->name, name);
 568         bzero(cp->address, common_size);
 569         STAILQ_INSERT_TAIL(&file->common, cp, link);
 570
 571         KLD_DPF(SYM, ("linker_file_lookup_symbol: new common value=%x\n", cp->address));
 572         return cp->address;
 573     }
 574
 575     KLD_DPF(SYM, ("linker_file_lookup_symbol: fail\n"));
 576     return 0;
 577 }
 578
 579 #ifdef DDB
 580 /*
 581  * DDB Helpers.  DDB has to look across multiple files with their own
 582  * symbol tables and string tables.
 583  *
 584  * Note that we do not obey list locking protocols here.  We really don't
 585  * need DDB to hang because somebody's got the lock held.  We'll take the
 586  * chance that the files list is inconsistant instead.
 587  */
 588
 589 int
 590 linker_ddb_lookup(const char *symstr, c_linker_sym_t *sym)
 591 {
 592     linker_file_t lf;
 593
 594     for (lf = TAILQ_FIRST(&linker_files); lf; lf = TAILQ_NEXT(lf, link)) {
 595         if (lf->ops->lookup_symbol(lf, symstr, sym) == 0)
 596             return 0;
 597     }
 598     return ENOENT;
 599 }
 600
 601 int
 602 linker_ddb_search_symbol(caddr_t value, c_linker_sym_t *sym, long *diffp)
 603 {
 604     linker_file_t lf;
 605     u_long off = (uintptr_t)value;
 606     u_long diff, bestdiff;
 607     c_linker_sym_t best;
 608     c_linker_sym_t es;
 609
 610     best = 0;
 611     bestdiff = off;
 612     for (lf = TAILQ_FIRST(&linker_files); lf; lf = TAILQ_NEXT(lf, link)) {
 613         if (lf->ops->search_symbol(lf, value, &es, &diff) != 0)
 614             continue;
 615         if (es != 0 && diff < bestdiff) {
 616             best = es;
 617             bestdiff = diff;
 618         }
 619         if (bestdiff == 0)
 620             break;
 621     }
 622     if (best) {
 623         *sym = best;
 624         *diffp = bestdiff;
 625         return 0;
 626     } else {
 627         *sym = 0;
 628         *diffp = off;
 629         return ENOENT;
 630     }
 631 }
 632
 633 int
 634 linker_ddb_symbol_values(c_linker_sym_t sym, linker_symval_t *symval)
 635 {
 636     linker_file_t lf;
 637
 638     for (lf = TAILQ_FIRST(&linker_files); lf; lf = TAILQ_NEXT(lf, link)) {
 639         if (lf->ops->symbol_values(lf, sym, symval) == 0)
 640             return 0;
 641     }
 642     return ENOENT;
 643 }
 644
 645 #endif
 646
 647 /*
 648  * Syscalls.
 649  */
 650
 651 int
 652 kldload(struct kldload_args *uap)
 653 {
 654     struct thread *td = curthread;
 655     struct proc *p = td->td_proc;
 656     char* filename = NULL, *modulename;
 657     linker_file_t lf;
 658     int error = 0;
 659
 660     p->p_retval[0] = -1;
 661
 662     if (securelevel > 0)        /* redundant, but that's OK */
 663         return EPERM;
 664
 665     if ((error = suser(td)) != 0)
 666         return error;
 667
 668     filename = malloc(MAXPATHLEN, M_TEMP, M_WAITOK);
 669     if ((error = copyinstr(SCARG(uap, file), filename, MAXPATHLEN, NULL)) != 0)
 670         goto out;
 671
 672     /* Can't load more than one module with the same name */
 673     modulename = rindex(filename, '/');
 674     if (modulename == NULL)
 675         modulename = filename;
 676     else
 677         modulename++;
 678     if (linker_find_file_by_name(modulename)) {
 679         error = EEXIST;
 680         goto out;
 681     }
 682
 683     if ((error = linker_load_file(filename, &lf)) != 0)
 684         goto out;
 685
 686     lf->userrefs++;
 687     p->p_retval[0] = lf->id;
 688
 689 out:
 690     if (filename)
 691         free(filename, M_TEMP);
 692     return error;
 693 }
 694
 695 int
 696 kldunload(struct kldunload_args *uap)
 697 {
 698     struct thread *td = curthread;
 699     linker_file_t lf;
 700     int error = 0;
 701
 702     if (securelevel > 0)        /* redundant, but that's OK */
 703         return EPERM;
 704
 705     if ((error = suser(td)) != 0)
 706         return error;
 707
 708     lf = linker_find_file_by_id(SCARG(uap, fileid));
 709     if (lf) {
 710         KLD_DPF(FILE, ("kldunload: lf->userrefs=%d\n", lf->userrefs));
 711         if (lf->userrefs == 0) {
 712             printf("linkerunload: attempt to unload file that was loaded by the kernel\n");
 713             error = EBUSY;
 714             goto out;
 715         }
 716         lf->userrefs--;
 717         error = linker_file_unload(lf);
 718         if (error)
 719             lf->userrefs++;
 720     } else
 721         error = ENOENT;
 722
 723 out:
 724     return error;
 725 }
 726
 727 int
 728 kldfind(struct kldfind_args *uap)
 729 {
 730     struct proc *p = curproc;
 731     char *filename = NULL, *modulename;
 732     linker_file_t lf;
 733     int error = 0;
 734
 735     p->p_retval[0] = -1;
 736
 737     filename = malloc(MAXPATHLEN, M_TEMP, M_WAITOK);
 738     if ((error = copyinstr(SCARG(uap, file), filename, MAXPATHLEN, NULL)) != 0)
 739         goto out;
 740
 741     modulename = rindex(filename, '/');
 742     if (modulename == NULL)
 743         modulename = filename;
 744
 745     lf = linker_find_file_by_name(modulename);
 746     if (lf)
 747         p->p_retval[0] = lf->id;
 748     else
 749         error = ENOENT;
 750
 751 out:
 752     if (filename)
 753         free(filename, M_TEMP);
 754     return error;
 755 }
 756
 757 int
 758 kldnext(struct kldnext_args *uap)
 759 {
 760     struct proc *p = curproc;
 761     linker_file_t lf;
 762     int error = 0;
 763
 764     if (SCARG(uap, fileid) == 0) {
 765         if (TAILQ_FIRST(&linker_files))
 766             p->p_retval[0] = TAILQ_FIRST(&linker_files)->id;
 767         else
 768             p->p_retval[0] = 0;
 769         return 0;
 770     }
 771
 772     lf = linker_find_file_by_id(SCARG(uap, fileid));
 773     if (lf) {
 774         if (TAILQ_NEXT(lf, link))
 775             p->p_retval[0] = TAILQ_NEXT(lf, link)->id;
 776         else
 777             p->p_retval[0] = 0;
 778     } else
 779         error = ENOENT;
 780
 781     return error;
 782 }
 783
 784 int
 785 kldstat(struct kldstat_args *uap)
 786 {
 787     struct proc *p = curproc;
 788     linker_file_t lf;
 789     int error = 0;
 790     int version;
 791     struct kld_file_stat* stat;
 792     int namelen;
 793
 794     lf = linker_find_file_by_id(SCARG(uap, fileid));
 795     if (!lf) {
 796         error = ENOENT;
 797         goto out;
 798     }
 799
 800     stat = SCARG(uap, stat);
 801
 802     /*
 803      * Check the version of the user's structure.
 804      */
 805     if ((error = copyin(&stat->version, &version, sizeof(version))) != 0)
 806         goto out;
 807     if (version != sizeof(struct kld_file_stat)) {
 808         error = EINVAL;
 809         goto out;
 810     }
 811
 812     namelen = strlen(lf->filename) + 1;
 813     if (namelen > MAXPATHLEN)
 814         namelen = MAXPATHLEN;
 815     if ((error = copyout(lf->filename, &stat->name[0], namelen)) != 0)
 816         goto out;
 817     if ((error = copyout(&lf->refs, &stat->refs, sizeof(int))) != 0)
 818         goto out;
 819     if ((error = copyout(&lf->id, &stat->id, sizeof(int))) != 0)
 820         goto out;
 821     if ((error = copyout(&lf->address, &stat->address, sizeof(caddr_t))) != 0)
 822         goto out;
 823     if ((error = copyout(&lf->size, &stat->size, sizeof(size_t))) != 0)
 824         goto out;
 825
 826     p->p_retval[0] = 0;
 827
 828 out:
 829     return error;
 830 }
 831
 832 int
 833 kldfirstmod(struct kldfirstmod_args *uap)
 834 {
 835     struct proc *p = curproc;
 836     linker_file_t lf;
 837     int error = 0;
 838
 839     lf = linker_find_file_by_id(SCARG(uap, fileid));
 840     if (lf) {
 841         if (TAILQ_FIRST(&lf->modules))
 842             p->p_retval[0] = module_getid(TAILQ_FIRST(&lf->modules));
 843         else
 844             p->p_retval[0] = 0;
 845     } else
 846         error = ENOENT;
 847
 848     return error;
 849 }
 850
 851 int
 852 kldsym(struct kldsym_args *uap)
 853 {
 854     char *symstr = NULL;
 855     c_linker_sym_t sym;
 856     linker_symval_t symval;
 857     linker_file_t lf;
 858     struct kld_sym_lookup lookup;
 859     int error = 0;
 860
 861     if ((error = copyin(SCARG(uap, data), &lookup, sizeof(lookup))) != 0)
 862         goto out;
 863     if (lookup.version != sizeof(lookup) || SCARG(uap, cmd) != KLDSYM_LOOKUP) {
 864         error = EINVAL;
 865         goto out;
 866     }
 867
 868     symstr = malloc(MAXPATHLEN, M_TEMP, M_WAITOK);
 869     if ((error = copyinstr(lookup.symname, symstr, MAXPATHLEN, NULL)) != 0)
 870         goto out;
 871
 872     if (SCARG(uap, fileid) != 0) {
 873         lf = linker_find_file_by_id(SCARG(uap, fileid));
 874         if (lf == NULL) {
 875             error = ENOENT;
 876             goto out;
 877         }
 878         if (lf->ops->lookup_symbol(lf, symstr, &sym) == 0 &&
 879             lf->ops->symbol_values(lf, sym, &symval) == 0) {
 880             lookup.symvalue = (uintptr_t)symval.value;
 881             lookup.symsize = symval.size;
 882             error = copyout(&lookup, SCARG(uap, data), sizeof(lookup));
 883         } else
 884             error = ENOENT;
 885     } else {
 886         for (lf = TAILQ_FIRST(&linker_files); lf; lf = TAILQ_NEXT(lf, link)) {
 887             if (lf->ops->lookup_symbol(lf, symstr, &sym) == 0 &&
 888                 lf->ops->symbol_values(lf, sym, &symval) == 0) {
 889                 lookup.symvalue = (uintptr_t)symval.value;
 890                 lookup.symsize = symval.size;
 891                 error = copyout(&lookup, SCARG(uap, data), sizeof(lookup));
 892                 break;
 893             }
 894         }
 895         if (!lf)
 896             error = ENOENT;
 897     }
 898 out:
 899     if (symstr)
 900         free(symstr, M_TEMP);
 901     return error;
 902 }
 903
 904 /*
 905  * Preloaded module support
 906  */
 907
 908 static void
 909 linker_preload(void* arg)
 910 {
 911     caddr_t             modptr;
 912     char                *modname;
 913     char                *modtype;
 914     linker_file_t       lf;
 915     linker_class_t      lc;
 916     int                 error;
 917     struct linker_set   *sysinits;
 918     struct sysinit      **sipp;
 919     const moduledata_t  *moddata;
 920
 921     modptr = NULL;
 922     while ((modptr = preload_search_next_name(modptr)) != NULL) {
 923         modname = (char *)preload_search_info(modptr, MODINFO_NAME);
 924         modtype = (char *)preload_search_info(modptr, MODINFO_TYPE);
 925         if (modname == NULL) {
 926             printf("Preloaded module at %p does not have a name!\n", modptr);
 927             continue;
 928         }
 929         if (modtype == NULL) {
 930             printf("Preloaded module at %p does not have a type!\n", modptr);
 931             continue;
 932         }
 933         printf("Preloaded %s \"%s\" at %p.\n", modtype, modname, modptr);
 934         lf = linker_find_file_by_name(modname);
 935         if (lf) {
 936             lf->userrefs++;
 937             continue;
 938         }
 939         lf = NULL;
 940         for (lc = TAILQ_FIRST(&classes); lc; lc = TAILQ_NEXT(lc, link)) {
 941             error = lc->ops->load_file(modname, &lf);
 942             if (error) {
 943                 lf = NULL;
 944                 break;
 945             }
 946         }
 947         if (lf) {
 948             lf->userrefs++;
 949
 950             sysinits = (struct linker_set*)
 951                 linker_file_lookup_symbol(lf, "sysinit_set", 0);
 952             if (sysinits) {
 953                 /* HACK ALERT!
 954                  * This is to set the sysinit moduledata so that the module
 955                  * can attach itself to the correct containing file.
 956                  * The sysinit could be run at *any* time.
 957                  */
 958                 for (sipp = (struct sysinit **)sysinits->ls_items; *sipp; sipp++) {
 959                     if ((*sipp)->func == module_register_init) {
 960                         moddata = (*sipp)->udata;
 961                         error = module_register(moddata, lf);
 962                         if (error)
 963                             printf("Preloaded %s \"%s\" failed to register: %d\n",
 964                                 modtype, modname, error);
 965                     }
 966                 }
 967                 sysinit_add((struct sysinit **)sysinits->ls_items);
 968             }
 969             linker_file_register_sysctls(lf);
 970         }
 971     }
 972 }
 973
 974 SYSINIT(preload, SI_SUB_KLD, SI_ORDER_MIDDLE, linker_preload, 0);
 975
 976 /*
 977  * Search for a not-loaded module by name.
 978  *
 979  * Modules may be found in the following locations:
 980  *
 981  * - preloaded (result is just the module name)
 982  * - on disk (result is full path to module)
 983  *
 984  * If the module name is qualified in any way (contains path, etc.)
 985  * the we simply return a copy of it.
 986  *
 987  * The search path can be manipulated via sysctl.  Note that we use the ';'
 988  * character as a separator to be consistent with the bootloader.
 989  */
 990
 991 static char linker_path[MAXPATHLEN] = "/;/boot/;/modules/";
 992
 993 SYSCTL_STRING(_kern, OID_AUTO, module_path, CTLFLAG_RW, linker_path,
 994               sizeof(linker_path), "module load search path");
 995
 996 static char *
 997 linker_strdup(const char *str)
 998 {
 999     char        *result;
1000
1001     if ((result = malloc((strlen(str) + 1), M_LINKER, M_WAITOK)) != NULL)
1002         strcpy(result, str);
1003     return(result);
1004 }
1005
1006 char *
1007 linker_search_path(const char *name)
1008 {
1009     struct nameidata    nd;
1010     struct thread       *td = curthread;
1011     char                *cp, *ep, *result;
1012     int                 error;
1013     enum vtype          type;
1014
1015     /* qualified at all? */
1016     if (index(name, '/'))
1017         return(linker_strdup(name));
1018
1019     /* traverse the linker path */
1020     cp = linker_path;
1021     for (;;) {
1022
1023         /* find the end of this component */
1024         for (ep = cp; (*ep != 0) && (*ep != ';'); ep++)
1025             ;
1026         result = malloc((strlen(name) + (ep - cp) + 1), M_LINKER, M_WAITOK);
1027         if (result == NULL)     /* actually ENOMEM */
1028             return(NULL);
1029
1030         strncpy(result, cp, ep - cp);
1031         strcpy(result + (ep - cp), name);
1032
1033         /*
1034          * Attempt to open the file, and return the path if we succeed and it's
1035          * a regular file.
1036          */
1037         NDINIT(&nd, LOOKUP, FOLLOW, UIO_SYSSPACE, result, td);
1038         error = vn_open(&nd, FREAD, 0);
1039         if (error == 0) {
1040             NDFREE(&nd, NDF_ONLY_PNBUF);
1041             type = nd.ni_vp->v_type;
1042             VOP_UNLOCK(nd.ni_vp, 0, td);
1043             vn_close(nd.ni_vp, FREAD, td);
1044             if (type == VREG)
1045                 return(result);
1046         }
1047         free(result, M_LINKER);
1048
1049         if (*ep == 0)
1050             break;
1051         cp = ep + 1;
1052     }
1053     return(NULL);
1054 }