sys/kern/vfs_vopops.c

   1 /*
   2  * Copyright (c) 2004,2009 The DragonFly Project.  All rights reserved.
   3  *
   4  * This code is derived from software contributed to The DragonFly Project
   5  * by Matthew Dillon <dillon@backplane.com>
   6  *
   7  * Redistribution and use in source and binary forms, with or without
   8  * modification, are permitted provided that the following conditions
   9  * are met:
  10  *
  11  * 1. Redistributions of source code must retain the above copyright
  12  *    notice, this list of conditions and the following disclaimer.
  13  * 2. Redistributions in binary form must reproduce the above copyright
  14  *    notice, this list of conditions and the following disclaimer in
  15  *    the documentation and/or other materials provided with the
  16  *    distribution.
  17  * 3. Neither the name of The DragonFly Project nor the names of its
  18  *    contributors may be used to endorse or promote products derived
  19  *    from this software without specific, prior written permission.
  20  *
  21  * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS
  22  * ``AS IS'' AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT
  23  * LIMITED TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS
  24  * FOR A PARTICULAR PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE
  25  * COPYRIGHT HOLDERS OR CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT,
  26  * INCIDENTAL, SPECIAL, EXEMPLARY OR CONSEQUENTIAL DAMAGES (INCLUDING,
  27  * BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
  28  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED
  29  * AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY,
  30  * OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT
  31  * OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
  32  * SUCH DAMAGE.
  33  */
  34 /*
  35  * Implement vnode ops wrappers.  All vnode ops are wrapped through
  36  * these functions.
  37  *
  38  * These wrappers are responsible for hanlding all MPSAFE issues related
  39  * to a vnode operation.
  40  */
  41
  42 #include <sys/param.h>
  43 #include <sys/systm.h>
  44 #include <sys/buf.h>
  45 #include <sys/conf.h>
  46 #include <sys/dirent.h>
  47 #include <sys/domain.h>
  48 #include <sys/eventhandler.h>
  49 #include <sys/fcntl.h>
  50 #include <sys/kernel.h>
  51 #include <sys/kthread.h>
  52 #include <sys/malloc.h>
  53 #include <sys/mbuf.h>
  54 #include <sys/mount.h>
  55 #include <sys/proc.h>
  56 #include <sys/namei.h>
  57 #include <sys/reboot.h>
  58 #include <sys/socket.h>
  59 #include <sys/stat.h>
  60 #include <sys/sysctl.h>
  61 #include <sys/syslog.h>
  62 #include <sys/vmmeter.h>
  63 #include <sys/vnode.h>
  64 #include <sys/vfsops.h>
  65 #include <sys/sysmsg.h>
  66
  67 #include <machine/limits.h>
  68
  69 #include <vm/vm.h>
  70 #include <vm/vm_object.h>
  71 #include <vm/vm_extern.h>
  72 #include <vm/vm_kern.h>
  73 #include <vm/pmap.h>
  74 #include <vm/vm_map.h>
  75 #include <vm/vm_page.h>
  76 #include <vm/vm_pager.h>
  77 #include <vm/vnode_pager.h>
  78 #include <vm/vm_zone.h>
  79
  80 #include <sys/buf2.h>
  81 #include <sys/thread2.h>
  82 #include <sys/mplock2.h>
  83
  84 #define VDESCNAME(name) __CONCAT(__CONCAT(vop_,name),_desc)
  85
  86 #define VNODEOP_DESC_INIT(name)                                         \
  87         struct syslink_desc VDESCNAME(name) = {                         \
  88                 __offsetof(struct vop_ops, __CONCAT(vop_, name)),       \
  89                 #name }
  90
  91 VNODEOP_DESC_INIT(default);
  92 VNODEOP_DESC_INIT(old_lookup);
  93 VNODEOP_DESC_INIT(old_create);
  94 VNODEOP_DESC_INIT(old_whiteout);
  95 VNODEOP_DESC_INIT(old_mknod);
  96 VNODEOP_DESC_INIT(open);
  97 VNODEOP_DESC_INIT(close);
  98 VNODEOP_DESC_INIT(access);
  99 VNODEOP_DESC_INIT(getattr);
 100 VNODEOP_DESC_INIT(setattr);
 101 VNODEOP_DESC_INIT(read);
 102 VNODEOP_DESC_INIT(write);
 103 VNODEOP_DESC_INIT(ioctl);
 104 VNODEOP_DESC_INIT(poll);
 105 VNODEOP_DESC_INIT(kqfilter);
 106 VNODEOP_DESC_INIT(mmap);
 107 VNODEOP_DESC_INIT(fsync);
 108 VNODEOP_DESC_INIT(old_remove);
 109 VNODEOP_DESC_INIT(old_link);
 110 VNODEOP_DESC_INIT(old_rename);
 111
 112 VNODEOP_DESC_INIT(old_mkdir);
 113 VNODEOP_DESC_INIT(old_rmdir);
 114 VNODEOP_DESC_INIT(old_symlink);
 115 VNODEOP_DESC_INIT(readdir);
 116 VNODEOP_DESC_INIT(readlink);
 117 VNODEOP_DESC_INIT(inactive);
 118 VNODEOP_DESC_INIT(reclaim);
 119 VNODEOP_DESC_INIT(bmap);
 120 VNODEOP_DESC_INIT(strategy);
 121 VNODEOP_DESC_INIT(print);
 122 VNODEOP_DESC_INIT(pathconf);
 123 VNODEOP_DESC_INIT(advlock);
 124 VNODEOP_DESC_INIT(balloc);
 125 VNODEOP_DESC_INIT(reallocblks);
 126 VNODEOP_DESC_INIT(getpages);
 127 VNODEOP_DESC_INIT(putpages);
 128 VNODEOP_DESC_INIT(freeblks);
 129 VNODEOP_DESC_INIT(getacl);
 130 VNODEOP_DESC_INIT(setacl);
 131 VNODEOP_DESC_INIT(aclcheck);
 132 VNODEOP_DESC_INIT(getextattr);
 133 VNODEOP_DESC_INIT(setextattr);
 134 VNODEOP_DESC_INIT(mountctl);
 135 VNODEOP_DESC_INIT(markatime);
 136
 137 VNODEOP_DESC_INIT(nresolve);
 138 VNODEOP_DESC_INIT(nlookupdotdot);
 139 VNODEOP_DESC_INIT(ncreate);
 140 VNODEOP_DESC_INIT(nmkdir);
 141 VNODEOP_DESC_INIT(nmknod);
 142 VNODEOP_DESC_INIT(nlink);
 143 VNODEOP_DESC_INIT(nsymlink);
 144 VNODEOP_DESC_INIT(nwhiteout);
 145 VNODEOP_DESC_INIT(nremove);
 146 VNODEOP_DESC_INIT(nrmdir);
 147 VNODEOP_DESC_INIT(nrename);
 148
 149 #define DO_OPS(ops, error, ap, vop_field)       \
 150         error = ops->vop_field(ap);
 151
 152 #define VFS_MPLOCK_DECLARE      struct lwkt_tokref xlock; int xlock_mpsafe
 153
 154 #define VFS_MPLOCK(mp)          VFS_MPLOCK_FLAG(mp, MNTK_MPSAFE)
 155
 156 #define VFS_MPLOCK_FLAG(mp, flag)                                       \
 157                 do {                                                    \
 158                         if (mp->mnt_kern_flag & flag) {                 \
 159                                 xlock_mpsafe = 1;                       \
 160                         } else {                                        \
 161                                 get_mplock();   /* TEMPORARY */         \
 162                                 lwkt_gettoken(&xlock, &mp->mnt_token);  \
 163                                 xlock_mpsafe = 0;                       \
 164                         }                                               \
 165                 } while(0)
 166
 167 #define VFS_MPUNLOCK(mp)                                                \
 168                 do {                                                    \
 169                         if (xlock_mpsafe == 0) {                        \
 170                                 lwkt_reltoken(&xlock);                  \
 171                                 rel_mplock();   /* TEMPORARY */         \
 172                         }                                               \
 173                 } while(0)
 174
 175 /************************************************************************
 176  *              PRIMARY HIGH LEVEL VNODE OPERATIONS CALLS               *
 177  ************************************************************************
 178  *
 179  * These procedures are called directly from the kernel and/or fileops
 180  * code to perform file/device operations on the system.
 181  *
 182  * NOTE: The old namespace api functions such as vop_rename() are no
 183  *       longer available for general use and have been renamed to
 184  *       vop_old_*().  Only the code in vfs_default.c is allowed to call
 185  *       those ops.
 186  *
 187  * NOTE: The VFS_MPLOCK*() macros handle mounts which do not set
 188  *       MNTK_MPSAFE or MNTK_xx_MPSAFE.
 189  *
 190  * MPSAFE
 191  */
 192
 193 int
 194 vop_old_lookup(struct vop_ops *ops, struct vnode *dvp,
 195         struct vnode **vpp, struct componentname *cnp)
 196 {
 197         struct vop_old_lookup_args ap;
 198         VFS_MPLOCK_DECLARE;
 199         int error;
 200
 201         ap.a_head.a_desc = &vop_old_lookup_desc;
 202         ap.a_head.a_ops = ops;
 203         ap.a_dvp = dvp;
 204         ap.a_vpp = vpp;
 205         ap.a_cnp = cnp;
 206         VFS_MPLOCK(dvp->v_mount);
 207         DO_OPS(ops, error, &ap, vop_old_lookup);
 208         VFS_MPUNLOCK(dvp->v_mount);
 209         return(error);
 210 }
 211
 212 /*
 213  * MPSAFE
 214  */
 215 int
 216 vop_old_create(struct vop_ops *ops, struct vnode *dvp,
 217         struct vnode **vpp, struct componentname *cnp, struct vattr *vap)
 218 {
 219         struct vop_old_create_args ap;
 220         VFS_MPLOCK_DECLARE;
 221         int error;
 222
 223         ap.a_head.a_desc = &vop_old_create_desc;
 224         ap.a_head.a_ops = ops;
 225         ap.a_dvp = dvp;
 226         ap.a_vpp = vpp;
 227         ap.a_cnp = cnp;
 228         ap.a_vap = vap;
 229
 230         VFS_MPLOCK(dvp->v_mount);
 231         DO_OPS(ops, error, &ap, vop_old_create);
 232         VFS_MPUNLOCK(dvp->v_mount);
 233         return(error);
 234 }
 235
 236 /*
 237  * MPSAFE
 238  */
 239 int
 240 vop_old_whiteout(struct vop_ops *ops, struct vnode *dvp,
 241         struct componentname *cnp, int flags)
 242 {
 243         struct vop_old_whiteout_args ap;
 244         VFS_MPLOCK_DECLARE;
 245         int error;
 246
 247         ap.a_head.a_desc = &vop_old_whiteout_desc;
 248         ap.a_head.a_ops = ops;
 249         ap.a_dvp = dvp;
 250         ap.a_cnp = cnp;
 251         ap.a_flags = flags;
 252
 253         VFS_MPLOCK(dvp->v_mount);
 254         DO_OPS(ops, error, &ap, vop_old_whiteout);
 255         VFS_MPUNLOCK(dvp->v_mount);
 256         return(error);
 257 }
 258
 259 /*
 260  * MPSAFE
 261  */
 262 int
 263 vop_old_mknod(struct vop_ops *ops, struct vnode *dvp,
 264         struct vnode **vpp, struct componentname *cnp, struct vattr *vap)
 265 {
 266         struct vop_old_mknod_args ap;
 267         VFS_MPLOCK_DECLARE;
 268         int error;
 269
 270         ap.a_head.a_desc = &vop_old_mknod_desc;
 271         ap.a_head.a_ops = ops;
 272         ap.a_dvp = dvp;
 273         ap.a_vpp = vpp;
 274         ap.a_cnp = cnp;
 275         ap.a_vap = vap;
 276
 277         VFS_MPLOCK(dvp->v_mount);
 278         DO_OPS(ops, error, &ap, vop_old_mknod);
 279         VFS_MPUNLOCK(dvp->v_mount);
 280         return(error);
 281 }
 282
 283 /*
 284  * NOTE: VAGE is always cleared when calling VOP_OPEN().
 285  */
 286 int
 287 vop_open(struct vop_ops *ops, struct vnode *vp, int mode, struct ucred *cred,
 288         struct file *fp)
 289 {
 290         struct vop_open_args ap;
 291         VFS_MPLOCK_DECLARE;
 292         int error;
 293
 294         /*
 295          * Decrement 3-2-1-0.  Does not decrement beyond 0
 296          */
 297         if (vp->v_flag & VAGE0) {
 298                 vp->v_flag &= ~VAGE0;
 299         } else if (vp->v_flag & VAGE1) {
 300                 vp->v_flag &= ~VAGE1;
 301                 vp->v_flag |= VAGE0;
 302         }
 303
 304         ap.a_head.a_desc = &vop_open_desc;
 305         ap.a_head.a_ops = ops;
 306         ap.a_vp = vp;
 307         ap.a_fp = fp;
 308         ap.a_mode = mode;
 309         ap.a_cred = cred;
 310
 311         VFS_MPLOCK(vp->v_mount);
 312         DO_OPS(ops, error, &ap, vop_open);
 313         VFS_MPUNLOCK(vp->v_mount);
 314         return(error);
 315 }
 316
 317 /*
 318  * MPSAFE
 319  */
 320 int
 321 vop_close(struct vop_ops *ops, struct vnode *vp, int fflag)
 322 {
 323         struct vop_close_args ap;
 324         VFS_MPLOCK_DECLARE;
 325         int error;
 326
 327         ap.a_head.a_desc = &vop_close_desc;
 328         ap.a_head.a_ops = ops;
 329         ap.a_vp = vp;
 330         ap.a_fflag = fflag;
 331
 332         VFS_MPLOCK(vp->v_mount);
 333         DO_OPS(ops, error, &ap, vop_close);
 334         VFS_MPUNLOCK(vp->v_mount);
 335         return(error);
 336 }
 337
 338 /*
 339  * MPSAFE
 340  */
 341 int
 342 vop_access(struct vop_ops *ops, struct vnode *vp, int mode, int flags,
 343            struct ucred *cred)
 344 {
 345         struct vop_access_args ap;
 346         VFS_MPLOCK_DECLARE;
 347         int error;
 348
 349         ap.a_head.a_desc = &vop_access_desc;
 350         ap.a_head.a_ops = ops;
 351         ap.a_vp = vp;
 352         ap.a_mode = mode;
 353         ap.a_flags = flags;
 354         ap.a_cred = cred;
 355
 356         VFS_MPLOCK(vp->v_mount);
 357         DO_OPS(ops, error, &ap, vop_access);
 358         VFS_MPUNLOCK(vp->v_mount);
 359         return(error);
 360 }
 361
 362 /*
 363  * MPSAFE
 364  */
 365 int
 366 vop_getattr(struct vop_ops *ops, struct vnode *vp, struct vattr *vap)
 367 {
 368         struct vop_getattr_args ap;
 369         VFS_MPLOCK_DECLARE;
 370         int error;
 371
 372         ap.a_head.a_desc = &vop_getattr_desc;
 373         ap.a_head.a_ops = ops;
 374         ap.a_vp = vp;
 375         ap.a_vap = vap;
 376
 377         VFS_MPLOCK_FLAG(vp->v_mount, MNTK_GA_MPSAFE);
 378         DO_OPS(ops, error, &ap, vop_getattr);
 379         VFS_MPUNLOCK(vp->v_mount);
 380
 381         return(error);
 382 }
 383
 384 /*
 385  * MPSAFE
 386  */
 387 int
 388 vop_setattr(struct vop_ops *ops, struct vnode *vp, struct vattr *vap,
 389         struct ucred *cred)
 390 {
 391         struct vop_setattr_args ap;
 392         VFS_MPLOCK_DECLARE;
 393         int error;
 394
 395         ap.a_head.a_desc = &vop_setattr_desc;
 396         ap.a_head.a_ops = ops;
 397         ap.a_vp = vp;
 398         ap.a_vap = vap;
 399         ap.a_cred = cred;
 400
 401         VFS_MPLOCK(vp->v_mount);
 402         DO_OPS(ops, error, &ap, vop_setattr);
 403         VFS_MPUNLOCK(vp->v_mount);
 404         return(error);
 405 }
 406
 407 /*
 408  * MPSAFE
 409  */
 410 int
 411 vop_read(struct vop_ops *ops, struct vnode *vp, struct uio *uio, int ioflag,
 412         struct ucred *cred)
 413 {
 414         struct vop_read_args ap;
 415         VFS_MPLOCK_DECLARE;
 416         int error;
 417
 418         ap.a_head.a_desc = &vop_read_desc;
 419         ap.a_head.a_ops = ops;
 420         ap.a_vp = vp;
 421         ap.a_uio = uio;
 422         ap.a_ioflag = ioflag;
 423         ap.a_cred = cred;
 424
 425         VFS_MPLOCK_FLAG(vp->v_mount, MNTK_RD_MPSAFE);
 426         DO_OPS(ops, error, &ap, vop_read);
 427         VFS_MPUNLOCK(vp->v_mount);
 428         return(error);
 429 }
 430
 431 /*
 432  * MPSAFE
 433  */
 434 int
 435 vop_write(struct vop_ops *ops, struct vnode *vp, struct uio *uio, int ioflag,
 436         struct ucred *cred)
 437 {
 438         struct vop_write_args ap;
 439         VFS_MPLOCK_DECLARE;
 440         int error;
 441
 442         ap.a_head.a_desc = &vop_write_desc;
 443         ap.a_head.a_ops = ops;
 444         ap.a_vp = vp;
 445         ap.a_uio = uio;
 446         ap.a_ioflag = ioflag;
 447         ap.a_cred = cred;
 448
 449         VFS_MPLOCK_FLAG(vp->v_mount, MNTK_WR_MPSAFE);
 450         DO_OPS(ops, error, &ap, vop_write);
 451         VFS_MPUNLOCK(vp->v_mount);
 452         return(error);
 453 }
 454
 455 /*
 456  * MPSAFE
 457  */
 458 int
 459 vop_ioctl(struct vop_ops *ops, struct vnode *vp, u_long command, caddr_t data,
 460         int fflag, struct ucred *cred, struct sysmsg *msg)
 461 {
 462         struct vop_ioctl_args ap;
 463         VFS_MPLOCK_DECLARE;
 464         int error;
 465
 466         ap.a_head.a_desc = &vop_ioctl_desc;
 467         ap.a_head.a_ops = ops;
 468         ap.a_vp = vp;
 469         ap.a_command = command;
 470         ap.a_data = data;
 471         ap.a_fflag = fflag;
 472         ap.a_cred = cred;
 473         ap.a_sysmsg = msg;
 474
 475         VFS_MPLOCK(vp->v_mount);
 476         DO_OPS(ops, error, &ap, vop_ioctl);
 477         VFS_MPUNLOCK(vp->v_mount);
 478         return(error);
 479 }
 480
 481 /*
 482  * MPSAFE
 483  */
 484 int
 485 vop_poll(struct vop_ops *ops, struct vnode *vp, int events, struct ucred *cred)
 486 {
 487         struct vop_poll_args ap;
 488         VFS_MPLOCK_DECLARE;
 489         int error;
 490
 491         ap.a_head.a_desc = &vop_poll_desc;
 492         ap.a_head.a_ops = ops;
 493         ap.a_vp = vp;
 494         ap.a_events = events;
 495         ap.a_cred = cred;
 496
 497         VFS_MPLOCK(vp->v_mount);
 498         DO_OPS(ops, error, &ap, vop_poll);
 499         VFS_MPUNLOCK(vp->v_mount);
 500         return(error);
 501 }
 502
 503 /*
 504  * MPSAFE
 505  */
 506 int
 507 vop_kqfilter(struct vop_ops *ops, struct vnode *vp, struct knote *kn)
 508 {
 509         struct vop_kqfilter_args ap;
 510         VFS_MPLOCK_DECLARE;
 511         int error;
 512
 513         ap.a_head.a_desc = &vop_kqfilter_desc;
 514         ap.a_head.a_ops = ops;
 515         ap.a_vp = vp;
 516         ap.a_kn = kn;
 517
 518         VFS_MPLOCK(vp->v_mount);
 519         DO_OPS(ops, error, &ap, vop_kqfilter);
 520         VFS_MPUNLOCK(vp->v_mount);
 521         return(error);
 522 }
 523
 524 /*
 525  * MPSAFE
 526  */
 527 int
 528 vop_mmap(struct vop_ops *ops, struct vnode *vp, int fflags, struct ucred *cred)
 529 {
 530         struct vop_mmap_args ap;
 531         VFS_MPLOCK_DECLARE;
 532         int error;
 533
 534         ap.a_head.a_desc = &vop_mmap_desc;
 535         ap.a_head.a_ops = ops;
 536         ap.a_vp = vp;
 537         ap.a_fflags = fflags;
 538         ap.a_cred = cred;
 539
 540         VFS_MPLOCK(vp->v_mount);
 541         DO_OPS(ops, error, &ap, vop_mmap);
 542         VFS_MPUNLOCK(vp->v_mount);
 543         return(error);
 544 }
 545
 546 /*
 547  * MPSAFE
 548  */
 549 int
 550 vop_fsync(struct vop_ops *ops, struct vnode *vp, int waitfor, int flags)
 551 {
 552         struct vop_fsync_args ap;
 553         VFS_MPLOCK_DECLARE;
 554         int error;
 555
 556         ap.a_head.a_desc = &vop_fsync_desc;
 557         ap.a_head.a_ops = ops;
 558         ap.a_vp = vp;
 559         ap.a_waitfor = waitfor;
 560         ap.a_flags = flags;
 561
 562         VFS_MPLOCK(vp->v_mount);
 563         DO_OPS(ops, error, &ap, vop_fsync);
 564         VFS_MPUNLOCK(vp->v_mount);
 565         return(error);
 566 }
 567
 568 /*
 569  * MPSAFE
 570  */
 571 int
 572 vop_old_remove(struct vop_ops *ops, struct vnode *dvp,
 573         struct vnode *vp, struct componentname *cnp)
 574 {
 575         struct vop_old_remove_args ap;
 576         VFS_MPLOCK_DECLARE;
 577         int error;
 578
 579         ap.a_head.a_desc = &vop_old_remove_desc;
 580         ap.a_head.a_ops = ops;
 581         ap.a_dvp = dvp;
 582         ap.a_vp = vp;
 583         ap.a_cnp = cnp;
 584
 585         VFS_MPLOCK(dvp->v_mount);
 586         DO_OPS(ops, error, &ap, vop_old_remove);
 587         VFS_MPUNLOCK(dvp->v_mount);
 588         return(error);
 589 }
 590
 591 /*
 592  * MPSAFE
 593  */
 594 int
 595 vop_old_link(struct vop_ops *ops, struct vnode *tdvp,
 596         struct vnode *vp, struct componentname *cnp)
 597 {
 598         struct vop_old_link_args ap;
 599         VFS_MPLOCK_DECLARE;
 600         int error;
 601
 602         ap.a_head.a_desc = &vop_old_link_desc;
 603         ap.a_head.a_ops = ops;
 604         ap.a_tdvp = tdvp;
 605         ap.a_vp = vp;
 606         ap.a_cnp = cnp;
 607
 608         VFS_MPLOCK(tdvp->v_mount);
 609         DO_OPS(ops, error, &ap, vop_old_link);
 610         VFS_MPUNLOCK(tdvp->v_mount);
 611         return(error);
 612 }
 613
 614 /*
 615  * MPSAFE
 616  */
 617 int
 618 vop_old_rename(struct vop_ops *ops,
 619            struct vnode *fdvp, struct vnode *fvp, struct componentname *fcnp,
 620            struct vnode *tdvp, struct vnode *tvp, struct componentname *tcnp)
 621 {
 622         struct vop_old_rename_args ap;
 623         VFS_MPLOCK_DECLARE;
 624         int error;
 625
 626         ap.a_head.a_desc = &vop_old_rename_desc;
 627         ap.a_head.a_ops = ops;
 628         ap.a_fdvp = fdvp;
 629         ap.a_fvp = fvp;
 630         ap.a_fcnp = fcnp;
 631         ap.a_tdvp = tdvp;
 632         ap.a_tvp = tvp;
 633         ap.a_tcnp = tcnp;
 634
 635         VFS_MPLOCK(tdvp->v_mount);
 636         DO_OPS(ops, error, &ap, vop_old_rename);
 637         VFS_MPUNLOCK(tdvp->v_mount);
 638         return(error);
 639 }
 640
 641 /*
 642  * MPSAFE
 643  */
 644 int
 645 vop_old_mkdir(struct vop_ops *ops, struct vnode *dvp,
 646         struct vnode **vpp, struct componentname *cnp, struct vattr *vap)
 647 {
 648         struct vop_old_mkdir_args ap;
 649         VFS_MPLOCK_DECLARE;
 650         int error;
 651
 652         ap.a_head.a_desc = &vop_old_mkdir_desc;
 653         ap.a_head.a_ops = ops;
 654         ap.a_dvp = dvp;
 655         ap.a_vpp = vpp;
 656         ap.a_cnp = cnp;
 657         ap.a_vap = vap;
 658
 659         VFS_MPLOCK(dvp->v_mount);
 660         DO_OPS(ops, error, &ap, vop_old_mkdir);
 661         VFS_MPUNLOCK(dvp->v_mount);
 662         return(error);
 663 }
 664
 665 /*
 666  * MPSAFE
 667  */
 668 int
 669 vop_old_rmdir(struct vop_ops *ops, struct vnode *dvp,
 670         struct vnode *vp, struct componentname *cnp)
 671 {
 672         struct vop_old_rmdir_args ap;
 673         VFS_MPLOCK_DECLARE;
 674         int error;
 675
 676         ap.a_head.a_desc = &vop_old_rmdir_desc;
 677         ap.a_head.a_ops = ops;
 678         ap.a_dvp = dvp;
 679         ap.a_vp = vp;
 680         ap.a_cnp = cnp;
 681
 682         VFS_MPLOCK(dvp->v_mount);
 683         DO_OPS(ops, error, &ap, vop_old_rmdir);
 684         VFS_MPUNLOCK(dvp->v_mount);
 685         return(error);
 686 }
 687
 688 /*
 689  * MPSAFE
 690  */
 691 int
 692 vop_old_symlink(struct vop_ops *ops, struct vnode *dvp,
 693         struct vnode **vpp, struct componentname *cnp,
 694         struct vattr *vap, char *target)
 695 {
 696         struct vop_old_symlink_args ap;
 697         VFS_MPLOCK_DECLARE;
 698         int error;
 699
 700         ap.a_head.a_desc = &vop_old_symlink_desc;
 701         ap.a_head.a_ops = ops;
 702         ap.a_dvp = dvp;
 703         ap.a_vpp = vpp;
 704         ap.a_cnp = cnp;
 705         ap.a_vap = vap;
 706         ap.a_target = target;
 707
 708         VFS_MPLOCK(dvp->v_mount);
 709         DO_OPS(ops, error, &ap, vop_old_symlink);
 710         VFS_MPUNLOCK(dvp->v_mount);
 711         return(error);
 712 }
 713
 714 /*
 715  * MPSAFE
 716  */
 717 int
 718 vop_readdir(struct vop_ops *ops, struct vnode *vp, struct uio *uio,
 719         struct ucred *cred, int *eofflag, int *ncookies, off_t **cookies)
 720 {
 721         struct vop_readdir_args ap;
 722         VFS_MPLOCK_DECLARE;
 723         int error;
 724
 725         ap.a_head.a_desc = &vop_readdir_desc;
 726         ap.a_head.a_ops = ops;
 727         ap.a_vp = vp;
 728         ap.a_uio = uio;
 729         ap.a_cred = cred;
 730         ap.a_eofflag = eofflag;
 731         ap.a_ncookies = ncookies;
 732         ap.a_cookies = cookies;
 733
 734         VFS_MPLOCK(vp->v_mount);
 735         DO_OPS(ops, error, &ap, vop_readdir);
 736         VFS_MPUNLOCK(vp->v_mount);
 737         return(error);
 738 }
 739
 740 /*
 741  * MPSAFE
 742  */
 743 int
 744 vop_readlink(struct vop_ops *ops, struct vnode *vp, struct uio *uio,
 745         struct ucred *cred)
 746 {
 747         struct vop_readlink_args ap;
 748         VFS_MPLOCK_DECLARE;
 749         int error;
 750
 751         ap.a_head.a_desc = &vop_readlink_desc;
 752         ap.a_head.a_ops = ops;
 753         ap.a_vp = vp;
 754         ap.a_uio = uio;
 755         ap.a_cred = cred;
 756
 757         VFS_MPLOCK(vp->v_mount);
 758         DO_OPS(ops, error, &ap, vop_readlink);
 759         VFS_MPUNLOCK(vp->v_mount);
 760         return(error);
 761 }
 762
 763 /*
 764  * MPSAFE
 765  */
 766 int
 767 vop_inactive(struct vop_ops *ops, struct vnode *vp)
 768 {
 769         struct vop_inactive_args ap;
 770         VFS_MPLOCK_DECLARE;
 771         int error;
 772
 773         ap.a_head.a_desc = &vop_inactive_desc;
 774         ap.a_head.a_ops = ops;
 775         ap.a_vp = vp;
 776
 777         VFS_MPLOCK(vp->v_mount);
 778         DO_OPS(ops, error, &ap, vop_inactive);
 779         VFS_MPUNLOCK(vp->v_mount);
 780         return(error);
 781 }
 782
 783 /*
 784  * MPSAFE
 785  */
 786 int
 787 vop_reclaim(struct vop_ops *ops, struct vnode *vp)
 788 {
 789         struct vop_reclaim_args ap;
 790         VFS_MPLOCK_DECLARE;
 791         int error;
 792
 793         ap.a_head.a_desc = &vop_reclaim_desc;
 794         ap.a_head.a_ops = ops;
 795         ap.a_vp = vp;
 796
 797         VFS_MPLOCK(vp->v_mount);
 798         DO_OPS(ops, error, &ap, vop_reclaim);
 799         VFS_MPUNLOCK(vp->v_mount);
 800         return(error);
 801 }
 802
 803 /*
 804  * MPSAFE
 805  */
 806 int
 807 vop_bmap(struct vop_ops *ops, struct vnode *vp, off_t loffset,
 808         off_t *doffsetp, int *runp, int *runb, buf_cmd_t cmd)
 809 {
 810         struct vop_bmap_args ap;
 811         VFS_MPLOCK_DECLARE;
 812         int error;
 813
 814         ap.a_head.a_desc = &vop_bmap_desc;
 815         ap.a_head.a_ops = ops;
 816         ap.a_vp = vp;
 817         ap.a_loffset = loffset;
 818         ap.a_doffsetp = doffsetp;
 819         ap.a_runp = runp;
 820         ap.a_runb = runb;
 821         ap.a_cmd = cmd;
 822
 823         VFS_MPLOCK(vp->v_mount);
 824         DO_OPS(ops, error, &ap, vop_bmap);
 825         VFS_MPUNLOCK(vp->v_mount);
 826         return(error);
 827 }
 828
 829 /*
 830  * MPSAFE
 831  */
 832 int
 833 vop_strategy(struct vop_ops *ops, struct vnode *vp, struct bio *bio)
 834 {
 835         struct vop_strategy_args ap;
 836         VFS_MPLOCK_DECLARE;
 837         int error;
 838
 839         ap.a_head.a_desc = &vop_strategy_desc;
 840         ap.a_head.a_ops = ops;
 841         ap.a_vp = vp;
 842         ap.a_bio = bio;
 843
 844         VFS_MPLOCK(vp->v_mount);
 845         DO_OPS(ops, error, &ap, vop_strategy);
 846         VFS_MPUNLOCK(vp->v_mount);
 847         return(error);
 848 }
 849
 850 /*
 851  * MPSAFE
 852  */
 853 int
 854 vop_print(struct vop_ops *ops, struct vnode *vp)
 855 {
 856         struct vop_print_args ap;
 857         VFS_MPLOCK_DECLARE;
 858         int error;
 859
 860         ap.a_head.a_desc = &vop_print_desc;
 861         ap.a_head.a_ops = ops;
 862         ap.a_vp = vp;
 863
 864         VFS_MPLOCK(vp->v_mount);
 865         DO_OPS(ops, error, &ap, vop_print);
 866         VFS_MPUNLOCK(vp->v_mount);
 867         return(error);
 868 }
 869
 870 /*
 871  * MPSAFE
 872  */
 873 int
 874 vop_pathconf(struct vop_ops *ops, struct vnode *vp, int name,
 875         register_t *retval)
 876 {
 877         struct vop_pathconf_args ap;
 878         VFS_MPLOCK_DECLARE;
 879         int error;
 880
 881         ap.a_head.a_desc = &vop_pathconf_desc;
 882         ap.a_head.a_ops = ops;
 883         ap.a_vp = vp;
 884         ap.a_name = name;
 885         ap.a_retval = retval;
 886
 887         VFS_MPLOCK(vp->v_mount);
 888         DO_OPS(ops, error, &ap, vop_pathconf);
 889         VFS_MPUNLOCK(vp->v_mount);
 890         return(error);
 891 }
 892
 893 /*
 894  * MPSAFE
 895  */
 896 int
 897 vop_advlock(struct vop_ops *ops, struct vnode *vp, caddr_t id, int op,
 898         struct flock *fl, int flags)
 899 {
 900         struct vop_advlock_args ap;
 901         VFS_MPLOCK_DECLARE;
 902         int error;
 903
 904         ap.a_head.a_desc = &vop_advlock_desc;
 905         ap.a_head.a_ops = ops;
 906         ap.a_vp = vp;
 907         ap.a_id = id;
 908         ap.a_op = op;
 909         ap.a_fl = fl;
 910         ap.a_flags = flags;
 911
 912         VFS_MPLOCK(vp->v_mount);
 913         DO_OPS(ops, error, &ap, vop_advlock);
 914         VFS_MPUNLOCK(vp->v_mount);
 915         return(error);
 916 }
 917
 918 /*
 919  * MPSAFE
 920  */
 921 int
 922 vop_balloc(struct vop_ops *ops, struct vnode *vp, off_t startoffset,
 923         int size, struct ucred *cred, int flags,
 924         struct buf **bpp)
 925 {
 926         struct vop_balloc_args ap;
 927         VFS_MPLOCK_DECLARE;
 928         int error;
 929
 930         ap.a_head.a_desc = &vop_balloc_desc;
 931         ap.a_head.a_ops = ops;
 932         ap.a_vp = vp;
 933         ap.a_startoffset = startoffset;
 934         ap.a_size = size;
 935         ap.a_cred = cred;
 936         ap.a_flags = flags;
 937         ap.a_bpp = bpp;
 938
 939         VFS_MPLOCK(vp->v_mount);
 940         DO_OPS(ops, error, &ap, vop_balloc);
 941         VFS_MPUNLOCK(vp->v_mount);
 942         return(error);
 943 }
 944
 945 /*
 946  * MPSAFE
 947  */
 948 int
 949 vop_reallocblks(struct vop_ops *ops, struct vnode *vp,
 950         struct cluster_save *buflist)
 951 {
 952         struct vop_reallocblks_args ap;
 953         VFS_MPLOCK_DECLARE;
 954         int error;
 955
 956         ap.a_head.a_desc = &vop_reallocblks_desc;
 957         ap.a_head.a_ops = ops;
 958         ap.a_vp = vp;
 959         ap.a_buflist = buflist;
 960
 961         VFS_MPLOCK(vp->v_mount);
 962         DO_OPS(ops, error, &ap, vop_reallocblks);
 963         VFS_MPUNLOCK(vp->v_mount);
 964         return(error);
 965 }
 966
 967 /*
 968  * MPSAFE
 969  */
 970 int
 971 vop_getpages(struct vop_ops *ops, struct vnode *vp, vm_page_t *m, int count,
 972         int reqpage, vm_ooffset_t offset)
 973 {
 974         struct vop_getpages_args ap;
 975         VFS_MPLOCK_DECLARE;
 976         int error;
 977
 978         ap.a_head.a_desc = &vop_getpages_desc;
 979         ap.a_head.a_ops = ops;
 980         ap.a_vp = vp;
 981         ap.a_m = m;
 982         ap.a_count = count;
 983         ap.a_reqpage = reqpage;
 984         ap.a_offset = offset;
 985
 986         VFS_MPLOCK(vp->v_mount);
 987         DO_OPS(ops, error, &ap, vop_getpages);
 988         VFS_MPUNLOCK(vp->v_mount);
 989         return(error);
 990 }
 991
 992 /*
 993  * MPSAFE
 994  */
 995 int
 996 vop_putpages(struct vop_ops *ops, struct vnode *vp, vm_page_t *m, int count,
 997         int sync, int *rtvals, vm_ooffset_t offset)
 998 {
 999         struct vop_putpages_args ap;
1000         VFS_MPLOCK_DECLARE;
1001         int error;
1002
1003         ap.a_head.a_desc = &vop_putpages_desc;
1004         ap.a_head.a_ops = ops;
1005         ap.a_vp = vp;
1006         ap.a_m = m;
1007         ap.a_count = count;
1008         ap.a_sync = sync;
1009         ap.a_rtvals = rtvals;
1010         ap.a_offset = offset;
1011
1012         VFS_MPLOCK(vp->v_mount);
1013         DO_OPS(ops, error, &ap, vop_putpages);
1014         VFS_MPUNLOCK(vp->v_mount);
1015         return(error);
1016 }
1017
1018 /*
1019  * MPSAFE
1020  */
1021 int
1022 vop_freeblks(struct vop_ops *ops, struct vnode *vp, off_t offset, int length)
1023 {
1024         struct vop_freeblks_args ap;
1025         VFS_MPLOCK_DECLARE;
1026         int error;
1027
1028         ap.a_head.a_desc = &vop_freeblks_desc;
1029         ap.a_head.a_ops = ops;
1030         ap.a_vp = vp;
1031         ap.a_offset = offset;
1032         ap.a_length = length;
1033
1034         VFS_MPLOCK(vp->v_mount);
1035         DO_OPS(ops, error, &ap, vop_freeblks);
1036         VFS_MPUNLOCK(vp->v_mount);
1037         return(error);
1038 }
1039
1040 /*
1041  * MPSAFE
1042  */
1043 int
1044 vop_getacl(struct vop_ops *ops, struct vnode *vp, acl_type_t type,
1045         struct acl *aclp, struct ucred *cred)
1046 {
1047         struct vop_getacl_args ap;
1048         VFS_MPLOCK_DECLARE;
1049         int error;
1050
1051         ap.a_head.a_desc = &vop_getacl_desc;
1052         ap.a_head.a_ops = ops;
1053         ap.a_vp = vp;
1054         ap.a_type = type;
1055         ap.a_aclp = aclp;
1056         ap.a_cred = cred;
1057
1058         VFS_MPLOCK(vp->v_mount);
1059         DO_OPS(ops, error, &ap, vop_getacl);
1060         VFS_MPUNLOCK(vp->v_mount);
1061         return(error);
1062 }
1063
1064 /*
1065  * MPSAFE
1066  */
1067 int
1068 vop_setacl(struct vop_ops *ops, struct vnode *vp, acl_type_t type,
1069         struct acl *aclp, struct ucred *cred)
1070 {
1071         struct vop_setacl_args ap;
1072         VFS_MPLOCK_DECLARE;
1073         int error;
1074
1075         ap.a_head.a_desc = &vop_setacl_desc;
1076         ap.a_head.a_ops = ops;
1077         ap.a_vp = vp;
1078         ap.a_type = type;
1079         ap.a_aclp = aclp;
1080         ap.a_cred = cred;
1081
1082         VFS_MPLOCK(vp->v_mount);
1083         DO_OPS(ops, error, &ap, vop_setacl);
1084         VFS_MPUNLOCK(vp->v_mount);
1085         return(error);
1086 }
1087
1088 /*
1089  * MPSAFE
1090  */
1091 int
1092 vop_aclcheck(struct vop_ops *ops, struct vnode *vp, acl_type_t type,
1093         struct acl *aclp, struct ucred *cred)
1094 {
1095         struct vop_aclcheck_args ap;
1096         VFS_MPLOCK_DECLARE;
1097         int error;
1098
1099         ap.a_head.a_desc = &vop_aclcheck_desc;
1100         ap.a_head.a_ops = ops;
1101         ap.a_vp = vp;
1102         ap.a_type = type;
1103         ap.a_aclp = aclp;
1104         ap.a_cred = cred;
1105
1106         VFS_MPLOCK(vp->v_mount);
1107         DO_OPS(ops, error, &ap, vop_aclcheck);
1108         VFS_MPUNLOCK(vp->v_mount);
1109         return(error);
1110 }
1111
1112 /*
1113  * MPSAFE
1114  */
1115 int
1116 vop_getextattr(struct vop_ops *ops, struct vnode *vp, char *name,
1117         struct uio *uio, struct ucred *cred)
1118 {
1119         struct vop_getextattr_args ap;
1120         VFS_MPLOCK_DECLARE;
1121         int error;
1122
1123         ap.a_head.a_desc = &vop_getextattr_desc;
1124         ap.a_head.a_ops = ops;
1125         ap.a_vp = vp;
1126         ap.a_name = name;
1127         ap.a_uio = uio;
1128         ap.a_cred = cred;
1129
1130         VFS_MPLOCK(vp->v_mount);
1131         DO_OPS(ops, error, &ap, vop_getextattr);
1132         VFS_MPUNLOCK(vp->v_mount);
1133         return(error);
1134 }
1135
1136 /*
1137  * MPSAFE
1138  */
1139 int
1140 vop_setextattr(struct vop_ops *ops, struct vnode *vp, char *name,
1141         struct uio *uio, struct ucred *cred)
1142 {
1143         struct vop_setextattr_args ap;
1144         VFS_MPLOCK_DECLARE;
1145         int error;
1146
1147         ap.a_head.a_desc = &vop_setextattr_desc;
1148         ap.a_head.a_ops = ops;
1149         ap.a_vp = vp;
1150         ap.a_name = name;
1151         ap.a_uio = uio;
1152         ap.a_cred = cred;
1153
1154         VFS_MPLOCK(vp->v_mount);
1155         DO_OPS(ops, error, &ap, vop_setextattr);
1156         VFS_MPUNLOCK(vp->v_mount);
1157         return(error);
1158 }
1159
1160 /*
1161  * MPSAFE
1162  */
1163 int
1164 vop_mountctl(struct vop_ops *ops, struct vnode *vp, int op, struct file *fp,
1165              const void *ctl, int ctllen, void *buf, int buflen, int *res)
1166 {
1167         struct vop_mountctl_args ap;
1168         VFS_MPLOCK_DECLARE;
1169         int error;
1170
1171         ap.a_head.a_desc = &vop_mountctl_desc;
1172         ap.a_head.a_ops = ops;
1173         ap.a_op = op;
1174         ap.a_ctl = ctl;
1175         ap.a_fp = fp;
1176         ap.a_ctllen = ctllen;
1177         ap.a_buf = buf;
1178         ap.a_buflen = buflen;
1179         ap.a_res = res;
1180
1181         VFS_MPLOCK(vp->v_mount);
1182         DO_OPS(ops, error, &ap, vop_mountctl);
1183         VFS_MPUNLOCK(vp->v_mount);
1184         return(error);
1185 }
1186
1187 /*
1188  * MPSAFE
1189  */
1190 int
1191 vop_markatime(struct vop_ops *ops, struct vnode *vp, struct ucred *cred)
1192 {
1193         struct vop_markatime_args ap;
1194         VFS_MPLOCK_DECLARE;
1195         int error;
1196
1197         ap.a_head.a_desc = &vop_markatime_desc;
1198         ap.a_head.a_ops = ops;
1199         ap.a_vp = vp;
1200         ap.a_cred = cred;
1201
1202         VFS_MPLOCK(vp->v_mount);
1203         DO_OPS(ops, error, &ap, vop_markatime);
1204         VFS_MPUNLOCK(vp->v_mount);
1205         return(error);
1206 }
1207
1208 /*
1209  * NEW API FUNCTIONS
1210  *
1211  * nresolve takes a locked ncp, a referenced but unlocked dvp, and a cred,
1212  * and resolves the ncp into a positive or negative hit.
1213  *
1214  * The namecache is automatically adjusted by this function.  The ncp
1215  * is left locked on return.
1216  *
1217  * MPSAFE
1218  */
1219 int
1220 vop_nresolve(struct vop_ops *ops, struct nchandle *nch,
1221              struct vnode *dvp, struct ucred *cred)
1222 {
1223         struct vop_nresolve_args ap;
1224         VFS_MPLOCK_DECLARE;
1225         int error;
1226
1227         ap.a_head.a_desc = &vop_nresolve_desc;
1228         ap.a_head.a_ops = ops;
1229         ap.a_nch = nch;
1230         ap.a_dvp = dvp;
1231         ap.a_cred = cred;
1232
1233         VFS_MPLOCK(dvp->v_mount);
1234         DO_OPS(ops, error, &ap, vop_nresolve);
1235         VFS_MPUNLOCK(dvp->v_mount);
1236         return(error);
1237 }
1238
1239 /*
1240  * nlookupdotdot takes an unlocked directory, referenced dvp, and looks
1241  * up "..", returning a locked parent directory in *vpp.  If an error
1242  * occurs *vpp will be NULL.
1243  *
1244  * MPSAFE
1245  */
1246 int
1247 vop_nlookupdotdot(struct vop_ops *ops, struct vnode *dvp,
1248         struct vnode **vpp, struct ucred *cred, char **fakename)
1249 {
1250         struct vop_nlookupdotdot_args ap;
1251         VFS_MPLOCK_DECLARE;
1252         int error;
1253
1254         ap.a_head.a_desc = &vop_nlookupdotdot_desc;
1255         ap.a_head.a_ops = ops;
1256         ap.a_dvp = dvp;
1257         ap.a_vpp = vpp;
1258         ap.a_cred = cred;
1259         ap.a_fakename = fakename;
1260
1261         VFS_MPLOCK(dvp->v_mount);
1262         DO_OPS(ops, error, &ap, vop_nlookupdotdot);
1263         VFS_MPUNLOCK(dvp->v_mount);
1264         return(error);
1265 }
1266
1267 /*
1268  * ncreate takes a locked, resolved ncp that typically represents a negative
1269  * cache hit and creates the file or node specified by the ncp, cred, and
1270  * vattr.  If no error occurs a locked vnode is returned in *vpp.
1271  *
1272  * The dvp passed in is referenced but unlocked.
1273  *
1274  * The namecache is automatically adjusted by this function.  The ncp
1275  * is left locked on return.
1276  *
1277  * MPSAFE
1278  */
1279 int
1280 vop_ncreate(struct vop_ops *ops, struct nchandle *nch, struct vnode *dvp,
1281         struct vnode **vpp, struct ucred *cred, struct vattr *vap)
1282 {
1283         struct vop_ncreate_args ap;
1284         VFS_MPLOCK_DECLARE;
1285         int error;
1286
1287         ap.a_head.a_desc = &vop_ncreate_desc;
1288         ap.a_head.a_ops = ops;
1289         ap.a_nch = nch;
1290         ap.a_dvp = dvp;
1291         ap.a_vpp = vpp;
1292         ap.a_cred = cred;
1293         ap.a_vap = vap;
1294
1295         VFS_MPLOCK(dvp->v_mount);
1296         DO_OPS(ops, error, &ap, vop_ncreate);
1297         VFS_MPUNLOCK(dvp->v_mount);
1298         return(error);
1299 }
1300
1301 /*
1302  * nmkdir takes a locked, resolved ncp that typically represents a negative
1303  * cache hit and creates the directory specified by the ncp, cred, and
1304  * vattr.  If no error occurs a locked vnode is returned in *vpp.
1305  *
1306  * The dvp passed in is referenced but unlocked.
1307  *
1308  * The namecache is automatically adjusted by this function.  The ncp
1309  * is left locked on return.
1310  *
1311  * MPSAFE
1312  */
1313 int
1314 vop_nmkdir(struct vop_ops *ops, struct nchandle *nch, struct vnode *dvp,
1315         struct vnode **vpp, struct ucred *cred, struct vattr *vap)
1316 {
1317         struct vop_nmkdir_args ap;
1318         VFS_MPLOCK_DECLARE;
1319         int error;
1320
1321         ap.a_head.a_desc = &vop_nmkdir_desc;
1322         ap.a_head.a_ops = ops;
1323         ap.a_nch = nch;
1324         ap.a_dvp = dvp;
1325         ap.a_vpp = vpp;
1326         ap.a_cred = cred;
1327         ap.a_vap = vap;
1328
1329         VFS_MPLOCK(dvp->v_mount);
1330         DO_OPS(ops, error, &ap, vop_nmkdir);
1331         VFS_MPUNLOCK(dvp->v_mount);
1332         return(error);
1333 }
1334
1335 /*
1336  * nmknod takes a locked, resolved ncp that typically represents a negative
1337  * cache hit and creates the node specified by the ncp, cred, and
1338  * vattr.  If no error occurs a locked vnode is returned in *vpp.
1339  *
1340  * The dvp passed in is referenced but unlocked.
1341  *
1342  * The namecache is automatically adjusted by this function.  The ncp
1343  * is left locked on return.
1344  *
1345  * MPSAFE
1346  */
1347 int
1348 vop_nmknod(struct vop_ops *ops, struct nchandle *nch, struct vnode *dvp,
1349         struct vnode **vpp, struct ucred *cred, struct vattr *vap)
1350 {
1351         struct vop_nmknod_args ap;
1352         VFS_MPLOCK_DECLARE;
1353         int error;
1354
1355         ap.a_head.a_desc = &vop_nmknod_desc;
1356         ap.a_head.a_ops = ops;
1357         ap.a_nch = nch;
1358         ap.a_dvp = dvp;
1359         ap.a_vpp = vpp;
1360         ap.a_cred = cred;
1361         ap.a_vap = vap;
1362
1363         VFS_MPLOCK(dvp->v_mount);
1364         DO_OPS(ops, error, &ap, vop_nmknod);
1365         VFS_MPUNLOCK(dvp->v_mount);
1366         return(error);
1367 }
1368
1369 /*
1370  * nlink takes a locked, resolved ncp that typically represents a negative
1371  * cache hit and creates the node specified by the ncp, cred, and
1372  * existing vnode.  The passed vp must be locked and will remain locked
1373  * on return, as does the ncp, whether an error occurs or not.
1374  *
1375  * The dvp passed in is referenced but unlocked.
1376  *
1377  * The namecache is automatically adjusted by this function.  The ncp
1378  * is left locked on return.
1379  *
1380  * MPSAFE
1381  */
1382 int
1383 vop_nlink(struct vop_ops *ops, struct nchandle *nch, struct vnode *dvp,
1384           struct vnode *vp, struct ucred *cred)
1385 {
1386         struct vop_nlink_args ap;
1387         VFS_MPLOCK_DECLARE;
1388         int error;
1389
1390         ap.a_head.a_desc = &vop_nlink_desc;
1391         ap.a_head.a_ops = ops;
1392         ap.a_nch = nch;
1393         ap.a_dvp = dvp;
1394         ap.a_vp = vp;
1395         ap.a_cred = cred;
1396
1397         VFS_MPLOCK(dvp->v_mount);
1398         DO_OPS(ops, error, &ap, vop_nlink);
1399         VFS_MPUNLOCK(dvp->v_mount);
1400         return(error);
1401 }
1402
1403 /*
1404  * nsymlink takes a locked, resolved ncp that typically represents a negative
1405  * cache hit and creates a symbolic link based on cred, vap, and target (the
1406  * contents of the link).  If no error occurs a locked vnode is returned in
1407  * *vpp.
1408  *
1409  * The dvp passed in is referenced but unlocked.
1410  *
1411  * The namecache is automatically adjusted by this function.  The ncp
1412  * is left locked on return.
1413  *
1414  * MPSAFE
1415  */
1416 int
1417 vop_nsymlink(struct vop_ops *ops, struct nchandle *nch, struct vnode *dvp,
1418         struct vnode **vpp, struct ucred *cred,
1419         struct vattr *vap, char *target)
1420 {
1421         struct vop_nsymlink_args ap;
1422         VFS_MPLOCK_DECLARE;
1423         int error;
1424
1425         ap.a_head.a_desc = &vop_nsymlink_desc;
1426         ap.a_head.a_ops = ops;
1427         ap.a_nch = nch;
1428         ap.a_dvp = dvp;
1429         ap.a_vpp = vpp;
1430         ap.a_cred = cred;
1431         ap.a_vap = vap;
1432         ap.a_target = target;
1433
1434         VFS_MPLOCK(dvp->v_mount);
1435         DO_OPS(ops, error, &ap, vop_nsymlink);
1436         VFS_MPUNLOCK(dvp->v_mount);
1437         return(error);
1438 }
1439
1440 /*
1441  * nwhiteout takes a locked, resolved ncp that can represent a positive or
1442  * negative hit and executes the whiteout function specified in flags.
1443  *
1444  * The dvp passed in is referenced but unlocked.
1445  *
1446  * The namecache is automatically adjusted by this function.  The ncp
1447  * is left locked on return.
1448  *
1449  * MPSAFE
1450  */
1451 int
1452 vop_nwhiteout(struct vop_ops *ops, struct nchandle *nch, struct vnode *dvp,
1453         struct ucred *cred, int flags)
1454 {
1455         struct vop_nwhiteout_args ap;
1456         VFS_MPLOCK_DECLARE;
1457         int error;
1458
1459         ap.a_head.a_desc = &vop_nwhiteout_desc;
1460         ap.a_head.a_ops = ops;
1461         ap.a_nch = nch;
1462         ap.a_dvp = dvp;
1463         ap.a_cred = cred;
1464         ap.a_flags = flags;
1465
1466         VFS_MPLOCK(dvp->v_mount);
1467         DO_OPS(ops, error, &ap, vop_nwhiteout);
1468         VFS_MPUNLOCK(dvp->v_mount);
1469         return(error);
1470 }
1471
1472 /*
1473  * nremove takes a locked, resolved ncp that generally represents a
1474  * positive hit and removes the file.
1475  *
1476  * The dvp passed in is referenced but unlocked.
1477  *
1478  * The namecache is automatically adjusted by this function.  The ncp
1479  * is left locked on return.
1480  *
1481  * MPSAFE
1482  */
1483 int
1484 vop_nremove(struct vop_ops *ops, struct nchandle *nch, struct vnode *dvp,
1485             struct ucred *cred)
1486 {
1487         struct vop_nremove_args ap;
1488         VFS_MPLOCK_DECLARE;
1489         int error;
1490
1491         ap.a_head.a_desc = &vop_nremove_desc;
1492         ap.a_head.a_ops = ops;
1493         ap.a_nch = nch;
1494         ap.a_dvp = dvp;
1495         ap.a_cred = cred;
1496
1497         VFS_MPLOCK(dvp->v_mount);
1498         DO_OPS(ops, error, &ap, vop_nremove);
1499         VFS_MPUNLOCK(dvp->v_mount);
1500         return(error);
1501 }
1502
1503 /*
1504  * nrmdir takes a locked, resolved ncp that generally represents a
1505  * directory and removes the directory.
1506  *
1507  * The dvp passed in is referenced but unlocked.
1508  *
1509  * The namecache is automatically adjusted by this function.  The ncp
1510  * is left locked on return.
1511  *
1512  * MPSAFE
1513  */
1514 int
1515 vop_nrmdir(struct vop_ops *ops, struct nchandle *nch, struct vnode *dvp,
1516            struct ucred *cred)
1517 {
1518         struct vop_nrmdir_args ap;
1519         VFS_MPLOCK_DECLARE;
1520         int error;
1521
1522         ap.a_head.a_desc = &vop_nrmdir_desc;
1523         ap.a_head.a_ops = ops;
1524         ap.a_nch = nch;
1525         ap.a_dvp = dvp;
1526         ap.a_cred = cred;
1527
1528         VFS_MPLOCK(dvp->v_mount);
1529         DO_OPS(ops, error, &ap, vop_nrmdir);
1530         VFS_MPUNLOCK(dvp->v_mount);
1531         return(error);
1532 }
1533
1534 /*
1535  * nrename takes TWO locked, resolved ncp's and the cred of the caller
1536  * and renames the source ncp to the target ncp.  The target ncp may
1537  * represent a positive or negative hit.
1538  *
1539  * The fdvp and tdvp passed in are referenced but unlocked.
1540  *
1541  * The namecache is automatically adjusted by this function.  The ncp
1542  * is left locked on return.  The source ncp is typically changed to
1543  * a negative cache hit and the target ncp typically takes on the
1544  * source ncp's underlying file.
1545  *
1546  * MPSAFE
1547  */
1548 int
1549 vop_nrename(struct vop_ops *ops,
1550             struct nchandle *fnch, struct nchandle *tnch,
1551             struct vnode *fdvp, struct vnode *tdvp,
1552             struct ucred *cred)
1553 {
1554         struct vop_nrename_args ap;
1555         VFS_MPLOCK_DECLARE;
1556         int error;
1557
1558         ap.a_head.a_desc = &vop_nrename_desc;
1559         ap.a_head.a_ops = ops;
1560         ap.a_fnch = fnch;
1561         ap.a_tnch = tnch;
1562         ap.a_fdvp = fdvp;
1563         ap.a_tdvp = tdvp;
1564         ap.a_cred = cred;
1565
1566         VFS_MPLOCK(fdvp->v_mount);
1567         DO_OPS(ops, error, &ap, vop_nrename);
1568         VFS_MPUNLOCK(fdvp->v_mount);
1569         return(error);
1570 }
1571
1572 /************************************************************************
1573  *              PRIMARY VNODE OPERATIONS FORWARDING CALLS               *
1574  ************************************************************************
1575  *
1576  * These procedures are called from VFSs such as unionfs and nullfs
1577  * when they wish to forward an operation on one VFS to another.  The
1578  * argument structure/message is modified and then directly passed to the
1579  * appropriate routine.  This routines may also be called by initiators
1580  * who have an argument structure in hand rather then discreet arguments.
1581  *
1582  * MPSAFE - Caller expected to already hold the appropriate vfs lock.
1583  */
1584 int
1585 vop_vnoperate_ap(struct vop_generic_args *ap)
1586 {
1587         struct vop_ops *ops;
1588         int error;
1589
1590         ops = ap->a_ops;
1591         error = VOCALL(ops, ap);
1592
1593         return (error);
1594 }
1595
1596 /*
1597  * This routine is called by the cache coherency layer to execute the actual
1598  * VFS operation.  If a journaling layer is present we call though it, else
1599  * we call the native VOP functions.
1600  */
1601 int
1602 vop_cache_operate_ap(struct vop_generic_args *ap)
1603 {
1604         struct vop_ops *ops;
1605         int error;
1606
1607         ops = ap->a_ops;
1608         if (ops->head.vv_mount->mnt_vn_journal_ops)
1609                 error = VOCALL(ops->head.vv_mount->mnt_vn_journal_ops, ap);
1610         else
1611                 error = VOCALL(ops->head.vv_mount->mnt_vn_norm_ops, ap);
1612         return (error);
1613 }
1614
1615
1616 /*
1617  * This routine is called by the journaling layer to execute the actual
1618  * VFS operation.
1619  */
1620 int
1621 vop_journal_operate_ap(struct vop_generic_args *ap)
1622 {
1623         struct vop_ops *ops;
1624         int error;
1625
1626         ops = ap->a_ops;
1627         error = VOCALL(ops->head.vv_mount->mnt_vn_norm_ops, ap);
1628
1629         return (error);
1630 }
1631
1632 int
1633 vop_open_ap(struct vop_open_args *ap)
1634 {
1635         int error;
1636
1637         DO_OPS(ap->a_head.a_ops, error, ap, vop_open);
1638         return(error);
1639 }
1640
1641 int
1642 vop_close_ap(struct vop_close_args *ap)
1643 {
1644         int error;
1645
1646         DO_OPS(ap->a_head.a_ops, error, ap, vop_close);
1647         return(error);
1648 }
1649
1650 int
1651 vop_access_ap(struct vop_access_args *ap)
1652 {
1653         int error;
1654
1655         DO_OPS(ap->a_head.a_ops, error, ap, vop_access);
1656         return(error);
1657 }
1658
1659 int
1660 vop_getattr_ap(struct vop_getattr_args *ap)
1661 {
1662         int error;
1663
1664         DO_OPS(ap->a_head.a_ops, error, ap, vop_getattr);
1665         return(error);
1666 }
1667
1668 int
1669 vop_setattr_ap(struct vop_setattr_args *ap)
1670 {
1671         int error;
1672
1673         DO_OPS(ap->a_head.a_ops, error, ap, vop_setattr);
1674         return(error);
1675 }
1676
1677 int
1678 vop_read_ap(struct vop_read_args *ap)
1679 {
1680         int error;
1681
1682         DO_OPS(ap->a_head.a_ops, error, ap, vop_read);
1683         return(error);
1684 }
1685
1686 int
1687 vop_write_ap(struct vop_write_args *ap)
1688 {
1689         int error;
1690
1691         DO_OPS(ap->a_head.a_ops, error, ap, vop_write);
1692         return(error);
1693 }
1694
1695 int
1696 vop_ioctl_ap(struct vop_ioctl_args *ap)
1697 {
1698         int error;
1699
1700         DO_OPS(ap->a_head.a_ops, error, ap, vop_ioctl);
1701         return(error);
1702 }
1703
1704 int
1705 vop_poll_ap(struct vop_poll_args *ap)
1706 {
1707         int error;
1708
1709         DO_OPS(ap->a_head.a_ops, error, ap, vop_poll);
1710         return(error);
1711 }
1712
1713 int
1714 vop_kqfilter_ap(struct vop_kqfilter_args *ap)
1715 {
1716         int error;
1717
1718         DO_OPS(ap->a_head.a_ops, error, ap, vop_kqfilter);
1719         return(error);
1720 }
1721
1722 int
1723 vop_mmap_ap(struct vop_mmap_args *ap)
1724 {
1725         int error;
1726
1727         DO_OPS(ap->a_head.a_ops, error, ap, vop_mmap);
1728         return(error);
1729 }
1730
1731 int
1732 vop_fsync_ap(struct vop_fsync_args *ap)
1733 {
1734         int error;
1735
1736         DO_OPS(ap->a_head.a_ops, error, ap, vop_fsync);
1737         return(error);
1738 }
1739
1740 int
1741 vop_readdir_ap(struct vop_readdir_args *ap)
1742 {
1743         int error;
1744
1745         DO_OPS(ap->a_head.a_ops, error, ap, vop_readdir);
1746         return(error);
1747 }
1748
1749 int
1750 vop_readlink_ap(struct vop_readlink_args *ap)
1751 {
1752         int error;
1753
1754         DO_OPS(ap->a_head.a_ops, error, ap, vop_readlink);
1755         return(error);
1756 }
1757
1758 int
1759 vop_inactive_ap(struct vop_inactive_args *ap)
1760 {
1761         int error;
1762
1763         DO_OPS(ap->a_head.a_ops, error, ap, vop_inactive);
1764         return(error);
1765 }
1766
1767 int
1768 vop_reclaim_ap(struct vop_reclaim_args *ap)
1769 {
1770         int error;
1771
1772         DO_OPS(ap->a_head.a_ops, error, ap, vop_reclaim);
1773         return(error);
1774 }
1775
1776 int
1777 vop_bmap_ap(struct vop_bmap_args *ap)
1778 {
1779         int error;
1780
1781         DO_OPS(ap->a_head.a_ops, error, ap, vop_bmap);
1782         return(error);
1783 }
1784
1785 int
1786 vop_strategy_ap(struct vop_strategy_args *ap)
1787 {
1788         int error;
1789
1790         DO_OPS(ap->a_head.a_ops, error, ap, vop_strategy);
1791         return(error);
1792 }
1793
1794 int
1795 vop_print_ap(struct vop_print_args *ap)
1796 {
1797         int error;
1798
1799         DO_OPS(ap->a_head.a_ops, error, ap, vop_print);
1800         return(error);
1801 }
1802
1803 int
1804 vop_pathconf_ap(struct vop_pathconf_args *ap)
1805 {
1806         int error;
1807
1808         DO_OPS(ap->a_head.a_ops, error, ap, vop_pathconf);
1809         return(error);
1810 }
1811
1812 int
1813 vop_advlock_ap(struct vop_advlock_args *ap)
1814 {
1815         int error;
1816
1817         DO_OPS(ap->a_head.a_ops, error, ap, vop_advlock);
1818         return(error);
1819 }
1820
1821 int
1822 vop_balloc_ap(struct vop_balloc_args *ap)
1823 {
1824         int error;
1825
1826         DO_OPS(ap->a_head.a_ops, error, ap, vop_balloc);
1827         return(error);
1828 }
1829
1830 int
1831 vop_reallocblks_ap(struct vop_reallocblks_args *ap)
1832 {
1833         int error;
1834
1835         DO_OPS(ap->a_head.a_ops, error, ap, vop_reallocblks);
1836         return(error);
1837 }
1838
1839 int
1840 vop_getpages_ap(struct vop_getpages_args *ap)
1841 {
1842         int error;
1843
1844         DO_OPS(ap->a_head.a_ops, error, ap, vop_getpages);
1845         return(error);
1846 }
1847
1848 int
1849 vop_putpages_ap(struct vop_putpages_args *ap)
1850 {
1851         int error;
1852
1853         DO_OPS(ap->a_head.a_ops, error, ap, vop_putpages);
1854         return(error);
1855 }
1856
1857 int
1858 vop_freeblks_ap(struct vop_freeblks_args *ap)
1859 {
1860         int error;
1861
1862         DO_OPS(ap->a_head.a_ops, error, ap, vop_freeblks);
1863         return(error);
1864 }
1865
1866 int
1867 vop_getacl_ap(struct vop_getacl_args *ap)
1868 {
1869         int error;
1870
1871         DO_OPS(ap->a_head.a_ops, error, ap, vop_getacl);
1872         return(error);
1873 }
1874
1875 int
1876 vop_setacl_ap(struct vop_setacl_args *ap)
1877 {
1878         int error;
1879
1880         DO_OPS(ap->a_head.a_ops, error, ap, vop_setacl);
1881         return(error);
1882 }
1883
1884 int
1885 vop_aclcheck_ap(struct vop_aclcheck_args *ap)
1886 {
1887         int error;
1888
1889         DO_OPS(ap->a_head.a_ops, error, ap, vop_aclcheck);
1890         return(error);
1891 }
1892
1893 int
1894 vop_getextattr_ap(struct vop_getextattr_args *ap)
1895 {
1896         int error;
1897
1898         DO_OPS(ap->a_head.a_ops, error, ap, vop_getextattr);
1899         return(error);
1900 }
1901
1902 int
1903 vop_setextattr_ap(struct vop_setextattr_args *ap)
1904 {
1905         int error;
1906
1907         DO_OPS(ap->a_head.a_ops, error, ap, vop_setextattr);
1908         return(error);
1909 }
1910
1911 int
1912 vop_mountctl_ap(struct vop_mountctl_args *ap)
1913 {
1914         int error;
1915
1916         DO_OPS(ap->a_head.a_ops, error, ap, vop_mountctl);
1917         return(error);
1918 }
1919
1920 int
1921 vop_markatime_ap(struct vop_markatime_args *ap)
1922 {
1923         int error;
1924
1925         DO_OPS(ap->a_head.a_ops, error, ap, vop_markatime);
1926         return(error);
1927 }
1928
1929 int
1930 vop_nresolve_ap(struct vop_nresolve_args *ap)
1931 {
1932         int error;
1933
1934         DO_OPS(ap->a_head.a_ops, error, ap, vop_nresolve);
1935         return(error);
1936 }
1937
1938 int
1939 vop_nlookupdotdot_ap(struct vop_nlookupdotdot_args *ap)
1940 {
1941         int error;
1942
1943         DO_OPS(ap->a_head.a_ops, error, ap, vop_nlookupdotdot);
1944         return(error);
1945 }
1946
1947 int
1948 vop_ncreate_ap(struct vop_ncreate_args *ap)
1949 {
1950         int error;
1951
1952         DO_OPS(ap->a_head.a_ops, error, ap, vop_ncreate);
1953         return(error);
1954 }
1955
1956 int
1957 vop_nmkdir_ap(struct vop_nmkdir_args *ap)
1958 {
1959         int error;
1960
1961         DO_OPS(ap->a_head.a_ops, error, ap, vop_nmkdir);
1962         return(error);
1963 }
1964
1965 int
1966 vop_nmknod_ap(struct vop_nmknod_args *ap)
1967 {
1968         int error;
1969
1970         DO_OPS(ap->a_head.a_ops, error, ap, vop_nmknod);
1971         return(error);
1972 }
1973
1974 int
1975 vop_nlink_ap(struct vop_nlink_args *ap)
1976 {
1977         int error;
1978
1979         DO_OPS(ap->a_head.a_ops, error, ap, vop_nlink);
1980         return(error);
1981 }
1982
1983 int
1984 vop_nsymlink_ap(struct vop_nsymlink_args *ap)
1985 {
1986         int error;
1987
1988         DO_OPS(ap->a_head.a_ops, error, ap, vop_nsymlink);
1989         return(error);
1990 }
1991
1992 int
1993 vop_nwhiteout_ap(struct vop_nwhiteout_args *ap)
1994 {
1995         int error;
1996
1997         DO_OPS(ap->a_head.a_ops, error, ap, vop_nwhiteout);
1998         return(error);
1999 }
2000
2001 int
2002 vop_nremove_ap(struct vop_nremove_args *ap)
2003 {
2004         int error;
2005
2006         DO_OPS(ap->a_head.a_ops, error, ap, vop_nremove);
2007         return(error);
2008 }
2009
2010 int
2011 vop_nrmdir_ap(struct vop_nrmdir_args *ap)
2012 {
2013         int error;
2014
2015         DO_OPS(ap->a_head.a_ops, error, ap, vop_nrmdir);
2016         return(error);
2017 }
2018
2019 int
2020 vop_nrename_ap(struct vop_nrename_args *ap)
2021 {
2022         int error;
2023
2024         DO_OPS(ap->a_head.a_ops, error, ap, vop_nrename);
2025         return(error);
2026 }
2027