sys/net/tap/if_tap.c

   1 /*
   2  * Copyright (C) 1999-2000 by Maksim Yevmenkin <m_evmenkin@yahoo.com>
   3  * All rights reserved.
   4  *
   5  * Redistribution and use in source and binary forms, with or without
   6  * modification, are permitted provided that the following conditions
   7  * are met:
   8  * 1. Redistributions of source code must retain the above copyright
   9  *    notice, this list of conditions and the following disclaimer.
  10  * 2. Redistributions in binary form must reproduce the above copyright
  11  *    notice, this list of conditions and the following disclaimer in the
  12  *    documentation and/or other materials provided with the distribution.
  13  *
  14  * THIS SOFTWARE IS PROVIDED BY THE AUTHOR AND CONTRIBUTORS ``AS IS'' AND
  15  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  16  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
  17  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
  18  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
  19  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
  20  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
  21  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
  22  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
  23  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
  24  * SUCH DAMAGE.
  25  *
  26  * BASED ON:
  27  * -------------------------------------------------------------------------
  28  *
  29  * Copyright (c) 1988, Julian Onions <jpo@cs.nott.ac.uk>
  30  * Nottingham University 1987.
  31  */
  32
  33 /*
  34  * $FreeBSD: src/sys/net/if_tap.c,v 1.3.2.3 2002/04/14 21:41:48 luigi Exp $
  35  * $DragonFly: src/sys/net/tap/if_tap.c,v 1.41 2008/09/05 17:03:15 dillon Exp $
  36  * $Id: if_tap.c,v 0.21 2000/07/23 21:46:02 max Exp $
  37  */
  38
  39 #include "opt_inet.h"
  40
  41 #include <sys/param.h>
  42 #include <sys/conf.h>
  43 #include <sys/device.h>
  44 #include <sys/filedesc.h>
  45 #include <sys/filio.h>
  46 #include <sys/kernel.h>
  47 #include <sys/malloc.h>
  48 #include <sys/mbuf.h>
  49 #include <sys/proc.h>
  50 #include <sys/priv.h>
  51 #include <sys/signalvar.h>
  52 #include <sys/socket.h>
  53 #include <sys/sockio.h>
  54 #include <sys/sysctl.h>
  55 #include <sys/systm.h>
  56 #include <sys/ttycom.h>
  57 #include <sys/uio.h>
  58 #include <sys/vnode.h>
  59 #include <sys/serialize.h>
  60
  61 #include <sys/thread2.h>
  62 #include <sys/mplock2.h>
  63
  64 #include <net/bpf.h>
  65 #include <net/ethernet.h>
  66 #include <net/if.h>
  67 #include <net/ifq_var.h>
  68 #include <net/if_arp.h>
  69 #include <net/if_clone.h>
  70 #include <net/route.h>
  71 #include <sys/devfs.h>
  72
  73 #include <netinet/in.h>
  74
  75 #include "if_tapvar.h"
  76 #include "if_tap.h"
  77
  78 #define TAP_IFFLAGS     (IFF_BROADCAST|IFF_SIMPLEX|IFF_MULTICAST)
  79
  80 #define TAP_PREALLOCATED_UNITS  4
  81
  82 #define CDEV_NAME       "tap"
  83 #define CDEV_MAJOR      149
  84 #define TAPDEBUG        if (tapdebug) if_printf
  85
  86 #define TAP             "tap"
  87 #define VMNET           "vmnet"
  88 #define VMNET_DEV_MASK  0x00010000
  89
  90 DEVFS_DECLARE_CLONE_BITMAP(tap);
  91
  92 /* module */
  93 static int              tapmodevent     (module_t, int, void *);
  94
  95 /* device */
  96 static struct tap_softc *tapcreate(int, cdev_t);
  97 static void             tapdestroy(struct tap_softc *);
  98
  99 /* clone */
 100 static int              tap_clone_create(struct if_clone *, int, caddr_t);
 101 static void             tap_clone_destroy(struct ifnet *);
 102
 103
 104 /* network interface */
 105 static void             tapifstart      (struct ifnet *);
 106 static int              tapifioctl      (struct ifnet *, u_long, caddr_t,
 107                                          struct ucred *);
 108 static void             tapifinit       (void *);
 109 static void             tapifstop(struct tap_softc *, int);
 110 static void             tapifflags(struct tap_softc *);
 111
 112 /* character device */
 113 static d_open_t         tapopen;
 114 static d_clone_t        tapclone;
 115 static d_close_t        tapclose;
 116 static d_read_t         tapread;
 117 static d_write_t        tapwrite;
 118 static d_ioctl_t        tapioctl;
 119 static d_kqfilter_t     tapkqfilter;
 120
 121 static struct dev_ops   tap_ops = {
 122         { CDEV_NAME, CDEV_MAJOR, 0 },
 123         .d_open =       tapopen,
 124         .d_close =      tapclose,
 125         .d_read =       tapread,
 126         .d_write =      tapwrite,
 127         .d_ioctl =      tapioctl,
 128         .d_kqfilter =   tapkqfilter
 129 };
 130
 131 static int              taprefcnt = 0;          /* module ref. counter   */
 132 static int              taplastunit = -1;       /* max. open unit number */
 133 static int              tapdebug = 0;           /* debug flag            */
 134 static int              tapuopen = 0;           /* all user open()       */
 135 static int              tapuponopen = 0;        /* IFF_UP       */
 136
 137 MALLOC_DECLARE(M_TAP);
 138 MALLOC_DEFINE(M_TAP, CDEV_NAME, "Ethernet tunnel interface");
 139 struct if_clone tap_cloner = IF_CLONE_INITIALIZER("tap",
 140                              tap_clone_create, tap_clone_destroy,
 141                              0, IF_MAXUNIT);
 142 static SLIST_HEAD(,tap_softc) tap_listhead =
 143         SLIST_HEAD_INITIALIZER(&tap_listhead);
 144
 145 SYSCTL_INT(_debug, OID_AUTO, if_tap_debug, CTLFLAG_RW, &tapdebug, 0, "");
 146 SYSCTL_DECL(_net_link);
 147 SYSCTL_NODE(_net_link, OID_AUTO, tap, CTLFLAG_RW, 0,
 148             "Ethernet tunnel software network interface");
 149 SYSCTL_INT(_net_link_tap, OID_AUTO, user_open, CTLFLAG_RW, &tapuopen, 0,
 150            "Allow user to open /dev/tap (based on node permissions)");
 151 SYSCTL_INT(_net_link_tap, OID_AUTO, up_on_open, CTLFLAG_RW, &tapuponopen, 0,
 152            "Bring interface up when /dev/tap is opened");
 153 SYSCTL_INT(_net_link_tap, OID_AUTO, debug, CTLFLAG_RW, &tapdebug, 0, "");
 154
 155 DEV_MODULE(if_tap, tapmodevent, NULL);
 156
 157 /*
 158  * tapmodevent
 159  *
 160  * module event handler
 161  */
 162 static int
 163 tapmodevent(module_t mod, int type, void *data)
 164 {
 165         static int attached = 0;
 166         struct tap_softc *tp, *ntp;
 167         int i;
 168
 169         switch (type) {
 170         case MOD_LOAD:
 171                 if (attached)
 172                         return (EEXIST);
 173
 174                 make_autoclone_dev(&tap_ops, &DEVFS_CLONE_BITMAP(tap), tapclone,
 175                                    UID_ROOT, GID_WHEEL, 0600, "tap");
 176                 SLIST_INIT(&tap_listhead);
 177                 if_clone_attach(&tap_cloner);
 178
 179                 for (i = 0; i < TAP_PREALLOCATED_UNITS; ++i) {
 180                         make_dev(&tap_ops, i, UID_ROOT, GID_WHEEL,
 181                                  0600, "tap%d", i);
 182                         devfs_clone_bitmap_set(&DEVFS_CLONE_BITMAP(tap), i);
 183                 }
 184
 185                 attached = 1;
 186                 break;
 187
 188         case MOD_UNLOAD:
 189                 if (taprefcnt > 0)
 190                         return (EBUSY);
 191
 192                 if_clone_detach(&tap_cloner);
 193
 194                 /* Maintain tap ifs in a local list */
 195                 SLIST_FOREACH_MUTABLE(tp, &tap_listhead, tap_link, ntp)
 196                         tapdestroy(tp);
 197
 198                 attached = 0;
 199
 200                 devfs_clone_handler_del("tap");
 201                 dev_ops_remove_all(&tap_ops);
 202                 devfs_clone_bitmap_uninit(&DEVFS_CLONE_BITMAP(tap));
 203                 break;
 204
 205         default:
 206                 return (EOPNOTSUPP);
 207         }
 208
 209         return (0);
 210 } /* tapmodevent */
 211
 212
 213 /*
 214  * tapcreate - create or clone an interface
 215  */
 216 static struct tap_softc *
 217 tapcreate(int unit, cdev_t dev)
 218 {
 219         const char      *name = TAP;
 220         struct ifnet    *ifp;
 221         struct tap_softc *tp;
 222         uint8_t         ether_addr[ETHER_ADDR_LEN];
 223
 224         tp = kmalloc(sizeof(*tp), M_TAP, M_WAITOK | M_ZERO);
 225         dev->si_drv1 = tp;
 226         tp->tap_dev = dev;
 227         tp->tap_unit = unit;
 228
 229         reference_dev(dev);     /* tp association */
 230
 231         /* generate fake MAC address: 00 bd xx xx xx unit_no */
 232         ether_addr[0] = 0x00;
 233         ether_addr[1] = 0xbd;
 234         bcopy(&ticks, &ether_addr[2], 3);
 235         ether_addr[5] = (u_char)unit;
 236
 237         /* fill the rest and attach interface */
 238         ifp = &tp->tap_if;
 239         ifp->if_softc = tp;
 240
 241         if_initname(ifp, name, unit);
 242         if (unit > taplastunit)
 243                 taplastunit = unit;
 244
 245         ifp->if_init = tapifinit;
 246         ifp->if_start = tapifstart;
 247         ifp->if_ioctl = tapifioctl;
 248         ifp->if_mtu = ETHERMTU;
 249         ifp->if_flags = TAP_IFFLAGS;
 250         ifq_set_maxlen(&ifp->if_snd, ifqmaxlen);
 251         ifq_set_ready(&ifp->if_snd);
 252
 253         ether_ifattach(ifp, ether_addr, NULL);
 254
 255         tp->tap_flags |= TAP_INITED;
 256         tp->tap_devq.ifq_maxlen = ifqmaxlen;
 257
 258         SLIST_INSERT_HEAD(&tap_listhead, tp, tap_link);
 259
 260         TAPDEBUG(ifp, "created. minor = %#x\n", minor(dev));
 261         return (tp);
 262 }
 263
 264 static
 265 struct tap_softc *
 266 tapfind(int unit)
 267 {
 268         struct tap_softc *tp;
 269
 270         SLIST_FOREACH(tp, &tap_listhead, tap_link) {
 271                 if (tp->tap_unit == unit)
 272                         return(tp);
 273         }
 274         return (NULL);
 275 }
 276
 277 /*
 278  * tap_clone_create:
 279  *
 280  * Create a new tap instance via ifconfig.
 281  */
 282 static int
 283 tap_clone_create(struct if_clone *ifc __unused, int unit,
 284     caddr_t param __unused)
 285 {
 286         struct tap_softc *tp;
 287         cdev_t dev;
 288
 289         tp = tapfind(unit);
 290         if (tp == NULL) {
 291                 if (!devfs_clone_bitmap_chk(&DEVFS_CLONE_BITMAP(tap), unit)) {
 292                         devfs_clone_bitmap_set(&DEVFS_CLONE_BITMAP(tap), unit);
 293                         dev = make_dev(&tap_ops, unit, UID_ROOT, GID_WHEEL,
 294                                            0600, "%s%d", TAP, unit);
 295                 } else {
 296                         dev = devfs_find_device_by_name("%s%d", TAP, unit);
 297                 }
 298
 299                 KKASSERT(dev != NULL);
 300                 tp = tapcreate(unit, dev);
 301         }
 302         tp->tap_flags |= TAP_CLONE;
 303         TAPDEBUG(&tp->tap_if, "clone created. minor = %#x tap_flags = 0x%x\n",
 304                  minor(tp->tap_dev), tp->tap_flags);
 305
 306         return (0);
 307 }
 308
 309 /*
 310  * tapopen
 311  *
 312  * to open tunnel. must be superuser
 313  */
 314 static int
 315 tapopen(struct dev_open_args *ap)
 316 {
 317         cdev_t dev = NULL;
 318         struct tap_softc *tp = NULL;
 319         struct ifnet *ifp = NULL;
 320         int error;
 321
 322         if (tapuopen == 0 &&
 323             (error = priv_check_cred(ap->a_cred, PRIV_ROOT, 0)) != 0)
 324                 return (error);
 325
 326         get_mplock();
 327         dev = ap->a_head.a_dev;
 328         tp = dev->si_drv1;
 329         if (tp == NULL)
 330                 tp = tapcreate(minor(dev), dev);
 331         if (tp->tap_flags & TAP_OPEN) {
 332                 rel_mplock();
 333                 return (EBUSY);
 334         }
 335         ifp = &tp->arpcom.ac_if;
 336
 337         if ((tp->tap_flags & TAP_CLONE) == 0) {
 338                 EVENTHANDLER_INVOKE(ifnet_attach_event, ifp);
 339
 340                 /* Announce the return of the interface. */
 341                 rt_ifannouncemsg(ifp, IFAN_ARRIVAL);
 342         }
 343
 344         bcopy(tp->arpcom.ac_enaddr, tp->ether_addr, sizeof(tp->ether_addr));
 345
 346         if (curthread->td_proc)
 347                 fsetown(curthread->td_proc->p_pid, &tp->tap_sigtd);
 348         tp->tap_flags |= TAP_OPEN;
 349         taprefcnt ++;
 350
 351         if (tapuponopen && (ifp->if_flags & IFF_UP) == 0) {
 352                 crit_enter();
 353                 if_up(ifp);
 354                 crit_exit();
 355
 356                 ifnet_serialize_all(ifp);
 357                 tapifflags(tp);
 358                 ifnet_deserialize_all(ifp);
 359
 360                 tp->tap_flags |= TAP_CLOSEDOWN;
 361         }
 362
 363         TAPDEBUG(ifp, "opened. minor = %#x, refcnt = %d, taplastunit = %d\n",
 364                  minor(tp->tap_dev), taprefcnt, taplastunit);
 365
 366         rel_mplock();
 367         return (0);
 368 }
 369
 370 static int
 371 tapclone(struct dev_clone_args *ap)
 372 {
 373         int unit;
 374
 375         unit = devfs_clone_bitmap_get(&DEVFS_CLONE_BITMAP(tap), 0);
 376         ap->a_dev = make_only_dev(&tap_ops, unit, UID_ROOT, GID_WHEEL,
 377                                   0600, "%s%d", TAP, unit);
 378         tapcreate(unit, ap->a_dev);
 379         return (0);
 380 }
 381
 382 /*
 383  * tapclose
 384  *
 385  * close the device - mark i/f down & delete routing info
 386  */
 387 static int
 388 tapclose(struct dev_close_args *ap)
 389 {
 390         cdev_t dev = ap->a_head.a_dev;
 391         struct tap_softc *tp = dev->si_drv1;
 392         struct ifnet *ifp = &tp->tap_if;
 393         int clear_flags = 0;
 394
 395         get_mplock();
 396
 397         /* Junk all pending output */
 398         ifq_purge(&ifp->if_snd);
 399
 400         /*
 401          * Do not bring the interface down, and do not anything with
 402          * interface, if we are in VMnet mode. just close the device.
 403          *
 404          * If the interface is not cloned, we always bring it down.
 405          *
 406          * If the interface is cloned, then we bring it down during
 407          * closing only if it was brought up during opening.
 408          */
 409         if ((tp->tap_flags & TAP_VMNET) == 0 &&
 410             ((tp->tap_flags & TAP_CLONE) == 0 ||
 411              (tp->tap_flags & TAP_CLOSEDOWN))) {
 412                 if (ifp->if_flags & IFF_UP)
 413                         if_down(ifp);
 414                 clear_flags = 1;
 415         }
 416         ifnet_serialize_all(ifp);
 417         tapifstop(tp, clear_flags);
 418         ifnet_deserialize_all(ifp);
 419
 420         if ((tp->tap_flags & TAP_CLONE) == 0) {
 421                 if_purgeaddrs_nolink(ifp);
 422
 423                 EVENTHANDLER_INVOKE(ifnet_detach_event, ifp);
 424
 425                 /* Announce the departure of the interface. */
 426                 rt_ifannouncemsg(ifp, IFAN_DEPARTURE);
 427         }
 428
 429         funsetown(tp->tap_sigio);
 430         tp->tap_sigio = NULL;
 431         KNOTE(&tp->tap_rsel.si_note, 0);
 432
 433         tp->tap_flags &= ~TAP_OPEN;
 434         funsetown(tp->tap_sigtd);
 435         tp->tap_sigtd = NULL;
 436
 437         taprefcnt --;
 438         if (taprefcnt < 0) {
 439                 taprefcnt = 0;
 440                 if_printf(ifp, "minor = %#x, refcnt = %d is out of sync. "
 441                         "set refcnt to 0\n", minor(tp->tap_dev), taprefcnt);
 442         }
 443
 444         TAPDEBUG(ifp, "closed. minor = %#x, refcnt = %d, taplastunit = %d\n",
 445                  minor(tp->tap_dev), taprefcnt, taplastunit);
 446
 447         if (tp->tap_unit >= TAP_PREALLOCATED_UNITS)
 448                 tapdestroy(tp);
 449
 450         rel_mplock();
 451         return (0);
 452 }
 453
 454 /*
 455  * tapdestroy:
 456  *
 457  *      Destroy a tap instance.
 458  */
 459 static void
 460 tapdestroy(struct tap_softc *tp)
 461 {
 462         struct ifnet *ifp = &tp->arpcom.ac_if;
 463         cdev_t dev;
 464
 465         TAPDEBUG(ifp, "destroyed. minor = %#x, refcnt = %d, taplastunit = %d\n",
 466                  minor(tp->tap_dev), taprefcnt, taplastunit);
 467
 468         ifnet_serialize_all(ifp);
 469         tapifstop(tp, 1);
 470         ifnet_deserialize_all(ifp);
 471
 472         ether_ifdetach(ifp);
 473         SLIST_REMOVE(&tap_listhead, tp, tap_softc, tap_link);
 474
 475         dev = tp->tap_dev;
 476         tp->tap_dev = NULL;
 477         dev->si_drv1 = NULL;
 478
 479         release_dev(dev);       /* tp association */
 480
 481         /*
 482          * Also destroy the cloned device
 483          */
 484         if (tp->tap_unit >= TAP_PREALLOCATED_UNITS) {
 485                 destroy_dev(dev);
 486                 devfs_clone_bitmap_put(&DEVFS_CLONE_BITMAP(tap), tp->tap_unit);
 487         }
 488
 489         kfree(tp, M_TAP);
 490
 491         taplastunit--;
 492 }
 493
 494 /*
 495  * tap_clone_destroy:
 496  *
 497  *      Destroy a tap instance.
 498  */
 499 static void
 500 tap_clone_destroy(struct ifnet *ifp)
 501 {
 502         struct tap_softc *tp = ifp->if_softc;
 503
 504         TAPDEBUG(&tp->tap_if, "clone destroyed. minor = %#x tap_flags = 0x%x\n",
 505                  minor(tp->tap_dev), tp->tap_flags);
 506         if (tp->tap_flags & TAP_CLONE)
 507                 tapdestroy(tp);
 508 }
 509
 510 /*
 511  * tapifinit
 512  *
 513  * Network interface initialization function (called with if serializer held)
 514  *
 515  * MPSAFE
 516  */
 517 static void
 518 tapifinit(void *xtp)
 519 {
 520         struct tap_softc *tp = xtp;
 521         struct ifnet *ifp = &tp->tap_if;
 522
 523         TAPDEBUG(ifp, "initializing, minor = %#x tap_flags = 0x%x\n",
 524                  minor(tp->tap_dev), tp->tap_flags);
 525
 526         ASSERT_IFNET_SERIALIZED_ALL(ifp);
 527
 528         tapifstop(tp, 1);
 529
 530         ifp->if_flags |= IFF_RUNNING;
 531         ifp->if_flags &= ~IFF_OACTIVE;
 532
 533         /* attempt to start output */
 534         tapifstart(ifp);
 535 }
 536
 537
 538 /*
 539  * tapifioctl
 540  *
 541  * Process an ioctl request on network interface (called with if serializer
 542  * held).
 543  *
 544  * MPSAFE
 545  */
 546 static int
 547 tapifioctl(struct ifnet *ifp, u_long cmd, caddr_t data, struct ucred *cr)
 548 {
 549         struct tap_softc        *tp = (struct tap_softc *)(ifp->if_softc);
 550         struct ifstat           *ifs = NULL;
 551         int                      dummy;
 552
 553         switch (cmd) {
 554                 case SIOCSIFADDR:
 555                 case SIOCGIFADDR:
 556                 case SIOCSIFMTU:
 557                         dummy = ether_ioctl(ifp, cmd, data);
 558                         return (dummy);
 559
 560                 case SIOCSIFFLAGS:
 561                         tapifflags(tp);
 562                         break;
 563
 564                 case SIOCADDMULTI: /* XXX -- just like vmnet does */
 565                 case SIOCDELMULTI:
 566                         break;
 567
 568                 case SIOCGIFSTATUS:
 569                         ifs = (struct ifstat *)data;
 570                         dummy = strlen(ifs->ascii);
 571                         if ((tp->tap_flags & TAP_OPEN) &&
 572                             dummy < sizeof(ifs->ascii)) {
 573                                 if (tp->tap_sigtd && tp->tap_sigtd->sio_proc) {
 574                                     ksnprintf(ifs->ascii + dummy,
 575                                         sizeof(ifs->ascii) - dummy,
 576                                         "\tOpened by pid %d\n",
 577                                         (int)tp->tap_sigtd->sio_proc->p_pid);
 578                                 } else {
 579                                     ksnprintf(ifs->ascii + dummy,
 580                                         sizeof(ifs->ascii) - dummy,
 581                                         "\tOpened by <unknown>\n");
 582                                 }
 583                         }
 584                         break;
 585
 586                 default:
 587                         return (EINVAL);
 588         }
 589
 590         return (0);
 591 }
 592
 593
 594 /*
 595  * tapifstart
 596  *
 597  * Queue packets from higher level ready to put out (called with if serializer
 598  * held)
 599  *
 600  * MPSAFE
 601  */
 602 static void
 603 tapifstart(struct ifnet *ifp)
 604 {
 605         struct tap_softc *tp = ifp->if_softc;
 606         struct ifqueue *ifq;
 607         struct mbuf *m;
 608         int has_data = 0;
 609
 610         TAPDEBUG(ifp, "starting, minor = %#x\n", minor(tp->tap_dev));
 611
 612         /*
 613          * do not junk pending output if we are in VMnet mode.
 614          * XXX: can this do any harm because of queue overflow?
 615          */
 616
 617         if (((tp->tap_flags & TAP_VMNET) == 0) &&
 618             ((tp->tap_flags & TAP_READY) != TAP_READY)) {
 619                 TAPDEBUG(ifp, "not ready. minor = %#x, tap_flags = 0x%x\n",
 620                          minor(tp->tap_dev), tp->tap_flags);
 621                 ifq_purge(&ifp->if_snd);
 622                 return;
 623         }
 624
 625         ifp->if_flags |= IFF_OACTIVE;
 626
 627         ifq = &tp->tap_devq;
 628         while ((m = ifq_dequeue(&ifp->if_snd, NULL)) != NULL) {
 629                 if (IF_QFULL(ifq)) {
 630                         IF_DROP(ifq);
 631                         ifp->if_oerrors++;
 632                         m_freem(m);
 633                 } else {
 634                         IF_ENQUEUE(ifq, m);
 635                         ifp->if_opackets++;
 636                         has_data = 1;
 637                 }
 638         }
 639
 640         if (has_data) {
 641                 if (tp->tap_flags & TAP_RWAIT) {
 642                         tp->tap_flags &= ~TAP_RWAIT;
 643                         wakeup((caddr_t)tp);
 644                 }
 645
 646                 get_mplock();
 647                 KNOTE(&tp->tap_rsel.si_note, 0);
 648                 rel_mplock();
 649
 650                 if ((tp->tap_flags & TAP_ASYNC) && (tp->tap_sigio != NULL)) {
 651                         get_mplock();
 652                         pgsigio(tp->tap_sigio, SIGIO, 0);
 653                         rel_mplock();
 654                 }
 655         }
 656
 657         ifp->if_flags &= ~IFF_OACTIVE;
 658 }
 659
 660
 661 /*
 662  * tapioctl
 663  *
 664  * The ops interface is now pretty minimal.  Called via fileops with nothing
 665  * held.
 666  *
 667  * MPSAFE
 668  */
 669 static int
 670 tapioctl(struct dev_ioctl_args *ap)
 671 {
 672         cdev_t dev = ap->a_head.a_dev;
 673         caddr_t data = ap->a_data;
 674         struct tap_softc        *tp = dev->si_drv1;
 675         struct ifnet            *ifp = &tp->tap_if;
 676         struct tapinfo          *tapp = NULL;
 677         struct mbuf *mb;
 678         short f;
 679         int error;
 680
 681         ifnet_serialize_all(ifp);
 682         error = 0;
 683
 684         switch (ap->a_cmd) {
 685         case TAPSIFINFO:
 686                 tapp = (struct tapinfo *)data;
 687                 ifp->if_mtu = tapp->mtu;
 688                 ifp->if_type = tapp->type;
 689                 ifp->if_baudrate = tapp->baudrate;
 690                 break;
 691
 692         case TAPGIFINFO:
 693                 tapp = (struct tapinfo *)data;
 694                 tapp->mtu = ifp->if_mtu;
 695                 tapp->type = ifp->if_type;
 696                 tapp->baudrate = ifp->if_baudrate;
 697                 break;
 698
 699         case TAPSDEBUG:
 700                 tapdebug = *(int *)data;
 701                 break;
 702
 703         case TAPGDEBUG:
 704                 *(int *)data = tapdebug;
 705                 break;
 706
 707         case FIOASYNC:
 708                 if (*(int *)data)
 709                         tp->tap_flags |= TAP_ASYNC;
 710                 else
 711                         tp->tap_flags &= ~TAP_ASYNC;
 712                 break;
 713
 714         case FIONREAD:
 715                 *(int *)data = 0;
 716
 717                 /* Take a look at devq first */
 718                 IF_POLL(&tp->tap_devq, mb);
 719                 if (mb == NULL)
 720                         mb = ifq_poll(&ifp->if_snd);
 721
 722                 if (mb != NULL) {
 723                         for(; mb != NULL; mb = mb->m_next)
 724                                 *(int *)data += mb->m_len;
 725                 }
 726                 break;
 727
 728         case FIOSETOWN:
 729                 error = fsetown(*(int *)data, &tp->tap_sigio);
 730                 break;
 731
 732         case FIOGETOWN:
 733                 *(int *)data = fgetown(tp->tap_sigio);
 734                 break;
 735
 736         /* this is deprecated, FIOSETOWN should be used instead */
 737         case TIOCSPGRP:
 738                 error = fsetown(-(*(int *)data), &tp->tap_sigio);
 739                 break;
 740
 741         /* this is deprecated, FIOGETOWN should be used instead */
 742         case TIOCGPGRP:
 743                 *(int *)data = -fgetown(tp->tap_sigio);
 744                 break;
 745
 746         /* VMware/VMnet port ioctl's */
 747
 748         case SIOCGIFFLAGS:      /* get ifnet flags */
 749                 bcopy(&ifp->if_flags, data, sizeof(ifp->if_flags));
 750                 break;
 751
 752         case VMIO_SIOCSIFFLAGS: /* VMware/VMnet SIOCSIFFLAGS */
 753                 f = *(short *)data;
 754                 f &= 0x0fff;
 755                 f &= ~IFF_CANTCHANGE;
 756                 f |= IFF_UP;
 757                 ifp->if_flags = f | (ifp->if_flags & IFF_CANTCHANGE);
 758                 break;
 759
 760         case OSIOCGIFADDR:      /* get MAC address of the remote side */
 761         case SIOCGIFADDR:
 762                 bcopy(tp->ether_addr, data, sizeof(tp->ether_addr));
 763                 break;
 764
 765         case SIOCSIFADDR:       /* set MAC address of the remote side */
 766                 bcopy(data, tp->ether_addr, sizeof(tp->ether_addr));
 767                 break;
 768
 769         default:
 770                 error = ENOTTY;
 771                 break;
 772         }
 773         ifnet_deserialize_all(ifp);
 774         return (error);
 775 }
 776
 777
 778 /*
 779  * tapread
 780  *
 781  * The ops read interface - reads a packet at a time, or at
 782  * least as much of a packet as can be read.
 783  *
 784  * Called from the fileops interface with nothing held.
 785  *
 786  * MPSAFE
 787  */
 788 static int
 789 tapread(struct dev_read_args *ap)
 790 {
 791         cdev_t dev = ap->a_head.a_dev;
 792         struct uio *uio = ap->a_uio;
 793         struct tap_softc        *tp = dev->si_drv1;
 794         struct ifnet            *ifp = &tp->tap_if;
 795         struct mbuf             *m0 = NULL;
 796         int                      error = 0, len;
 797
 798         TAPDEBUG(ifp, "reading, minor = %#x\n", minor(tp->tap_dev));
 799
 800         if ((tp->tap_flags & TAP_READY) != TAP_READY) {
 801                 TAPDEBUG(ifp, "not ready. minor = %#x, tap_flags = 0x%x\n",
 802                          minor(tp->tap_dev), tp->tap_flags);
 803
 804                 return (EHOSTDOWN);
 805         }
 806
 807         tp->tap_flags &= ~TAP_RWAIT;
 808
 809         /* sleep until we get a packet */
 810         do {
 811                 ifnet_serialize_all(ifp);
 812                 IF_DEQUEUE(&tp->tap_devq, m0);
 813                 if (m0 == NULL) {
 814                         if (ap->a_ioflag & IO_NDELAY) {
 815                                 ifnet_deserialize_all(ifp);
 816                                 return (EWOULDBLOCK);
 817                         }
 818                         tp->tap_flags |= TAP_RWAIT;
 819                         tsleep_interlock(tp, PCATCH);
 820                         ifnet_deserialize_all(ifp);
 821                         error = tsleep(tp, PCATCH | PINTERLOCKED, "taprd", 0);
 822                         if (error)
 823                                 return (error);
 824                 } else {
 825                         ifnet_deserialize_all(ifp);
 826                 }
 827         } while (m0 == NULL);
 828
 829         BPF_MTAP(ifp, m0);
 830
 831         /* xfer packet to user space */
 832         while ((m0 != NULL) && (uio->uio_resid > 0) && (error == 0)) {
 833                 len = (int)szmin(uio->uio_resid, m0->m_len);
 834                 if (len == 0)
 835                         break;
 836
 837                 error = uiomove(mtod(m0, caddr_t), (size_t)len, uio);
 838                 m0 = m_free(m0);
 839         }
 840
 841         if (m0 != NULL) {
 842                 TAPDEBUG(ifp, "dropping mbuf, minor = %#x\n",
 843                          minor(tp->tap_dev));
 844                 m_freem(m0);
 845         }
 846
 847         return (error);
 848 }
 849
 850 /*
 851  * tapwrite
 852  *
 853  * The ops write interface - an atomic write is a packet - or else!
 854  *
 855  * Called from the fileops interface with nothing held.
 856  *
 857  * MPSAFE
 858  */
 859 static int
 860 tapwrite(struct dev_write_args *ap)
 861 {
 862         cdev_t dev = ap->a_head.a_dev;
 863         struct uio *uio = ap->a_uio;
 864         struct tap_softc        *tp = dev->si_drv1;
 865         struct ifnet            *ifp = &tp->tap_if;
 866         struct mbuf             *top = NULL, **mp = NULL, *m = NULL;
 867         int                     error = 0;
 868         size_t                  tlen, mlen;
 869
 870         TAPDEBUG(ifp, "writing, minor = %#x\n", minor(tp->tap_dev));
 871
 872         if ((tp->tap_flags & TAP_READY) != TAP_READY) {
 873                 TAPDEBUG(ifp, "not ready. minor = %#x, tap_flags = 0x%x\n",
 874                          minor(tp->tap_dev), tp->tap_flags);
 875                 return (EHOSTDOWN);
 876         }
 877
 878         if (uio->uio_resid == 0)
 879                 return (0);
 880
 881         if (uio->uio_resid > TAPMRU) {
 882                 TAPDEBUG(ifp, "invalid packet len = %zu, minor = %#x\n",
 883                          uio->uio_resid, minor(tp->tap_dev));
 884
 885                 return (EIO);
 886         }
 887         tlen = uio->uio_resid;
 888
 889         /* get a header mbuf */
 890         MGETHDR(m, MB_DONTWAIT, MT_DATA);
 891         if (m == NULL)
 892                 return (ENOBUFS);
 893         mlen = MHLEN;
 894
 895         top = 0;
 896         mp = &top;
 897         while ((error == 0) && (uio->uio_resid > 0)) {
 898                 m->m_len = (int)szmin(mlen, uio->uio_resid);
 899                 error = uiomove(mtod(m, caddr_t), (size_t)m->m_len, uio);
 900                 *mp = m;
 901                 mp = &m->m_next;
 902                 if (uio->uio_resid > 0) {
 903                         MGET(m, MB_DONTWAIT, MT_DATA);
 904                         if (m == NULL) {
 905                                 error = ENOBUFS;
 906                                 break;
 907                         }
 908                         mlen = MLEN;
 909                 }
 910         }
 911         if (error) {
 912                 ifp->if_ierrors ++;
 913                 if (top)
 914                         m_freem(top);
 915                 return (error);
 916         }
 917
 918         top->m_pkthdr.len = (int)tlen;
 919         top->m_pkthdr.rcvif = ifp;
 920
 921         /*
 922          * Ethernet bridge and bpf are handled in ether_input
 923          *
 924          * adjust mbuf and give packet to the ether_input
 925          */
 926         ifnet_serialize_all(ifp);
 927         ifp->if_input(ifp, top);
 928         ifp->if_ipackets ++; /* ibytes are counted in ether_input */
 929         ifnet_deserialize_all(ifp);
 930
 931         return (0);
 932 }
 933
 934 /*
 935  * tapkqfilter - called from the fileops interface with nothing held
 936  *
 937  * MPSAFE
 938  */
 939 static int filt_tapread(struct knote *kn, long hint);
 940 static int filt_tapwrite(struct knote *kn, long hint);
 941 static void filt_tapdetach(struct knote *kn);
 942 static struct filterops tapread_filtops =
 943         { 1, NULL, filt_tapdetach, filt_tapread };
 944 static struct filterops tapwrite_filtops =
 945         { 1, NULL, filt_tapdetach, filt_tapwrite };
 946
 947 static int
 948 tapkqfilter(struct dev_kqfilter_args *ap)
 949 {
 950         cdev_t dev = ap->a_head.a_dev;
 951         struct knote *kn = ap->a_kn;
 952         struct tap_softc *tp;
 953         struct klist *list;
 954         struct ifnet *ifp;
 955
 956         get_mplock();
 957         tp = dev->si_drv1;
 958         list = &tp->tap_rsel.si_note;
 959         ifp = &tp->tap_if;
 960         ap->a_result =0;
 961
 962         switch(kn->kn_filter) {
 963         case EVFILT_READ:
 964                 kn->kn_fop = &tapread_filtops;
 965                 kn->kn_hook = (void *)tp;
 966                 break;
 967         case EVFILT_WRITE:
 968                 kn->kn_fop = &tapwrite_filtops;
 969                 kn->kn_hook = (void *)tp;
 970                 break;
 971         default:
 972                 ap->a_result = EOPNOTSUPP;
 973                 rel_mplock();
 974                 return(0);
 975         }
 976         crit_enter();
 977         SLIST_INSERT_HEAD(list, kn, kn_selnext);
 978         crit_exit();
 979         rel_mplock();
 980         return(0);
 981 }
 982
 983 static int
 984 filt_tapread(struct knote *kn, long hint)
 985 {
 986         struct tap_softc *tp = (void *)kn->kn_hook;
 987
 988         if (IF_QEMPTY(&tp->tap_devq) == 0)      /* XXX serializer */
 989                 return(1);
 990         else
 991                 return(0);
 992 }
 993
 994 static int
 995 filt_tapwrite(struct knote *kn, long hint)
 996 {
 997         /* Always ready for a write */
 998         return (1);
 999 }
1000
1001 static void
1002 filt_tapdetach(struct knote *kn)
1003 {
1004         struct tap_softc *tp = (void *)kn->kn_hook;
1005
1006         SLIST_REMOVE(&tp->tap_rsel.si_note, kn, knote, kn_selnext);
1007 }
1008
1009 static void
1010 tapifstop(struct tap_softc *tp, int clear_flags)
1011 {
1012         struct ifnet *ifp = &tp->tap_if;
1013
1014         ASSERT_IFNET_SERIALIZED_ALL(ifp);
1015         IF_DRAIN(&tp->tap_devq);
1016         tp->tap_flags &= ~TAP_CLOSEDOWN;
1017         if (clear_flags)
1018                 ifp->if_flags &= ~(IFF_RUNNING | IFF_OACTIVE);
1019 }
1020
1021 static void
1022 tapifflags(struct tap_softc *tp)
1023 {
1024         struct ifnet *ifp = &tp->arpcom.ac_if;
1025
1026         ASSERT_IFNET_SERIALIZED_ALL(ifp);
1027         if ((tp->tap_flags & TAP_VMNET) == 0) {
1028                 /*
1029                  * Only for non-vmnet tap(4)
1030                  */
1031                 if (ifp->if_flags & IFF_UP) {
1032                         if ((ifp->if_flags & IFF_RUNNING) == 0)
1033                                 tapifinit(tp);
1034                 } else {
1035                         tapifstop(tp, 1);
1036                 }
1037         } else {
1038                 /* XXX */
1039         }
1040 }