sys/dev/netif/vr/if_vr.c

   1 /*
   2  * Copyright (c) 1997, 1998
   3  *      Bill Paul <wpaul@ctr.columbia.edu>.  All rights reserved.
   4  *
   5  * Redistribution and use in source and binary forms, with or without
   6  * modification, are permitted provided that the following conditions
   7  * are met:
   8  * 1. Redistributions of source code must retain the above copyright
   9  *    notice, this list of conditions and the following disclaimer.
  10  * 2. Redistributions in binary form must reproduce the above copyright
  11  *    notice, this list of conditions and the following disclaimer in the
  12  *    documentation and/or other materials provided with the distribution.
  13  * 3. All advertising materials mentioning features or use of this software
  14  *    must display the following acknowledgement:
  15  *      This product includes software developed by Bill Paul.
  16  * 4. Neither the name of the author nor the names of any co-contributors
  17  *    may be used to endorse or promote products derived from this software
  18  *    without specific prior written permission.
  19  *
  20  * THIS SOFTWARE IS PROVIDED BY Bill Paul AND CONTRIBUTORS ``AS IS'' AND
  21  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  22  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
  23  * ARE DISCLAIMED.  IN NO EVENT SHALL Bill Paul OR THE VOICES IN HIS HEAD
  24  * BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR
  25  * CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF
  26  * SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS
  27  * INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN
  28  * CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
  29  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF
  30  * THE POSSIBILITY OF SUCH DAMAGE.
  31  *
  32  * $FreeBSD: src/sys/pci/if_vr.c,v 1.26.2.13 2003/02/06 04:46:20 silby Exp $
  33  * $DragonFly: src/sys/dev/netif/vr/if_vr.c,v 1.24 2005/05/27 15:36:10 joerg Exp $
  34  */
  35
  36 /*
  37  * VIA Rhine fast ethernet PCI NIC driver
  38  *
  39  * Supports various network adapters based on the VIA Rhine
  40  * and Rhine II PCI controllers, including the D-Link DFE530TX.
  41  * Datasheets are available at http://www.via.com.tw.
  42  *
  43  * Written by Bill Paul <wpaul@ctr.columbia.edu>
  44  * Electrical Engineering Department
  45  * Columbia University, New York City
  46  */
  47
  48 /*
  49  * The VIA Rhine controllers are similar in some respects to the
  50  * the DEC tulip chips, except less complicated. The controller
  51  * uses an MII bus and an external physical layer interface. The
  52  * receiver has a one entry perfect filter and a 64-bit hash table
  53  * multicast filter. Transmit and receive descriptors are similar
  54  * to the tulip.
  55  *
  56  * The Rhine has a serious flaw in its transmit DMA mechanism:
  57  * transmit buffers must be longword aligned. Unfortunately,
  58  * FreeBSD doesn't guarantee that mbufs will be filled in starting
  59  * at longword boundaries, so we have to do a buffer copy before
  60  * transmission.
  61  */
  62
  63 #include <sys/param.h>
  64 #include <sys/systm.h>
  65 #include <sys/sockio.h>
  66 #include <sys/mbuf.h>
  67 #include <sys/malloc.h>
  68 #include <sys/kernel.h>
  69 #include <sys/socket.h>
  70
  71 #include <net/if.h>
  72 #include <net/ifq_var.h>
  73 #include <net/if_arp.h>
  74 #include <net/ethernet.h>
  75 #include <net/if_dl.h>
  76 #include <net/if_media.h>
  77
  78 #include <net/bpf.h>
  79
  80 #include <vm/vm.h>              /* for vtophys */
  81 #include <vm/pmap.h>            /* for vtophys */
  82 #include <machine/bus_pio.h>
  83 #include <machine/bus_memio.h>
  84 #include <machine/bus.h>
  85 #include <machine/resource.h>
  86 #include <sys/bus.h>
  87 #include <sys/rman.h>
  88
  89 #include <dev/netif/mii_layer/mii.h>
  90 #include <dev/netif/mii_layer/miivar.h>
  91
  92 #include <bus/pci/pcireg.h>
  93 #include <bus/pci/pcivar.h>
  94
  95 #define VR_USEIOSPACE
  96
  97 #include <dev/netif/vr/if_vrreg.h>
  98
  99 /* "controller miibus0" required.  See GENERIC if you get errors here. */
 100 #include "miibus_if.h"
 101
 102 #undef VR_USESWSHIFT
 103
 104 /*
 105  * Various supported device vendors/types and their names.
 106  */
 107 static struct vr_type vr_devs[] = {
 108         { VIA_VENDORID, VIA_DEVICEID_RHINE,
 109                 "VIA VT3043 Rhine I 10/100BaseTX" },
 110         { VIA_VENDORID, VIA_DEVICEID_RHINE_II,
 111                 "VIA VT86C100A Rhine II 10/100BaseTX" },
 112         { VIA_VENDORID, VIA_DEVICEID_RHINE_II_2,
 113                 "VIA VT6102 Rhine II 10/100BaseTX" },
 114         { VIA_VENDORID, VIA_DEVICEID_RHINE_III,
 115                 "VIA VT6105 Rhine III 10/100BaseTX" },
 116         { VIA_VENDORID, VIA_DEVICEID_RHINE_III_M,
 117                 "VIA VT6105M Rhine III 10/100BaseTX" },
 118         { DELTA_VENDORID, DELTA_DEVICEID_RHINE_II,
 119                 "Delta Electronics Rhine II 10/100BaseTX" },
 120         { ADDTRON_VENDORID, ADDTRON_DEVICEID_RHINE_II,
 121                 "Addtron Technology Rhine II 10/100BaseTX" },
 122         { 0, 0, NULL }
 123 };
 124
 125 static int      vr_probe(device_t);
 126 static int      vr_attach(device_t);
 127 static int      vr_detach(device_t);
 128
 129 static int      vr_newbuf(struct vr_softc *, struct vr_chain_onefrag *,
 130                           struct mbuf *);
 131 static int      vr_encap(struct vr_softc *, struct vr_chain *, struct mbuf * );
 132
 133 static void     vr_rxeof(struct vr_softc *);
 134 static void     vr_rxeoc(struct vr_softc *);
 135 static void     vr_txeof(struct vr_softc *);
 136 static void     vr_txeoc(struct vr_softc *);
 137 static void     vr_tick(void *);
 138 static void     vr_intr(void *);
 139 static void     vr_start(struct ifnet *);
 140 static int      vr_ioctl(struct ifnet *, u_long, caddr_t, struct ucred *);
 141 static void     vr_init(void *);
 142 static void     vr_stop(struct vr_softc *);
 143 static void     vr_watchdog(struct ifnet *);
 144 static void     vr_shutdown(device_t);
 145 static int      vr_ifmedia_upd(struct ifnet *);
 146 static void     vr_ifmedia_sts(struct ifnet *, struct ifmediareq *);
 147
 148 #ifdef VR_USESWSHIFT
 149 static void     vr_mii_sync(struct vr_softc *);
 150 static void     vr_mii_send(struct vr_softc *, uint32_t, int);
 151 #endif
 152 static int      vr_mii_readreg(struct vr_softc *, struct vr_mii_frame *);
 153 static int      vr_mii_writereg(struct vr_softc *, struct vr_mii_frame *);
 154 static int      vr_miibus_readreg(device_t, int, int);
 155 static int      vr_miibus_writereg(device_t, int, int, int);
 156 static void     vr_miibus_statchg(device_t);
 157
 158 static void     vr_setcfg(struct vr_softc *, int);
 159 static uint8_t  vr_calchash(uint8_t *);
 160 static void     vr_setmulti(struct vr_softc *);
 161 static void     vr_reset(struct vr_softc *);
 162 static int      vr_list_rx_init(struct vr_softc *);
 163 static int      vr_list_tx_init(struct vr_softc *);
 164 #ifdef DEVICE_POLLING
 165 static void     vr_poll(struct ifnet *ifp, enum poll_cmd cmd, int count);
 166 #endif
 167
 168 #ifdef VR_USEIOSPACE
 169 #define VR_RES                  SYS_RES_IOPORT
 170 #define VR_RID                  VR_PCI_LOIO
 171 #else
 172 #define VR_RES                  SYS_RES_MEMORY
 173 #define VR_RID                  VR_PCI_LOMEM
 174 #endif
 175
 176 static device_method_t vr_methods[] = {
 177         /* Device interface */
 178         DEVMETHOD(device_probe,         vr_probe),
 179         DEVMETHOD(device_attach,        vr_attach),
 180         DEVMETHOD(device_detach,        vr_detach),
 181         DEVMETHOD(device_shutdown,      vr_shutdown),
 182
 183         /* bus interface */
 184         DEVMETHOD(bus_print_child,      bus_generic_print_child),
 185         DEVMETHOD(bus_driver_added,     bus_generic_driver_added),
 186
 187         /* MII interface */
 188         DEVMETHOD(miibus_readreg,       vr_miibus_readreg),
 189         DEVMETHOD(miibus_writereg,      vr_miibus_writereg),
 190         DEVMETHOD(miibus_statchg,       vr_miibus_statchg),
 191
 192         { 0, 0 }
 193 };
 194
 195 static driver_t vr_driver = {
 196         "vr",
 197         vr_methods,
 198         sizeof(struct vr_softc)
 199 };
 200
 201 static devclass_t vr_devclass;
 202
 203 DECLARE_DUMMY_MODULE(if_vr);
 204 DRIVER_MODULE(if_vr, pci, vr_driver, vr_devclass, 0, 0);
 205 DRIVER_MODULE(miibus, vr, miibus_driver, miibus_devclass, 0, 0);
 206
 207 #define VR_SETBIT(sc, reg, x)                           \
 208         CSR_WRITE_1(sc, reg,                            \
 209                 CSR_READ_1(sc, reg) | (x))
 210
 211 #define VR_CLRBIT(sc, reg, x)                           \
 212         CSR_WRITE_1(sc, reg,                            \
 213                 CSR_READ_1(sc, reg) & ~(x))
 214
 215 #define VR_SETBIT16(sc, reg, x)                         \
 216         CSR_WRITE_2(sc, reg,                            \
 217                 CSR_READ_2(sc, reg) | (x))
 218
 219 #define VR_CLRBIT16(sc, reg, x)                         \
 220         CSR_WRITE_2(sc, reg,                            \
 221                 CSR_READ_2(sc, reg) & ~(x))
 222
 223 #define VR_SETBIT32(sc, reg, x)                         \
 224         CSR_WRITE_4(sc, reg,                            \
 225                 CSR_READ_4(sc, reg) | (x))
 226
 227 #define VR_CLRBIT32(sc, reg, x)                         \
 228         CSR_WRITE_4(sc, reg,                            \
 229                 CSR_READ_4(sc, reg) & ~(x))
 230
 231 #define SIO_SET(x)                                      \
 232         CSR_WRITE_1(sc, VR_MIICMD,                      \
 233                 CSR_READ_1(sc, VR_MIICMD) | (x))
 234
 235 #define SIO_CLR(x)                                      \
 236         CSR_WRITE_1(sc, VR_MIICMD,                      \
 237                 CSR_READ_1(sc, VR_MIICMD) & ~(x))
 238
 239 #ifdef VR_USESWSHIFT
 240 /*
 241  * Sync the PHYs by setting data bit and strobing the clock 32 times.
 242  */
 243 static void
 244 vr_mii_sync(struct vr_softc *sc)
 245 {
 246         int i;
 247
 248         SIO_SET(VR_MIICMD_DIR|VR_MIICMD_DATAIN);
 249
 250         for (i = 0; i < 32; i++) {
 251                 SIO_SET(VR_MIICMD_CLK);
 252                 DELAY(1);
 253                 SIO_CLR(VR_MIICMD_CLK);
 254                 DELAY(1);
 255         }
 256 }
 257
 258 /*
 259  * Clock a series of bits through the MII.
 260  */
 261 static void
 262 vr_mii_send(struct vr_softc *sc, uint32_t bits, int cnt)
 263 {
 264         int i;
 265
 266         SIO_CLR(VR_MIICMD_CLK);
 267
 268         for (i = (0x1 << (cnt - 1)); i; i >>= 1) {
 269                 if (bits & i)
 270                         SIO_SET(VR_MIICMD_DATAIN);
 271                 else
 272                         SIO_CLR(VR_MIICMD_DATAIN);
 273                 DELAY(1);
 274                 SIO_CLR(VR_MIICMD_CLK);
 275                 DELAY(1);
 276                 SIO_SET(VR_MIICMD_CLK);
 277         }
 278 }
 279 #endif
 280
 281 /*
 282  * Read an PHY register through the MII.
 283  */
 284 static int
 285 vr_mii_readreg(struct vr_softc *sc, struct vr_mii_frame *frame)
 286 #ifdef VR_USESWSHIFT
 287 {
 288         int i, ack, s;
 289
 290         s = splimp();
 291
 292         /* Set up frame for RX. */
 293         frame->mii_stdelim = VR_MII_STARTDELIM;
 294         frame->mii_opcode = VR_MII_READOP;
 295         frame->mii_turnaround = 0;
 296         frame->mii_data = 0;
 297
 298         CSR_WRITE_1(sc, VR_MIICMD, 0);
 299         VR_SETBIT(sc, VR_MIICMD, VR_MIICMD_DIRECTPGM);
 300
 301         /* Turn on data xmit. */
 302         SIO_SET(VR_MIICMD_DIR);
 303
 304         vr_mii_sync(sc);
 305
 306         /* Send command/address info. */
 307         vr_mii_send(sc, frame->mii_stdelim, 2);
 308         vr_mii_send(sc, frame->mii_opcode, 2);
 309         vr_mii_send(sc, frame->mii_phyaddr, 5);
 310         vr_mii_send(sc, frame->mii_regaddr, 5);
 311
 312         /* Idle bit. */
 313         SIO_CLR((VR_MIICMD_CLK|VR_MIICMD_DATAIN));
 314         DELAY(1);
 315         SIO_SET(VR_MIICMD_CLK);
 316         DELAY(1);
 317
 318         /* Turn off xmit. */
 319         SIO_CLR(VR_MIICMD_DIR);
 320
 321         /* Check for ack */
 322         SIO_CLR(VR_MIICMD_CLK);
 323         DELAY(1);
 324         ack = CSR_READ_4(sc, VR_MIICMD) & VR_MIICMD_DATAOUT;
 325         SIO_SET(VR_MIICMD_CLK);
 326         DELAY(1);
 327
 328         /*
 329          * Now try reading data bits. If the ack failed, we still
 330          * need to clock through 16 cycles to keep the PHY(s) in sync.
 331          */
 332         if (ack) {
 333                 for(i = 0; i < 16; i++) {
 334                         SIO_CLR(VR_MIICMD_CLK);
 335                         DELAY(1);
 336                         SIO_SET(VR_MIICMD_CLK);
 337                         DELAY(1);
 338                 }
 339                 goto fail;
 340         }
 341
 342         for (i = 0x8000; i; i >>= 1) {
 343                 SIO_CLR(VR_MIICMD_CLK);
 344                 DELAY(1);
 345                 if (!ack) {
 346                         if (CSR_READ_4(sc, VR_MIICMD) & VR_MIICMD_DATAOUT)
 347                                 frame->mii_data |= i;
 348                         DELAY(1);
 349                 }
 350                 SIO_SET(VR_MIICMD_CLK);
 351                 DELAY(1);
 352         }
 353
 354 fail:
 355         SIO_CLR(VR_MIICMD_CLK);
 356         DELAY(1);
 357         SIO_SET(VR_MIICMD_CLK);
 358         DELAY(1);
 359
 360         splx(s);
 361
 362         if (ack)
 363                 return(1);
 364         return(0);
 365 }
 366 #else
 367 {
 368         int s, i;
 369
 370         s = splimp();
 371
 372         /* Set the PHY address. */
 373         CSR_WRITE_1(sc, VR_PHYADDR, (CSR_READ_1(sc, VR_PHYADDR)& 0xe0)|
 374             frame->mii_phyaddr);
 375
 376         /* Set the register address. */
 377         CSR_WRITE_1(sc, VR_MIIADDR, frame->mii_regaddr);
 378         VR_SETBIT(sc, VR_MIICMD, VR_MIICMD_READ_ENB);
 379
 380         for (i = 0; i < 10000; i++) {
 381                 if ((CSR_READ_1(sc, VR_MIICMD) & VR_MIICMD_READ_ENB) == 0)
 382                         break;
 383                 DELAY(1);
 384         }
 385         frame->mii_data = CSR_READ_2(sc, VR_MIIDATA);
 386
 387         splx(s);
 388
 389         return(0);
 390 }
 391 #endif
 392
 393
 394 /*
 395  * Write to a PHY register through the MII.
 396  */
 397 static int
 398 vr_mii_writereg(struct vr_softc *sc, struct vr_mii_frame *frame)
 399 #ifdef VR_USESWSHIFT
 400 {
 401         int s;
 402
 403         s = splimp();
 404
 405         CSR_WRITE_1(sc, VR_MIICMD, 0);
 406         VR_SETBIT(sc, VR_MIICMD, VR_MIICMD_DIRECTPGM);
 407
 408         /* Set up frame for TX. */
 409         frame->mii_stdelim = VR_MII_STARTDELIM;
 410         frame->mii_opcode = VR_MII_WRITEOP;
 411         frame->mii_turnaround = VR_MII_TURNAROUND;
 412
 413         /* Turn on data output. */
 414         SIO_SET(VR_MIICMD_DIR);
 415
 416         vr_mii_sync(sc);
 417
 418         vr_mii_send(sc, frame->mii_stdelim, 2);
 419         vr_mii_send(sc, frame->mii_opcode, 2);
 420         vr_mii_send(sc, frame->mii_phyaddr, 5);
 421         vr_mii_send(sc, frame->mii_regaddr, 5);
 422         vr_mii_send(sc, frame->mii_turnaround, 2);
 423         vr_mii_send(sc, frame->mii_data, 16);
 424
 425         /* Idle bit. */
 426         SIO_SET(VR_MIICMD_CLK);
 427         DELAY(1);
 428         SIO_CLR(VR_MIICMD_CLK);
 429         DELAY(1);
 430
 431         /* Turn off xmit. */
 432         SIO_CLR(VR_MIICMD_DIR);
 433
 434         splx(s);
 435
 436         return(0);
 437 }
 438 #else
 439 {
 440         int s, i;
 441
 442         s = splimp();
 443
 444         /* Set the PHY-adress */
 445         CSR_WRITE_1(sc, VR_PHYADDR, (CSR_READ_1(sc, VR_PHYADDR)& 0xe0)|
 446                     frame->mii_phyaddr);
 447
 448         /* Set the register address and data to write. */
 449         CSR_WRITE_1(sc, VR_MIIADDR, frame->mii_regaddr);
 450         CSR_WRITE_2(sc, VR_MIIDATA, frame->mii_data);
 451
 452         VR_SETBIT(sc, VR_MIICMD, VR_MIICMD_WRITE_ENB);
 453
 454         for (i = 0; i < 10000; i++) {
 455                 if ((CSR_READ_1(sc, VR_MIICMD) & VR_MIICMD_WRITE_ENB) == 0)
 456                         break;
 457                 DELAY(1);
 458         }
 459
 460         splx(s);
 461
 462         return(0);
 463 }
 464 #endif
 465
 466 static int
 467 vr_miibus_readreg(device_t dev, int phy, int reg)
 468 {
 469         struct vr_mii_frame frame;
 470         struct vr_softc *sc;
 471
 472         sc = device_get_softc(dev);
 473
 474         switch (sc->vr_revid) {
 475         case REV_ID_VT6102_APOLLO:
 476                 if (phy != 1)
 477                         return(0);
 478                 break;
 479         default:
 480                 break;
 481         }
 482
 483         bzero(&frame, sizeof(frame));
 484
 485         frame.mii_phyaddr = phy;
 486         frame.mii_regaddr = reg;
 487         vr_mii_readreg(sc, &frame);
 488
 489         return(frame.mii_data);
 490 }
 491
 492 static int
 493 vr_miibus_writereg(device_t dev, int phy, int reg, int data)
 494 {
 495         struct vr_mii_frame frame;
 496         struct vr_softc *sc;
 497
 498         sc = device_get_softc(dev);
 499
 500         switch (sc->vr_revid) {
 501         case REV_ID_VT6102_APOLLO:
 502                 if (phy != 1)
 503                         return 0;
 504                 break;
 505         default:
 506                 break;
 507         }
 508
 509         bzero(&frame, sizeof(frame));
 510
 511         frame.mii_phyaddr = phy;
 512         frame.mii_regaddr = reg;
 513         frame.mii_data = data;
 514
 515         vr_mii_writereg(sc, &frame);
 516
 517         return(0);
 518 }
 519
 520 static void
 521 vr_miibus_statchg(device_t dev)
 522 {
 523         struct mii_data *mii;
 524         struct vr_softc *sc;
 525
 526         sc = device_get_softc(dev);
 527         mii = device_get_softc(sc->vr_miibus);
 528         vr_setcfg(sc, mii->mii_media_active);
 529 }
 530
 531 /*
 532  * Calculate CRC of a multicast group address, return the lower 6 bits.
 533  */
 534 static uint8_t
 535 vr_calchash(uint8_t *addr)
 536 {
 537         uint32_t crc, carry;
 538         int i, j;
 539         uint8_t c;
 540
 541         /* Compute CRC for the address value. */
 542         crc = 0xFFFFFFFF; /* initial value */
 543
 544         for (i = 0; i < 6; i++) {
 545                 c = *(addr + i);
 546                 for (j = 0; j < 8; j++) {
 547                         carry = ((crc & 0x80000000) ? 1 : 0) ^ (c & 0x01);
 548                         crc <<= 1;
 549                         c >>= 1;
 550                         if (carry)
 551                                 crc = (crc ^ 0x04c11db6) | carry;
 552                 }
 553         }
 554
 555         /* return the filter bit position */
 556         return((crc >> 26) & 0x0000003F);
 557 }
 558
 559 /*
 560  * Program the 64-bit multicast hash filter.
 561  */
 562 static void
 563 vr_setmulti(struct vr_softc *sc)
 564 {
 565         struct ifnet *ifp;
 566         int h = 0;
 567         uint32_t hashes[2] = { 0, 0 };
 568         struct ifmultiaddr *ifma;
 569         uint8_t rxfilt;
 570         int mcnt = 0;
 571
 572         ifp = &sc->arpcom.ac_if;
 573
 574         rxfilt = CSR_READ_1(sc, VR_RXCFG);
 575
 576         if (ifp->if_flags & IFF_ALLMULTI || ifp->if_flags & IFF_PROMISC) {
 577                 rxfilt |= VR_RXCFG_RX_MULTI;
 578                 CSR_WRITE_1(sc, VR_RXCFG, rxfilt);
 579                 CSR_WRITE_4(sc, VR_MAR0, 0xFFFFFFFF);
 580                 CSR_WRITE_4(sc, VR_MAR1, 0xFFFFFFFF);
 581                 return;
 582         }
 583
 584         /* First, zero out all the existing hash bits. */
 585         CSR_WRITE_4(sc, VR_MAR0, 0);
 586         CSR_WRITE_4(sc, VR_MAR1, 0);
 587
 588         /* Now program new ones. */
 589         for (ifma = ifp->if_multiaddrs.lh_first; ifma != NULL;
 590                                 ifma = ifma->ifma_link.le_next) {
 591                 if (ifma->ifma_addr->sa_family != AF_LINK)
 592                         continue;
 593                 h = vr_calchash(LLADDR((struct sockaddr_dl *)ifma->ifma_addr));
 594                 if (h < 32)
 595                         hashes[0] |= (1 << h);
 596                 else
 597                         hashes[1] |= (1 << (h - 32));
 598                 mcnt++;
 599         }
 600
 601         if (mcnt)
 602                 rxfilt |= VR_RXCFG_RX_MULTI;
 603         else
 604                 rxfilt &= ~VR_RXCFG_RX_MULTI;
 605
 606         CSR_WRITE_4(sc, VR_MAR0, hashes[0]);
 607         CSR_WRITE_4(sc, VR_MAR1, hashes[1]);
 608         CSR_WRITE_1(sc, VR_RXCFG, rxfilt);
 609 }
 610
 611 /*
 612  * In order to fiddle with the
 613  * 'full-duplex' and '100Mbps' bits in the netconfig register, we
 614  * first have to put the transmit and/or receive logic in the idle state.
 615  */
 616 static void
 617 vr_setcfg(struct vr_softc *sc, int media)
 618 {
 619         int restart = 0;
 620
 621         if (CSR_READ_2(sc, VR_COMMAND) & (VR_CMD_TX_ON|VR_CMD_RX_ON)) {
 622                 restart = 1;
 623                 VR_CLRBIT16(sc, VR_COMMAND, (VR_CMD_TX_ON|VR_CMD_RX_ON));
 624         }
 625
 626         if ((media & IFM_GMASK) == IFM_FDX)
 627                 VR_SETBIT16(sc, VR_COMMAND, VR_CMD_FULLDUPLEX);
 628         else
 629                 VR_CLRBIT16(sc, VR_COMMAND, VR_CMD_FULLDUPLEX);
 630
 631         if (restart)
 632                 VR_SETBIT16(sc, VR_COMMAND, VR_CMD_TX_ON|VR_CMD_RX_ON);
 633 }
 634
 635 static void
 636 vr_reset(struct vr_softc *sc)
 637 {
 638         int i;
 639
 640         VR_SETBIT16(sc, VR_COMMAND, VR_CMD_RESET);
 641
 642         for (i = 0; i < VR_TIMEOUT; i++) {
 643                 DELAY(10);
 644                 if (!(CSR_READ_2(sc, VR_COMMAND) & VR_CMD_RESET))
 645                         break;
 646         }
 647         if (i == VR_TIMEOUT) {
 648                 struct ifnet *ifp = &sc->arpcom.ac_if;
 649
 650                 if (sc->vr_revid < REV_ID_VT3065_A) {
 651                         if_printf(ifp, "reset never completed!\n");
 652                 } else {
 653                         /* Use newer force reset command */
 654                         if_printf(ifp, "Using force reset command.\n");
 655                         VR_SETBIT(sc, VR_MISC_CR1, VR_MISCCR1_FORSRST);
 656                 }
 657         }
 658
 659         /* Wait a little while for the chip to get its brains in order. */
 660         DELAY(1000);
 661 }
 662
 663 /*
 664  * Probe for a VIA Rhine chip. Check the PCI vendor and device
 665  * IDs against our list and return a device name if we find a match.
 666  */
 667 static int
 668 vr_probe(device_t dev)
 669 {
 670         struct vr_type *t;
 671
 672         t = vr_devs;
 673
 674         while(t->vr_name != NULL) {
 675                 if ((pci_get_vendor(dev) == t->vr_vid) &&
 676                     (pci_get_device(dev) == t->vr_did)) {
 677                         device_set_desc(dev, t->vr_name);
 678                         return(0);
 679                 }
 680                 t++;
 681         }
 682
 683         return(ENXIO);
 684 }
 685
 686 /*
 687  * Attach the interface. Allocate softc structures, do ifmedia
 688  * setup and ethernet/BPF attach.
 689  */
 690 static int
 691 vr_attach(device_t dev)
 692 {
 693         int i, s;
 694         uint8_t eaddr[ETHER_ADDR_LEN];
 695         uint32_t command;
 696         struct vr_softc *sc;
 697         struct ifnet *ifp;
 698         int error = 0, rid;
 699
 700         s = splimp();
 701
 702         sc = device_get_softc(dev);
 703         callout_init(&sc->vr_stat_timer);
 704
 705         /*
 706          * Handle power management nonsense.
 707          */
 708
 709         command = pci_read_config(dev, VR_PCI_CAPID, 4) & 0x000000FF;
 710         if (command == 0x01) {
 711                 command = pci_read_config(dev, VR_PCI_PWRMGMTCTRL, 4);
 712                 if (command & VR_PSTATE_MASK) {
 713                         uint32_t iobase, membase, irq;
 714
 715                         /* Save important PCI config data. */
 716                         iobase = pci_read_config(dev, VR_PCI_LOIO, 4);
 717                         membase = pci_read_config(dev, VR_PCI_LOMEM, 4);
 718                         irq = pci_read_config(dev, VR_PCI_INTLINE, 4);
 719
 720                         /* Reset the power state. */
 721                         device_printf(dev, "chip is in D%d power mode "
 722                         "-- setting to D0\n", command & VR_PSTATE_MASK);
 723                         command &= 0xFFFFFFFC;
 724                         pci_write_config(dev, VR_PCI_PWRMGMTCTRL, command, 4);
 725
 726                         /* Restore PCI config data. */
 727                         pci_write_config(dev, VR_PCI_LOIO, iobase, 4);
 728                         pci_write_config(dev, VR_PCI_LOMEM, membase, 4);
 729                         pci_write_config(dev, VR_PCI_INTLINE, irq, 4);
 730                 }
 731         }
 732
 733         /*
 734          * Map control/status registers.
 735          */
 736         command = pci_read_config(dev, PCIR_COMMAND, 4);
 737         command |= (PCIM_CMD_PORTEN|PCIM_CMD_MEMEN|PCIM_CMD_BUSMASTEREN);
 738         pci_write_config(dev, PCIR_COMMAND, command, 4);
 739         command = pci_read_config(dev, PCIR_COMMAND, 4);
 740         sc->vr_revid = pci_read_config(dev, VR_PCI_REVID, 4) & 0x000000FF;
 741
 742 #ifdef VR_USEIOSPACE
 743         if (!(command & PCIM_CMD_PORTEN)) {
 744                 device_printf(dev, "failed to enable I/O ports!\n");
 745                 free(sc, M_DEVBUF);
 746                 goto fail;
 747         }
 748 #else
 749         if (!(command & PCIM_CMD_MEMEN)) {
 750                 device_printf(dev, "failed to enable memory mapping!\n");
 751                 goto fail;
 752         }
 753 #endif
 754
 755         rid = VR_RID;
 756         sc->vr_res = bus_alloc_resource_any(dev, VR_RES, &rid, RF_ACTIVE);
 757
 758         if (sc->vr_res == NULL) {
 759                 device_printf(dev, "couldn't map ports/memory\n");
 760                 error = ENXIO;
 761                 goto fail;
 762         }
 763
 764         sc->vr_btag = rman_get_bustag(sc->vr_res);
 765         sc->vr_bhandle = rman_get_bushandle(sc->vr_res);
 766
 767         /* Allocate interrupt */
 768         rid = 0;
 769         sc->vr_irq = bus_alloc_resource_any(dev, SYS_RES_IRQ, &rid,
 770                                             RF_SHAREABLE | RF_ACTIVE);
 771
 772         if (sc->vr_irq == NULL) {
 773                 device_printf(dev, "couldn't map interrupt\n");
 774                 bus_release_resource(dev, VR_RES, VR_RID, sc->vr_res);
 775                 error = ENXIO;
 776                 goto fail;
 777         }
 778
 779         error = bus_setup_intr(dev, sc->vr_irq, INTR_TYPE_NET,
 780                                vr_intr, sc, &sc->vr_intrhand, NULL);
 781
 782         if (error) {
 783                 bus_release_resource(dev, SYS_RES_IRQ, 0, sc->vr_irq);
 784                 bus_release_resource(dev, VR_RES, VR_RID, sc->vr_res);
 785                 device_printf(dev, "couldn't set up irq\n");
 786                 goto fail;
 787         }
 788
 789         /*
 790          * Windows may put the chip in suspend mode when it
 791          * shuts down. Be sure to kick it in the head to wake it
 792          * up again.
 793          */
 794         VR_CLRBIT(sc, VR_STICKHW, (VR_STICKHW_DS0|VR_STICKHW_DS1));
 795
 796         /* Reset the adapter. */
 797         vr_reset(sc);
 798
 799         /*
 800          * Turn on bit2 (MIION) in PCI configuration register 0x53 during
 801          * initialization and disable AUTOPOLL.
 802          */
 803         pci_write_config(dev, VR_PCI_MODE,
 804             pci_read_config(dev, VR_PCI_MODE, 4) | (VR_MODE3_MIION << 24), 4);
 805         VR_CLRBIT(sc, VR_MIICMD, VR_MIICMD_AUTOPOLL);
 806
 807         ifp = &sc->arpcom.ac_if;
 808         if_initname(ifp, device_get_name(dev), device_get_unit(dev));
 809
 810         /*
 811          * Get station address. The way the Rhine chips work,
 812          * you're not allowed to directly access the EEPROM once
 813          * they've been programmed a special way. Consequently,
 814          * we need to read the node address from the PAR0 and PAR1
 815          * registers.
 816          */
 817         VR_SETBIT(sc, VR_EECSR, VR_EECSR_LOAD);
 818         DELAY(200);
 819         for (i = 0; i < ETHER_ADDR_LEN; i++)
 820                 eaddr[i] = CSR_READ_1(sc, VR_PAR0 + i);
 821
 822         sc->vr_ldata = contigmalloc(sizeof(struct vr_list_data), M_DEVBUF,
 823             M_NOWAIT, 0, 0xffffffff, PAGE_SIZE, 0);
 824
 825         if (sc->vr_ldata == NULL) {
 826                 device_printf(dev, "no memory for list buffers!\n");
 827                 bus_teardown_intr(dev, sc->vr_irq, sc->vr_intrhand);
 828                 bus_release_resource(dev, SYS_RES_IRQ, 0, sc->vr_irq);
 829                 bus_release_resource(dev, VR_RES, VR_RID, sc->vr_res);
 830                 error = ENXIO;
 831                 goto fail;
 832         }
 833
 834         bzero(sc->vr_ldata, sizeof(struct vr_list_data));
 835
 836         ifp->if_softc = sc;
 837         ifp->if_mtu = ETHERMTU;
 838         ifp->if_flags = IFF_BROADCAST | IFF_SIMPLEX | IFF_MULTICAST;
 839         ifp->if_ioctl = vr_ioctl;
 840         ifp->if_start = vr_start;
 841 #ifdef DEVICE_POLLING
 842         ifp->if_poll = vr_poll;
 843 #endif
 844         ifp->if_watchdog = vr_watchdog;
 845         ifp->if_init = vr_init;
 846         ifp->if_baudrate = 10000000;
 847         ifq_set_maxlen(&ifp->if_snd, VR_TX_LIST_CNT - 1);
 848         ifq_set_ready(&ifp->if_snd);
 849
 850         /*
 851          * Do MII setup.
 852          */
 853         if (mii_phy_probe(dev, &sc->vr_miibus,
 854             vr_ifmedia_upd, vr_ifmedia_sts)) {
 855                 if_printf(ifp, "MII without any phy!\n");
 856                 bus_teardown_intr(dev, sc->vr_irq, sc->vr_intrhand);
 857                 bus_release_resource(dev, SYS_RES_IRQ, 0, sc->vr_irq);
 858                 bus_release_resource(dev, VR_RES, VR_RID, sc->vr_res);
 859                 contigfree(sc->vr_ldata,
 860                     sizeof(struct vr_list_data), M_DEVBUF);
 861                 error = ENXIO;
 862                 goto fail;
 863         }
 864
 865         /* Call MI attach routine. */
 866         ether_ifattach(ifp, eaddr);
 867
 868 fail:
 869         splx(s);
 870         return(error);
 871 }
 872
 873 static int
 874 vr_detach(device_t dev)
 875 {
 876         struct vr_softc *sc;
 877         struct ifnet *ifp;
 878         int s;
 879
 880         s = splimp();
 881
 882         sc = device_get_softc(dev);
 883         ifp = &sc->arpcom.ac_if;
 884
 885         vr_stop(sc);
 886         ether_ifdetach(ifp);
 887
 888         bus_generic_detach(dev);
 889         device_delete_child(dev, sc->vr_miibus);
 890
 891         bus_teardown_intr(dev, sc->vr_irq, sc->vr_intrhand);
 892         bus_release_resource(dev, SYS_RES_IRQ, 0, sc->vr_irq);
 893         bus_release_resource(dev, VR_RES, VR_RID, sc->vr_res);
 894
 895         contigfree(sc->vr_ldata, sizeof(struct vr_list_data), M_DEVBUF);
 896
 897         splx(s);
 898
 899         return(0);
 900 }
 901
 902 /*
 903  * Initialize the transmit descriptors.
 904  */
 905 static int
 906 vr_list_tx_init(struct vr_softc *sc)
 907 {
 908         struct vr_chain_data *cd;
 909         struct vr_list_data *ld;
 910         int i, nexti;
 911
 912         cd = &sc->vr_cdata;
 913         ld = sc->vr_ldata;
 914         for (i = 0; i < VR_TX_LIST_CNT; i++) {
 915                 cd->vr_tx_chain[i].vr_ptr = &ld->vr_tx_list[i];
 916                 if (i == (VR_TX_LIST_CNT - 1))
 917                         nexti = 0;
 918                 else
 919                         nexti = i + 1;
 920                 cd->vr_tx_chain[i].vr_nextdesc = &cd->vr_tx_chain[nexti];
 921         }
 922
 923         cd->vr_tx_free = &cd->vr_tx_chain[0];
 924         cd->vr_tx_tail = cd->vr_tx_head = NULL;
 925
 926         return(0);
 927 }
 928
 929
 930 /*
 931  * Initialize the RX descriptors and allocate mbufs for them. Note that
 932  * we arrange the descriptors in a closed ring, so that the last descriptor
 933  * points back to the first.
 934  */
 935 static int
 936 vr_list_rx_init(struct vr_softc *sc)
 937 {
 938         struct vr_chain_data *cd;
 939         struct vr_list_data *ld;
 940         int i, nexti;
 941
 942         cd = &sc->vr_cdata;
 943         ld = sc->vr_ldata;
 944
 945         for (i = 0; i < VR_RX_LIST_CNT; i++) {
 946                 cd->vr_rx_chain[i].vr_ptr = (struct vr_desc *)&ld->vr_rx_list[i];
 947                 if (vr_newbuf(sc, &cd->vr_rx_chain[i], NULL) == ENOBUFS)
 948                         return(ENOBUFS);
 949                 if (i == (VR_RX_LIST_CNT - 1))
 950                         nexti = 0;
 951                 else
 952                         nexti = i + 1;
 953                 cd->vr_rx_chain[i].vr_nextdesc = &cd->vr_rx_chain[nexti];
 954                 ld->vr_rx_list[i].vr_next = vtophys(&ld->vr_rx_list[nexti]);
 955         }
 956
 957         cd->vr_rx_head = &cd->vr_rx_chain[0];
 958
 959         return(0);
 960 }
 961
 962 /*
 963  * Initialize an RX descriptor and attach an MBUF cluster.
 964  * Note: the length fields are only 11 bits wide, which means the
 965  * largest size we can specify is 2047. This is important because
 966  * MCLBYTES is 2048, so we have to subtract one otherwise we'll
 967  * overflow the field and make a mess.
 968  */
 969 static int
 970 vr_newbuf(struct vr_softc *sc, struct vr_chain_onefrag *c, struct mbuf *m)
 971 {
 972         struct mbuf *m_new = NULL;
 973
 974         if (m == NULL) {
 975                 MGETHDR(m_new, MB_DONTWAIT, MT_DATA);
 976                 if (m_new == NULL)
 977                         return(ENOBUFS);
 978
 979                 MCLGET(m_new, MB_DONTWAIT);
 980                 if (!(m_new->m_flags & M_EXT)) {
 981                         m_freem(m_new);
 982                         return(ENOBUFS);
 983                 }
 984                 m_new->m_len = m_new->m_pkthdr.len = MCLBYTES;
 985         } else {
 986                 m_new = m;
 987                 m_new->m_len = m_new->m_pkthdr.len = MCLBYTES;
 988                 m_new->m_data = m_new->m_ext.ext_buf;
 989         }
 990
 991         m_adj(m_new, sizeof(uint64_t));
 992
 993         c->vr_mbuf = m_new;
 994         c->vr_ptr->vr_status = VR_RXSTAT;
 995         c->vr_ptr->vr_data = vtophys(mtod(m_new, caddr_t));
 996         c->vr_ptr->vr_ctl = VR_RXCTL | VR_RXLEN;
 997
 998         return(0);
 999 }
1000
1001 /*
1002  * A frame has been uploaded: pass the resulting mbuf chain up to
1003  * the higher level protocols.
1004  */
1005 static void
1006 vr_rxeof(struct vr_softc *sc)
1007 {
1008         struct mbuf *m;
1009         struct ifnet *ifp;
1010         struct vr_chain_onefrag *cur_rx;
1011         int total_len = 0;
1012         uint32_t rxstat;
1013
1014         ifp = &sc->arpcom.ac_if;
1015
1016         while(!((rxstat = sc->vr_cdata.vr_rx_head->vr_ptr->vr_status) &
1017                                                         VR_RXSTAT_OWN)) {
1018                 struct mbuf *m0 = NULL;
1019
1020                 cur_rx = sc->vr_cdata.vr_rx_head;
1021                 sc->vr_cdata.vr_rx_head = cur_rx->vr_nextdesc;
1022                 m = cur_rx->vr_mbuf;
1023
1024                 /*
1025                  * If an error occurs, update stats, clear the
1026                  * status word and leave the mbuf cluster in place:
1027                  * it should simply get re-used next time this descriptor
1028                  * comes up in the ring.
1029                  */
1030                 if (rxstat & VR_RXSTAT_RXERR) {
1031                         ifp->if_ierrors++;
1032                         if_printf(ifp, "rx error (%02x):", rxstat & 0x000000ff);
1033                         if (rxstat & VR_RXSTAT_CRCERR)
1034                                 printf(" crc error");
1035                         if (rxstat & VR_RXSTAT_FRAMEALIGNERR)
1036                                 printf(" frame alignment error\n");
1037                         if (rxstat & VR_RXSTAT_FIFOOFLOW)
1038                                 printf(" FIFO overflow");
1039                         if (rxstat & VR_RXSTAT_GIANT)
1040                                 printf(" received giant packet");
1041                         if (rxstat & VR_RXSTAT_RUNT)
1042                                 printf(" received runt packet");
1043                         if (rxstat & VR_RXSTAT_BUSERR)
1044                                 printf(" system bus error");
1045                         if (rxstat & VR_RXSTAT_BUFFERR)
1046                                 printf("rx buffer error");
1047                         printf("\n");
1048                         vr_newbuf(sc, cur_rx, m);
1049                         continue;
1050                 }
1051
1052                 /* No errors; receive the packet. */
1053                 total_len = VR_RXBYTES(cur_rx->vr_ptr->vr_status);
1054
1055                 /*
1056                  * XXX The VIA Rhine chip includes the CRC with every
1057                  * received frame, and there's no way to turn this
1058                  * behavior off (at least, I can't find anything in
1059                  * the manual that explains how to do it) so we have
1060                  * to trim off the CRC manually.
1061                  */
1062                 total_len -= ETHER_CRC_LEN;
1063
1064                 m0 = m_devget(mtod(m, char *) - ETHER_ALIGN,
1065                     total_len + ETHER_ALIGN, 0, ifp, NULL);
1066                 vr_newbuf(sc, cur_rx, m);
1067                 if (m0 == NULL) {
1068                         ifp->if_ierrors++;
1069                         continue;
1070                 }
1071                 m_adj(m0, ETHER_ALIGN);
1072                 m = m0;
1073
1074                 ifp->if_ipackets++;
1075                 (*ifp->if_input)(ifp, m);
1076         }
1077 }
1078
1079 static void
1080 vr_rxeoc(struct vr_softc *sc)
1081 {
1082         struct ifnet *ifp;
1083         int i;
1084
1085         ifp = &sc->arpcom.ac_if;
1086
1087         ifp->if_ierrors++;
1088
1089         VR_CLRBIT16(sc, VR_COMMAND, VR_CMD_RX_ON);
1090         DELAY(10000);
1091
1092         /* Wait for receiver to stop */
1093         for (i = 0x400;
1094              i && (CSR_READ_2(sc, VR_COMMAND) & VR_CMD_RX_ON);
1095              i--)
1096                 ;       /* Wait for receiver to stop */
1097
1098         if (i == 0) {
1099                 if_printf(ifp, "rx shutdown error!\n");
1100                 sc->vr_flags |= VR_F_RESTART;
1101                 return;
1102         }
1103
1104         vr_rxeof(sc);
1105
1106         CSR_WRITE_4(sc, VR_RXADDR, vtophys(sc->vr_cdata.vr_rx_head->vr_ptr));
1107         VR_SETBIT16(sc, VR_COMMAND, VR_CMD_RX_ON);
1108         VR_SETBIT16(sc, VR_COMMAND, VR_CMD_RX_GO);
1109 }
1110
1111 /*
1112  * A frame was downloaded to the chip. It's safe for us to clean up
1113  * the list buffers.
1114  */
1115 static void
1116 vr_txeof(struct vr_softc *sc)
1117 {
1118         struct vr_chain *cur_tx;
1119         struct ifnet *ifp;
1120
1121         ifp = &sc->arpcom.ac_if;
1122
1123         /* Reset the timeout timer; if_txeoc will clear it. */
1124         ifp->if_timer = 5;
1125
1126         /* Sanity check. */
1127         if (sc->vr_cdata.vr_tx_head == NULL)
1128                 return;
1129
1130         /*
1131          * Go through our tx list and free mbufs for those
1132          * frames that have been transmitted.
1133          */
1134         while(sc->vr_cdata.vr_tx_head->vr_mbuf != NULL) {
1135                 uint32_t txstat;
1136                 int i;
1137
1138                 cur_tx = sc->vr_cdata.vr_tx_head;
1139                 txstat = cur_tx->vr_ptr->vr_status;
1140
1141                 if ((txstat & VR_TXSTAT_ABRT) ||
1142                     (txstat & VR_TXSTAT_UDF)) {
1143                         for (i = 0x400;
1144                              i && (CSR_READ_2(sc, VR_COMMAND) & VR_CMD_TX_ON);
1145                              i--)
1146                                 ;       /* Wait for chip to shutdown */
1147                         if (i == 0) {
1148                                 if_printf(ifp, "tx shutdown timeout\n");
1149                                 sc->vr_flags |= VR_F_RESTART;
1150                                 break;
1151                         }
1152                         VR_TXOWN(cur_tx) = VR_TXSTAT_OWN;
1153                         CSR_WRITE_4(sc, VR_TXADDR, vtophys(cur_tx->vr_ptr));
1154                         break;
1155                 }
1156
1157                 if (txstat & VR_TXSTAT_OWN)
1158                         break;
1159
1160                 if (txstat & VR_TXSTAT_ERRSUM) {
1161                         ifp->if_oerrors++;
1162                         if (txstat & VR_TXSTAT_DEFER)
1163                                 ifp->if_collisions++;
1164                         if (txstat & VR_TXSTAT_LATECOLL)
1165                                 ifp->if_collisions++;
1166                 }
1167
1168                 ifp->if_collisions +=(txstat & VR_TXSTAT_COLLCNT) >> 3;
1169
1170                 ifp->if_opackets++;
1171                 if (cur_tx->vr_mbuf != NULL) {
1172                         m_freem(cur_tx->vr_mbuf);
1173                         cur_tx->vr_mbuf = NULL;
1174                 }
1175
1176                 if (sc->vr_cdata.vr_tx_head == sc->vr_cdata.vr_tx_tail) {
1177                         sc->vr_cdata.vr_tx_head = NULL;
1178                         sc->vr_cdata.vr_tx_tail = NULL;
1179                         break;
1180                 }
1181
1182                 sc->vr_cdata.vr_tx_head = cur_tx->vr_nextdesc;
1183         }
1184 }
1185
1186 /*
1187  * TX 'end of channel' interrupt handler.
1188  */
1189 static void
1190 vr_txeoc(struct vr_softc *sc)
1191 {
1192         struct ifnet *ifp;
1193
1194         ifp = &sc->arpcom.ac_if;
1195
1196         if (sc->vr_cdata.vr_tx_head == NULL) {
1197                 ifp->if_flags &= ~IFF_OACTIVE;
1198                 sc->vr_cdata.vr_tx_tail = NULL;
1199                 ifp->if_timer = 0;
1200         }
1201 }
1202
1203 static void
1204 vr_tick(void *xsc)
1205 {
1206         struct vr_softc *sc;
1207         struct mii_data *mii;
1208         int s;
1209
1210         s = splimp();
1211
1212         sc = xsc;
1213         if (sc->vr_flags & VR_F_RESTART) {
1214                 if_printf(&sc->arpcom.ac_if, "restarting\n");
1215                 vr_stop(sc);
1216                 vr_reset(sc);
1217                 vr_init(sc);
1218                 sc->vr_flags &= ~VR_F_RESTART;
1219         }
1220
1221         mii = device_get_softc(sc->vr_miibus);
1222         mii_tick(mii);
1223
1224         callout_reset(&sc->vr_stat_timer, hz, vr_tick, sc);
1225
1226         splx(s);
1227 }
1228
1229 static void
1230 vr_intr(void *arg)
1231 {
1232         struct vr_softc *sc;
1233         struct ifnet *ifp;
1234         uint16_t status;
1235
1236         sc = arg;
1237         ifp = &sc->arpcom.ac_if;
1238
1239         /* Supress unwanted interrupts. */
1240         if (!(ifp->if_flags & IFF_UP)) {
1241                 vr_stop(sc);
1242                 return;
1243         }
1244
1245         /* Disable interrupts. */
1246         if ((ifp->if_flags & IFF_POLLING) == 0)
1247                 CSR_WRITE_2(sc, VR_IMR, 0x0000);
1248
1249         for (;;) {
1250                 status = CSR_READ_2(sc, VR_ISR);
1251                 if (status)
1252                         CSR_WRITE_2(sc, VR_ISR, status);
1253
1254                 if ((status & VR_INTRS) == 0)
1255                         break;
1256
1257                 if (status & VR_ISR_RX_OK)
1258                         vr_rxeof(sc);
1259
1260                 if (status & VR_ISR_RX_DROPPED) {
1261                         if_printf(ifp, "rx packet lost\n");
1262                         ifp->if_ierrors++;
1263                         }
1264
1265                 if ((status & VR_ISR_RX_ERR) || (status & VR_ISR_RX_NOBUF) ||
1266                     (status & VR_ISR_RX_NOBUF) || (status & VR_ISR_RX_OFLOW)) {
1267                         if_printf(ifp, "receive error (%04x)", status);
1268                         if (status & VR_ISR_RX_NOBUF)
1269                                 printf(" no buffers");
1270                         if (status & VR_ISR_RX_OFLOW)
1271                                 printf(" overflow");
1272                         if (status & VR_ISR_RX_DROPPED)
1273                                 printf(" packet lost");
1274                         printf("\n");
1275                         vr_rxeoc(sc);
1276                 }
1277
1278                 if ((status & VR_ISR_BUSERR) || (status & VR_ISR_TX_UNDERRUN)) {
1279                         vr_reset(sc);
1280                         vr_init(sc);
1281                         break;
1282                 }
1283
1284                 if ((status & VR_ISR_TX_OK) || (status & VR_ISR_TX_ABRT) ||
1285                     (status & VR_ISR_TX_ABRT2) || (status & VR_ISR_UDFI)) {
1286                         vr_txeof(sc);
1287                         if ((status & VR_ISR_UDFI) ||
1288                             (status & VR_ISR_TX_ABRT2) ||
1289                             (status & VR_ISR_TX_ABRT)) {
1290                                 ifp->if_oerrors++;
1291                                 if (sc->vr_cdata.vr_tx_head != NULL) {
1292                                         VR_SETBIT16(sc, VR_COMMAND, VR_CMD_TX_ON);
1293                                         VR_SETBIT16(sc, VR_COMMAND, VR_CMD_TX_GO);
1294                                 }
1295                         } else {
1296                                 vr_txeoc(sc);
1297                         }
1298                 }
1299
1300         }
1301
1302         /* Re-enable interrupts. */
1303         if ((ifp->if_flags & IFF_POLLING) == 0)
1304                 CSR_WRITE_2(sc, VR_IMR, VR_INTRS);
1305
1306         if (!ifq_is_empty(&ifp->if_snd))
1307                 vr_start(ifp);
1308 }
1309
1310 /*
1311  * Encapsulate an mbuf chain in a descriptor by coupling the mbuf data
1312  * pointers to the fragment pointers.
1313  */
1314 static int
1315 vr_encap(struct vr_softc *sc, struct vr_chain *c, struct mbuf *m_head)
1316 {
1317         int frag = 0;
1318         struct vr_desc *f = NULL;
1319         int total_len;
1320         struct mbuf *m_new;
1321
1322         total_len = 0;
1323
1324         /*
1325          * The VIA Rhine wants packet buffers to be longword
1326          * aligned, but very often our mbufs aren't. Rather than
1327          * waste time trying to decide when to copy and when not
1328          * to copy, just do it all the time.
1329          */
1330         MGETHDR(m_new, MB_DONTWAIT, MT_DATA);
1331         if (m_new == NULL) {
1332                 if_printf(&sc->arpcom.ac_if, "no memory for tx list\n");
1333                 return(1);
1334         }
1335         if (m_head->m_pkthdr.len > MHLEN) {
1336                 MCLGET(m_new, MB_DONTWAIT);
1337                 if (!(m_new->m_flags & M_EXT)) {
1338                         m_freem(m_new);
1339                         if_printf(&sc->arpcom.ac_if,
1340                                   "no memory for tx list\n");
1341                         return(1);
1342                 }
1343         }
1344         m_copydata(m_head, 0, m_head->m_pkthdr.len,
1345                                 mtod(m_new, caddr_t));
1346         m_new->m_pkthdr.len = m_new->m_len = m_head->m_pkthdr.len;
1347         /*
1348          * The Rhine chip doesn't auto-pad, so we have to make
1349          * sure to pad short frames out to the minimum frame length
1350          * ourselves.
1351          */
1352         if (m_new->m_len < VR_MIN_FRAMELEN) {
1353                 m_new->m_pkthdr.len += VR_MIN_FRAMELEN - m_new->m_len;
1354                 m_new->m_len = m_new->m_pkthdr.len;
1355         }
1356         f = c->vr_ptr;
1357         f->vr_data = vtophys(mtod(m_new, caddr_t));
1358         f->vr_ctl = total_len = m_new->m_len;
1359         f->vr_ctl |= VR_TXCTL_TLINK|VR_TXCTL_FIRSTFRAG;
1360         f->vr_status = 0;
1361         frag = 1;
1362
1363         c->vr_mbuf = m_new;
1364         c->vr_ptr->vr_ctl |= VR_TXCTL_LASTFRAG|VR_TXCTL_FINT;
1365         c->vr_ptr->vr_next = vtophys(c->vr_nextdesc->vr_ptr);
1366
1367         return(0);
1368 }
1369
1370 /*
1371  * Main transmit routine. To avoid having to do mbuf copies, we put pointers
1372  * to the mbuf data regions directly in the transmit lists. We also save a
1373  * copy of the pointers since the transmit list fragment pointers are
1374  * physical addresses.
1375  */
1376 static void
1377 vr_start(struct ifnet *ifp)
1378 {
1379         struct vr_softc *sc;
1380         struct mbuf *m_head = NULL;
1381         struct vr_chain *cur_tx = NULL, *start_tx;
1382
1383         sc = ifp->if_softc;
1384
1385         if (ifp->if_flags & IFF_OACTIVE)
1386                 return;
1387
1388         /* Check for an available queue slot. If there are none, punt. */
1389         if (sc->vr_cdata.vr_tx_free->vr_mbuf != NULL) {
1390                 ifp->if_flags |= IFF_OACTIVE;
1391                 return;
1392         }
1393
1394         start_tx = sc->vr_cdata.vr_tx_free;
1395
1396         while(sc->vr_cdata.vr_tx_free->vr_mbuf == NULL) {
1397                 m_head = ifq_poll(&ifp->if_snd);
1398                 if (m_head == NULL)
1399                         break;
1400
1401                 /* Pick a descriptor off the free list. */
1402                 cur_tx = sc->vr_cdata.vr_tx_free;
1403                 sc->vr_cdata.vr_tx_free = cur_tx->vr_nextdesc;
1404
1405                 /* Pack the data into the descriptor. */
1406                 if (vr_encap(sc, cur_tx, m_head)) {
1407                         ifp->if_flags |= IFF_OACTIVE;
1408                         cur_tx = NULL;
1409                         break;
1410                 }
1411
1412                 m_head = ifq_dequeue(&ifp->if_snd);
1413                 if (cur_tx != start_tx)
1414                         VR_TXOWN(cur_tx) = VR_TXSTAT_OWN;
1415
1416                 BPF_MTAP(ifp, m_head);
1417                 m_freem(m_head);
1418
1419                 VR_TXOWN(cur_tx) = VR_TXSTAT_OWN;
1420                 VR_SETBIT16(sc, VR_COMMAND, /*VR_CMD_TX_ON|*/VR_CMD_TX_GO);
1421         }
1422
1423         /* If there are no frames queued, bail. */
1424         if (cur_tx == NULL)
1425                 return;
1426
1427         sc->vr_cdata.vr_tx_tail = cur_tx;
1428
1429         if (sc->vr_cdata.vr_tx_head == NULL)
1430                 sc->vr_cdata.vr_tx_head = start_tx;
1431
1432         /*
1433          * Set a timeout in case the chip goes out to lunch.
1434          */
1435         ifp->if_timer = 5;
1436 }
1437
1438 static void
1439 vr_init(void *xsc)
1440 {
1441         struct vr_softc *sc = xsc;
1442         struct ifnet *ifp = &sc->arpcom.ac_if;
1443         struct mii_data *mii;
1444         int s, i;
1445
1446         s = splimp();
1447
1448         mii = device_get_softc(sc->vr_miibus);
1449
1450         /* Cancel pending I/O and free all RX/TX buffers. */
1451         vr_stop(sc);
1452         vr_reset(sc);
1453
1454         /* Set our station address. */
1455         for (i = 0; i < ETHER_ADDR_LEN; i++)
1456                 CSR_WRITE_1(sc, VR_PAR0 + i, sc->arpcom.ac_enaddr[i]);
1457
1458         /* Set DMA size. */
1459         VR_CLRBIT(sc, VR_BCR0, VR_BCR0_DMA_LENGTH);
1460         VR_SETBIT(sc, VR_BCR0, VR_BCR0_DMA_STORENFWD);
1461
1462         /*
1463          * BCR0 and BCR1 can override the RXCFG and TXCFG registers,
1464          * so we must set both.
1465          */
1466         VR_CLRBIT(sc, VR_BCR0, VR_BCR0_RX_THRESH);
1467         VR_SETBIT(sc, VR_BCR0, VR_BCR0_RXTHRESH128BYTES);
1468
1469         VR_CLRBIT(sc, VR_BCR1, VR_BCR1_TX_THRESH);
1470         VR_SETBIT(sc, VR_BCR1, VR_BCR1_TXTHRESHSTORENFWD);
1471
1472         VR_CLRBIT(sc, VR_RXCFG, VR_RXCFG_RX_THRESH);
1473         VR_SETBIT(sc, VR_RXCFG, VR_RXTHRESH_128BYTES);
1474
1475         VR_CLRBIT(sc, VR_TXCFG, VR_TXCFG_TX_THRESH);
1476         VR_SETBIT(sc, VR_TXCFG, VR_TXTHRESH_STORENFWD);
1477
1478         /* Init circular RX list. */
1479         if (vr_list_rx_init(sc) == ENOBUFS) {
1480                 if_printf(ifp, "initialization failed: no memory for rx buffers\n");
1481                 vr_stop(sc);
1482                 splx(s);
1483                 return;
1484         }
1485
1486         /* Init tx descriptors. */
1487         vr_list_tx_init(sc);
1488
1489         /* If we want promiscuous mode, set the allframes bit. */
1490         if (ifp->if_flags & IFF_PROMISC)
1491                 VR_SETBIT(sc, VR_RXCFG, VR_RXCFG_RX_PROMISC);
1492         else
1493                 VR_CLRBIT(sc, VR_RXCFG, VR_RXCFG_RX_PROMISC);
1494
1495         /* Set capture broadcast bit to capture broadcast frames. */
1496         if (ifp->if_flags & IFF_BROADCAST)
1497                 VR_SETBIT(sc, VR_RXCFG, VR_RXCFG_RX_BROAD);
1498         else
1499                 VR_CLRBIT(sc, VR_RXCFG, VR_RXCFG_RX_BROAD);
1500
1501         /*
1502          * Program the multicast filter, if necessary.
1503          */
1504         vr_setmulti(sc);
1505
1506         /*
1507          * Load the address of the RX list.
1508          */
1509         CSR_WRITE_4(sc, VR_RXADDR, vtophys(sc->vr_cdata.vr_rx_head->vr_ptr));
1510
1511         /* Enable receiver and transmitter. */
1512         CSR_WRITE_2(sc, VR_COMMAND, VR_CMD_TX_NOPOLL|VR_CMD_START|
1513                                     VR_CMD_TX_ON|VR_CMD_RX_ON|
1514                                     VR_CMD_RX_GO);
1515
1516         CSR_WRITE_4(sc, VR_TXADDR, vtophys(&sc->vr_ldata->vr_tx_list[0]));
1517
1518         /*
1519          * Enable interrupts, unless we are polling.
1520          */
1521         CSR_WRITE_2(sc, VR_ISR, 0xFFFF);
1522         if ((ifp->if_flags & IFF_POLLING) == 0)
1523                 CSR_WRITE_2(sc, VR_IMR, VR_INTRS);
1524
1525         mii_mediachg(mii);
1526
1527         ifp->if_flags |= IFF_RUNNING;
1528         ifp->if_flags &= ~IFF_OACTIVE;
1529
1530         splx(s);
1531
1532         callout_reset(&sc->vr_stat_timer, hz, vr_tick, sc);
1533 }
1534
1535 /*
1536  * Set media options.
1537  */
1538 static int
1539 vr_ifmedia_upd(struct ifnet *ifp)
1540 {
1541         struct vr_softc *sc;
1542
1543         sc = ifp->if_softc;
1544
1545         if (ifp->if_flags & IFF_UP)
1546                 vr_init(sc);
1547
1548         return(0);
1549 }
1550
1551 /*
1552  * Report current media status.
1553  */
1554 static void
1555 vr_ifmedia_sts(struct ifnet *ifp, struct ifmediareq *ifmr)
1556 {
1557         struct vr_softc *sc;
1558         struct mii_data *mii;
1559
1560         sc = ifp->if_softc;
1561         mii = device_get_softc(sc->vr_miibus);
1562         mii_pollstat(mii);
1563         ifmr->ifm_active = mii->mii_media_active;
1564         ifmr->ifm_status = mii->mii_media_status;
1565 }
1566
1567 static int
1568 vr_ioctl(struct ifnet *ifp, u_long command, caddr_t data, struct ucred *cr)
1569 {
1570         struct vr_softc *sc = ifp->if_softc;
1571         struct ifreq *ifr = (struct ifreq *) data;
1572         struct mii_data *mii;
1573         int s, error = 0;
1574
1575         s = splimp();
1576
1577         switch(command) {
1578         case SIOCSIFFLAGS:
1579                 if (ifp->if_flags & IFF_UP) {
1580                         vr_init(sc);
1581                 } else {
1582                         if (ifp->if_flags & IFF_RUNNING)
1583                                 vr_stop(sc);
1584                 }
1585                 error = 0;
1586                 break;
1587         case SIOCADDMULTI:
1588         case SIOCDELMULTI:
1589                 vr_setmulti(sc);
1590                 error = 0;
1591                 break;
1592         case SIOCGIFMEDIA:
1593         case SIOCSIFMEDIA:
1594                 mii = device_get_softc(sc->vr_miibus);
1595                 error = ifmedia_ioctl(ifp, ifr, &mii->mii_media, command);
1596                 break;
1597         default:
1598                 error = ether_ioctl(ifp, command, data);
1599                 break;
1600         }
1601
1602         splx(s);
1603
1604         return(error);
1605 }
1606
1607 #ifdef DEVICE_POLLING
1608
1609 static void
1610 vr_poll(struct ifnet *ifp, enum poll_cmd cmd, int count)
1611 {
1612         struct vr_softc *sc = ifp->if_softc;
1613
1614         switch(cmd) {
1615         case POLL_REGISTER:
1616                 /* disable interrupts */
1617                 CSR_WRITE_2(sc, VR_IMR, 0x0000);
1618                 break;
1619         case POLL_DEREGISTER:
1620                 /* enable interrupts */
1621                 CSR_WRITE_2(sc, VR_IMR, VR_INTRS);
1622                 break;
1623         default:
1624                 vr_intr(sc);
1625                 break;
1626         }
1627 }
1628 #endif
1629
1630 static void
1631 vr_watchdog(struct ifnet *ifp)
1632 {
1633         struct vr_softc *sc;
1634
1635         sc = ifp->if_softc;
1636
1637         ifp->if_oerrors++;
1638         if_printf(ifp, "watchdog timeout\n");
1639
1640 #ifdef DEVICE_POLLING
1641         if (++sc->vr_wdogerrors == 1 && (ifp->if_flags & IFF_POLLING) == 0) {
1642                 if_printf(ifp, "ints don't seem to be working, "
1643                         "emergency switch to polling\n");
1644                 emergency_poll_enable("if_vr");
1645                 ether_poll_register(ifp);       /* XXX illegal */
1646         } else
1647 #endif
1648         {
1649                 vr_stop(sc);
1650                 vr_reset(sc);
1651                 vr_init(sc);
1652         }
1653
1654         if (!ifq_is_empty(&ifp->if_snd))
1655                 vr_start(ifp);
1656 }
1657
1658 /*
1659  * Stop the adapter and free any mbufs allocated to the
1660  * RX and TX lists.
1661  */
1662 static void
1663 vr_stop(struct vr_softc *sc)
1664 {
1665         int i;
1666         struct ifnet *ifp;
1667
1668         ifp = &sc->arpcom.ac_if;
1669         ifp->if_timer = 0;
1670
1671         callout_stop(&sc->vr_stat_timer);
1672
1673         VR_SETBIT16(sc, VR_COMMAND, VR_CMD_STOP);
1674         VR_CLRBIT16(sc, VR_COMMAND, (VR_CMD_RX_ON|VR_CMD_TX_ON));
1675         CSR_WRITE_2(sc, VR_IMR, 0x0000);
1676         CSR_WRITE_4(sc, VR_TXADDR, 0x00000000);
1677         CSR_WRITE_4(sc, VR_RXADDR, 0x00000000);
1678
1679         /*
1680          * Free data in the RX lists.
1681          */
1682         for (i = 0; i < VR_RX_LIST_CNT; i++) {
1683                 if (sc->vr_cdata.vr_rx_chain[i].vr_mbuf != NULL) {
1684                         m_freem(sc->vr_cdata.vr_rx_chain[i].vr_mbuf);
1685                         sc->vr_cdata.vr_rx_chain[i].vr_mbuf = NULL;
1686                 }
1687         }
1688         bzero((char *)&sc->vr_ldata->vr_rx_list,
1689                 sizeof(sc->vr_ldata->vr_rx_list));
1690
1691         /*
1692          * Free the TX list buffers.
1693          */
1694         for (i = 0; i < VR_TX_LIST_CNT; i++) {
1695                 if (sc->vr_cdata.vr_tx_chain[i].vr_mbuf != NULL) {
1696                         m_freem(sc->vr_cdata.vr_tx_chain[i].vr_mbuf);
1697                         sc->vr_cdata.vr_tx_chain[i].vr_mbuf = NULL;
1698                 }
1699         }
1700
1701         bzero((char *)&sc->vr_ldata->vr_tx_list,
1702                 sizeof(sc->vr_ldata->vr_tx_list));
1703
1704         ifp->if_flags &= ~(IFF_RUNNING | IFF_OACTIVE);
1705 }
1706
1707 /*
1708  * Stop all chip I/O so that the kernel's probe routines don't
1709  * get confused by errant DMAs when rebooting.
1710  */
1711 static void
1712 vr_shutdown(device_t dev)
1713 {
1714         struct vr_softc *sc;
1715
1716         sc = device_get_softc(dev);
1717
1718         vr_stop(sc);
1719 }