493eeb6af84c9e3325958966c955ba251566b2d4
[dragonfly.git] / sys / dev / atm / en / midway.c
1 /*      $NetBSD: midway.c,v 1.30 1997/09/29 17:40:38 chuck Exp $        */
2 /*      (sync'd to midway.c 1.68)       */
3
4 /*
5  *
6  * Copyright (c) 1996 Charles D. Cranor and Washington University.
7  * All rights reserved.
8  *
9  * Redistribution and use in source and binary forms, with or without
10  * modification, are permitted provided that the following conditions
11  * are met:
12  * 1. Redistributions of source code must retain the above copyright
13  *    notice, this list of conditions and the following disclaimer.
14  * 2. Redistributions in binary form must reproduce the above copyright
15  *    notice, this list of conditions and the following disclaimer in the
16  *    documentation and/or other materials provided with the distribution.
17  * 3. All advertising materials mentioning features or use of this software
18  *    must display the following acknowledgement:
19  *      This product includes software developed by Charles D. Cranor and
20  *      Washington University.
21  * 4. The name of the author may not be used to endorse or promote products
22  *    derived from this software without specific prior written permission.
23  *
24  * THIS SOFTWARE IS PROVIDED BY THE AUTHOR ``AS IS'' AND ANY EXPRESS OR
25  * IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE IMPLIED WARRANTIES
26  * OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE ARE DISCLAIMED.
27  * IN NO EVENT SHALL THE AUTHOR BE LIABLE FOR ANY DIRECT, INDIRECT,
28  * INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
29  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE,
30  * DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY
31  * THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT
32  * (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF
33  * THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
34  *
35  * $FreeBSD: src/sys/dev/en/midway.c,v 1.19.2.1 2003/01/23 21:06:42 sam Exp $
36  */
37
38 /*
39  *
40  * m i d w a y . c   e n i 1 5 5   d r i v e r 
41  *
42  * author: Chuck Cranor <chuck@ccrc.wustl.edu>
43  * started: spring, 1996 (written from scratch).
44  *
45  * notes from the author:
46  *   Extra special thanks go to Werner Almesberger, EPFL LRC.   Werner's
47  *   ENI driver was especially useful in figuring out how this card works.
48  *   I would also like to thank Werner for promptly answering email and being
49  *   generally helpful.
50  */
51
52 #undef  EN_DEBUG
53 #undef  EN_DEBUG_RANGE          /* check ranges on en_read/en_write's? */
54 #define EN_MBUF_OPT             /* try and put more stuff in mbuf? */
55 #define EN_DIAG
56 #define EN_STAT
57 #ifndef EN_DMA
58 #define EN_DMA          1       /* use dma? */
59 #endif
60 #define EN_NOTXDMA      0       /* hook to disable tx dma only */
61 #define EN_NORXDMA      0       /* hook to disable rx dma only */
62 #define EN_DDBHOOK      1       /* compile in ddb functions */
63 #if defined(MIDWAY_ADPONLY)
64 #define EN_ENIDMAFIX    0       /* no ENI cards to worry about */
65 #else
66 #define EN_ENIDMAFIX    1       /* avoid byte DMA on the ENI card (see below) */
67 #endif
68
69 /*
70  * note on EN_ENIDMAFIX: the byte aligner on the ENI version of the card
71  * appears to be broken.   it works just fine if there is no load... however
72  * when the card is loaded the data get corrupted.   to see this, one only
73  * has to use "telnet" over ATM.   do the following command in "telnet":
74  *      cat /usr/share/misc/termcap
75  * "telnet" seems to generate lots of 1023 byte mbufs (which make great
76  * use of the byte aligner).   watch "netstat -s" for checksum errors.
77  * 
78  * I further tested this by adding a function that compared the transmit 
79  * data on the card's SRAM with the data in the mbuf chain _after_ the 
80  * "transmit DMA complete" interrupt.   using the "telnet" test I got data
81  * mismatches where the byte-aligned data should have been.   using ddb
82  * and en_dumpmem() I verified that the DTQs fed into the card were 
83  * absolutely correct.   thus, we are forced to concluded that the ENI
84  * hardware is buggy.   note that the Adaptec version of the card works
85  * just fine with byte DMA.
86  *
87  * bottom line: we set EN_ENIDMAFIX to 1 to avoid byte DMAs on the ENI
88  * card.
89  */
90
91 #if defined(DIAGNOSTIC) && !defined(EN_DIAG)
92 #define EN_DIAG                 /* link in with master DIAG option */
93 #endif
94 #ifdef EN_STAT
95 #define EN_COUNT(X) (X)++
96 #else
97 #define EN_COUNT(X) /* nothing */
98 #endif
99
100 #ifdef EN_DEBUG
101 #undef  EN_DDBHOOK
102 #define EN_DDBHOOK      1
103 #define STATIC /* nothing */
104 #define INLINE /* nothing */
105 #else /* EN_DEBUG */
106 #define STATIC static
107 #define INLINE __inline
108 #endif /* EN_DEBUG */
109
110 #include "use_en.h"             /* XXX for midwayvar.h's NEN */
111 #include "opt_inet.h"
112 #include "opt_natm.h"
113 #include "opt_ddb.h"
114 /* enable DDBHOOK when DDB is available */
115 #undef  EN_DDBHOOK
116 #ifdef DDB
117 #define EN_DDBHOOK      1
118 #endif
119
120 #include <sys/param.h>
121 #include <sys/systm.h>
122 #include <sys/queue.h>
123 #include <sys/sockio.h>
124 #include <sys/mbuf.h>
125 #include <sys/socket.h>
126 #include <sys/proc.h>
127 #include <sys/thread2.h>
128
129 #include <net/if.h>
130 #include <net/if_atm.h>
131
132 #include <vm/vm.h>
133
134 #if defined(INET) || defined(INET6)
135 #include <netinet/in.h>
136 #include <netinet/if_atm.h>
137 #endif
138
139 #ifdef NATM
140 #include <netproto/natm/natm.h>
141 #endif
142
143 #include "midwayreg.h"
144 #include "midwayvar.h"
145 #include <vm/pmap.h>                    /* for vtophys proto */
146
147 #ifndef IFF_NOTRAILERS
148 #define IFF_NOTRAILERS 0
149 #endif
150
151 #include <net/bpf.h>
152 #define BPFATTACH(ifp, dlt, hlen)       bpfattach((ifp), (dlt), (hlen))
153
154 /*
155  * params
156  */
157
158 #ifndef EN_TXHIWAT
159 #define EN_TXHIWAT      (64*1024)       /* max 64 KB waiting to be DMAd out */
160 #endif
161
162 #ifndef EN_MINDMA
163 #define EN_MINDMA       32      /* don't DMA anything less than this (bytes) */
164 #endif
165
166 #define RX_NONE         0xffff  /* recv VC not in use */
167
168 #define EN_OBHDR        ATM_PH_DRIVER7  /* TBD in first mbuf ! */
169 #define EN_OBTRL        ATM_PH_DRIVER8  /* PDU trailier in last mbuf ! */
170
171 #define ENOTHER_FREE    0x01            /* free rxslot */
172 #define ENOTHER_DRAIN   0x02            /* almost free (drain DRQ dma) */
173 #define ENOTHER_RAW     0x04            /* 'raw' access  (aka boodi mode) */
174 #define ENOTHER_SWSL    0x08            /* in software service list */
175
176 static int en_dma = EN_DMA;             /* use DMA (switch off for dbg) */
177
178 /*
179  * autoconfig attachments
180  */
181
182 struct cfdriver en_cd = {
183     0, "en", DV_IFNET,
184 };
185
186 /*
187  * local structures
188  */
189
190 /*
191  * params to en_txlaunch() function
192  */
193
194 struct en_launch {
195   u_int32_t tbd1;               /* TBD 1 */
196   u_int32_t tbd2;               /* TBD 2 */
197   u_int32_t pdu1;               /* PDU 1 (aal5) */
198   int nodma;                    /* don't use DMA */
199   int need;                     /* total space we need (pad out if less data) */
200   int mlen;                     /* length of mbuf (for dtq) */
201   struct mbuf *t;               /* data */
202   u_int32_t aal;                /* aal code */
203   u_int32_t atm_vci;            /* vci */
204   u_int8_t atm_flags;           /* flags */
205 };
206
207
208 /*
209  * dma table (index by # of words)
210  *
211  * plan A: use WMAYBE (obsolete)
212  * plan B: avoid WMAYBE
213  */
214
215 struct en_dmatab {
216   u_int8_t bcode;               /* code */
217   u_int8_t divshift;            /* byte divisor */
218 };
219
220 static struct en_dmatab en_dma_planB[] = {
221   { 0, 0 },             /* 0 */         { MIDDMA_WORD, 2},      /* 1 */
222   { MIDDMA_2WORD, 3},   /* 2 */         { MIDDMA_WORD, 2},      /* 3 */
223   { MIDDMA_4WORD, 4},   /* 4 */         { MIDDMA_WORD, 2},      /* 5 */
224   { MIDDMA_2WORD, 3},   /* 6 */         { MIDDMA_WORD, 2},      /* 7 */
225   { MIDDMA_8WORD, 5},   /* 8 */         { MIDDMA_WORD, 2},      /* 9 */
226   { MIDDMA_2WORD, 3},   /* 10 */        { MIDDMA_WORD, 2},      /* 11 */
227   { MIDDMA_4WORD, 4},   /* 12 */        { MIDDMA_WORD, 2},      /* 13 */
228   { MIDDMA_2WORD, 3},   /* 14 */        { MIDDMA_WORD, 2},      /* 15 */
229   { MIDDMA_16WORD, 6},  /* 16 */
230 };
231
232 static struct en_dmatab *en_dmaplan = en_dma_planB;
233
234 /*
235  * prototypes
236  */
237
238 STATIC INLINE   int en_b2sz (int) __attribute__ ((unused));
239 #ifdef EN_DDBHOOK
240                 int en_dump (int,int);
241                 int en_dumpmem (int,int,int);
242 #endif
243 STATIC          void en_dmaprobe (struct en_softc *);
244 STATIC          int en_dmaprobe_doit (struct en_softc *, u_int8_t *, 
245                     u_int8_t *, int);
246 STATIC INLINE   int en_dqneed (struct en_softc *, caddr_t, u_int,
247                     u_int);
248 STATIC          void en_init (struct en_softc *);
249 STATIC          int en_ioctl (struct ifnet *, EN_IOCTL_CMDT, caddr_t,
250                               struct ucred *);
251 STATIC INLINE   int en_k2sz (int);
252 STATIC          void en_loadvc (struct en_softc *, int);
253 STATIC          int en_mfix (struct en_softc *, struct mbuf **,
254                     struct mbuf *);
255 STATIC INLINE   struct mbuf *en_mget (struct en_softc *, u_int,
256                     u_int *);
257 STATIC INLINE   u_int32_t en_read (struct en_softc *,
258                     u_int32_t);
259 STATIC          int en_rxctl (struct en_softc *, struct atm_pseudoioctl *,
260                     int);
261 STATIC          void en_txdma (struct en_softc *, int);
262 STATIC          void en_txlaunch (struct en_softc *, int,
263                     struct en_launch *);
264 STATIC          void en_service (struct en_softc *);
265 STATIC          void en_start (struct ifnet *);
266 STATIC INLINE   int en_sz2b (int);
267 STATIC INLINE   void en_write (struct en_softc *, u_int32_t,
268                     u_int32_t);
269
270 /*
271  * macros/inline
272  */
273
274 /*
275  * raw read/write macros
276  */
277
278 #define EN_READDAT(SC,R) en_read(SC,R)
279 #define EN_WRITEDAT(SC,R,V) en_write(SC,R,V)
280
281 /*
282  * cooked read/write macros
283  */
284
285 #define EN_READ(SC,R) ntohl(en_read(SC,R))
286 #define EN_WRITE(SC,R,V) en_write(SC,R, htonl(V))
287
288 #define EN_WRAPADD(START,STOP,CUR,VAL) { \
289         (CUR) = (CUR) + (VAL); \
290         if ((CUR) >= (STOP)) \
291                 (CUR) = (START) + ((CUR) - (STOP)); \
292         }
293
294 #define WORD_IDX(START, X) (((X) - (START)) / sizeof(u_int32_t))
295
296 /* we store sc->dtq and sc->drq data in the following format... */
297 #define EN_DQ_MK(SLOT,LEN) (((SLOT) << 20)|(LEN)|(0x80000))
298                                         /* the 0x80000 ensures we != 0 */
299 #define EN_DQ_SLOT(X) ((X) >> 20)
300 #define EN_DQ_LEN(X) ((X) & 0x3ffff)
301
302 /* format of DTQ/DRQ word 1 differs between ENI and ADP */
303 #if defined(MIDWAY_ENIONLY)
304
305 #define MID_MK_TXQ(SC,CNT,CHAN,END,BCODE) \
306         EN_WRITE((SC), (SC)->dtq_us, \
307                 MID_MK_TXQ_ENI((CNT), (CHAN), (END), (BCODE))); 
308
309 #define MID_MK_RXQ(SC,CNT,VCI,END,BCODE) \
310         EN_WRITE((SC), (SC)->drq_us, \
311                 MID_MK_RXQ_ENI((CNT), (VCI), (END), (BCODE))); 
312
313 #elif defined(MIDWAY_ADPONLY)
314
315 #define MID_MK_TXQ(SC,CNT,CHAN,END,JK) \
316         EN_WRITE((SC), (SC)->dtq_us, \
317                 MID_MK_TXQ_ADP((CNT), (CHAN), (END), (JK))); 
318
319 #define MID_MK_RXQ(SC,CNT,VCI,END,JK) \
320         EN_WRITE((SC), (SC)->drq_us, \
321                 MID_MK_RXQ_ADP((CNT), (VCI), (END), (JK))); 
322
323 #else
324
325 #define MID_MK_TXQ(SC,CNT,CHAN,END,JK_OR_BCODE) { \
326         if ((SC)->is_adaptec) \
327           EN_WRITE((SC), (SC)->dtq_us, \
328                   MID_MK_TXQ_ADP((CNT), (CHAN), (END), (JK_OR_BCODE))); \
329         else \
330           EN_WRITE((SC), (SC)->dtq_us, \
331                   MID_MK_TXQ_ENI((CNT), (CHAN), (END), (JK_OR_BCODE))); \
332         }
333
334 #define MID_MK_RXQ(SC,CNT,VCI,END,JK_OR_BCODE) { \
335         if ((SC)->is_adaptec) \
336           EN_WRITE((SC), (SC)->drq_us, \
337                   MID_MK_RXQ_ADP((CNT), (VCI), (END), (JK_OR_BCODE))); \
338         else \
339           EN_WRITE((SC), (SC)->drq_us, \
340                    MID_MK_RXQ_ENI((CNT), (VCI), (END), (JK_OR_BCODE))); \
341         }
342
343 #endif
344
345 /* add an item to the DTQ */
346 #define EN_DTQADD(SC,CNT,CHAN,JK_OR_BCODE,ADDR,LEN,END) { \
347         if (END) \
348           (SC)->dtq[MID_DTQ_A2REG((SC)->dtq_us)] = EN_DQ_MK(CHAN,LEN); \
349         MID_MK_TXQ(SC,CNT,CHAN,END,JK_OR_BCODE); \
350         (SC)->dtq_us += 4; \
351         EN_WRITE((SC), (SC)->dtq_us, (ADDR)); \
352         EN_WRAPADD(MID_DTQOFF, MID_DTQEND, (SC)->dtq_us, 4); \
353         (SC)->dtq_free--; \
354         if (END) \
355           EN_WRITE((SC), MID_DMA_WRTX, MID_DTQ_A2REG((SC)->dtq_us)); \
356 }
357
358 /* DRQ add macro */
359 #define EN_DRQADD(SC,CNT,VCI,JK_OR_BCODE,ADDR,LEN,SLOT,END) { \
360         if (END) \
361           (SC)->drq[MID_DRQ_A2REG((SC)->drq_us)] = EN_DQ_MK(SLOT,LEN); \
362         MID_MK_RXQ(SC,CNT,VCI,END,JK_OR_BCODE); \
363         (SC)->drq_us += 4; \
364         EN_WRITE((SC), (SC)->drq_us, (ADDR)); \
365         EN_WRAPADD(MID_DRQOFF, MID_DRQEND, (SC)->drq_us, 4); \
366         (SC)->drq_free--; \
367         if (END) \
368           EN_WRITE((SC), MID_DMA_WRRX, MID_DRQ_A2REG((SC)->drq_us)); \
369 }
370
371 /*
372  * the driver code
373  *
374  * the code is arranged in a specific way:
375  * [1] short/inline functions
376  * [2] autoconfig stuff
377  * [3] ioctl stuff
378  * [4] reset -> init -> trasmit -> intr -> receive functions
379  *
380  */
381
382 /***********************************************************************/
383
384 /*
385  * en_read: read a word from the card.   this is the only function
386  * that reads from the card.
387  */
388
389 STATIC INLINE u_int32_t
390 en_read(struct en_softc *sc, u_int32_t r)
391 {
392 #ifdef EN_DEBUG_RANGE
393   if (r > MID_MAXOFF || (r % 4))
394     panic("en_read out of range, r=0x%x", r);
395 #endif
396
397   return(bus_space_read_4(sc->en_memt, sc->en_base, r));
398 }
399
400 /*
401  * en_write: write a word to the card.   this is the only function that
402  * writes to the card.
403  */
404
405 STATIC INLINE void
406 en_write(struct en_softc *sc, u_int32_t r, u_int32_t v)
407 {
408 #ifdef EN_DEBUG_RANGE
409   if (r > MID_MAXOFF || (r % 4))
410     panic("en_write out of range, r=0x%x", r);
411 #endif
412
413   bus_space_write_4(sc->en_memt, sc->en_base, r, v);
414 }
415
416 /*
417  * en_k2sz: convert KBytes to a size parameter (a log2)
418  */
419
420 STATIC INLINE int
421 en_k2sz(int k)
422 {
423   switch(k) {
424     case 1:   return(0);
425     case 2:   return(1);
426     case 4:   return(2);
427     case 8:   return(3);
428     case 16:  return(4);
429     case 32:  return(5);
430     case 64:  return(6);
431     case 128: return(7);
432     default: panic("en_k2sz");
433   }
434   return(0);
435 }
436 #define en_log2(X) en_k2sz(X)
437
438
439 /*
440  * en_b2sz: convert a DMA burst code to its byte size
441  */
442
443 STATIC INLINE int
444 en_b2sz(int b)
445 {
446   switch (b) {
447     case MIDDMA_WORD:   return(1*4);
448     case MIDDMA_2WMAYBE:
449     case MIDDMA_2WORD:  return(2*4);
450     case MIDDMA_4WMAYBE:
451     case MIDDMA_4WORD:  return(4*4);
452     case MIDDMA_8WMAYBE:
453     case MIDDMA_8WORD:  return(8*4);
454     case MIDDMA_16WMAYBE:
455     case MIDDMA_16WORD: return(16*4);
456     default: panic("en_b2sz");
457   }
458   return(0);
459 }
460
461
462 /*
463  * en_sz2b: convert a burst size (bytes) to DMA burst code
464  */
465
466 STATIC INLINE int
467 en_sz2b(int sz)
468 {
469   switch (sz) {
470     case 1*4:  return(MIDDMA_WORD);
471     case 2*4:  return(MIDDMA_2WORD);
472     case 4*4:  return(MIDDMA_4WORD);
473     case 8*4:  return(MIDDMA_8WORD);
474     case 16*4: return(MIDDMA_16WORD);
475     default: panic("en_sz2b");
476   }
477   return(0);
478 }
479
480
481 /*
482  * en_dqneed: calculate number of DTQ/DRQ's needed for a buffer
483  */
484
485 STATIC INLINE int
486 en_dqneed(struct en_softc *sc, caddr_t data, u_int len, u_int tx)
487 {
488   int result, needalign, sz;
489
490 #if !defined(MIDWAY_ENIONLY)
491 #if !defined(MIDWAY_ADPONLY)
492     if (sc->is_adaptec)
493 #endif /* !MIDWAY_ADPONLY */
494       return(1);        /* adaptec can DMA anything in one go */
495 #endif
496     
497 #if !defined(MIDWAY_ADPONLY)
498     result = 0;
499     if (len < EN_MINDMA) {
500       if (!tx)                  /* XXX: conservative */
501         return(1);              /* will copy/DMA_JK */
502     }
503
504     if (tx) {                   /* byte burst? */
505       needalign = (((uintptr_t) (void *) data) % sizeof(u_int32_t));
506       if (needalign) {
507         result++;
508         sz = min(len, sizeof(u_int32_t) - needalign);
509         len -= sz;
510         data += sz;
511       }
512     }
513
514     if (sc->alburst && len) {
515       needalign = (((uintptr_t) (void *) data) & sc->bestburstmask);
516       if (needalign) {
517         result++;               /* alburst */
518         sz = min(len, sc->bestburstlen - needalign);
519         len -= sz;
520       }
521     }
522
523     if (len >= sc->bestburstlen) {
524       sz = len / sc->bestburstlen;
525       sz = sz * sc->bestburstlen;
526       len -= sz;
527       result++;                 /* best shot */
528     }
529     
530     if (len) {
531       result++;                 /* clean up */
532       if (tx && (len % sizeof(u_int32_t)) != 0)
533         result++;               /* byte cleanup */
534     }
535
536     return(result);
537 #endif  /* !MIDWAY_ADPONLY */
538 }
539
540
541 /*
542  * en_mget: get an mbuf chain that can hold totlen bytes and return it
543  * (for recv)   [based on am7990_get from if_le and ieget from if_ie]
544  * after this call the sum of all the m_len's in the chain will be totlen.
545  */
546
547 STATIC INLINE struct mbuf *
548 en_mget(struct en_softc *sc, u_int totlen, u_int *drqneed)
549 {
550   struct mbuf *m;
551   struct mbuf *top, **mp;
552   *drqneed = 0;
553
554   MGETHDR(m, MB_DONTWAIT, MT_DATA);
555   if (m == NULL)
556     return(NULL);
557   m->m_pkthdr.rcvif = &sc->enif;
558   m->m_pkthdr.len = totlen;
559   m->m_len = MHLEN;
560   top = NULL;
561   mp = &top;
562   
563   /* if (top != NULL) then we've already got 1 mbuf on the chain */
564   while (totlen > 0) {
565     if (top) {
566       MGET(m, MB_DONTWAIT, MT_DATA);
567       if (!m) {
568         m_freem(top);   
569         return(NULL);   /* out of mbufs */
570       }
571       m->m_len = MLEN;
572     }
573     if (totlen >= MINCLSIZE) {
574       MCLGET(m, MB_DONTWAIT);
575       if ((m->m_flags & M_EXT) == 0) {
576         m_free(m);
577         m_freem(top);
578         return(NULL);     /* out of mbuf clusters */
579       }
580       m->m_len = MCLBYTES;
581     }
582     m->m_len = min(totlen, m->m_len);
583     totlen -= m->m_len;
584     *mp = m;
585     mp = &m->m_next;
586
587     *drqneed += en_dqneed(sc, m->m_data, m->m_len, 0);
588
589   }
590   return(top);
591 }
592
593 /***********************************************************************/
594
595 /*
596  * autoconfig stuff
597  */
598
599 void
600 en_attach(struct en_softc *sc)
601 {
602   struct ifnet *ifp = &sc->enif;
603   int sz;
604   u_int32_t reg, lcv, check, ptr, sav, midvloc;
605
606   /*
607    * probe card to determine memory size.   the stupid ENI card always
608    * reports to PCI that it needs 4MB of space (2MB regs and 2MB RAM).
609    * if it has less than 2MB RAM the addresses wrap in the RAM address space.
610    * (i.e. on a 512KB card addresses 0x3ffffc, 0x37fffc, and 0x2ffffc
611    * are aliases for 0x27fffc  [note that RAM starts at offset 0x200000]).
612    */
613
614   if (sc->en_busreset)
615     sc->en_busreset(sc);
616   EN_WRITE(sc, MID_RESID, 0x0); /* reset card before touching RAM */
617   for (lcv = MID_PROBEOFF; lcv <= MID_MAXOFF ; lcv += MID_PROBSIZE) {
618     EN_WRITE(sc, lcv, lcv);     /* data[address] = address */
619     for (check = MID_PROBEOFF ; check < lcv ; check += MID_PROBSIZE) {
620       reg = EN_READ(sc, check);
621       if (reg != check) {               /* found an alias! */
622         goto done_probe;                /* and quit */
623       }
624     }
625   }
626 done_probe:
627   lcv -= MID_PROBSIZE;                  /* take one step back */
628   sc->en_obmemsz = (lcv + 4) - MID_RAMOFF;
629
630   /*
631    * determine the largest DMA burst supported
632    */
633
634   en_dmaprobe(sc);
635
636   /*
637    * "hello world"
638    */
639
640   if (sc->en_busreset)
641     sc->en_busreset(sc);
642   EN_WRITE(sc, MID_RESID, 0x0);         /* reset */
643   for (lcv = MID_RAMOFF ; lcv < MID_RAMOFF + sc->en_obmemsz ; lcv += 4)
644     EN_WRITE(sc, lcv, 0);       /* zero memory */
645
646   reg = EN_READ(sc, MID_RESID);
647
648   kprintf("%s: ATM midway v%d, board IDs %d.%d, %s%s%s, %ldKB on-board RAM\n",
649         sc->sc_dev.dv_xname, MID_VER(reg), MID_MID(reg), MID_DID(reg), 
650         (MID_IS_SABRE(reg)) ? "sabre controller, " : "",
651         (MID_IS_SUNI(reg)) ? "SUNI" : "Utopia",
652         (!MID_IS_SUNI(reg) && MID_IS_UPIPE(reg)) ? " (pipelined)" : "",
653         (long)(sc->en_obmemsz / 1024));
654
655   if (sc->is_adaptec) {
656     if (sc->bestburstlen == 64 && sc->alburst == 0)
657       kprintf("%s: passed 64 byte DMA test\n", sc->sc_dev.dv_xname);
658     else
659       kprintf("%s: FAILED DMA TEST: burst=%d, alburst=%d\n", 
660             sc->sc_dev.dv_xname, sc->bestburstlen, sc->alburst);
661   } else {
662     kprintf("%s: maximum DMA burst length = %d bytes%s\n", sc->sc_dev.dv_xname,
663           sc->bestburstlen, (sc->alburst) ? " (must align)" : "");
664   }
665
666   /*
667    * link into network subsystem and prepare card
668    */
669
670   sc->enif.if_softc = sc;
671   ifp->if_flags = IFF_SIMPLEX|IFF_NOTRAILERS;
672   ifp->if_ioctl = en_ioctl;
673   ifp->if_output = atm_output;
674   ifp->if_start = en_start;
675
676   /*
677    * init softc
678    */
679
680   for (lcv = 0 ; lcv < MID_N_VC ; lcv++) {
681     sc->rxvc2slot[lcv] = RX_NONE;
682     sc->txspeed[lcv] = 0;       /* full */
683     sc->txvc2slot[lcv] = 0;     /* full speed == slot 0 */
684   }
685
686   sz = sc->en_obmemsz - (MID_BUFOFF - MID_RAMOFF);
687   ptr = sav = MID_BUFOFF;
688   ptr = roundup(ptr, EN_TXSZ * 1024);   /* align */
689   sz = sz - (ptr - sav);
690   if (EN_TXSZ*1024 * EN_NTX > sz) {
691     kprintf("%s: EN_NTX/EN_TXSZ too big\n", sc->sc_dev.dv_xname);
692     return;
693   }
694   for (lcv = 0 ; lcv < EN_NTX ; lcv++) {
695     sc->txslot[lcv].mbsize = 0;
696     sc->txslot[lcv].start = ptr;
697     ptr += (EN_TXSZ * 1024);
698     sz -= (EN_TXSZ * 1024);
699     sc->txslot[lcv].stop = ptr;
700     sc->txslot[lcv].nref = 0;
701     bzero(&sc->txslot[lcv].indma, sizeof(sc->txslot[lcv].indma));
702     bzero(&sc->txslot[lcv].q, sizeof(sc->txslot[lcv].q));
703 #ifdef EN_DEBUG
704     kprintf("%s: tx%d: start 0x%x, stop 0x%x\n", sc->sc_dev.dv_xname, lcv,
705                 sc->txslot[lcv].start, sc->txslot[lcv].stop);
706 #endif
707   }
708
709   sav = ptr;
710   ptr = roundup(ptr, EN_RXSZ * 1024);   /* align */
711   sz = sz - (ptr - sav);
712   sc->en_nrx = sz / (EN_RXSZ * 1024);
713   if (sc->en_nrx <= 0) {
714     kprintf("%s: EN_NTX/EN_TXSZ/EN_RXSZ too big\n", sc->sc_dev.dv_xname);
715     return;
716   }
717
718   /* 
719    * ensure that there is always one VC slot on the service list free
720    * so that we can tell the difference between a full and empty list.
721    */
722   if (sc->en_nrx >= MID_N_VC)
723     sc->en_nrx = MID_N_VC - 1;
724
725   for (lcv = 0 ; lcv < sc->en_nrx ; lcv++) {
726     sc->rxslot[lcv].rxhand = NULL;
727     sc->rxslot[lcv].oth_flags = ENOTHER_FREE;
728     bzero(&sc->rxslot[lcv].indma, sizeof(sc->rxslot[lcv].indma));
729     bzero(&sc->rxslot[lcv].q, sizeof(sc->rxslot[lcv].q));
730     midvloc = sc->rxslot[lcv].start = ptr;
731     ptr += (EN_RXSZ * 1024);
732     sz -= (EN_RXSZ * 1024);
733     sc->rxslot[lcv].stop = ptr;
734     midvloc = midvloc - MID_RAMOFF;
735     midvloc = (midvloc & ~((EN_RXSZ*1024) - 1)) >> 2; /* mask, cvt to words */
736     midvloc = midvloc >> MIDV_LOCTOPSHFT;  /* we only want the top 11 bits */
737     midvloc = (midvloc & MIDV_LOCMASK) << MIDV_LOCSHIFT;
738     sc->rxslot[lcv].mode = midvloc | 
739         (en_k2sz(EN_RXSZ) << MIDV_SZSHIFT) | MIDV_TRASH;
740
741 #ifdef EN_DEBUG
742     kprintf("%s: rx%d: start 0x%x, stop 0x%x, mode 0x%x\n", sc->sc_dev.dv_xname,
743         lcv, sc->rxslot[lcv].start, sc->rxslot[lcv].stop, sc->rxslot[lcv].mode);
744 #endif
745   }
746
747 #ifdef EN_STAT
748   sc->vtrash = sc->otrash = sc->mfix = sc->txmbovr = sc->dmaovr = 0;
749   sc->txoutspace = sc->txdtqout = sc->launch = sc->lheader = sc->ltail = 0;
750   sc->hwpull = sc->swadd = sc->rxqnotus = sc->rxqus = sc->rxoutboth = 0;
751   sc->rxdrqout = sc->ttrash = sc->rxmbufout = sc->mfixfail = 0;
752   sc->headbyte = sc->tailbyte = sc->tailflush = 0;
753 #endif
754   sc->need_drqs = sc->need_dtqs = 0;
755
756   kprintf("%s: %d %dKB receive buffers, %d %dKB transmit buffers allocated\n",
757         sc->sc_dev.dv_xname, sc->en_nrx, EN_RXSZ, EN_NTX, EN_TXSZ);
758
759   kprintf("%s: End Station Identifier (mac address) %6D\n",
760          sc->sc_dev.dv_xname, sc->macaddr, ":");
761
762   /*
763    * final commit
764    */
765   atm_ifattach(ifp, NULL);
766 }
767
768
769 /*
770  * en_dmaprobe: helper function for en_attach.
771  *
772  * see how the card handles DMA by running a few DMA tests.   we need
773  * to figure out the largest number of bytes we can DMA in one burst
774  * ("bestburstlen"), and if the starting address for a burst needs to
775  * be aligned on any sort of boundary or not ("alburst").
776  *
777  * typical findings:
778  * sparc1: bestburstlen=4, alburst=0 (ick, broken DMA!)
779  * sparc2: bestburstlen=64, alburst=1
780  * p166:   bestburstlen=64, alburst=0 
781  */
782
783 #define NBURSTS 3       /* number of bursts to use for dmaprobe */
784 #define BOUNDARY 1024   /* test misaligned dma crossing the bounday.
785                            should be n * 64.  at least 64*(NBURSTS+1).
786                            dell P6 with EDO DRAM has 1K bounday problem */
787
788 STATIC void
789 en_dmaprobe(struct en_softc *sc)
790 {
791 #ifdef NBURSTS
792   /* be careful. kernel stack is only 8K */
793   u_int8_t buffer[BOUNDARY * 2 + 64 * (NBURSTS + 1)]; 
794 #else
795   u_int32_t srcbuf[64], dstbuf[64];
796 #endif
797   u_int8_t *sp, *dp;
798   int bestalgn, bestnotalgn, lcv, try;
799
800   sc->alburst = 0;
801
802 #ifdef NBURSTS
803   /* setup src and dst buf at the end of the boundary */
804   sp = (u_int8_t *)roundup((uintptr_t)(void *)buffer, 64);
805   while (((uintptr_t)(void *)sp & (BOUNDARY - 1)) != (BOUNDARY - 64))
806       sp += 64;
807   dp = sp + BOUNDARY;
808
809   /*
810    * we can't dma across page boundary so that, if buf is at a page
811    * boundary, move it to the next page.  but still either src or dst
812    * will be at the boundary, which should be ok.
813    */
814   if ((((uintptr_t)(void *)sp + 64) & PAGE_MASK) == 0)
815       sp += 64;
816   if ((((uintptr_t)(void *)dp + 64) & PAGE_MASK) == 0)
817       dp += 64;
818 #else /* !NBURSTS */
819   sp = (u_int8_t *) srcbuf;
820   while ((((unsigned long) sp) % MIDDMA_MAXBURST) != 0)
821     sp += 4;
822   dp = (u_int8_t *) dstbuf;
823   while ((((unsigned long) dp) % MIDDMA_MAXBURST) != 0)
824     dp += 4;
825 #endif /* !NBURSTS */
826
827   bestalgn = bestnotalgn = en_dmaprobe_doit(sc, sp, dp, 0);
828
829   for (lcv = 4 ; lcv < MIDDMA_MAXBURST ; lcv += 4) {
830     try = en_dmaprobe_doit(sc, sp+lcv, dp+lcv, 0);
831 #ifdef NBURSTS
832     if (try < bestnotalgn) {
833       bestnotalgn = try;
834       break;
835     }
836 #else
837     if (try < bestnotalgn)
838       bestnotalgn = try;
839 #endif
840   }
841
842   if (bestalgn != bestnotalgn)          /* need bursts aligned */
843     sc->alburst = 1;
844
845   sc->bestburstlen = bestalgn;
846   sc->bestburstshift = en_log2(bestalgn);
847   sc->bestburstmask = sc->bestburstlen - 1; /* must be power of 2 */
848   sc->bestburstcode = en_sz2b(bestalgn);
849
850   /*
851    * correct pci chipsets should be able to handle misaligned-64-byte DMA.
852    * but there are too many broken chipsets around.  we try to work around
853    * by finding the best workable dma size, but still some broken machines
854    * exhibit the problem later. so warn it here.
855    */
856   if (bestalgn != 64 || sc->alburst != 0) {
857     kprintf("%s: WARNING: DMA test detects a broken PCI chipset!\n", 
858            sc->sc_dev.dv_xname);
859     kprintf("     trying to work around the problem...  but if this doesn't\n");
860     kprintf("     work for you, you'd better switch to a newer motherboard.\n");
861   }
862     return;
863 }
864
865
866 /*
867  * en_dmaprobe_doit: do actual testing
868  */
869
870 static int
871 en_dmaprobe_doit(struct en_softc *sc, u_int8_t *sp, u_int8_t *dp, int wmtry)
872 {
873   int lcv, retval = 4, cnt, count;
874   u_int32_t reg, bcode, midvloc;
875
876   /*
877    * set up a 1k buffer at MID_BUFOFF
878    */
879
880   if (sc->en_busreset)
881     sc->en_busreset(sc);
882   EN_WRITE(sc, MID_RESID, 0x0); /* reset card before touching RAM */
883
884   midvloc = ((MID_BUFOFF - MID_RAMOFF) / sizeof(u_int32_t)) >> MIDV_LOCTOPSHFT;
885   EN_WRITE(sc, MIDX_PLACE(0), MIDX_MKPLACE(en_k2sz(1), midvloc));
886   EN_WRITE(sc, MID_VC(0), (midvloc << MIDV_LOCSHIFT) 
887                 | (en_k2sz(1) << MIDV_SZSHIFT) | MIDV_TRASH);
888   EN_WRITE(sc, MID_DST_RP(0), 0);
889   EN_WRITE(sc, MID_WP_ST_CNT(0), 0);
890
891 #ifdef NBURSTS
892   for (lcv = 0 ; lcv < 64*NBURSTS; lcv++)       /* set up sample data */
893 #else
894   for (lcv = 0 ; lcv < 68 ; lcv++)              /* set up sample data */
895 #endif
896     sp[lcv] = lcv+1;
897   EN_WRITE(sc, MID_MAST_CSR, MID_MCSR_ENDMA);   /* enable DMA (only) */
898
899   sc->drq_chip = MID_DRQ_REG2A(EN_READ(sc, MID_DMA_RDRX));
900   sc->dtq_chip = MID_DTQ_REG2A(EN_READ(sc, MID_DMA_RDTX));
901
902   /*
903    * try it now . . .  DMA it out, then DMA it back in and compare
904    *
905    * note: in order to get the dma stuff to reverse directions it wants
906    * the "end" flag set!   since we are not dma'ing valid data we may
907    * get an ident mismatch interrupt (which we will ignore).
908    *
909    * note: we've got two different tests rolled up in the same loop
910    * if (wmtry) 
911    *   then we are doing a wmaybe test and wmtry is a byte count
912    *   else we are doing a burst test
913    */
914
915   for (lcv = 8 ; lcv <= MIDDMA_MAXBURST ; lcv = lcv * 2) {
916
917 #ifdef EN_DEBUG
918     kprintf("DMA test lcv=%d, sp=0x%x, dp=0x%x, wmtry=%d\n",
919            lcv, sp, dp, wmtry);
920 #endif
921
922     /* zero SRAM and dest buffer */
923     for (cnt = 0 ; cnt < 1024; cnt += 4) 
924       EN_WRITE(sc, MID_BUFOFF+cnt, 0);  /* zero memory */
925 #ifdef NBURSTS
926     for (cnt = 0 ; cnt < 64*NBURSTS; cnt++) 
927 #else
928     for (cnt = 0 ; cnt < 68  ; cnt++) 
929 #endif
930       dp[cnt] = 0;
931
932     if (wmtry) {
933       count = (sc->bestburstlen - sizeof(u_int32_t)) / sizeof(u_int32_t);
934       bcode = en_dmaplan[count].bcode;
935       count = wmtry >> en_dmaplan[count].divshift;
936     } else {
937       bcode = en_sz2b(lcv);
938       count = 1;
939     }
940 #ifdef NBURSTS
941     /* build lcv-byte-DMA x NBURSTS */
942     if (sc->is_adaptec)
943       EN_WRITE(sc, sc->dtq_chip, MID_MK_TXQ_ADP(lcv*NBURSTS, 0, MID_DMA_END, 0));
944     else
945       EN_WRITE(sc, sc->dtq_chip, MID_MK_TXQ_ENI(count*NBURSTS, 0, MID_DMA_END, bcode));
946     EN_WRITE(sc, sc->dtq_chip+4, vtophys(sp));
947     EN_WRAPADD(MID_DTQOFF, MID_DTQEND, sc->dtq_chip, 8);
948     EN_WRITE(sc, MID_DMA_WRTX, MID_DTQ_A2REG(sc->dtq_chip));
949     cnt = 1000;
950     while (EN_READ(sc, MID_DMA_RDTX) != MID_DTQ_A2REG(sc->dtq_chip)) {
951       DELAY(1);
952       cnt--;
953       if (cnt == 0) {
954         kprintf("%s: unexpected timeout in tx DMA test\n", sc->sc_dev.dv_xname);
955 /*
956         kprintf("  alignment=0x%x, burst size=%d, dma addr reg=0x%x\n",
957                (u_long)sp & 63, lcv, EN_READ(sc, MID_DMA_ADDR));
958 */             
959         return(retval);         /* timeout, give up */
960       }
961     }
962 #else /* !NBURSTS */
963     if (sc->is_adaptec)
964       EN_WRITE(sc, sc->dtq_chip, MID_MK_TXQ_ADP(lcv, 0, MID_DMA_END, 0));
965     else
966       EN_WRITE(sc, sc->dtq_chip, MID_MK_TXQ_ENI(count, 0, MID_DMA_END, bcode));
967     EN_WRITE(sc, sc->dtq_chip+4, vtophys(sp));
968     EN_WRITE(sc, MID_DMA_WRTX, MID_DTQ_A2REG(sc->dtq_chip+8));
969     cnt = 1000;
970     while (EN_READ(sc, MID_DMA_RDTX) == MID_DTQ_A2REG(sc->dtq_chip)) {
971       DELAY(1);
972       cnt--;
973       if (cnt == 0) {
974         kprintf("%s: unexpected timeout in tx DMA test\n", sc->sc_dev.dv_xname);
975         return(retval);         /* timeout, give up */
976       }
977     }
978     EN_WRAPADD(MID_DTQOFF, MID_DTQEND, sc->dtq_chip, 8);
979 #endif /* !NBURSTS */
980     reg = EN_READ(sc, MID_INTACK); 
981     if ((reg & MID_INT_DMA_TX) != MID_INT_DMA_TX) {
982       kprintf("%s: unexpected status in tx DMA test: 0x%x\n", 
983                 sc->sc_dev.dv_xname, reg);
984       return(retval);
985     }
986     EN_WRITE(sc, MID_MAST_CSR, MID_MCSR_ENDMA);   /* re-enable DMA (only) */
987
988     /* "return to sender..."  address is known ... */
989
990 #ifdef NBURSTS
991     /* build lcv-byte-DMA x NBURSTS */
992     if (sc->is_adaptec)
993       EN_WRITE(sc, sc->drq_chip, MID_MK_RXQ_ADP(lcv*NBURSTS, 0, MID_DMA_END, 0));
994     else
995       EN_WRITE(sc, sc->drq_chip, MID_MK_RXQ_ENI(count*NBURSTS, 0, MID_DMA_END, bcode));
996     EN_WRITE(sc, sc->drq_chip+4, vtophys(dp));
997     EN_WRAPADD(MID_DRQOFF, MID_DRQEND, sc->drq_chip, 8);
998     EN_WRITE(sc, MID_DMA_WRRX, MID_DRQ_A2REG(sc->drq_chip));
999     cnt = 1000;
1000     while (EN_READ(sc, MID_DMA_RDRX) != MID_DRQ_A2REG(sc->drq_chip)) {
1001       DELAY(1);
1002       cnt--;
1003       if (cnt == 0) {
1004         kprintf("%s: unexpected timeout in rx DMA test\n", sc->sc_dev.dv_xname);
1005         return(retval);         /* timeout, give up */
1006       }
1007     }
1008 #else /* !NBURSTS */
1009     if (sc->is_adaptec)
1010       EN_WRITE(sc, sc->drq_chip, MID_MK_RXQ_ADP(lcv, 0, MID_DMA_END, 0));
1011     else
1012       EN_WRITE(sc, sc->drq_chip, MID_MK_RXQ_ENI(count, 0, MID_DMA_END, bcode));
1013     EN_WRITE(sc, sc->drq_chip+4, vtophys(dp));
1014     EN_WRITE(sc, MID_DMA_WRRX, MID_DRQ_A2REG(sc->drq_chip+8));
1015     cnt = 1000;
1016     while (EN_READ(sc, MID_DMA_RDRX) == MID_DRQ_A2REG(sc->drq_chip)) {
1017       DELAY(1);
1018       cnt--;
1019       if (cnt == 0) {
1020         kprintf("%s: unexpected timeout in rx DMA test\n", sc->sc_dev.dv_xname);
1021         return(retval);         /* timeout, give up */
1022       }
1023     }
1024     EN_WRAPADD(MID_DRQOFF, MID_DRQEND, sc->drq_chip, 8);
1025 #endif /* !NBURSTS */
1026     reg = EN_READ(sc, MID_INTACK); 
1027     if ((reg & MID_INT_DMA_RX) != MID_INT_DMA_RX) {
1028       kprintf("%s: unexpected status in rx DMA test: 0x%x\n", 
1029                 sc->sc_dev.dv_xname, reg);
1030       return(retval);
1031     }
1032     EN_WRITE(sc, MID_MAST_CSR, MID_MCSR_ENDMA);   /* re-enable DMA (only) */
1033
1034     if (wmtry) {
1035       return(bcmp(sp, dp, wmtry));  /* wmtry always exits here, no looping */
1036     }
1037   
1038 #ifdef NBURSTS
1039     if (bcmp(sp, dp, lcv * NBURSTS)) {
1040 /*      kprintf("DMA test failed! lcv=%d, sp=0x%x, dp=0x%x\n", lcv, sp, dp); */
1041       return(retval);           /* failed, use last value */
1042     }
1043 #else
1044     if (bcmp(sp, dp, lcv))
1045       return(retval);           /* failed, use last value */
1046 #endif
1047
1048     retval = lcv;
1049
1050   }
1051   return(retval);               /* studly 64 byte DMA present!  oh baby!! */
1052 }
1053
1054 /***********************************************************************/
1055
1056 /*
1057  * en_ioctl: handle ioctl requests
1058  *
1059  * NOTE: if you add an ioctl to set txspeed, you should choose a new
1060  * TX channel/slot.   Choose the one with the lowest sc->txslot[slot].nref
1061  * value, subtract one from sc->txslot[0].nref, add one to the
1062  * sc->txslot[slot].nref, set sc->txvc2slot[vci] = slot, and then set
1063  * txspeed[vci].
1064  */
1065
1066 STATIC int
1067 en_ioctl(struct ifnet *ifp, EN_IOCTL_CMDT cmd, caddr_t data, struct ucred *cr)
1068 {
1069     struct en_softc *sc = (struct en_softc *) ifp->if_softc;
1070     struct ifaddr *ifa = (struct ifaddr *) data;
1071     struct ifreq *ifr = (struct ifreq *) data;
1072     struct atm_pseudoioctl *api = (struct atm_pseudoioctl *)data;
1073 #ifdef NATM
1074     struct atm_rawioctl *ario = (struct atm_rawioctl *)data;
1075     int slot;
1076 #endif
1077     int error = 0;
1078
1079     crit_enter();
1080
1081     switch (cmd) {
1082         case SIOCATMENA:                /* enable circuit for recv */
1083                 error = en_rxctl(sc, api, 1);
1084                 break;
1085
1086         case SIOCATMDIS:                /* disable circuit for recv */
1087                 error = en_rxctl(sc, api, 0);
1088                 break;
1089
1090 #ifdef NATM
1091         case SIOCXRAWATM:
1092                 if ((slot = sc->rxvc2slot[ario->npcb->npcb_vci]) == RX_NONE) {
1093                         error = EINVAL;
1094                         break;
1095                 }
1096                 if (ario->rawvalue > EN_RXSZ*1024)
1097                         ario->rawvalue = EN_RXSZ*1024;
1098                 if (ario->rawvalue) {
1099                         sc->rxslot[slot].oth_flags |= ENOTHER_RAW;
1100                         sc->rxslot[slot].raw_threshold = ario->rawvalue;
1101                 } else {
1102                         sc->rxslot[slot].oth_flags &= (~ENOTHER_RAW);
1103                         sc->rxslot[slot].raw_threshold = 0;
1104                 }
1105 #ifdef EN_DEBUG
1106                 kprintf("%s: rxvci%d: turn %s raw (boodi) mode\n",
1107                         sc->sc_dev.dv_xname, ario->npcb->npcb_vci,
1108                         (ario->rawvalue) ? "on" : "off");
1109 #endif
1110                 break;
1111 #endif
1112         case SIOCSIFADDR: 
1113                 ifp->if_flags |= IFF_UP;
1114 #if defined(INET) || defined(INET6)
1115                 if (ifa->ifa_addr->sa_family == AF_INET
1116                     || ifa->ifa_addr->sa_family == AF_INET6) {
1117                         en_reset(sc);
1118                         en_init(sc);
1119                         ifa->ifa_rtrequest = atm_rtrequest; /* ??? */
1120                         break;
1121                 }
1122 #endif /* INET */
1123                 /* what to do if not INET? */
1124                 en_reset(sc);
1125                 en_init(sc);
1126                 break;
1127
1128         case SIOCGIFADDR: 
1129                 error = EINVAL;
1130                 break;
1131
1132         case SIOCSIFFLAGS: 
1133                 error = EINVAL;
1134                 break;
1135
1136 #if defined(SIOCSIFMTU)         /* ??? copied from if_de */
1137 #if !defined(ifr_mtu)
1138 #define ifr_mtu ifr_metric
1139 #endif
1140         case SIOCSIFMTU:
1141             /*
1142              * Set the interface MTU.
1143              */
1144 #ifdef notsure
1145             if (ifr->ifr_mtu > ATMMTU) {
1146                 error = EINVAL;
1147                 break;
1148             }
1149 #endif
1150             ifp->if_mtu = ifr->ifr_mtu;
1151                 /* XXXCDC: do we really need to reset on MTU size change? */
1152             en_reset(sc);
1153             en_init(sc);
1154             break;
1155 #endif /* SIOCSIFMTU */
1156
1157         default: 
1158             error = EINVAL;
1159             break;
1160     }
1161     crit_exit();
1162     return error;
1163 }
1164
1165
1166 /*
1167  * en_rxctl: turn on and off VCs for recv.
1168  */
1169
1170 STATIC int
1171 en_rxctl(struct en_softc *sc, struct atm_pseudoioctl *pi, int on)
1172 {
1173   u_int vci, flags, slot;
1174   u_int32_t oldmode, newmode;
1175
1176   vci = ATM_PH_VCI(&pi->aph);
1177   flags = ATM_PH_FLAGS(&pi->aph);
1178
1179 #ifdef EN_DEBUG
1180   kprintf("%s: %s vpi=%d, vci=%d, flags=%d\n", sc->sc_dev.dv_xname,
1181         (on) ? "enable" : "disable", ATM_PH_VPI(&pi->aph), vci, flags);
1182 #endif
1183
1184   if (ATM_PH_VPI(&pi->aph) || vci >= MID_N_VC)
1185     return(EINVAL);
1186
1187   /*
1188    * turn on VCI!
1189    */
1190
1191   if (on) {
1192     if (sc->rxvc2slot[vci] != RX_NONE)
1193       return(EINVAL);
1194     for (slot = 0 ; slot < sc->en_nrx ; slot++)
1195       if (sc->rxslot[slot].oth_flags & ENOTHER_FREE)
1196         break;
1197     if (slot == sc->en_nrx)
1198       return(ENOSPC);
1199     sc->rxvc2slot[vci] = slot;
1200     sc->rxslot[slot].rxhand = NULL;
1201     oldmode = sc->rxslot[slot].mode;
1202     newmode = (flags & ATM_PH_AAL5) ? MIDV_AAL5 : MIDV_NOAAL;
1203     sc->rxslot[slot].mode = MIDV_SETMODE(oldmode, newmode);
1204     sc->rxslot[slot].atm_vci = vci;
1205     sc->rxslot[slot].atm_flags = flags;
1206     sc->rxslot[slot].oth_flags = 0;
1207     sc->rxslot[slot].rxhand = pi->rxhand;
1208     if (sc->rxslot[slot].indma.ifq_head || sc->rxslot[slot].q.ifq_head)
1209       panic("en_rxctl: left over mbufs on enable");
1210     sc->txspeed[vci] = 0;       /* full speed to start */
1211     sc->txvc2slot[vci] = 0;     /* init value */
1212     sc->txslot[0].nref++;       /* bump reference count */
1213     en_loadvc(sc, vci);         /* does debug kprintf for us */
1214     return(0);
1215   }
1216
1217   /*
1218    * turn off VCI
1219    */
1220
1221   if (sc->rxvc2slot[vci] == RX_NONE)
1222     return(EINVAL);
1223   slot = sc->rxvc2slot[vci];
1224   if ((sc->rxslot[slot].oth_flags & (ENOTHER_FREE|ENOTHER_DRAIN)) != 0)
1225     return(EINVAL);
1226   crit_enter();         /* block out enintr() */
1227   oldmode = EN_READ(sc, MID_VC(vci));
1228   newmode = MIDV_SETMODE(oldmode, MIDV_TRASH) & ~MIDV_INSERVICE;
1229   EN_WRITE(sc, MID_VC(vci), (newmode | (oldmode & MIDV_INSERVICE)));
1230                 /* halt in tracks, be careful to preserve inserivce bit */
1231   DELAY(27);
1232   sc->rxslot[slot].rxhand = NULL;
1233   sc->rxslot[slot].mode = newmode;
1234
1235   sc->txslot[sc->txvc2slot[vci]].nref--;
1236   sc->txspeed[vci] = 0;
1237   sc->txvc2slot[vci] = 0;
1238
1239   /* if stuff is still going on we are going to have to drain it out */
1240   if (sc->rxslot[slot].indma.ifq_head || 
1241                 sc->rxslot[slot].q.ifq_head ||
1242                 (sc->rxslot[slot].oth_flags & ENOTHER_SWSL) != 0) {
1243     sc->rxslot[slot].oth_flags |= ENOTHER_DRAIN;
1244   } else {
1245     sc->rxslot[slot].oth_flags = ENOTHER_FREE;
1246     sc->rxslot[slot].atm_vci = RX_NONE;
1247     sc->rxvc2slot[vci] = RX_NONE;
1248   }
1249   crit_exit();          /* enable enintr() */
1250 #ifdef EN_DEBUG
1251   kprintf("%s: rx%d: VCI %d is now %s\n", sc->sc_dev.dv_xname, slot, vci,
1252         (sc->rxslot[slot].oth_flags & ENOTHER_DRAIN) ? "draining" : "free");
1253 #endif
1254   return(0);
1255 }
1256
1257 /***********************************************************************/
1258
1259 /*
1260  * en_reset: reset the board, throw away work in progress.
1261  * must en_init to recover.
1262  */
1263
1264 void
1265 en_reset(struct en_softc *sc)
1266 {
1267   struct mbuf *m;
1268   int lcv, slot;
1269
1270 #ifdef EN_DEBUG
1271   kprintf("%s: reset\n", sc->sc_dev.dv_xname);
1272 #endif
1273
1274   if (sc->en_busreset)
1275     sc->en_busreset(sc);
1276   EN_WRITE(sc, MID_RESID, 0x0); /* reset hardware */
1277
1278   /*
1279    * recv: dump any mbufs we are dma'ing into, if DRAINing, then a reset
1280    * will free us!
1281    */
1282
1283   for (lcv = 0 ; lcv < MID_N_VC ; lcv++) {
1284     if (sc->rxvc2slot[lcv] == RX_NONE)
1285       continue;
1286     slot = sc->rxvc2slot[lcv];
1287     while (1) {
1288       IF_DEQUEUE(&sc->rxslot[slot].indma, m);
1289       if (m == NULL) 
1290         break;          /* >>> exit 'while(1)' here <<< */
1291       m_freem(m);
1292     }
1293     while (1) {
1294       IF_DEQUEUE(&sc->rxslot[slot].q, m);
1295       if (m == NULL) 
1296         break;          /* >>> exit 'while(1)' here <<< */
1297       m_freem(m);
1298     }
1299     sc->rxslot[slot].oth_flags &= ~ENOTHER_SWSL;
1300     if (sc->rxslot[slot].oth_flags & ENOTHER_DRAIN) {
1301       sc->rxslot[slot].oth_flags = ENOTHER_FREE;
1302       sc->rxvc2slot[lcv] = RX_NONE;
1303 #ifdef EN_DEBUG
1304   kprintf("%s: rx%d: VCI %d is now free\n", sc->sc_dev.dv_xname, slot, lcv);
1305 #endif
1306     }
1307   }
1308
1309   /*
1310    * xmit: dump everything
1311    */
1312
1313   for (lcv = 0 ; lcv < EN_NTX ; lcv++) {
1314     while (1) {
1315       IF_DEQUEUE(&sc->txslot[lcv].indma, m);
1316       if (m == NULL) 
1317         break;          /* >>> exit 'while(1)' here <<< */
1318       m_freem(m);
1319     }
1320     while (1) {
1321       IF_DEQUEUE(&sc->txslot[lcv].q, m);
1322       if (m == NULL) 
1323         break;          /* >>> exit 'while(1)' here <<< */
1324       m_freem(m);
1325     }
1326
1327     sc->txslot[lcv].mbsize = 0;
1328   }
1329
1330   return;
1331 }
1332
1333
1334 /*
1335  * en_init: init board and sync the card with the data in the softc.
1336  */
1337
1338 STATIC void
1339 en_init(struct en_softc *sc)
1340 {
1341   int vc, slot;
1342   u_int32_t loc;
1343
1344   if ((sc->enif.if_flags & IFF_UP) == 0) {
1345 #ifdef EN_DEBUG
1346     kprintf("%s: going down\n", sc->sc_dev.dv_xname);
1347 #endif
1348     en_reset(sc);                       /* to be safe */
1349     sc->enif.if_flags &= ~IFF_RUNNING;  /* disable */
1350     return;
1351   }
1352
1353 #ifdef EN_DEBUG
1354   kprintf("%s: going up\n", sc->sc_dev.dv_xname);
1355 #endif
1356   sc->enif.if_flags |= IFF_RUNNING;     /* enable */
1357
1358   if (sc->en_busreset)
1359     sc->en_busreset(sc);
1360   EN_WRITE(sc, MID_RESID, 0x0);         /* reset */
1361
1362   /*
1363    * init obmem data structures: vc tab, dma q's, slist.
1364    *
1365    * note that we set drq_free/dtq_free to one less than the total number
1366    * of DTQ/DRQs present.   we do this because the card uses the condition
1367    * (drq_chip == drq_us) to mean "list is empty"... but if you allow the
1368    * circular list to be completely full then (drq_chip == drq_us) [i.e.
1369    * the drq_us pointer will wrap all the way around].   by restricting
1370    * the number of active requests to (N - 1) we prevent the list from
1371    * becoming completely full.    note that the card will sometimes give
1372    * us an interrupt for a DTQ/DRQ we have already processes... this helps
1373    * keep that interrupt from messing us up.
1374    */
1375
1376   for (vc = 0 ; vc < MID_N_VC ; vc++) 
1377     en_loadvc(sc, vc);
1378
1379   bzero(&sc->drq, sizeof(sc->drq));
1380   sc->drq_free = MID_DRQ_N - 1;         /* N - 1 */
1381   sc->drq_chip = MID_DRQ_REG2A(EN_READ(sc, MID_DMA_RDRX));
1382   EN_WRITE(sc, MID_DMA_WRRX, MID_DRQ_A2REG(sc->drq_chip)); 
1383                                                 /* ensure zero queue */
1384   sc->drq_us = sc->drq_chip;
1385
1386   bzero(&sc->dtq, sizeof(sc->dtq));
1387   sc->dtq_free = MID_DTQ_N - 1;         /* N - 1 */
1388   sc->dtq_chip = MID_DTQ_REG2A(EN_READ(sc, MID_DMA_RDTX));
1389   EN_WRITE(sc, MID_DMA_WRTX, MID_DRQ_A2REG(sc->dtq_chip)); 
1390                                                 /* ensure zero queue */
1391   sc->dtq_us = sc->dtq_chip;
1392
1393   sc->hwslistp = MID_SL_REG2A(EN_READ(sc, MID_SERV_WRITE));
1394   sc->swsl_size = sc->swsl_head = sc->swsl_tail = 0;
1395
1396 #ifdef EN_DEBUG
1397   kprintf("%s: drq free/chip: %d/0x%x, dtq free/chip: %d/0x%x, hwslist: 0x%x\n", 
1398     sc->sc_dev.dv_xname, sc->drq_free, sc->drq_chip, 
1399     sc->dtq_free, sc->dtq_chip, sc->hwslistp);
1400 #endif
1401
1402   for (slot = 0 ; slot < EN_NTX ; slot++) {
1403     sc->txslot[slot].bfree = EN_TXSZ * 1024;
1404     EN_WRITE(sc, MIDX_READPTR(slot), 0);
1405     EN_WRITE(sc, MIDX_DESCSTART(slot), 0);
1406     loc = sc->txslot[slot].cur = sc->txslot[slot].start;
1407     loc = loc - MID_RAMOFF;
1408     loc = (loc & ~((EN_TXSZ*1024) - 1)) >> 2; /* mask, cvt to words */
1409     loc = loc >> MIDV_LOCTOPSHFT;       /* top 11 bits */
1410     EN_WRITE(sc, MIDX_PLACE(slot), MIDX_MKPLACE(en_k2sz(EN_TXSZ), loc));
1411 #ifdef EN_DEBUG
1412     kprintf("%s: tx%d: place 0x%x\n", sc->sc_dev.dv_xname,  slot,
1413         EN_READ(sc, MIDX_PLACE(slot)));
1414 #endif
1415   }
1416
1417   /*
1418    * enable!
1419    */
1420
1421   EN_WRITE(sc, MID_INTENA, MID_INT_TX|MID_INT_DMA_OVR|MID_INT_IDENT|
1422         MID_INT_LERR|MID_INT_DMA_ERR|MID_INT_DMA_RX|MID_INT_DMA_TX|
1423         MID_INT_SERVICE| /* >>> MID_INT_SUNI| XXXCDC<<< */ MID_INT_STATS);
1424   EN_WRITE(sc, MID_MAST_CSR, MID_SETIPL(sc->ipl)|MID_MCSR_ENDMA|
1425         MID_MCSR_ENTX|MID_MCSR_ENRX);
1426
1427 }
1428
1429
1430 /*
1431  * en_loadvc: load a vc tab entry from a slot
1432  */
1433
1434 STATIC void
1435 en_loadvc(struct en_softc *sc, int vc)
1436 {
1437   int slot;
1438   u_int32_t reg = EN_READ(sc, MID_VC(vc));
1439   
1440   reg = MIDV_SETMODE(reg, MIDV_TRASH);
1441   EN_WRITE(sc, MID_VC(vc), reg);
1442   DELAY(27);
1443
1444   if ((slot = sc->rxvc2slot[vc]) == RX_NONE)
1445     return;
1446
1447   /* no need to set CRC */
1448   EN_WRITE(sc, MID_DST_RP(vc), 0);      /* read pointer = 0, desc. start = 0 */
1449   EN_WRITE(sc, MID_WP_ST_CNT(vc), 0);   /* write pointer = 0 */
1450   EN_WRITE(sc, MID_VC(vc), sc->rxslot[slot].mode);  /* set mode, size, loc */
1451   sc->rxslot[slot].cur = sc->rxslot[slot].start;
1452
1453 #ifdef EN_DEBUG
1454     kprintf("%s: rx%d: assigned to VCI %d\n", sc->sc_dev.dv_xname, slot, vc);
1455 #endif
1456 }
1457
1458
1459 /*
1460  * en_start: start transmitting the next packet that needs to go out
1461  * if there is one.    note that atm_output() has already locked us.
1462  */
1463
1464 STATIC void
1465 en_start(struct ifnet *ifp)
1466 {
1467     struct en_softc *sc = (struct en_softc *) ifp->if_softc;
1468     struct mbuf *m, *lastm, *prev;
1469     struct atm_pseudohdr *ap, *new_ap;
1470     int txchan, mlen, got, need, toadd, cellcnt, first;
1471     u_int32_t atm_vpi, atm_vci, atm_flags, *dat, aal;
1472     u_int8_t *cp;
1473
1474     if ((ifp->if_flags & IFF_RUNNING) == 0)
1475         return;
1476
1477     /*
1478      * remove everything from interface queue since we handle all queueing
1479      * locally ... 
1480      */
1481
1482     while (1) {
1483
1484       IF_DEQUEUE(&ifp->if_snd, m);
1485       if (m == NULL)
1486         return;         /* EMPTY: >>> exit here <<< */
1487     
1488       /*
1489        * calculate size of packet (in bytes)
1490        * also, if we are not doing transmit DMA we eliminate all stupid
1491        * (non-word) alignments here using en_mfix().   calls to en_mfix()
1492        * seem to be due to tcp retransmits for the most part.
1493        *
1494        * after this loop mlen total length of mbuf chain (including atm_ph),
1495        * and lastm is a pointer to the last mbuf on the chain.
1496        */
1497
1498       lastm = m;
1499       mlen = 0;
1500       prev = NULL;
1501       while (1) {
1502         /* no DMA? */
1503         if ((!sc->is_adaptec && EN_ENIDMAFIX) || EN_NOTXDMA || !en_dma) {
1504           if ( ((uintptr_t)mtod(lastm, void *) % sizeof(u_int32_t)) != 0 ||
1505             ((lastm->m_len % sizeof(u_int32_t)) != 0 && lastm->m_next)) {
1506             first = (lastm == m);
1507             if (en_mfix(sc, &lastm, prev) == 0) {       /* failed? */
1508               m_freem(m);
1509               m = NULL;
1510               break;
1511             }
1512             if (first)
1513               m = lastm;                /* update */
1514           }
1515           prev = lastm;
1516         }
1517
1518         mlen += lastm->m_len;
1519         if (lastm->m_next == NULL)
1520           break;
1521         lastm = lastm->m_next;
1522       }
1523
1524       if (m == NULL)            /* happens only if mfix fails */
1525         continue;
1526
1527       ap = mtod(m, struct atm_pseudohdr *);
1528
1529       atm_vpi = ATM_PH_VPI(ap);
1530       atm_vci = ATM_PH_VCI(ap);
1531       atm_flags = ATM_PH_FLAGS(ap) & ~(EN_OBHDR|EN_OBTRL);
1532       aal = ((atm_flags & ATM_PH_AAL5) != 0) 
1533                         ? MID_TBD_AAL5 : MID_TBD_NOAAL5;
1534
1535       /*
1536        * check that vpi/vci is one we can use
1537        */
1538
1539       if (atm_vpi || atm_vci > MID_N_VC) {
1540         kprintf("%s: output vpi=%d, vci=%d out of card range, dropping...\n", 
1541                 sc->sc_dev.dv_xname, atm_vpi, atm_vci);
1542         m_freem(m);
1543         continue;
1544       }
1545
1546       /*
1547        * computing how much padding we need on the end of the mbuf, then
1548        * see if we can put the TBD at the front of the mbuf where the
1549        * link header goes (well behaved protocols will reserve room for us).
1550        * last, check if room for PDU tail.
1551        *
1552        * got = number of bytes of data we have
1553        * cellcnt = number of cells in this mbuf
1554        * need = number of bytes of data + padding we need (excludes TBD)
1555        * toadd = number of bytes of data we need to add to end of mbuf,
1556        *        [including AAL5 PDU, if AAL5]
1557        */
1558
1559       got = mlen - sizeof(struct atm_pseudohdr *);
1560       toadd = (aal == MID_TBD_AAL5) ? MID_PDU_SIZE : 0; /* PDU */
1561       cellcnt = (got + toadd + (MID_ATMDATASZ - 1)) / MID_ATMDATASZ;
1562       need = cellcnt * MID_ATMDATASZ;
1563       toadd = need - got;               /* recompute, including zero padding */
1564
1565 #ifdef EN_DEBUG
1566       kprintf("%s: txvci%d: mlen=%d, got=%d, need=%d, toadd=%d, cell#=%d\n",
1567         sc->sc_dev.dv_xname, atm_vci, mlen, got, need, toadd, cellcnt);
1568       kprintf("     leading_space=%d, trailing_space=%d\n", 
1569         M_LEADINGSPACE(m), M_TRAILINGSPACE(lastm));
1570 #endif
1571
1572 #ifdef EN_MBUF_OPT
1573
1574       /*
1575        * note: external storage (M_EXT) can be shared between mbufs
1576        * to avoid copying (see m_copym()).    this means that the same
1577        * data buffer could be shared by several mbufs, and thus it isn't
1578        * a good idea to try and write TBDs or PDUs to M_EXT data areas.
1579        */
1580
1581       if (M_LEADINGSPACE(m) >= MID_TBD_SIZE && (m->m_flags & M_EXT) == 0) {
1582         m->m_data -= MID_TBD_SIZE;
1583         m->m_len += MID_TBD_SIZE;
1584         mlen += MID_TBD_SIZE;
1585         new_ap = mtod(m, struct atm_pseudohdr *);
1586         *new_ap = *ap;                  /* move it back */
1587         ap = new_ap;
1588         dat = ((u_int32_t *) ap) + 1;
1589         /* make sure the TBD is in proper byte order */
1590         *dat++ = htonl(MID_TBD_MK1(aal, sc->txspeed[atm_vci], cellcnt));
1591         *dat = htonl(MID_TBD_MK2(atm_vci, 0, 0));
1592         atm_flags |= EN_OBHDR;
1593       }
1594
1595       if (toadd && (lastm->m_flags & M_EXT) == 0 && 
1596                                         M_TRAILINGSPACE(lastm) >= toadd) {
1597         cp = mtod(lastm, u_int8_t *) + lastm->m_len;
1598         lastm->m_len += toadd;
1599         mlen += toadd;
1600         if (aal == MID_TBD_AAL5) {
1601           bzero(cp, toadd - MID_PDU_SIZE);
1602           dat = (u_int32_t *)(cp + toadd - MID_PDU_SIZE);
1603           /* make sure the PDU is in proper byte order */
1604           *dat = htonl(MID_PDU_MK1(0, 0, got));
1605         } else {
1606           bzero(cp, toadd);
1607         }
1608         atm_flags |= EN_OBTRL;
1609       }
1610       ATM_PH_FLAGS(ap) = atm_flags;     /* update EN_OBHDR/EN_OBTRL bits */
1611 #endif  /* EN_MBUF_OPT */
1612
1613       /*
1614        * get assigned channel (will be zero unless txspeed[atm_vci] is set)
1615        */
1616
1617       txchan = sc->txvc2slot[atm_vci];
1618
1619       if (sc->txslot[txchan].mbsize > EN_TXHIWAT) {
1620         EN_COUNT(sc->txmbovr);
1621         m_freem(m);
1622 #ifdef EN_DEBUG
1623         kprintf("%s: tx%d: buffer space shortage\n", sc->sc_dev.dv_xname,
1624                 txchan);
1625 #endif
1626         continue;
1627       }
1628
1629       sc->txslot[txchan].mbsize += mlen;
1630
1631 #ifdef EN_DEBUG
1632       kprintf("%s: tx%d: VPI=%d, VCI=%d, FLAGS=0x%x, speed=0x%x\n",
1633         sc->sc_dev.dv_xname, txchan, atm_vpi, atm_vci, atm_flags, 
1634         sc->txspeed[atm_vci]);
1635       kprintf("     adjusted mlen=%d, mbsize=%d\n", mlen, 
1636                 sc->txslot[txchan].mbsize);
1637 #endif
1638
1639       IF_ENQUEUE(&sc->txslot[txchan].q, m);
1640
1641       en_txdma(sc, txchan);
1642
1643   }
1644   /*NOTREACHED*/
1645 }
1646
1647
1648 /*
1649  * en_mfix: fix a stupid mbuf
1650  */
1651
1652 STATIC int en_makeexclusive(struct en_softc *, struct mbuf **, struct mbuf *);
1653
1654 STATIC int
1655 en_makeexclusive(struct en_softc *sc, struct mbuf **mm, struct mbuf *prev)
1656 {
1657     struct mbuf *m, *new;
1658
1659     m = *mm;
1660     
1661     if (m->m_flags & M_EXT) {
1662         if (!(m->m_flags & M_EXT_CLUSTER)) {
1663             /* external buffer isn't an ordinary mbuf cluster! */
1664             kprintf("%s: mfix: special buffer! can't make a copy!\n",
1665                    sc->sc_dev.dv_xname);
1666             return (0);
1667         }
1668
1669         if (m_sharecount(m) > 1) {
1670             /* make a real copy of the M_EXT mbuf since it is shared */
1671             new = m_getcl(MB_DONTWAIT, MT_DATA, m->m_flags & M_PKTHDR);
1672             if (new == NULL) {
1673                 m_free(new);
1674                 EN_COUNT(sc->mfixfail);
1675                 return (0);
1676             }
1677             if (m->m_flags & M_PKTHDR)
1678                 M_MOVE_PKTHDR(new, m);
1679             bcopy(m->m_data, new->m_data, m->m_len);    
1680             new->m_len = m->m_len;
1681             new->m_next = m->m_next;
1682             if (prev)
1683                 prev->m_next = new;
1684             m_free(m);
1685             *mm = new;
1686         }
1687         else {
1688             /* the buffer is not shared, align the data offset using
1689                this buffer. */
1690             u_char *d = mtod(m, u_char *);
1691             int off = ((uintptr_t)(void *)d) % sizeof(u_int32_t);
1692
1693             if (off > 0) {
1694                 bcopy(d, d - off, m->m_len);
1695                 m->m_data = (caddr_t)d - off;
1696             }
1697         }
1698     }
1699     return (1);
1700 }
1701
1702 STATIC int
1703 en_mfix(struct en_softc *sc, struct mbuf **mm, struct mbuf *prev)
1704 {
1705   struct mbuf *m;
1706   u_char *d, *cp;
1707   int off;
1708   struct mbuf *nxt;
1709
1710   m = *mm;
1711
1712   EN_COUNT(sc->mfix);                   /* count # of calls */
1713 #ifdef EN_DEBUG
1714   kprintf("%s: mfix mbuf m_data=0x%x, m_len=%d\n", sc->sc_dev.dv_xname,
1715         m->m_data, m->m_len);
1716 #endif
1717
1718   d = mtod(m, u_char *);
1719   off = ((uintptr_t) (void *) d) % sizeof(u_int32_t);
1720
1721   if (off) {
1722     if ((m->m_flags & M_EXT) == 0) {
1723       bcopy(d, d - off, m->m_len);   /* ALIGN! (with costly data copy...) */
1724       d -= off;
1725       m->m_data = (caddr_t)d;
1726     } else {
1727       /* can't write to an M_EXT mbuf since it may be shared */
1728       if (en_makeexclusive(sc, &m, prev) == 0)
1729           return (0);
1730       *mm = m;  /* note: 'd' now invalid */
1731     }
1732   }
1733
1734   off = m->m_len % sizeof(u_int32_t);
1735   if (off == 0)
1736     return(1);
1737
1738   if (m->m_flags & M_EXT) {
1739       /* can't write to an M_EXT mbuf since it may be shared */
1740       if (en_makeexclusive(sc, &m, prev) == 0)
1741           return (0);
1742       *mm = m;  /* note: 'd' now invalid */
1743   }
1744
1745   d = mtod(m, u_char *) + m->m_len;
1746   off = sizeof(u_int32_t) - off;
1747   
1748   nxt = m->m_next;
1749   while (off--) {
1750     if (nxt != NULL && nxt->m_len == 0) {
1751         /* remove an empty mbuf.  this avoids odd byte padding to an empty
1752            last mbuf.  */
1753         m->m_next = nxt = m_free(nxt);
1754     }
1755     if (nxt == NULL) {          /* out of data, zero fill */
1756       *d++ = 0;
1757       continue;                 /* next "off" */
1758     }
1759     cp = mtod(nxt, u_char *);
1760     *d++ = *cp++;
1761     m->m_len++;
1762     nxt->m_len--; 
1763     nxt->m_data = (caddr_t)cp;
1764   }
1765   if (nxt != NULL && nxt->m_len == 0)
1766       m->m_next = m_free(nxt);
1767   return(1);
1768 }
1769
1770 /*
1771  * en_txdma: start trasmit DMA, if possible
1772  */
1773
1774 STATIC void
1775 en_txdma(struct en_softc *sc, int chan)
1776 {
1777   struct mbuf *tmp;
1778   struct atm_pseudohdr *ap;
1779   struct en_launch launch = { .tbd1 = 0 };
1780   int datalen = 0, dtqneed, len, ncells;
1781   u_int8_t *cp;
1782   struct ifnet *ifp;
1783
1784 #ifdef EN_DEBUG
1785   kprintf("%s: tx%d: starting...\n", sc->sc_dev.dv_xname, chan);
1786 #endif
1787
1788   /*
1789    * note: now that txlaunch handles non-word aligned/sized requests
1790    * the only time you can safely set launch.nodma is if you've en_mfix()'d
1791    * the mbuf chain.    this happens only if EN_NOTXDMA || !en_dma.
1792    */
1793
1794   launch.nodma = (EN_NOTXDMA || !en_dma);
1795
1796 again:
1797
1798   /*
1799    * get an mbuf waiting for DMA
1800    */
1801
1802   launch.t = sc->txslot[chan].q.ifq_head; /* peek at head of queue */
1803
1804   if (launch.t == NULL) {
1805 #ifdef EN_DEBUG
1806     kprintf("%s: tx%d: ...done!\n", sc->sc_dev.dv_xname, chan);
1807 #endif
1808     return;     /* >>> exit here if no data waiting for DMA <<< */
1809   }
1810
1811   /*
1812    * get flags, vci
1813    * 
1814    * note: launch.need = # bytes we need to get on the card
1815    *       dtqneed = # of DTQs we need for this packet
1816    *       launch.mlen = # of bytes in in mbuf chain (<= launch.need)
1817    */
1818
1819   ap = mtod(launch.t, struct atm_pseudohdr *);
1820   launch.atm_vci = ATM_PH_VCI(ap);
1821   launch.atm_flags = ATM_PH_FLAGS(ap);
1822   launch.aal = ((launch.atm_flags & ATM_PH_AAL5) != 0) ? 
1823                 MID_TBD_AAL5 : MID_TBD_NOAAL5;
1824
1825   /*
1826    * XXX: have to recompute the length again, even though we already did
1827    * it in en_start().   might as well compute dtqneed here as well, so 
1828    * this isn't that bad.
1829    */
1830
1831   if ((launch.atm_flags & EN_OBHDR) == 0) {
1832     dtqneed = 1;                /* header still needs to be added */
1833     launch.need = MID_TBD_SIZE; /* not includeded with mbuf */
1834   } else {
1835     dtqneed = 0;                /* header on-board, dma with mbuf */
1836     launch.need = 0;
1837   }
1838
1839   launch.mlen = 0;
1840   for (tmp = launch.t ; tmp != NULL ; tmp = tmp->m_next) {
1841     len = tmp->m_len;
1842     launch.mlen += len;
1843     cp = mtod(tmp, u_int8_t *);
1844     if (tmp == launch.t) {
1845       len -= sizeof(struct atm_pseudohdr); /* don't count this! */
1846       cp += sizeof(struct atm_pseudohdr);
1847     }
1848     launch.need += len;
1849     if (len == 0)
1850       continue;                 /* atm_pseudohdr alone in first mbuf */
1851
1852     dtqneed += en_dqneed(sc, (caddr_t) cp, len, 1);
1853   }
1854
1855   if ((launch.need % sizeof(u_int32_t)) != 0) 
1856     dtqneed++;                  /* need DTQ to FLUSH internal buffer */
1857
1858   if ((launch.atm_flags & EN_OBTRL) == 0) {
1859     if (launch.aal == MID_TBD_AAL5) {
1860       datalen = launch.need - MID_TBD_SIZE;
1861       launch.need += MID_PDU_SIZE;              /* AAL5: need PDU tail */
1862     }
1863     dtqneed++;                  /* need to work on the end a bit */
1864   }
1865
1866   /*
1867    * finish calculation of launch.need (need to figure out how much padding
1868    * we will need).   launch.need includes MID_TBD_SIZE, but we need to
1869    * remove that to so we can round off properly.     we have to add 
1870    * MID_TBD_SIZE back in after calculating ncells.
1871    */
1872
1873   launch.need = roundup(launch.need - MID_TBD_SIZE, MID_ATMDATASZ);
1874   ncells = launch.need / MID_ATMDATASZ;
1875   launch.need += MID_TBD_SIZE;
1876
1877   if (launch.need > EN_TXSZ * 1024) {
1878     kprintf("%s: tx%d: packet larger than xmit buffer (%d > %d)\n",
1879       sc->sc_dev.dv_xname, chan, launch.need, EN_TXSZ * 1024);
1880     goto dequeue_drop;
1881   }
1882
1883   /*
1884    * note: don't use the entire buffer space.  if WRTX becomes equal
1885    * to RDTX, the transmitter stops assuming the buffer is empty!  --kjc
1886    */
1887   if (launch.need >= sc->txslot[chan].bfree) {
1888     EN_COUNT(sc->txoutspace);
1889 #ifdef EN_DEBUG
1890     kprintf("%s: tx%d: out of transmit space\n", sc->sc_dev.dv_xname, chan);
1891 #endif
1892     return;             /* >>> exit here if out of obmem buffer space <<< */
1893   }
1894   
1895   /*
1896    * ensure we have enough dtqs to go, if not, wait for more.
1897    */
1898
1899   if (launch.nodma) {
1900     dtqneed = 1;
1901   }
1902   if (dtqneed > sc->dtq_free) {
1903     sc->need_dtqs = 1;
1904     EN_COUNT(sc->txdtqout);
1905 #ifdef EN_DEBUG
1906     kprintf("%s: tx%d: out of transmit DTQs\n", sc->sc_dev.dv_xname, chan);
1907 #endif
1908     return;             /* >>> exit here if out of dtqs <<< */
1909   }
1910
1911   /*
1912    * it is a go, commit!  dequeue mbuf start working on the xfer.
1913    */
1914
1915   IF_DEQUEUE(&sc->txslot[chan].q, tmp);
1916 #ifdef EN_DIAG
1917   if (launch.t != tmp)
1918     panic("en dequeue");
1919 #endif /* EN_DIAG */
1920
1921   /*
1922    * launch!
1923    */
1924
1925   EN_COUNT(sc->launch);
1926   ifp = &sc->enif;
1927   ifp->if_opackets++;
1928   
1929   if ((launch.atm_flags & EN_OBHDR) == 0) {
1930     EN_COUNT(sc->lheader);
1931     /* store tbd1/tbd2 in host byte order */
1932     launch.tbd1 = MID_TBD_MK1(launch.aal, sc->txspeed[launch.atm_vci], ncells);
1933     launch.tbd2 = MID_TBD_MK2(launch.atm_vci, 0, 0);
1934   }
1935   if ((launch.atm_flags & EN_OBTRL) == 0 && launch.aal == MID_TBD_AAL5) {
1936     EN_COUNT(sc->ltail);
1937     launch.pdu1 = MID_PDU_MK1(0, 0, datalen);  /* host byte order */
1938   }
1939
1940   en_txlaunch(sc, chan, &launch);
1941
1942   if (ifp->if_bpf) {
1943       /*
1944        * adjust the top of the mbuf to skip the pseudo atm header
1945        * (and TBD, if present) before passing the packet to bpf,
1946        * restore it afterwards.
1947        */
1948       int size = sizeof(struct atm_pseudohdr);
1949       if (launch.atm_flags & EN_OBHDR)
1950           size += MID_TBD_SIZE;
1951
1952       launch.t->m_data += size;
1953       launch.t->m_len -= size;
1954
1955       BPF_MTAP(ifp, launch.t);
1956
1957       launch.t->m_data -= size;
1958       launch.t->m_len += size;
1959   }
1960   /*
1961    * do some housekeeping and get the next packet
1962    */
1963
1964   sc->txslot[chan].bfree -= launch.need;
1965   IF_ENQUEUE(&sc->txslot[chan].indma, launch.t);
1966   goto again;
1967
1968   /*
1969    * END of txdma loop!
1970    */
1971
1972   /*
1973    * error handles
1974    */
1975
1976 dequeue_drop:
1977   IF_DEQUEUE(&sc->txslot[chan].q, tmp);
1978   if (launch.t != tmp)
1979     panic("en dequeue drop");
1980   m_freem(launch.t);
1981   sc->txslot[chan].mbsize -= launch.mlen;
1982   goto again;
1983 }
1984
1985
1986 /*
1987  * en_txlaunch: launch an mbuf into the dma pool!
1988  */
1989
1990 STATIC void
1991 en_txlaunch(struct en_softc *sc, int chan, struct en_launch *l)
1992 {
1993   struct mbuf *tmp;
1994   u_int32_t cur = sc->txslot[chan].cur,
1995             start = sc->txslot[chan].start,
1996             stop = sc->txslot[chan].stop,
1997             dma, *data, *datastop, count, bcode;
1998   int pad, addtail, need, len, needalign, cnt, end, mx;
1999
2000
2001  /*
2002   * vars:
2003   *   need = # bytes card still needs (decr. to zero)
2004   *   len = # of bytes left in current mbuf
2005   *   cur = our current pointer
2006   *   dma = last place we programmed into the DMA
2007   *   data = pointer into data area of mbuf that needs to go next
2008   *   cnt = # of bytes to transfer in this DTQ
2009   *   bcode/count = DMA burst code, and chip's version of cnt
2010   *
2011   *   a single buffer can require up to 5 DTQs depending on its size
2012   *   and alignment requirements.   the 5 possible requests are:
2013   *   [1] 1, 2, or 3 byte DMA to align src data pointer to word boundary
2014   *   [2] alburst DMA to align src data pointer to bestburstlen
2015   *   [3] 1 or more bestburstlen DMAs
2016   *   [4] clean up burst (to last word boundary)
2017   *   [5] 1, 2, or 3 byte final clean up DMA
2018   */
2019
2020  need = l->need;
2021  dma = cur;
2022  addtail = (l->atm_flags & EN_OBTRL) == 0;      /* add a tail? */
2023
2024 #ifdef EN_DIAG
2025   if ((need - MID_TBD_SIZE) % MID_ATMDATASZ) 
2026     kprintf("%s: tx%d: bogus trasmit needs (%d)\n", sc->sc_dev.dv_xname, chan,
2027                 need);
2028 #endif
2029 #ifdef EN_DEBUG
2030   kprintf("%s: tx%d: launch mbuf %p!   cur=0x%x[%d], need=%d, addtail=%d\n",
2031         sc->sc_dev.dv_xname, chan, l->t, cur, (cur-start)/4, need, addtail);
2032   count = EN_READ(sc, MIDX_PLACE(chan));
2033   kprintf("     HW: base_address=0x%x, size=%d, read=%d, descstart=%d\n",
2034         MIDX_BASE(count), MIDX_SZ(count), EN_READ(sc, MIDX_READPTR(chan)), 
2035         EN_READ(sc, MIDX_DESCSTART(chan)));
2036 #endif
2037
2038  /*
2039   * do we need to insert the TBD by hand?
2040   * note that tbd1/tbd2/pdu1 are in host byte order.
2041   */
2042
2043   if ((l->atm_flags & EN_OBHDR) == 0) {
2044 #ifdef EN_DEBUG
2045     kprintf("%s: tx%d: insert header 0x%x 0x%x\n", sc->sc_dev.dv_xname,
2046         chan, l->tbd1, l->tbd2);
2047 #endif
2048     EN_WRITE(sc, cur, l->tbd1);
2049     EN_WRAPADD(start, stop, cur, 4);
2050     EN_WRITE(sc, cur, l->tbd2);
2051     EN_WRAPADD(start, stop, cur, 4);
2052     need -= 8;
2053   }
2054
2055   /*
2056    * now do the mbufs...
2057    */
2058
2059   for (tmp = l->t ; tmp != NULL ; tmp = tmp->m_next) {
2060
2061     /* get pointer to data and length */
2062     data = mtod(tmp, u_int32_t *);
2063     len = tmp->m_len;
2064     if (tmp == l->t) {
2065       data += sizeof(struct atm_pseudohdr)/sizeof(u_int32_t);
2066       len -= sizeof(struct atm_pseudohdr);
2067     }
2068
2069     /* now, determine if we should copy it */
2070     if (l->nodma || (len < EN_MINDMA &&
2071        (len % 4) == 0 && ((uintptr_t) (void *) data % 4) == 0 &&
2072        (cur % 4) == 0)) {
2073
2074       /* 
2075        * roundup len: the only time this will change the value of len
2076        * is when l->nodma is true, tmp is the last mbuf, and there is
2077        * a non-word number of bytes to transmit.   in this case it is
2078        * safe to round up because we've en_mfix'd the mbuf (so the first
2079        * byte is word aligned there must be enough free bytes at the end
2080        * to round off to the next word boundary)...
2081        */
2082       len = roundup(len, sizeof(u_int32_t));
2083       datastop = data + (len / sizeof(u_int32_t));
2084       /* copy loop: preserve byte order!!!  use WRITEDAT */
2085       while (data != datastop) {
2086         EN_WRITEDAT(sc, cur, *data);
2087         data++;
2088         EN_WRAPADD(start, stop, cur, 4);
2089       }
2090       need -= len;
2091 #ifdef EN_DEBUG
2092       kprintf("%s: tx%d: copied %d bytes (%d left, cur now 0x%x)\n", 
2093                 sc->sc_dev.dv_xname, chan, len, need, cur);
2094 #endif
2095       continue;         /* continue on to next mbuf */
2096     }
2097
2098     /* going to do DMA, first make sure the dtq is in sync. */
2099     if (dma != cur) {
2100       EN_DTQADD(sc, WORD_IDX(start,cur), chan, MIDDMA_JK, 0, 0, 0);
2101 #ifdef EN_DEBUG
2102       kprintf("%s: tx%d: dtq_sync: advance pointer to %d\n",
2103                 sc->sc_dev.dv_xname, chan, cur);
2104 #endif
2105     }
2106
2107     /*
2108      * if this is the last buffer, and it looks like we are going to need to
2109      * flush the internal buffer, can we extend the length of this mbuf to
2110      * avoid the FLUSH?
2111      */
2112
2113     if (tmp->m_next == NULL) {
2114       cnt = (need - len) % sizeof(u_int32_t);
2115       if (cnt && M_TRAILINGSPACE(tmp) >= cnt)
2116         len += cnt;                     /* pad for FLUSH */
2117     }
2118       
2119 #if !defined(MIDWAY_ENIONLY)
2120
2121     /*
2122      * the adaptec DMA engine is smart and handles everything for us.
2123      */
2124
2125     if (sc->is_adaptec) {
2126       /* need to DMA "len" bytes out to card */
2127       need -= len;
2128       EN_WRAPADD(start, stop, cur, len);
2129 #ifdef EN_DEBUG
2130       kprintf("%s: tx%d: adp_dma %d bytes (%d left, cur now 0x%x)\n",
2131               sc->sc_dev.dv_xname, chan, len, need, cur);
2132 #endif
2133       end = (need == 0) ? MID_DMA_END : 0;
2134       EN_DTQADD(sc, len, chan, 0, vtophys(data), l->mlen, end);
2135       if (end)
2136         goto done;
2137       dma = cur;        /* update dma pointer */
2138       continue;
2139     }
2140 #endif /* !MIDWAY_ENIONLY */
2141
2142 #if !defined(MIDWAY_ADPONLY)
2143
2144     /*
2145      * the ENI DMA engine is not so smart and need more help from us
2146      */
2147
2148     /* do we need to do a DMA op to align to word boundary? */
2149     needalign = (uintptr_t) (void *) data % sizeof(u_int32_t);
2150     if (needalign) {
2151       EN_COUNT(sc->headbyte);
2152       cnt = sizeof(u_int32_t) - needalign;
2153       if (cnt == 2 && len >= cnt) {
2154         count = 1;
2155         bcode = MIDDMA_2BYTE;
2156       } else {
2157         cnt = min(cnt, len);            /* prevent overflow */
2158         count = cnt;
2159         bcode = MIDDMA_BYTE;
2160       }
2161       need -= cnt;
2162       EN_WRAPADD(start, stop, cur, cnt);
2163 #ifdef EN_DEBUG
2164       kprintf("%s: tx%d: small al_dma %d bytes (%d left, cur now 0x%x)\n",
2165               sc->sc_dev.dv_xname, chan, cnt, need, cur);
2166 #endif
2167       len -= cnt;
2168       end = (need == 0) ? MID_DMA_END : 0;
2169       EN_DTQADD(sc, count, chan, bcode, vtophys(data), l->mlen, end);
2170       if (end)
2171         goto done;
2172       data = (u_int32_t *) ((u_char *)data + cnt);
2173     }
2174
2175     /* do we need to do a DMA op to align? */
2176     if (sc->alburst && 
2177         (needalign = (((uintptr_t) (void *) data) & sc->bestburstmask)) != 0
2178         && len >= sizeof(u_int32_t)) {
2179       cnt = sc->bestburstlen - needalign;
2180       mx = len & ~(sizeof(u_int32_t)-1);        /* don't go past end */
2181       if (cnt > mx) {
2182         cnt = mx;
2183         count = cnt / sizeof(u_int32_t);
2184         bcode = MIDDMA_WORD;
2185       } else {
2186         count = cnt / sizeof(u_int32_t);
2187         bcode = en_dmaplan[count].bcode;
2188         count = cnt >> en_dmaplan[count].divshift;
2189       }
2190       need -= cnt;
2191       EN_WRAPADD(start, stop, cur, cnt);
2192 #ifdef EN_DEBUG
2193       kprintf("%s: tx%d: al_dma %d bytes (%d left, cur now 0x%x)\n", 
2194                 sc->sc_dev.dv_xname, chan, cnt, need, cur);
2195 #endif
2196       len -= cnt;
2197       end = (need == 0) ? MID_DMA_END : 0;
2198       EN_DTQADD(sc, count, chan, bcode, vtophys(data), l->mlen, end);
2199       if (end)
2200         goto done;
2201       data = (u_int32_t *) ((u_char *)data + cnt);
2202     }
2203
2204     /* do we need to do a max-sized burst? */
2205     if (len >= sc->bestburstlen) {
2206       count = len >> sc->bestburstshift;
2207       cnt = count << sc->bestburstshift;
2208       bcode = sc->bestburstcode;
2209       need -= cnt;
2210       EN_WRAPADD(start, stop, cur, cnt);
2211 #ifdef EN_DEBUG
2212       kprintf("%s: tx%d: best_dma %d bytes (%d left, cur now 0x%x)\n", 
2213                 sc->sc_dev.dv_xname, chan, cnt, need, cur);
2214 #endif
2215       len -= cnt;
2216       end = (need == 0) ? MID_DMA_END : 0;
2217       EN_DTQADD(sc, count, chan, bcode, vtophys(data), l->mlen, end);
2218       if (end)
2219         goto done;
2220       data = (u_int32_t *) ((u_char *)data + cnt);
2221     }
2222
2223     /* do we need to do a cleanup burst? */
2224     cnt = len & ~(sizeof(u_int32_t)-1);
2225     if (cnt) {
2226       count = cnt / sizeof(u_int32_t);
2227       bcode = en_dmaplan[count].bcode;
2228       count = cnt >> en_dmaplan[count].divshift;
2229       need -= cnt;
2230       EN_WRAPADD(start, stop, cur, cnt);
2231 #ifdef EN_DEBUG
2232       kprintf("%s: tx%d: cleanup_dma %d bytes (%d left, cur now 0x%x)\n", 
2233                 sc->sc_dev.dv_xname, chan, cnt, need, cur);
2234 #endif
2235       len -= cnt;
2236       end = (need == 0) ? MID_DMA_END : 0;
2237       EN_DTQADD(sc, count, chan, bcode, vtophys(data), l->mlen, end);
2238       if (end)
2239         goto done;
2240       data = (u_int32_t *) ((u_char *)data + cnt);
2241     }
2242
2243     /* any word fragments left? */
2244     if (len) {
2245       EN_COUNT(sc->tailbyte);
2246       if (len == 2) {
2247         count = 1;
2248         bcode = MIDDMA_2BYTE;                 /* use 2byte mode */
2249       } else {
2250         count = len;
2251         bcode = MIDDMA_BYTE;                  /* use 1 byte mode */
2252       }
2253       need -= len;
2254       EN_WRAPADD(start, stop, cur, len);
2255 #ifdef EN_DEBUG
2256       kprintf("%s: tx%d: byte cleanup_dma %d bytes (%d left, cur now 0x%x)\n",
2257               sc->sc_dev.dv_xname, chan, len, need, cur);
2258 #endif
2259       end = (need == 0) ? MID_DMA_END : 0;
2260       EN_DTQADD(sc, count, chan, bcode, vtophys(data), l->mlen, end);
2261       if (end)
2262         goto done;
2263     }
2264
2265     dma = cur;          /* update dma pointer */
2266 #endif /* !MIDWAY_ADPONLY */
2267
2268   } /* next mbuf, please */
2269
2270   /*
2271    * all mbuf data has been copied out to the obmem (or set up to be DMAd).
2272    * if the trailer or padding needs to be put in, do it now.  
2273    *
2274    * NOTE: experimental results reveal the following fact:
2275    *   if you DMA "X" bytes to the card, where X is not a multiple of 4,
2276    *   then the card will internally buffer the last (X % 4) bytes (in
2277    *   hopes of getting (4 - (X % 4)) more bytes to make a complete word).
2278    *   it is imporant to make sure we don't leave any important data in
2279    *   this internal buffer because it is discarded on the last (end) DTQ.
2280    *   one way to do this is to DMA in (4 - (X % 4)) more bytes to flush
2281    *   the darn thing out.
2282    */
2283
2284   if (addtail) {
2285
2286     pad = need % sizeof(u_int32_t);
2287     if (pad) {
2288       /*
2289        * FLUSH internal data buffer.  pad out with random data from the front
2290        * of the mbuf chain...
2291        */
2292       bcode = (sc->is_adaptec) ? 0 : MIDDMA_BYTE;
2293       EN_COUNT(sc->tailflush);
2294       EN_WRAPADD(start, stop, cur, pad);
2295       EN_DTQADD(sc, pad, chan, bcode, vtophys(l->t->m_data), 0, 0);
2296       need -= pad;
2297 #ifdef EN_DEBUG
2298       kprintf("%s: tx%d: pad/FLUSH dma %d bytes (%d left, cur now 0x%x)\n", 
2299                 sc->sc_dev.dv_xname, chan, pad, need, cur);
2300 #endif
2301     }
2302
2303     /* copy data */
2304     pad = need / sizeof(u_int32_t);     /* round *down* */
2305     if (l->aal == MID_TBD_AAL5)
2306       pad -= 2;
2307 #ifdef EN_DEBUG
2308       kprintf("%s: tx%d: padding %d bytes (cur now 0x%x)\n", 
2309                 sc->sc_dev.dv_xname, chan, pad * sizeof(u_int32_t), cur);
2310 #endif
2311     while (pad--) {
2312       EN_WRITEDAT(sc, cur, 0);  /* no byte order issues with zero */
2313       EN_WRAPADD(start, stop, cur, 4);
2314     }
2315     if (l->aal == MID_TBD_AAL5) {
2316       EN_WRITE(sc, cur, l->pdu1); /* in host byte order */
2317       EN_WRAPADD(start, stop, cur, 8);
2318     }
2319   }
2320
2321   if (addtail || dma != cur) {
2322    /* write final descritor  */
2323     EN_DTQADD(sc, WORD_IDX(start,cur), chan, MIDDMA_JK, 0, 
2324                                 l->mlen, MID_DMA_END);
2325     /* dma = cur; */    /* not necessary since we are done */
2326   }
2327
2328 done:
2329   /* update current pointer */
2330   sc->txslot[chan].cur = cur;
2331 #ifdef EN_DEBUG
2332       kprintf("%s: tx%d: DONE!   cur now = 0x%x\n", 
2333                 sc->sc_dev.dv_xname, chan, cur);
2334 #endif
2335
2336   return;
2337 }
2338
2339
2340 /*
2341  * interrupt handler
2342  */
2343
2344 EN_INTR_TYPE
2345 en_intr(void *arg)
2346 {
2347   struct en_softc *sc = (struct en_softc *) arg;
2348   struct mbuf *m;
2349   struct atm_pseudohdr ah;
2350   struct ifnet *ifp;
2351   u_int32_t reg, kick, val, mask, chip, vci, slot, dtq, drq;
2352   int lcv, idx, need_softserv = 0;
2353
2354   reg = EN_READ(sc, MID_INTACK);
2355
2356   if ((reg & MID_INT_ANY) == 0) 
2357     EN_INTR_RET(0); /* not us */
2358
2359 #ifdef EN_DEBUG
2360   kprintf("%s: interrupt=0x%b\n", sc->sc_dev.dv_xname, reg, MID_INTBITS);
2361 #endif
2362
2363   /*
2364    * unexpected errors that need a reset
2365    */
2366
2367   if ((reg & (MID_INT_IDENT|MID_INT_LERR|MID_INT_DMA_ERR|MID_INT_SUNI)) != 0) {
2368     kprintf("%s: unexpected interrupt=0x%b, resetting card\n", 
2369         sc->sc_dev.dv_xname, reg, MID_INTBITS);
2370 #ifdef EN_DEBUG
2371 #ifdef DDB
2372     Debugger("en: unexpected error");
2373 #endif  /* DDB */
2374     sc->enif.if_flags &= ~IFF_RUNNING; /* FREEZE! */
2375 #else
2376     en_reset(sc);
2377     en_init(sc);
2378 #endif
2379     EN_INTR_RET(1); /* for us */
2380   }
2381
2382   /*******************
2383    * xmit interrupts *
2384    ******************/
2385
2386   kick = 0;                             /* bitmask of channels to kick */
2387   if (reg & MID_INT_TX) {               /* TX done! */
2388
2389     /*
2390      * check for tx complete, if detected then this means that some space
2391      * has come free on the card.   we must account for it and arrange to
2392      * kick the channel to life (in case it is stalled waiting on the card).
2393      */
2394     for (mask = 1, lcv = 0 ; lcv < EN_NTX ; lcv++, mask = mask * 2) {
2395       if (reg & MID_TXCHAN(lcv)) {
2396         kick = kick | mask;     /* want to kick later */
2397         val = EN_READ(sc, MIDX_READPTR(lcv));   /* current read pointer */
2398         val = (val * sizeof(u_int32_t)) + sc->txslot[lcv].start;
2399                                                 /* convert to offset */
2400         if (val > sc->txslot[lcv].cur)
2401           sc->txslot[lcv].bfree = val - sc->txslot[lcv].cur;
2402         else
2403           sc->txslot[lcv].bfree = (val + (EN_TXSZ*1024)) - sc->txslot[lcv].cur;
2404 #ifdef EN_DEBUG
2405         kprintf("%s: tx%d: trasmit done.   %d bytes now free in buffer\n",
2406                 sc->sc_dev.dv_xname, lcv, sc->txslot[lcv].bfree);
2407 #endif
2408       }
2409     }
2410   }
2411
2412   if (reg & MID_INT_DMA_TX) {           /* TX DMA done! */
2413
2414   /*
2415    * check for TX DMA complete, if detected then this means that some DTQs
2416    * are now free.   it also means some indma mbufs can be freed.
2417    * if we needed DTQs, kick all channels.
2418    */
2419     val = EN_READ(sc, MID_DMA_RDTX);    /* chip's current location */
2420     idx = MID_DTQ_A2REG(sc->dtq_chip);/* where we last saw chip */
2421     if (sc->need_dtqs) {
2422       kick = MID_NTX_CH - 1;            /* assume power of 2, kick all! */
2423       sc->need_dtqs = 0;                /* recalculated in "kick" loop below */
2424 #ifdef EN_DEBUG
2425       kprintf("%s: cleared need DTQ condition\n", sc->sc_dev.dv_xname);
2426 #endif
2427     }
2428     while (idx != val) {
2429       sc->dtq_free++;
2430       if ((dtq = sc->dtq[idx]) != 0) {
2431         sc->dtq[idx] = 0;       /* don't forget to zero it out when done */
2432         slot = EN_DQ_SLOT(dtq);
2433         IF_DEQUEUE(&sc->txslot[slot].indma, m);
2434         if (!m) panic("enintr: dtqsync");
2435         sc->txslot[slot].mbsize -= EN_DQ_LEN(dtq);
2436 #ifdef EN_DEBUG
2437         kprintf("%s: tx%d: free %d dma bytes, mbsize now %d\n",
2438                 sc->sc_dev.dv_xname, slot, EN_DQ_LEN(dtq), 
2439                 sc->txslot[slot].mbsize);
2440 #endif
2441         m_freem(m);
2442       }
2443       EN_WRAPADD(0, MID_DTQ_N, idx, 1);
2444     };
2445     sc->dtq_chip = MID_DTQ_REG2A(val);  /* sync softc */
2446   }
2447
2448
2449   /*
2450    * kick xmit channels as needed
2451    */
2452
2453   if (kick) {
2454 #ifdef EN_DEBUG
2455   kprintf("%s: tx kick mask = 0x%x\n", sc->sc_dev.dv_xname, kick);
2456 #endif
2457     for (mask = 1, lcv = 0 ; lcv < EN_NTX ; lcv++, mask = mask * 2) {
2458       if ((kick & mask) && sc->txslot[lcv].q.ifq_head) {
2459         en_txdma(sc, lcv);              /* kick it! */
2460       }
2461     }           /* for each slot */
2462   }             /* if kick */
2463
2464
2465   /*******************
2466    * recv interrupts *
2467    ******************/
2468
2469   /*
2470    * check for RX DMA complete, and pass the data "upstairs"
2471    */
2472
2473   if (reg & MID_INT_DMA_RX) {
2474     val = EN_READ(sc, MID_DMA_RDRX); /* chip's current location */
2475     idx = MID_DRQ_A2REG(sc->drq_chip);/* where we last saw chip */
2476     while (idx != val) {
2477       sc->drq_free++;
2478       if ((drq = sc->drq[idx]) != 0) {
2479         sc->drq[idx] = 0;       /* don't forget to zero it out when done */
2480         slot = EN_DQ_SLOT(drq);
2481         if (EN_DQ_LEN(drq) == 0) {  /* "JK" trash DMA? */
2482           m = NULL;
2483         } else {
2484           IF_DEQUEUE(&sc->rxslot[slot].indma, m);
2485           if (!m)
2486             panic("enintr: drqsync: %s: lost mbuf in slot %d!",
2487                   sc->sc_dev.dv_xname, slot);
2488         }
2489         /* do something with this mbuf */
2490         if (sc->rxslot[slot].oth_flags & ENOTHER_DRAIN) {  /* drain? */
2491           if (m)
2492             m_freem(m);
2493           vci = sc->rxslot[slot].atm_vci;
2494           if (sc->rxslot[slot].indma.ifq_head == NULL &&
2495                 sc->rxslot[slot].q.ifq_head == NULL &&
2496                 (EN_READ(sc, MID_VC(vci)) & MIDV_INSERVICE) == 0 &&
2497                 (sc->rxslot[slot].oth_flags & ENOTHER_SWSL) == 0) {
2498             sc->rxslot[slot].oth_flags = ENOTHER_FREE; /* done drain */
2499             sc->rxslot[slot].atm_vci = RX_NONE;
2500             sc->rxvc2slot[vci] = RX_NONE;
2501 #ifdef EN_DEBUG
2502             kprintf("%s: rx%d: VCI %d now free\n", sc->sc_dev.dv_xname,
2503                         slot, vci);
2504 #endif
2505           }
2506         } else if (m != NULL) {
2507           ATM_PH_FLAGS(&ah) = sc->rxslot[slot].atm_flags;
2508           ATM_PH_VPI(&ah) = 0;
2509           ATM_PH_SETVCI(&ah, sc->rxslot[slot].atm_vci);
2510 #ifdef EN_DEBUG
2511           kprintf("%s: rx%d: rxvci%d: atm_input, mbuf %p, len %d, hand %p\n",
2512                 sc->sc_dev.dv_xname, slot, sc->rxslot[slot].atm_vci, m,
2513                 EN_DQ_LEN(drq), sc->rxslot[slot].rxhand);
2514 #endif
2515
2516           ifp = &sc->enif;
2517           ifp->if_ipackets++;
2518
2519           BPF_MTAP(ifp, m);
2520
2521           atm_input(ifp, &ah, m, sc->rxslot[slot].rxhand);
2522         }
2523
2524       }
2525       EN_WRAPADD(0, MID_DRQ_N, idx, 1);
2526     };
2527     sc->drq_chip = MID_DRQ_REG2A(val);  /* sync softc */
2528
2529     if (sc->need_drqs) {        /* true if we had a DRQ shortage */
2530       need_softserv = 1;
2531       sc->need_drqs = 0;
2532 #ifdef EN_DEBUG
2533         kprintf("%s: cleared need DRQ condition\n", sc->sc_dev.dv_xname);
2534 #endif
2535     }
2536   }
2537
2538   /*
2539    * handle service interrupts
2540    */
2541
2542   if (reg & MID_INT_SERVICE) {
2543     chip = MID_SL_REG2A(EN_READ(sc, MID_SERV_WRITE));
2544
2545     while (sc->hwslistp != chip) {
2546
2547       /* fetch and remove it from hardware service list */
2548       vci = EN_READ(sc, sc->hwslistp);
2549       EN_WRAPADD(MID_SLOFF, MID_SLEND, sc->hwslistp, 4);/* advance hw ptr */
2550       slot = sc->rxvc2slot[vci];
2551       if (slot == RX_NONE) {
2552 #ifdef EN_DEBUG
2553         kprintf("%s: unexpected rx interrupt on VCI %d\n", 
2554                 sc->sc_dev.dv_xname, vci);
2555 #endif
2556         EN_WRITE(sc, MID_VC(vci), MIDV_TRASH);  /* rx off, damn it! */
2557         continue;                               /* next */
2558       }
2559       EN_WRITE(sc, MID_VC(vci), sc->rxslot[slot].mode); /* remove from hwsl */
2560       EN_COUNT(sc->hwpull);
2561
2562 #ifdef EN_DEBUG
2563       kprintf("%s: pulled VCI %d off hwslist\n", sc->sc_dev.dv_xname, vci);
2564 #endif
2565
2566       /* add it to the software service list (if needed) */
2567       if ((sc->rxslot[slot].oth_flags & ENOTHER_SWSL) == 0) {
2568         EN_COUNT(sc->swadd);
2569         need_softserv = 1;
2570         sc->rxslot[slot].oth_flags |= ENOTHER_SWSL;
2571         sc->swslist[sc->swsl_tail] = slot;
2572         EN_WRAPADD(0, MID_SL_N, sc->swsl_tail, 1);
2573         sc->swsl_size++;
2574 #ifdef EN_DEBUG
2575       kprintf("%s: added VCI %d to swslist\n", sc->sc_dev.dv_xname, vci);
2576 #endif
2577       }
2578     };
2579   }
2580
2581   /*
2582    * now service (function too big to include here)
2583    */
2584
2585   if (need_softserv)
2586     en_service(sc);
2587
2588   /*
2589    * keep our stats
2590    */
2591
2592   if (reg & MID_INT_DMA_OVR) {
2593     EN_COUNT(sc->dmaovr);
2594 #ifdef EN_DEBUG
2595     kprintf("%s: MID_INT_DMA_OVR\n", sc->sc_dev.dv_xname);
2596 #endif
2597   }
2598   reg = EN_READ(sc, MID_STAT);
2599 #ifdef EN_STAT
2600   sc->otrash += MID_OTRASH(reg);
2601   sc->vtrash += MID_VTRASH(reg);
2602 #endif
2603
2604   EN_INTR_RET(1); /* for us */
2605 }
2606
2607
2608 /*
2609  * en_service: handle a service interrupt
2610  *
2611  * Q: why do we need a software service list?
2612  *
2613  * A: if we remove a VCI from the hardware list and we find that we are
2614  *    out of DRQs we must defer processing until some DRQs become free.
2615  *    so we must remember to look at this RX VCI/slot later, but we can't
2616  *    put it back on the hardware service list (since that isn't allowed).
2617  *    so we instead save it on the software service list.   it would be nice 
2618  *    if we could peek at the VCI on top of the hwservice list without removing
2619  *    it, however this leads to a race condition: if we peek at it and
2620  *    decide we are done with it new data could come in before we have a 
2621  *    chance to remove it from the hwslist.   by the time we get it out of
2622  *    the list the interrupt for the new data will be lost.   oops!
2623  *
2624  */
2625
2626 STATIC void
2627 en_service(struct en_softc *sc)
2628 {
2629   struct mbuf *m, *tmp;
2630   u_int32_t cur, dstart, rbd, pdu, *sav, dma, bcode, count, *data, *datastop;
2631   u_int32_t start, stop, cnt, needalign;
2632   int slot, raw, aal5, llc, vci, fill, mlen, tlen, drqneed, need, needfill, end;
2633
2634   aal5 = 0;             /* Silence gcc */
2635 next_vci:
2636   if (sc->swsl_size == 0) {
2637 #ifdef EN_DEBUG
2638     kprintf("%s: en_service done\n", sc->sc_dev.dv_xname);
2639 #endif
2640     return;             /* >>> exit here if swsl now empty <<< */
2641   }
2642
2643   /*
2644    * get slot/vci to service
2645    */
2646
2647   slot = sc->swslist[sc->swsl_head];
2648   vci = sc->rxslot[slot].atm_vci;
2649 #ifdef EN_DIAG
2650   if (sc->rxvc2slot[vci] != slot) panic("en_service rx slot/vci sync");
2651 #endif
2652
2653   /*
2654    * determine our mode and if we've got any work to do
2655    */
2656
2657   raw = sc->rxslot[slot].oth_flags & ENOTHER_RAW;
2658   start= sc->rxslot[slot].start;
2659   stop= sc->rxslot[slot].stop;
2660   cur = sc->rxslot[slot].cur;
2661
2662 #ifdef EN_DEBUG
2663   kprintf("%s: rx%d: service vci=%d raw=%d start/stop/cur=0x%x 0x%x 0x%x\n",
2664         sc->sc_dev.dv_xname, slot, vci, raw, start, stop, cur);
2665 #endif
2666
2667 same_vci:
2668   dstart = MIDV_DSTART(EN_READ(sc, MID_DST_RP(vci)));
2669   dstart = (dstart * sizeof(u_int32_t)) + start;
2670
2671   /* check to see if there is any data at all */
2672   if (dstart == cur) {
2673 defer:                                  /* defer processing */
2674     EN_WRAPADD(0, MID_SL_N, sc->swsl_head, 1); 
2675     sc->rxslot[slot].oth_flags &= ~ENOTHER_SWSL;
2676     sc->swsl_size--;
2677                                         /* >>> remove from swslist <<< */
2678 #ifdef EN_DEBUG
2679     kprintf("%s: rx%d: remove vci %d from swslist\n", 
2680                 sc->sc_dev.dv_xname, slot, vci);
2681 #endif
2682     goto next_vci;
2683   }
2684
2685   /*
2686    * figure out how many bytes we need
2687    * [mlen = # bytes to go in mbufs, fill = # bytes to dump (MIDDMA_JK)]
2688    */
2689
2690   if (raw) {
2691
2692     /* raw mode (aka boodi mode) */
2693     fill = 0;
2694     if (dstart > cur)
2695       mlen = dstart - cur;
2696     else
2697       mlen = (dstart + (EN_RXSZ*1024)) - cur;
2698
2699     if (mlen < sc->rxslot[slot].raw_threshold)
2700       goto defer;               /* too little data to deal with */
2701
2702   } else {
2703
2704     /* normal mode */
2705     aal5 = (sc->rxslot[slot].atm_flags & ATM_PH_AAL5);
2706     llc = (aal5 && (sc->rxslot[slot].atm_flags & ATM_PH_LLCSNAP)) ? 1 : 0;
2707     rbd = EN_READ(sc, cur);
2708     if (MID_RBD_ID(rbd) != MID_RBD_STDID) 
2709       panic("en_service: id mismatch");
2710
2711     if (rbd & MID_RBD_T) {
2712       mlen = 0;                 /* we've got trash */
2713       fill = MID_RBD_SIZE;
2714       EN_COUNT(sc->ttrash);
2715 #ifdef EN_DEBUG
2716       kprintf("RX overflow lost %d cells!\n", MID_RBD_CNT(rbd));
2717 #endif
2718     } else if (!aal5) {
2719       mlen = MID_RBD_SIZE + MID_CHDR_SIZE + MID_ATMDATASZ; /* 1 cell (ick!) */
2720       fill = 0;
2721     } else {
2722       struct ifnet *ifp;
2723
2724       tlen = (MID_RBD_CNT(rbd) * MID_ATMDATASZ) + MID_RBD_SIZE;
2725       pdu = cur + tlen - MID_PDU_SIZE;
2726       if (pdu >= stop)
2727         pdu -= (EN_RXSZ*1024);
2728       pdu = EN_READ(sc, pdu);   /* get PDU in correct byte order */
2729       fill = tlen - MID_RBD_SIZE - MID_PDU_LEN(pdu);
2730       if (fill < 0 || (rbd & MID_RBD_CRCERR) != 0) {
2731         static int first = 1;
2732
2733         if (first) {
2734           kprintf("%s: %s, dropping frame\n", sc->sc_dev.dv_xname,
2735                  (rbd & MID_RBD_CRCERR) ?
2736                  "CRC error" : "invalid AAL5 PDU length");
2737           kprintf("%s: got %d cells (%d bytes), AAL5 len is %d bytes (pdu=0x%x)\n",
2738                  sc->sc_dev.dv_xname, MID_RBD_CNT(rbd),
2739                  tlen - MID_RBD_SIZE, MID_PDU_LEN(pdu), pdu);
2740 #ifndef EN_DEBUG
2741           kprintf("CRC error report disabled from now on!\n");
2742           first = 0;
2743 #endif
2744         }
2745         fill = tlen;
2746
2747         ifp = &sc->enif;
2748         ifp->if_ierrors++;
2749
2750       }
2751       mlen = tlen - fill;
2752     }
2753
2754   }
2755
2756   /*
2757    * now allocate mbufs for mlen bytes of data, if out of mbufs, trash all
2758    *
2759    * notes:
2760    *  1. it is possible that we've already allocated an mbuf for this pkt
2761    *     but ran out of DRQs, in which case we saved the allocated mbuf on
2762    *     "q".
2763    *  2. if we save an mbuf in "q" we store the "cur" (pointer) in the front 
2764    *     of the mbuf as an identity (that we can check later), and we also
2765    *     store drqneed (so we don't have to recompute it).
2766    *  3. after this block of code, if m is still NULL then we ran out of mbufs
2767    */
2768   
2769   m = sc->rxslot[slot].q.ifq_head;
2770   drqneed = 1;
2771   if (m) {
2772     sav = mtod(m, u_int32_t *);
2773     if (sav[0] != cur) {
2774 #ifdef EN_DEBUG
2775       kprintf("%s: rx%d: q'ed mbuf %p not ours\n", 
2776                 sc->sc_dev.dv_xname, slot, m);
2777 #endif
2778       m = NULL;                 /* wasn't ours */
2779       EN_COUNT(sc->rxqnotus);
2780     } else {
2781       EN_COUNT(sc->rxqus);
2782       IF_DEQUEUE(&sc->rxslot[slot].q, m);
2783       drqneed = sav[1];
2784 #ifdef EN_DEBUG
2785       kprintf("%s: rx%d: recovered q'ed mbuf %p (drqneed=%d)\n", 
2786         sc->sc_dev.dv_xname, slot, m, drqneed);
2787 #endif
2788     }
2789   }
2790
2791   if (mlen != 0 && m == NULL) {
2792     m = en_mget(sc, mlen, &drqneed);            /* allocate! */
2793     if (m == NULL) {
2794       fill += mlen;
2795       mlen = 0;
2796       EN_COUNT(sc->rxmbufout);
2797 #ifdef EN_DEBUG
2798       kprintf("%s: rx%d: out of mbufs\n", sc->sc_dev.dv_xname, slot);
2799 #endif
2800     }
2801 #ifdef EN_DEBUG
2802     kprintf("%s: rx%d: allocate mbuf %p, mlen=%d, drqneed=%d\n", 
2803         sc->sc_dev.dv_xname, slot, m, mlen, drqneed);
2804 #endif
2805   }
2806
2807 #ifdef EN_DEBUG
2808   kprintf("%s: rx%d: VCI %d, mbuf_chain %p, mlen %d, fill %d\n",
2809         sc->sc_dev.dv_xname, slot, vci, m, mlen, fill);
2810 #endif
2811
2812   /*
2813    * now check to see if we've got the DRQs needed.    if we are out of 
2814    * DRQs we must quit (saving our mbuf, if we've got one).
2815    */
2816
2817   needfill = (fill) ? 1 : 0;
2818   if (drqneed + needfill > sc->drq_free) {
2819     sc->need_drqs = 1;  /* flag condition */
2820     if (m == NULL) {
2821       EN_COUNT(sc->rxoutboth);
2822 #ifdef EN_DEBUG
2823       kprintf("%s: rx%d: out of DRQs *and* mbufs!\n", sc->sc_dev.dv_xname, slot);
2824 #endif
2825       return;           /* >>> exit here if out of both mbufs and DRQs <<< */
2826     }
2827     sav = mtod(m, u_int32_t *);
2828     sav[0] = cur;
2829     sav[1] = drqneed;
2830     IF_ENQUEUE(&sc->rxslot[slot].q, m);
2831     EN_COUNT(sc->rxdrqout);
2832 #ifdef EN_DEBUG
2833     kprintf("%s: rx%d: out of DRQs\n", sc->sc_dev.dv_xname, slot);
2834 #endif
2835     return;             /* >>> exit here if out of DRQs <<< */
2836   }
2837
2838   /*
2839    * at this point all resources have been allocated and we are commited 
2840    * to servicing this slot.
2841    *
2842    * dma = last location we told chip about
2843    * cur = current location
2844    * mlen = space in the mbuf we want
2845    * need = bytes to xfer in (decrs to zero)
2846    * fill = how much fill we need
2847    * tlen = how much data to transfer to this mbuf
2848    * cnt/bcode/count = <same as xmit>
2849    *
2850    * 'needfill' not used after this point
2851    */
2852
2853   dma = cur;            /* dma = last location we told chip about */
2854   need = roundup(mlen, sizeof(u_int32_t));
2855   fill = fill - (need - mlen);  /* note: may invalidate 'needfill' */
2856
2857   for (tmp = m ; tmp != NULL && need > 0 ; tmp = tmp->m_next) {
2858     tlen = roundup(tmp->m_len, sizeof(u_int32_t)); /* m_len set by en_mget */
2859     data = mtod(tmp, u_int32_t *);
2860
2861 #ifdef EN_DEBUG
2862     kprintf("%s: rx%d: load mbuf %p, m_len=%d, m_data=%p, tlen=%d\n",
2863         sc->sc_dev.dv_xname, slot, tmp, tmp->m_len, tmp->m_data, tlen);
2864 #endif
2865     
2866     /* copy data */
2867     if (EN_NORXDMA || !en_dma || tlen < EN_MINDMA) {
2868       datastop = (u_int32_t *)((u_char *) data + tlen);
2869       /* copy loop: preserve byte order!!!  use READDAT */
2870       while (data != datastop) {
2871         *data = EN_READDAT(sc, cur);
2872         data++;
2873         EN_WRAPADD(start, stop, cur, 4);
2874       }
2875       need -= tlen;
2876 #ifdef EN_DEBUG
2877       kprintf("%s: rx%d: vci%d: copied %d bytes (%d left)\n",
2878                 sc->sc_dev.dv_xname, slot, vci, tlen, need);
2879 #endif
2880       continue;
2881     }
2882
2883     /* DMA data (check to see if we need to sync DRQ first) */
2884     if (dma != cur) {
2885       EN_DRQADD(sc, WORD_IDX(start,cur), vci, MIDDMA_JK, 0, 0, 0, 0);
2886 #ifdef EN_DEBUG
2887       kprintf("%s: rx%d: vci%d: drq_sync: advance pointer to %d\n",
2888                 sc->sc_dev.dv_xname, slot, vci, cur);
2889 #endif
2890     }
2891
2892 #if !defined(MIDWAY_ENIONLY)
2893      
2894     /*
2895      * the adaptec DMA engine is smart and handles everything for us.
2896      */ 
2897   
2898     if (sc->is_adaptec) {
2899       need -= tlen;
2900       EN_WRAPADD(start, stop, cur, tlen);
2901 #ifdef EN_DEBUG
2902       kprintf("%s: rx%d: vci%d: adp_dma %d bytes (%d left)\n",
2903                 sc->sc_dev.dv_xname, slot, vci, tlen, need);
2904 #endif
2905       end = (need == 0 && !fill) ? MID_DMA_END : 0;
2906       EN_DRQADD(sc, tlen, vci, 0, vtophys(data), mlen, slot, end);
2907       if (end)
2908         goto done;
2909       dma = cur;        /* update dma pointer */
2910       continue;
2911     }
2912 #endif /* !MIDWAY_ENIONLY */
2913
2914
2915 #if !defined(MIDWAY_ADPONLY)
2916
2917     /*
2918      * the ENI DMA engine is not so smart and need more help from us
2919      */
2920
2921     /* do we need to do a DMA op to align? */
2922     if (sc->alburst &&
2923       (needalign = (((uintptr_t) (void *) data) & sc->bestburstmask)) != 0) {
2924       cnt = sc->bestburstlen - needalign;
2925       if (cnt > tlen) {
2926         cnt = tlen;
2927         count = cnt / sizeof(u_int32_t);
2928         bcode = MIDDMA_WORD;
2929       } else {
2930         count = cnt / sizeof(u_int32_t);
2931         bcode = en_dmaplan[count].bcode;
2932         count = cnt >> en_dmaplan[count].divshift;
2933       }
2934       need -= cnt;
2935       EN_WRAPADD(start, stop, cur, cnt);
2936 #ifdef EN_DEBUG
2937       kprintf("%s: rx%d: vci%d: al_dma %d bytes (%d left)\n",
2938                 sc->sc_dev.dv_xname, slot, vci, cnt, need);
2939 #endif
2940       tlen -= cnt;
2941       end = (need == 0 && !fill) ? MID_DMA_END : 0;
2942       EN_DRQADD(sc, count, vci, bcode, vtophys(data), mlen, slot, end);
2943       if (end)
2944         goto done;
2945       data = (u_int32_t *)((u_char *) data + cnt);   
2946     }
2947
2948     /* do we need a max-sized burst? */
2949     if (tlen >= sc->bestburstlen) {
2950       count = tlen >> sc->bestburstshift;
2951       cnt = count << sc->bestburstshift;
2952       bcode = sc->bestburstcode;
2953       need -= cnt;
2954       EN_WRAPADD(start, stop, cur, cnt);
2955 #ifdef EN_DEBUG
2956       kprintf("%s: rx%d: vci%d: best_dma %d bytes (%d left)\n",
2957                 sc->sc_dev.dv_xname, slot, vci, cnt, need);
2958 #endif
2959       tlen -= cnt;
2960       end = (need == 0 && !fill) ? MID_DMA_END : 0;
2961       EN_DRQADD(sc, count, vci, bcode, vtophys(data), mlen, slot, end);
2962       if (end)
2963         goto done;
2964       data = (u_int32_t *)((u_char *) data + cnt);   
2965     }
2966
2967     /* do we need to do a cleanup burst? */
2968     if (tlen) {
2969       count = tlen / sizeof(u_int32_t);
2970       bcode = en_dmaplan[count].bcode;
2971       count = tlen >> en_dmaplan[count].divshift;
2972       need -= tlen;
2973       EN_WRAPADD(start, stop, cur, tlen);
2974 #ifdef EN_DEBUG
2975       kprintf("%s: rx%d: vci%d: cleanup_dma %d bytes (%d left)\n",
2976                 sc->sc_dev.dv_xname, slot, vci, tlen, need);
2977 #endif
2978       end = (need == 0 && !fill) ? MID_DMA_END : 0;
2979       EN_DRQADD(sc, count, vci, bcode, vtophys(data), mlen, slot, end);
2980       if (end)
2981         goto done;
2982     }
2983
2984     dma = cur;          /* update dma pointer */
2985
2986 #endif /* !MIDWAY_ADPONLY */
2987
2988   }
2989
2990   /* skip the end */
2991   if (fill || dma != cur) {
2992 #ifdef EN_DEBUG
2993       if (fill)
2994         kprintf("%s: rx%d: vci%d: skipping %d bytes of fill\n",
2995                 sc->sc_dev.dv_xname, slot, vci, fill);
2996       else
2997         kprintf("%s: rx%d: vci%d: syncing chip from 0x%x to 0x%x [cur]\n",
2998                 sc->sc_dev.dv_xname, slot, vci, dma, cur);
2999 #endif
3000     EN_WRAPADD(start, stop, cur, fill);
3001     EN_DRQADD(sc, WORD_IDX(start,cur), vci, MIDDMA_JK, 0, mlen,
3002                                         slot, MID_DMA_END);
3003     /* dma = cur; */    /* not necessary since we are done */
3004   }
3005
3006   /*
3007    * done, remove stuff we don't want to pass up:
3008    *   raw mode (boodi mode): pass everything up for later processing
3009    *   aal5: remove RBD
3010    *   aal0: remove RBD + cell header
3011    */
3012
3013 done:
3014   if (m) {
3015     if (!raw) {
3016       cnt = MID_RBD_SIZE;
3017       if (!aal5) cnt += MID_CHDR_SIZE;
3018       m->m_len -= cnt;                          /* chop! */
3019       m->m_pkthdr.len -= cnt;
3020       m->m_data += cnt;
3021     }
3022     IF_ENQUEUE(&sc->rxslot[slot].indma, m);
3023   }
3024   sc->rxslot[slot].cur = cur;           /* update master copy of 'cur' */
3025
3026 #ifdef EN_DEBUG
3027   kprintf("%s: rx%d: vci%d: DONE!   cur now =0x%x\n", 
3028         sc->sc_dev.dv_xname, slot, vci, cur);
3029 #endif
3030
3031   goto same_vci;        /* get next packet in this slot */
3032 }
3033
3034
3035 #ifdef EN_DDBHOOK
3036 /*
3037  * functions we can call from ddb
3038  */
3039
3040 /*
3041  * en_dump: dump the state
3042  */
3043
3044 #define END_SWSL        0x00000040              /* swsl state */
3045 #define END_DRQ         0x00000020              /* drq state */
3046 #define END_DTQ         0x00000010              /* dtq state */
3047 #define END_RX          0x00000008              /* rx state */
3048 #define END_TX          0x00000004              /* tx state */
3049 #define END_MREGS       0x00000002              /* registers */
3050 #define END_STATS       0x00000001              /* dump stats */
3051
3052 #define END_BITS "\20\7SWSL\6DRQ\5DTQ\4RX\3TX\2MREGS\1STATS"
3053
3054 /* Do not staticize - meant for calling from DDB! */
3055 int
3056 en_dump(int unit, int level)
3057 {
3058   struct en_softc *sc;
3059   int lcv, cnt, slot;
3060   u_int32_t ptr, reg;
3061
3062   for (lcv = 0 ; lcv < en_cd.cd_ndevs ; lcv++) {
3063     sc = (struct en_softc *) en_cd.cd_devs[lcv];
3064     if (sc == NULL) continue;
3065     if (unit != -1 && unit != lcv)
3066       continue;
3067
3068     kprintf("dumping device %s at level 0x%b\n", sc->sc_dev.dv_xname, level,
3069                         END_BITS);
3070
3071     if (sc->dtq_us == 0) {
3072       kprintf("<hasn't been en_init'd yet>\n");
3073       continue;
3074     }
3075
3076     if (level & END_STATS) {
3077       kprintf("  en_stats:\n");
3078       kprintf("    %d mfix (%d failed); %d/%d head/tail byte DMAs, %d flushes\n",
3079            sc->mfix, sc->mfixfail, sc->headbyte, sc->tailbyte, sc->tailflush);
3080       kprintf("    %d rx dma overflow interrupts\n", sc->dmaovr);
3081       kprintf("    %d times we ran out of TX space and stalled\n", 
3082                                                         sc->txoutspace);
3083       kprintf("    %d times we ran out of DTQs\n", sc->txdtqout);
3084       kprintf("    %d times we launched a packet\n", sc->launch);
3085       kprintf("    %d times we launched without on-board header\n", sc->lheader);
3086       kprintf("    %d times we launched without on-board tail\n", sc->ltail);
3087       kprintf("    %d times we pulled the hw service list\n", sc->hwpull);
3088       kprintf("    %d times we pushed a vci on the sw service list\n", 
3089                                                                 sc->swadd);
3090       kprintf("    %d times RX pulled an mbuf from Q that wasn't ours\n", 
3091                                                          sc->rxqnotus);
3092       kprintf("    %d times RX pulled a good mbuf from Q\n", sc->rxqus);
3093       kprintf("    %d times we ran out of mbufs *and* DRQs\n", sc->rxoutboth);
3094       kprintf("    %d times we ran out of DRQs\n", sc->rxdrqout);
3095
3096       kprintf("    %d trasmit packets dropped due to mbsize\n", sc->txmbovr);
3097       kprintf("    %d cells trashed due to turned off rxvc\n", sc->vtrash);
3098       kprintf("    %d cells trashed due to totally full buffer\n", sc->otrash);
3099       kprintf("    %d cells trashed due almost full buffer\n", sc->ttrash);
3100       kprintf("    %d rx mbuf allocation failures\n", sc->rxmbufout);
3101 #if defined(NATM) && defined(NATM_STAT)
3102       kprintf("    natmintr so_rcv: ok/drop cnt: %d/%d, ok/drop bytes: %d/%d\n",
3103         natm_sookcnt, natm_sodropcnt, natm_sookbytes, natm_sodropbytes);
3104 #endif
3105     }
3106
3107     if (level & END_MREGS) {
3108       kprintf("mregs:\n");
3109       kprintf("resid = 0x%lx\n", (u_long)EN_READ(sc, MID_RESID));
3110       kprintf("interrupt status = 0x%b\n", 
3111                                 (int)EN_READ(sc, MID_INTSTAT), MID_INTBITS);
3112       kprintf("interrupt enable = 0x%b\n", 
3113                                 (int)EN_READ(sc, MID_INTENA), MID_INTBITS);
3114       kprintf("mcsr = 0x%b\n", (int)EN_READ(sc, MID_MAST_CSR), MID_MCSRBITS);
3115       kprintf("serv_write = [chip=%ld] [us=%d]\n",
3116                         (long)EN_READ(sc, MID_SERV_WRITE),
3117                         MID_SL_A2REG(sc->hwslistp));
3118       kprintf("dma addr = 0x%lx\n", (u_long)EN_READ(sc, MID_DMA_ADDR));
3119       kprintf("DRQ: chip[rd=0x%lx,wr=0x%lx], sc[chip=0x%x,us=0x%x]\n",
3120         (u_long)MID_DRQ_REG2A(EN_READ(sc, MID_DMA_RDRX)), 
3121         (u_long)MID_DRQ_REG2A(EN_READ(sc, MID_DMA_WRRX)),
3122         sc->drq_chip, sc->drq_us);
3123       kprintf("DTQ: chip[rd=0x%lx,wr=0x%lx], sc[chip=0x%x,us=0x%x]\n",
3124         (u_long)MID_DTQ_REG2A(EN_READ(sc, MID_DMA_RDTX)), 
3125         (u_long)MID_DTQ_REG2A(EN_READ(sc, MID_DMA_WRTX)),
3126         sc->dtq_chip, sc->dtq_us);
3127
3128       kprintf("  unusual txspeeds: ");
3129       for (cnt = 0 ; cnt < MID_N_VC ; cnt++)
3130         if (sc->txspeed[cnt])
3131           kprintf(" vci%d=0x%x", cnt, sc->txspeed[cnt]);
3132       kprintf("\n");
3133
3134       kprintf("  rxvc slot mappings: ");
3135       for (cnt = 0 ; cnt < MID_N_VC ; cnt++)
3136         if (sc->rxvc2slot[cnt] != RX_NONE)
3137           kprintf("  %d->%d", cnt, sc->rxvc2slot[cnt]);
3138       kprintf("\n");
3139
3140     }
3141
3142     if (level & END_TX) {
3143       kprintf("tx:\n");
3144       for (slot = 0 ; slot < EN_NTX; slot++) {
3145         kprintf("tx%d: start/stop/cur=0x%x/0x%x/0x%x [%d]  ", slot,
3146           sc->txslot[slot].start, sc->txslot[slot].stop, sc->txslot[slot].cur,
3147                 (sc->txslot[slot].cur - sc->txslot[slot].start)/4);
3148         kprintf("mbsize=%d, bfree=%d\n", sc->txslot[slot].mbsize,
3149                 sc->txslot[slot].bfree);
3150         kprintf("txhw: base_address=0x%lx, size=%ld, read=%ld, descstart=%ld\n",
3151           (u_long)MIDX_BASE(EN_READ(sc, MIDX_PLACE(slot))), 
3152           (u_long)MIDX_SZ(EN_READ(sc, MIDX_PLACE(slot))),
3153           (long)EN_READ(sc, MIDX_READPTR(slot)),
3154           (long)EN_READ(sc, MIDX_DESCSTART(slot)));
3155       }
3156     }
3157
3158     if (level & END_RX) {
3159       kprintf("  recv slots:\n");
3160       for (slot = 0 ; slot < sc->en_nrx; slot++) {
3161         kprintf("rx%d: vci=%d: start/stop/cur=0x%x/0x%x/0x%x ", slot,
3162           sc->rxslot[slot].atm_vci, sc->rxslot[slot].start, 
3163           sc->rxslot[slot].stop, sc->rxslot[slot].cur);
3164         kprintf("mode=0x%x, atm_flags=0x%x, oth_flags=0x%x\n", 
3165         sc->rxslot[slot].mode, sc->rxslot[slot].atm_flags, 
3166                 sc->rxslot[slot].oth_flags);
3167         kprintf("RXHW: mode=0x%lx, DST_RP=0x%lx, WP_ST_CNT=0x%lx\n",
3168           (u_long)EN_READ(sc, MID_VC(sc->rxslot[slot].atm_vci)),
3169           (u_long)EN_READ(sc, MID_DST_RP(sc->rxslot[slot].atm_vci)),
3170           (u_long)EN_READ(sc, MID_WP_ST_CNT(sc->rxslot[slot].atm_vci)));
3171       }
3172     }
3173
3174     if (level & END_DTQ) {
3175       kprintf("  dtq [need_dtqs=%d,dtq_free=%d]:\n", 
3176                                         sc->need_dtqs, sc->dtq_free);
3177       ptr = sc->dtq_chip;
3178       while (ptr != sc->dtq_us) {
3179         reg = EN_READ(sc, ptr);
3180         kprintf("\t0x%x=[cnt=%d, chan=%d, end=%d, type=%d @ 0x%lx]\n", 
3181             sc->dtq[MID_DTQ_A2REG(ptr)], MID_DMA_CNT(reg), MID_DMA_TXCHAN(reg),
3182             (reg & MID_DMA_END) != 0, MID_DMA_TYPE(reg),
3183             (u_long)EN_READ(sc, ptr+4));
3184         EN_WRAPADD(MID_DTQOFF, MID_DTQEND, ptr, 8);
3185       }
3186     }
3187
3188     if (level & END_DRQ) {
3189       kprintf("  drq [need_drqs=%d,drq_free=%d]:\n", 
3190                                         sc->need_drqs, sc->drq_free);
3191       ptr = sc->drq_chip;
3192       while (ptr != sc->drq_us) {
3193         reg = EN_READ(sc, ptr);
3194         kprintf("\t0x%x=[cnt=%d, chan=%d, end=%d, type=%d @ 0x%lx]\n", 
3195           sc->drq[MID_DRQ_A2REG(ptr)], MID_DMA_CNT(reg), MID_DMA_RXVCI(reg),
3196           (reg & MID_DMA_END) != 0, MID_DMA_TYPE(reg),
3197           (u_long)EN_READ(sc, ptr+4));
3198         EN_WRAPADD(MID_DRQOFF, MID_DRQEND, ptr, 8);
3199       }
3200     }
3201
3202     if (level & END_SWSL) {
3203       kprintf(" swslist [size=%d]: ", sc->swsl_size);
3204       for (cnt = sc->swsl_head ; cnt != sc->swsl_tail ; 
3205                         cnt = (cnt + 1) % MID_SL_N)
3206         kprintf("0x%x ", sc->swslist[cnt]);
3207       kprintf("\n");
3208     }
3209   }
3210   return(0);
3211 }
3212
3213 /*
3214  * en_dumpmem: dump the memory
3215  */
3216
3217 /* Do not staticize - meant for calling from DDB! */
3218 int
3219 en_dumpmem(int unit, int addr, int len)
3220 {
3221   struct en_softc *sc;
3222   u_int32_t reg;
3223
3224   if (unit < 0 || unit > en_cd.cd_ndevs ||
3225         (sc = (struct en_softc *) en_cd.cd_devs[unit]) == NULL) {
3226     kprintf("invalid unit number: %d\n", unit);
3227     return(0);
3228   }
3229   addr = addr & ~3;
3230   if (addr < MID_RAMOFF || addr + len*4 > MID_MAXOFF || len <= 0) {
3231     kprintf("invalid addr/len number: %d, %d\n", addr, len);
3232     return(0);
3233   }
3234   kprintf("dumping %d words starting at offset 0x%x\n", len, addr);
3235   while (len--) {
3236     reg = EN_READ(sc, addr);
3237     kprintf("mem[0x%x] = 0x%x\n", addr, reg);
3238     addr += 4;
3239   }
3240   return(0);
3241 }
3242 #endif