sys/bus/usb/usb_mem.c

   1 /*
   2  * $NetBSD: usb_mem.c,v 1.26 2003/02/01 06:23:40 thorpej Exp $
   3  * $FreeBSD: src/sys/dev/usb/usb_mem.c,v 1.5 2003/10/04 22:13:21 joe Exp $
   4  * $DragonFly: src/sys/bus/usb/usb_mem.c,v 1.4 2004/05/13 17:24:49 dillon Exp $
   5  */
   6 /*
   7  * Copyright (c) 1998 The NetBSD Foundation, Inc.
   8  * All rights reserved.
   9  *
  10  * This code is derived from software contributed to The NetBSD Foundation
  11  * by Lennart Augustsson (lennart@augustsson.net) at
  12  * Carlstedt Research & Technology.
  13  *
  14  * Redistribution and use in source and binary forms, with or without
  15  * modification, are permitted provided that the following conditions
  16  * are met:
  17  * 1. Redistributions of source code must retain the above copyright
  18  *    notice, this list of conditions and the following disclaimer.
  19  * 2. Redistributions in binary form must reproduce the above copyright
  20  *    notice, this list of conditions and the following disclaimer in the
  21  *    documentation and/or other materials provided with the distribution.
  22  * 3. All advertising materials mentioning features or use of this software
  23  *    must display the following acknowledgement:
  24  *        This product includes software developed by the NetBSD
  25  *        Foundation, Inc. and its contributors.
  26  * 4. Neither the name of The NetBSD Foundation nor the names of its
  27  *    contributors may be used to endorse or promote products derived
  28  *    from this software without specific prior written permission.
  29  *
  30  * THIS SOFTWARE IS PROVIDED BY THE NETBSD FOUNDATION, INC. AND CONTRIBUTORS
  31  * ``AS IS'' AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED
  32  * TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
  33  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE FOUNDATION OR CONTRIBUTORS
  34  * BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR
  35  * CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF
  36  * SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS
  37  * INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN
  38  * CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
  39  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE
  40  * POSSIBILITY OF SUCH DAMAGE.
  41  */
  42
  43 /*
  44  * USB DMA memory allocation.
  45  * We need to allocate a lot of small (many 8 byte, some larger)
  46  * memory blocks that can be used for DMA.  Using the bus_dma
  47  * routines directly would incur large overheads in space and time.
  48  */
  49 #include <sys/param.h>
  50 #include <sys/systm.h>
  51 #include <sys/malloc.h>
  52 #include <sys/kernel.h>
  53 #if defined(__NetBSD__) || defined(__OpenBSD__)
  54 #include <sys/device.h>         /* for usbdivar.h */
  55 #include <machine/bus.h>
  56 #elif defined(__FreeBSD__) || defined(__DragonFly__)
  57 #include <sys/endian.h>
  58 #include <sys/module.h>
  59 #include <sys/bus.h>
  60 #endif
  61 #include <sys/queue.h>
  62
  63 #include <machine/bus.h>
  64 #include <machine/endian.h>
  65
  66 #ifdef DIAGNOSTIC
  67 #include <sys/proc.h>
  68 #endif
  69
  70 #include <bus/usb/usb.h>
  71 #include <bus/usb/usbdi.h>
  72 #include <bus/usb/usbdivar.h>   /* just for usb_dma_t */
  73 #include <bus/usb/usb_mem.h>
  74
  75 #ifdef USB_DEBUG
  76 #define DPRINTF(x)      if (usbdebug) logprintf x
  77 #define DPRINTFN(n,x)   if (usbdebug>(n)) logprintf x
  78 extern int usbdebug;
  79 #else
  80 #define DPRINTF(x)
  81 #define DPRINTFN(n,x)
  82 #endif
  83
  84 #define USB_MEM_SMALL 64
  85 #define USB_MEM_CHUNKS (PAGE_SIZE / USB_MEM_SMALL)
  86 #define USB_MEM_BLOCK (USB_MEM_SMALL * USB_MEM_CHUNKS)
  87
  88 /* This struct is overlayed on free fragments. */
  89 struct usb_frag_dma {
  90         usb_dma_block_t *block;
  91         u_int offs;
  92         LIST_ENTRY(usb_frag_dma) next;
  93 };
  94
  95 Static bus_dmamap_callback_t usbmem_callback;
  96 Static usbd_status      usb_block_allocmem(bus_dma_tag_t, size_t, size_t,
  97                                            usb_dma_block_t **);
  98 Static void             usb_block_freemem(usb_dma_block_t *);
  99
 100 Static LIST_HEAD(, usb_dma_block) usb_blk_freelist =
 101         LIST_HEAD_INITIALIZER(usb_blk_freelist);
 102 Static int usb_blk_nfree = 0;
 103 /* XXX should have different free list for different tags (for speed) */
 104 Static LIST_HEAD(, usb_frag_dma) usb_frag_freelist =
 105         LIST_HEAD_INITIALIZER(usb_frag_freelist);
 106
 107 Static void
 108 usbmem_callback(void *arg, bus_dma_segment_t *segs, int nseg, int error)
 109 {
 110         int i;
 111         usb_dma_block_t *p = arg;
 112
 113         if (error == EFBIG) {
 114                 printf("usb: mapping to large\n");
 115                 return;
 116         }
 117
 118         p->nsegs = nseg;
 119         for (i = 0; i < nseg && i < sizeof p->segs / sizeof *p->segs; i++)
 120                 p->segs[i] = segs[i];
 121 }
 122
 123 Static usbd_status
 124 usb_block_allocmem(bus_dma_tag_t tag, size_t size, size_t align,
 125                    usb_dma_block_t **dmap)
 126 {
 127         usb_dma_block_t *p;
 128         int s;
 129
 130         DPRINTFN(5, ("usb_block_allocmem: size=%lu align=%lu\n",
 131                      (u_long)size, (u_long)align));
 132
 133         s = splusb();
 134         /* First check the free list. */
 135         for (p = LIST_FIRST(&usb_blk_freelist); p; p = LIST_NEXT(p, next)) {
 136                 if (p->tag == tag && p->size >= size && p->align >= align) {
 137                         LIST_REMOVE(p, next);
 138                         usb_blk_nfree--;
 139                         splx(s);
 140                         *dmap = p;
 141                         DPRINTFN(6,("usb_block_allocmem: free list size=%lu\n",
 142                                     (u_long)p->size));
 143                         return (USBD_NORMAL_COMPLETION);
 144                 }
 145         }
 146         splx(s);
 147
 148         DPRINTFN(6, ("usb_block_allocmem: no free\n"));
 149         p = malloc(sizeof *p, M_USB, M_INTWAIT);
 150
 151 #if defined(__FreeBSD__) && __FreeBSD_version >= 500000
 152         if (bus_dma_tag_create(tag, align, 0,
 153             BUS_SPACE_MAXADDR_32BIT, BUS_SPACE_MAXADDR, NULL, NULL,
 154             size, sizeof(p->segs) / sizeof(p->segs[0]), size,
 155             BUS_DMA_ALLOCNOW, NULL, NULL, &p->tag) == ENOMEM)
 156 #else
 157         if (bus_dma_tag_create(tag, align, 0,
 158             BUS_SPACE_MAXADDR_32BIT, BUS_SPACE_MAXADDR, NULL, NULL,
 159             size, sizeof(p->segs) / sizeof(p->segs[0]), size,
 160             BUS_DMA_ALLOCNOW, &p->tag) == ENOMEM)
 161 #endif
 162         {
 163                 goto free;
 164         }
 165
 166         p->size = size;
 167         p->align = align;
 168         if (bus_dmamem_alloc(p->tag, &p->kaddr,
 169             BUS_DMA_NOWAIT|BUS_DMA_COHERENT, &p->map))
 170                 goto tagfree;
 171
 172         if (bus_dmamap_load(p->tag, p->map, p->kaddr, p->size,
 173             usbmem_callback, p, 0))
 174                 goto memfree;
 175
 176         /* XXX - override the tag, ok since we never free it */
 177         p->tag = tag;
 178         *dmap = p;
 179         return (USBD_NORMAL_COMPLETION);
 180
 181         /*
 182          * XXX - do we need to _unload? is the order of _free and _destroy
 183          * correct?
 184          */
 185 memfree:
 186         bus_dmamem_free(p->tag, p->kaddr, p->map);
 187 tagfree:
 188         bus_dma_tag_destroy(p->tag);
 189 free:
 190         free(p, M_USB);
 191         return (USBD_NOMEM);
 192 }
 193
 194 /*
 195  * Do not free the memory unconditionally since we might be called
 196  * from an interrupt context and that is BAD.
 197  * XXX when should we really free?
 198  */
 199 Static void
 200 usb_block_freemem(usb_dma_block_t *p)
 201 {
 202         int s;
 203
 204         DPRINTFN(6, ("usb_block_freemem: size=%lu\n", (u_long)p->size));
 205         s = splusb();
 206         LIST_INSERT_HEAD(&usb_blk_freelist, p, next);
 207         usb_blk_nfree++;
 208         splx(s);
 209 }
 210
 211 usbd_status
 212 usb_allocmem(usbd_bus_handle bus, size_t size, size_t align, usb_dma_t *p)
 213 {
 214         bus_dma_tag_t tag = bus->dmatag;
 215         usbd_status err;
 216         struct usb_frag_dma *f;
 217         usb_dma_block_t *b;
 218         int i;
 219         int s;
 220
 221         /* compat w/ Net/OpenBSD */
 222         if (align == 0)
 223                 align = 1;
 224
 225         /* If the request is large then just use a full block. */
 226         if (size > USB_MEM_SMALL || align > USB_MEM_SMALL) {
 227                 DPRINTFN(1, ("usb_allocmem: large alloc %d\n", (int)size));
 228                 size = (size + USB_MEM_BLOCK - 1) & ~(USB_MEM_BLOCK - 1);
 229                 err = usb_block_allocmem(tag, size, align, &p->block);
 230                 if (!err) {
 231                         p->block->fullblock = 1;
 232                         p->offs = 0;
 233                         p->len = size;
 234                 }
 235                 return (err);
 236         }
 237
 238         s = splusb();
 239         /* Check for free fragments. */
 240         for (f = LIST_FIRST(&usb_frag_freelist); f; f = LIST_NEXT(f, next))
 241                 if (f->block->tag == tag)
 242                         break;
 243         if (f == NULL) {
 244                 DPRINTFN(1, ("usb_allocmem: adding fragments\n"));
 245                 err = usb_block_allocmem(tag, USB_MEM_BLOCK, USB_MEM_SMALL,&b);
 246                 if (err) {
 247                         splx(s);
 248                         return (err);
 249                 }
 250                 b->fullblock = 0;
 251                 /* XXX - override the tag, ok since we never free it */
 252                 b->tag = tag;
 253                 KASSERT(sizeof *f <= USB_MEM_SMALL, ("USB_MEM_SMALL(%d) is too small for struct usb_frag_dma(%zd)\n",
 254                     USB_MEM_SMALL, sizeof *f));
 255                 for (i = 0; i < USB_MEM_BLOCK; i += USB_MEM_SMALL) {
 256                         f = (struct usb_frag_dma *)((char *)b->kaddr + i);
 257                         f->block = b;
 258                         f->offs = i;
 259                         LIST_INSERT_HEAD(&usb_frag_freelist, f, next);
 260                 }
 261                 f = LIST_FIRST(&usb_frag_freelist);
 262         }
 263         p->block = f->block;
 264         p->offs = f->offs;
 265         p->len = USB_MEM_SMALL;
 266         LIST_REMOVE(f, next);
 267         splx(s);
 268         DPRINTFN(5, ("usb_allocmem: use frag=%p size=%d\n", f, (int)size));
 269         return (USBD_NORMAL_COMPLETION);
 270 }
 271
 272 void
 273 usb_freemem(usbd_bus_handle bus, usb_dma_t *p)
 274 {
 275         struct usb_frag_dma *f;
 276         int s;
 277
 278         if (p->block->fullblock) {
 279                 DPRINTFN(1, ("usb_freemem: large free\n"));
 280                 usb_block_freemem(p->block);
 281                 return;
 282         }
 283         f = KERNADDR(p, 0);
 284         f->block = p->block;
 285         f->offs = p->offs;
 286         s = splusb();
 287         LIST_INSERT_HEAD(&usb_frag_freelist, f, next);
 288         splx(s);
 289         DPRINTFN(5, ("usb_freemem: frag=%p\n", f));
 290 }