sys/dev/raid/iir/iir.c

   1 /* $FreeBSD: src/sys/dev/iir/iir.c,v 1.2.2.3 2002/05/05 08:18:12 asmodai Exp $ */
   2 /* $DragonFly: src/sys/dev/raid/iir/iir.c,v 1.12 2006/09/05 00:55:42 dillon Exp $ */
   3 /*
   4  *       Copyright (c) 2000-01 Intel Corporation
   5  *       All Rights Reserved
   6  *
   7  * Redistribution and use in source and binary forms, with or without
   8  * modification, are permitted provided that the following conditions
   9  * are met:
  10  * 1. Redistributions of source code must retain the above copyright
  11  *    notice, this list of conditions, and the following disclaimer,
  12  *    without modification, immediately at the beginning of the file.
  13  * 2. Redistributions in binary form must reproduce the above copyright
  14  *    notice, this list of conditions and the following disclaimer in the
  15  *    documentation and/or other materials provided with the distribution.
  16  * 3. The name of the author may not be used to endorse or promote products
  17  *    derived from this software without specific prior written permission.
  18  *
  19  * THIS SOFTWARE IS PROVIDED BY THE AUTHOR AND CONTRIBUTORS ``AS IS'' AND
  20  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  21  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
  22  * ARE DISCLAIMED. IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE FOR
  23  * ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
  24  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
  25  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
  26  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
  27  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
  28  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
  29  * SUCH DAMAGE.
  30  */
  31
  32 /*
  33  * iir.c: SCSI dependant code for the Intel Integrated RAID Controller driver
  34  *
  35  * Written by: Achim Leubner <achim.leubner@intel.com>
  36  * Fixes/Additions: Boji Tony Kannanthanam <boji.t.kannanthanam@intel.com>
  37  *
  38  * credits:     Niklas Hallqvist;       OpenBSD driver for the ICP Controllers.
  39  *              Mike Smith;             Some driver source code.
  40  *              FreeBSD.ORG;            Great O/S to work on and for.
  41  *
  42  * TODO:
  43  */
  44
  45 #ident "$Id: iir.c 1.2 2001/06/21 20:28:32 achim Exp $"
  46
  47 #define _IIR_C_
  48
  49 /* #include "opt_iir.h" */
  50 #include <sys/param.h>
  51 #include <sys/systm.h>
  52 #include <sys/types.h>
  53 #include <sys/eventhandler.h>
  54 #include <sys/malloc.h>
  55 #include <sys/kernel.h>
  56 #include <sys/bus.h>
  57 #include <sys/thread2.h>
  58
  59 #include <machine/bus_memio.h>
  60 #include <machine/bus_pio.h>
  61 #include <machine/bus.h>
  62 #include <machine/clock.h>
  63 #include <machine/stdarg.h>
  64
  65 #include <bus/cam/cam.h>
  66 #include <bus/cam/cam_ccb.h>
  67 #include <bus/cam/cam_sim.h>
  68 #include <bus/cam/cam_xpt_sim.h>
  69 #include <bus/cam/cam_debug.h>
  70 #include <bus/cam/scsi/scsi_all.h>
  71 #include <bus/cam/scsi/scsi_message.h>
  72
  73 #include <vm/vm.h>
  74 #include <vm/pmap.h>
  75
  76 #include "iir.h"
  77
  78 struct gdt_softc *gdt_wait_gdt;
  79 int     gdt_wait_index;
  80
  81 #ifdef GDT_DEBUG
  82 int     gdt_debug = GDT_DEBUG;
  83 #ifdef __SERIAL__
  84 #define MAX_SERBUF 160
  85 static void ser_init(void);
  86 static void ser_puts(char *str);
  87 static void ser_putc(int c);
  88 static char strbuf[MAX_SERBUF+1];
  89 #ifdef __COM2__
  90 #define COM_BASE 0x2f8
  91 #else
  92 #define COM_BASE 0x3f8
  93 #endif
  94 static void ser_init()
  95 {
  96     unsigned port=COM_BASE;
  97
  98     outb(port+3, 0x80);
  99     outb(port+1, 0);
 100     /* 19200 Baud, if 9600: outb(12,port) */
 101     outb(port, 6);
 102     outb(port+3, 3);
 103     outb(port+1, 0);
 104 }
 105
 106 static void ser_puts(char *str)
 107 {
 108     char *ptr;
 109
 110     ser_init();
 111     for (ptr=str;*ptr;++ptr)
 112         ser_putc((int)(*ptr));
 113 }
 114
 115 static void ser_putc(int c)
 116 {
 117     unsigned port=COM_BASE;
 118
 119     while ((inb(port+5) & 0x20)==0);
 120     outb(port, c);
 121     if (c==0x0a)
 122     {
 123         while ((inb(port+5) & 0x20)==0);
 124         outb(port, 0x0d);
 125     }
 126 }
 127
 128 int
 129 ser_printf(const char *fmt, ...)
 130 {
 131     __va_list args;
 132     int i;
 133
 134     __va_start(args,fmt);
 135     i = vsprintf(strbuf,fmt,args);
 136     ser_puts(strbuf);
 137     __va_end(args);
 138     return i;
 139 }
 140 #endif
 141 #endif
 142
 143 /* The linked list of softc structures */
 144 struct gdt_softc_list gdt_softcs = TAILQ_HEAD_INITIALIZER(gdt_softcs);
 145 /* controller cnt. */
 146 int gdt_cnt = 0;
 147 /* event buffer */
 148 static gdt_evt_str ebuffer[GDT_MAX_EVENTS];
 149 static int elastidx, eoldidx;
 150 /* statistics */
 151 gdt_statist_t gdt_stat;
 152
 153 /* Definitions for our use of the SIM private CCB area */
 154 #define ccb_sim_ptr     spriv_ptr0
 155 #define ccb_priority    spriv_field1
 156
 157 static void     iir_action(struct cam_sim *sim, union ccb *ccb);
 158 static void     iir_poll(struct cam_sim *sim);
 159 static void     iir_shutdown(void *arg, int howto);
 160 static void     iir_timeout(void *arg);
 161 static void     iir_watchdog(void *arg);
 162
 163 static void     gdt_eval_mapping(u_int32_t size, int *cyls, int *heads,
 164                                  int *secs);
 165 static int      gdt_internal_cmd(struct gdt_softc *gdt, struct gdt_ccb *gccb,
 166                                  u_int8_t service, u_int16_t opcode,
 167                                  u_int32_t arg1, u_int32_t arg2, u_int32_t arg3);
 168 static int      gdt_wait(struct gdt_softc *gdt, struct gdt_ccb *ccb,
 169                          int timeout);
 170
 171 static struct gdt_ccb *gdt_get_ccb(struct gdt_softc *gdt);
 172 static u_int32_t gdt_ccb_vtop(struct gdt_softc *gdt,
 173                               struct gdt_ccb *gccb);
 174
 175 static int      gdt_sync_event(struct gdt_softc *gdt, int service,
 176                                u_int8_t index, struct gdt_ccb *gccb);
 177 static int      gdt_async_event(struct gdt_softc *gdt, int service);
 178 static struct gdt_ccb *gdt_raw_cmd(struct gdt_softc *gdt,  union ccb *ccb);
 179 static struct gdt_ccb *gdt_cache_cmd(struct gdt_softc *gdt, union ccb *ccb);
 180 static struct gdt_ccb *gdt_ioctl_cmd(struct gdt_softc *gdt, gdt_ucmd_t *ucmd);
 181 static void     gdt_internal_cache_cmd(struct gdt_softc *gdt,union ccb *ccb);
 182
 183 static void     gdtmapmem(void *arg, bus_dma_segment_t *dm_segs,
 184                           int nseg, int error);
 185 static void     gdtexecuteccb(void *arg, bus_dma_segment_t *dm_segs,
 186                               int nseg, int error);
 187
 188 int
 189 iir_init(struct gdt_softc *gdt)
 190 {
 191     u_int16_t cdev_cnt;
 192     int i, id, drv_cyls, drv_hds, drv_secs;
 193     struct gdt_ccb *gccb;
 194
 195     GDT_DPRINTF(GDT_D_DEBUG, ("iir_init()\n"));
 196
 197     gdt->sc_state = GDT_POLLING;
 198     gdt_clear_events();
 199     bzero(&gdt_stat, sizeof(gdt_statist_t));
 200
 201     SLIST_INIT(&gdt->sc_free_gccb);
 202     SLIST_INIT(&gdt->sc_pending_gccb);
 203     TAILQ_INIT(&gdt->sc_ccb_queue);
 204     TAILQ_INIT(&gdt->sc_ucmd_queue);
 205     TAILQ_INSERT_TAIL(&gdt_softcs, gdt, links);
 206
 207     /* DMA tag for mapping buffers into device visible space. */
 208     if (bus_dma_tag_create(gdt->sc_parent_dmat, /*alignment*/1, /*boundary*/0,
 209                            /*lowaddr*/BUS_SPACE_MAXADDR,
 210                            /*highaddr*/BUS_SPACE_MAXADDR,
 211                            /*filter*/NULL, /*filterarg*/NULL,
 212                            /*maxsize*/MAXBSIZE, /*nsegments*/GDT_MAXSG,
 213                            /*maxsegsz*/BUS_SPACE_MAXSIZE_32BIT,
 214                            /*flags*/BUS_DMA_ALLOCNOW,
 215                            &gdt->sc_buffer_dmat) != 0) {
 216         printf("iir%d: bus_dma_tag_create(...,gdt->sc_buffer_dmat) failed\n",
 217                gdt->sc_hanum);
 218         return (1);
 219     }
 220     gdt->sc_init_level++;
 221
 222     /* DMA tag for our ccb structures */
 223     if (bus_dma_tag_create(gdt->sc_parent_dmat, /*alignment*/1, /*boundary*/0,
 224                            /*lowaddr*/BUS_SPACE_MAXADDR,
 225                            /*highaddr*/BUS_SPACE_MAXADDR,
 226                            /*filter*/NULL, /*filterarg*/NULL,
 227                            GDT_MAXCMDS * sizeof(struct gdt_ccb),
 228                            /*nsegments*/1,
 229                            /*maxsegsz*/BUS_SPACE_MAXSIZE_32BIT,
 230                            /*flags*/0, &gdt->sc_gccb_dmat) != 0) {
 231         printf("iir%d: bus_dma_tag_create(...,gdt->sc_gccb_dmat) failed\n",
 232                gdt->sc_hanum);
 233         return (1);
 234     }
 235     gdt->sc_init_level++;
 236
 237     /* Allocation for our ccbs */
 238     if (bus_dmamem_alloc(gdt->sc_gccb_dmat, (void **)&gdt->sc_gccbs,
 239                          BUS_DMA_NOWAIT, &gdt->sc_gccb_dmamap) != 0) {
 240         printf("iir%d: bus_dmamem_alloc(...,&gdt->sc_gccbs,...) failed\n",
 241                gdt->sc_hanum);
 242         return (1);
 243     }
 244     gdt->sc_init_level++;
 245
 246     /* And permanently map them */
 247     bus_dmamap_load(gdt->sc_gccb_dmat, gdt->sc_gccb_dmamap,
 248                     gdt->sc_gccbs, GDT_MAXCMDS * sizeof(struct gdt_ccb),
 249                     gdtmapmem, &gdt->sc_gccb_busbase, /*flags*/0);
 250     gdt->sc_init_level++;
 251
 252     /* Clear them out. */
 253     bzero(gdt->sc_gccbs, GDT_MAXCMDS * sizeof(struct gdt_ccb));
 254
 255     /* Initialize the ccbs */
 256     for (i = GDT_MAXCMDS-1; i >= 0; i--) {
 257         gdt->sc_gccbs[i].gc_cmd_index = i + 2;
 258         gdt->sc_gccbs[i].gc_flags = GDT_GCF_UNUSED;
 259         gdt->sc_gccbs[i].gc_map_flag = FALSE;
 260         if (bus_dmamap_create(gdt->sc_buffer_dmat, /*flags*/0,
 261                               &gdt->sc_gccbs[i].gc_dmamap) != 0)
 262             return(1);
 263         gdt->sc_gccbs[i].gc_map_flag = TRUE;
 264         SLIST_INSERT_HEAD(&gdt->sc_free_gccb, &gdt->sc_gccbs[i], sle);
 265     }
 266     gdt->sc_init_level++;
 267
 268     /* create the control device */
 269     gdt->sc_dev = gdt_make_dev(gdt->sc_hanum);
 270
 271     /* allocate ccb for gdt_internal_cmd() */
 272     gccb = gdt_get_ccb(gdt);
 273     if (gccb == NULL) {
 274         printf("iir%d: No free command index found\n",
 275                gdt->sc_hanum);
 276         return (1);
 277     }
 278
 279     if (!gdt_internal_cmd(gdt, gccb, GDT_SCREENSERVICE, GDT_INIT,
 280                           0, 0, 0)) {
 281         printf("iir%d: Screen service initialization error %d\n",
 282                gdt->sc_hanum, gdt->sc_status);
 283         gdt_free_ccb(gdt, gccb);
 284         return (1);
 285     }
 286
 287     if (!gdt_internal_cmd(gdt, gccb, GDT_CACHESERVICE, GDT_INIT,
 288                           GDT_LINUX_OS, 0, 0)) {
 289         printf("iir%d: Cache service initialization error %d\n",
 290                gdt->sc_hanum, gdt->sc_status);
 291         gdt_free_ccb(gdt, gccb);
 292         return (1);
 293     }
 294     gdt_internal_cmd(gdt, gccb, GDT_CACHESERVICE, GDT_UNFREEZE_IO,
 295                      0, 0, 0);
 296
 297     if (!gdt_internal_cmd(gdt, gccb, GDT_CACHESERVICE, GDT_MOUNT,
 298                           0xffff, 1, 0)) {
 299         printf("iir%d: Cache service mount error %d\n",
 300                gdt->sc_hanum, gdt->sc_status);
 301         gdt_free_ccb(gdt, gccb);
 302         return (1);
 303     }
 304
 305     if (!gdt_internal_cmd(gdt, gccb, GDT_CACHESERVICE, GDT_INIT,
 306                           GDT_LINUX_OS, 0, 0)) {
 307         printf("iir%d: Cache service post-mount initialization error %d\n",
 308                gdt->sc_hanum, gdt->sc_status);
 309         gdt_free_ccb(gdt, gccb);
 310         return (1);
 311     }
 312     cdev_cnt = (u_int16_t)gdt->sc_info;
 313     gdt->sc_fw_vers = gdt->sc_service;
 314
 315     /* Detect number of buses */
 316     gdt_enc32(gccb->gc_scratch + GDT_IOC_VERSION, GDT_IOC_NEWEST);
 317     gccb->gc_scratch[GDT_IOC_LIST_ENTRIES] = GDT_MAXBUS;
 318     gccb->gc_scratch[GDT_IOC_FIRST_CHAN] = 0;
 319     gccb->gc_scratch[GDT_IOC_LAST_CHAN] = GDT_MAXBUS - 1;
 320     gdt_enc32(gccb->gc_scratch + GDT_IOC_LIST_OFFSET, GDT_IOC_HDR_SZ);
 321     if (gdt_internal_cmd(gdt, gccb, GDT_CACHESERVICE, GDT_IOCTL,
 322                          GDT_IOCHAN_RAW_DESC, GDT_INVALID_CHANNEL,
 323                          GDT_IOC_HDR_SZ + GDT_MAXBUS * GDT_RAWIOC_SZ)) {
 324         gdt->sc_bus_cnt = gccb->gc_scratch[GDT_IOC_CHAN_COUNT];
 325         for (i = 0; i < gdt->sc_bus_cnt; i++) {
 326             id = gccb->gc_scratch[GDT_IOC_HDR_SZ +
 327                                  i * GDT_RAWIOC_SZ + GDT_RAWIOC_PROC_ID];
 328             gdt->sc_bus_id[i] = id < GDT_MAXID_FC ? id : 0xff;
 329         }
 330     } else {
 331         /* New method failed, use fallback. */
 332         for (i = 0; i < GDT_MAXBUS; i++) {
 333             gdt_enc32(gccb->gc_scratch + GDT_GETCH_CHANNEL_NO, i);
 334             if (!gdt_internal_cmd(gdt, gccb, GDT_CACHESERVICE, GDT_IOCTL,
 335                                   GDT_SCSI_CHAN_CNT | GDT_L_CTRL_PATTERN,
 336                                   GDT_IO_CHANNEL | GDT_INVALID_CHANNEL,
 337                                   GDT_GETCH_SZ)) {
 338                 if (i == 0) {
 339                     printf("iir%d: Cannot get channel count, "
 340                            "error %d\n", gdt->sc_hanum, gdt->sc_status);
 341                     gdt_free_ccb(gdt, gccb);
 342                     return (1);
 343                 }
 344                 break;
 345             }
 346             gdt->sc_bus_id[i] =
 347                 (gccb->gc_scratch[GDT_GETCH_SIOP_ID] < GDT_MAXID_FC) ?
 348                 gccb->gc_scratch[GDT_GETCH_SIOP_ID] : 0xff;
 349         }
 350         gdt->sc_bus_cnt = i;
 351     }
 352     /* add one "virtual" channel for the host drives */
 353     gdt->sc_virt_bus = gdt->sc_bus_cnt;
 354     gdt->sc_bus_cnt++;
 355
 356     if (!gdt_internal_cmd(gdt, gccb, GDT_SCSIRAWSERVICE, GDT_INIT,
 357                           0, 0, 0)) {
 358             printf("iir%d: Raw service initialization error %d\n",
 359                    gdt->sc_hanum, gdt->sc_status);
 360             gdt_free_ccb(gdt, gccb);
 361             return (1);
 362     }
 363
 364     /* Set/get features raw service (scatter/gather) */
 365     gdt->sc_raw_feat = 0;
 366     if (gdt_internal_cmd(gdt, gccb, GDT_SCSIRAWSERVICE, GDT_SET_FEAT,
 367                          GDT_SCATTER_GATHER, 0, 0)) {
 368         if (gdt_internal_cmd(gdt, gccb, GDT_SCSIRAWSERVICE, GDT_GET_FEAT,
 369                              0, 0, 0)) {
 370             gdt->sc_raw_feat = gdt->sc_info;
 371             if (!(gdt->sc_info & GDT_SCATTER_GATHER)) {
 372                 panic("iir%d: Scatter/Gather Raw Service "
 373                       "required but not supported!\n", gdt->sc_hanum);
 374                 gdt_free_ccb(gdt, gccb);
 375                 return (1);
 376             }
 377         }
 378     }
 379
 380     /* Set/get features cache service (scatter/gather) */
 381     gdt->sc_cache_feat = 0;
 382     if (gdt_internal_cmd(gdt, gccb, GDT_CACHESERVICE, GDT_SET_FEAT,
 383                          0, GDT_SCATTER_GATHER, 0)) {
 384         if (gdt_internal_cmd(gdt, gccb, GDT_CACHESERVICE, GDT_GET_FEAT,
 385                              0, 0, 0)) {
 386             gdt->sc_cache_feat = gdt->sc_info;
 387             if (!(gdt->sc_info & GDT_SCATTER_GATHER)) {
 388                 panic("iir%d: Scatter/Gather Cache Service "
 389                   "required but not supported!\n", gdt->sc_hanum);
 390                 gdt_free_ccb(gdt, gccb);
 391                 return (1);
 392             }
 393         }
 394     }
 395
 396     /* Scan for cache devices */
 397     for (i = 0; i < cdev_cnt && i < GDT_MAX_HDRIVES; i++) {
 398         if (gdt_internal_cmd(gdt, gccb, GDT_CACHESERVICE, GDT_INFO,
 399                              i, 0, 0)) {
 400             gdt->sc_hdr[i].hd_present = 1;
 401             gdt->sc_hdr[i].hd_size = gdt->sc_info;
 402
 403             /*
 404              * Evaluate mapping (sectors per head, heads per cyl)
 405              */
 406             gdt->sc_hdr[i].hd_size &= ~GDT_SECS32;
 407             if (gdt->sc_info2 == 0)
 408                 gdt_eval_mapping(gdt->sc_hdr[i].hd_size,
 409                                  &drv_cyls, &drv_hds, &drv_secs);
 410             else {
 411                 drv_hds = gdt->sc_info2 & 0xff;
 412                 drv_secs = (gdt->sc_info2 >> 8) & 0xff;
 413                 drv_cyls = gdt->sc_hdr[i].hd_size / drv_hds /
 414                     drv_secs;
 415             }
 416             gdt->sc_hdr[i].hd_heads = drv_hds;
 417             gdt->sc_hdr[i].hd_secs = drv_secs;
 418             /* Round the size */
 419             gdt->sc_hdr[i].hd_size = drv_cyls * drv_hds * drv_secs;
 420
 421             if (gdt_internal_cmd(gdt, gccb, GDT_CACHESERVICE,
 422                                  GDT_DEVTYPE, i, 0, 0))
 423                 gdt->sc_hdr[i].hd_devtype = gdt->sc_info;
 424         }
 425     }
 426
 427     GDT_DPRINTF(GDT_D_INIT, ("dpmem %x %d-bus %d cache device%s\n",
 428                              gdt->sc_dpmembase,
 429                              gdt->sc_bus_cnt, cdev_cnt,
 430                              cdev_cnt == 1 ? "" : "s"));
 431     gdt_free_ccb(gdt, gccb);
 432
 433     gdt_cnt++;
 434     return (0);
 435 }
 436
 437 void
 438 iir_free(struct gdt_softc *gdt)
 439 {
 440     int i;
 441
 442     GDT_DPRINTF(GDT_D_INIT, ("iir_free()\n"));
 443
 444     switch (gdt->sc_init_level) {
 445       default:
 446         gdt_destroy_dev(gdt->sc_dev);
 447       case 5:
 448         for (i = GDT_MAXCMDS-1; i >= 0; i--)
 449             if (gdt->sc_gccbs[i].gc_map_flag)
 450                 bus_dmamap_destroy(gdt->sc_buffer_dmat,
 451                                    gdt->sc_gccbs[i].gc_dmamap);
 452         bus_dmamap_unload(gdt->sc_gccb_dmat, gdt->sc_gccb_dmamap);
 453       case 4:
 454         bus_dmamem_free(gdt->sc_gccb_dmat, gdt->sc_gccbs, gdt->sc_gccb_dmamap);
 455       case 3:
 456         bus_dma_tag_destroy(gdt->sc_gccb_dmat);
 457       case 2:
 458         bus_dma_tag_destroy(gdt->sc_buffer_dmat);
 459       case 1:
 460         bus_dma_tag_destroy(gdt->sc_parent_dmat);
 461       case 0:
 462         break;
 463     }
 464     TAILQ_REMOVE(&gdt_softcs, gdt, links);
 465 }
 466
 467 void
 468 iir_attach(struct gdt_softc *gdt)
 469 {
 470     struct cam_devq *devq;
 471     int i;
 472
 473     GDT_DPRINTF(GDT_D_INIT, ("iir_attach()\n"));
 474
 475     callout_init(&gdt->watchdog_timer);
 476     /*
 477      * Create the device queue for our SIM.
 478      */
 479     devq = cam_simq_alloc(GDT_MAXCMDS);
 480     if (devq == NULL)
 481         return;
 482
 483     for (i = 0; i < gdt->sc_bus_cnt; i++) {
 484         /*
 485          * Construct our SIM entry
 486          */
 487         gdt->sims[i] = cam_sim_alloc(iir_action, iir_poll, "iir",
 488                                      gdt, gdt->sc_hanum, /*untagged*/2,
 489                                      /*tagged*/GDT_MAXCMDS, devq);
 490         if (xpt_bus_register(gdt->sims[i], i) != CAM_SUCCESS) {
 491             cam_sim_free(gdt->sims[i]);
 492             break;
 493         }
 494
 495         if (xpt_create_path(&gdt->paths[i], /*periph*/NULL,
 496                             cam_sim_path(gdt->sims[i]),
 497                             CAM_TARGET_WILDCARD,
 498                             CAM_LUN_WILDCARD) != CAM_REQ_CMP) {
 499             xpt_bus_deregister(cam_sim_path(gdt->sims[i]));
 500             cam_sim_free(gdt->sims[i]);
 501             break;
 502         }
 503     }
 504     cam_simq_release(devq);
 505     if (i > 0)
 506         EVENTHANDLER_REGISTER(shutdown_final, iir_shutdown,
 507                               gdt, SHUTDOWN_PRI_DEFAULT);
 508     /* iir_watchdog(gdt); */
 509     gdt->sc_state = GDT_NORMAL;
 510 }
 511
 512 static void
 513 gdt_eval_mapping(u_int32_t size, int *cyls, int *heads, int *secs)
 514 {
 515     *cyls = size / GDT_HEADS / GDT_SECS;
 516     if (*cyls < GDT_MAXCYLS) {
 517         *heads = GDT_HEADS;
 518         *secs = GDT_SECS;
 519     } else {
 520         /* Too high for 64 * 32 */
 521         *cyls = size / GDT_MEDHEADS / GDT_MEDSECS;
 522         if (*cyls < GDT_MAXCYLS) {
 523             *heads = GDT_MEDHEADS;
 524             *secs = GDT_MEDSECS;
 525         } else {
 526             /* Too high for 127 * 63 */
 527             *cyls = size / GDT_BIGHEADS / GDT_BIGSECS;
 528             *heads = GDT_BIGHEADS;
 529             *secs = GDT_BIGSECS;
 530         }
 531     }
 532 }
 533
 534 static int
 535 gdt_wait(struct gdt_softc *gdt, struct gdt_ccb *gccb,
 536          int timeout)
 537 {
 538     int rv = 0;
 539
 540     GDT_DPRINTF(GDT_D_INIT,
 541                 ("gdt_wait(%p, %p, %d)\n", gdt, gccb, timeout));
 542
 543     gdt->sc_state |= GDT_POLL_WAIT;
 544     do {
 545         iir_intr(gdt);
 546         if (gdt == gdt_wait_gdt &&
 547             gccb->gc_cmd_index == gdt_wait_index) {
 548             rv = 1;
 549             break;
 550         }
 551         DELAY(1);
 552     } while (--timeout);
 553     gdt->sc_state &= ~GDT_POLL_WAIT;
 554
 555     while (gdt->sc_test_busy(gdt))
 556         DELAY(1);               /* XXX correct? */
 557
 558     return (rv);
 559 }
 560
 561 static int
 562 gdt_internal_cmd(struct gdt_softc *gdt, struct gdt_ccb *gccb,
 563                  u_int8_t service, u_int16_t opcode,
 564                  u_int32_t arg1, u_int32_t arg2, u_int32_t arg3)
 565 {
 566     int retries;
 567
 568     GDT_DPRINTF(GDT_D_CMD, ("gdt_internal_cmd(%p, %d, %d, %d, %d, %d)\n",
 569                             gdt, service, opcode, arg1, arg2, arg3));
 570
 571     bzero(gdt->sc_cmd, GDT_CMD_SZ);
 572
 573     for (retries = GDT_RETRIES; ; ) {
 574         gccb->gc_service = service;
 575         gccb->gc_flags = GDT_GCF_INTERNAL;
 576
 577         gdt->sc_set_sema0(gdt);
 578         gdt_enc32(gdt->sc_cmd + GDT_CMD_COMMANDINDEX,
 579                   gccb->gc_cmd_index);
 580         gdt_enc16(gdt->sc_cmd + GDT_CMD_OPCODE, opcode);
 581
 582         switch (service) {
 583           case GDT_CACHESERVICE:
 584             if (opcode == GDT_IOCTL) {
 585                 gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION +
 586                           GDT_IOCTL_SUBFUNC, arg1);
 587                 gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION +
 588                           GDT_IOCTL_CHANNEL, arg2);
 589                 gdt_enc16(gdt->sc_cmd + GDT_CMD_UNION +
 590                           GDT_IOCTL_PARAM_SIZE, (u_int16_t)arg3);
 591                 gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_IOCTL_P_PARAM,
 592                           gdt_ccb_vtop(gdt, gccb) +
 593                           offsetof(struct gdt_ccb, gc_scratch[0]));
 594             } else {
 595                 gdt_enc16(gdt->sc_cmd + GDT_CMD_UNION +
 596                           GDT_CACHE_DEVICENO, (u_int16_t)arg1);
 597                 gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION +
 598                           GDT_CACHE_BLOCKNO, arg2);
 599             }
 600             break;
 601
 602           case GDT_SCSIRAWSERVICE:
 603             gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION +
 604                       GDT_RAW_DIRECTION, arg1);
 605             gdt->sc_cmd[GDT_CMD_UNION + GDT_RAW_BUS] =
 606                 (u_int8_t)arg2;
 607             gdt->sc_cmd[GDT_CMD_UNION + GDT_RAW_TARGET] =
 608                 (u_int8_t)arg3;
 609             gdt->sc_cmd[GDT_CMD_UNION + GDT_RAW_LUN] =
 610                 (u_int8_t)(arg3 >> 8);
 611         }
 612
 613         gdt->sc_cmd_len = GDT_CMD_SZ;
 614         gdt->sc_cmd_off = 0;
 615         gdt->sc_cmd_cnt = 0;
 616         gdt->sc_copy_cmd(gdt, gccb);
 617         gdt->sc_release_event(gdt);
 618         DELAY(20);
 619         if (!gdt_wait(gdt, gccb, GDT_POLL_TIMEOUT))
 620             return (0);
 621         if (gdt->sc_status != GDT_S_BSY || --retries == 0)
 622             break;
 623         DELAY(1);
 624     }
 625     return (gdt->sc_status == GDT_S_OK);
 626 }
 627
 628 static struct gdt_ccb *
 629 gdt_get_ccb(struct gdt_softc *gdt)
 630 {
 631     struct gdt_ccb *gccb;
 632
 633     GDT_DPRINTF(GDT_D_QUEUE, ("gdt_get_ccb(%p)\n", gdt));
 634
 635     crit_enter();
 636     gccb = SLIST_FIRST(&gdt->sc_free_gccb);
 637     if (gccb != NULL) {
 638         SLIST_REMOVE_HEAD(&gdt->sc_free_gccb, sle);
 639         SLIST_INSERT_HEAD(&gdt->sc_pending_gccb, gccb, sle);
 640         ++gdt_stat.cmd_index_act;
 641         if (gdt_stat.cmd_index_act > gdt_stat.cmd_index_max)
 642             gdt_stat.cmd_index_max = gdt_stat.cmd_index_act;
 643     }
 644     crit_exit();
 645     return (gccb);
 646 }
 647
 648 void
 649 gdt_free_ccb(struct gdt_softc *gdt, struct gdt_ccb *gccb)
 650 {
 651     GDT_DPRINTF(GDT_D_QUEUE, ("gdt_free_ccb(%p, %p)\n", gdt, gccb));
 652
 653     crit_enter();
 654     gccb->gc_flags = GDT_GCF_UNUSED;
 655     SLIST_REMOVE(&gdt->sc_pending_gccb, gccb, gdt_ccb, sle);
 656     SLIST_INSERT_HEAD(&gdt->sc_free_gccb, gccb, sle);
 657     --gdt_stat.cmd_index_act;
 658     crit_exit();
 659     if (gdt->sc_state & GDT_SHUTDOWN)
 660         wakeup(gccb);
 661 }
 662
 663 static u_int32_t
 664 gdt_ccb_vtop(struct gdt_softc *gdt, struct gdt_ccb *gccb)
 665 {
 666     return (gdt->sc_gccb_busbase
 667             + (u_int32_t)((caddr_t)gccb - (caddr_t)gdt->sc_gccbs));
 668 }
 669
 670 void
 671 gdt_next(struct gdt_softc *gdt)
 672 {
 673     union ccb *ccb;
 674     gdt_ucmd_t *ucmd;
 675     struct cam_sim *sim;
 676     int bus, target, lun;
 677     int next_cmd;
 678
 679     struct ccb_scsiio *csio;
 680     struct ccb_hdr *ccbh;
 681     struct gdt_ccb *gccb = NULL;
 682     u_int8_t cmd;
 683
 684     GDT_DPRINTF(GDT_D_QUEUE, ("gdt_next(%p)\n", gdt));
 685
 686     crit_enter();
 687     if (gdt->sc_test_busy(gdt)) {
 688         if (!(gdt->sc_state & GDT_POLLING)) {
 689             crit_exit();
 690             return;
 691         }
 692         while (gdt->sc_test_busy(gdt))
 693             DELAY(1);
 694     }
 695
 696     gdt->sc_cmd_cnt = gdt->sc_cmd_off = 0;
 697     next_cmd = TRUE;
 698     for (;;) {
 699         /* I/Os in queue? controller ready? */
 700         if (!TAILQ_FIRST(&gdt->sc_ucmd_queue) &&
 701             !TAILQ_FIRST(&gdt->sc_ccb_queue))
 702             break;
 703
 704         /* 1.: I/Os without ccb (IOCTLs) */
 705         ucmd = TAILQ_FIRST(&gdt->sc_ucmd_queue);
 706         if (ucmd != NULL) {
 707             TAILQ_REMOVE(&gdt->sc_ucmd_queue, ucmd, links);
 708             if ((gccb = gdt_ioctl_cmd(gdt, ucmd)) == NULL) {
 709                 TAILQ_INSERT_HEAD(&gdt->sc_ucmd_queue, ucmd, links);
 710                 break;
 711             }
 712             break;
 713             /* wenn mehrere Kdos. zulassen: if (!gdt_polling) continue; */
 714         }
 715
 716         /* 2.: I/Os with ccb */
 717         ccb = (union ccb *)TAILQ_FIRST(&gdt->sc_ccb_queue);
 718         /* ist dann immer != NULL, da oben getestet */
 719         sim = (struct cam_sim *)ccb->ccb_h.ccb_sim_ptr;
 720         bus = cam_sim_bus(sim);
 721         target = ccb->ccb_h.target_id;
 722         lun = ccb->ccb_h.target_lun;
 723
 724         TAILQ_REMOVE(&gdt->sc_ccb_queue, &ccb->ccb_h, sim_links.tqe);
 725         --gdt_stat.req_queue_act;
 726         /* ccb->ccb_h.func_code is XPT_SCSI_IO */
 727         GDT_DPRINTF(GDT_D_QUEUE, ("XPT_SCSI_IO flags 0x%x)\n",
 728                                   ccb->ccb_h.flags));
 729         csio = &ccb->csio;
 730         ccbh = &ccb->ccb_h;
 731         cmd  = csio->cdb_io.cdb_bytes[0];
 732         /* Max CDB length is 12 bytes */
 733         if (csio->cdb_len > 12) {
 734             ccbh->status = CAM_REQ_INVALID;
 735             --gdt_stat.io_count_act;
 736             xpt_done(ccb);
 737         } else if (bus != gdt->sc_virt_bus) {
 738             /* raw service command */
 739             if ((gccb = gdt_raw_cmd(gdt, ccb)) == NULL) {
 740                 TAILQ_INSERT_HEAD(&gdt->sc_ccb_queue, &ccb->ccb_h,
 741                                   sim_links.tqe);
 742                 ++gdt_stat.req_queue_act;
 743                 if (gdt_stat.req_queue_act > gdt_stat.req_queue_max)
 744                     gdt_stat.req_queue_max = gdt_stat.req_queue_act;
 745                 next_cmd = FALSE;
 746             }
 747         } else if (target >= GDT_MAX_HDRIVES ||
 748                    !gdt->sc_hdr[target].hd_present || lun != 0) {
 749             ccbh->status = CAM_SEL_TIMEOUT;
 750             --gdt_stat.io_count_act;
 751             xpt_done(ccb);
 752         } else {
 753             /* cache service command */
 754             if (cmd == READ_6  || cmd == WRITE_6 ||
 755                 cmd == READ_10 || cmd == WRITE_10) {
 756                 if ((gccb = gdt_cache_cmd(gdt, ccb)) == NULL) {
 757                     TAILQ_INSERT_HEAD(&gdt->sc_ccb_queue, &ccb->ccb_h,
 758                                       sim_links.tqe);
 759                     ++gdt_stat.req_queue_act;
 760                     if (gdt_stat.req_queue_act > gdt_stat.req_queue_max)
 761                         gdt_stat.req_queue_max = gdt_stat.req_queue_act;
 762                     next_cmd = FALSE;
 763                 }
 764             } else {
 765                 crit_exit();
 766                 gdt_internal_cache_cmd(gdt, ccb);
 767                 crit_enter();
 768             }
 769         }
 770         if ((gdt->sc_state & GDT_POLLING) || !next_cmd)
 771             break;
 772     }
 773     if (gdt->sc_cmd_cnt > 0)
 774         gdt->sc_release_event(gdt);
 775
 776     crit_exit();
 777
 778     if ((gdt->sc_state & GDT_POLLING) && gdt->sc_cmd_cnt > 0) {
 779         gdt_wait(gdt, gccb, GDT_POLL_TIMEOUT);
 780     }
 781 }
 782
 783 static struct gdt_ccb *
 784 gdt_raw_cmd(struct gdt_softc *gdt, union ccb *ccb)
 785 {
 786     struct gdt_ccb *gccb;
 787     struct cam_sim *sim;
 788
 789     GDT_DPRINTF(GDT_D_CMD, ("gdt_raw_cmd(%p, %p)\n", gdt, ccb));
 790
 791     if (roundup(GDT_CMD_UNION + GDT_RAW_SZ, sizeof(u_int32_t)) +
 792         gdt->sc_cmd_off + GDT_DPMEM_COMMAND_OFFSET >
 793         gdt->sc_ic_all_size) {
 794         GDT_DPRINTF(GDT_D_INVALID, ("iir%d: gdt_raw_cmd(): DPMEM overflow\n",
 795                                     gdt->sc_hanum));
 796         return (NULL);
 797     }
 798
 799     bzero(gdt->sc_cmd, GDT_CMD_SZ);
 800
 801     gccb = gdt_get_ccb(gdt);
 802     if (gccb == NULL) {
 803         GDT_DPRINTF(GDT_D_INVALID, ("iir%d: No free command index found\n",
 804                                     gdt->sc_hanum));
 805         return (gccb);
 806     }
 807     sim = (struct cam_sim *)ccb->ccb_h.ccb_sim_ptr;
 808     gccb->gc_ccb = ccb;
 809     gccb->gc_service = GDT_SCSIRAWSERVICE;
 810     gccb->gc_flags = GDT_GCF_SCSI;
 811
 812     if (gdt->sc_cmd_cnt == 0)
 813         gdt->sc_set_sema0(gdt);
 814     crit_exit();
 815     gdt_enc32(gdt->sc_cmd + GDT_CMD_COMMANDINDEX,
 816               gccb->gc_cmd_index);
 817     gdt_enc16(gdt->sc_cmd + GDT_CMD_OPCODE, GDT_WRITE);
 818
 819     gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_RAW_DIRECTION,
 820               (ccb->ccb_h.flags & CAM_DIR_MASK) == CAM_DIR_IN ?
 821               GDT_DATA_IN : GDT_DATA_OUT);
 822     gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_RAW_SDLEN,
 823               ccb->csio.dxfer_len);
 824     gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_RAW_CLEN,
 825               ccb->csio.cdb_len);
 826     bcopy(ccb->csio.cdb_io.cdb_bytes, gdt->sc_cmd + GDT_CMD_UNION + GDT_RAW_CMD,
 827           ccb->csio.cdb_len);
 828     gdt->sc_cmd[GDT_CMD_UNION + GDT_RAW_TARGET] =
 829         ccb->ccb_h.target_id;
 830     gdt->sc_cmd[GDT_CMD_UNION + GDT_RAW_LUN] =
 831         ccb->ccb_h.target_lun;
 832     gdt->sc_cmd[GDT_CMD_UNION + GDT_RAW_BUS] =
 833         cam_sim_bus(sim);
 834     gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_RAW_SENSE_LEN,
 835               sizeof(struct scsi_sense_data));
 836     gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_RAW_SENSE_DATA,
 837               gdt_ccb_vtop(gdt, gccb) +
 838               offsetof(struct gdt_ccb, gc_scratch[0]));
 839
 840     /*
 841      * If we have any data to send with this command,
 842      * map it into bus space.
 843      */
 844     /* Only use S/G if there is a transfer */
 845     if ((ccb->ccb_h.flags & CAM_DIR_MASK) != CAM_DIR_NONE) {
 846         if ((ccb->ccb_h.flags & CAM_SCATTER_VALID) == 0) {
 847             if ((ccb->ccb_h.flags & CAM_DATA_PHYS) == 0) {
 848                 int error;
 849
 850                 /* vorher unlock von splcam() ??? */
 851                 crit_enter();
 852                 error =
 853                     bus_dmamap_load(gdt->sc_buffer_dmat,
 854                                     gccb->gc_dmamap,
 855                                     ccb->csio.data_ptr,
 856                                     ccb->csio.dxfer_len,
 857                                     gdtexecuteccb,
 858                                     gccb, /*flags*/0);
 859                 if (error == EINPROGRESS) {
 860                     xpt_freeze_simq(sim, 1);
 861                     gccb->gc_state |= CAM_RELEASE_SIMQ;
 862                 }
 863                 crit_exit();
 864             } else {
 865                 struct bus_dma_segment seg;
 866
 867                 /* Pointer to physical buffer */
 868                 seg.ds_addr =
 869                     (bus_addr_t)ccb->csio.data_ptr;
 870                 seg.ds_len = ccb->csio.dxfer_len;
 871                 gdtexecuteccb(gccb, &seg, 1, 0);
 872             }
 873         } else {
 874             struct bus_dma_segment *segs;
 875
 876             if ((ccb->ccb_h.flags & CAM_DATA_PHYS) != 0)
 877                 panic("iir%d: iir_action - Physical "
 878                       "segment pointers unsupported", gdt->sc_hanum);
 879
 880             if ((ccb->ccb_h.flags & CAM_SG_LIST_PHYS)==0)
 881                 panic("iir%d: iir_action - Virtual "
 882                       "segment addresses unsupported", gdt->sc_hanum);
 883
 884             /* Just use the segments provided */
 885             segs = (struct bus_dma_segment *)ccb->csio.data_ptr;
 886             gdtexecuteccb(gccb, segs, ccb->csio.sglist_cnt, 0);
 887         }
 888     } else {
 889         gdtexecuteccb(gccb, NULL, 0, 0);
 890     }
 891
 892     crit_enter();
 893     return (gccb);
 894 }
 895
 896 static struct gdt_ccb *
 897 gdt_cache_cmd(struct gdt_softc *gdt, union ccb *ccb)
 898 {
 899     struct gdt_ccb *gccb;
 900     struct cam_sim *sim;
 901     u_int8_t *cmdp;
 902     u_int16_t opcode;
 903     u_int32_t blockno, blockcnt;
 904
 905     GDT_DPRINTF(GDT_D_CMD, ("gdt_cache_cmd(%p, %p)\n", gdt, ccb));
 906
 907     if (roundup(GDT_CMD_UNION + GDT_CACHE_SZ, sizeof(u_int32_t)) +
 908         gdt->sc_cmd_off + GDT_DPMEM_COMMAND_OFFSET >
 909         gdt->sc_ic_all_size) {
 910         GDT_DPRINTF(GDT_D_INVALID, ("iir%d: gdt_cache_cmd(): DPMEM overflow\n",
 911                                     gdt->sc_hanum));
 912         return (NULL);
 913     }
 914
 915     bzero(gdt->sc_cmd, GDT_CMD_SZ);
 916
 917     gccb = gdt_get_ccb(gdt);
 918     if (gccb == NULL) {
 919         GDT_DPRINTF(GDT_D_DEBUG, ("iir%d: No free command index found\n",
 920                                   gdt->sc_hanum));
 921         return (gccb);
 922     }
 923     sim = (struct cam_sim *)ccb->ccb_h.ccb_sim_ptr;
 924     gccb->gc_ccb = ccb;
 925     gccb->gc_service = GDT_CACHESERVICE;
 926     gccb->gc_flags = GDT_GCF_SCSI;
 927
 928     if (gdt->sc_cmd_cnt == 0)
 929         gdt->sc_set_sema0(gdt);
 930     crit_exit();
 931     gdt_enc32(gdt->sc_cmd + GDT_CMD_COMMANDINDEX,
 932               gccb->gc_cmd_index);
 933     cmdp = ccb->csio.cdb_io.cdb_bytes;
 934     opcode = (*cmdp == WRITE_6 || *cmdp == WRITE_10) ? GDT_WRITE : GDT_READ;
 935     if ((gdt->sc_state & GDT_SHUTDOWN) && opcode == GDT_WRITE)
 936         opcode = GDT_WRITE_THR;
 937     gdt_enc16(gdt->sc_cmd + GDT_CMD_OPCODE, opcode);
 938
 939     gdt_enc16(gdt->sc_cmd + GDT_CMD_UNION + GDT_CACHE_DEVICENO,
 940               ccb->ccb_h.target_id);
 941     if (ccb->csio.cdb_len == 6) {
 942         struct scsi_rw_6 *rw = (struct scsi_rw_6 *)cmdp;
 943         blockno = scsi_3btoul(rw->addr) & ((SRW_TOPADDR<<16) | 0xffff);
 944         blockcnt = rw->length ? rw->length : 0x100;
 945     } else {
 946         struct scsi_rw_10 *rw = (struct scsi_rw_10 *)cmdp;
 947         blockno = scsi_4btoul(rw->addr);
 948         blockcnt = scsi_2btoul(rw->length);
 949     }
 950     gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_CACHE_BLOCKNO,
 951               blockno);
 952     gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_CACHE_BLOCKCNT,
 953               blockcnt);
 954
 955     /*
 956      * If we have any data to send with this command,
 957      * map it into bus space.
 958      */
 959     /* Only use S/G if there is a transfer */
 960     if ((ccb->ccb_h.flags & CAM_SCATTER_VALID) == 0) {
 961         if ((ccb->ccb_h.flags & CAM_DATA_PHYS) == 0) {
 962             int error;
 963
 964             /* vorher unlock von splcam() ??? */
 965             crit_enter();
 966             error =
 967                 bus_dmamap_load(gdt->sc_buffer_dmat,
 968                                 gccb->gc_dmamap,
 969                                 ccb->csio.data_ptr,
 970                                 ccb->csio.dxfer_len,
 971                                 gdtexecuteccb,
 972                                 gccb, /*flags*/0);
 973             if (error == EINPROGRESS) {
 974                 xpt_freeze_simq(sim, 1);
 975                 gccb->gc_state |= CAM_RELEASE_SIMQ;
 976             }
 977             crit_exit();
 978         } else {
 979             struct bus_dma_segment seg;
 980
 981             /* Pointer to physical buffer */
 982             seg.ds_addr =
 983                 (bus_addr_t)ccb->csio.data_ptr;
 984             seg.ds_len = ccb->csio.dxfer_len;
 985             gdtexecuteccb(gccb, &seg, 1, 0);
 986         }
 987     } else {
 988         struct bus_dma_segment *segs;
 989
 990         if ((ccb->ccb_h.flags & CAM_DATA_PHYS) != 0)
 991             panic("iir%d: iir_action - Physical "
 992                   "segment pointers unsupported", gdt->sc_hanum);
 993
 994         if ((ccb->ccb_h.flags & CAM_SG_LIST_PHYS)==0)
 995             panic("iir%d: iir_action - Virtual "
 996                   "segment addresses unsupported", gdt->sc_hanum);
 997
 998         /* Just use the segments provided */
 999         segs = (struct bus_dma_segment *)ccb->csio.data_ptr;
1000         gdtexecuteccb(gccb, segs, ccb->csio.sglist_cnt, 0);
1001     }
1002
1003     crit_enter();
1004     return (gccb);
1005 }
1006
1007 static struct gdt_ccb *
1008 gdt_ioctl_cmd(struct gdt_softc *gdt, gdt_ucmd_t *ucmd)
1009 {
1010     struct gdt_ccb *gccb;
1011     u_int32_t cnt;
1012
1013     GDT_DPRINTF(GDT_D_DEBUG, ("gdt_ioctl_cmd(%p, %p)\n", gdt, ucmd));
1014
1015     bzero(gdt->sc_cmd, GDT_CMD_SZ);
1016
1017     gccb = gdt_get_ccb(gdt);
1018     if (gccb == NULL) {
1019         GDT_DPRINTF(GDT_D_DEBUG, ("iir%d: No free command index found\n",
1020                                   gdt->sc_hanum));
1021         return (gccb);
1022     }
1023     gccb->gc_ucmd = ucmd;
1024     gccb->gc_service = ucmd->service;
1025     gccb->gc_flags = GDT_GCF_IOCTL;
1026
1027     /* check DPMEM space, copy data buffer from user space */
1028     if (ucmd->service == GDT_CACHESERVICE) {
1029         if (ucmd->OpCode == GDT_IOCTL) {
1030             gdt->sc_cmd_len = roundup(GDT_CMD_UNION + GDT_IOCTL_SZ,
1031                                       sizeof(u_int32_t));
1032             cnt = ucmd->u.ioctl.param_size;
1033             if (cnt > GDT_SCRATCH_SZ) {
1034                 printf("iir%d: Scratch buffer too small (%d/%d)\n",
1035                        gdt->sc_hanum, GDT_SCRATCH_SZ, cnt);
1036                 gdt_free_ccb(gdt, gccb);
1037                 return (NULL);
1038             }
1039         } else {
1040             gdt->sc_cmd_len = roundup(GDT_CMD_UNION + GDT_CACHE_SG_LST +
1041                                       GDT_SG_SZ, sizeof(u_int32_t));
1042             cnt = ucmd->u.cache.BlockCnt * GDT_SECTOR_SIZE;
1043             if (cnt > GDT_SCRATCH_SZ) {
1044                 printf("iir%d: Scratch buffer too small (%d/%d)\n",
1045                        gdt->sc_hanum, GDT_SCRATCH_SZ, cnt);
1046                 gdt_free_ccb(gdt, gccb);
1047                 return (NULL);
1048             }
1049         }
1050     } else {
1051         gdt->sc_cmd_len = roundup(GDT_CMD_UNION + GDT_RAW_SG_LST +
1052                                   GDT_SG_SZ, sizeof(u_int32_t));
1053         cnt = ucmd->u.raw.sdlen;
1054         if (cnt + ucmd->u.raw.sense_len > GDT_SCRATCH_SZ) {
1055             printf("iir%d: Scratch buffer too small (%d/%d)\n",
1056                    gdt->sc_hanum, GDT_SCRATCH_SZ, cnt + ucmd->u.raw.sense_len);
1057             gdt_free_ccb(gdt, gccb);
1058             return (NULL);
1059         }
1060     }
1061     if (cnt != 0)
1062         bcopy(ucmd->data, gccb->gc_scratch, cnt);
1063
1064     if (gdt->sc_cmd_off + gdt->sc_cmd_len + GDT_DPMEM_COMMAND_OFFSET >
1065         gdt->sc_ic_all_size) {
1066         GDT_DPRINTF(GDT_D_INVALID, ("iir%d: gdt_ioctl_cmd(): DPMEM overflow\n",
1067                                     gdt->sc_hanum));
1068         gdt_free_ccb(gdt, gccb);
1069         return (NULL);
1070     }
1071
1072     if (gdt->sc_cmd_cnt == 0)
1073         gdt->sc_set_sema0(gdt);
1074     crit_exit();
1075
1076     /* fill cmd structure */
1077     gdt_enc32(gdt->sc_cmd + GDT_CMD_COMMANDINDEX,
1078               gccb->gc_cmd_index);
1079     gdt_enc16(gdt->sc_cmd + GDT_CMD_OPCODE,
1080               ucmd->OpCode);
1081
1082     if (ucmd->service == GDT_CACHESERVICE) {
1083         if (ucmd->OpCode == GDT_IOCTL) {
1084             /* IOCTL */
1085             gdt_enc16(gdt->sc_cmd + GDT_CMD_UNION + GDT_IOCTL_PARAM_SIZE,
1086                       ucmd->u.ioctl.param_size);
1087             gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_IOCTL_SUBFUNC,
1088                       ucmd->u.ioctl.subfunc);
1089             gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_IOCTL_CHANNEL,
1090                       ucmd->u.ioctl.channel);
1091             gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_IOCTL_P_PARAM,
1092                       gdt_ccb_vtop(gdt, gccb) +
1093                       offsetof(struct gdt_ccb, gc_scratch[0]));
1094         } else {
1095             /* cache service command */
1096             gdt_enc16(gdt->sc_cmd + GDT_CMD_UNION + GDT_CACHE_DEVICENO,
1097                       ucmd->u.cache.DeviceNo);
1098             gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_CACHE_BLOCKNO,
1099                       ucmd->u.cache.BlockNo);
1100             gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_CACHE_BLOCKCNT,
1101                       ucmd->u.cache.BlockCnt);
1102             gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_CACHE_DESTADDR,
1103                       0xffffffffUL);
1104             gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_CACHE_SG_CANZ,
1105                       1);
1106             gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_CACHE_SG_LST +
1107                       GDT_SG_PTR, gdt_ccb_vtop(gdt, gccb) +
1108                       offsetof(struct gdt_ccb, gc_scratch[0]));
1109             gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_CACHE_SG_LST +
1110                       GDT_SG_LEN, ucmd->u.cache.BlockCnt * GDT_SECTOR_SIZE);
1111         }
1112     } else {
1113         /* raw service command */
1114         gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_RAW_DIRECTION,
1115                   ucmd->u.raw.direction);
1116         gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_RAW_SDATA,
1117                   0xffffffffUL);
1118         gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_RAW_SDLEN,
1119                   ucmd->u.raw.sdlen);
1120         gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_RAW_CLEN,
1121                   ucmd->u.raw.clen);
1122         bcopy(ucmd->u.raw.cmd, gdt->sc_cmd + GDT_CMD_UNION + GDT_RAW_CMD,
1123               12);
1124         gdt->sc_cmd[GDT_CMD_UNION + GDT_RAW_TARGET] =
1125             ucmd->u.raw.target;
1126         gdt->sc_cmd[GDT_CMD_UNION + GDT_RAW_LUN] =
1127             ucmd->u.raw.lun;
1128         gdt->sc_cmd[GDT_CMD_UNION + GDT_RAW_BUS] =
1129             ucmd->u.raw.bus;
1130         gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_RAW_SENSE_LEN,
1131                   ucmd->u.raw.sense_len);
1132         gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_RAW_SENSE_DATA,
1133                   gdt_ccb_vtop(gdt, gccb) +
1134                   offsetof(struct gdt_ccb, gc_scratch[ucmd->u.raw.sdlen]));
1135         gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_RAW_SG_RANZ,
1136                   1);
1137         gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_RAW_SG_LST +
1138                   GDT_SG_PTR, gdt_ccb_vtop(gdt, gccb) +
1139                   offsetof(struct gdt_ccb, gc_scratch[0]));
1140         gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_RAW_SG_LST +
1141                   GDT_SG_LEN, ucmd->u.raw.sdlen);
1142     }
1143
1144     crit_enter();
1145     gdt_stat.sg_count_act = 1;
1146     gdt->sc_copy_cmd(gdt, gccb);
1147     return (gccb);
1148 }
1149
1150 static void
1151 gdt_internal_cache_cmd(struct gdt_softc *gdt,union ccb *ccb)
1152 {
1153     int t;
1154
1155     t = ccb->ccb_h.target_id;
1156     GDT_DPRINTF(GDT_D_CMD, ("gdt_internal_cache_cmd(%p, %p, 0x%x, %d)\n",
1157         gdt, ccb, ccb->csio.cdb_io.cdb_bytes[0], t));
1158
1159     switch (ccb->csio.cdb_io.cdb_bytes[0]) {
1160       case TEST_UNIT_READY:
1161       case START_STOP:
1162         break;
1163       case REQUEST_SENSE:
1164         GDT_DPRINTF(GDT_D_MISC, ("REQUEST_SENSE\n"));
1165         break;
1166       case INQUIRY:
1167         {
1168             struct scsi_inquiry_data *inq;
1169
1170             inq = (struct scsi_inquiry_data *)ccb->csio.data_ptr;
1171             bzero(inq, sizeof(struct scsi_inquiry_data));
1172             inq->device = (gdt->sc_hdr[t].hd_devtype & 4) ?
1173                 T_CDROM : T_DIRECT;
1174             inq->dev_qual2 = (gdt->sc_hdr[t].hd_devtype & 1) ? 0x80 : 0;
1175             inq->version = SCSI_REV_2;
1176             inq->response_format = 2;
1177             inq->additional_length = 32;
1178             inq->flags = SID_CmdQue | SID_Sync;
1179             strcpy(inq->vendor, "IIR     ");
1180             sprintf(inq->product, "Host Drive   #%02d", t);
1181             strcpy(inq->revision, "   ");
1182             break;
1183         }
1184       case MODE_SENSE_6:
1185         {
1186             struct mpd_data {
1187                 struct scsi_mode_hdr_6 hd;
1188                 struct scsi_mode_block_descr bd;
1189                 struct scsi_control_page cp;
1190             } *mpd;
1191             u_int8_t page;
1192
1193             mpd = (struct mpd_data *)ccb->csio.data_ptr;
1194             bzero(mpd, sizeof(struct mpd_data));
1195             mpd->hd.datalen = sizeof(struct scsi_mode_hdr_6) +
1196                 sizeof(struct scsi_mode_block_descr);
1197             mpd->hd.dev_specific = (gdt->sc_hdr[t].hd_devtype & 2) ? 0x80 : 0;
1198             mpd->hd.block_descr_len = sizeof(struct scsi_mode_block_descr);
1199             mpd->bd.block_len[0] = (GDT_SECTOR_SIZE & 0x00ff0000) >> 16;
1200             mpd->bd.block_len[1] = (GDT_SECTOR_SIZE & 0x0000ff00) >> 8;
1201             mpd->bd.block_len[2] = (GDT_SECTOR_SIZE & 0x000000ff);
1202             page=((struct scsi_mode_sense_6 *)ccb->csio.cdb_io.cdb_bytes)->page;
1203             switch (page) {
1204               default:
1205                 GDT_DPRINTF(GDT_D_MISC, ("MODE_SENSE_6: page 0x%x\n", page));
1206                 break;
1207             }
1208             break;
1209         }
1210       case READ_CAPACITY:
1211         {
1212             struct scsi_read_capacity_data *rcd;
1213
1214             rcd = (struct scsi_read_capacity_data *)ccb->csio.data_ptr;
1215             bzero(rcd, sizeof(struct scsi_read_capacity_data));
1216             scsi_ulto4b(gdt->sc_hdr[t].hd_size - 1, rcd->addr);
1217             scsi_ulto4b(GDT_SECTOR_SIZE, rcd->length);
1218             break;
1219         }
1220       default:
1221         GDT_DPRINTF(GDT_D_MISC, ("gdt_internal_cache_cmd(%d) unknown\n",
1222                                     ccb->csio.cdb_io.cdb_bytes[0]));
1223         break;
1224     }
1225     ccb->ccb_h.status = CAM_REQ_CMP;
1226     --gdt_stat.io_count_act;
1227     xpt_done(ccb);
1228 }
1229
1230 static void
1231 gdtmapmem(void *arg, bus_dma_segment_t *dm_segs, int nseg, int error)
1232 {
1233     bus_addr_t *busaddrp;
1234
1235     busaddrp = (bus_addr_t *)arg;
1236     *busaddrp = dm_segs->ds_addr;
1237 }
1238
1239 static void
1240 gdtexecuteccb(void *arg, bus_dma_segment_t *dm_segs, int nseg, int error)
1241 {
1242     struct gdt_ccb *gccb;
1243     union ccb *ccb;
1244     struct gdt_softc *gdt;
1245     int i;
1246
1247     crit_enter();
1248
1249     gccb = (struct gdt_ccb *)arg;
1250     ccb = gccb->gc_ccb;
1251     gdt = cam_sim_softc((struct cam_sim *)ccb->ccb_h.ccb_sim_ptr);
1252
1253     GDT_DPRINTF(GDT_D_CMD, ("gdtexecuteccb(%p, %p, %p, %d, %d)\n",
1254                             gdt, gccb, dm_segs, nseg, error));
1255     gdt_stat.sg_count_act = nseg;
1256     if (nseg > gdt_stat.sg_count_max)
1257         gdt_stat.sg_count_max = nseg;
1258
1259     /* Copy the segments into our SG list */
1260     if (gccb->gc_service == GDT_CACHESERVICE) {
1261         for (i = 0; i < nseg; ++i) {
1262             gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_CACHE_SG_LST +
1263                       i * GDT_SG_SZ + GDT_SG_PTR, dm_segs->ds_addr);
1264             gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_CACHE_SG_LST +
1265                       i * GDT_SG_SZ + GDT_SG_LEN, dm_segs->ds_len);
1266             dm_segs++;
1267         }
1268         gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_CACHE_SG_CANZ,
1269                   nseg);
1270         gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_CACHE_DESTADDR,
1271                   0xffffffffUL);
1272
1273         gdt->sc_cmd_len = roundup(GDT_CMD_UNION + GDT_CACHE_SG_LST +
1274                                   nseg * GDT_SG_SZ, sizeof(u_int32_t));
1275     } else {
1276         for (i = 0; i < nseg; ++i) {
1277             gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_RAW_SG_LST +
1278                       i * GDT_SG_SZ + GDT_SG_PTR, dm_segs->ds_addr);
1279             gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_RAW_SG_LST +
1280                       i * GDT_SG_SZ + GDT_SG_LEN, dm_segs->ds_len);
1281             dm_segs++;
1282         }
1283         gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_RAW_SG_RANZ,
1284                   nseg);
1285         gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_RAW_SDATA,
1286                   0xffffffffUL);
1287
1288         gdt->sc_cmd_len = roundup(GDT_CMD_UNION + GDT_RAW_SG_LST +
1289                                   nseg * GDT_SG_SZ, sizeof(u_int32_t));
1290     }
1291
1292     if (nseg != 0) {
1293         bus_dmasync_op_t op;
1294
1295         if ((ccb->ccb_h.flags & CAM_DIR_MASK) == CAM_DIR_IN)
1296             op = BUS_DMASYNC_PREREAD;
1297         else
1298             op = BUS_DMASYNC_PREWRITE;
1299         bus_dmamap_sync(gdt->sc_buffer_dmat, gccb->gc_dmamap, op);
1300     }
1301
1302     /* We must NOT abort the command here if CAM_REQ_INPROG is not set,
1303      * because command semaphore is already set!
1304      */
1305
1306     ccb->ccb_h.status |= CAM_SIM_QUEUED;
1307     /* timeout handling */
1308     callout_reset(&ccb->ccb_h.timeout_ch, (ccb->ccb_h.timeout * hz) / 1000,
1309         iir_timeout, gccb);
1310
1311     gdt->sc_copy_cmd(gdt, gccb);
1312     crit_exit();
1313 }
1314
1315
1316 static void
1317 iir_action( struct cam_sim *sim, union ccb *ccb )
1318 {
1319     struct gdt_softc *gdt;
1320     int bus, target, lun;
1321
1322     gdt = (struct gdt_softc *)cam_sim_softc( sim );
1323     ccb->ccb_h.ccb_sim_ptr = sim;
1324     bus = cam_sim_bus(sim);
1325     target = ccb->ccb_h.target_id;
1326     lun = ccb->ccb_h.target_lun;
1327     GDT_DPRINTF(GDT_D_CMD,
1328                 ("iir_action(%p) func 0x%x cmd 0x%x bus %d target %d lun %d\n",
1329                  gdt, ccb->ccb_h.func_code, ccb->csio.cdb_io.cdb_bytes[0],
1330                  bus, target, lun));
1331     ++gdt_stat.io_count_act;
1332     if (gdt_stat.io_count_act > gdt_stat.io_count_max)
1333         gdt_stat.io_count_max = gdt_stat.io_count_act;
1334
1335     switch (ccb->ccb_h.func_code) {
1336       case XPT_SCSI_IO:
1337         crit_enter();
1338         TAILQ_INSERT_TAIL(&gdt->sc_ccb_queue, &ccb->ccb_h, sim_links.tqe);
1339         ++gdt_stat.req_queue_act;
1340         if (gdt_stat.req_queue_act > gdt_stat.req_queue_max)
1341             gdt_stat.req_queue_max = gdt_stat.req_queue_act;
1342         crit_exit();
1343         gdt_next(gdt);
1344         break;
1345       case XPT_RESET_DEV:   /* Bus Device Reset the specified SCSI device */
1346       case XPT_ABORT:                       /* Abort the specified CCB */
1347         /* XXX Implement */
1348         ccb->ccb_h.status = CAM_REQ_INVALID;
1349         --gdt_stat.io_count_act;
1350         xpt_done(ccb);
1351         break;
1352       case XPT_SET_TRAN_SETTINGS:
1353         ccb->ccb_h.status = CAM_FUNC_NOTAVAIL;
1354         --gdt_stat.io_count_act;
1355         xpt_done(ccb);
1356         break;
1357       case XPT_GET_TRAN_SETTINGS:
1358         /* Get default/user set transfer settings for the target */
1359           {
1360               struct        ccb_trans_settings *cts;
1361               u_int target_mask;
1362
1363               cts = &ccb->cts;
1364               target_mask = 0x01 << target;
1365               if ((cts->flags & CCB_TRANS_USER_SETTINGS) != 0) {
1366                   cts->flags = CCB_TRANS_DISC_ENB|CCB_TRANS_TAG_ENB;
1367                   cts->bus_width = MSG_EXT_WDTR_BUS_16_BIT;
1368                   cts->sync_period = 25; /* 10MHz */
1369                   if (cts->sync_period != 0)
1370                       cts->sync_offset = 15;
1371
1372                   cts->valid = CCB_TRANS_SYNC_RATE_VALID
1373                       | CCB_TRANS_SYNC_OFFSET_VALID
1374                       | CCB_TRANS_BUS_WIDTH_VALID
1375                       | CCB_TRANS_DISC_VALID
1376                       | CCB_TRANS_TQ_VALID;
1377                   ccb->ccb_h.status = CAM_REQ_CMP;
1378               } else {
1379                   ccb->ccb_h.status = CAM_FUNC_NOTAVAIL;
1380               }
1381               --gdt_stat.io_count_act;
1382               xpt_done(ccb);
1383               break;
1384           }
1385       case XPT_CALC_GEOMETRY:
1386           {
1387               struct ccb_calc_geometry *ccg;
1388               u_int32_t secs_per_cylinder;
1389
1390               ccg = &ccb->ccg;
1391               ccg->heads = gdt->sc_hdr[target].hd_heads;
1392               ccg->secs_per_track = gdt->sc_hdr[target].hd_secs;
1393               secs_per_cylinder = ccg->heads * ccg->secs_per_track;
1394               ccg->cylinders = ccg->volume_size / secs_per_cylinder;
1395               ccb->ccb_h.status = CAM_REQ_CMP;
1396               --gdt_stat.io_count_act;
1397               xpt_done(ccb);
1398               break;
1399           }
1400       case XPT_RESET_BUS:           /* Reset the specified SCSI bus */
1401           {
1402               /* XXX Implement */
1403               ccb->ccb_h.status = CAM_REQ_CMP;
1404               --gdt_stat.io_count_act;
1405               xpt_done(ccb);
1406               break;
1407           }
1408       case XPT_TERM_IO:             /* Terminate the I/O process */
1409         /* XXX Implement */
1410         ccb->ccb_h.status = CAM_REQ_INVALID;
1411         --gdt_stat.io_count_act;
1412         xpt_done(ccb);
1413         break;
1414       case XPT_PATH_INQ:            /* Path routing inquiry */
1415           {
1416               struct ccb_pathinq *cpi = &ccb->cpi;
1417
1418               cpi->version_num = 1;
1419               cpi->hba_inquiry = PI_SDTR_ABLE|PI_TAG_ABLE;
1420               cpi->hba_inquiry |= PI_WIDE_16;
1421               cpi->target_sprt = 1;
1422               cpi->hba_misc = 0;
1423               cpi->hba_eng_cnt = 0;
1424               if (bus == gdt->sc_virt_bus)
1425                   cpi->max_target = GDT_MAX_HDRIVES - 1;
1426               else if (gdt->sc_class & GDT_FC)
1427                   cpi->max_target = GDT_MAXID_FC - 1;
1428               else
1429                   cpi->max_target = GDT_MAXID - 1;
1430               cpi->max_lun = 7;
1431               cpi->unit_number = cam_sim_unit(sim);
1432               cpi->bus_id = bus;
1433               cpi->initiator_id =
1434                   (bus == gdt->sc_virt_bus ? 127 : gdt->sc_bus_id[bus]);
1435               cpi->base_transfer_speed = 3300;
1436               strncpy(cpi->sim_vid, "FreeBSD", SIM_IDLEN);
1437               strncpy(cpi->hba_vid, "Intel Corp.", HBA_IDLEN);
1438               strncpy(cpi->dev_name, cam_sim_name(sim), DEV_IDLEN);
1439               cpi->ccb_h.status = CAM_REQ_CMP;
1440               --gdt_stat.io_count_act;
1441               xpt_done(ccb);
1442               break;
1443           }
1444       default:
1445         GDT_DPRINTF(GDT_D_INVALID, ("gdt_next(%p) cmd 0x%x invalid\n",
1446                                     gdt, ccb->ccb_h.func_code));
1447         ccb->ccb_h.status = CAM_REQ_INVALID;
1448         --gdt_stat.io_count_act;
1449         xpt_done(ccb);
1450         break;
1451     }
1452 }
1453
1454 static void
1455 iir_poll( struct cam_sim *sim )
1456 {
1457     struct gdt_softc *gdt;
1458
1459     gdt = (struct gdt_softc *)cam_sim_softc( sim );
1460     GDT_DPRINTF(GDT_D_CMD, ("iir_poll sim %p gdt %p\n", sim, gdt));
1461     iir_intr(gdt);
1462 }
1463
1464 static void
1465 iir_timeout(void *arg)
1466 {
1467     GDT_DPRINTF(GDT_D_TIMEOUT, ("iir_timeout(%p)\n", arg));
1468 }
1469
1470 static void
1471 iir_watchdog(void *arg)
1472 {
1473     struct gdt_softc *gdt;
1474
1475     gdt = (struct gdt_softc *)arg;
1476     GDT_DPRINTF(GDT_D_DEBUG, ("iir_watchdog(%p)\n", gdt));
1477
1478     {
1479         int ccbs = 0, ucmds = 0, frees = 0, pends = 0;
1480         struct gdt_ccb *p;
1481         struct ccb_hdr *h;
1482         struct gdt_ucmd *u;
1483
1484         for (h = TAILQ_FIRST(&gdt->sc_ccb_queue); h != NULL;
1485              h = TAILQ_NEXT(h, sim_links.tqe))
1486             ccbs++;
1487         for (u = TAILQ_FIRST(&gdt->sc_ucmd_queue); u != NULL;
1488              u = TAILQ_NEXT(u, links))
1489             ucmds++;
1490         for (p = SLIST_FIRST(&gdt->sc_free_gccb); p != NULL;
1491              p = SLIST_NEXT(p, sle))
1492             frees++;
1493         for (p = SLIST_FIRST(&gdt->sc_pending_gccb); p != NULL;
1494              p = SLIST_NEXT(p, sle))
1495             pends++;
1496
1497         GDT_DPRINTF(GDT_D_TIMEOUT, ("ccbs %d ucmds %d frees %d pends %d\n",
1498                                     ccbs, ucmds, frees, pends));
1499     }
1500
1501     callout_reset(&gdt->watchdog_timer, hz * 15, iir_watchdog, gdt);
1502 }
1503
1504 static void
1505 iir_shutdown( void *arg, int howto )
1506 {
1507     struct gdt_softc *gdt;
1508     struct gdt_ccb *gccb;
1509     gdt_ucmd_t *ucmd;
1510     int i;
1511
1512     gdt = (struct gdt_softc *)arg;
1513     GDT_DPRINTF(GDT_D_CMD, ("iir_shutdown(%p, %d)\n", gdt, howto));
1514
1515     printf("iir%d: Flushing all Host Drives. Please wait ...  ",
1516            gdt->sc_hanum);
1517
1518     /* allocate ucmd buffer */
1519     ucmd = kmalloc(sizeof(gdt_ucmd_t), M_DEVBUF, M_INTWAIT | M_ZERO);
1520
1521     /* wait for pending IOs */
1522     crit_enter();
1523     gdt->sc_state = GDT_SHUTDOWN;
1524     crit_exit();
1525     if ((gccb = SLIST_FIRST(&gdt->sc_pending_gccb)) != NULL)
1526         (void) tsleep((void *)gccb, PCATCH, "iirshw", 100 * hz);
1527
1528     /* flush */
1529     for (i = 0; i < GDT_MAX_HDRIVES; ++i) {
1530         if (gdt->sc_hdr[i].hd_present) {
1531             ucmd->service = GDT_CACHESERVICE;
1532             ucmd->OpCode = GDT_FLUSH;
1533             ucmd->u.cache.DeviceNo = i;
1534             crit_enter();
1535             TAILQ_INSERT_TAIL(&gdt->sc_ucmd_queue, ucmd, links);
1536             ucmd->complete_flag = FALSE;
1537             crit_exit();
1538             gdt_next(gdt);
1539             if (!ucmd->complete_flag)
1540                 (void) tsleep((void *)ucmd, PCATCH, "iirshw", 10*hz);
1541         }
1542     }
1543
1544     kfree(ucmd, M_DEVBUF);
1545     printf("Done.\n");
1546 }
1547
1548 void
1549 iir_intr(void *arg)
1550 {
1551     struct gdt_softc *gdt = arg;
1552     struct gdt_intr_ctx ctx;
1553     struct gdt_ccb *gccb;
1554     gdt_ucmd_t *ucmd;
1555     u_int32_t cnt;
1556
1557     GDT_DPRINTF(GDT_D_INTR, ("gdt_intr(%p)\n", gdt));
1558
1559     /* If polling and we were not called from gdt_wait, just return */
1560     if ((gdt->sc_state & GDT_POLLING) &&
1561         !(gdt->sc_state & GDT_POLL_WAIT))
1562         return;
1563
1564     if (!(gdt->sc_state & GDT_POLLING))
1565         crit_enter();
1566     gdt_wait_index = 0;
1567
1568     ctx.istatus = gdt->sc_get_status(gdt);
1569     if (!ctx.istatus) {
1570         if (!(gdt->sc_state & GDT_POLLING))
1571             crit_exit();
1572         gdt->sc_status = GDT_S_NO_STATUS;
1573         return;
1574     }
1575
1576     gdt->sc_intr(gdt, &ctx);
1577
1578     gdt->sc_status = ctx.cmd_status;
1579     gdt->sc_service = ctx.service;
1580     gdt->sc_info = ctx.info;
1581     gdt->sc_info2 = ctx.info2;
1582
1583     if (gdt->sc_state & GDT_POLL_WAIT) {
1584         gdt_wait_gdt = gdt;
1585         gdt_wait_index = ctx.istatus;
1586     }
1587
1588     if (ctx.istatus == GDT_ASYNCINDEX) {
1589         gdt_async_event(gdt, ctx.service);
1590         if (!(gdt->sc_state & GDT_POLLING))
1591             crit_exit();
1592         return;
1593     }
1594     if (ctx.istatus == GDT_SPEZINDEX) {
1595         GDT_DPRINTF(GDT_D_INVALID,
1596                     ("iir%d: Service unknown or not initialized!\n",
1597                      gdt->sc_hanum));
1598         gdt->sc_dvr.size = sizeof(gdt->sc_dvr.eu.driver);
1599         gdt->sc_dvr.eu.driver.ionode = gdt->sc_hanum;
1600         gdt_store_event(GDT_ES_DRIVER, 4, &gdt->sc_dvr);
1601         if (!(gdt->sc_state & GDT_POLLING))
1602             crit_exit();
1603         return;
1604     }
1605
1606     gccb = &gdt->sc_gccbs[ctx.istatus - 2];
1607     ctx.service = gccb->gc_service;
1608
1609     switch (gccb->gc_flags) {
1610       case GDT_GCF_UNUSED:
1611         GDT_DPRINTF(GDT_D_INVALID, ("iir%d: Index (%d) to unused command!\n",
1612                     gdt->sc_hanum, ctx.istatus));
1613         gdt->sc_dvr.size = sizeof(gdt->sc_dvr.eu.driver);
1614         gdt->sc_dvr.eu.driver.ionode = gdt->sc_hanum;
1615         gdt->sc_dvr.eu.driver.index = ctx.istatus;
1616         gdt_store_event(GDT_ES_DRIVER, 1, &gdt->sc_dvr);
1617         gdt_free_ccb(gdt, gccb);
1618         /* fallthrough */
1619
1620       case GDT_GCF_INTERNAL:
1621         if (!(gdt->sc_state & GDT_POLLING))
1622             crit_exit();
1623         break;
1624
1625       case GDT_GCF_IOCTL:
1626         ucmd = gccb->gc_ucmd;
1627         if (gdt->sc_status == GDT_S_BSY) {
1628             GDT_DPRINTF(GDT_D_DEBUG, ("iir_intr(%p) ioctl: gccb %p busy\n",
1629                                       gdt, gccb));
1630             TAILQ_INSERT_HEAD(&gdt->sc_ucmd_queue, ucmd, links);
1631             if (!(gdt->sc_state & GDT_POLLING))
1632                 crit_exit();
1633         } else {
1634             ucmd->status = gdt->sc_status;
1635             ucmd->info = gdt->sc_info;
1636             ucmd->complete_flag = TRUE;
1637             if (ucmd->service == GDT_CACHESERVICE) {
1638                 if (ucmd->OpCode == GDT_IOCTL) {
1639                     cnt = ucmd->u.ioctl.param_size;
1640                     if (cnt != 0)
1641                         bcopy(gccb->gc_scratch, ucmd->data, cnt);
1642                 } else {
1643                     cnt = ucmd->u.cache.BlockCnt * GDT_SECTOR_SIZE;
1644                     if (cnt != 0)
1645                         bcopy(gccb->gc_scratch, ucmd->data, cnt);
1646                 }
1647             } else {
1648                 cnt = ucmd->u.raw.sdlen;
1649                 if (cnt != 0)
1650                     bcopy(gccb->gc_scratch, ucmd->data, cnt);
1651                 if (ucmd->u.raw.sense_len != 0)
1652                     bcopy(gccb->gc_scratch, ucmd->data, cnt);
1653             }
1654             gdt_free_ccb(gdt, gccb);
1655             if (!(gdt->sc_state & GDT_POLLING))
1656                 crit_exit();
1657             /* wakeup */
1658             wakeup(ucmd);
1659         }
1660         gdt_next(gdt);
1661         break;
1662
1663       default:
1664         gdt_free_ccb(gdt, gccb);
1665         gdt_sync_event(gdt, ctx.service, ctx.istatus, gccb);
1666         if (!(gdt->sc_state & GDT_POLLING))
1667             crit_exit();
1668         gdt_next(gdt);
1669         break;
1670     }
1671 }
1672
1673 int
1674 gdt_async_event(struct gdt_softc *gdt, int service)
1675 {
1676     struct gdt_ccb *gccb;
1677
1678     GDT_DPRINTF(GDT_D_INTR, ("gdt_async_event(%p, %d)\n", gdt, service));
1679
1680     if (service == GDT_SCREENSERVICE) {
1681         if (gdt->sc_status == GDT_MSG_REQUEST) {
1682             while (gdt->sc_test_busy(gdt))
1683                 DELAY(1);
1684             bzero(gdt->sc_cmd, GDT_CMD_SZ);
1685             gccb = gdt_get_ccb(gdt);
1686             if (gccb == NULL) {
1687                 printf("iir%d: No free command index found\n",
1688                        gdt->sc_hanum);
1689                 return (1);
1690             }
1691             gccb->gc_service = service;
1692             gccb->gc_flags = GDT_GCF_SCREEN;
1693             gdt->sc_set_sema0(gdt);
1694             gdt_enc32(gdt->sc_cmd + GDT_CMD_COMMANDINDEX,
1695                       gccb->gc_cmd_index);
1696             gdt_enc16(gdt->sc_cmd + GDT_CMD_OPCODE, GDT_READ);
1697             gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_SCREEN_MSG_HANDLE,
1698                       GDT_MSG_INV_HANDLE);
1699             gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_SCREEN_MSG_ADDR,
1700                       gdt_ccb_vtop(gdt, gccb) +
1701                       offsetof(struct gdt_ccb, gc_scratch[0]));
1702             gdt->sc_cmd_off = 0;
1703             gdt->sc_cmd_len = roundup(GDT_CMD_UNION + GDT_SCREEN_SZ,
1704                                       sizeof(u_int32_t));
1705             gdt->sc_cmd_cnt = 0;
1706             gdt->sc_copy_cmd(gdt, gccb);
1707             printf("iir%d: [PCI %d/%d] ",
1708                 gdt->sc_hanum,gdt->sc_bus,gdt->sc_slot);
1709             gdt->sc_release_event(gdt);
1710         }
1711
1712     } else {
1713         if ((gdt->sc_fw_vers & 0xff) >= 0x1a) {
1714             gdt->sc_dvr.size = 0;
1715             gdt->sc_dvr.eu.async.ionode = gdt->sc_hanum;
1716             gdt->sc_dvr.eu.async.status  = gdt->sc_status;
1717             /* severity and event_string already set! */
1718         } else {
1719             gdt->sc_dvr.size = sizeof(gdt->sc_dvr.eu.async);
1720             gdt->sc_dvr.eu.async.ionode   = gdt->sc_hanum;
1721             gdt->sc_dvr.eu.async.service = service;
1722             gdt->sc_dvr.eu.async.status  = gdt->sc_status;
1723             gdt->sc_dvr.eu.async.info    = gdt->sc_info;
1724             *(u_int32_t *)gdt->sc_dvr.eu.async.scsi_coord  = gdt->sc_info2;
1725         }
1726         gdt_store_event(GDT_ES_ASYNC, service, &gdt->sc_dvr);
1727         printf("iir%d: %s\n", gdt->sc_hanum, gdt->sc_dvr.event_string);
1728     }
1729
1730     return (0);
1731 }
1732
1733 int
1734 gdt_sync_event(struct gdt_softc *gdt, int service,
1735                u_int8_t index, struct gdt_ccb *gccb)
1736 {
1737     union ccb *ccb;
1738     bus_dmasync_op_t op;
1739
1740     GDT_DPRINTF(GDT_D_INTR,
1741                 ("gdt_sync_event(%p, %d, %d, %p)\n", gdt,service,index,gccb));
1742
1743     ccb = gccb->gc_ccb;
1744
1745     if (service == GDT_SCREENSERVICE) {
1746         u_int32_t msg_len;
1747
1748         msg_len = gdt_dec32(gccb->gc_scratch + GDT_SCR_MSG_LEN);
1749         if (msg_len)
1750             if (!(gccb->gc_scratch[GDT_SCR_MSG_ANSWER] &&
1751                   gccb->gc_scratch[GDT_SCR_MSG_EXT])) {
1752                 gccb->gc_scratch[GDT_SCR_MSG_TEXT + msg_len] = '\0';
1753                 printf("%s",&gccb->gc_scratch[GDT_SCR_MSG_TEXT]);
1754             }
1755
1756         if (gccb->gc_scratch[GDT_SCR_MSG_EXT] &&
1757             !gccb->gc_scratch[GDT_SCR_MSG_ANSWER]) {
1758             while (gdt->sc_test_busy(gdt))
1759                 DELAY(1);
1760             bzero(gdt->sc_cmd, GDT_CMD_SZ);
1761             gccb = gdt_get_ccb(gdt);
1762             if (gccb == NULL) {
1763                 printf("iir%d: No free command index found\n",
1764                        gdt->sc_hanum);
1765                 return (1);
1766             }
1767             gccb->gc_service = service;
1768             gccb->gc_flags = GDT_GCF_SCREEN;
1769             gdt->sc_set_sema0(gdt);
1770             gdt_enc32(gdt->sc_cmd + GDT_CMD_COMMANDINDEX,
1771                       gccb->gc_cmd_index);
1772             gdt_enc16(gdt->sc_cmd + GDT_CMD_OPCODE, GDT_READ);
1773             gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_SCREEN_MSG_HANDLE,
1774                       gccb->gc_scratch[GDT_SCR_MSG_HANDLE]);
1775             gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_SCREEN_MSG_ADDR,
1776                       gdt_ccb_vtop(gdt, gccb) +
1777                       offsetof(struct gdt_ccb, gc_scratch[0]));
1778             gdt->sc_cmd_off = 0;
1779             gdt->sc_cmd_len = roundup(GDT_CMD_UNION + GDT_SCREEN_SZ,
1780                                       sizeof(u_int32_t));
1781             gdt->sc_cmd_cnt = 0;
1782             gdt->sc_copy_cmd(gdt, gccb);
1783             gdt->sc_release_event(gdt);
1784             return (0);
1785         }
1786
1787         if (gccb->gc_scratch[GDT_SCR_MSG_ANSWER] &&
1788             gdt_dec32(gccb->gc_scratch + GDT_SCR_MSG_ALEN)) {
1789             /* default answers (getchar() not possible) */
1790             if (gdt_dec32(gccb->gc_scratch + GDT_SCR_MSG_ALEN) == 1) {
1791                 gdt_enc32(gccb->gc_scratch + GDT_SCR_MSG_ALEN, 0);
1792                 gdt_enc32(gccb->gc_scratch + GDT_SCR_MSG_LEN, 1);
1793                 gccb->gc_scratch[GDT_SCR_MSG_TEXT] = 0;
1794             } else {
1795                 gdt_enc32(gccb->gc_scratch + GDT_SCR_MSG_ALEN,
1796                           gdt_dec32(gccb->gc_scratch + GDT_SCR_MSG_ALEN) - 2);
1797                 gdt_enc32(gccb->gc_scratch + GDT_SCR_MSG_LEN, 2);
1798                 gccb->gc_scratch[GDT_SCR_MSG_TEXT] = 1;
1799                 gccb->gc_scratch[GDT_SCR_MSG_TEXT + 1] = 0;
1800             }
1801             gccb->gc_scratch[GDT_SCR_MSG_EXT] = 0;
1802             gccb->gc_scratch[GDT_SCR_MSG_ANSWER] = 0;
1803             while (gdt->sc_test_busy(gdt))
1804                 DELAY(1);
1805             bzero(gdt->sc_cmd, GDT_CMD_SZ);
1806             gccb = gdt_get_ccb(gdt);
1807             if (gccb == NULL) {
1808                 printf("iir%d: No free command index found\n",
1809                        gdt->sc_hanum);
1810                 return (1);
1811             }
1812             gccb->gc_service = service;
1813             gccb->gc_flags = GDT_GCF_SCREEN;
1814             gdt->sc_set_sema0(gdt);
1815             gdt_enc32(gdt->sc_cmd + GDT_CMD_COMMANDINDEX,
1816                       gccb->gc_cmd_index);
1817             gdt_enc16(gdt->sc_cmd + GDT_CMD_OPCODE, GDT_WRITE);
1818             gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_SCREEN_MSG_HANDLE,
1819                       gccb->gc_scratch[GDT_SCR_MSG_HANDLE]);
1820             gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_SCREEN_MSG_ADDR,
1821                       gdt_ccb_vtop(gdt, gccb) +
1822                       offsetof(struct gdt_ccb, gc_scratch[0]));
1823             gdt->sc_cmd_off = 0;
1824             gdt->sc_cmd_len = roundup(GDT_CMD_UNION + GDT_SCREEN_SZ,
1825                                       sizeof(u_int32_t));
1826             gdt->sc_cmd_cnt = 0;
1827             gdt->sc_copy_cmd(gdt, gccb);
1828             gdt->sc_release_event(gdt);
1829             return (0);
1830         }
1831         printf("\n");
1832         return (0);
1833     } else {
1834         callout_stop(&ccb->ccb_h.timeout_ch);
1835         if (gdt->sc_status == GDT_S_BSY) {
1836             GDT_DPRINTF(GDT_D_DEBUG, ("gdt_sync_event(%p) gccb %p busy\n",
1837                                       gdt, gccb));
1838             TAILQ_INSERT_HEAD(&gdt->sc_ccb_queue, &ccb->ccb_h, sim_links.tqe);
1839             ++gdt_stat.req_queue_act;
1840             if (gdt_stat.req_queue_act > gdt_stat.req_queue_max)
1841                 gdt_stat.req_queue_max = gdt_stat.req_queue_act;
1842             return (2);
1843         }
1844
1845         if ((ccb->ccb_h.flags & CAM_DIR_MASK) == CAM_DIR_IN)
1846             op = BUS_DMASYNC_POSTREAD;
1847         else
1848             op = BUS_DMASYNC_POSTWRITE;
1849         bus_dmamap_sync(gdt->sc_buffer_dmat, gccb->gc_dmamap, op);
1850
1851         ccb->csio.resid = 0;
1852         if (gdt->sc_status == GDT_S_OK) {
1853             ccb->ccb_h.status = CAM_REQ_CMP;
1854         } else {
1855             /* error */
1856             if (gccb->gc_service == GDT_CACHESERVICE) {
1857                 ccb->ccb_h.status = CAM_SCSI_STATUS_ERROR | CAM_AUTOSNS_VALID;
1858                 ccb->csio.scsi_status = SCSI_STATUS_CHECK_COND;
1859                 bzero(&ccb->csio.sense_data, ccb->csio.sense_len);
1860                 ccb->csio.sense_data.error_code =
1861                     SSD_CURRENT_ERROR | SSD_ERRCODE_VALID;
1862                 ccb->csio.sense_data.flags = SSD_KEY_NOT_READY;
1863
1864                 gdt->sc_dvr.size = sizeof(gdt->sc_dvr.eu.sync);
1865                 gdt->sc_dvr.eu.sync.ionode  = gdt->sc_hanum;
1866                 gdt->sc_dvr.eu.sync.service = service;
1867                 gdt->sc_dvr.eu.sync.status  = gdt->sc_status;
1868                 gdt->sc_dvr.eu.sync.info    = gdt->sc_info;
1869                 gdt->sc_dvr.eu.sync.hostdrive = ccb->ccb_h.target_id;
1870                 if (gdt->sc_status >= 0x8000)
1871                     gdt_store_event(GDT_ES_SYNC, 0, &gdt->sc_dvr);
1872                 else
1873                     gdt_store_event(GDT_ES_SYNC, service, &gdt->sc_dvr);
1874             } else {
1875                 /* raw service */
1876                 if (gdt->sc_status != GDT_S_RAW_SCSI || gdt->sc_info >= 0x100) {
1877                     ccb->ccb_h.status = CAM_SEL_TIMEOUT;
1878                 } else {
1879                     ccb->ccb_h.status = CAM_SCSI_STATUS_ERROR|CAM_AUTOSNS_VALID;
1880                     ccb->csio.scsi_status = gdt->sc_info;
1881                     bcopy(gccb->gc_scratch, &ccb->csio.sense_data,
1882                           ccb->csio.sense_len);
1883                 }
1884             }
1885         }
1886         --gdt_stat.io_count_act;
1887         xpt_done(ccb);
1888     }
1889     return (0);
1890 }
1891
1892 /* Controller event handling functions */
1893 gdt_evt_str *
1894 gdt_store_event(u_int16_t source, u_int16_t idx, gdt_evt_data *evt)
1895 {
1896     gdt_evt_str *e;
1897     struct timeval tv;
1898
1899     GDT_DPRINTF(GDT_D_MISC, ("gdt_store_event(%d, %d)\n", source, idx));
1900     if (source == 0)                        /* no source -> no event */
1901         return 0;
1902
1903     if (ebuffer[elastidx].event_source == source &&
1904         ebuffer[elastidx].event_idx == idx &&
1905         ((evt->size != 0 && ebuffer[elastidx].event_data.size != 0 &&
1906           !memcmp((char *)&ebuffer[elastidx].event_data.eu,
1907                   (char *)&evt->eu, evt->size)) ||
1908          (evt->size == 0 && ebuffer[elastidx].event_data.size == 0 &&
1909           !strcmp((char *)&ebuffer[elastidx].event_data.event_string,
1910                   (char *)&evt->event_string)))) {
1911         e = &ebuffer[elastidx];
1912         getmicrotime(&tv);
1913         e->last_stamp = tv.tv_sec;
1914         ++e->same_count;
1915     } else {
1916         if (ebuffer[elastidx].event_source != 0) {  /* entry not free ? */
1917             ++elastidx;
1918             if (elastidx == GDT_MAX_EVENTS)
1919                 elastidx = 0;
1920             if (elastidx == eoldidx) {              /* reached mark ? */
1921                 ++eoldidx;
1922                 if (eoldidx == GDT_MAX_EVENTS)
1923                     eoldidx = 0;
1924             }
1925         }
1926         e = &ebuffer[elastidx];
1927         e->event_source = source;
1928         e->event_idx = idx;
1929         getmicrotime(&tv);
1930         e->first_stamp = e->last_stamp = tv.tv_sec;
1931         e->same_count = 1;
1932         e->event_data = *evt;
1933         e->application = 0;
1934     }
1935     return e;
1936 }
1937
1938 int
1939 gdt_read_event(int handle, gdt_evt_str *estr)
1940 {
1941     gdt_evt_str *e;
1942     int eindex;
1943
1944     GDT_DPRINTF(GDT_D_MISC, ("gdt_read_event(%d)\n", handle));
1945     crit_enter();
1946     if (handle == -1)
1947         eindex = eoldidx;
1948     else
1949         eindex = handle;
1950     estr->event_source = 0;
1951
1952     if (eindex >= GDT_MAX_EVENTS) {
1953         crit_exit();
1954         return eindex;
1955     }
1956     e = &ebuffer[eindex];
1957     if (e->event_source != 0) {
1958         if (eindex != elastidx) {
1959             if (++eindex == GDT_MAX_EVENTS)
1960                 eindex = 0;
1961         } else {
1962             eindex = -1;
1963         }
1964         memcpy(estr, e, sizeof(gdt_evt_str));
1965     }
1966     crit_exit();
1967     return eindex;
1968 }
1969
1970 void
1971 gdt_readapp_event(u_int8_t application, gdt_evt_str *estr)
1972 {
1973     gdt_evt_str *e;
1974     int found = FALSE;
1975     int eindex;
1976
1977     GDT_DPRINTF(GDT_D_MISC, ("gdt_readapp_event(%d)\n", application));
1978     crit_enter();
1979     eindex = eoldidx;
1980     for (;;) {
1981         e = &ebuffer[eindex];
1982         if (e->event_source == 0)
1983             break;
1984         if ((e->application & application) == 0) {
1985             e->application |= application;
1986             found = TRUE;
1987             break;
1988         }
1989         if (eindex == elastidx)
1990             break;
1991         if (++eindex == GDT_MAX_EVENTS)
1992             eindex = 0;
1993     }
1994     if (found)
1995         memcpy(estr, e, sizeof(gdt_evt_str));
1996     else
1997         estr->event_source = 0;
1998     crit_exit();
1999 }
2000
2001 void
2002 gdt_clear_events(void)
2003 {
2004     GDT_DPRINTF(GDT_D_MISC, ("gdt_clear_events\n"));
2005
2006     eoldidx = elastidx = 0;
2007     ebuffer[0].event_source = 0;
2008 }