sys/dev/raid/iir/iir.c

   1 /* $FreeBSD: src/sys/dev/iir/iir.c,v 1.2.2.3 2002/05/05 08:18:12 asmodai Exp $ */
   2 /* $DragonFly: src/sys/dev/raid/iir/iir.c,v 1.9 2004/09/17 03:39:39 joerg Exp $ */
   3 /*
   4  *       Copyright (c) 2000-01 Intel Corporation
   5  *       All Rights Reserved
   6  *
   7  * Redistribution and use in source and binary forms, with or without
   8  * modification, are permitted provided that the following conditions
   9  * are met:
  10  * 1. Redistributions of source code must retain the above copyright
  11  *    notice, this list of conditions, and the following disclaimer,
  12  *    without modification, immediately at the beginning of the file.
  13  * 2. Redistributions in binary form must reproduce the above copyright
  14  *    notice, this list of conditions and the following disclaimer in the
  15  *    documentation and/or other materials provided with the distribution.
  16  * 3. The name of the author may not be used to endorse or promote products
  17  *    derived from this software without specific prior written permission.
  18  *
  19  * THIS SOFTWARE IS PROVIDED BY THE AUTHOR AND CONTRIBUTORS ``AS IS'' AND
  20  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  21  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
  22  * ARE DISCLAIMED. IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE FOR
  23  * ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
  24  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
  25  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
  26  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
  27  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
  28  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
  29  * SUCH DAMAGE.
  30  */
  31
  32 /*
  33  * iir.c: SCSI dependant code for the Intel Integrated RAID Controller driver
  34  *
  35  * Written by: Achim Leubner <achim.leubner@intel.com>
  36  * Fixes/Additions: Boji Tony Kannanthanam <boji.t.kannanthanam@intel.com>
  37  *
  38  * credits:     Niklas Hallqvist;       OpenBSD driver for the ICP Controllers.
  39  *              Mike Smith;             Some driver source code.
  40  *              FreeBSD.ORG;            Great O/S to work on and for.
  41  *
  42  * TODO:
  43  */
  44
  45 #ident "$Id: iir.c 1.2 2001/06/21 20:28:32 achim Exp $"
  46
  47 #define _IIR_C_
  48
  49 /* #include "opt_iir.h" */
  50 #include <sys/param.h>
  51 #include <sys/systm.h>
  52 #include <sys/types.h>
  53 #include <sys/eventhandler.h>
  54 #include <sys/malloc.h>
  55 #include <sys/kernel.h>
  56 #include <sys/bus.h>
  57
  58 #include <machine/bus_memio.h>
  59 #include <machine/bus_pio.h>
  60 #include <machine/bus.h>
  61 #include <machine/clock.h>
  62 #include <machine/stdarg.h>
  63
  64 #include <bus/cam/cam.h>
  65 #include <bus/cam/cam_ccb.h>
  66 #include <bus/cam/cam_sim.h>
  67 #include <bus/cam/cam_xpt_sim.h>
  68 #include <bus/cam/cam_debug.h>
  69 #include <bus/cam/scsi/scsi_all.h>
  70 #include <bus/cam/scsi/scsi_message.h>
  71
  72 #include <vm/vm.h>
  73 #include <vm/pmap.h>
  74
  75 #include "iir.h"
  76
  77 struct gdt_softc *gdt_wait_gdt;
  78 int     gdt_wait_index;
  79
  80 #ifdef GDT_DEBUG
  81 int     gdt_debug = GDT_DEBUG;
  82 #ifdef __SERIAL__
  83 #define MAX_SERBUF 160
  84 static void ser_init(void);
  85 static void ser_puts(char *str);
  86 static void ser_putc(int c);
  87 static char strbuf[MAX_SERBUF+1];
  88 #ifdef __COM2__
  89 #define COM_BASE 0x2f8
  90 #else
  91 #define COM_BASE 0x3f8
  92 #endif
  93 static void ser_init()
  94 {
  95     unsigned port=COM_BASE;
  96
  97     outb(port+3, 0x80);
  98     outb(port+1, 0);
  99     /* 19200 Baud, if 9600: outb(12,port) */
 100     outb(port, 6);
 101     outb(port+3, 3);
 102     outb(port+1, 0);
 103 }
 104
 105 static void ser_puts(char *str)
 106 {
 107     char *ptr;
 108
 109     ser_init();
 110     for (ptr=str;*ptr;++ptr)
 111         ser_putc((int)(*ptr));
 112 }
 113
 114 static void ser_putc(int c)
 115 {
 116     unsigned port=COM_BASE;
 117
 118     while ((inb(port+5) & 0x20)==0);
 119     outb(port, c);
 120     if (c==0x0a)
 121     {
 122         while ((inb(port+5) & 0x20)==0);
 123         outb(port, 0x0d);
 124     }
 125 }
 126
 127 int ser_printf(const char *fmt, ...)
 128 {
 129     __va_list args;
 130     int i;
 131
 132     __va_start(args,fmt);
 133     i = vsprintf(strbuf,fmt,args);
 134     ser_puts(strbuf);
 135     __va_end(args);
 136     return i;
 137 }
 138 #endif
 139 #endif
 140
 141 /* The linked list of softc structures */
 142 struct gdt_softc_list gdt_softcs = TAILQ_HEAD_INITIALIZER(gdt_softcs);
 143 /* controller cnt. */
 144 int gdt_cnt = 0;
 145 /* event buffer */
 146 static gdt_evt_str ebuffer[GDT_MAX_EVENTS];
 147 static int elastidx, eoldidx;
 148 /* statistics */
 149 gdt_statist_t gdt_stat;
 150
 151 /* Definitions for our use of the SIM private CCB area */
 152 #define ccb_sim_ptr     spriv_ptr0
 153 #define ccb_priority    spriv_field1
 154
 155 static void     iir_action(struct cam_sim *sim, union ccb *ccb);
 156 static void     iir_poll(struct cam_sim *sim);
 157 static void     iir_shutdown(void *arg, int howto);
 158 static void     iir_timeout(void *arg);
 159 static void     iir_watchdog(void *arg);
 160
 161 static void     gdt_eval_mapping(u_int32_t size, int *cyls, int *heads,
 162                                  int *secs);
 163 static int      gdt_internal_cmd(struct gdt_softc *gdt, struct gdt_ccb *gccb,
 164                                  u_int8_t service, u_int16_t opcode,
 165                                  u_int32_t arg1, u_int32_t arg2, u_int32_t arg3);
 166 static int      gdt_wait(struct gdt_softc *gdt, struct gdt_ccb *ccb,
 167                          int timeout);
 168
 169 static struct gdt_ccb *gdt_get_ccb(struct gdt_softc *gdt);
 170 static u_int32_t gdt_ccb_vtop(struct gdt_softc *gdt,
 171                               struct gdt_ccb *gccb);
 172
 173 static int      gdt_sync_event(struct gdt_softc *gdt, int service,
 174                                u_int8_t index, struct gdt_ccb *gccb);
 175 static int      gdt_async_event(struct gdt_softc *gdt, int service);
 176 static struct gdt_ccb *gdt_raw_cmd(struct gdt_softc *gdt,
 177                                    union ccb *ccb, int *lock);
 178 static struct gdt_ccb *gdt_cache_cmd(struct gdt_softc *gdt,
 179                                      union ccb *ccb, int *lock);
 180 static struct gdt_ccb *gdt_ioctl_cmd(struct gdt_softc *gdt,
 181                                      gdt_ucmd_t *ucmd, int *lock);
 182 static void     gdt_internal_cache_cmd(struct gdt_softc *gdt,union ccb *ccb);
 183
 184 static void     gdtmapmem(void *arg, bus_dma_segment_t *dm_segs,
 185                           int nseg, int error);
 186 static void     gdtexecuteccb(void *arg, bus_dma_segment_t *dm_segs,
 187                               int nseg, int error);
 188
 189 int
 190 iir_init(struct gdt_softc *gdt)
 191 {
 192     u_int16_t cdev_cnt;
 193     int i, id, drv_cyls, drv_hds, drv_secs;
 194     struct gdt_ccb *gccb;
 195
 196     GDT_DPRINTF(GDT_D_DEBUG, ("iir_init()\n"));
 197
 198     gdt->sc_state = GDT_POLLING;
 199     gdt_clear_events();
 200     bzero(&gdt_stat, sizeof(gdt_statist_t));
 201
 202     SLIST_INIT(&gdt->sc_free_gccb);
 203     SLIST_INIT(&gdt->sc_pending_gccb);
 204     TAILQ_INIT(&gdt->sc_ccb_queue);
 205     TAILQ_INIT(&gdt->sc_ucmd_queue);
 206     TAILQ_INSERT_TAIL(&gdt_softcs, gdt, links);
 207
 208     /* DMA tag for mapping buffers into device visible space. */
 209     if (bus_dma_tag_create(gdt->sc_parent_dmat, /*alignment*/1, /*boundary*/0,
 210                            /*lowaddr*/BUS_SPACE_MAXADDR,
 211                            /*highaddr*/BUS_SPACE_MAXADDR,
 212                            /*filter*/NULL, /*filterarg*/NULL,
 213                            /*maxsize*/MAXBSIZE, /*nsegments*/GDT_MAXSG,
 214                            /*maxsegsz*/BUS_SPACE_MAXSIZE_32BIT,
 215                            /*flags*/BUS_DMA_ALLOCNOW,
 216                            &gdt->sc_buffer_dmat) != 0) {
 217         printf("iir%d: bus_dma_tag_create(...,gdt->sc_buffer_dmat) failed\n",
 218                gdt->sc_hanum);
 219         return (1);
 220     }
 221     gdt->sc_init_level++;
 222
 223     /* DMA tag for our ccb structures */
 224     if (bus_dma_tag_create(gdt->sc_parent_dmat, /*alignment*/1, /*boundary*/0,
 225                            /*lowaddr*/BUS_SPACE_MAXADDR,
 226                            /*highaddr*/BUS_SPACE_MAXADDR,
 227                            /*filter*/NULL, /*filterarg*/NULL,
 228                            GDT_MAXCMDS * sizeof(struct gdt_ccb),
 229                            /*nsegments*/1,
 230                            /*maxsegsz*/BUS_SPACE_MAXSIZE_32BIT,
 231                            /*flags*/0, &gdt->sc_gccb_dmat) != 0) {
 232         printf("iir%d: bus_dma_tag_create(...,gdt->sc_gccb_dmat) failed\n",
 233                gdt->sc_hanum);
 234         return (1);
 235     }
 236     gdt->sc_init_level++;
 237
 238     /* Allocation for our ccbs */
 239     if (bus_dmamem_alloc(gdt->sc_gccb_dmat, (void **)&gdt->sc_gccbs,
 240                          BUS_DMA_NOWAIT, &gdt->sc_gccb_dmamap) != 0) {
 241         printf("iir%d: bus_dmamem_alloc(...,&gdt->sc_gccbs,...) failed\n",
 242                gdt->sc_hanum);
 243         return (1);
 244     }
 245     gdt->sc_init_level++;
 246
 247     /* And permanently map them */
 248     bus_dmamap_load(gdt->sc_gccb_dmat, gdt->sc_gccb_dmamap,
 249                     gdt->sc_gccbs, GDT_MAXCMDS * sizeof(struct gdt_ccb),
 250                     gdtmapmem, &gdt->sc_gccb_busbase, /*flags*/0);
 251     gdt->sc_init_level++;
 252
 253     /* Clear them out. */
 254     bzero(gdt->sc_gccbs, GDT_MAXCMDS * sizeof(struct gdt_ccb));
 255
 256     /* Initialize the ccbs */
 257     for (i = GDT_MAXCMDS-1; i >= 0; i--) {
 258         gdt->sc_gccbs[i].gc_cmd_index = i + 2;
 259         gdt->sc_gccbs[i].gc_flags = GDT_GCF_UNUSED;
 260         gdt->sc_gccbs[i].gc_map_flag = FALSE;
 261         if (bus_dmamap_create(gdt->sc_buffer_dmat, /*flags*/0,
 262                               &gdt->sc_gccbs[i].gc_dmamap) != 0)
 263             return(1);
 264         gdt->sc_gccbs[i].gc_map_flag = TRUE;
 265         SLIST_INSERT_HEAD(&gdt->sc_free_gccb, &gdt->sc_gccbs[i], sle);
 266     }
 267     gdt->sc_init_level++;
 268
 269     /* create the control device */
 270     gdt->sc_dev = gdt_make_dev(gdt->sc_hanum);
 271
 272     /* allocate ccb for gdt_internal_cmd() */
 273     gccb = gdt_get_ccb(gdt);
 274     if (gccb == NULL) {
 275         printf("iir%d: No free command index found\n",
 276                gdt->sc_hanum);
 277         return (1);
 278     }
 279
 280     if (!gdt_internal_cmd(gdt, gccb, GDT_SCREENSERVICE, GDT_INIT,
 281                           0, 0, 0)) {
 282         printf("iir%d: Screen service initialization error %d\n",
 283                gdt->sc_hanum, gdt->sc_status);
 284         gdt_free_ccb(gdt, gccb);
 285         return (1);
 286     }
 287
 288     if (!gdt_internal_cmd(gdt, gccb, GDT_CACHESERVICE, GDT_INIT,
 289                           GDT_LINUX_OS, 0, 0)) {
 290         printf("iir%d: Cache service initialization error %d\n",
 291                gdt->sc_hanum, gdt->sc_status);
 292         gdt_free_ccb(gdt, gccb);
 293         return (1);
 294     }
 295     gdt_internal_cmd(gdt, gccb, GDT_CACHESERVICE, GDT_UNFREEZE_IO,
 296                      0, 0, 0);
 297
 298     if (!gdt_internal_cmd(gdt, gccb, GDT_CACHESERVICE, GDT_MOUNT,
 299                           0xffff, 1, 0)) {
 300         printf("iir%d: Cache service mount error %d\n",
 301                gdt->sc_hanum, gdt->sc_status);
 302         gdt_free_ccb(gdt, gccb);
 303         return (1);
 304     }
 305
 306     if (!gdt_internal_cmd(gdt, gccb, GDT_CACHESERVICE, GDT_INIT,
 307                           GDT_LINUX_OS, 0, 0)) {
 308         printf("iir%d: Cache service post-mount initialization error %d\n",
 309                gdt->sc_hanum, gdt->sc_status);
 310         gdt_free_ccb(gdt, gccb);
 311         return (1);
 312     }
 313     cdev_cnt = (u_int16_t)gdt->sc_info;
 314     gdt->sc_fw_vers = gdt->sc_service;
 315
 316     /* Detect number of buses */
 317     gdt_enc32(gccb->gc_scratch + GDT_IOC_VERSION, GDT_IOC_NEWEST);
 318     gccb->gc_scratch[GDT_IOC_LIST_ENTRIES] = GDT_MAXBUS;
 319     gccb->gc_scratch[GDT_IOC_FIRST_CHAN] = 0;
 320     gccb->gc_scratch[GDT_IOC_LAST_CHAN] = GDT_MAXBUS - 1;
 321     gdt_enc32(gccb->gc_scratch + GDT_IOC_LIST_OFFSET, GDT_IOC_HDR_SZ);
 322     if (gdt_internal_cmd(gdt, gccb, GDT_CACHESERVICE, GDT_IOCTL,
 323                          GDT_IOCHAN_RAW_DESC, GDT_INVALID_CHANNEL,
 324                          GDT_IOC_HDR_SZ + GDT_MAXBUS * GDT_RAWIOC_SZ)) {
 325         gdt->sc_bus_cnt = gccb->gc_scratch[GDT_IOC_CHAN_COUNT];
 326         for (i = 0; i < gdt->sc_bus_cnt; i++) {
 327             id = gccb->gc_scratch[GDT_IOC_HDR_SZ +
 328                                  i * GDT_RAWIOC_SZ + GDT_RAWIOC_PROC_ID];
 329             gdt->sc_bus_id[i] = id < GDT_MAXID_FC ? id : 0xff;
 330         }
 331     } else {
 332         /* New method failed, use fallback. */
 333         for (i = 0; i < GDT_MAXBUS; i++) {
 334             gdt_enc32(gccb->gc_scratch + GDT_GETCH_CHANNEL_NO, i);
 335             if (!gdt_internal_cmd(gdt, gccb, GDT_CACHESERVICE, GDT_IOCTL,
 336                                   GDT_SCSI_CHAN_CNT | GDT_L_CTRL_PATTERN,
 337                                   GDT_IO_CHANNEL | GDT_INVALID_CHANNEL,
 338                                   GDT_GETCH_SZ)) {
 339                 if (i == 0) {
 340                     printf("iir%d: Cannot get channel count, "
 341                            "error %d\n", gdt->sc_hanum, gdt->sc_status);
 342                     gdt_free_ccb(gdt, gccb);
 343                     return (1);
 344                 }
 345                 break;
 346             }
 347             gdt->sc_bus_id[i] =
 348                 (gccb->gc_scratch[GDT_GETCH_SIOP_ID] < GDT_MAXID_FC) ?
 349                 gccb->gc_scratch[GDT_GETCH_SIOP_ID] : 0xff;
 350         }
 351         gdt->sc_bus_cnt = i;
 352     }
 353     /* add one "virtual" channel for the host drives */
 354     gdt->sc_virt_bus = gdt->sc_bus_cnt;
 355     gdt->sc_bus_cnt++;
 356
 357     if (!gdt_internal_cmd(gdt, gccb, GDT_SCSIRAWSERVICE, GDT_INIT,
 358                           0, 0, 0)) {
 359             printf("iir%d: Raw service initialization error %d\n",
 360                    gdt->sc_hanum, gdt->sc_status);
 361             gdt_free_ccb(gdt, gccb);
 362             return (1);
 363     }
 364
 365     /* Set/get features raw service (scatter/gather) */
 366     gdt->sc_raw_feat = 0;
 367     if (gdt_internal_cmd(gdt, gccb, GDT_SCSIRAWSERVICE, GDT_SET_FEAT,
 368                          GDT_SCATTER_GATHER, 0, 0)) {
 369         if (gdt_internal_cmd(gdt, gccb, GDT_SCSIRAWSERVICE, GDT_GET_FEAT,
 370                              0, 0, 0)) {
 371             gdt->sc_raw_feat = gdt->sc_info;
 372             if (!(gdt->sc_info & GDT_SCATTER_GATHER)) {
 373                 panic("iir%d: Scatter/Gather Raw Service "
 374                       "required but not supported!\n", gdt->sc_hanum);
 375                 gdt_free_ccb(gdt, gccb);
 376                 return (1);
 377             }
 378         }
 379     }
 380
 381     /* Set/get features cache service (scatter/gather) */
 382     gdt->sc_cache_feat = 0;
 383     if (gdt_internal_cmd(gdt, gccb, GDT_CACHESERVICE, GDT_SET_FEAT,
 384                          0, GDT_SCATTER_GATHER, 0)) {
 385         if (gdt_internal_cmd(gdt, gccb, GDT_CACHESERVICE, GDT_GET_FEAT,
 386                              0, 0, 0)) {
 387             gdt->sc_cache_feat = gdt->sc_info;
 388             if (!(gdt->sc_info & GDT_SCATTER_GATHER)) {
 389                 panic("iir%d: Scatter/Gather Cache Service "
 390                   "required but not supported!\n", gdt->sc_hanum);
 391                 gdt_free_ccb(gdt, gccb);
 392                 return (1);
 393             }
 394         }
 395     }
 396
 397     /* Scan for cache devices */
 398     for (i = 0; i < cdev_cnt && i < GDT_MAX_HDRIVES; i++) {
 399         if (gdt_internal_cmd(gdt, gccb, GDT_CACHESERVICE, GDT_INFO,
 400                              i, 0, 0)) {
 401             gdt->sc_hdr[i].hd_present = 1;
 402             gdt->sc_hdr[i].hd_size = gdt->sc_info;
 403
 404             /*
 405              * Evaluate mapping (sectors per head, heads per cyl)
 406              */
 407             gdt->sc_hdr[i].hd_size &= ~GDT_SECS32;
 408             if (gdt->sc_info2 == 0)
 409                 gdt_eval_mapping(gdt->sc_hdr[i].hd_size,
 410                                  &drv_cyls, &drv_hds, &drv_secs);
 411             else {
 412                 drv_hds = gdt->sc_info2 & 0xff;
 413                 drv_secs = (gdt->sc_info2 >> 8) & 0xff;
 414                 drv_cyls = gdt->sc_hdr[i].hd_size / drv_hds /
 415                     drv_secs;
 416             }
 417             gdt->sc_hdr[i].hd_heads = drv_hds;
 418             gdt->sc_hdr[i].hd_secs = drv_secs;
 419             /* Round the size */
 420             gdt->sc_hdr[i].hd_size = drv_cyls * drv_hds * drv_secs;
 421
 422             if (gdt_internal_cmd(gdt, gccb, GDT_CACHESERVICE,
 423                                  GDT_DEVTYPE, i, 0, 0))
 424                 gdt->sc_hdr[i].hd_devtype = gdt->sc_info;
 425         }
 426     }
 427
 428     GDT_DPRINTF(GDT_D_INIT, ("dpmem %x %d-bus %d cache device%s\n",
 429                              gdt->sc_dpmembase,
 430                              gdt->sc_bus_cnt, cdev_cnt,
 431                              cdev_cnt == 1 ? "" : "s"));
 432     gdt_free_ccb(gdt, gccb);
 433
 434     gdt_cnt++;
 435     return (0);
 436 }
 437
 438 void
 439 iir_free(struct gdt_softc *gdt)
 440 {
 441     int i;
 442
 443     GDT_DPRINTF(GDT_D_INIT, ("iir_free()\n"));
 444
 445     switch (gdt->sc_init_level) {
 446       default:
 447         gdt_destroy_dev(gdt->sc_dev);
 448       case 5:
 449         for (i = GDT_MAXCMDS-1; i >= 0; i--)
 450             if (gdt->sc_gccbs[i].gc_map_flag)
 451                 bus_dmamap_destroy(gdt->sc_buffer_dmat,
 452                                    gdt->sc_gccbs[i].gc_dmamap);
 453         bus_dmamap_unload(gdt->sc_gccb_dmat, gdt->sc_gccb_dmamap);
 454       case 4:
 455         bus_dmamem_free(gdt->sc_gccb_dmat, gdt->sc_gccbs, gdt->sc_gccb_dmamap);
 456       case 3:
 457         bus_dma_tag_destroy(gdt->sc_gccb_dmat);
 458       case 2:
 459         bus_dma_tag_destroy(gdt->sc_buffer_dmat);
 460       case 1:
 461         bus_dma_tag_destroy(gdt->sc_parent_dmat);
 462       case 0:
 463         break;
 464     }
 465     TAILQ_REMOVE(&gdt_softcs, gdt, links);
 466 }
 467
 468 void
 469 iir_attach(struct gdt_softc *gdt)
 470 {
 471     struct cam_devq *devq;
 472     int i;
 473
 474     GDT_DPRINTF(GDT_D_INIT, ("iir_attach()\n"));
 475
 476     callout_init(&gdt->watchdog_timer);
 477     /*
 478      * Create the device queue for our SIM.
 479      */
 480     devq = cam_simq_alloc(GDT_MAXCMDS);
 481     if (devq == NULL)
 482         return;
 483
 484     for (i = 0; i < gdt->sc_bus_cnt; i++) {
 485         /*
 486          * Construct our SIM entry
 487          */
 488         gdt->sims[i] = cam_sim_alloc(iir_action, iir_poll, "iir",
 489                                      gdt, gdt->sc_hanum, /*untagged*/2,
 490                                      /*tagged*/GDT_MAXCMDS, devq);
 491         if (xpt_bus_register(gdt->sims[i], i) != CAM_SUCCESS) {
 492             cam_sim_free(gdt->sims[i]);
 493             break;
 494         }
 495
 496         if (xpt_create_path(&gdt->paths[i], /*periph*/NULL,
 497                             cam_sim_path(gdt->sims[i]),
 498                             CAM_TARGET_WILDCARD,
 499                             CAM_LUN_WILDCARD) != CAM_REQ_CMP) {
 500             xpt_bus_deregister(cam_sim_path(gdt->sims[i]));
 501             cam_sim_free(gdt->sims[i]);
 502             break;
 503         }
 504     }
 505     cam_simq_release(devq);
 506     if (i > 0)
 507         EVENTHANDLER_REGISTER(shutdown_final, iir_shutdown,
 508                               gdt, SHUTDOWN_PRI_DEFAULT);
 509     /* iir_watchdog(gdt); */
 510     gdt->sc_state = GDT_NORMAL;
 511 }
 512
 513 static void
 514 gdt_eval_mapping(u_int32_t size, int *cyls, int *heads, int *secs)
 515 {
 516     *cyls = size / GDT_HEADS / GDT_SECS;
 517     if (*cyls < GDT_MAXCYLS) {
 518         *heads = GDT_HEADS;
 519         *secs = GDT_SECS;
 520     } else {
 521         /* Too high for 64 * 32 */
 522         *cyls = size / GDT_MEDHEADS / GDT_MEDSECS;
 523         if (*cyls < GDT_MAXCYLS) {
 524             *heads = GDT_MEDHEADS;
 525             *secs = GDT_MEDSECS;
 526         } else {
 527             /* Too high for 127 * 63 */
 528             *cyls = size / GDT_BIGHEADS / GDT_BIGSECS;
 529             *heads = GDT_BIGHEADS;
 530             *secs = GDT_BIGSECS;
 531         }
 532     }
 533 }
 534
 535 static int
 536 gdt_wait(struct gdt_softc *gdt, struct gdt_ccb *gccb,
 537          int timeout)
 538 {
 539     int rv = 0;
 540
 541     GDT_DPRINTF(GDT_D_INIT,
 542                 ("gdt_wait(%p, %p, %d)\n", gdt, gccb, timeout));
 543
 544     gdt->sc_state |= GDT_POLL_WAIT;
 545     do {
 546         iir_intr(gdt);
 547         if (gdt == gdt_wait_gdt &&
 548             gccb->gc_cmd_index == gdt_wait_index) {
 549             rv = 1;
 550             break;
 551         }
 552         DELAY(1);
 553     } while (--timeout);
 554     gdt->sc_state &= ~GDT_POLL_WAIT;
 555
 556     while (gdt->sc_test_busy(gdt))
 557         DELAY(1);               /* XXX correct? */
 558
 559     return (rv);
 560 }
 561
 562 static int
 563 gdt_internal_cmd(struct gdt_softc *gdt, struct gdt_ccb *gccb,
 564                  u_int8_t service, u_int16_t opcode,
 565                  u_int32_t arg1, u_int32_t arg2, u_int32_t arg3)
 566 {
 567     int retries;
 568
 569     GDT_DPRINTF(GDT_D_CMD, ("gdt_internal_cmd(%p, %d, %d, %d, %d, %d)\n",
 570                             gdt, service, opcode, arg1, arg2, arg3));
 571
 572     bzero(gdt->sc_cmd, GDT_CMD_SZ);
 573
 574     for (retries = GDT_RETRIES; ; ) {
 575         gccb->gc_service = service;
 576         gccb->gc_flags = GDT_GCF_INTERNAL;
 577
 578         gdt->sc_set_sema0(gdt);
 579         gdt_enc32(gdt->sc_cmd + GDT_CMD_COMMANDINDEX,
 580                   gccb->gc_cmd_index);
 581         gdt_enc16(gdt->sc_cmd + GDT_CMD_OPCODE, opcode);
 582
 583         switch (service) {
 584           case GDT_CACHESERVICE:
 585             if (opcode == GDT_IOCTL) {
 586                 gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION +
 587                           GDT_IOCTL_SUBFUNC, arg1);
 588                 gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION +
 589                           GDT_IOCTL_CHANNEL, arg2);
 590                 gdt_enc16(gdt->sc_cmd + GDT_CMD_UNION +
 591                           GDT_IOCTL_PARAM_SIZE, (u_int16_t)arg3);
 592                 gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_IOCTL_P_PARAM,
 593                           gdt_ccb_vtop(gdt, gccb) +
 594                           offsetof(struct gdt_ccb, gc_scratch[0]));
 595             } else {
 596                 gdt_enc16(gdt->sc_cmd + GDT_CMD_UNION +
 597                           GDT_CACHE_DEVICENO, (u_int16_t)arg1);
 598                 gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION +
 599                           GDT_CACHE_BLOCKNO, arg2);
 600             }
 601             break;
 602
 603           case GDT_SCSIRAWSERVICE:
 604             gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION +
 605                       GDT_RAW_DIRECTION, arg1);
 606             gdt->sc_cmd[GDT_CMD_UNION + GDT_RAW_BUS] =
 607                 (u_int8_t)arg2;
 608             gdt->sc_cmd[GDT_CMD_UNION + GDT_RAW_TARGET] =
 609                 (u_int8_t)arg3;
 610             gdt->sc_cmd[GDT_CMD_UNION + GDT_RAW_LUN] =
 611                 (u_int8_t)(arg3 >> 8);
 612         }
 613
 614         gdt->sc_cmd_len = GDT_CMD_SZ;
 615         gdt->sc_cmd_off = 0;
 616         gdt->sc_cmd_cnt = 0;
 617         gdt->sc_copy_cmd(gdt, gccb);
 618         gdt->sc_release_event(gdt);
 619         DELAY(20);
 620         if (!gdt_wait(gdt, gccb, GDT_POLL_TIMEOUT))
 621             return (0);
 622         if (gdt->sc_status != GDT_S_BSY || --retries == 0)
 623             break;
 624         DELAY(1);
 625     }
 626     return (gdt->sc_status == GDT_S_OK);
 627 }
 628
 629 static struct gdt_ccb *
 630 gdt_get_ccb(struct gdt_softc *gdt)
 631 {
 632     struct gdt_ccb *gccb;
 633     int lock;
 634
 635     GDT_DPRINTF(GDT_D_QUEUE, ("gdt_get_ccb(%p)\n", gdt));
 636
 637     lock = splcam();
 638     gccb = SLIST_FIRST(&gdt->sc_free_gccb);
 639     if (gccb != NULL) {
 640         SLIST_REMOVE_HEAD(&gdt->sc_free_gccb, sle);
 641         SLIST_INSERT_HEAD(&gdt->sc_pending_gccb, gccb, sle);
 642         ++gdt_stat.cmd_index_act;
 643         if (gdt_stat.cmd_index_act > gdt_stat.cmd_index_max)
 644             gdt_stat.cmd_index_max = gdt_stat.cmd_index_act;
 645     }
 646     splx(lock);
 647     return (gccb);
 648 }
 649
 650 void
 651 gdt_free_ccb(struct gdt_softc *gdt, struct gdt_ccb *gccb)
 652 {
 653     int lock;
 654
 655     GDT_DPRINTF(GDT_D_QUEUE, ("gdt_free_ccb(%p, %p)\n", gdt, gccb));
 656
 657     lock = splcam();
 658     gccb->gc_flags = GDT_GCF_UNUSED;
 659     SLIST_REMOVE(&gdt->sc_pending_gccb, gccb, gdt_ccb, sle);
 660     SLIST_INSERT_HEAD(&gdt->sc_free_gccb, gccb, sle);
 661     --gdt_stat.cmd_index_act;
 662     splx(lock);
 663     if (gdt->sc_state & GDT_SHUTDOWN)
 664         wakeup(gccb);
 665 }
 666
 667 static u_int32_t
 668 gdt_ccb_vtop(struct gdt_softc *gdt, struct gdt_ccb *gccb)
 669 {
 670     return (gdt->sc_gccb_busbase
 671             + (u_int32_t)((caddr_t)gccb - (caddr_t)gdt->sc_gccbs));
 672 }
 673
 674 void
 675 gdt_next(struct gdt_softc *gdt)
 676 {
 677     int lock;
 678     union ccb *ccb;
 679     gdt_ucmd_t *ucmd;
 680     struct cam_sim *sim;
 681     int bus, target, lun;
 682     int next_cmd;
 683
 684     struct ccb_scsiio *csio;
 685     struct ccb_hdr *ccbh;
 686     struct gdt_ccb *gccb = NULL;
 687     u_int8_t cmd;
 688
 689     GDT_DPRINTF(GDT_D_QUEUE, ("gdt_next(%p)\n", gdt));
 690
 691     lock = splcam();
 692     if (gdt->sc_test_busy(gdt)) {
 693         if (!(gdt->sc_state & GDT_POLLING)) {
 694             splx(lock);
 695             return;
 696         }
 697         while (gdt->sc_test_busy(gdt))
 698             DELAY(1);
 699     }
 700
 701     gdt->sc_cmd_cnt = gdt->sc_cmd_off = 0;
 702     next_cmd = TRUE;
 703     for (;;) {
 704         /* I/Os in queue? controller ready? */
 705         if (!TAILQ_FIRST(&gdt->sc_ucmd_queue) &&
 706             !TAILQ_FIRST(&gdt->sc_ccb_queue))
 707             break;
 708
 709         /* 1.: I/Os without ccb (IOCTLs) */
 710         ucmd = TAILQ_FIRST(&gdt->sc_ucmd_queue);
 711         if (ucmd != NULL) {
 712             TAILQ_REMOVE(&gdt->sc_ucmd_queue, ucmd, links);
 713             if ((gccb = gdt_ioctl_cmd(gdt, ucmd, &lock)) == NULL) {
 714                 TAILQ_INSERT_HEAD(&gdt->sc_ucmd_queue, ucmd, links);
 715                 break;
 716             }
 717             break;
 718             /* wenn mehrere Kdos. zulassen: if (!gdt_polling) continue; */
 719         }
 720
 721         /* 2.: I/Os with ccb */
 722         ccb = (union ccb *)TAILQ_FIRST(&gdt->sc_ccb_queue);
 723         /* ist dann immer != NULL, da oben getestet */
 724         sim = (struct cam_sim *)ccb->ccb_h.ccb_sim_ptr;
 725         bus = cam_sim_bus(sim);
 726         target = ccb->ccb_h.target_id;
 727         lun = ccb->ccb_h.target_lun;
 728
 729         TAILQ_REMOVE(&gdt->sc_ccb_queue, &ccb->ccb_h, sim_links.tqe);
 730         --gdt_stat.req_queue_act;
 731         /* ccb->ccb_h.func_code is XPT_SCSI_IO */
 732         GDT_DPRINTF(GDT_D_QUEUE, ("XPT_SCSI_IO flags 0x%x)\n",
 733                                   ccb->ccb_h.flags));
 734         csio = &ccb->csio;
 735         ccbh = &ccb->ccb_h;
 736         cmd  = csio->cdb_io.cdb_bytes[0];
 737         /* Max CDB length is 12 bytes */
 738         if (csio->cdb_len > 12) {
 739             ccbh->status = CAM_REQ_INVALID;
 740             --gdt_stat.io_count_act;
 741             xpt_done(ccb);
 742         } else if (bus != gdt->sc_virt_bus) {
 743             /* raw service command */
 744             if ((gccb = gdt_raw_cmd(gdt, ccb, &lock)) == NULL) {
 745                 TAILQ_INSERT_HEAD(&gdt->sc_ccb_queue, &ccb->ccb_h,
 746                                   sim_links.tqe);
 747                 ++gdt_stat.req_queue_act;
 748                 if (gdt_stat.req_queue_act > gdt_stat.req_queue_max)
 749                     gdt_stat.req_queue_max = gdt_stat.req_queue_act;
 750                 next_cmd = FALSE;
 751             }
 752         } else if (target >= GDT_MAX_HDRIVES ||
 753                    !gdt->sc_hdr[target].hd_present || lun != 0) {
 754             ccbh->status = CAM_SEL_TIMEOUT;
 755             --gdt_stat.io_count_act;
 756             xpt_done(ccb);
 757         } else {
 758             /* cache service command */
 759             if (cmd == READ_6  || cmd == WRITE_6 ||
 760                 cmd == READ_10 || cmd == WRITE_10) {
 761                 if ((gccb = gdt_cache_cmd(gdt, ccb, &lock)) == NULL) {
 762                     TAILQ_INSERT_HEAD(&gdt->sc_ccb_queue, &ccb->ccb_h,
 763                                       sim_links.tqe);
 764                     ++gdt_stat.req_queue_act;
 765                     if (gdt_stat.req_queue_act > gdt_stat.req_queue_max)
 766                         gdt_stat.req_queue_max = gdt_stat.req_queue_act;
 767                     next_cmd = FALSE;
 768                 }
 769             } else {
 770                 splx(lock);
 771                 gdt_internal_cache_cmd(gdt, ccb);
 772                 lock = splcam();
 773             }
 774         }
 775         if ((gdt->sc_state & GDT_POLLING) || !next_cmd)
 776             break;
 777     }
 778     if (gdt->sc_cmd_cnt > 0)
 779         gdt->sc_release_event(gdt);
 780
 781     splx(lock);
 782
 783     if ((gdt->sc_state & GDT_POLLING) && gdt->sc_cmd_cnt > 0) {
 784         gdt_wait(gdt, gccb, GDT_POLL_TIMEOUT);
 785     }
 786 }
 787
 788 static struct gdt_ccb *
 789 gdt_raw_cmd(struct gdt_softc *gdt, union ccb *ccb, int *lock)
 790 {
 791     struct gdt_ccb *gccb;
 792     struct cam_sim *sim;
 793
 794     GDT_DPRINTF(GDT_D_CMD, ("gdt_raw_cmd(%p, %p)\n", gdt, ccb));
 795
 796     if (roundup(GDT_CMD_UNION + GDT_RAW_SZ, sizeof(u_int32_t)) +
 797         gdt->sc_cmd_off + GDT_DPMEM_COMMAND_OFFSET >
 798         gdt->sc_ic_all_size) {
 799         GDT_DPRINTF(GDT_D_INVALID, ("iir%d: gdt_raw_cmd(): DPMEM overflow\n",
 800                                     gdt->sc_hanum));
 801         return (NULL);
 802     }
 803
 804     bzero(gdt->sc_cmd, GDT_CMD_SZ);
 805
 806     gccb = gdt_get_ccb(gdt);
 807     if (gccb == NULL) {
 808         GDT_DPRINTF(GDT_D_INVALID, ("iir%d: No free command index found\n",
 809                                     gdt->sc_hanum));
 810         return (gccb);
 811     }
 812     sim = (struct cam_sim *)ccb->ccb_h.ccb_sim_ptr;
 813     gccb->gc_ccb = ccb;
 814     gccb->gc_service = GDT_SCSIRAWSERVICE;
 815     gccb->gc_flags = GDT_GCF_SCSI;
 816
 817     if (gdt->sc_cmd_cnt == 0)
 818         gdt->sc_set_sema0(gdt);
 819     splx(*lock);
 820     gdt_enc32(gdt->sc_cmd + GDT_CMD_COMMANDINDEX,
 821               gccb->gc_cmd_index);
 822     gdt_enc16(gdt->sc_cmd + GDT_CMD_OPCODE, GDT_WRITE);
 823
 824     gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_RAW_DIRECTION,
 825               (ccb->ccb_h.flags & CAM_DIR_MASK) == CAM_DIR_IN ?
 826               GDT_DATA_IN : GDT_DATA_OUT);
 827     gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_RAW_SDLEN,
 828               ccb->csio.dxfer_len);
 829     gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_RAW_CLEN,
 830               ccb->csio.cdb_len);
 831     bcopy(ccb->csio.cdb_io.cdb_bytes, gdt->sc_cmd + GDT_CMD_UNION + GDT_RAW_CMD,
 832           ccb->csio.cdb_len);
 833     gdt->sc_cmd[GDT_CMD_UNION + GDT_RAW_TARGET] =
 834         ccb->ccb_h.target_id;
 835     gdt->sc_cmd[GDT_CMD_UNION + GDT_RAW_LUN] =
 836         ccb->ccb_h.target_lun;
 837     gdt->sc_cmd[GDT_CMD_UNION + GDT_RAW_BUS] =
 838         cam_sim_bus(sim);
 839     gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_RAW_SENSE_LEN,
 840               sizeof(struct scsi_sense_data));
 841     gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_RAW_SENSE_DATA,
 842               gdt_ccb_vtop(gdt, gccb) +
 843               offsetof(struct gdt_ccb, gc_scratch[0]));
 844
 845     /*
 846      * If we have any data to send with this command,
 847      * map it into bus space.
 848      */
 849     /* Only use S/G if there is a transfer */
 850     if ((ccb->ccb_h.flags & CAM_DIR_MASK) != CAM_DIR_NONE) {
 851         if ((ccb->ccb_h.flags & CAM_SCATTER_VALID) == 0) {
 852             if ((ccb->ccb_h.flags & CAM_DATA_PHYS) == 0) {
 853                 int s;
 854                 int error;
 855
 856                 /* vorher unlock von splcam() ??? */
 857                 s = splsoftvm();
 858                 error =
 859                     bus_dmamap_load(gdt->sc_buffer_dmat,
 860                                     gccb->gc_dmamap,
 861                                     ccb->csio.data_ptr,
 862                                     ccb->csio.dxfer_len,
 863                                     gdtexecuteccb,
 864                                     gccb, /*flags*/0);
 865                 if (error == EINPROGRESS) {
 866                     xpt_freeze_simq(sim, 1);
 867                     gccb->gc_state |= CAM_RELEASE_SIMQ;
 868                 }
 869                 splx(s);
 870             } else {
 871                 struct bus_dma_segment seg;
 872
 873                 /* Pointer to physical buffer */
 874                 seg.ds_addr =
 875                     (bus_addr_t)ccb->csio.data_ptr;
 876                 seg.ds_len = ccb->csio.dxfer_len;
 877                 gdtexecuteccb(gccb, &seg, 1, 0);
 878             }
 879         } else {
 880             struct bus_dma_segment *segs;
 881
 882             if ((ccb->ccb_h.flags & CAM_DATA_PHYS) != 0)
 883                 panic("iir%d: iir_action - Physical "
 884                       "segment pointers unsupported", gdt->sc_hanum);
 885
 886             if ((ccb->ccb_h.flags & CAM_SG_LIST_PHYS)==0)
 887                 panic("iir%d: iir_action - Virtual "
 888                       "segment addresses unsupported", gdt->sc_hanum);
 889
 890             /* Just use the segments provided */
 891             segs = (struct bus_dma_segment *)ccb->csio.data_ptr;
 892             gdtexecuteccb(gccb, segs, ccb->csio.sglist_cnt, 0);
 893         }
 894     } else {
 895         gdtexecuteccb(gccb, NULL, 0, 0);
 896     }
 897
 898     *lock = splcam();
 899     return (gccb);
 900 }
 901
 902 static struct gdt_ccb *
 903 gdt_cache_cmd(struct gdt_softc *gdt, union ccb *ccb, int *lock)
 904 {
 905     struct gdt_ccb *gccb;
 906     struct cam_sim *sim;
 907     u_int8_t *cmdp;
 908     u_int16_t opcode;
 909     u_int32_t blockno, blockcnt;
 910
 911     GDT_DPRINTF(GDT_D_CMD, ("gdt_cache_cmd(%p, %p)\n", gdt, ccb));
 912
 913     if (roundup(GDT_CMD_UNION + GDT_CACHE_SZ, sizeof(u_int32_t)) +
 914         gdt->sc_cmd_off + GDT_DPMEM_COMMAND_OFFSET >
 915         gdt->sc_ic_all_size) {
 916         GDT_DPRINTF(GDT_D_INVALID, ("iir%d: gdt_cache_cmd(): DPMEM overflow\n",
 917                                     gdt->sc_hanum));
 918         return (NULL);
 919     }
 920
 921     bzero(gdt->sc_cmd, GDT_CMD_SZ);
 922
 923     gccb = gdt_get_ccb(gdt);
 924     if (gccb == NULL) {
 925         GDT_DPRINTF(GDT_D_DEBUG, ("iir%d: No free command index found\n",
 926                                   gdt->sc_hanum));
 927         return (gccb);
 928     }
 929     sim = (struct cam_sim *)ccb->ccb_h.ccb_sim_ptr;
 930     gccb->gc_ccb = ccb;
 931     gccb->gc_service = GDT_CACHESERVICE;
 932     gccb->gc_flags = GDT_GCF_SCSI;
 933
 934     if (gdt->sc_cmd_cnt == 0)
 935         gdt->sc_set_sema0(gdt);
 936     splx(*lock);
 937     gdt_enc32(gdt->sc_cmd + GDT_CMD_COMMANDINDEX,
 938               gccb->gc_cmd_index);
 939     cmdp = ccb->csio.cdb_io.cdb_bytes;
 940     opcode = (*cmdp == WRITE_6 || *cmdp == WRITE_10) ? GDT_WRITE : GDT_READ;
 941     if ((gdt->sc_state & GDT_SHUTDOWN) && opcode == GDT_WRITE)
 942         opcode = GDT_WRITE_THR;
 943     gdt_enc16(gdt->sc_cmd + GDT_CMD_OPCODE, opcode);
 944
 945     gdt_enc16(gdt->sc_cmd + GDT_CMD_UNION + GDT_CACHE_DEVICENO,
 946               ccb->ccb_h.target_id);
 947     if (ccb->csio.cdb_len == 6) {
 948         struct scsi_rw_6 *rw = (struct scsi_rw_6 *)cmdp;
 949         blockno = scsi_3btoul(rw->addr) & ((SRW_TOPADDR<<16) | 0xffff);
 950         blockcnt = rw->length ? rw->length : 0x100;
 951     } else {
 952         struct scsi_rw_10 *rw = (struct scsi_rw_10 *)cmdp;
 953         blockno = scsi_4btoul(rw->addr);
 954         blockcnt = scsi_2btoul(rw->length);
 955     }
 956     gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_CACHE_BLOCKNO,
 957               blockno);
 958     gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_CACHE_BLOCKCNT,
 959               blockcnt);
 960
 961     /*
 962      * If we have any data to send with this command,
 963      * map it into bus space.
 964      */
 965     /* Only use S/G if there is a transfer */
 966     if ((ccb->ccb_h.flags & CAM_SCATTER_VALID) == 0) {
 967         if ((ccb->ccb_h.flags & CAM_DATA_PHYS) == 0) {
 968             int s;
 969             int error;
 970
 971             /* vorher unlock von splcam() ??? */
 972             s = splsoftvm();
 973             error =
 974                 bus_dmamap_load(gdt->sc_buffer_dmat,
 975                                 gccb->gc_dmamap,
 976                                 ccb->csio.data_ptr,
 977                                 ccb->csio.dxfer_len,
 978                                 gdtexecuteccb,
 979                                 gccb, /*flags*/0);
 980             if (error == EINPROGRESS) {
 981                 xpt_freeze_simq(sim, 1);
 982                 gccb->gc_state |= CAM_RELEASE_SIMQ;
 983             }
 984             splx(s);
 985         } else {
 986             struct bus_dma_segment seg;
 987
 988             /* Pointer to physical buffer */
 989             seg.ds_addr =
 990                 (bus_addr_t)ccb->csio.data_ptr;
 991             seg.ds_len = ccb->csio.dxfer_len;
 992             gdtexecuteccb(gccb, &seg, 1, 0);
 993         }
 994     } else {
 995         struct bus_dma_segment *segs;
 996
 997         if ((ccb->ccb_h.flags & CAM_DATA_PHYS) != 0)
 998             panic("iir%d: iir_action - Physical "
 999                   "segment pointers unsupported", gdt->sc_hanum);
1000
1001         if ((ccb->ccb_h.flags & CAM_SG_LIST_PHYS)==0)
1002             panic("iir%d: iir_action - Virtual "
1003                   "segment addresses unsupported", gdt->sc_hanum);
1004
1005         /* Just use the segments provided */
1006         segs = (struct bus_dma_segment *)ccb->csio.data_ptr;
1007         gdtexecuteccb(gccb, segs, ccb->csio.sglist_cnt, 0);
1008     }
1009
1010     *lock = splcam();
1011     return (gccb);
1012 }
1013
1014 static struct gdt_ccb *
1015 gdt_ioctl_cmd(struct gdt_softc *gdt, gdt_ucmd_t *ucmd, int *lock)
1016 {
1017     struct gdt_ccb *gccb;
1018     u_int32_t cnt;
1019
1020     GDT_DPRINTF(GDT_D_DEBUG, ("gdt_ioctl_cmd(%p, %p)\n", gdt, ucmd));
1021
1022     bzero(gdt->sc_cmd, GDT_CMD_SZ);
1023
1024     gccb = gdt_get_ccb(gdt);
1025     if (gccb == NULL) {
1026         GDT_DPRINTF(GDT_D_DEBUG, ("iir%d: No free command index found\n",
1027                                   gdt->sc_hanum));
1028         return (gccb);
1029     }
1030     gccb->gc_ucmd = ucmd;
1031     gccb->gc_service = ucmd->service;
1032     gccb->gc_flags = GDT_GCF_IOCTL;
1033
1034     /* check DPMEM space, copy data buffer from user space */
1035     if (ucmd->service == GDT_CACHESERVICE) {
1036         if (ucmd->OpCode == GDT_IOCTL) {
1037             gdt->sc_cmd_len = roundup(GDT_CMD_UNION + GDT_IOCTL_SZ,
1038                                       sizeof(u_int32_t));
1039             cnt = ucmd->u.ioctl.param_size;
1040             if (cnt > GDT_SCRATCH_SZ) {
1041                 printf("iir%d: Scratch buffer too small (%d/%d)\n",
1042                        gdt->sc_hanum, GDT_SCRATCH_SZ, cnt);
1043                 gdt_free_ccb(gdt, gccb);
1044                 return (NULL);
1045             }
1046         } else {
1047             gdt->sc_cmd_len = roundup(GDT_CMD_UNION + GDT_CACHE_SG_LST +
1048                                       GDT_SG_SZ, sizeof(u_int32_t));
1049             cnt = ucmd->u.cache.BlockCnt * GDT_SECTOR_SIZE;
1050             if (cnt > GDT_SCRATCH_SZ) {
1051                 printf("iir%d: Scratch buffer too small (%d/%d)\n",
1052                        gdt->sc_hanum, GDT_SCRATCH_SZ, cnt);
1053                 gdt_free_ccb(gdt, gccb);
1054                 return (NULL);
1055             }
1056         }
1057     } else {
1058         gdt->sc_cmd_len = roundup(GDT_CMD_UNION + GDT_RAW_SG_LST +
1059                                   GDT_SG_SZ, sizeof(u_int32_t));
1060         cnt = ucmd->u.raw.sdlen;
1061         if (cnt + ucmd->u.raw.sense_len > GDT_SCRATCH_SZ) {
1062             printf("iir%d: Scratch buffer too small (%d/%d)\n",
1063                    gdt->sc_hanum, GDT_SCRATCH_SZ, cnt + ucmd->u.raw.sense_len);
1064             gdt_free_ccb(gdt, gccb);
1065             return (NULL);
1066         }
1067     }
1068     if (cnt != 0)
1069         bcopy(ucmd->data, gccb->gc_scratch, cnt);
1070
1071     if (gdt->sc_cmd_off + gdt->sc_cmd_len + GDT_DPMEM_COMMAND_OFFSET >
1072         gdt->sc_ic_all_size) {
1073         GDT_DPRINTF(GDT_D_INVALID, ("iir%d: gdt_ioctl_cmd(): DPMEM overflow\n",
1074                                     gdt->sc_hanum));
1075         gdt_free_ccb(gdt, gccb);
1076         return (NULL);
1077     }
1078
1079     if (gdt->sc_cmd_cnt == 0)
1080         gdt->sc_set_sema0(gdt);
1081     splx(*lock);
1082
1083     /* fill cmd structure */
1084     gdt_enc32(gdt->sc_cmd + GDT_CMD_COMMANDINDEX,
1085               gccb->gc_cmd_index);
1086     gdt_enc16(gdt->sc_cmd + GDT_CMD_OPCODE,
1087               ucmd->OpCode);
1088
1089     if (ucmd->service == GDT_CACHESERVICE) {
1090         if (ucmd->OpCode == GDT_IOCTL) {
1091             /* IOCTL */
1092             gdt_enc16(gdt->sc_cmd + GDT_CMD_UNION + GDT_IOCTL_PARAM_SIZE,
1093                       ucmd->u.ioctl.param_size);
1094             gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_IOCTL_SUBFUNC,
1095                       ucmd->u.ioctl.subfunc);
1096             gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_IOCTL_CHANNEL,
1097                       ucmd->u.ioctl.channel);
1098             gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_IOCTL_P_PARAM,
1099                       gdt_ccb_vtop(gdt, gccb) +
1100                       offsetof(struct gdt_ccb, gc_scratch[0]));
1101         } else {
1102             /* cache service command */
1103             gdt_enc16(gdt->sc_cmd + GDT_CMD_UNION + GDT_CACHE_DEVICENO,
1104                       ucmd->u.cache.DeviceNo);
1105             gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_CACHE_BLOCKNO,
1106                       ucmd->u.cache.BlockNo);
1107             gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_CACHE_BLOCKCNT,
1108                       ucmd->u.cache.BlockCnt);
1109             gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_CACHE_DESTADDR,
1110                       0xffffffffUL);
1111             gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_CACHE_SG_CANZ,
1112                       1);
1113             gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_CACHE_SG_LST +
1114                       GDT_SG_PTR, gdt_ccb_vtop(gdt, gccb) +
1115                       offsetof(struct gdt_ccb, gc_scratch[0]));
1116             gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_CACHE_SG_LST +
1117                       GDT_SG_LEN, ucmd->u.cache.BlockCnt * GDT_SECTOR_SIZE);
1118         }
1119     } else {
1120         /* raw service command */
1121         gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_RAW_DIRECTION,
1122                   ucmd->u.raw.direction);
1123         gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_RAW_SDATA,
1124                   0xffffffffUL);
1125         gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_RAW_SDLEN,
1126                   ucmd->u.raw.sdlen);
1127         gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_RAW_CLEN,
1128                   ucmd->u.raw.clen);
1129         bcopy(ucmd->u.raw.cmd, gdt->sc_cmd + GDT_CMD_UNION + GDT_RAW_CMD,
1130               12);
1131         gdt->sc_cmd[GDT_CMD_UNION + GDT_RAW_TARGET] =
1132             ucmd->u.raw.target;
1133         gdt->sc_cmd[GDT_CMD_UNION + GDT_RAW_LUN] =
1134             ucmd->u.raw.lun;
1135         gdt->sc_cmd[GDT_CMD_UNION + GDT_RAW_BUS] =
1136             ucmd->u.raw.bus;
1137         gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_RAW_SENSE_LEN,
1138                   ucmd->u.raw.sense_len);
1139         gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_RAW_SENSE_DATA,
1140                   gdt_ccb_vtop(gdt, gccb) +
1141                   offsetof(struct gdt_ccb, gc_scratch[ucmd->u.raw.sdlen]));
1142         gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_RAW_SG_RANZ,
1143                   1);
1144         gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_RAW_SG_LST +
1145                   GDT_SG_PTR, gdt_ccb_vtop(gdt, gccb) +
1146                   offsetof(struct gdt_ccb, gc_scratch[0]));
1147         gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_RAW_SG_LST +
1148                   GDT_SG_LEN, ucmd->u.raw.sdlen);
1149     }
1150
1151     *lock = splcam();
1152     gdt_stat.sg_count_act = 1;
1153     gdt->sc_copy_cmd(gdt, gccb);
1154     return (gccb);
1155 }
1156
1157 static void
1158 gdt_internal_cache_cmd(struct gdt_softc *gdt,union ccb *ccb)
1159 {
1160     int t;
1161
1162     t = ccb->ccb_h.target_id;
1163     GDT_DPRINTF(GDT_D_CMD, ("gdt_internal_cache_cmd(%p, %p, 0x%x, %d)\n",
1164         gdt, ccb, ccb->csio.cdb_io.cdb_bytes[0], t));
1165
1166     switch (ccb->csio.cdb_io.cdb_bytes[0]) {
1167       case TEST_UNIT_READY:
1168       case START_STOP:
1169         break;
1170       case REQUEST_SENSE:
1171         GDT_DPRINTF(GDT_D_MISC, ("REQUEST_SENSE\n"));
1172         break;
1173       case INQUIRY:
1174         {
1175             struct scsi_inquiry_data *inq;
1176
1177             inq = (struct scsi_inquiry_data *)ccb->csio.data_ptr;
1178             bzero(inq, sizeof(struct scsi_inquiry_data));
1179             inq->device = (gdt->sc_hdr[t].hd_devtype & 4) ?
1180                 T_CDROM : T_DIRECT;
1181             inq->dev_qual2 = (gdt->sc_hdr[t].hd_devtype & 1) ? 0x80 : 0;
1182             inq->version = SCSI_REV_2;
1183             inq->response_format = 2;
1184             inq->additional_length = 32;
1185             inq->flags = SID_CmdQue | SID_Sync;
1186             strcpy(inq->vendor, "IIR     ");
1187             sprintf(inq->product, "Host Drive   #%02d", t);
1188             strcpy(inq->revision, "   ");
1189             break;
1190         }
1191       case MODE_SENSE_6:
1192         {
1193             struct mpd_data {
1194                 struct scsi_mode_hdr_6 hd;
1195                 struct scsi_mode_block_descr bd;
1196                 struct scsi_control_page cp;
1197             } *mpd;
1198             u_int8_t page;
1199
1200             mpd = (struct mpd_data *)ccb->csio.data_ptr;
1201             bzero(mpd, sizeof(struct mpd_data));
1202             mpd->hd.datalen = sizeof(struct scsi_mode_hdr_6) +
1203                 sizeof(struct scsi_mode_block_descr);
1204             mpd->hd.dev_specific = (gdt->sc_hdr[t].hd_devtype & 2) ? 0x80 : 0;
1205             mpd->hd.block_descr_len = sizeof(struct scsi_mode_block_descr);
1206             mpd->bd.block_len[0] = (GDT_SECTOR_SIZE & 0x00ff0000) >> 16;
1207             mpd->bd.block_len[1] = (GDT_SECTOR_SIZE & 0x0000ff00) >> 8;
1208             mpd->bd.block_len[2] = (GDT_SECTOR_SIZE & 0x000000ff);
1209             page=((struct scsi_mode_sense_6 *)ccb->csio.cdb_io.cdb_bytes)->page;
1210             switch (page) {
1211               default:
1212                 GDT_DPRINTF(GDT_D_MISC, ("MODE_SENSE_6: page 0x%x\n", page));
1213                 break;
1214             }
1215             break;
1216         }
1217       case READ_CAPACITY:
1218         {
1219             struct scsi_read_capacity_data *rcd;
1220
1221             rcd = (struct scsi_read_capacity_data *)ccb->csio.data_ptr;
1222             bzero(rcd, sizeof(struct scsi_read_capacity_data));
1223             scsi_ulto4b(gdt->sc_hdr[t].hd_size - 1, rcd->addr);
1224             scsi_ulto4b(GDT_SECTOR_SIZE, rcd->length);
1225             break;
1226         }
1227       default:
1228         GDT_DPRINTF(GDT_D_MISC, ("gdt_internal_cache_cmd(%d) unknown\n",
1229                                     ccb->csio.cdb_io.cdb_bytes[0]));
1230         break;
1231     }
1232     ccb->ccb_h.status = CAM_REQ_CMP;
1233     --gdt_stat.io_count_act;
1234     xpt_done(ccb);
1235 }
1236
1237 static void
1238 gdtmapmem(void *arg, bus_dma_segment_t *dm_segs, int nseg, int error)
1239 {
1240     bus_addr_t *busaddrp;
1241
1242     busaddrp = (bus_addr_t *)arg;
1243     *busaddrp = dm_segs->ds_addr;
1244 }
1245
1246 static void
1247 gdtexecuteccb(void *arg, bus_dma_segment_t *dm_segs, int nseg, int error)
1248 {
1249     struct gdt_ccb *gccb;
1250     union ccb *ccb;
1251     struct gdt_softc *gdt;
1252     int i, lock;
1253
1254     lock = splcam();
1255
1256     gccb = (struct gdt_ccb *)arg;
1257     ccb = gccb->gc_ccb;
1258     gdt = cam_sim_softc((struct cam_sim *)ccb->ccb_h.ccb_sim_ptr);
1259
1260     GDT_DPRINTF(GDT_D_CMD, ("gdtexecuteccb(%p, %p, %p, %d, %d)\n",
1261                             gdt, gccb, dm_segs, nseg, error));
1262     gdt_stat.sg_count_act = nseg;
1263     if (nseg > gdt_stat.sg_count_max)
1264         gdt_stat.sg_count_max = nseg;
1265
1266     /* Copy the segments into our SG list */
1267     if (gccb->gc_service == GDT_CACHESERVICE) {
1268         for (i = 0; i < nseg; ++i) {
1269             gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_CACHE_SG_LST +
1270                       i * GDT_SG_SZ + GDT_SG_PTR, dm_segs->ds_addr);
1271             gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_CACHE_SG_LST +
1272                       i * GDT_SG_SZ + GDT_SG_LEN, dm_segs->ds_len);
1273             dm_segs++;
1274         }
1275         gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_CACHE_SG_CANZ,
1276                   nseg);
1277         gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_CACHE_DESTADDR,
1278                   0xffffffffUL);
1279
1280         gdt->sc_cmd_len = roundup(GDT_CMD_UNION + GDT_CACHE_SG_LST +
1281                                   nseg * GDT_SG_SZ, sizeof(u_int32_t));
1282     } else {
1283         for (i = 0; i < nseg; ++i) {
1284             gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_RAW_SG_LST +
1285                       i * GDT_SG_SZ + GDT_SG_PTR, dm_segs->ds_addr);
1286             gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_RAW_SG_LST +
1287                       i * GDT_SG_SZ + GDT_SG_LEN, dm_segs->ds_len);
1288             dm_segs++;
1289         }
1290         gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_RAW_SG_RANZ,
1291                   nseg);
1292         gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_RAW_SDATA,
1293                   0xffffffffUL);
1294
1295         gdt->sc_cmd_len = roundup(GDT_CMD_UNION + GDT_RAW_SG_LST +
1296                                   nseg * GDT_SG_SZ, sizeof(u_int32_t));
1297     }
1298
1299     if (nseg != 0) {
1300         bus_dmasync_op_t op;
1301
1302         if ((ccb->ccb_h.flags & CAM_DIR_MASK) == CAM_DIR_IN)
1303             op = BUS_DMASYNC_PREREAD;
1304         else
1305             op = BUS_DMASYNC_PREWRITE;
1306         bus_dmamap_sync(gdt->sc_buffer_dmat, gccb->gc_dmamap, op);
1307     }
1308
1309     /* We must NOT abort the command here if CAM_REQ_INPROG is not set,
1310      * because command semaphore is already set!
1311      */
1312
1313     ccb->ccb_h.status |= CAM_SIM_QUEUED;
1314     /* timeout handling */
1315     callout_reset(&ccb->ccb_h.timeout_ch, (ccb->ccb_h.timeout * hz) / 1000,
1316         iir_timeout, gccb);
1317
1318     gdt->sc_copy_cmd(gdt, gccb);
1319     splx(lock);
1320 }
1321
1322
1323 static void
1324 iir_action( struct cam_sim *sim, union ccb *ccb )
1325 {
1326     struct gdt_softc *gdt;
1327     int lock, bus, target, lun;
1328
1329     gdt = (struct gdt_softc *)cam_sim_softc( sim );
1330     ccb->ccb_h.ccb_sim_ptr = sim;
1331     bus = cam_sim_bus(sim);
1332     target = ccb->ccb_h.target_id;
1333     lun = ccb->ccb_h.target_lun;
1334     GDT_DPRINTF(GDT_D_CMD,
1335                 ("iir_action(%p) func 0x%x cmd 0x%x bus %d target %d lun %d\n",
1336                  gdt, ccb->ccb_h.func_code, ccb->csio.cdb_io.cdb_bytes[0],
1337                  bus, target, lun));
1338     ++gdt_stat.io_count_act;
1339     if (gdt_stat.io_count_act > gdt_stat.io_count_max)
1340         gdt_stat.io_count_max = gdt_stat.io_count_act;
1341
1342     switch (ccb->ccb_h.func_code) {
1343       case XPT_SCSI_IO:
1344         lock = splcam();
1345         TAILQ_INSERT_TAIL(&gdt->sc_ccb_queue, &ccb->ccb_h, sim_links.tqe);
1346         ++gdt_stat.req_queue_act;
1347         if (gdt_stat.req_queue_act > gdt_stat.req_queue_max)
1348             gdt_stat.req_queue_max = gdt_stat.req_queue_act;
1349         splx(lock);
1350         gdt_next(gdt);
1351         break;
1352       case XPT_RESET_DEV:   /* Bus Device Reset the specified SCSI device */
1353       case XPT_ABORT:                       /* Abort the specified CCB */
1354         /* XXX Implement */
1355         ccb->ccb_h.status = CAM_REQ_INVALID;
1356         --gdt_stat.io_count_act;
1357         xpt_done(ccb);
1358         break;
1359       case XPT_SET_TRAN_SETTINGS:
1360         ccb->ccb_h.status = CAM_FUNC_NOTAVAIL;
1361         --gdt_stat.io_count_act;
1362         xpt_done(ccb);
1363         break;
1364       case XPT_GET_TRAN_SETTINGS:
1365         /* Get default/user set transfer settings for the target */
1366           {
1367               struct        ccb_trans_settings *cts;
1368               u_int target_mask;
1369
1370               cts = &ccb->cts;
1371               target_mask = 0x01 << target;
1372               if ((cts->flags & CCB_TRANS_USER_SETTINGS) != 0) {
1373                   cts->flags = CCB_TRANS_DISC_ENB|CCB_TRANS_TAG_ENB;
1374                   cts->bus_width = MSG_EXT_WDTR_BUS_16_BIT;
1375                   cts->sync_period = 25; /* 10MHz */
1376                   if (cts->sync_period != 0)
1377                       cts->sync_offset = 15;
1378
1379                   cts->valid = CCB_TRANS_SYNC_RATE_VALID
1380                       | CCB_TRANS_SYNC_OFFSET_VALID
1381                       | CCB_TRANS_BUS_WIDTH_VALID
1382                       | CCB_TRANS_DISC_VALID
1383                       | CCB_TRANS_TQ_VALID;
1384                   ccb->ccb_h.status = CAM_REQ_CMP;
1385               } else {
1386                   ccb->ccb_h.status = CAM_FUNC_NOTAVAIL;
1387               }
1388               --gdt_stat.io_count_act;
1389               xpt_done(ccb);
1390               break;
1391           }
1392       case XPT_CALC_GEOMETRY:
1393           {
1394               struct ccb_calc_geometry *ccg;
1395               u_int32_t secs_per_cylinder;
1396
1397               ccg = &ccb->ccg;
1398               ccg->heads = gdt->sc_hdr[target].hd_heads;
1399               ccg->secs_per_track = gdt->sc_hdr[target].hd_secs;
1400               secs_per_cylinder = ccg->heads * ccg->secs_per_track;
1401               ccg->cylinders = ccg->volume_size / secs_per_cylinder;
1402               ccb->ccb_h.status = CAM_REQ_CMP;
1403               --gdt_stat.io_count_act;
1404               xpt_done(ccb);
1405               break;
1406           }
1407       case XPT_RESET_BUS:           /* Reset the specified SCSI bus */
1408           {
1409               /* XXX Implement */
1410               ccb->ccb_h.status = CAM_REQ_CMP;
1411               --gdt_stat.io_count_act;
1412               xpt_done(ccb);
1413               break;
1414           }
1415       case XPT_TERM_IO:             /* Terminate the I/O process */
1416         /* XXX Implement */
1417         ccb->ccb_h.status = CAM_REQ_INVALID;
1418         --gdt_stat.io_count_act;
1419         xpt_done(ccb);
1420         break;
1421       case XPT_PATH_INQ:            /* Path routing inquiry */
1422           {
1423               struct ccb_pathinq *cpi = &ccb->cpi;
1424
1425               cpi->version_num = 1;
1426               cpi->hba_inquiry = PI_SDTR_ABLE|PI_TAG_ABLE;
1427               cpi->hba_inquiry |= PI_WIDE_16;
1428               cpi->target_sprt = 1;
1429               cpi->hba_misc = 0;
1430               cpi->hba_eng_cnt = 0;
1431               if (bus == gdt->sc_virt_bus)
1432                   cpi->max_target = GDT_MAX_HDRIVES - 1;
1433               else if (gdt->sc_class & GDT_FC)
1434                   cpi->max_target = GDT_MAXID_FC - 1;
1435               else
1436                   cpi->max_target = GDT_MAXID - 1;
1437               cpi->max_lun = 7;
1438               cpi->unit_number = cam_sim_unit(sim);
1439               cpi->bus_id = bus;
1440               cpi->initiator_id =
1441                   (bus == gdt->sc_virt_bus ? 127 : gdt->sc_bus_id[bus]);
1442               cpi->base_transfer_speed = 3300;
1443               strncpy(cpi->sim_vid, "FreeBSD", SIM_IDLEN);
1444               strncpy(cpi->hba_vid, "Intel Corp.", HBA_IDLEN);
1445               strncpy(cpi->dev_name, cam_sim_name(sim), DEV_IDLEN);
1446               cpi->ccb_h.status = CAM_REQ_CMP;
1447               --gdt_stat.io_count_act;
1448               xpt_done(ccb);
1449               break;
1450           }
1451       default:
1452         GDT_DPRINTF(GDT_D_INVALID, ("gdt_next(%p) cmd 0x%x invalid\n",
1453                                     gdt, ccb->ccb_h.func_code));
1454         ccb->ccb_h.status = CAM_REQ_INVALID;
1455         --gdt_stat.io_count_act;
1456         xpt_done(ccb);
1457         break;
1458     }
1459 }
1460
1461 static void
1462 iir_poll( struct cam_sim *sim )
1463 {
1464     struct gdt_softc *gdt;
1465
1466     gdt = (struct gdt_softc *)cam_sim_softc( sim );
1467     GDT_DPRINTF(GDT_D_CMD, ("iir_poll sim %p gdt %p\n", sim, gdt));
1468     iir_intr(gdt);
1469 }
1470
1471 static void
1472 iir_timeout(void *arg)
1473 {
1474     GDT_DPRINTF(GDT_D_TIMEOUT, ("iir_timeout(%p)\n", arg));
1475 }
1476
1477 static void
1478 iir_watchdog(void *arg)
1479 {
1480     struct gdt_softc *gdt;
1481
1482     gdt = (struct gdt_softc *)arg;
1483     GDT_DPRINTF(GDT_D_DEBUG, ("iir_watchdog(%p)\n", gdt));
1484
1485     {
1486         int ccbs = 0, ucmds = 0, frees = 0, pends = 0;
1487         struct gdt_ccb *p;
1488         struct ccb_hdr *h;
1489         struct gdt_ucmd *u;
1490
1491         for (h = TAILQ_FIRST(&gdt->sc_ccb_queue); h != NULL;
1492              h = TAILQ_NEXT(h, sim_links.tqe))
1493             ccbs++;
1494         for (u = TAILQ_FIRST(&gdt->sc_ucmd_queue); u != NULL;
1495              u = TAILQ_NEXT(u, links))
1496             ucmds++;
1497         for (p = SLIST_FIRST(&gdt->sc_free_gccb); p != NULL;
1498              p = SLIST_NEXT(p, sle))
1499             frees++;
1500         for (p = SLIST_FIRST(&gdt->sc_pending_gccb); p != NULL;
1501              p = SLIST_NEXT(p, sle))
1502             pends++;
1503
1504         GDT_DPRINTF(GDT_D_TIMEOUT, ("ccbs %d ucmds %d frees %d pends %d\n",
1505                                     ccbs, ucmds, frees, pends));
1506     }
1507
1508     callout_reset(&gdt->watchdog_timer, hz * 15, iir_watchdog, gdt);
1509 }
1510
1511 static void
1512 iir_shutdown( void *arg, int howto )
1513 {
1514     struct gdt_softc *gdt;
1515     struct gdt_ccb *gccb;
1516     gdt_ucmd_t *ucmd;
1517     int lock, i;
1518
1519     gdt = (struct gdt_softc *)arg;
1520     GDT_DPRINTF(GDT_D_CMD, ("iir_shutdown(%p, %d)\n", gdt, howto));
1521
1522     printf("iir%d: Flushing all Host Drives. Please wait ...  ",
1523            gdt->sc_hanum);
1524
1525     /* allocate ucmd buffer */
1526     ucmd = malloc(sizeof(gdt_ucmd_t), M_DEVBUF, M_INTWAIT | M_ZERO);
1527
1528     /* wait for pending IOs */
1529     lock = splcam();
1530     gdt->sc_state = GDT_SHUTDOWN;
1531     splx(lock);
1532     if ((gccb = SLIST_FIRST(&gdt->sc_pending_gccb)) != NULL)
1533         (void) tsleep((void *)gccb, PCATCH, "iirshw", 100 * hz);
1534
1535     /* flush */
1536     for (i = 0; i < GDT_MAX_HDRIVES; ++i) {
1537         if (gdt->sc_hdr[i].hd_present) {
1538             ucmd->service = GDT_CACHESERVICE;
1539             ucmd->OpCode = GDT_FLUSH;
1540             ucmd->u.cache.DeviceNo = i;
1541             lock = splcam();
1542             TAILQ_INSERT_TAIL(&gdt->sc_ucmd_queue, ucmd, links);
1543             ucmd->complete_flag = FALSE;
1544             splx(lock);
1545             gdt_next(gdt);
1546             if (!ucmd->complete_flag)
1547                 (void) tsleep((void *)ucmd, PCATCH, "iirshw", 10*hz);
1548         }
1549     }
1550
1551     free(ucmd, M_DEVBUF);
1552     printf("Done.\n");
1553 }
1554
1555 void
1556 iir_intr(void *arg)
1557 {
1558     struct gdt_softc *gdt = arg;
1559     struct gdt_intr_ctx ctx;
1560     int lock = 0;
1561     struct gdt_ccb *gccb;
1562     gdt_ucmd_t *ucmd;
1563     u_int32_t cnt;
1564
1565     GDT_DPRINTF(GDT_D_INTR, ("gdt_intr(%p)\n", gdt));
1566
1567     /* If polling and we were not called from gdt_wait, just return */
1568     if ((gdt->sc_state & GDT_POLLING) &&
1569         !(gdt->sc_state & GDT_POLL_WAIT))
1570         return;
1571
1572     if (!(gdt->sc_state & GDT_POLLING))
1573         lock = splcam();
1574     gdt_wait_index = 0;
1575
1576     ctx.istatus = gdt->sc_get_status(gdt);
1577     if (!ctx.istatus) {
1578         if (!(gdt->sc_state & GDT_POLLING))
1579             splx(lock);
1580         gdt->sc_status = GDT_S_NO_STATUS;
1581         return;
1582     }
1583
1584     gdt->sc_intr(gdt, &ctx);
1585
1586     gdt->sc_status = ctx.cmd_status;
1587     gdt->sc_service = ctx.service;
1588     gdt->sc_info = ctx.info;
1589     gdt->sc_info2 = ctx.info2;
1590
1591     if (gdt->sc_state & GDT_POLL_WAIT) {
1592         gdt_wait_gdt = gdt;
1593         gdt_wait_index = ctx.istatus;
1594     }
1595
1596     if (ctx.istatus == GDT_ASYNCINDEX) {
1597         gdt_async_event(gdt, ctx.service);
1598         if (!(gdt->sc_state & GDT_POLLING))
1599             splx(lock);
1600         return;
1601     }
1602     if (ctx.istatus == GDT_SPEZINDEX) {
1603         GDT_DPRINTF(GDT_D_INVALID,
1604                     ("iir%d: Service unknown or not initialized!\n",
1605                      gdt->sc_hanum));
1606         gdt->sc_dvr.size = sizeof(gdt->sc_dvr.eu.driver);
1607         gdt->sc_dvr.eu.driver.ionode = gdt->sc_hanum;
1608         gdt_store_event(GDT_ES_DRIVER, 4, &gdt->sc_dvr);
1609         if (!(gdt->sc_state & GDT_POLLING))
1610             splx(lock);
1611         return;
1612     }
1613
1614     gccb = &gdt->sc_gccbs[ctx.istatus - 2];
1615     ctx.service = gccb->gc_service;
1616
1617     switch (gccb->gc_flags) {
1618       case GDT_GCF_UNUSED:
1619         GDT_DPRINTF(GDT_D_INVALID, ("iir%d: Index (%d) to unused command!\n",
1620                     gdt->sc_hanum, ctx.istatus));
1621         gdt->sc_dvr.size = sizeof(gdt->sc_dvr.eu.driver);
1622         gdt->sc_dvr.eu.driver.ionode = gdt->sc_hanum;
1623         gdt->sc_dvr.eu.driver.index = ctx.istatus;
1624         gdt_store_event(GDT_ES_DRIVER, 1, &gdt->sc_dvr);
1625         gdt_free_ccb(gdt, gccb);
1626         /* fallthrough */
1627
1628       case GDT_GCF_INTERNAL:
1629         if (!(gdt->sc_state & GDT_POLLING))
1630             splx(lock);
1631         break;
1632
1633       case GDT_GCF_IOCTL:
1634         ucmd = gccb->gc_ucmd;
1635         if (gdt->sc_status == GDT_S_BSY) {
1636             GDT_DPRINTF(GDT_D_DEBUG, ("iir_intr(%p) ioctl: gccb %p busy\n",
1637                                       gdt, gccb));
1638             TAILQ_INSERT_HEAD(&gdt->sc_ucmd_queue, ucmd, links);
1639             if (!(gdt->sc_state & GDT_POLLING))
1640                 splx(lock);
1641         } else {
1642             ucmd->status = gdt->sc_status;
1643             ucmd->info = gdt->sc_info;
1644             ucmd->complete_flag = TRUE;
1645             if (ucmd->service == GDT_CACHESERVICE) {
1646                 if (ucmd->OpCode == GDT_IOCTL) {
1647                     cnt = ucmd->u.ioctl.param_size;
1648                     if (cnt != 0)
1649                         bcopy(gccb->gc_scratch, ucmd->data, cnt);
1650                 } else {
1651                     cnt = ucmd->u.cache.BlockCnt * GDT_SECTOR_SIZE;
1652                     if (cnt != 0)
1653                         bcopy(gccb->gc_scratch, ucmd->data, cnt);
1654                 }
1655             } else {
1656                 cnt = ucmd->u.raw.sdlen;
1657                 if (cnt != 0)
1658                     bcopy(gccb->gc_scratch, ucmd->data, cnt);
1659                 if (ucmd->u.raw.sense_len != 0)
1660                     bcopy(gccb->gc_scratch, ucmd->data, cnt);
1661             }
1662             gdt_free_ccb(gdt, gccb);
1663             if (!(gdt->sc_state & GDT_POLLING))
1664                 splx(lock);
1665             /* wakeup */
1666             wakeup(ucmd);
1667         }
1668         gdt_next(gdt);
1669         break;
1670
1671       default:
1672         gdt_free_ccb(gdt, gccb);
1673         gdt_sync_event(gdt, ctx.service, ctx.istatus, gccb);
1674         if (!(gdt->sc_state & GDT_POLLING))
1675             splx(lock);
1676         gdt_next(gdt);
1677         break;
1678     }
1679 }
1680
1681 int
1682 gdt_async_event(struct gdt_softc *gdt, int service)
1683 {
1684     struct gdt_ccb *gccb;
1685
1686     GDT_DPRINTF(GDT_D_INTR, ("gdt_async_event(%p, %d)\n", gdt, service));
1687
1688     if (service == GDT_SCREENSERVICE) {
1689         if (gdt->sc_status == GDT_MSG_REQUEST) {
1690             while (gdt->sc_test_busy(gdt))
1691                 DELAY(1);
1692             bzero(gdt->sc_cmd, GDT_CMD_SZ);
1693             gccb = gdt_get_ccb(gdt);
1694             if (gccb == NULL) {
1695                 printf("iir%d: No free command index found\n",
1696                        gdt->sc_hanum);
1697                 return (1);
1698             }
1699             gccb->gc_service = service;
1700             gccb->gc_flags = GDT_GCF_SCREEN;
1701             gdt->sc_set_sema0(gdt);
1702             gdt_enc32(gdt->sc_cmd + GDT_CMD_COMMANDINDEX,
1703                       gccb->gc_cmd_index);
1704             gdt_enc16(gdt->sc_cmd + GDT_CMD_OPCODE, GDT_READ);
1705             gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_SCREEN_MSG_HANDLE,
1706                       GDT_MSG_INV_HANDLE);
1707             gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_SCREEN_MSG_ADDR,
1708                       gdt_ccb_vtop(gdt, gccb) +
1709                       offsetof(struct gdt_ccb, gc_scratch[0]));
1710             gdt->sc_cmd_off = 0;
1711             gdt->sc_cmd_len = roundup(GDT_CMD_UNION + GDT_SCREEN_SZ,
1712                                       sizeof(u_int32_t));
1713             gdt->sc_cmd_cnt = 0;
1714             gdt->sc_copy_cmd(gdt, gccb);
1715             printf("iir%d: [PCI %d/%d] ",
1716                 gdt->sc_hanum,gdt->sc_bus,gdt->sc_slot);
1717             gdt->sc_release_event(gdt);
1718         }
1719
1720     } else {
1721         if ((gdt->sc_fw_vers & 0xff) >= 0x1a) {
1722             gdt->sc_dvr.size = 0;
1723             gdt->sc_dvr.eu.async.ionode = gdt->sc_hanum;
1724             gdt->sc_dvr.eu.async.status  = gdt->sc_status;
1725             /* severity and event_string already set! */
1726         } else {
1727             gdt->sc_dvr.size = sizeof(gdt->sc_dvr.eu.async);
1728             gdt->sc_dvr.eu.async.ionode   = gdt->sc_hanum;
1729             gdt->sc_dvr.eu.async.service = service;
1730             gdt->sc_dvr.eu.async.status  = gdt->sc_status;
1731             gdt->sc_dvr.eu.async.info    = gdt->sc_info;
1732             *(u_int32_t *)gdt->sc_dvr.eu.async.scsi_coord  = gdt->sc_info2;
1733         }
1734         gdt_store_event(GDT_ES_ASYNC, service, &gdt->sc_dvr);
1735         printf("iir%d: %s\n", gdt->sc_hanum, gdt->sc_dvr.event_string);
1736     }
1737
1738     return (0);
1739 }
1740
1741 int
1742 gdt_sync_event(struct gdt_softc *gdt, int service,
1743                u_int8_t index, struct gdt_ccb *gccb)
1744 {
1745     union ccb *ccb;
1746     bus_dmasync_op_t op;
1747
1748     GDT_DPRINTF(GDT_D_INTR,
1749                 ("gdt_sync_event(%p, %d, %d, %p)\n", gdt,service,index,gccb));
1750
1751     ccb = gccb->gc_ccb;
1752
1753     if (service == GDT_SCREENSERVICE) {
1754         u_int32_t msg_len;
1755
1756         msg_len = gdt_dec32(gccb->gc_scratch + GDT_SCR_MSG_LEN);
1757         if (msg_len)
1758             if (!(gccb->gc_scratch[GDT_SCR_MSG_ANSWER] &&
1759                   gccb->gc_scratch[GDT_SCR_MSG_EXT])) {
1760                 gccb->gc_scratch[GDT_SCR_MSG_TEXT + msg_len] = '\0';
1761                 printf("%s",&gccb->gc_scratch[GDT_SCR_MSG_TEXT]);
1762             }
1763
1764         if (gccb->gc_scratch[GDT_SCR_MSG_EXT] &&
1765             !gccb->gc_scratch[GDT_SCR_MSG_ANSWER]) {
1766             while (gdt->sc_test_busy(gdt))
1767                 DELAY(1);
1768             bzero(gdt->sc_cmd, GDT_CMD_SZ);
1769             gccb = gdt_get_ccb(gdt);
1770             if (gccb == NULL) {
1771                 printf("iir%d: No free command index found\n",
1772                        gdt->sc_hanum);
1773                 return (1);
1774             }
1775             gccb->gc_service = service;
1776             gccb->gc_flags = GDT_GCF_SCREEN;
1777             gdt->sc_set_sema0(gdt);
1778             gdt_enc32(gdt->sc_cmd + GDT_CMD_COMMANDINDEX,
1779                       gccb->gc_cmd_index);
1780             gdt_enc16(gdt->sc_cmd + GDT_CMD_OPCODE, GDT_READ);
1781             gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_SCREEN_MSG_HANDLE,
1782                       gccb->gc_scratch[GDT_SCR_MSG_HANDLE]);
1783             gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_SCREEN_MSG_ADDR,
1784                       gdt_ccb_vtop(gdt, gccb) +
1785                       offsetof(struct gdt_ccb, gc_scratch[0]));
1786             gdt->sc_cmd_off = 0;
1787             gdt->sc_cmd_len = roundup(GDT_CMD_UNION + GDT_SCREEN_SZ,
1788                                       sizeof(u_int32_t));
1789             gdt->sc_cmd_cnt = 0;
1790             gdt->sc_copy_cmd(gdt, gccb);
1791             gdt->sc_release_event(gdt);
1792             return (0);
1793         }
1794
1795         if (gccb->gc_scratch[GDT_SCR_MSG_ANSWER] &&
1796             gdt_dec32(gccb->gc_scratch + GDT_SCR_MSG_ALEN)) {
1797             /* default answers (getchar() not possible) */
1798             if (gdt_dec32(gccb->gc_scratch + GDT_SCR_MSG_ALEN) == 1) {
1799                 gdt_enc32(gccb->gc_scratch + GDT_SCR_MSG_ALEN, 0);
1800                 gdt_enc32(gccb->gc_scratch + GDT_SCR_MSG_LEN, 1);
1801                 gccb->gc_scratch[GDT_SCR_MSG_TEXT] = 0;
1802             } else {
1803                 gdt_enc32(gccb->gc_scratch + GDT_SCR_MSG_ALEN,
1804                           gdt_dec32(gccb->gc_scratch + GDT_SCR_MSG_ALEN) - 2);
1805                 gdt_enc32(gccb->gc_scratch + GDT_SCR_MSG_LEN, 2);
1806                 gccb->gc_scratch[GDT_SCR_MSG_TEXT] = 1;
1807                 gccb->gc_scratch[GDT_SCR_MSG_TEXT + 1] = 0;
1808             }
1809             gccb->gc_scratch[GDT_SCR_MSG_EXT] = 0;
1810             gccb->gc_scratch[GDT_SCR_MSG_ANSWER] = 0;
1811             while (gdt->sc_test_busy(gdt))
1812                 DELAY(1);
1813             bzero(gdt->sc_cmd, GDT_CMD_SZ);
1814             gccb = gdt_get_ccb(gdt);
1815             if (gccb == NULL) {
1816                 printf("iir%d: No free command index found\n",
1817                        gdt->sc_hanum);
1818                 return (1);
1819             }
1820             gccb->gc_service = service;
1821             gccb->gc_flags = GDT_GCF_SCREEN;
1822             gdt->sc_set_sema0(gdt);
1823             gdt_enc32(gdt->sc_cmd + GDT_CMD_COMMANDINDEX,
1824                       gccb->gc_cmd_index);
1825             gdt_enc16(gdt->sc_cmd + GDT_CMD_OPCODE, GDT_WRITE);
1826             gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_SCREEN_MSG_HANDLE,
1827                       gccb->gc_scratch[GDT_SCR_MSG_HANDLE]);
1828             gdt_enc32(gdt->sc_cmd + GDT_CMD_UNION + GDT_SCREEN_MSG_ADDR,
1829                       gdt_ccb_vtop(gdt, gccb) +
1830                       offsetof(struct gdt_ccb, gc_scratch[0]));
1831             gdt->sc_cmd_off = 0;
1832             gdt->sc_cmd_len = roundup(GDT_CMD_UNION + GDT_SCREEN_SZ,
1833                                       sizeof(u_int32_t));
1834             gdt->sc_cmd_cnt = 0;
1835             gdt->sc_copy_cmd(gdt, gccb);
1836             gdt->sc_release_event(gdt);
1837             return (0);
1838         }
1839         printf("\n");
1840         return (0);
1841     } else {
1842         callout_stop(&ccb->ccb_h.timeout_ch);
1843         if (gdt->sc_status == GDT_S_BSY) {
1844             GDT_DPRINTF(GDT_D_DEBUG, ("gdt_sync_event(%p) gccb %p busy\n",
1845                                       gdt, gccb));
1846             TAILQ_INSERT_HEAD(&gdt->sc_ccb_queue, &ccb->ccb_h, sim_links.tqe);
1847             ++gdt_stat.req_queue_act;
1848             if (gdt_stat.req_queue_act > gdt_stat.req_queue_max)
1849                 gdt_stat.req_queue_max = gdt_stat.req_queue_act;
1850             return (2);
1851         }
1852
1853         if ((ccb->ccb_h.flags & CAM_DIR_MASK) == CAM_DIR_IN)
1854             op = BUS_DMASYNC_POSTREAD;
1855         else
1856             op = BUS_DMASYNC_POSTWRITE;
1857         bus_dmamap_sync(gdt->sc_buffer_dmat, gccb->gc_dmamap, op);
1858
1859         ccb->csio.resid = 0;
1860         if (gdt->sc_status == GDT_S_OK) {
1861             ccb->ccb_h.status = CAM_REQ_CMP;
1862         } else {
1863             /* error */
1864             if (gccb->gc_service == GDT_CACHESERVICE) {
1865                 ccb->ccb_h.status = CAM_SCSI_STATUS_ERROR | CAM_AUTOSNS_VALID;
1866                 ccb->csio.scsi_status = SCSI_STATUS_CHECK_COND;
1867                 bzero(&ccb->csio.sense_data, ccb->csio.sense_len);
1868                 ccb->csio.sense_data.error_code =
1869                     SSD_CURRENT_ERROR | SSD_ERRCODE_VALID;
1870                 ccb->csio.sense_data.flags = SSD_KEY_NOT_READY;
1871
1872                 gdt->sc_dvr.size = sizeof(gdt->sc_dvr.eu.sync);
1873                 gdt->sc_dvr.eu.sync.ionode  = gdt->sc_hanum;
1874                 gdt->sc_dvr.eu.sync.service = service;
1875                 gdt->sc_dvr.eu.sync.status  = gdt->sc_status;
1876                 gdt->sc_dvr.eu.sync.info    = gdt->sc_info;
1877                 gdt->sc_dvr.eu.sync.hostdrive = ccb->ccb_h.target_id;
1878                 if (gdt->sc_status >= 0x8000)
1879                     gdt_store_event(GDT_ES_SYNC, 0, &gdt->sc_dvr);
1880                 else
1881                     gdt_store_event(GDT_ES_SYNC, service, &gdt->sc_dvr);
1882             } else {
1883                 /* raw service */
1884                 if (gdt->sc_status != GDT_S_RAW_SCSI || gdt->sc_info >= 0x100) {
1885                     ccb->ccb_h.status = CAM_SEL_TIMEOUT;
1886                 } else {
1887                     ccb->ccb_h.status = CAM_SCSI_STATUS_ERROR|CAM_AUTOSNS_VALID;
1888                     ccb->csio.scsi_status = gdt->sc_info;
1889                     bcopy(gccb->gc_scratch, &ccb->csio.sense_data,
1890                           ccb->csio.sense_len);
1891                 }
1892             }
1893         }
1894         --gdt_stat.io_count_act;
1895         xpt_done(ccb);
1896     }
1897     return (0);
1898 }
1899
1900 /* Controller event handling functions */
1901 gdt_evt_str *gdt_store_event(u_int16_t source, u_int16_t idx,
1902                              gdt_evt_data *evt)
1903 {
1904     gdt_evt_str *e;
1905     struct timeval tv;
1906
1907     GDT_DPRINTF(GDT_D_MISC, ("gdt_store_event(%d, %d)\n", source, idx));
1908     if (source == 0)                        /* no source -> no event */
1909         return 0;
1910
1911     if (ebuffer[elastidx].event_source == source &&
1912         ebuffer[elastidx].event_idx == idx &&
1913         ((evt->size != 0 && ebuffer[elastidx].event_data.size != 0 &&
1914           !memcmp((char *)&ebuffer[elastidx].event_data.eu,
1915                   (char *)&evt->eu, evt->size)) ||
1916          (evt->size == 0 && ebuffer[elastidx].event_data.size == 0 &&
1917           !strcmp((char *)&ebuffer[elastidx].event_data.event_string,
1918                   (char *)&evt->event_string)))) {
1919         e = &ebuffer[elastidx];
1920         getmicrotime(&tv);
1921         e->last_stamp = tv.tv_sec;
1922         ++e->same_count;
1923     } else {
1924         if (ebuffer[elastidx].event_source != 0) {  /* entry not free ? */
1925             ++elastidx;
1926             if (elastidx == GDT_MAX_EVENTS)
1927                 elastidx = 0;
1928             if (elastidx == eoldidx) {              /* reached mark ? */
1929                 ++eoldidx;
1930                 if (eoldidx == GDT_MAX_EVENTS)
1931                     eoldidx = 0;
1932             }
1933         }
1934         e = &ebuffer[elastidx];
1935         e->event_source = source;
1936         e->event_idx = idx;
1937         getmicrotime(&tv);
1938         e->first_stamp = e->last_stamp = tv.tv_sec;
1939         e->same_count = 1;
1940         e->event_data = *evt;
1941         e->application = 0;
1942     }
1943     return e;
1944 }
1945
1946 int gdt_read_event(int handle, gdt_evt_str *estr)
1947 {
1948     gdt_evt_str *e;
1949     int eindex, lock;
1950
1951     GDT_DPRINTF(GDT_D_MISC, ("gdt_read_event(%d)\n", handle));
1952     lock = splcam();
1953     if (handle == -1)
1954         eindex = eoldidx;
1955     else
1956         eindex = handle;
1957     estr->event_source = 0;
1958
1959     if (eindex >= GDT_MAX_EVENTS) {
1960         splx(lock);
1961         return eindex;
1962     }
1963     e = &ebuffer[eindex];
1964     if (e->event_source != 0) {
1965         if (eindex != elastidx) {
1966             if (++eindex == GDT_MAX_EVENTS)
1967                 eindex = 0;
1968         } else {
1969             eindex = -1;
1970         }
1971         memcpy(estr, e, sizeof(gdt_evt_str));
1972     }
1973     splx(lock);
1974     return eindex;
1975 }
1976
1977 void gdt_readapp_event(u_int8_t application, gdt_evt_str *estr)
1978 {
1979     gdt_evt_str *e;
1980     int found = FALSE;
1981     int eindex, lock;
1982
1983     GDT_DPRINTF(GDT_D_MISC, ("gdt_readapp_event(%d)\n", application));
1984     lock = splcam();
1985     eindex = eoldidx;
1986     for (;;) {
1987         e = &ebuffer[eindex];
1988         if (e->event_source == 0)
1989             break;
1990         if ((e->application & application) == 0) {
1991             e->application |= application;
1992             found = TRUE;
1993             break;
1994         }
1995         if (eindex == elastidx)
1996             break;
1997         if (++eindex == GDT_MAX_EVENTS)
1998             eindex = 0;
1999     }
2000     if (found)
2001         memcpy(estr, e, sizeof(gdt_evt_str));
2002     else
2003         estr->event_source = 0;
2004     splx(lock);
2005 }
2006
2007 void gdt_clear_events()
2008 {
2009     GDT_DPRINTF(GDT_D_MISC, ("gdt_clear_events\n"));
2010
2011     eoldidx = elastidx = 0;
2012     ebuffer[0].event_source = 0;
2013 }