sys/dev/raid/iir/iir.c

   1 /* $FreeBSD: src/sys/dev/iir/iir.c,v 1.24 2010/01/08 15:47:23 trasz Exp $ */
   2 /*-
   3  *       Copyright (c) 2000-04 ICP vortex GmbH
   4  *       Copyright (c) 2002-04 Intel Corporation
   5  *       Copyright (c) 2003-04 Adaptec Inc.
   6  *       All Rights Reserved
   7  *
   8  * Redistribution and use in source and binary forms, with or without
   9  * modification, are permitted provided that the following conditions
  10  * are met:
  11  * 1. Redistributions of source code must retain the above copyright
  12  *    notice, this list of conditions, and the following disclaimer,
  13  *    without modification, immediately at the beginning of the file.
  14  * 2. Redistributions in binary form must reproduce the above copyright
  15  *    notice, this list of conditions and the following disclaimer in the
  16  *    documentation and/or other materials provided with the distribution.
  17  * 3. The name of the author may not be used to endorse or promote products
  18  *    derived from this software without specific prior written permission.
  19  *
  20  * THIS SOFTWARE IS PROVIDED BY THE AUTHOR AND CONTRIBUTORS ``AS IS'' AND
  21  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  22  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
  23  * ARE DISCLAIMED. IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE FOR
  24  * ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
  25  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
  26  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
  27  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
  28  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
  29  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
  30  * SUCH DAMAGE.
  31  */
  32
  33 /*
  34  * iir.c: SCSI dependant code for the Intel Integrated RAID Controller driver
  35  *
  36  * Written by: Achim Leubner <achim_leubner@adaptec.com>
  37  * Fixes/Additions: Boji Tony Kannanthanam <boji.t.kannanthanam@intel.com>
  38  *
  39  * credits:     Niklas Hallqvist;       OpenBSD driver for the ICP Controllers.
  40  *              Mike Smith;             Some driver source code.
  41  *              FreeBSD.ORG;            Great O/S to work on and for.
  42  *
  43  * $Id: iir.c 1.5 2004/03/30 10:17:53 achim Exp $"
  44  */
  45
  46
  47 #define _IIR_C_
  48
  49 /* #include "opt_iir.h" */
  50 #include <sys/param.h>
  51 #include <sys/systm.h>
  52 #include <sys/types.h>
  53 #include <sys/endian.h>
  54 #include <sys/eventhandler.h>
  55 #include <sys/malloc.h>
  56 #include <sys/kernel.h>
  57 #include <sys/bus.h>
  58 #include <sys/thread2.h>
  59
  60 #include <machine/stdarg.h>
  61
  62 #include <bus/cam/cam.h>
  63 #include <bus/cam/cam_ccb.h>
  64 #include <bus/cam/cam_sim.h>
  65 #include <bus/cam/cam_xpt_sim.h>
  66 #include <bus/cam/cam_debug.h>
  67 #include <bus/cam/scsi/scsi_all.h>
  68 #include <bus/cam/scsi/scsi_message.h>
  69
  70 #include <dev/raid/iir/iir.h>
  71
  72 MALLOC_DEFINE(M_GDTBUF, "iirbuf", "iir driver buffer");
  73
  74 struct gdt_softc *gdt_wait_gdt;
  75 int     gdt_wait_index;
  76
  77 #ifdef GDT_DEBUG
  78 int     gdt_debug = GDT_DEBUG;
  79 #ifdef __SERIAL__
  80 #define MAX_SERBUF 160
  81 static void ser_init(void);
  82 static void ser_puts(char *str);
  83 static void ser_putc(int c);
  84 static char strbuf[MAX_SERBUF+1];
  85 #ifdef __COM2__
  86 #define COM_BASE 0x2f8
  87 #else
  88 #define COM_BASE 0x3f8
  89 #endif
  90 static void ser_init()
  91 {
  92     unsigned port=COM_BASE;
  93
  94     outb(port+3, 0x80);
  95     outb(port+1, 0);
  96     /* 19200 Baud, if 9600: outb(12,port) */
  97     outb(port, 6);
  98     outb(port+3, 3);
  99     outb(port+1, 0);
 100 }
 101
 102 static void ser_puts(char *str)
 103 {
 104     char *ptr;
 105
 106     ser_init();
 107     for (ptr=str;*ptr;++ptr)
 108         ser_putc((int)(*ptr));
 109 }
 110
 111 static void ser_putc(int c)
 112 {
 113     unsigned port=COM_BASE;
 114
 115     while ((inb(port+5) & 0x20)==0);
 116     outb(port, c);
 117     if (c==0x0a)
 118     {
 119         while ((inb(port+5) & 0x20)==0);
 120         outb(port, 0x0d);
 121     }
 122 }
 123
 124 int
 125 ser_kprintf(const char *fmt, ...)
 126 {
 127     __va_list args;
 128     int i;
 129
 130     __va_start(args,fmt);
 131     i = kvsprintf(strbuf,fmt,args);
 132     ser_puts(strbuf);
 133     __va_end(args);
 134     return i;
 135 }
 136 #endif
 137 #endif
 138
 139 /* The linked list of softc structures */
 140 struct gdt_softc_list gdt_softcs = TAILQ_HEAD_INITIALIZER(gdt_softcs);
 141 /* controller cnt. */
 142 int gdt_cnt = 0;
 143 /* event buffer */
 144 static gdt_evt_str ebuffer[GDT_MAX_EVENTS];
 145 static int elastidx, eoldidx;
 146 /* statistics */
 147 gdt_statist_t gdt_stat;
 148
 149 /* Definitions for our use of the SIM private CCB area */
 150 #define ccb_sim_ptr     spriv_ptr0
 151 #define ccb_priority    spriv_field1
 152
 153 static void     iir_action(struct cam_sim *sim, union ccb *ccb);
 154 static void     iir_poll(struct cam_sim *sim);
 155 static void     iir_shutdown(void *arg, int howto);
 156 static void     iir_timeout(void *arg);
 157
 158 static void     gdt_eval_mapping(u_int32_t size, int *cyls, int *heads,
 159                                  int *secs);
 160 static int      gdt_internal_cmd(struct gdt_softc *gdt, struct gdt_ccb *gccb,
 161                                  u_int8_t service, u_int16_t opcode,
 162                                  u_int32_t arg1, u_int32_t arg2, u_int32_t arg3);
 163 static int      gdt_wait(struct gdt_softc *gdt, struct gdt_ccb *ccb,
 164                          int timeout);
 165
 166 static struct gdt_ccb *gdt_get_ccb(struct gdt_softc *gdt);
 167
 168 static int      gdt_sync_event(struct gdt_softc *gdt, int service,
 169                                u_int8_t index, struct gdt_ccb *gccb);
 170 static int      gdt_async_event(struct gdt_softc *gdt, int service);
 171 static struct gdt_ccb *gdt_raw_cmd(struct gdt_softc *gdt,  union ccb *ccb);
 172 static struct gdt_ccb *gdt_cache_cmd(struct gdt_softc *gdt, union ccb *ccb);
 173 static struct gdt_ccb *gdt_ioctl_cmd(struct gdt_softc *gdt, gdt_ucmd_t *ucmd);
 174 static void     gdt_internal_cache_cmd(struct gdt_softc *gdt,union ccb *ccb);
 175
 176 static void     gdtmapmem(void *arg, bus_dma_segment_t *dm_segs,
 177                           int nseg, int error);
 178 static void     gdtexecuteccb(void *arg, bus_dma_segment_t *dm_segs,
 179                               int nseg, int error);
 180
 181 int
 182 iir_init(struct gdt_softc *gdt)
 183 {
 184     u_int16_t cdev_cnt;
 185     int i, id, drv_cyls, drv_hds, drv_secs;
 186     struct gdt_ccb *gccb;
 187
 188     GDT_DPRINTF(GDT_D_DEBUG, ("iir_init()\n"));
 189
 190     gdt->sc_state = GDT_POLLING;
 191     gdt_clear_events();
 192     bzero(&gdt_stat, sizeof(gdt_statist_t));
 193
 194     SLIST_INIT(&gdt->sc_free_gccb);
 195     SLIST_INIT(&gdt->sc_pending_gccb);
 196     TAILQ_INIT(&gdt->sc_ccb_queue);
 197     TAILQ_INIT(&gdt->sc_ucmd_queue);
 198     TAILQ_INSERT_TAIL(&gdt_softcs, gdt, links);
 199
 200     /* DMA tag for mapping buffers into device visible space. */
 201     if (bus_dma_tag_create(gdt->sc_parent_dmat, /*alignment*/1, /*boundary*/0,
 202                            /*lowaddr*/BUS_SPACE_MAXADDR_32BIT,
 203                            /*highaddr*/BUS_SPACE_MAXADDR,
 204                            /*filter*/NULL, /*filterarg*/NULL,
 205                            /*maxsize*/MAXBSIZE, /*nsegments*/GDT_MAXSG,
 206                            /*maxsegsz*/BUS_SPACE_MAXSIZE_32BIT,
 207                            /*flags*/BUS_DMA_ALLOCNOW,
 208                            &gdt->sc_buffer_dmat) != 0) {
 209         kprintf("iir%d: bus_dma_tag_create(...,gdt->sc_buffer_dmat) failed\n",
 210                gdt->sc_hanum);
 211         return (1);
 212     }
 213     gdt->sc_init_level++;
 214
 215     /* DMA tag for our ccb structures */
 216     if (bus_dma_tag_create(gdt->sc_parent_dmat,
 217                            /*alignment*/1,
 218                            /*boundary*/0,
 219                            /*lowaddr*/BUS_SPACE_MAXADDR_32BIT,
 220                            /*highaddr*/BUS_SPACE_MAXADDR,
 221                            /*filter*/NULL,
 222                            /*filterarg*/NULL,
 223                            GDT_MAXCMDS * GDT_SCRATCH_SZ, /* maxsize */
 224                            /*nsegments*/1,
 225                            /*maxsegsz*/BUS_SPACE_MAXSIZE_32BIT,
 226                            /*flags*/0, &gdt->sc_gcscratch_dmat) != 0) {
 227         kprintf("iir%d: bus_dma_tag_create(...,gdt->sc_gcscratch_dmat) failed\n",
 228                gdt->sc_hanum);
 229         return (1);
 230     }
 231     gdt->sc_init_level++;
 232
 233     /* Allocation for our ccb scratch area */
 234     if (bus_dmamem_alloc(gdt->sc_gcscratch_dmat, (void *)&gdt->sc_gcscratch,
 235                          BUS_DMA_NOWAIT, &gdt->sc_gcscratch_dmamap) != 0) {
 236         kprintf("iir%d: bus_dmamem_alloc(...,&gdt->sc_gcscratch,...) failed\n",
 237                gdt->sc_hanum);
 238         return (1);
 239     }
 240     gdt->sc_init_level++;
 241
 242     /* And permanently map them */
 243     bus_dmamap_load(gdt->sc_gcscratch_dmat, gdt->sc_gcscratch_dmamap,
 244                     gdt->sc_gcscratch, GDT_MAXCMDS * GDT_SCRATCH_SZ,
 245                     gdtmapmem, &gdt->sc_gcscratch_busbase, /*flags*/0);
 246     gdt->sc_init_level++;
 247
 248     /* Clear them out. */
 249     bzero(gdt->sc_gcscratch, GDT_MAXCMDS * GDT_SCRATCH_SZ);
 250
 251     /* Initialize the ccbs */
 252     gdt->sc_gccbs = kmalloc(sizeof(struct gdt_ccb) * GDT_MAXCMDS, M_GDTBUF,
 253         M_INTWAIT | M_ZERO);
 254     if (gdt->sc_gccbs == NULL) {
 255         kprintf("iir%d: no memory for gccbs.\n", gdt->sc_hanum);
 256         return (1);
 257     }
 258     for (i = GDT_MAXCMDS-1; i >= 0; i--) {
 259         gccb = &gdt->sc_gccbs[i];
 260         gccb->gc_cmd_index = i + 2;
 261         gccb->gc_flags = GDT_GCF_UNUSED;
 262         gccb->gc_map_flag = FALSE;
 263         if (bus_dmamap_create(gdt->sc_buffer_dmat, /*flags*/0,
 264                               &gccb->gc_dmamap) != 0)
 265             return(1);
 266         gccb->gc_map_flag = TRUE;
 267         gccb->gc_scratch = &gdt->sc_gcscratch[GDT_SCRATCH_SZ * i];
 268         gccb->gc_scratch_busbase = gdt->sc_gcscratch_busbase + GDT_SCRATCH_SZ * i;
 269         SLIST_INSERT_HEAD(&gdt->sc_free_gccb, gccb, sle);
 270     }
 271     gdt->sc_init_level++;
 272
 273     /* create the control device */
 274     gdt->sc_dev = gdt_make_dev(gdt->sc_hanum);
 275
 276     /* allocate ccb for gdt_internal_cmd() */
 277     gccb = gdt_get_ccb(gdt);
 278     if (gccb == NULL) {
 279         kprintf("iir%d: No free command index found\n",
 280                gdt->sc_hanum);
 281         return (1);
 282     }
 283     bzero(gccb->gc_cmd, GDT_CMD_SZ);
 284
 285     if (!gdt_internal_cmd(gdt, gccb, GDT_SCREENSERVICE, GDT_INIT,
 286                           0, 0, 0)) {
 287         kprintf("iir%d: Screen service initialization error %d\n",
 288                gdt->sc_hanum, gdt->sc_status);
 289         gdt_free_ccb(gdt, gccb);
 290         return (1);
 291     }
 292
 293     gdt_internal_cmd(gdt, gccb, GDT_CACHESERVICE, GDT_UNFREEZE_IO,
 294                      0, 0, 0);
 295
 296     if (!gdt_internal_cmd(gdt, gccb, GDT_CACHESERVICE, GDT_INIT,
 297                           GDT_LINUX_OS, 0, 0)) {
 298         kprintf("iir%d: Cache service initialization error %d\n",
 299                gdt->sc_hanum, gdt->sc_status);
 300         gdt_free_ccb(gdt, gccb);
 301         return (1);
 302     }
 303     cdev_cnt = (u_int16_t)gdt->sc_info;
 304     gdt->sc_fw_vers = gdt->sc_service;
 305
 306     /* Detect number of buses */
 307     gdt_enc32(gccb->gc_scratch + GDT_IOC_VERSION, GDT_IOC_NEWEST);
 308     gccb->gc_scratch[GDT_IOC_LIST_ENTRIES] = GDT_MAXBUS;
 309     gccb->gc_scratch[GDT_IOC_FIRST_CHAN] = 0;
 310     gccb->gc_scratch[GDT_IOC_LAST_CHAN] = GDT_MAXBUS - 1;
 311     gdt_enc32(gccb->gc_scratch + GDT_IOC_LIST_OFFSET, GDT_IOC_HDR_SZ);
 312     if (gdt_internal_cmd(gdt, gccb, GDT_CACHESERVICE, GDT_IOCTL,
 313                          GDT_IOCHAN_RAW_DESC, GDT_INVALID_CHANNEL,
 314                          GDT_IOC_HDR_SZ + GDT_MAXBUS * GDT_RAWIOC_SZ)) {
 315         gdt->sc_bus_cnt = gccb->gc_scratch[GDT_IOC_CHAN_COUNT];
 316         for (i = 0; i < gdt->sc_bus_cnt; i++) {
 317             id = gccb->gc_scratch[GDT_IOC_HDR_SZ +
 318                                  i * GDT_RAWIOC_SZ + GDT_RAWIOC_PROC_ID];
 319             gdt->sc_bus_id[i] = id < GDT_MAXID_FC ? id : 0xff;
 320         }
 321     } else {
 322         /* New method failed, use fallback. */
 323         for (i = 0; i < GDT_MAXBUS; i++) {
 324             gdt_enc32(gccb->gc_scratch + GDT_GETCH_CHANNEL_NO, i);
 325             if (!gdt_internal_cmd(gdt, gccb, GDT_CACHESERVICE, GDT_IOCTL,
 326                                   GDT_SCSI_CHAN_CNT | GDT_L_CTRL_PATTERN,
 327                                   GDT_IO_CHANNEL | GDT_INVALID_CHANNEL,
 328                                   GDT_GETCH_SZ)) {
 329                 if (i == 0) {
 330                     kprintf("iir%d: Cannot get channel count, "
 331                            "error %d\n", gdt->sc_hanum, gdt->sc_status);
 332                     gdt_free_ccb(gdt, gccb);
 333                     return (1);
 334                 }
 335                 break;
 336             }
 337             gdt->sc_bus_id[i] =
 338                 (gccb->gc_scratch[GDT_GETCH_SIOP_ID] < GDT_MAXID_FC) ?
 339                 gccb->gc_scratch[GDT_GETCH_SIOP_ID] : 0xff;
 340         }
 341         gdt->sc_bus_cnt = i;
 342     }
 343     /* add one "virtual" channel for the host drives */
 344     gdt->sc_virt_bus = gdt->sc_bus_cnt;
 345     gdt->sc_bus_cnt++;
 346
 347     if (!gdt_internal_cmd(gdt, gccb, GDT_SCSIRAWSERVICE, GDT_INIT,
 348                           0, 0, 0)) {
 349             kprintf("iir%d: Raw service initialization error %d\n",
 350                    gdt->sc_hanum, gdt->sc_status);
 351             gdt_free_ccb(gdt, gccb);
 352             return (1);
 353     }
 354
 355     /* Set/get features raw service (scatter/gather) */
 356     gdt->sc_raw_feat = 0;
 357     if (gdt_internal_cmd(gdt, gccb, GDT_SCSIRAWSERVICE, GDT_SET_FEAT,
 358                          GDT_SCATTER_GATHER, 0, 0)) {
 359         if (gdt_internal_cmd(gdt, gccb, GDT_SCSIRAWSERVICE, GDT_GET_FEAT,
 360                              0, 0, 0)) {
 361             gdt->sc_raw_feat = gdt->sc_info;
 362             if (!(gdt->sc_info & GDT_SCATTER_GATHER)) {
 363                 panic("iir%d: Scatter/Gather Raw Service "
 364                       "required but not supported!\n", gdt->sc_hanum);
 365                 gdt_free_ccb(gdt, gccb);
 366                 return (1);
 367             }
 368         }
 369     }
 370
 371     /* Set/get features cache service (scatter/gather) */
 372     gdt->sc_cache_feat = 0;
 373     if (gdt_internal_cmd(gdt, gccb, GDT_CACHESERVICE, GDT_SET_FEAT,
 374                          0, GDT_SCATTER_GATHER, 0)) {
 375         if (gdt_internal_cmd(gdt, gccb, GDT_CACHESERVICE, GDT_GET_FEAT,
 376                              0, 0, 0)) {
 377             gdt->sc_cache_feat = gdt->sc_info;
 378             if (!(gdt->sc_info & GDT_SCATTER_GATHER)) {
 379                 panic("iir%d: Scatter/Gather Cache Service "
 380                   "required but not supported!\n", gdt->sc_hanum);
 381                 gdt_free_ccb(gdt, gccb);
 382                 return (1);
 383             }
 384         }
 385     }
 386
 387     /* OEM */
 388     gdt_enc32(gccb->gc_scratch + GDT_OEM_VERSION, 0x01);
 389     gdt_enc32(gccb->gc_scratch + GDT_OEM_BUFSIZE, sizeof(gdt_oem_record_t));
 390     if (gdt_internal_cmd(gdt, gccb, GDT_CACHESERVICE, GDT_IOCTL,
 391                          GDT_OEM_STR_RECORD, GDT_INVALID_CHANNEL,
 392                          sizeof(gdt_oem_str_record_t))) {
 393             strncpy(gdt->oem_name, ((gdt_oem_str_record_t *)
 394             gccb->gc_scratch)->text.scsi_host_drive_inquiry_vendor_id, 7);
 395                 gdt->oem_name[7]='\0';
 396         } else {
 397                 /* Old method, based on PCI ID */
 398                 if (gdt->sc_vendor == INTEL_VENDOR_ID)
 399             strcpy(gdt->oem_name,"Intel  ");
 400         else
 401             strcpy(gdt->oem_name,"ICP    ");
 402     }
 403
 404     /* Scan for cache devices */
 405     for (i = 0; i < cdev_cnt && i < GDT_MAX_HDRIVES; i++) {
 406         if (gdt_internal_cmd(gdt, gccb, GDT_CACHESERVICE, GDT_INFO,
 407                              i, 0, 0)) {
 408             gdt->sc_hdr[i].hd_present = 1;
 409             gdt->sc_hdr[i].hd_size = gdt->sc_info;
 410
 411             /*
 412              * Evaluate mapping (sectors per head, heads per cyl)
 413              */
 414             gdt->sc_hdr[i].hd_size &= ~GDT_SECS32;
 415             if (gdt->sc_info2 == 0)
 416                 gdt_eval_mapping(gdt->sc_hdr[i].hd_size,
 417                                  &drv_cyls, &drv_hds, &drv_secs);
 418             else {
 419                 drv_hds = gdt->sc_info2 & 0xff;
 420                 drv_secs = (gdt->sc_info2 >> 8) & 0xff;
 421                 drv_cyls = gdt->sc_hdr[i].hd_size / drv_hds /
 422                     drv_secs;
 423             }
 424             gdt->sc_hdr[i].hd_heads = drv_hds;
 425             gdt->sc_hdr[i].hd_secs = drv_secs;
 426             /* Round the size */
 427             gdt->sc_hdr[i].hd_size = drv_cyls * drv_hds * drv_secs;
 428
 429             if (gdt_internal_cmd(gdt, gccb, GDT_CACHESERVICE,
 430                                  GDT_DEVTYPE, i, 0, 0))
 431                 gdt->sc_hdr[i].hd_devtype = gdt->sc_info;
 432         }
 433     }
 434
 435     GDT_DPRINTF(GDT_D_INIT, ("dpmem %x %d-bus %d cache device%s\n",
 436                              gdt->sc_dpmembase,
 437                              gdt->sc_bus_cnt, cdev_cnt,
 438                              cdev_cnt == 1 ? "" : "s"));
 439     gdt_free_ccb(gdt, gccb);
 440
 441     gdt_cnt++;
 442     return (0);
 443 }
 444
 445 void
 446 iir_free(struct gdt_softc *gdt)
 447 {
 448     int i;
 449
 450     GDT_DPRINTF(GDT_D_INIT, ("iir_free()\n"));
 451
 452     switch (gdt->sc_init_level) {
 453       default:
 454         gdt_destroy_dev(gdt->sc_dev);
 455       case 5:
 456         for (i = GDT_MAXCMDS-1; i >= 0; i--)
 457             if (gdt->sc_gccbs[i].gc_map_flag)
 458                 bus_dmamap_destroy(gdt->sc_buffer_dmat,
 459                                    gdt->sc_gccbs[i].gc_dmamap);
 460         bus_dmamap_unload(gdt->sc_gcscratch_dmat, gdt->sc_gcscratch_dmamap);
 461         kfree(gdt->sc_gccbs, M_GDTBUF);
 462       case 4:
 463         bus_dmamem_free(gdt->sc_gcscratch_dmat, gdt->sc_gcscratch, gdt->sc_gcscratch_dmamap);
 464       case 3:
 465         bus_dma_tag_destroy(gdt->sc_gcscratch_dmat);
 466       case 2:
 467         bus_dma_tag_destroy(gdt->sc_buffer_dmat);
 468       case 1:
 469         bus_dma_tag_destroy(gdt->sc_parent_dmat);
 470       case 0:
 471         break;
 472     }
 473     TAILQ_REMOVE(&gdt_softcs, gdt, links);
 474 }
 475
 476 void
 477 iir_attach(struct gdt_softc *gdt)
 478 {
 479     struct cam_devq *devq;
 480     int i;
 481
 482     GDT_DPRINTF(GDT_D_INIT, ("iir_attach()\n"));
 483
 484     /*
 485      * Create the device queue for our SIM.
 486      * XXX Throttle this down since the card has problems under load.
 487      */
 488     devq = cam_simq_alloc(32);
 489     if (devq == NULL)
 490         return;
 491
 492     for (i = 0; i < gdt->sc_bus_cnt; i++) {
 493         /*
 494          * Construct our SIM entry
 495          */
 496         gdt->sims[i] = cam_sim_alloc(iir_action, iir_poll, "iir",
 497                                      gdt, gdt->sc_hanum, &sim_mplock,
 498                                      /*untagged*/1,
 499                                      /*tagged*/GDT_MAXCMDS, devq);
 500         if (xpt_bus_register(gdt->sims[i], i) != CAM_SUCCESS) {
 501             cam_sim_free(gdt->sims[i]);
 502             break;
 503         }
 504
 505         if (xpt_create_path(&gdt->paths[i], /*periph*/NULL,
 506                             cam_sim_path(gdt->sims[i]),
 507                             CAM_TARGET_WILDCARD,
 508                             CAM_LUN_WILDCARD) != CAM_REQ_CMP) {
 509             xpt_bus_deregister(cam_sim_path(gdt->sims[i]));
 510             cam_sim_free(gdt->sims[i]);
 511             break;
 512         }
 513     }
 514     cam_simq_release(devq);
 515     if (i > 0)
 516         EVENTHANDLER_REGISTER(shutdown_post_sync, iir_shutdown,
 517                               gdt, SHUTDOWN_PRI_DRIVER);
 518     gdt->sc_state = GDT_NORMAL;
 519 }
 520
 521 static void
 522 gdt_eval_mapping(u_int32_t size, int *cyls, int *heads, int *secs)
 523 {
 524     *cyls = size / GDT_HEADS / GDT_SECS;
 525     if (*cyls < GDT_MAXCYLS) {
 526         *heads = GDT_HEADS;
 527         *secs = GDT_SECS;
 528     } else {
 529         /* Too high for 64 * 32 */
 530         *cyls = size / GDT_MEDHEADS / GDT_MEDSECS;
 531         if (*cyls < GDT_MAXCYLS) {
 532             *heads = GDT_MEDHEADS;
 533             *secs = GDT_MEDSECS;
 534         } else {
 535             /* Too high for 127 * 63 */
 536             *cyls = size / GDT_BIGHEADS / GDT_BIGSECS;
 537             *heads = GDT_BIGHEADS;
 538             *secs = GDT_BIGSECS;
 539         }
 540     }
 541 }
 542
 543 static int
 544 gdt_wait(struct gdt_softc *gdt, struct gdt_ccb *gccb,
 545          int timeout)
 546 {
 547     int rv = 0;
 548
 549     GDT_DPRINTF(GDT_D_INIT,
 550                 ("gdt_wait(%p, %p, %d)\n", gdt, gccb, timeout));
 551
 552     gdt->sc_state |= GDT_POLL_WAIT;
 553     do {
 554         iir_intr(gdt);
 555         if (gdt == gdt_wait_gdt &&
 556             gccb->gc_cmd_index == gdt_wait_index) {
 557             rv = 1;
 558             break;
 559         }
 560         DELAY(1);
 561     } while (--timeout);
 562     gdt->sc_state &= ~GDT_POLL_WAIT;
 563
 564     while (gdt->sc_test_busy(gdt))
 565         DELAY(1);               /* XXX correct? */
 566
 567     return (rv);
 568 }
 569
 570 static int
 571 gdt_internal_cmd(struct gdt_softc *gdt, struct gdt_ccb *gccb,
 572                  u_int8_t service, u_int16_t opcode,
 573                  u_int32_t arg1, u_int32_t arg2, u_int32_t arg3)
 574 {
 575     int retries;
 576
 577     GDT_DPRINTF(GDT_D_CMD, ("gdt_internal_cmd(%p, %d, %d, %d, %d, %d)\n",
 578                             gdt, service, opcode, arg1, arg2, arg3));
 579
 580     bzero(gccb->gc_cmd, GDT_CMD_SZ);
 581
 582     for (retries = GDT_RETRIES; ; ) {
 583         gccb->gc_service = service;
 584         gccb->gc_flags = GDT_GCF_INTERNAL;
 585
 586         gdt_enc32(gccb->gc_cmd + GDT_CMD_COMMANDINDEX,
 587                   gccb->gc_cmd_index);
 588         gdt_enc16(gccb->gc_cmd + GDT_CMD_OPCODE, opcode);
 589
 590         switch (service) {
 591           case GDT_CACHESERVICE:
 592             if (opcode == GDT_IOCTL) {
 593                 gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION +
 594                           GDT_IOCTL_SUBFUNC, arg1);
 595                 gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION +
 596                           GDT_IOCTL_CHANNEL, arg2);
 597                 gdt_enc16(gccb->gc_cmd + GDT_CMD_UNION +
 598                           GDT_IOCTL_PARAM_SIZE, (u_int16_t)arg3);
 599                 gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_IOCTL_P_PARAM,
 600                           gccb->gc_scratch_busbase);
 601             } else {
 602                 gdt_enc16(gccb->gc_cmd + GDT_CMD_UNION +
 603                           GDT_CACHE_DEVICENO, (u_int16_t)arg1);
 604                 gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION +
 605                           GDT_CACHE_BLOCKNO, arg2);
 606             }
 607             break;
 608
 609           case GDT_SCSIRAWSERVICE:
 610             gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION +
 611                       GDT_RAW_DIRECTION, arg1);
 612             gccb->gc_cmd[GDT_CMD_UNION + GDT_RAW_BUS] =
 613                 (u_int8_t)arg2;
 614             gccb->gc_cmd[GDT_CMD_UNION + GDT_RAW_TARGET] =
 615                 (u_int8_t)arg3;
 616             gccb->gc_cmd[GDT_CMD_UNION + GDT_RAW_LUN] =
 617                 (u_int8_t)(arg3 >> 8);
 618         }
 619
 620         gdt->sc_set_sema0(gdt);
 621         gccb->gc_cmd_len = GDT_CMD_SZ;
 622         gdt->sc_cmd_off = 0;
 623         gdt->sc_cmd_cnt = 0;
 624         gdt->sc_copy_cmd(gdt, gccb);
 625         gdt->sc_release_event(gdt);
 626         DELAY(20);
 627         if (!gdt_wait(gdt, gccb, GDT_POLL_TIMEOUT))
 628             return (0);
 629         if (gdt->sc_status != GDT_S_BSY || --retries == 0)
 630             break;
 631         DELAY(1);
 632     }
 633     return (gdt->sc_status == GDT_S_OK);
 634 }
 635
 636 static struct gdt_ccb *
 637 gdt_get_ccb(struct gdt_softc *gdt)
 638 {
 639     struct gdt_ccb *gccb;
 640
 641     GDT_DPRINTF(GDT_D_QUEUE, ("gdt_get_ccb(%p)\n", gdt));
 642
 643     crit_enter();
 644     gccb = SLIST_FIRST(&gdt->sc_free_gccb);
 645     if (gccb != NULL) {
 646         SLIST_REMOVE_HEAD(&gdt->sc_free_gccb, sle);
 647         SLIST_INSERT_HEAD(&gdt->sc_pending_gccb, gccb, sle);
 648         ++gdt_stat.cmd_index_act;
 649         if (gdt_stat.cmd_index_act > gdt_stat.cmd_index_max)
 650             gdt_stat.cmd_index_max = gdt_stat.cmd_index_act;
 651     }
 652     crit_exit();
 653     return (gccb);
 654 }
 655
 656 void
 657 gdt_free_ccb(struct gdt_softc *gdt, struct gdt_ccb *gccb)
 658 {
 659     GDT_DPRINTF(GDT_D_QUEUE, ("gdt_free_ccb(%p, %p)\n", gdt, gccb));
 660
 661     crit_enter();
 662     gccb->gc_flags = GDT_GCF_UNUSED;
 663     SLIST_REMOVE(&gdt->sc_pending_gccb, gccb, gdt_ccb, sle);
 664     SLIST_INSERT_HEAD(&gdt->sc_free_gccb, gccb, sle);
 665     --gdt_stat.cmd_index_act;
 666     crit_exit();
 667     if (gdt->sc_state & GDT_SHUTDOWN)
 668         wakeup(gccb);
 669 }
 670
 671 void
 672 gdt_next(struct gdt_softc *gdt)
 673 {
 674     union ccb *ccb;
 675     gdt_ucmd_t *ucmd;
 676     struct cam_sim *sim;
 677     int bus, target, lun;
 678     int next_cmd;
 679
 680     struct ccb_scsiio *csio;
 681     struct ccb_hdr *ccbh;
 682     struct gdt_ccb *gccb = NULL;
 683     u_int8_t cmd;
 684
 685     GDT_DPRINTF(GDT_D_QUEUE, ("gdt_next(%p)\n", gdt));
 686
 687     crit_enter();
 688     if (gdt->sc_test_busy(gdt)) {
 689         if (!(gdt->sc_state & GDT_POLLING)) {
 690             crit_exit();
 691             return;
 692         }
 693         while (gdt->sc_test_busy(gdt))
 694             DELAY(1);
 695     }
 696
 697     gdt->sc_cmd_cnt = gdt->sc_cmd_off = 0;
 698     next_cmd = TRUE;
 699     for (;;) {
 700         /* I/Os in queue? controller ready? */
 701         if (!TAILQ_FIRST(&gdt->sc_ucmd_queue) &&
 702             !TAILQ_FIRST(&gdt->sc_ccb_queue))
 703             break;
 704
 705         /* 1.: I/Os without ccb (IOCTLs) */
 706         ucmd = TAILQ_FIRST(&gdt->sc_ucmd_queue);
 707         if (ucmd != NULL) {
 708             TAILQ_REMOVE(&gdt->sc_ucmd_queue, ucmd, links);
 709             if ((gccb = gdt_ioctl_cmd(gdt, ucmd)) == NULL) {
 710                 TAILQ_INSERT_HEAD(&gdt->sc_ucmd_queue, ucmd, links);
 711                 break;
 712             }
 713             break;
 714             /* wenn mehrere Kdos. zulassen: if (!gdt_polling) continue; */
 715         }
 716
 717         /* 2.: I/Os with ccb */
 718         ccb = (union ccb *)TAILQ_FIRST(&gdt->sc_ccb_queue);
 719         /* ist dann immer != NULL, da oben getestet */
 720         sim = (struct cam_sim *)ccb->ccb_h.ccb_sim_ptr;
 721         bus = cam_sim_bus(sim);
 722         target = ccb->ccb_h.target_id;
 723         lun = ccb->ccb_h.target_lun;
 724
 725         TAILQ_REMOVE(&gdt->sc_ccb_queue, &ccb->ccb_h, sim_links.tqe);
 726         --gdt_stat.req_queue_act;
 727         /* ccb->ccb_h.func_code is XPT_SCSI_IO */
 728         GDT_DPRINTF(GDT_D_QUEUE, ("XPT_SCSI_IO flags 0x%x)\n",
 729                                   ccb->ccb_h.flags));
 730         csio = &ccb->csio;
 731         ccbh = &ccb->ccb_h;
 732         cmd  = csio->cdb_io.cdb_bytes[0];
 733         /* Max CDB length is 12 bytes */
 734         if (csio->cdb_len > 12) {
 735             ccbh->status = CAM_REQ_INVALID;
 736             --gdt_stat.io_count_act;
 737             xpt_done(ccb);
 738         } else if (bus != gdt->sc_virt_bus) {
 739             /* raw service command */
 740             if ((gccb = gdt_raw_cmd(gdt, ccb)) == NULL) {
 741                 TAILQ_INSERT_HEAD(&gdt->sc_ccb_queue, &ccb->ccb_h,
 742                                   sim_links.tqe);
 743                 ++gdt_stat.req_queue_act;
 744                 if (gdt_stat.req_queue_act > gdt_stat.req_queue_max)
 745                     gdt_stat.req_queue_max = gdt_stat.req_queue_act;
 746                 next_cmd = FALSE;
 747             }
 748         } else if (target >= GDT_MAX_HDRIVES ||
 749                    !gdt->sc_hdr[target].hd_present || lun != 0) {
 750             ccbh->status = CAM_DEV_NOT_THERE;
 751             --gdt_stat.io_count_act;
 752             xpt_done(ccb);
 753         } else {
 754             /* cache service command */
 755             if (cmd == READ_6  || cmd == WRITE_6 ||
 756                 cmd == READ_10 || cmd == WRITE_10) {
 757                 if ((gccb = gdt_cache_cmd(gdt, ccb)) == NULL) {
 758                     TAILQ_INSERT_HEAD(&gdt->sc_ccb_queue, &ccb->ccb_h,
 759                                       sim_links.tqe);
 760                     ++gdt_stat.req_queue_act;
 761                     if (gdt_stat.req_queue_act > gdt_stat.req_queue_max)
 762                         gdt_stat.req_queue_max = gdt_stat.req_queue_act;
 763                     next_cmd = FALSE;
 764                 }
 765             } else {
 766                 crit_exit();
 767                 gdt_internal_cache_cmd(gdt, ccb);
 768                 crit_enter();
 769             }
 770         }
 771         if ((gdt->sc_state & GDT_POLLING) || !next_cmd)
 772             break;
 773     }
 774     if (gdt->sc_cmd_cnt > 0)
 775         gdt->sc_release_event(gdt);
 776
 777     crit_exit();
 778
 779     if ((gdt->sc_state & GDT_POLLING) && gdt->sc_cmd_cnt > 0) {
 780         gdt_wait(gdt, gccb, GDT_POLL_TIMEOUT);
 781     }
 782 }
 783
 784 static struct gdt_ccb *
 785 gdt_raw_cmd(struct gdt_softc *gdt, union ccb *ccb)
 786 {
 787     struct gdt_ccb *gccb;
 788     struct cam_sim *sim;
 789
 790     GDT_DPRINTF(GDT_D_CMD, ("gdt_raw_cmd(%p, %p)\n", gdt, ccb));
 791
 792     if (roundup(GDT_CMD_UNION + GDT_RAW_SZ, sizeof(u_int32_t)) +
 793         gdt->sc_cmd_off + GDT_DPMEM_COMMAND_OFFSET >
 794         gdt->sc_ic_all_size) {
 795         GDT_DPRINTF(GDT_D_INVALID, ("iir%d: gdt_raw_cmd(): DPMEM overflow\n",
 796                                     gdt->sc_hanum));
 797         return (NULL);
 798     }
 799
 800     gccb = gdt_get_ccb(gdt);
 801     if (gccb == NULL) {
 802         GDT_DPRINTF(GDT_D_INVALID, ("iir%d: No free command index found\n",
 803                                     gdt->sc_hanum));
 804         return (gccb);
 805     }
 806     bzero(gccb->gc_cmd, GDT_CMD_SZ);
 807     sim = (struct cam_sim *)ccb->ccb_h.ccb_sim_ptr;
 808     gccb->gc_ccb = ccb;
 809     gccb->gc_service = GDT_SCSIRAWSERVICE;
 810     gccb->gc_flags = GDT_GCF_SCSI;
 811
 812     if (gdt->sc_cmd_cnt == 0)
 813         gdt->sc_set_sema0(gdt);
 814     crit_exit();
 815     gdt_enc32(gccb->gc_cmd + GDT_CMD_COMMANDINDEX,
 816               gccb->gc_cmd_index);
 817     gdt_enc16(gccb->gc_cmd + GDT_CMD_OPCODE, GDT_WRITE);
 818
 819     gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_RAW_DIRECTION,
 820               (ccb->ccb_h.flags & CAM_DIR_MASK) == CAM_DIR_IN ?
 821               GDT_DATA_IN : GDT_DATA_OUT);
 822     gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_RAW_SDLEN,
 823               ccb->csio.dxfer_len);
 824     gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_RAW_CLEN,
 825               ccb->csio.cdb_len);
 826     bcopy(ccb->csio.cdb_io.cdb_bytes, gccb->gc_cmd + GDT_CMD_UNION + GDT_RAW_CMD,
 827           ccb->csio.cdb_len);
 828     gccb->gc_cmd[GDT_CMD_UNION + GDT_RAW_TARGET] =
 829         ccb->ccb_h.target_id;
 830     gccb->gc_cmd[GDT_CMD_UNION + GDT_RAW_LUN] =
 831         ccb->ccb_h.target_lun;
 832     gccb->gc_cmd[GDT_CMD_UNION + GDT_RAW_BUS] =
 833         cam_sim_bus(sim);
 834     gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_RAW_SENSE_LEN,
 835               sizeof(struct scsi_sense_data));
 836     gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_RAW_SENSE_DATA,
 837               gccb->gc_scratch_busbase);
 838
 839     /*
 840      * If we have any data to send with this command,
 841      * map it into bus space.
 842      */
 843     /* Only use S/G if there is a transfer */
 844     if ((ccb->ccb_h.flags & CAM_DIR_MASK) != CAM_DIR_NONE) {
 845         if ((ccb->ccb_h.flags & CAM_SCATTER_VALID) == 0) {
 846             if ((ccb->ccb_h.flags & CAM_DATA_PHYS) == 0) {
 847                 int error;
 848
 849                 /* vorher unlock von splcam() ??? */
 850                 crit_enter();
 851                 error =
 852                     bus_dmamap_load(gdt->sc_buffer_dmat,
 853                                     gccb->gc_dmamap,
 854                                     ccb->csio.data_ptr,
 855                                     ccb->csio.dxfer_len,
 856                                     gdtexecuteccb,
 857                                     gccb, /*flags*/0);
 858                 if (error == EINPROGRESS) {
 859                     xpt_freeze_simq(sim, 1);
 860                     gccb->gc_ccb->ccb_h.status |= CAM_RELEASE_SIMQ;
 861                 }
 862                 crit_exit();
 863             } else {
 864                 panic("iir: CAM_DATA_PHYS not supported");
 865             }
 866         } else {
 867             struct bus_dma_segment *segs;
 868
 869             if ((ccb->ccb_h.flags & CAM_DATA_PHYS) != 0)
 870                 panic("iir%d: iir_action - Physical "
 871                       "segment pointers unsupported", gdt->sc_hanum);
 872
 873             if ((ccb->ccb_h.flags & CAM_SG_LIST_PHYS)==0)
 874                 panic("iir%d: iir_action - Virtual "
 875                       "segment addresses unsupported", gdt->sc_hanum);
 876
 877             /* Just use the segments provided */
 878             segs = (struct bus_dma_segment *)ccb->csio.data_ptr;
 879             gdtexecuteccb(gccb, segs, ccb->csio.sglist_cnt, 0);
 880         }
 881     } else {
 882         gdtexecuteccb(gccb, NULL, 0, 0);
 883     }
 884
 885     crit_enter();
 886     return (gccb);
 887 }
 888
 889 static struct gdt_ccb *
 890 gdt_cache_cmd(struct gdt_softc *gdt, union ccb *ccb)
 891 {
 892     struct gdt_ccb *gccb;
 893     struct cam_sim *sim;
 894     u_int8_t *cmdp;
 895     u_int16_t opcode;
 896     u_int32_t blockno, blockcnt;
 897
 898     GDT_DPRINTF(GDT_D_CMD, ("gdt_cache_cmd(%p, %p)\n", gdt, ccb));
 899
 900     if (roundup(GDT_CMD_UNION + GDT_CACHE_SZ, sizeof(u_int32_t)) +
 901         gdt->sc_cmd_off + GDT_DPMEM_COMMAND_OFFSET >
 902         gdt->sc_ic_all_size) {
 903         GDT_DPRINTF(GDT_D_INVALID, ("iir%d: gdt_cache_cmd(): DPMEM overflow\n",
 904                                     gdt->sc_hanum));
 905         return (NULL);
 906     }
 907
 908     gccb = gdt_get_ccb(gdt);
 909     if (gccb == NULL) {
 910         GDT_DPRINTF(GDT_D_DEBUG, ("iir%d: No free command index found\n",
 911                                   gdt->sc_hanum));
 912         return (gccb);
 913     }
 914     bzero(gccb->gc_cmd, GDT_CMD_SZ);
 915     sim = (struct cam_sim *)ccb->ccb_h.ccb_sim_ptr;
 916     gccb->gc_ccb = ccb;
 917     gccb->gc_service = GDT_CACHESERVICE;
 918     gccb->gc_flags = GDT_GCF_SCSI;
 919
 920     if (gdt->sc_cmd_cnt == 0)
 921         gdt->sc_set_sema0(gdt);
 922     crit_exit();
 923     gdt_enc32(gccb->gc_cmd + GDT_CMD_COMMANDINDEX,
 924               gccb->gc_cmd_index);
 925     cmdp = ccb->csio.cdb_io.cdb_bytes;
 926     opcode = (*cmdp == WRITE_6 || *cmdp == WRITE_10) ? GDT_WRITE : GDT_READ;
 927     if ((gdt->sc_state & GDT_SHUTDOWN) && opcode == GDT_WRITE)
 928         opcode = GDT_WRITE_THR;
 929     gdt_enc16(gccb->gc_cmd + GDT_CMD_OPCODE, opcode);
 930
 931     gdt_enc16(gccb->gc_cmd + GDT_CMD_UNION + GDT_CACHE_DEVICENO,
 932               ccb->ccb_h.target_id);
 933     if (ccb->csio.cdb_len == 6) {
 934         struct scsi_rw_6 *rw = (struct scsi_rw_6 *)cmdp;
 935         blockno = scsi_3btoul(rw->addr) & ((SRW_TOPADDR<<16) | 0xffff);
 936         blockcnt = rw->length ? rw->length : 0x100;
 937     } else {
 938         struct scsi_rw_10 *rw = (struct scsi_rw_10 *)cmdp;
 939         blockno = scsi_4btoul(rw->addr);
 940         blockcnt = scsi_2btoul(rw->length);
 941     }
 942     gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_CACHE_BLOCKNO,
 943               blockno);
 944     gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_CACHE_BLOCKCNT,
 945               blockcnt);
 946
 947     /*
 948      * If we have any data to send with this command,
 949      * map it into bus space.
 950      */
 951     /* Only use S/G if there is a transfer */
 952     if ((ccb->ccb_h.flags & CAM_SCATTER_VALID) == 0) {
 953         if ((ccb->ccb_h.flags & CAM_DATA_PHYS) == 0) {
 954             int error;
 955
 956             /* vorher unlock von splcam() ??? */
 957             crit_enter();
 958             error =
 959                 bus_dmamap_load(gdt->sc_buffer_dmat,
 960                                 gccb->gc_dmamap,
 961                                 ccb->csio.data_ptr,
 962                                 ccb->csio.dxfer_len,
 963                                 gdtexecuteccb,
 964                                 gccb, /*flags*/0);
 965             if (error == EINPROGRESS) {
 966                 xpt_freeze_simq(sim, 1);
 967                 gccb->gc_ccb->ccb_h.status |= CAM_RELEASE_SIMQ;
 968             }
 969             crit_exit();
 970         } else {
 971             panic("iir: CAM_DATA_PHYS not supported");
 972         }
 973     } else {
 974         struct bus_dma_segment *segs;
 975
 976         if ((ccb->ccb_h.flags & CAM_DATA_PHYS) != 0)
 977             panic("iir%d: iir_action - Physical "
 978                   "segment pointers unsupported", gdt->sc_hanum);
 979
 980         if ((ccb->ccb_h.flags & CAM_SG_LIST_PHYS)==0)
 981             panic("iir%d: iir_action - Virtual "
 982                   "segment addresses unsupported", gdt->sc_hanum);
 983
 984         /* Just use the segments provided */
 985         segs = (struct bus_dma_segment *)ccb->csio.data_ptr;
 986         gdtexecuteccb(gccb, segs, ccb->csio.sglist_cnt, 0);
 987     }
 988
 989     crit_enter();
 990     return (gccb);
 991 }
 992
 993 static struct gdt_ccb *
 994 gdt_ioctl_cmd(struct gdt_softc *gdt, gdt_ucmd_t *ucmd)
 995 {
 996     struct gdt_ccb *gccb;
 997     u_int32_t cnt;
 998
 999     GDT_DPRINTF(GDT_D_DEBUG, ("gdt_ioctl_cmd(%p, %p)\n", gdt, ucmd));
1000
1001     gccb = gdt_get_ccb(gdt);
1002     if (gccb == NULL) {
1003         GDT_DPRINTF(GDT_D_DEBUG, ("iir%d: No free command index found\n",
1004                                   gdt->sc_hanum));
1005         return (gccb);
1006     }
1007     bzero(gccb->gc_cmd, GDT_CMD_SZ);
1008     gccb->gc_ucmd = ucmd;
1009     gccb->gc_service = ucmd->service;
1010     gccb->gc_flags = GDT_GCF_IOCTL;
1011
1012     /* check DPMEM space, copy data buffer from user space */
1013     if (ucmd->service == GDT_CACHESERVICE) {
1014         if (ucmd->OpCode == GDT_IOCTL) {
1015             gccb->gc_cmd_len = roundup(GDT_CMD_UNION + GDT_IOCTL_SZ,
1016                                       sizeof(u_int32_t));
1017             cnt = ucmd->u.ioctl.param_size;
1018             if (cnt > GDT_SCRATCH_SZ) {
1019                 kprintf("iir%d: Scratch buffer too small (%d/%d)\n",
1020                        gdt->sc_hanum, GDT_SCRATCH_SZ, cnt);
1021                 gdt_free_ccb(gdt, gccb);
1022                 return (NULL);
1023             }
1024         } else {
1025             gccb->gc_cmd_len = roundup(GDT_CMD_UNION + GDT_CACHE_SG_LST +
1026                                       GDT_SG_SZ, sizeof(u_int32_t));
1027             cnt = ucmd->u.cache.BlockCnt * GDT_SECTOR_SIZE;
1028             if (cnt > GDT_SCRATCH_SZ) {
1029                 kprintf("iir%d: Scratch buffer too small (%d/%d)\n",
1030                        gdt->sc_hanum, GDT_SCRATCH_SZ, cnt);
1031                 gdt_free_ccb(gdt, gccb);
1032                 return (NULL);
1033             }
1034         }
1035     } else {
1036         gccb->gc_cmd_len = roundup(GDT_CMD_UNION + GDT_RAW_SG_LST +
1037                                   GDT_SG_SZ, sizeof(u_int32_t));
1038         cnt = ucmd->u.raw.sdlen;
1039         if (cnt + ucmd->u.raw.sense_len > GDT_SCRATCH_SZ) {
1040             kprintf("iir%d: Scratch buffer too small (%d/%d)\n",
1041                    gdt->sc_hanum, GDT_SCRATCH_SZ, cnt + ucmd->u.raw.sense_len);
1042             gdt_free_ccb(gdt, gccb);
1043             return (NULL);
1044         }
1045     }
1046     if (cnt != 0)
1047         bcopy(ucmd->data, gccb->gc_scratch, cnt);
1048
1049     if (gdt->sc_cmd_off + gccb->gc_cmd_len + GDT_DPMEM_COMMAND_OFFSET >
1050         gdt->sc_ic_all_size) {
1051         GDT_DPRINTF(GDT_D_INVALID, ("iir%d: gdt_ioctl_cmd(): DPMEM overflow\n",
1052                                     gdt->sc_hanum));
1053         gdt_free_ccb(gdt, gccb);
1054         return (NULL);
1055     }
1056
1057     if (gdt->sc_cmd_cnt == 0)
1058         gdt->sc_set_sema0(gdt);
1059     crit_exit();
1060
1061     /* fill cmd structure */
1062     gdt_enc32(gccb->gc_cmd + GDT_CMD_COMMANDINDEX,
1063               gccb->gc_cmd_index);
1064     gdt_enc16(gccb->gc_cmd + GDT_CMD_OPCODE,
1065               ucmd->OpCode);
1066
1067     if (ucmd->service == GDT_CACHESERVICE) {
1068         if (ucmd->OpCode == GDT_IOCTL) {
1069             /* IOCTL */
1070             gdt_enc16(gccb->gc_cmd + GDT_CMD_UNION + GDT_IOCTL_PARAM_SIZE,
1071                       ucmd->u.ioctl.param_size);
1072             gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_IOCTL_SUBFUNC,
1073                       ucmd->u.ioctl.subfunc);
1074             gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_IOCTL_CHANNEL,
1075                       ucmd->u.ioctl.channel);
1076             gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_IOCTL_P_PARAM,
1077                       gccb->gc_scratch_busbase);
1078         } else {
1079             /* cache service command */
1080             gdt_enc16(gccb->gc_cmd + GDT_CMD_UNION + GDT_CACHE_DEVICENO,
1081                       ucmd->u.cache.DeviceNo);
1082             gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_CACHE_BLOCKNO,
1083                       ucmd->u.cache.BlockNo);
1084             gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_CACHE_BLOCKCNT,
1085                       ucmd->u.cache.BlockCnt);
1086             gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_CACHE_DESTADDR,
1087                       0xffffffffUL);
1088             gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_CACHE_SG_CANZ,
1089                       1);
1090             gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_CACHE_SG_LST +
1091                       GDT_SG_PTR, gccb->gc_scratch_busbase);
1092             gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_CACHE_SG_LST +
1093                       GDT_SG_LEN, ucmd->u.cache.BlockCnt * GDT_SECTOR_SIZE);
1094         }
1095     } else {
1096         /* raw service command */
1097         gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_RAW_DIRECTION,
1098                   ucmd->u.raw.direction);
1099         gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_RAW_SDATA,
1100                   0xffffffffUL);
1101         gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_RAW_SDLEN,
1102                   ucmd->u.raw.sdlen);
1103         gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_RAW_CLEN,
1104                   ucmd->u.raw.clen);
1105         bcopy(ucmd->u.raw.cmd, gccb->gc_cmd + GDT_CMD_UNION + GDT_RAW_CMD,
1106               12);
1107         gccb->gc_cmd[GDT_CMD_UNION + GDT_RAW_TARGET] =
1108             ucmd->u.raw.target;
1109         gccb->gc_cmd[GDT_CMD_UNION + GDT_RAW_LUN] =
1110             ucmd->u.raw.lun;
1111         gccb->gc_cmd[GDT_CMD_UNION + GDT_RAW_BUS] =
1112             ucmd->u.raw.bus;
1113         gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_RAW_SENSE_LEN,
1114                   ucmd->u.raw.sense_len);
1115         gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_RAW_SENSE_DATA,
1116                   gccb->gc_scratch_busbase + ucmd->u.raw.sdlen);
1117         gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_RAW_SG_RANZ,
1118                   1);
1119         gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_RAW_SG_LST +
1120                   GDT_SG_PTR, gccb->gc_scratch_busbase);
1121         gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_RAW_SG_LST +
1122                   GDT_SG_LEN, ucmd->u.raw.sdlen);
1123     }
1124
1125     crit_enter();
1126     gdt_stat.sg_count_act = 1;
1127     gdt->sc_copy_cmd(gdt, gccb);
1128     return (gccb);
1129 }
1130
1131 static void
1132 gdt_internal_cache_cmd(struct gdt_softc *gdt,union ccb *ccb)
1133 {
1134     int t;
1135
1136     t = ccb->ccb_h.target_id;
1137     GDT_DPRINTF(GDT_D_CMD, ("gdt_internal_cache_cmd(%p, %p, 0x%x, %d)\n",
1138         gdt, ccb, ccb->csio.cdb_io.cdb_bytes[0], t));
1139
1140     switch (ccb->csio.cdb_io.cdb_bytes[0]) {
1141       case TEST_UNIT_READY:
1142       case START_STOP:
1143         break;
1144       case REQUEST_SENSE:
1145         GDT_DPRINTF(GDT_D_MISC, ("REQUEST_SENSE\n"));
1146         break;
1147       case INQUIRY:
1148         {
1149             struct scsi_inquiry_data inq;
1150             size_t copylen = MIN(sizeof(inq), ccb->csio.dxfer_len);
1151
1152             bzero(&inq, sizeof(inq));
1153             inq.device = (gdt->sc_hdr[t].hd_devtype & 4) ?
1154                 T_CDROM : T_DIRECT;
1155             inq.dev_qual2 = (gdt->sc_hdr[t].hd_devtype & 1) ? 0x80 : 0;
1156             inq.version = SCSI_REV_2;
1157             inq.response_format = 2;
1158             inq.additional_length = 32;
1159             inq.flags = SID_CmdQue | SID_Sync;
1160             strncpy(inq.vendor, gdt->oem_name, sizeof(inq.vendor));
1161             ksnprintf(inq.product, sizeof(inq.product),
1162                      "Host Drive   #%02d", t);
1163             strncpy(inq.revision, "   ", sizeof(inq.revision));
1164             bcopy(&inq, ccb->csio.data_ptr, copylen );
1165             if( ccb->csio.dxfer_len > copylen )
1166                 bzero( ccb->csio.data_ptr+copylen,
1167                        ccb->csio.dxfer_len - copylen );
1168             break;
1169         }
1170       case MODE_SENSE_6:
1171         {
1172             struct mpd_data {
1173                 struct scsi_mode_hdr_6 hd;
1174                 struct scsi_mode_block_descr bd;
1175                 struct scsi_control_page cp;
1176             } mpd;
1177             size_t copylen = MIN(sizeof(mpd), ccb->csio.dxfer_len);
1178             u_int8_t page;
1179
1180             /*mpd = (struct mpd_data *)ccb->csio.data_ptr;*/
1181             bzero(&mpd, sizeof(mpd));
1182             mpd.hd.datalen = sizeof(struct scsi_mode_hdr_6) +
1183                 sizeof(struct scsi_mode_block_descr);
1184             mpd.hd.dev_specific = (gdt->sc_hdr[t].hd_devtype & 2) ? 0x80 : 0;
1185             mpd.hd.block_descr_len = sizeof(struct scsi_mode_block_descr);
1186             mpd.bd.block_len[0] = (GDT_SECTOR_SIZE & 0x00ff0000) >> 16;
1187             mpd.bd.block_len[1] = (GDT_SECTOR_SIZE & 0x0000ff00) >> 8;
1188             mpd.bd.block_len[2] = (GDT_SECTOR_SIZE & 0x000000ff);
1189
1190             bcopy(&mpd, ccb->csio.data_ptr, copylen );
1191             if( ccb->csio.dxfer_len > copylen )
1192                 bzero( ccb->csio.data_ptr+copylen,
1193                        ccb->csio.dxfer_len - copylen );
1194             page=((struct scsi_mode_sense_6 *)ccb->csio.cdb_io.cdb_bytes)->page;
1195             switch (page) {
1196               default:
1197                 GDT_DPRINTF(GDT_D_MISC, ("MODE_SENSE_6: page 0x%x\n", page));
1198                 break;
1199             }
1200             break;
1201         }
1202       case READ_CAPACITY:
1203         {
1204             struct scsi_read_capacity_data rcd;
1205             size_t copylen = MIN(sizeof(rcd), ccb->csio.dxfer_len);
1206
1207             /*rcd = (struct scsi_read_capacity_data *)ccb->csio.data_ptr;*/
1208             bzero(&rcd, sizeof(rcd));
1209             scsi_ulto4b(gdt->sc_hdr[t].hd_size - 1, rcd.addr);
1210             scsi_ulto4b(GDT_SECTOR_SIZE, rcd.length);
1211             bcopy(&rcd, ccb->csio.data_ptr, copylen );
1212             if( ccb->csio.dxfer_len > copylen )
1213                 bzero( ccb->csio.data_ptr+copylen,
1214                        ccb->csio.dxfer_len - copylen );
1215             break;
1216         }
1217       default:
1218         GDT_DPRINTF(GDT_D_MISC, ("gdt_internal_cache_cmd(%d) unknown\n",
1219                                     ccb->csio.cdb_io.cdb_bytes[0]));
1220         break;
1221     }
1222     ccb->ccb_h.status |= CAM_REQ_CMP;
1223     --gdt_stat.io_count_act;
1224     xpt_done(ccb);
1225 }
1226
1227 static void
1228 gdtmapmem(void *arg, bus_dma_segment_t *dm_segs, int nseg, int error)
1229 {
1230     bus_addr_t *busaddrp;
1231
1232     busaddrp = (bus_addr_t *)arg;
1233     *busaddrp = dm_segs->ds_addr;
1234 }
1235
1236 static void
1237 gdtexecuteccb(void *arg, bus_dma_segment_t *dm_segs, int nseg, int error)
1238 {
1239     struct gdt_ccb *gccb;
1240     union ccb *ccb;
1241     struct gdt_softc *gdt;
1242     int i;
1243
1244     crit_enter();
1245
1246     gccb = (struct gdt_ccb *)arg;
1247     ccb = gccb->gc_ccb;
1248     gdt = cam_sim_softc((struct cam_sim *)ccb->ccb_h.ccb_sim_ptr);
1249
1250     GDT_DPRINTF(GDT_D_CMD, ("gdtexecuteccb(%p, %p, %p, %d, %d)\n",
1251                             gdt, gccb, dm_segs, nseg, error));
1252     gdt_stat.sg_count_act = nseg;
1253     if (nseg > gdt_stat.sg_count_max)
1254         gdt_stat.sg_count_max = nseg;
1255
1256     /* Copy the segments into our SG list */
1257     if (gccb->gc_service == GDT_CACHESERVICE) {
1258         for (i = 0; i < nseg; ++i) {
1259             gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_CACHE_SG_LST +
1260                       i * GDT_SG_SZ + GDT_SG_PTR, dm_segs->ds_addr);
1261             gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_CACHE_SG_LST +
1262                       i * GDT_SG_SZ + GDT_SG_LEN, dm_segs->ds_len);
1263             dm_segs++;
1264         }
1265         gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_CACHE_SG_CANZ,
1266                   nseg);
1267         gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_CACHE_DESTADDR,
1268                   0xffffffffUL);
1269
1270         gccb->gc_cmd_len = roundup(GDT_CMD_UNION + GDT_CACHE_SG_LST +
1271                                   nseg * GDT_SG_SZ, sizeof(u_int32_t));
1272     } else {
1273         for (i = 0; i < nseg; ++i) {
1274             gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_RAW_SG_LST +
1275                       i * GDT_SG_SZ + GDT_SG_PTR, dm_segs->ds_addr);
1276             gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_RAW_SG_LST +
1277                       i * GDT_SG_SZ + GDT_SG_LEN, dm_segs->ds_len);
1278             dm_segs++;
1279         }
1280         gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_RAW_SG_RANZ,
1281                   nseg);
1282         gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_RAW_SDATA,
1283                   0xffffffffUL);
1284
1285         gccb->gc_cmd_len = roundup(GDT_CMD_UNION + GDT_RAW_SG_LST +
1286                                   nseg * GDT_SG_SZ, sizeof(u_int32_t));
1287     }
1288
1289     if (nseg != 0) {
1290         bus_dmamap_sync(gdt->sc_buffer_dmat, gccb->gc_dmamap,
1291             (ccb->ccb_h.flags & CAM_DIR_MASK) == CAM_DIR_IN ?
1292             BUS_DMASYNC_PREREAD : BUS_DMASYNC_PREWRITE);
1293     }
1294
1295     /* We must NOT abort the command here if CAM_REQ_INPROG is not set,
1296      * because command semaphore is already set!
1297      */
1298
1299     ccb->ccb_h.status |= CAM_SIM_QUEUED;
1300     /* timeout handling */
1301     callout_reset(&ccb->ccb_h.timeout_ch, (ccb->ccb_h.timeout * hz) / 1000,
1302         iir_timeout, gccb);
1303
1304     gdt->sc_copy_cmd(gdt, gccb);
1305     crit_exit();
1306 }
1307
1308
1309 static void
1310 iir_action( struct cam_sim *sim, union ccb *ccb )
1311 {
1312     struct gdt_softc *gdt;
1313     int bus, target;
1314 #ifdef GDT_DEBUG
1315     int lun;
1316 #endif
1317
1318     gdt = (struct gdt_softc *)cam_sim_softc( sim );
1319     ccb->ccb_h.ccb_sim_ptr = sim;
1320     bus = cam_sim_bus(sim);
1321     target = ccb->ccb_h.target_id;
1322 #ifdef GDT_DEBUG
1323     lun = ccb->ccb_h.target_lun;
1324 #endif
1325     GDT_DPRINTF(GDT_D_CMD,
1326                 ("iir_action(%p) func 0x%x cmd 0x%x bus %d target %d lun %d\n",
1327                  gdt, ccb->ccb_h.func_code, ccb->csio.cdb_io.cdb_bytes[0],
1328                  bus, target, lun));
1329     ++gdt_stat.io_count_act;
1330     if (gdt_stat.io_count_act > gdt_stat.io_count_max)
1331         gdt_stat.io_count_max = gdt_stat.io_count_act;
1332
1333     switch (ccb->ccb_h.func_code) {
1334       case XPT_SCSI_IO:
1335         crit_enter();
1336         TAILQ_INSERT_TAIL(&gdt->sc_ccb_queue, &ccb->ccb_h, sim_links.tqe);
1337         ++gdt_stat.req_queue_act;
1338         if (gdt_stat.req_queue_act > gdt_stat.req_queue_max)
1339             gdt_stat.req_queue_max = gdt_stat.req_queue_act;
1340         crit_exit();
1341         gdt_next(gdt);
1342         break;
1343       case XPT_RESET_DEV:   /* Bus Device Reset the specified SCSI device */
1344       case XPT_ABORT:                       /* Abort the specified CCB */
1345         /* XXX Implement */
1346         ccb->ccb_h.status = CAM_REQ_INVALID;
1347         --gdt_stat.io_count_act;
1348         xpt_done(ccb);
1349         break;
1350       case XPT_SET_TRAN_SETTINGS:
1351         ccb->ccb_h.status = CAM_FUNC_NOTAVAIL;
1352         --gdt_stat.io_count_act;
1353         xpt_done(ccb);
1354         break;
1355       case XPT_GET_TRAN_SETTINGS:
1356         /* Get default/user set transfer settings for the target */
1357           {
1358               struct        ccb_trans_settings *cts = &ccb->cts;
1359               struct ccb_trans_settings_scsi *scsi = &cts->proto_specific.scsi;
1360               struct ccb_trans_settings_spi *spi = &cts->xport_specific.spi;
1361
1362               cts->protocol = PROTO_SCSI;
1363               cts->protocol_version = SCSI_REV_2;
1364               cts->transport = XPORT_SPI;
1365               cts->transport_version = 2;
1366
1367               if (cts->type == CTS_TYPE_USER_SETTINGS) {
1368                   spi->flags = CTS_SPI_FLAGS_DISC_ENB;
1369                   scsi->flags = CTS_SCSI_FLAGS_TAG_ENB;
1370                   spi->bus_width = MSG_EXT_WDTR_BUS_16_BIT;
1371                   spi->sync_period = 25; /* 10MHz */
1372                   if (spi->sync_period != 0)
1373                       spi->sync_offset = 15;
1374
1375                   spi->valid = CTS_SPI_VALID_SYNC_RATE
1376                       | CTS_SPI_VALID_SYNC_OFFSET
1377                       | CTS_SPI_VALID_BUS_WIDTH
1378                       | CTS_SPI_VALID_DISC;
1379                   scsi->valid = CTS_SCSI_VALID_TQ;
1380                   ccb->ccb_h.status = CAM_REQ_CMP;
1381               } else {
1382                   ccb->ccb_h.status = CAM_FUNC_NOTAVAIL;
1383               }
1384               --gdt_stat.io_count_act;
1385               xpt_done(ccb);
1386               break;
1387           }
1388       case XPT_CALC_GEOMETRY:
1389           {
1390               struct ccb_calc_geometry *ccg;
1391               u_int32_t secs_per_cylinder;
1392
1393               ccg = &ccb->ccg;
1394               ccg->heads = gdt->sc_hdr[target].hd_heads;
1395               ccg->secs_per_track = gdt->sc_hdr[target].hd_secs;
1396               secs_per_cylinder = ccg->heads * ccg->secs_per_track;
1397               ccg->cylinders = ccg->volume_size / secs_per_cylinder;
1398               ccb->ccb_h.status = CAM_REQ_CMP;
1399               --gdt_stat.io_count_act;
1400               xpt_done(ccb);
1401               break;
1402           }
1403       case XPT_RESET_BUS:           /* Reset the specified SCSI bus */
1404           {
1405               /* XXX Implement */
1406               ccb->ccb_h.status = CAM_REQ_CMP;
1407               --gdt_stat.io_count_act;
1408               xpt_done(ccb);
1409               break;
1410           }
1411       case XPT_TERM_IO:             /* Terminate the I/O process */
1412         /* XXX Implement */
1413         ccb->ccb_h.status = CAM_REQ_INVALID;
1414         --gdt_stat.io_count_act;
1415         xpt_done(ccb);
1416         break;
1417       case XPT_PATH_INQ:            /* Path routing inquiry */
1418           {
1419               struct ccb_pathinq *cpi = &ccb->cpi;
1420
1421               cpi->version_num = 1;
1422               cpi->hba_inquiry = PI_SDTR_ABLE|PI_TAG_ABLE;
1423               cpi->hba_inquiry |= PI_WIDE_16;
1424               cpi->target_sprt = 1;
1425               cpi->hba_misc = 0;
1426               cpi->hba_eng_cnt = 0;
1427               if (bus == gdt->sc_virt_bus)
1428                   cpi->max_target = GDT_MAX_HDRIVES - 1;
1429               else if (gdt->sc_class & GDT_FC)
1430                   cpi->max_target = GDT_MAXID_FC - 1;
1431               else
1432                   cpi->max_target = GDT_MAXID - 1;
1433               cpi->max_lun = 7;
1434               cpi->unit_number = cam_sim_unit(sim);
1435               cpi->bus_id = bus;
1436               cpi->initiator_id =
1437                   (bus == gdt->sc_virt_bus ? 127 : gdt->sc_bus_id[bus]);
1438               cpi->base_transfer_speed = 3300;
1439               strncpy(cpi->sim_vid, "FreeBSD", SIM_IDLEN);
1440               if (gdt->sc_vendor == INTEL_VENDOR_ID)
1441                   strncpy(cpi->hba_vid, "Intel Corp.", HBA_IDLEN);
1442               else
1443                   strncpy(cpi->hba_vid, "ICP vortex ", HBA_IDLEN);
1444               strncpy(cpi->dev_name, cam_sim_name(sim), DEV_IDLEN);
1445               cpi->transport = XPORT_SPI;
1446               cpi->transport_version = 2;
1447               cpi->protocol = PROTO_SCSI;
1448               cpi->protocol_version = SCSI_REV_2;
1449               cpi->ccb_h.status = CAM_REQ_CMP;
1450               --gdt_stat.io_count_act;
1451               xpt_done(ccb);
1452               break;
1453           }
1454       default:
1455         GDT_DPRINTF(GDT_D_INVALID, ("gdt_next(%p) cmd 0x%x invalid\n",
1456                                     gdt, ccb->ccb_h.func_code));
1457         ccb->ccb_h.status = CAM_REQ_INVALID;
1458         --gdt_stat.io_count_act;
1459         xpt_done(ccb);
1460         break;
1461     }
1462 }
1463
1464 static void
1465 iir_poll( struct cam_sim *sim )
1466 {
1467     struct gdt_softc *gdt;
1468
1469     gdt = (struct gdt_softc *)cam_sim_softc( sim );
1470     GDT_DPRINTF(GDT_D_CMD, ("iir_poll sim %p gdt %p\n", sim, gdt));
1471     iir_intr(gdt);
1472 }
1473
1474 static void
1475 iir_timeout(void *arg)
1476 {
1477     GDT_DPRINTF(GDT_D_TIMEOUT, ("iir_timeout(%p)\n", gccb));
1478 }
1479
1480 static void
1481 iir_shutdown( void *arg, int howto )
1482 {
1483     struct gdt_softc *gdt;
1484     struct gdt_ccb *gccb;
1485     gdt_ucmd_t *ucmd;
1486     int i;
1487
1488     gdt = (struct gdt_softc *)arg;
1489     GDT_DPRINTF(GDT_D_CMD, ("iir_shutdown(%p, %d)\n", gdt, howto));
1490
1491     kprintf("iir%d: Flushing all Host Drives. Please wait ...  ",
1492            gdt->sc_hanum);
1493
1494     /* allocate ucmd buffer */
1495     ucmd = kmalloc(sizeof(gdt_ucmd_t), M_GDTBUF, M_INTWAIT | M_ZERO);
1496
1497     /* wait for pending IOs */
1498     crit_enter();
1499     gdt->sc_state = GDT_SHUTDOWN;
1500     crit_exit();
1501     if ((gccb = SLIST_FIRST(&gdt->sc_pending_gccb)) != NULL)
1502         (void) tsleep((void *)gccb, PCATCH, "iirshw", 100 * hz);
1503
1504     /* flush */
1505     for (i = 0; i < GDT_MAX_HDRIVES; ++i) {
1506         if (gdt->sc_hdr[i].hd_present) {
1507             ucmd->service = GDT_CACHESERVICE;
1508             ucmd->OpCode = GDT_FLUSH;
1509             ucmd->u.cache.DeviceNo = i;
1510             crit_enter();
1511             TAILQ_INSERT_TAIL(&gdt->sc_ucmd_queue, ucmd, links);
1512             ucmd->complete_flag = FALSE;
1513             crit_exit();
1514             gdt_next(gdt);
1515             if (!ucmd->complete_flag)
1516                 (void) tsleep((void *)ucmd, PCATCH, "iirshw", 10*hz);
1517         }
1518     }
1519
1520     kfree(ucmd, M_DEVBUF);
1521     kprintf("Done.\n");
1522 }
1523
1524 void
1525 iir_intr(void *arg)
1526 {
1527     struct gdt_softc *gdt = arg;
1528     struct gdt_intr_ctx ctx;
1529     struct gdt_ccb *gccb;
1530     gdt_ucmd_t *ucmd;
1531     u_int32_t cnt;
1532
1533     GDT_DPRINTF(GDT_D_INTR, ("gdt_intr(%p)\n", gdt));
1534
1535     /* If polling and we were not called from gdt_wait, just return */
1536     if ((gdt->sc_state & GDT_POLLING) &&
1537         !(gdt->sc_state & GDT_POLL_WAIT))
1538         return;
1539
1540     if (!(gdt->sc_state & GDT_POLLING))
1541         crit_enter();
1542     gdt_wait_index = 0;
1543
1544     ctx.istatus = gdt->sc_get_status(gdt);
1545     if (ctx.istatus == 0x00) {
1546         if (!(gdt->sc_state & GDT_POLLING))
1547             crit_exit();
1548         gdt->sc_status = GDT_S_NO_STATUS;
1549         return;
1550     }
1551
1552     gdt->sc_intr(gdt, &ctx);
1553
1554     gdt->sc_status = ctx.cmd_status;
1555     gdt->sc_service = ctx.service;
1556     gdt->sc_info = ctx.info;
1557     gdt->sc_info2 = ctx.info2;
1558
1559     if (gdt->sc_state & GDT_POLL_WAIT) {
1560         gdt_wait_gdt = gdt;
1561         gdt_wait_index = ctx.istatus;
1562     }
1563
1564     if (ctx.istatus == GDT_ASYNCINDEX) {
1565         gdt_async_event(gdt, ctx.service);
1566         if (!(gdt->sc_state & GDT_POLLING))
1567             crit_exit();
1568         return;
1569     }
1570     if (ctx.istatus == GDT_SPEZINDEX) {
1571         GDT_DPRINTF(GDT_D_INVALID,
1572                     ("iir%d: Service unknown or not initialized!\n",
1573                      gdt->sc_hanum));
1574         gdt->sc_dvr.size = sizeof(gdt->sc_dvr.eu.driver);
1575         gdt->sc_dvr.eu.driver.ionode = gdt->sc_hanum;
1576         gdt_store_event(GDT_ES_DRIVER, 4, &gdt->sc_dvr);
1577         if (!(gdt->sc_state & GDT_POLLING))
1578             crit_exit();
1579         return;
1580     }
1581
1582     gccb = &gdt->sc_gccbs[ctx.istatus - 2];
1583     ctx.service = gccb->gc_service;
1584
1585     switch (gccb->gc_flags) {
1586       case GDT_GCF_UNUSED:
1587         GDT_DPRINTF(GDT_D_INVALID, ("iir%d: Index (%d) to unused command!\n",
1588                     gdt->sc_hanum, ctx.istatus));
1589         gdt->sc_dvr.size = sizeof(gdt->sc_dvr.eu.driver);
1590         gdt->sc_dvr.eu.driver.ionode = gdt->sc_hanum;
1591         gdt->sc_dvr.eu.driver.index = ctx.istatus;
1592         gdt_store_event(GDT_ES_DRIVER, 1, &gdt->sc_dvr);
1593         gdt_free_ccb(gdt, gccb);
1594         /* fallthrough */
1595
1596       case GDT_GCF_INTERNAL:
1597         if (!(gdt->sc_state & GDT_POLLING))
1598             crit_exit();
1599         break;
1600
1601       case GDT_GCF_IOCTL:
1602         ucmd = gccb->gc_ucmd;
1603         if (gdt->sc_status == GDT_S_BSY) {
1604             GDT_DPRINTF(GDT_D_DEBUG, ("iir_intr(%p) ioctl: gccb %p busy\n",
1605                                       gdt, gccb));
1606             TAILQ_INSERT_HEAD(&gdt->sc_ucmd_queue, ucmd, links);
1607             if (!(gdt->sc_state & GDT_POLLING))
1608                 crit_exit();
1609         } else {
1610             ucmd->status = gdt->sc_status;
1611             ucmd->info = gdt->sc_info;
1612             ucmd->complete_flag = TRUE;
1613             if (ucmd->service == GDT_CACHESERVICE) {
1614                 if (ucmd->OpCode == GDT_IOCTL) {
1615                     cnt = ucmd->u.ioctl.param_size;
1616                     if (cnt != 0)
1617                         bcopy(gccb->gc_scratch, ucmd->data, cnt);
1618                 } else {
1619                     cnt = ucmd->u.cache.BlockCnt * GDT_SECTOR_SIZE;
1620                     if (cnt != 0)
1621                         bcopy(gccb->gc_scratch, ucmd->data, cnt);
1622                 }
1623             } else {
1624                 cnt = ucmd->u.raw.sdlen;
1625                 if (cnt != 0)
1626                     bcopy(gccb->gc_scratch, ucmd->data, cnt);
1627                 if (ucmd->u.raw.sense_len != 0)
1628                     bcopy(gccb->gc_scratch, ucmd->data, cnt);
1629             }
1630             gdt_free_ccb(gdt, gccb);
1631             if (!(gdt->sc_state & GDT_POLLING))
1632                 crit_exit();
1633             /* wakeup */
1634             wakeup(ucmd);
1635         }
1636         gdt_next(gdt);
1637         break;
1638
1639       default:
1640         gdt_free_ccb(gdt, gccb);
1641         gdt_sync_event(gdt, ctx.service, ctx.istatus, gccb);
1642         if (!(gdt->sc_state & GDT_POLLING))
1643             crit_exit();
1644         gdt_next(gdt);
1645         break;
1646     }
1647 }
1648
1649 int
1650 gdt_async_event(struct gdt_softc *gdt, int service)
1651 {
1652     struct gdt_ccb *gccb;
1653
1654     GDT_DPRINTF(GDT_D_INTR, ("gdt_async_event(%p, %d)\n", gdt, service));
1655
1656     if (service == GDT_SCREENSERVICE) {
1657         if (gdt->sc_status == GDT_MSG_REQUEST) {
1658             while (gdt->sc_test_busy(gdt))
1659                 DELAY(1);
1660             gccb = gdt_get_ccb(gdt);
1661             if (gccb == NULL) {
1662                 kprintf("iir%d: No free command index found\n",
1663                        gdt->sc_hanum);
1664                 return (1);
1665             }
1666             bzero(gccb->gc_cmd, GDT_CMD_SZ);
1667             gccb->gc_service = service;
1668             gccb->gc_flags = GDT_GCF_SCREEN;
1669             gdt_enc32(gccb->gc_cmd + GDT_CMD_COMMANDINDEX,
1670                       gccb->gc_cmd_index);
1671             gdt_enc16(gccb->gc_cmd + GDT_CMD_OPCODE, GDT_READ);
1672             gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_SCREEN_MSG_HANDLE,
1673                       GDT_MSG_INV_HANDLE);
1674             gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_SCREEN_MSG_ADDR,
1675                       gccb->gc_scratch_busbase);
1676             gdt->sc_set_sema0(gdt);
1677             gdt->sc_cmd_off = 0;
1678             gccb->gc_cmd_len = roundup(GDT_CMD_UNION + GDT_SCREEN_SZ,
1679                                       sizeof(u_int32_t));
1680             gdt->sc_cmd_cnt = 0;
1681             gdt->sc_copy_cmd(gdt, gccb);
1682             kprintf("iir%d: [PCI %d/%d] ",
1683                 gdt->sc_hanum,gdt->sc_bus,gdt->sc_slot);
1684             gdt->sc_release_event(gdt);
1685         }
1686
1687     } else {
1688         if ((gdt->sc_fw_vers & 0xff) >= 0x1a) {
1689             gdt->sc_dvr.size = 0;
1690             gdt->sc_dvr.eu.async.ionode = gdt->sc_hanum;
1691             gdt->sc_dvr.eu.async.status  = gdt->sc_status;
1692             /* severity and event_string already set! */
1693         } else {
1694             gdt->sc_dvr.size = sizeof(gdt->sc_dvr.eu.async);
1695             gdt->sc_dvr.eu.async.ionode   = gdt->sc_hanum;
1696             gdt->sc_dvr.eu.async.service = service;
1697             gdt->sc_dvr.eu.async.status  = gdt->sc_status;
1698             gdt->sc_dvr.eu.async.info    = gdt->sc_info;
1699             *(u_int32_t *)gdt->sc_dvr.eu.async.scsi_coord  = gdt->sc_info2;
1700         }
1701         gdt_store_event(GDT_ES_ASYNC, service, &gdt->sc_dvr);
1702         kprintf("iir%d: %s\n", gdt->sc_hanum, gdt->sc_dvr.event_string);
1703     }
1704
1705     return (0);
1706 }
1707
1708 int
1709 gdt_sync_event(struct gdt_softc *gdt, int service,
1710                u_int8_t index, struct gdt_ccb *gccb)
1711 {
1712     union ccb *ccb;
1713
1714     GDT_DPRINTF(GDT_D_INTR,
1715                 ("gdt_sync_event(%p, %d, %d, %p)\n", gdt,service,index,gccb));
1716
1717     ccb = gccb->gc_ccb;
1718
1719     if (service == GDT_SCREENSERVICE) {
1720         u_int32_t msg_len;
1721
1722         msg_len = gdt_dec32(gccb->gc_scratch + GDT_SCR_MSG_LEN);
1723         if (msg_len)
1724             if (!(gccb->gc_scratch[GDT_SCR_MSG_ANSWER] &&
1725                   gccb->gc_scratch[GDT_SCR_MSG_EXT])) {
1726                 gccb->gc_scratch[GDT_SCR_MSG_TEXT + msg_len] = '\0';
1727                 kprintf("%s",&gccb->gc_scratch[GDT_SCR_MSG_TEXT]);
1728             }
1729
1730         if (gccb->gc_scratch[GDT_SCR_MSG_EXT] &&
1731             !gccb->gc_scratch[GDT_SCR_MSG_ANSWER]) {
1732             while (gdt->sc_test_busy(gdt))
1733                 DELAY(1);
1734             bzero(gccb->gc_cmd, GDT_CMD_SZ);
1735             gccb = gdt_get_ccb(gdt);
1736             if (gccb == NULL) {
1737                 kprintf("iir%d: No free command index found\n",
1738                        gdt->sc_hanum);
1739                 return (1);
1740             }
1741             gccb->gc_service = service;
1742             gccb->gc_flags = GDT_GCF_SCREEN;
1743             gdt_enc32(gccb->gc_cmd + GDT_CMD_COMMANDINDEX,
1744                       gccb->gc_cmd_index);
1745             gdt_enc16(gccb->gc_cmd + GDT_CMD_OPCODE, GDT_READ);
1746             gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_SCREEN_MSG_HANDLE,
1747                       gccb->gc_scratch[GDT_SCR_MSG_HANDLE]);
1748             gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_SCREEN_MSG_ADDR,
1749                       gccb->gc_scratch_busbase);
1750             gdt->sc_set_sema0(gdt);
1751             gdt->sc_cmd_off = 0;
1752             gccb->gc_cmd_len = roundup(GDT_CMD_UNION + GDT_SCREEN_SZ,
1753                                       sizeof(u_int32_t));
1754             gdt->sc_cmd_cnt = 0;
1755             gdt->sc_copy_cmd(gdt, gccb);
1756             gdt->sc_release_event(gdt);
1757             return (0);
1758         }
1759
1760         if (gccb->gc_scratch[GDT_SCR_MSG_ANSWER] &&
1761             gdt_dec32(gccb->gc_scratch + GDT_SCR_MSG_ALEN)) {
1762             /* default answers (getchar() not possible) */
1763             if (gdt_dec32(gccb->gc_scratch + GDT_SCR_MSG_ALEN) == 1) {
1764                 gdt_enc32(gccb->gc_scratch + GDT_SCR_MSG_ALEN, 0);
1765                 gdt_enc32(gccb->gc_scratch + GDT_SCR_MSG_LEN, 1);
1766                 gccb->gc_scratch[GDT_SCR_MSG_TEXT] = 0;
1767             } else {
1768                 gdt_enc32(gccb->gc_scratch + GDT_SCR_MSG_ALEN,
1769                           gdt_dec32(gccb->gc_scratch + GDT_SCR_MSG_ALEN) - 2);
1770                 gdt_enc32(gccb->gc_scratch + GDT_SCR_MSG_LEN, 2);
1771                 gccb->gc_scratch[GDT_SCR_MSG_TEXT] = 1;
1772                 gccb->gc_scratch[GDT_SCR_MSG_TEXT + 1] = 0;
1773             }
1774             gccb->gc_scratch[GDT_SCR_MSG_EXT] = 0;
1775             gccb->gc_scratch[GDT_SCR_MSG_ANSWER] = 0;
1776             while (gdt->sc_test_busy(gdt))
1777                 DELAY(1);
1778             bzero(gccb->gc_cmd, GDT_CMD_SZ);
1779             gccb = gdt_get_ccb(gdt);
1780             if (gccb == NULL) {
1781                 kprintf("iir%d: No free command index found\n",
1782                        gdt->sc_hanum);
1783                 return (1);
1784             }
1785             gccb->gc_service = service;
1786             gccb->gc_flags = GDT_GCF_SCREEN;
1787             gdt_enc32(gccb->gc_cmd + GDT_CMD_COMMANDINDEX,
1788                       gccb->gc_cmd_index);
1789             gdt_enc16(gccb->gc_cmd + GDT_CMD_OPCODE, GDT_WRITE);
1790             gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_SCREEN_MSG_HANDLE,
1791                       gccb->gc_scratch[GDT_SCR_MSG_HANDLE]);
1792             gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_SCREEN_MSG_ADDR,
1793                       gccb->gc_scratch_busbase);
1794             gdt->sc_set_sema0(gdt);
1795             gdt->sc_cmd_off = 0;
1796             gccb->gc_cmd_len = roundup(GDT_CMD_UNION + GDT_SCREEN_SZ,
1797                                       sizeof(u_int32_t));
1798             gdt->sc_cmd_cnt = 0;
1799             gdt->sc_copy_cmd(gdt, gccb);
1800             gdt->sc_release_event(gdt);
1801             return (0);
1802         }
1803         kprintf("\n");
1804         return (0);
1805     } else {
1806         callout_stop(&ccb->ccb_h.timeout_ch);
1807         if (gdt->sc_status == GDT_S_BSY) {
1808             GDT_DPRINTF(GDT_D_DEBUG, ("gdt_sync_event(%p) gccb %p busy\n",
1809                                       gdt, gccb));
1810             TAILQ_INSERT_HEAD(&gdt->sc_ccb_queue, &ccb->ccb_h, sim_links.tqe);
1811             ++gdt_stat.req_queue_act;
1812             if (gdt_stat.req_queue_act > gdt_stat.req_queue_max)
1813                 gdt_stat.req_queue_max = gdt_stat.req_queue_act;
1814             return (2);
1815         }
1816
1817         bus_dmamap_sync(gdt->sc_buffer_dmat, gccb->gc_dmamap,
1818             (ccb->ccb_h.flags & CAM_DIR_MASK) == CAM_DIR_IN ?
1819             BUS_DMASYNC_POSTREAD : BUS_DMASYNC_POSTWRITE);
1820         bus_dmamap_unload(gdt->sc_buffer_dmat, gccb->gc_dmamap);
1821
1822         ccb->csio.resid = 0;
1823         if (gdt->sc_status == GDT_S_OK) {
1824             ccb->ccb_h.status |= CAM_REQ_CMP;
1825             ccb->ccb_h.status &= ~CAM_SIM_QUEUED;
1826         } else {
1827             /* error */
1828             if (gccb->gc_service == GDT_CACHESERVICE) {
1829                 ccb->ccb_h.status |= CAM_SCSI_STATUS_ERROR | CAM_AUTOSNS_VALID;
1830                 ccb->ccb_h.status &= ~CAM_SIM_QUEUED;
1831                 ccb->csio.scsi_status = SCSI_STATUS_CHECK_COND;
1832                 bzero(&ccb->csio.sense_data, ccb->csio.sense_len);
1833                 ccb->csio.sense_data.error_code =
1834                     SSD_CURRENT_ERROR | SSD_ERRCODE_VALID;
1835                 ccb->csio.sense_data.flags = SSD_KEY_NOT_READY;
1836
1837                 gdt->sc_dvr.size = sizeof(gdt->sc_dvr.eu.sync);
1838                 gdt->sc_dvr.eu.sync.ionode  = gdt->sc_hanum;
1839                 gdt->sc_dvr.eu.sync.service = service;
1840                 gdt->sc_dvr.eu.sync.status  = gdt->sc_status;
1841                 gdt->sc_dvr.eu.sync.info    = gdt->sc_info;
1842                 gdt->sc_dvr.eu.sync.hostdrive = ccb->ccb_h.target_id;
1843                 if (gdt->sc_status >= 0x8000)
1844                     gdt_store_event(GDT_ES_SYNC, 0, &gdt->sc_dvr);
1845                 else
1846                     gdt_store_event(GDT_ES_SYNC, service, &gdt->sc_dvr);
1847             } else {
1848                 /* raw service */
1849                 if (gdt->sc_status != GDT_S_RAW_SCSI || gdt->sc_info >= 0x100) {
1850                     ccb->ccb_h.status = CAM_DEV_NOT_THERE;
1851                 } else {
1852                     ccb->ccb_h.status |= CAM_SCSI_STATUS_ERROR|CAM_AUTOSNS_VALID;
1853                     ccb->ccb_h.status &= ~CAM_SIM_QUEUED;
1854                     ccb->csio.scsi_status = gdt->sc_info;
1855                     bcopy(gccb->gc_scratch, &ccb->csio.sense_data,
1856                           ccb->csio.sense_len);
1857                 }
1858             }
1859         }
1860         --gdt_stat.io_count_act;
1861         xpt_done(ccb);
1862     }
1863     return (0);
1864 }
1865
1866 /* Controller event handling functions */
1867 gdt_evt_str *
1868 gdt_store_event(u_int16_t source, u_int16_t idx, gdt_evt_data *evt)
1869 {
1870     gdt_evt_str *e;
1871     struct timeval tv;
1872
1873     GDT_DPRINTF(GDT_D_MISC, ("gdt_store_event(%d, %d)\n", source, idx));
1874     if (source == 0)                        /* no source -> no event */
1875         return 0;
1876
1877     if (ebuffer[elastidx].event_source == source &&
1878         ebuffer[elastidx].event_idx == idx &&
1879         ((evt->size != 0 && ebuffer[elastidx].event_data.size != 0 &&
1880           !memcmp((char *)&ebuffer[elastidx].event_data.eu,
1881                   (char *)&evt->eu, evt->size)) ||
1882          (evt->size == 0 && ebuffer[elastidx].event_data.size == 0 &&
1883           !strcmp((char *)&ebuffer[elastidx].event_data.event_string,
1884                   (char *)&evt->event_string)))) {
1885         e = &ebuffer[elastidx];
1886         getmicrotime(&tv);
1887         e->last_stamp = tv.tv_sec;
1888         ++e->same_count;
1889     } else {
1890         if (ebuffer[elastidx].event_source != 0) {  /* entry not free ? */
1891             ++elastidx;
1892             if (elastidx == GDT_MAX_EVENTS)
1893                 elastidx = 0;
1894             if (elastidx == eoldidx) {              /* reached mark ? */
1895                 ++eoldidx;
1896                 if (eoldidx == GDT_MAX_EVENTS)
1897                     eoldidx = 0;
1898             }
1899         }
1900         e = &ebuffer[elastidx];
1901         e->event_source = source;
1902         e->event_idx = idx;
1903         getmicrotime(&tv);
1904         e->first_stamp = e->last_stamp = tv.tv_sec;
1905         e->same_count = 1;
1906         e->event_data = *evt;
1907         e->application = 0;
1908     }
1909     return e;
1910 }
1911
1912 int
1913 gdt_read_event(int handle, gdt_evt_str *estr)
1914 {
1915     gdt_evt_str *e;
1916     int eindex;
1917
1918     GDT_DPRINTF(GDT_D_MISC, ("gdt_read_event(%d)\n", handle));
1919     crit_enter();
1920     if (handle == -1)
1921         eindex = eoldidx;
1922     else
1923         eindex = handle;
1924     estr->event_source = 0;
1925
1926     if (eindex >= GDT_MAX_EVENTS) {
1927         crit_exit();
1928         return eindex;
1929     }
1930     e = &ebuffer[eindex];
1931     if (e->event_source != 0) {
1932         if (eindex != elastidx) {
1933             if (++eindex == GDT_MAX_EVENTS)
1934                 eindex = 0;
1935         } else {
1936             eindex = -1;
1937         }
1938         memcpy(estr, e, sizeof(gdt_evt_str));
1939     }
1940     crit_exit();
1941     return eindex;
1942 }
1943
1944 void
1945 gdt_readapp_event(u_int8_t application, gdt_evt_str *estr)
1946 {
1947     gdt_evt_str *e;
1948     int found = FALSE;
1949     int eindex;
1950
1951     GDT_DPRINTF(GDT_D_MISC, ("gdt_readapp_event(%d)\n", application));
1952     crit_enter();
1953     eindex = eoldidx;
1954     for (;;) {
1955         e = &ebuffer[eindex];
1956         if (e->event_source == 0)
1957             break;
1958         if ((e->application & application) == 0) {
1959             e->application |= application;
1960             found = TRUE;
1961             break;
1962         }
1963         if (eindex == elastidx)
1964             break;
1965         if (++eindex == GDT_MAX_EVENTS)
1966             eindex = 0;
1967     }
1968     if (found)
1969         memcpy(estr, e, sizeof(gdt_evt_str));
1970     else
1971         estr->event_source = 0;
1972     crit_exit();
1973 }
1974
1975 void
1976 gdt_clear_events(void)
1977 {
1978     GDT_DPRINTF(GDT_D_MISC, ("gdt_clear_events\n"));
1979
1980     eoldidx = elastidx = 0;
1981     ebuffer[0].event_source = 0;
1982 }