sys/dev/disk/nata/ata-raid.c

   1 /*-
   2  * Copyright (c) 2000 - 2006 Søren Schmidt <sos@FreeBSD.org>
   3  * All rights reserved.
   4  *
   5  * Redistribution and use in source and binary forms, with or without
   6  * modification, are permitted provided that the following conditions
   7  * are met:
   8  * 1. Redistributions of source code must retain the above copyright
   9  *    notice, this list of conditions and the following disclaimer,
  10  *    without modification, immediately at the beginning of the file.
  11  * 2. Redistributions in binary form must reproduce the above copyright
  12  *    notice, this list of conditions and the following disclaimer in the
  13  *    documentation and/or other materials provided with the distribution.
  14  *
  15  * THIS SOFTWARE IS PROVIDED BY THE AUTHOR ``AS IS'' AND ANY EXPRESS OR
  16  * IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE IMPLIED WARRANTIES
  17  * OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE ARE DISCLAIMED.
  18  * IN NO EVENT SHALL THE AUTHOR BE LIABLE FOR ANY DIRECT, INDIRECT,
  19  * INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
  20  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE,
  21  * DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY
  22  * THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT
  23  * (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF
  24  * THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
  25  *
  26  * $FreeBSD: src/sys/dev/ata/ata-raid.c,v 1.120 2006/04/15 10:27:41 maxim Exp $
  27  * $DragonFly: src/sys/dev/disk/nata/ata-raid.c,v 1.3 2006/12/22 23:26:16 swildner Exp $
  28  */
  29
  30 #include <sys/cdefs.h>
  31
  32 #include "opt_ata.h"
  33 #include <sys/param.h>
  34 #include <sys/systm.h>
  35 #include <sys/nata.h>
  36 #include <sys/kernel.h>
  37 #include <sys/malloc.h>
  38 #include <sys/module.h>
  39 #include <sys/endian.h>
  40 #include <sys/bio.h>
  41 #include <sys/bus.h>
  42 #include <sys/conf.h>
  43 #include <sys/disk.h>
  44 #include <sys/cons.h>
  45 #include <sys/sema.h>
  46 #include <sys/taskqueue.h>
  47 #include <sys/objcache.h>
  48 #include <machine/bus.h>
  49 #include <sys/rman.h>
  50 #include <dev/pci/pcivar.h>
  51 #include <geom/geom_disk.h>
  52 #include <dev/ata/ata-all.h>
  53 #include <dev/ata/ata-disk.h>
  54 #include <dev/ata/ata-raid.h>
  55 #include <dev/ata/ata-pci.h>
  56 #include <ata_if.h>
  57
  58 /* device structure */
  59 static  d_strategy_t    ata_raid_strategy;
  60 static  d_dump_t        ata_raid_dump;
  61 static struct dev_ops ata_raid_ops = {
  62         { "ata_raid", 157, D_DISK },
  63         .d_open =       nullopen,
  64         .d_close =      nullclose,
  65         .d_read =       physread,
  66         .d_write =      physwrite,
  67         .d_strategy =   ata_raid_strategy,
  68         .d_dump =       ata_raid_dump,
  69 };
  70
  71 /* prototypes */
  72 static void ata_raid_done(struct ata_request *request);
  73 static void ata_raid_config_changed(struct ar_softc *rdp, int writeback);
  74 static int ata_raid_status(struct ata_ioc_raid_config *config);
  75 static int ata_raid_create(struct ata_ioc_raid_config *config);
  76 static int ata_raid_delete(int array);
  77 static int ata_raid_addspare(struct ata_ioc_raid_config *config);
  78 static int ata_raid_rebuild(int array);
  79 static int ata_raid_read_metadata(device_t subdisk);
  80 static int ata_raid_write_metadata(struct ar_softc *rdp);
  81 static int ata_raid_wipe_metadata(struct ar_softc *rdp);
  82 static int ata_raid_adaptec_read_meta(device_t dev, struct ar_softc **raidp);
  83 static int ata_raid_hptv2_read_meta(device_t dev, struct ar_softc **raidp);
  84 static int ata_raid_hptv2_write_meta(struct ar_softc *rdp);
  85 static int ata_raid_hptv3_read_meta(device_t dev, struct ar_softc **raidp);
  86 static int ata_raid_intel_read_meta(device_t dev, struct ar_softc **raidp);
  87 static int ata_raid_intel_write_meta(struct ar_softc *rdp);
  88 static int ata_raid_ite_read_meta(device_t dev, struct ar_softc **raidp);
  89 static int ata_raid_jmicron_read_meta(device_t dev, struct ar_softc **raidp);
  90 static int ata_raid_jmicron_write_meta(struct ar_softc *rdp);
  91 static int ata_raid_lsiv2_read_meta(device_t dev, struct ar_softc **raidp);
  92 static int ata_raid_lsiv3_read_meta(device_t dev, struct ar_softc **raidp);
  93 static int ata_raid_nvidia_read_meta(device_t dev, struct ar_softc **raidp);
  94 static int ata_raid_promise_read_meta(device_t dev, struct ar_softc **raidp, int native);
  95 static int ata_raid_promise_write_meta(struct ar_softc *rdp);
  96 static int ata_raid_sii_read_meta(device_t dev, struct ar_softc **raidp);
  97 static int ata_raid_sis_read_meta(device_t dev, struct ar_softc **raidp);
  98 static int ata_raid_sis_write_meta(struct ar_softc *rdp);
  99 static int ata_raid_via_read_meta(device_t dev, struct ar_softc **raidp);
 100 static int ata_raid_via_write_meta(struct ar_softc *rdp);
 101 static struct ata_request *ata_raid_init_request(struct ar_softc *rdp, struct bio *bio);
 102 static int ata_raid_send_request(struct ata_request *request);
 103 static int ata_raid_rw(device_t dev, u_int64_t lba, void *data, u_int bcount, int flags);
 104 static char * ata_raid_format(struct ar_softc *rdp);
 105 static char * ata_raid_type(struct ar_softc *rdp);
 106 static char * ata_raid_flags(struct ar_softc *rdp);
 107
 108 /* debugging only */
 109 static void ata_raid_print_meta(struct ar_softc *meta);
 110 static void ata_raid_adaptec_print_meta(struct adaptec_raid_conf *meta);
 111 static void ata_raid_hptv2_print_meta(struct hptv2_raid_conf *meta);
 112 static void ata_raid_hptv3_print_meta(struct hptv3_raid_conf *meta);
 113 static void ata_raid_intel_print_meta(struct intel_raid_conf *meta);
 114 static void ata_raid_ite_print_meta(struct ite_raid_conf *meta);
 115 static void ata_raid_jmicron_print_meta(struct jmicron_raid_conf *meta);
 116 static void ata_raid_lsiv2_print_meta(struct lsiv2_raid_conf *meta);
 117 static void ata_raid_lsiv3_print_meta(struct lsiv3_raid_conf *meta);
 118 static void ata_raid_nvidia_print_meta(struct nvidia_raid_conf *meta);
 119 static void ata_raid_promise_print_meta(struct promise_raid_conf *meta);
 120 static void ata_raid_sii_print_meta(struct sii_raid_conf *meta);
 121 static void ata_raid_sis_print_meta(struct sis_raid_conf *meta);
 122 static void ata_raid_via_print_meta(struct via_raid_conf *meta);
 123
 124 /* internal vars */
 125 static struct ar_softc *ata_raid_arrays[MAX_ARRAYS];
 126 static MALLOC_DEFINE(M_AR, "ar_driver", "ATA PseudoRAID driver");
 127 static devclass_t ata_raid_sub_devclass;
 128 static int testing = 0;
 129
 130 static void
 131 ata_raid_attach(struct ar_softc *rdp, int writeback)
 132 {
 133     dev_t device;
 134     char buffer[32];
 135     int disk;
 136
 137     spin_init(&rdp->lock);
 138     ata_raid_config_changed(rdp, writeback);
 139
 140     /* sanitize arrays total_size % (width * interleave) == 0 */
 141     if (rdp->type == AR_T_RAID0 || rdp->type == AR_T_RAID01 ||
 142         rdp->type == AR_T_RAID5) {
 143         rdp->total_sectors = (rdp->total_sectors/(rdp->interleave*rdp->width))*
 144                              (rdp->interleave * rdp->width);
 145         ksprintf(buffer, " (stripe %d KB)",
 146                 (rdp->interleave * DEV_BSIZE) / 1024);
 147     }
 148     else
 149         buffer[0] = '\0';
 150     device = disk_create(rdp->lun, &rdp->disk, 0, &ata_raid_ops);
 151     device->si_drv1 = rdp;
 152     device->si_iosize_max = 128 * DEV_BSIZE;
 153     rdp->dev = device;
 154     rdp->disk.d_label.d_secsize = DEV_BSIZE;
 155     rdp->disk.d_label.d_nsectors = rdp->sectors;
 156     rdp->disk.d_label.d_ntracks = rdp->heads;
 157     rdp->disk.d_label.d_ncylinders = rdp->total_secs/(rdp->heads*rdp->sectors);
 158     rdp->disk.d_label.d_secpercyl = rdp->sectors * rdp->heads;
 159     rdp->disk.d_label.d_secperunit = rdp->total_secs;
 160
 161     kprintf("ar%d: %juMB <%s %s%s> status: %s\n", rdp->lun,
 162            rdp->total_sectors / ((1024L * 1024L) / DEV_BSIZE),
 163            ata_raid_format(rdp), ata_raid_type(rdp),
 164            buffer, ata_raid_flags(rdp));
 165
 166     if (testing || bootverbose)
 167         kprintf("ar%d: %ju sectors [%dC/%dH/%dS] <%s> subdisks defined as:\n",
 168                rdp->lun, rdp->total_sectors,
 169                rdp->cylinders, rdp->heads, rdp->sectors, rdp->name);
 170
 171     for (disk = 0; disk < rdp->total_disks; disk++) {
 172         kprintf("ar%d: disk%d ", rdp->lun, disk);
 173         if (rdp->disks[disk].dev) {
 174             if (rdp->disks[disk].flags & AR_DF_PRESENT) {
 175                 /* status of this disk in the array */
 176                 if (rdp->disks[disk].flags & AR_DF_ONLINE)
 177                     kprintf("READY ");
 178                 else if (rdp->disks[disk].flags & AR_DF_SPARE)
 179                     kprintf("SPARE ");
 180                 else
 181                     kprintf("FREE  ");
 182
 183                 /* what type of disk is this in the array */
 184                 switch (rdp->type) {
 185                 case AR_T_RAID1:
 186                 case AR_T_RAID01:
 187                     if (disk < rdp->width)
 188                         kprintf("(master) ");
 189                     else
 190                         kprintf("(mirror) ");
 191                 }
 192
 193                 /* which physical disk is used */
 194                 kprintf("using %s at ata%d-%s\n",
 195                        device_get_nameunit(rdp->disks[disk].dev),
 196                        device_get_unit(device_get_parent(rdp->disks[disk].dev)),
 197                        (((struct ata_device *)
 198                          device_get_softc(rdp->disks[disk].dev))->unit ==
 199                          ATA_MASTER) ? "master" : "slave");
 200             }
 201             else if (rdp->disks[disk].flags & AR_DF_ASSIGNED)
 202                 kprintf("DOWN\n");
 203             else
 204                 kprintf("INVALID no RAID config on this subdisk\n");
 205         }
 206         else
 207             kprintf("DOWN no device found for this subdisk\n");
 208     }
 209 }
 210
 211 /*
 212  * ATA PseudoRAID ioctl function. Note that this does not need to be adjusted
 213  * to the dev_ops way, because it's just chained from the generic ata ioctl.
 214  */
 215 static int
 216 ata_raid_ioctl(u_long cmd, caddr_t data)
 217 {
 218     struct ata_ioc_raid_config *config = (struct ata_ioc_raid_config *)data;
 219     int *lun = (int *)data;
 220     int error = EOPNOTSUPP;
 221
 222     switch (cmd) {
 223     case IOCATARAIDSTATUS:
 224         error = ata_raid_status(config);
 225         break;
 226
 227     case IOCATARAIDCREATE:
 228         error = ata_raid_create(config);
 229         break;
 230
 231     case IOCATARAIDDELETE:
 232         error = ata_raid_delete(*lun);
 233         break;
 234
 235     case IOCATARAIDADDSPARE:
 236         error = ata_raid_addspare(config);
 237         break;
 238
 239     case IOCATARAIDREBUILD:
 240         error = ata_raid_rebuild(*lun);
 241         break;
 242     }
 243     return error;
 244 }
 245
 246 /*
 247  * XXX TGEN there are a lot of offset -> block number conversions going on
 248  * here, which is suboptimal.
 249  */
 250 static int
 251 ata_raid_strategy(struct dev_strategy_args *ap)
 252 {
 253     struct bio *bp = ap->a_bio;
 254     struct buf *bbp = bp->bio_buf;
 255     struct ar_softc *rdp = ap->a_head.a_dev->si_drv1;
 256     struct ata_request *request;
 257     caddr_t data;
 258     u_int64_t blkno, lba, blk = 0;
 259     int count, chunk, drv, par = 0, change = 0;
 260
 261     if (!(rdp->status & AR_S_READY) ||
 262         (bbp->b_cmd != BUF_CMD_READ && bbp->b_cmd != BUF_CMD_WRITE)) {
 263         bbp->b_flags |= B_ERROR;
 264         bbp->b_error = EIO;
 265         biodone(bp);
 266         return;
 267     }
 268
 269     bbp->b_resid = bbp->b_bcount;
 270     for (count = howmany(bbp->b_bcount, DEV_BSIZE),
 271          /* bio_offset is byte granularity, convert */
 272          blkno = (u_int64_t)(bp->bio_offset >> DEV_BSHIFT),
 273          data = bbp->b_data;
 274          count > 0;
 275          count -= chunk, blkno += chunk, data += (chunk * DEV_BSIZE)) {
 276
 277         switch (rdp->type) {
 278         case AR_T_RAID1:
 279             drv = 0;
 280             lba = blkno;
 281             chunk = count;
 282             break;
 283
 284         case AR_T_JBOD:
 285         case AR_T_SPAN:
 286             drv = 0;
 287             lba = blkno;
 288             while (lba >= rdp->disks[drv].sectors)
 289                 lba -= rdp->disks[drv++].sectors;
 290             chunk = min(rdp->disks[drv].sectors - lba, count);
 291             break;
 292
 293         case AR_T_RAID0:
 294         case AR_T_RAID01:
 295             chunk = blkno % rdp->interleave;
 296             drv = (blkno / rdp->interleave) % rdp->width;
 297             lba = (((blkno/rdp->interleave)/rdp->width)*rdp->interleave)+chunk;
 298             chunk = min(count, rdp->interleave - chunk);
 299             break;
 300
 301         case AR_T_RAID5:
 302             drv = (blkno / rdp->interleave) % (rdp->width - 1);
 303             par = rdp->width - 1 -
 304                   (blkno / (rdp->interleave * (rdp->width - 1))) % rdp->width;
 305             if (drv >= par)
 306                 drv++;
 307             lba = ((blkno/rdp->interleave)/(rdp->width-1))*(rdp->interleave) +
 308                   ((blkno%(rdp->interleave*(rdp->width-1)))%rdp->interleave);
 309             chunk = min(count, rdp->interleave - (lba % rdp->interleave));
 310             break;
 311
 312         default:
 313             kprintf("ar%d: unknown array type in ata_raid_strategy\n", rdp->lun);
 314             bbp->b_flags |= B_ERROR;
 315             bbp->b_error = EIO;
 316             biodone(bp);
 317             return;
 318         }
 319
 320         /* offset on all but "first on HPTv2" */
 321         if (!(drv == 0 && rdp->format == AR_F_HPTV2_RAID))
 322             lba += rdp->offset_sectors;
 323
 324         if (!(request = ata_raid_init_request(rdp, bp))) {
 325             bbp->b_flags |= B_ERROR;
 326             bbp->b_error = EIO;
 327             biodone(bp);
 328             return;
 329         }
 330         request->data = data;
 331         request->bytecount = chunk * DEV_BSIZE;
 332         request->u.ata.lba = lba;
 333         request->u.ata.count = request->bytecount / DEV_BSIZE;
 334
 335         switch (rdp->type) {
 336         case AR_T_JBOD:
 337         case AR_T_SPAN:
 338         case AR_T_RAID0:
 339             if (((rdp->disks[drv].flags & (AR_DF_PRESENT|AR_DF_ONLINE)) ==
 340                  (AR_DF_PRESENT|AR_DF_ONLINE) && !rdp->disks[drv].dev)) {
 341                 rdp->disks[drv].flags &= ~AR_DF_ONLINE;
 342                 ata_raid_config_changed(rdp, 1);
 343                 ata_free_request(request);
 344                 bbp->b_flags |= B_ERROR;
 345                 bbp->b_error = EIO;
 346                 biodone(bp);
 347                 return;
 348             }
 349             request->this = drv;
 350             request->dev = rdp->disks[request->this].dev;
 351             ata_raid_send_request(request);
 352             break;
 353
 354         case AR_T_RAID1:
 355         case AR_T_RAID01:
 356             if ((rdp->disks[drv].flags &
 357                  (AR_DF_PRESENT|AR_DF_ONLINE))==(AR_DF_PRESENT|AR_DF_ONLINE) &&
 358                 !rdp->disks[drv].dev) {
 359                 rdp->disks[drv].flags &= ~AR_DF_ONLINE;
 360                 change = 1;
 361             }
 362             if ((rdp->disks[drv + rdp->width].flags &
 363                  (AR_DF_PRESENT|AR_DF_ONLINE))==(AR_DF_PRESENT|AR_DF_ONLINE) &&
 364                 !rdp->disks[drv + rdp->width].dev) {
 365                 rdp->disks[drv + rdp->width].flags &= ~AR_DF_ONLINE;
 366                 change = 1;
 367             }
 368             if (change)
 369                 ata_raid_config_changed(rdp, 1);
 370             if (!(rdp->status & AR_S_READY)) {
 371                 ata_free_request(request);
 372                 bbp->b_flags |= B_ERROR;
 373                 bbp->b_error = EIO;
 374                 biodone(bp);
 375                 return;
 376             }
 377
 378             if (rdp->status & AR_S_REBUILDING)
 379                 blk = ((lba / rdp->interleave) * rdp->width) * rdp->interleave +
 380                       (rdp->interleave * (drv % rdp->width)) +
 381                       lba % rdp->interleave;;
 382
 383             if (bbp->b_cmd == BUF_CMD_READ) {
 384                 int src_online =
 385                     (rdp->disks[drv].flags & AR_DF_ONLINE);
 386                 int mir_online =
 387                     (rdp->disks[drv+rdp->width].flags & AR_DF_ONLINE);
 388
 389                 /* if mirror gone or close to last access on source */
 390                 if (!mir_online ||
 391                     ((src_online) &&
 392                      ((u_int64_t)(bp->bio_offset >> DEV_BSHIFT)) >=
 393                         (rdp->disks[drv].last_lba - AR_PROXIMITY) &&
 394                      ((u_int64_t)(bp->bio_offset >> DEV_BSHIFT)) <=
 395                         (rdp->disks[drv].last_lba + AR_PROXIMITY))) {
 396                     rdp->toggle = 0;
 397                 }
 398                 /* if source gone or close to last access on mirror */
 399                 else if (!src_online ||
 400                          ((mir_online) &&
 401                           ((u_int64_t)(bp->bio_offset >> DEV_BSHIFT)) >=
 402                           (rdp->disks[drv+rdp->width].last_lba-AR_PROXIMITY) &&
 403                           ((u_int64_t)(bp->bio_offset >> DEV_BSHIFT)) <=
 404                           (rdp->disks[drv+rdp->width].last_lba+AR_PROXIMITY))) {
 405                     drv += rdp->width;
 406                     rdp->toggle = 1;
 407                 }
 408                 /* not close to any previous access, toggle */
 409                 else {
 410                     if (rdp->toggle)
 411                         rdp->toggle = 0;
 412                     else {
 413                         drv += rdp->width;
 414                         rdp->toggle = 1;
 415                     }
 416                 }
 417
 418                 if ((rdp->status & AR_S_REBUILDING) &&
 419                     (blk <= rdp->rebuild_lba) &&
 420                     ((blk + chunk) > rdp->rebuild_lba)) {
 421                     struct ata_composite *composite;
 422                     struct ata_request *rebuild;
 423                     int this;
 424
 425                     /* figure out what part to rebuild */
 426                     if (drv < rdp->width)
 427                         this = drv + rdp->width;
 428                     else
 429                         this = drv - rdp->width;
 430
 431                     /* do we have a spare to rebuild on ? */
 432                     if (rdp->disks[this].flags & AR_DF_SPARE) {
 433                         if ((composite = ata_alloc_composite())) {
 434                             if ((rebuild = ata_alloc_request())) {
 435                                 rdp->rebuild_lba = blk + chunk;
 436                                 bcopy(request, rebuild,
 437                                       sizeof(struct ata_request));
 438                                 rebuild->this = this;
 439                                 rebuild->dev = rdp->disks[this].dev;
 440                                 rebuild->flags &= ~ATA_R_READ;
 441                                 rebuild->flags |= ATA_R_WRITE;
 442                                 spin_init(&composite->lock);
 443                                 composite->residual = request->bytecount;
 444                                 composite->rd_needed |= (1 << drv);
 445                                 composite->wr_depend |= (1 << drv);
 446                                 composite->wr_needed |= (1 << this);
 447                                 composite->request[drv] = request;
 448                                 composite->request[this] = rebuild;
 449                                 request->composite = composite;
 450                                 rebuild->composite = composite;
 451                                 ata_raid_send_request(rebuild);
 452                             }
 453                             else {
 454                                 ata_free_composite(composite);
 455                                 kprintf("DOH! ata_alloc_request failed!\n");
 456                             }
 457                         }
 458                         else {
 459                             kprintf("DOH! ata_alloc_composite failed!\n");
 460                         }
 461                     }
 462                     else if (rdp->disks[this].flags & AR_DF_ONLINE) {
 463                         /*
 464                          * if we got here we are a chunk of a RAID01 that
 465                          * does not need a rebuild, but we need to increment
 466                          * the rebuild_lba address to get the rebuild to
 467                          * move to the next chunk correctly
 468                          */
 469                         rdp->rebuild_lba = blk + chunk;
 470                     }
 471                     else
 472                         kprintf("DOH! we didn't find the rebuild part\n");
 473                 }
 474             }
 475             if (bbp->b_cmd == BUF_CMD_WRITE) {
 476                 if ((rdp->disks[drv+rdp->width].flags & AR_DF_ONLINE) ||
 477                     ((rdp->status & AR_S_REBUILDING) &&
 478                      (rdp->disks[drv+rdp->width].flags & AR_DF_SPARE) &&
 479                      ((blk < rdp->rebuild_lba) ||
 480                       ((blk <= rdp->rebuild_lba) &&
 481                        ((blk + chunk) > rdp->rebuild_lba))))) {
 482                     if ((rdp->disks[drv].flags & AR_DF_ONLINE) ||
 483                         ((rdp->status & AR_S_REBUILDING) &&
 484                          (rdp->disks[drv].flags & AR_DF_SPARE) &&
 485                          ((blk < rdp->rebuild_lba) ||
 486                           ((blk <= rdp->rebuild_lba) &&
 487                            ((blk + chunk) > rdp->rebuild_lba))))) {
 488                         struct ata_request *mirror;
 489                         struct ata_composite *composite;
 490                         int this = drv + rdp->width;
 491
 492                         if ((composite = ata_alloc_composite())) {
 493                             if ((mirror = ata_alloc_request())) {
 494                                 if ((blk <= rdp->rebuild_lba) &&
 495                                     ((blk + chunk) > rdp->rebuild_lba))
 496                                     rdp->rebuild_lba = blk + chunk;
 497                                 bcopy(request, mirror,
 498                                       sizeof(struct ata_request));
 499                                 mirror->this = this;
 500                                 mirror->dev = rdp->disks[this].dev;
 501                                 spin_init(&composite->lock);
 502                                 composite->residual = request->bytecount;
 503                                 composite->wr_needed |= (1 << drv);
 504                                 composite->wr_needed |= (1 << this);
 505                                 composite->request[drv] = request;
 506                                 composite->request[this] = mirror;
 507                                 request->composite = composite;
 508                                 mirror->composite = composite;
 509                                 ata_raid_send_request(mirror);
 510                                 rdp->disks[this].last_lba =
 511                                     (u_int64_t)(bp->bio_offset >> DEV_BSHIFT) +
 512                                     chunk;
 513                             }
 514                             else {
 515                                 ata_free_composite(composite);
 516                                 kprintf("DOH! ata_alloc_request failed!\n");
 517                             }
 518                         }
 519                         else {
 520                             kprintf("DOH! ata_alloc_composite failed!\n");
 521                         }
 522                     }
 523                     else
 524                         drv += rdp->width;
 525                 }
 526             }
 527             request->this = drv;
 528             request->dev = rdp->disks[request->this].dev;
 529             ata_raid_send_request(request);
 530             rdp->disks[request->this].last_lba = (u_int64_t)(bp->bio_offset >>
 531                                                              DEV_BSIZE) + chunk;
 532             break;
 533
 534         case AR_T_RAID5:
 535             if (((rdp->disks[drv].flags & (AR_DF_PRESENT|AR_DF_ONLINE)) ==
 536                  (AR_DF_PRESENT|AR_DF_ONLINE) && !rdp->disks[drv].dev)) {
 537                 rdp->disks[drv].flags &= ~AR_DF_ONLINE;
 538                 change = 1;
 539             }
 540             if (((rdp->disks[par].flags & (AR_DF_PRESENT|AR_DF_ONLINE)) ==
 541                  (AR_DF_PRESENT|AR_DF_ONLINE) && !rdp->disks[par].dev)) {
 542                 rdp->disks[par].flags &= ~AR_DF_ONLINE;
 543                 change = 1;
 544             }
 545             if (change)
 546                 ata_raid_config_changed(rdp, 1);
 547             if (!(rdp->status & AR_S_READY)) {
 548                 ata_free_request(request);
 549                 bbp->b_flags |= B_ERROR;
 550                 bbp->b_error = EIO;
 551                 biodone(bp);
 552                 return;
 553             }
 554             if (rdp->status & AR_S_DEGRADED) {
 555                 /* do the XOR game if possible */
 556             }
 557             else {
 558                 request->this = drv;
 559                 request->dev = rdp->disks[request->this].dev;
 560                 if (bbp->b_cmd == BUF_CMD_READ) {
 561                     ata_raid_send_request(request);
 562                 }
 563                 if (bbp->b_cmd == BUF_CMD_WRITE) {
 564                     ata_raid_send_request(request);
 565                     // sikre at læs-modify-skriv til hver disk er atomarisk.
 566                     // par kopi af request
 567                     // læse orgdata fra drv
 568                     // skriv nydata til drv
 569                     // læse parorgdata fra par
 570                     // skriv orgdata xor parorgdata xor nydata til par
 571                 }
 572             }
 573             break;
 574
 575         default:
 576             kprintf("ar%d: unknown array type in ata_raid_strategy\n", rdp->lun);
 577         }
 578     }
 579 }
 580
 581 static void
 582 ata_raid_done(struct ata_request *request)
 583 {
 584     struct ar_softc *rdp = request->driver;
 585     struct ata_composite *composite = NULL;
 586     struct bio *bp = request->bio;
 587     struct buf *bbp = bp->bio_buf;
 588     int i, mirror, finished = 0;
 589
 590     switch (rdp->type) {
 591     case AR_T_JBOD:
 592     case AR_T_SPAN:
 593     case AR_T_RAID0:
 594         if (request->result) {
 595             rdp->disks[request->this].flags &= ~AR_DF_ONLINE;
 596             ata_raid_config_changed(rdp, 1);
 597             bbp->b_error = request->result;
 598             finished = 1;
 599         }
 600         else {
 601             bbp->b_resid -= request->donecount;
 602             if (!bbp->b_resid)
 603                 finished = 1;
 604         }
 605         break;
 606
 607     case AR_T_RAID1:
 608     case AR_T_RAID01:
 609         if (request->this < rdp->width)
 610             mirror = request->this + rdp->width;
 611         else
 612             mirror = request->this - rdp->width;
 613         if (request->result) {
 614             rdp->disks[request->this].flags &= ~AR_DF_ONLINE;
 615             ata_raid_config_changed(rdp, 1);
 616         }
 617         if (rdp->status & AR_S_READY) {
 618             u_int64_t blk = 0;
 619
 620             if (rdp->status & AR_S_REBUILDING)
 621                 blk = ((request->u.ata.lba / rdp->interleave) * rdp->width) *
 622                       rdp->interleave + (rdp->interleave *
 623                       (request->this % rdp->width)) +
 624                       request->u.ata.lba % rdp->interleave;
 625
 626             if (bbp->b_cmd == BUF_CMD_READ) {
 627
 628                 /* is this a rebuild composite */
 629                 if ((composite = request->composite)) {
 630                     spin_lock_wr(&composite->lock);
 631
 632                     /* handle the read part of a rebuild composite */
 633                     if (request->flags & ATA_R_READ) {
 634
 635                         /* if read failed array is now broken */
 636                         if (request->result) {
 637                             rdp->disks[request->this].flags &= ~AR_DF_ONLINE;
 638                             ata_raid_config_changed(rdp, 1);
 639                             bbp->b_error = request->result;
 640                             rdp->rebuild_lba = blk;
 641                             finished = 1;
 642                         }
 643
 644                         /* good data, update how far we've gotten */
 645                         else {
 646                             bbp->b_resid -= request->donecount;
 647                             composite->residual -= request->donecount;
 648                             if (!composite->residual) {
 649                                 if (composite->wr_done & (1 << mirror))
 650                                     finished = 1;
 651                             }
 652                         }
 653                     }
 654
 655                     /* handle the write part of a rebuild composite */
 656                     else if (request->flags & ATA_R_WRITE) {
 657                         if (composite->rd_done & (1 << mirror)) {
 658                             if (request->result) {
 659                                 kprintf("DOH! rebuild failed\n"); /* XXX SOS */
 660                                 rdp->rebuild_lba = blk;
 661                             }
 662                             if (!composite->residual)
 663                                 finished = 1;
 664                         }
 665                     }
 666                     spin_unlock_wr(&composite->lock);
 667                 }
 668
 669                 /* if read failed retry on the mirror */
 670                 else if (request->result) {
 671                     request->dev = rdp->disks[mirror].dev;
 672                     request->flags &= ~ATA_R_TIMEOUT;
 673                     ata_raid_send_request(request);
 674                     return;
 675                 }
 676
 677                 /* we have good data */
 678                 else {
 679                     bbp->b_resid -= request->donecount;
 680                     if (!bbp->b_resid)
 681                         finished = 1;
 682                 }
 683             }
 684             else if (bbp->b_cmd == BUF_CMD_WRITE) {
 685                 /* do we have a mirror or rebuild to deal with ? */
 686                 if ((composite = request->composite)) {
 687                     spin_lock_wr(&composite->lock);
 688                     if (composite->wr_done & (1 << mirror)) {
 689                         if (request->result) {
 690                             if (composite->request[mirror]->result) {
 691                                 kprintf("DOH! all disks failed and got here\n");
 692                                 bbp->b_error = EIO;
 693                             }
 694                             if (rdp->status & AR_S_REBUILDING) {
 695                                 rdp->rebuild_lba = blk;
 696                                 kprintf("DOH! rebuild failed\n"); /* XXX SOS */
 697                             }
 698                             bbp->b_resid -=
 699                                 composite->request[mirror]->donecount;
 700                             composite->residual -=
 701                                 composite->request[mirror]->donecount;
 702                         }
 703                         else {
 704                             bbp->b_resid -= request->donecount;
 705                             composite->residual -= request->donecount;
 706                         }
 707                         if (!composite->residual)
 708                             finished = 1;
 709                     }
 710                     spin_unlock_wr(&composite->lock);
 711                 }
 712                 /* no mirror we are done */
 713                 else {
 714                     bbp->b_resid -= request->donecount;
 715                     if (!bbp->b_resid)
 716                         finished = 1;
 717                 }
 718             }
 719         }
 720         else {
 721             /* XXX TGEN bbp->b_flags |= B_ERROR; */
 722             bbp->b_error = request->result;
 723             biodone(bp);
 724         }
 725         break;
 726
 727     case AR_T_RAID5:
 728         if (request->result) {
 729             rdp->disks[request->this].flags &= ~AR_DF_ONLINE;
 730             ata_raid_config_changed(rdp, 1);
 731             if (rdp->status & AR_S_READY) {
 732                 if (bbp->b_cmd == BUF_CMD_READ) {
 733                     /* do the XOR game to recover data */
 734                 }
 735                 if (bbp->b_cmd == BUF_CMD_WRITE) {
 736                     /* if the parity failed we're OK sortof */
 737                     /* otherwise wee need to do the XOR long dance */
 738                 }
 739                 finished = 1;
 740             }
 741             else {
 742                 /* XXX TGEN bbp->b_flags |= B_ERROR; */
 743                 bbp->b_error = request->result;
 744                 biodone(bp);
 745             }
 746         }
 747         else {
 748             // did we have an XOR game going ??
 749             bbp->b_resid -= request->donecount;
 750             if (!bbp->b_resid)
 751                 finished = 1;
 752         }
 753         break;
 754
 755     default:
 756         kprintf("ar%d: unknown array type in ata_raid_done\n", rdp->lun);
 757     }
 758
 759     if (finished) {
 760         if ((rdp->status & AR_S_REBUILDING) &&
 761             rdp->rebuild_lba >= rdp->total_sectors) {
 762             int disk;
 763
 764             for (disk = 0; disk < rdp->total_disks; disk++) {
 765                 if ((rdp->disks[disk].flags &
 766                      (AR_DF_PRESENT | AR_DF_ASSIGNED | AR_DF_SPARE)) ==
 767                     (AR_DF_PRESENT | AR_DF_ASSIGNED | AR_DF_SPARE)) {
 768                     rdp->disks[disk].flags &= ~AR_DF_SPARE;
 769                     rdp->disks[disk].flags |= AR_DF_ONLINE;
 770                 }
 771             }
 772             rdp->status &= ~AR_S_REBUILDING;
 773             ata_raid_config_changed(rdp, 1);
 774         }
 775         if (!bbp->b_resid)
 776             biodone(bp);
 777     }
 778
 779     if (composite) {
 780         if (finished) {
 781             /* we are done with this composite, free all resources */
 782             for (i = 0; i < 32; i++) {
 783                 if (composite->rd_needed & (1 << i) ||
 784                     composite->wr_needed & (1 << i)) {
 785                     ata_free_request(composite->request[i]);
 786                 }
 787             }
 788             spin_uninit(&composite->lock);
 789             ata_free_composite(composite);
 790         }
 791     }
 792     else
 793         ata_free_request(request);
 794 }
 795
 796 static int
 797 ata_raid_dump(struct dev_dump_args *ap)
 798 {
 799     struct ar_softc *rdp = ap->a_head.a_dev->si_drv1;
 800     struct bio bp;
 801     struct buf bbp;
 802     struct dev_strategy_args dsap;
 803     vm_paddr_t addr = 0;
 804     long blkcnt;
 805     int dumppages = MAXDUMPPGS;
 806     int error = 0;
 807     int disk = 0;
 808     int i;
 809
 810 #if 0
 811     /* XXX TGEN Figure out if we need to support this as well. */
 812     /* XXX TGEN Seems like we don't, ata_raid_dump isn't called recursively. */
 813     /* length zero is special and really means flush buffers to media */
 814     if (!length) {
 815         for (disk = 0, error = 0; disk < rdp->total_disks; disk++)
 816             if (rdp->disks[disk].dev)
 817                 error |= ata_controlcmd(rdp->disks[disk].dev,
 818                                         ATA_FLUSHCACHE, 0, 0, 0);
 819         return (error ? EIO : 0);
 820     }
 821 #endif /* 0 */
 822
 823     blkcnt = howmany(PAGE_SIZE, ap->a_secsize);
 824
 825     while (ap->a_count > 0) {
 826         caddr_t va = NULL;
 827
 828         if ((ap->a_count / blkcnt) < dumppages)
 829             dumppages = ap->a_count / blkcnt;
 830
 831         for (i = 0; i < dumppages; ++i) {
 832             vm_paddr_t a = addr + (i * PAGE_SIZE);
 833             if (is_physical_memory(a))
 834                 va = pmap_kenter_temporary(trunc_page(a), i);
 835             else
 836                 va = pmap_kenter_temporary(trunc_page(0), i);
 837         }
 838
 839         bzero(&bp, sizeof(struct bio));
 840         bzero(&bbp, sizeof(struct buf));
 841         bzero(&dsap, sizeof(struct dev_strategy_args));
 842         bp.bio_buf = &bbp;
 843         /* bio_offset is byte granularity, convert block granularity a_blkno */
 844         bp.bio_offset = (off_t)(ap->a_blkno << DEV_BSHIFT);
 845         bbp.b_bcount = PAGE_SIZE * dumppages;
 846         bbp.b_data = va;
 847         bbp.b_cmd = BUF_CMD_WRITE;
 848         /* XXX TGEN With the previous bzero probably not efficient. */
 849         dsap.a_head = ap->a_head;
 850         dsap.a_bio = &bp;
 851         ata_raid_strategy(&dsap);
 852         if (bbp.b_error)
 853             return bbp.b_error;
 854
 855         if (dumpstatus(addr, (off_t)ap->a_count * DEV_BSIZE) < 0)
 856             return EINTR;
 857
 858         ap->a_blkno += blkcnt * dumppages;
 859         ap->a_count -= blkcnt * dumppages;
 860         addr += PAGE_SIZE * dumppages;
 861     }
 862
 863     /* flush subdisk buffers to media */
 864     for (disk = 0; disk < rdp->total_disks; disk++)
 865         if (rdp->disks[disk].dev)
 866             error |= ata_controlcmd(rdp->disks[disk].dev, ATA_FLUSHCACHE, 0, 0,
 867                                     0);
 868     return (error ? EIO : 0);
 869 }
 870
 871 static void
 872 ata_raid_config_changed(struct ar_softc *rdp, int writeback)
 873 {
 874     int disk, count, status;
 875
 876     spin_lock_wr(&rdp->lock);
 877     /* set default all working mode */
 878     status = rdp->status;
 879     rdp->status &= ~AR_S_DEGRADED;
 880     rdp->status |= AR_S_READY;
 881
 882     /* make sure all lost drives are accounted for */
 883     for (disk = 0; disk < rdp->total_disks; disk++) {
 884         if (!(rdp->disks[disk].flags & AR_DF_PRESENT))
 885             rdp->disks[disk].flags &= ~AR_DF_ONLINE;
 886     }
 887
 888     /* depending on RAID type figure out our health status */
 889     switch (rdp->type) {
 890     case AR_T_JBOD:
 891     case AR_T_SPAN:
 892     case AR_T_RAID0:
 893         for (disk = 0; disk < rdp->total_disks; disk++)
 894             if (!(rdp->disks[disk].flags & AR_DF_ONLINE))
 895                 rdp->status &= ~AR_S_READY;
 896         break;
 897
 898     case AR_T_RAID1:
 899     case AR_T_RAID01:
 900         for (disk = 0; disk < rdp->width; disk++) {
 901             if (!(rdp->disks[disk].flags & AR_DF_ONLINE) &&
 902                 !(rdp->disks[disk + rdp->width].flags & AR_DF_ONLINE)) {
 903                 rdp->status &= ~AR_S_READY;
 904             }
 905             else if (((rdp->disks[disk].flags & AR_DF_ONLINE) &&
 906                       !(rdp->disks[disk + rdp->width].flags & AR_DF_ONLINE)) ||
 907                      (!(rdp->disks[disk].flags & AR_DF_ONLINE) &&
 908                       (rdp->disks [disk + rdp->width].flags & AR_DF_ONLINE))) {
 909                 rdp->status |= AR_S_DEGRADED;
 910             }
 911         }
 912         break;
 913
 914     case AR_T_RAID5:
 915         for (count = 0, disk = 0; disk < rdp->total_disks; disk++) {
 916             if (!(rdp->disks[disk].flags & AR_DF_ONLINE))
 917                 count++;
 918         }
 919         if (count) {
 920             if (count > 1)
 921                 rdp->status &= ~AR_S_READY;
 922             else
 923                 rdp->status |= AR_S_DEGRADED;
 924         }
 925         break;
 926     default:
 927         rdp->status &= ~AR_S_READY;
 928     }
 929
 930     if (rdp->status != status) {
 931         if (!(rdp->status & AR_S_READY)) {
 932             kprintf("ar%d: FAILURE - %s array broken\n",
 933                    rdp->lun, ata_raid_type(rdp));
 934         }
 935         else if (rdp->status & AR_S_DEGRADED) {
 936             if (rdp->type & (AR_T_RAID1 | AR_T_RAID01))
 937                 kprintf("ar%d: WARNING - mirror", rdp->lun);
 938             else
 939                 kprintf("ar%d: WARNING - parity", rdp->lun);
 940             kprintf(" protection lost. %s array in DEGRADED mode\n",
 941                    ata_raid_type(rdp));
 942         }
 943     }
 944     spin_unlock_wr(&rdp->lock);
 945     if (writeback)
 946         ata_raid_write_metadata(rdp);
 947
 948 }
 949
 950 static int
 951 ata_raid_status(struct ata_ioc_raid_config *config)
 952 {
 953     struct ar_softc *rdp;
 954     int i;
 955
 956     if (!(rdp = ata_raid_arrays[config->lun]))
 957         return ENXIO;
 958
 959     config->type = rdp->type;
 960     config->total_disks = rdp->total_disks;
 961     for (i = 0; i < rdp->total_disks; i++ ) {
 962         if ((rdp->disks[i].flags & AR_DF_PRESENT) && rdp->disks[i].dev)
 963             config->disks[i] = device_get_unit(rdp->disks[i].dev);
 964         else
 965             config->disks[i] = -1;
 966     }
 967     config->interleave = rdp->interleave;
 968     config->status = rdp->status;
 969     config->progress = 100 * rdp->rebuild_lba / rdp->total_sectors;
 970     return 0;
 971 }
 972
 973 static int
 974 ata_raid_create(struct ata_ioc_raid_config *config)
 975 {
 976     struct ar_softc *rdp;
 977     device_t subdisk;
 978     int array, disk;
 979     int ctlr = 0, disk_size = 0, total_disks = 0;
 980
 981     for (array = 0; array < MAX_ARRAYS; array++) {
 982         if (!ata_raid_arrays[array])
 983             break;
 984     }
 985     if (array >= MAX_ARRAYS)
 986         return ENOSPC;
 987
 988     if (!(rdp = (struct ar_softc*)malloc(sizeof(struct ar_softc), M_AR,
 989                                          M_NOWAIT | M_ZERO))) {
 990         kprintf("ar%d: no memory for metadata storage\n", array);
 991         return ENOMEM;
 992     }
 993
 994     for (disk = 0; disk < config->total_disks; disk++) {
 995         if ((subdisk = devclass_get_device(ata_raid_sub_devclass,
 996                                            config->disks[disk]))) {
 997             struct ata_raid_subdisk *ars = device_get_softc(subdisk);
 998
 999             /* is device already assigned to another array ? */
1000             if (ars->raid[rdp->volume]) {
1001                 config->disks[disk] = -1;
1002                 free(rdp, M_AR);
1003                 return EBUSY;
1004             }
1005             rdp->disks[disk].dev = device_get_parent(subdisk);
1006
1007             switch (pci_get_vendor(GRANDPARENT(rdp->disks[disk].dev))) {
1008             case ATA_HIGHPOINT_ID:
1009                 /*
1010                  * we need some way to decide if it should be v2 or v3
1011                  * for now just use v2 since the v3 BIOS knows how to
1012                  * handle that as well.
1013                  */
1014                 ctlr = AR_F_HPTV2_RAID;
1015                 rdp->disks[disk].sectors = HPTV3_LBA(rdp->disks[disk].dev);
1016                 break;
1017
1018             case ATA_INTEL_ID:
1019                 ctlr = AR_F_INTEL_RAID;
1020                 rdp->disks[disk].sectors = INTEL_LBA(rdp->disks[disk].dev);
1021                 break;
1022
1023             case ATA_ITE_ID:
1024                 ctlr = AR_F_ITE_RAID;
1025                 rdp->disks[disk].sectors = ITE_LBA(rdp->disks[disk].dev);
1026                 break;
1027
1028             case ATA_JMICRON_ID:
1029                 ctlr = AR_F_JMICRON_RAID;
1030                 rdp->disks[disk].sectors = JMICRON_LBA(rdp->disks[disk].dev);
1031                 break;
1032
1033             case 0:     /* XXX SOS cover up for bug in our PCI code */
1034             case ATA_PROMISE_ID:
1035                 ctlr = AR_F_PROMISE_RAID;
1036                 rdp->disks[disk].sectors = PROMISE_LBA(rdp->disks[disk].dev);
1037                 break;
1038
1039             case ATA_SIS_ID:
1040                 ctlr = AR_F_SIS_RAID;
1041                 rdp->disks[disk].sectors = SIS_LBA(rdp->disks[disk].dev);
1042                 break;
1043
1044             case ATA_ATI_ID:
1045             case ATA_VIA_ID:
1046                 ctlr = AR_F_VIA_RAID;
1047                 rdp->disks[disk].sectors = VIA_LBA(rdp->disks[disk].dev);
1048                 break;
1049
1050             default:
1051                 /* XXX SOS
1052                  * right, so here we are, we have an ATA chip and we want
1053                  * to create a RAID and store the metadata.
1054                  * we need to find a way to tell what kind of metadata this
1055                  * hardware's BIOS might be using (good ideas are welcomed)
1056                  * for now we just use our own native FreeBSD format.
1057                  * the only way to get support for the BIOS format is to
1058                  * setup the RAID from there, in that case we pickup the
1059                  * metadata format from the disks (if we support it).
1060                  */
1061                 kprintf("WARNING!! - not able to determine metadata format\n"
1062                        "WARNING!! - Using FreeBSD PseudoRAID metadata\n"
1063                        "If that is not what you want, use the BIOS to "
1064                        "create the array\n");
1065                 ctlr = AR_F_FREEBSD_RAID;
1066                 rdp->disks[disk].sectors = PROMISE_LBA(rdp->disks[disk].dev);
1067                 break;
1068             }
1069
1070             /* we need all disks to be of the same format */
1071             if ((rdp->format & AR_F_FORMAT_MASK) &&
1072                 (rdp->format & AR_F_FORMAT_MASK) != (ctlr & AR_F_FORMAT_MASK)) {
1073                 free(rdp, M_AR);
1074                 return EXDEV;
1075             }
1076             else
1077                 rdp->format = ctlr;
1078
1079             /* use the smallest disk of the lots size */
1080             /* gigabyte boundry ??? XXX SOS */
1081             if (disk_size)
1082                 disk_size = min(rdp->disks[disk].sectors, disk_size);
1083             else
1084                 disk_size = rdp->disks[disk].sectors;
1085             rdp->disks[disk].flags =
1086                 (AR_DF_PRESENT | AR_DF_ASSIGNED | AR_DF_ONLINE);
1087
1088             total_disks++;
1089         }
1090         else {
1091             config->disks[disk] = -1;
1092             free(rdp, M_AR);
1093             return ENXIO;
1094         }
1095     }
1096
1097     if (total_disks != config->total_disks) {
1098         free(rdp, M_AR);
1099         return ENODEV;
1100     }
1101
1102     switch (config->type) {
1103     case AR_T_JBOD:
1104     case AR_T_SPAN:
1105     case AR_T_RAID0:
1106         break;
1107
1108     case AR_T_RAID1:
1109         if (total_disks != 2) {
1110             free(rdp, M_AR);
1111             return EPERM;
1112         }
1113         break;
1114
1115     case AR_T_RAID01:
1116         if (total_disks % 2 != 0) {
1117             free(rdp, M_AR);
1118             return EPERM;
1119         }
1120         break;
1121
1122     case AR_T_RAID5:
1123         if (total_disks < 3) {
1124             free(rdp, M_AR);
1125             return EPERM;
1126         }
1127         break;
1128
1129     default:
1130         free(rdp, M_AR);
1131         return EOPNOTSUPP;
1132     }
1133     rdp->type = config->type;
1134     rdp->lun = array;
1135     if (rdp->type == AR_T_RAID0 || rdp->type == AR_T_RAID01 ||
1136         rdp->type == AR_T_RAID5) {
1137         int bit = 0;
1138
1139         while (config->interleave >>= 1)
1140             bit++;
1141         rdp->interleave = 1 << bit;
1142     }
1143     rdp->offset_sectors = 0;
1144
1145     /* values that depend on metadata format */
1146     switch (rdp->format) {
1147     case AR_F_ADAPTEC_RAID:
1148         rdp->interleave = min(max(32, rdp->interleave), 128); /*+*/
1149         break;
1150
1151     case AR_F_HPTV2_RAID:
1152         rdp->interleave = min(max(8, rdp->interleave), 128); /*+*/
1153         rdp->offset_sectors = HPTV2_LBA(x) + 1;
1154         break;
1155
1156     case AR_F_HPTV3_RAID:
1157         rdp->interleave = min(max(32, rdp->interleave), 4096); /*+*/
1158         break;
1159
1160     case AR_F_INTEL_RAID:
1161         rdp->interleave = min(max(8, rdp->interleave), 256); /*+*/
1162         break;
1163
1164     case AR_F_ITE_RAID:
1165         rdp->interleave = min(max(2, rdp->interleave), 128); /*+*/
1166         break;
1167
1168     case AR_F_JMICRON_RAID:
1169         rdp->interleave = min(max(8, rdp->interleave), 256); /*+*/
1170         break;
1171
1172     case AR_F_LSIV2_RAID:
1173         rdp->interleave = min(max(2, rdp->interleave), 4096);
1174         break;
1175
1176     case AR_F_LSIV3_RAID:
1177         rdp->interleave = min(max(2, rdp->interleave), 256);
1178         break;
1179
1180     case AR_F_PROMISE_RAID:
1181         rdp->interleave = min(max(2, rdp->interleave), 2048); /*+*/
1182         break;
1183
1184     case AR_F_SII_RAID:
1185         rdp->interleave = min(max(8, rdp->interleave), 256); /*+*/
1186         break;
1187
1188     case AR_F_SIS_RAID:
1189         rdp->interleave = min(max(32, rdp->interleave), 512); /*+*/
1190         break;
1191
1192     case AR_F_VIA_RAID:
1193         rdp->interleave = min(max(8, rdp->interleave), 128); /*+*/
1194         break;
1195     }
1196
1197     rdp->total_disks = total_disks;
1198     rdp->width = total_disks / (rdp->type & (AR_RAID1 | AR_T_RAID01) ? 2 : 1);
1199     rdp->total_sectors = disk_size * (rdp->width - (rdp->type == AR_RAID5));
1200     rdp->heads = 255;
1201     rdp->sectors = 63;
1202     rdp->cylinders = rdp->total_sectors / (255 * 63);
1203     rdp->rebuild_lba = 0;
1204     rdp->status |= AR_S_READY;
1205
1206     /* we are committed to this array, grap the subdisks */
1207     for (disk = 0; disk < config->total_disks; disk++) {
1208         if ((subdisk = devclass_get_device(ata_raid_sub_devclass,
1209                                            config->disks[disk]))) {
1210             struct ata_raid_subdisk *ars = device_get_softc(subdisk);
1211
1212             ars->raid[rdp->volume] = rdp;
1213             ars->disk_number[rdp->volume] = disk;
1214         }
1215     }
1216     ata_raid_attach(rdp, 1);
1217     ata_raid_arrays[array] = rdp;
1218     config->lun = array;
1219     return 0;
1220 }
1221
1222 static int
1223 ata_raid_delete(int array)
1224 {
1225     struct ar_softc *rdp;
1226     device_t subdisk;
1227     int disk;
1228
1229     if (!(rdp = ata_raid_arrays[array]))
1230         return ENXIO;
1231
1232     rdp->status &= ~AR_S_READY;
1233     if (rdp->disk)
1234         disk_destroy(rdp->disk);
1235
1236     for (disk = 0; disk < rdp->total_disks; disk++) {
1237         if ((rdp->disks[disk].flags & AR_DF_PRESENT) && rdp->disks[disk].dev) {
1238             if ((subdisk = devclass_get_device(ata_raid_sub_devclass,
1239                      device_get_unit(rdp->disks[disk].dev)))) {
1240                 struct ata_raid_subdisk *ars = device_get_softc(subdisk);
1241
1242                 if (ars->raid[rdp->volume] != rdp)           /* XXX SOS */
1243                     device_printf(subdisk, "DOH! this disk doesn't belong\n");
1244                 if (ars->disk_number[rdp->volume] != disk)   /* XXX SOS */
1245                     device_printf(subdisk, "DOH! this disk number is wrong\n");
1246                 ars->raid[rdp->volume] = NULL;
1247                 ars->disk_number[rdp->volume] = -1;
1248             }
1249             rdp->disks[disk].flags = 0;
1250         }
1251     }
1252     ata_raid_wipe_metadata(rdp);
1253     ata_raid_arrays[array] = NULL;
1254     free(rdp, M_AR);
1255     return 0;
1256 }
1257
1258 static int
1259 ata_raid_addspare(struct ata_ioc_raid_config *config)
1260 {
1261     struct ar_softc *rdp;
1262     device_t subdisk;
1263     int disk;
1264
1265     if (!(rdp = ata_raid_arrays[config->lun]))
1266         return ENXIO;
1267     if (!(rdp->status & AR_S_DEGRADED) || !(rdp->status & AR_S_READY))
1268         return ENXIO;
1269     if (rdp->status & AR_S_REBUILDING)
1270         return EBUSY;
1271     switch (rdp->type) {
1272     case AR_T_RAID1:
1273     case AR_T_RAID01:
1274     case AR_T_RAID5:
1275         for (disk = 0; disk < rdp->total_disks; disk++ ) {
1276
1277             if (((rdp->disks[disk].flags & (AR_DF_PRESENT | AR_DF_ONLINE)) ==
1278                  (AR_DF_PRESENT | AR_DF_ONLINE)) && rdp->disks[disk].dev)
1279                 continue;
1280
1281             if ((subdisk = devclass_get_device(ata_raid_sub_devclass,
1282                                                config->disks[0] ))) {
1283                 struct ata_raid_subdisk *ars = device_get_softc(subdisk);
1284
1285                 if (ars->raid[rdp->volume])
1286                     return EBUSY;
1287
1288                 /* XXX SOS validate size etc etc */
1289                 ars->raid[rdp->volume] = rdp;
1290                 ars->disk_number[rdp->volume] = disk;
1291                 rdp->disks[disk].dev = device_get_parent(subdisk);
1292                 rdp->disks[disk].flags =
1293                     (AR_DF_PRESENT | AR_DF_ASSIGNED | AR_DF_SPARE);
1294
1295                 device_printf(rdp->disks[disk].dev,
1296                               "inserted into ar%d disk%d as spare\n",
1297                               rdp->lun, disk);
1298                 ata_raid_config_changed(rdp, 1);
1299                 return 0;
1300             }
1301         }
1302         return ENXIO;
1303
1304     default:
1305         return EPERM;
1306     }
1307 }
1308
1309 static int
1310 ata_raid_rebuild(int array)
1311 {
1312     struct ar_softc *rdp;
1313     int disk, count;
1314
1315     if (!(rdp = ata_raid_arrays[array]))
1316         return ENXIO;
1317     /* XXX SOS we should lock the rdp softc here */
1318     if (!(rdp->status & AR_S_DEGRADED) || !(rdp->status & AR_S_READY))
1319         return ENXIO;
1320     if (rdp->status & AR_S_REBUILDING)
1321         return EBUSY;
1322
1323     switch (rdp->type) {
1324     case AR_T_RAID1:
1325     case AR_T_RAID01:
1326     case AR_T_RAID5:
1327         for (count = 0, disk = 0; disk < rdp->total_disks; disk++ ) {
1328             if (((rdp->disks[disk].flags &
1329                   (AR_DF_PRESENT|AR_DF_ASSIGNED|AR_DF_ONLINE|AR_DF_SPARE)) ==
1330                  (AR_DF_PRESENT | AR_DF_ASSIGNED | AR_DF_SPARE)) &&
1331                 rdp->disks[disk].dev) {
1332                 count++;
1333             }
1334         }
1335
1336         if (count) {
1337             rdp->rebuild_lba = 0;
1338             rdp->status |= AR_S_REBUILDING;
1339             return 0;
1340         }
1341         return EIO;
1342
1343     default:
1344         return EPERM;
1345     }
1346 }
1347
1348 static int
1349 ata_raid_read_metadata(device_t subdisk)
1350 {
1351     devclass_t pci_devclass = devclass_find("pci");
1352     devclass_t devclass=device_get_devclass(GRANDPARENT(GRANDPARENT(subdisk)));
1353
1354     /* prioritize vendor native metadata layout if possible */
1355     if (devclass == pci_devclass) {
1356         switch (pci_get_vendor(GRANDPARENT(device_get_parent(subdisk)))) {
1357         case ATA_HIGHPOINT_ID:
1358             if (ata_raid_hptv3_read_meta(subdisk, ata_raid_arrays))
1359                 return 0;
1360             if (ata_raid_hptv2_read_meta(subdisk, ata_raid_arrays))
1361                 return 0;
1362             break;
1363
1364         case ATA_INTEL_ID:
1365             if (ata_raid_intel_read_meta(subdisk, ata_raid_arrays))
1366                 return 0;
1367             break;
1368
1369         case ATA_ITE_ID:
1370             if (ata_raid_ite_read_meta(subdisk, ata_raid_arrays))
1371                 return 0;
1372             break;
1373
1374         case ATA_JMICRON_ID:
1375             if (ata_raid_jmicron_read_meta(subdisk, ata_raid_arrays))
1376                 return 0;
1377             break;
1378
1379         case ATA_NVIDIA_ID:
1380             if (ata_raid_nvidia_read_meta(subdisk, ata_raid_arrays))
1381                 return 0;
1382             break;
1383
1384         case 0:         /* XXX SOS cover up for bug in our PCI code */
1385         case ATA_PROMISE_ID:
1386             if (ata_raid_promise_read_meta(subdisk, ata_raid_arrays, 0))
1387                 return 0;
1388             break;
1389
1390         case ATA_ATI_ID:
1391         case ATA_SILICON_IMAGE_ID:
1392             if (ata_raid_sii_read_meta(subdisk, ata_raid_arrays))
1393                 return 0;
1394             break;
1395
1396         case ATA_SIS_ID:
1397             if (ata_raid_sis_read_meta(subdisk, ata_raid_arrays))
1398                 return 0;
1399             break;
1400
1401         case ATA_VIA_ID:
1402             if (ata_raid_via_read_meta(subdisk, ata_raid_arrays))
1403                 return 0;
1404             break;
1405         }
1406     }
1407
1408     /* handle controllers that have multiple layout possibilities */
1409     /* NOTE: the order of these are not insignificant */
1410
1411     /* Adaptec HostRAID */
1412     if (ata_raid_adaptec_read_meta(subdisk, ata_raid_arrays))
1413         return 0;
1414
1415     /* LSILogic v3 and v2 */
1416     if (ata_raid_lsiv3_read_meta(subdisk, ata_raid_arrays))
1417         return 0;
1418     if (ata_raid_lsiv2_read_meta(subdisk, ata_raid_arrays))
1419         return 0;
1420
1421     /* if none of the above matched, try FreeBSD native format */
1422     return ata_raid_promise_read_meta(subdisk, ata_raid_arrays, 1);
1423 }
1424
1425 static int
1426 ata_raid_write_metadata(struct ar_softc *rdp)
1427 {
1428     switch (rdp->format) {
1429     case AR_F_FREEBSD_RAID:
1430     case AR_F_PROMISE_RAID:
1431         return ata_raid_promise_write_meta(rdp);
1432
1433     case AR_F_HPTV3_RAID:
1434     case AR_F_HPTV2_RAID:
1435         /*
1436          * always write HPT v2 metadata, the v3 BIOS knows it as well.
1437          * this is handy since we cannot know what version BIOS is on there
1438          */
1439         return ata_raid_hptv2_write_meta(rdp);
1440
1441     case AR_F_INTEL_RAID:
1442         return ata_raid_intel_write_meta(rdp);
1443
1444     case AR_F_JMICRON_RAID:
1445         return ata_raid_jmicron_write_meta(rdp);
1446
1447     case AR_F_SIS_RAID:
1448         return ata_raid_sis_write_meta(rdp);
1449
1450     case AR_F_VIA_RAID:
1451         return ata_raid_via_write_meta(rdp);
1452 #if 0
1453     case AR_F_HPTV3_RAID:
1454         return ata_raid_hptv3_write_meta(rdp);
1455
1456     case AR_F_ADAPTEC_RAID:
1457         return ata_raid_adaptec_write_meta(rdp);
1458
1459     case AR_F_ITE_RAID:
1460         return ata_raid_ite_write_meta(rdp);
1461
1462     case AR_F_LSIV2_RAID:
1463         return ata_raid_lsiv2_write_meta(rdp);
1464
1465     case AR_F_LSIV3_RAID:
1466         return ata_raid_lsiv3_write_meta(rdp);
1467
1468     case AR_F_NVIDIA_RAID:
1469         return ata_raid_nvidia_write_meta(rdp);
1470
1471     case AR_F_SII_RAID:
1472         return ata_raid_sii_write_meta(rdp);
1473
1474 #endif
1475     default:
1476         kprintf("ar%d: writing of %s metadata is NOT supported yet\n",
1477                rdp->lun, ata_raid_format(rdp));
1478     }
1479     return -1;
1480 }
1481
1482 static int
1483 ata_raid_wipe_metadata(struct ar_softc *rdp)
1484 {
1485     int disk, error = 0;
1486     u_int64_t lba;
1487     u_int32_t size;
1488     u_int8_t *meta;
1489
1490     for (disk = 0; disk < rdp->total_disks; disk++) {
1491         if (rdp->disks[disk].dev) {
1492             switch (rdp->format) {
1493             case AR_F_ADAPTEC_RAID:
1494                 lba = ADP_LBA(rdp->disks[disk].dev);
1495                 size = sizeof(struct adaptec_raid_conf);
1496                 break;
1497
1498             case AR_F_HPTV2_RAID:
1499                 lba = HPTV2_LBA(rdp->disks[disk].dev);
1500                 size = sizeof(struct hptv2_raid_conf);
1501                 break;
1502
1503             case AR_F_HPTV3_RAID:
1504                 lba = HPTV3_LBA(rdp->disks[disk].dev);
1505                 size = sizeof(struct hptv3_raid_conf);
1506                 break;
1507
1508             case AR_F_INTEL_RAID:
1509                 lba = INTEL_LBA(rdp->disks[disk].dev);
1510                 size = 3 * 512;         /* XXX SOS */
1511                 break;
1512
1513             case AR_F_ITE_RAID:
1514                 lba = ITE_LBA(rdp->disks[disk].dev);
1515                 size = sizeof(struct ite_raid_conf);
1516                 break;
1517
1518             case AR_F_JMICRON_RAID:
1519                 lba = JMICRON_LBA(rdp->disks[disk].dev);
1520                 size = sizeof(struct jmicron_raid_conf);
1521                 break;
1522
1523             case AR_F_LSIV2_RAID:
1524                 lba = LSIV2_LBA(rdp->disks[disk].dev);
1525                 size = sizeof(struct lsiv2_raid_conf);
1526                 break;
1527
1528             case AR_F_LSIV3_RAID:
1529                 lba = LSIV3_LBA(rdp->disks[disk].dev);
1530                 size = sizeof(struct lsiv3_raid_conf);
1531                 break;
1532
1533             case AR_F_NVIDIA_RAID:
1534                 lba = NVIDIA_LBA(rdp->disks[disk].dev);
1535                 size = sizeof(struct nvidia_raid_conf);
1536                 break;
1537
1538             case AR_F_FREEBSD_RAID:
1539             case AR_F_PROMISE_RAID:
1540                 lba = PROMISE_LBA(rdp->disks[disk].dev);
1541                 size = sizeof(struct promise_raid_conf);
1542                 break;
1543
1544             case AR_F_SII_RAID:
1545                 lba = SII_LBA(rdp->disks[disk].dev);
1546                 size = sizeof(struct sii_raid_conf);
1547                 break;
1548
1549             case AR_F_SIS_RAID:
1550                 lba = SIS_LBA(rdp->disks[disk].dev);
1551                 size = sizeof(struct sis_raid_conf);
1552                 break;
1553
1554             case AR_F_VIA_RAID:
1555                 lba = VIA_LBA(rdp->disks[disk].dev);
1556                 size = sizeof(struct via_raid_conf);
1557                 break;
1558
1559             default:
1560                 kprintf("ar%d: wiping of %s metadata is NOT supported yet\n",
1561                        rdp->lun, ata_raid_format(rdp));
1562                 return ENXIO;
1563             }
1564             if (!(meta = malloc(size, M_AR, M_NOWAIT | M_ZERO)))
1565                 return ENOMEM;
1566             if (ata_raid_rw(rdp->disks[disk].dev, lba, meta, size,
1567                             ATA_R_WRITE | ATA_R_DIRECT)) {
1568                 device_printf(rdp->disks[disk].dev, "wipe metadata failed\n");
1569                 error = EIO;
1570             }
1571             free(meta, M_AR);
1572         }
1573     }
1574     return error;
1575 }
1576
1577 /* Adaptec HostRAID Metadata */
1578 static int
1579 ata_raid_adaptec_read_meta(device_t dev, struct ar_softc **raidp)
1580 {
1581     struct ata_raid_subdisk *ars = device_get_softc(dev);
1582     device_t parent = device_get_parent(dev);
1583     struct adaptec_raid_conf *meta;
1584     struct ar_softc *raid;
1585     int array, disk, retval = 0;
1586
1587     if (!(meta = (struct adaptec_raid_conf *)
1588           malloc(sizeof(struct adaptec_raid_conf), M_AR, M_NOWAIT | M_ZERO)))
1589         return ENOMEM;
1590
1591     if (ata_raid_rw(parent, ADP_LBA(parent),
1592                     meta, sizeof(struct adaptec_raid_conf), ATA_R_READ)) {
1593         if (testing || bootverbose)
1594             device_printf(parent, "Adaptec read metadata failed\n");
1595         goto adaptec_out;
1596     }
1597
1598     /* check if this is a Adaptec RAID struct */
1599     if (meta->magic_0 != ADP_MAGIC_0 || meta->magic_3 != ADP_MAGIC_3) {
1600         if (testing || bootverbose)
1601             device_printf(parent, "Adaptec check1 failed\n");
1602         goto adaptec_out;
1603     }
1604
1605     if (testing || bootverbose)
1606         ata_raid_adaptec_print_meta(meta);
1607
1608     /* now convert Adaptec metadata into our generic form */
1609     for (array = 0; array < MAX_ARRAYS; array++) {
1610         if (!raidp[array]) {
1611             raidp[array] =
1612                 (struct ar_softc *)malloc(sizeof(struct ar_softc), M_AR,
1613                                           M_NOWAIT | M_ZERO);
1614             if (!raidp[array]) {
1615                 device_printf(parent, "failed to allocate metadata storage\n");
1616                 goto adaptec_out;
1617             }
1618         }
1619         raid = raidp[array];
1620         if (raid->format && (raid->format != AR_F_ADAPTEC_RAID))
1621             continue;
1622
1623         if (raid->magic_0 && raid->magic_0 != meta->configs[0].magic_0)
1624             continue;
1625
1626         if (!meta->generation || be32toh(meta->generation) > raid->generation) {
1627             switch (meta->configs[0].type) {
1628             case ADP_T_RAID0:
1629                 raid->magic_0 = meta->configs[0].magic_0;
1630                 raid->type = AR_T_RAID0;
1631                 raid->interleave = 1 << (meta->configs[0].stripe_shift >> 1);
1632                 raid->width = be16toh(meta->configs[0].total_disks);
1633                 break;
1634
1635             case ADP_T_RAID1:
1636                 raid->magic_0 = meta->configs[0].magic_0;
1637                 raid->type = AR_T_RAID1;
1638                 raid->width = be16toh(meta->configs[0].total_disks) / 2;
1639                 break;
1640
1641             default:
1642                 device_printf(parent, "Adaptec unknown RAID type 0x%02x\n",
1643                               meta->configs[0].type);
1644                 free(raidp[array], M_AR);
1645                 raidp[array] = NULL;
1646                 goto adaptec_out;
1647             }
1648
1649             raid->format = AR_F_ADAPTEC_RAID;
1650             raid->generation = be32toh(meta->generation);
1651             raid->total_disks = be16toh(meta->configs[0].total_disks);
1652             raid->total_sectors = be32toh(meta->configs[0].sectors);
1653             raid->heads = 255;
1654             raid->sectors = 63;
1655             raid->cylinders = raid->total_sectors / (63 * 255);
1656             raid->offset_sectors = 0;
1657             raid->rebuild_lba = 0;
1658             raid->lun = array;
1659             strncpy(raid->name, meta->configs[0].name,
1660                     min(sizeof(raid->name), sizeof(meta->configs[0].name)));
1661
1662             /* clear out any old info */
1663             if (raid->generation) {
1664                 for (disk = 0; disk < raid->total_disks; disk++) {
1665                     raid->disks[disk].dev = NULL;
1666                     raid->disks[disk].flags = 0;
1667                 }
1668             }
1669         }
1670         if (be32toh(meta->generation) >= raid->generation) {
1671             struct ata_device *atadev = device_get_softc(parent);
1672             struct ata_channel *ch = device_get_softc(GRANDPARENT(dev));
1673             int disk_number = (ch->unit << !(ch->flags & ATA_NO_SLAVE)) +
1674                               ATA_DEV(atadev->unit);
1675
1676             raid->disks[disk_number].dev = parent;
1677             raid->disks[disk_number].sectors =
1678                 be32toh(meta->configs[disk_number + 1].sectors);
1679             raid->disks[disk_number].flags =
1680                 (AR_DF_ONLINE | AR_DF_PRESENT | AR_DF_ASSIGNED);
1681             ars->raid[raid->volume] = raid;
1682             ars->disk_number[raid->volume] = disk_number;
1683             retval = 1;
1684         }
1685         break;
1686     }
1687
1688 adaptec_out:
1689     free(meta, M_AR);
1690     return retval;
1691 }
1692
1693 /* Highpoint V2 RocketRAID Metadata */
1694 static int
1695 ata_raid_hptv2_read_meta(device_t dev, struct ar_softc **raidp)
1696 {
1697     struct ata_raid_subdisk *ars = device_get_softc(dev);
1698     device_t parent = device_get_parent(dev);
1699     struct hptv2_raid_conf *meta;
1700     struct ar_softc *raid = NULL;
1701     int array, disk_number = 0, retval = 0;
1702
1703     if (!(meta = (struct hptv2_raid_conf *)
1704           malloc(sizeof(struct hptv2_raid_conf), M_AR, M_NOWAIT | M_ZERO)))
1705         return ENOMEM;
1706
1707     if (ata_raid_rw(parent, HPTV2_LBA(parent),
1708                     meta, sizeof(struct hptv2_raid_conf), ATA_R_READ)) {
1709         if (testing || bootverbose)
1710             device_printf(parent, "HighPoint (v2) read metadata failed\n");
1711         goto hptv2_out;
1712     }
1713
1714     /* check if this is a HighPoint v2 RAID struct */
1715     if (meta->magic != HPTV2_MAGIC_OK && meta->magic != HPTV2_MAGIC_BAD) {
1716         if (testing || bootverbose)
1717             device_printf(parent, "HighPoint (v2) check1 failed\n");
1718         goto hptv2_out;
1719     }
1720
1721     /* is this disk defined, or an old leftover/spare ? */
1722     if (!meta->magic_0) {
1723         if (testing || bootverbose)
1724             device_printf(parent, "HighPoint (v2) check2 failed\n");
1725         goto hptv2_out;
1726     }
1727
1728     if (testing || bootverbose)
1729         ata_raid_hptv2_print_meta(meta);
1730
1731     /* now convert HighPoint (v2) metadata into our generic form */
1732     for (array = 0; array < MAX_ARRAYS; array++) {
1733         if (!raidp[array]) {
1734             raidp[array] =
1735                 (struct ar_softc *)malloc(sizeof(struct ar_softc), M_AR,
1736                                           M_NOWAIT | M_ZERO);
1737             if (!raidp[array]) {
1738                 device_printf(parent, "failed to allocate metadata storage\n");
1739                 goto hptv2_out;
1740             }
1741         }
1742         raid = raidp[array];
1743         if (raid->format && (raid->format != AR_F_HPTV2_RAID))
1744             continue;
1745
1746         switch (meta->type) {
1747         case HPTV2_T_RAID0:
1748             if ((meta->order & (HPTV2_O_RAID0|HPTV2_O_OK)) ==
1749                 (HPTV2_O_RAID0|HPTV2_O_OK))
1750                 goto highpoint_raid1;
1751             if (meta->order & (HPTV2_O_RAID0 | HPTV2_O_RAID1))
1752                 goto highpoint_raid01;
1753             if (raid->magic_0 && raid->magic_0 != meta->magic_0)
1754                 continue;
1755             raid->magic_0 = meta->magic_0;
1756             raid->type = AR_T_RAID0;
1757             raid->interleave = 1 << meta->stripe_shift;
1758             disk_number = meta->disk_number;
1759             if (!(meta->order & HPTV2_O_OK))
1760                 meta->magic = 0;        /* mark bad */
1761             break;
1762
1763         case HPTV2_T_RAID1:
1764 highpoint_raid1:
1765             if (raid->magic_0 && raid->magic_0 != meta->magic_0)
1766                 continue;
1767             raid->magic_0 = meta->magic_0;
1768             raid->type = AR_T_RAID1;
1769             disk_number = (meta->disk_number > 0);
1770             break;
1771
1772         case HPTV2_T_RAID01_RAID0:
1773 highpoint_raid01:
1774             if (meta->order & HPTV2_O_RAID0) {
1775                 if ((raid->magic_0 && raid->magic_0 != meta->magic_0) ||
1776                     (raid->magic_1 && raid->magic_1 != meta->magic_1))
1777                     continue;
1778                 raid->magic_0 = meta->magic_0;
1779                 raid->magic_1 = meta->magic_1;
1780                 raid->type = AR_T_RAID01;
1781                 raid->interleave = 1 << meta->stripe_shift;
1782                 disk_number = meta->disk_number;
1783             }
1784             else {
1785                 if (raid->magic_1 && raid->magic_1 != meta->magic_1)
1786                     continue;
1787                 raid->magic_1 = meta->magic_1;
1788                 raid->type = AR_T_RAID01;
1789                 raid->interleave = 1 << meta->stripe_shift;
1790                 disk_number = meta->disk_number + meta->array_width;
1791                 if (!(meta->order & HPTV2_O_RAID1))
1792                     meta->magic = 0;    /* mark bad */
1793             }
1794             break;
1795
1796         case HPTV2_T_SPAN:
1797             if (raid->magic_0 && raid->magic_0 != meta->magic_0)
1798                 continue;
1799             raid->magic_0 = meta->magic_0;
1800             raid->type = AR_T_SPAN;
1801             disk_number = meta->disk_number;
1802             break;
1803
1804         default:
1805             device_printf(parent, "Highpoint (v2) unknown RAID type 0x%02x\n",
1806                           meta->type);
1807             free(raidp[array], M_AR);
1808             raidp[array] = NULL;
1809             goto hptv2_out;
1810         }
1811
1812         raid->format |= AR_F_HPTV2_RAID;
1813         raid->disks[disk_number].dev = parent;
1814         raid->disks[disk_number].flags = (AR_DF_PRESENT | AR_DF_ASSIGNED);
1815         raid->lun = array;
1816         strncpy(raid->name, meta->name_1,
1817                 min(sizeof(raid->name), sizeof(meta->name_1)));
1818         if (meta->magic == HPTV2_MAGIC_OK) {
1819             raid->disks[disk_number].flags |= AR_DF_ONLINE;
1820             raid->width = meta->array_width;
1821             raid->total_sectors = meta->total_sectors;
1822             raid->heads = 255;
1823             raid->sectors = 63;
1824             raid->cylinders = raid->total_sectors / (63 * 255);
1825             raid->offset_sectors = HPTV2_LBA(parent) + 1;
1826             raid->rebuild_lba = meta->rebuild_lba;
1827             raid->disks[disk_number].sectors =
1828                 raid->total_sectors / raid->width;
1829         }
1830         else
1831             raid->disks[disk_number].flags &= ~AR_DF_ONLINE;
1832
1833         if ((raid->type & AR_T_RAID0) && (raid->total_disks < raid->width))
1834             raid->total_disks = raid->width;
1835         if (disk_number >= raid->total_disks)
1836             raid->total_disks = disk_number + 1;
1837         ars->raid[raid->volume] = raid;
1838         ars->disk_number[raid->volume] = disk_number;
1839         retval = 1;
1840         break;
1841     }
1842
1843 hptv2_out:
1844     free(meta, M_AR);
1845     return retval;
1846 }
1847
1848 static int
1849 ata_raid_hptv2_write_meta(struct ar_softc *rdp)
1850 {
1851     struct hptv2_raid_conf *meta;
1852     struct timeval timestamp;
1853     int disk, error = 0;
1854
1855     if (!(meta = (struct hptv2_raid_conf *)
1856           malloc(sizeof(struct hptv2_raid_conf), M_AR, M_NOWAIT | M_ZERO))) {
1857         kprintf("ar%d: failed to allocate metadata storage\n", rdp->lun);
1858         return ENOMEM;
1859     }
1860
1861     microtime(&timestamp);
1862     rdp->magic_0 = timestamp.tv_sec + 2;
1863     rdp->magic_1 = timestamp.tv_sec;
1864
1865     for (disk = 0; disk < rdp->total_disks; disk++) {
1866         if ((rdp->disks[disk].flags & (AR_DF_PRESENT | AR_DF_ONLINE)) ==
1867             (AR_DF_PRESENT | AR_DF_ONLINE))
1868             meta->magic = HPTV2_MAGIC_OK;
1869         if (rdp->disks[disk].flags & AR_DF_ASSIGNED) {
1870             meta->magic_0 = rdp->magic_0;
1871             if (strlen(rdp->name))
1872                 strncpy(meta->name_1, rdp->name, sizeof(meta->name_1));
1873             else
1874                 strcpy(meta->name_1, "FreeBSD");
1875         }
1876         meta->disk_number = disk;
1877
1878         switch (rdp->type) {
1879         case AR_T_RAID0:
1880             meta->type = HPTV2_T_RAID0;
1881             strcpy(meta->name_2, "RAID 0");
1882             if (rdp->disks[disk].flags & AR_DF_ONLINE)
1883                 meta->order = HPTV2_O_OK;
1884             break;
1885
1886         case AR_T_RAID1:
1887             meta->type = HPTV2_T_RAID0;
1888             strcpy(meta->name_2, "RAID 1");
1889             meta->disk_number = (disk < rdp->width) ? disk : disk + 5;
1890             meta->order = HPTV2_O_RAID0 | HPTV2_O_OK;
1891             break;
1892
1893         case AR_T_RAID01:
1894             meta->type = HPTV2_T_RAID01_RAID0;
1895             strcpy(meta->name_2, "RAID 0+1");
1896             if (rdp->disks[disk].flags & AR_DF_ONLINE) {
1897                 if (disk < rdp->width) {
1898                     meta->order = (HPTV2_O_RAID0 | HPTV2_O_RAID1);
1899                     meta->magic_0 = rdp->magic_0 - 1;
1900                 }
1901                 else {
1902                     meta->order = HPTV2_O_RAID1;
1903                     meta->disk_number -= rdp->width;
1904                 }
1905             }
1906             else
1907                 meta->magic_0 = rdp->magic_0 - 1;
1908             meta->magic_1 = rdp->magic_1;
1909             break;
1910
1911         case AR_T_SPAN:
1912             meta->type = HPTV2_T_SPAN;
1913             strcpy(meta->name_2, "SPAN");
1914             break;
1915         default:
1916             free(meta, M_AR);
1917             return ENODEV;
1918         }
1919
1920         meta->array_width = rdp->width;
1921         meta->stripe_shift = (rdp->width > 1) ? (ffs(rdp->interleave)-1) : 0;
1922         meta->total_sectors = rdp->total_sectors;
1923         meta->rebuild_lba = rdp->rebuild_lba;
1924         if (testing || bootverbose)
1925             ata_raid_hptv2_print_meta(meta);
1926         if (rdp->disks[disk].dev) {
1927             if (ata_raid_rw(rdp->disks[disk].dev,
1928                             HPTV2_LBA(rdp->disks[disk].dev), meta,
1929                             sizeof(struct promise_raid_conf),
1930                             ATA_R_WRITE | ATA_R_DIRECT)) {
1931                 device_printf(rdp->disks[disk].dev, "write metadata failed\n");
1932                 error = EIO;
1933             }
1934         }
1935     }
1936     free(meta, M_AR);
1937     return error;
1938 }
1939
1940 /* Highpoint V3 RocketRAID Metadata */
1941 static int
1942 ata_raid_hptv3_read_meta(device_t dev, struct ar_softc **raidp)
1943 {
1944     struct ata_raid_subdisk *ars = device_get_softc(dev);
1945     device_t parent = device_get_parent(dev);
1946     struct hptv3_raid_conf *meta;
1947     struct ar_softc *raid = NULL;
1948     int array, disk_number, retval = 0;
1949
1950     if (!(meta = (struct hptv3_raid_conf *)
1951           malloc(sizeof(struct hptv3_raid_conf), M_AR, M_NOWAIT | M_ZERO)))
1952         return ENOMEM;
1953
1954     if (ata_raid_rw(parent, HPTV3_LBA(parent),
1955                     meta, sizeof(struct hptv3_raid_conf), ATA_R_READ)) {
1956         if (testing || bootverbose)
1957             device_printf(parent, "HighPoint (v3) read metadata failed\n");
1958         goto hptv3_out;
1959     }
1960
1961     /* check if this is a HighPoint v3 RAID struct */
1962     if (meta->magic != HPTV3_MAGIC) {
1963         if (testing || bootverbose)
1964             device_printf(parent, "HighPoint (v3) check1 failed\n");
1965         goto hptv3_out;
1966     }
1967
1968     /* check if there are any config_entries */
1969     if (meta->config_entries < 1) {
1970         if (testing || bootverbose)
1971             device_printf(parent, "HighPoint (v3) check2 failed\n");
1972         goto hptv3_out;
1973     }
1974
1975     if (testing || bootverbose)
1976         ata_raid_hptv3_print_meta(meta);
1977
1978     /* now convert HighPoint (v3) metadata into our generic form */
1979     for (array = 0; array < MAX_ARRAYS; array++) {
1980         if (!raidp[array]) {
1981             raidp[array] =
1982                 (struct ar_softc *)malloc(sizeof(struct ar_softc), M_AR,
1983                                           M_NOWAIT | M_ZERO);
1984             if (!raidp[array]) {
1985                 device_printf(parent, "failed to allocate metadata storage\n");
1986                 goto hptv3_out;
1987             }
1988         }
1989         raid = raidp[array];
1990         if (raid->format && (raid->format != AR_F_HPTV3_RAID))
1991             continue;
1992
1993         if ((raid->format & AR_F_HPTV3_RAID) && raid->magic_0 != meta->magic_0)
1994             continue;
1995
1996         switch (meta->configs[0].type) {
1997         case HPTV3_T_RAID0:
1998             raid->type = AR_T_RAID0;
1999             raid->width = meta->configs[0].total_disks;
2000             disk_number = meta->configs[0].disk_number;
2001             break;
2002
2003         case HPTV3_T_RAID1:
2004             raid->type = AR_T_RAID1;
2005             raid->width = meta->configs[0].total_disks / 2;
2006             disk_number = meta->configs[0].disk_number;
2007             break;
2008
2009         case HPTV3_T_RAID5:
2010             raid->type = AR_T_RAID5;
2011             raid->width = meta->configs[0].total_disks;
2012             disk_number = meta->configs[0].disk_number;
2013             break;
2014
2015         case HPTV3_T_SPAN:
2016             raid->type = AR_T_SPAN;
2017             raid->width = meta->configs[0].total_disks;
2018             disk_number = meta->configs[0].disk_number;
2019             break;
2020
2021         default:
2022             device_printf(parent, "Highpoint (v3) unknown RAID type 0x%02x\n",
2023                           meta->configs[0].type);
2024             free(raidp[array], M_AR);
2025             raidp[array] = NULL;
2026             goto hptv3_out;
2027         }
2028         if (meta->config_entries == 2) {
2029             switch (meta->configs[1].type) {
2030             case HPTV3_T_RAID1:
2031                 if (raid->type == AR_T_RAID0) {
2032                     raid->type = AR_T_RAID01;
2033                     disk_number = meta->configs[1].disk_number +
2034                                   (meta->configs[0].disk_number << 1);
2035                     break;
2036                 }
2037             default:
2038                 device_printf(parent, "Highpoint (v3) unknown level 2 0x%02x\n",
2039                               meta->configs[1].type);
2040                 free(raidp[array], M_AR);
2041                 raidp[array] = NULL;
2042                 goto hptv3_out;
2043             }
2044         }
2045
2046         raid->magic_0 = meta->magic_0;
2047         raid->format = AR_F_HPTV3_RAID;
2048         raid->generation = meta->timestamp;
2049         raid->interleave = 1 << meta->configs[0].stripe_shift;
2050         raid->total_disks = meta->configs[0].total_disks +
2051             meta->configs[1].total_disks;
2052         raid->total_sectors = meta->configs[0].total_sectors +
2053             ((u_int64_t)meta->configs_high[0].total_sectors << 32);
2054         raid->heads = 255;
2055         raid->sectors = 63;
2056         raid->cylinders = raid->total_sectors / (63 * 255);
2057         raid->offset_sectors = 0;
2058         raid->rebuild_lba = meta->configs[0].rebuild_lba +
2059             ((u_int64_t)meta->configs_high[0].rebuild_lba << 32);
2060         raid->lun = array;
2061         strncpy(raid->name, meta->name,
2062                 min(sizeof(raid->name), sizeof(meta->name)));
2063         raid->disks[disk_number].sectors = raid->total_sectors /
2064             (raid->type == AR_T_RAID5 ? raid->width - 1 : raid->width);
2065         raid->disks[disk_number].dev = parent;
2066         raid->disks[disk_number].flags =
2067             (AR_DF_PRESENT | AR_DF_ASSIGNED | AR_DF_ONLINE);
2068         ars->raid[raid->volume] = raid;
2069         ars->disk_number[raid->volume] = disk_number;
2070         retval = 1;
2071         break;
2072     }
2073
2074 hptv3_out:
2075     free(meta, M_AR);
2076     return retval;
2077 }
2078
2079 /* Intel MatrixRAID Metadata */
2080 static int
2081 ata_raid_intel_read_meta(device_t dev, struct ar_softc **raidp)
2082 {
2083     struct ata_raid_subdisk *ars = device_get_softc(dev);
2084     device_t parent = device_get_parent(dev);
2085     struct intel_raid_conf *meta;
2086     struct intel_raid_mapping *map;
2087     struct ar_softc *raid = NULL;
2088     u_int32_t checksum, *ptr;
2089     int array, count, disk, volume = 1, retval = 0;
2090     char *tmp;
2091
2092     if (!(meta = (struct intel_raid_conf *)
2093           malloc(1536, M_AR, M_NOWAIT | M_ZERO)))
2094         return ENOMEM;
2095
2096     if (ata_raid_rw(parent, INTEL_LBA(parent), meta, 1024, ATA_R_READ)) {
2097         if (testing || bootverbose)
2098             device_printf(parent, "Intel read metadata failed\n");
2099         goto intel_out;
2100     }
2101     tmp = (char *)meta;
2102     bcopy(tmp, tmp+1024, 512);
2103     bcopy(tmp+512, tmp, 1024);
2104     bzero(tmp+1024, 512);
2105
2106     /* check if this is a Intel RAID struct */
2107     if (strncmp(meta->intel_id, INTEL_MAGIC, strlen(INTEL_MAGIC))) {
2108         if (testing || bootverbose)
2109             device_printf(parent, "Intel check1 failed\n");
2110         goto intel_out;
2111     }
2112
2113     for (checksum = 0, ptr = (u_int32_t *)meta, count = 0;
2114          count < (meta->config_size / sizeof(u_int32_t)); count++) {
2115         checksum += *ptr++;
2116     }
2117     checksum -= meta->checksum;
2118     if (checksum != meta->checksum) {
2119         if (testing || bootverbose)
2120             device_printf(parent, "Intel check2 failed\n");
2121         goto intel_out;
2122     }
2123
2124     if (testing || bootverbose)
2125         ata_raid_intel_print_meta(meta);
2126
2127     map = (struct intel_raid_mapping *)&meta->disk[meta->total_disks];
2128
2129     /* now convert Intel metadata into our generic form */
2130     for (array = 0; array < MAX_ARRAYS; array++) {
2131         if (!raidp[array]) {
2132             raidp[array] =
2133                 (struct ar_softc *)malloc(sizeof(struct ar_softc), M_AR,
2134                                           M_NOWAIT | M_ZERO);
2135             if (!raidp[array]) {
2136                 device_printf(parent, "failed to allocate metadata storage\n");
2137                 goto intel_out;
2138             }
2139         }
2140         raid = raidp[array];
2141         if (raid->format && (raid->format != AR_F_INTEL_RAID))
2142             continue;
2143
2144         if ((raid->format & AR_F_INTEL_RAID) &&
2145             (raid->magic_0 != meta->config_id))
2146             continue;
2147
2148         /*
2149          * update our knowledge about the array config based on generation
2150          * NOTE: there can be multiple volumes on a disk set
2151          */
2152         if (!meta->generation || meta->generation > raid->generation) {
2153             switch (map->type) {
2154             case INTEL_T_RAID0:
2155                 raid->type = AR_T_RAID0;
2156                 raid->width = map->total_disks;
2157                 break;
2158
2159             case INTEL_T_RAID1:
2160                 if (map->total_disks == 4)
2161                     raid->type = AR_T_RAID01;
2162                 else
2163                     raid->type = AR_T_RAID1;
2164                 raid->width = map->total_disks / 2;
2165                 break;
2166
2167             case INTEL_T_RAID5:
2168                 raid->type = AR_T_RAID5;
2169                 raid->width = map->total_disks;
2170                 break;
2171
2172             default:
2173                 device_printf(parent, "Intel unknown RAID type 0x%02x\n",
2174                               map->type);
2175                 free(raidp[array], M_AR);
2176                 raidp[array] = NULL;
2177                 goto intel_out;
2178             }
2179
2180             switch (map->status) {
2181             case INTEL_S_READY:
2182                 raid->status = AR_S_READY;
2183                 break;
2184             case INTEL_S_DEGRADED:
2185                 raid->status |= AR_S_DEGRADED;
2186                 break;
2187             case INTEL_S_DISABLED:
2188             case INTEL_S_FAILURE:
2189                 raid->status = 0;
2190             }
2191
2192             raid->magic_0 = meta->config_id;
2193             raid->format = AR_F_INTEL_RAID;
2194             raid->generation = meta->generation;
2195             raid->interleave = map->stripe_sectors;
2196             raid->total_disks = map->total_disks;
2197             raid->total_sectors = map->total_sectors;
2198             raid->heads = 255;
2199             raid->sectors = 63;
2200             raid->cylinders = raid->total_sectors / (63 * 255);
2201             raid->offset_sectors = map->offset;
2202             raid->rebuild_lba = 0;
2203             raid->lun = array;
2204             raid->volume = volume - 1;
2205             strncpy(raid->name, map->name,
2206                     min(sizeof(raid->name), sizeof(map->name)));
2207
2208             /* clear out any old info */
2209             for (disk = 0; disk < raid->total_disks; disk++) {
2210                 raid->disks[disk].dev = NULL;
2211                 bcopy(meta->disk[map->disk_idx[disk]].serial,
2212                       raid->disks[disk].serial,
2213                       sizeof(raid->disks[disk].serial));
2214                 raid->disks[disk].sectors =
2215                     meta->disk[map->disk_idx[disk]].sectors;
2216                 raid->disks[disk].flags = 0;
2217                 if (meta->disk[map->disk_idx[disk]].flags & INTEL_F_ONLINE)
2218                     raid->disks[disk].flags |= AR_DF_ONLINE;
2219                 if (meta->disk[map->disk_idx[disk]].flags & INTEL_F_ASSIGNED)
2220                     raid->disks[disk].flags |= AR_DF_ASSIGNED;
2221                 if (meta->disk[map->disk_idx[disk]].flags & INTEL_F_SPARE) {
2222                     raid->disks[disk].flags &= ~(AR_DF_ONLINE | AR_DF_ASSIGNED);
2223                     raid->disks[disk].flags |= AR_DF_SPARE;
2224                 }
2225                 if (meta->disk[map->disk_idx[disk]].flags & INTEL_F_DOWN)
2226                     raid->disks[disk].flags &= ~AR_DF_ONLINE;
2227             }
2228         }
2229         if (meta->generation >= raid->generation) {
2230             for (disk = 0; disk < raid->total_disks; disk++) {
2231                 struct ata_device *atadev = device_get_softc(parent);
2232
2233                 if (!strncmp(raid->disks[disk].serial, atadev->param.serial,
2234                     sizeof(raid->disks[disk].serial))) {
2235                     raid->disks[disk].dev = parent;
2236                     raid->disks[disk].flags |= (AR_DF_PRESENT | AR_DF_ONLINE);
2237                     ars->raid[raid->volume] = raid;
2238                     ars->disk_number[raid->volume] = disk;
2239                     retval = 1;
2240                 }
2241             }
2242         }
2243         else
2244             goto intel_out;
2245
2246         if (retval) {
2247             if (volume < meta->total_volumes) {
2248                 map = (struct intel_raid_mapping *)
2249                       &map->disk_idx[map->total_disks];
2250                 volume++;
2251                 retval = 0;
2252                 continue;
2253             }
2254             break;
2255         }
2256         else {
2257             free(raidp[array], M_AR);
2258             raidp[array] = NULL;
2259             if (volume == 2)
2260                 retval = 1;
2261         }
2262     }
2263
2264 intel_out:
2265     free(meta, M_AR);
2266     return retval;
2267 }
2268
2269 static int
2270 ata_raid_intel_write_meta(struct ar_softc *rdp)
2271 {
2272     struct intel_raid_conf *meta;
2273     struct intel_raid_mapping *map;
2274     struct timeval timestamp;
2275     u_int32_t checksum, *ptr;
2276     int count, disk, error = 0;
2277     char *tmp;
2278
2279     if (!(meta = (struct intel_raid_conf *)
2280           malloc(1536, M_AR, M_NOWAIT | M_ZERO))) {
2281         kprintf("ar%d: failed to allocate metadata storage\n", rdp->lun);
2282         return ENOMEM;
2283     }
2284
2285     rdp->generation++;
2286     microtime(&timestamp);
2287
2288     bcopy(INTEL_MAGIC, meta->intel_id, sizeof(meta->intel_id));
2289     bcopy(INTEL_VERSION_1100, meta->version, sizeof(meta->version));
2290     meta->config_id = timestamp.tv_sec;
2291     meta->generation = rdp->generation;
2292     meta->total_disks = rdp->total_disks;
2293     meta->total_volumes = 1;                                    /* XXX SOS */
2294     for (disk = 0; disk < rdp->total_disks; disk++) {
2295         if (rdp->disks[disk].dev) {
2296             struct ata_channel *ch =
2297                 device_get_softc(device_get_parent(rdp->disks[disk].dev));
2298             struct ata_device *atadev =
2299                 device_get_softc(rdp->disks[disk].dev);
2300
2301             bcopy(atadev->param.serial, meta->disk[disk].serial,
2302                   sizeof(rdp->disks[disk].serial));
2303             meta->disk[disk].sectors = rdp->disks[disk].sectors;
2304             meta->disk[disk].id = (ch->unit << 16) | ATA_DEV(atadev->unit);
2305         }
2306         else
2307             meta->disk[disk].sectors = rdp->total_sectors / rdp->width;
2308         meta->disk[disk].flags = 0;
2309         if (rdp->disks[disk].flags & AR_DF_SPARE)
2310             meta->disk[disk].flags  |= INTEL_F_SPARE;
2311         else {
2312             if (rdp->disks[disk].flags & AR_DF_ONLINE)
2313                 meta->disk[disk].flags |= INTEL_F_ONLINE;
2314             else
2315                 meta->disk[disk].flags |= INTEL_F_DOWN;
2316             if (rdp->disks[disk].flags & AR_DF_ASSIGNED)
2317                 meta->disk[disk].flags  |= INTEL_F_ASSIGNED;
2318         }
2319     }
2320     map = (struct intel_raid_mapping *)&meta->disk[meta->total_disks];
2321
2322     bcopy(rdp->name, map->name, sizeof(rdp->name));
2323     map->total_sectors = rdp->total_sectors;
2324     map->state = 12;                                            /* XXX SOS */
2325     map->offset = rdp->offset_sectors;
2326     map->stripe_count = rdp->total_sectors / (rdp->interleave*rdp->total_disks);
2327     map->stripe_sectors =  rdp->interleave;
2328     map->disk_sectors = rdp->total_sectors / rdp->width;
2329     map->status = INTEL_S_READY;                                /* XXX SOS */
2330     switch (rdp->type) {
2331     case AR_T_RAID0:
2332         map->type = INTEL_T_RAID0;
2333         break;
2334     case AR_T_RAID1:
2335         map->type = INTEL_T_RAID1;
2336         break;
2337     case AR_T_RAID01:
2338         map->type = INTEL_T_RAID1;
2339         break;
2340     case AR_T_RAID5:
2341         map->type = INTEL_T_RAID5;
2342         break;
2343     default:
2344         free(meta, M_AR);
2345         return ENODEV;
2346     }
2347     map->total_disks = rdp->total_disks;
2348     map->magic[0] = 0x02;
2349     map->magic[1] = 0xff;
2350     map->magic[2] = 0x01;
2351     for (disk = 0; disk < rdp->total_disks; disk++)
2352         map->disk_idx[disk] = disk;
2353
2354     meta->config_size = (char *)&map->disk_idx[disk] - (char *)meta;
2355     for (checksum = 0, ptr = (u_int32_t *)meta, count = 0;
2356          count < (meta->config_size / sizeof(u_int32_t)); count++) {
2357         checksum += *ptr++;
2358     }
2359     meta->checksum = checksum;
2360
2361     if (testing || bootverbose)
2362         ata_raid_intel_print_meta(meta);
2363
2364     tmp = (char *)meta;
2365     bcopy(tmp, tmp+1024, 512);
2366     bcopy(tmp+512, tmp, 1024);
2367     bzero(tmp+1024, 512);
2368
2369     for (disk = 0; disk < rdp->total_disks; disk++) {
2370         if (rdp->disks[disk].dev) {
2371             if (ata_raid_rw(rdp->disks[disk].dev,
2372                             INTEL_LBA(rdp->disks[disk].dev),
2373                             meta, 1024, ATA_R_WRITE | ATA_R_DIRECT)) {
2374                 device_printf(rdp->disks[disk].dev, "write metadata failed\n");
2375                 error = EIO;
2376             }
2377         }
2378     }
2379     free(meta, M_AR);
2380     return error;
2381 }
2382
2383
2384 /* Integrated Technology Express Metadata */
2385 static int
2386 ata_raid_ite_read_meta(device_t dev, struct ar_softc **raidp)
2387 {
2388     struct ata_raid_subdisk *ars = device_get_softc(dev);
2389     device_t parent = device_get_parent(dev);
2390     struct ite_raid_conf *meta;
2391     struct ar_softc *raid = NULL;
2392     int array, disk_number, count, retval = 0;
2393     u_int16_t *ptr;
2394
2395     if (!(meta = (struct ite_raid_conf *)
2396           malloc(sizeof(struct ite_raid_conf), M_AR, M_NOWAIT | M_ZERO)))
2397         return ENOMEM;
2398
2399     if (ata_raid_rw(parent, ITE_LBA(parent),
2400                     meta, sizeof(struct ite_raid_conf), ATA_R_READ)) {
2401         if (testing || bootverbose)
2402             device_printf(parent, "ITE read metadata failed\n");
2403         goto ite_out;
2404     }
2405
2406     /* check if this is a ITE RAID struct */
2407     for (ptr = (u_int16_t *)meta->ite_id, count = 0;
2408          count < sizeof(meta->ite_id)/sizeof(uint16_t); count++)
2409         ptr[count] = be16toh(ptr[count]);
2410
2411     if (strncmp(meta->ite_id, ITE_MAGIC, strlen(ITE_MAGIC))) {
2412         if (testing || bootverbose)
2413             device_printf(parent, "ITE check1 failed\n");
2414         goto ite_out;
2415     }
2416
2417     if (testing || bootverbose)
2418         ata_raid_ite_print_meta(meta);
2419
2420     /* now convert ITE metadata into our generic form */
2421     for (array = 0; array < MAX_ARRAYS; array++) {
2422         if ((raid = raidp[array])) {
2423             if (raid->format != AR_F_ITE_RAID)
2424                 continue;
2425             if (raid->magic_0 != *((u_int64_t *)meta->timestamp_0))
2426                 continue;
2427         }
2428
2429         /* if we dont have a disks timestamp the RAID is invalidated */
2430         if (*((u_int64_t *)meta->timestamp_1) == 0)
2431             goto ite_out;
2432
2433         if (!raid) {
2434             raidp[array] = (struct ar_softc *)malloc(sizeof(struct ar_softc),
2435                                                      M_AR, M_NOWAIT | M_ZERO);
2436             if (!(raid = raidp[array])) {
2437                 device_printf(parent, "failed to allocate metadata storage\n");
2438                 goto ite_out;
2439             }
2440         }
2441
2442         switch (meta->type) {
2443         case ITE_T_RAID0:
2444             raid->type = AR_T_RAID0;
2445             raid->width = meta->array_width;
2446             raid->total_disks = meta->array_width;
2447             disk_number = meta->disk_number;
2448             break;
2449
2450         case ITE_T_RAID1:
2451             raid->type = AR_T_RAID1;
2452             raid->width = 1;
2453             raid->total_disks = 2;
2454             disk_number = meta->disk_number;
2455             break;
2456
2457         case ITE_T_RAID01:
2458             raid->type = AR_T_RAID01;
2459             raid->width = meta->array_width;
2460             raid->total_disks = 4;
2461             disk_number = ((meta->disk_number & 0x02) >> 1) |
2462                           ((meta->disk_number & 0x01) << 1);
2463             break;
2464
2465         case ITE_T_SPAN:
2466             raid->type = AR_T_SPAN;
2467             raid->width = 1;
2468             raid->total_disks = meta->array_width;
2469             disk_number = meta->disk_number;
2470             break;
2471
2472         default:
2473             device_printf(parent, "ITE unknown RAID type 0x%02x\n", meta->type);
2474             free(raidp[array], M_AR);
2475             raidp[array] = NULL;
2476             goto ite_out;
2477         }
2478
2479         raid->magic_0 = *((u_int64_t *)meta->timestamp_0);
2480         raid->format = AR_F_ITE_RAID;
2481         raid->generation = 0;
2482         raid->interleave = meta->stripe_sectors;
2483         raid->total_sectors = meta->total_sectors;
2484         raid->heads = 255;
2485         raid->sectors = 63;
2486         raid->cylinders = raid->total_sectors / (63 * 255);
2487         raid->offset_sectors = 0;
2488         raid->rebuild_lba = 0;
2489         raid->lun = array;
2490
2491         raid->disks[disk_number].dev = parent;
2492         raid->disks[disk_number].sectors = raid->total_sectors / raid->width;
2493         raid->disks[disk_number].flags =
2494             (AR_DF_PRESENT | AR_DF_ASSIGNED | AR_DF_ONLINE);
2495         ars->raid[raid->volume] = raid;
2496         ars->disk_number[raid->volume] = disk_number;
2497         retval = 1;
2498         break;
2499     }
2500 ite_out:
2501     free(meta, M_AR);
2502     return retval;
2503 }
2504
2505 /* JMicron Technology Corp Metadata */
2506 static int
2507 ata_raid_jmicron_read_meta(device_t dev, struct ar_softc **raidp)
2508 {
2509     struct ata_raid_subdisk *ars = device_get_softc(dev);
2510     device_t parent = device_get_parent(dev);
2511     struct jmicron_raid_conf *meta;
2512     struct ar_softc *raid = NULL;
2513     u_int16_t checksum, *ptr;
2514     u_int64_t disk_size;
2515     int count, array, disk, total_disks, retval = 0;
2516
2517     if (!(meta = (struct jmicron_raid_conf *)
2518           malloc(sizeof(struct jmicron_raid_conf), M_AR, M_NOWAIT | M_ZERO)))
2519         return ENOMEM;
2520
2521     if (ata_raid_rw(parent, JMICRON_LBA(parent),
2522                     meta, sizeof(struct jmicron_raid_conf), ATA_R_READ)) {
2523         if (testing || bootverbose)
2524             device_printf(parent,
2525                           "JMicron read metadata failed\n");
2526     }
2527
2528     /* check for JMicron signature */
2529     if (strncmp(meta->signature, JMICRON_MAGIC, 2)) {
2530         if (testing || bootverbose)
2531             device_printf(parent, "JMicron check1 failed\n");
2532         goto jmicron_out;
2533     }
2534
2535     /* calculate checksum and compare for valid */
2536     for (checksum = 0, ptr = (u_int16_t *)meta, count = 0; count < 64; count++)
2537         checksum += *ptr++;
2538     if (checksum) {
2539         if (testing || bootverbose)
2540             device_printf(parent, "JMicron check2 failed\n");
2541         goto jmicron_out;
2542     }
2543
2544     if (testing || bootverbose)
2545         ata_raid_jmicron_print_meta(meta);
2546
2547     /* now convert JMicron meta into our generic form */
2548     for (array = 0; array < MAX_ARRAYS; array++) {
2549 jmicron_next:
2550         if (!raidp[array]) {
2551             raidp[array] =
2552                 (struct ar_softc *)malloc(sizeof(struct ar_softc), M_AR,
2553                                           M_NOWAIT | M_ZERO);
2554             if (!raidp[array]) {
2555                 device_printf(parent, "failed to allocate metadata storage\n");
2556                 goto jmicron_out;
2557             }
2558         }
2559         raid = raidp[array];
2560         if (raid->format && (raid->format != AR_F_JMICRON_RAID))
2561             continue;
2562
2563         for (total_disks = 0, disk = 0; disk < JM_MAX_DISKS; disk++) {
2564             if (meta->disks[disk]) {
2565                 if (raid->format == AR_F_JMICRON_RAID) {
2566                     if (bcmp(&meta->disks[disk],
2567                         raid->disks[disk].serial, sizeof(u_int32_t))) {
2568                         array++;
2569                         goto jmicron_next;
2570                     }
2571                 }
2572                 else
2573                     bcopy(&meta->disks[disk],
2574                           raid->disks[disk].serial, sizeof(u_int32_t));
2575                 total_disks++;
2576             }
2577         }
2578         /* handle spares XXX SOS */
2579
2580         switch (meta->type) {
2581         case JM_T_RAID0:
2582             raid->type = AR_T_RAID0;
2583             raid->width = total_disks;
2584             break;
2585
2586         case JM_T_RAID1:
2587             raid->type = AR_T_RAID1;
2588             raid->width = 1;
2589             break;
2590
2591         case JM_T_RAID01:
2592             raid->type = AR_T_RAID01;
2593             raid->width = total_disks / 2;
2594             break;
2595
2596         case JM_T_RAID5:
2597             raid->type = AR_T_RAID5;
2598             raid->width = total_disks;
2599             break;
2600
2601         case JM_T_JBOD:
2602             raid->type = AR_T_SPAN;
2603             raid->width = 1;
2604             break;
2605
2606         default:
2607             device_printf(parent,
2608                           "JMicron unknown RAID type 0x%02x\n", meta->type);
2609             free(raidp[array], M_AR);
2610             raidp[array] = NULL;
2611             goto jmicron_out;
2612         }
2613         disk_size = (meta->disk_sectors_high << 16) + meta->disk_sectors_low;
2614         raid->format = AR_F_JMICRON_RAID;
2615         strncpy(raid->name, meta->name, sizeof(meta->name));
2616         raid->generation = 0;
2617         raid->interleave = 2 << meta->stripe_shift;
2618         raid->total_disks = total_disks;
2619         raid->total_sectors = disk_size * (raid->width-(raid->type==AR_RAID5));
2620         raid->heads = 255;
2621         raid->sectors = 63;
2622         raid->cylinders = raid->total_sectors / (63 * 255);
2623         raid->offset_sectors = meta->offset * 16;
2624         raid->rebuild_lba = 0;
2625         raid->lun = array;
2626
2627         for (disk = 0; disk < raid->total_disks; disk++) {
2628             if (meta->disks[disk] == meta->disk_id) {
2629                 raid->disks[disk].dev = parent;
2630                 raid->disks[disk].sectors = disk_size;
2631                 raid->disks[disk].flags =
2632                     (AR_DF_ONLINE | AR_DF_PRESENT | AR_DF_ASSIGNED);
2633                 ars->raid[raid->volume] = raid;
2634                 ars->disk_number[raid->volume] = disk;
2635                 retval = 1;
2636                 break;
2637             }
2638         }
2639         break;
2640     }
2641 jmicron_out:
2642     free(meta, M_AR);
2643     return retval;
2644 }
2645
2646 static int
2647 ata_raid_jmicron_write_meta(struct ar_softc *rdp)
2648 {
2649     struct jmicron_raid_conf *meta;
2650     u_int64_t disk_sectors;
2651     int disk, error = 0;
2652
2653     if (!(meta = (struct jmicron_raid_conf *)
2654           malloc(sizeof(struct jmicron_raid_conf), M_AR, M_NOWAIT | M_ZERO))) {
2655         kprintf("ar%d: failed to allocate metadata storage\n", rdp->lun);
2656         return ENOMEM;
2657     }
2658
2659     rdp->generation++;
2660     switch (rdp->type) {
2661     case AR_T_JBOD:
2662         meta->type = JM_T_JBOD;
2663         break;
2664
2665     case AR_T_RAID0:
2666         meta->type = JM_T_RAID0;
2667         break;
2668
2669     case AR_T_RAID1:
2670         meta->type = JM_T_RAID1;
2671         break;
2672
2673     case AR_T_RAID5:
2674         meta->type = JM_T_RAID5;
2675         break;
2676
2677     case AR_T_RAID01:
2678         meta->type = JM_T_RAID01;
2679         break;
2680
2681     default:
2682         free(meta, M_AR);
2683         return ENODEV;
2684     }
2685     bcopy(JMICRON_MAGIC, meta->signature, sizeof(JMICRON_MAGIC));
2686     meta->version = JMICRON_VERSION;
2687     meta->offset = rdp->offset_sectors / 16;
2688     disk_sectors = rdp->total_sectors / (rdp->width - (rdp->type == AR_RAID5));
2689     meta->disk_sectors_low = disk_sectors & 0xffff;
2690     meta->disk_sectors_high = disk_sectors >> 16;
2691     strncpy(meta->name, rdp->name, sizeof(meta->name));
2692     meta->stripe_shift = ffs(rdp->interleave) - 2;
2693
2694     for (disk = 0; disk < rdp->total_disks; disk++) {
2695         if (rdp->disks[disk].serial[0])
2696             bcopy(rdp->disks[disk].serial,&meta->disks[disk],sizeof(u_int32_t));
2697         else
2698             meta->disks[disk] = (u_int32_t)(uintptr_t)rdp->disks[disk].dev;
2699     }
2700
2701     for (disk = 0; disk < rdp->total_disks; disk++) {
2702         if (rdp->disks[disk].dev) {
2703             u_int16_t checksum = 0, *ptr;
2704             int count;
2705
2706             meta->disk_id = meta->disks[disk];
2707             meta->checksum = 0;
2708             for (ptr = (u_int16_t *)meta, count = 0; count < 64; count++)
2709                 checksum += *ptr++;
2710             meta->checksum -= checksum;
2711
2712             if (testing || bootverbose)
2713                 ata_raid_jmicron_print_meta(meta);
2714
2715             if (ata_raid_rw(rdp->disks[disk].dev,
2716                             JMICRON_LBA(rdp->disks[disk].dev),
2717                             meta, sizeof(struct jmicron_raid_conf),
2718                             ATA_R_WRITE | ATA_R_DIRECT)) {
2719                 device_printf(rdp->disks[disk].dev, "write metadata failed\n");
2720                 error = EIO;
2721             }
2722         }
2723     }
2724     /* handle spares XXX SOS */
2725
2726     free(meta, M_AR);
2727     return error;
2728 }
2729
2730 /* LSILogic V2 MegaRAID Metadata */
2731 static int
2732 ata_raid_lsiv2_read_meta(device_t dev, struct ar_softc **raidp)
2733 {
2734     struct ata_raid_subdisk *ars = device_get_softc(dev);
2735     device_t parent = device_get_parent(dev);
2736     struct lsiv2_raid_conf *meta;
2737     struct ar_softc *raid = NULL;
2738     int array, retval = 0;
2739
2740     if (!(meta = (struct lsiv2_raid_conf *)
2741           malloc(sizeof(struct lsiv2_raid_conf), M_AR, M_NOWAIT | M_ZERO)))
2742         return ENOMEM;
2743
2744     if (ata_raid_rw(parent, LSIV2_LBA(parent),
2745                     meta, sizeof(struct lsiv2_raid_conf), ATA_R_READ)) {
2746         if (testing || bootverbose)
2747             device_printf(parent, "LSI (v2) read metadata failed\n");
2748         goto lsiv2_out;
2749     }
2750
2751     /* check if this is a LSI RAID struct */
2752     if (strncmp(meta->lsi_id, LSIV2_MAGIC, strlen(LSIV2_MAGIC))) {
2753         if (testing || bootverbose)
2754             device_printf(parent, "LSI (v2) check1 failed\n");
2755         goto lsiv2_out;
2756     }
2757
2758     if (testing || bootverbose)
2759         ata_raid_lsiv2_print_meta(meta);
2760
2761     /* now convert LSI (v2) config meta into our generic form */
2762     for (array = 0; array < MAX_ARRAYS; array++) {
2763         int raid_entry, conf_entry;
2764
2765         if (!raidp[array + meta->raid_number]) {
2766             raidp[array + meta->raid_number] =
2767                 (struct ar_softc *)malloc(sizeof(struct ar_softc), M_AR,
2768                                           M_NOWAIT | M_ZERO);
2769             if (!raidp[array + meta->raid_number]) {
2770                 device_printf(parent, "failed to allocate metadata storage\n");
2771                 goto lsiv2_out;
2772             }
2773         }
2774         raid = raidp[array + meta->raid_number];
2775         if (raid->format && (raid->format != AR_F_LSIV2_RAID))
2776             continue;
2777
2778         if (raid->magic_0 &&
2779             ((raid->magic_0 != meta->timestamp) ||
2780              (raid->magic_1 != meta->raid_number)))
2781             continue;
2782
2783         array += meta->raid_number;
2784
2785         raid_entry = meta->raid_number;
2786         conf_entry = (meta->configs[raid_entry].raid.config_offset >> 4) +
2787                      meta->disk_number - 1;
2788
2789         switch (meta->configs[raid_entry].raid.type) {
2790         case LSIV2_T_RAID0:
2791             raid->magic_0 = meta->timestamp;
2792             raid->magic_1 = meta->raid_number;
2793             raid->type = AR_T_RAID0;
2794             raid->interleave = meta->configs[raid_entry].raid.stripe_sectors;
2795             raid->width = meta->configs[raid_entry].raid.array_width;
2796             break;
2797
2798         case LSIV2_T_RAID1:
2799             raid->magic_0 = meta->timestamp;
2800             raid->magic_1 = meta->raid_number;
2801             raid->type = AR_T_RAID1;
2802             raid->width = meta->configs[raid_entry].raid.array_width;
2803             break;
2804
2805         case LSIV2_T_RAID0 | LSIV2_T_RAID1:
2806             raid->magic_0 = meta->timestamp;
2807             raid->magic_1 = meta->raid_number;
2808             raid->type = AR_T_RAID01;
2809             raid->interleave = meta->configs[raid_entry].raid.stripe_sectors;
2810             raid->width = meta->configs[raid_entry].raid.array_width;
2811             break;
2812
2813         default:
2814             device_printf(parent, "LSI v2 unknown RAID type 0x%02x\n",
2815                           meta->configs[raid_entry].raid.type);
2816             free(raidp[array], M_AR);
2817             raidp[array] = NULL;
2818             goto lsiv2_out;
2819         }
2820
2821         raid->format = AR_F_LSIV2_RAID;
2822         raid->generation = 0;
2823         raid->total_disks = meta->configs[raid_entry].raid.disk_count;
2824         raid->total_sectors = meta->configs[raid_entry].raid.total_sectors;
2825         raid->heads = 255;
2826         raid->sectors = 63;
2827         raid->cylinders = raid->total_sectors / (63 * 255);
2828         raid->offset_sectors = 0;
2829         raid->rebuild_lba = 0;
2830         raid->lun = array;
2831
2832         if (meta->configs[conf_entry].disk.device != LSIV2_D_NONE) {
2833             raid->disks[meta->disk_number].dev = parent;
2834             raid->disks[meta->disk_number].sectors =
2835                 meta->configs[conf_entry].disk.disk_sectors;
2836             raid->disks[meta->disk_number].flags =
2837                 (AR_DF_ONLINE | AR_DF_PRESENT | AR_DF_ASSIGNED);
2838             ars->raid[raid->volume] = raid;
2839             ars->disk_number[raid->volume] = meta->disk_number;
2840             retval = 1;
2841         }
2842         else
2843             raid->disks[meta->disk_number].flags &= ~AR_DF_ONLINE;
2844
2845         break;
2846     }
2847
2848 lsiv2_out:
2849     free(meta, M_AR);
2850     return retval;
2851 }
2852
2853 /* LSILogic V3 MegaRAID Metadata */
2854 static int
2855 ata_raid_lsiv3_read_meta(device_t dev, struct ar_softc **raidp)
2856 {
2857     struct ata_raid_subdisk *ars = device_get_softc(dev);
2858     device_t parent = device_get_parent(dev);
2859     struct lsiv3_raid_conf *meta;
2860     struct ar_softc *raid = NULL;
2861     u_int8_t checksum, *ptr;
2862     int array, entry, count, disk_number, retval = 0;
2863
2864     if (!(meta = (struct lsiv3_raid_conf *)
2865           malloc(sizeof(struct lsiv3_raid_conf), M_AR, M_NOWAIT | M_ZERO)))
2866         return ENOMEM;
2867
2868     if (ata_raid_rw(parent, LSIV3_LBA(parent),
2869                     meta, sizeof(struct lsiv3_raid_conf), ATA_R_READ)) {
2870         if (testing || bootverbose)
2871             device_printf(parent, "LSI (v3) read metadata failed\n");
2872         goto lsiv3_out;
2873     }
2874
2875     /* check if this is a LSI RAID struct */
2876     if (strncmp(meta->lsi_id, LSIV3_MAGIC, strlen(LSIV3_MAGIC))) {
2877         if (testing || bootverbose)
2878             device_printf(parent, "LSI (v3) check1 failed\n");
2879         goto lsiv3_out;
2880     }
2881
2882     /* check if the checksum is OK */
2883     for (checksum = 0, ptr = meta->lsi_id, count = 0; count < 512; count++)
2884         checksum += *ptr++;
2885     if (checksum) {
2886         if (testing || bootverbose)
2887             device_printf(parent, "LSI (v3) check2 failed\n");
2888         goto lsiv3_out;
2889     }
2890
2891     if (testing || bootverbose)
2892         ata_raid_lsiv3_print_meta(meta);
2893
2894     /* now convert LSI (v3) config meta into our generic form */
2895     for (array = 0, entry = 0; array < MAX_ARRAYS && entry < 8;) {
2896         if (!raidp[array]) {
2897             raidp[array] =
2898                 (struct ar_softc *)malloc(sizeof(struct ar_softc), M_AR,
2899                                           M_NOWAIT | M_ZERO);
2900             if (!raidp[array]) {
2901                 device_printf(parent, "failed to allocate metadata storage\n");
2902                 goto lsiv3_out;
2903             }
2904         }
2905         raid = raidp[array];
2906         if (raid->format && (raid->format != AR_F_LSIV3_RAID)) {
2907             array++;
2908             continue;
2909         }
2910
2911         if ((raid->format == AR_F_LSIV3_RAID) &&
2912             (raid->magic_0 != meta->timestamp)) {
2913             array++;
2914             continue;
2915         }
2916
2917         switch (meta->raid[entry].total_disks) {
2918         case 0:
2919             entry++;
2920             continue;
2921         case 1:
2922             if (meta->raid[entry].device == meta->device) {
2923                 disk_number = 0;
2924                 break;
2925             }
2926             if (raid->format)
2927                 array++;
2928             entry++;
2929             continue;
2930         case 2:
2931             disk_number = (meta->device & (LSIV3_D_DEVICE|LSIV3_D_CHANNEL))?1:0;
2932             break;
2933         default:
2934             device_printf(parent, "lsiv3 > 2 disk support untested!!\n");
2935             disk_number = (meta->device & LSIV3_D_DEVICE ? 1 : 0) +
2936                           (meta->device & LSIV3_D_CHANNEL ? 2 : 0);
2937             break;
2938         }
2939
2940         switch (meta->raid[entry].type) {
2941         case LSIV3_T_RAID0:
2942             raid->type = AR_T_RAID0;
2943             raid->width = meta->raid[entry].total_disks;
2944             break;
2945
2946         case LSIV3_T_RAID1:
2947             raid->type = AR_T_RAID1;
2948             raid->width = meta->raid[entry].array_width;
2949             break;
2950
2951         default:
2952             device_printf(parent, "LSI v3 unknown RAID type 0x%02x\n",
2953                           meta->raid[entry].type);
2954             free(raidp[array], M_AR);
2955             raidp[array] = NULL;
2956             entry++;
2957             continue;
2958         }
2959
2960         raid->magic_0 = meta->timestamp;
2961         raid->format = AR_F_LSIV3_RAID;
2962         raid->generation = 0;
2963         raid->interleave = meta->raid[entry].stripe_pages * 8;
2964         raid->total_disks = meta->raid[entry].total_disks;
2965         raid->total_sectors = raid->width * meta->raid[entry].sectors;
2966         raid->heads = 255;
2967         raid->sectors = 63;
2968         raid->cylinders = raid->total_sectors / (63 * 255);
2969         raid->offset_sectors = meta->raid[entry].offset;
2970         raid->rebuild_lba = 0;
2971         raid->lun = array;
2972
2973         raid->disks[disk_number].dev = parent;
2974         raid->disks[disk_number].sectors = raid->total_sectors / raid->width;
2975         raid->disks[disk_number].flags =
2976             (AR_DF_PRESENT | AR_DF_ASSIGNED | AR_DF_ONLINE);
2977         ars->raid[raid->volume] = raid;
2978         ars->disk_number[raid->volume] = disk_number;
2979         retval = 1;
2980         entry++;
2981         array++;
2982     }
2983
2984 lsiv3_out:
2985     free(meta, M_AR);
2986     return retval;
2987 }
2988
2989 /* nVidia MediaShield Metadata */
2990 static int
2991 ata_raid_nvidia_read_meta(device_t dev, struct ar_softc **raidp)
2992 {
2993     struct ata_raid_subdisk *ars = device_get_softc(dev);
2994     device_t parent = device_get_parent(dev);
2995     struct nvidia_raid_conf *meta;
2996     struct ar_softc *raid = NULL;
2997     u_int32_t checksum, *ptr;
2998     int array, count, retval = 0;
2999
3000     if (!(meta = (struct nvidia_raid_conf *)
3001           malloc(sizeof(struct nvidia_raid_conf), M_AR, M_NOWAIT | M_ZERO)))
3002         return ENOMEM;
3003
3004     if (ata_raid_rw(parent, NVIDIA_LBA(parent),
3005                     meta, sizeof(struct nvidia_raid_conf), ATA_R_READ)) {
3006         if (testing || bootverbose)
3007             device_printf(parent, "nVidia read metadata failed\n");
3008         goto nvidia_out;
3009     }
3010
3011     /* check if this is a nVidia RAID struct */
3012     if (strncmp(meta->nvidia_id, NV_MAGIC, strlen(NV_MAGIC))) {
3013         if (testing || bootverbose)
3014             device_printf(parent, "nVidia check1 failed\n");
3015         goto nvidia_out;
3016     }
3017
3018     /* check if the checksum is OK */
3019     for (checksum = 0, ptr = (u_int32_t*)meta, count = 0;
3020          count < meta->config_size; count++)
3021         checksum += *ptr++;
3022     if (checksum) {
3023         if (testing || bootverbose)
3024             device_printf(parent, "nVidia check2 failed\n");
3025         goto nvidia_out;
3026     }
3027
3028     if (testing || bootverbose)
3029         ata_raid_nvidia_print_meta(meta);
3030
3031     /* now convert nVidia meta into our generic form */
3032     for (array = 0; array < MAX_ARRAYS; array++) {
3033         if (!raidp[array]) {
3034             raidp[array] =
3035                 (struct ar_softc *)malloc(sizeof(struct ar_softc), M_AR,
3036                                           M_NOWAIT | M_ZERO);
3037             if (!raidp[array]) {
3038                 device_printf(parent, "failed to allocate metadata storage\n");
3039                 goto nvidia_out;
3040             }
3041         }
3042         raid = raidp[array];
3043         if (raid->format && (raid->format != AR_F_NVIDIA_RAID))
3044             continue;
3045
3046         if (raid->format == AR_F_NVIDIA_RAID &&
3047             ((raid->magic_0 != meta->magic_1) ||
3048              (raid->magic_1 != meta->magic_2))) {
3049             continue;
3050         }
3051
3052         switch (meta->type) {
3053         case NV_T_SPAN:
3054             raid->type = AR_T_SPAN;
3055             break;
3056
3057         case NV_T_RAID0:
3058             raid->type = AR_T_RAID0;
3059             break;
3060
3061         case NV_T_RAID1:
3062             raid->type = AR_T_RAID1;
3063             break;
3064
3065         case NV_T_RAID5:
3066             raid->type = AR_T_RAID5;
3067             break;
3068
3069         case NV_T_RAID01:
3070             raid->type = AR_T_RAID01;
3071             break;
3072
3073         default:
3074             device_printf(parent, "nVidia unknown RAID type 0x%02x\n",
3075                           meta->type);
3076             free(raidp[array], M_AR);
3077             raidp[array] = NULL;
3078             goto nvidia_out;
3079         }
3080         raid->magic_0 = meta->magic_1;
3081         raid->magic_1 = meta->magic_2;
3082         raid->format = AR_F_NVIDIA_RAID;
3083         raid->generation = 0;
3084         raid->interleave = meta->stripe_sectors;
3085         raid->width = meta->array_width;
3086         raid->total_disks = meta->total_disks;
3087         raid->total_sectors = meta->total_sectors;
3088         raid->heads = 255;
3089         raid->sectors = 63;
3090         raid->cylinders = raid->total_sectors / (63 * 255);
3091         raid->offset_sectors = 0;
3092         raid->rebuild_lba = meta->rebuild_lba;
3093         raid->lun = array;
3094         raid->status = AR_S_READY;
3095         if (meta->status & NV_S_DEGRADED)
3096             raid->status |= AR_S_DEGRADED;
3097
3098         raid->disks[meta->disk_number].dev = parent;
3099         raid->disks[meta->disk_number].sectors =
3100             raid->total_sectors / raid->width;
3101         raid->disks[meta->disk_number].flags =
3102             (AR_DF_PRESENT | AR_DF_ASSIGNED | AR_DF_ONLINE);
3103         ars->raid[raid->volume] = raid;
3104         ars->disk_number[raid->volume] = meta->disk_number;
3105         retval = 1;
3106         break;
3107     }
3108
3109 nvidia_out:
3110     free(meta, M_AR);
3111     return retval;
3112 }
3113
3114 /* Promise FastTrak Metadata */
3115 static int
3116 ata_raid_promise_read_meta(device_t dev, struct ar_softc **raidp, int native)
3117 {
3118     struct ata_raid_subdisk *ars = device_get_softc(dev);
3119     device_t parent = device_get_parent(dev);
3120     struct promise_raid_conf *meta;
3121     struct ar_softc *raid;
3122     u_int32_t checksum, *ptr;
3123     int array, count, disk, disksum = 0, retval = 0;
3124
3125     if (!(meta = (struct promise_raid_conf *)
3126           malloc(sizeof(struct promise_raid_conf), M_AR, M_NOWAIT | M_ZERO)))
3127         return ENOMEM;
3128
3129     if (ata_raid_rw(parent, PROMISE_LBA(parent),
3130                     meta, sizeof(struct promise_raid_conf), ATA_R_READ)) {
3131         if (testing || bootverbose)
3132             device_printf(parent, "%s read metadata failed\n",
3133                           native ? "FreeBSD" : "Promise");
3134         goto promise_out;
3135     }
3136
3137     /* check the signature */
3138     if (native) {
3139         if (strncmp(meta->promise_id, ATA_MAGIC, strlen(ATA_MAGIC))) {
3140             if (testing || bootverbose)
3141                 device_printf(parent, "FreeBSD check1 failed\n");
3142             goto promise_out;
3143         }
3144     }
3145     else {
3146         if (strncmp(meta->promise_id, PR_MAGIC, strlen(PR_MAGIC))) {
3147             if (testing || bootverbose)
3148                 device_printf(parent, "Promise check1 failed\n");
3149             goto promise_out;
3150         }
3151     }
3152
3153     /* check if the checksum is OK */
3154     for (checksum = 0, ptr = (u_int32_t *)meta, count = 0; count < 511; count++)
3155         checksum += *ptr++;
3156     if (checksum != *ptr) {
3157         if (testing || bootverbose)
3158             device_printf(parent, "%s check2 failed\n",
3159                           native ? "FreeBSD" : "Promise");
3160         goto promise_out;
3161     }
3162
3163     /* check on disk integrity status */
3164     if (meta->raid.integrity != PR_I_VALID) {
3165         if (testing || bootverbose)
3166             device_printf(parent, "%s check3 failed\n",
3167                           native ? "FreeBSD" : "Promise");
3168         goto promise_out;
3169     }
3170
3171     if (testing || bootverbose)
3172         ata_raid_promise_print_meta(meta);
3173
3174     /* now convert Promise metadata into our generic form */
3175     for (array = 0; array < MAX_ARRAYS; array++) {
3176         if (!raidp[array]) {
3177             raidp[array] =
3178                 (struct ar_softc *)malloc(sizeof(struct ar_softc), M_AR,
3179                                           M_NOWAIT | M_ZERO);
3180             if (!raidp[array]) {
3181                 device_printf(parent, "failed to allocate metadata storage\n");
3182                 goto promise_out;
3183             }
3184         }
3185         raid = raidp[array];
3186         if (raid->format &&
3187             (raid->format != (native ? AR_F_FREEBSD_RAID : AR_F_PROMISE_RAID)))
3188             continue;
3189
3190         if ((raid->format == (native ? AR_F_FREEBSD_RAID : AR_F_PROMISE_RAID))&&
3191             !(meta->raid.magic_1 == (raid->magic_1)))
3192             continue;
3193
3194         /* update our knowledge about the array config based on generation */
3195         if (!meta->raid.generation || meta->raid.generation > raid->generation){
3196             switch (meta->raid.type) {
3197             case PR_T_SPAN:
3198                 raid->type = AR_T_SPAN;
3199                 break;
3200
3201             case PR_T_JBOD:
3202                 raid->type = AR_T_JBOD;
3203                 break;
3204
3205             case PR_T_RAID0:
3206                 raid->type = AR_T_RAID0;
3207                 break;
3208
3209             case PR_T_RAID1:
3210                 raid->type = AR_T_RAID1;
3211                 if (meta->raid.array_width > 1)
3212                     raid->type = AR_T_RAID01;
3213                 break;
3214
3215             case PR_T_RAID5:
3216                 raid->type = AR_T_RAID5;
3217                 break;
3218
3219             default:
3220                 device_printf(parent, "%s unknown RAID type 0x%02x\n",
3221                               native ? "FreeBSD" : "Promise", meta->raid.type);
3222                 free(raidp[array], M_AR);
3223                 raidp[array] = NULL;
3224                 goto promise_out;
3225             }
3226             raid->magic_1 = meta->raid.magic_1;
3227             raid->format = (native ? AR_F_FREEBSD_RAID : AR_F_PROMISE_RAID);
3228             raid->generation = meta->raid.generation;
3229             raid->interleave = 1 << meta->raid.stripe_shift;
3230             raid->width = meta->raid.array_width;
3231             raid->total_disks = meta->raid.total_disks;
3232             raid->heads = meta->raid.heads + 1;
3233             raid->sectors = meta->raid.sectors;
3234             raid->cylinders = meta->raid.cylinders + 1;
3235             raid->total_sectors = meta->raid.total_sectors;
3236             raid->offset_sectors = 0;
3237             raid->rebuild_lba = meta->raid.rebuild_lba;
3238             raid->lun = array;
3239             if ((meta->raid.status &
3240                  (PR_S_VALID | PR_S_ONLINE | PR_S_INITED | PR_S_READY)) ==
3241                 (PR_S_VALID | PR_S_ONLINE | PR_S_INITED | PR_S_READY)) {
3242                 raid->status |= AR_S_READY;
3243                 if (meta->raid.status & PR_S_DEGRADED)
3244                     raid->status |= AR_S_DEGRADED;
3245             }
3246             else
3247                 raid->status &= ~AR_S_READY;
3248
3249             /* convert disk flags to our internal types */
3250             for (disk = 0; disk < meta->raid.total_disks; disk++) {
3251                 raid->disks[disk].dev = NULL;
3252                 raid->disks[disk].flags = 0;
3253                 *((u_int64_t *)(raid->disks[disk].serial)) =
3254                     meta->raid.disk[disk].magic_0;
3255                 disksum += meta->raid.disk[disk].flags;
3256                 if (meta->raid.disk[disk].flags & PR_F_ONLINE)
3257                     raid->disks[disk].flags |= AR_DF_ONLINE;
3258                 if (meta->raid.disk[disk].flags & PR_F_ASSIGNED)
3259                     raid->disks[disk].flags |= AR_DF_ASSIGNED;
3260                 if (meta->raid.disk[disk].flags & PR_F_SPARE) {
3261                     raid->disks[disk].flags &= ~(AR_DF_ONLINE | AR_DF_ASSIGNED);
3262                     raid->disks[disk].flags |= AR_DF_SPARE;
3263                 }
3264                 if (meta->raid.disk[disk].flags & (PR_F_REDIR | PR_F_DOWN))
3265                     raid->disks[disk].flags &= ~AR_DF_ONLINE;
3266             }
3267             if (!disksum) {
3268                 device_printf(parent, "%s subdisks has no flags\n",
3269                               native ? "FreeBSD" : "Promise");
3270                 free(raidp[array], M_AR);
3271                 raidp[array] = NULL;
3272                 goto promise_out;
3273             }
3274         }
3275         if (meta->raid.generation >= raid->generation) {
3276             int disk_number = meta->raid.disk_number;
3277
3278             if (raid->disks[disk_number].flags && (meta->magic_0 ==
3279                 *((u_int64_t *)(raid->disks[disk_number].serial)))) {
3280                 raid->disks[disk_number].dev = parent;
3281                 raid->disks[disk_number].flags |= AR_DF_PRESENT;
3282                 raid->disks[disk_number].sectors = meta->raid.disk_sectors;
3283                 if ((raid->disks[disk_number].flags &
3284                     (AR_DF_PRESENT | AR_DF_ASSIGNED | AR_DF_ONLINE)) ==
3285                     (AR_DF_PRESENT | AR_DF_ASSIGNED | AR_DF_ONLINE)) {
3286                     ars->raid[raid->volume] = raid;
3287                     ars->disk_number[raid->volume] = disk_number;
3288                     retval = 1;
3289                 }
3290             }
3291         }
3292         break;
3293     }
3294
3295 promise_out:
3296     free(meta, M_AR);
3297     return retval;
3298 }
3299
3300 static int
3301 ata_raid_promise_write_meta(struct ar_softc *rdp)
3302 {
3303     struct promise_raid_conf *meta;
3304     struct timeval timestamp;
3305     u_int32_t *ckptr;
3306     int count, disk, drive, error = 0;
3307
3308     if (!(meta = (struct promise_raid_conf *)
3309           malloc(sizeof(struct promise_raid_conf), M_AR, M_NOWAIT))) {
3310         kprintf("ar%d: failed to allocate metadata storage\n", rdp->lun);
3311         return ENOMEM;
3312     }
3313
3314     rdp->generation++;
3315     microtime(&timestamp);
3316
3317     for (disk = 0; disk < rdp->total_disks; disk++) {
3318         for (count = 0; count < sizeof(struct promise_raid_conf); count++)
3319             *(((u_int8_t *)meta) + count) = 255 - (count % 256);
3320         meta->dummy_0 = 0x00020000;
3321         meta->raid.disk_number = disk;
3322
3323         if (rdp->disks[disk].dev) {
3324             struct ata_device *atadev = device_get_softc(rdp->disks[disk].dev);
3325             struct ata_channel *ch =
3326                 device_get_softc(device_get_parent(rdp->disks[disk].dev));
3327
3328             meta->raid.channel = ch->unit;
3329             meta->raid.device = ATA_DEV(atadev->unit);
3330             meta->raid.disk_sectors = rdp->disks[disk].sectors;
3331             meta->raid.disk_offset = rdp->offset_sectors;
3332         }
3333         else {
3334             meta->raid.channel = 0;
3335             meta->raid.device = 0;
3336             meta->raid.disk_sectors = 0;
3337             meta->raid.disk_offset = 0;
3338         }
3339         meta->magic_0 = PR_MAGIC0(meta->raid) | timestamp.tv_sec;
3340         meta->magic_1 = timestamp.tv_sec >> 16;
3341         meta->magic_2 = timestamp.tv_sec;
3342         meta->raid.integrity = PR_I_VALID;
3343         meta->raid.magic_0 = meta->magic_0;
3344         meta->raid.rebuild_lba = rdp->rebuild_lba;
3345         meta->raid.generation = rdp->generation;
3346
3347         if (rdp->status & AR_S_READY) {
3348             meta->raid.flags = (PR_F_VALID | PR_F_ASSIGNED | PR_F_ONLINE);
3349             meta->raid.status =
3350                 (PR_S_VALID | PR_S_ONLINE | PR_S_INITED | PR_S_READY);
3351             if (rdp->status & AR_S_DEGRADED)
3352                 meta->raid.status |= PR_S_DEGRADED;
3353             else
3354                 meta->raid.status |= PR_S_FUNCTIONAL;
3355         }
3356         else {
3357             meta->raid.flags = PR_F_DOWN;
3358             meta->raid.status = 0;
3359         }
3360
3361         switch (rdp->type) {
3362         case AR_T_RAID0:
3363             meta->raid.type = PR_T_RAID0;
3364             break;
3365         case AR_T_RAID1:
3366             meta->raid.type = PR_T_RAID1;
3367             break;
3368         case AR_T_RAID01:
3369             meta->raid.type = PR_T_RAID1;
3370             break;
3371         case AR_T_RAID5:
3372             meta->raid.type = PR_T_RAID5;
3373             break;
3374         case AR_T_SPAN:
3375             meta->raid.type = PR_T_SPAN;
3376             break;
3377         case AR_T_JBOD:
3378             meta->raid.type = PR_T_JBOD;
3379             break;
3380         default:
3381             free(meta, M_AR);
3382             return ENODEV;
3383         }
3384
3385         meta->raid.total_disks = rdp->total_disks;
3386         meta->raid.stripe_shift = ffs(rdp->interleave) - 1;
3387         meta->raid.array_width = rdp->width;
3388         meta->raid.array_number = rdp->lun;
3389         meta->raid.total_sectors = rdp->total_sectors;
3390         meta->raid.cylinders = rdp->cylinders - 1;
3391         meta->raid.heads = rdp->heads - 1;
3392         meta->raid.sectors = rdp->sectors;
3393         meta->raid.magic_1 = (u_int64_t)meta->magic_2<<16 | meta->magic_1;
3394
3395         bzero(&meta->raid.disk, 8 * 12);
3396         for (drive = 0; drive < rdp->total_disks; drive++) {
3397             meta->raid.disk[drive].flags = 0;
3398             if (rdp->disks[drive].flags & AR_DF_PRESENT)
3399                 meta->raid.disk[drive].flags |= PR_F_VALID;
3400             if (rdp->disks[drive].flags & AR_DF_ASSIGNED)
3401                 meta->raid.disk[drive].flags |= PR_F_ASSIGNED;
3402             if (rdp->disks[drive].flags & AR_DF_ONLINE)
3403                 meta->raid.disk[drive].flags |= PR_F_ONLINE;
3404             else
3405                 if (rdp->disks[drive].flags & AR_DF_PRESENT)
3406                     meta->raid.disk[drive].flags = (PR_F_REDIR | PR_F_DOWN);
3407             if (rdp->disks[drive].flags & AR_DF_SPARE)
3408                 meta->raid.disk[drive].flags |= PR_F_SPARE;
3409             meta->raid.disk[drive].dummy_0 = 0x0;
3410             if (rdp->disks[drive].dev) {
3411                 struct ata_channel *ch =
3412                     device_get_softc(device_get_parent(rdp->disks[drive].dev));
3413                 struct ata_device *atadev =
3414                     device_get_softc(rdp->disks[drive].dev);
3415
3416                 meta->raid.disk[drive].channel = ch->unit;
3417                 meta->raid.disk[drive].device = ATA_DEV(atadev->unit);
3418             }
3419             meta->raid.disk[drive].magic_0 =
3420                 PR_MAGIC0(meta->raid.disk[drive]) | timestamp.tv_sec;
3421         }
3422
3423         if (rdp->disks[disk].dev) {
3424             if ((rdp->disks[disk].flags & (AR_DF_PRESENT | AR_DF_ONLINE)) ==
3425                 (AR_DF_PRESENT | AR_DF_ONLINE)) {
3426                 if (rdp->format == AR_F_FREEBSD_RAID)
3427                     bcopy(ATA_MAGIC, meta->promise_id, sizeof(ATA_MAGIC));
3428                 else
3429                     bcopy(PR_MAGIC, meta->promise_id, sizeof(PR_MAGIC));
3430             }
3431             else
3432                 bzero(meta->promise_id, sizeof(meta->promise_id));
3433             meta->checksum = 0;
3434             for (ckptr = (int32_t *)meta, count = 0; count < 511; count++)
3435                 meta->checksum += *ckptr++;
3436             if (testing || bootverbose)
3437                 ata_raid_promise_print_meta(meta);
3438             if (ata_raid_rw(rdp->disks[disk].dev,
3439                             PROMISE_LBA(rdp->disks[disk].dev),
3440                             meta, sizeof(struct promise_raid_conf),
3441                             ATA_R_WRITE | ATA_R_DIRECT)) {
3442                 device_printf(rdp->disks[disk].dev, "write metadata failed\n");
3443                 error = EIO;
3444             }
3445         }
3446     }
3447     free(meta, M_AR);
3448     return error;
3449 }
3450
3451 /* Silicon Image Medley Metadata */
3452 static int
3453 ata_raid_sii_read_meta(device_t dev, struct ar_softc **raidp)
3454 {
3455     struct ata_raid_subdisk *ars = device_get_softc(dev);
3456     device_t parent = device_get_parent(dev);
3457     struct sii_raid_conf *meta;
3458     struct ar_softc *raid = NULL;
3459     u_int16_t checksum, *ptr;
3460     int array, count, disk, retval = 0;
3461
3462     if (!(meta = (struct sii_raid_conf *)
3463           malloc(sizeof(struct sii_raid_conf), M_AR, M_NOWAIT | M_ZERO)))
3464         return ENOMEM;
3465
3466     if (ata_raid_rw(parent, SII_LBA(parent),
3467                     meta, sizeof(struct sii_raid_conf), ATA_R_READ)) {
3468         if (testing || bootverbose)
3469             device_printf(parent, "Silicon Image read metadata failed\n");
3470         goto sii_out;
3471     }
3472
3473     /* check if this is a Silicon Image (Medley) RAID struct */
3474     for (checksum = 0, ptr = (u_int16_t *)meta, count = 0; count < 160; count++)
3475         checksum += *ptr++;
3476     if (checksum) {
3477         if (testing || bootverbose)
3478             device_printf(parent, "Silicon Image check1 failed\n");
3479         goto sii_out;
3480     }
3481
3482     for (checksum = 0, ptr = (u_int16_t *)meta, count = 0; count < 256; count++)
3483         checksum += *ptr++;
3484     if (checksum != meta->checksum_1) {
3485         if (testing || bootverbose)
3486             device_printf(parent, "Silicon Image check2 failed\n");
3487         goto sii_out;
3488     }
3489
3490     /* check verison */
3491     if (meta->version_major != 0x0002 ||
3492         (meta->version_minor != 0x0000 && meta->version_minor != 0x0001)) {
3493         if (testing || bootverbose)
3494             device_printf(parent, "Silicon Image check3 failed\n");
3495         goto sii_out;
3496     }
3497
3498     if (testing || bootverbose)
3499         ata_raid_sii_print_meta(meta);
3500
3501     /* now convert Silicon Image meta into our generic form */
3502     for (array = 0; array < MAX_ARRAYS; array++) {
3503         if (!raidp[array]) {
3504             raidp[array] =
3505                 (struct ar_softc *)malloc(sizeof(struct ar_softc), M_AR,
3506                                           M_NOWAIT | M_ZERO);
3507             if (!raidp[array]) {
3508                 device_printf(parent, "failed to allocate metadata storage\n");
3509                 goto sii_out;
3510             }
3511         }
3512         raid = raidp[array];
3513         if (raid->format && (raid->format != AR_F_SII_RAID))
3514             continue;
3515
3516         if (raid->format == AR_F_SII_RAID &&
3517             (raid->magic_0 != *((u_int64_t *)meta->timestamp))) {
3518             continue;
3519         }
3520
3521         /* update our knowledge about the array config based on generation */
3522         if (!meta->generation || meta->generation > raid->generation) {
3523             switch (meta->type) {
3524             case SII_T_RAID0:
3525                 raid->type = AR_T_RAID0;
3526                 break;
3527
3528             case SII_T_RAID1:
3529                 raid->type = AR_T_RAID1;
3530                 break;
3531
3532             case SII_T_RAID01:
3533                 raid->type = AR_T_RAID01;
3534                 break;
3535
3536             case SII_T_SPARE:
3537                 device_printf(parent, "Silicon Image SPARE disk\n");
3538                 free(raidp[array], M_AR);
3539                 raidp[array] = NULL;
3540                 goto sii_out;
3541
3542             default:
3543                 device_printf(parent,"Silicon Image unknown RAID type 0x%02x\n",
3544                               meta->type);
3545                 free(raidp[array], M_AR);
3546                 raidp[array] = NULL;
3547                 goto sii_out;
3548             }
3549             raid->magic_0 = *((u_int64_t *)meta->timestamp);
3550             raid->format = AR_F_SII_RAID;
3551             raid->generation = meta->generation;
3552             raid->interleave = meta->stripe_sectors;
3553             raid->width = (meta->raid0_disks != 0xff) ? meta->raid0_disks : 1;
3554             raid->total_disks =
3555                 ((meta->raid0_disks != 0xff) ? meta->raid0_disks : 0) +
3556                 ((meta->raid1_disks != 0xff) ? meta->raid1_disks : 0);
3557             raid->total_sectors = meta->total_sectors;
3558             raid->heads = 255;
3559             raid->sectors = 63;
3560             raid->cylinders = raid->total_sectors / (63 * 255);
3561             raid->offset_sectors = 0;
3562             raid->rebuild_lba = meta->rebuild_lba;
3563             raid->lun = array;
3564             strncpy(raid->name, meta->name,
3565                     min(sizeof(raid->name), sizeof(meta->name)));
3566
3567             /* clear out any old info */
3568             if (raid->generation) {
3569                 for (disk = 0; disk < raid->total_disks; disk++) {
3570                     raid->disks[disk].dev = NULL;
3571                     raid->disks[disk].flags = 0;
3572                 }
3573             }
3574         }
3575         if (meta->generation >= raid->generation) {
3576             /* XXX SOS add check for the right physical disk by serial# */
3577             if (meta->status & SII_S_READY) {
3578                 int disk_number = (raid->type == AR_T_RAID01) ?
3579                     meta->raid1_ident + (meta->raid0_ident << 1) :
3580                     meta->disk_number;
3581
3582                 raid->disks[disk_number].dev = parent;
3583                 raid->disks[disk_number].sectors =
3584                     raid->total_sectors / raid->width;
3585                 raid->disks[disk_number].flags =
3586                     (AR_DF_ONLINE | AR_DF_PRESENT | AR_DF_ASSIGNED);
3587                 ars->raid[raid->volume] = raid;
3588                 ars->disk_number[raid->volume] = disk_number;
3589                 retval = 1;
3590             }
3591         }
3592         break;
3593     }
3594
3595 sii_out:
3596     free(meta, M_AR);
3597     return retval;
3598 }
3599
3600 /* Silicon Integrated Systems Metadata */
3601 static int
3602 ata_raid_sis_read_meta(device_t dev, struct ar_softc **raidp)
3603 {
3604     struct ata_raid_subdisk *ars = device_get_softc(dev);
3605     device_t parent = device_get_parent(dev);
3606     struct sis_raid_conf *meta;
3607     struct ar_softc *raid = NULL;
3608     int array, disk_number, drive, retval = 0;
3609
3610     if (!(meta = (struct sis_raid_conf *)
3611           malloc(sizeof(struct sis_raid_conf), M_AR, M_NOWAIT | M_ZERO)))
3612         return ENOMEM;
3613
3614     if (ata_raid_rw(parent, SIS_LBA(parent),
3615                     meta, sizeof(struct sis_raid_conf), ATA_R_READ)) {
3616         if (testing || bootverbose)
3617             device_printf(parent,
3618                           "Silicon Integrated Systems read metadata failed\n");
3619     }
3620
3621     /* check for SiS magic */
3622     if (meta->magic != SIS_MAGIC) {
3623         if (testing || bootverbose)
3624             device_printf(parent,
3625                           "Silicon Integrated Systems check1 failed\n");
3626         goto sis_out;
3627     }
3628
3629     if (testing || bootverbose)
3630         ata_raid_sis_print_meta(meta);
3631
3632     /* now convert SiS meta into our generic form */
3633     for (array = 0; array < MAX_ARRAYS; array++) {
3634         if (!raidp[array]) {
3635             raidp[array] =
3636                 (struct ar_softc *)malloc(sizeof(struct ar_softc), M_AR,
3637                                           M_NOWAIT | M_ZERO);
3638             if (!raidp[array]) {
3639                 device_printf(parent, "failed to allocate metadata storage\n");
3640                 goto sis_out;
3641             }
3642         }
3643
3644         raid = raidp[array];
3645         if (raid->format && (raid->format != AR_F_SIS_RAID))
3646             continue;
3647
3648         if ((raid->format == AR_F_SIS_RAID) &&
3649             ((raid->magic_0 != meta->controller_pci_id) ||
3650              (raid->magic_1 != meta->timestamp))) {
3651             continue;
3652         }
3653
3654         switch (meta->type_total_disks & SIS_T_MASK) {
3655         case SIS_T_JBOD:
3656             raid->type = AR_T_JBOD;
3657             raid->width = (meta->type_total_disks & SIS_D_MASK);
3658             raid->total_sectors += SIS_LBA(parent);
3659             break;
3660
3661         case SIS_T_RAID0:
3662             raid->type = AR_T_RAID0;
3663             raid->width = (meta->type_total_disks & SIS_D_MASK);
3664             if (!raid->total_sectors ||
3665                 (raid->total_sectors > (raid->width * SIS_LBA(parent))))
3666                 raid->total_sectors = raid->width * SIS_LBA(parent);
3667             break;
3668
3669         case SIS_T_RAID1:
3670             raid->type = AR_T_RAID1;
3671             raid->width = 1;
3672             if (!raid->total_sectors || (raid->total_sectors > SIS_LBA(parent)))
3673                 raid->total_sectors = SIS_LBA(parent);
3674             break;
3675
3676         default:
3677             device_printf(parent, "Silicon Integrated Systems "
3678                           "unknown RAID type 0x%08x\n", meta->magic);
3679             free(raidp[array], M_AR);
3680             raidp[array] = NULL;
3681             goto sis_out;
3682         }
3683         raid->magic_0 = meta->controller_pci_id;
3684         raid->magic_1 = meta->timestamp;
3685         raid->format = AR_F_SIS_RAID;
3686         raid->generation = 0;
3687         raid->interleave = meta->stripe_sectors;
3688         raid->total_disks = (meta->type_total_disks & SIS_D_MASK);
3689         raid->heads = 255;
3690         raid->sectors = 63;
3691         raid->cylinders = raid->total_sectors / (63 * 255);
3692         raid->offset_sectors = 0;
3693         raid->rebuild_lba = 0;
3694         raid->lun = array;
3695         /* XXX SOS if total_disks > 2 this doesn't float */
3696         if (((meta->disks & SIS_D_MASTER) >> 4) == meta->disk_number)
3697             disk_number = 0;
3698         else
3699             disk_number = 1;
3700
3701         for (drive = 0; drive < raid->total_disks; drive++) {
3702             raid->disks[drive].sectors = raid->total_sectors/raid->width;
3703             if (drive == disk_number) {
3704                 raid->disks[disk_number].dev = parent;
3705                 raid->disks[disk_number].flags =
3706                     (AR_DF_ONLINE | AR_DF_PRESENT | AR_DF_ASSIGNED);
3707                 ars->raid[raid->volume] = raid;
3708                 ars->disk_number[raid->volume] = disk_number;
3709             }
3710         }
3711         retval = 1;
3712         break;
3713     }
3714
3715 sis_out:
3716     free(meta, M_AR);
3717     return retval;
3718 }
3719
3720 static int
3721 ata_raid_sis_write_meta(struct ar_softc *rdp)
3722 {
3723     struct sis_raid_conf *meta;
3724     struct timeval timestamp;
3725     int disk, error = 0;
3726
3727     if (!(meta = (struct sis_raid_conf *)
3728           malloc(sizeof(struct sis_raid_conf), M_AR, M_NOWAIT | M_ZERO))) {
3729         kprintf("ar%d: failed to allocate metadata storage\n", rdp->lun);
3730         return ENOMEM;
3731     }
3732
3733     rdp->generation++;
3734     microtime(&timestamp);
3735
3736     meta->magic = SIS_MAGIC;
3737     /* XXX SOS if total_disks > 2 this doesn't float */
3738     for (disk = 0; disk < rdp->total_disks; disk++) {
3739         if (rdp->disks[disk].dev) {
3740             struct ata_channel *ch =
3741                 device_get_softc(device_get_parent(rdp->disks[disk].dev));
3742             struct ata_device *atadev = device_get_softc(rdp->disks[disk].dev);
3743             int disk_number = 1 + ATA_DEV(atadev->unit) + (ch->unit << 1);
3744
3745             meta->disks |= disk_number << ((1 - disk) << 2);
3746         }
3747     }
3748     switch (rdp->type) {
3749     case AR_T_JBOD:
3750         meta->type_total_disks = SIS_T_JBOD;
3751         break;
3752
3753     case AR_T_RAID0:
3754         meta->type_total_disks = SIS_T_RAID0;
3755         break;
3756
3757     case AR_T_RAID1:
3758         meta->type_total_disks = SIS_T_RAID1;
3759         break;
3760
3761     default:
3762         free(meta, M_AR);
3763         return ENODEV;
3764     }
3765     meta->type_total_disks |= (rdp->total_disks & SIS_D_MASK);
3766     meta->stripe_sectors = rdp->interleave;
3767     meta->timestamp = timestamp.tv_sec;
3768
3769     for (disk = 0; disk < rdp->total_disks; disk++) {
3770         if (rdp->disks[disk].dev) {
3771             struct ata_channel *ch =
3772                 device_get_softc(device_get_parent(rdp->disks[disk].dev));
3773             struct ata_device *atadev = device_get_softc(rdp->disks[disk].dev);
3774
3775             meta->controller_pci_id =
3776                 (pci_get_vendor(GRANDPARENT(rdp->disks[disk].dev)) << 16) |
3777                 pci_get_device(GRANDPARENT(rdp->disks[disk].dev));
3778             bcopy(atadev->param.model, meta->model, sizeof(meta->model));
3779
3780             /* XXX SOS if total_disks > 2 this may not float */
3781             meta->disk_number = 1 + ATA_DEV(atadev->unit) + (ch->unit << 1);
3782
3783             if (testing || bootverbose)
3784                 ata_raid_sis_print_meta(meta);
3785
3786             if (ata_raid_rw(rdp->disks[disk].dev,
3787                             SIS_LBA(rdp->disks[disk].dev),
3788                             meta, sizeof(struct sis_raid_conf),
3789                             ATA_R_WRITE | ATA_R_DIRECT)) {
3790                 device_printf(rdp->disks[disk].dev, "write metadata failed\n");
3791                 error = EIO;
3792             }
3793         }
3794     }
3795     free(meta, M_AR);
3796     return error;
3797 }
3798
3799 /* VIA Tech V-RAID Metadata */
3800 static int
3801 ata_raid_via_read_meta(device_t dev, struct ar_softc **raidp)
3802 {
3803     struct ata_raid_subdisk *ars = device_get_softc(dev);
3804     device_t parent = device_get_parent(dev);
3805     struct via_raid_conf *meta;
3806     struct ar_softc *raid = NULL;
3807     u_int8_t checksum, *ptr;
3808     int array, count, disk, retval = 0;
3809
3810     if (!(meta = (struct via_raid_conf *)
3811           malloc(sizeof(struct via_raid_conf), M_AR, M_NOWAIT | M_ZERO)))
3812         return ENOMEM;
3813
3814     if (ata_raid_rw(parent, VIA_LBA(parent),
3815                     meta, sizeof(struct via_raid_conf), ATA_R_READ)) {
3816         if (testing || bootverbose)
3817             device_printf(parent, "VIA read metadata failed\n");
3818         goto via_out;
3819     }
3820
3821     /* check if this is a VIA RAID struct */
3822     if (meta->magic != VIA_MAGIC) {
3823         if (testing || bootverbose)
3824             device_printf(parent, "VIA check1 failed\n");
3825         goto via_out;
3826     }
3827
3828     /* calculate checksum and compare for valid */
3829     for (checksum = 0, ptr = (u_int8_t *)meta, count = 0; count < 50; count++)
3830         checksum += *ptr++;
3831     if (checksum != meta->checksum) {
3832         if (testing || bootverbose)
3833             device_printf(parent, "VIA check2 failed\n");
3834         goto via_out;
3835     }
3836
3837     if (testing || bootverbose)
3838         ata_raid_via_print_meta(meta);
3839
3840     /* now convert VIA meta into our generic form */
3841     for (array = 0; array < MAX_ARRAYS; array++) {
3842         if (!raidp[array]) {
3843             raidp[array] =
3844                 (struct ar_softc *)malloc(sizeof(struct ar_softc), M_AR,
3845                                           M_NOWAIT | M_ZERO);
3846             if (!raidp[array]) {
3847                 device_printf(parent, "failed to allocate metadata storage\n");
3848                 goto via_out;
3849             }
3850         }
3851         raid = raidp[array];
3852         if (raid->format && (raid->format != AR_F_VIA_RAID))
3853             continue;
3854
3855         if (raid->format == AR_F_VIA_RAID && (raid->magic_0 != meta->disks[0]))
3856             continue;
3857
3858         switch (meta->type & VIA_T_MASK) {
3859         case VIA_T_RAID0:
3860             raid->type = AR_T_RAID0;
3861             raid->width = meta->stripe_layout & VIA_L_DISKS;
3862             if (!raid->total_sectors ||
3863                 (raid->total_sectors > (raid->width * meta->disk_sectors)))
3864                 raid->total_sectors = raid->width * meta->disk_sectors;
3865             break;
3866
3867         case VIA_T_RAID1:
3868             raid->type = AR_T_RAID1;
3869             raid->width = 1;
3870             raid->total_sectors = meta->disk_sectors;
3871             break;
3872
3873         case VIA_T_RAID01:
3874             raid->type = AR_T_RAID01;
3875             raid->width = meta->stripe_layout & VIA_L_DISKS;
3876             if (!raid->total_sectors ||
3877                 (raid->total_sectors > (raid->width * meta->disk_sectors)))
3878                 raid->total_sectors = raid->width * meta->disk_sectors;
3879             break;
3880
3881         case VIA_T_RAID5:
3882             raid->type = AR_T_RAID5;
3883             raid->width = meta->stripe_layout & VIA_L_DISKS;
3884             if (!raid->total_sectors ||
3885                 (raid->total_sectors > ((raid->width - 1)*meta->disk_sectors)))
3886                 raid->total_sectors = (raid->width - 1) * meta->disk_sectors;
3887             break;
3888
3889         case VIA_T_SPAN:
3890             raid->type = AR_T_SPAN;
3891             raid->width = 1;
3892             raid->total_sectors += meta->disk_sectors;
3893             break;
3894
3895         default:
3896             device_printf(parent,"VIA unknown RAID type 0x%02x\n", meta->type);
3897             free(raidp[array], M_AR);
3898             raidp[array] = NULL;
3899             goto via_out;
3900         }
3901         raid->magic_0 = meta->disks[0];
3902         raid->format = AR_F_VIA_RAID;
3903         raid->generation = 0;
3904         raid->interleave =
3905             0x08 << ((meta->stripe_layout & VIA_L_MASK) >> VIA_L_SHIFT);
3906         for (count = 0, disk = 0; disk < 8; disk++)
3907             if (meta->disks[disk])
3908                 count++;
3909         raid->total_disks = count;
3910         raid->heads = 255;
3911         raid->sectors = 63;
3912         raid->cylinders = raid->total_sectors / (63 * 255);
3913         raid->offset_sectors = 0;
3914         raid->rebuild_lba = 0;
3915         raid->lun = array;
3916
3917         for (disk = 0; disk < raid->total_disks; disk++) {
3918             if (meta->disks[disk] == meta->disk_id) {
3919                 raid->disks[disk].dev = parent;
3920                 bcopy(&meta->disk_id, raid->disks[disk].serial,
3921                       sizeof(u_int32_t));
3922                 raid->disks[disk].sectors = meta->disk_sectors;
3923                 raid->disks[disk].flags =
3924                     (AR_DF_ONLINE | AR_DF_PRESENT | AR_DF_ASSIGNED);
3925                 ars->raid[raid->volume] = raid;
3926                 ars->disk_number[raid->volume] = disk;
3927                 retval = 1;
3928                 break;
3929             }
3930         }
3931         break;
3932     }
3933
3934 via_out:
3935     free(meta, M_AR);
3936     return retval;
3937 }
3938
3939 static int
3940 ata_raid_via_write_meta(struct ar_softc *rdp)
3941 {
3942     struct via_raid_conf *meta;
3943     int disk, error = 0;
3944
3945     if (!(meta = (struct via_raid_conf *)
3946           malloc(sizeof(struct via_raid_conf), M_AR, M_NOWAIT | M_ZERO))) {
3947         kprintf("ar%d: failed to allocate metadata storage\n", rdp->lun);
3948         return ENOMEM;
3949     }
3950
3951     rdp->generation++;
3952
3953     meta->magic = VIA_MAGIC;
3954     meta->dummy_0 = 0x02;
3955     switch (rdp->type) {
3956     case AR_T_SPAN:
3957         meta->type = VIA_T_SPAN;
3958         meta->stripe_layout = (rdp->total_disks & VIA_L_DISKS);
3959         break;
3960
3961     case AR_T_RAID0:
3962         meta->type = VIA_T_RAID0;
3963         meta->stripe_layout = ((rdp->interleave >> 1) & VIA_L_MASK);
3964         meta->stripe_layout |= (rdp->total_disks & VIA_L_DISKS);
3965         break;
3966
3967     case AR_T_RAID1:
3968         meta->type = VIA_T_RAID1;
3969         meta->stripe_layout = (rdp->total_disks & VIA_L_DISKS);
3970         break;
3971
3972     case AR_T_RAID5:
3973         meta->type = VIA_T_RAID5;
3974         meta->stripe_layout = ((rdp->interleave >> 1) & VIA_L_MASK);
3975         meta->stripe_layout |= (rdp->total_disks & VIA_L_DISKS);
3976         break;
3977
3978     case AR_T_RAID01:
3979         meta->type = VIA_T_RAID01;
3980         meta->stripe_layout = ((rdp->interleave >> 1) & VIA_L_MASK);
3981         meta->stripe_layout |= (rdp->width & VIA_L_DISKS);
3982         break;
3983
3984     default:
3985         free(meta, M_AR);
3986         return ENODEV;
3987     }
3988     meta->type |= VIA_T_BOOTABLE;       /* XXX SOS */
3989     meta->disk_sectors =
3990         rdp->total_sectors / (rdp->width - (rdp->type == AR_RAID5));
3991     for (disk = 0; disk < rdp->total_disks; disk++)
3992         meta->disks[disk] = (u_int32_t)(uintptr_t)rdp->disks[disk].dev;
3993
3994     for (disk = 0; disk < rdp->total_disks; disk++) {
3995         if (rdp->disks[disk].dev) {
3996             u_int8_t *ptr;
3997             int count;
3998
3999             meta->disk_index = disk * sizeof(u_int32_t);
4000             if (rdp->type == AR_T_RAID01)
4001                 meta->disk_index = ((meta->disk_index & 0x08) << 2) |
4002                                    (meta->disk_index & ~0x08);
4003             meta->disk_id = meta->disks[disk];
4004             meta->checksum = 0;
4005             for (ptr = (u_int8_t *)meta, count = 0; count < 50; count++)
4006                 meta->checksum += *ptr++;
4007
4008             if (testing || bootverbose)
4009                 ata_raid_via_print_meta(meta);
4010
4011             if (ata_raid_rw(rdp->disks[disk].dev,
4012                             VIA_LBA(rdp->disks[disk].dev),
4013                             meta, sizeof(struct via_raid_conf),
4014                             ATA_R_WRITE | ATA_R_DIRECT)) {
4015                 device_printf(rdp->disks[disk].dev, "write metadata failed\n");
4016                 error = EIO;
4017             }
4018         }
4019     }
4020     free(meta, M_AR);
4021     return error;
4022 }
4023
4024 static struct ata_request *
4025 ata_raid_init_request(struct ar_softc *rdp, struct bio *bio)
4026 {
4027     struct ata_request *request;
4028
4029     if (!(request = ata_alloc_request())) {
4030         kprintf("FAILURE - out of memory in ata_raid_init_request\n");
4031         return NULL;
4032     }
4033     request->timeout = 5;
4034     request->retries = 2;
4035     request->callback = ata_raid_done;
4036     request->driver = rdp;
4037     request->bio = bio;
4038     switch (request->bio->bio_buf->b_cmd) {
4039     case BUF_CMD_READ:
4040         request->flags = ATA_R_READ;
4041         break;
4042     case BUF_CMD_WRITE:
4043         request->flags = ATA_R_WRITE;
4044         break;
4045     }
4046     return request;
4047 }
4048
4049 static int
4050 ata_raid_send_request(struct ata_request *request)
4051 {
4052     struct ata_device *atadev = device_get_softc(request->dev);
4053
4054     request->transfersize = min(request->bytecount, atadev->max_iosize);
4055     if (request->flags & ATA_R_READ) {
4056         if (atadev->mode >= ATA_DMA) {
4057             request->flags |= ATA_R_DMA;
4058             request->u.ata.command = ATA_READ_DMA;
4059         }
4060         else if (atadev->max_iosize > DEV_BSIZE)
4061             request->u.ata.command = ATA_READ_MUL;
4062         else
4063             request->u.ata.command = ATA_READ;
4064     }
4065     else if (request->flags & ATA_R_WRITE) {
4066         if (atadev->mode >= ATA_DMA) {
4067             request->flags |= ATA_R_DMA;
4068             request->u.ata.command = ATA_WRITE_DMA;
4069         }
4070         else if (atadev->max_iosize > DEV_BSIZE)
4071             request->u.ata.command = ATA_WRITE_MUL;
4072         else
4073             request->u.ata.command = ATA_WRITE;
4074     }
4075     else {
4076         device_printf(request->dev, "FAILURE - unknown IO operation\n");
4077         ata_free_request(request);
4078         return EIO;
4079     }
4080     request->flags |= (ATA_R_ORDERED | ATA_R_THREAD);
4081     ata_queue_request(request);
4082     return 0;
4083 }
4084
4085 static int
4086 ata_raid_rw(device_t dev, u_int64_t lba, void *data, u_int bcount, int flags)
4087 {
4088     struct ata_device *atadev = device_get_softc(dev);
4089     struct ata_request *request;
4090     int error;
4091
4092     if (bcount % DEV_BSIZE) {
4093         device_printf(dev, "FAILURE - transfers must be modulo sectorsize\n");
4094         return ENOMEM;
4095     }
4096
4097     if (!(request = ata_alloc_request())) {
4098         device_printf(dev, "FAILURE - out of memory in ata_raid_rw\n");
4099         return ENOMEM;
4100     }
4101
4102     /* setup request */
4103     request->dev = dev;
4104     request->timeout = 10;
4105     request->retries = 0;
4106     request->data = data;
4107     request->bytecount = bcount;
4108     request->transfersize = DEV_BSIZE;
4109     request->u.ata.lba = lba;
4110     request->u.ata.count = request->bytecount / DEV_BSIZE;
4111     request->flags = flags;
4112
4113     if (flags & ATA_R_READ) {
4114         if (atadev->mode >= ATA_DMA) {
4115             request->u.ata.command = ATA_READ_DMA;
4116             request->flags |= ATA_R_DMA;
4117         }
4118         else
4119             request->u.ata.command = ATA_READ;
4120         ata_queue_request(request);
4121     }
4122     else if (flags & ATA_R_WRITE) {
4123         if (atadev->mode >= ATA_DMA) {
4124             request->u.ata.command = ATA_WRITE_DMA;
4125             request->flags |= ATA_R_DMA;
4126         }
4127         else
4128             request->u.ata.command = ATA_WRITE;
4129         ata_queue_request(request);
4130     }
4131     else {
4132         device_printf(dev, "FAILURE - unknown IO operation\n");
4133         request->result = EIO;
4134     }
4135     error = request->result;
4136     ata_free_request(request);
4137     return error;
4138 }
4139
4140 /*
4141  * module handeling
4142  */
4143 static int
4144 ata_raid_subdisk_probe(device_t dev)
4145 {
4146     device_quiet(dev);
4147     return 0;
4148 }
4149
4150 static int
4151 ata_raid_subdisk_attach(device_t dev)
4152 {
4153     struct ata_raid_subdisk *ars = device_get_softc(dev);
4154     int volume;
4155
4156     for (volume = 0; volume < MAX_VOLUMES; volume++) {
4157         ars->raid[volume] = NULL;
4158         ars->disk_number[volume] = -1;
4159     }
4160     ata_raid_read_metadata(dev);
4161     return 0;
4162 }
4163
4164 static int
4165 ata_raid_subdisk_detach(device_t dev)
4166 {
4167     struct ata_raid_subdisk *ars = device_get_softc(dev);
4168     int volume;
4169
4170     for (volume = 0; volume < MAX_VOLUMES; volume++) {
4171         if (ars->raid[volume]) {
4172             ars->raid[volume]->disks[ars->disk_number[volume]].flags &=
4173                 ~(AR_DF_PRESENT | AR_DF_ONLINE);
4174             ars->raid[volume]->disks[ars->disk_number[volume]].dev = NULL;
4175             ata_raid_config_changed(ars->raid[volume], 1);
4176             ars->raid[volume] = NULL;
4177             ars->disk_number[volume] = -1;
4178         }
4179     }
4180     return 0;
4181 }
4182
4183 static device_method_t ata_raid_sub_methods[] = {
4184     /* device interface */
4185     DEVMETHOD(device_probe,     ata_raid_subdisk_probe),
4186     DEVMETHOD(device_attach,    ata_raid_subdisk_attach),
4187     DEVMETHOD(device_detach,    ata_raid_subdisk_detach),
4188     { 0, 0 }
4189 };
4190
4191 static driver_t ata_raid_sub_driver = {
4192     "subdisk",
4193     ata_raid_sub_methods,
4194     sizeof(struct ata_raid_subdisk)
4195 };
4196
4197 DRIVER_MODULE(subdisk, ad, ata_raid_sub_driver, ata_raid_sub_devclass, NULL, NULL);
4198
4199 static int
4200 ata_raid_module_event_handler(module_t mod, int what, void *arg)
4201 {
4202     int i;
4203
4204     switch (what) {
4205     case MOD_LOAD:
4206         if (testing || bootverbose)
4207             kprintf("ATA PseudoRAID loaded\n");
4208 #if 0
4209         /* setup table to hold metadata for all ATA PseudoRAID arrays */
4210         ata_raid_arrays = malloc(sizeof(struct ar_soft *) * MAX_ARRAYS,
4211                                 M_AR, M_NOWAIT | M_ZERO);
4212         if (!ata_raid_arrays) {
4213             kprintf("ataraid: no memory for metadata storage\n");
4214             return ENOMEM;
4215         }
4216 #endif
4217         /* attach found PseudoRAID arrays */
4218         for (i = 0; i < MAX_ARRAYS; i++) {
4219             struct ar_softc *rdp = ata_raid_arrays[i];
4220
4221             if (!rdp || !rdp->format)
4222                 continue;
4223             if (testing || bootverbose)
4224                 ata_raid_print_meta(rdp);
4225             ata_raid_attach(rdp, 0);
4226         }
4227         ata_raid_ioctl_func = ata_raid_ioctl;
4228         return 0;
4229
4230     case MOD_UNLOAD:
4231         /* detach found PseudoRAID arrays */
4232         for (i = 0; i < MAX_ARRAYS; i++) {
4233             struct ar_softc *rdp = ata_raid_arrays[i];
4234
4235             if (!rdp || !rdp->status)
4236                 continue;
4237             if (rdp->disk)
4238                 disk_destroy(rdp->disk);
4239         }
4240         if (testing || bootverbose)
4241             kprintf("ATA PseudoRAID unloaded\n");
4242 #if 0
4243         free(ata_raid_arrays, M_AR);
4244 #endif
4245         ata_raid_ioctl_func = NULL;
4246         return 0;
4247
4248     default:
4249         return EOPNOTSUPP;
4250     }
4251 }
4252
4253 static moduledata_t ata_raid_moduledata =
4254     { "ataraid", ata_raid_module_event_handler, NULL };
4255 DECLARE_MODULE(ata, ata_raid_moduledata, SI_SUB_RAID, SI_ORDER_FIRST);
4256 MODULE_VERSION(ataraid, 1);
4257 MODULE_DEPEND(ataraid, ata, 1, 1, 1);
4258 MODULE_DEPEND(ataraid, ad, 1, 1, 1);
4259
4260 static char *
4261 ata_raid_format(struct ar_softc *rdp)
4262 {
4263     switch (rdp->format) {
4264     case AR_F_FREEBSD_RAID:     return "FreeBSD PseudoRAID";
4265     case AR_F_ADAPTEC_RAID:     return "Adaptec HostRAID";
4266     case AR_F_HPTV2_RAID:       return "HighPoint v2 RocketRAID";
4267     case AR_F_HPTV3_RAID:       return "HighPoint v3 RocketRAID";
4268     case AR_F_INTEL_RAID:       return "Intel MatrixRAID";
4269     case AR_F_ITE_RAID:         return "Integrated Technology Express";
4270     case AR_F_JMICRON_RAID:     return "JMicron Technology Corp";
4271     case AR_F_LSIV2_RAID:       return "LSILogic v2 MegaRAID";
4272     case AR_F_LSIV3_RAID:       return "LSILogic v3 MegaRAID";
4273     case AR_F_NVIDIA_RAID:      return "nVidia MediaShield";
4274     case AR_F_PROMISE_RAID:     return "Promise Fasttrak";
4275     case AR_F_SII_RAID:         return "Silicon Image Medley";
4276     case AR_F_SIS_RAID:         return "Silicon Integrated Systems";
4277     case AR_F_VIA_RAID:         return "VIA Tech V-RAID";
4278     default:                    return "UNKNOWN";
4279     }
4280 }
4281
4282 static char *
4283 ata_raid_type(struct ar_softc *rdp)
4284 {
4285     switch (rdp->type) {
4286     case AR_T_JBOD:     return "JBOD";
4287     case AR_T_SPAN:     return "SPAN";
4288     case AR_T_RAID0:    return "RAID0";
4289     case AR_T_RAID1:    return "RAID1";
4290     case AR_T_RAID3:    return "RAID3";
4291     case AR_T_RAID4:    return "RAID4";
4292     case AR_T_RAID5:    return "RAID5";
4293     case AR_T_RAID01:   return "RAID0+1";
4294     default:            return "UNKNOWN";
4295     }
4296 }
4297
4298 static char *
4299 ata_raid_flags(struct ar_softc *rdp)
4300 {
4301     switch (rdp->status & (AR_S_READY | AR_S_DEGRADED | AR_S_REBUILDING)) {
4302     case AR_S_READY:                                    return "READY";
4303     case AR_S_READY | AR_S_DEGRADED:                    return "DEGRADED";
4304     case AR_S_READY | AR_S_REBUILDING:
4305     case AR_S_READY | AR_S_DEGRADED | AR_S_REBUILDING:  return "REBUILDING";
4306     default:                                            return "BROKEN";
4307     }
4308 }
4309
4310 /* debugging gunk */
4311 static void
4312 ata_raid_print_meta(struct ar_softc *raid)
4313 {
4314     int i;
4315
4316     kprintf("********** ATA PseudoRAID ar%d Metadata **********\n", raid->lun);
4317     kprintf("=================================================\n");
4318     kprintf("format              %s\n", ata_raid_format(raid));
4319     kprintf("type                %s\n", ata_raid_type(raid));
4320     kprintf("flags               0x%02x %b\n", raid->status, raid->status,
4321            "\20\3REBUILDING\2DEGRADED\1READY\n");
4322     kprintf("magic_0             0x%016jx\n", raid->magic_0);
4323     kprintf("magic_1             0x%016jx\n",raid->magic_1);
4324     kprintf("generation          %u\n", raid->generation);
4325     kprintf("total_sectors       %ju\n", raid->total_sectors);
4326     kprintf("offset_sectors      %ju\n", raid->offset_sectors);
4327     kprintf("heads               %u\n", raid->heads);
4328     kprintf("sectors             %u\n", raid->sectors);
4329     kprintf("cylinders           %u\n", raid->cylinders);
4330     kprintf("width               %u\n", raid->width);
4331     kprintf("interleave          %u\n", raid->interleave);
4332     kprintf("total_disks         %u\n", raid->total_disks);
4333     for (i = 0; i < raid->total_disks; i++) {
4334         kprintf("    disk %d:      flags = 0x%02x %b\n", i, raid->disks[i].flags,
4335                raid->disks[i].flags, "\20\4ONLINE\3SPARE\2ASSIGNED\1PRESENT\n");
4336         if (raid->disks[i].dev) {
4337             kprintf("        ");
4338             device_printf(raid->disks[i].dev, " sectors %jd\n",
4339                           raid->disks[i].sectors);
4340         }
4341     }
4342     kprintf("=================================================\n");
4343 }
4344
4345 static char *
4346 ata_raid_adaptec_type(int type)
4347 {
4348     static char buffer[16];
4349
4350     switch (type) {
4351     case ADP_T_RAID0:   return "RAID0";
4352     case ADP_T_RAID1:   return "RAID1";
4353     default:            ksprintf(buffer, "UNKNOWN 0x%02x", type);
4354                         return buffer;
4355     }
4356 }
4357
4358 static void
4359 ata_raid_adaptec_print_meta(struct adaptec_raid_conf *meta)
4360 {
4361     int i;
4362
4363     kprintf("********* ATA Adaptec HostRAID Metadata *********\n");
4364     kprintf("magic_0             <0x%08x>\n", be32toh(meta->magic_0));
4365     kprintf("generation          0x%08x\n", be32toh(meta->generation));
4366     kprintf("dummy_0             0x%04x\n", be16toh(meta->dummy_0));
4367     kprintf("total_configs       %u\n", be16toh(meta->total_configs));
4368     kprintf("dummy_1             0x%04x\n", be16toh(meta->dummy_1));
4369     kprintf("checksum            0x%04x\n", be16toh(meta->checksum));
4370     kprintf("dummy_2             0x%08x\n", be32toh(meta->dummy_2));
4371     kprintf("dummy_3             0x%08x\n", be32toh(meta->dummy_3));
4372     kprintf("flags               0x%08x\n", be32toh(meta->flags));
4373     kprintf("timestamp           0x%08x\n", be32toh(meta->timestamp));
4374     kprintf("dummy_4             0x%08x 0x%08x 0x%08x 0x%08x\n",
4375            be32toh(meta->dummy_4[0]), be32toh(meta->dummy_4[1]),
4376            be32toh(meta->dummy_4[2]), be32toh(meta->dummy_4[3]));
4377     kprintf("dummy_5             0x%08x 0x%08x 0x%08x 0x%08x\n",
4378            be32toh(meta->dummy_5[0]), be32toh(meta->dummy_5[1]),
4379            be32toh(meta->dummy_5[2]), be32toh(meta->dummy_5[3]));
4380
4381     for (i = 0; i < be16toh(meta->total_configs); i++) {
4382         kprintf("    %d   total_disks  %u\n", i,
4383                be16toh(meta->configs[i].disk_number));
4384         kprintf("    %d   generation   %u\n", i,
4385                be16toh(meta->configs[i].generation));
4386         kprintf("    %d   magic_0      0x%08x\n", i,
4387                be32toh(meta->configs[i].magic_0));
4388         kprintf("    %d   dummy_0      0x%02x\n", i, meta->configs[i].dummy_0);
4389         kprintf("    %d   type         %s\n", i,
4390                ata_raid_adaptec_type(meta->configs[i].type));
4391         kprintf("    %d   dummy_1      0x%02x\n", i, meta->configs[i].dummy_1);
4392         kprintf("    %d   flags        %d\n", i,
4393                be32toh(meta->configs[i].flags));
4394         kprintf("    %d   dummy_2      0x%02x\n", i, meta->configs[i].dummy_2);
4395         kprintf("    %d   dummy_3      0x%02x\n", i, meta->configs[i].dummy_3);
4396         kprintf("    %d   dummy_4      0x%02x\n", i, meta->configs[i].dummy_4);
4397         kprintf("    %d   dummy_5      0x%02x\n", i, meta->configs[i].dummy_5);
4398         kprintf("    %d   disk_number  %u\n", i,
4399                be32toh(meta->configs[i].disk_number));
4400         kprintf("    %d   dummy_6      0x%08x\n", i,
4401                be32toh(meta->configs[i].dummy_6));
4402         kprintf("    %d   sectors      %u\n", i,
4403                be32toh(meta->configs[i].sectors));
4404         kprintf("    %d   stripe_shift %u\n", i,
4405                be16toh(meta->configs[i].stripe_shift));
4406         kprintf("    %d   dummy_7      0x%08x\n", i,
4407                be32toh(meta->configs[i].dummy_7));
4408         kprintf("    %d   dummy_8      0x%08x 0x%08x 0x%08x 0x%08x\n", i,
4409                be32toh(meta->configs[i].dummy_8[0]),
4410                be32toh(meta->configs[i].dummy_8[1]),
4411                be32toh(meta->configs[i].dummy_8[2]),
4412                be32toh(meta->configs[i].dummy_8[3]));
4413         kprintf("    %d   name         <%s>\n", i, meta->configs[i].name);
4414     }
4415     kprintf("magic_1             <0x%08x>\n", be32toh(meta->magic_1));
4416     kprintf("magic_2             <0x%08x>\n", be32toh(meta->magic_2));
4417     kprintf("magic_3             <0x%08x>\n", be32toh(meta->magic_3));
4418     kprintf("magic_4             <0x%08x>\n", be32toh(meta->magic_4));
4419     kprintf("=================================================\n");
4420 }
4421
4422 static char *
4423 ata_raid_hptv2_type(int type)
4424 {
4425     static char buffer[16];
4426
4427     switch (type) {
4428     case HPTV2_T_RAID0:         return "RAID0";
4429     case HPTV2_T_RAID1:         return "RAID1";
4430     case HPTV2_T_RAID01_RAID0:  return "RAID01_RAID0";
4431     case HPTV2_T_SPAN:          return "SPAN";
4432     case HPTV2_T_RAID_3:        return "RAID3";
4433     case HPTV2_T_RAID_5:        return "RAID5";
4434     case HPTV2_T_JBOD:          return "JBOD";
4435     case HPTV2_T_RAID01_RAID1:  return "RAID01_RAID1";
4436     default:            ksprintf(buffer, "UNKNOWN 0x%02x", type);
4437                         return buffer;
4438     }
4439 }
4440
4441 static void
4442 ata_raid_hptv2_print_meta(struct hptv2_raid_conf *meta)
4443 {
4444     int i;
4445
4446     kprintf("****** ATA Highpoint V2 RocketRAID Metadata *****\n");
4447     kprintf("magic               0x%08x\n", meta->magic);
4448     kprintf("magic_0             0x%08x\n", meta->magic_0);
4449     kprintf("magic_1             0x%08x\n", meta->magic_1);
4450     kprintf("order               0x%08x\n", meta->order);
4451     kprintf("array_width         %u\n", meta->array_width);
4452     kprintf("stripe_shift        %u\n", meta->stripe_shift);
4453     kprintf("type                %s\n", ata_raid_hptv2_type(meta->type));
4454     kprintf("disk_number         %u\n", meta->disk_number);
4455     kprintf("total_sectors       %u\n", meta->total_sectors);
4456     kprintf("disk_mode           0x%08x\n", meta->disk_mode);
4457     kprintf("boot_mode           0x%08x\n", meta->boot_mode);
4458     kprintf("boot_disk           0x%02x\n", meta->boot_disk);
4459     kprintf("boot_protect        0x%02x\n", meta->boot_protect);
4460     kprintf("log_entries         0x%02x\n", meta->error_log_entries);
4461     kprintf("log_index           0x%02x\n", meta->error_log_index);
4462     if (meta->error_log_entries) {
4463         kprintf("    timestamp  reason disk  status  sectors lba\n");
4464         for (i = meta->error_log_index;
4465              i < meta->error_log_index + meta->error_log_entries; i++)
4466             kprintf("    0x%08x  0x%02x  0x%02x  0x%02x    0x%02x    0x%08x\n",
4467                    meta->errorlog[i%32].timestamp,
4468                    meta->errorlog[i%32].reason,
4469                    meta->errorlog[i%32].disk, meta->errorlog[i%32].status,
4470                    meta->errorlog[i%32].sectors, meta->errorlog[i%32].lba);
4471     }
4472     kprintf("rebuild_lba         0x%08x\n", meta->rebuild_lba);
4473     kprintf("dummy_1             0x%02x\n", meta->dummy_1);
4474     kprintf("name_1              <%.15s>\n", meta->name_1);
4475     kprintf("dummy_2             0x%02x\n", meta->dummy_2);
4476     kprintf("name_2              <%.15s>\n", meta->name_2);
4477     kprintf("=================================================\n");
4478 }
4479
4480 static char *
4481 ata_raid_hptv3_type(int type)
4482 {
4483     static char buffer[16];
4484
4485     switch (type) {
4486     case HPTV3_T_SPARE: return "SPARE";
4487     case HPTV3_T_JBOD:  return "JBOD";
4488     case HPTV3_T_SPAN:  return "SPAN";
4489     case HPTV3_T_RAID0: return "RAID0";
4490     case HPTV3_T_RAID1: return "RAID1";
4491     case HPTV3_T_RAID3: return "RAID3";
4492     case HPTV3_T_RAID5: return "RAID5";
4493     default:            ksprintf(buffer, "UNKNOWN 0x%02x", type);
4494                         return buffer;
4495     }
4496 }
4497
4498 static void
4499 ata_raid_hptv3_print_meta(struct hptv3_raid_conf *meta)
4500 {
4501     int i;
4502
4503     kprintf("****** ATA Highpoint V3 RocketRAID Metadata *****\n");
4504     kprintf("magic               0x%08x\n", meta->magic);
4505     kprintf("magic_0             0x%08x\n", meta->magic_0);
4506     kprintf("checksum_0          0x%02x\n", meta->checksum_0);
4507     kprintf("mode                0x%02x\n", meta->mode);
4508     kprintf("user_mode           0x%02x\n", meta->user_mode);
4509     kprintf("config_entries      0x%02x\n", meta->config_entries);
4510     for (i = 0; i < meta->config_entries; i++) {
4511         kprintf("config %d:\n", i);
4512         kprintf("    total_sectors       %ju\n",
4513                meta->configs[0].total_sectors +
4514                ((u_int64_t)meta->configs_high[0].total_sectors << 32));
4515         kprintf("    type                %s\n",
4516                ata_raid_hptv3_type(meta->configs[i].type));
4517         kprintf("    total_disks         %u\n", meta->configs[i].total_disks);
4518         kprintf("    disk_number         %u\n", meta->configs[i].disk_number);
4519         kprintf("    stripe_shift        %u\n", meta->configs[i].stripe_shift);
4520         kprintf("    status              %b\n", meta->configs[i].status,
4521                "\20\2RAID5\1NEED_REBUILD\n");
4522         kprintf("    critical_disks      %u\n", meta->configs[i].critical_disks);
4523         kprintf("    rebuild_lba         %ju\n",
4524                meta->configs_high[0].rebuild_lba +
4525                ((u_int64_t)meta->configs_high[0].rebuild_lba << 32));
4526     }
4527     kprintf("name                <%.16s>\n", meta->name);
4528     kprintf("timestamp           0x%08x\n", meta->timestamp);
4529     kprintf("description         <%.16s>\n", meta->description);
4530     kprintf("creator             <%.16s>\n", meta->creator);
4531     kprintf("checksum_1          0x%02x\n", meta->checksum_1);
4532     kprintf("dummy_0             0x%02x\n", meta->dummy_0);
4533     kprintf("dummy_1             0x%02x\n", meta->dummy_1);
4534     kprintf("flags               %b\n", meta->flags,
4535            "\20\4RCACHE\3WCACHE\2NCQ\1TCQ\n");
4536     kprintf("=================================================\n");
4537 }
4538
4539 static char *
4540 ata_raid_intel_type(int type)
4541 {
4542     static char buffer[16];
4543
4544     switch (type) {
4545     case INTEL_T_RAID0: return "RAID0";
4546     case INTEL_T_RAID1: return "RAID1";
4547     case INTEL_T_RAID5: return "RAID5";
4548     default:            ksprintf(buffer, "UNKNOWN 0x%02x", type);
4549                         return buffer;
4550     }
4551 }
4552
4553 static void
4554 ata_raid_intel_print_meta(struct intel_raid_conf *meta)
4555 {
4556     struct intel_raid_mapping *map;
4557     int i, j;
4558
4559     kprintf("********* ATA Intel MatrixRAID Metadata *********\n");
4560     kprintf("intel_id            <%.24s>\n", meta->intel_id);
4561     kprintf("version             <%.6s>\n", meta->version);
4562     kprintf("checksum            0x%08x\n", meta->checksum);
4563     kprintf("config_size         0x%08x\n", meta->config_size);
4564     kprintf("config_id           0x%08x\n", meta->config_id);
4565     kprintf("generation          0x%08x\n", meta->generation);
4566     kprintf("total_disks         %u\n", meta->total_disks);
4567     kprintf("total_volumes       %u\n", meta->total_volumes);
4568     kprintf("DISK#   serial disk_sectors disk_id flags\n");
4569     for (i = 0; i < meta->total_disks; i++ ) {
4570         kprintf("    %d   <%.16s> %u 0x%08x 0x%08x\n", i,
4571                meta->disk[i].serial, meta->disk[i].sectors,
4572                meta->disk[i].id, meta->disk[i].flags);
4573     }
4574     map = (struct intel_raid_mapping *)&meta->disk[meta->total_disks];
4575     for (j = 0; j < meta->total_volumes; j++) {
4576         kprintf("name                %.16s\n", map->name);
4577         kprintf("total_sectors       %ju\n", map->total_sectors);
4578         kprintf("state               %u\n", map->state);
4579         kprintf("reserved            %u\n", map->reserved);
4580         kprintf("offset              %u\n", map->offset);
4581         kprintf("disk_sectors        %u\n", map->disk_sectors);
4582         kprintf("stripe_count        %u\n", map->stripe_count);
4583         kprintf("stripe_sectors      %u\n", map->stripe_sectors);
4584         kprintf("status              %u\n", map->status);
4585         kprintf("type                %s\n", ata_raid_intel_type(map->type));
4586         kprintf("total_disks         %u\n", map->total_disks);
4587         kprintf("magic[0]            0x%02x\n", map->magic[0]);
4588         kprintf("magic[1]            0x%02x\n", map->magic[1]);
4589         kprintf("magic[2]            0x%02x\n", map->magic[2]);
4590         for (i = 0; i < map->total_disks; i++ ) {
4591             kprintf("    disk %d at disk_idx 0x%08x\n", i, map->disk_idx[i]);
4592         }
4593         map = (struct intel_raid_mapping *)&map->disk_idx[map->total_disks];
4594     }
4595     kprintf("=================================================\n");
4596 }
4597
4598 static char *
4599 ata_raid_ite_type(int type)
4600 {
4601     static char buffer[16];
4602
4603     switch (type) {
4604     case ITE_T_RAID0:   return "RAID0";
4605     case ITE_T_RAID1:   return "RAID1";
4606     case ITE_T_RAID01:  return "RAID0+1";
4607     case ITE_T_SPAN:    return "SPAN";
4608     default:            ksprintf(buffer, "UNKNOWN 0x%02x", type);
4609                         return buffer;
4610     }
4611 }
4612
4613 static void
4614 ata_raid_ite_print_meta(struct ite_raid_conf *meta)
4615 {
4616     kprintf("*** ATA Integrated Technology Express Metadata **\n");
4617     kprintf("ite_id              <%.40s>\n", meta->ite_id);
4618     kprintf("timestamp_0         %04x/%02x/%02x %02x:%02x:%02x.%02x\n",
4619            *((u_int16_t *)meta->timestamp_0), meta->timestamp_0[2],
4620            meta->timestamp_0[3], meta->timestamp_0[5], meta->timestamp_0[4],
4621            meta->timestamp_0[7], meta->timestamp_0[6]);
4622     kprintf("total_sectors       %jd\n", meta->total_sectors);
4623     kprintf("type                %s\n", ata_raid_ite_type(meta->type));
4624     kprintf("stripe_1kblocks     %u\n", meta->stripe_1kblocks);
4625     kprintf("timestamp_1         %04x/%02x/%02x %02x:%02x:%02x.%02x\n",
4626            *((u_int16_t *)meta->timestamp_1), meta->timestamp_1[2],
4627            meta->timestamp_1[3], meta->timestamp_1[5], meta->timestamp_1[4],
4628            meta->timestamp_1[7], meta->timestamp_1[6]);
4629     kprintf("stripe_sectors      %u\n", meta->stripe_sectors);
4630     kprintf("array_width         %u\n", meta->array_width);
4631     kprintf("disk_number         %u\n", meta->disk_number);
4632     kprintf("disk_sectors        %u\n", meta->disk_sectors);
4633     kprintf("=================================================\n");
4634 }
4635
4636 static char *
4637 ata_raid_jmicron_type(int type)
4638 {
4639     static char buffer[16];
4640
4641     switch (type) {
4642     case JM_T_RAID0:    return "RAID0";
4643     case JM_T_RAID1:    return "RAID1";
4644     case JM_T_RAID01:   return "RAID0+1";
4645     case JM_T_JBOD:     return "JBOD";
4646     case JM_T_RAID5:    return "RAID5";
4647     default:            ksprintf(buffer, "UNKNOWN 0x%02x", type);
4648                         return buffer;
4649     }
4650 }
4651
4652 static void
4653 ata_raid_jmicron_print_meta(struct jmicron_raid_conf *meta)
4654 {
4655     int i;
4656
4657     kprintf("***** ATA JMicron Technology Corp Metadata ******\n");
4658     kprintf("signature           %.2s\n", meta->signature);
4659     kprintf("version             0x%04x\n", meta->version);
4660     kprintf("checksum            0x%04x\n", meta->checksum);
4661     kprintf("disk_id             0x%08x\n", meta->disk_id);
4662     kprintf("offset              0x%08x\n", meta->offset);
4663     kprintf("disk_sectors_low    0x%08x\n", meta->disk_sectors_low);
4664     kprintf("disk_sectors_high   0x%08x\n", meta->disk_sectors_high);
4665     kprintf("name                %.16s\n", meta->name);
4666     kprintf("type                %s\n", ata_raid_jmicron_type(meta->type));
4667     kprintf("stripe_shift        %d\n", meta->stripe_shift);
4668     kprintf("flags               0x%04x\n", meta->flags);
4669     kprintf("spare:\n");
4670     for (i=0; i < 2 && meta->spare[i]; i++)
4671         kprintf("    %d                  0x%08x\n", i, meta->spare[i]);
4672     kprintf("disks:\n");
4673     for (i=0; i < 8 && meta->disks[i]; i++)
4674         kprintf("    %d                  0x%08x\n", i, meta->disks[i]);
4675     kprintf("=================================================\n");
4676 }
4677
4678 static char *
4679 ata_raid_lsiv2_type(int type)
4680 {
4681     static char buffer[16];
4682
4683     switch (type) {
4684     case LSIV2_T_RAID0: return "RAID0";
4685     case LSIV2_T_RAID1: return "RAID1";
4686     case LSIV2_T_SPARE: return "SPARE";
4687     default:            ksprintf(buffer, "UNKNOWN 0x%02x", type);
4688                         return buffer;
4689     }
4690 }
4691
4692 static void
4693 ata_raid_lsiv2_print_meta(struct lsiv2_raid_conf *meta)
4694 {
4695     int i;
4696
4697     kprintf("******* ATA LSILogic V2 MegaRAID Metadata *******\n");
4698     kprintf("lsi_id              <%s>\n", meta->lsi_id);
4699     kprintf("dummy_0             0x%02x\n", meta->dummy_0);
4700     kprintf("flags               0x%02x\n", meta->flags);
4701     kprintf("version             0x%04x\n", meta->version);
4702     kprintf("config_entries      0x%02x\n", meta->config_entries);
4703     kprintf("raid_count          0x%02x\n", meta->raid_count);
4704     kprintf("total_disks         0x%02x\n", meta->total_disks);
4705     kprintf("dummy_1             0x%02x\n", meta->dummy_1);
4706     kprintf("dummy_2             0x%04x\n", meta->dummy_2);
4707     for (i = 0; i < meta->config_entries; i++) {
4708         kprintf("    type             %s\n",
4709                ata_raid_lsiv2_type(meta->configs[i].raid.type));
4710         kprintf("    dummy_0          %02x\n", meta->configs[i].raid.dummy_0);
4711         kprintf("    stripe_sectors   %u\n",
4712                meta->configs[i].raid.stripe_sectors);
4713         kprintf("    array_width      %u\n",
4714                meta->configs[i].raid.array_width);
4715         kprintf("    disk_count       %u\n", meta->configs[i].raid.disk_count);
4716         kprintf("    config_offset    %u\n",
4717                meta->configs[i].raid.config_offset);
4718         kprintf("    dummy_1          %u\n", meta->configs[i].raid.dummy_1);
4719         kprintf("    flags            %02x\n", meta->configs[i].raid.flags);
4720         kprintf("    total_sectors    %u\n",
4721                meta->configs[i].raid.total_sectors);
4722     }
4723     kprintf("disk_number         0x%02x\n", meta->disk_number);
4724     kprintf("raid_number         0x%02x\n", meta->raid_number);
4725     kprintf("timestamp           0x%08x\n", meta->timestamp);
4726     kprintf("=================================================\n");
4727 }
4728
4729 static char *
4730 ata_raid_lsiv3_type(int type)
4731 {
4732     static char buffer[16];
4733
4734     switch (type) {
4735     case LSIV3_T_RAID0: return "RAID0";
4736     case LSIV3_T_RAID1: return "RAID1";
4737     default:            ksprintf(buffer, "UNKNOWN 0x%02x", type);
4738                         return buffer;
4739     }
4740 }
4741
4742 static void
4743 ata_raid_lsiv3_print_meta(struct lsiv3_raid_conf *meta)
4744 {
4745     int i;
4746
4747     kprintf("******* ATA LSILogic V3 MegaRAID Metadata *******\n");
4748     kprintf("lsi_id              <%.6s>\n", meta->lsi_id);
4749     kprintf("dummy_0             0x%04x\n", meta->dummy_0);
4750     kprintf("version             0x%04x\n", meta->version);
4751     kprintf("dummy_0             0x%04x\n", meta->dummy_1);
4752     kprintf("RAID configs:\n");
4753     for (i = 0; i < 8; i++) {
4754         if (meta->raid[i].total_disks) {
4755             kprintf("%02d  stripe_pages       %u\n", i,
4756                    meta->raid[i].stripe_pages);
4757             kprintf("%02d  type               %s\n", i,
4758                    ata_raid_lsiv3_type(meta->raid[i].type));
4759             kprintf("%02d  total_disks        %u\n", i,
4760                    meta->raid[i].total_disks);
4761             kprintf("%02d  array_width        %u\n", i,
4762                    meta->raid[i].array_width);
4763             kprintf("%02d  sectors            %u\n", i, meta->raid[i].sectors);
4764             kprintf("%02d  offset             %u\n", i, meta->raid[i].offset);
4765             kprintf("%02d  device             0x%02x\n", i,
4766                    meta->raid[i].device);
4767         }
4768     }
4769     kprintf("DISK configs:\n");
4770     for (i = 0; i < 6; i++) {
4771             if (meta->disk[i].disk_sectors) {
4772             kprintf("%02d  disk_sectors       %u\n", i,
4773                    meta->disk[i].disk_sectors);
4774             kprintf("%02d  flags              0x%02x\n", i, meta->disk[i].flags);
4775         }
4776     }
4777     kprintf("device              0x%02x\n", meta->device);
4778     kprintf("timestamp           0x%08x\n", meta->timestamp);
4779     kprintf("checksum_1          0x%02x\n", meta->checksum_1);
4780     kprintf("=================================================\n");
4781 }
4782
4783 static char *
4784 ata_raid_nvidia_type(int type)
4785 {
4786     static char buffer[16];
4787
4788     switch (type) {
4789     case NV_T_SPAN:     return "SPAN";
4790     case NV_T_RAID0:    return "RAID0";
4791     case NV_T_RAID1:    return "RAID1";
4792     case NV_T_RAID3:    return "RAID3";
4793     case NV_T_RAID5:    return "RAID5";
4794     case NV_T_RAID01:   return "RAID0+1";
4795     default:            ksprintf(buffer, "UNKNOWN 0x%02x", type);
4796                         return buffer;
4797     }
4798 }
4799
4800 static void
4801 ata_raid_nvidia_print_meta(struct nvidia_raid_conf *meta)
4802 {
4803     kprintf("******** ATA nVidia MediaShield Metadata ********\n");
4804     kprintf("nvidia_id           <%.8s>\n", meta->nvidia_id);
4805     kprintf("config_size         %d\n", meta->config_size);
4806     kprintf("checksum            0x%08x\n", meta->checksum);
4807     kprintf("version             0x%04x\n", meta->version);
4808     kprintf("disk_number         %d\n", meta->disk_number);
4809     kprintf("dummy_0             0x%02x\n", meta->dummy_0);
4810     kprintf("total_sectors       %d\n", meta->total_sectors);
4811     kprintf("sectors_size        %d\n", meta->sector_size);
4812     kprintf("serial              %.16s\n", meta->serial);
4813     kprintf("revision            %.4s\n", meta->revision);
4814     kprintf("dummy_1             0x%08x\n", meta->dummy_1);
4815     kprintf("magic_0             0x%08x\n", meta->magic_0);
4816     kprintf("magic_1             0x%016jx\n", meta->magic_1);
4817     kprintf("magic_2             0x%016jx\n", meta->magic_2);
4818     kprintf("flags               0x%02x\n", meta->flags);
4819     kprintf("array_width         %d\n", meta->array_width);
4820     kprintf("total_disks         %d\n", meta->total_disks);
4821     kprintf("dummy_2             0x%02x\n", meta->dummy_2);
4822     kprintf("type                %s\n", ata_raid_nvidia_type(meta->type));
4823     kprintf("dummy_3             0x%04x\n", meta->dummy_3);
4824     kprintf("stripe_sectors      %d\n", meta->stripe_sectors);
4825     kprintf("stripe_bytes        %d\n", meta->stripe_bytes);
4826     kprintf("stripe_shift        %d\n", meta->stripe_shift);
4827     kprintf("stripe_mask         0x%08x\n", meta->stripe_mask);
4828     kprintf("stripe_sizesectors  %d\n", meta->stripe_sizesectors);
4829     kprintf("stripe_sizebytes    %d\n", meta->stripe_sizebytes);
4830     kprintf("rebuild_lba         %d\n", meta->rebuild_lba);
4831     kprintf("dummy_4             0x%08x\n", meta->dummy_4);
4832     kprintf("dummy_5             0x%08x\n", meta->dummy_5);
4833     kprintf("status              0x%08x\n", meta->status);
4834     kprintf("=================================================\n");
4835 }
4836
4837 static char *
4838 ata_raid_promise_type(int type)
4839 {
4840     static char buffer[16];
4841
4842     switch (type) {
4843     case PR_T_RAID0:    return "RAID0";
4844     case PR_T_RAID1:    return "RAID1";
4845     case PR_T_RAID3:    return "RAID3";
4846     case PR_T_RAID5:    return "RAID5";
4847     case PR_T_SPAN:     return "SPAN";
4848     default:            ksprintf(buffer, "UNKNOWN 0x%02x", type);
4849                         return buffer;
4850     }
4851 }
4852
4853 static void
4854 ata_raid_promise_print_meta(struct promise_raid_conf *meta)
4855 {
4856     int i;
4857
4858     kprintf("********* ATA Promise FastTrak Metadata *********\n");
4859     kprintf("promise_id          <%s>\n", meta->promise_id);
4860     kprintf("dummy_0             0x%08x\n", meta->dummy_0);
4861     kprintf("magic_0             0x%016jx\n", meta->magic_0);
4862     kprintf("magic_1             0x%04x\n", meta->magic_1);
4863     kprintf("magic_2             0x%08x\n", meta->magic_2);
4864     kprintf("integrity           0x%08x %b\n", meta->raid.integrity,
4865                 meta->raid.integrity, "\20\10VALID\n" );
4866     kprintf("flags               0x%02x %b\n",
4867            meta->raid.flags, meta->raid.flags,
4868            "\20\10READY\7DOWN\6REDIR\5DUPLICATE\4SPARE"
4869            "\3ASSIGNED\2ONLINE\1VALID\n");
4870     kprintf("disk_number         %d\n", meta->raid.disk_number);
4871     kprintf("channel             0x%02x\n", meta->raid.channel);
4872     kprintf("device              0x%02x\n", meta->raid.device);
4873     kprintf("magic_0             0x%016jx\n", meta->raid.magic_0);
4874     kprintf("disk_offset         %u\n", meta->raid.disk_offset);
4875     kprintf("disk_sectors        %u\n", meta->raid.disk_sectors);
4876     kprintf("rebuild_lba         0x%08x\n", meta->raid.rebuild_lba);
4877     kprintf("generation          0x%04x\n", meta->raid.generation);
4878     kprintf("status              0x%02x %b\n",
4879             meta->raid.status, meta->raid.status,
4880            "\20\6MARKED\5DEGRADED\4READY\3INITED\2ONLINE\1VALID\n");
4881     kprintf("type                %s\n", ata_raid_promise_type(meta->raid.type));
4882     kprintf("total_disks         %u\n", meta->raid.total_disks);
4883     kprintf("stripe_shift        %u\n", meta->raid.stripe_shift);
4884     kprintf("array_width         %u\n", meta->raid.array_width);
4885     kprintf("array_number        %u\n", meta->raid.array_number);
4886     kprintf("total_sectors       %u\n", meta->raid.total_sectors);
4887     kprintf("cylinders           %u\n", meta->raid.cylinders);
4888     kprintf("heads               %u\n", meta->raid.heads);
4889     kprintf("sectors             %u\n", meta->raid.sectors);
4890     kprintf("magic_1             0x%016jx\n", meta->raid.magic_1);
4891     kprintf("DISK#   flags dummy_0 channel device  magic_0\n");
4892     for (i = 0; i < 8; i++) {
4893         kprintf("  %d    %b    0x%02x  0x%02x  0x%02x  ",
4894                i, meta->raid.disk[i].flags,
4895                "\20\10READY\7DOWN\6REDIR\5DUPLICATE\4SPARE"
4896                "\3ASSIGNED\2ONLINE\1VALID\n", meta->raid.disk[i].dummy_0,
4897                meta->raid.disk[i].channel, meta->raid.disk[i].device);
4898         kprintf("0x%016jx\n", meta->raid.disk[i].magic_0);
4899     }
4900     kprintf("checksum            0x%08x\n", meta->checksum);
4901     kprintf("=================================================\n");
4902 }
4903
4904 static char *
4905 ata_raid_sii_type(int type)
4906 {
4907     static char buffer[16];
4908
4909     switch (type) {
4910     case SII_T_RAID0:   return "RAID0";
4911     case SII_T_RAID1:   return "RAID1";
4912     case SII_T_RAID01:  return "RAID0+1";
4913     case SII_T_SPARE:   return "SPARE";
4914     default:            ksprintf(buffer, "UNKNOWN 0x%02x", type);
4915                         return buffer;
4916     }
4917 }
4918
4919 static void
4920 ata_raid_sii_print_meta(struct sii_raid_conf *meta)
4921 {
4922     kprintf("******* ATA Silicon Image Medley Metadata *******\n");
4923     kprintf("total_sectors       %ju\n", meta->total_sectors);
4924     kprintf("dummy_0             0x%04x\n", meta->dummy_0);
4925     kprintf("dummy_1             0x%04x\n", meta->dummy_1);
4926     kprintf("controller_pci_id   0x%08x\n", meta->controller_pci_id);
4927     kprintf("version_minor       0x%04x\n", meta->version_minor);
4928     kprintf("version_major       0x%04x\n", meta->version_major);
4929     kprintf("timestamp           20%02x/%02x/%02x %02x:%02x:%02x\n",
4930            meta->timestamp[5], meta->timestamp[4], meta->timestamp[3],
4931            meta->timestamp[2], meta->timestamp[1], meta->timestamp[0]);
4932     kprintf("stripe_sectors      %u\n", meta->stripe_sectors);
4933     kprintf("dummy_2             0x%04x\n", meta->dummy_2);
4934     kprintf("disk_number         %u\n", meta->disk_number);
4935     kprintf("type                %s\n", ata_raid_sii_type(meta->type));
4936     kprintf("raid0_disks         %u\n", meta->raid0_disks);
4937     kprintf("raid0_ident         %u\n", meta->raid0_ident);
4938     kprintf("raid1_disks         %u\n", meta->raid1_disks);
4939     kprintf("raid1_ident         %u\n", meta->raid1_ident);
4940     kprintf("rebuild_lba         %ju\n", meta->rebuild_lba);
4941     kprintf("generation          0x%08x\n", meta->generation);
4942     kprintf("status              0x%02x %b\n",
4943             meta->status, meta->status,
4944            "\20\1READY\n");
4945     kprintf("base_raid1_position %02x\n", meta->base_raid1_position);
4946     kprintf("base_raid0_position %02x\n", meta->base_raid0_position);
4947     kprintf("position            %02x\n", meta->position);
4948     kprintf("dummy_3             %04x\n", meta->dummy_3);
4949     kprintf("name                <%.16s>\n", meta->name);
4950     kprintf("checksum_0          0x%04x\n", meta->checksum_0);
4951     kprintf("checksum_1          0x%04x\n", meta->checksum_1);
4952     kprintf("=================================================\n");
4953 }
4954
4955 static char *
4956 ata_raid_sis_type(int type)
4957 {
4958     static char buffer[16];
4959
4960     switch (type) {
4961     case SIS_T_JBOD:    return "JBOD";
4962     case SIS_T_RAID0:   return "RAID0";
4963     case SIS_T_RAID1:   return "RAID1";
4964     default:            ksprintf(buffer, "UNKNOWN 0x%02x", type);
4965                         return buffer;
4966     }
4967 }
4968
4969 static void
4970 ata_raid_sis_print_meta(struct sis_raid_conf *meta)
4971 {
4972     kprintf("**** ATA Silicon Integrated Systems Metadata ****\n");
4973     kprintf("magic               0x%04x\n", meta->magic);
4974     kprintf("disks               0x%02x\n", meta->disks);
4975     kprintf("type                %s\n",
4976            ata_raid_sis_type(meta->type_total_disks & SIS_T_MASK));
4977     kprintf("total_disks         %u\n", meta->type_total_disks & SIS_D_MASK);
4978     kprintf("dummy_0             0x%08x\n", meta->dummy_0);
4979     kprintf("controller_pci_id   0x%08x\n", meta->controller_pci_id);
4980     kprintf("stripe_sectors      %u\n", meta->stripe_sectors);
4981     kprintf("dummy_1             0x%04x\n", meta->dummy_1);
4982     kprintf("timestamp           0x%08x\n", meta->timestamp);
4983     kprintf("model               %.40s\n", meta->model);
4984     kprintf("disk_number         %u\n", meta->disk_number);
4985     kprintf("dummy_2             0x%02x 0x%02x 0x%02x\n",
4986            meta->dummy_2[0], meta->dummy_2[1], meta->dummy_2[2]);
4987     kprintf("=================================================\n");
4988 }
4989
4990 static char *
4991 ata_raid_via_type(int type)
4992 {
4993     static char buffer[16];
4994
4995     switch (type) {
4996     case VIA_T_RAID0:   return "RAID0";
4997     case VIA_T_RAID1:   return "RAID1";
4998     case VIA_T_RAID5:   return "RAID5";
4999     case VIA_T_RAID01:  return "RAID0+1";
5000     case VIA_T_SPAN:    return "SPAN";
5001     default:            ksprintf(buffer, "UNKNOWN 0x%02x", type);
5002                         return buffer;
5003     }
5004 }
5005
5006 static void
5007 ata_raid_via_print_meta(struct via_raid_conf *meta)
5008 {
5009     int i;
5010
5011     kprintf("*************** ATA VIA Metadata ****************\n");
5012     kprintf("magic               0x%02x\n", meta->magic);
5013     kprintf("dummy_0             0x%02x\n", meta->dummy_0);
5014     kprintf("type                %s\n",
5015            ata_raid_via_type(meta->type & VIA_T_MASK));
5016     kprintf("bootable            %d\n", meta->type & VIA_T_BOOTABLE);
5017     kprintf("unknown             %d\n", meta->type & VIA_T_UNKNOWN);
5018     kprintf("disk_index          0x%02x\n", meta->disk_index);
5019     kprintf("stripe_layout       0x%02x\n", meta->stripe_layout);
5020     kprintf(" stripe_disks       %d\n", meta->stripe_layout & VIA_L_DISKS);
5021     kprintf(" stripe_sectors     %d\n",
5022            0x08 << ((meta->stripe_layout & VIA_L_MASK) >> VIA_L_SHIFT));
5023     kprintf("disk_sectors        %ju\n", meta->disk_sectors);
5024     kprintf("disk_id             0x%08x\n", meta->disk_id);
5025     kprintf("DISK#   disk_id\n");
5026     for (i = 0; i < 8; i++) {
5027         if (meta->disks[i])
5028             kprintf("  %d    0x%08x\n", i, meta->disks[i]);
5029     }
5030     kprintf("checksum            0x%02x\n", meta->checksum);
5031     kprintf("=================================================\n");
5032 }