sys/dev/agp/agp_ati.c

   1 /*-
   2  * Copyright (c) 2005 Eric Anholt
   3  * All rights reserved.
   4  *
   5  * Redistribution and use in source and binary forms, with or without
   6  * modification, are permitted provided that the following conditions
   7  * are met:
   8  * 1. Redistributions of source code must retain the above copyright
   9  *    notice, this list of conditions and the following disclaimer.
  10  * 2. Redistributions in binary form must reproduce the above copyright
  11  *    notice, this list of conditions and the following disclaimer in the
  12  *    documentation and/or other materials provided with the distribution.
  13  *
  14  * THIS SOFTWARE IS PROVIDED BY THE AUTHOR AND CONTRIBUTORS ``AS IS'' AND
  15  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  16  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
  17  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
  18  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
  19  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
  20  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
  21  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
  22  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
  23  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
  24  * SUCH DAMAGE.
  25  *
  26  * Based on reading the Linux 2.6.8.1 driver by Dave Jones.
  27  *
  28  * $FreeBSD: src/sys/pci/agp_ati.c,v 1.3 2006/09/01 02:22:17 anholt Exp $
  29  * $DragonFly: src/sys/dev/agp/agp_ati.c,v 1.1 2007/09/12 08:31:43 hasso Exp $
  30  */
  31
  32 #include <sys/cdefs.h>
  33
  34 #include "opt_bus.h"
  35
  36 #include <sys/param.h>
  37 #include <sys/systm.h>
  38 #include <sys/malloc.h>
  39 #include <sys/kernel.h>
  40 #include <sys/module.h>
  41 #include <sys/bus.h>
  42 #include <sys/lock.h>
  43 #include <sys/proc.h>
  44
  45 #include <bus/pci/pcivar.h>
  46 #include <bus/pci/pcireg.h>
  47 #include "agppriv.h"
  48 #include "agpreg.h"
  49
  50 #include <vm/vm.h>
  51 #include <vm/vm_object.h>
  52 #include <vm/pmap.h>
  53 #include <sys/bus.h>
  54 #include <sys/rman.h>
  55
  56 MALLOC_DECLARE(M_AGP);
  57
  58 #define READ4(off)      bus_space_read_4(sc->bst, sc->bsh, off)
  59 #define WRITE4(off,v)   bus_space_write_4(sc->bst, sc->bsh, off, v)
  60
  61 struct agp_ati_softc {
  62         struct agp_softc agp;
  63         struct resource *regs;  /* memory mapped control registers */
  64         bus_space_tag_t bst;    /* bus_space tag */
  65         bus_space_handle_t bsh; /* bus_space handle */
  66         u_int32_t       initial_aperture; /* aperture size at startup */
  67         char            is_rs300;
  68
  69         /* The GATT */
  70         u_int32_t       ag_entries;
  71         u_int32_t      *ag_virtual;     /* virtual address of gatt */
  72         u_int32_t      *ag_vdir;        /* virtual address of page dir */
  73         vm_offset_t     ag_pdir;        /* physical address of page dir */
  74 };
  75
  76
  77 static const char*
  78 agp_ati_match(device_t dev)
  79 {
  80         if (pci_get_class(dev) != PCIC_BRIDGE ||
  81             pci_get_subclass(dev) != PCIS_BRIDGE_HOST)
  82                 return NULL;
  83
  84         if (agp_find_caps(dev) == 0)
  85                 return NULL;
  86
  87         switch (pci_get_devid(dev)) {
  88         case 0xcab01002:
  89                 return ("ATI RS100 AGP bridge");
  90         case 0xcab21002:
  91                 return ("ATI RS200 AGP bridge");
  92         case 0xcbb21002:
  93                 return ("ATI RS200M AGP bridge");
  94         case 0xcab31002:
  95                 return ("ATI RS250 AGP bridge");
  96         case 0x58301002:
  97                 return ("ATI RS300_100 AGP bridge");
  98         case 0x58311002:
  99                 return ("ATI RS300_133 AGP bridge");
 100         case 0x58321002:
 101                 return ("ATI RS300_166 AGP bridge");
 102         case 0x58331002:
 103                 return ("ATI RS300_200 AGP bridge");
 104         };
 105
 106         return NULL;
 107 }
 108
 109 static int
 110 agp_ati_probe(device_t dev)
 111 {
 112         const char *desc;
 113
 114         desc = agp_ati_match(dev);
 115         if (desc) {
 116                 device_verbose(dev);
 117                 device_set_desc(dev, desc);
 118                 return 0;
 119         }
 120
 121         return ENXIO;
 122 }
 123
 124 static int
 125 agp_ati_alloc_gatt(device_t dev)
 126 {
 127         struct agp_ati_softc *sc = device_get_softc(dev);
 128         u_int32_t apsize = AGP_GET_APERTURE(dev);
 129         u_int32_t entries = apsize >> AGP_PAGE_SHIFT;
 130         u_int32_t apbase_offset;
 131         int i;
 132
 133         /* Alloc the GATT -- pointers to pages of AGP memory */
 134         sc->ag_entries = entries;
 135         sc->ag_virtual = kmalloc(entries * sizeof(u_int32_t), M_AGP,
 136             M_NOWAIT | M_ZERO);
 137         if (sc->ag_virtual == NULL) {
 138                 if (bootverbose)
 139                         device_printf(dev, "aperture allocation failed\n");
 140                 return ENOMEM;
 141         }
 142
 143         /* Alloc the page directory -- pointers to each page of the GATT */
 144         sc->ag_vdir = kmalloc(AGP_PAGE_SIZE, M_AGP, M_NOWAIT | M_ZERO);
 145         if (sc->ag_vdir == NULL) {
 146                 if (bootverbose)
 147                         device_printf(dev, "pagedir allocation failed\n");
 148                 kfree(sc->ag_virtual, M_AGP);
 149                 return ENOMEM;
 150         }
 151         sc->ag_pdir = vtophys((vm_offset_t)sc->ag_vdir);
 152
 153         apbase_offset = pci_read_config(dev, AGP_APBASE, 4) >> 22;
 154         /* Fill in the pagedir's pointers to GATT pages */
 155         for (i = 0; i < sc->ag_entries / 1024; i++) {
 156                 vm_offset_t va;
 157                 vm_offset_t pa;
 158
 159                 va = ((vm_offset_t)sc->ag_virtual) + i * AGP_PAGE_SIZE;
 160                 pa = vtophys(va);
 161                 sc->ag_vdir[apbase_offset + i] = pa | 1;
 162         }
 163
 164         /*
 165          * Make sure the chipset can see everything.
 166          */
 167         agp_flush_cache();
 168
 169         return 0;
 170 }
 171
 172
 173 static int
 174 agp_ati_attach(device_t dev)
 175 {
 176         struct agp_ati_softc *sc = device_get_softc(dev);
 177         int error, rid;
 178         u_int32_t temp;
 179         u_int32_t apsize_reg, agpmode_reg;
 180
 181         error = agp_generic_attach(dev);
 182         if (error)
 183                 return error;
 184
 185         switch (pci_get_devid(dev)) {
 186         case 0xcab01002: /* ATI RS100 AGP bridge */
 187         case 0xcab21002: /* ATI RS200 AGP bridge */
 188         case 0xcbb21002: /* ATI RS200M AGP bridge */
 189         case 0xcab31002: /* ATI RS250 AGP bridge */
 190                 sc->is_rs300 = 0;
 191                 apsize_reg = ATI_RS100_APSIZE;
 192                 agpmode_reg = ATI_RS100_IG_AGPMODE;
 193                 break;
 194         case 0x58301002: /* ATI RS300_100 AGP bridge */
 195         case 0x58311002: /* ATI RS300_133 AGP bridge */
 196         case 0x58321002: /* ATI RS300_166 AGP bridge */
 197         case 0x58331002: /* ATI RS300_200 AGP bridge */
 198                 sc->is_rs300 = 1;
 199                 apsize_reg = ATI_RS300_APSIZE;
 200                 agpmode_reg = ATI_RS300_IG_AGPMODE;
 201                 break;
 202         default:
 203                 /* Unknown chipset */
 204                 return EINVAL;
 205         };
 206
 207         rid = ATI_GART_MMADDR;
 208         sc->regs = bus_alloc_resource_any(dev, SYS_RES_MEMORY, &rid, RF_ACTIVE);
 209         if (!sc->regs) {
 210                 agp_generic_detach(dev);
 211                 return ENOMEM;
 212         }
 213
 214         sc->bst = rman_get_bustag(sc->regs);
 215         sc->bsh = rman_get_bushandle(sc->regs);
 216
 217         sc->initial_aperture = AGP_GET_APERTURE(dev);
 218         if (sc->initial_aperture == 0) {
 219                 device_printf(dev, "bad initial aperture size, disabling\n");
 220                 return ENXIO;
 221         }
 222
 223         for (;;) {
 224                 if (agp_ati_alloc_gatt(dev) == 0)
 225                         break;
 226
 227                 /*
 228                  * Probably contigmalloc failure. Try reducing the
 229                  * aperture so that the gatt size reduces.
 230                  */
 231                 if (AGP_SET_APERTURE(dev, AGP_GET_APERTURE(dev) / 2))
 232                         return ENOMEM;
 233         }
 234
 235         temp = pci_read_config(dev, apsize_reg, 4);
 236         pci_write_config(dev, apsize_reg, temp | 1, 4);
 237
 238         pci_write_config(dev, agpmode_reg, 0x20000, 4);
 239
 240         WRITE4(ATI_GART_FEATURE_ID, 0x00060000);
 241
 242         temp = pci_read_config(dev, 4, 4);      /* XXX: Magic reg# */
 243         pci_write_config(dev, 4, temp | (1 << 14), 4);
 244
 245         WRITE4(ATI_GART_BASE, sc->ag_pdir);
 246
 247         AGP_FLUSH_TLB(dev);
 248
 249         return 0;
 250 }
 251
 252 static int
 253 agp_ati_detach(device_t dev)
 254 {
 255         struct agp_ati_softc *sc = device_get_softc(dev);
 256         int error;
 257         u_int32_t apsize_reg, temp;
 258
 259         if (sc->is_rs300)
 260                 apsize_reg = ATI_RS300_APSIZE;
 261         else
 262                 apsize_reg = ATI_RS100_APSIZE;
 263
 264         error = agp_generic_detach(dev);
 265         if (error)
 266                 return error;
 267
 268         /* Clear the GATT base */
 269         WRITE4(ATI_GART_BASE, 0);
 270
 271         /* Put the aperture back the way it started. */
 272         AGP_SET_APERTURE(dev, sc->initial_aperture);
 273
 274         temp = pci_read_config(dev, apsize_reg, 4);
 275         pci_write_config(dev, apsize_reg, temp & ~1, 4);
 276
 277         kfree(sc->ag_vdir, M_AGP);
 278         kfree(sc->ag_virtual, M_AGP);
 279
 280         bus_release_resource(dev, SYS_RES_MEMORY, ATI_GART_MMADDR, sc->regs);
 281
 282         return 0;
 283 }
 284
 285 static u_int32_t
 286 agp_ati_get_aperture(device_t dev)
 287 {
 288         struct agp_ati_softc *sc = device_get_softc(dev);
 289         int size_value;
 290
 291         if (sc->is_rs300)
 292                 size_value = pci_read_config(dev, ATI_RS300_APSIZE, 4);
 293         else
 294                 size_value = pci_read_config(dev, ATI_RS100_APSIZE, 4);
 295
 296         size_value = (size_value & 0x0000000e) >> 1;
 297         size_value = (32 * 1024 * 1024) << size_value;
 298
 299         return size_value;
 300 }
 301
 302 static int
 303 agp_ati_set_aperture(device_t dev, u_int32_t aperture)
 304 {
 305         struct agp_ati_softc *sc = device_get_softc(dev);
 306         int size_value;
 307         u_int32_t apsize_reg;
 308
 309         if (sc->is_rs300)
 310                 apsize_reg = ATI_RS300_APSIZE;
 311         else
 312                 apsize_reg = ATI_RS100_APSIZE;
 313
 314         size_value = pci_read_config(dev, apsize_reg, 4);
 315
 316         size_value &= ~0x0000000e;
 317         size_value |= (ffs(aperture / (32 * 1024 * 1024)) - 1) << 1;
 318
 319         pci_write_config(dev, apsize_reg, size_value, 4);
 320
 321         return 0;
 322 }
 323
 324 static int
 325 agp_ati_bind_page(device_t dev, int offset, vm_offset_t physical)
 326 {
 327         struct agp_ati_softc *sc = device_get_softc(dev);
 328
 329         if (offset < 0 || offset >= (sc->ag_entries << AGP_PAGE_SHIFT))
 330                 return EINVAL;
 331
 332         sc->ag_virtual[offset >> AGP_PAGE_SHIFT] = physical | 1;
 333
 334         return 0;
 335 }
 336
 337 static int
 338 agp_ati_unbind_page(device_t dev, int offset)
 339 {
 340         struct agp_ati_softc *sc = device_get_softc(dev);
 341
 342         if (offset < 0 || offset >= (sc->ag_entries << AGP_PAGE_SHIFT))
 343                 return EINVAL;
 344
 345         sc->ag_virtual[offset >> AGP_PAGE_SHIFT] = 0;
 346         return 0;
 347 }
 348
 349 static void
 350 agp_ati_flush_tlb(device_t dev)
 351 {
 352         struct agp_ati_softc *sc = device_get_softc(dev);
 353
 354         /* Set the cache invalidate bit and wait for the chipset to clear */
 355         WRITE4(ATI_GART_CACHE_CNTRL, 1);
 356         (void)READ4(ATI_GART_CACHE_CNTRL);
 357 }
 358
 359 static device_method_t agp_ati_methods[] = {
 360         /* Device interface */
 361         DEVMETHOD(device_probe,         agp_ati_probe),
 362         DEVMETHOD(device_attach,        agp_ati_attach),
 363         DEVMETHOD(device_detach,        agp_ati_detach),
 364         DEVMETHOD(device_shutdown,      bus_generic_shutdown),
 365         DEVMETHOD(device_suspend,       bus_generic_suspend),
 366         DEVMETHOD(device_resume,        bus_generic_resume),
 367
 368         /* AGP interface */
 369         DEVMETHOD(agp_get_aperture,     agp_ati_get_aperture),
 370         DEVMETHOD(agp_set_aperture,     agp_ati_set_aperture),
 371         DEVMETHOD(agp_bind_page,        agp_ati_bind_page),
 372         DEVMETHOD(agp_unbind_page,      agp_ati_unbind_page),
 373         DEVMETHOD(agp_flush_tlb,        agp_ati_flush_tlb),
 374         DEVMETHOD(agp_enable,           agp_generic_enable),
 375         DEVMETHOD(agp_alloc_memory,     agp_generic_alloc_memory),
 376         DEVMETHOD(agp_free_memory,      agp_generic_free_memory),
 377         DEVMETHOD(agp_bind_memory,      agp_generic_bind_memory),
 378         DEVMETHOD(agp_unbind_memory,    agp_generic_unbind_memory),
 379
 380         { 0, 0 }
 381 };
 382
 383 static driver_t agp_ati_driver = {
 384         "agp",
 385         agp_ati_methods,
 386         sizeof(struct agp_ati_softc),
 387 };
 388
 389 static devclass_t agp_devclass;
 390
 391 DRIVER_MODULE(agp_ati, pci, agp_ati_driver, agp_devclass, 0, 0);
 392 MODULE_DEPEND(agp_ati, agp, 1, 1, 1);
 393 MODULE_DEPEND(agp_ati, pci, 1, 1, 1);