3cd6a459439979d7147b007bacf9ee0ae17dae84
[dragonfly.git] / sys / platform / pc32 / i386 / k6_mem.c
1 /*-
2  * Copyright (c) 1999 Brian Fundakowski Feldman
3  * All rights reserved.
4  *
5  * Redistribution and use in source and binary forms, with or without
6  * modification, are permitted provided that the following conditions
7  * are met:
8  * 1. Redistributions of source code must retain the above copyright
9  *    notice, this list of conditions and the following disclaimer.
10  * 2. Redistributions in binary form must reproduce the above copyright
11  *    notice, this list of conditions and the following disclaimer in the
12  *    documentation and/or other materials provided with the distribution.
13  *
14  * THIS SOFTWARE IS PROVIDED BY THE AUTHOR AND CONTRIBUTORS ``AS IS'' AND
15  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
16  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
17  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
18  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
19  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
20  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
21  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
22  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
23  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
24  * SUCH DAMAGE.
25  *
26  * $FreeBSD: src/sys/i386/i386/k6_mem.c,v 1.4.2.2 2002/09/16 21:58:41 dwmalone Exp $
27  * $DragonFly: src/sys/platform/pc32/i386/k6_mem.c,v 1.8 2006/12/23 00:27:03 swildner Exp $
28  *
29  */
30
31 #include <sys/param.h>
32 #include <sys/kernel.h>
33 #include <sys/systm.h>
34 #include <sys/ioccom.h>
35 #include <sys/malloc.h>
36 #include <sys/memrange.h>
37 #include <sys/proc.h>
38 #include <sys/thread2.h>
39
40 #include <machine/md_var.h>
41 #include <machine/psl.h>
42 #include <machine/specialreg.h>
43 #include <machine/lock.h>
44
45 /*
46  * A K6-2 MTRR is defined as the highest 15 bits having the address, the next
47  * 15 having the mask, the 1st bit being "write-combining" and the 0th bit
48  * being "uncacheable".
49  *
50  *      Address             Mask        WC  UC
51  * | XXXXXXXXXXXXXXX | XXXXXXXXXXXXXXX | X | X |
52  *
53  * There are two of these in the 64-bit UWCCR.
54  */
55
56 /*
57  * NOTE: I do _not_ comment my code unless it's truly necessary. Don't
58  *       expect anything frivolous here, and do NOT touch my bit-shifts
59  *       unless you want to break this.
60  */
61
62 #define UWCCR 0xc0000085
63
64 #define k6_reg_get(reg, addr, mask, wc, uc)     do {                    \
65                 addr = (reg) & 0xfffe0000;                              \
66                 mask = ((reg) & 0x1fffc) >> 2;                          \
67                 wc = ((reg) & 0x2) >> 1;                                \
68                 uc = (reg) & 0x1;                                       \
69         } while (0)
70
71 #define k6_reg_make(addr, mask, wc, uc)                                 \
72                 ((addr) | ((mask) << 2) | ((wc) << 1) | uc)
73
74 static void k6_mrinit(struct mem_range_softc *sc);
75 static int k6_mrset(struct mem_range_softc *, struct mem_range_desc *, int *);
76 static __inline int k6_mrmake(struct mem_range_desc *, u_int32_t *);
77 static void k6_mem_drvinit(void *);
78
79 static struct mem_range_ops k6_mrops = {
80         k6_mrinit,
81         k6_mrset,
82         NULL
83 };
84
85 static __inline int
86 k6_mrmake(struct mem_range_desc *desc, u_int32_t *mtrr) {
87         u_int32_t len = 0, wc, uc;
88         int bit;
89
90         if (desc->mr_base &~ 0xfffe0000)
91                 return EINVAL;
92         if (desc->mr_len < 131072 || !powerof2(desc->mr_len))
93                 return EINVAL;
94         if (desc->mr_flags &~ (MDF_WRITECOMBINE|MDF_UNCACHEABLE|MDF_FORCE))
95                 return EOPNOTSUPP;
96
97         for (bit = ffs(desc->mr_len >> 17) - 1; bit < 15; bit++)
98                 len |= 1 << bit; 
99         wc = (desc->mr_flags & MDF_WRITECOMBINE) ? 1 : 0;
100         uc = (desc->mr_flags & MDF_UNCACHEABLE) ? 1 : 0;
101
102         *mtrr = k6_reg_make(desc->mr_base, len, wc, uc);
103         return 0;
104 }
105
106 static void
107 k6_mrinit(struct mem_range_softc *sc) {
108         u_int64_t reg;
109         u_int32_t addr, mask, wc, uc;
110         int d;
111
112         sc->mr_cap = 0;
113         sc->mr_ndesc = 2; /* XXX (BFF) For now, we only have one msr for this */
114         sc->mr_desc = kmalloc(sc->mr_ndesc * sizeof(struct mem_range_desc),
115                              M_MEMDESC, M_WAITOK);
116         if (sc->mr_desc == NULL)
117                 panic("k6_mrinit: malloc returns NULL");
118         bzero(sc->mr_desc, sc->mr_ndesc * sizeof(struct mem_range_desc));
119
120         reg = rdmsr(UWCCR);
121         for (d = 0; d < sc->mr_ndesc; d++) {
122                 u_int32_t one = (reg & (0xffffffff << (32 * d))) >> (32 * d);
123
124                 k6_reg_get(one, addr, mask, wc, uc);
125                 sc->mr_desc[d].mr_base = addr;
126                 sc->mr_desc[d].mr_len = ffs(mask) << 17;
127                 if (wc)
128                         sc->mr_desc[d].mr_flags |= MDF_WRITECOMBINE;
129                 if (uc)
130                         sc->mr_desc[d].mr_flags |= MDF_UNCACHEABLE;
131         }
132         
133         kprintf("K6-family MTRR support enabled (%d registers)\n", sc->mr_ndesc);
134 }
135
136 static int
137 k6_mrset(struct mem_range_softc *sc, struct mem_range_desc *desc, int *arg) {
138         u_int64_t reg;
139         u_int32_t mtrr;
140         int error, d;
141
142         switch (*arg) {
143         case MEMRANGE_SET_UPDATE:
144                 error = k6_mrmake(desc, &mtrr);
145                 if (error)
146                         return error;
147                 for (d = 0; d < sc->mr_ndesc; d++) {
148                         if (!sc->mr_desc[d].mr_len) {
149                                 sc->mr_desc[d] = *desc;
150                                 goto out;
151                         }
152                         if (sc->mr_desc[d].mr_base == desc->mr_base &&
153                             sc->mr_desc[d].mr_len == desc->mr_len)
154                                 return EEXIST;
155                 }
156
157                 return ENOSPC;
158         case MEMRANGE_SET_REMOVE:
159                 mtrr = 0;
160                 for (d = 0; d < sc->mr_ndesc; d++)
161                         if (sc->mr_desc[d].mr_base == desc->mr_base &&
162                             sc->mr_desc[d].mr_len == desc->mr_len) {
163                                 bzero(&sc->mr_desc[d], sizeof(sc->mr_desc[d]));
164                                 goto out;
165                         }
166
167                 return ENOENT;
168         default:
169                 return EOPNOTSUPP;
170         }
171
172 out:
173         
174         mpintr_lock();
175         wbinvd();
176         reg = rdmsr(UWCCR);
177         reg &= ~(0xffffffff << (32 * d));
178         reg |= mtrr << (32 * d);
179         wrmsr(UWCCR, reg);
180         wbinvd();
181         mpintr_unlock();
182
183         return 0;
184 }
185
186 static void
187 k6_mem_drvinit(void *unused) {
188         if (!strcmp(cpu_vendor, "AuthenticAMD") &&
189             (cpu_id & 0xf00) == 0x500 &&
190                 ((cpu_id & 0xf0) > 0x80 ||
191                     ((cpu_id & 0xf0) == 0x80 &&
192                      (cpu_id & 0xf) > 0x7))
193             )
194                 mem_range_softc.mr_op = &k6_mrops;
195 }
196
197 SYSINIT(k6memdev, SI_SUB_DRIVERS, SI_ORDER_FIRST, k6_mem_drvinit, NULL)