clock/tsc: Detect invariant TSC
[dragonfly.git] / sys / platform / vkernel64 / platform / systimer.c
1 /*
2  * Copyright (c) 2006 The DragonFly Project.  All rights reserved.
3  *
4  * This code is derived from software contributed to The DragonFly Project
5  * by Matthew Dillon <dillon@backplane.com>
6  *
7  * Redistribution and use in source and binary forms, with or without
8  * modification, are permitted provided that the following conditions
9  * are met:
10  *
11  * 1. Redistributions of source code must retain the above copyright
12  *    notice, this list of conditions and the following disclaimer.
13  * 2. Redistributions in binary form must reproduce the above copyright
14  *    notice, this list of conditions and the following disclaimer in
15  *    the documentation and/or other materials provided with the
16  *    distribution.
17  * 3. Neither the name of The DragonFly Project nor the names of its
18  *    contributors may be used to endorse or promote products derived
19  *    from this software without specific, prior written permission.
20  *
21  * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS
22  * ``AS IS'' AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT
23  * LIMITED TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS
24  * FOR A PARTICULAR PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE
25  * COPYRIGHT HOLDERS OR CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT,
26  * INCIDENTAL, SPECIAL, EXEMPLARY OR CONSEQUENTIAL DAMAGES (INCLUDING,
27  * BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
28  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED
29  * AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY,
30  * OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT
31  * OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
32  * SUCH DAMAGE.
33  *
34  */
35
36 #include <sys/types.h>
37 #include <sys/systm.h>
38 #include <sys/kernel.h>
39 #include <sys/systimer.h>
40 #include <sys/sysctl.h>
41 #include <sys/signal.h>
42 #include <sys/interrupt.h>
43 #include <sys/bus.h>
44 #include <sys/time.h>
45 #include <machine/cpu.h>
46 #include <machine/clock.h>
47 #include <machine/globaldata.h>
48 #include <machine/md_var.h>
49
50 #include <sys/thread2.h>
51
52 #include <unistd.h>
53 #include <signal.h>
54
55 #define VKTIMER_FREQ    1000000 /* 1us granularity */
56
57 static void vktimer_intr(void *dummy, struct intrframe *frame);
58
59 int disable_rtc_set;
60 SYSCTL_INT(_machdep, CPU_DISRTCSET, disable_rtc_set,
61            CTLFLAG_RW, &disable_rtc_set, 0, "");
62 SYSCTL_INT(_hw, OID_AUTO, tsc_present, CTLFLAG_RD,
63             &tsc_present, 0, "TSC Available");
64 SYSCTL_INT(_hw, OID_AUTO, tsc_invariant, CTLFLAG_RD,
65             &tsc_invariant, 0, "Invariant TSC");
66 SYSCTL_QUAD(_hw, OID_AUTO, tsc_frequency, CTLFLAG_RD,
67             &tsc_frequency, 0, "TSC Frequency");
68
69 int adjkerntz;
70 int wall_cmos_clock = 0;
71 SYSCTL_INT(_machdep, CPU_WALLCLOCK, wall_cmos_clock,
72     CTLFLAG_RD, &wall_cmos_clock, 0, "");
73
74 static struct kqueue_info *kqueue_timer_info;
75
76 static int cputimer_mib[16];
77 static int cputimer_miblen;
78
79 /*
80  * SYSTIMER IMPLEMENTATION
81  */
82 static sysclock_t vkernel_timer_get_timecount(void);
83 static void vkernel_timer_construct(struct cputimer *timer, sysclock_t oclock);
84
85 static struct cputimer vkernel_cputimer = {
86         SLIST_ENTRY_INITIALIZER,
87         "VKERNEL",
88         CPUTIMER_PRI_VKERNEL,
89         CPUTIMER_VKERNEL,
90         vkernel_timer_get_timecount,
91         cputimer_default_fromhz,
92         cputimer_default_fromus,
93         vkernel_timer_construct,
94         cputimer_default_destruct,
95         VKTIMER_FREQ,
96         0, 0, 0
97 };
98
99 static void     vktimer_intr_reload(struct cputimer_intr *, sysclock_t);
100 static void     vktimer_intr_initclock(struct cputimer_intr *, boolean_t);
101
102 static struct cputimer_intr vkernel_cputimer_intr = {
103         .freq = VKTIMER_FREQ,
104         .reload = vktimer_intr_reload,
105         .enable = cputimer_intr_default_enable,
106         .config = cputimer_intr_default_config,
107         .restart = cputimer_intr_default_restart,
108         .pmfixup = cputimer_intr_default_pmfixup,
109         .initclock = vktimer_intr_initclock,
110         .next = SLIST_ENTRY_INITIALIZER,
111         .name = "vkernel",
112         .type = CPUTIMER_INTR_VKERNEL,
113         .prio = CPUTIMER_INTR_PRIO_VKERNEL,
114         .caps = CPUTIMER_INTR_CAP_NONE
115 };
116
117 /*
118  * Initialize the systimer subsystem, called from MI code in early boot.
119  */
120 static void
121 cpu_initclocks(void *arg __unused)
122 {
123         size_t len;
124
125         kprintf("initclocks\n");
126         len = sizeof(vkernel_cputimer.freq);
127         if (sysctlbyname("kern.cputimer.freq", &vkernel_cputimer.freq, &len,
128                          NULL, 0) < 0) {
129                 panic("cpu_initclocks: can't get kern.cputimer.freq!");
130         }
131         len = NELEM(cputimer_mib);
132         if (sysctlnametomib("kern.cputimer.clock", cputimer_mib, &len) < 0)
133                 panic("cpu_initclocks: can't get kern.cputimer.clock!");
134         cputimer_miblen = len;
135
136         cputimer_intr_register(&vkernel_cputimer_intr);
137         cputimer_intr_select(&vkernel_cputimer_intr, 0);
138
139         cputimer_register(&vkernel_cputimer);
140         cputimer_select(&vkernel_cputimer, 0);
141 }
142 SYSINIT(clocksvk, SI_BOOT2_CLOCKREG, SI_ORDER_FIRST, cpu_initclocks, NULL)
143
144 /*
145  * Constructor to initialize timer->base and get an initial count.
146  */
147 static void
148 vkernel_timer_construct(struct cputimer *timer, sysclock_t oclock)
149 {
150         timer->base = 0;
151         timer->base = oclock - vkernel_timer_get_timecount();
152 }
153
154 /*
155  * Get the current counter, with 2's complement rollover.
156  *
157  * NOTE! MPSAFE, possibly no critical section
158  */
159 static sysclock_t
160 vkernel_timer_get_timecount(void)
161 {
162         sysclock_t counter;
163         size_t len;
164
165         len = sizeof(counter);
166         if (sysctl(cputimer_mib, cputimer_miblen, &counter, &len,
167                    NULL, 0) < 0) {
168                 panic("vkernel_timer_get_timecount: sysctl failed!");
169         }
170         return(counter);
171 }
172
173 /*
174  * Initialize the interrupt for our core systimer.  Use the kqueue timer
175  * support functions.
176  */
177 static void
178 vktimer_intr_initclock(struct cputimer_intr *cti __unused,
179                        boolean_t selected __unused)
180 {
181         KKASSERT(kqueue_timer_info == NULL);
182         kqueue_timer_info = kqueue_add_timer(vktimer_intr, NULL);
183 }
184
185 /*
186  * Reload the interrupt for our core systimer.  Because the caller's
187  * reload calculation can be negatively indexed, we need a minimal
188  * check to ensure that a reasonable reload value is selected.
189  */
190 static void
191 vktimer_intr_reload(struct cputimer_intr *cti __unused, sysclock_t reload)
192 {
193         if (kqueue_timer_info) {
194                 if ((int)reload < 1)
195                         reload = 1;
196                 kqueue_reload_timer(kqueue_timer_info, (reload + 999) / 1000);
197         }
198 }
199
200 /*
201  * clock interrupt.
202  *
203  * NOTE: frame is a struct intrframe pointer.
204  */
205 static void
206 vktimer_intr(void *dummy, struct intrframe *frame)
207 {
208         static sysclock_t sysclock_count;
209         struct globaldata *gd = mycpu;
210         struct globaldata *gscan;
211         int n;
212
213         sysclock_count = sys_cputimer->count();
214         for (n = 0; n < ncpus; ++n) {
215                 gscan = globaldata_find(n);
216                 if (TAILQ_FIRST(&gscan->gd_systimerq) == NULL)
217                         continue;
218                 if (gscan != gd) {
219                         lwkt_send_ipiq3(gscan, (ipifunc3_t)systimer_intr,
220                                         &sysclock_count, 0);
221                 } else {
222                         systimer_intr(&sysclock_count, 0, frame);
223                 }
224         }
225 }
226
227 /*
228  * Initialize the time of day register, based on the time base which is, e.g.
229  * from a filesystem.
230  */
231 void
232 inittodr(time_t base)
233 {
234         struct timespec ts;
235         struct timeval tv;
236
237         gettimeofday(&tv, NULL);
238         ts.tv_sec = tv.tv_sec;
239         ts.tv_nsec = tv.tv_usec * 1000;
240         set_timeofday(&ts);
241 }
242
243 /*
244  * Write system time back to the RTC
245  */
246 void
247 resettodr(void)
248 {
249 }
250
251 /*
252  * We need to enter a critical section to prevent signals from recursing
253  * into pthreads.
254  */
255 void
256 DELAY(int usec)
257 {
258         crit_enter();
259         usleep(usec);
260         crit_exit();
261 }
262
263 void
264 DRIVERSLEEP(int usec)
265 {
266         if (mycpu->gd_intr_nesting_level)
267                 DELAY(usec);
268         else if (1000000 / usec >= hz)
269                 tsleep(DRIVERSLEEP, 0, "DELAY", 1000000 / usec / hz + 1);
270         else
271                 DELAY(usec);
272 }