4ad1f7a6a83935f148c3ab806d5f5d1388510b59
[sfrench/cifs-2.6.git] / arch / x86 / kernel / time_64.c
1 /*
2  *  "High Precision Event Timer" based timekeeping.
3  *
4  *  Copyright (c) 1991,1992,1995  Linus Torvalds
5  *  Copyright (c) 1994  Alan Modra
6  *  Copyright (c) 1995  Markus Kuhn
7  *  Copyright (c) 1996  Ingo Molnar
8  *  Copyright (c) 1998  Andrea Arcangeli
9  *  Copyright (c) 2002,2006  Vojtech Pavlik
10  *  Copyright (c) 2003  Andi Kleen
11  *  RTC support code taken from arch/i386/kernel/timers/time_hpet.c
12  */
13
14 #include <linux/kernel.h>
15 #include <linux/sched.h>
16 #include <linux/interrupt.h>
17 #include <linux/init.h>
18 #include <linux/mc146818rtc.h>
19 #include <linux/time.h>
20 #include <linux/ioport.h>
21 #include <linux/module.h>
22 #include <linux/device.h>
23 #include <linux/sysdev.h>
24 #include <linux/bcd.h>
25 #include <linux/notifier.h>
26 #include <linux/cpu.h>
27 #include <linux/kallsyms.h>
28 #include <linux/acpi.h>
29 #include <linux/clockchips.h>
30
31 #ifdef CONFIG_ACPI
32 #include <acpi/achware.h>       /* for PM timer frequency */
33 #include <acpi/acpi_bus.h>
34 #endif
35 #include <asm/i8253.h>
36 #include <asm/pgtable.h>
37 #include <asm/vsyscall.h>
38 #include <asm/timex.h>
39 #include <asm/proto.h>
40 #include <asm/hpet.h>
41 #include <asm/sections.h>
42 #include <linux/hpet.h>
43 #include <asm/apic.h>
44 #include <asm/hpet.h>
45 #include <asm/mpspec.h>
46 #include <asm/nmi.h>
47 #include <asm/vgtod.h>
48
49 DEFINE_SPINLOCK(rtc_lock);
50 EXPORT_SYMBOL(rtc_lock);
51
52 volatile unsigned long __jiffies __section_jiffies = INITIAL_JIFFIES;
53
54 unsigned long profile_pc(struct pt_regs *regs)
55 {
56         unsigned long pc = instruction_pointer(regs);
57
58         /* Assume the lock function has either no stack frame or a copy
59            of eflags from PUSHF
60            Eflags always has bits 22 and up cleared unlike kernel addresses. */
61         if (!user_mode(regs) && in_lock_functions(pc)) {
62                 unsigned long *sp = (unsigned long *)regs->rsp;
63                 if (sp[0] >> 22)
64                         return sp[0];
65                 if (sp[1] >> 22)
66                         return sp[1];
67         }
68         return pc;
69 }
70 EXPORT_SYMBOL(profile_pc);
71
72 /*
73  * In order to set the CMOS clock precisely, set_rtc_mmss has to be called 500
74  * ms after the second nowtime has started, because when nowtime is written
75  * into the registers of the CMOS clock, it will jump to the next second
76  * precisely 500 ms later. Check the Motorola MC146818A or Dallas DS12887 data
77  * sheet for details.
78  */
79
80 static int set_rtc_mmss(unsigned long nowtime)
81 {
82         int retval = 0;
83         int real_seconds, real_minutes, cmos_minutes;
84         unsigned char control, freq_select;
85         unsigned long flags;
86
87 /*
88  * set_rtc_mmss is called when irqs are enabled, so disable irqs here
89  */
90         spin_lock_irqsave(&rtc_lock, flags);
91 /*
92  * Tell the clock it's being set and stop it.
93  */
94         control = CMOS_READ(RTC_CONTROL);
95         CMOS_WRITE(control | RTC_SET, RTC_CONTROL);
96
97         freq_select = CMOS_READ(RTC_FREQ_SELECT);
98         CMOS_WRITE(freq_select | RTC_DIV_RESET2, RTC_FREQ_SELECT);
99
100         cmos_minutes = CMOS_READ(RTC_MINUTES);
101                 BCD_TO_BIN(cmos_minutes);
102
103 /*
104  * since we're only adjusting minutes and seconds, don't interfere with hour
105  * overflow. This avoids messing with unknown time zones but requires your RTC
106  * not to be off by more than 15 minutes. Since we're calling it only when
107  * our clock is externally synchronized using NTP, this shouldn't be a problem.
108  */
109
110         real_seconds = nowtime % 60;
111         real_minutes = nowtime / 60;
112         if (((abs(real_minutes - cmos_minutes) + 15) / 30) & 1)
113                 real_minutes += 30;             /* correct for half hour time zone */
114         real_minutes %= 60;
115
116         if (abs(real_minutes - cmos_minutes) >= 30) {
117                 printk(KERN_WARNING "time.c: can't update CMOS clock "
118                        "from %d to %d\n", cmos_minutes, real_minutes);
119                 retval = -1;
120         } else {
121                 BIN_TO_BCD(real_seconds);
122                 BIN_TO_BCD(real_minutes);
123                 CMOS_WRITE(real_seconds, RTC_SECONDS);
124                 CMOS_WRITE(real_minutes, RTC_MINUTES);
125         }
126
127 /*
128  * The following flags have to be released exactly in this order, otherwise the
129  * DS12887 (popular MC146818A clone with integrated battery and quartz) will
130  * not reset the oscillator and will not update precisely 500 ms later. You
131  * won't find this mentioned in the Dallas Semiconductor data sheets, but who
132  * believes data sheets anyway ... -- Markus Kuhn
133  */
134
135         CMOS_WRITE(control, RTC_CONTROL);
136         CMOS_WRITE(freq_select, RTC_FREQ_SELECT);
137
138         spin_unlock_irqrestore(&rtc_lock, flags);
139
140         return retval;
141 }
142
143 int update_persistent_clock(struct timespec now)
144 {
145         return set_rtc_mmss(now.tv_sec);
146 }
147
148 static irqreturn_t timer_event_interrupt(int irq, void *dev_id)
149 {
150         add_pda(irq0_irqs, 1);
151
152         global_clock_event->event_handler(global_clock_event);
153
154         return IRQ_HANDLED;
155 }
156
157 unsigned long read_persistent_clock(void)
158 {
159         unsigned int year, mon, day, hour, min, sec;
160         unsigned long flags;
161         unsigned century = 0;
162
163         spin_lock_irqsave(&rtc_lock, flags);
164
165         do {
166                 sec = CMOS_READ(RTC_SECONDS);
167                 min = CMOS_READ(RTC_MINUTES);
168                 hour = CMOS_READ(RTC_HOURS);
169                 day = CMOS_READ(RTC_DAY_OF_MONTH);
170                 mon = CMOS_READ(RTC_MONTH);
171                 year = CMOS_READ(RTC_YEAR);
172 #ifdef CONFIG_ACPI
173                 if (acpi_gbl_FADT.header.revision >= FADT2_REVISION_ID &&
174                                         acpi_gbl_FADT.century)
175                         century = CMOS_READ(acpi_gbl_FADT.century);
176 #endif
177         } while (sec != CMOS_READ(RTC_SECONDS));
178
179         spin_unlock_irqrestore(&rtc_lock, flags);
180
181         /*
182          * We know that x86-64 always uses BCD format, no need to check the
183          * config register.
184          */
185
186         BCD_TO_BIN(sec);
187         BCD_TO_BIN(min);
188         BCD_TO_BIN(hour);
189         BCD_TO_BIN(day);
190         BCD_TO_BIN(mon);
191         BCD_TO_BIN(year);
192
193         if (century) {
194                 BCD_TO_BIN(century);
195                 year += century * 100;
196                 printk(KERN_INFO "Extended CMOS year: %d\n", century * 100);
197         } else {
198                 /*
199                  * x86-64 systems only exists since 2002.
200                  * This will work up to Dec 31, 2100
201                  */
202                 year += 2000;
203         }
204
205         return mktime(year, mon, day, hour, min, sec);
206 }
207
208 /* calibrate_cpu is used on systems with fixed rate TSCs to determine
209  * processor frequency */
210 #define TICK_COUNT 100000000
211 static unsigned int __init tsc_calibrate_cpu_khz(void)
212 {
213         int tsc_start, tsc_now;
214         int i, no_ctr_free;
215         unsigned long evntsel3 = 0, pmc3 = 0, pmc_now = 0;
216         unsigned long flags;
217
218         for (i = 0; i < 4; i++)
219                 if (avail_to_resrv_perfctr_nmi_bit(i))
220                         break;
221         no_ctr_free = (i == 4);
222         if (no_ctr_free) {
223                 i = 3;
224                 rdmsrl(MSR_K7_EVNTSEL3, evntsel3);
225                 wrmsrl(MSR_K7_EVNTSEL3, 0);
226                 rdmsrl(MSR_K7_PERFCTR3, pmc3);
227         } else {
228                 reserve_perfctr_nmi(MSR_K7_PERFCTR0 + i);
229                 reserve_evntsel_nmi(MSR_K7_EVNTSEL0 + i);
230         }
231         local_irq_save(flags);
232         /* start meauring cycles, incrementing from 0 */
233         wrmsrl(MSR_K7_PERFCTR0 + i, 0);
234         wrmsrl(MSR_K7_EVNTSEL0 + i, 1 << 22 | 3 << 16 | 0x76);
235         rdtscl(tsc_start);
236         do {
237                 rdmsrl(MSR_K7_PERFCTR0 + i, pmc_now);
238                 tsc_now = get_cycles_sync();
239         } while ((tsc_now - tsc_start) < TICK_COUNT);
240
241         local_irq_restore(flags);
242         if (no_ctr_free) {
243                 wrmsrl(MSR_K7_EVNTSEL3, 0);
244                 wrmsrl(MSR_K7_PERFCTR3, pmc3);
245                 wrmsrl(MSR_K7_EVNTSEL3, evntsel3);
246         } else {
247                 release_perfctr_nmi(MSR_K7_PERFCTR0 + i);
248                 release_evntsel_nmi(MSR_K7_EVNTSEL0 + i);
249         }
250
251         return pmc_now * tsc_khz / (tsc_now - tsc_start);
252 }
253
254 static struct irqaction irq0 = {
255         .handler        = timer_event_interrupt,
256         .flags          = IRQF_DISABLED | IRQF_IRQPOLL | IRQF_NOBALANCING,
257         .mask           = CPU_MASK_NONE,
258         .name           = "timer"
259 };
260
261 void __init time_init(void)
262 {
263         if (!hpet_enable())
264                 setup_pit_timer();
265
266         setup_irq(0, &irq0);
267
268         tsc_calibrate();
269
270         cpu_khz = tsc_khz;
271         if (cpu_has(&boot_cpu_data, X86_FEATURE_CONSTANT_TSC) &&
272                 boot_cpu_data.x86_vendor == X86_VENDOR_AMD &&
273                 boot_cpu_data.x86 == 16)
274                 cpu_khz = tsc_calibrate_cpu_khz();
275
276         if (unsynchronized_tsc())
277                 mark_tsc_unstable("TSCs unsynchronized");
278
279         if (cpu_has(&boot_cpu_data, X86_FEATURE_RDTSCP))
280                 vgetcpu_mode = VGETCPU_RDTSCP;
281         else
282                 vgetcpu_mode = VGETCPU_LSL;
283
284         printk(KERN_INFO "time.c: Detected %d.%03d MHz processor.\n",
285                 cpu_khz / 1000, cpu_khz % 1000);
286         init_tsc_clocksource();
287 }