x86: integrate start_secondary
[sfrench/cifs-2.6.git] / arch / x86 / kernel / smpboot_32.c
1 /*
2  *      x86 SMP booting functions
3  *
4  *      (c) 1995 Alan Cox, Building #3 <alan@redhat.com>
5  *      (c) 1998, 1999, 2000 Ingo Molnar <mingo@redhat.com>
6  *
7  *      Much of the core SMP work is based on previous work by Thomas Radke, to
8  *      whom a great many thanks are extended.
9  *
10  *      Thanks to Intel for making available several different Pentium,
11  *      Pentium Pro and Pentium-II/Xeon MP machines.
12  *      Original development of Linux SMP code supported by Caldera.
13  *
14  *      This code is released under the GNU General Public License version 2 or
15  *      later.
16  *
17  *      Fixes
18  *              Felix Koop      :       NR_CPUS used properly
19  *              Jose Renau      :       Handle single CPU case.
20  *              Alan Cox        :       By repeated request 8) - Total BogoMIPS report.
21  *              Greg Wright     :       Fix for kernel stacks panic.
22  *              Erich Boleyn    :       MP v1.4 and additional changes.
23  *      Matthias Sattler        :       Changes for 2.1 kernel map.
24  *      Michel Lespinasse       :       Changes for 2.1 kernel map.
25  *      Michael Chastain        :       Change trampoline.S to gnu as.
26  *              Alan Cox        :       Dumb bug: 'B' step PPro's are fine
27  *              Ingo Molnar     :       Added APIC timers, based on code
28  *                                      from Jose Renau
29  *              Ingo Molnar     :       various cleanups and rewrites
30  *              Tigran Aivazian :       fixed "0.00 in /proc/uptime on SMP" bug.
31  *      Maciej W. Rozycki       :       Bits for genuine 82489DX APICs
32  *              Martin J. Bligh :       Added support for multi-quad systems
33  *              Dave Jones      :       Report invalid combinations of Athlon CPUs.
34 *               Rusty Russell   :       Hacked into shape for new "hotplug" boot process. */
35
36 #include <linux/module.h>
37 #include <linux/init.h>
38 #include <linux/kernel.h>
39
40 #include <linux/mm.h>
41 #include <linux/sched.h>
42 #include <linux/kernel_stat.h>
43 #include <linux/bootmem.h>
44 #include <linux/notifier.h>
45 #include <linux/cpu.h>
46 #include <linux/percpu.h>
47 #include <linux/nmi.h>
48
49 #include <linux/delay.h>
50 #include <linux/mc146818rtc.h>
51 #include <asm/tlbflush.h>
52 #include <asm/desc.h>
53 #include <asm/arch_hooks.h>
54 #include <asm/nmi.h>
55
56 #include <mach_apic.h>
57 #include <mach_wakecpu.h>
58 #include <smpboot_hooks.h>
59 #include <asm/vmi.h>
60 #include <asm/mtrr.h>
61
62 /* which logical CPU number maps to which CPU (physical APIC ID) */
63 u16 x86_cpu_to_apicid_init[NR_CPUS] __initdata =
64                         { [0 ... NR_CPUS-1] = BAD_APICID };
65 void *x86_cpu_to_apicid_early_ptr;
66 DEFINE_PER_CPU(u16, x86_cpu_to_apicid) = BAD_APICID;
67 EXPORT_PER_CPU_SYMBOL(x86_cpu_to_apicid);
68
69 u16 x86_bios_cpu_apicid_init[NR_CPUS] __initdata
70                                 = { [0 ... NR_CPUS-1] = BAD_APICID };
71 void *x86_bios_cpu_apicid_early_ptr;
72 DEFINE_PER_CPU(u16, x86_bios_cpu_apicid) = BAD_APICID;
73 EXPORT_PER_CPU_SYMBOL(x86_bios_cpu_apicid);
74
75 u8 apicid_2_node[MAX_APICID];
76
77 extern void map_cpu_to_logical_apicid(void);
78 extern void unmap_cpu_to_logical_apicid(int cpu);
79
80 /* State of each CPU. */
81 DEFINE_PER_CPU(int, cpu_state) = { 0 };
82
83 #ifdef CONFIG_HOTPLUG_CPU
84 void cpu_exit_clear(void)
85 {
86         int cpu = raw_smp_processor_id();
87
88         idle_task_exit();
89
90         cpu_uninit();
91         irq_ctx_exit(cpu);
92
93         cpu_clear(cpu, cpu_callout_map);
94         cpu_clear(cpu, cpu_callin_map);
95
96         unmap_cpu_to_logical_apicid(cpu);
97 }
98 #endif
99
100 static int boot_cpu_logical_apicid;
101 /* Where the IO area was mapped on multiquad, always 0 otherwise */
102 void *xquad_portio;
103 #ifdef CONFIG_X86_NUMAQ
104 EXPORT_SYMBOL(xquad_portio);
105 #endif
106
107 static void __init disable_smp(void)
108 {
109         cpu_possible_map = cpumask_of_cpu(0);
110         cpu_present_map = cpumask_of_cpu(0);
111         smpboot_clear_io_apic_irqs();
112         phys_cpu_present_map = physid_mask_of_physid(0);
113         map_cpu_to_logical_apicid();
114         cpu_set(0, per_cpu(cpu_sibling_map, 0));
115         cpu_set(0, per_cpu(cpu_core_map, 0));
116 }
117
118 static int __init smp_sanity_check(unsigned max_cpus)
119 {
120         /*
121          * If we couldn't find an SMP configuration at boot time,
122          * get out of here now!
123          */
124         if (!smp_found_config && !acpi_lapic) {
125                 printk(KERN_NOTICE "SMP motherboard not detected.\n");
126                 disable_smp();
127                 if (APIC_init_uniprocessor())
128                         printk(KERN_NOTICE "Local APIC not detected."
129                                            " Using dummy APIC emulation.\n");
130                 return -1;
131         }
132
133         /*
134          * Should not be necessary because the MP table should list the boot
135          * CPU too, but we do it for the sake of robustness anyway.
136          * Makes no sense to do this check in clustered apic mode, so skip it
137          */
138         if (!check_phys_apicid_present(boot_cpu_physical_apicid)) {
139                 printk("weird, boot CPU (#%d) not listed by the BIOS.\n",
140                                 boot_cpu_physical_apicid);
141                 physid_set(hard_smp_processor_id(), phys_cpu_present_map);
142         }
143
144         /*
145          * If we couldn't find a local APIC, then get out of here now!
146          */
147         if (APIC_INTEGRATED(apic_version[boot_cpu_physical_apicid]) && !cpu_has_apic) {
148                 printk(KERN_ERR "BIOS bug, local APIC #%d not detected!...\n",
149                         boot_cpu_physical_apicid);
150                 printk(KERN_ERR "... forcing use of dummy APIC emulation. (tell your hw vendor)\n");
151                 return -1;
152         }
153
154         verify_local_APIC();
155
156         /*
157          * If SMP should be disabled, then really disable it!
158          */
159         if (!max_cpus) {
160                 smp_found_config = 0;
161                 printk(KERN_INFO "SMP mode deactivated, forcing use of dummy APIC emulation.\n");
162
163                 if (nmi_watchdog == NMI_LOCAL_APIC) {
164                         printk(KERN_INFO "activating minimal APIC for NMI watchdog use.\n");
165                         connect_bsp_APIC();
166                         setup_local_APIC();
167                         end_local_APIC_setup();
168                 }
169                 return -1;
170         }
171         return 0;
172 }
173
174 /*
175  * Cycle through the processors sending APIC IPIs to boot each.
176  */
177 static void __init smp_boot_cpus(unsigned int max_cpus)
178 {
179         /*
180          * Setup boot CPU information
181          */
182         smp_store_cpu_info(0); /* Final full version of the data */
183         printk(KERN_INFO "CPU%d: ", 0);
184         print_cpu_info(&cpu_data(0));
185
186         boot_cpu_physical_apicid = GET_APIC_ID(apic_read(APIC_ID));
187         boot_cpu_logical_apicid = logical_smp_processor_id();
188
189         current_thread_info()->cpu = 0;
190
191         set_cpu_sibling_map(0);
192
193         if (smp_sanity_check(max_cpus) < 0) {
194                 printk(KERN_INFO "SMP disabled\n");
195                 disable_smp();
196                 return;
197         }
198
199         connect_bsp_APIC();
200         setup_local_APIC();
201         end_local_APIC_setup();
202         map_cpu_to_logical_apicid();
203
204
205         setup_portio_remap();
206
207         smpboot_setup_io_apic();
208
209         setup_boot_clock();
210 }
211
212 /* These are wrappers to interface to the new boot process.  Someone
213    who understands all this stuff should rewrite it properly. --RR 15/Jul/02 */
214 void __init native_smp_prepare_cpus(unsigned int max_cpus)
215 {
216         nmi_watchdog_default();
217         cpu_callin_map = cpumask_of_cpu(0);
218         mb();
219         smp_boot_cpus(max_cpus);
220 }
221
222 void __init native_smp_prepare_boot_cpu(void)
223 {
224         unsigned int cpu = smp_processor_id();
225
226         init_gdt(cpu);
227         switch_to_new_gdt();
228
229         cpu_set(cpu, cpu_callout_map);
230         __get_cpu_var(cpu_state) = CPU_ONLINE;
231 }
232
233 extern void impress_friends(void);
234 extern void smp_checks(void);
235
236 void __init native_smp_cpus_done(unsigned int max_cpus)
237 {
238         /*
239          * Cleanup possible dangling ends...
240          */
241         smpboot_restore_warm_reset_vector();
242
243         Dprintk("Boot done.\n");
244
245         impress_friends();
246         smp_checks();
247 #ifdef CONFIG_X86_IO_APIC
248         setup_ioapic_dest();
249 #endif
250         check_nmi_watchdog();
251         zap_low_mappings();
252 }