]> pilppa.org Git - linux-2.6-omap-h63xx.git/blob - include/asm-sparc64/cpudata.h
[SPARC64]: Dynamically grow TSB in response to RSS growth.
[linux-2.6-omap-h63xx.git] / include / asm-sparc64 / cpudata.h
1 /* cpudata.h: Per-cpu parameters.
2  *
3  * Copyright (C) 2003, 2005, 2006 David S. Miller (davem@davemloft.net)
4  */
5
6 #ifndef _SPARC64_CPUDATA_H
7 #define _SPARC64_CPUDATA_H
8
9 #ifndef __ASSEMBLY__
10
11 #include <linux/percpu.h>
12 #include <linux/threads.h>
13
14 typedef struct {
15         /* Dcache line 1 */
16         unsigned int    __softirq_pending; /* must be 1st, see rtrap.S */
17         unsigned int    multiplier;
18         unsigned int    counter;
19         unsigned int    idle_volume;
20         unsigned long   clock_tick;     /* %tick's per second */
21         unsigned long   udelay_val;
22
23         /* Dcache line 2, rarely used */
24         unsigned int    dcache_size;
25         unsigned int    dcache_line_size;
26         unsigned int    icache_size;
27         unsigned int    icache_line_size;
28         unsigned int    ecache_size;
29         unsigned int    ecache_line_size;
30         unsigned int    __pad3;
31         unsigned int    __pad4;
32 } cpuinfo_sparc;
33
34 DECLARE_PER_CPU(cpuinfo_sparc, __cpu_data);
35 #define cpu_data(__cpu)         per_cpu(__cpu_data, (__cpu))
36 #define local_cpu_data()        __get_cpu_var(__cpu_data)
37
38 /* Trap handling code needs to get at a few critical values upon
39  * trap entry and to process TSB misses.  These cannot be in the
40  * per_cpu() area as we really need to lock them into the TLB and
41  * thus make them part of the main kernel image.  As a result we
42  * try to make this as small as possible.
43  *
44  * This is padded out and aligned to 64-bytes to avoid false sharing
45  * on SMP.
46  */
47
48 /* If you modify the size of this structure, please update
49  * TRAP_BLOCK_SZ_SHIFT below.
50  */
51 struct thread_info;
52 struct trap_per_cpu {
53 /* D-cache line 1 */
54         struct thread_info      *thread;
55         unsigned long           pgd_paddr;
56         unsigned long           __pad1[2];
57
58 /* D-cache line 2 */
59         unsigned long           __pad2[4];
60 } __attribute__((aligned(64)));
61 extern struct trap_per_cpu trap_block[NR_CPUS];
62 extern void init_cur_cpu_trap(void);
63 extern void per_cpu_patch(void);
64
65 #endif /* !(__ASSEMBLY__) */
66
67 #define TRAP_PER_CPU_THREAD     0x00
68 #define TRAP_PER_CPU_PGD_PADDR  0x08
69
70 #define TRAP_BLOCK_SZ_SHIFT     6
71
72 /* Clobbers %g1, loads %g6 with local processor's cpuid */
73 #define __GET_CPUID                     \
74         ba,pt   %xcc, __get_cpu_id;     \
75          rd     %pc, %g1;
76
77 /* Clobbers %g1, current address space PGD phys address into %g7.  */
78 #define TRAP_LOAD_PGD_PHYS                      \
79         __GET_CPUID                             \
80         sllx    %g6, TRAP_BLOCK_SZ_SHIFT, %g6;  \
81         sethi   %hi(trap_block), %g7;           \
82         or      %g7, %lo(trap_block), %g7;      \
83         add     %g7, %g6, %g7;                  \
84         ldx     [%g7 + TRAP_PER_CPU_PGD_PADDR], %g7;
85
86 /* Clobbers %g1, loads local processor's IRQ work area into %g6.  */
87 #define TRAP_LOAD_IRQ_WORK                      \
88         __GET_CPUID                             \
89         sethi   %hi(__irq_work), %g1;           \
90         sllx    %g6, 6, %g6;                    \
91         or      %g1, %lo(__irq_work), %g1;      \
92         add     %g1, %g6, %g6;
93
94 /* Clobbers %g1, loads %g6 with current thread info pointer.  */
95 #define TRAP_LOAD_THREAD_REG                    \
96         __GET_CPUID                             \
97         sllx    %g6, TRAP_BLOCK_SZ_SHIFT, %g6;  \
98         sethi   %hi(trap_block), %g1;           \
99         or      %g1, %lo(trap_block), %g1;      \
100         ldx     [%g1 + %g6], %g6;
101
102 /* Given the current thread info pointer in %g6, load the per-cpu
103  * area base of the current processor into %g5.  REG1 and REG2 are
104  * clobbered.
105  */
106 #ifdef CONFIG_SMP
107 #define LOAD_PER_CPU_BASE(REG1, REG2)                   \
108         ldub    [%g6 + TI_CPU], REG1;                   \
109         sethi   %hi(__per_cpu_shift), %g5;              \
110         sethi   %hi(__per_cpu_base), REG2;              \
111         ldx     [%g5 + %lo(__per_cpu_shift)], %g5;      \
112         ldx     [REG2 + %lo(__per_cpu_base)], REG2;     \
113         sllx    REG1, %g5, %g5;                         \
114         add     %g5, REG2, %g5;
115 #else
116 #define LOAD_PER_CPU_BASE(REG1, REG2)
117 #endif
118
119 #endif /* _SPARC64_CPUDATA_H */