/[gxemul]/trunk/src/cpus/cpu_dyntrans.c
This is repository of my old source code which isn't updated any more. Go to git.rot13.org for current projects!
ViewVC logotype

Diff of /trunk/src/cpus/cpu_dyntrans.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 22 by dpavlin, Mon Oct 8 16:19:37 2007 UTC revision 34 by dpavlin, Mon Oct 8 16:21:17 2007 UTC
# Line 1  Line 1 
1  /*  /*
2   *  Copyright (C) 2005-2006  Anders Gavare.  All rights reserved.   *  Copyright (C) 2005-2007  Anders Gavare.  All rights reserved.
3   *   *
4   *  Redistribution and use in source and binary forms, with or without   *  Redistribution and use in source and binary forms, with or without
5   *  modification, are permitted provided that the following conditions are met:   *  modification, are permitted provided that the following conditions are met:
# Line 25  Line 25 
25   *  SUCH DAMAGE.   *  SUCH DAMAGE.
26   *   *
27   *   *
28   *  $Id: cpu_dyntrans.c,v 1.54 2006/02/09 22:55:20 debug Exp $   *  $Id: cpu_dyntrans.c,v 1.142 2007/02/11 10:47:31 debug Exp $
29   *   *
30   *  Common dyntrans routines. Included from cpu_*.c.   *  Common dyntrans routines. Included from cpu_*.c.
31   */   */
32    
33    
34  #ifdef  DYNTRANS_CPU_RUN_INSTR  #ifndef STATIC_STUFF
35  #if 1   /*  IC statistics:  */  #define STATIC_STUFF
36    /*
37     *  gather_statistics():
38     */
39  static void gather_statistics(struct cpu *cpu)  static void gather_statistics(struct cpu *cpu)
40  {  {
41            char ch, buf[60];
42          struct DYNTRANS_IC *ic = cpu->cd.DYNTRANS_ARCH.next_ic;          struct DYNTRANS_IC *ic = cpu->cd.DYNTRANS_ARCH.next_ic;
43          static long long n = 0;          int i = 0;
         static FILE *f = NULL;  
   
         n++;  
         if (n < 100000000)  
                 return;  
   
         if (f == NULL) {  
                 f = fopen("instruction_call_statistics.raw", "w");  
                 if (f == NULL) {  
                         fatal("Unable to open statistics file for output.\n");  
                         exit(1);  
                 }  
         }  
         fwrite(&ic->f, 1, sizeof(void *), f);  
 }  
 #else   /*  PC statistics:  */  
 static void gather_statistics(struct cpu *cpu)  
 {  
44          uint64_t a;          uint64_t a;
45          int low_pc = ((size_t)cpu->cd.DYNTRANS_ARCH.next_ic - (size_t)          int low_pc = ((size_t)cpu->cd.DYNTRANS_ARCH.next_ic - (size_t)
46              cpu->cd.DYNTRANS_ARCH.cur_ic_page) / sizeof(struct DYNTRANS_IC);              cpu->cd.DYNTRANS_ARCH.cur_ic_page) / sizeof(struct DYNTRANS_IC);
         if (low_pc < 0 || low_pc >= DYNTRANS_IC_ENTRIES_PER_PAGE)  
                 return;  
47    
48  #if 0          if (cpu->machine->statistics_file == NULL) {
49          /*  Use the physical address:  */                  fatal("statistics gathering with no filename set is"
50          cpu->cd.DYNTRANS_ARCH.cur_physpage = (void *)                      " meaningless\n");
51              cpu->cd.DYNTRANS_ARCH.cur_ic_page;                  return;
52          a = cpu->cd.DYNTRANS_ARCH.cur_physpage->physaddr;          }
 #else  
         /*  Use the PC (virtual address):  */  
         a = cpu->pc;  
 #endif  
53    
54          a &= ~((DYNTRANS_IC_ENTRIES_PER_PAGE-1) <<          buf[0] = '\0';
             DYNTRANS_INSTR_ALIGNMENT_SHIFT);  
         a += low_pc << DYNTRANS_INSTR_ALIGNMENT_SHIFT;  
55    
56          /*          while ((ch = cpu->machine->statistics_fields[i]) != '\0') {
57           *  TODO: Everything below this line should be cleaned up :-)                  if (i != 0)
58           */                          strlcat(buf, " ", sizeof(buf));
59  a &= 0x03ffffff;  
60  {                  switch (ch) {
61          static long long *array = NULL;                  case 'i':
62          static char *array_16kpage_in_use = NULL;                          snprintf(buf + strlen(buf), sizeof(buf),
63          static int n = 0;                              "%p", (void *)ic->f);
64          a >>= DYNTRANS_INSTR_ALIGNMENT_SHIFT;                          break;
65          if (array == NULL)                  case 'p':
66                  array = zeroed_alloc(sizeof(long long) * 16384*1024);                          /*  Physical program counter address:  */
67          if (array_16kpage_in_use == NULL)                          /*  (low_pc must be within the page!)  */
68                  array_16kpage_in_use = zeroed_alloc(sizeof(char) * 1024);                          if (low_pc < 0 ||
69          a &= (16384*1024-1);                              low_pc >= DYNTRANS_IC_ENTRIES_PER_PAGE)
70          array[a] ++;                                  strlcat(buf, "-", sizeof(buf));
71          array_16kpage_in_use[a / 16384] = 1;                          cpu->cd.DYNTRANS_ARCH.cur_physpage = (void *)
72          n++;                              cpu->cd.DYNTRANS_ARCH.cur_ic_page;
73          if ((n & 0x3fffffff) == 0) {                          a = cpu->cd.DYNTRANS_ARCH.cur_physpage->physaddr;
74                  FILE *f = fopen("statistics.out", "w");                          a &= ~((DYNTRANS_IC_ENTRIES_PER_PAGE-1) <<
75                  int i, j;                              DYNTRANS_INSTR_ALIGNMENT_SHIFT);
76                  printf("Saving statistics... "); fflush(stdout);                          a += low_pc << DYNTRANS_INSTR_ALIGNMENT_SHIFT;
77                  for (i=0; i<1024; i++)                          if (cpu->is_32bit)
78                          if (array_16kpage_in_use[i]) {                                  snprintf(buf + strlen(buf), sizeof(buf),
79                                  for (j=0; j<16384; j++)                                      "0x%016"PRIx32, (uint32_t)a);
80                                          if (array[i*16384 + j] > 0)                          else
81                                                  fprintf(f, "%lli\t0x%016llx\n",                                  snprintf(buf + strlen(buf), sizeof(buf),
82                                                      (long long)array[i*16384+j],                                      "0x%016"PRIx64, (uint64_t)a);
83                                                      (long long)((i*16384+j) <<                          break;
84                                  DYNTRANS_INSTR_ALIGNMENT_SHIFT));                  case 'v':
85                          }                          /*  Virtual program counter address:  */
86                  fclose(f);                          /*  (low_pc inside the page, or in a delay slot)  */
87                  printf("n=0x%08x\n", n);                          if (low_pc < 0 ||
88                                low_pc >= DYNTRANS_IC_ENTRIES_PER_PAGE + 2)
89                                    strlcat(buf, "-", sizeof(buf));
90                            a = cpu->pc;
91                            a &= ~((DYNTRANS_IC_ENTRIES_PER_PAGE-1) <<
92                                DYNTRANS_INSTR_ALIGNMENT_SHIFT);
93                            a += low_pc << DYNTRANS_INSTR_ALIGNMENT_SHIFT;
94                            if (cpu->is_32bit)
95                                    snprintf(buf + strlen(buf), sizeof(buf),
96                                        "0x%016"PRIx32, (uint32_t)a);
97                            else
98                                    snprintf(buf + strlen(buf), sizeof(buf),
99                                        "0x%016"PRIx64, (uint64_t)a);
100                            break;
101                    }
102                    i++;
103          }          }
104    
105            fprintf(cpu->machine->statistics_file, "%s\n", buf);
106  }  }
107  }  
 #endif  /*  PC statistics  */  
108    
109  #define S               gather_statistics(cpu)  #define S               gather_statistics(cpu)
110    
111    
112  #ifdef DYNTRANS_VARIABLE_INSTRUCTION_LENGTH  #ifdef DYNTRANS_VARIABLE_INSTRUCTION_LENGTH
113  #define I               ic = cpu->cd.DYNTRANS_ARCH.next_ic;             \  #define I               ic = cpu->cd.DYNTRANS_ARCH.next_ic;             \
114                          cpu->cd.DYNTRANS_ARCH.next_ic += ic->arg[0];    \                          cpu->cd.DYNTRANS_ARCH.next_ic += ic->arg[0];    \
115                          ic->f(cpu, ic);                          ic->f(cpu, ic);
116  #else  #else
117  #define I               ic = cpu->cd.DYNTRANS_ARCH.next_ic ++; ic->f(cpu, ic);  
118    /*  The normal instruction execution core:  */
119    #define I       ic = cpu->cd.DYNTRANS_ARCH.next_ic ++; ic->f(cpu, ic);
120    
121    /*  For heavy debugging:  */
122    /*  #define I   ic = cpu->cd.DYNTRANS_ARCH.next_ic ++;  \
123                    {       \
124                            int low_pc = ((size_t)cpu->cd.DYNTRANS_ARCH.next_ic - \
125                                (size_t)cpu->cd.DYNTRANS_ARCH.cur_ic_page) / \
126                                sizeof(struct DYNTRANS_IC);                 \
127                            printf("cur_ic_page=%p ic=%p (low_pc=0x%x)\n",  \
128                                cpu->cd.DYNTRANS_ARCH.cur_ic_page,          \
129                                ic, low_pc << DYNTRANS_INSTR_ALIGNMENT_SHIFT); \
130                    } \
131                    ic->f(cpu, ic);  */
132    
133    /*  static long long nr_of_I_calls = 0;  */
134    
135    /*  Temporary hack for finding NULL bugs:  */
136    /*  #define I   ic = cpu->cd.DYNTRANS_ARCH.next_ic ++;                  \
137                    nr_of_I_calls ++;                                       \
138                    if (ic->f == NULL) {                                    \
139                            int low_pc = ((size_t)cpu->cd.DYNTRANS_ARCH.next_ic - \
140                                (size_t)cpu->cd.DYNTRANS_ARCH.cur_ic_page) / \
141                                sizeof(struct DYNTRANS_IC);                 \
142                            cpu->pc &= ~((DYNTRANS_IC_ENTRIES_PER_PAGE-1) << \
143                                DYNTRANS_INSTR_ALIGNMENT_SHIFT);            \
144                            cpu->pc += (low_pc << DYNTRANS_INSTR_ALIGNMENT_SHIFT);\
145                            printf("Crash at %016"PRIx64"\n", cpu->pc);     \
146                            printf("nr of I calls: %lli\n", nr_of_I_calls); \
147                            printf("Next ic = %p\n", cpu->cd.               \
148                                    DYNTRANS_ARCH.next_ic);                 \
149                            printf("cur ic page = %p\n", cpu->cd.           \
150                                    DYNTRANS_ARCH.cur_ic_page);             \
151                            cpu->running = 0;                               \
152                            return 0;                                       \
153                    }                                                       \
154                    ic->f(cpu, ic);  */
155    
156    /*  Temporary hack for MIPS, to hunt for 32-bit/64-bit sign-extension bugs:  */
157    /*  #define I           { int k; for (k=1; k<=31; k++)  \
158            cpu->cd.mips.gpr[k] = (int32_t)cpu->cd.mips.gpr[k];\
159            if (cpu->cd.mips.gpr[0] != 0) {                 \
160                    fatal("NOOOOOO\n"); exit(1);            \
161            }                                               \
162            ic = cpu->cd.DYNTRANS_ARCH.next_ic ++; ic->f(cpu, ic); }
163    */
164  #endif  #endif
165    #endif  /*  STATIC STUFF  */
166    
167    
168    
169    #ifdef  DYNTRANS_RUN_INSTR
170  /*  /*
171   *  XXX_cpu_run_instr():   *  XXX_run_instr():
172   *   *
173   *  Execute one or more instructions on a specific CPU, using dyntrans.   *  Execute one or more instructions on a specific CPU, using dyntrans.
174     *  (For dualmode archs, this function is included twice.)
175   *   *
176   *  Return value is the number of instructions executed during this call,   *  Return value is the number of instructions executed during this call,
177   *  0 if no instructions were executed.   *  0 if no instructions were executed.
178   */   */
179  int DYNTRANS_CPU_RUN_INSTR(struct emul *emul, struct cpu *cpu)  int DYNTRANS_RUN_INSTR(struct cpu *cpu)
180  {  {
181  #ifdef MODE32          MODE_uint_t cached_pc;
         uint32_t cached_pc;  
 #else  
         uint64_t cached_pc;  
 #endif  
182          int low_pc, n_instrs;          int low_pc, n_instrs;
183    
184            /*  Ugly... fix this some day.  */
185  #ifdef DYNTRANS_DUALMODE_32  #ifdef DYNTRANS_DUALMODE_32
186          if (cpu->is_32bit)  #ifdef MODE32
187                  DYNTRANS_PC_TO_POINTERS32(cpu);          DYNTRANS_PC_TO_POINTERS32(cpu);
188          else  #else
189            DYNTRANS_PC_TO_POINTERS(cpu);
190  #endif  #endif
191    #else
192          DYNTRANS_PC_TO_POINTERS(cpu);          DYNTRANS_PC_TO_POINTERS(cpu);
193    #endif
194    
195          /*          /*
196           *  Interrupt assertion?  (This is _below_ the initial PC to pointer           *  Interrupt assertion?  (This is _below_ the initial PC to pointer
197           *  conversion; if the conversion caused an exception of some kind           *  conversion; if the conversion caused an exception of some kind
198           *  then interrupts are probably disabled, and the exception will get           *  then interrupts are probably disabled, and the exception will get
199           *  priority over device interrupts.)           *  priority over device interrupts.)
200             *
201             *  TODO: Turn this into a family-specific function somewhere...
202           */           */
203  #ifdef DYNTRANS_ARM  #ifdef DYNTRANS_ARM
204          if (cpu->cd.arm.irq_asserted && !(cpu->cd.arm.cpsr & ARM_FLAG_I))          if (cpu->cd.arm.irq_asserted && !(cpu->cd.arm.cpsr & ARM_FLAG_I))
205                  arm_exception(cpu, ARM_EXCEPTION_IRQ);                  arm_exception(cpu, ARM_EXCEPTION_IRQ);
206  #endif  #endif
207    #ifdef DYNTRANS_MIPS
208            {
209                    int enabled, mask;
210                    int status = cpu->cd.mips.coproc[0]->reg[COP0_STATUS];
211                    if (cpu->cd.mips.cpu_type.exc_model == EXC3K) {
212                            /*  R3000:  */
213                            enabled = status & MIPS_SR_INT_IE;
214                    } else {
215                            /*  R4000 and others:  */
216                            enabled = (status & STATUS_IE)
217                                && !(status & STATUS_EXL) && !(status & STATUS_ERL);
218                            /*  Special case for R5900/C790/TX79:  */
219                            if (cpu->cd.mips.cpu_type.rev == MIPS_R5900 &&
220                                !(status & R5900_STATUS_EIE))
221                                    enabled = 0;
222                    }
223                    mask = status & cpu->cd.mips.coproc[0]->reg[COP0_CAUSE]
224                        & STATUS_IM_MASK;
225    
226                    if (enabled && mask)
227                            mips_cpu_exception(cpu, EXCEPTION_INT, 0, 0, 0, 0, 0,0);
228            }
229    #endif
230  #ifdef DYNTRANS_PPC  #ifdef DYNTRANS_PPC
231          if (cpu->cd.ppc.dec_intr_pending && cpu->cd.ppc.msr & PPC_MSR_EE) {          if (cpu->cd.ppc.dec_intr_pending && cpu->cd.ppc.msr & PPC_MSR_EE) {
232                  ppc_exception(cpu, PPC_EXCEPTION_DEC);                  if (!(cpu->cd.ppc.cpu_type.flags & PPC_NO_DEC))
233                            ppc_exception(cpu, PPC_EXCEPTION_DEC);
234                  cpu->cd.ppc.dec_intr_pending = 0;                  cpu->cd.ppc.dec_intr_pending = 0;
235          }          }
236          if (cpu->cd.ppc.irq_asserted && cpu->cd.ppc.msr & PPC_MSR_EE)          if (cpu->cd.ppc.irq_asserted && cpu->cd.ppc.msr & PPC_MSR_EE)
237                  ppc_exception(cpu, PPC_EXCEPTION_EI);                  ppc_exception(cpu, PPC_EXCEPTION_EI);
238  #endif  #endif
239    #ifdef DYNTRANS_SH
240            if (cpu->cd.sh.int_to_assert > 0 && !(cpu->cd.sh.sr & SH_SR_BL)
241                && ((cpu->cd.sh.sr & SH_SR_IMASK) >> SH_SR_IMASK_SHIFT)
242                < cpu->cd.sh.int_level)
243                    sh_exception(cpu, 0, cpu->cd.sh.int_to_assert, 0);
244    #endif
245    
246          cached_pc = cpu->pc;          cached_pc = cpu->pc;
247    
248          cpu->n_translated_instrs = 0;          cpu->n_translated_instrs = 0;
         cpu->running_translated = 1;  
249    
250          cpu->cd.DYNTRANS_ARCH.cur_physpage = (void *)          cpu->cd.DYNTRANS_ARCH.cur_physpage = (void *)
251              cpu->cd.DYNTRANS_ARCH.cur_ic_page;              cpu->cd.DYNTRANS_ARCH.cur_ic_page;
252    
253          if (single_step || cpu->machine->instruction_trace) {          if (single_step || cpu->machine->instruction_trace
254                || cpu->machine->register_dump) {
255                  /*                  /*
256                   *  Single-step:                   *  Single-step:
257                   */                   */
258                  struct DYNTRANS_IC *ic = cpu->cd.DYNTRANS_ARCH.next_ic                  struct DYNTRANS_IC *ic = cpu->cd.DYNTRANS_ARCH.next_ic;
259  #ifndef DYNTRANS_VARIABLE_INSTRUCTION_LENGTH                  if (cpu->machine->register_dump) {
260                      ++                          debug("\n");
261  #endif                          cpu_register_dump(cpu->machine, cpu, 1, 0x1);
262                      ;                  }
263                  if (cpu->machine->instruction_trace) {                  if (cpu->machine->instruction_trace) {
264  #ifdef DYNTRANS_X86                          /*  TODO/Note: This must be large enough to hold
265                          unsigned char instr[17];                              any instruction for any ISA:  */
266                          cpu->cd.x86.cursegment = X86_S_CS;                          unsigned char instr[1 <<
267                          cpu->cd.x86.seg_override = 0;                              DYNTRANS_INSTR_ALIGNMENT_SHIFT];
 #else  
 #ifdef DYNTRANS_M68K  
                         unsigned char instr[16];        /*  TODO: 16?  */  
 #else  
                         unsigned char instr[4];         /*  General case...  */  
 #endif  
 #endif  
268                          if (!cpu->memory_rw(cpu, cpu->mem, cached_pc, &instr[0],                          if (!cpu->memory_rw(cpu, cpu->mem, cached_pc, &instr[0],
269                              sizeof(instr), MEM_READ, CACHE_INSTRUCTION)) {                              sizeof(instr), MEM_READ, CACHE_INSTRUCTION)) {
270                                  fatal("XXX_cpu_run_instr(): could not read "                                  fatal("XXX_run_instr(): could not read "
271                                      "the instruction\n");                                      "the instruction\n");
272                          } else {                          } else {
273                                  cpu_disassemble_instr(cpu->machine, cpu,  #ifdef DYNTRANS_DELAYSLOT
274                                      instr, 1, 0, 0);                                  int len =
275  #ifdef DYNTRANS_MIPS  #endif
276  /*  TODO: generalize, not just MIPS  */                                      cpu_disassemble_instr(
277                                        cpu->machine, cpu, instr, 1, 0);
278    #ifdef DYNTRANS_DELAYSLOT
279                                  /*  Show the instruction in the delay slot,                                  /*  Show the instruction in the delay slot,
280                                      if any:  */                                      if any:  */
281                                  fatal("TODO: check for delay slot!\n");                                  if (cpu->instruction_has_delayslot == NULL)
282                                            fatal("WARNING: ihd func not yet"
283                                                " implemented?\n");
284                                    else if (cpu->instruction_has_delayslot(cpu,
285                                        instr)) {
286                                            int saved_delayslot = cpu->delay_slot;
287                                            cpu->memory_rw(cpu, cpu->mem, cached_pc
288                                                + len, &instr[0],
289                                                sizeof(instr), MEM_READ,
290                                                CACHE_INSTRUCTION);
291                                            cpu->delay_slot = DELAYED;
292                                            cpu->pc += len;
293                                            cpu_disassemble_instr(cpu->machine,
294                                                cpu, instr, 1, 0);
295                                            cpu->delay_slot = saved_delayslot;
296                                            cpu->pc -= len;
297                                    }
298  #endif  #endif
299                          }                          }
300                  }                  }
301    
302                  /*  When single-stepping, multiple instruction calls cannot                  if (cpu->machine->statistics_enabled)
                     be combined into one. This clears all translations:  */  
                 if (cpu->cd.DYNTRANS_ARCH.cur_physpage->flags & COMBINATIONS) {  
                         int i;  
                         for (i=0; i<DYNTRANS_IC_ENTRIES_PER_PAGE; i++)  
                                 cpu->cd.DYNTRANS_ARCH.cur_physpage->ics[i].f =  
 #ifdef DYNTRANS_DUALMODE_32  
                                     cpu->is_32bit?  
                                         instr32(to_be_translated) :  
 #endif  
                                         instr(to_be_translated);  
                         fatal("[ Note: The translation of physical page 0x%llx"  
                             " contained combinations of instructions; these "  
                             "are now flushed because we are single-stepping."  
                             " ]\n", (long long)cpu->cd.DYNTRANS_ARCH.  
                             cur_physpage->physaddr);  
                         cpu->cd.DYNTRANS_ARCH.cur_physpage->flags &=  
                             ~(COMBINATIONS | TRANSLATIONS);  
                 }  
   
                 if (show_opcode_statistics)  
303                          S;                          S;
304    
305                  /*  Execute just one instruction:  */                  /*  Execute just one instruction:  */
306                  ic->f(cpu, ic);                  I;
307    
308                  n_instrs = 1;                  n_instrs = 1;
309          } else if (show_opcode_statistics) {          } else if (cpu->machine->cycle_accurate) {
310                    /*  Executing multiple instructions, and call devices'
311                        tick functions:  */
312                    n_instrs = 0;
313                    for (;;) {
314                            struct DYNTRANS_IC *ic;
315    /*  TODO: continue here  */
316    int64_t cycles = cpu->cd.avr.extra_cycles;
317                            I;
318                            n_instrs += 1;
319    cycles = cpu->cd.avr.extra_cycles - cycles + 1;
320    /*  The instruction took 'cycles' cycles.  */
321    /* printf("A\n"); */
322    while (cycles-- > 0)
323            cpu->machine->tick_func[1](cpu, cpu->machine->tick_extra[1]);
324    /* printf("B\n"); */
325    
326                            if (n_instrs + cpu->n_translated_instrs >=
327                                N_SAFE_DYNTRANS_LIMIT)
328                                    break;
329                    }
330            } else if (cpu->machine->statistics_enabled) {
331                  /*  Gather statistics while executing multiple instructions:  */                  /*  Gather statistics while executing multiple instructions:  */
332                  n_instrs = 0;                  n_instrs = 0;
333                  for (;;) {                  for (;;) {
# Line 250  int DYNTRANS_CPU_RUN_INSTR(struct emul * Line 340  int DYNTRANS_CPU_RUN_INSTR(struct emul *
340    
341                          n_instrs += 24;                          n_instrs += 24;
342    
343                          if (!cpu->running_translated ||                          if (n_instrs + cpu->n_translated_instrs >=
344                              n_instrs + cpu->n_translated_instrs >= 16384)                              N_SAFE_DYNTRANS_LIMIT)
345                                  break;                                  break;
346                  }                  }
347          } else {          } else {
# Line 268  int DYNTRANS_CPU_RUN_INSTR(struct emul * Line 358  int DYNTRANS_CPU_RUN_INSTR(struct emul *
358    
359                          I; I; I; I; I;   I; I; I; I; I;                          I; I; I; I; I;   I; I; I; I; I;
360    
361                          n_instrs += 60;                          I; I; I; I; I;   I; I; I; I; I;
362                            I; I; I; I; I;   I; I; I; I; I;
363                            I; I; I; I; I;   I; I; I; I; I;
364                            I; I; I; I; I;   I; I; I; I; I;
365                            I; I; I; I; I;   I; I; I; I; I;
366    
367                            I; I; I; I; I;   I; I; I; I; I;
368    
369                          if (!cpu->running_translated ||                          cpu->n_translated_instrs += 120;
370                              n_instrs + cpu->n_translated_instrs >= 16384)                          if (cpu->n_translated_instrs >= N_SAFE_DYNTRANS_LIMIT)
371                                  break;                                  break;
372                  }                  }
373          }          }
# Line 300  int DYNTRANS_CPU_RUN_INSTR(struct emul * Line 396  int DYNTRANS_CPU_RUN_INSTR(struct emul *
396                      DYNTRANS_INSTR_ALIGNMENT_SHIFT);                      DYNTRANS_INSTR_ALIGNMENT_SHIFT);
397          }          }
398    
399    #ifdef DYNTRANS_MIPS
400            /*  Update the count register (on everything except EXC3K):  */
401            if (cpu->cd.mips.cpu_type.exc_model != EXC3K) {
402                    uint32_t old = cpu->cd.mips.coproc[0]->reg[COP0_COUNT];
403                    int32_t diff1 = cpu->cd.mips.coproc[0]->reg[COP0_COMPARE] - old;
404                    int32_t diff2;
405                    cpu->cd.mips.coproc[0]->reg[COP0_COUNT] =
406                        (int32_t) (old + n_instrs);
407                    diff2 = cpu->cd.mips.coproc[0]->reg[COP0_COMPARE] -
408                        cpu->cd.mips.coproc[0]->reg[COP0_COUNT];
409    
410                    if (cpu->cd.mips.compare_register_set) {
411    #if 1
412    /*  Not yet.  TODO  */
413                            if (cpu->machine->emulated_hz > 0) {
414                                    if (cpu->cd.mips.compare_interrupts_pending > 0)
415                                            INTERRUPT_ASSERT(
416                                                cpu->cd.mips.irq_compare);
417                            } else
418    #endif
419                            {
420                                    if (diff1 > 0 && diff2 <= 0)
421                                            INTERRUPT_ASSERT(
422                                                cpu->cd.mips.irq_compare);
423                            }
424                    }
425            }
426    #endif
427  #ifdef DYNTRANS_PPC  #ifdef DYNTRANS_PPC
428          /*  Update the Decrementer and Time base registers:  */          /*  Update the Decrementer and Time base registers:  */
429          {          {
# Line 318  int DYNTRANS_CPU_RUN_INSTR(struct emul * Line 442  int DYNTRANS_CPU_RUN_INSTR(struct emul *
442          /*  Return the nr of instructions executed:  */          /*  Return the nr of instructions executed:  */
443          return n_instrs;          return n_instrs;
444  }  }
445  #endif  /*  DYNTRANS_CPU_RUN_INSTR  */  #endif  /*  DYNTRANS_RUN_INSTR  */
446    
447    
448    
# Line 336  void DYNTRANS_FUNCTION_TRACE(struct cpu Line 460  void DYNTRANS_FUNCTION_TRACE(struct cpu
460          char *symbol;          char *symbol;
461          uint64_t ot;          uint64_t ot;
462          int x, print_dots = 1, n_args_to_print =          int x, print_dots = 1, n_args_to_print =
463  #ifdef DYNTRANS_ALPHA  #if defined(DYNTRANS_ALPHA) || defined(DYNTRANS_SPARC)
464              6              6
465  #else  #else
466  #ifdef DYNTRANS_SH  #ifdef DYNTRANS_SH
467              8              8   /*  Both for 32-bit and 64-bit SuperH  */
468  #else  #else
469              4   /*  Default value for most archs  */              4   /*  Default value for most archs  */
470  #endif  #endif
# Line 365  void DYNTRANS_FUNCTION_TRACE(struct cpu Line 489  void DYNTRANS_FUNCTION_TRACE(struct cpu
489           */           */
490          for (x=0; x<n_args_to_print; x++) {          for (x=0; x<n_args_to_print; x++) {
491                  int64_t d;                  int64_t d;
492  #ifdef DYNTRANS_X86  #if defined(DYNTRANS_TRANSPUTER)
493                  d = 0;          /*  TODO  */                  d = 0;          /*  TODO  */
494  #else  #else
495                  /*  Args in registers:  */                  /*  Args in registers:  */
# Line 381  void DYNTRANS_FUNCTION_TRACE(struct cpu Line 505  void DYNTRANS_FUNCTION_TRACE(struct cpu
505                          they go downwards, ie. 22,23 and so on  */                          they go downwards, ie. 22,23 and so on  */
506                      r[24                      r[24
507  #endif  #endif
 #ifdef DYNTRANS_HPPA  
                     r[0         /*  TODO  */  
 #endif  
 #ifdef DYNTRANS_I960  
                     r[0         /*  TODO  */  
 #endif  
 #ifdef DYNTRANS_IA64  
                     r[0         /*  TODO  */  
 #endif  
508  #ifdef DYNTRANS_M68K  #ifdef DYNTRANS_M68K
509                      d[0         /*  TODO  */                      d[0         /*  TODO  */
510  #endif  #endif
# Line 399  void DYNTRANS_FUNCTION_TRACE(struct cpu Line 514  void DYNTRANS_FUNCTION_TRACE(struct cpu
514  #ifdef DYNTRANS_PPC  #ifdef DYNTRANS_PPC
515                      gpr[3                      gpr[3
516  #endif  #endif
517    #ifdef DYNTRANS_RCA180X
518                        r[0         /*  TODO  */
519    #endif
520  #ifdef DYNTRANS_SH  #ifdef DYNTRANS_SH
521                      r[2                      r[4         /*  NetBSD seems to use 4? But 2 seems
522                                            to be used by other code? TODO  */
523  #endif  #endif
524  #ifdef DYNTRANS_SPARC  #ifdef DYNTRANS_SPARC
525                      r[24                      r[8         /*  o0..o5  */
526  #endif  #endif
527                      + x];                      + x];
528  #endif  #endif
# Line 418  void DYNTRANS_FUNCTION_TRACE(struct cpu Line 537  void DYNTRANS_FUNCTION_TRACE(struct cpu
537                          fatal("&%s", symbol);                          fatal("&%s", symbol);
538                  else {                  else {
539                          if (cpu->is_32bit)                          if (cpu->is_32bit)
540                                  fatal("0x%x", (int)d);                                  fatal("0x%"PRIx32, (uint32_t)d);
541                          else                          else
542                                  fatal("0x%llx", (long long)d);                                  fatal("0x%"PRIx64, (uint64_t)d);
543                  }                  }
544    
545                  if (x < n_args_to_print - 1)                  if (x < n_args_to_print - 1)
# Line 435  void DYNTRANS_FUNCTION_TRACE(struct cpu Line 554  void DYNTRANS_FUNCTION_TRACE(struct cpu
554    
555    
556  #ifdef DYNTRANS_TC_ALLOCATE_DEFAULT_PAGE  #ifdef DYNTRANS_TC_ALLOCATE_DEFAULT_PAGE
   
 /*  forward declaration of to_be_translated and end_of_page:  */  
 static void instr(to_be_translated)(struct cpu *, struct DYNTRANS_IC *);  
 static void instr(end_of_page)(struct cpu *,struct DYNTRANS_IC *);  
 #ifdef DYNTRANS_DUALMODE_32  
 static void instr32(to_be_translated)(struct cpu *, struct DYNTRANS_IC *);  
 static void instr32(end_of_page)(struct cpu *,struct DYNTRANS_IC *);  
 #endif  
   
 #ifdef DYNTRANS_DELAYSLOT  
 static void instr(end_of_page2)(struct cpu *,struct DYNTRANS_IC *);  
 #ifdef DYNTRANS_DUALMODE_32  
 static void instr32(end_of_page2)(struct cpu *,struct DYNTRANS_IC *);  
 #endif  
 #endif  
   
557  /*  /*
558   *  XXX_tc_allocate_default_page():   *  XXX_tc_allocate_default_page():
559   *   *
# Line 461  static void DYNTRANS_TC_ALLOCATE_DEFAULT Line 564  static void DYNTRANS_TC_ALLOCATE_DEFAULT
564          uint64_t physaddr)          uint64_t physaddr)
565  {  {
566          struct DYNTRANS_TC_PHYSPAGE *ppp;          struct DYNTRANS_TC_PHYSPAGE *ppp;
         int i;  
567    
568          /*  Create the physpage header:  */          native_commit(cpu);
569    
570          ppp = (struct DYNTRANS_TC_PHYSPAGE *)(cpu->translation_cache          ppp = (struct DYNTRANS_TC_PHYSPAGE *)(cpu->translation_cache
571              + cpu->translation_cache_cur_ofs);              + cpu->translation_cache_cur_ofs);
         ppp->next_ofs = 0;  
         ppp->physaddr = physaddr;  
   
         /*  TODO: Is this faster than copying an entire template page?  */  
         for (i=0; i<DYNTRANS_IC_ENTRIES_PER_PAGE; i++)  
                 ppp->ics[i].f =  
 #ifdef DYNTRANS_DUALMODE_32  
                     cpu->is_32bit? instr32(to_be_translated) :  
 #endif  
                     instr(to_be_translated);  
572    
573          ppp->ics[DYNTRANS_IC_ENTRIES_PER_PAGE + 0].f =          /*  Copy the entire template page first:  */
574  #ifdef DYNTRANS_DUALMODE_32          memcpy(ppp, cpu->cd.DYNTRANS_ARCH.physpage_template, sizeof(
575              cpu->is_32bit? instr32(end_of_page) :              struct DYNTRANS_TC_PHYSPAGE));
 #endif  
             instr(end_of_page);  
576    
577  #ifdef DYNTRANS_DELAYSLOT          ppp->physaddr = physaddr & ~(DYNTRANS_PAGESIZE - 1);
         ppp->ics[DYNTRANS_IC_ENTRIES_PER_PAGE + 1].f =  
 #ifdef DYNTRANS_DUALMODE_32  
             cpu->is_32bit? instr32(end_of_page2) :  
 #endif  
             instr(end_of_page2);  
 #endif  
578    
579          cpu->translation_cache_cur_ofs += sizeof(struct DYNTRANS_TC_PHYSPAGE);          cpu->translation_cache_cur_ofs += sizeof(struct DYNTRANS_TC_PHYSPAGE);
580    
581          cpu->translation_cache_cur_ofs --;          cpu->translation_cache_cur_ofs --;
582          cpu->translation_cache_cur_ofs |= 63;          cpu->translation_cache_cur_ofs |= 127;
583          cpu->translation_cache_cur_ofs ++;          cpu->translation_cache_cur_ofs ++;
584  }  }
585  #endif  /*  DYNTRANS_TC_ALLOCATE_DEFAULT_PAGE  */  #endif  /*  DYNTRANS_TC_ALLOCATE_DEFAULT_PAGE  */
# Line 514  void DYNTRANS_PC_TO_POINTERS_GENERIC(str Line 599  void DYNTRANS_PC_TO_POINTERS_GENERIC(str
599  #else  #else
600          uint64_t          uint64_t
601  #endif  #endif
602              cached_pc, physaddr = 0;              cached_pc = cpu->pc, physaddr = 0;
603          uint32_t physpage_ofs;          uint32_t physpage_ofs;
604          int ok, pagenr, table_index;          int ok, pagenr, table_index;
605          uint32_t *physpage_entryp;          uint32_t *physpage_entryp;
606          struct DYNTRANS_TC_PHYSPAGE *ppp;          struct DYNTRANS_TC_PHYSPAGE *ppp;
607    
608  #ifdef MODE32  #ifdef MODE32
609          int index;          int index = DYNTRANS_ADDR_TO_PAGENR(cached_pc);
         cached_pc = cpu->pc;  
         index = DYNTRANS_ADDR_TO_PAGENR(cached_pc);  
 #else  
 #ifdef DYNTRANS_ALPHA  
         uint32_t a, b;  
         int kernel = 0;  
         struct alpha_vph_page *vph_p;  
         cached_pc = cpu->pc;  
         a = (cached_pc >> ALPHA_LEVEL0_SHIFT) & (ALPHA_LEVEL0 - 1);  
         b = (cached_pc >> ALPHA_LEVEL1_SHIFT) & (ALPHA_LEVEL1 - 1);  
         if ((cached_pc >> ALPHA_TOPSHIFT) == ALPHA_TOP_KERNEL) {  
                 vph_p = cpu->cd.alpha.vph_table0_kernel[a];  
                 kernel = 1;  
         } else  
                 vph_p = cpu->cd.alpha.vph_table0[a];  
610  #else  #else
611          fatal("Neither alpha nor 32-bit? 3\n");          const uint32_t mask1 = (1 << DYNTRANS_L1N) - 1;
612          exit(1);          const uint32_t mask2 = (1 << DYNTRANS_L2N) - 1;
613  #endif          const uint32_t mask3 = (1 << DYNTRANS_L3N) - 1;
614            uint32_t x1, x2, x3;
615            struct DYNTRANS_L2_64_TABLE *l2;
616            struct DYNTRANS_L3_64_TABLE *l3;
617    
618            x1 = (cached_pc >> (64-DYNTRANS_L1N)) & mask1;
619            x2 = (cached_pc >> (64-DYNTRANS_L1N-DYNTRANS_L2N)) & mask2;
620            x3 = (cached_pc >> (64-DYNTRANS_L1N-DYNTRANS_L2N-DYNTRANS_L3N)) & mask3;
621            /*  fatal("X3: cached_pc=%016"PRIx64" x1=%x x2=%x x3=%x\n",
622                (uint64_t)cached_pc, (int)x1, (int)x2, (int)x3);  */
623            l2 = cpu->cd.DYNTRANS_ARCH.l1_64[x1];
624            /*  fatal("  l2 = %p\n", l2);  */
625            l3 = l2->l3[x2];
626            /*  fatal("  l3 = %p\n", l3);  */
627  #endif  #endif
628    
629          /*  Virtual to physical address translation:  */          /*  Virtual to physical address translation:  */
# Line 551  void DYNTRANS_PC_TO_POINTERS_GENERIC(str Line 634  void DYNTRANS_PC_TO_POINTERS_GENERIC(str
634                  ok = 1;                  ok = 1;
635          }          }
636  #else  #else
637  #ifdef DYNTRANS_ALPHA          if (l3->host_load[x3] != NULL) {
638          if (vph_p->host_load[b] != NULL) {                  physaddr = l3->phys_addr[x3];
                 physaddr = vph_p->phys_addr[b];  
639                  ok = 1;                  ok = 1;
640          }          }
 #else  
         fatal("Neither alpha nor 32-bit? 4\n");  
         exit(1);  
 #endif  
641  #endif  #endif
642    
643          if (!ok) {          if (!ok) {
644                  uint64_t paddr;                  uint64_t paddr;
645                  if (cpu->translate_address != NULL)                  if (cpu->translate_v2p != NULL) {
646                          ok = cpu->translate_address(cpu, cached_pc,                          uint64_t vaddr =
647                              &paddr, FLAG_INSTR);  #if defined(MODE32) && defined(DYNTRANS_MIPS)
648                  else {                          /*  32-bit MIPS is _sign_ extend, not zero.  */
649                                (int32_t)
650    #endif
651                                cached_pc;
652                            ok = cpu->translate_v2p(
653                                cpu, vaddr, &paddr, FLAG_INSTR);
654                    } else {
655                          paddr = cached_pc;                          paddr = cached_pc;
656                          ok = 1;                          ok = 1;
657                  }                  }
658                  if (!ok) {                  if (!ok) {
659                          /*  fatal("TODO: instruction vaddr=>paddr translation"                          /*
660                              " failed. vaddr=0x%llx\n", (long long)cached_pc);                           *  The PC is now set to the exception handler.
661                          fatal("!! cpu->pc=0x%llx\n", (long long)cpu->pc);  */                           *  Try to find the paddr in the translation arrays,
662                             *  or if that fails, call translate_v2p for the
663                             *  exception handler.
664                             */
665                            /*  fatal("TODO: instruction vaddr=>paddr translation "
666                                "failed. vaddr=0x%"PRIx64"\n", (uint64_t)cached_pc);
667                            fatal("!! cpu->pc=0x%"PRIx64"\n", (uint64_t)cpu->pc); */
668    
669                            /*  If there was an exception, the PC has changed.
670                                Update cached_pc:  */
671                            cached_pc = cpu->pc;
672    
673    #ifdef MODE32
674                            index = DYNTRANS_ADDR_TO_PAGENR(cached_pc);
675                            if (cpu->cd.DYNTRANS_ARCH.host_load[index] != NULL) {
676                                    paddr = cpu->cd.DYNTRANS_ARCH.phys_addr[index];
677                                    ok = 1;
678                            }
679    #else
680                            x1 = (cached_pc >> (64-DYNTRANS_L1N)) & mask1;
681                            x2 = (cached_pc >> (64-DYNTRANS_L1N-DYNTRANS_L2N))
682                                & mask2;
683                            x3 = (cached_pc >> (64-DYNTRANS_L1N-DYNTRANS_L2N
684                                - DYNTRANS_L3N)) & mask3;
685                            l2 = cpu->cd.DYNTRANS_ARCH.l1_64[x1];
686                            l3 = l2->l3[x2];
687                            if (l3->host_load[x3] != NULL) {
688                                    paddr = l3->phys_addr[x3];
689                                    ok = 1;
690                            }
691    #endif
692    
693                          ok = cpu->translate_address(cpu, cpu->pc, &paddr,                          if (!ok) {
694                              FLAG_INSTR);                                  ok = cpu->translate_v2p(cpu, cpu->pc, &paddr,
695                                        FLAG_INSTR);
696                            }
697    
698                          /*  printf("EXCEPTION HANDLER: vaddr = 0x%x ==> "                          /*  printf("EXCEPTION HANDLER: vaddr = 0x%x ==> "
699                              "paddr = 0x%x\n", (int)cpu->pc, (int)paddr);                              "paddr = 0x%x\n", (int)cpu->pc, (int)paddr);
700                          fatal("!? cpu->pc=0x%llx\n", (long long)cpu->pc);  */                          fatal("!? cpu->pc=0x%"PRIx64"\n", (uint64_t)cpu->pc); */
701    
702                          if (!ok) {                          if (!ok) {
703                                  fatal("FATAL: could not find physical"                                  fatal("FATAL: could not find physical"
# Line 589  void DYNTRANS_PC_TO_POINTERS_GENERIC(str Line 705  void DYNTRANS_PC_TO_POINTERS_GENERIC(str
705                                  exit(1);                                  exit(1);
706                          }                          }
707                  }                  }
708                  cached_pc = cpu->pc;  
 #ifdef MODE32  
                 index = DYNTRANS_ADDR_TO_PAGENR(cached_pc);  
 #endif  
709                  physaddr = paddr;                  physaddr = paddr;
710          }          }
711    
712            physaddr &= ~(DYNTRANS_PAGESIZE - 1);
713    
714  #ifdef MODE32  #ifdef MODE32
715          if (cpu->cd.DYNTRANS_ARCH.host_load[index] == NULL) {          if (cpu->cd.DYNTRANS_ARCH.host_load[index] == NULL) {
716    #else
717            if (l3->host_load[x3] == NULL) {
718    #endif
719                    int q = DYNTRANS_PAGESIZE - 1;
720                  unsigned char *host_page = memory_paddr_to_hostaddr(cpu->mem,                  unsigned char *host_page = memory_paddr_to_hostaddr(cpu->mem,
721                      physaddr, MEM_READ);                      physaddr, MEM_READ);
722                  if (host_page != NULL) {                  if (host_page != NULL) {
                         int q = DYNTRANS_PAGESIZE - 1;  
                         host_page += (physaddr &  
                             ((1 << BITS_PER_MEMBLOCK) - 1) & ~q);  
723                          cpu->update_translation_table(cpu, cached_pc & ~q,                          cpu->update_translation_table(cpu, cached_pc & ~q,
724                              host_page, TLB_CODE, physaddr & ~q);                              host_page, 0, physaddr);
725                  }                  }
726          }          }
 #endif  
727    
728          if (cpu->translation_cache_cur_ofs >= DYNTRANS_CACHE_SIZE) {          if (cpu->translation_cache_cur_ofs >= dyntrans_cache_size) {
729                  debug("[ dyntrans: resetting the translation cache ]\n");  #ifdef UNSTABLE_DEVEL
730                    fatal("[ dyntrans: resetting the translation cache ]\n");
731    #endif
732                  cpu_create_or_reset_tc(cpu);                  cpu_create_or_reset_tc(cpu);
733          }          }
734    
# Line 626  void DYNTRANS_PC_TO_POINTERS_GENERIC(str Line 743  void DYNTRANS_PC_TO_POINTERS_GENERIC(str
743          while (physpage_ofs != 0) {          while (physpage_ofs != 0) {
744                  ppp = (struct DYNTRANS_TC_PHYSPAGE *)(cpu->translation_cache                  ppp = (struct DYNTRANS_TC_PHYSPAGE *)(cpu->translation_cache
745                      + physpage_ofs);                      + physpage_ofs);
746    
747                  /*  If we found the page in the cache, then we're done:  */                  /*  If we found the page in the cache, then we're done:  */
748                  if (ppp->physaddr == physaddr)                  if (ppp->physaddr == physaddr)
749                          break;                          break;
750    
751                  /*  Try the next page in the chain:  */                  /*  Try the next page in the chain:  */
752                  physpage_ofs = ppp->next_ofs;                  physpage_ofs = ppp->next_ofs;
753          }          }
# Line 637  void DYNTRANS_PC_TO_POINTERS_GENERIC(str Line 756  void DYNTRANS_PC_TO_POINTERS_GENERIC(str
756              new "default" empty translation page.  */              new "default" empty translation page.  */
757    
758          if (ppp == NULL) {          if (ppp == NULL) {
759                  /*  fatal("CREATING page %lli (physaddr 0x%llx), table index "                  /*  fatal("CREATING page %lli (physaddr 0x%"PRIx64"), table "
760                      "%i\n", (long long)pagenr, (long long)physaddr,                      "index %i\n", (long long)pagenr, (uint64_t)physaddr,
761                      (int)table_index);  */                      (int)table_index);  */
762                    native_commit(cpu);
763                  *physpage_entryp = physpage_ofs =                  *physpage_entryp = physpage_ofs =
764                      cpu->translation_cache_cur_ofs;                      cpu->translation_cache_cur_ofs;
765    
# Line 653  void DYNTRANS_PC_TO_POINTERS_GENERIC(str Line 773  void DYNTRANS_PC_TO_POINTERS_GENERIC(str
773  #ifdef MODE32  #ifdef MODE32
774          if (cpu->cd.DYNTRANS_ARCH.host_load[index] != NULL)          if (cpu->cd.DYNTRANS_ARCH.host_load[index] != NULL)
775                  cpu->cd.DYNTRANS_ARCH.phys_page[index] = ppp;                  cpu->cd.DYNTRANS_ARCH.phys_page[index] = ppp;
776    #else
777            if (l3->host_load[x3] != NULL)
778                    l3->phys_page[x3] = ppp;
779  #endif  #endif
780    
781  #ifdef DYNTRANS_ALPHA          /*
782          if (vph_p->host_load[b] != NULL)           *  If there are no translations yet on this page, then mark it
783                  vph_p->phys_page[b] = ppp;           *  as non-writable. If there are already translations, then it
784  #endif           *  should already have been marked as non-writable.
785             */
786  #ifdef MODE32          if (ppp->translations == 0) {
787          /*  Small optimization: only mark the physical page as non-writable                  cpu->invalidate_translation_caches(cpu, physaddr,
788              if it did not contain translations. (Because if it does contain                      JUST_MARK_AS_NON_WRITABLE | INVALIDATE_PADDR);
789              translations, it is already non-writable.)  */          }
         if (!cpu->cd.DYNTRANS_ARCH.phystranslation[pagenr >> 5] &  
             (1 << (pagenr & 31)))  
 #endif  
         cpu->invalidate_translation_caches(cpu, physaddr,  
             JUST_MARK_AS_NON_WRITABLE | INVALIDATE_PADDR);  
790    
791          cpu->cd.DYNTRANS_ARCH.cur_ic_page = &ppp->ics[0];          cpu->cd.DYNTRANS_ARCH.cur_ic_page = &ppp->ics[0];
792    
793          cpu->cd.DYNTRANS_ARCH.next_ic = cpu->cd.DYNTRANS_ARCH.cur_ic_page +          cpu->cd.DYNTRANS_ARCH.next_ic = cpu->cd.DYNTRANS_ARCH.cur_ic_page +
794              DYNTRANS_PC_TO_IC_ENTRY(cached_pc);              DYNTRANS_PC_TO_IC_ENTRY(cached_pc);
795    
796          /*  printf("cached_pc=0x%016llx  pagenr=%lli  table_index=%lli, "          /*  printf("cached_pc=0x%016"PRIx64"  pagenr=%lli  table_index=%lli, "
797              "physpage_ofs=0x%016llx\n", (long long)cached_pc, (long long)pagenr,              "physpage_ofs=0x%016"PRIx64"\n", (uint64_t)cached_pc, (long long)
798              (long long)table_index, (long long)physpage_ofs);  */              pagenr, (long long)table_index, (uint64_t)physpage_ofs);  */
799  }  }
800    
801    
# Line 711  void DYNTRANS_PC_TO_POINTERS_FUNC(struct Line 829  void DYNTRANS_PC_TO_POINTERS_FUNC(struct
829          if (ppp != NULL)          if (ppp != NULL)
830                  goto have_it;                  goto have_it;
831  #else  #else
832  #ifdef DYNTRANS_ALPHA          const uint32_t mask1 = (1 << DYNTRANS_L1N) - 1;
833          uint32_t a, b;          const uint32_t mask2 = (1 << DYNTRANS_L2N) - 1;
834          int kernel = 0;          const uint32_t mask3 = (1 << DYNTRANS_L3N) - 1;
835          struct alpha_vph_page *vph_p;          uint32_t x1, x2, x3;
836          a = (cached_pc >> ALPHA_LEVEL0_SHIFT) & (ALPHA_LEVEL0 - 1);          struct DYNTRANS_L2_64_TABLE *l2;
837          b = (cached_pc >> ALPHA_LEVEL1_SHIFT) & (ALPHA_LEVEL1 - 1);          struct DYNTRANS_L3_64_TABLE *l3;
838          if ((cached_pc >> ALPHA_TOPSHIFT) == ALPHA_TOP_KERNEL) {  
839                  vph_p = cpu->cd.alpha.vph_table0_kernel[a];          x1 = (cached_pc >> (64-DYNTRANS_L1N)) & mask1;
840                  kernel = 1;          x2 = (cached_pc >> (64-DYNTRANS_L1N-DYNTRANS_L2N)) & mask2;
841          } else          x3 = (cached_pc >> (64-DYNTRANS_L1N-DYNTRANS_L2N-DYNTRANS_L3N)) & mask3;
842                  vph_p = cpu->cd.alpha.vph_table0[a];          l2 = cpu->cd.DYNTRANS_ARCH.l1_64[x1];
843          if (vph_p != cpu->cd.alpha.vph_default_page) {          l3 = l2->l3[x2];
844                  ppp = vph_p->phys_page[b];          ppp = l3->phys_page[x3];
845                  if (ppp != NULL)          if (ppp != NULL)
846                          goto have_it;                  goto have_it;
         }  
 #else  
         fatal("X1: cached_pc=%016llx\n", (long long)cached_pc);  
         /*  Temporary, to avoid a compiler warning:  */  
         ppp = NULL;  
         fatal("Neither alpha nor 32-bit? 1\n");  
         exit(1);  
 #endif  
847  #endif  #endif
848    
849          DYNTRANS_PC_TO_POINTERS_GENERIC(cpu);          DYNTRANS_PC_TO_POINTERS_GENERIC(cpu);
850          return;          return;
851    
852          /*  Quick return path:  */          /*  Quick return path:  */
 #if defined(MODE32) || defined(DYNTRANS_ALPHA)  
853  have_it:  have_it:
854          cpu->cd.DYNTRANS_ARCH.cur_ic_page = &ppp->ics[0];          cpu->cd.DYNTRANS_ARCH.cur_ic_page = &ppp->ics[0];
855          cpu->cd.DYNTRANS_ARCH.next_ic = cpu->cd.DYNTRANS_ARCH.cur_ic_page +          cpu->cd.DYNTRANS_ARCH.next_ic = cpu->cd.DYNTRANS_ARCH.cur_ic_page +
856              DYNTRANS_PC_TO_IC_ENTRY(cached_pc);              DYNTRANS_PC_TO_IC_ENTRY(cached_pc);
857    
858          /*  printf("cached_pc=0x%016llx  pagenr=%lli  table_index=%lli, "          /*  printf("cached_pc=0x%016"PRIx64"  pagenr=%lli  table_index=%lli, "
859              "physpage_ofs=0x%016llx\n", (long long)cached_pc, (long long)pagenr,              "physpage_ofs=0x%016"PRIx64"\n", (uint64_t)cached_pc, (long long)
860              (long long)table_index, (long long)physpage_ofs);  */              pagenr, (long long)table_index, (uint64_t)physpage_ofs);  */
 #endif  
861  }  }
862  #endif  /*  DYNTRANS_PC_TO_POINTERS_FUNC  */  #endif  /*  DYNTRANS_PC_TO_POINTERS_FUNC  */
863    
864    
865    
866    #ifdef DYNTRANS_INIT_TABLES
867    
868    /*  forward declaration of to_be_translated and end_of_page:  */
869    static void instr(to_be_translated)(struct cpu *, struct DYNTRANS_IC *);
870    static void instr(end_of_page)(struct cpu *,struct DYNTRANS_IC *);
871    #ifdef DYNTRANS_DUALMODE_32
872    static void instr32(to_be_translated)(struct cpu *, struct DYNTRANS_IC *);
873    static void instr32(end_of_page)(struct cpu *,struct DYNTRANS_IC *);
874    #endif
875    
876    #ifdef DYNTRANS_DELAYSLOT
877    static void instr(end_of_page2)(struct cpu *,struct DYNTRANS_IC *);
878    #ifdef DYNTRANS_DUALMODE_32
879    static void instr32(end_of_page2)(struct cpu *,struct DYNTRANS_IC *);
880    #endif
881    #endif
882    
883    /*
884     *  XXX_init_tables():
885     *
886     *  Initializes the default translation page (for newly allocated pages), and
887     *  for 64-bit emulation it also initializes 64-bit dummy tables and pointers.
888     */
889    void DYNTRANS_INIT_TABLES(struct cpu *cpu)
890    {
891    #ifndef MODE32
892            struct DYNTRANS_L2_64_TABLE *dummy_l2;
893            struct DYNTRANS_L3_64_TABLE *dummy_l3;
894            int x1, x2;
895    #endif
896            int i;
897            struct DYNTRANS_TC_PHYSPAGE *ppp = malloc(sizeof(
898                struct DYNTRANS_TC_PHYSPAGE));
899    
900            if (ppp == NULL) {
901                    fprintf(stderr, "out of memory\n");
902                    exit(1);
903            }
904    
905            ppp->next_ofs = 0;
906            ppp->translations = 0;
907            /*  ppp->physaddr is filled in by the page allocator  */
908    
909            for (i=0; i<DYNTRANS_IC_ENTRIES_PER_PAGE; i++) {
910                    ppp->ics[i].f =
911    #ifdef DYNTRANS_DUALMODE_32
912                        cpu->is_32bit? instr32(to_be_translated) :
913    #endif
914                        instr(to_be_translated);
915    #ifdef DYNTRANS_VARIABLE_INSTRUCTION_LENGTH
916                    ppp->ics[i].arg[0] = 0;
917    #endif
918            }
919    
920            /*  End-of-page:  */
921            ppp->ics[DYNTRANS_IC_ENTRIES_PER_PAGE + 0].f =
922    #ifdef DYNTRANS_DUALMODE_32
923                cpu->is_32bit? instr32(end_of_page) :
924    #endif
925                instr(end_of_page);
926    
927    #ifdef DYNTRANS_VARIABLE_INSTRUCTION_LENGTH
928            ppp->ics[DYNTRANS_IC_ENTRIES_PER_PAGE + 0].arg[0] = 0;
929    #endif
930    
931            /*  End-of-page-2, for delay-slot architectures:  */
932    #ifdef DYNTRANS_DELAYSLOT
933            ppp->ics[DYNTRANS_IC_ENTRIES_PER_PAGE + 1].f =
934    #ifdef DYNTRANS_DUALMODE_32
935                cpu->is_32bit? instr32(end_of_page2) :
936    #endif
937                instr(end_of_page2);
938    #endif
939    
940            cpu->cd.DYNTRANS_ARCH.physpage_template = ppp;
941    
942    
943            /*  Prepare 64-bit virtual address translation tables:  */
944    #ifndef MODE32
945            if (cpu->is_32bit)
946                    return;
947    
948            dummy_l2 = zeroed_alloc(sizeof(struct DYNTRANS_L2_64_TABLE));
949            dummy_l3 = zeroed_alloc(sizeof(struct DYNTRANS_L3_64_TABLE));
950    
951            cpu->cd.DYNTRANS_ARCH.l2_64_dummy = dummy_l2;
952            cpu->cd.DYNTRANS_ARCH.l3_64_dummy = dummy_l3;
953    
954            for (x1 = 0; x1 < (1 << DYNTRANS_L1N); x1 ++)
955                    cpu->cd.DYNTRANS_ARCH.l1_64[x1] = dummy_l2;
956    
957            for (x2 = 0; x2 < (1 << DYNTRANS_L2N); x2 ++)
958                    dummy_l2->l3[x2] = dummy_l3;
959    #endif
960    }
961    #endif  /*  DYNTRANS_INIT_TABLES  */
962    
963    
964    
965  #ifdef DYNTRANS_INVAL_ENTRY  #ifdef DYNTRANS_INVAL_ENTRY
966  /*  /*
967   *  XXX_invalidate_tlb_entry():   *  XXX_invalidate_tlb_entry():
# Line 785  static void DYNTRANS_INVALIDATE_TLB_ENTR Line 992  static void DYNTRANS_INVALIDATE_TLB_ENTR
992                      (int)vaddr_page);  */                      (int)vaddr_page);  */
993                  cpu->cd.DYNTRANS_ARCH.host_store[index] = NULL;                  cpu->cd.DYNTRANS_ARCH.host_store[index] = NULL;
994          } else {          } else {
995                    int tlbi = cpu->cd.DYNTRANS_ARCH.vaddr_to_tlbindex[index];
996                  cpu->cd.DYNTRANS_ARCH.host_load[index] = NULL;                  cpu->cd.DYNTRANS_ARCH.host_load[index] = NULL;
997                  cpu->cd.DYNTRANS_ARCH.host_store[index] = NULL;                  cpu->cd.DYNTRANS_ARCH.host_store[index] = NULL;
998                  cpu->cd.DYNTRANS_ARCH.phys_addr[index] = 0;                  cpu->cd.DYNTRANS_ARCH.phys_addr[index] = 0;
999                  cpu->cd.DYNTRANS_ARCH.phys_page[index] = NULL;                  cpu->cd.DYNTRANS_ARCH.phys_page[index] = NULL;
1000                    if (tlbi > 0)
1001                            cpu->cd.DYNTRANS_ARCH.vph_tlb_entry[tlbi-1].valid = 0;
1002                  cpu->cd.DYNTRANS_ARCH.vaddr_to_tlbindex[index] = 0;                  cpu->cd.DYNTRANS_ARCH.vaddr_to_tlbindex[index] = 0;
1003          }          }
1004  #else  #else
1005          /*  2-level:  */          const uint32_t mask1 = (1 << DYNTRANS_L1N) - 1;
1006  #ifdef DYNTRANS_ALPHA          const uint32_t mask2 = (1 << DYNTRANS_L2N) - 1;
1007          struct alpha_vph_page *vph_p;          const uint32_t mask3 = (1 << DYNTRANS_L3N) - 1;
1008          uint32_t a, b;          uint32_t x1, x2, x3;
1009          int kernel = 0;          struct DYNTRANS_L2_64_TABLE *l2;
1010            struct DYNTRANS_L3_64_TABLE *l3;
1011          a = (vaddr_page >> ALPHA_LEVEL0_SHIFT) & (ALPHA_LEVEL0 - 1);  
1012          b = (vaddr_page >> ALPHA_LEVEL1_SHIFT) & (ALPHA_LEVEL1 - 1);          x1 = (vaddr_page >> (64-DYNTRANS_L1N)) & mask1;
1013          if ((vaddr_page >> ALPHA_TOPSHIFT) == ALPHA_TOP_KERNEL) {          x2 = (vaddr_page >> (64-DYNTRANS_L1N-DYNTRANS_L2N)) & mask2;
1014                  vph_p = cpu->cd.alpha.vph_table0_kernel[a];          x3 = (vaddr_page >> (64-DYNTRANS_L1N-DYNTRANS_L2N-DYNTRANS_L3N))& mask3;
                 kernel = 1;  
         } else  
                 vph_p = cpu->cd.alpha.vph_table0[a];  
1015    
1016          if (vph_p == cpu->cd.alpha.vph_default_page) {          l2 = cpu->cd.DYNTRANS_ARCH.l1_64[x1];
1017                  fatal("alpha_invalidate_tlb_entry(): huh? Problem 1.\n");          if (l2 == cpu->cd.DYNTRANS_ARCH.l2_64_dummy)
1018                  exit(1);                  return;
1019          }  
1020            l3 = l2->l3[x2];
1021            if (l3 == cpu->cd.DYNTRANS_ARCH.l3_64_dummy)
1022                    return;
1023    
1024          if (flags & JUST_MARK_AS_NON_WRITABLE) {          if (flags & JUST_MARK_AS_NON_WRITABLE) {
1025                  vph_p->host_store[b] = NULL;                  l3->host_store[x3] = NULL;
1026                  return;                  return;
1027          }          }
1028          vph_p->host_load[b] = NULL;  
1029          vph_p->host_store[b] = NULL;  #ifdef BUGHUNT
1030          vph_p->phys_addr[b] = 0;  
1031          vph_p->phys_page[b] = NULL;  {
1032          vph_p->refcount --;          /*  Consistency check, for debugging:  */
1033          if (vph_p->refcount < 0) {          int x1, x1b; // x2, x3;
1034                  fatal("alpha_invalidate_tlb_entry(): huh? Problem 2.\n");          struct DYNTRANS_L2_64_TABLE *l2;
1035            //struct DYNTRANS_L3_64_TABLE *l3;
1036    
1037            for (x1 = 0; x1 <= mask1; x1 ++) {
1038                    l2 = cpu->cd.DYNTRANS_ARCH.l1_64[x1];
1039                    if (l2 == cpu->cd.DYNTRANS_ARCH.l2_64_dummy)
1040                            continue;
1041                    /*  Make sure that this l2 isn't used more than 1 time!  */
1042                    for (x1b = 0; x1b <= mask1; x1b ++)
1043                            if (x1 != x1b &&
1044                                l2 == cpu->cd.DYNTRANS_ARCH.l1_64[x1b]) {
1045                                    fatal("L2 reuse: %p\n", l2);
1046                                    exit(1);
1047                            }
1048            }
1049    }
1050    
1051    /*  Count how many pages are actually in use:  */
1052    {
1053            int n=0, i;
1054            for (i=0; i<=mask3; i++)
1055                    if (l3->vaddr_to_tlbindex[i])
1056                            n++;
1057            if (n != l3->refcount) {
1058                    printf("Z: %i in use, but refcount = %i!\n", n, l3->refcount);
1059                  exit(1);                  exit(1);
1060          }          }
1061          if (vph_p->refcount == 0) {  
1062                  vph_p->next = cpu->cd.alpha.vph_next_free_page;          n = 0;
1063                  cpu->cd.alpha.vph_next_free_page = vph_p;          for (i=0; i<=mask3; i++)
1064                  if (kernel)                  if (l3->host_load[i] != NULL)
1065                          cpu->cd.alpha.vph_table0_kernel[a] =                          n++;
1066                              cpu->cd.alpha.vph_default_page;          if (n != l3->refcount) {
1067                  else                  printf("ZHL: %i in use, but refcount = %i!\n", n, l3->refcount);
1068                          cpu->cd.alpha.vph_table0[a] =                  exit(1);
1069                              cpu->cd.alpha.vph_default_page;          }
1070    }
1071    #endif
1072    
1073            l3->host_load[x3] = NULL;
1074            l3->host_store[x3] = NULL;
1075            l3->phys_addr[x3] = 0;
1076            l3->phys_page[x3] = NULL;
1077            if (l3->vaddr_to_tlbindex[x3] != 0) {
1078                    cpu->cd.DYNTRANS_ARCH.vph_tlb_entry[
1079                        l3->vaddr_to_tlbindex[x3] - 1].valid = 0;
1080                    l3->refcount --;
1081            }
1082            l3->vaddr_to_tlbindex[x3] = 0;
1083    
1084            if (l3->refcount < 0) {
1085                    fatal("xxx_invalidate_tlb_entry(): huh? Refcount bug.\n");
1086                    exit(1);
1087            }
1088    
1089            if (l3->refcount == 0) {
1090                    l3->next = cpu->cd.DYNTRANS_ARCH.next_free_l3;
1091                    cpu->cd.DYNTRANS_ARCH.next_free_l3 = l3;
1092                    l2->l3[x2] = cpu->cd.DYNTRANS_ARCH.l3_64_dummy;
1093    
1094    #ifdef BUGHUNT
1095    /*  Make sure that we're placing a CLEAN page on the
1096        freelist:  */
1097    {
1098            int i;
1099            for (i=0; i<=mask3; i++)
1100                    if (l3->host_load[i] != NULL) {
1101                            fatal("TRYING TO RETURN A NON-CLEAN L3 PAGE!\n");
1102                            exit(1);
1103                    }
1104    }
1105    #endif
1106                    l2->refcount --;
1107                    if (l2->refcount < 0) {
1108                            fatal("xxx_invalidate_tlb_entry(): Refcount bug L2.\n");
1109                            exit(1);
1110                    }
1111                    if (l2->refcount == 0) {
1112                            l2->next = cpu->cd.DYNTRANS_ARCH.next_free_l2;
1113                            cpu->cd.DYNTRANS_ARCH.next_free_l2 = l2;
1114                            cpu->cd.DYNTRANS_ARCH.l1_64[x1] =
1115                                cpu->cd.DYNTRANS_ARCH.l2_64_dummy;
1116                    }
1117          }          }
 #else   /*  !DYNTRANS_ALPHA  */  
         fatal("Not yet for non-1-level, non-Alpha\n");  
 #endif  /*  !DYNTRANS_ALPHA  */  
1118  #endif  #endif
1119  }  }
1120  #endif  #endif
# Line 966  void DYNTRANS_INVALIDATE_TC_CODE(struct Line 1244  void DYNTRANS_INVALIDATE_TC_CODE(struct
1244                  struct DYNTRANS_TC_PHYSPAGE *ppp, *prev_ppp;                  struct DYNTRANS_TC_PHYSPAGE *ppp, *prev_ppp;
1245    
1246                  pagenr = DYNTRANS_ADDR_TO_PAGENR(addr);                  pagenr = DYNTRANS_ADDR_TO_PAGENR(addr);
   
 #ifdef MODE32  
                 /*  If this page isn't marked as having any translations,  
                     then return immediately.  */  
                 if (!(cpu->cd.DYNTRANS_ARCH.phystranslation[pagenr >> 5]  
                     & 1 << (pagenr & 31)))  
                         return;  
                 /*  Remove the mark:  */  
                 cpu->cd.DYNTRANS_ARCH.phystranslation[pagenr >> 5] &=  
                     ~ (1 << (pagenr & 31));  
 #endif  
   
1247                  table_index = PAGENR_TO_TABLE_INDEX(pagenr);                  table_index = PAGENR_TO_TABLE_INDEX(pagenr);
1248    
1249                  physpage_entryp = &(((uint32_t *)cpu->                  physpage_entryp = &(((uint32_t *)cpu->
1250                      translation_cache)[table_index]);                      translation_cache)[table_index]);
1251                  physpage_ofs = *physpage_entryp;                  physpage_ofs = *physpage_entryp;
1252    
1253                    /*  Return immediately if there is no code translation
1254                        for this page.  */
1255                    if (physpage_ofs == 0)
1256                            return;
1257    
1258                  prev_ppp = ppp = NULL;                  prev_ppp = ppp = NULL;
1259    
1260                  /*  Traverse the physical page chain:  */                  /*  Traverse the physical page chain:  */
# Line 990  void DYNTRANS_INVALIDATE_TC_CODE(struct Line 1262  void DYNTRANS_INVALIDATE_TC_CODE(struct
1262                          prev_ppp = ppp;                          prev_ppp = ppp;
1263                          ppp = (struct DYNTRANS_TC_PHYSPAGE *)                          ppp = (struct DYNTRANS_TC_PHYSPAGE *)
1264                              (cpu->translation_cache + physpage_ofs);                              (cpu->translation_cache + physpage_ofs);
1265    
1266                          /*  If we found the page in the cache,                          /*  If we found the page in the cache,
1267                              then we're done:  */                              then we're done:  */
1268                          if (ppp->physaddr == addr)                          if (ppp->physaddr == addr)
1269                                  break;                                  break;
1270    
1271                          /*  Try the next page in the chain:  */                          /*  Try the next page in the chain:  */
1272                          physpage_ofs = ppp->next_ofs;                          physpage_ofs = ppp->next_ofs;
1273                  }                  }
1274    
1275                  if (physpage_ofs == 0)                  /*  If there is no translation, there is no need to go
1276                          ppp = NULL;                      on and try to remove it from the vph_tlb_entry array:  */
1277                    if (ppp == NULL)
1278                            return;
1279    
1280  #if 1  #if 0
1281                  /*                  /*
1282                   *  "Bypass" the page, removing it from the code cache.                   *  "Bypass" the page, removing it from the code cache.
1283                   *                   *
# Line 1023  void DYNTRANS_INVALIDATE_TC_CODE(struct Line 1299  void DYNTRANS_INVALIDATE_TC_CODE(struct
1299                   *  it might be faster since we don't risk wasting cache                   *  it might be faster since we don't risk wasting cache
1300                   *  memory as quickly (which would force unnecessary Restarts).                   *  memory as quickly (which would force unnecessary Restarts).
1301                   */                   */
1302                  if (ppp != NULL) {                  if (ppp != NULL && ppp->translations != 0) {
1303                          /*  TODO: Is this faster than copying an entire                          uint32_t x = ppp->translations; /*  TODO:
1304                              template page?  */                                  urk Should be same type as ppp->translations */
1305                          int i;                          int i, j, n, m;
1306                          for (i=0; i<DYNTRANS_IC_ENTRIES_PER_PAGE; i++)                          n = 8 * sizeof(x);
1307                                  ppp->ics[i].f =                          m = DYNTRANS_IC_ENTRIES_PER_PAGE / n;
1308    
1309                            for (i=0; i<n; i++) {
1310                                    if (x & 1) {
1311                                            for (j=0; j<m; j++)
1312                                                    ppp->ics[i*m + j].f =
1313  #ifdef DYNTRANS_DUALMODE_32  #ifdef DYNTRANS_DUALMODE_32
1314                                      cpu->is_32bit? instr32(to_be_translated) :                                                      cpu->is_32bit?
1315                                                        instr32(to_be_translated) :
1316  #endif  #endif
1317                                      instr(to_be_translated);                                                      instr(to_be_translated);
1318                                    }
1319    
1320                                    x >>= 1;
1321                            }
1322    
1323                            ppp->translations = 0;
1324                  }                  }
1325  #endif  #endif
1326          }          }
1327    
1328          /*  Invalidate entries (NOTE: only code entries) in the VPH table:  */          /*  Invalidate entries in the VPH table:  */
1329          for (r = DYNTRANS_MAX_VPH_TLB_ENTRIES/2;          for (r = 0; r < DYNTRANS_MAX_VPH_TLB_ENTRIES; r ++) {
              r < DYNTRANS_MAX_VPH_TLB_ENTRIES; r ++) {  
1330                  if (cpu->cd.DYNTRANS_ARCH.vph_tlb_entry[r].valid) {                  if (cpu->cd.DYNTRANS_ARCH.vph_tlb_entry[r].valid) {
1331                          vaddr_page = cpu->cd.DYNTRANS_ARCH.vph_tlb_entry[r]                          vaddr_page = cpu->cd.DYNTRANS_ARCH.vph_tlb_entry[r]
1332                              .vaddr_page & ~(DYNTRANS_PAGESIZE-1);                              .vaddr_page & ~(DYNTRANS_PAGESIZE-1);
# Line 1053  void DYNTRANS_INVALIDATE_TC_CODE(struct Line 1340  void DYNTRANS_INVALIDATE_TC_CODE(struct
1340                                  uint32_t index =                                  uint32_t index =
1341                                      DYNTRANS_ADDR_TO_PAGENR(vaddr_page);                                      DYNTRANS_ADDR_TO_PAGENR(vaddr_page);
1342                                  cpu->cd.DYNTRANS_ARCH.phys_page[index] = NULL;                                  cpu->cd.DYNTRANS_ARCH.phys_page[index] = NULL;
                                 /*  Remove the mark:  */  
                                 index = DYNTRANS_ADDR_TO_PAGENR(paddr_page);  
                                 cpu->cd.DYNTRANS_ARCH.phystranslation[  
                                     index >> 5] &= ~ (1 << (index & 31));  
1343  #else  #else
1344                                  /*  2-level:  */                                  const uint32_t mask1 = (1 << DYNTRANS_L1N) - 1;
1345  #ifdef DYNTRANS_ALPHA                                  const uint32_t mask2 = (1 << DYNTRANS_L2N) - 1;
1346                                  struct alpha_vph_page *vph_p;                                  const uint32_t mask3 = (1 << DYNTRANS_L3N) - 1;
1347                                  uint32_t a, b;                                  uint32_t x1, x2, x3;
1348                                  int kernel = 0;                                  struct DYNTRANS_L2_64_TABLE *l2;
1349                                    struct DYNTRANS_L3_64_TABLE *l3;
1350                                  a = (vaddr_page >> ALPHA_LEVEL0_SHIFT)  
1351                                      & (ALPHA_LEVEL0 - 1);                                  x1 = (vaddr_page >> (64-DYNTRANS_L1N)) & mask1;
1352                                  b = (vaddr_page >> ALPHA_LEVEL1_SHIFT)                                  x2 = (vaddr_page >> (64-DYNTRANS_L1N -
1353                                      & (ALPHA_LEVEL1 - 1);                                      DYNTRANS_L2N)) & mask2;
1354                                  if ((vaddr_page >> ALPHA_TOPSHIFT) ==                                  x3 = (vaddr_page >> (64-DYNTRANS_L1N -
1355                                      ALPHA_TOP_KERNEL) {                                      DYNTRANS_L2N - DYNTRANS_L3N)) & mask3;
1356                                          vph_p = cpu->cd.alpha.                                  l2 = cpu->cd.DYNTRANS_ARCH.l1_64[x1];
1357                                              vph_table0_kernel[a];                                  l3 = l2->l3[x2];
1358                                          kernel = 1;                                  l3->phys_page[x3] = NULL;
                                 } else  
                                         vph_p = cpu->cd.alpha.vph_table0[a];  
                                 vph_p->phys_page[b] = NULL;  
 #else   /*  !DYNTRANS_ALPHA  */  
                                 fatal("Not yet for non-1-level, non-Alpha\n");  
 #endif  /*  !DYNTRANS_ALPHA  */  
1359  #endif  #endif
1360                          }                          }
1361                  }                  }
# Line 1097  void DYNTRANS_INVALIDATE_TC_CODE(struct Line 1374  void DYNTRANS_INVALIDATE_TC_CODE(struct
1374  void DYNTRANS_UPDATE_TRANSLATION_TABLE(struct cpu *cpu, uint64_t vaddr_page,  void DYNTRANS_UPDATE_TRANSLATION_TABLE(struct cpu *cpu, uint64_t vaddr_page,
1375          unsigned char *host_page, int writeflag, uint64_t paddr_page)          unsigned char *host_page, int writeflag, uint64_t paddr_page)
1376  {  {
1377  #ifndef MODE32          int found, r, useraccess = 0;
         int64_t lowest, highest = -1;  
 #endif  
         int found, r, lowest_index, start, end, useraccess = 0;  
1378    
 #ifdef DYNTRANS_ALPHA  
         uint32_t a, b;  
         struct alpha_vph_page *vph_p;  
         int kernel = 0;  
         /*  fatal("update_translation_table(): v=0x%llx, h=%p w=%i"  
             " p=0x%llx\n", (long long)vaddr_page, host_page, writeflag,  
             (long long)paddr_page);  */  
 #else  
1379  #ifdef MODE32  #ifdef MODE32
1380          uint32_t index;          uint32_t index;
1381          vaddr_page &= 0xffffffffULL;          vaddr_page &= 0xffffffffULL;
# Line 1118  void DYNTRANS_UPDATE_TRANSLATION_TABLE(s Line 1384  void DYNTRANS_UPDATE_TRANSLATION_TABLE(s
1384              " p=0x%x\n", (int)vaddr_page, host_page, writeflag,              " p=0x%x\n", (int)vaddr_page, host_page, writeflag,
1385              (int)paddr_page);  */              (int)paddr_page);  */
1386  #else   /*  !MODE32  */  #else   /*  !MODE32  */
1387          fatal("Neither 32-bit nor Alpha? 2\n");          const uint32_t mask1 = (1 << DYNTRANS_L1N) - 1;
1388          exit(1);          const uint32_t mask2 = (1 << DYNTRANS_L2N) - 1;
1389  #endif          const uint32_t mask3 = (1 << DYNTRANS_L3N) - 1;
1390            uint32_t x1, x2, x3;
1391            struct DYNTRANS_L2_64_TABLE *l2;
1392            struct DYNTRANS_L3_64_TABLE *l3;
1393    
1394            /*  fatal("update_translation_table(): v=0x%016"PRIx64", h=%p w=%i"
1395                " p=0x%016"PRIx64"\n", (uint64_t)vaddr_page, host_page, writeflag,
1396                (uint64_t)paddr_page);  */
1397  #endif  #endif
1398    
1399            assert((vaddr_page & (DYNTRANS_PAGESIZE-1)) == 0);
1400            assert((paddr_page & (DYNTRANS_PAGESIZE-1)) == 0);
1401    
1402          if (writeflag & MEMORY_USER_ACCESS) {          if (writeflag & MEMORY_USER_ACCESS) {
1403                  writeflag &= ~MEMORY_USER_ACCESS;                  writeflag &= ~MEMORY_USER_ACCESS;
1404                  useraccess = 1;                  useraccess = 1;
1405          }          }
1406    
         start = 0; end = DYNTRANS_MAX_VPH_TLB_ENTRIES / 2;  
 #if 1  
         /*  Half of the TLB used for data, half for code:  */  
         if (writeflag & TLB_CODE) {  
                 writeflag &= ~TLB_CODE;  
                 start = end; end = DYNTRANS_MAX_VPH_TLB_ENTRIES;  
         }  
 #else  
         /*  Data and code entries are mixed.  */  
         end = DYNTRANS_MAX_VPH_TLB_ENTRIES;  
 #endif  
   
1407          /*  Scan the current TLB entries:  */          /*  Scan the current TLB entries:  */
         lowest_index = start;  
1408    
1409  #ifdef MODE32  #ifdef MODE32
1410          /*          /*
# Line 1154  void DYNTRANS_UPDATE_TRANSLATION_TABLE(s Line 1417  void DYNTRANS_UPDATE_TRANSLATION_TABLE(s
1417           */           */
1418          found = (int)cpu->cd.DYNTRANS_ARCH.vaddr_to_tlbindex[          found = (int)cpu->cd.DYNTRANS_ARCH.vaddr_to_tlbindex[
1419              DYNTRANS_ADDR_TO_PAGENR(vaddr_page)] - 1;              DYNTRANS_ADDR_TO_PAGENR(vaddr_page)] - 1;
         if (found < 0) {  
                 static unsigned int x = 0;  
                 lowest_index = (x % (end-start)) + start;  
                 x ++;  
         }  
1420  #else  #else
1421          lowest = cpu->cd.DYNTRANS_ARCH.vph_tlb_entry[0].timestamp;          x1 = (vaddr_page >> (64-DYNTRANS_L1N)) & mask1;
1422          found = -1;          x2 = (vaddr_page >> (64-DYNTRANS_L1N-DYNTRANS_L2N)) & mask2;
1423          for (r=start; r<end; r++) {          x3 = (vaddr_page >> (64-DYNTRANS_L1N-DYNTRANS_L2N-DYNTRANS_L3N))
1424                  if (cpu->cd.DYNTRANS_ARCH.vph_tlb_entry[r].timestamp < lowest) {              & mask3;
1425                          lowest = cpu->cd.DYNTRANS_ARCH.  
1426                              vph_tlb_entry[r].timestamp;          l2 = cpu->cd.DYNTRANS_ARCH.l1_64[x1];
1427                          lowest_index = r;          if (l2 == cpu->cd.DYNTRANS_ARCH.l2_64_dummy)
1428                  }                  found = -1;
1429                  if (cpu->cd.DYNTRANS_ARCH.vph_tlb_entry[r].timestamp > highest)          else {
1430                          highest = cpu->cd.DYNTRANS_ARCH.                  l3 = l2->l3[x2];
1431                              vph_tlb_entry[r].timestamp;                  if (l3 == cpu->cd.DYNTRANS_ARCH.l3_64_dummy)
1432                  if (cpu->cd.DYNTRANS_ARCH.vph_tlb_entry[r].valid &&                          found = -1;
1433                      cpu->cd.DYNTRANS_ARCH.vph_tlb_entry[r].vaddr_page ==                  else
1434                      vaddr_page) {                          found = (int)l3->vaddr_to_tlbindex[x3] - 1;
                         found = r;  
                         break;  
                 }  
1435          }          }
1436  #endif  #endif
1437    
1438          if (found < 0) {          if (found < 0) {
1439                  /*  Create the new TLB entry, overwriting the oldest one:  */                  /*  Create the new TLB entry, overwriting a "random" entry:  */
1440                  r = lowest_index;                  static unsigned int x = 0;
1441                    r = (x++) % DYNTRANS_MAX_VPH_TLB_ENTRIES;
1442    
1443                  if (cpu->cd.DYNTRANS_ARCH.vph_tlb_entry[r].valid) {                  if (cpu->cd.DYNTRANS_ARCH.vph_tlb_entry[r].valid) {
1444                          /*  This one has to be invalidated first:  */                          /*  This one has to be invalidated first:  */
1445                          DYNTRANS_INVALIDATE_TLB_ENTRY(cpu,                          DYNTRANS_INVALIDATE_TLB_ENTRY(cpu,
# Line 1196  void DYNTRANS_UPDATE_TRANSLATION_TABLE(s Line 1453  void DYNTRANS_UPDATE_TRANSLATION_TABLE(s
1453                  cpu->cd.DYNTRANS_ARCH.vph_tlb_entry[r].vaddr_page = vaddr_page;                  cpu->cd.DYNTRANS_ARCH.vph_tlb_entry[r].vaddr_page = vaddr_page;
1454                  cpu->cd.DYNTRANS_ARCH.vph_tlb_entry[r].writeflag =                  cpu->cd.DYNTRANS_ARCH.vph_tlb_entry[r].writeflag =
1455                      writeflag & MEM_WRITE;                      writeflag & MEM_WRITE;
 #ifndef MODE32  
                 cpu->cd.DYNTRANS_ARCH.vph_tlb_entry[r].timestamp = highest + 1;  
 #endif  
1456    
1457                  /*  Add the new translation to the table:  */                  /*  Add the new translation to the table:  */
 #ifdef DYNTRANS_ALPHA  
                 a = (vaddr_page >> ALPHA_LEVEL0_SHIFT) & (ALPHA_LEVEL0 - 1);  
                 b = (vaddr_page >> ALPHA_LEVEL1_SHIFT) & (ALPHA_LEVEL1 - 1);  
                 if ((vaddr_page >> ALPHA_TOPSHIFT) == ALPHA_TOP_KERNEL) {  
                         vph_p = cpu->cd.alpha.vph_table0_kernel[a];  
                         kernel = 1;  
                 } else  
                         vph_p = cpu->cd.alpha.vph_table0[a];  
                 if (vph_p == cpu->cd.alpha.vph_default_page) {  
                         if (cpu->cd.alpha.vph_next_free_page != NULL) {  
                                 if (kernel)  
                                         vph_p = cpu->cd.alpha.vph_table0_kernel  
                                             [a] = cpu->cd.alpha.  
                                             vph_next_free_page;  
                                 else  
                                         vph_p = cpu->cd.alpha.vph_table0[a] =  
                                             cpu->cd.alpha.vph_next_free_page;  
                                 cpu->cd.alpha.vph_next_free_page = vph_p->next;  
                         } else {  
                                 if (kernel)  
                                         vph_p = cpu->cd.alpha.vph_table0_kernel  
                                             [a] = malloc(sizeof(struct  
                                             alpha_vph_page));  
                                 else  
                                         vph_p = cpu->cd.alpha.vph_table0[a] =  
                                             malloc(sizeof(struct  
                                             alpha_vph_page));  
                                 memset(vph_p, 0, sizeof(struct alpha_vph_page));  
                         }  
                 }  
                 vph_p->refcount ++;  
                 vph_p->host_load[b] = host_page;  
                 vph_p->host_store[b] = writeflag? host_page : NULL;  
                 vph_p->phys_addr[b] = paddr_page;  
                 vph_p->phys_page[b] = NULL;  
 #else  
1458  #ifdef MODE32  #ifdef MODE32
1459                  index = DYNTRANS_ADDR_TO_PAGENR(vaddr_page);                  index = DYNTRANS_ADDR_TO_PAGENR(vaddr_page);
1460                  cpu->cd.DYNTRANS_ARCH.host_load[index] = host_page;                  cpu->cd.DYNTRANS_ARCH.host_load[index] = host_page;
# Line 1250  void DYNTRANS_UPDATE_TRANSLATION_TABLE(s Line 1468  void DYNTRANS_UPDATE_TRANSLATION_TABLE(s
1468                          cpu->cd.DYNTRANS_ARCH.is_userpage[index >> 5]                          cpu->cd.DYNTRANS_ARCH.is_userpage[index >> 5]
1469                              |= 1 << (index & 31);                              |= 1 << (index & 31);
1470  #endif  #endif
1471  #endif  /*  32  */  #else   /* !MODE32  */
1472  #endif  /*  !ALPHA  */                  l2 = cpu->cd.DYNTRANS_ARCH.l1_64[x1];
1473                    if (l2 == cpu->cd.DYNTRANS_ARCH.l2_64_dummy) {
1474                            if (cpu->cd.DYNTRANS_ARCH.next_free_l2 != NULL) {
1475                                    l2 = cpu->cd.DYNTRANS_ARCH.l1_64[x1] =
1476                                        cpu->cd.DYNTRANS_ARCH.next_free_l2;
1477                                    cpu->cd.DYNTRANS_ARCH.next_free_l2 = l2->next;
1478                            } else {
1479                                    int i;
1480                                    l2 = cpu->cd.DYNTRANS_ARCH.l1_64[x1] =
1481                                        malloc(sizeof(struct DYNTRANS_L2_64_TABLE));
1482                                    l2->refcount = 0;
1483                                    for (i=0; i<(1 << DYNTRANS_L2N); i++)
1484                                            l2->l3[i] = cpu->cd.DYNTRANS_ARCH.
1485                                                l3_64_dummy;
1486                            }
1487                            if (l2->refcount != 0) {
1488                                    fatal("Huh? l2 Refcount problem.\n");
1489                                    exit(1);
1490                            }
1491                    }
1492                    if (l2 == cpu->cd.DYNTRANS_ARCH.l2_64_dummy) {
1493                            fatal("INTERNAL ERROR L2 reuse\n");
1494                            exit(1);
1495                    }
1496                    l3 = l2->l3[x2];
1497                    if (l3 == cpu->cd.DYNTRANS_ARCH.l3_64_dummy) {
1498                            if (cpu->cd.DYNTRANS_ARCH.next_free_l3 != NULL) {
1499                                    l3 = l2->l3[x2] =
1500                                        cpu->cd.DYNTRANS_ARCH.next_free_l3;
1501                                    cpu->cd.DYNTRANS_ARCH.next_free_l3 = l3->next;
1502                            } else {
1503                                    l3 = l2->l3[x2] = zeroed_alloc(sizeof(
1504                                        struct DYNTRANS_L3_64_TABLE));
1505                            }
1506                            if (l3->refcount != 0) {
1507                                    fatal("Huh? l3 Refcount problem.\n");
1508                                    exit(1);
1509                            }
1510                            l2->refcount ++;
1511                    }
1512                    if (l3 == cpu->cd.DYNTRANS_ARCH.l3_64_dummy) {
1513                            fatal("INTERNAL ERROR L3 reuse\n");
1514                            exit(1);
1515                    }
1516    
1517                    l3->host_load[x3] = host_page;
1518                    l3->host_store[x3] = writeflag? host_page : NULL;
1519                    l3->phys_addr[x3] = paddr_page;
1520                    l3->phys_page[x3] = NULL;
1521                    l3->vaddr_to_tlbindex[x3] = r + 1;
1522                    l3->refcount ++;
1523    
1524    #ifdef BUGHUNT
1525    /*  Count how many pages are actually in use:  */
1526    {
1527            int n=0, i;
1528            for (i=0; i<=mask3; i++)
1529                    if (l3->vaddr_to_tlbindex[i])
1530                            n++;
1531            if (n != l3->refcount) {
1532                    printf("X: %i in use, but refcount = %i!\n", n, l3->refcount);
1533                    exit(1);
1534            }
1535    
1536            n = 0;
1537            for (i=0; i<=mask3; i++)
1538                    if (l3->host_load[i] != NULL)
1539                            n++;
1540            if (n != l3->refcount) {
1541                    printf("XHL: %i in use, but refcount = %i!\n", n, l3->refcount);
1542                    exit(1);
1543            }
1544    }
1545    #endif
1546    
1547    #endif  /* !MODE32  */
1548          } else {          } else {
1549                  /*                  /*
1550                   *  The translation was already in the TLB.                   *  The translation was already in the TLB.
# Line 1260  void DYNTRANS_UPDATE_TRANSLATION_TABLE(s Line 1553  void DYNTRANS_UPDATE_TRANSLATION_TABLE(s
1553                   *      Writeflag = MEM_DOWNGRADE: Downgrade to readonly.                   *      Writeflag = MEM_DOWNGRADE: Downgrade to readonly.
1554                   */                   */
1555                  r = found;                  r = found;
 #ifndef MODE32  
                 cpu->cd.DYNTRANS_ARCH.vph_tlb_entry[r].timestamp = highest + 1;  
 #endif  
1556                  if (writeflag & MEM_WRITE)                  if (writeflag & MEM_WRITE)
1557                          cpu->cd.DYNTRANS_ARCH.vph_tlb_entry[r].writeflag = 1;                          cpu->cd.DYNTRANS_ARCH.vph_tlb_entry[r].writeflag = 1;
1558                  if (writeflag & MEM_DOWNGRADE)                  if (writeflag & MEM_DOWNGRADE)
1559                          cpu->cd.DYNTRANS_ARCH.vph_tlb_entry[r].writeflag = 0;                          cpu->cd.DYNTRANS_ARCH.vph_tlb_entry[r].writeflag = 0;
 #ifdef DYNTRANS_ALPHA  
                 a = (vaddr_page >> ALPHA_LEVEL0_SHIFT) & (ALPHA_LEVEL0 - 1);  
                 b = (vaddr_page >> ALPHA_LEVEL1_SHIFT) & (ALPHA_LEVEL1 - 1);  
                 if ((vaddr_page >> ALPHA_TOPSHIFT) == ALPHA_TOP_KERNEL) {  
                         vph_p = cpu->cd.alpha.vph_table0_kernel[a];  
                         kernel = 1;  
                 } else  
                         vph_p = cpu->cd.alpha.vph_table0[a];  
                 vph_p->phys_page[b] = NULL;  
                 if (vph_p->phys_addr[b] == paddr_page) {  
                         if (writeflag & MEM_WRITE)  
                                 vph_p->host_store[b] = host_page;  
                         if (writeflag & MEM_DOWNGRADE)  
                                 vph_p->host_store[b] = NULL;  
                 } else {  
                         /*  Change the entire physical/host mapping:  */  
                         vph_p->host_load[b] = host_page;  
                         vph_p->host_store[b] = writeflag? host_page : NULL;  
                         vph_p->phys_addr[b] = paddr_page;  
                 }  
 #else  
1560  #ifdef MODE32  #ifdef MODE32
1561                  index = DYNTRANS_ADDR_TO_PAGENR(vaddr_page);                  index = DYNTRANS_ADDR_TO_PAGENR(vaddr_page);
1562                  cpu->cd.DYNTRANS_ARCH.phys_page[index] = NULL;                  cpu->cd.DYNTRANS_ARCH.phys_page[index] = NULL;
# Line 1310  void DYNTRANS_UPDATE_TRANSLATION_TABLE(s Line 1579  void DYNTRANS_UPDATE_TRANSLATION_TABLE(s
1579                              writeflag? host_page : NULL;                              writeflag? host_page : NULL;
1580                          cpu->cd.DYNTRANS_ARCH.phys_addr[index] = paddr_page;                          cpu->cd.DYNTRANS_ARCH.phys_addr[index] = paddr_page;
1581                  }                  }
1582  #endif  /*  32  */  #else   /*  !MODE32  */
1583  #endif  /*  !ALPHA  */                  x1 = (vaddr_page >> (64-DYNTRANS_L1N)) & mask1;
1584                    x2 = (vaddr_page >> (64-DYNTRANS_L1N-DYNTRANS_L2N)) & mask2;
1585                    x3 = (vaddr_page >> (64-DYNTRANS_L1N-DYNTRANS_L2N-DYNTRANS_L3N))
1586                        & mask3;
1587                    l2 = cpu->cd.DYNTRANS_ARCH.l1_64[x1];
1588                    l3 = l2->l3[x2];
1589                    if (l3->phys_addr[x3] == paddr_page) {
1590                            if (writeflag & MEM_WRITE)
1591                                    l3->host_store[x3] = host_page;
1592                            if (writeflag & MEM_DOWNGRADE)
1593                                    l3->host_store[x3] = NULL;
1594                    } else {
1595                            /*  Change the entire physical/host mapping:  */
1596    printf("HOST LOAD 2 set to %p\n", host_page);
1597                            l3->host_load[x3] = host_page;
1598                            l3->host_store[x3] = writeflag? host_page : NULL;
1599                            l3->phys_addr[x3] = paddr_page;
1600                    }
1601    
1602    #ifdef BUGHUNT
1603    /*  Count how many pages are actually in use:  */
1604    {
1605            int n=0, i;
1606            for (i=0; i<=mask3; i++)
1607                    if (l3->vaddr_to_tlbindex[i])
1608                            n++;
1609            if (n != l3->refcount) {
1610                    printf("Y: %i in use, but refcount = %i!\n", n, l3->refcount);
1611                    exit(1);
1612            }
1613    
1614            n = 0;
1615            for (i=0; i<=mask3; i++)
1616                    if (l3->host_load[i] != NULL)
1617                            n++;
1618            if (n != l3->refcount) {
1619                    printf("YHL: %i in use, but refcount = %i!\n", n, l3->refcount);
1620                    printf("Entry r = %i\n", r);
1621                    printf("Valid = %i\n",
1622    cpu->cd.DYNTRANS_ARCH.vph_tlb_entry[r].valid);
1623                    exit(1);
1624            }
1625    }
1626    #endif
1627    
1628    #endif  /*  !MODE32  */
1629          }          }
1630  }  }
1631  #endif  /*  DYNTRANS_UPDATE_TRANSLATION_TABLE  */  #endif  /*  DYNTRANS_UPDATE_TRANSLATION_TABLE  */
# Line 1325  void DYNTRANS_UPDATE_TRANSLATION_TABLE(s Line 1639  void DYNTRANS_UPDATE_TRANSLATION_TABLE(s
1639           *  Check for breakpoints.           *  Check for breakpoints.
1640           */           */
1641          if (!single_step_breakpoint) {          if (!single_step_breakpoint) {
1642  #ifdef MODE32                  MODE_uint_t curpc = cpu->pc;
                 uint32_t curpc = cpu->pc;  
 #else  
                 uint64_t curpc = cpu->pc;  
 #endif  
1643                  int i;                  int i;
1644                  for (i=0; i<cpu->machine->n_breakpoints; i++)                  for (i=0; i<cpu->machine->n_breakpoints; i++)
1645                          if (curpc ==                          if (curpc == (MODE_uint_t)
 #ifdef MODE32  
                             (uint32_t)  
 #endif  
1646                              cpu->machine->breakpoint_addr[i]) {                              cpu->machine->breakpoint_addr[i]) {
1647                                  if (!cpu->machine->instruction_trace) {                                  if (!cpu->machine->instruction_trace) {
1648                                          int old_quiet_mode = quiet_mode;                                          int old_quiet_mode = quiet_mode;
1649                                          quiet_mode = 0;                                          quiet_mode = 0;
1650                                          DISASSEMBLE(cpu, ib, 1, 0, 0);                                          DISASSEMBLE(cpu, ib, 1, 0);
1651                                          quiet_mode = old_quiet_mode;                                          quiet_mode = old_quiet_mode;
1652                                  }                                  }
1653                                  fatal("BREAKPOINT: pc = 0x%llx\n(The "                                  fatal("BREAKPOINT: pc = 0x%"PRIx64"\n(The "
1654                                      "instruction has not yet executed.)\n",                                      "instruction has not yet executed.)\n",
1655                                      (long long)cpu->pc);                                      (uint64_t)cpu->pc);
1656  #ifdef DYNTRANS_DELAYSLOT  #ifdef DYNTRANS_DELAYSLOT
1657                                  if (cpu->cd.DYNTRANS_ARCH.delay_slot !=                                  if (cpu->delay_slot != NOT_DELAYED)
                                     NOT_DELAYED)  
1658                                          fatal("ERROR! Breakpoint in a delay"                                          fatal("ERROR! Breakpoint in a delay"
1659                                              " slot! Not yet supported.\n");                                              " slot! Not yet supported.\n");
1660  #endif  #endif
1661                                  single_step_breakpoint = 1;                                  single_step_breakpoint = 1;
1662                                  single_step = 1;                                  single_step = ENTER_SINGLE_STEPPING;
1663                                  goto stop_running_translated;                                  goto stop_running_translated;
1664                          }                          }
1665          }          }
# Line 1365  void DYNTRANS_UPDATE_TRANSLATION_TABLE(s Line 1671  void DYNTRANS_UPDATE_TRANSLATION_TABLE(s
1671    
1672  #ifdef DYNTRANS_TO_BE_TRANSLATED_TAIL  #ifdef DYNTRANS_TO_BE_TRANSLATED_TAIL
1673          /*          /*
1674           *  If we end up here, then an instruction was translated.           *  If we end up here, then an instruction was translated. Let's mark
1675           *  Mark the page as containing a translation.           *  the page as containing a translation at this part of the page.
          *  
          *  (Special case for 32-bit mode: set the corresponding bit in the  
          *  phystranslation[] array.)  
          */  
 #ifdef MODE32  
         if (!(cpu->cd.DYNTRANS_ARCH.cur_physpage->flags & TRANSLATIONS)) {  
                 uint32_t index = DYNTRANS_ADDR_TO_PAGENR((uint32_t)addr);  
                 cpu->cd.DYNTRANS_ARCH.phystranslation[index >> 5] |=  
                     (1 << (index & 31));  
         }  
 #endif  
         cpu->cd.DYNTRANS_ARCH.cur_physpage->flags |= TRANSLATIONS;  
   
   
 #ifdef DYNTRANS_BACKEND  
         /*  
          *  "Empty"/simple native dyntrans backend stuff:  
          *  
          *  1) If no translation is currently being done, but the translated  
          *     instruction was simple enough, then let's start making a new  
          *     native translation block.  
          *  
          *  2) If a native translation block is currently being constructed,  
          *     but this instruction wasn't simple enough, then end the block  
          *     (without including this instruction).  
          *  
          *  3) If a native translation block is currently being constructed,  
          *     and this is a simple instruction, then add it.  
1676           */           */
         if (simple && cpu->translation_context.p == NULL &&  
             dyntrans_backend_enable) {  
                 size_t s = 0;  
1677    
1678                  if (cpu->translation_context.translation_buffer == NULL) {          /*  Make sure cur_physpage is in synch:  */
1679                          cpu->translation_context.translation_buffer =          cpu->cd.DYNTRANS_ARCH.cur_physpage = (void *)
1680                              zeroed_alloc(DTB_TRANSLATION_SIZE_MAX +              cpu->cd.DYNTRANS_ARCH.cur_ic_page;
                             DTB_TRANSLATION_SIZE_MARGIN);  
                 }  
   
                 cpu->translation_context.p =  
                     cpu->translation_context.translation_buffer;  
   
                 cpu->translation_context.ic_page =  
                     cpu->cd.DYNTRANS_ARCH.cur_ic_page;  
                 cpu->translation_context.start_instr_call_index =  
                     ((size_t)ic - (size_t)cpu->cd.DYNTRANS_ARCH.cur_ic_page)  
                     / (sizeof(*ic));  
   
                 dtb_function_prologue(&cpu->translation_context, &s);  
                 cpu->translation_context.p += s;  
                 cpu->translation_context.n_simple = 0;  
         }  
   
         /*  If this is not a continuation of a simple translation, then  
             stop now!  */  
         if (cpu->translation_context.ic_page != cpu->cd.DYNTRANS_ARCH.  
             cur_ic_page || ic != &cpu->cd.DYNTRANS_ARCH.cur_ic_page[  
             cpu->translation_context.start_instr_call_index +  
             cpu->translation_context.n_simple])  
                 simple = 0;  
   
         if (cpu->translation_context.p != NULL && !simple) {  
                 size_t s = 0, total;  
   
                 if (cpu->translation_context.n_simple > 1) {  
                         dtb_generate_ptr_inc(cpu, &cpu->translation_context,  
                             &s, &cpu->cd.DYNTRANS_ARCH.next_ic,  
                             (cpu->translation_context.n_simple - 1) *  
                             sizeof(*(cpu->cd.DYNTRANS_ARCH.next_ic)));  
                         cpu->translation_context.p += s;  
                 }  
   
                 dtb_function_epilogue(&cpu->translation_context, &s);  
                 cpu->translation_context.p += s;  
1681    
1682                  cpu_dtb_do_fixups(cpu);          {
1683  #if 0                  int x = addr & (DYNTRANS_PAGESIZE - 1);
1684  {                  int addr_per_translation_range = DYNTRANS_PAGESIZE / (8 *
1685  int i;                      sizeof(cpu->cd.DYNTRANS_ARCH.cur_physpage->translations));
1686  unsigned char *addr = cpu->translation_context.translation_buffer;                  x /= addr_per_translation_range;
 printf("index = %i\n", cpu->translation_context.start_instr_call_index);  
 quiet_mode = 0;  
 for (i=0; i<4*32; i+=4)  
         alpha_cpu_disassemble_instr(cpu, (unsigned char *)addr + i,  
         0, i, 0);  
 }  
 #endif  
                 total = (size_t)cpu->translation_context.p -  
                     (size_t)cpu->translation_context.translation_buffer;  
1687    
1688                  /*  Copy the translated block to the translation cache:  */                  cpu->cd.DYNTRANS_ARCH.cur_physpage->translations |= (1 << x);
                 /*  Align first:  */  
                 cpu->translation_cache_cur_ofs --;  
                 cpu->translation_cache_cur_ofs |= 31;  
                 cpu->translation_cache_cur_ofs ++;  
   
                 memcpy(cpu->translation_cache + cpu->translation_cache_cur_ofs,  
                     cpu->translation_context.translation_buffer, total);  
   
                 /*  Set the ic pointer:  */  
                 ((struct DYNTRANS_IC *)cpu->translation_context.ic_page)  
                     [cpu->translation_context.start_instr_call_index].f =  
                     (void *)  
                     (cpu->translation_cache + cpu->translation_cache_cur_ofs);  
   
                 /*  Align cur_ofs afterwards as well, just to be safe.  */  
                 cpu->translation_cache_cur_ofs += total;  
                 cpu->translation_cache_cur_ofs --;  
                 cpu->translation_cache_cur_ofs |= 31;  
                 cpu->translation_cache_cur_ofs ++;  
   
                 /*  Set the "combined instruction" flag for this page:  */  
                 cpu->cd.DYNTRANS_ARCH.cur_physpage = (void *)  
                     cpu->cd.DYNTRANS_ARCH.cur_ic_page;  
                 cpu->cd.DYNTRANS_ARCH.cur_physpage->flags |= COMBINATIONS;  
   
                 dtb_host_cacheinvalidate(0,0); /* p , size ... ); */  
   
                 cpu->translation_context.p = NULL;  
         }  
         if (cpu->translation_context.p != NULL) {  
                 size_t s = 0;  
                 dtb_generate_fcall(cpu, &cpu->translation_context,  
                     &s, (size_t)ic->f, (size_t)ic);  
                 cpu->translation_context.p += s;  
                 cpu->translation_context.n_simple ++;  
1689          }          }
 #endif  /*  DYNTRANS_BACKEND  */  
   
1690    
1691          /*          /*
1692           *  Now it is time to check for combinations of instructions that can           *  Now it is time to check for combinations of instructions that can
1693           *  be converted into a single function call.           *  be converted into a single function call.
1694           *           *
1695           *  Note: Single-stepping or instruction tracing doesn't work with           *  Note: Single-stepping or instruction tracing doesn't work with
1696           *  instruction combination.           *  instruction combination. For architectures with delay slots,
1697             *  we also ignore combinations if the delay slot is across a page
1698             *  boundary.
1699           */           */
1700          if (!single_step && !cpu->machine->instruction_trace) {          if (!single_step && !cpu->machine->instruction_trace
1701                  if (cpu->cd.DYNTRANS_ARCH.combination_check != NULL &&  #ifdef DYNTRANS_DELAYSLOT
1702                      cpu->machine->speed_tricks)              && !in_crosspage_delayslot
1703                          cpu->cd.DYNTRANS_ARCH.combination_check(cpu, ic,  #endif
1704                              addr & (DYNTRANS_PAGESIZE - 1));              && cpu->cd.DYNTRANS_ARCH.combination_check != NULL
1705                  cpu->cd.DYNTRANS_ARCH.combination_check = NULL;              && cpu->machine->allow_instruction_combinations) {
1706                    cpu->cd.DYNTRANS_ARCH.combination_check(cpu, ic,
1707                        addr & (DYNTRANS_PAGESIZE - 1));
1708            }
1709    
1710            cpu->cd.DYNTRANS_ARCH.combination_check = NULL;
1711    
1712            /*  An additional check, to catch some bugs:  */
1713            if (ic->f == (
1714    #ifdef DYNTRANS_DUALMODE_32
1715                cpu->is_32bit? instr32(to_be_translated) :
1716    #endif
1717                instr(to_be_translated))) {
1718                    fatal("INTERNAL ERROR: ic->f not set!\n");
1719                    goto bad;
1720            }
1721            if (ic->f == NULL) {
1722                    fatal("INTERNAL ERROR: ic->f == NULL!\n");
1723                    goto bad;
1724          }          }
1725    
1726          /*  ... and finally execute the translated instruction:  */          /*  ... and finally execute the translated instruction:  */
1727          if (single_step_breakpoint) {          if ((single_step_breakpoint && cpu->delay_slot == NOT_DELAYED)
1728    #ifdef DYNTRANS_DELAYSLOT
1729                || in_crosspage_delayslot
1730    #endif
1731                ) {
1732                  /*                  /*
1733                   *  Special case when single-stepping: Execute the translated                   *  Special case when single-stepping: Execute the translated
1734                   *  instruction, but then replace it with a "to be translated"                   *  instruction, but then replace it with a "to be translated"
1735                   *  directly afterwards.                   *  directly afterwards.
1736                   */                   */
1737                  single_step_breakpoint = 0;                  single_step_breakpoint = 0;
1738    #ifdef DYNTRANS_VARIABLE_INSTRUCTION_LENGTH
1739                    cpu->cd.DYNTRANS_ARCH.next_ic = ic + ic->arg[0];
1740    #endif
1741                  ic->f(cpu, ic);                  ic->f(cpu, ic);
1742                  ic->f =                  ic->f =
1743  #ifdef DYNTRANS_DUALMODE_32  #ifdef DYNTRANS_DUALMODE_32
1744                      cpu->is_32bit? instr32(to_be_translated) :                      cpu->is_32bit? instr32(to_be_translated) :
1745  #endif  #endif
1746                      instr(to_be_translated);                      instr(to_be_translated);
1747          } else  #ifdef DYNTRANS_VARIABLE_INSTRUCTION_LENGTH
1748                    ic->arg[0] = 0;
1749    #endif
1750            } else {
1751    #ifdef DYNTRANS_VARIABLE_INSTRUCTION_LENGTH
1752                    cpu->cd.DYNTRANS_ARCH.next_ic = ic + ic->arg[0];
1753    
1754                    /*  Additional check, for variable length ISAs:  */
1755                    if (ic->arg[0] == 0) {
1756                            fatal("INTERNAL ERROR: instr len = 0!\n");
1757                            goto bad;
1758                    }
1759    #endif
1760    
1761                    /*  Finally finally :-), execute the instruction:  */
1762                  ic->f(cpu, ic);                  ic->f(cpu, ic);
1763            }
1764    
1765          return;          return;
1766    
# Line 1541  bad:   /* Line 1774  bad:   /*
1774    
1775          if (cpu->machine->instruction_trace)          if (cpu->machine->instruction_trace)
1776  #ifdef MODE32  #ifdef MODE32
1777                  fatal(" at 0x%x\n", (int)cpu->pc);                  fatal(" at 0x%"PRIx32"\n", (uint32_t)cpu->pc);
1778  #else  #else
1779                  fatal(" at 0x%llx\n", (long long)cpu->pc);                  fatal(" at 0x%"PRIx64"\n", (uint64_t)cpu->pc);
1780  #endif  #endif
1781          else {          else {
1782                  fatal(":\n");                  fatal(":\n");
1783                  DISASSEMBLE(cpu, ib, 1, 0, 0);                  DISASSEMBLE(cpu, ib, 1, 0);
1784          }          }
1785    
1786          cpu->running = 0;          cpu->running = 0;
1787          cpu->dead = 1;  
1788            /*  Note: Single-stepping can jump here.  */
1789  stop_running_translated:  stop_running_translated:
1790    
1791          debugger_n_steps_left_before_interaction = 0;          debugger_n_steps_left_before_interaction = 0;
1792          cpu->running_translated = 0;  
1793          ic = cpu->cd.DYNTRANS_ARCH.next_ic = &nothing_call;          ic = cpu->cd.DYNTRANS_ARCH.next_ic = &nothing_call;
1794          cpu->cd.DYNTRANS_ARCH.next_ic ++;          cpu->cd.DYNTRANS_ARCH.next_ic ++;
1795    
1796          /*  Execute the "nothing" instruction:  */          /*  Execute the "nothing" instruction:  */
1797          ic->f(cpu, ic);          ic->f(cpu, ic);
1798    
1799  #endif  /*  DYNTRANS_TO_BE_TRANSLATED_TAIL  */  #endif  /*  DYNTRANS_TO_BE_TRANSLATED_TAIL  */
1800    
Legend:
Removed from v.22  
changed lines
  Added in v.34
  ViewVC Help
Powered by ViewVC 1.1.26