Initial import from FreeBSD RELENG_4:
[dragonfly.git] / usr.bin / gprof / vax.c
1 /*
2  * Copyright (c) 1983, 1993
3  *      The Regents of the University of California.  All rights reserved.
4  *
5  * Redistribution and use in source and binary forms, with or without
6  * modification, are permitted provided that the following conditions
7  * are met:
8  * 1. Redistributions of source code must retain the above copyright
9  *    notice, this list of conditions and the following disclaimer.
10  * 2. Redistributions in binary form must reproduce the above copyright
11  *    notice, this list of conditions and the following disclaimer in the
12  *    documentation and/or other materials provided with the distribution.
13  * 3. All advertising materials mentioning features or use of this software
14  *    must display the following acknowledgement:
15  *      This product includes software developed by the University of
16  *      California, Berkeley and its contributors.
17  * 4. Neither the name of the University nor the names of its contributors
18  *    may be used to endorse or promote products derived from this software
19  *    without specific prior written permission.
20  *
21  * THIS SOFTWARE IS PROVIDED BY THE REGENTS AND CONTRIBUTORS ``AS IS'' AND
22  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
23  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
24  * ARE DISCLAIMED.  IN NO EVENT SHALL THE REGENTS OR CONTRIBUTORS BE LIABLE
25  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
26  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
27  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
28  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
29  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
30  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
31  * SUCH DAMAGE.
32  */
33
34 #ifndef lint
35 static char sccsid[] = "@(#)vax.c       8.1 (Berkeley) 6/6/93";
36 #endif /* not lint */
37
38 #include        "gprof.h"
39
40     /*
41      *  a namelist entry to be the child of indirect calls
42      */
43 nltype  indirectchild = {
44         "(*)" ,                         /* the name */
45         (unsigned long) 0 ,             /* the pc entry point */
46         (unsigned long) 0 ,             /* entry point aligned to histogram */
47         (double) 0.0 ,                  /* ticks in this routine */
48         (double) 0.0 ,                  /* cumulative ticks in children */
49         (long) 0 ,                      /* how many times called */
50         (long) 0 ,                      /* how many calls to self */
51         (double) 1.0 ,                  /* propagation fraction */
52         (double) 0.0 ,                  /* self propagation time */
53         (double) 0.0 ,                  /* child propagation time */
54         (bool) 0 ,                      /* print flag */
55         (int) 0 ,                       /* index in the graph list */
56         (int) 0 ,                       /* graph call chain top-sort order */
57         (int) 0 ,                       /* internal number of cycle on */
58         (struct nl *) &indirectchild ,  /* pointer to head of cycle */
59         (struct nl *) 0 ,               /* pointer to next member of cycle */
60         (arctype *) 0 ,                 /* list of caller arcs */
61         (arctype *) 0                   /* list of callee arcs */
62     };
63
64 operandenum
65 operandmode( modep )
66     struct modebyte     *modep;
67 {
68     long        usesreg = modep -> regfield;
69
70     switch ( modep -> modefield ) {
71         case 0:
72         case 1:
73         case 2:
74         case 3:
75             return literal;
76         case 4:
77             return indexed;
78         case 5:
79             return reg;
80         case 6:
81             return regdef;
82         case 7:
83             return autodec;
84         case 8:
85             return ( usesreg != PC ? autoinc : immediate );
86         case 9:
87             return ( usesreg != PC ? autoincdef : absolute );
88         case 10:
89             return ( usesreg != PC ? bytedisp : byterel );
90         case 11:
91             return ( usesreg != PC ? bytedispdef : bytereldef );
92         case 12:
93             return ( usesreg != PC ? worddisp : wordrel );
94         case 13:
95             return ( usesreg != PC ? worddispdef : wordreldef );
96         case 14:
97             return ( usesreg != PC ? longdisp : longrel );
98         case 15:
99             return ( usesreg != PC ? longdispdef : longreldef );
100     }
101     /* NOTREACHED */
102 }
103
104 char *
105 operandname( mode )
106     operandenum mode;
107 {
108
109     switch ( mode ) {
110         case literal:
111             return "literal";
112         case indexed:
113             return "indexed";
114         case reg:
115             return "register";
116         case regdef:
117             return "register deferred";
118         case autodec:
119             return "autodecrement";
120         case autoinc:
121             return "autoincrement";
122         case autoincdef:
123             return "autoincrement deferred";
124         case bytedisp:
125             return "byte displacement";
126         case bytedispdef:
127             return "byte displacement deferred";
128         case byterel:
129             return "byte relative";
130         case bytereldef:
131             return "byte relative deferred";
132         case worddisp:
133             return "word displacement";
134         case worddispdef:
135             return "word displacement deferred";
136         case wordrel:
137             return "word relative";
138         case wordreldef:
139             return "word relative deferred";
140         case immediate:
141             return "immediate";
142         case absolute:
143             return "absolute";
144         case longdisp:
145             return "long displacement";
146         case longdispdef:
147             return "long displacement deferred";
148         case longrel:
149             return "long relative";
150         case longreldef:
151             return "long relative deferred";
152     }
153     /* NOTREACHED */
154 }
155
156 long
157 operandlength( modep )
158     struct modebyte     *modep;
159 {
160
161     switch ( operandmode( modep ) ) {
162         case literal:
163         case reg:
164         case regdef:
165         case autodec:
166         case autoinc:
167         case autoincdef:
168             return 1;
169         case bytedisp:
170         case bytedispdef:
171         case byterel:
172         case bytereldef:
173             return 2;
174         case worddisp:
175         case worddispdef:
176         case wordrel:
177         case wordreldef:
178             return 3;
179         case immediate:
180         case absolute:
181         case longdisp:
182         case longdispdef:
183         case longrel:
184         case longreldef:
185             return 5;
186         case indexed:
187             return 1+operandlength( (struct modebyte *) ((char *) modep) + 1 );
188     }
189     /* NOTREACHED */
190 }
191
192 unsigned long
193 reladdr( modep )
194     struct modebyte     *modep;
195 {
196     operandenum mode = operandmode( modep );
197     char        *cp;
198     short       *sp;
199     long        *lp;
200
201     cp = (char *) modep;
202     cp += 1;                    /* skip over the mode */
203     switch ( mode ) {
204         default:
205             fprintf( stderr , "[reladdr] not relative address\n" );
206             return (unsigned long) modep;
207         case byterel:
208             return (unsigned long) ( cp + sizeof *cp + *cp );
209         case wordrel:
210             sp = (short *) cp;
211             return (unsigned long) ( cp + sizeof *sp + *sp );
212         case longrel:
213             lp = (long *) cp;
214             return (unsigned long) ( cp + sizeof *lp + *lp );
215     }
216 }
217
218 findcall( parentp , p_lowpc , p_highpc )
219     nltype              *parentp;
220     unsigned long       p_lowpc;
221     unsigned long       p_highpc;
222 {
223     unsigned char       *instructp;
224     long                length;
225     nltype              *childp;
226     operandenum         mode;
227     operandenum         firstmode;
228     unsigned long       destpc;
229
230     if ( textspace == 0 ) {
231         return;
232     }
233     if ( p_lowpc < s_lowpc ) {
234         p_lowpc = s_lowpc;
235     }
236     if ( p_highpc > s_highpc ) {
237         p_highpc = s_highpc;
238     }
239 #   ifdef DEBUG
240         if ( debug & CALLDEBUG ) {
241             printf( "[findcall] %s: 0x%x to 0x%x\n" ,
242                     parentp -> name , p_lowpc , p_highpc );
243         }
244 #   endif DEBUG
245     for (   instructp = textspace + p_lowpc ;
246             instructp < textspace + p_highpc ;
247             instructp += length ) {
248         length = 1;
249         if ( *instructp == CALLS ) {
250                 /*
251                  *      maybe a calls, better check it out.
252                  *      skip the count of the number of arguments.
253                  */
254 #           ifdef DEBUG
255                 if ( debug & CALLDEBUG ) {
256                     printf( "[findcall]\t0x%x:calls" , instructp - textspace );
257                 }
258 #           endif DEBUG
259             firstmode = operandmode( (struct modebyte *) (instructp+length) );
260             switch ( firstmode ) {
261                 case literal:
262                 case immediate:
263                     break;
264                 default:
265                     goto botched;
266             }
267             length += operandlength( (struct modebyte *) (instructp+length) );
268             mode = operandmode( (struct modebyte *) ( instructp + length ) );
269 #           ifdef DEBUG
270                 if ( debug & CALLDEBUG ) {
271                     printf( "\tfirst operand is %s", operandname( firstmode ) );
272                     printf( "\tsecond operand is %s\n" , operandname( mode ) );
273                 }
274 #           endif DEBUG
275             switch ( mode ) {
276                 case regdef:
277                 case bytedispdef:
278                 case worddispdef:
279                 case longdispdef:
280                 case bytereldef:
281                 case wordreldef:
282                 case longreldef:
283                         /*
284                          *      indirect call: call through pointer
285                          *      either  *d(r)   as a parameter or local
286                          *              (r)     as a return value
287                          *              *f      as a global pointer
288                          *      [are there others that we miss?,
289                          *       e.g. arrays of pointers to functions???]
290                          */
291                     addarc( parentp , &indirectchild , (long) 0 );
292                     length += operandlength(
293                                 (struct modebyte *) ( instructp + length ) );
294                     continue;
295                 case byterel:
296                 case wordrel:
297                 case longrel:
298                         /*
299                          *      regular pc relative addressing
300                          *      check that this is the address of
301                          *      a function.
302                          */
303                     destpc = reladdr( (struct modebyte *) (instructp+length) )
304                                 - (unsigned long) textspace;
305                     if ( destpc >= s_lowpc && destpc <= s_highpc ) {
306                         childp = nllookup( destpc );
307 #                       ifdef DEBUG
308                             if ( debug & CALLDEBUG ) {
309                                 printf( "[findcall]\tdestpc 0x%x" , destpc );
310                                 printf( " childp->name %s" , childp -> name );
311                                 printf( " childp->value 0x%x\n" ,
312                                         childp -> value );
313                             }
314 #                       endif DEBUG
315                         if ( childp -> value == destpc ) {
316                                 /*
317                                  *      a hit
318                                  */
319                             addarc( parentp , childp , (long) 0 );
320                             length += operandlength( (struct modebyte *)
321                                             ( instructp + length ) );
322                             continue;
323                         }
324                         goto botched;
325                     }
326                         /*
327                          *      else:
328                          *      it looked like a calls,
329                          *      but it wasn't to anywhere.
330                          */
331                     goto botched;
332                 default:
333                 botched:
334                         /*
335                          *      something funny going on.
336                          */
337 #                   ifdef DEBUG
338                         if ( debug & CALLDEBUG ) {
339                             printf( "[findcall]\tbut it's a botch\n" );
340                         }
341 #                   endif DEBUG
342                     length = 1;
343                     continue;
344             }
345         }
346     }
347 }