Merge from vendor branch OPENSSL:
[dragonfly.git] / lib / libc / regex / regcomp.c
1 /*-
2  * Copyright (c) 1992, 1993, 1994 Henry Spencer.
3  * Copyright (c) 1992, 1993, 1994
4  *      The Regents of the University of California.  All rights reserved.
5  *
6  * This code is derived from software contributed to Berkeley by
7  * Henry Spencer.
8  *
9  * Redistribution and use in source and binary forms, with or without
10  * modification, are permitted provided that the following conditions
11  * are met:
12  * 1. Redistributions of source code must retain the above copyright
13  *    notice, this list of conditions and the following disclaimer.
14  * 2. Redistributions in binary form must reproduce the above copyright
15  *    notice, this list of conditions and the following disclaimer in the
16  *    documentation and/or other materials provided with the distribution.
17  * 3. All advertising materials mentioning features or use of this software
18  *    must display the following acknowledgement:
19  *      This product includes software developed by the University of
20  *      California, Berkeley and its contributors.
21  * 4. Neither the name of the University nor the names of its contributors
22  *    may be used to endorse or promote products derived from this software
23  *    without specific prior written permission.
24  *
25  * THIS SOFTWARE IS PROVIDED BY THE REGENTS AND CONTRIBUTORS ``AS IS'' AND
26  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
27  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
28  * ARE DISCLAIMED.  IN NO EVENT SHALL THE REGENTS OR CONTRIBUTORS BE LIABLE
29  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
30  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
31  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
32  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
33  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
34  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
35  * SUCH DAMAGE.
36  *
37  *      @(#)regcomp.c   8.5 (Berkeley) 3/20/94
38  *
39  * $FreeBSD: src/lib/libc/regex/regcomp.c,v 1.13.2.2 2002/03/20 13:13:15 dcs Exp $
40  * $DragonFly: src/lib/libc/regex/regcomp.c,v 1.5 2004/10/25 19:38:01 drhodus Exp $
41  *
42  * @(#)regcomp.c        8.5 (Berkeley) 3/20/94
43  */
44
45 #include <sys/types.h>
46 #include <stdio.h>
47 #include <string.h>
48 #include <ctype.h>
49 #include <limits.h>
50 #include <stdlib.h>
51 #include <regex.h>
52
53 #include "collate.h"
54
55 #include "utils.h"
56 #include "regex2.h"
57
58 #include "cclass.h"
59 #include "cname.h"
60
61 /*
62  * parse structure, passed up and down to avoid global variables and
63  * other clumsinesses
64  */
65 struct parse {
66         char *next;             /* next character in RE */
67         char *end;              /* end of string (-> NUL normally) */
68         int error;              /* has an error been seen? */
69         sop *strip;             /* malloced strip */
70         sopno ssize;            /* malloced strip size (allocated) */
71         sopno slen;             /* malloced strip length (used) */
72         int ncsalloc;           /* number of csets allocated */
73         struct re_guts *g;
74 #       define  NPAREN  10      /* we need to remember () 1-9 for back refs */
75         sopno pbegin[NPAREN];   /* -> ( ([0] unused) */
76         sopno pend[NPAREN];     /* -> ) ([0] unused) */
77 };
78
79 /* ========= begin header generated by ./mkh ========= */
80 #ifdef __cplusplus
81 extern "C" {
82 #endif
83
84 /* === regcomp.c === */
85 static void p_ere(struct parse *p, int stop);
86 static void p_ere_exp(struct parse *p);
87 static void p_str(struct parse *p);
88 static void p_bre(struct parse *p, int end1, int end2);
89 static int p_simp_re(struct parse *p, int starordinary);
90 static int p_count(struct parse *p);
91 static void p_bracket(struct parse *p);
92 static void p_b_term(struct parse *p, cset *cs);
93 static void p_b_cclass(struct parse *p, cset *cs);
94 static void p_b_eclass(struct parse *p, cset *cs);
95 static char p_b_symbol(struct parse *p);
96 static char p_b_coll_elem(struct parse *p, int endc);
97 static char othercase(int ch);
98 static void bothcases(struct parse *p, int ch);
99 static void ordinary(struct parse *p, int ch);
100 static void nonnewline(struct parse *p);
101 static void repeat(struct parse *p, sopno start, int from, int to);
102 static int seterr(struct parse *p, int e);
103 static cset *allocset(struct parse *p);
104 static void freeset(struct parse *p, cset *cs);
105 static int freezeset(struct parse *p, cset *cs);
106 static int firstch(struct parse *p, cset *cs);
107 static int nch(struct parse *p, cset *cs);
108 static void mcadd(struct parse *p, cset *cs, char *cp);
109 #if used
110 static void mcsub(cset *cs, char *cp);
111 static int mcin(cset *cs, char *cp);
112 static char *mcfind(cset *cs, char *cp);
113 #endif
114 static void mcinvert(struct parse *p, cset *cs);
115 static void mccase(struct parse *p, cset *cs);
116 static int isinsets(struct re_guts *g, int c);
117 static int samesets(struct re_guts *g, int c1, int c2);
118 static void categorize(struct parse *p, struct re_guts *g);
119 static sopno dupl(struct parse *p, sopno start, sopno finish);
120 static void doemit(struct parse *p, sop op, size_t opnd);
121 static void doinsert(struct parse *p, sop op, size_t opnd, sopno pos);
122 static void dofwd(struct parse *p, sopno pos, sop value);
123 static void enlarge(struct parse *p, sopno size);
124 static void stripsnug(struct parse *p, struct re_guts *g);
125 static void findmust(struct parse *p, struct re_guts *g);
126 static int altoffset(sop *scan, int offset, int mccs);
127 static void computejumps(struct parse *p, struct re_guts *g);
128 static void computematchjumps(struct parse *p, struct re_guts *g);
129 static sopno pluscount(struct parse *p, struct re_guts *g);
130
131 #ifdef __cplusplus
132 }
133 #endif
134 /* ========= end header generated by ./mkh ========= */
135
136 static char nuls[10];           /* place to point scanner in event of error */
137
138 /*
139  * macros for use with parse structure
140  * BEWARE:  these know that the parse structure is named `p' !!!
141  */
142 #define PEEK()  (*p->next)
143 #define PEEK2() (*(p->next+1))
144 #define MORE()  (p->next < p->end)
145 #define MORE2() (p->next+1 < p->end)
146 #define SEE(c)  (MORE() && PEEK() == (c))
147 #define SEETWO(a, b)    (MORE() && MORE2() && PEEK() == (a) && PEEK2() == (b))
148 #define EAT(c)  ((SEE(c)) ? (NEXT(), 1) : 0)
149 #define EATTWO(a, b)    ((SEETWO(a, b)) ? (NEXT2(), 1) : 0)
150 #define NEXT()  (p->next++)
151 #define NEXT2() (p->next += 2)
152 #define NEXTn(n)        (p->next += (n))
153 #define GETNEXT()       (*p->next++)
154 #define SETERROR(e)     seterr(p, (e))
155 #define REQUIRE(co, e)  ((co) || SETERROR(e))
156 #define MUSTSEE(c, e)   (REQUIRE(MORE() && PEEK() == (c), e))
157 #define MUSTEAT(c, e)   (REQUIRE(MORE() && GETNEXT() == (c), e))
158 #define MUSTNOTSEE(c, e)        (REQUIRE(!MORE() || PEEK() != (c), e))
159 #define EMIT(op, sopnd) doemit(p, (sop)(op), (size_t)(sopnd))
160 #define INSERT(op, pos) doinsert(p, (sop)(op), HERE()-(pos)+1, pos)
161 #define AHEAD(pos)              dofwd(p, pos, HERE()-(pos))
162 #define ASTERN(sop, pos)        EMIT(sop, HERE()-pos)
163 #define HERE()          (p->slen)
164 #define THERE()         (p->slen - 1)
165 #define THERETHERE()    (p->slen - 2)
166 #define DROP(n) (p->slen -= (n))
167
168 #ifndef NDEBUG
169 static int never = 0;           /* for use in asserts; shuts lint up */
170 #else
171 #define never   0               /* some <assert.h>s have bugs too */
172 #endif
173
174 /* Macro used by computejump()/computematchjump() */
175 #define MIN(a,b)        ((a)<(b)?(a):(b))
176
177 /*
178  - regcomp - interface for parser and compilation
179  = extern int regcomp(regex_t *, const char *, int);
180  = #define      REG_BASIC       0000
181  = #define      REG_EXTENDED    0001
182  = #define      REG_ICASE       0002
183  = #define      REG_NOSUB       0004
184  = #define      REG_NEWLINE     0010
185  = #define      REG_NOSPEC      0020
186  = #define      REG_PEND        0040
187  = #define      REG_DUMP        0200
188  */
189 int                             /* 0 success, otherwise REG_something */
190 regcomp(regex_t *preg, const char *pattern, int cflags)
191 {
192         struct parse pa;
193         struct re_guts *g;
194         struct parse *p = &pa;
195         int i;
196         size_t len;
197 #ifdef REDEBUG
198 #       define  GOODFLAGS(f)    (f)
199 #else
200 #       define  GOODFLAGS(f)    ((f)&~REG_DUMP)
201 #endif
202
203         cflags = GOODFLAGS(cflags);
204         if ((cflags&REG_EXTENDED) && (cflags&REG_NOSPEC))
205                 return(REG_INVARG);
206
207         if (cflags&REG_PEND) {
208                 if (preg->re_endp < pattern)
209                         return(REG_INVARG);
210                 len = preg->re_endp - pattern;
211         } else
212                 len = strlen((char *)pattern);
213
214         /* do the mallocs early so failure handling is easy */
215         g = (struct re_guts *)malloc(sizeof(struct re_guts) +
216                                                         (NC-1)*sizeof(cat_t));
217         if (g == NULL)
218                 return(REG_ESPACE);
219         p->ssize = len/(size_t)2*(size_t)3 + (size_t)1; /* ugh */
220         p->strip = (sop *)malloc(p->ssize * sizeof(sop));
221         p->slen = 0;
222         if (p->strip == NULL) {
223                 free((char *)g);
224                 return(REG_ESPACE);
225         }
226
227         /* set things up */
228         p->g = g;
229         p->next = (char *)pattern;      /* convenience; we do not modify it */
230         p->end = p->next + len;
231         p->error = 0;
232         p->ncsalloc = 0;
233         for (i = 0; i < NPAREN; i++) {
234                 p->pbegin[i] = 0;
235                 p->pend[i] = 0;
236         }
237         g->csetsize = NC;
238         g->sets = NULL;
239         g->setbits = NULL;
240         g->ncsets = 0;
241         g->cflags = cflags;
242         g->iflags = 0;
243         g->nbol = 0;
244         g->neol = 0;
245         g->must = NULL;
246         g->moffset = -1;
247         g->charjump = NULL;
248         g->matchjump = NULL;
249         g->mlen = 0;
250         g->nsub = 0;
251         g->ncategories = 1;     /* category 0 is "everything else" */
252         g->categories = &g->catspace[-(CHAR_MIN)];
253         (void) memset((char *)g->catspace, 0, NC*sizeof(cat_t));
254         g->backrefs = 0;
255
256         /* do it */
257         EMIT(OEND, 0);
258         g->firststate = THERE();
259         if (cflags&REG_EXTENDED)
260                 p_ere(p, OUT);
261         else if (cflags&REG_NOSPEC)
262                 p_str(p);
263         else
264                 p_bre(p, OUT, OUT);
265         EMIT(OEND, 0);
266         g->laststate = THERE();
267
268         /* tidy up loose ends and fill things in */
269         categorize(p, g);
270         stripsnug(p, g);
271         findmust(p, g);
272         /* only use Boyer-Moore algorithm if the pattern is bigger
273          * than three characters
274          */
275         if(g->mlen > 3) {
276                 computejumps(p, g);
277                 computematchjumps(p, g);
278                 if(g->matchjump == NULL && g->charjump != NULL) {
279                         free(g->charjump);
280                         g->charjump = NULL;
281                 }
282         }
283         g->nplus = pluscount(p, g);
284         g->magic = MAGIC2;
285         preg->re_nsub = g->nsub;
286         preg->re_g = g;
287         preg->re_magic = MAGIC1;
288 #ifndef REDEBUG
289         /* not debugging, so can't rely on the assert() in regexec() */
290         if (g->iflags&BAD)
291                 SETERROR(REG_ASSERT);
292 #endif
293
294         /* win or lose, we're done */
295         if (p->error != 0)      /* lose */
296                 regfree(preg);
297         return(p->error);
298 }
299
300 /*
301  - p_ere - ERE parser top level, concatenation and alternation
302  == static void p_ere(struct parse *p, int stop);
303  */
304 static void
305 p_ere(struct parse *p,
306       int stop)                 /* character this ERE should end at */
307 {
308         char c;
309         sopno prevback;
310         sopno prevfwd;
311         sopno conc;
312         int first = 1;          /* is this the first alternative? */
313
314         for (;;) {
315                 /* do a bunch of concatenated expressions */
316                 conc = HERE();
317                 while (MORE() && (c = PEEK()) != '|' && c != stop)
318                         p_ere_exp(p);
319                 (void)REQUIRE(HERE() != conc, REG_EMPTY);       /* require nonempty */
320
321                 if (!EAT('|'))
322                         break;          /* NOTE BREAK OUT */
323
324                 if (first) {
325                         INSERT(OCH_, conc);     /* offset is wrong */
326                         prevfwd = conc;
327                         prevback = conc;
328                         first = 0;
329                 }
330                 ASTERN(OOR1, prevback);
331                 prevback = THERE();
332                 AHEAD(prevfwd);                 /* fix previous offset */
333                 prevfwd = HERE();
334                 EMIT(OOR2, 0);                  /* offset is very wrong */
335         }
336
337         if (!first) {           /* tail-end fixups */
338                 AHEAD(prevfwd);
339                 ASTERN(O_CH, prevback);
340         }
341
342         assert(!MORE() || SEE(stop));
343 }
344
345 /*
346  - p_ere_exp - parse one subERE, an atom possibly followed by a repetition op
347  == static void p_ere_exp(struct parse *p);
348  */
349 static void
350 p_ere_exp(struct parse *p)
351 {
352         char c;
353         sopno pos;
354         int count;
355         int count2;
356         sopno subno;
357         int wascaret = 0;
358
359         assert(MORE());         /* caller should have ensured this */
360         c = GETNEXT();
361
362         pos = HERE();
363         switch (c) {
364         case '(':
365                 (void)REQUIRE(MORE(), REG_EPAREN);
366                 p->g->nsub++;
367                 subno = p->g->nsub;
368                 if (subno < NPAREN)
369                         p->pbegin[subno] = HERE();
370                 EMIT(OLPAREN, subno);
371                 if (!SEE(')'))
372                         p_ere(p, ')');
373                 if (subno < NPAREN) {
374                         p->pend[subno] = HERE();
375                         assert(p->pend[subno] != 0);
376                 }
377                 EMIT(ORPAREN, subno);
378                 (void)MUSTEAT(')', REG_EPAREN);
379                 break;
380 #ifndef POSIX_MISTAKE
381         case ')':               /* happens only if no current unmatched ( */
382                 /*
383                  * You may ask, why the ifndef?  Because I didn't notice
384                  * this until slightly too late for 1003.2, and none of the
385                  * other 1003.2 regular-expression reviewers noticed it at
386                  * all.  So an unmatched ) is legal POSIX, at least until
387                  * we can get it fixed.
388                  */
389                 SETERROR(REG_EPAREN);
390                 break;
391 #endif
392         case '^':
393                 EMIT(OBOL, 0);
394                 p->g->iflags |= USEBOL;
395                 p->g->nbol++;
396                 wascaret = 1;
397                 break;
398         case '$':
399                 EMIT(OEOL, 0);
400                 p->g->iflags |= USEEOL;
401                 p->g->neol++;
402                 break;
403         case '|':
404                 SETERROR(REG_EMPTY);
405                 break;
406         case '*':
407         case '+':
408         case '?':
409                 SETERROR(REG_BADRPT);
410                 break;
411         case '.':
412                 if (p->g->cflags&REG_NEWLINE)
413                         nonnewline(p);
414                 else
415                         EMIT(OANY, 0);
416                 break;
417         case '[':
418                 p_bracket(p);
419                 break;
420         case '\\':
421                 (void)REQUIRE(MORE(), REG_EESCAPE);
422                 c = GETNEXT();
423                 ordinary(p, c);
424                 break;
425         case '{':               /* okay as ordinary except if digit follows */
426                 (void)REQUIRE(!MORE() || !isdigit((uch)PEEK()), REG_BADRPT);
427                 /* FALLTHROUGH */
428         default:
429                 ordinary(p, c);
430                 break;
431         }
432
433         if (!MORE())
434                 return;
435         c = PEEK();
436         /* we call { a repetition if followed by a digit */
437         if (!( c == '*' || c == '+' || c == '?' ||
438                                 (c == '{' && MORE2() && isdigit((uch)PEEK2())) ))
439                 return;         /* no repetition, we're done */
440         NEXT();
441
442         (void)REQUIRE(!wascaret, REG_BADRPT);
443         switch (c) {
444         case '*':       /* implemented as +? */
445                 /* this case does not require the (y|) trick, noKLUDGE */
446                 INSERT(OPLUS_, pos);
447                 ASTERN(O_PLUS, pos);
448                 INSERT(OQUEST_, pos);
449                 ASTERN(O_QUEST, pos);
450                 break;
451         case '+':
452                 INSERT(OPLUS_, pos);
453                 ASTERN(O_PLUS, pos);
454                 break;
455         case '?':
456                 /* KLUDGE: emit y? as (y|) until subtle bug gets fixed */
457                 INSERT(OCH_, pos);              /* offset slightly wrong */
458                 ASTERN(OOR1, pos);              /* this one's right */
459                 AHEAD(pos);                     /* fix the OCH_ */
460                 EMIT(OOR2, 0);                  /* offset very wrong... */
461                 AHEAD(THERE());                 /* ...so fix it */
462                 ASTERN(O_CH, THERETHERE());
463                 break;
464         case '{':
465                 count = p_count(p);
466                 if (EAT(',')) {
467                         if (isdigit((uch)PEEK())) {
468                                 count2 = p_count(p);
469                                 (void)REQUIRE(count <= count2, REG_BADBR);
470                         } else          /* single number with comma */
471                                 count2 = INFINITY;
472                 } else          /* just a single number */
473                         count2 = count;
474                 repeat(p, pos, count, count2);
475                 if (!EAT('}')) {        /* error heuristics */
476                         while (MORE() && PEEK() != '}')
477                                 NEXT();
478                         (void)REQUIRE(MORE(), REG_EBRACE);
479                         SETERROR(REG_BADBR);
480                 }
481                 break;
482         }
483
484         if (!MORE())
485                 return;
486         c = PEEK();
487         if (!( c == '*' || c == '+' || c == '?' ||
488                                 (c == '{' && MORE2() && isdigit((uch)PEEK2())) ) )
489                 return;
490         SETERROR(REG_BADRPT);
491 }
492
493 /*
494  - p_str - string (no metacharacters) "parser"
495  == static void p_str(struct parse *p);
496  */
497 static void
498 p_str(struct parse *p)
499 {
500         (void)REQUIRE(MORE(), REG_EMPTY);
501         while (MORE())
502                 ordinary(p, GETNEXT());
503 }
504
505 /*
506  - p_bre - BRE parser top level, anchoring and concatenation
507  == static void p_bre(struct parse *p, int end1, \
508  ==     int end2);
509  * Giving end1 as OUT essentially eliminates the end1/end2 check.
510  *
511  * This implementation is a bit of a kludge, in that a trailing $ is first
512  * taken as an ordinary character and then revised to be an anchor.  The
513  * only undesirable side effect is that '$' gets included as a character
514  * category in such cases.  This is fairly harmless; not worth fixing.
515  * The amount of lookahead needed to avoid this kludge is excessive.
516  */
517 static void
518 p_bre(struct parse *p,
519       int end1,                 /* first terminating character */
520       int end2)                 /* second terminating character */
521 {
522         sopno start = HERE();
523         int first = 1;                  /* first subexpression? */
524         int wasdollar = 0;
525
526         if (EAT('^')) {
527                 EMIT(OBOL, 0);
528                 p->g->iflags |= USEBOL;
529                 p->g->nbol++;
530         }
531         while (MORE() && !SEETWO(end1, end2)) {
532                 wasdollar = p_simp_re(p, first);
533                 first = 0;
534         }
535         if (wasdollar) {        /* oops, that was a trailing anchor */
536                 DROP(1);
537                 EMIT(OEOL, 0);
538                 p->g->iflags |= USEEOL;
539                 p->g->neol++;
540         }
541
542         (void)REQUIRE(HERE() != start, REG_EMPTY);      /* require nonempty */
543 }
544
545 /*
546  - p_simp_re - parse a simple RE, an atom possibly followed by a repetition
547  == static int p_simp_re(struct parse *p, int starordinary);
548  */
549 static int                      /* was the simple RE an unbackslashed $? */
550 p_simp_re(struct parse *p,
551           int starordinary)     /* is a leading * an ordinary character? */
552 {
553         int c;
554         int count;
555         int count2;
556         sopno pos;
557         int i;
558         sopno subno;
559 #       define  BACKSL  (1<<CHAR_BIT)
560
561         pos = HERE();           /* repetion op, if any, covers from here */
562
563         assert(MORE());         /* caller should have ensured this */
564         c = GETNEXT();
565         if (c == '\\') {
566                 (void)REQUIRE(MORE(), REG_EESCAPE);
567                 c = BACKSL | GETNEXT();
568         }
569         switch (c) {
570         case '.':
571                 if (p->g->cflags&REG_NEWLINE)
572                         nonnewline(p);
573                 else
574                         EMIT(OANY, 0);
575                 break;
576         case '[':
577                 p_bracket(p);
578                 break;
579         case BACKSL|'{':
580                 SETERROR(REG_BADRPT);
581                 break;
582         case BACKSL|'(':
583                 p->g->nsub++;
584                 subno = p->g->nsub;
585                 if (subno < NPAREN)
586                         p->pbegin[subno] = HERE();
587                 EMIT(OLPAREN, subno);
588                 /* the MORE here is an error heuristic */
589                 if (MORE() && !SEETWO('\\', ')'))
590                         p_bre(p, '\\', ')');
591                 if (subno < NPAREN) {
592                         p->pend[subno] = HERE();
593                         assert(p->pend[subno] != 0);
594                 }
595                 EMIT(ORPAREN, subno);
596                 (void)REQUIRE(EATTWO('\\', ')'), REG_EPAREN);
597                 break;
598         case BACKSL|')':        /* should not get here -- must be user */
599         case BACKSL|'}':
600                 SETERROR(REG_EPAREN);
601                 break;
602         case BACKSL|'1':
603         case BACKSL|'2':
604         case BACKSL|'3':
605         case BACKSL|'4':
606         case BACKSL|'5':
607         case BACKSL|'6':
608         case BACKSL|'7':
609         case BACKSL|'8':
610         case BACKSL|'9':
611                 i = (c&~BACKSL) - '0';
612                 assert(i < NPAREN);
613                 if (p->pend[i] != 0) {
614                         assert(i <= p->g->nsub);
615                         EMIT(OBACK_, i);
616                         assert(p->pbegin[i] != 0);
617                         assert(OP(p->strip[p->pbegin[i]]) == OLPAREN);
618                         assert(OP(p->strip[p->pend[i]]) == ORPAREN);
619                         (void) dupl(p, p->pbegin[i]+1, p->pend[i]);
620                         EMIT(O_BACK, i);
621                 } else
622                         SETERROR(REG_ESUBREG);
623                 p->g->backrefs = 1;
624                 break;
625         case '*':
626                 (void)REQUIRE(starordinary, REG_BADRPT);
627                 /* FALLTHROUGH */
628         default:
629                 ordinary(p, (char)c);
630                 break;
631         }
632
633         if (EAT('*')) {         /* implemented as +? */
634                 /* this case does not require the (y|) trick, noKLUDGE */
635                 INSERT(OPLUS_, pos);
636                 ASTERN(O_PLUS, pos);
637                 INSERT(OQUEST_, pos);
638                 ASTERN(O_QUEST, pos);
639         } else if (EATTWO('\\', '{')) {
640                 count = p_count(p);
641                 if (EAT(',')) {
642                         if (MORE() && isdigit((uch)PEEK())) {
643                                 count2 = p_count(p);
644                                 (void)REQUIRE(count <= count2, REG_BADBR);
645                         } else          /* single number with comma */
646                                 count2 = INFINITY;
647                 } else          /* just a single number */
648                         count2 = count;
649                 repeat(p, pos, count, count2);
650                 if (!EATTWO('\\', '}')) {       /* error heuristics */
651                         while (MORE() && !SEETWO('\\', '}'))
652                                 NEXT();
653                         (void)REQUIRE(MORE(), REG_EBRACE);
654                         SETERROR(REG_BADBR);
655                 }
656         } else if (c == '$')     /* $ (but not \$) ends it */
657                 return(1);
658
659         return(0);
660 }
661
662 /*
663  - p_count - parse a repetition count
664  == static int p_count(struct parse *p);
665  */
666 static int                      /* the value */
667 p_count(struct parse *p)
668 {
669         int count = 0;
670         int ndigits = 0;
671
672         while (MORE() && isdigit((uch)PEEK()) && count <= DUPMAX) {
673                 count = count*10 + (GETNEXT() - '0');
674                 ndigits++;
675         }
676
677         (void)REQUIRE(ndigits > 0 && count <= DUPMAX, REG_BADBR);
678         return(count);
679 }
680
681 /*
682  - p_bracket - parse a bracketed character list
683  == static void p_bracket(struct parse *p);
684  *
685  * Note a significant property of this code:  if the allocset() did SETERROR,
686  * no set operations are done.
687  */
688 static void
689 p_bracket(struct parse *p)
690 {
691         cset *cs = allocset(p);
692         int invert = 0;
693
694         /* Dept of Truly Sickening Special-Case Kludges */
695         if (p->next + 5 < p->end && strncmp(p->next, "[:<:]]", 6) == 0) {
696                 EMIT(OBOW, 0);
697                 NEXTn(6);
698                 return;
699         }
700         if (p->next + 5 < p->end && strncmp(p->next, "[:>:]]", 6) == 0) {
701                 EMIT(OEOW, 0);
702                 NEXTn(6);
703                 return;
704         }
705
706         if (EAT('^'))
707                 invert++;       /* make note to invert set at end */
708         if (EAT(']'))
709                 CHadd(cs, ']');
710         else if (EAT('-'))
711                 CHadd(cs, '-');
712         while (MORE() && PEEK() != ']' && !SEETWO('-', ']'))
713                 p_b_term(p, cs);
714         if (EAT('-'))
715                 CHadd(cs, '-');
716         (void)MUSTEAT(']', REG_EBRACK);
717
718         if (p->error != 0)      /* don't mess things up further */
719                 return;
720
721         if (p->g->cflags&REG_ICASE) {
722                 int i;
723                 int ci;
724
725                 for (i = p->g->csetsize - 1; i >= 0; i--)
726                         if (CHIN(cs, i) && isalpha(i)) {
727                                 ci = othercase(i);
728                                 if (ci != i)
729                                         CHadd(cs, ci);
730                         }
731                 if (cs->multis != NULL)
732                         mccase(p, cs);
733         }
734         if (invert) {
735                 int i;
736
737                 for (i = p->g->csetsize - 1; i >= 0; i--)
738                         if (CHIN(cs, i))
739                                 CHsub(cs, i);
740                         else
741                                 CHadd(cs, i);
742                 if (p->g->cflags&REG_NEWLINE)
743                         CHsub(cs, '\n');
744                 if (cs->multis != NULL)
745                         mcinvert(p, cs);
746         }
747
748         assert(cs->multis == NULL);             /* xxx */
749
750         if (nch(p, cs) == 1) {          /* optimize singleton sets */
751                 ordinary(p, firstch(p, cs));
752                 freeset(p, cs);
753         } else
754                 EMIT(OANYOF, freezeset(p, cs));
755 }
756
757 /*
758  - p_b_term - parse one term of a bracketed character list
759  == static void p_b_term(struct parse *p, cset *cs);
760  */
761 static void
762 p_b_term(struct parse *p, cset *cs)
763 {
764         char c;
765         char start, finish;
766         int i;
767
768         /* classify what we've got */
769         switch ((MORE()) ? PEEK() : '\0') {
770         case '[':
771                 c = (MORE2()) ? PEEK2() : '\0';
772                 break;
773         case '-':
774                 SETERROR(REG_ERANGE);
775                 return;                 /* NOTE RETURN */
776                 break;
777         default:
778                 c = '\0';
779                 break;
780         }
781
782         switch (c) {
783         case ':':               /* character class */
784                 NEXT2();
785                 (void)REQUIRE(MORE(), REG_EBRACK);
786                 c = PEEK();
787                 (void)REQUIRE(c != '-' && c != ']', REG_ECTYPE);
788                 p_b_cclass(p, cs);
789                 (void)REQUIRE(MORE(), REG_EBRACK);
790                 (void)REQUIRE(EATTWO(':', ']'), REG_ECTYPE);
791                 break;
792         case '=':               /* equivalence class */
793                 NEXT2();
794                 (void)REQUIRE(MORE(), REG_EBRACK);
795                 c = PEEK();
796                 (void)REQUIRE(c != '-' && c != ']', REG_ECOLLATE);
797                 p_b_eclass(p, cs);
798                 (void)REQUIRE(MORE(), REG_EBRACK);
799                 (void)REQUIRE(EATTWO('=', ']'), REG_ECOLLATE);
800                 break;
801         default:                /* symbol, ordinary character, or range */
802 /* xxx revision needed for multichar stuff */
803                 start = p_b_symbol(p);
804                 if (SEE('-') && MORE2() && PEEK2() != ']') {
805                         /* range */
806                         NEXT();
807                         if (EAT('-'))
808                                 finish = '-';
809                         else
810                                 finish = p_b_symbol(p);
811                 } else
812                         finish = start;
813                 if (start == finish)
814                         CHadd(cs, start);
815                 else {
816                         if (__collate_load_error) {
817                                 (void)REQUIRE((uch)start <= (uch)finish, REG_ERANGE);
818                                 for (i = (uch)start; i <= (uch)finish; i++)
819                                         CHadd(cs, i);
820                         } else {
821                                 (void)REQUIRE(__collate_range_cmp(start, finish) <= 0, REG_ERANGE);
822                                 for (i = CHAR_MIN; i <= CHAR_MAX; i++) {
823                                         if (   __collate_range_cmp(start, i) <= 0
824                                             && __collate_range_cmp(i, finish) <= 0
825                                            )
826                                                 CHadd(cs, i);
827                                 }
828                         }
829                 }
830                 break;
831         }
832 }
833
834 /*
835  - p_b_cclass - parse a character-class name and deal with it
836  == static void p_b_cclass(struct parse *p, cset *cs);
837  */
838 static void
839 p_b_cclass(struct parse *p, cset *cs)
840 {
841         int c;
842         char *sp = p->next;
843         struct cclass *cp;
844         size_t len;
845
846         while (MORE() && isalpha((uch)PEEK()))
847                 NEXT();
848         len = p->next - sp;
849         for (cp = cclasses; cp->name != NULL; cp++)
850                 if (strncmp(cp->name, sp, len) == 0 && cp->name[len] == '\0')
851                         break;
852         if (cp->name == NULL) {
853                 /* oops, didn't find it */
854                 SETERROR(REG_ECTYPE);
855                 return;
856         }
857
858         switch (cp->fidx) {
859         case CALNUM:
860                 for (c = CHAR_MIN; c <= CHAR_MAX; c++)
861                         if (isalnum((uch)c))
862                                 CHadd(cs, c);
863                 break;
864         case CALPHA:
865                 for (c = CHAR_MIN; c <= CHAR_MAX; c++)
866                         if (isalpha((uch)c))
867                                 CHadd(cs, c);
868                 break;
869         case CBLANK:
870                 for (c = CHAR_MIN; c <= CHAR_MAX; c++)
871                         if (isblank((uch)c))
872                                 CHadd(cs, c);
873                 break;
874         case CCNTRL:
875                 for (c = CHAR_MIN; c <= CHAR_MAX; c++)
876                         if (iscntrl((uch)c))
877                                 CHadd(cs, c);
878                 break;
879         case CDIGIT:
880                 for (c = CHAR_MIN; c <= CHAR_MAX; c++)
881                         if (isdigit((uch)c))
882                                 CHadd(cs, c);
883                 break;
884         case CGRAPH:
885                 for (c = CHAR_MIN; c <= CHAR_MAX; c++)
886                         if (isgraph((uch)c))
887                                 CHadd(cs, c);
888                 break;
889         case CLOWER:
890                 for (c = CHAR_MIN; c <= CHAR_MAX; c++)
891                         if (islower((uch)c))
892                                 CHadd(cs, c);
893                 break;
894         case CPRINT:
895                 for (c = CHAR_MIN; c <= CHAR_MAX; c++)
896                         if (isprint((uch)c))
897                                 CHadd(cs, c);
898                 break;
899         case CPUNCT:
900                 for (c = CHAR_MIN; c <= CHAR_MAX; c++)
901                         if (ispunct((uch)c))
902                                 CHadd(cs, c);
903                 break;
904         case CSPACE:
905                 for (c = CHAR_MIN; c <= CHAR_MAX; c++)
906                         if (isspace((uch)c))
907                                 CHadd(cs, c);
908                 break;
909         case CUPPER:
910                 for (c = CHAR_MIN; c <= CHAR_MAX; c++)
911                         if (isupper((uch)c))
912                                 CHadd(cs, c);
913                 break;
914         case CXDIGIT:
915                 for (c = CHAR_MIN; c <= CHAR_MAX; c++)
916                         if (isxdigit((uch)c))
917                                 CHadd(cs, c);
918                 break;
919         }
920 #if 0
921         for (u = cp->multis; *u != '\0'; u += strlen(u) + 1)
922                 MCadd(p, cs, u);
923 #endif
924 }
925
926 /*
927  - p_b_eclass - parse an equivalence-class name and deal with it
928  == static void p_b_eclass(struct parse *p, cset *cs);
929  *
930  * This implementation is incomplete. xxx
931  */
932 static void
933 p_b_eclass(struct parse *p, cset *cs)
934 {
935         char c;
936
937         c = p_b_coll_elem(p, '=');
938         CHadd(cs, c);
939 }
940
941 /*
942  - p_b_symbol - parse a character or [..]ed multicharacter collating symbol
943  == static char p_b_symbol(struct parse *p);
944  */
945 static char                     /* value of symbol */
946 p_b_symbol(struct parse *p)
947 {
948         char value;
949
950         (void)REQUIRE(MORE(), REG_EBRACK);
951         if (!EATTWO('[', '.'))
952                 return(GETNEXT());
953
954         /* collating symbol */
955         value = p_b_coll_elem(p, '.');
956         (void)REQUIRE(EATTWO('.', ']'), REG_ECOLLATE);
957         return(value);
958 }
959
960 /*
961  - p_b_coll_elem - parse a collating-element name and look it up
962  == static char p_b_coll_elem(struct parse *p, int endc);
963  */
964 static char                     /* value of collating element */
965 p_b_coll_elem(struct parse *p,
966     int endc)                   /* name ended by endc,']' */
967 {
968         char *sp = p->next;
969         struct cname *cp;
970         int len;
971
972         while (MORE() && !SEETWO(endc, ']'))
973                 NEXT();
974         if (!MORE()) {
975                 SETERROR(REG_EBRACK);
976                 return(0);
977         }
978         len = p->next - sp;
979         for (cp = cnames; cp->name != NULL; cp++)
980                 if (strncmp(cp->name, sp, len) == 0 && cp->name[len] == '\0')
981                         return(cp->code);       /* known name */
982         if (len == 1)
983                 return(*sp);    /* single character */
984         SETERROR(REG_ECOLLATE);                 /* neither */
985         return(0);
986 }
987
988 /*
989  - othercase - return the case counterpart of an alphabetic
990  == static char othercase(int ch);
991  */
992 static char                     /* if no counterpart, return ch */
993 othercase(int ch)
994 {
995         ch = (uch)ch;
996         assert(isalpha(ch));
997         if (isupper(ch))
998                 return(tolower(ch));
999         else if (islower(ch))
1000                 return(toupper(ch));
1001         else                    /* peculiar, but could happen */
1002                 return(ch);
1003 }
1004
1005 /*
1006  - bothcases - emit a dualcase version of a two-case character
1007  == static void bothcases(struct parse *p, int ch);
1008  *
1009  * Boy, is this implementation ever a kludge...
1010  */
1011 static void
1012 bothcases(struct parse *p, int ch)
1013 {
1014         char *oldnext = p->next;
1015         char *oldend = p->end;
1016         char bracket[3];
1017
1018         ch = (uch)ch;
1019         assert(othercase(ch) != ch);    /* p_bracket() would recurse */
1020         p->next = bracket;
1021         p->end = bracket+2;
1022         bracket[0] = ch;
1023         bracket[1] = ']';
1024         bracket[2] = '\0';
1025         p_bracket(p);
1026         assert(p->next == bracket+2);
1027         p->next = oldnext;
1028         p->end = oldend;
1029 }
1030
1031 /*
1032  - ordinary - emit an ordinary character
1033  == static void ordinary(struct parse *p, int ch);
1034  */
1035 static void
1036 ordinary(struct parse *p, int ch)
1037 {
1038         cat_t *cap = p->g->categories;
1039
1040         if ((p->g->cflags&REG_ICASE) && isalpha((uch)ch) && othercase(ch) != ch)
1041                 bothcases(p, ch);
1042         else {
1043                 EMIT(OCHAR, (uch)ch);
1044                 if (cap[ch] == 0)
1045                         cap[ch] = p->g->ncategories++;
1046         }
1047 }
1048
1049 /*
1050  - nonnewline - emit REG_NEWLINE version of OANY
1051  == static void nonnewline(struct parse *p);
1052  *
1053  * Boy, is this implementation ever a kludge...
1054  */
1055 static void
1056 nonnewline(struct parse *p)
1057 {
1058         char *oldnext = p->next;
1059         char *oldend = p->end;
1060         char bracket[4];
1061
1062         p->next = bracket;
1063         p->end = bracket+3;
1064         bracket[0] = '^';
1065         bracket[1] = '\n';
1066         bracket[2] = ']';
1067         bracket[3] = '\0';
1068         p_bracket(p);
1069         assert(p->next == bracket+3);
1070         p->next = oldnext;
1071         p->end = oldend;
1072 }
1073
1074 /*
1075  - repeat - generate code for a bounded repetition, recursively if needed
1076  == static void repeat(struct parse *p, sopno start, int from, int to);
1077  */
1078 static void
1079 repeat(struct parse *p,
1080        sopno start,             /* operand from here to end of strip */
1081        int from,                /* repeated from this number */
1082        int to)                  /* to this number of times (maybe INFINITY) */
1083 {
1084         sopno finish = HERE();
1085 #       define  N       2
1086 #       define  INF     3
1087 #       define  REP(f, t)       ((f)*8 + (t))
1088 #       define  MAP(n)  (((n) <= 1) ? (n) : ((n) == INFINITY) ? INF : N)
1089         sopno copy;
1090
1091         if (p->error != 0)      /* head off possible runaway recursion */
1092                 return;
1093
1094         assert(from <= to);
1095
1096         switch (REP(MAP(from), MAP(to))) {
1097         case REP(0, 0):                 /* must be user doing this */
1098                 DROP(finish-start);     /* drop the operand */
1099                 break;
1100         case REP(0, 1):                 /* as x{1,1}? */
1101         case REP(0, N):                 /* as x{1,n}? */
1102         case REP(0, INF):               /* as x{1,}? */
1103                 /* KLUDGE: emit y? as (y|) until subtle bug gets fixed */
1104                 INSERT(OCH_, start);            /* offset is wrong... */
1105                 repeat(p, start+1, 1, to);
1106                 ASTERN(OOR1, start);
1107                 AHEAD(start);                   /* ... fix it */
1108                 EMIT(OOR2, 0);
1109                 AHEAD(THERE());
1110                 ASTERN(O_CH, THERETHERE());
1111                 break;
1112         case REP(1, 1):                 /* trivial case */
1113                 /* done */
1114                 break;
1115         case REP(1, N):                 /* as x?x{1,n-1} */
1116                 /* KLUDGE: emit y? as (y|) until subtle bug gets fixed */
1117                 INSERT(OCH_, start);
1118                 ASTERN(OOR1, start);
1119                 AHEAD(start);
1120                 EMIT(OOR2, 0);                  /* offset very wrong... */
1121                 AHEAD(THERE());                 /* ...so fix it */
1122                 ASTERN(O_CH, THERETHERE());
1123                 copy = dupl(p, start+1, finish+1);
1124                 assert(copy == finish+4);
1125                 repeat(p, copy, 1, to-1);
1126                 break;
1127         case REP(1, INF):               /* as x+ */
1128                 INSERT(OPLUS_, start);
1129                 ASTERN(O_PLUS, start);
1130                 break;
1131         case REP(N, N):                 /* as xx{m-1,n-1} */
1132                 copy = dupl(p, start, finish);
1133                 repeat(p, copy, from-1, to-1);
1134                 break;
1135         case REP(N, INF):               /* as xx{n-1,INF} */
1136                 copy = dupl(p, start, finish);
1137                 repeat(p, copy, from-1, to);
1138                 break;
1139         default:                        /* "can't happen" */
1140                 SETERROR(REG_ASSERT);   /* just in case */
1141                 break;
1142         }
1143 }
1144
1145 /*
1146  - seterr - set an error condition
1147  == static int seterr(struct parse *p, int e);
1148  */
1149 static int                      /* useless but makes type checking happy */
1150 seterr(struct parse *p, int e)
1151 {
1152         if (p->error == 0)      /* keep earliest error condition */
1153                 p->error = e;
1154         p->next = nuls;         /* try to bring things to a halt */
1155         p->end = nuls;
1156         return(0);              /* make the return value well-defined */
1157 }
1158
1159 /*
1160  - allocset - allocate a set of characters for []
1161  == static cset *allocset(struct parse *p);
1162  */
1163 static cset *
1164 allocset(struct parse *p)
1165 {
1166         int no = p->g->ncsets++;
1167         size_t nc;
1168         size_t nbytes;
1169         cset *cs;
1170         size_t css = (size_t)p->g->csetsize;
1171         int i;
1172
1173         if (no >= p->ncsalloc) {        /* need another column of space */
1174                 p->ncsalloc += CHAR_BIT;
1175                 nc = p->ncsalloc;
1176                 assert(nc % CHAR_BIT == 0);
1177                 nbytes = nc / CHAR_BIT * css;
1178                 if (p->g->sets == NULL)
1179                         p->g->sets = (cset *)malloc(nc * sizeof(cset));
1180                 else
1181                         p->g->sets = (cset *)reallocf((char *)p->g->sets,
1182                                                         nc * sizeof(cset));
1183                 if (p->g->setbits == NULL)
1184                         p->g->setbits = (uch *)malloc(nbytes);
1185                 else {
1186                         p->g->setbits = (uch *)reallocf((char *)p->g->setbits,
1187                                                                 nbytes);
1188                         /* xxx this isn't right if setbits is now NULL */
1189                         for (i = 0; i < no; i++)
1190                                 p->g->sets[i].ptr = p->g->setbits + css*(i/CHAR_BIT);
1191                 }
1192                 if (p->g->sets != NULL && p->g->setbits != NULL)
1193                         (void) memset((char *)p->g->setbits + (nbytes - css),
1194                                                                 0, css);
1195                 else {
1196                         no = 0;
1197                         SETERROR(REG_ESPACE);
1198                         /* caller's responsibility not to do set ops */
1199                 }
1200         }
1201
1202         assert(p->g->sets != NULL);     /* xxx */
1203         cs = &p->g->sets[no];
1204         cs->ptr = p->g->setbits + css*((no)/CHAR_BIT);
1205         cs->mask = 1 << ((no) % CHAR_BIT);
1206         cs->hash = 0;
1207         cs->smultis = 0;
1208         cs->multis = NULL;
1209
1210         return(cs);
1211 }
1212
1213 /*
1214  - freeset - free a now-unused set
1215  == static void freeset(struct parse *p, cset *cs);
1216  */
1217 static void
1218 freeset(struct parse *p, cset *cs)
1219 {
1220         int i;
1221         cset *top = &p->g->sets[p->g->ncsets];
1222         size_t css = (size_t)p->g->csetsize;
1223
1224         for (i = 0; i < css; i++)
1225                 CHsub(cs, i);
1226         if (cs == top-1)        /* recover only the easy case */
1227                 p->g->ncsets--;
1228 }
1229
1230 /*
1231  - freezeset - final processing on a set of characters
1232  == static int freezeset(struct parse *p, cset *cs);
1233  *
1234  * The main task here is merging identical sets.  This is usually a waste
1235  * of time (although the hash code minimizes the overhead), but can win
1236  * big if REG_ICASE is being used.  REG_ICASE, by the way, is why the hash
1237  * is done using addition rather than xor -- all ASCII [aA] sets xor to
1238  * the same value!
1239  */
1240 static int                      /* set number */
1241 freezeset(struct parse *p, cset *cs)
1242 {
1243         short h = cs->hash;
1244         int i;
1245         cset *top = &p->g->sets[p->g->ncsets];
1246         cset *cs2;
1247         size_t css = (size_t)p->g->csetsize;
1248
1249         /* look for an earlier one which is the same */
1250         for (cs2 = &p->g->sets[0]; cs2 < top; cs2++)
1251                 if (cs2->hash == h && cs2 != cs) {
1252                         /* maybe */
1253                         for (i = 0; i < css; i++)
1254                                 if (!!CHIN(cs2, i) != !!CHIN(cs, i))
1255                                         break;          /* no */
1256                         if (i == css)
1257                                 break;                  /* yes */
1258                 }
1259
1260         if (cs2 < top) {        /* found one */
1261                 freeset(p, cs);
1262                 cs = cs2;
1263         }
1264
1265         return((int)(cs - p->g->sets));
1266 }
1267
1268 /*
1269  - firstch - return first character in a set (which must have at least one)
1270  == static int firstch(struct parse *p, cset *cs);
1271  */
1272 static int                      /* character; there is no "none" value */
1273 firstch(struct parse *p, cset *cs)
1274 {
1275         int i;
1276         size_t css = (size_t)p->g->csetsize;
1277
1278         for (i = 0; i < css; i++)
1279                 if (CHIN(cs, i))
1280                         return((char)i);
1281         assert(never);
1282         return(0);              /* arbitrary */
1283 }
1284
1285 /*
1286  - nch - number of characters in a set
1287  == static int nch(struct parse *p, cset *cs);
1288  */
1289 static int
1290 nch(struct parse *p, cset *cs)
1291 {
1292         int i;
1293         size_t css = (size_t)p->g->csetsize;
1294         int n = 0;
1295
1296         for (i = 0; i < css; i++)
1297                 if (CHIN(cs, i))
1298                         n++;
1299         return(n);
1300 }
1301
1302 /*
1303  - mcadd - add a collating element to a cset
1304  == static void mcadd(struct parse *p, cset *cs, \
1305  ==     char *cp);
1306  */
1307 static void
1308 mcadd(struct parse *p, cset *cs, char *cp)
1309 {
1310         size_t oldend = cs->smultis;
1311
1312         cs->smultis += strlen(cp) + 1;
1313         if (cs->multis == NULL)
1314                 cs->multis = malloc(cs->smultis);
1315         else
1316                 cs->multis = reallocf(cs->multis, cs->smultis);
1317         if (cs->multis == NULL) {
1318                 SETERROR(REG_ESPACE);
1319                 return;
1320         }
1321
1322         (void) strcpy(cs->multis + oldend - 1, cp);
1323         cs->multis[cs->smultis - 1] = '\0';
1324 }
1325
1326 #if used
1327 /*
1328  - mcsub - subtract a collating element from a cset
1329  == static void mcsub(cset *cs, char *cp);
1330  */
1331 static void
1332 mcsub(cset *cs, char *cp)
1333 {
1334         char *fp = mcfind(cs, cp);
1335         size_t len = strlen(fp);
1336
1337         assert(fp != NULL);
1338         (void) memmove(fp, fp + len + 1,
1339                                 cs->smultis - (fp + len + 1 - cs->multis));
1340         cs->smultis -= len;
1341
1342         if (cs->smultis == 0) {
1343                 free(cs->multis);
1344                 cs->multis = NULL;
1345                 return;
1346         }
1347
1348         cs->multis = reallocf(cs->multis, cs->smultis);
1349         assert(cs->multis != NULL);
1350 }
1351
1352 /*
1353  - mcin - is a collating element in a cset?
1354  == static int mcin(cset *cs, char *cp);
1355  */
1356 static int
1357 mcin(cset *cs, char *cp)
1358 {
1359         return(mcfind(cs, cp) != NULL);
1360 }
1361
1362 /*
1363  - mcfind - find a collating element in a cset
1364  == static char *mcfind(cset *cs, char *cp);
1365  */
1366 static char *
1367 mcfind(cset *cs, char *cp)
1368 {
1369         char *p;
1370
1371         if (cs->multis == NULL)
1372                 return(NULL);
1373         for (p = cs->multis; *p != '\0'; p += strlen(p) + 1)
1374                 if (strcmp(cp, p) == 0)
1375                         return(p);
1376         return(NULL);
1377 }
1378 #endif
1379
1380 /*
1381  - mcinvert - invert the list of collating elements in a cset
1382  == static void mcinvert(struct parse *p, cset *cs);
1383  *
1384  * This would have to know the set of possibilities.  Implementation
1385  * is deferred.
1386  */
1387 static void
1388 mcinvert(struct parse *p, cset *cs)
1389 {
1390         assert(cs->multis == NULL);     /* xxx */
1391 }
1392
1393 /*
1394  - mccase - add case counterparts of the list of collating elements in a cset
1395  == static void mccase(struct parse *p, cset *cs);
1396  *
1397  * This would have to know the set of possibilities.  Implementation
1398  * is deferred.
1399  */
1400 static void
1401 mccase(struct parse *p, cset *cs)
1402 {
1403         assert(cs->multis == NULL);     /* xxx */
1404 }
1405
1406 /*
1407  - isinsets - is this character in any sets?
1408  == static int isinsets(struct re_guts *g, int c);
1409  */
1410 static int                      /* predicate */
1411 isinsets(struct re_guts *g, int c)
1412 {
1413         uch *col;
1414         int i;
1415         int ncols = (g->ncsets+(CHAR_BIT-1)) / CHAR_BIT;
1416         unsigned uc = (uch)c;
1417
1418         for (i = 0, col = g->setbits; i < ncols; i++, col += g->csetsize)
1419                 if (col[uc] != 0)
1420                         return(1);
1421         return(0);
1422 }
1423
1424 /*
1425  - samesets - are these two characters in exactly the same sets?
1426  == static int samesets(struct re_guts *g, int c1, int c2);
1427  */
1428 static int                      /* predicate */
1429 samesets(struct re_guts *g, int c1, int c2)
1430 {
1431         uch *col;
1432         int i;
1433         int ncols = (g->ncsets+(CHAR_BIT-1)) / CHAR_BIT;
1434         unsigned uc1 = (uch)c1;
1435         unsigned uc2 = (uch)c2;
1436
1437         for (i = 0, col = g->setbits; i < ncols; i++, col += g->csetsize)
1438                 if (col[uc1] != col[uc2])
1439                         return(0);
1440         return(1);
1441 }
1442
1443 /*
1444  - categorize - sort out character categories
1445  == static void categorize(struct parse *p, struct re_guts *g);
1446  */
1447 static void
1448 categorize(struct parse *p, struct re_guts *g)
1449 {
1450         cat_t *cats = g->categories;
1451         int c;
1452         int c2;
1453         cat_t cat;
1454
1455         /* avoid making error situations worse */
1456         if (p->error != 0)
1457                 return;
1458
1459         for (c = CHAR_MIN; c <= CHAR_MAX; c++)
1460                 if (cats[c] == 0 && isinsets(g, c)) {
1461                         cat = g->ncategories++;
1462                         cats[c] = cat;
1463                         for (c2 = c+1; c2 <= CHAR_MAX; c2++)
1464                                 if (cats[c2] == 0 && samesets(g, c, c2))
1465                                         cats[c2] = cat;
1466                 }
1467 }
1468
1469 /*
1470  - dupl - emit a duplicate of a bunch of sops
1471  == static sopno dupl(struct parse *p, sopno start, sopno finish);
1472  */
1473 static sopno                    /* start of duplicate */
1474 dupl(struct parse *p,
1475      sopno start,               /* from here */
1476      sopno finish)              /* to this less one */
1477 {
1478         sopno ret = HERE();
1479         sopno len = finish - start;
1480
1481         assert(finish >= start);
1482         if (len == 0)
1483                 return(ret);
1484         enlarge(p, p->ssize + len);     /* this many unexpected additions */
1485         assert(p->ssize >= p->slen + len);
1486         (void) memcpy((char *)(p->strip + p->slen),
1487                 (char *)(p->strip + start), (size_t)len*sizeof(sop));
1488         p->slen += len;
1489         return(ret);
1490 }
1491
1492 /*
1493  - doemit - emit a strip operator
1494  == static void doemit(struct parse *p, sop op, size_t opnd);
1495  *
1496  * It might seem better to implement this as a macro with a function as
1497  * hard-case backup, but it's just too big and messy unless there are
1498  * some changes to the data structures.  Maybe later.
1499  */
1500 static void
1501 doemit(struct parse *p, sop op, size_t opnd)
1502 {
1503         /* avoid making error situations worse */
1504         if (p->error != 0)
1505                 return;
1506
1507         /* deal with oversize operands ("can't happen", more or less) */
1508         assert(opnd < 1<<OPSHIFT);
1509
1510         /* deal with undersized strip */
1511         if (p->slen >= p->ssize)
1512                 enlarge(p, (p->ssize+1) / 2 * 3);       /* +50% */
1513         assert(p->slen < p->ssize);
1514
1515         /* finally, it's all reduced to the easy case */
1516         p->strip[p->slen++] = SOP(op, opnd);
1517 }
1518
1519 /*
1520  - doinsert - insert a sop into the strip
1521  == static void doinsert(struct parse *p, sop op, size_t opnd, sopno pos);
1522  */
1523 static void
1524 doinsert(struct parse *p, sop op, size_t opnd, sopno pos)
1525 {
1526         sopno sn;
1527         sop s;
1528         int i;
1529
1530         /* avoid making error situations worse */
1531         if (p->error != 0)
1532                 return;
1533
1534         sn = HERE();
1535         EMIT(op, opnd);         /* do checks, ensure space */
1536         assert(HERE() == sn+1);
1537         s = p->strip[sn];
1538
1539         /* adjust paren pointers */
1540         assert(pos > 0);
1541         for (i = 1; i < NPAREN; i++) {
1542                 if (p->pbegin[i] >= pos) {
1543                         p->pbegin[i]++;
1544                 }
1545                 if (p->pend[i] >= pos) {
1546                         p->pend[i]++;
1547                 }
1548         }
1549
1550         memmove((char *)&p->strip[pos+1], (char *)&p->strip[pos],
1551                                                 (HERE()-pos-1)*sizeof(sop));
1552         p->strip[pos] = s;
1553 }
1554
1555 /*
1556  - dofwd - complete a forward reference
1557  == static void dofwd(struct parse *p, sopno pos, sop value);
1558  */
1559 static void
1560 dofwd(struct parse *p, sopno pos, sop value)
1561 {
1562         /* avoid making error situations worse */
1563         if (p->error != 0)
1564                 return;
1565
1566         assert(value < 1<<OPSHIFT);
1567         p->strip[pos] = OP(p->strip[pos]) | value;
1568 }
1569
1570 /*
1571  - enlarge - enlarge the strip
1572  == static void enlarge(struct parse *p, sopno size);
1573  */
1574 static void
1575 enlarge(struct parse *p, sopno size)
1576 {
1577         sop *sp;
1578
1579         if (p->ssize >= size)
1580                 return;
1581
1582         sp = (sop *)realloc(p->strip, size*sizeof(sop));
1583         if (sp == NULL) {
1584                 SETERROR(REG_ESPACE);
1585                 return;
1586         }
1587         p->strip = sp;
1588         p->ssize = size;
1589 }
1590
1591 /*
1592  - stripsnug - compact the strip
1593  == static void stripsnug(struct parse *p, struct re_guts *g);
1594  */
1595 static void
1596 stripsnug(struct parse *p, struct re_guts *g)
1597 {
1598         g->nstates = p->slen;
1599         g->strip = (sop *)realloc((char *)p->strip, p->slen * sizeof(sop));
1600         if (g->strip == NULL) {
1601                 SETERROR(REG_ESPACE);
1602                 g->strip = p->strip;
1603         }
1604 }
1605
1606 /*
1607  - findmust - fill in must and mlen with longest mandatory literal string
1608  == static void findmust(struct parse *p, struct re_guts *g);
1609  *
1610  * This algorithm could do fancy things like analyzing the operands of |
1611  * for common subsequences.  Someday.  This code is simple and finds most
1612  * of the interesting cases.
1613  *
1614  * Note that must and mlen got initialized during setup.
1615  */
1616 static void
1617 findmust(struct parse *p, struct re_guts *g)
1618 {
1619         sop *scan;
1620         sop *start;
1621         sop *newstart;
1622         sopno newlen;
1623         sop s;
1624         char *cp;
1625         sopno i;
1626         int offset;
1627         int cs, mccs;
1628
1629         /* avoid making error situations worse */
1630         if (p->error != 0)
1631                 return;
1632
1633         /* Find out if we can handle OANYOF or not */
1634         mccs = 0;
1635         for (cs = 0; cs < g->ncsets; cs++)
1636                 if (g->sets[cs].multis != NULL)
1637                         mccs = 1;
1638
1639         /* find the longest OCHAR sequence in strip */
1640         newlen = 0;
1641         offset = 0;
1642         g->moffset = 0;
1643         scan = g->strip + 1;
1644         do {
1645                 s = *scan++;
1646                 switch (OP(s)) {
1647                 case OCHAR:             /* sequence member */
1648                         if (newlen == 0)                /* new sequence */
1649                                 newstart = scan - 1;
1650                         newlen++;
1651                         break;
1652                 case OPLUS_:            /* things that don't break one */
1653                 case OLPAREN:
1654                 case ORPAREN:
1655                         break;
1656                 case OQUEST_:           /* things that must be skipped */
1657                 case OCH_:
1658                         offset = altoffset(scan, offset, mccs);
1659                         scan--;
1660                         do {
1661                                 scan += OPND(s);
1662                                 s = *scan;
1663                                 /* assert() interferes w debug printouts */
1664                                 if (OP(s) != O_QUEST && OP(s) != O_CH &&
1665                                                         OP(s) != OOR2) {
1666                                         g->iflags |= BAD;
1667                                         return;
1668                                 }
1669                         } while (OP(s) != O_QUEST && OP(s) != O_CH);
1670                         /* fallthrough */
1671                 case OBOW:              /* things that break a sequence */
1672                 case OEOW:
1673                 case OBOL:
1674                 case OEOL:
1675                 case O_QUEST:
1676                 case O_CH:
1677                 case OEND:
1678                         if (newlen > g->mlen) {         /* ends one */
1679                                 start = newstart;
1680                                 g->mlen = newlen;
1681                                 if (offset > -1) {
1682                                         g->moffset += offset;
1683                                         offset = newlen;
1684                                 } else
1685                                         g->moffset = offset;
1686                         } else {
1687                                 if (offset > -1)
1688                                         offset += newlen;
1689                         }
1690                         newlen = 0;
1691                         break;
1692                 case OANY:
1693                         if (newlen > g->mlen) {         /* ends one */
1694                                 start = newstart;
1695                                 g->mlen = newlen;
1696                                 if (offset > -1) {
1697                                         g->moffset += offset;
1698                                         offset = newlen;
1699                                 } else
1700                                         g->moffset = offset;
1701                         } else {
1702                                 if (offset > -1)
1703                                         offset += newlen;
1704                         }
1705                         if (offset > -1)
1706                                 offset++;
1707                         newlen = 0;
1708                         break;
1709                 case OANYOF:            /* may or may not invalidate offset */
1710                         /* First, everything as OANY */
1711                         if (newlen > g->mlen) {         /* ends one */
1712                                 start = newstart;
1713                                 g->mlen = newlen;
1714                                 if (offset > -1) {
1715                                         g->moffset += offset;
1716                                         offset = newlen;
1717                                 } else
1718                                         g->moffset = offset;
1719                         } else {
1720                                 if (offset > -1)
1721                                         offset += newlen;
1722                         }
1723                         if (offset > -1)
1724                                 offset++;
1725                         newlen = 0;
1726                         /* And, now, if we found out we can't deal with
1727                          * it, make offset = -1.
1728                          */
1729                         if (mccs)
1730                                 offset = -1;
1731                         break;
1732                 default:
1733                         /* Anything here makes it impossible or too hard
1734                          * to calculate the offset -- so we give up;
1735                          * save the last known good offset, in case the
1736                          * must sequence doesn't occur later.
1737                          */
1738                         if (newlen > g->mlen) {         /* ends one */
1739                                 start = newstart;
1740                                 g->mlen = newlen;
1741                                 if (offset > -1)
1742                                         g->moffset += offset;
1743                                 else
1744                                         g->moffset = offset;
1745                         }
1746                         offset = -1;
1747                         newlen = 0;
1748                         break;
1749                 }
1750         } while (OP(s) != OEND);
1751
1752         if (g->mlen == 0) {             /* there isn't one */
1753                 g->moffset = -1;
1754                 return;
1755         }
1756
1757         /* turn it into a character string */
1758         g->must = malloc((size_t)g->mlen + 1);
1759         if (g->must == NULL) {          /* argh; just forget it */
1760                 g->mlen = 0;
1761                 g->moffset = -1;
1762                 return;
1763         }
1764         cp = g->must;
1765         scan = start;
1766         for (i = g->mlen; i > 0; i--) {
1767                 while (OP(s = *scan++) != OCHAR)
1768                         continue;
1769                 assert(cp < g->must + g->mlen);
1770                 *cp++ = (char)OPND(s);
1771         }
1772         assert(cp == g->must + g->mlen);
1773         *cp++ = '\0';           /* just on general principles */
1774 }
1775
1776 /*
1777  - altoffset - choose biggest offset among multiple choices
1778  == static int altoffset(sop *scan, int offset, int mccs);
1779  *
1780  * Compute, recursively if necessary, the largest offset among multiple
1781  * re paths.
1782  */
1783 static int
1784 altoffset(sop *scan, int offset, int mccs)
1785 {
1786         int largest;
1787         int try;
1788         sop s;
1789
1790         /* If we gave up already on offsets, return */
1791         if (offset == -1)
1792                 return -1;
1793
1794         largest = 0;
1795         try = 0;
1796         s = *scan++;
1797         while (OP(s) != O_QUEST && OP(s) != O_CH) {
1798                 switch (OP(s)) {
1799                 case OOR1:
1800                         if (try > largest)
1801                                 largest = try;
1802                         try = 0;
1803                         break;
1804                 case OQUEST_:
1805                 case OCH_:
1806                         try = altoffset(scan, try, mccs);
1807                         if (try == -1)
1808                                 return -1;
1809                         scan--;
1810                         do {
1811                                 scan += OPND(s);
1812                                 s = *scan;
1813                                 if (OP(s) != O_QUEST && OP(s) != O_CH &&
1814                                                         OP(s) != OOR2)
1815                                         return -1;
1816                         } while (OP(s) != O_QUEST && OP(s) != O_CH);
1817                         /* We must skip to the next position, or we'll
1818                          * leave altoffset() too early.
1819                          */
1820                         scan++;
1821                         break;
1822                 case OANYOF:
1823                         if (mccs)
1824                                 return -1;
1825                 case OCHAR:
1826                 case OANY:
1827                         try++;
1828                 case OBOW:
1829                 case OEOW:
1830                 case OLPAREN:
1831                 case ORPAREN:
1832                 case OOR2:
1833                         break;
1834                 default:
1835                         try = -1;
1836                         break;
1837                 }
1838                 if (try == -1)
1839                         return -1;
1840                 s = *scan++;
1841         }
1842
1843         if (try > largest)
1844                 largest = try;
1845
1846         return largest+offset;
1847 }
1848
1849 /*
1850  - computejumps - compute char jumps for BM scan
1851  == static void computejumps(struct parse *p, struct re_guts *g);
1852  *
1853  * This algorithm assumes g->must exists and is has size greater than
1854  * zero. It's based on the algorithm found on Computer Algorithms by
1855  * Sara Baase.
1856  *
1857  * A char jump is the number of characters one needs to jump based on
1858  * the value of the character from the text that was mismatched.
1859  */
1860 static void
1861 computejumps(struct parse *p, struct re_guts *g)
1862 {
1863         int ch;
1864         int mindex;
1865
1866         /* Avoid making errors worse */
1867         if (p->error != 0)
1868                 return;
1869
1870         g->charjump = (int*) malloc((NC + 1) * sizeof(int));
1871         if (g->charjump == NULL)        /* Not a fatal error */
1872                 return;
1873         /* Adjust for signed chars, if necessary */
1874         g->charjump = &g->charjump[-(CHAR_MIN)];
1875
1876         /* If the character does not exist in the pattern, the jump
1877          * is equal to the number of characters in the pattern.
1878          */
1879         for (ch = CHAR_MIN; ch < (CHAR_MAX + 1); ch++)
1880                 g->charjump[ch] = g->mlen;
1881
1882         /* If the character does exist, compute the jump that would
1883          * take us to the last character in the pattern equal to it
1884          * (notice that we match right to left, so that last character
1885          * is the first one that would be matched).
1886          */
1887         for (mindex = 0; mindex < g->mlen; mindex++)
1888                 g->charjump[g->must[mindex]] = g->mlen - mindex - 1;
1889 }
1890
1891 /*
1892  - computematchjumps - compute match jumps for BM scan
1893  == static void computematchjumps(struct parse *p, struct re_guts *g);
1894  *
1895  * This algorithm assumes g->must exists and is has size greater than
1896  * zero. It's based on the algorithm found on Computer Algorithms by
1897  * Sara Baase.
1898  *
1899  * A match jump is the number of characters one needs to advance based
1900  * on the already-matched suffix.
1901  * Notice that all values here are minus (g->mlen-1), because of the way
1902  * the search algorithm works.
1903  */
1904 static void
1905 computematchjumps(struct parse *p, struct re_guts *g)
1906 {
1907         int mindex;             /* General "must" iterator */
1908         int suffix;             /* Keeps track of matching suffix */
1909         int ssuffix;            /* Keeps track of suffixes' suffix */
1910         int* pmatches;          /* pmatches[k] points to the next i
1911                                  * such that i+1...mlen is a substring
1912                                  * of k+1...k+mlen-i-1
1913                                  */
1914
1915         /* Avoid making errors worse */
1916         if (p->error != 0)
1917                 return;
1918
1919         pmatches = (int*) malloc(g->mlen * sizeof(unsigned int));
1920         if (pmatches == NULL) {
1921                 g->matchjump = NULL;
1922                 return;
1923         }
1924
1925         g->matchjump = (int*) malloc(g->mlen * sizeof(unsigned int));
1926         if (g->matchjump == NULL)       /* Not a fatal error */
1927                 return;
1928
1929         /* Set maximum possible jump for each character in the pattern */
1930         for (mindex = 0; mindex < g->mlen; mindex++)
1931                 g->matchjump[mindex] = 2*g->mlen - mindex - 1;
1932
1933         /* Compute pmatches[] */
1934         for (mindex = g->mlen - 1, suffix = g->mlen; mindex >= 0;
1935             mindex--, suffix--) {
1936                 pmatches[mindex] = suffix;
1937
1938                 /* If a mismatch is found, interrupting the substring,
1939                  * compute the matchjump for that position. If no
1940                  * mismatch is found, then a text substring mismatched
1941                  * against the suffix will also mismatch against the
1942                  * substring.
1943                  */
1944                 while (suffix < g->mlen
1945                     && g->must[mindex] != g->must[suffix]) {
1946                         g->matchjump[suffix] = MIN(g->matchjump[suffix],
1947                             g->mlen - mindex - 1);
1948                         suffix = pmatches[suffix];
1949                 }
1950         }
1951
1952         /* Compute the matchjump up to the last substring found to jump
1953          * to the beginning of the largest must pattern prefix matching
1954          * it's own suffix.
1955          */
1956         for (mindex = 0; mindex <= suffix; mindex++)
1957                 g->matchjump[mindex] = MIN(g->matchjump[mindex],
1958                     g->mlen + suffix - mindex);
1959
1960         ssuffix = pmatches[suffix];
1961         while (suffix < g->mlen) {
1962                 while (suffix <= ssuffix && suffix < g->mlen) {
1963                         g->matchjump[suffix] = MIN(g->matchjump[suffix],
1964                             g->mlen + ssuffix - suffix);
1965                         suffix++;
1966                 }
1967                 if (suffix < g->mlen)
1968                         ssuffix = pmatches[ssuffix];
1969         }
1970
1971         free(pmatches);
1972 }
1973
1974 /*
1975  - pluscount - count + nesting
1976  == static sopno pluscount(struct parse *p, struct re_guts *g);
1977  */
1978 static sopno                    /* nesting depth */
1979 pluscount(struct parse *p, struct re_guts *g)
1980 {
1981         sop *scan;
1982         sop s;
1983         sopno plusnest = 0;
1984         sopno maxnest = 0;
1985
1986         if (p->error != 0)
1987                 return(0);      /* there may not be an OEND */
1988
1989         scan = g->strip + 1;
1990         do {
1991                 s = *scan++;
1992                 switch (OP(s)) {
1993                 case OPLUS_:
1994                         plusnest++;
1995                         break;
1996                 case O_PLUS:
1997                         if (plusnest > maxnest)
1998                                 maxnest = plusnest;
1999                         plusnest--;
2000                         break;
2001                 }
2002         } while (OP(s) != OEND);
2003         if (plusnest != 0)
2004                 g->iflags |= BAD;
2005         return(maxnest);
2006 }