remove gcc34
[dragonfly.git] / crypto / heimdal-0.6.3 / lib / des / set_key.c
1 /* crypto/des/set_key.c */
2 /* Copyright (C) 1995-1997 Eric Young (eay@mincom.oz.au)
3  * All rights reserved.
4  *
5  * This package is an SSL implementation written
6  * by Eric Young (eay@mincom.oz.au).
7  * The implementation was written so as to conform with Netscapes SSL.
8  * 
9  * This library is free for commercial and non-commercial use as long as
10  * the following conditions are aheared to.  The following conditions
11  * apply to all code found in this distribution, be it the RC4, RSA,
12  * lhash, DES, etc., code; not just the SSL code.  The SSL documentation
13  * included with this distribution is covered by the same copyright terms
14  * except that the holder is Tim Hudson (tjh@mincom.oz.au).
15  * 
16  * Copyright remains Eric Young's, and as such any Copyright notices in
17  * the code are not to be removed.
18  * If this package is used in a product, Eric Young should be given attribution
19  * as the author of the parts of the library used.
20  * This can be in the form of a textual message at program startup or
21  * in documentation (online or textual) provided with the package.
22  * 
23  * Redistribution and use in source and binary forms, with or without
24  * modification, are permitted provided that the following conditions
25  * are met:
26  * 1. Redistributions of source code must retain the copyright
27  *    notice, this list of conditions and the following disclaimer.
28  * 2. Redistributions in binary form must reproduce the above copyright
29  *    notice, this list of conditions and the following disclaimer in the
30  *    documentation and/or other materials provided with the distribution.
31  * 3. All advertising materials mentioning features or use of this software
32  *    must display the following acknowledgement:
33  *    "This product includes cryptographic software written by
34  *     Eric Young (eay@mincom.oz.au)"
35  *    The word 'cryptographic' can be left out if the rouines from the library
36  *    being used are not cryptographic related :-).
37  * 4. If you include any Windows specific code (or a derivative thereof) from 
38  *    the apps directory (application code) you must include an acknowledgement:
39  *    "This product includes software written by Tim Hudson (tjh@mincom.oz.au)"
40  * 
41  * THIS SOFTWARE IS PROVIDED BY ERIC YOUNG ``AS IS'' AND
42  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
43  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
44  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
45  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
46  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
47  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
48  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
49  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
50  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
51  * SUCH DAMAGE.
52  * 
53  * The licence and distribution terms for any publically available version or
54  * derivative of this code cannot be changed.  i.e. this code cannot simply be
55  * copied and put under another distribution licence
56  * [including the GNU Public Licence.]
57  */
58
59 /* set_key.c v 1.4 eay 24/9/91
60  * 1.4 Speed up by 400% :-)
61  * 1.3 added register declarations.
62  * 1.2 unrolled make_key_sched a bit more
63  * 1.1 added norm_expand_bits
64  * 1.0 First working version
65  */
66 #include "des_locl.h"
67 #include "podd.h"
68 #include "sk.h"
69
70 #ifndef NOPROTO
71 static int check_parity(des_cblock (*key));
72 #else
73 static int check_parity();
74 #endif
75
76 int des_check_key=0;
77
78 void des_set_odd_parity(key)
79 des_cblock (*key);
80         {
81         int i;
82
83         for (i=0; i<DES_KEY_SZ; i++)
84                 (*key)[i]=odd_parity[(*key)[i]];
85         }
86
87 static int check_parity(key)
88 des_cblock (*key);
89         {
90         int i;
91
92         for (i=0; i<DES_KEY_SZ; i++)
93                 {
94                 if ((*key)[i] != odd_parity[(*key)[i]])
95                         return(0);
96                 }
97         return(1);
98         }
99
100 /* Weak and semi week keys were originally as take from
101  * %A D.W. Davies
102  * %A W.L. Price
103  * %T Security for Computer Networks
104  * %I John Wiley & Sons
105  * %D 1984
106  * Many thanks to smb@ulysses.att.com (Steven Bellovin) for the reference
107  * (and actual cblock values).
108  */
109
110 /* The corrected values are from FIPS 74:
111  * http://www.itl.nist.gov/fipspubs/fip74.htm
112  */
113
114 #define NUM_WEAK_KEY    16
115 static des_cblock weak_keys[NUM_WEAK_KEY]={
116         /* weak keys */
117         {0x01,0x01,0x01,0x01,0x01,0x01,0x01,0x01},
118         {0xFE,0xFE,0xFE,0xFE,0xFE,0xFE,0xFE,0xFE},
119         {0x1F,0x1F,0x1F,0x1F,0x0E,0x0E,0x0E,0x0E},
120         {0xE0,0xE0,0xE0,0xE0,0xF1,0xF1,0xF1,0xF1},
121         /* semi-weak keys */
122         {0x01,0xFE,0x01,0xFE,0x01,0xFE,0x01,0xFE},
123         {0xFE,0x01,0xFE,0x01,0xFE,0x01,0xFE,0x01},
124         {0x1F,0xE0,0x1F,0xE0,0x0E,0xF1,0x0E,0xF1},
125         {0xE0,0x1F,0xE0,0x1F,0xF1,0x0E,0xF1,0x0E},
126         {0x01,0xE0,0x01,0xE0,0x01,0xF1,0x01,0xF1},
127         {0xE0,0x01,0xE0,0x01,0xF1,0x01,0xF1,0x01},
128         {0x1F,0xFE,0x1F,0xFE,0x0E,0xFE,0x0E,0xFE},
129         {0xFE,0x1F,0xFE,0x1F,0xFE,0x0E,0xFE,0x0E},
130         {0x01,0x1F,0x01,0x1F,0x01,0x0E,0x01,0x0E},
131         {0x1F,0x01,0x1F,0x01,0x0E,0x01,0x0E,0x01},
132         {0xE0,0xFE,0xE0,0xFE,0xF1,0xFE,0xF1,0xFE},
133         {0xFE,0xE0,0xFE,0xE0,0xFE,0xF1,0xFE,0xF1}};
134
135 int des_is_weak_key(key)
136 des_cblock (*key);
137         {
138         int i;
139
140         for (i=0; i<NUM_WEAK_KEY; i++)
141                 /* Added == 0 to comparision, I obviously don't run
142                  * this section very often :-(, thanks to
143                  * engineering@MorningStar.Com for the fix
144                  * eay 93/06/29 */
145                 if (memcmp(weak_keys[i],key,sizeof(key)) == 0) return(1);
146         return(0);
147         }
148
149 /* NOW DEFINED IN des_local.h
150  * See ecb_encrypt.c for a pseudo description of these macros. 
151  * #define PERM_OP(a,b,t,n,m) ((t)=((((a)>>(n))^(b))&(m)),\
152  *      (b)^=(t),\
153  *      (a)=((a)^((t)<<(n))))
154  */
155
156 #define HPERM_OP(a,t,n,m) ((t)=((((a)<<(16-(n)))^(a))&(m)),\
157         (a)=(a)^(t)^(t>>(16-(n))))
158
159 /* return 0 if key parity is odd (correct),
160  * return -1 if key parity error,
161  * return -2 if illegal weak key.
162  */
163 int des_set_key(key, schedule)
164 des_cblock (*key);
165 des_key_schedule schedule;
166         {
167         static int shifts2[16]={0,0,1,1,1,1,1,1,0,1,1,1,1,1,1,0};
168         register DES_LONG c,d,t,s,t2;
169         register unsigned char *in;
170         register DES_LONG *k;
171         register int i;
172
173         if (des_check_key)
174                 {
175                 if (!check_parity(key))
176                         return(-1);
177
178                 if (des_is_weak_key(key))
179                         return(-2);
180                 }
181
182         k=(DES_LONG *)schedule;
183         in=(unsigned char *)key;
184
185         c2l(in,c);
186         c2l(in,d);
187
188         /* do PC1 in 60 simple operations */ 
189 /*      PERM_OP(d,c,t,4,0x0f0f0f0fL);
190         HPERM_OP(c,t,-2, 0xcccc0000L);
191         HPERM_OP(c,t,-1, 0xaaaa0000L);
192         HPERM_OP(c,t, 8, 0x00ff0000L);
193         HPERM_OP(c,t,-1, 0xaaaa0000L);
194         HPERM_OP(d,t,-8, 0xff000000L);
195         HPERM_OP(d,t, 8, 0x00ff0000L);
196         HPERM_OP(d,t, 2, 0x33330000L);
197         d=((d&0x00aa00aaL)<<7L)|((d&0x55005500L)>>7L)|(d&0xaa55aa55L);
198         d=(d>>8)|((c&0xf0000000L)>>4);
199         c&=0x0fffffffL; */
200
201         /* I now do it in 47 simple operations :-)
202          * Thanks to John Fletcher (john_fletcher@lccmail.ocf.llnl.gov)
203          * for the inspiration. :-) */
204         PERM_OP (d,c,t,4,0x0f0f0f0fL);
205         HPERM_OP(c,t,-2,0xcccc0000L);
206         HPERM_OP(d,t,-2,0xcccc0000L);
207         PERM_OP (d,c,t,1,0x55555555L);
208         PERM_OP (c,d,t,8,0x00ff00ffL);
209         PERM_OP (d,c,t,1,0x55555555L);
210         d=      (((d&0x000000ffL)<<16L)| (d&0x0000ff00L)     |
211                  ((d&0x00ff0000L)>>16L)|((c&0xf0000000L)>>4L));
212         c&=0x0fffffffL;
213
214         for (i=0; i<ITERATIONS; i++)
215                 {
216                 if (shifts2[i])
217                         { c=((c>>2L)|(c<<26L)); d=((d>>2L)|(d<<26L)); }
218                 else
219                         { c=((c>>1L)|(c<<27L)); d=((d>>1L)|(d<<27L)); }
220                 c&=0x0fffffffL;
221                 d&=0x0fffffffL;
222                 /* could be a few less shifts but I am to lazy at this
223                  * point in time to investigate */
224                 s=      des_skb[0][ (c    )&0x3f                ]|
225                         des_skb[1][((c>> 6)&0x03)|((c>> 7L)&0x3c)]|
226                         des_skb[2][((c>>13)&0x0f)|((c>>14L)&0x30)]|
227                         des_skb[3][((c>>20)&0x01)|((c>>21L)&0x06) |
228                                                   ((c>>22L)&0x38)];
229                 t=      des_skb[4][ (d    )&0x3f                ]|
230                         des_skb[5][((d>> 7L)&0x03)|((d>> 8L)&0x3c)]|
231                         des_skb[6][ (d>>15L)&0x3f                ]|
232                         des_skb[7][((d>>21L)&0x0f)|((d>>22L)&0x30)];
233
234                 /* table contained 0213 4657 */
235                 t2=((t<<16L)|(s&0x0000ffffL))&0xffffffffL;
236                 *(k++)=ROTATE(t2,30)&0xffffffffL;
237
238                 t2=((s>>16L)|(t&0xffff0000L));
239                 *(k++)=ROTATE(t2,26)&0xffffffffL;
240                 }
241         return(0);
242         }
243
244 int des_key_sched(key, schedule)
245 des_cblock (*key);
246 des_key_schedule schedule;
247         {
248         return(des_set_key(key,schedule));
249         }