Import of openssl-0.9.8, a feature release.
[dragonfly.git] / crypto / openssl-0.9 / crypto / evp / p_lib.c
1 /* crypto/evp/p_lib.c */
2 /* Copyright (C) 1995-1998 Eric Young (eay@cryptsoft.com)
3  * All rights reserved.
4  *
5  * This package is an SSL implementation written
6  * by Eric Young (eay@cryptsoft.com).
7  * The implementation was written so as to conform with Netscapes SSL.
8  * 
9  * This library is free for commercial and non-commercial use as long as
10  * the following conditions are aheared to.  The following conditions
11  * apply to all code found in this distribution, be it the RC4, RSA,
12  * lhash, DES, etc., code; not just the SSL code.  The SSL documentation
13  * included with this distribution is covered by the same copyright terms
14  * except that the holder is Tim Hudson (tjh@cryptsoft.com).
15  * 
16  * Copyright remains Eric Young's, and as such any Copyright notices in
17  * the code are not to be removed.
18  * If this package is used in a product, Eric Young should be given attribution
19  * as the author of the parts of the library used.
20  * This can be in the form of a textual message at program startup or
21  * in documentation (online or textual) provided with the package.
22  * 
23  * Redistribution and use in source and binary forms, with or without
24  * modification, are permitted provided that the following conditions
25  * are met:
26  * 1. Redistributions of source code must retain the copyright
27  *    notice, this list of conditions and the following disclaimer.
28  * 2. Redistributions in binary form must reproduce the above copyright
29  *    notice, this list of conditions and the following disclaimer in the
30  *    documentation and/or other materials provided with the distribution.
31  * 3. All advertising materials mentioning features or use of this software
32  *    must display the following acknowledgement:
33  *    "This product includes cryptographic software written by
34  *     Eric Young (eay@cryptsoft.com)"
35  *    The word 'cryptographic' can be left out if the rouines from the library
36  *    being used are not cryptographic related :-).
37  * 4. If you include any Windows specific code (or a derivative thereof) from 
38  *    the apps directory (application code) you must include an acknowledgement:
39  *    "This product includes software written by Tim Hudson (tjh@cryptsoft.com)"
40  * 
41  * THIS SOFTWARE IS PROVIDED BY ERIC YOUNG ``AS IS'' AND
42  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
43  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
44  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
45  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
46  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
47  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
48  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
49  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
50  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
51  * SUCH DAMAGE.
52  * 
53  * The licence and distribution terms for any publically available version or
54  * derivative of this code cannot be changed.  i.e. this code cannot simply be
55  * copied and put under another distribution licence
56  * [including the GNU Public Licence.]
57  */
58
59 #include <stdio.h>
60 #include "cryptlib.h"
61 #include <openssl/bn.h>
62 #include <openssl/err.h>
63 #include <openssl/objects.h>
64 #include <openssl/evp.h>
65 #include <openssl/asn1_mac.h>
66 #include <openssl/x509.h>
67 #include <openssl/rsa.h>
68 #include <openssl/dsa.h>
69 #include <openssl/dh.h>
70
71 static void EVP_PKEY_free_it(EVP_PKEY *x);
72
73 int EVP_PKEY_bits(EVP_PKEY *pkey)
74         {
75         if (0)
76                 return 0;
77 #ifndef OPENSSL_NO_RSA
78         else if (pkey->type == EVP_PKEY_RSA)
79                 return(BN_num_bits(pkey->pkey.rsa->n));
80 #endif
81 #ifndef OPENSSL_NO_DSA
82         else if (pkey->type == EVP_PKEY_DSA)
83                 return(BN_num_bits(pkey->pkey.dsa->p));
84 #endif
85 #ifndef OPENSSL_NO_EC
86         else if (pkey->type == EVP_PKEY_EC)
87                 {
88                 BIGNUM *order = BN_new();
89                 const EC_GROUP *group;
90                 int ret;
91
92                 if (!order)
93                         {
94                         ERR_clear_error();
95                         return 0;
96                         }
97                 group = EC_KEY_get0_group(pkey->pkey.ec);
98                 if (!EC_GROUP_get_order(group, order, NULL))
99                         {
100                         ERR_clear_error();
101                         return 0;
102                         }
103
104                 ret = BN_num_bits(order);
105                 BN_free(order);
106                 return ret;
107                 }
108 #endif
109         return(0);
110         }
111
112 int EVP_PKEY_size(EVP_PKEY *pkey)
113         {
114         if (pkey == NULL)
115                 return(0);
116 #ifndef OPENSSL_NO_RSA
117         if (pkey->type == EVP_PKEY_RSA)
118                 return(RSA_size(pkey->pkey.rsa));
119         else
120 #endif
121 #ifndef OPENSSL_NO_DSA
122                 if (pkey->type == EVP_PKEY_DSA)
123                 return(DSA_size(pkey->pkey.dsa));
124 #endif
125 #ifndef OPENSSL_NO_ECDSA
126                 if (pkey->type == EVP_PKEY_EC)
127                 return(ECDSA_size(pkey->pkey.ec));
128 #endif
129
130         return(0);
131         }
132
133 int EVP_PKEY_save_parameters(EVP_PKEY *pkey, int mode)
134         {
135 #ifndef OPENSSL_NO_DSA
136         if (pkey->type == EVP_PKEY_DSA)
137                 {
138                 int ret=pkey->save_parameters;
139
140                 if (mode >= 0)
141                         pkey->save_parameters=mode;
142                 return(ret);
143                 }
144 #endif
145 #ifndef OPENSSL_NO_EC
146         if (pkey->type == EVP_PKEY_EC)
147                 {
148                 int ret = pkey->save_parameters;
149
150                 if (mode >= 0)
151                         pkey->save_parameters = mode;
152                 return(ret);
153                 }
154 #endif
155         return(0);
156         }
157
158 int EVP_PKEY_copy_parameters(EVP_PKEY *to, const EVP_PKEY *from)
159         {
160         if (to->type != from->type)
161                 {
162                 EVPerr(EVP_F_EVP_PKEY_COPY_PARAMETERS,EVP_R_DIFFERENT_KEY_TYPES);
163                 goto err;
164                 }
165
166         if (EVP_PKEY_missing_parameters(from))
167                 {
168                 EVPerr(EVP_F_EVP_PKEY_COPY_PARAMETERS,EVP_R_MISSING_PARAMETERS);
169                 goto err;
170                 }
171 #ifndef OPENSSL_NO_DSA
172         if (to->type == EVP_PKEY_DSA)
173                 {
174                 BIGNUM *a;
175
176                 if ((a=BN_dup(from->pkey.dsa->p)) == NULL) goto err;
177                 if (to->pkey.dsa->p != NULL) BN_free(to->pkey.dsa->p);
178                 to->pkey.dsa->p=a;
179
180                 if ((a=BN_dup(from->pkey.dsa->q)) == NULL) goto err;
181                 if (to->pkey.dsa->q != NULL) BN_free(to->pkey.dsa->q);
182                 to->pkey.dsa->q=a;
183
184                 if ((a=BN_dup(from->pkey.dsa->g)) == NULL) goto err;
185                 if (to->pkey.dsa->g != NULL) BN_free(to->pkey.dsa->g);
186                 to->pkey.dsa->g=a;
187                 }
188 #endif
189 #ifndef OPENSSL_NO_EC
190         if (to->type == EVP_PKEY_EC)
191                 {
192                 EC_GROUP *group = EC_GROUP_dup(EC_KEY_get0_group(from->pkey.ec));
193                 if (group == NULL)
194                         goto err;
195                 if (EC_KEY_set_group(to->pkey.ec, group) == 0)
196                         goto err;
197                 EC_GROUP_free(group);
198                 }
199 #endif
200         return(1);
201 err:
202         return(0);
203         }
204
205 int EVP_PKEY_missing_parameters(const EVP_PKEY *pkey)
206         {
207 #ifndef OPENSSL_NO_DSA
208         if (pkey->type == EVP_PKEY_DSA)
209                 {
210                 DSA *dsa;
211
212                 dsa=pkey->pkey.dsa;
213                 if ((dsa->p == NULL) || (dsa->q == NULL) || (dsa->g == NULL))
214                         return(1);
215                 }
216 #endif
217 #ifndef OPENSSL_NO_EC
218         if (pkey->type == EVP_PKEY_EC)
219                 {
220                 if (EC_KEY_get0_group(pkey->pkey.ec) == NULL)
221                         return(1);
222                 }
223 #endif
224
225         return(0);
226         }
227
228 int EVP_PKEY_cmp_parameters(const EVP_PKEY *a, const EVP_PKEY *b)
229         {
230 #ifndef OPENSSL_NO_DSA
231         if ((a->type == EVP_PKEY_DSA) && (b->type == EVP_PKEY_DSA))
232                 {
233                 if (    BN_cmp(a->pkey.dsa->p,b->pkey.dsa->p) ||
234                         BN_cmp(a->pkey.dsa->q,b->pkey.dsa->q) ||
235                         BN_cmp(a->pkey.dsa->g,b->pkey.dsa->g))
236                         return(0);
237                 else
238                         return(1);
239                 }
240 #endif
241 #ifndef OPENSSL_NO_EC
242         if (a->type == EVP_PKEY_EC && b->type == EVP_PKEY_EC)
243                 {
244                 const EC_GROUP *group_a = EC_KEY_get0_group(a->pkey.ec),
245                                *group_b = EC_KEY_get0_group(b->pkey.ec);
246                 if (EC_GROUP_cmp(group_a, group_b, NULL))
247                         return 0;
248                 else
249                         return 1;
250                 }
251 #endif
252         return(-1);
253         }
254
255 int EVP_PKEY_cmp(const EVP_PKEY *a, const EVP_PKEY *b)
256         {
257         if (a->type != b->type)
258                 return -1;
259
260         if (EVP_PKEY_cmp_parameters(a, b) == 0)
261                 return 0;
262
263         switch (a->type)
264                 {
265 #ifndef OPENSSL_NO_RSA
266         case EVP_PKEY_RSA:
267                 if (BN_cmp(b->pkey.rsa->n,a->pkey.rsa->n) != 0
268                         || BN_cmp(b->pkey.rsa->e,a->pkey.rsa->e) != 0)
269                         return 0;
270                 break;
271 #endif
272 #ifndef OPENSSL_NO_DSA
273         case EVP_PKEY_DSA:
274                 if (BN_cmp(b->pkey.dsa->pub_key,a->pkey.dsa->pub_key) != 0)
275                         return 0;
276                 break;
277 #endif
278 #ifndef OPENSSL_NO_EC
279         case EVP_PKEY_EC:
280                 {
281                 int  r;
282                 const EC_GROUP *group = EC_KEY_get0_group(b->pkey.ec);
283                 const EC_POINT *pa = EC_KEY_get0_public_key(a->pkey.ec),
284                                *pb = EC_KEY_get0_public_key(b->pkey.ec);
285                 r = EC_POINT_cmp(group, pa, pb, NULL);
286                 if (r != 0)
287                         {
288                         if (r == 1)
289                                 return 0;
290                         else
291                                 return -2;
292                         }
293                 }
294                 break;
295 #endif
296 #ifndef OPENSSL_NO_DH
297         case EVP_PKEY_DH:
298                 return -2;
299 #endif
300         default:
301                 return -2;
302                 }
303
304         return 1;
305         }
306
307 EVP_PKEY *EVP_PKEY_new(void)
308         {
309         EVP_PKEY *ret;
310
311         ret=(EVP_PKEY *)OPENSSL_malloc(sizeof(EVP_PKEY));
312         if (ret == NULL)
313                 {
314                 EVPerr(EVP_F_EVP_PKEY_NEW,ERR_R_MALLOC_FAILURE);
315                 return(NULL);
316                 }
317         ret->type=EVP_PKEY_NONE;
318         ret->references=1;
319         ret->pkey.ptr=NULL;
320         ret->attributes=NULL;
321         ret->save_parameters=1;
322         return(ret);
323         }
324
325 int EVP_PKEY_assign(EVP_PKEY *pkey, int type, char *key)
326         {
327         if (pkey == NULL) return(0);
328         if (pkey->pkey.ptr != NULL)
329                 EVP_PKEY_free_it(pkey);
330         pkey->type=EVP_PKEY_type(type);
331         pkey->save_type=type;
332         pkey->pkey.ptr=key;
333         return(key != NULL);
334         }
335
336 #ifndef OPENSSL_NO_RSA
337 int EVP_PKEY_set1_RSA(EVP_PKEY *pkey, RSA *key)
338 {
339         int ret = EVP_PKEY_assign_RSA(pkey, key);
340         if(ret)
341                 RSA_up_ref(key);
342         return ret;
343 }
344
345 RSA *EVP_PKEY_get1_RSA(EVP_PKEY *pkey)
346         {
347         if(pkey->type != EVP_PKEY_RSA) {
348                 EVPerr(EVP_F_EVP_PKEY_GET1_RSA, EVP_R_EXPECTING_AN_RSA_KEY);
349                 return NULL;
350         }
351         RSA_up_ref(pkey->pkey.rsa);
352         return pkey->pkey.rsa;
353 }
354 #endif
355
356 #ifndef OPENSSL_NO_DSA
357 int EVP_PKEY_set1_DSA(EVP_PKEY *pkey, DSA *key)
358 {
359         int ret = EVP_PKEY_assign_DSA(pkey, key);
360         if(ret)
361                 DSA_up_ref(key);
362         return ret;
363 }
364
365 DSA *EVP_PKEY_get1_DSA(EVP_PKEY *pkey)
366         {
367         if(pkey->type != EVP_PKEY_DSA) {
368                 EVPerr(EVP_F_EVP_PKEY_GET1_DSA, EVP_R_EXPECTING_A_DSA_KEY);
369                 return NULL;
370         }
371         DSA_up_ref(pkey->pkey.dsa);
372         return pkey->pkey.dsa;
373 }
374 #endif
375
376 #ifndef OPENSSL_NO_EC
377
378 int EVP_PKEY_set1_EC_KEY(EVP_PKEY *pkey, EC_KEY *key)
379 {
380         int ret = EVP_PKEY_assign_EC_KEY(pkey,key);
381         if (ret)
382                 EC_KEY_up_ref(key);
383         return ret;
384 }
385
386 EC_KEY *EVP_PKEY_get1_EC_KEY(EVP_PKEY *pkey)
387 {
388         if (pkey->type != EVP_PKEY_EC)
389         {
390                 EVPerr(EVP_F_EVP_PKEY_GET1_EC_KEY, EVP_R_EXPECTING_A_EC_KEY);
391                 return NULL;
392         }
393         EC_KEY_up_ref(pkey->pkey.ec);
394         return pkey->pkey.ec;
395 }
396 #endif
397
398
399 #ifndef OPENSSL_NO_DH
400
401 int EVP_PKEY_set1_DH(EVP_PKEY *pkey, DH *key)
402 {
403         int ret = EVP_PKEY_assign_DH(pkey, key);
404         if(ret)
405                 DH_up_ref(key);
406         return ret;
407 }
408
409 DH *EVP_PKEY_get1_DH(EVP_PKEY *pkey)
410         {
411         if(pkey->type != EVP_PKEY_DH) {
412                 EVPerr(EVP_F_EVP_PKEY_GET1_DH, EVP_R_EXPECTING_A_DH_KEY);
413                 return NULL;
414         }
415         DH_up_ref(pkey->pkey.dh);
416         return pkey->pkey.dh;
417 }
418 #endif
419
420 int EVP_PKEY_type(int type)
421         {
422         switch (type)
423                 {
424         case EVP_PKEY_RSA:
425         case EVP_PKEY_RSA2:
426                 return(EVP_PKEY_RSA);
427         case EVP_PKEY_DSA:
428         case EVP_PKEY_DSA1:
429         case EVP_PKEY_DSA2:
430         case EVP_PKEY_DSA3:
431         case EVP_PKEY_DSA4:
432                 return(EVP_PKEY_DSA);
433         case EVP_PKEY_DH:
434                 return(EVP_PKEY_DH);
435         case EVP_PKEY_EC:
436                 return(EVP_PKEY_EC);
437         default:
438                 return(NID_undef);
439                 }
440         }
441
442 void EVP_PKEY_free(EVP_PKEY *x)
443         {
444         int i;
445
446         if (x == NULL) return;
447
448         i=CRYPTO_add(&x->references,-1,CRYPTO_LOCK_EVP_PKEY);
449 #ifdef REF_PRINT
450         REF_PRINT("EVP_PKEY",x);
451 #endif
452         if (i > 0) return;
453 #ifdef REF_CHECK
454         if (i < 0)
455                 {
456                 fprintf(stderr,"EVP_PKEY_free, bad reference count\n");
457                 abort();
458                 }
459 #endif
460         EVP_PKEY_free_it(x);
461         if (x->attributes)
462                 sk_X509_ATTRIBUTE_pop_free(x->attributes, X509_ATTRIBUTE_free);
463         OPENSSL_free(x);
464         }
465
466 static void EVP_PKEY_free_it(EVP_PKEY *x)
467         {
468         switch (x->type)
469                 {
470 #ifndef OPENSSL_NO_RSA
471         case EVP_PKEY_RSA:
472         case EVP_PKEY_RSA2:
473                 RSA_free(x->pkey.rsa);
474                 break;
475 #endif
476 #ifndef OPENSSL_NO_DSA
477         case EVP_PKEY_DSA:
478         case EVP_PKEY_DSA2:
479         case EVP_PKEY_DSA3:
480         case EVP_PKEY_DSA4:
481                 DSA_free(x->pkey.dsa);
482                 break;
483 #endif
484 #ifndef OPENSSL_NO_EC
485         case EVP_PKEY_EC:
486                 EC_KEY_free(x->pkey.ec);
487                 break;
488 #endif
489 #ifndef OPENSSL_NO_DH
490         case EVP_PKEY_DH:
491                 DH_free(x->pkey.dh);
492                 break;
493 #endif
494                 }
495         }
496