3c5b717c15a3551197adda863ecf76907f05f53a
[dragonfly.git] / crypto / openssl / crypto / x509 / x509_cmp.c
1 /* crypto/x509/x509_cmp.c */
2 /* Copyright (C) 1995-1998 Eric Young (eay@cryptsoft.com)
3  * All rights reserved.
4  *
5  * This package is an SSL implementation written
6  * by Eric Young (eay@cryptsoft.com).
7  * The implementation was written so as to conform with Netscapes SSL.
8  *
9  * This library is free for commercial and non-commercial use as long as
10  * the following conditions are aheared to.  The following conditions
11  * apply to all code found in this distribution, be it the RC4, RSA,
12  * lhash, DES, etc., code; not just the SSL code.  The SSL documentation
13  * included with this distribution is covered by the same copyright terms
14  * except that the holder is Tim Hudson (tjh@cryptsoft.com).
15  *
16  * Copyright remains Eric Young's, and as such any Copyright notices in
17  * the code are not to be removed.
18  * If this package is used in a product, Eric Young should be given attribution
19  * as the author of the parts of the library used.
20  * This can be in the form of a textual message at program startup or
21  * in documentation (online or textual) provided with the package.
22  *
23  * Redistribution and use in source and binary forms, with or without
24  * modification, are permitted provided that the following conditions
25  * are met:
26  * 1. Redistributions of source code must retain the copyright
27  *    notice, this list of conditions and the following disclaimer.
28  * 2. Redistributions in binary form must reproduce the above copyright
29  *    notice, this list of conditions and the following disclaimer in the
30  *    documentation and/or other materials provided with the distribution.
31  * 3. All advertising materials mentioning features or use of this software
32  *    must display the following acknowledgement:
33  *    "This product includes cryptographic software written by
34  *     Eric Young (eay@cryptsoft.com)"
35  *    The word 'cryptographic' can be left out if the rouines from the library
36  *    being used are not cryptographic related :-).
37  * 4. If you include any Windows specific code (or a derivative thereof) from
38  *    the apps directory (application code) you must include an acknowledgement:
39  *    "This product includes software written by Tim Hudson (tjh@cryptsoft.com)"
40  *
41  * THIS SOFTWARE IS PROVIDED BY ERIC YOUNG ``AS IS'' AND
42  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
43  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
44  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
45  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
46  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
47  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
48  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
49  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
50  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
51  * SUCH DAMAGE.
52  *
53  * The licence and distribution terms for any publically available version or
54  * derivative of this code cannot be changed.  i.e. this code cannot simply be
55  * copied and put under another distribution licence
56  * [including the GNU Public Licence.]
57  */
58
59 #include <stdio.h>
60 #include <ctype.h>
61 #include "cryptlib.h"
62 #include <openssl/asn1.h>
63 #include <openssl/objects.h>
64 #include <openssl/x509.h>
65 #include <openssl/x509v3.h>
66
67 int X509_issuer_and_serial_cmp(const X509 *a, const X509 *b)
68 {
69     int i;
70     X509_CINF *ai, *bi;
71
72     ai = a->cert_info;
73     bi = b->cert_info;
74     i = M_ASN1_INTEGER_cmp(ai->serialNumber, bi->serialNumber);
75     if (i)
76         return (i);
77     return (X509_NAME_cmp(ai->issuer, bi->issuer));
78 }
79
80 #ifndef OPENSSL_NO_MD5
81 unsigned long X509_issuer_and_serial_hash(X509 *a)
82 {
83     unsigned long ret = 0;
84     EVP_MD_CTX ctx;
85     unsigned char md[16];
86     char *f;
87
88     EVP_MD_CTX_init(&ctx);
89     f = X509_NAME_oneline(a->cert_info->issuer, NULL, 0);
90     if (!EVP_DigestInit_ex(&ctx, EVP_md5(), NULL))
91         goto err;
92     if (!EVP_DigestUpdate(&ctx, (unsigned char *)f, strlen(f)))
93         goto err;
94     OPENSSL_free(f);
95     if (!EVP_DigestUpdate
96         (&ctx, (unsigned char *)a->cert_info->serialNumber->data,
97          (unsigned long)a->cert_info->serialNumber->length))
98         goto err;
99     if (!EVP_DigestFinal_ex(&ctx, &(md[0]), NULL))
100         goto err;
101     ret = (((unsigned long)md[0]) | ((unsigned long)md[1] << 8L) |
102            ((unsigned long)md[2] << 16L) | ((unsigned long)md[3] << 24L)
103         ) & 0xffffffffL;
104  err:
105     EVP_MD_CTX_cleanup(&ctx);
106     return (ret);
107 }
108 #endif
109
110 int X509_issuer_name_cmp(const X509 *a, const X509 *b)
111 {
112     return (X509_NAME_cmp(a->cert_info->issuer, b->cert_info->issuer));
113 }
114
115 int X509_subject_name_cmp(const X509 *a, const X509 *b)
116 {
117     return (X509_NAME_cmp(a->cert_info->subject, b->cert_info->subject));
118 }
119
120 int X509_CRL_cmp(const X509_CRL *a, const X509_CRL *b)
121 {
122     return (X509_NAME_cmp(a->crl->issuer, b->crl->issuer));
123 }
124
125 #ifndef OPENSSL_NO_SHA
126 int X509_CRL_match(const X509_CRL *a, const X509_CRL *b)
127 {
128     return memcmp(a->sha1_hash, b->sha1_hash, 20);
129 }
130 #endif
131
132 X509_NAME *X509_get_issuer_name(X509 *a)
133 {
134     return (a->cert_info->issuer);
135 }
136
137 unsigned long X509_issuer_name_hash(X509 *x)
138 {
139     return (X509_NAME_hash(x->cert_info->issuer));
140 }
141
142 #ifndef OPENSSL_NO_MD5
143 unsigned long X509_issuer_name_hash_old(X509 *x)
144 {
145     return (X509_NAME_hash_old(x->cert_info->issuer));
146 }
147 #endif
148
149 X509_NAME *X509_get_subject_name(X509 *a)
150 {
151     return (a->cert_info->subject);
152 }
153
154 ASN1_INTEGER *X509_get_serialNumber(X509 *a)
155 {
156     return (a->cert_info->serialNumber);
157 }
158
159 unsigned long X509_subject_name_hash(X509 *x)
160 {
161     return (X509_NAME_hash(x->cert_info->subject));
162 }
163
164 #ifndef OPENSSL_NO_MD5
165 unsigned long X509_subject_name_hash_old(X509 *x)
166 {
167     return (X509_NAME_hash_old(x->cert_info->subject));
168 }
169 #endif
170
171 #ifndef OPENSSL_NO_SHA
172 /*
173  * Compare two certificates: they must be identical for this to work. NB:
174  * Although "cmp" operations are generally prototyped to take "const"
175  * arguments (eg. for use in STACKs), the way X509 handling is - these
176  * operations may involve ensuring the hashes are up-to-date and ensuring
177  * certain cert information is cached. So this is the point where the
178  * "depth-first" constification tree has to halt with an evil cast.
179  */
180 int X509_cmp(const X509 *a, const X509 *b)
181 {
182     /* ensure hash is valid */
183     X509_check_purpose((X509 *)a, -1, 0);
184     X509_check_purpose((X509 *)b, -1, 0);
185
186     return memcmp(a->sha1_hash, b->sha1_hash, SHA_DIGEST_LENGTH);
187 }
188 #endif
189
190 int X509_NAME_cmp(const X509_NAME *a, const X509_NAME *b)
191 {
192     int ret;
193
194     /* Ensure canonical encoding is present and up to date */
195
196     if (!a->canon_enc || a->modified) {
197         ret = i2d_X509_NAME((X509_NAME *)a, NULL);
198         if (ret < 0)
199             return -2;
200     }
201
202     if (!b->canon_enc || b->modified) {
203         ret = i2d_X509_NAME((X509_NAME *)b, NULL);
204         if (ret < 0)
205             return -2;
206     }
207
208     ret = a->canon_enclen - b->canon_enclen;
209
210     if (ret)
211         return ret;
212
213     return memcmp(a->canon_enc, b->canon_enc, a->canon_enclen);
214
215 }
216
217 unsigned long X509_NAME_hash(X509_NAME *x)
218 {
219     unsigned long ret = 0;
220     unsigned char md[SHA_DIGEST_LENGTH];
221
222     /* Make sure X509_NAME structure contains valid cached encoding */
223     i2d_X509_NAME(x, NULL);
224     if (!EVP_Digest(x->canon_enc, x->canon_enclen, md, NULL, EVP_sha1(),
225                     NULL))
226         return 0;
227
228     ret = (((unsigned long)md[0]) | ((unsigned long)md[1] << 8L) |
229            ((unsigned long)md[2] << 16L) | ((unsigned long)md[3] << 24L)
230         ) & 0xffffffffL;
231     return (ret);
232 }
233
234 #ifndef OPENSSL_NO_MD5
235 /*
236  * I now DER encode the name and hash it.  Since I cache the DER encoding,
237  * this is reasonably efficient.
238  */
239
240 unsigned long X509_NAME_hash_old(X509_NAME *x)
241 {
242     EVP_MD_CTX md_ctx;
243     unsigned long ret = 0;
244     unsigned char md[16];
245
246     /* Make sure X509_NAME structure contains valid cached encoding */
247     i2d_X509_NAME(x, NULL);
248     EVP_MD_CTX_init(&md_ctx);
249     EVP_MD_CTX_set_flags(&md_ctx, EVP_MD_CTX_FLAG_NON_FIPS_ALLOW);
250     if (EVP_DigestInit_ex(&md_ctx, EVP_md5(), NULL)
251         && EVP_DigestUpdate(&md_ctx, x->bytes->data, x->bytes->length)
252         && EVP_DigestFinal_ex(&md_ctx, md, NULL))
253         ret = (((unsigned long)md[0]) | ((unsigned long)md[1] << 8L) |
254                ((unsigned long)md[2] << 16L) | ((unsigned long)md[3] << 24L)
255             ) & 0xffffffffL;
256     EVP_MD_CTX_cleanup(&md_ctx);
257
258     return (ret);
259 }
260 #endif
261
262 /* Search a stack of X509 for a match */
263 X509 *X509_find_by_issuer_and_serial(STACK_OF(X509) *sk, X509_NAME *name,
264                                      ASN1_INTEGER *serial)
265 {
266     int i;
267     X509_CINF cinf;
268     X509 x, *x509 = NULL;
269
270     if (!sk)
271         return NULL;
272
273     x.cert_info = &cinf;
274     cinf.serialNumber = serial;
275     cinf.issuer = name;
276
277     for (i = 0; i < sk_X509_num(sk); i++) {
278         x509 = sk_X509_value(sk, i);
279         if (X509_issuer_and_serial_cmp(x509, &x) == 0)
280             return (x509);
281     }
282     return (NULL);
283 }
284
285 X509 *X509_find_by_subject(STACK_OF(X509) *sk, X509_NAME *name)
286 {
287     X509 *x509;
288     int i;
289
290     for (i = 0; i < sk_X509_num(sk); i++) {
291         x509 = sk_X509_value(sk, i);
292         if (X509_NAME_cmp(X509_get_subject_name(x509), name) == 0)
293             return (x509);
294     }
295     return (NULL);
296 }
297
298 EVP_PKEY *X509_get_pubkey(X509 *x)
299 {
300     if ((x == NULL) || (x->cert_info == NULL))
301         return (NULL);
302     return (X509_PUBKEY_get(x->cert_info->key));
303 }
304
305 ASN1_BIT_STRING *X509_get0_pubkey_bitstr(const X509 *x)
306 {
307     if (!x)
308         return NULL;
309     return x->cert_info->key->public_key;
310 }
311
312 int X509_check_private_key(X509 *x, EVP_PKEY *k)
313 {
314     EVP_PKEY *xk;
315     int ret;
316
317     xk = X509_get_pubkey(x);
318
319     if (xk)
320         ret = EVP_PKEY_cmp(xk, k);
321     else
322         ret = -2;
323
324     switch (ret) {
325     case 1:
326         break;
327     case 0:
328         X509err(X509_F_X509_CHECK_PRIVATE_KEY, X509_R_KEY_VALUES_MISMATCH);
329         break;
330     case -1:
331         X509err(X509_F_X509_CHECK_PRIVATE_KEY, X509_R_KEY_TYPE_MISMATCH);
332         break;
333     case -2:
334         X509err(X509_F_X509_CHECK_PRIVATE_KEY, X509_R_UNKNOWN_KEY_TYPE);
335     }
336     if (xk)
337         EVP_PKEY_free(xk);
338     if (ret > 0)
339         return 1;
340     return 0;
341 }