Import OpenSSH-5.1p1.
[dragonfly.git] / crypto / openssh-4 / key.c
1 /* $OpenBSD: key.c,v 1.69 2007/07/12 05:48:05 ray Exp $ */
2 /*
3  * read_bignum():
4  * Copyright (c) 1995 Tatu Ylonen <ylo@cs.hut.fi>, Espoo, Finland
5  *
6  * As far as I am concerned, the code I have written for this software
7  * can be used freely for any purpose.  Any derived versions of this
8  * software must be clearly marked as such, and if the derived work is
9  * incompatible with the protocol description in the RFC file, it must be
10  * called by a name other than "ssh" or "Secure Shell".
11  *
12  *
13  * Copyright (c) 2000, 2001 Markus Friedl.  All rights reserved.
14  *
15  * Redistribution and use in source and binary forms, with or without
16  * modification, are permitted provided that the following conditions
17  * are met:
18  * 1. Redistributions of source code must retain the above copyright
19  *    notice, this list of conditions and the following disclaimer.
20  * 2. Redistributions in binary form must reproduce the above copyright
21  *    notice, this list of conditions and the following disclaimer in the
22  *    documentation and/or other materials provided with the distribution.
23  *
24  * THIS SOFTWARE IS PROVIDED BY THE AUTHOR ``AS IS'' AND ANY EXPRESS OR
25  * IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE IMPLIED WARRANTIES
26  * OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE ARE DISCLAIMED.
27  * IN NO EVENT SHALL THE AUTHOR BE LIABLE FOR ANY DIRECT, INDIRECT,
28  * INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
29  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE,
30  * DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY
31  * THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT
32  * (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF
33  * THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
34  */
35
36 #include "includes.h"
37
38 #include <sys/types.h>
39
40 #include <openssl/evp.h>
41
42 #include <stdarg.h>
43 #include <stdio.h>
44 #include <string.h>
45
46 #include "xmalloc.h"
47 #include "key.h"
48 #include "rsa.h"
49 #include "uuencode.h"
50 #include "buffer.h"
51 #include "log.h"
52
53 Key *
54 key_new(int type)
55 {
56         Key *k;
57         RSA *rsa;
58         DSA *dsa;
59         k = xcalloc(1, sizeof(*k));
60         k->type = type;
61         k->dsa = NULL;
62         k->rsa = NULL;
63         switch (k->type) {
64         case KEY_RSA1:
65         case KEY_RSA:
66                 if ((rsa = RSA_new()) == NULL)
67                         fatal("key_new: RSA_new failed");
68                 if ((rsa->n = BN_new()) == NULL)
69                         fatal("key_new: BN_new failed");
70                 if ((rsa->e = BN_new()) == NULL)
71                         fatal("key_new: BN_new failed");
72                 k->rsa = rsa;
73                 break;
74         case KEY_DSA:
75                 if ((dsa = DSA_new()) == NULL)
76                         fatal("key_new: DSA_new failed");
77                 if ((dsa->p = BN_new()) == NULL)
78                         fatal("key_new: BN_new failed");
79                 if ((dsa->q = BN_new()) == NULL)
80                         fatal("key_new: BN_new failed");
81                 if ((dsa->g = BN_new()) == NULL)
82                         fatal("key_new: BN_new failed");
83                 if ((dsa->pub_key = BN_new()) == NULL)
84                         fatal("key_new: BN_new failed");
85                 k->dsa = dsa;
86                 break;
87         case KEY_UNSPEC:
88                 break;
89         default:
90                 fatal("key_new: bad key type %d", k->type);
91                 break;
92         }
93         return k;
94 }
95
96 Key *
97 key_new_private(int type)
98 {
99         Key *k = key_new(type);
100         switch (k->type) {
101         case KEY_RSA1:
102         case KEY_RSA:
103                 if ((k->rsa->d = BN_new()) == NULL)
104                         fatal("key_new_private: BN_new failed");
105                 if ((k->rsa->iqmp = BN_new()) == NULL)
106                         fatal("key_new_private: BN_new failed");
107                 if ((k->rsa->q = BN_new()) == NULL)
108                         fatal("key_new_private: BN_new failed");
109                 if ((k->rsa->p = BN_new()) == NULL)
110                         fatal("key_new_private: BN_new failed");
111                 if ((k->rsa->dmq1 = BN_new()) == NULL)
112                         fatal("key_new_private: BN_new failed");
113                 if ((k->rsa->dmp1 = BN_new()) == NULL)
114                         fatal("key_new_private: BN_new failed");
115                 break;
116         case KEY_DSA:
117                 if ((k->dsa->priv_key = BN_new()) == NULL)
118                         fatal("key_new_private: BN_new failed");
119                 break;
120         case KEY_UNSPEC:
121                 break;
122         default:
123                 break;
124         }
125         return k;
126 }
127
128 void
129 key_free(Key *k)
130 {
131         if (k == NULL)
132                 fatal("key_free: key is NULL");
133         switch (k->type) {
134         case KEY_RSA1:
135         case KEY_RSA:
136                 if (k->rsa != NULL)
137                         RSA_free(k->rsa);
138                 k->rsa = NULL;
139                 break;
140         case KEY_DSA:
141                 if (k->dsa != NULL)
142                         DSA_free(k->dsa);
143                 k->dsa = NULL;
144                 break;
145         case KEY_UNSPEC:
146                 break;
147         default:
148                 fatal("key_free: bad key type %d", k->type);
149                 break;
150         }
151         xfree(k);
152 }
153
154 int
155 key_equal(const Key *a, const Key *b)
156 {
157         if (a == NULL || b == NULL || a->type != b->type)
158                 return 0;
159         switch (a->type) {
160         case KEY_RSA1:
161         case KEY_RSA:
162                 return a->rsa != NULL && b->rsa != NULL &&
163                     BN_cmp(a->rsa->e, b->rsa->e) == 0 &&
164                     BN_cmp(a->rsa->n, b->rsa->n) == 0;
165         case KEY_DSA:
166                 return a->dsa != NULL && b->dsa != NULL &&
167                     BN_cmp(a->dsa->p, b->dsa->p) == 0 &&
168                     BN_cmp(a->dsa->q, b->dsa->q) == 0 &&
169                     BN_cmp(a->dsa->g, b->dsa->g) == 0 &&
170                     BN_cmp(a->dsa->pub_key, b->dsa->pub_key) == 0;
171         default:
172                 fatal("key_equal: bad key type %d", a->type);
173         }
174 }
175
176 u_char*
177 key_fingerprint_raw(const Key *k, enum fp_type dgst_type,
178     u_int *dgst_raw_length)
179 {
180         const EVP_MD *md = NULL;
181         EVP_MD_CTX ctx;
182         u_char *blob = NULL;
183         u_char *retval = NULL;
184         u_int len = 0;
185         int nlen, elen;
186
187         *dgst_raw_length = 0;
188
189         switch (dgst_type) {
190         case SSH_FP_MD5:
191                 md = EVP_md5();
192                 break;
193         case SSH_FP_SHA1:
194                 md = EVP_sha1();
195                 break;
196         default:
197                 fatal("key_fingerprint_raw: bad digest type %d",
198                     dgst_type);
199         }
200         switch (k->type) {
201         case KEY_RSA1:
202                 nlen = BN_num_bytes(k->rsa->n);
203                 elen = BN_num_bytes(k->rsa->e);
204                 len = nlen + elen;
205                 blob = xmalloc(len);
206                 BN_bn2bin(k->rsa->n, blob);
207                 BN_bn2bin(k->rsa->e, blob + nlen);
208                 break;
209         case KEY_DSA:
210         case KEY_RSA:
211                 key_to_blob(k, &blob, &len);
212                 break;
213         case KEY_UNSPEC:
214                 return retval;
215         default:
216                 fatal("key_fingerprint_raw: bad key type %d", k->type);
217                 break;
218         }
219         if (blob != NULL) {
220                 retval = xmalloc(EVP_MAX_MD_SIZE);
221                 EVP_DigestInit(&ctx, md);
222                 EVP_DigestUpdate(&ctx, blob, len);
223                 EVP_DigestFinal(&ctx, retval, dgst_raw_length);
224                 memset(blob, 0, len);
225                 xfree(blob);
226         } else {
227                 fatal("key_fingerprint_raw: blob is null");
228         }
229         return retval;
230 }
231
232 static char *
233 key_fingerprint_hex(u_char *dgst_raw, u_int dgst_raw_len)
234 {
235         char *retval;
236         u_int i;
237
238         retval = xcalloc(1, dgst_raw_len * 3 + 1);
239         for (i = 0; i < dgst_raw_len; i++) {
240                 char hex[4];
241                 snprintf(hex, sizeof(hex), "%02x:", dgst_raw[i]);
242                 strlcat(retval, hex, dgst_raw_len * 3 + 1);
243         }
244
245         /* Remove the trailing ':' character */
246         retval[(dgst_raw_len * 3) - 1] = '\0';
247         return retval;
248 }
249
250 static char *
251 key_fingerprint_bubblebabble(u_char *dgst_raw, u_int dgst_raw_len)
252 {
253         char vowels[] = { 'a', 'e', 'i', 'o', 'u', 'y' };
254         char consonants[] = { 'b', 'c', 'd', 'f', 'g', 'h', 'k', 'l', 'm',
255             'n', 'p', 'r', 's', 't', 'v', 'z', 'x' };
256         u_int i, j = 0, rounds, seed = 1;
257         char *retval;
258
259         rounds = (dgst_raw_len / 2) + 1;
260         retval = xcalloc((rounds * 6), sizeof(char));
261         retval[j++] = 'x';
262         for (i = 0; i < rounds; i++) {
263                 u_int idx0, idx1, idx2, idx3, idx4;
264                 if ((i + 1 < rounds) || (dgst_raw_len % 2 != 0)) {
265                         idx0 = (((((u_int)(dgst_raw[2 * i])) >> 6) & 3) +
266                             seed) % 6;
267                         idx1 = (((u_int)(dgst_raw[2 * i])) >> 2) & 15;
268                         idx2 = ((((u_int)(dgst_raw[2 * i])) & 3) +
269                             (seed / 6)) % 6;
270                         retval[j++] = vowels[idx0];
271                         retval[j++] = consonants[idx1];
272                         retval[j++] = vowels[idx2];
273                         if ((i + 1) < rounds) {
274                                 idx3 = (((u_int)(dgst_raw[(2 * i) + 1])) >> 4) & 15;
275                                 idx4 = (((u_int)(dgst_raw[(2 * i) + 1]))) & 15;
276                                 retval[j++] = consonants[idx3];
277                                 retval[j++] = '-';
278                                 retval[j++] = consonants[idx4];
279                                 seed = ((seed * 5) +
280                                     ((((u_int)(dgst_raw[2 * i])) * 7) +
281                                     ((u_int)(dgst_raw[(2 * i) + 1])))) % 36;
282                         }
283                 } else {
284                         idx0 = seed % 6;
285                         idx1 = 16;
286                         idx2 = seed / 6;
287                         retval[j++] = vowels[idx0];
288                         retval[j++] = consonants[idx1];
289                         retval[j++] = vowels[idx2];
290                 }
291         }
292         retval[j++] = 'x';
293         retval[j++] = '\0';
294         return retval;
295 }
296
297 char *
298 key_fingerprint(const Key *k, enum fp_type dgst_type, enum fp_rep dgst_rep)
299 {
300         char *retval = NULL;
301         u_char *dgst_raw;
302         u_int dgst_raw_len;
303
304         dgst_raw = key_fingerprint_raw(k, dgst_type, &dgst_raw_len);
305         if (!dgst_raw)
306                 fatal("key_fingerprint: null from key_fingerprint_raw()");
307         switch (dgst_rep) {
308         case SSH_FP_HEX:
309                 retval = key_fingerprint_hex(dgst_raw, dgst_raw_len);
310                 break;
311         case SSH_FP_BUBBLEBABBLE:
312                 retval = key_fingerprint_bubblebabble(dgst_raw, dgst_raw_len);
313                 break;
314         default:
315                 fatal("key_fingerprint_ex: bad digest representation %d",
316                     dgst_rep);
317                 break;
318         }
319         memset(dgst_raw, 0, dgst_raw_len);
320         xfree(dgst_raw);
321         return retval;
322 }
323
324 /*
325  * Reads a multiple-precision integer in decimal from the buffer, and advances
326  * the pointer.  The integer must already be initialized.  This function is
327  * permitted to modify the buffer.  This leaves *cpp to point just beyond the
328  * last processed (and maybe modified) character.  Note that this may modify
329  * the buffer containing the number.
330  */
331 static int
332 read_bignum(char **cpp, BIGNUM * value)
333 {
334         char *cp = *cpp;
335         int old;
336
337         /* Skip any leading whitespace. */
338         for (; *cp == ' ' || *cp == '\t'; cp++)
339                 ;
340
341         /* Check that it begins with a decimal digit. */
342         if (*cp < '0' || *cp > '9')
343                 return 0;
344
345         /* Save starting position. */
346         *cpp = cp;
347
348         /* Move forward until all decimal digits skipped. */
349         for (; *cp >= '0' && *cp <= '9'; cp++)
350                 ;
351
352         /* Save the old terminating character, and replace it by \0. */
353         old = *cp;
354         *cp = 0;
355
356         /* Parse the number. */
357         if (BN_dec2bn(&value, *cpp) == 0)
358                 return 0;
359
360         /* Restore old terminating character. */
361         *cp = old;
362
363         /* Move beyond the number and return success. */
364         *cpp = cp;
365         return 1;
366 }
367
368 static int
369 write_bignum(FILE *f, BIGNUM *num)
370 {
371         char *buf = BN_bn2dec(num);
372         if (buf == NULL) {
373                 error("write_bignum: BN_bn2dec() failed");
374                 return 0;
375         }
376         fprintf(f, " %s", buf);
377         OPENSSL_free(buf);
378         return 1;
379 }
380
381 /* returns 1 ok, -1 error */
382 int
383 key_read(Key *ret, char **cpp)
384 {
385         Key *k;
386         int success = -1;
387         char *cp, *space;
388         int len, n, type;
389         u_int bits;
390         u_char *blob;
391
392         cp = *cpp;
393
394         switch (ret->type) {
395         case KEY_RSA1:
396                 /* Get number of bits. */
397                 if (*cp < '0' || *cp > '9')
398                         return -1;      /* Bad bit count... */
399                 for (bits = 0; *cp >= '0' && *cp <= '9'; cp++)
400                         bits = 10 * bits + *cp - '0';
401                 if (bits == 0)
402                         return -1;
403                 *cpp = cp;
404                 /* Get public exponent, public modulus. */
405                 if (!read_bignum(cpp, ret->rsa->e))
406                         return -1;
407                 if (!read_bignum(cpp, ret->rsa->n))
408                         return -1;
409                 success = 1;
410                 break;
411         case KEY_UNSPEC:
412         case KEY_RSA:
413         case KEY_DSA:
414                 space = strchr(cp, ' ');
415                 if (space == NULL) {
416                         debug3("key_read: missing whitespace");
417                         return -1;
418                 }
419                 *space = '\0';
420                 type = key_type_from_name(cp);
421                 *space = ' ';
422                 if (type == KEY_UNSPEC) {
423                         debug3("key_read: missing keytype");
424                         return -1;
425                 }
426                 cp = space+1;
427                 if (*cp == '\0') {
428                         debug3("key_read: short string");
429                         return -1;
430                 }
431                 if (ret->type == KEY_UNSPEC) {
432                         ret->type = type;
433                 } else if (ret->type != type) {
434                         /* is a key, but different type */
435                         debug3("key_read: type mismatch");
436                         return -1;
437                 }
438                 len = 2*strlen(cp);
439                 blob = xmalloc(len);
440                 n = uudecode(cp, blob, len);
441                 if (n < 0) {
442                         error("key_read: uudecode %s failed", cp);
443                         xfree(blob);
444                         return -1;
445                 }
446                 k = key_from_blob(blob, (u_int)n);
447                 xfree(blob);
448                 if (k == NULL) {
449                         error("key_read: key_from_blob %s failed", cp);
450                         return -1;
451                 }
452                 if (k->type != type) {
453                         error("key_read: type mismatch: encoding error");
454                         key_free(k);
455                         return -1;
456                 }
457 /*XXXX*/
458                 if (ret->type == KEY_RSA) {
459                         if (ret->rsa != NULL)
460                                 RSA_free(ret->rsa);
461                         ret->rsa = k->rsa;
462                         k->rsa = NULL;
463                         success = 1;
464 #ifdef DEBUG_PK
465                         RSA_print_fp(stderr, ret->rsa, 8);
466 #endif
467                 } else {
468                         if (ret->dsa != NULL)
469                                 DSA_free(ret->dsa);
470                         ret->dsa = k->dsa;
471                         k->dsa = NULL;
472                         success = 1;
473 #ifdef DEBUG_PK
474                         DSA_print_fp(stderr, ret->dsa, 8);
475 #endif
476                 }
477 /*XXXX*/
478                 key_free(k);
479                 if (success != 1)
480                         break;
481                 /* advance cp: skip whitespace and data */
482                 while (*cp == ' ' || *cp == '\t')
483                         cp++;
484                 while (*cp != '\0' && *cp != ' ' && *cp != '\t')
485                         cp++;
486                 *cpp = cp;
487                 break;
488         default:
489                 fatal("key_read: bad key type: %d", ret->type);
490                 break;
491         }
492         return success;
493 }
494
495 int
496 key_write(const Key *key, FILE *f)
497 {
498         int n, success = 0;
499         u_int len, bits = 0;
500         u_char *blob;
501         char *uu;
502
503         if (key->type == KEY_RSA1 && key->rsa != NULL) {
504                 /* size of modulus 'n' */
505                 bits = BN_num_bits(key->rsa->n);
506                 fprintf(f, "%u", bits);
507                 if (write_bignum(f, key->rsa->e) &&
508                     write_bignum(f, key->rsa->n)) {
509                         success = 1;
510                 } else {
511                         error("key_write: failed for RSA key");
512                 }
513         } else if ((key->type == KEY_DSA && key->dsa != NULL) ||
514             (key->type == KEY_RSA && key->rsa != NULL)) {
515                 key_to_blob(key, &blob, &len);
516                 uu = xmalloc(2*len);
517                 n = uuencode(blob, len, uu, 2*len);
518                 if (n > 0) {
519                         fprintf(f, "%s %s", key_ssh_name(key), uu);
520                         success = 1;
521                 }
522                 xfree(blob);
523                 xfree(uu);
524         }
525         return success;
526 }
527
528 const char *
529 key_type(const Key *k)
530 {
531         switch (k->type) {
532         case KEY_RSA1:
533                 return "RSA1";
534         case KEY_RSA:
535                 return "RSA";
536         case KEY_DSA:
537                 return "DSA";
538         }
539         return "unknown";
540 }
541
542 const char *
543 key_ssh_name(const Key *k)
544 {
545         switch (k->type) {
546         case KEY_RSA:
547                 return "ssh-rsa";
548         case KEY_DSA:
549                 return "ssh-dss";
550         }
551         return "ssh-unknown";
552 }
553
554 u_int
555 key_size(const Key *k)
556 {
557         switch (k->type) {
558         case KEY_RSA1:
559         case KEY_RSA:
560                 return BN_num_bits(k->rsa->n);
561         case KEY_DSA:
562                 return BN_num_bits(k->dsa->p);
563         }
564         return 0;
565 }
566
567 static RSA *
568 rsa_generate_private_key(u_int bits)
569 {
570         RSA *private;
571
572         private = RSA_generate_key(bits, 35, NULL, NULL);
573         if (private == NULL)
574                 fatal("rsa_generate_private_key: key generation failed.");
575         return private;
576 }
577
578 static DSA*
579 dsa_generate_private_key(u_int bits)
580 {
581         DSA *private = DSA_generate_parameters(bits, NULL, 0, NULL, NULL, NULL, NULL);
582
583         if (private == NULL)
584                 fatal("dsa_generate_private_key: DSA_generate_parameters failed");
585         if (!DSA_generate_key(private))
586                 fatal("dsa_generate_private_key: DSA_generate_key failed.");
587         if (private == NULL)
588                 fatal("dsa_generate_private_key: NULL.");
589         return private;
590 }
591
592 Key *
593 key_generate(int type, u_int bits)
594 {
595         Key *k = key_new(KEY_UNSPEC);
596         switch (type) {
597         case KEY_DSA:
598                 k->dsa = dsa_generate_private_key(bits);
599                 break;
600         case KEY_RSA:
601         case KEY_RSA1:
602                 k->rsa = rsa_generate_private_key(bits);
603                 break;
604         default:
605                 fatal("key_generate: unknown type %d", type);
606         }
607         k->type = type;
608         return k;
609 }
610
611 Key *
612 key_from_private(const Key *k)
613 {
614         Key *n = NULL;
615         switch (k->type) {
616         case KEY_DSA:
617                 n = key_new(k->type);
618                 if ((BN_copy(n->dsa->p, k->dsa->p) == NULL) ||
619                     (BN_copy(n->dsa->q, k->dsa->q) == NULL) ||
620                     (BN_copy(n->dsa->g, k->dsa->g) == NULL) ||
621                     (BN_copy(n->dsa->pub_key, k->dsa->pub_key) == NULL))
622                         fatal("key_from_private: BN_copy failed");
623                 break;
624         case KEY_RSA:
625         case KEY_RSA1:
626                 n = key_new(k->type);
627                 if ((BN_copy(n->rsa->n, k->rsa->n) == NULL) ||
628                     (BN_copy(n->rsa->e, k->rsa->e) == NULL))
629                         fatal("key_from_private: BN_copy failed");
630                 break;
631         default:
632                 fatal("key_from_private: unknown type %d", k->type);
633                 break;
634         }
635         return n;
636 }
637
638 int
639 key_type_from_name(char *name)
640 {
641         if (strcmp(name, "rsa1") == 0) {
642                 return KEY_RSA1;
643         } else if (strcmp(name, "rsa") == 0) {
644                 return KEY_RSA;
645         } else if (strcmp(name, "dsa") == 0) {
646                 return KEY_DSA;
647         } else if (strcmp(name, "ssh-rsa") == 0) {
648                 return KEY_RSA;
649         } else if (strcmp(name, "ssh-dss") == 0) {
650                 return KEY_DSA;
651         }
652         debug2("key_type_from_name: unknown key type '%s'", name);
653         return KEY_UNSPEC;
654 }
655
656 int
657 key_names_valid2(const char *names)
658 {
659         char *s, *cp, *p;
660
661         if (names == NULL || strcmp(names, "") == 0)
662                 return 0;
663         s = cp = xstrdup(names);
664         for ((p = strsep(&cp, ",")); p && *p != '\0';
665             (p = strsep(&cp, ","))) {
666                 switch (key_type_from_name(p)) {
667                 case KEY_RSA1:
668                 case KEY_UNSPEC:
669                         xfree(s);
670                         return 0;
671                 }
672         }
673         debug3("key names ok: [%s]", names);
674         xfree(s);
675         return 1;
676 }
677
678 Key *
679 key_from_blob(const u_char *blob, u_int blen)
680 {
681         Buffer b;
682         int rlen, type;
683         char *ktype = NULL;
684         Key *key = NULL;
685
686 #ifdef DEBUG_PK
687         dump_base64(stderr, blob, blen);
688 #endif
689         buffer_init(&b);
690         buffer_append(&b, blob, blen);
691         if ((ktype = buffer_get_string_ret(&b, NULL)) == NULL) {
692                 error("key_from_blob: can't read key type");
693                 goto out;
694         }
695
696         type = key_type_from_name(ktype);
697
698         switch (type) {
699         case KEY_RSA:
700                 key = key_new(type);
701                 if (buffer_get_bignum2_ret(&b, key->rsa->e) == -1 ||
702                     buffer_get_bignum2_ret(&b, key->rsa->n) == -1) {
703                         error("key_from_blob: can't read rsa key");
704                         key_free(key);
705                         key = NULL;
706                         goto out;
707                 }
708 #ifdef DEBUG_PK
709                 RSA_print_fp(stderr, key->rsa, 8);
710 #endif
711                 break;
712         case KEY_DSA:
713                 key = key_new(type);
714                 if (buffer_get_bignum2_ret(&b, key->dsa->p) == -1 ||
715                     buffer_get_bignum2_ret(&b, key->dsa->q) == -1 ||
716                     buffer_get_bignum2_ret(&b, key->dsa->g) == -1 ||
717                     buffer_get_bignum2_ret(&b, key->dsa->pub_key) == -1) {
718                         error("key_from_blob: can't read dsa key");
719                         key_free(key);
720                         key = NULL;
721                         goto out;
722                 }
723 #ifdef DEBUG_PK
724                 DSA_print_fp(stderr, key->dsa, 8);
725 #endif
726                 break;
727         case KEY_UNSPEC:
728                 key = key_new(type);
729                 break;
730         default:
731                 error("key_from_blob: cannot handle type %s", ktype);
732                 goto out;
733         }
734         rlen = buffer_len(&b);
735         if (key != NULL && rlen != 0)
736                 error("key_from_blob: remaining bytes in key blob %d", rlen);
737  out:
738         if (ktype != NULL)
739                 xfree(ktype);
740         buffer_free(&b);
741         return key;
742 }
743
744 int
745 key_to_blob(const Key *key, u_char **blobp, u_int *lenp)
746 {
747         Buffer b;
748         int len;
749
750         if (key == NULL) {
751                 error("key_to_blob: key == NULL");
752                 return 0;
753         }
754         buffer_init(&b);
755         switch (key->type) {
756         case KEY_DSA:
757                 buffer_put_cstring(&b, key_ssh_name(key));
758                 buffer_put_bignum2(&b, key->dsa->p);
759                 buffer_put_bignum2(&b, key->dsa->q);
760                 buffer_put_bignum2(&b, key->dsa->g);
761                 buffer_put_bignum2(&b, key->dsa->pub_key);
762                 break;
763         case KEY_RSA:
764                 buffer_put_cstring(&b, key_ssh_name(key));
765                 buffer_put_bignum2(&b, key->rsa->e);
766                 buffer_put_bignum2(&b, key->rsa->n);
767                 break;
768         default:
769                 error("key_to_blob: unsupported key type %d", key->type);
770                 buffer_free(&b);
771                 return 0;
772         }
773         len = buffer_len(&b);
774         if (lenp != NULL)
775                 *lenp = len;
776         if (blobp != NULL) {
777                 *blobp = xmalloc(len);
778                 memcpy(*blobp, buffer_ptr(&b), len);
779         }
780         memset(buffer_ptr(&b), 0, len);
781         buffer_free(&b);
782         return len;
783 }
784
785 int
786 key_sign(
787     const Key *key,
788     u_char **sigp, u_int *lenp,
789     const u_char *data, u_int datalen)
790 {
791         switch (key->type) {
792         case KEY_DSA:
793                 return ssh_dss_sign(key, sigp, lenp, data, datalen);
794         case KEY_RSA:
795                 return ssh_rsa_sign(key, sigp, lenp, data, datalen);
796         default:
797                 error("key_sign: invalid key type %d", key->type);
798                 return -1;
799         }
800 }
801
802 /*
803  * key_verify returns 1 for a correct signature, 0 for an incorrect signature
804  * and -1 on error.
805  */
806 int
807 key_verify(
808     const Key *key,
809     const u_char *signature, u_int signaturelen,
810     const u_char *data, u_int datalen)
811 {
812         if (signaturelen == 0)
813                 return -1;
814
815         switch (key->type) {
816         case KEY_DSA:
817                 return ssh_dss_verify(key, signature, signaturelen, data, datalen);
818         case KEY_RSA:
819                 return ssh_rsa_verify(key, signature, signaturelen, data, datalen);
820         default:
821                 error("key_verify: invalid key type %d", key->type);
822                 return -1;
823         }
824 }
825
826 /* Converts a private to a public key */
827 Key *
828 key_demote(const Key *k)
829 {
830         Key *pk;
831
832         pk = xcalloc(1, sizeof(*pk));
833         pk->type = k->type;
834         pk->flags = k->flags;
835         pk->dsa = NULL;
836         pk->rsa = NULL;
837
838         switch (k->type) {
839         case KEY_RSA1:
840         case KEY_RSA:
841                 if ((pk->rsa = RSA_new()) == NULL)
842                         fatal("key_demote: RSA_new failed");
843                 if ((pk->rsa->e = BN_dup(k->rsa->e)) == NULL)
844                         fatal("key_demote: BN_dup failed");
845                 if ((pk->rsa->n = BN_dup(k->rsa->n)) == NULL)
846                         fatal("key_demote: BN_dup failed");
847                 break;
848         case KEY_DSA:
849                 if ((pk->dsa = DSA_new()) == NULL)
850                         fatal("key_demote: DSA_new failed");
851                 if ((pk->dsa->p = BN_dup(k->dsa->p)) == NULL)
852                         fatal("key_demote: BN_dup failed");
853                 if ((pk->dsa->q = BN_dup(k->dsa->q)) == NULL)
854                         fatal("key_demote: BN_dup failed");
855                 if ((pk->dsa->g = BN_dup(k->dsa->g)) == NULL)
856                         fatal("key_demote: BN_dup failed");
857                 if ((pk->dsa->pub_key = BN_dup(k->dsa->pub_key)) == NULL)
858                         fatal("key_demote: BN_dup failed");
859                 break;
860         default:
861                 fatal("key_free: bad key type %d", k->type);
862                 break;
863         }
864
865         return (pk);
866 }