crypto/libressl/crypto/evp/e_rc2.c

   1 /* $OpenBSD: e_rc2.c,v 1.12 2017/01/29 17:49:23 beck Exp $ */
   2 /* Copyright (C) 1995-1998 Eric Young (eay@cryptsoft.com)
   3  * All rights reserved.
   4  *
   5  * This package is an SSL implementation written
   6  * by Eric Young (eay@cryptsoft.com).
   7  * The implementation was written so as to conform with Netscapes SSL.
   8  *
   9  * This library is free for commercial and non-commercial use as long as
  10  * the following conditions are aheared to.  The following conditions
  11  * apply to all code found in this distribution, be it the RC4, RSA,
  12  * lhash, DES, etc., code; not just the SSL code.  The SSL documentation
  13  * included with this distribution is covered by the same copyright terms
  14  * except that the holder is Tim Hudson (tjh@cryptsoft.com).
  15  *
  16  * Copyright remains Eric Young's, and as such any Copyright notices in
  17  * the code are not to be removed.
  18  * If this package is used in a product, Eric Young should be given attribution
  19  * as the author of the parts of the library used.
  20  * This can be in the form of a textual message at program startup or
  21  * in documentation (online or textual) provided with the package.
  22  *
  23  * Redistribution and use in source and binary forms, with or without
  24  * modification, are permitted provided that the following conditions
  25  * are met:
  26  * 1. Redistributions of source code must retain the copyright
  27  *    notice, this list of conditions and the following disclaimer.
  28  * 2. Redistributions in binary form must reproduce the above copyright
  29  *    notice, this list of conditions and the following disclaimer in the
  30  *    documentation and/or other materials provided with the distribution.
  31  * 3. All advertising materials mentioning features or use of this software
  32  *    must display the following acknowledgement:
  33  *    "This product includes cryptographic software written by
  34  *     Eric Young (eay@cryptsoft.com)"
  35  *    The word 'cryptographic' can be left out if the rouines from the library
  36  *    being used are not cryptographic related :-).
  37  * 4. If you include any Windows specific code (or a derivative thereof) from
  38  *    the apps directory (application code) you must include an acknowledgement:
  39  *    "This product includes software written by Tim Hudson (tjh@cryptsoft.com)"
  40  *
  41  * THIS SOFTWARE IS PROVIDED BY ERIC YOUNG ``AS IS'' AND
  42  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  43  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
  44  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
  45  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
  46  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
  47  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
  48  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
  49  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
  50  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
  51  * SUCH DAMAGE.
  52  *
  53  * The licence and distribution terms for any publically available version or
  54  * derivative of this code cannot be changed.  i.e. this code cannot simply be
  55  * copied and put under another distribution licence
  56  * [including the GNU Public Licence.]
  57  */
  58
  59 #include <stdio.h>
  60
  61 #include <openssl/opensslconf.h>
  62
  63 #ifndef OPENSSL_NO_RC2
  64
  65 #include <openssl/err.h>
  66 #include <openssl/evp.h>
  67 #include <openssl/objects.h>
  68 #include <openssl/rc2.h>
  69
  70 #include "evp_locl.h"
  71
  72 static int rc2_init_key(EVP_CIPHER_CTX *ctx, const unsigned char *key,
  73     const unsigned char *iv, int enc);
  74 static int rc2_meth_to_magic(EVP_CIPHER_CTX *ctx);
  75 static int rc2_magic_to_meth(int i);
  76 static int rc2_set_asn1_type_and_iv(EVP_CIPHER_CTX *c, ASN1_TYPE *type);
  77 static int rc2_get_asn1_type_and_iv(EVP_CIPHER_CTX *c, ASN1_TYPE *type);
  78 static int rc2_ctrl(EVP_CIPHER_CTX *c, int type, int arg, void *ptr);
  79
  80 typedef struct {
  81         int key_bits;   /* effective key bits */
  82         RC2_KEY ks;     /* key schedule */
  83 } EVP_RC2_KEY;
  84
  85 #define data(ctx)       ((EVP_RC2_KEY *)(ctx)->cipher_data)
  86
  87 IMPLEMENT_BLOCK_CIPHER(rc2, ks, RC2, EVP_RC2_KEY, NID_rc2,
  88     8,
  89     RC2_KEY_LENGTH, 8, 64,
  90     EVP_CIPH_VARIABLE_LENGTH | EVP_CIPH_CTRL_INIT,
  91     rc2_init_key, NULL,
  92     rc2_set_asn1_type_and_iv, rc2_get_asn1_type_and_iv,
  93     rc2_ctrl)
  94
  95 #define RC2_40_MAGIC    0xa0
  96 #define RC2_64_MAGIC    0x78
  97 #define RC2_128_MAGIC   0x3a
  98
  99 static const EVP_CIPHER r2_64_cbc_cipher = {
 100         NID_rc2_64_cbc,
 101         8, 8 /* 64 bit */, 8,
 102         EVP_CIPH_CBC_MODE | EVP_CIPH_VARIABLE_LENGTH | EVP_CIPH_CTRL_INIT,
 103         rc2_init_key,
 104         rc2_cbc_cipher,
 105         NULL,
 106         sizeof(EVP_RC2_KEY),
 107         rc2_set_asn1_type_and_iv,
 108         rc2_get_asn1_type_and_iv,
 109         rc2_ctrl,
 110         NULL
 111 };
 112
 113 static const EVP_CIPHER r2_40_cbc_cipher = {
 114         NID_rc2_40_cbc,
 115         8, 5 /* 40 bit */, 8,
 116         EVP_CIPH_CBC_MODE | EVP_CIPH_VARIABLE_LENGTH | EVP_CIPH_CTRL_INIT,
 117         rc2_init_key,
 118         rc2_cbc_cipher,
 119         NULL,
 120         sizeof(EVP_RC2_KEY),
 121         rc2_set_asn1_type_and_iv,
 122         rc2_get_asn1_type_and_iv,
 123         rc2_ctrl,
 124         NULL
 125 };
 126
 127 const EVP_CIPHER *
 128 EVP_rc2_64_cbc(void)
 129 {
 130         return (&r2_64_cbc_cipher);
 131 }
 132
 133 const EVP_CIPHER *
 134 EVP_rc2_40_cbc(void)
 135 {
 136         return (&r2_40_cbc_cipher);
 137 }
 138
 139 static int
 140 rc2_init_key(EVP_CIPHER_CTX *ctx, const unsigned char *key,
 141     const unsigned char *iv, int enc)
 142 {
 143         RC2_set_key(&data(ctx)->ks, EVP_CIPHER_CTX_key_length(ctx),
 144             key, data(ctx)->key_bits);
 145         return 1;
 146 }
 147
 148 static int
 149 rc2_meth_to_magic(EVP_CIPHER_CTX *e)
 150 {
 151         int i;
 152
 153         EVP_CIPHER_CTX_ctrl(e, EVP_CTRL_GET_RC2_KEY_BITS, 0, &i);
 154         if (i == 128)
 155                 return (RC2_128_MAGIC);
 156         else if (i == 64)
 157                 return (RC2_64_MAGIC);
 158         else if (i == 40)
 159                 return (RC2_40_MAGIC);
 160         else
 161                 return (0);
 162 }
 163
 164 static int
 165 rc2_magic_to_meth(int i)
 166 {
 167         if (i == RC2_128_MAGIC)
 168                 return 128;
 169         else if (i == RC2_64_MAGIC)
 170                 return 64;
 171         else if (i == RC2_40_MAGIC)
 172                 return 40;
 173         else {
 174                 EVPerror(EVP_R_UNSUPPORTED_KEY_SIZE);
 175                 return (0);
 176         }
 177 }
 178
 179 static int
 180 rc2_get_asn1_type_and_iv(EVP_CIPHER_CTX *c, ASN1_TYPE *type)
 181 {
 182         long num = 0;
 183         int i = 0;
 184         int key_bits;
 185         unsigned int l;
 186         unsigned char iv[EVP_MAX_IV_LENGTH];
 187
 188         if (type != NULL) {
 189                 l = EVP_CIPHER_CTX_iv_length(c);
 190                 if (l > sizeof(iv)) {
 191                         EVPerror(EVP_R_IV_TOO_LARGE);
 192                         return -1;
 193                 }
 194                 i = ASN1_TYPE_get_int_octetstring(type, &num, iv, l);
 195                 if (i != (int)l)
 196                         return (-1);
 197                 key_bits = rc2_magic_to_meth((int)num);
 198                 if (!key_bits)
 199                         return (-1);
 200                 if (i > 0 && !EVP_CipherInit_ex(c, NULL, NULL, NULL, iv, -1))
 201                         return -1;
 202                 EVP_CIPHER_CTX_ctrl(c, EVP_CTRL_SET_RC2_KEY_BITS,
 203                     key_bits, NULL);
 204                 EVP_CIPHER_CTX_set_key_length(c, key_bits / 8);
 205         }
 206         return (i);
 207 }
 208
 209 static int
 210 rc2_set_asn1_type_and_iv(EVP_CIPHER_CTX *c, ASN1_TYPE *type)
 211 {
 212         long num;
 213         int i = 0, j;
 214
 215         if (type != NULL) {
 216                 num = rc2_meth_to_magic(c);
 217                 j = EVP_CIPHER_CTX_iv_length(c);
 218                 i = ASN1_TYPE_set_int_octetstring(type, num, c->oiv, j);
 219         }
 220         return (i);
 221 }
 222
 223 static int
 224 rc2_ctrl(EVP_CIPHER_CTX *c, int type, int arg, void *ptr)
 225 {
 226         switch (type) {
 227         case EVP_CTRL_INIT:
 228                 data(c)->key_bits = EVP_CIPHER_CTX_key_length(c) * 8;
 229                 return 1;
 230
 231         case EVP_CTRL_GET_RC2_KEY_BITS:
 232                 *(int *)ptr = data(c)->key_bits;
 233                 return 1;
 234
 235         case EVP_CTRL_SET_RC2_KEY_BITS:
 236                 if (arg > 0) {
 237                         data(c)->key_bits = arg;
 238                         return 1;
 239                 }
 240                 return 0;
 241
 242 #ifdef PBE_PRF_TEST
 243         case EVP_CTRL_PBE_PRF_NID:
 244                 *(int *)ptr = NID_hmacWithMD5;
 245                 return 1;
 246 #endif
 247
 248         default:
 249                 return -1;
 250         }
 251 }
 252
 253 #endif