crypto/heimdal-0.6.3/lib/gssapi/8003.c

   1 /*
   2  * Copyright (c) 1997 - 2003 Kungliga Tekniska Högskolan
   3  * (Royal Institute of Technology, Stockholm, Sweden).
   4  * All rights reserved.
   5  *
   6  * Redistribution and use in source and binary forms, with or without
   7  * modification, are permitted provided that the following conditions
   8  * are met:
   9  *
  10  * 1. Redistributions of source code must retain the above copyright
  11  *    notice, this list of conditions and the following disclaimer.
  12  *
  13  * 2. Redistributions in binary form must reproduce the above copyright
  14  *    notice, this list of conditions and the following disclaimer in the
  15  *    documentation and/or other materials provided with the distribution.
  16  *
  17  * 3. Neither the name of the Institute nor the names of its contributors
  18  *    may be used to endorse or promote products derived from this software
  19  *    without specific prior written permission.
  20  *
  21  * THIS SOFTWARE IS PROVIDED BY THE INSTITUTE AND CONTRIBUTORS ``AS IS'' AND
  22  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  23  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
  24  * ARE DISCLAIMED.  IN NO EVENT SHALL THE INSTITUTE OR CONTRIBUTORS BE LIABLE
  25  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
  26  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
  27  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
  28  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
  29  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
  30  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
  31  * SUCH DAMAGE.
  32  */
  33
  34 #include "gssapi_locl.h"
  35
  36 RCSID("$Id: 8003.c,v 1.12.2.2 2003/09/18 21:30:57 lha Exp $");
  37
  38 krb5_error_code
  39 gssapi_encode_om_uint32(OM_uint32 n, u_char *p)
  40 {
  41   p[0] = (n >> 0)  & 0xFF;
  42   p[1] = (n >> 8)  & 0xFF;
  43   p[2] = (n >> 16) & 0xFF;
  44   p[3] = (n >> 24) & 0xFF;
  45   return 0;
  46 }
  47
  48 krb5_error_code
  49 gssapi_encode_be_om_uint32(OM_uint32 n, u_char *p)
  50 {
  51   p[0] = (n >> 24) & 0xFF;
  52   p[1] = (n >> 16) & 0xFF;
  53   p[2] = (n >> 8)  & 0xFF;
  54   p[3] = (n >> 0)  & 0xFF;
  55   return 0;
  56 }
  57
  58 krb5_error_code
  59 gssapi_decode_om_uint32(u_char *p, OM_uint32 *n)
  60 {
  61     *n = (p[0] << 0) | (p[1] << 8) | (p[2] << 16) | (p[3] << 24);
  62     return 0;
  63 }
  64
  65 krb5_error_code
  66 gssapi_decode_be_om_uint32(u_char *p, OM_uint32 *n)
  67 {
  68     *n = (p[0] <<24) | (p[1] << 16) | (p[2] << 8) | (p[3] << 0);
  69     return 0;
  70 }
  71
  72 static krb5_error_code
  73 hash_input_chan_bindings (const gss_channel_bindings_t b,
  74                           u_char *p)
  75 {
  76   u_char num[4];
  77   MD5_CTX md5;
  78
  79   MD5_Init(&md5);
  80   gssapi_encode_om_uint32 (b->initiator_addrtype, num);
  81   MD5_Update (&md5, num, sizeof(num));
  82   gssapi_encode_om_uint32 (b->initiator_address.length, num);
  83   MD5_Update (&md5, num, sizeof(num));
  84   if (b->initiator_address.length)
  85     MD5_Update (&md5,
  86                 b->initiator_address.value,
  87                 b->initiator_address.length);
  88   gssapi_encode_om_uint32 (b->acceptor_addrtype, num);
  89   MD5_Update (&md5, num, sizeof(num));
  90   gssapi_encode_om_uint32 (b->acceptor_address.length, num);
  91   MD5_Update (&md5, num, sizeof(num));
  92   if (b->acceptor_address.length)
  93     MD5_Update (&md5,
  94                 b->acceptor_address.value,
  95                 b->acceptor_address.length);
  96   gssapi_encode_om_uint32 (b->application_data.length, num);
  97   MD5_Update (&md5, num, sizeof(num));
  98   if (b->application_data.length)
  99     MD5_Update (&md5,
 100                 b->application_data.value,
 101                 b->application_data.length);
 102   MD5_Final (p, &md5);
 103   return 0;
 104 }
 105
 106 /*
 107  * create a checksum over the chanel bindings in
 108  * `input_chan_bindings', `flags' and `fwd_data' and return it in
 109  * `result'
 110  */
 111
 112 OM_uint32
 113 gssapi_krb5_create_8003_checksum (
 114                       OM_uint32 *minor_status,
 115                       const gss_channel_bindings_t input_chan_bindings,
 116                       OM_uint32 flags,
 117                       const krb5_data *fwd_data,
 118                       Checksum *result)
 119 {
 120     u_char *p;
 121
 122     /*
 123      * see rfc1964 (section 1.1.1 (Initial Token), and the checksum value
 124      * field's format) */
 125     result->cksumtype = 0x8003;
 126     if (fwd_data->length > 0 && (flags & GSS_C_DELEG_FLAG))
 127         result->checksum.length = 24 + 4 + fwd_data->length;
 128     else
 129         result->checksum.length = 24;
 130     result->checksum.data   = malloc (result->checksum.length);
 131     if (result->checksum.data == NULL) {
 132         *minor_status = ENOMEM;
 133         return GSS_S_FAILURE;
 134     }
 135
 136     p = result->checksum.data;
 137     gssapi_encode_om_uint32 (16, p);
 138     p += 4;
 139     if (input_chan_bindings == GSS_C_NO_CHANNEL_BINDINGS) {
 140         memset (p, 0, 16);
 141     } else {
 142         hash_input_chan_bindings (input_chan_bindings, p);
 143     }
 144     p += 16;
 145     gssapi_encode_om_uint32 (flags, p);
 146     p += 4;
 147
 148     if (fwd_data->length > 0 && (flags & GSS_C_DELEG_FLAG)) {
 149 #if 0
 150         u_char *tmp;
 151
 152         result->checksum.length = 28 + fwd_data->length;
 153         tmp = realloc(result->checksum.data, result->checksum.length);
 154         if (tmp == NULL)
 155             return ENOMEM;
 156         result->checksum.data = tmp;
 157
 158         p = (u_char*)result->checksum.data + 24;
 159 #endif
 160         *p++ = (1 >> 0) & 0xFF;                   /* DlgOpt */ /* == 1 */
 161         *p++ = (1 >> 8) & 0xFF;                   /* DlgOpt */ /* == 0 */
 162         *p++ = (fwd_data->length >> 0) & 0xFF;    /* Dlgth  */
 163         *p++ = (fwd_data->length >> 8) & 0xFF;    /* Dlgth  */
 164         memcpy(p, (unsigned char *) fwd_data->data, fwd_data->length);
 165
 166         p += fwd_data->length;
 167     }
 168
 169     return GSS_S_COMPLETE;
 170 }
 171
 172 /*
 173  * verify the checksum in `cksum' over `input_chan_bindings'
 174  * returning  `flags' and `fwd_data'
 175  */
 176
 177 OM_uint32
 178 gssapi_krb5_verify_8003_checksum(
 179                       OM_uint32 *minor_status,
 180                       const gss_channel_bindings_t input_chan_bindings,
 181                       const Checksum *cksum,
 182                       OM_uint32 *flags,
 183                       krb5_data *fwd_data)
 184 {
 185     unsigned char hash[16];
 186     unsigned char *p;
 187     OM_uint32 length;
 188     int DlgOpt;
 189     static unsigned char zeros[16];
 190
 191     /* XXX should handle checksums > 24 bytes */
 192     if(cksum->cksumtype != 0x8003 || cksum->checksum.length < 24) {
 193         *minor_status = 0;
 194         return GSS_S_BAD_BINDINGS;
 195     }
 196
 197     p = cksum->checksum.data;
 198     gssapi_decode_om_uint32(p, &length);
 199     if(length != sizeof(hash)) {
 200         *minor_status = 0;
 201         return GSS_S_BAD_BINDINGS;
 202     }
 203
 204     p += 4;
 205
 206     if (input_chan_bindings != GSS_C_NO_CHANNEL_BINDINGS
 207         && memcmp(p, zeros, sizeof(zeros)) != 0) {
 208         if(hash_input_chan_bindings(input_chan_bindings, hash) != 0) {
 209             *minor_status = 0;
 210             return GSS_S_BAD_BINDINGS;
 211         }
 212         if(memcmp(hash, p, sizeof(hash)) != 0) {
 213             *minor_status = 0;
 214             return GSS_S_BAD_BINDINGS;
 215         }
 216     }
 217
 218     p += sizeof(hash);
 219
 220     gssapi_decode_om_uint32(p, flags);
 221     p += 4;
 222
 223     if (cksum->checksum.length > 24 && (*flags & GSS_C_DELEG_FLAG)) {
 224         if(cksum->checksum.length < 28) {
 225             *minor_status = 0;
 226             return GSS_S_BAD_BINDINGS;
 227         }
 228
 229         DlgOpt = (p[0] << 0) | (p[1] << 8);
 230         p += 2;
 231         if (DlgOpt != 1) {
 232             *minor_status = 0;
 233             return GSS_S_BAD_BINDINGS;
 234         }
 235
 236         fwd_data->length = (p[0] << 0) | (p[1] << 8);
 237         p += 2;
 238         if(cksum->checksum.length < 28 + fwd_data->length) {
 239             *minor_status = 0;
 240             return GSS_S_BAD_BINDINGS;
 241         }
 242         fwd_data->data = malloc(fwd_data->length);
 243         if (fwd_data->data == NULL) {
 244             *minor_status = ENOMEM;
 245             return GSS_S_FAILURE;
 246         }
 247         memcpy(fwd_data->data, p, fwd_data->length);
 248     }
 249
 250     return GSS_S_COMPLETE;
 251 }