sys/netproto/802_11/wlan_ccmp/ieee80211_crypto_ccmp.c

   1 /*
   2  * Copyright (c) 2002-2005 Sam Leffler, Errno Consulting
   3  * All rights reserved.
   4  *
   5  * Redistribution and use in source and binary forms, with or without
   6  * modification, are permitted provided that the following conditions
   7  * are met:
   8  * 1. Redistributions of source code must retain the above copyright
   9  *    notice, this list of conditions and the following disclaimer.
  10  * 2. Redistributions in binary form must reproduce the above copyright
  11  *    notice, this list of conditions and the following disclaimer in the
  12  *    documentation and/or other materials provided with the distribution.
  13  * 3. The name of the author may not be used to endorse or promote products
  14  *    derived from this software without specific prior written permission.
  15  *
  16  * Alternatively, this software may be distributed under the terms of the
  17  * GNU General Public License ("GPL") version 2 as published by the Free
  18  * Software Foundation.
  19  *
  20  * THIS SOFTWARE IS PROVIDED BY THE AUTHOR ``AS IS'' AND ANY EXPRESS OR
  21  * IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE IMPLIED WARRANTIES
  22  * OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE ARE DISCLAIMED.
  23  * IN NO EVENT SHALL THE AUTHOR BE LIABLE FOR ANY DIRECT, INDIRECT,
  24  * INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
  25  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE,
  26  * DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY
  27  * THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT
  28  * (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF
  29  * THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
  30  *
  31  * $FreeBSD: src/sys/net80211/ieee80211_crypto_ccmp.c,v 1.7.2.1 2005/12/22 19:02:08 sam Exp $
  32  * $DragonFly: src/sys/netproto/802_11/wlan_ccmp/ieee80211_crypto_ccmp.c,v 1.2 2006/09/05 00:55:48 dillon Exp $
  33  */
  34
  35 /*
  36  * IEEE 802.11i AES-CCMP crypto support.
  37  *
  38  * Part of this module is derived from similar code in the Host
  39  * AP driver. The code is used with the consent of the author and
  40  * it's license is included below.
  41  */
  42 #include <sys/param.h>
  43 #include <sys/systm.h>
  44 #include <sys/mbuf.h>
  45 #include <sys/malloc.h>
  46 #include <sys/kernel.h>
  47 #include <sys/module.h>
  48
  49 #include <sys/socket.h>
  50
  51 #include <net/if.h>
  52 #include <net/if_arp.h>
  53 #include <net/if_media.h>
  54 #include <net/ethernet.h>
  55
  56 #include <netproto/802_11/ieee80211_var.h>
  57
  58 #include <opencrypto/rijndael.h>
  59
  60 #define AES_BLOCK_LEN 16
  61
  62 struct ccmp_ctx {
  63         struct ieee80211com *cc_ic;     /* for diagnostics */
  64         rijndael_ctx         cc_aes;
  65 };
  66
  67 static  void *ccmp_attach(struct ieee80211com *, struct ieee80211_key *);
  68 static  void ccmp_detach(struct ieee80211_key *);
  69 static  int ccmp_setkey(struct ieee80211_key *);
  70 static  int ccmp_encap(struct ieee80211_key *k, struct mbuf *, uint8_t keyid);
  71 static  int ccmp_decap(struct ieee80211_key *, struct mbuf *, int);
  72 static  int ccmp_enmic(struct ieee80211_key *, struct mbuf *, int);
  73 static  int ccmp_demic(struct ieee80211_key *, struct mbuf *, int);
  74
  75 static const struct ieee80211_cipher ccmp = {
  76         .ic_name        = "AES-CCM",
  77         .ic_cipher      = IEEE80211_CIPHER_AES_CCM,
  78         .ic_header      = IEEE80211_WEP_IVLEN + IEEE80211_WEP_KIDLEN +
  79                           IEEE80211_WEP_EXTIVLEN,
  80         .ic_trailer     = IEEE80211_WEP_MICLEN,
  81         .ic_miclen      = 0,
  82         .ic_attach      = ccmp_attach,
  83         .ic_detach      = ccmp_detach,
  84         .ic_setkey      = ccmp_setkey,
  85         .ic_encap       = ccmp_encap,
  86         .ic_decap       = ccmp_decap,
  87         .ic_enmic       = ccmp_enmic,
  88         .ic_demic       = ccmp_demic,
  89 };
  90
  91 static  int ccmp_encrypt(struct ieee80211_key *, struct mbuf *, int hdrlen);
  92 static  int ccmp_decrypt(struct ieee80211_key *, uint64_t pn,
  93                 struct mbuf *, int hdrlen);
  94
  95 /* number of references from net80211 layer */
  96 static  int nrefs = 0;
  97
  98 static void *
  99 ccmp_attach(struct ieee80211com *ic, struct ieee80211_key *k)
 100 {
 101         struct ccmp_ctx *ctx;
 102
 103         ctx = kmalloc(sizeof(struct ccmp_ctx), M_DEVBUF, M_NOWAIT | M_ZERO);
 104         if (ctx == NULL) {
 105                 ic->ic_stats.is_crypto_nomem++;
 106                 return NULL;
 107         }
 108         ctx->cc_ic = ic;
 109         nrefs++;                        /* NB: we assume caller locking */
 110         return ctx;
 111 }
 112
 113 static void
 114 ccmp_detach(struct ieee80211_key *k)
 115 {
 116         struct ccmp_ctx *ctx = k->wk_private;
 117
 118         kfree(ctx, M_DEVBUF);
 119         KASSERT(nrefs > 0, ("imbalanced attach/detach"));
 120         nrefs--;                        /* NB: we assume caller locking */
 121 }
 122
 123 static int
 124 ccmp_setkey(struct ieee80211_key *k)
 125 {
 126         struct ccmp_ctx *ctx = k->wk_private;
 127
 128         if (k->wk_keylen != (128/NBBY)) {
 129                 IEEE80211_DPRINTF(ctx->cc_ic, IEEE80211_MSG_CRYPTO,
 130                         "%s: Invalid key length %u, expecting %u\n",
 131                         __func__, k->wk_keylen, 128/NBBY);
 132                 return 0;
 133         }
 134         if (k->wk_flags & IEEE80211_KEY_SWCRYPT) {
 135                 rijndael_set_key(&ctx->cc_aes, k->wk_key, k->wk_keylen * NBBY,
 136                                  1);
 137         }
 138         return 1;
 139 }
 140
 141 /*
 142  * Add privacy headers appropriate for the specified key.
 143  */
 144 static int
 145 ccmp_encap(struct ieee80211_key *k, struct mbuf *m, uint8_t keyid)
 146 {
 147         struct ccmp_ctx *ctx = k->wk_private;
 148         struct ieee80211com *ic = ctx->cc_ic;
 149         uint8_t *ivp;
 150         int hdrlen;
 151
 152         hdrlen = ieee80211_hdrspace(ic, mtod(m, void *));
 153
 154         /*
 155          * Copy down 802.11 header and add the IV, KeyID, and ExtIV.
 156          */
 157         M_PREPEND(m, ccmp.ic_header, M_NOWAIT);
 158         if (m == NULL)
 159                 return 0;
 160         ivp = mtod(m, uint8_t *);
 161         ovbcopy(ivp + ccmp.ic_header, ivp, hdrlen);
 162         ivp += hdrlen;
 163
 164         k->wk_keytsc++;         /* XXX wrap at 48 bits */
 165         ivp[0] = k->wk_keytsc >> 0;             /* PN0 */
 166         ivp[1] = k->wk_keytsc >> 8;             /* PN1 */
 167         ivp[2] = 0;                             /* Reserved */
 168         ivp[3] = keyid | IEEE80211_WEP_EXTIV;   /* KeyID | ExtID */
 169         ivp[4] = k->wk_keytsc >> 16;            /* PN2 */
 170         ivp[5] = k->wk_keytsc >> 24;            /* PN3 */
 171         ivp[6] = k->wk_keytsc >> 32;            /* PN4 */
 172         ivp[7] = k->wk_keytsc >> 40;            /* PN5 */
 173
 174         /*
 175          * Finally, do software encrypt if neeed.
 176          */
 177         if ((k->wk_flags & IEEE80211_KEY_SWCRYPT) &&
 178             !ccmp_encrypt(k, m, hdrlen))
 179                 return 0;
 180
 181         return 1;
 182 }
 183
 184 /*
 185  * Add MIC to the frame as needed.
 186  */
 187 static int
 188 ccmp_enmic(struct ieee80211_key *k, struct mbuf *m, int force)
 189 {
 190         return 1;
 191 }
 192
 193 static __inline uint64_t
 194 READ_6(uint8_t b0, uint8_t b1, uint8_t b2, uint8_t b3, uint8_t b4, uint8_t b5)
 195 {
 196         uint32_t iv32 = (b0 << 0) | (b1 << 8) | (b2 << 16) | (b3 << 24);
 197         uint16_t iv16 = (b4 << 0) | (b5 << 8);
 198         return (((uint64_t)iv16) << 32) | iv32;
 199 }
 200
 201 /*
 202  * Validate and strip privacy headers (and trailer) for a
 203  * received frame. The specified key should be correct but
 204  * is also verified.
 205  */
 206 static int
 207 ccmp_decap(struct ieee80211_key *k, struct mbuf *m, int hdrlen)
 208 {
 209         struct ccmp_ctx *ctx = k->wk_private;
 210         struct ieee80211_frame *wh;
 211         uint8_t *ivp;
 212         uint64_t pn;
 213
 214         /*
 215          * Header should have extended IV and sequence number;
 216          * verify the former and validate the latter.
 217          */
 218         wh = mtod(m, struct ieee80211_frame *);
 219         ivp = mtod(m, uint8_t *) + hdrlen;
 220         if ((ivp[IEEE80211_WEP_IVLEN] & IEEE80211_WEP_EXTIV) == 0) {
 221                 /*
 222                  * No extended IV; discard frame.
 223                  */
 224                 IEEE80211_DPRINTF(ctx->cc_ic, IEEE80211_MSG_CRYPTO,
 225                         "[%6D] Missing ExtIV for AES-CCM cipher\n",
 226                         wh->i_addr2, ":");
 227                 ctx->cc_ic->ic_stats.is_rx_ccmpformat++;
 228                 return 0;
 229         }
 230         pn = READ_6(ivp[0], ivp[1], ivp[4], ivp[5], ivp[6], ivp[7]);
 231         if (pn <= k->wk_keyrsc) {
 232                 /*
 233                  * Replay violation.
 234                  */
 235                 ieee80211_notify_replay_failure(ctx->cc_ic, wh, k, pn);
 236                 ctx->cc_ic->ic_stats.is_rx_ccmpreplay++;
 237                 return 0;
 238         }
 239
 240         /*
 241          * Check if the device handled the decrypt in hardware.
 242          * If so we just strip the header; otherwise we need to
 243          * handle the decrypt in software.  Note that for the
 244          * latter we leave the header in place for use in the
 245          * decryption work.
 246          */
 247         if ((k->wk_flags & IEEE80211_KEY_SWCRYPT) &&
 248             !ccmp_decrypt(k, pn, m, hdrlen))
 249                 return 0;
 250
 251         /*
 252          * Copy up 802.11 header and strip crypto bits.
 253          */
 254         ovbcopy(mtod(m, void *), mtod(m, uint8_t *) + ccmp.ic_header, hdrlen);
 255         m_adj(m, ccmp.ic_header);
 256         m_adj(m, -ccmp.ic_trailer);
 257
 258         /*
 259          * Ok to update rsc now.
 260          */
 261         k->wk_keyrsc = pn;
 262
 263         return 1;
 264 }
 265
 266 /*
 267  * Verify and strip MIC from the frame.
 268  */
 269 static int
 270 ccmp_demic(struct ieee80211_key *k, struct mbuf *m, int force)
 271 {
 272         return 1;
 273 }
 274
 275 static __inline void
 276 xor_block(uint8_t *b, const uint8_t *a, size_t len)
 277 {
 278         int i;
 279         for (i = 0; i < len; i++)
 280                 b[i] ^= a[i];
 281 }
 282
 283 /*
 284  * Host AP crypt: host-based CCMP encryption implementation for Host AP driver
 285  *
 286  * Copyright (c) 2003-2004, Jouni Malinen <jkmaline@cc.hut.fi>
 287  *
 288  * This program is free software; you can redistribute it and/or modify
 289  * it under the terms of the GNU General Public License version 2 as
 290  * published by the Free Software Foundation. See README and COPYING for
 291  * more details.
 292  *
 293  * Alternatively, this software may be distributed under the terms of BSD
 294  * license.
 295  */
 296
 297 static void
 298 ccmp_init_blocks(rijndael_ctx *ctx, struct ieee80211_frame *wh,
 299         uint64_t pn, size_t dlen,
 300         uint8_t b0[AES_BLOCK_LEN], uint8_t aad[2 * AES_BLOCK_LEN],
 301         uint8_t auth[AES_BLOCK_LEN], uint8_t s0[AES_BLOCK_LEN])
 302 {
 303 #define IS_4ADDRESS(wh) \
 304         ((wh->i_fc[1] & IEEE80211_FC1_DIR_MASK) == IEEE80211_FC1_DIR_DSTODS)
 305 #define IS_QOS_DATA(wh) IEEE80211_QOS_HAS_SEQ(wh)
 306
 307         /* CCM Initial Block:
 308          * Flag (Include authentication header, M=3 (8-octet MIC),
 309          *       L=1 (2-octet Dlen))
 310          * Nonce: 0x00 | A2 | PN
 311          * Dlen */
 312         b0[0] = 0x59;
 313         /* NB: b0[1] set below */
 314         IEEE80211_ADDR_COPY(b0 + 2, wh->i_addr2);
 315         b0[8] = pn >> 40;
 316         b0[9] = pn >> 32;
 317         b0[10] = pn >> 24;
 318         b0[11] = pn >> 16;
 319         b0[12] = pn >> 8;
 320         b0[13] = pn >> 0;
 321         b0[14] = (dlen >> 8) & 0xff;
 322         b0[15] = dlen & 0xff;
 323
 324         /* AAD:
 325          * FC with bits 4..6 and 11..13 masked to zero; 14 is always one
 326          * A1 | A2 | A3
 327          * SC with bits 4..15 (seq#) masked to zero
 328          * A4 (if present)
 329          * QC (if present)
 330          */
 331         aad[0] = 0;     /* AAD length >> 8 */
 332         /* NB: aad[1] set below */
 333         aad[2] = wh->i_fc[0] & 0x8f;    /* XXX magic #s */
 334         aad[3] = wh->i_fc[1] & 0xc7;    /* XXX magic #s */
 335         /* NB: we know 3 addresses are contiguous */
 336         memcpy(aad + 4, wh->i_addr1, 3 * IEEE80211_ADDR_LEN);
 337         aad[22] = wh->i_seq[0] & IEEE80211_SEQ_FRAG_MASK;
 338         aad[23] = 0; /* all bits masked */
 339         /*
 340          * Construct variable-length portion of AAD based
 341          * on whether this is a 4-address frame/QOS frame.
 342          * We always zero-pad to 32 bytes before running it
 343          * through the cipher.
 344          *
 345          * We also fill in the priority bits of the CCM
 346          * initial block as we know whether or not we have
 347          * a QOS frame.
 348          */
 349         if (IS_4ADDRESS(wh)) {
 350                 IEEE80211_ADDR_COPY(aad + 24,
 351                         ((struct ieee80211_frame_addr4 *)wh)->i_addr4);
 352                 if (IS_QOS_DATA(wh)) {
 353                         struct ieee80211_qosframe_addr4 *qwh4 =
 354                                 (struct ieee80211_qosframe_addr4 *) wh;
 355                         aad[30] = qwh4->i_qos[0] & 0x0f;/* just priority bits */
 356                         aad[31] = 0;
 357                         b0[1] = aad[30];
 358                         aad[1] = 22 + IEEE80211_ADDR_LEN + 2;
 359                 } else {
 360                         *(uint16_t *)&aad[30] = 0;
 361                         b0[1] = 0;
 362                         aad[1] = 22 + IEEE80211_ADDR_LEN;
 363                 }
 364         } else {
 365                 if (IS_QOS_DATA(wh)) {
 366                         struct ieee80211_qosframe *qwh =
 367                                 (struct ieee80211_qosframe*) wh;
 368                         aad[24] = qwh->i_qos[0] & 0x0f; /* just priority bits */
 369                         aad[25] = 0;
 370                         b0[1] = aad[24];
 371                         aad[1] = 22 + 2;
 372                 } else {
 373                         *(uint16_t *)&aad[24] = 0;
 374                         b0[1] = 0;
 375                         aad[1] = 22;
 376                 }
 377                 *(uint16_t *)&aad[26] = 0;
 378                 *(uint32_t *)&aad[28] = 0;
 379         }
 380
 381         /* Start with the first block and AAD */
 382         rijndael_encrypt(ctx, b0, auth);
 383         xor_block(auth, aad, AES_BLOCK_LEN);
 384         rijndael_encrypt(ctx, auth, auth);
 385         xor_block(auth, &aad[AES_BLOCK_LEN], AES_BLOCK_LEN);
 386         rijndael_encrypt(ctx, auth, auth);
 387         b0[0] &= 0x07;
 388         b0[14] = b0[15] = 0;
 389         rijndael_encrypt(ctx, b0, s0);
 390 #undef  IS_QOS_DATA
 391 #undef  IS_4ADDRESS
 392 }
 393
 394 #define CCMP_ENCRYPT(_i, _b, _b0, _pos, _e, _len) do {  \
 395         /* Authentication */                            \
 396         xor_block(_b, _pos, _len);                      \
 397         rijndael_encrypt(&ctx->cc_aes, _b, _b);         \
 398         /* Encryption, with counter */                  \
 399         _b0[14] = (_i >> 8) & 0xff;                     \
 400         _b0[15] = _i & 0xff;                            \
 401         rijndael_encrypt(&ctx->cc_aes, _b0, _e);        \
 402         xor_block(_pos, _e, _len);                      \
 403 } while (0)
 404
 405 static int
 406 ccmp_encrypt(struct ieee80211_key *key, struct mbuf *m0, int hdrlen)
 407 {
 408         struct ccmp_ctx *ctx = key->wk_private;
 409         struct ieee80211_frame *wh;
 410         struct mbuf *m = m0;
 411         int data_len, i, space;
 412         uint8_t aad[2 * AES_BLOCK_LEN], b0[AES_BLOCK_LEN], b[AES_BLOCK_LEN],
 413                 e[AES_BLOCK_LEN], s0[AES_BLOCK_LEN];
 414         uint8_t *pos;
 415
 416         ctx->cc_ic->ic_stats.is_crypto_ccmp++;
 417
 418         wh = mtod(m, struct ieee80211_frame *);
 419         data_len = m->m_pkthdr.len - (hdrlen + ccmp.ic_header);
 420         ccmp_init_blocks(&ctx->cc_aes, wh, key->wk_keytsc,
 421                 data_len, b0, aad, b, s0);
 422
 423         i = 1;
 424         pos = mtod(m, uint8_t *) + hdrlen + ccmp.ic_header;
 425         /* NB: assumes header is entirely in first mbuf */
 426         space = m->m_len - (hdrlen + ccmp.ic_header);
 427         for (;;) {
 428                 if (space > data_len)
 429                         space = data_len;
 430                 /*
 431                  * Do full blocks.
 432                  */
 433                 while (space >= AES_BLOCK_LEN) {
 434                         CCMP_ENCRYPT(i, b, b0, pos, e, AES_BLOCK_LEN);
 435                         pos += AES_BLOCK_LEN, space -= AES_BLOCK_LEN;
 436                         data_len -= AES_BLOCK_LEN;
 437                         i++;
 438                 }
 439                 if (data_len <= 0)              /* no more data */
 440                         break;
 441                 m = m->m_next;
 442                 if (m == NULL) {                /* last buffer */
 443                         if (space != 0) {
 444                                 /*
 445                                  * Short last block.
 446                                  */
 447                                 CCMP_ENCRYPT(i, b, b0, pos, e, space);
 448                         }
 449                         break;
 450                 }
 451                 if (space != 0) {
 452                         uint8_t *pos_next;
 453                         int space_next;
 454                         int len, dl, sp;
 455                         struct mbuf *n;
 456
 457                         /*
 458                          * Block straddles one or more mbufs, gather data
 459                          * into the block buffer b, apply the cipher, then
 460                          * scatter the results back into the mbuf chain.
 461                          * The buffer will automatically get space bytes
 462                          * of data at offset 0 copied in+out by the
 463                          * CCMP_ENCRYPT request so we must take care of
 464                          * the remaining data.
 465                          */
 466                         n = m;
 467                         dl = data_len;
 468                         sp = space;
 469                         for (;;) {
 470                                 pos_next = mtod(n, uint8_t *);
 471                                 len = min(dl, AES_BLOCK_LEN);
 472                                 space_next = len > sp ? len - sp : 0;
 473                                 if (n->m_len >= space_next) {
 474                                         /*
 475                                          * This mbuf has enough data; just grab
 476                                          * what we need and stop.
 477                                          */
 478                                         xor_block(b+sp, pos_next, space_next);
 479                                         break;
 480                                 }
 481                                 /*
 482                                  * This mbuf's contents are insufficient,
 483                                  * take 'em all and prepare to advance to
 484                                  * the next mbuf.
 485                                  */
 486                                 xor_block(b+sp, pos_next, n->m_len);
 487                                 sp += n->m_len, dl -= n->m_len;
 488                                 n = n->m_next;
 489                                 if (n == NULL)
 490                                         break;
 491                         }
 492
 493                         CCMP_ENCRYPT(i, b, b0, pos, e, space);
 494
 495                         /* NB: just like above, but scatter data to mbufs */
 496                         dl = data_len;
 497                         sp = space;
 498                         for (;;) {
 499                                 pos_next = mtod(m, uint8_t *);
 500                                 len = min(dl, AES_BLOCK_LEN);
 501                                 space_next = len > sp ? len - sp : 0;
 502                                 if (m->m_len >= space_next) {
 503                                         xor_block(pos_next, e+sp, space_next);
 504                                         break;
 505                                 }
 506                                 xor_block(pos_next, e+sp, m->m_len);
 507                                 sp += m->m_len, dl -= m->m_len;
 508                                 m = m->m_next;
 509                                 if (m == NULL)
 510                                         goto done;
 511                         }
 512                         /*
 513                          * Do bookkeeping.  m now points to the last mbuf
 514                          * we grabbed data from.  We know we consumed a
 515                          * full block of data as otherwise we'd have hit
 516                          * the end of the mbuf chain, so deduct from data_len.
 517                          * Otherwise advance the block number (i) and setup
 518                          * pos+space to reflect contents of the new mbuf.
 519                          */
 520                         data_len -= AES_BLOCK_LEN;
 521                         i++;
 522                         pos = pos_next + space_next;
 523                         space = m->m_len - space_next;
 524                 } else {
 525                         /*
 526                          * Setup for next buffer.
 527                          */
 528                         pos = mtod(m, uint8_t *);
 529                         space = m->m_len;
 530                 }
 531         }
 532 done:
 533         /* tack on MIC */
 534         xor_block(b, s0, ccmp.ic_trailer);
 535         return ieee80211_mbuf_append(m0, ccmp.ic_trailer, b);
 536 }
 537 #undef CCMP_ENCRYPT
 538
 539 #define CCMP_DECRYPT(_i, _b, _b0, _pos, _a, _len) do {  \
 540         /* Decrypt, with counter */                     \
 541         _b0[14] = (_i >> 8) & 0xff;                     \
 542         _b0[15] = _i & 0xff;                            \
 543         rijndael_encrypt(&ctx->cc_aes, _b0, _b);        \
 544         xor_block(_pos, _b, _len);                      \
 545         /* Authentication */                            \
 546         xor_block(_a, _pos, _len);                      \
 547         rijndael_encrypt(&ctx->cc_aes, _a, _a);         \
 548 } while (0)
 549
 550 static int
 551 ccmp_decrypt(struct ieee80211_key *key, uint64_t pn, struct mbuf *m, int hdrlen)
 552 {
 553         struct ccmp_ctx *ctx = key->wk_private;
 554         struct ieee80211_frame *wh;
 555         uint8_t aad[2 * AES_BLOCK_LEN];
 556         uint8_t b0[AES_BLOCK_LEN], b[AES_BLOCK_LEN], a[AES_BLOCK_LEN];
 557         uint8_t mic[AES_BLOCK_LEN];
 558         size_t data_len;
 559         int i;
 560         uint8_t *pos;
 561         u_int space;
 562
 563         ctx->cc_ic->ic_stats.is_crypto_ccmp++;
 564
 565         wh = mtod(m, struct ieee80211_frame *);
 566         data_len = m->m_pkthdr.len - (hdrlen + ccmp.ic_header + ccmp.ic_trailer);
 567         ccmp_init_blocks(&ctx->cc_aes, wh, pn, data_len, b0, aad, a, b);
 568         m_copydata(m, m->m_pkthdr.len - ccmp.ic_trailer, ccmp.ic_trailer, mic);
 569         xor_block(mic, b, ccmp.ic_trailer);
 570
 571         i = 1;
 572         pos = mtod(m, uint8_t *) + hdrlen + ccmp.ic_header;
 573         space = m->m_len - (hdrlen + ccmp.ic_header);
 574         for (;;) {
 575                 if (space > data_len)
 576                         space = data_len;
 577                 while (space >= AES_BLOCK_LEN) {
 578                         CCMP_DECRYPT(i, b, b0, pos, a, AES_BLOCK_LEN);
 579                         pos += AES_BLOCK_LEN, space -= AES_BLOCK_LEN;
 580                         data_len -= AES_BLOCK_LEN;
 581                         i++;
 582                 }
 583                 if (data_len <= 0)              /* no more data */
 584                         break;
 585                 m = m->m_next;
 586                 if (m == NULL) {                /* last buffer */
 587                         if (space != 0)         /* short last block */
 588                                 CCMP_DECRYPT(i, b, b0, pos, a, space);
 589                         break;
 590                 }
 591                 if (space != 0) {
 592                         uint8_t *pos_next;
 593                         u_int space_next;
 594                         u_int len;
 595
 596                         /*
 597                          * Block straddles buffers, split references.  We
 598                          * do not handle splits that require >2 buffers
 599                          * since rx'd frames are never badly fragmented
 600                          * because drivers typically recv in clusters.
 601                          */
 602                         pos_next = mtod(m, uint8_t *);
 603                         len = min(data_len, AES_BLOCK_LEN);
 604                         space_next = len > space ? len - space : 0;
 605                         KASSERT(m->m_len >= space_next,
 606                                 ("not enough data in following buffer, "
 607                                 "m_len %u need %u\n", m->m_len, space_next));
 608
 609                         xor_block(b+space, pos_next, space_next);
 610                         CCMP_DECRYPT(i, b, b0, pos, a, space);
 611                         xor_block(pos_next, b+space, space_next);
 612                         data_len -= len;
 613                         i++;
 614
 615                         pos = pos_next + space_next;
 616                         space = m->m_len - space_next;
 617                 } else {
 618                         /*
 619                          * Setup for next buffer.
 620                          */
 621                         pos = mtod(m, uint8_t *);
 622                         space = m->m_len;
 623                 }
 624         }
 625         if (memcmp(mic, a, ccmp.ic_trailer) != 0) {
 626                 IEEE80211_DPRINTF(ctx->cc_ic, IEEE80211_MSG_CRYPTO,
 627                         "[%6D] AES-CCM decrypt failed; MIC mismatch\n",
 628                         wh->i_addr2, ":");
 629                 ctx->cc_ic->ic_stats.is_rx_ccmpmic++;
 630                 return 0;
 631         }
 632         return 1;
 633 }
 634 #undef CCMP_DECRYPT
 635
 636 /*
 637  * Module glue.
 638  */
 639 static int
 640 ccmp_modevent(module_t mod, int type, void *unused)
 641 {
 642         switch (type) {
 643         case MOD_LOAD:
 644                 ieee80211_crypto_register(&ccmp);
 645                 return 0;
 646         case MOD_UNLOAD:
 647                 if (nrefs) {
 648                         printf("wlan_ccmp: still in use (%u dynamic refs)\n",
 649                                 nrefs);
 650                         return EBUSY;
 651                 }
 652                 ieee80211_crypto_unregister(&ccmp);
 653                 return 0;
 654         }
 655         return EINVAL;
 656 }
 657
 658 static moduledata_t ccmp_mod = {
 659         "wlan_ccmp",
 660         ccmp_modevent,
 661         0
 662 };
 663 DECLARE_MODULE(wlan_ccmp, ccmp_mod, SI_SUB_DRIVERS, SI_ORDER_FIRST);
 664 MODULE_VERSION(wlan_ccmp, 1);
 665 MODULE_DEPEND(wlan_ccmp, wlan, 1, 1, 1);