dma: unconditionally use openssl
[dragonfly.git] / libexec / dma / crypto.c
1 /*
2  * Copyright (c) 2008 The DragonFly Project.  All rights reserved.
3  *
4  * This code is derived from software contributed to The DragonFly Project
5  * by Matthias Schmidt <matthias@dragonflybsd.org>, University of Marburg,
6  * Germany.
7  *
8  * Redistribution and use in source and binary forms, with or without
9  * modification, are permitted provided that the following conditions
10  * are met:
11  *
12  * 1. Redistributions of source code must retain the above copyright
13  *    notice, this list of conditions and the following disclaimer.
14  * 2. Redistributions in binary form must reproduce the above copyright
15  *    notice, this list of conditions and the following disclaimer in
16  *    the documentation and/or other materials provided with the
17  *    distribution.
18  * 3. Neither the name of The DragonFly Project nor the names of its
19  *    contributors may be used to endorse or promote products derived
20  *    from this software without specific, prior written permission.
21  *
22  * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS
23  * ``AS IS'' AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT
24  * LIMITED TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS
25  * FOR A PARTICULAR PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE
26  * COPYRIGHT HOLDERS OR CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT,
27  * INCIDENTAL, SPECIAL, EXEMPLARY OR CONSEQUENTIAL DAMAGES (INCLUDING,
28  * BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
29  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED
30  * AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY,
31  * OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT
32  * OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
33  * SUCH DAMAGE.
34  *
35  * $DragonFly: src/libexec/dma/crypto.c,v 1.4 2008/09/30 17:47:21 swildner Exp $
36  */
37
38 #include <openssl/x509.h>
39 #include <openssl/md5.h>
40 #include <openssl/ssl.h>
41 #include <openssl/err.h>
42 #include <openssl/pem.h>
43 #include <openssl/rand.h>
44
45 #include <syslog.h>
46
47 #include "dma.h"
48
49 extern struct config *config;
50
51 static int
52 init_cert_file(struct qitem *it, SSL_CTX *ctx, const char *path)
53 {
54         int error;
55
56         /* Load certificate into ctx */
57         error = SSL_CTX_use_certificate_chain_file(ctx, path);
58         if (error < 1) {
59                 syslog(LOG_ERR, "%s: SSL: Cannot load certificate: %s",
60                         it->queueid, path);
61                 return (-1);
62         }
63
64         /* Add private key to ctx */
65         error = SSL_CTX_use_PrivateKey_file(ctx, path, SSL_FILETYPE_PEM);
66         if (error < 1) {
67                 syslog(LOG_ERR, "%s: SSL: Cannot load private key: %s",
68                         it->queueid, path);
69                 return (-1);
70         }
71
72         /*
73          * Check the consistency of a private key with the corresponding
74          * certificate
75          */
76         error = SSL_CTX_check_private_key(ctx);
77         if (error < 1) {
78                 syslog(LOG_ERR, "%s: SSL: Cannot check private key: %s",
79                         it->queueid, path);
80                 return (-1);
81         }
82
83         return (0);
84 }
85
86 int
87 smtp_init_crypto(struct qitem *it, int fd, int feature)
88 {
89         SSL_CTX *ctx = NULL;
90         SSL_METHOD *meth = NULL;
91         X509 *cert;
92         int error;
93
94         /* Init SSL library */
95         SSL_library_init();
96
97         meth = TLSv1_client_method();
98
99         ctx = SSL_CTX_new(meth);
100         if (ctx == NULL) {
101                 syslog(LOG_WARNING, "%s: remote delivery deferred:"
102                        " SSL init failed: %m", it->queueid);
103                 return (2);
104         }
105
106         /* User supplied a certificate */
107         if (config->certfile != NULL)
108                 init_cert_file(it, ctx, config->certfile);
109
110         /*
111          * If the user wants STARTTLS, we have to send EHLO here
112          */
113         if (((feature & SECURETRANS) != 0) &&
114              (feature & STARTTLS) != 0) {
115                 /* TLS init phase, disable SSL_write */
116                 config->features |= NOSSL;
117
118                 send_remote_command(fd, "EHLO %s", hostname());
119                 if (read_remote(fd, 0, NULL) == 2) {
120                         send_remote_command(fd, "STARTTLS");
121                         if (read_remote(fd, 0, NULL) != 2) {
122                                 syslog(LOG_ERR, "%s: remote delivery failed:"
123                                   " STARTTLS not available: %s", it->queueid,
124                                   neterr);
125                                 config->features &= ~NOSSL;
126                                 return (-1);
127                         }
128                 }
129                 /* End of TLS init phase, enable SSL_write/read */
130                 config->features &= ~NOSSL;
131         }
132
133         config->ssl = SSL_new(ctx);
134         if (config->ssl == NULL) {
135                 syslog(LOG_NOTICE, "%s: remote delivery deferred:"
136                        " SSL struct creation failed:", it->queueid);
137                 return (2);
138         }
139
140         /* Set ssl to work in client mode */
141         SSL_set_connect_state(config->ssl);
142
143         /* Set fd for SSL in/output */
144         error = SSL_set_fd(config->ssl, fd);
145         if (error == 0) {
146                 error = SSL_get_error(config->ssl, error);
147                 syslog(LOG_NOTICE, "%s: remote delivery deferred:"
148                        " SSL set fd failed (%d): %m", it->queueid, error);
149                 return (2);
150         }
151
152         /* Open SSL connection */
153         error = SSL_connect(config->ssl);
154         if (error < 0) {
155                 syslog(LOG_ERR, "%s: remote delivery failed:"
156                        " SSL handshake failed fatally: %m", it->queueid);
157                 return (-1);
158         }
159
160         /* Get peer certificate */
161         cert = SSL_get_peer_certificate(config->ssl);
162         if (cert == NULL) {
163                 syslog(LOG_WARNING, "%s: remote delivery deferred:"
164                        " Peer did not provide certificate: %m", it->queueid);
165         }
166         X509_free(cert);
167
168         return (0);
169 }
170
171 /*
172  * hmac_md5() taken out of RFC 2104.  This RFC was written by H. Krawczyk,
173  * M. Bellare and R. Canetti.
174  *
175  * text      pointer to data stream
176  * text_len  length of data stream
177  * key       pointer to authentication key
178  * key_len   length of authentication key
179  * digest    caller digest to be filled int
180  */
181 void
182 hmac_md5(unsigned char *text, int text_len, unsigned char *key, int key_len,
183     caddr_t digest)
184 {
185         MD5_CTX context;
186         unsigned char k_ipad[65];    /* inner padding -
187                                       * key XORd with ipad
188                                       */
189         unsigned char k_opad[65];    /* outer padding -
190                                       * key XORd with opad
191                                       */
192         unsigned char tk[16];
193         int i;
194         /* if key is longer than 64 bytes reset it to key=MD5(key) */
195         if (key_len > 64) {
196
197                 MD5_CTX      tctx;
198
199                 MD5_Init(&tctx);
200                 MD5_Update(&tctx, key, key_len);
201                 MD5_Final(tk, &tctx);
202
203                 key = tk;
204                 key_len = 16;
205         }
206
207         /*
208          * the HMAC_MD5 transform looks like:
209          *
210          * MD5(K XOR opad, MD5(K XOR ipad, text))
211          *
212          * where K is an n byte key
213          * ipad is the byte 0x36 repeated 64 times
214          *
215          * opad is the byte 0x5c repeated 64 times
216          * and text is the data being protected
217          */
218
219         /* start out by storing key in pads */
220         bzero( k_ipad, sizeof k_ipad);
221         bzero( k_opad, sizeof k_opad);
222         bcopy( key, k_ipad, key_len);
223         bcopy( key, k_opad, key_len);
224
225         /* XOR key with ipad and opad values */
226         for (i=0; i<64; i++) {
227                 k_ipad[i] ^= 0x36;
228                 k_opad[i] ^= 0x5c;
229         }
230         /*
231          * perform inner MD5
232          */
233         MD5_Init(&context);                   /* init context for 1st
234                                               * pass */
235         MD5_Update(&context, k_ipad, 64);     /* start with inner pad */
236         MD5_Update(&context, text, text_len); /* then text of datagram */
237         MD5_Final(digest, &context);          /* finish up 1st pass */
238         /*
239          * perform outer MD5
240          */
241         MD5_Init(&context);                   /* init context for 2nd
242                                               * pass */
243         MD5_Update(&context, k_opad, 64);     /* start with outer pad */
244         MD5_Update(&context, digest, 16);     /* then results of 1st
245                                               * hash */
246         MD5_Final(digest, &context);          /* finish up 2nd pass */
247 }
248
249 /*
250  * CRAM-MD5 authentication
251  */
252 int
253 smtp_auth_md5(struct qitem *it, int fd, char *login, char *password)
254 {
255         unsigned char buffer[BUF_SIZE], digest[BUF_SIZE], ascii_digest[33];
256         char *temp;
257         int len, i;
258         static char hextab[] = "0123456789abcdef";
259
260         temp = calloc(BUF_SIZE, 1);
261         memset(buffer, 0, sizeof(buffer));
262         memset(digest, 0, sizeof(digest));
263         memset(ascii_digest, 0, sizeof(ascii_digest));
264
265         /* Send AUTH command according to RFC 2554 */
266         send_remote_command(fd, "AUTH CRAM-MD5");
267         if (read_remote(fd, sizeof(buffer), buffer) != 3) {
268                 syslog(LOG_INFO, "%s: smarthost authentification:"
269                        " AUTH cram-md5 not available: %s", it->queueid,
270                        neterr);
271                 /* if cram-md5 is not available */
272                 return (-1);
273         }
274
275         /* skip 3 char status + 1 char space */
276         base64_decode(buffer + 4, temp);
277         hmac_md5(temp, strlen(temp), password, strlen(password), digest);
278
279         ascii_digest[32] = 0;
280         for (i = 0; i < 16; i++) {
281                 ascii_digest[2*i] = hextab[digest[i] >> 4];
282                 ascii_digest[2*i+1] = hextab[digest[i] & 15];
283         }
284
285         /* prepare answer */
286         snprintf(buffer, BUF_SIZE, "%s %s", login, ascii_digest);
287
288         /* temp will be allocated inside base64_encode again */
289         free(temp);
290         /* encode answer */
291         len = base64_encode(buffer, strlen(buffer), &temp);
292         if (len <= 0)
293                 return (-1);
294
295         /* send answer */
296         send_remote_command(fd, "%s", temp);
297         if (read_remote(fd, 0, NULL) != 2) {
298                 syslog(LOG_WARNING, "%s: remote delivery deferred:"
299                                 " AUTH cram-md5 failed: %s", it->queueid,
300                                 neterr);
301                 return (-2);
302         }
303
304         return (0);
305 }