]> www.wagner.pp.ru Git - openssl-gost/engine.git/blob - gost_keyexpimp.c
Endianess bugfix
[openssl-gost/engine.git] / gost_keyexpimp.c
1 /*
2  * Copyright (c) 2019 Dmitry Belyavskiy <beldmit@gmail.com>
3  * Copyright (c) 2020 Vitaly Chikunov <vt@altlinux.org>
4  *
5  * Contents licensed under the terms of the OpenSSL license
6  * See https://www.openssl.org/source/license.html for details
7  */
8 #ifdef _WIN32
9 #include <winsock.h>
10 #else
11 #include <arpa/inet.h>
12 #endif
13 #include <string.h>
14 #include <openssl/evp.h>
15 #include <openssl/hmac.h>
16 #include <openssl/buffer.h>
17
18 #include "gost_lcl.h"
19 #include "e_gost_err.h"
20
21 int omac_imit_ctrl(EVP_MD_CTX *ctx, int type, int arg, void *ptr);
22 /*
23  * Function expects that out is a preallocated buffer of length
24  * defined as sum of shared_len and mac length defined by mac_nid
25  * */
26 int gost_kexp15(const unsigned char *shared_key, const int shared_len,
27                 int cipher_nid, const unsigned char *cipher_key,
28                 int mac_nid, unsigned char *mac_key,
29                 const unsigned char *iv, const size_t ivlen,
30                 unsigned char *out, int *out_len)
31 {
32     unsigned char iv_full[16], mac_buf[16];
33     unsigned int mac_len;
34
35     EVP_CIPHER_CTX *ciph = NULL;
36     EVP_MD_CTX *mac = NULL;
37
38     int ret = 0;
39     int len;
40
41     mac_len = (cipher_nid == NID_magma_ctr) ? 8 :
42         (cipher_nid == NID_grasshopper_ctr) ? 16 : 0;
43
44     if (mac_len == 0) {
45         GOSTerr(GOST_F_GOST_KEXP15, GOST_R_INVALID_CIPHER);
46         goto err;
47     }
48
49     /* we expect IV of half length */
50     memset(iv_full, 0, 16);
51     memcpy(iv_full, iv, ivlen);
52
53     mac = EVP_MD_CTX_new();
54     if (mac == NULL) {
55         GOSTerr(GOST_F_GOST_KEXP15, ERR_R_MALLOC_FAILURE);
56         goto err;
57     }
58
59     if (EVP_DigestInit_ex(mac, EVP_get_digestbynid(mac_nid), NULL) <= 0
60         || omac_imit_ctrl(mac, EVP_MD_CTRL_SET_KEY, 32, mac_key) <= 0
61         || omac_imit_ctrl(mac, EVP_MD_CTRL_XOF_LEN, mac_len, NULL) <= 0
62         || EVP_DigestUpdate(mac, iv, ivlen) <= 0
63         || EVP_DigestUpdate(mac, shared_key, shared_len) <= 0
64         /* As we set MAC length directly, we should not allow overwriting it */
65         || EVP_DigestFinalXOF(mac, mac_buf, mac_len) <= 0) {
66         GOSTerr(GOST_F_GOST_KEXP15, ERR_R_INTERNAL_ERROR);
67         goto err;
68     }
69
70     ciph = EVP_CIPHER_CTX_new();
71     if (ciph == NULL) {
72         GOSTerr(GOST_F_GOST_KEXP15, ERR_R_MALLOC_FAILURE);
73         goto err;
74     }
75
76     if (EVP_CipherInit_ex
77         (ciph, EVP_get_cipherbynid(cipher_nid), NULL, NULL, NULL, 1) <= 0
78         || EVP_CipherInit_ex(ciph, NULL, NULL, cipher_key, iv_full, 1) <= 0
79         || EVP_CipherUpdate(ciph, out, &len, shared_key, shared_len) <= 0
80         || EVP_CipherUpdate(ciph, out + shared_len, &len, mac_buf, mac_len) <= 0
81         || EVP_CipherFinal_ex(ciph, out + shared_len + len, out_len) <= 0) {
82         GOSTerr(GOST_F_GOST_KEXP15, ERR_R_INTERNAL_ERROR);
83         goto err;
84     }
85
86     *out_len = shared_len + mac_len;
87
88     ret = 1;
89
90  err:
91     OPENSSL_cleanse(mac_buf, mac_len);
92     EVP_MD_CTX_free(mac);
93     EVP_CIPHER_CTX_free(ciph);
94
95     return ret;
96 }
97
98 /*
99  * Function expects that shared_key is a preallocated buffer
100  * with length defined as expkeylen + mac_len defined by mac_nid
101  * */
102 int gost_kimp15(const unsigned char *expkey, const size_t expkeylen,
103                 int cipher_nid, const unsigned char *cipher_key,
104                 int mac_nid, unsigned char *mac_key,
105                 const unsigned char *iv, const size_t ivlen,
106                 unsigned char *shared_key)
107 {
108     unsigned char iv_full[16], out[48], mac_buf[16];
109     unsigned int mac_len;
110     const size_t shared_len = 32;
111
112     EVP_CIPHER_CTX *ciph = NULL;
113     EVP_MD_CTX *mac = NULL;
114
115     int ret = 0;
116     int len;
117
118     mac_len = (cipher_nid == NID_magma_ctr) ? 8 :
119         (cipher_nid == NID_grasshopper_ctr) ? 16 : 0;
120
121     if (mac_len == 0) {
122         GOSTerr(GOST_F_GOST_KIMP15, GOST_R_INVALID_CIPHER);
123         goto err;
124     }
125
126     /* we expect IV of half length */
127     memset(iv_full, 0, 16);
128     memcpy(iv_full, iv, ivlen);
129
130     ciph = EVP_CIPHER_CTX_new();
131     if (ciph == NULL) {
132         GOSTerr(GOST_F_GOST_KIMP15, ERR_R_MALLOC_FAILURE);
133         goto err;
134     }
135
136     if (EVP_CipherInit_ex
137         (ciph, EVP_get_cipherbynid(cipher_nid), NULL, NULL, NULL, 0) <= 0
138         || EVP_CipherInit_ex(ciph, NULL, NULL, cipher_key, iv_full, 0) <= 0
139         || EVP_CipherUpdate(ciph, out, &len, expkey, expkeylen) <= 0
140         || EVP_CipherFinal_ex(ciph, out + len, &len) <= 0) {
141         GOSTerr(GOST_F_GOST_KIMP15, ERR_R_INTERNAL_ERROR);
142         goto err;
143     }
144     /*Now we have shared key and mac in out[] */
145
146     mac = EVP_MD_CTX_new();
147     if (mac == NULL) {
148         GOSTerr(GOST_F_GOST_KIMP15, ERR_R_MALLOC_FAILURE);
149         goto err;
150     }
151
152     if (EVP_DigestInit_ex(mac, EVP_get_digestbynid(mac_nid), NULL) <= 0
153         || omac_imit_ctrl(mac, EVP_MD_CTRL_SET_KEY, 32, mac_key) <= 0
154         || omac_imit_ctrl(mac, EVP_MD_CTRL_XOF_LEN, mac_len, NULL) <= 0
155         || EVP_DigestUpdate(mac, iv, ivlen) <= 0
156         || EVP_DigestUpdate(mac, out, shared_len) <= 0
157         /* As we set MAC length directly, we should not allow overwriting it */
158         || EVP_DigestFinalXOF(mac, mac_buf, mac_len) <= 0) {
159         GOSTerr(GOST_F_GOST_KIMP15, ERR_R_INTERNAL_ERROR);
160         goto err;
161     }
162
163     if (CRYPTO_memcmp(mac_buf, out + shared_len, mac_len) != 0) {
164         GOSTerr(GOST_F_GOST_KIMP15, GOST_R_BAD_MAC);
165         goto err;
166     }
167
168     memcpy(shared_key, out, shared_len);
169     ret = 1;
170
171  err:
172     OPENSSL_cleanse(out, sizeof(out));
173     EVP_MD_CTX_free(mac);
174     EVP_CIPHER_CTX_free(ciph);
175     return ret;
176 }
177
178 int gost_kdftree2012_256(unsigned char *keyout, size_t keyout_len,
179                          const unsigned char *key, size_t keylen,
180                          const unsigned char *label, size_t label_len,
181                          const unsigned char *seed, size_t seed_len,
182                          const size_t representation)
183 {
184     int iters, i = 0;
185     unsigned char zero = 0;
186     unsigned char *ptr = keyout;
187     HMAC_CTX *ctx;
188     unsigned char *len_ptr = NULL;
189     uint32_t len_repr = htonl(keyout_len * 8);
190     size_t len_repr_len = 4;
191
192     ctx = HMAC_CTX_new();
193     if (ctx == NULL) {
194         GOSTerr(GOST_F_GOST_KDFTREE2012_256, ERR_R_MALLOC_FAILURE);
195         return 0;
196     }
197
198     if ((keyout_len == 0) || (keyout_len % 32 != 0)) {
199         GOSTerr(GOST_F_GOST_KDFTREE2012_256, ERR_R_INTERNAL_ERROR);
200         return 0;
201     }
202     iters = keyout_len / 32;
203
204     len_ptr = (unsigned char *)&len_repr;
205     while (*len_ptr == 0) {
206         len_ptr++;
207         len_repr_len--;
208     }
209
210     for (i = 1; i <= iters; i++) {
211         uint32_t iter_net = htonl(i);
212         unsigned char *rep_ptr =
213             ((unsigned char *)&iter_net) + (4 - representation);
214
215         if (HMAC_Init_ex(ctx, key, keylen,
216                          EVP_get_digestbynid(NID_id_GostR3411_2012_256),
217                          NULL) <= 0
218             || HMAC_Update(ctx, rep_ptr, representation) <= 0
219             || HMAC_Update(ctx, label, label_len) <= 0
220             || HMAC_Update(ctx, &zero, 1) <= 0
221             || HMAC_Update(ctx, seed, seed_len) <= 0
222             || HMAC_Update(ctx, len_ptr, len_repr_len) <= 0
223             || HMAC_Final(ctx, ptr, NULL) <= 0) {
224             GOSTerr(GOST_F_GOST_KDFTREE2012_256, ERR_R_INTERNAL_ERROR);
225             HMAC_CTX_free(ctx);
226             return 0;
227         }
228
229         HMAC_CTX_reset(ctx);
230         ptr += 32;
231     }
232
233     HMAC_CTX_free(ctx);
234
235     return 1;
236 }
237
238 int gost_tlstree(int cipher_nid, const unsigned char *in, unsigned char *out,
239                  const unsigned char *tlsseq)
240 {
241 #ifndef L_ENDIAN
242     uint64_t gh_c1 = 0xFFFFFFFF00000000, gh_c2 = 0xFFFFFFFFFFF80000,
243         gh_c3 = 0xFFFFFFFFFFFFFFC0;
244     uint64_t mg_c1 = 0xFFFFFFC000000000, mg_c2 = 0xFFFFFFFFFE000000,
245         mg_c3 = 0xFFFFFFFFFFFFF000;
246 #else
247     uint64_t gh_c1 = 0x00000000FFFFFFFF, gh_c2 = 0x0000F8FFFFFFFFFF,
248         gh_c3 = 0xC0FFFFFFFFFFFFFF;
249     uint64_t mg_c1 = 0x00000000C0FFFFFF, mg_c2 = 0x000000FEFFFFFFFF,
250         mg_c3 = 0x00F0FFFFFFFFFFFF;
251 #endif
252     uint64_t c1, c2, c3;
253     uint64_t seed1, seed2, seed3;
254     uint64_t seq;
255     unsigned char ko1[32], ko2[32];
256
257     switch (cipher_nid) {
258     case NID_magma_cbc:
259         c1 = mg_c1;
260         c2 = mg_c2;
261         c3 = mg_c3;
262         break;
263     case NID_grasshopper_cbc:
264         c1 = gh_c1;
265         c2 = gh_c2;
266         c3 = gh_c3;
267         break;
268     default:
269         return 0;
270     }
271 #ifndef L_ENDIAN
272     BUF_reverse(&seq, tlsseq, 8);
273 #else
274     memcpy(&seq, tlsseq, 8);
275 #endif
276     seed1 = seq & c1;
277     seed2 = seq & c2;
278     seed3 = seq & c3;
279
280     if (gost_kdftree2012_256(ko1, 32, in, 32, (const unsigned char *)"level1", 6,
281                          (const unsigned char *)&seed1, 8, 1) <= 0
282                           || gost_kdftree2012_256(ko2, 32, ko1, 32, (const unsigned char *)"level2", 6,
283                          (const unsigned char *)&seed2, 8, 1) <= 0
284         || gost_kdftree2012_256(out, 32, ko2, 32, (const unsigned char *)"level3", 6,
285                          (const unsigned char *)&seed3, 8, 1) <= 0)
286                         return 0;
287
288     return 1;
289 }
290
291 #define GOST_WRAP_FLAGS  EVP_CIPH_CTRL_INIT | EVP_CIPH_WRAP_MODE | EVP_CIPH_CUSTOM_IV | EVP_CIPH_FLAG_CUSTOM_CIPHER | EVP_CIPH_FLAG_DEFAULT_ASN1
292
293 #define MAGMA_MAC_WRAP_LEN 8
294 #define KUZNYECHIK_MAC_WRAP_LEN 16
295 #define MAX_MAC_WRAP_LEN KUZNYECHIK_MAC_WRAP_LEN
296 #define GOSTKEYLEN 32
297 #define MAGMA_WRAPPED_KEY_LEN GOSTKEYLEN + MAGMA_MAC_WRAP_LEN
298 #define KUZNYECHIK_WRAPPED_KEY_LEN GOSTKEYLEN + KUZNYECHIK_MAC_WRAP_LEN
299 #define MAX_WRAPPED_KEY_LEN KUZNYECHIK_WRAPPED_KEY_LEN
300
301 typedef struct {
302         unsigned char iv[8];   /* Max IV size is half of base cipher block length */
303         unsigned char key[GOSTKEYLEN*2]; /* Combined cipher and mac keys */
304         unsigned char wrapped[MAX_WRAPPED_KEY_LEN]; /* Max size */
305         size_t wrap_count;
306 } GOST_WRAP_CTX;
307
308 static int magma_wrap_init(EVP_CIPHER_CTX *ctx, const unsigned char *key,
309         const unsigned char *iv, int enc)
310 {
311         GOST_WRAP_CTX *cctx = EVP_CIPHER_CTX_get_cipher_data(ctx);
312         memset(cctx->wrapped, 0, MAX_WRAPPED_KEY_LEN);
313         cctx->wrap_count = 0;
314
315         if (iv) {
316                 memset(cctx->iv, 0, 8);
317                 memcpy(cctx->iv, iv, 4);
318         }
319
320         if (key) {
321                 memcpy(cctx->key, key, GOSTKEYLEN*2);
322         }
323         return 1;
324 }
325
326 static int magma_wrap_do(EVP_CIPHER_CTX *ctx, unsigned char *out,
327         const unsigned char *in, size_t inl)
328 {
329         GOST_WRAP_CTX *cctx = EVP_CIPHER_CTX_get_cipher_data(ctx);
330         int enc = EVP_CIPHER_CTX_encrypting(ctx) ? 1 : 0;
331
332         if (out == NULL)
333                 return GOSTKEYLEN;
334
335         if (inl <= MAGMA_WRAPPED_KEY_LEN) {
336                 if (cctx->wrap_count + inl > MAGMA_WRAPPED_KEY_LEN)
337                         return -1;
338
339                 if (cctx->wrap_count + inl <= MAGMA_WRAPPED_KEY_LEN)
340                 {
341                         memcpy(cctx->wrapped+cctx->wrap_count, in, inl);
342                         cctx->wrap_count += inl;
343                 }
344         }
345
346         if (cctx->wrap_count < MAGMA_WRAPPED_KEY_LEN)
347                 return 0;
348
349         if (enc) {
350 #if 0
351                 return gost_kexp15(cctx->key, 32, NID_magma_ctr, in, NID_magma_mac,
352                         cctx->key, /* FIXME mac_key, */ cctx->iv, 4, out, &outl);
353 #endif
354                 return -1;
355         } else {
356                 return gost_kimp15(cctx->wrapped, cctx->wrap_count, NID_magma_ctr,
357                 cctx->key+GOSTKEYLEN, NID_magma_mac, cctx->key, cctx->iv, 4, out) > 0 ? GOSTKEYLEN : 0;
358         }
359         return 1;
360 }
361
362 static int kuznyechik_wrap_init(EVP_CIPHER_CTX *ctx, const unsigned char *key,
363         const unsigned char *iv, int enc)
364 {
365         GOST_WRAP_CTX *cctx = EVP_CIPHER_CTX_get_cipher_data(ctx);
366         memset(cctx->wrapped, 0, KUZNYECHIK_WRAPPED_KEY_LEN);
367         cctx->wrap_count = 0;
368
369         if (iv) {
370                 memset(cctx->iv, 0, 8);
371                 memcpy(cctx->iv, iv, 8);
372         }
373
374         if (key) {
375                 memcpy(cctx->key, key, GOSTKEYLEN*2);
376         }
377         return 1;
378 }
379
380 static int kuznyechik_wrap_do(EVP_CIPHER_CTX *ctx, unsigned char *out,
381         const unsigned char *in, size_t inl)
382 {
383         GOST_WRAP_CTX *cctx = EVP_CIPHER_CTX_get_cipher_data(ctx);
384         int enc = EVP_CIPHER_CTX_encrypting(ctx) ? 1 : 0;
385
386         if (out == NULL)
387                 return GOSTKEYLEN;
388
389         if (inl <= KUZNYECHIK_WRAPPED_KEY_LEN) {
390                 if (cctx->wrap_count + inl > KUZNYECHIK_WRAPPED_KEY_LEN)
391                         return -1;
392
393                 if (cctx->wrap_count + inl <= KUZNYECHIK_WRAPPED_KEY_LEN)
394                 {
395                         memcpy(cctx->wrapped+cctx->wrap_count, in, inl);
396                         cctx->wrap_count += inl;
397                 }
398         }
399
400         if (cctx->wrap_count < KUZNYECHIK_WRAPPED_KEY_LEN)
401                 return 0;
402
403         if (enc) {
404 #if 0
405                 return gost_kexp15(cctx->key, 32, NID_magma_ctr, in, NID_magma_mac,
406                         cctx->key, /* FIXME mac_key, */ cctx->iv, 4, out, &outl);
407 #endif
408                 return -1;
409         } else {
410                 return gost_kimp15(cctx->wrapped, cctx->wrap_count, NID_kuznyechik_ctr,
411                 cctx->key+GOSTKEYLEN, NID_kuznyechik_mac, cctx->key, cctx->iv, 8, out) > 0 ? GOSTKEYLEN : 0;
412         }
413 }
414
415 static int wrap_ctrl (EVP_CIPHER_CTX *ctx, int type, int arg, void *ptr)
416 {
417         switch(type)
418         {
419                 case EVP_CTRL_INIT:
420                         EVP_CIPHER_CTX_set_flags(ctx, EVP_CIPHER_CTX_FLAG_WRAP_ALLOW);
421                         return 1;
422                 default:
423                         return -2;
424         }
425 }
426
427 static GOST_cipher wrap_template_cipher = {
428     .key_len = GOSTKEYLEN * 2,
429     .flags = GOST_WRAP_FLAGS,
430     .ctx_size = sizeof(GOST_WRAP_CTX),
431     .ctrl = wrap_ctrl,
432 };
433
434 GOST_cipher magma_kexp15_cipher = {
435     .template = &wrap_template_cipher,
436     .nid = NID_magma_kexp15,
437     .block_size = 8,
438     .iv_len = 4,
439     .init = magma_wrap_init,
440     .do_cipher = magma_wrap_do,
441 };
442
443 GOST_cipher kuznyechik_kexp15_cipher = {
444     .template = &wrap_template_cipher,
445     .nid = NID_kuznyechik_kexp15,
446     .block_size = 16,
447     .iv_len = 8,
448     .init = kuznyechik_wrap_init,
449     .do_cipher = kuznyechik_wrap_do,
450 };
451 /* vim: set expandtab cinoptions=\:0,l1,t0,g0,(0 sw=4 : */