]> www.wagner.pp.ru Git - openssl-gost/engine.git/blob - gost_ec_keyx.c
gost_ec_keyx: Fix CID 253283 Unchecked return value in VKO_compute_key
[openssl-gost/engine.git] / gost_ec_keyx.c
1 /**********************************************************************
2  *                        gost_ec_keyx.c                              *
3  *             Copyright (c) 2005-2013 Cryptocom LTD                  *
4  *         This file is distributed under the same license as OpenSSL *
5  *                                                                    *
6  *   VK0 34.10-2001 key exchange and GOST R 34.10-2001                *
7  *   based PKCS7/SMIME support                                        *
8  *          Requires OpenSSL 0.9.9 for compilation                    *
9  **********************************************************************/
10 #include <openssl/evp.h>
11 #include <openssl/err.h>
12 #include <openssl/rand.h>
13 #include <string.h>
14 #include <openssl/objects.h>
15 #include "gost89.h"
16 #include "e_gost_err.h"
17 #include "gost_keywrap.h"
18 #include "gost_lcl.h"
19
20 /* Implementation of CryptoPro VKO 34.10-2001/2012 algorithm */
21 int VKO_compute_key(unsigned char *shared_key,
22                     const EC_POINT *pub_key, const EC_KEY *priv_key,
23                     const unsigned char *ukm, const size_t ukm_size,
24                     const int vko_dgst_nid)
25 {
26     unsigned char *databuf = NULL;
27     BIGNUM *UKM = NULL, *p = NULL, *order = NULL, *X = NULL, *Y = NULL, *cofactor = NULL;
28     const BIGNUM *key = EC_KEY_get0_private_key(priv_key);
29     EC_POINT *pnt = EC_POINT_new(EC_KEY_get0_group(priv_key));
30     BN_CTX *ctx = BN_CTX_new();
31     EVP_MD_CTX *mdctx = NULL;
32     const EVP_MD *md = NULL;
33     int buf_len, half_len;
34     int ret = 0;
35
36     if (!ctx) {
37         GOSTerr(GOST_F_VKO_COMPUTE_KEY, ERR_R_MALLOC_FAILURE);
38         return 0;
39     }
40     BN_CTX_start(ctx);
41
42     md = EVP_get_digestbynid(vko_dgst_nid);
43     if (!md) {
44         GOSTerr(GOST_F_VKO_COMPUTE_KEY, GOST_R_INVALID_DIGEST_TYPE);
45         goto err;
46     }
47
48     UKM = hashsum2bn(ukm, ukm_size);
49     p = BN_CTX_get(ctx);
50     order = BN_CTX_get(ctx);
51                 cofactor = BN_CTX_get(ctx);
52     X = BN_CTX_get(ctx);
53     Y = BN_CTX_get(ctx);
54     EC_GROUP_get_order(EC_KEY_get0_group(priv_key), order, ctx);
55                 EC_GROUP_get_cofactor(EC_KEY_get0_group(priv_key), cofactor, ctx);
56     BN_mod_mul(UKM, UKM, cofactor, order, ctx);
57     BN_mod_mul(p, key, UKM, order, ctx);
58     if (!EC_POINT_mul(EC_KEY_get0_group(priv_key), pnt, NULL, pub_key, p, ctx)) {
59         GOSTerr(GOST_F_VKO_COMPUTE_KEY, GOST_R_ERROR_POINT_MUL);
60         goto err;
61     }
62     if (!EC_POINT_get_affine_coordinates(EC_KEY_get0_group(priv_key),
63                                         pnt, X, Y, ctx)) {
64         GOSTerr(GOST_F_VKO_COMPUTE_KEY, ERR_R_EC_LIB);
65         goto err;
66     }
67
68     half_len = BN_num_bytes(order);
69     buf_len = 2 * half_len;
70     databuf = OPENSSL_zalloc(buf_len);
71     if (!databuf) {
72         GOSTerr(GOST_F_VKO_COMPUTE_KEY, ERR_R_MALLOC_FAILURE);
73         goto err;
74     }
75
76     /*
77      * Serialize elliptic curve point same way as we do it when saving key
78      */
79     store_bignum(Y, databuf, half_len);
80     store_bignum(X, databuf + half_len, half_len);
81     /* And reverse byte order of whole buffer */
82     BUF_reverse(databuf, NULL, buf_len);
83
84     mdctx = EVP_MD_CTX_new();
85     if (!mdctx) {
86         GOSTerr(GOST_F_VKO_COMPUTE_KEY, ERR_R_MALLOC_FAILURE);
87         goto err;
88     }
89     EVP_MD_CTX_init(mdctx);
90     EVP_DigestInit_ex(mdctx, md, NULL);
91     EVP_DigestUpdate(mdctx, databuf, buf_len);
92     EVP_DigestFinal_ex(mdctx, shared_key, NULL);
93     ret = (EVP_MD_size(md) > 0) ? EVP_MD_size(md) : 0;
94
95  err:
96     BN_free(UKM);
97     BN_CTX_end(ctx);
98     BN_CTX_free(ctx);
99
100     EC_POINT_free(pnt);
101
102     EVP_MD_CTX_free(mdctx);
103
104     OPENSSL_free(databuf);
105
106     return ret;
107 }
108
109 /*
110  * keyout expected to be 64 bytes
111  * */
112 static int gost_keg(const unsigned char *ukm_source, int pkey_nid,
113                     const EC_POINT *pub_key, const EC_KEY *priv_key,
114                     unsigned char *keyout)
115 {
116 /* Adjust UKM */
117     unsigned char real_ukm[16];
118     size_t keylen = 0;
119
120     memset(real_ukm, 0, 16);
121     if (memcmp(ukm_source, real_ukm, 16) == 0)
122         real_ukm[15] = 1;
123     else {
124         memcpy(real_ukm, ukm_source, 16);
125         BUF_reverse(real_ukm, NULL, 16);
126     }
127
128     switch (pkey_nid) {
129     case NID_id_GostR3410_2012_512:
130         keylen =
131             VKO_compute_key(keyout, pub_key, priv_key, real_ukm, 16,
132                             NID_id_GostR3411_2012_512);
133         return (keylen) ? keylen : 0;
134         break;
135
136     case NID_id_GostR3410_2012_256:
137         {
138             unsigned char tmpkey[32];
139             keylen =
140               VKO_compute_key(tmpkey, pub_key, priv_key, real_ukm, 16,
141                   NID_id_GostR3411_2012_256);
142
143             if (keylen == 0)
144                 return 0;
145
146             if (gost_kdftree2012_256
147                 (keyout, 64, tmpkey, 32, (const unsigned char *)"kdf tree", 8,
148                  ukm_source + 16, 8, 1) > 0)
149                 keylen = 64;
150             else
151                 keylen = 0;
152
153             OPENSSL_cleanse(tmpkey, 32);
154             return (keylen) ? keylen : 0;
155             break;
156         }
157     default:
158         return 0;
159     }
160 }
161
162 /*
163  * EVP_PKEY_METHOD callback derive.
164  * Implements VKO R 34.10-2001/2012 algorithms
165  */
166 int pkey_gost_ec_derive(EVP_PKEY_CTX *ctx, unsigned char *key, size_t *keylen)
167 {
168     /*
169      * Public key of peer in the ctx field peerkey
170      * Our private key in the ctx pkey
171      * ukm is in the algorithm specific context data
172      */
173     EVP_PKEY *my_key = EVP_PKEY_CTX_get0_pkey(ctx);
174     EVP_PKEY *peer_key = EVP_PKEY_CTX_get0_peerkey(ctx);
175     struct gost_pmeth_data *data = EVP_PKEY_CTX_get_data(ctx);
176     int dgst_nid = NID_undef;
177
178     if (!data || !data->shared_ukm) {
179         GOSTerr(GOST_F_PKEY_GOST_EC_DERIVE, GOST_R_UKM_NOT_SET);
180         return 0;
181     }
182     /*
183      * shared_ukm_size = 8 stands for pre-2018 cipher suites
184      * It means 32 bytes of key length, 8 byte UKM, 32-bytes hash
185      *
186      * shared_ukm_size = 32 stands for pre-2018 cipher suites
187      * It means 64 bytes of shared_key, 16 bytes of UKM and either
188      * 64 bytes of hash or 64 bytes of TLSTREE output
189      * */
190
191     switch (data->shared_ukm_size) {
192     case 8:
193         {
194             if (key == NULL) {
195                 *keylen = 32;
196                 return 1;
197             }
198
199             EVP_PKEY_get_default_digest_nid(my_key, &dgst_nid);
200             if (dgst_nid == NID_id_GostR3411_2012_512)
201                 dgst_nid = NID_id_GostR3411_2012_256;
202
203             *keylen =
204                 VKO_compute_key(key,
205                                 EC_KEY_get0_public_key(EVP_PKEY_get0(peer_key)),
206                                 (EC_KEY *)EVP_PKEY_get0(my_key),
207                                 data->shared_ukm, 8, dgst_nid);
208             return (*keylen) ? 1 : 0;
209         }
210         break;
211     case 32:
212         {
213             if (key == NULL) {
214                 *keylen = 64;
215                 return 1;
216             }
217
218             *keylen = gost_keg(data->shared_ukm, EVP_PKEY_id(my_key),
219                                EC_KEY_get0_public_key(EVP_PKEY_get0(peer_key)),
220                                (EC_KEY *)EVP_PKEY_get0(my_key), key);
221             return (*keylen) ? 1 : 0;
222         }
223
224         break;
225     default:
226         return 0;
227     }
228 }
229
230 /*
231  * Generates ephemeral key based on pubk algorithm computes shared key using
232  * VKO and returns filled up GOST_KEY_TRANSPORT structure
233  */
234
235 /*
236  * EVP_PKEY_METHOD callback encrypt
237  * Implementation of GOST2001/12 key transport, cryptopro variation
238  */
239
240 static int pkey_GOST_ECcp_encrypt(EVP_PKEY_CTX *pctx, unsigned char *out,
241                            size_t *out_len, const unsigned char *key,
242                            size_t key_len)
243 {
244     GOST_KEY_TRANSPORT *gkt = NULL;
245     EVP_PKEY *pubk = EVP_PKEY_CTX_get0_pkey(pctx);
246     struct gost_pmeth_data *data = EVP_PKEY_CTX_get_data(pctx);
247     int pkey_nid = EVP_PKEY_base_id(pubk);
248     ASN1_OBJECT *crypt_params_obj = (pkey_nid == NID_id_GostR3410_2001) ?
249         OBJ_nid2obj(NID_id_Gost28147_89_CryptoPro_A_ParamSet) :
250         OBJ_nid2obj(NID_id_tc26_gost_28147_param_Z);
251     const struct gost_cipher_info *param =
252         get_encryption_params(crypt_params_obj);
253     unsigned char ukm[8], shared_key[32], crypted_key[44];
254     int ret = 0;
255     int key_is_ephemeral = 1;
256     gost_ctx cctx;
257     EVP_PKEY *sec_key = EVP_PKEY_CTX_get0_peerkey(pctx);
258     if (data->shared_ukm) {
259         memcpy(ukm, data->shared_ukm, 8);
260     } else {
261         if (RAND_bytes(ukm, 8) <= 0) {
262             GOSTerr(GOST_F_PKEY_GOST_ECCP_ENCRYPT, GOST_R_RNG_ERROR);
263             return 0;
264         }
265     }
266     /* Check for private key in the peer_key of context */
267     if (sec_key) {
268         key_is_ephemeral = 0;
269         if (!gost_get0_priv_key(sec_key)) {
270             GOSTerr(GOST_F_PKEY_GOST_ECCP_ENCRYPT,
271                     GOST_R_NO_PRIVATE_PART_OF_NON_EPHEMERAL_KEYPAIR);
272             goto err;
273         }
274     } else {
275         key_is_ephemeral = 1;
276         if (out) {
277             sec_key = EVP_PKEY_new();
278             if (!EVP_PKEY_assign(sec_key, EVP_PKEY_base_id(pubk), EC_KEY_new())
279                 || !EVP_PKEY_copy_parameters(sec_key, pubk)
280                 || !gost_ec_keygen(EVP_PKEY_get0(sec_key))) {
281                 GOSTerr(GOST_F_PKEY_GOST_ECCP_ENCRYPT,
282                         GOST_R_ERROR_COMPUTING_SHARED_KEY);
283                 goto err;
284             }
285         }
286     }
287     if (!get_gost_engine_param(GOST_PARAM_CRYPT_PARAMS)
288         && param == gost_cipher_list) {
289         param = gost_cipher_list;
290     }
291     if (out) {
292         int dgst_nid = NID_undef;
293         EVP_PKEY_get_default_digest_nid(pubk, &dgst_nid);
294         if (dgst_nid == NID_id_GostR3411_2012_512)
295             dgst_nid = NID_id_GostR3411_2012_256;
296
297         if (!VKO_compute_key(shared_key,
298                              EC_KEY_get0_public_key(EVP_PKEY_get0(pubk)),
299                              EVP_PKEY_get0(sec_key), ukm, 8, dgst_nid)) {
300             GOSTerr(GOST_F_PKEY_GOST_ECCP_ENCRYPT,
301                     GOST_R_ERROR_COMPUTING_SHARED_KEY);
302             goto err;
303         }
304         gost_init(&cctx, param->sblock);
305         keyWrapCryptoPro(&cctx, shared_key, ukm, key, crypted_key);
306     }
307     gkt = GOST_KEY_TRANSPORT_new();
308     if (!gkt) {
309         goto err;
310     }
311     if (!ASN1_OCTET_STRING_set(gkt->key_agreement_info->eph_iv, ukm, 8)) {
312         goto err;
313     }
314     if (!ASN1_OCTET_STRING_set(gkt->key_info->imit, crypted_key + 40, 4)) {
315         goto err;
316     }
317     if (!ASN1_OCTET_STRING_set
318         (gkt->key_info->encrypted_key, crypted_key + 8, 32)) {
319         goto err;
320     }
321     if (key_is_ephemeral) {
322         if (!X509_PUBKEY_set
323             (&gkt->key_agreement_info->ephem_key, out ? sec_key : pubk)) {
324             GOSTerr(GOST_F_PKEY_GOST_ECCP_ENCRYPT,
325                     GOST_R_CANNOT_PACK_EPHEMERAL_KEY);
326             goto err;
327         }
328     }
329     ASN1_OBJECT_free(gkt->key_agreement_info->cipher);
330     gkt->key_agreement_info->cipher = OBJ_nid2obj(param->nid);
331     if (key_is_ephemeral)
332         EVP_PKEY_free(sec_key);
333     if (!key_is_ephemeral) {
334         /* Set control "public key from client certificate used" */
335         if (EVP_PKEY_CTX_ctrl(pctx, -1, -1, EVP_PKEY_CTRL_PEER_KEY, 3, NULL)
336             <= 0) {
337             GOSTerr(GOST_F_PKEY_GOST_ECCP_ENCRYPT, GOST_R_CTRL_CALL_FAILED);
338             goto err;
339         }
340     }
341     if ((*out_len = i2d_GOST_KEY_TRANSPORT(gkt, out ? &out : NULL)) > 0)
342         ret = 1;
343     GOST_KEY_TRANSPORT_free(gkt);
344     return ret;
345  err:
346     if (key_is_ephemeral)
347         EVP_PKEY_free(sec_key);
348     GOST_KEY_TRANSPORT_free(gkt);
349     return -1;
350 }
351
352 /*
353  * EVP_PKEY_METHOD callback decrypt
354  * Implementation of GOST2018 key transport
355  */
356 static int pkey_gost2018_encrypt(EVP_PKEY_CTX *pctx, unsigned char *out,
357                           size_t *out_len, const unsigned char *key,
358                           size_t key_len)
359 {
360     PSKeyTransport_gost *pst = NULL;
361     EVP_PKEY *pubk = EVP_PKEY_CTX_get0_pkey(pctx);
362     struct gost_pmeth_data *data = EVP_PKEY_CTX_get_data(pctx);
363     int pkey_nid = EVP_PKEY_base_id(pubk);
364     unsigned char expkeys[64];
365     EVP_PKEY *sec_key = NULL;
366     int ret = 0;
367     int mac_nid = NID_undef;
368     size_t mac_len = 0;
369     int exp_len = 0, iv_len = 0;
370     unsigned char *exp_buf = NULL;
371     int key_is_ephemeral = 0;
372
373     switch (data->cipher_nid) {
374     case NID_magma_ctr:
375         mac_nid = NID_magma_mac;
376         mac_len = 8;
377         iv_len = 4;
378         break;
379     case NID_grasshopper_ctr:
380         mac_nid = NID_grasshopper_mac;
381         mac_len = 16;
382         iv_len = 8;
383         break;
384     default:
385         GOSTerr(GOST_F_PKEY_GOST2018_ENCRYPT, GOST_R_INVALID_CIPHER);
386         return -1;
387         break;
388     }
389     exp_len = key_len + mac_len;
390     exp_buf = OPENSSL_malloc(exp_len);
391     if (!exp_buf) {
392         GOSTerr(GOST_F_PKEY_GOST2018_ENCRYPT, ERR_R_MALLOC_FAILURE);
393         return -1;
394     }
395
396     sec_key = EVP_PKEY_CTX_get0_peerkey(pctx);
397     if (!sec_key)
398     {
399       sec_key = EVP_PKEY_new();
400       if (sec_key == NULL) {
401         GOSTerr(GOST_F_PKEY_GOST2018_ENCRYPT, ERR_R_MALLOC_FAILURE );
402         goto err;
403       }
404
405       if (!EVP_PKEY_assign(sec_key, EVP_PKEY_base_id(pubk), EC_KEY_new())
406           || !EVP_PKEY_copy_parameters(sec_key, pubk)
407           || !gost_ec_keygen(EVP_PKEY_get0(sec_key))) {
408         GOSTerr(GOST_F_PKEY_GOST2018_ENCRYPT,
409             GOST_R_ERROR_COMPUTING_SHARED_KEY);
410         goto err;
411       }
412       key_is_ephemeral = 1;
413     }
414
415     if (gost_keg(data->shared_ukm, pkey_nid,
416                  EC_KEY_get0_public_key(EVP_PKEY_get0(pubk)),
417                  EVP_PKEY_get0(sec_key), expkeys) <= 0) {
418         GOSTerr(GOST_F_PKEY_GOST2018_ENCRYPT,
419                 GOST_R_ERROR_COMPUTING_EXPORT_KEYS);
420         goto err;
421     }
422
423     if (gost_kexp15(key, key_len, data->cipher_nid, expkeys + 32,
424                     mac_nid, expkeys + 0, data->shared_ukm + 24, iv_len,
425                     exp_buf, &exp_len) <= 0) {
426         GOSTerr(GOST_F_PKEY_GOST2018_ENCRYPT, GOST_R_CANNOT_PACK_EPHEMERAL_KEY);
427         goto err;
428     }
429
430     pst = PSKeyTransport_gost_new();
431     if (!pst) {
432         GOSTerr(GOST_F_PKEY_GOST2018_ENCRYPT, ERR_R_MALLOC_FAILURE);
433         goto err;
434     }
435
436     if (!ASN1_OCTET_STRING_set(pst->psexp, exp_buf, exp_len)) {
437         GOSTerr(GOST_F_PKEY_GOST2018_ENCRYPT, ERR_R_MALLOC_FAILURE);
438         goto err;
439     }
440
441     if (!X509_PUBKEY_set(&pst->ephem_key, out ? sec_key : pubk)) {
442         GOSTerr(GOST_F_PKEY_GOST2018_ENCRYPT, GOST_R_CANNOT_PACK_EPHEMERAL_KEY);
443         goto err;
444     }
445
446     if ((*out_len = i2d_PSKeyTransport_gost(pst, out ? &out : NULL)) > 0)
447         ret = 1;
448  err:
449     if (key_is_ephemeral)
450       EVP_PKEY_free(sec_key);
451
452     PSKeyTransport_gost_free(pst);
453     OPENSSL_free(exp_buf);
454     return ret;
455 }
456
457 int pkey_gost_encrypt(EVP_PKEY_CTX *pctx, unsigned char *out,
458                       size_t *out_len, const unsigned char *key, size_t key_len)
459 {
460     struct gost_pmeth_data *data = EVP_PKEY_CTX_get_data(pctx);
461     if (data->shared_ukm == NULL || data->shared_ukm_size == 8)
462         return pkey_GOST_ECcp_encrypt(pctx, out, out_len, key, key_len);
463     else if (data->shared_ukm_size == 32)
464         return pkey_gost2018_encrypt(pctx, out, out_len, key, key_len);
465     else {
466         GOSTerr(GOST_F_PKEY_GOST_ENCRYPT, ERR_R_INTERNAL_ERROR);
467         return -1;
468     }
469 }
470
471 /*
472  * EVP_PKEY_METHOD callback decrypt
473  * Implementation of GOST2001/12 key transport, cryptopro variation
474  */
475 static int pkey_GOST_ECcp_decrypt(EVP_PKEY_CTX *pctx, unsigned char *key,
476                            size_t *key_len, const unsigned char *in,
477                            size_t in_len)
478 {
479     const unsigned char *p = in;
480     EVP_PKEY *priv = EVP_PKEY_CTX_get0_pkey(pctx);
481     GOST_KEY_TRANSPORT *gkt = NULL;
482     int ret = 0;
483     unsigned char wrappedKey[44];
484     unsigned char sharedKey[32];
485     gost_ctx ctx;
486     const struct gost_cipher_info *param = NULL;
487     EVP_PKEY *eph_key = NULL, *peerkey = NULL;
488     int dgst_nid = NID_undef;
489
490     if (!key) {
491         *key_len = 32;
492         return 1;
493     }
494     gkt = d2i_GOST_KEY_TRANSPORT(NULL, (const unsigned char **)&p, in_len);
495     if (!gkt) {
496         GOSTerr(GOST_F_PKEY_GOST_ECCP_DECRYPT,
497                 GOST_R_ERROR_PARSING_KEY_TRANSPORT_INFO);
498         return -1;
499     }
500
501     /* If key transport structure contains public key, use it */
502     eph_key = X509_PUBKEY_get(gkt->key_agreement_info->ephem_key);
503     if (eph_key) {
504         if (EVP_PKEY_derive_set_peer(pctx, eph_key) <= 0) {
505             GOSTerr(GOST_F_PKEY_GOST_ECCP_DECRYPT,
506                     GOST_R_INCOMPATIBLE_PEER_KEY);
507             goto err;
508         }
509     } else {
510         /* Set control "public key from client certificate used" */
511         if (EVP_PKEY_CTX_ctrl(pctx, -1, -1, EVP_PKEY_CTRL_PEER_KEY, 3, NULL)
512             <= 0) {
513             GOSTerr(GOST_F_PKEY_GOST_ECCP_DECRYPT, GOST_R_CTRL_CALL_FAILED);
514             goto err;
515         }
516     }
517     peerkey = EVP_PKEY_CTX_get0_peerkey(pctx);
518     if (!peerkey) {
519         GOSTerr(GOST_F_PKEY_GOST_ECCP_DECRYPT, GOST_R_NO_PEER_KEY);
520         goto err;
521     }
522
523     param = get_encryption_params(gkt->key_agreement_info->cipher);
524     if (!param) {
525         goto err;
526     }
527
528     gost_init(&ctx, param->sblock);
529     OPENSSL_assert(gkt->key_agreement_info->eph_iv->length == 8);
530     memcpy(wrappedKey, gkt->key_agreement_info->eph_iv->data, 8);
531     OPENSSL_assert(gkt->key_info->encrypted_key->length == 32);
532     memcpy(wrappedKey + 8, gkt->key_info->encrypted_key->data, 32);
533     OPENSSL_assert(gkt->key_info->imit->length == 4);
534     memcpy(wrappedKey + 40, gkt->key_info->imit->data, 4);
535
536     EVP_PKEY_get_default_digest_nid(priv, &dgst_nid);
537     if (dgst_nid == NID_id_GostR3411_2012_512)
538         dgst_nid = NID_id_GostR3411_2012_256;
539
540     if (!VKO_compute_key(sharedKey,
541                          EC_KEY_get0_public_key(EVP_PKEY_get0(peerkey)),
542                          EVP_PKEY_get0(priv), wrappedKey, 8, dgst_nid)) {
543         GOSTerr(GOST_F_PKEY_GOST_ECCP_DECRYPT,
544                 GOST_R_ERROR_COMPUTING_SHARED_KEY);
545         goto err;
546     }
547     if (!keyUnwrapCryptoPro(&ctx, sharedKey, wrappedKey, key)) {
548         GOSTerr(GOST_F_PKEY_GOST_ECCP_DECRYPT,
549                 GOST_R_ERROR_COMPUTING_SHARED_KEY);
550         goto err;
551     }
552
553     ret = 1;
554  err:
555     EVP_PKEY_free(eph_key);
556     GOST_KEY_TRANSPORT_free(gkt);
557     return ret;
558 }
559
560 /*
561  * EVP_PKEY_METHOD callback decrypt
562  * Implementation of GOST2018 key transport
563  */
564 static int pkey_gost2018_decrypt(EVP_PKEY_CTX *pctx, unsigned char *key,
565                           size_t *key_len, const unsigned char *in,
566                           size_t in_len)
567 {
568     const unsigned char *p = in;
569     struct gost_pmeth_data *data = EVP_PKEY_CTX_get_data(pctx);
570     EVP_PKEY *priv = EVP_PKEY_CTX_get0_pkey(pctx);
571     PSKeyTransport_gost *pst = NULL;
572     int ret = 0;
573     unsigned char expkeys[64];
574     EVP_PKEY *eph_key = NULL;
575     int pkey_nid = EVP_PKEY_base_id(priv);
576     int mac_nid = NID_undef;
577     int iv_len = 0;
578
579     switch (data->cipher_nid) {
580     case NID_magma_ctr:
581         mac_nid = NID_magma_mac;
582         iv_len = 4;
583         break;
584     case NID_grasshopper_ctr:
585         mac_nid = NID_grasshopper_mac;
586         iv_len = 8;
587         break;
588     default:
589         GOSTerr(GOST_F_PKEY_GOST2018_DECRYPT, GOST_R_INVALID_CIPHER);
590         return -1;
591         break;
592     }
593     if (!key) {
594         *key_len = 32;
595         return 1;
596     }
597
598     pst = d2i_PSKeyTransport_gost(NULL, (const unsigned char **)&p, in_len);
599     if (!pst) {
600         GOSTerr(GOST_F_PKEY_GOST2018_DECRYPT,
601                 GOST_R_ERROR_PARSING_KEY_TRANSPORT_INFO);
602         return -1;
603     }
604
605     eph_key = X509_PUBKEY_get(pst->ephem_key);
606 /*
607  * TODO beldmit
608    1.  Checks the next three conditions fulfilling and terminates the
609    connection with fatal error if not.
610
611    o  Q_eph is on the same curve as server public key;
612
613    o  Q_eph is not equal to zero point;
614
615    o  q * Q_eph is not equal to zero point.
616 */
617     if (gost_keg(data->shared_ukm, pkey_nid,
618                  EC_KEY_get0_public_key(EVP_PKEY_get0(eph_key)),
619                  EVP_PKEY_get0(priv), expkeys) <= 0) {
620         GOSTerr(GOST_F_PKEY_GOST2018_DECRYPT,
621                 GOST_R_ERROR_COMPUTING_EXPORT_KEYS);
622         goto err;
623     }
624
625     if (gost_kimp15(ASN1_STRING_get0_data(pst->psexp),
626                     ASN1_STRING_length(pst->psexp), data->cipher_nid,
627                     expkeys + 32, mac_nid, expkeys + 0, data->shared_ukm + 24,
628                     iv_len, key) <= 0) {
629         GOSTerr(GOST_F_PKEY_GOST2018_DECRYPT, GOST_R_CANNOT_UNPACK_EPHEMERAL_KEY);
630         goto err;
631     }
632
633     ret = 1;
634  err:
635     EVP_PKEY_free(eph_key);
636     PSKeyTransport_gost_free(pst);
637     return ret;
638 }
639
640 int pkey_gost_decrypt(EVP_PKEY_CTX *pctx, unsigned char *key,
641                       size_t *key_len, const unsigned char *in, size_t in_len)
642 {
643     struct gost_pmeth_data *data = EVP_PKEY_CTX_get_data(pctx);
644     if (data->shared_ukm == NULL || data->shared_ukm_size == 8)
645         return pkey_GOST_ECcp_decrypt(pctx, key, key_len, in, in_len);
646     else if (data->shared_ukm_size == 32)
647         return pkey_gost2018_decrypt(pctx, key, key_len, in, in_len);
648     else {
649         GOSTerr(GOST_F_PKEY_GOST_DECRYPT, ERR_R_INTERNAL_ERROR);
650         return -1;
651     }
652 }