Update to be compatible with openssl#15100

Update gost_ec_keyx.c

It's not right to have segmentation faults.

Don't put test results or intermediary files in the source tree

When building in a directory that's separate from the source
directory, test results should end up in the build directory, not the
source directory.

Essentially, unless you do build in the source directory, it should be
regarded as read-only when building.

Install manuals in the correct location

Cmake doesn't support the variable CMAKE_INSTALL_DIR.  However, with
the GNUInstallDirs module, there is the variable CMAKE_INSTALL_MANDIR.

.github/workflows/codeql-analysis.yml: Bump the OpenSSL version

From 3.0.0-alpha6 to 3.0.0-alpha13, mostly for Analysis to avoid
getting failures when compiling, considering that the GOST source has
adapted for the latter version.

Make it compatible with cmake versions lower than 3.14, specify explicitly destination paths

OpenSSL version bump

EVP_MAC_init API changed

Always cNORM before "\n"

Using cNORM after "\n" may or may not work, probably because of the
line buffered nature of standard output.

If an error is displayed immediately after a printf that has cNORM
after "\n", the error output sometimes "overrides" the cNORM, and you
may end up with a surprisingly colorful error message, not to mention
that this may also affect your prompt in the same manner.

The lesson is to always output cNORM before the ending "\n".

Modify installation instructions for gost-engine library and module

- Simplify the installation of libraries and programs to simply use
  defaults.
- Install only the gost engine in module form into the OpenSSL engine
  directory.
- Install the gostsum and gost12sum manuals in the normal man1 directory,
  as there's really no reason to install them among OpenSSL stuff
  specifically.
- Install the cmake configuration file.

Also build gost-engine in library form

In this form, the GOST engine isn't loadable through OpenSSL's dynamic
ENGINE loader, but directly as its own function, ENGINE_load_gost().
After making that call, the engine functionality can be used as usual.
This includes a public header file called gost-engine.h, which declares
that functions.

This also rearranges the code in gost_eng.c, as the binding
functionality was spread around in the file.  Now, it's all nicely
tucked at the end.

All tests are passing

Avoid some buffer overflows

OpenSSL version bump: alpha8 => alpha11

Build gcc-asan-openssl-master on MacOS X as well

Fix gost engine suffix (for MacOS X)

On MacOS X, OpenSSL and cmake have different ideas on what suffix a
dynamically loadable module should have.  OpenSSL expects .dylib,
while cmake uses .so by default.

Fixed by explicitly telling cmake to use the same suffix as for shared
libraries.

Remove the use of test/run_tests in favor of 'prove'

'prove' is a well developed TAP harness program, there's no real need
to write one's own.

We do need to set certain paths properly for the appropriate 'openssl'
program to be run.  We do that with a 'prove' plugin (WrapOpenSSL.pm)
that simply amends the appropriate system environment variables, given
a number of cmake generated environment variables that indicate where
OpenSSL files reside.

Move gost_cmds[] from gost_ctl.c to gost_eng.c

This make that array uniquely belonging to the engine proper, while
leaving the more generic gost parameters functionality in the
gost_core library.

Cleanup source organisation, and make 'gost' an actual module

GOST_CORE_SOURCE_FILES and GOST_ENGINE_SOURCE_FILES were a bit
disorganised, they are now re-arranged so GOST_ENGINE_SOURCE_FILES
contains ENGINE specific source only, and what was less ENGINE
specific was moved to GOST_CORE_SOURCE_FILES.  Furthermore,
GOST_LIB_SOURCE_FILES now includes GOST_CORE_SOURCE_FILES, so the
gost_core library is complete with all implementations.

As a consequence, 'gost' is now explicitly made into a dlopenable
module.  On some operating systems, that makes a difference.

This paves the way for alternative implementations based on the same
base code, such as a provider implementation.

It's quite possible that the re-arrangement done here isn't "pure"
enough.  Future development will tell.

Reverting 0669b5306

Adjust printing options as we print pubkey only

Update build instructions to make perl tests happy

Fixed tests to match the current messages

CI: Covert some Travis-CI to GitHub Actions

All, excluding ppc64le/s390x/ar64 architectures, macOS,
and Coverity run.

gost_crypt: process full available block in CFB and CNT mode

If at the input of the encryption function in the CFB mode we have
an integer number of blocks, then in the main loop all blocks will be
processed, except for the last one due to an incorrect border check.
The last block will be fully processed as a "partial" remainder, but
the initialization vector will not be updated. And, thus, the value
of IV will always be incorrect in this case.

This breaks stateless protocols due to an invalid initialization vector:
all messages except the first cannot be decrypted. (Naturally, we are
talking about a case with disabled key meshing, which does not allow
context recovery due to an erroneous implementation.)

It is worth noting here that the code for processing partial blocks
(both at the input of the encryption functions and at the output) is
a historically unnecessary artifact, since we do not set the
EVP_CIPH_FLAG_CUSTOM_CIPHER flag and, as a result, OpenSSL processes
partial blocks for us.

This patch corrects the checking of the main loop boundary.

A similar error is present in the code for the CNT mode, but there it
does not manifest itself in any way, because the restoration of the
state in this mode is impossible: even after disabling key meshing, we
still have the state-dependent transformation of the IV.

As an extra result of this fix, the code for processing partial blocks
can be completely removed now.

(cherry picked from commit cf402dd4d89271d5b1ca4ea938ce7a2f13a44d58)

update magma cipher ctr_acpkm mode encrypting

Fixed bug when acpkm key meshing didn't apply at appropriate time
during TLS secure exchange.
Unify usage of 'num' variable of EVP_CIPHER_CTX for kuznetchik and
magma.

Tests updated to support GOST2001DH

Add explicit support for NID_id_GostR3410_2001DH (GOST R 34.10-2001 DH)

Try to fix osx build

Increase OpenSSL alpha version

modernize ctrl function for magma & kuznechik TLS usage

modernize magma & kuznechik ctrl functions for EVP_CTRL_TLSTREE mode.
add some minor updates to store master key for using in magma TLSTREE mode.

Modernize OpenSSL error reporting

OpenSSL 3.0 deprecates function codes and ERR_PUT_error() in favor
of ERR_raise() and ERR_set_debug().

CMakeLists.txt: Fix warning on gcc-9

/root/rpmbuild/BUILD/openssl-gost-engine-1.1.1/CMakeFiles/CMakeTmp/src.c:4:14: warning: initialization of 'int *' from incompatible pointer type 'char *' [-Wincompatible-pointer-types]
    4 |     int *p = buf + 1;
      |              ^~~
/root/rpmbuild/BUILD/openssl-gost-engine-1.1.1/CMakeFiles/CMakeTmp/src.c:5:14: warning: initialization of 'int *' from incompatible pointer type 'char *' [-Wincompatible-pointer-types]
    5 |     int *q = buf + 2;
      |              ^~~

Reported-by: Ilya Shipitsin <https://github.com/chipitsine>
Fixes: #288

fix_cbc_281

Setup CodeQL for gost-engine

Fix Coverity #305799

disable gost key mask on gost94 digest steps due to performance issues

Compatibility with Solaris 10 (gcc 3.4.3)

Note, you will need to pass `-lsocket -lnsl` to the gcc for
socketpair(3SOCKET) to link `test_tls'.

KDF Tree fix for BIG_ENDIAN

Merge branch 'master' of https://github.com/gost-engine/engine

Strict alignment Kuznyechik bugfix

Provide cmake test if alignment requirement is strict

This is based on AX_CHECK_ALIGNED_ACCESS_REQUIRED from autoconf-archive.

Note, that on some arches unaligned access behavior could be changed at
runtime via prctl(1). Also, unaligned memory access is still slower (and
very slow on some arches) even if it's not strictly required.

Endianess bugfix

Adjust README.md

Tests adjustment

Fix Coverity #305798

Fix coverity #305799

Fix Coverity #305800

Plus some minor style fix

[ecp] validation with coverity

Update test to match current openssl messages

SSL tests fix

Use alpha6 openssl

Bugfix - arguments order

API renaming

Clang build fix

Edwards map fix

ECCKiila Changes from

https://gitlab.com/nisec/ecckiila/-/issues/2

https://gitlab.com/nisec/ecckiila/-/commit/7445ecabef77965743e0ae8d39d7433b07820be6

* X3 -> X1
* eliminate a temp variable

X3 = X1 as pointers is the reason this was still passing unit tests.
But that might not hold in future versions of ECCKiila, so fix it now.

Create codeql-analysis.yml

GOST EC armv7 aarch64 fixes

char defaults to signed on x86/x64, but unsigned on ARM.

test_derive: Test all modes of EVP_PKEY_derive

Test all VKOs and KEGs to work and produce same keys for both parties.

Add string option 'vko' for EVP_PKEY_CTRL_SET_VKO

Format: vko:<bit length>
Such as:
  vko:256 for VKO_256
  vko:512 for VKO_512
  vko:0   disable strict VKO mode, switch to other derive methods.

test_derive: Add VKO tests from R 50.1.113-2016

Allow to use raw VKO in EVP_PKEY_derive

Suitable for tests. Use EVP_PKEY_CTRL_SET_VKO ctrl with appropriate
digest nid to enable VKO mode.

GOST ECC optimizations (#263)

Standalone EC implementations from ECCKiila.

https://gitlab.com/nisec/ecckiila

Avoid some warnings

Clarify that OPENSSL_ROOT_DIR is absolute path

EVP_MAC: APIs were renamed so they need to be fixed in here too. (#267)

gost_ec_keyx: Update header plate with copyrights and description (#266)

GOST key agreement cofactor fix (#265)

* GOST key agreement cofactor fix

benchmark/sign: Fix crash on incorrect options

Bug found by Clang scan-build.

Fixes #258.

API changes

Missing copyright plates

Fixes #257

Reenable RSA TLS test

openssl/openssl#11720 provided the necessary fix.

test_sign: Test conversion of private keys to PEM and DER and back

test_params: Test conversion of cert to PEM and back

Test for conversion errors.

.travis.yml: Make Travis script fail early

Such as, no need to run tests if build failed.

test_tls: Force LEGACY-GOST2012-GOST8912-GOST8912 cipher list

Also, allow verbose connect setting VERBOSE=1 env var.

Merge branch 'master' of https://github.com/gost-engine/engine

Fix misleading indentation

Build fix

Fix code formating.

All tabs replcaded with spaces. One file was 2 tabs fornating.

Switch to alpha2

Add static to functions that not need to be exported

After registration rework many callbacks not need to be exported. Also,
some functions inconsistently declared static in headers and non-static
in the code. Finally, some functions just not need to be exported.

Remove unneeded declarations after registration rework

Update Copyright lines after registration rework

- Add year 2020 to old lines.
- Some files did not have original Copyright line - added "Update
  at 2020" to show that I'm not original contributor.
- Some files did not have License line - added reference to OpenSSL
  license.

gost_eng: Simplify digest registration

Now only simple array of `GOST_digest's. No need to care about aliases
anymore.

gost_md: Rework alias support in digest registration

gost_omac_acpkm: Rework registration of kuznyechik_ctracpkm_omac

gost_omac: Rework registration of magma/kuznyechik OMAC digests

Convert to a table method.

gost_md2012: Add registration using GostR3411_2012_{256,512}_digest

gost_crypt: Add Gost28147_89_MAC_digest, Gost28147_89_mac_12_digest

Covert their registration to table method.

gost_md: Rework digest registration, add GostR3411_94_digest

Introduce `GOST_digest' to hold digest registration data, and
`GOST_init_digest'/`GOST_deinit_digest` helpers to handle it.

It's single-level templatized.

gost_crypt: Add some sanity checking to GOST_init_cipher

- Stream cipher should have block_size 1, other should not.
- Stream cipher should not have padding.
- If IV is specified Custom IV flag should be set.

gost_eng: Rework (simplify) cipher registration

Now we don't need a struct to hold cipher list. And can use simple array
of pointers to `GOST_cipher'.

gost_keyexpimp: Rework cipher registration

gost_grasshopper_cipher: Remove redundant code

Not needed after cipher registration converted into table way.

gost_grasshopper_cipher: Rework cipher registration

This only adds registering via tables, but not removing obsolete code.

gost_crypt: Allow templates in GOST_cipher

Avoid duplication of struct values with help of 1-level templates.

gost_crypt: Add magma_cbc_cipher

gost_crypt: Add magma_ctr_acpkm_omac_cipher

gost_crypt: Add magma_ctr_acpkm_cipher