Если собрать открытый энжин в составе openssl, то файл gosthash2012.c компилируется командой
gcc -I../../include -fPIC -DOPENSSL_PIC -DZLIB -DOPENSSL_THREADS -D_REENTRANT -DDSO_DLFCN -DHAVE_DLFCN_H -g -Wa,--noexecstack -m64 -DL_ENDIAN -O3 -Wall -DOPENSSL_IA32_SSE2 -DOPENSSL_BN_ASM_MONT -DOPENSSL_BN_ASM_MONT5 -DOPENSSL_BN_ASM_GF2m -DRC4_ASM -DSHA1_ASM -DSHA256_ASM -DSHA512_ASM -DMD5_ASM -DAES_ASM -DVPAES_ASM -DBSAES_ASM -DWHIRLPOOL_ASM -DGHASH_ASM -DECP_NISTZ256_ASM -c -o gosthash2012.o gosthash2012.c
и в результате получается объектник, который работает правильно.
Если же выкачать открытый энжин и собирать gost12sum, не собирая предварительно openssl, то файл gosthash2012.c компилируется командой
cc -I../../include -g -c -o gosthash2012.o gosthash2012.c
и в результате получается объектник, который считает хэши НЕ правильно.