#define NULL ((void *)0)
typedef unsigned long size_t; // Customize by platform.
typedef long intptr_t;
typedef unsigned long uintptr_t;
typedef long scalar_t__; // Either arithmetic or pointer type.
/* By default, we understand bool (as a convenience). */
typedef int bool;
#define false 0
#define true 1

/* Forward declarations */

/* Type definitions */
typedef int /*<<< orphan*/ u_int32_t;
typedef int u_char;

/* Variables and functions */
int /*<<< orphan*/ bzero(char *, int);
scalar_t__ calloc(int, int);
int /*<<< orphan*/ logmsg(int, int, char *);
int /*<<< orphan*/ sha512(int *, int /*<<< orphan*/, int *);
char *mem_sha512sum(u_char *msg, u_int32_t len) {
  u_char sha512_result[512];
  char *sha512sum, *ptr;
  int i;
  sha512(msg, len, sha512_result);
  if (!(sha512sum = (char *)calloc(128 + 1, 1))) {
    logmsg(1, 1, "Error - Can't allocate memory for sha512 checksum string.\n");
    return (NULL);
  }
  bzero(sha512sum, 129);
  ptr = sha512sum;
  for (i = 0; i < 64; i++) {
    *ptr =
        ((sha512_result[i] >> 4) < 10 ? (sha512_result[i] >> 4) + '0'
                                      : (sha512_result[i] >> 4) + ('a' - 10));
    ++ptr;
    *ptr =
        ((sha512_result[i] & 0xf) < 10 ? (sha512_result[i] & 0xf) + '0'
                                       : (sha512_result[i] & 0xf) + ('a' - 10));
    ++ptr;
  }
  return (sha512sum);
}


x86 assembly (clang, -O0):
<mem_sha512sum>:
push   %rbp
mov    %rsp,%rbp
sub    $0x840,%rsp
mov    %rdi,-0x10(%rbp)
mov    %esi,-0x14(%rbp)
mov    -0x10(%rbp),%rdi
mov    -0x14(%rbp),%esi
lea    -0x820(%rbp),%rdx
call   1040 <sha512@plt>
mov    $0x81,%edi
mov    $0x1,%esi
call   1030 <calloc@plt>
mov    %rax,-0x828(%rbp)
cmp    $0x0,%rax
jne    11a5 <mem_sha512sum+0x65>
mov    $0x1,%esi
lea    0xe6f(%rip),%rdx
mov    %esi,%edi
call   1050 <logmsg@plt>
movq   $0x0,-0x8(%rbp)
jmp    12e6 <mem_sha512sum+0x1a6>
mov    -0x828(%rbp),%rdi
mov    $0x81,%esi
call   1060 <bzero@plt>
mov    -0x828(%rbp),%rax
mov    %rax,-0x830(%rbp)
movl   $0x0,-0x834(%rbp)
cmpl   $0x40,-0x834(%rbp)
jge    12db <mem_sha512sum+0x19b>
movslq -0x834(%rbp),%rax
mov    -0x820(%rbp,%rax,4),%eax
sar    $0x4,%eax
cmp    $0xa,%eax
jge    1214 <mem_sha512sum+0xd4>
movslq -0x834(%rbp),%rax
mov    -0x820(%rbp,%rax,4),%eax
sar    $0x4,%eax
add    $0x30,%eax
mov    %eax,-0x838(%rbp)
jmp    122e <mem_sha512sum+0xee>
movslq -0x834(%rbp),%rax
mov    -0x820(%rbp,%rax,4),%eax
sar    $0x4,%eax
add    $0x57,%eax
mov    %eax,-0x838(%rbp)
mov    -0x838(%rbp),%eax
mov    %al,%cl
mov    -0x830(%rbp),%rax
mov    %cl,(%rax)
mov    -0x830(%rbp),%rax
add    $0x1,%rax
mov    %rax,-0x830(%rbp)
movslq -0x834(%rbp),%rax
mov    -0x820(%rbp,%rax,4),%eax
and    $0xf,%eax
cmp    $0xa,%eax
jge    128a <mem_sha512sum+0x14a>
movslq -0x834(%rbp),%rax
mov    -0x820(%rbp,%rax,4),%eax
and    $0xf,%eax
add    $0x30,%eax
mov    %eax,-0x83c(%rbp)
jmp    12a4 <mem_sha512sum+0x164>
movslq -0x834(%rbp),%rax
mov    -0x820(%rbp,%rax,4),%eax
and    $0xf,%eax
add    $0x57,%eax
mov    %eax,-0x83c(%rbp)
mov    -0x83c(%rbp),%eax
mov    %al,%cl
mov    -0x830(%rbp),%rax
mov    %cl,(%rax)
mov    -0x830(%rbp),%rax
add    $0x1,%rax
mov    %rax,-0x830(%rbp)
mov    -0x834(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x834(%rbp)
jmp    11ce <mem_sha512sum+0x8e>
mov    -0x828(%rbp),%rax
mov    %rax,-0x8(%rbp)
mov    -0x8(%rbp),%rax
add    $0x840,%rsp
pop    %rbp
ret

x86 assembly (clang, -O2):
<mem_sha512sum>:
push   %r14
push   %rbx
sub    $0x808,%rsp
mov    %rsp,%r14
mov    %r14,%rdx
call   1040 <sha512@plt>
mov    $0x81,%edi
mov    $0x1,%esi
call   1030 <calloc@plt>
test   %rax,%rax
je     11e6 <mem_sha512sum+0xa6>
mov    %rax,%rbx
mov    %rax,%rdi
mov    $0x81,%esi
call   1060 <bzero@plt>
lea    0x100(%rsp),%rax
cmp    %rax,%rbx
jae    1203 <mem_sha512sum+0xc3>
mov    %rbx,%rax
sub    $0xffffffffffffff80,%rax
cmp    %r14,%rax
jbe    1203 <mem_sha512sum+0xc3>
xor    %eax,%eax
cs nopw 0x0(%rax,%rax,1)
xchg   %ax,%ax
mov    (%rsp,%rax,4),%ecx
mov    %ecx,%edx
shr    $0x4,%edx
lea    0x57(%rdx),%esi
add    $0x30,%edx
cmp    $0xa0,%ecx
cmovge %esi,%edx
mov    %dl,(%rbx,%rax,2)
mov    (%rsp,%rax,4),%ecx
and    $0xf,%ecx
lea    0x57(%rcx),%edx
lea    0x30(%rcx),%esi
cmp    $0xa,%ecx
movzbl %sil,%ecx
movzbl %dl,%edx
cmovb  %ecx,%edx
mov    %dl,0x1(%rbx,%rax,2)
add    $0x1,%rax
cmp    $0x40,%rax
jne    11a0 <mem_sha512sum+0x60>
jmp    12b7 <mem_sha512sum+0x177>
lea    0xe73(%rip),%rdx
mov    $0x1,%edi
mov    $0x1,%esi
call   1050 <logmsg@plt>
xor    %ebx,%ebx
jmp    12b7 <mem_sha512sum+0x177>
xor    %eax,%eax
movdqa 0xdf2(%rip),%xmm8
movdqa 0xdfa(%rip),%xmm1
movdqa 0xe02(%rip),%xmm2
movdqa 0xe09(%rip),%xmm9
movdqa 0xe11(%rip),%xmm4
movdqa 0xe19(%rip),%xmm5
nopw   0x0(%rax,%rax,1)
movdqa (%rsp,%rax,4),%xmm7
movdqa %xmm7,%xmm0
psrld  $0x4,%xmm0
movdqa %xmm8,%xmm6
pcmpgtd %xmm7,%xmm6
movdqa %xmm6,%xmm3
pandn  %xmm1,%xmm3
pand   %xmm2,%xmm6
por    %xmm3,%xmm6
paddd  %xmm0,%xmm6
pand   %xmm5,%xmm6
packuswb %xmm6,%xmm6
packuswb %xmm6,%xmm6
pand   %xmm9,%xmm7
movdqa %xmm4,%xmm0
pcmpgtd %xmm7,%xmm0
movdqa %xmm7,%xmm3
por    %xmm2,%xmm3
paddd  %xmm1,%xmm7
pand   %xmm0,%xmm3
pandn  %xmm7,%xmm0
por    %xmm3,%xmm0
packuswb %xmm0,%xmm0
packuswb %xmm0,%xmm0
punpcklbw %xmm0,%xmm6
movq   %xmm6,(%rbx,%rax,2)
add    $0x4,%rax
cmp    $0x40,%rax
jne    1240 <mem_sha512sum+0x100>
mov    %rbx,%rax
add    $0x808,%rsp
pop    %rbx
pop    %r14
ret

LLVM IR (-O0):
@.str = [59 x i8] c"Error - Can't allocate memory for sha512 checksum string.\0A\00"
define i8* @mem_sha512sum(i32* %0, i32 %1) {
%3 = alloca i8*
%4 = alloca i32*
%5 = alloca i32
%6 = alloca [512 x i32]
%7 = alloca i8*
%8 = alloca i8*
%9 = alloca i32
store i32* %0, i32** %4
store i32 %1, i32* %5
%10 = load i32*, i32** %4
%11 = load i32, i32* %5
%12 = getelementptr inbounds [512 x i32], [512 x i32]* %6, i64 0, i64 0
%13 = call i32 @sha512(i32* %10, i32 %11, i32* %12)
%14 = call i64 @calloc(i32 129, i32 1)
%15 = inttoptr i64 %14 to i8*
store i8* %15, i8** %7
%16 = icmp ne i8* %15, null
br i1 %16, label %19, label %17
17: ; preds = %2
%18 = call i32 @logmsg(i32 1, i32 1, i8* getelementptr inbounds ([59 x i8], [59 x i8]* @.str, i64 0, i64 0))
store i8* null, i8** %3
br label %84
19: ; preds = %2
%20 = load i8*, i8** %7
%21 = call i32 @bzero(i8* %20, i32 129)
%22 = load i8*, i8** %7
store i8* %22, i8** %8
store i32 0, i32* %9
br label %23
23: ; preds = %79, %19
%24 = load i32, i32* %9
%25 = icmp slt i32 %24, 64
br i1 %25, label %26, label %82
26: ; preds = %23
%27 = load i32, i32* %9
%28 = sext i32 %27 to i64
%29 = getelementptr inbounds [512 x i32], [512 x i32]* %6, i64 0, i64 %28
%30 = load i32, i32* %29
%31 = ashr i32 %30, 4
%32 = icmp slt i32 %31, 10
br i1 %32, label %33, label %40
33: ; preds = %26
%34 = load i32, i32* %9
%35 = sext i32 %34 to i64
%36 = getelementptr inbounds [512 x i32], [512 x i32]* %6, i64 0, i64 %35
%37 = load i32, i32* %36
%38 = ashr i32 %37, 4
%39 = add nsw i32 %38, 48
br label %47
40: ; preds = %26
%41 = load i32, i32* %9
%42 = sext i32 %41 to i64
%43 = getelementptr inbounds [512 x i32], [512 x i32]* %6, i64 0, i64 %42
%44 = load i32, i32* %43
%45 = ashr i32 %44, 4
%46 = add nsw i32 %45, 87
br label %47
47: ; preds = %40, %33
%48 = phi i32 [ %39, %33 ], [ %46, %40 ]
%49 = trunc i32 %48 to i8
%50 = load i8*, i8** %8
store i8 %49, i8* %50
%51 = load i8*, i8** %8
%52 = getelementptr inbounds i8, i8* %51, i32 1
store i8* %52, i8** %8
%53 = load i32, i32* %9
%54 = sext i32 %53 to i64
%55 = getelementptr inbounds [512 x i32], [512 x i32]* %6, i64 0, i64 %54
%56 = load i32, i32* %55
%57 = and i32 %56, 15
%58 = icmp slt i32 %57, 10
br i1 %58, label %59, label %66
59: ; preds = %47
%60 = load i32, i32* %9
%61 = sext i32 %60 to i64
%62 = getelementptr inbounds [512 x i32], [512 x i32]* %6, i64 0, i64 %61
%63 = load i32, i32* %62
%64 = and i32 %63, 15
%65 = add nsw i32 %64, 48
br label %73
66: ; preds = %47
%67 = load i32, i32* %9
%68 = sext i32 %67 to i64
%69 = getelementptr inbounds [512 x i32], [512 x i32]* %6, i64 0, i64 %68
%70 = load i32, i32* %69
%71 = and i32 %70, 15
%72 = add nsw i32 %71, 87
br label %73
73: ; preds = %66, %59
%74 = phi i32 [ %65, %59 ], [ %72, %66 ]
%75 = trunc i32 %74 to i8
%76 = load i8*, i8** %8
store i8 %75, i8* %76
%77 = load i8*, i8** %8
%78 = getelementptr inbounds i8, i8* %77, i32 1
store i8* %78, i8** %8
br label %79
79: ; preds = %73
%80 = load i32, i32* %9
%81 = add nsw i32 %80, 1
store i32 %81, i32* %9
br label %23
82: ; preds = %23
%83 = load i8*, i8** %7
store i8* %83, i8** %3
br label %84
84: ; preds = %82, %17
%85 = load i8*, i8** %3
ret i8* %85
}

LLVM IR (-O2):
@.str = [59 x i8] c"Error - Can't allocate memory for sha512 checksum string.\0A\00"
define i8* @mem_sha512sum(i32* %0, i32 %1) {
%3 = alloca [512 x i32]
%4 = bitcast [512 x i32]* %3 to i8*
%5 = getelementptr inbounds [512 x i32], [512 x i32]* %3, i64 0, i64 0
%6 = call i32 @sha512(i32* %0, i32 %1, i32* %5)
%7 = call i64 @calloc(i32 129, i32 1)
%8 = inttoptr i64 %7 to i8*
%9 = icmp eq i64 %7, 0
br i1 %9, label %10, label %12
10: ; preds = %2
%11 = call i32 @logmsg(i32 1, i32 1, i8* getelementptr inbounds ([59 x i8], [59 x i8]* @.str, i64 0, i64 0))
br label %66
12: ; preds = %2
%13 = bitcast [512 x i32]* %3 to i8*
%14 = call i32 @bzero(i8* %8, i32 129)
%15 = getelementptr i8, i8* %8, i64 128
%16 = getelementptr inbounds [512 x i32], [512 x i32]* %3, i64 0, i64 64
%17 = bitcast i32* %16 to i8*
%18 = icmp ult i8* %8, %17
%19 = icmp ugt i8* %15, %13
%20 = and i1 %18, %19
br i1 %20, label %45, label %21
21: ; preds = %12, %21
%22 = phi i64 [ %43, %21 ], [ 0, %12 ]
%23 = shl i64 %22, 1
%24 = getelementptr inbounds [512 x i32], [512 x i32]* %3, i64 0, i64 %22
%25 = bitcast i32* %24 to <4 x i32>*
%26 = load <4 x i32>, <4 x i32>* %25
%27 = lshr <4 x i32> %26, <i32 4, i32 4, i32 4, i32 4>
%28 = icmp slt <4 x i32> %26, <i32 160, i32 160, i32 160, i32 160>
%29 = select <4 x i1> %28, <4 x i32> <i32 48, i32 48, i32 48, i32 48>, <4 x i32> <i32 87, i32 87, i32 87, i32 87>
%30 = add nuw nsw <4 x i32> %29, %27
%31 = trunc <4 x i32> %30 to <4 x i8>
%32 = bitcast i32* %24 to <4 x i32>*
%33 = load <4 x i32>, <4 x i32>* %32
%34 = and <4 x i32> %33, <i32 15, i32 15, i32 15, i32 15>
%35 = icmp ult <4 x i32> %34, <i32 10, i32 10, i32 10, i32 10>
%36 = or <4 x i32> %34, <i32 48, i32 48, i32 48, i32 48>
%37 = add nuw nsw <4 x i32> %34, <i32 87, i32 87, i32 87, i32 87>
%38 = select <4 x i1> %35, <4 x i32> %36, <4 x i32> %37
%39 = trunc <4 x i32> %38 to <4 x i8>
%40 = getelementptr inbounds i8, i8* %8, i64 %23
%41 = bitcast i8* %40 to <8 x i8>*
%42 = shufflevector <4 x i8> %31, <4 x i8> %39, <8 x i32> <i32 0, i32 4, i32 1, i32 5, i32 2, i32 6, i32 3, i32 7>
store <8 x i8> %42, <8 x i8>* %41
%43 = add nuw i64 %22, 4
%44 = icmp eq i64 %43, 64
br i1 %44, label %66, label %21
45: ; preds = %12, %45
%46 = phi i64 [ %64, %45 ], [ 0, %12 ]
%47 = phi i8* [ %63, %45 ], [ %8, %12 ]
%48 = getelementptr inbounds [512 x i32], [512 x i32]* %3, i64 0, i64 %46
%49 = load i32, i32* %48
%50 = lshr i32 %49, 4
%51 = icmp slt i32 %49, 160
%52 = select i1 %51, i32 48, i32 87
%53 = add nuw nsw i32 %52, %50
%54 = trunc i32 %53 to i8
store i8 %54, i8* %47
%55 = getelementptr inbounds i8, i8* %47, i64 1
%56 = load i32, i32* %48
%57 = and i32 %56, 15
%58 = icmp ult i32 %57, 10
%59 = or i32 %57, 48
%60 = add nuw nsw i32 %57, 87
%61 = select i1 %58, i32 %59, i32 %60
%62 = trunc i32 %61 to i8
store i8 %62, i8* %55
%63 = getelementptr inbounds i8, i8* %47, i64 2
%64 = add nuw nsw i64 %46, 1
%65 = icmp eq i64 %64, 64
br i1 %65, label %66, label %45
66: ; preds = %21, %45, %10
%67 = phi i8* [ null, %10 ], [ %8, %45 ], [ %8, %21 ]
ret i8* %67
}