void hldec(unsigned char *buff, unsigned long pcksz) {
  const static unsigned char hlhash[] =
      "\x05\x61\x7A\xED\x1B\xCA\x0D\x9B\x4A\xF1\x64\xC7\xB5\x8E\xDF\xA0";
  unsigned char *ptrebpc;
  unsigned long *lbuff = (unsigned long *)buff, pcknum, invnum, ebpc;
  int cont, i;
  if (pcksz < 9)
    return;
  pcknum = *buff;
  invnum = ~pcknum;
  pcksz = (pcksz - 8) >> 2;
  lbuff += 2;
  cont = 0;
  while (pcksz--) {
    ebpc = *lbuff ^ pcknum;
    ptrebpc = (unsigned char *)&ebpc;
    for (i = 0; i < 4; i++) {
      *ptrebpc ^= (((hlhash[(cont + i) & 0xf] | (i << i)) | i) | 0xA5);
      ptrebpc++;
    }
    *lbuff = ((((ebpc)&0xff000000) >> 24) | (((ebpc)&0x00ff0000) >> 8) |
              (((ebpc)&0x0000ff00) << 8) | (((ebpc)&0x000000ff) << 24)) ^
             invnum;
    lbuff++;
    cont++;
  }
}


x86 assembly (clang, -O0):
<hldec>:
push   %rbp
mov    %rsp,%rbp
mov    %rdi,-0x8(%rbp)
mov    %rsi,-0x10(%rbp)
mov    -0x8(%rbp),%rax
mov    %rax,-0x20(%rbp)
cmpq   $0x9,-0x10(%rbp)
jae    1124 <hldec+0x24>
jmp    1258 <hldec+0x158>
mov    -0x8(%rbp),%rax
movzbl (%rax),%eax
mov    %rax,-0x28(%rbp)
mov    -0x28(%rbp),%rax
xor    $0xffffffffffffffff,%rax
mov    %rax,-0x30(%rbp)
mov    -0x10(%rbp),%rax
sub    $0x8,%rax
shr    $0x2,%rax
mov    %rax,-0x10(%rbp)
mov    -0x20(%rbp),%rax
add    $0x10,%rax
mov    %rax,-0x20(%rbp)
movl   $0x0,-0x3c(%rbp)
mov    -0x10(%rbp),%rax
mov    %rax,%rcx
add    $0xffffffffffffffff,%rcx
mov    %rcx,-0x10(%rbp)
cmp    $0x0,%rax
je     1258 <hldec+0x158>
mov    -0x20(%rbp),%rax
mov    (%rax),%rax
xor    -0x28(%rbp),%rax
mov    %rax,-0x38(%rbp)
lea    -0x38(%rbp),%rax
mov    %rax,-0x18(%rbp)
movl   $0x0,-0x40(%rbp)
cmpl   $0x4,-0x40(%rbp)
jge    11ee <hldec+0xee>
mov    -0x3c(%rbp),%eax
add    -0x40(%rbp),%eax
and    $0xf,%eax
movslq %eax,%rcx
lea    0xe4e(%rip),%rax
movzbl (%rax,%rcx,1),%edx
mov    -0x40(%rbp),%eax
mov    -0x40(%rbp),%ecx
shl    %cl,%eax
or     %eax,%edx
or     -0x40(%rbp),%edx
or     $0xa5,%edx
mov    -0x18(%rbp),%rax
movzbl (%rax),%ecx
xor    %edx,%ecx
mov    %cl,(%rax)
mov    -0x18(%rbp),%rax
add    $0x1,%rax
mov    %rax,-0x18(%rbp)
mov    -0x40(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x40(%rbp)
jmp    1195 <hldec+0x95>
movabs $0xff000000,%rcx
and    -0x38(%rbp),%rcx
shr    $0x18,%rcx
mov    -0x38(%rbp),%rax
and    $0xff0000,%rax
shr    $0x8,%rax
or     %rax,%rcx
mov    -0x38(%rbp),%rax
and    $0xff00,%rax
shl    $0x8,%rax
or     %rax,%rcx
mov    -0x38(%rbp),%rax
and    $0xff,%rax
shl    $0x18,%rax
or     %rax,%rcx
xor    -0x30(%rbp),%rcx
mov    -0x20(%rbp),%rax
mov    %rcx,(%rax)
mov    -0x20(%rbp),%rax
add    $0x8,%rax
mov    %rax,-0x20(%rbp)
mov    -0x3c(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x3c(%rbp)
jmp    115e <hldec+0x5e>
pop    %rbp
ret

x86 assembly (clang, -O2):
<hldec>:
push   %rbp
push   %r15
push   %r14
push   %r13
push   %r12
push   %rbx
cmp    $0x9,%rsi
jb     1205 <hldec+0x105>
add    $0xfffffffffffffff8,%rsi
cmp    $0x4,%rsi
jb     1205 <hldec+0x105>
movzbl (%rdi),%r11d
mov    %rsi,%r8
shr    $0x2,%r8
add    $0x10,%rdi
xor    %ebp,%ebp
cmp    $0x8,%rsi
jae    1210 <hldec+0x110>
mov    %r8,%r9
mov    %rdi,%r14
neg    %r9
mov    $0x1,%esi
lea    0xf0e(%rip),%r8
cs nopw 0x0(%rax,%rax,1)
nopl   0x0(%rax)
mov    -0x8(%r14,%rsi,8),%r13
mov    %r11d,%edi
xor    %r13d,%edi
mov    %r13,%r12
shr    $0x8,%r12
mov    %ebp,%ecx
and    $0xf,%ecx
movzbl (%rcx,%r8,1),%r15d
or     $0xa5,%r15b
xor    %dil,%r15b
lea    0x1(%rbp),%r10d
lea    0x2(%rbp),%edi
add    $0x3,%ebp
and    $0xf,%ebp
movzbl 0x0(%rbp,%r8,1),%ebx
mov    %r10d,%ebp
and    $0xf,%r10d
movzbl (%r10,%r8,1),%ecx
mov    %r13,%rax
shr    $0x10,%rax
shr    $0x18,%r13
or     $0xa7,%cl
xor    %r12b,%cl
and    $0xf,%edi
movzbl (%rdi,%r8,1),%edx
or     $0xaf,%dl
xor    %al,%dl
or     $0xbf,%bl
xor    %r13b,%bl
movzbl %bl,%eax
shl    $0x18,%eax
movzbl %dl,%edx
shl    $0x10,%edx
or     %eax,%edx
movzbl %cl,%eax
shl    $0x8,%eax
or     %edx,%eax
movzbl %r15b,%ecx
or     %eax,%ecx
bswap  %ecx
xor    %r11,%rcx
not    %rcx
mov    %rcx,-0x8(%r14,%rsi,8)
lea    (%r9,%rsi,1),%rax
add    $0x1,%rax
add    $0x1,%rsi
cmp    $0x1,%rax
jne    1160 <hldec+0x60>
pop    %rbx
pop    %r12
pop    %r13
pop    %r14
pop    %r15
pop    %rbp
ret
lea    -0x1(%r8),%rax
mov    %eax,%edx
not    %dl
test   $0xf,%dl
je     113d <hldec+0x3d>
cmp    $0xf,%rax
ja     113d <hldec+0x3d>
mov    %eax,%edx
and    $0xe,%edx
cmp    $0xe,%edx
je     113d <hldec+0x3d>
cmp    $0xf,%rax
ja     113d <hldec+0x3d>
mov    %eax,%edx
and    $0xf,%dl
cmp    $0xc,%dl
ja     113d <hldec+0x3d>
cmp    $0xf,%rax
ja     113d <hldec+0x3d>
mov    %r8,%rbp
and    $0xfffffffffffffffe,%rbp
mov    %r8d,%r9d
and    $0x1,%r9d
lea    (%rdi,%rbp,8),%r14
movd   %r11d,%xmm0
punpcklbw %xmm0,%xmm0
movq   %r11,%xmm1
pshufd $0x44,%xmm1,%xmm14
xor    %edx,%edx
movdqa 0xd75(%rip),%xmm2
lea    0xdce(%rip),%r10
movdqa 0xd75(%rip),%xmm8
movdqa 0xd7c(%rip),%xmm9
movdqa 0xd83(%rip),%xmm10
movdqa 0xd8a(%rip),%xmm11
pxor   %xmm7,%xmm7
movdqa 0xd8d(%rip),%xmm12
pcmpeqd %xmm13,%xmm13
nopl   0x0(%rax,%rax,1)
movdqu (%rdi,%rdx,8),%xmm1
movdqa %xmm1,%xmm3
pand   %xmm2,%xmm3
packuswb %xmm3,%xmm3
packuswb %xmm3,%xmm3
packuswb %xmm3,%xmm3
pxor   %xmm0,%xmm3
movdqa %xmm1,%xmm4
psrlq  $0x8,%xmm4
pand   %xmm2,%xmm4
packuswb %xmm4,%xmm4
packuswb %xmm4,%xmm4
packuswb %xmm4,%xmm4
movdqa %xmm1,%xmm5
psrlq  $0x10,%xmm5
pand   %xmm2,%xmm5
packuswb %xmm5,%xmm5
packuswb %xmm5,%xmm5
packuswb %xmm5,%xmm5
psrlq  $0x18,%xmm1
mov    %edx,%eax
and    $0xe,%eax
movzwl (%rax,%r10,1),%esi
movd   %esi,%xmm6
por    %xmm8,%xmm6
pxor   %xmm3,%xmm6
punpcklbw %xmm6,%xmm6
movzwl 0x1(%rax,%r10,1),%eax
movd   %eax,%xmm3
por    %xmm9,%xmm3
pxor   %xmm4,%xmm3
lea    0x2(%rdx),%rax
mov    %eax,%esi
and    $0xe,%esi
movzwl (%rsi,%r10,1),%esi
movd   %esi,%xmm4
por    %xmm10,%xmm4
pxor   %xmm5,%xmm4
lea    0x3(%rdx),%esi
and    $0xf,%esi
movzwl (%rsi,%r10,1),%esi
movd   %esi,%xmm5
por    %xmm11,%xmm5
punpcklbw %xmm5,%xmm5
punpcklwd %xmm5,%xmm5
pshufd $0xe8,%xmm1,%xmm1
pxor   %xmm5,%xmm1
pslld  $0x18,%xmm1
punpcklbw %xmm7,%xmm4
pxor   %xmm5,%xmm5
punpcklwd %xmm4,%xmm5
punpcklbw %xmm7,%xmm3
punpcklwd %xmm7,%xmm3
pslld  $0x8,%xmm3
por    %xmm5,%xmm3
por    %xmm1,%xmm3
punpcklbw %xmm7,%xmm3
pshuflw $0x1b,%xmm3,%xmm1
pshufhw $0x1b,%xmm1,%xmm1
packuswb %xmm1,%xmm1
pshuflw $0x60,%xmm6,%xmm3
pand   %xmm12,%xmm3
por    %xmm1,%xmm3
punpckldq %xmm7,%xmm3
pxor   %xmm14,%xmm3
pxor   %xmm13,%xmm3
movdqu %xmm3,(%rdi,%rdx,8)
mov    %rax,%rdx
cmp    %rax,%rbp
jne    12d0 <hldec+0x1d0>
cmp    %rbp,%r8
jne    1143 <hldec+0x43>
jmp    1205 <hldec+0x105>

LLVM IR (-O0):
@hldec.hlhash = internal constant [17 x i8] c"\05az\ED\1B\CA\0D\9BJ\F1d\C7\B5\8E\DF\A0\00"
define void @hldec(i8* %0, i64 %1) {
%3 = alloca i8*
%4 = alloca i64
%5 = alloca i8*
%6 = alloca i64*
%7 = alloca i64
%8 = alloca i64
%9 = alloca i64
%10 = alloca i32
%11 = alloca i32
store i8* %0, i8** %3
store i64 %1, i64* %4
%12 = load i8*, i8** %3
%13 = bitcast i8* %12 to i64*
store i64* %13, i64** %6
%14 = load i64, i64* %4
%15 = icmp ult i64 %14, 9
br i1 %15, label %16, label %17
16: ; preds = %2
br label %90
17: ; preds = %2
%18 = load i8*, i8** %3
%19 = load i8, i8* %18
%20 = zext i8 %19 to i64
store i64 %20, i64* %7
%21 = load i64, i64* %7
%22 = xor i64 %21, -1
store i64 %22, i64* %8
%23 = load i64, i64* %4
%24 = sub i64 %23, 8
%25 = lshr i64 %24, 2
store i64 %25, i64* %4
%26 = load i64*, i64** %6
%27 = getelementptr inbounds i64, i64* %26, i64 2
store i64* %27, i64** %6
store i32 0, i32* %10
br label %28
28: ; preds = %67, %17
%29 = load i64, i64* %4
%30 = add i64 %29, -1
store i64 %30, i64* %4
%31 = icmp ne i64 %29, 0
br i1 %31, label %32, label %90
32: ; preds = %28
%33 = load i64*, i64** %6
%34 = load i64, i64* %33
%35 = load i64, i64* %7
%36 = xor i64 %34, %35
store i64 %36, i64* %9
%37 = bitcast i64* %9 to i8*
store i8* %37, i8** %5
store i32 0, i32* %11
br label %38
38: ; preds = %64, %32
%39 = load i32, i32* %11
%40 = icmp slt i32 %39, 4
br i1 %40, label %41, label %67
41: ; preds = %38
%42 = load i32, i32* %10
%43 = load i32, i32* %11
%44 = add nsw i32 %42, %43
%45 = and i32 %44, 15
%46 = sext i32 %45 to i64
%47 = getelementptr inbounds [17 x i8], [17 x i8]* @hldec.hlhash, i64 0, i64 %46
%48 = load i8, i8* %47
%49 = zext i8 %48 to i32
%50 = load i32, i32* %11
%51 = load i32, i32* %11
%52 = shl i32 %50, %51
%53 = or i32 %49, %52
%54 = load i32, i32* %11
%55 = or i32 %53, %54
%56 = or i32 %55, 165
%57 = load i8*, i8** %5
%58 = load i8, i8* %57
%59 = zext i8 %58 to i32
%60 = xor i32 %59, %56
%61 = trunc i32 %60 to i8
store i8 %61, i8* %57
%62 = load i8*, i8** %5
%63 = getelementptr inbounds i8, i8* %62, i32 1
store i8* %63, i8** %5
br label %64
64: ; preds = %41
%65 = load i32, i32* %11
%66 = add nsw i32 %65, 1
store i32 %66, i32* %11
br label %38
67: ; preds = %38
%68 = load i64, i64* %9
%69 = and i64 %68, 4278190080
%70 = lshr i64 %69, 24
%71 = load i64, i64* %9
%72 = and i64 %71, 16711680
%73 = lshr i64 %72, 8
%74 = or i64 %70, %73
%75 = load i64, i64* %9
%76 = and i64 %75, 65280
%77 = shl i64 %76, 8
%78 = or i64 %74, %77
%79 = load i64, i64* %9
%80 = and i64 %79, 255
%81 = shl i64 %80, 24
%82 = or i64 %78, %81
%83 = load i64, i64* %8
%84 = xor i64 %82, %83
%85 = load i64*, i64** %6
store i64 %84, i64* %85
%86 = load i64*, i64** %6
%87 = getelementptr inbounds i64, i64* %86, i32 1
store i64* %87, i64** %6
%88 = load i32, i32* %10
%89 = add nsw i32 %88, 1
store i32 %89, i32* %10
br label %28
90: ; preds = %16, %28
ret void
}

LLVM IR (-O2):
@hldec.hlhash = internal unnamed_addr constant [17 x i8] c"\05az\ED\1B\CA\0D\9BJ\F1d\C7\B5\8E\DF\A0\00"
define void @hldec(i8* nocapture %0, i64 %1) {
%3 = icmp ult i64 %1, 9
br i1 %3, label %159, label %4
4: ; preds = %2
%5 = load i8, i8* %0
%6 = zext i8 %5 to i64
%7 = add i64 %1, -8
%8 = icmp ult i64 %7, 4
br i1 %8, label %159, label %9
9: ; preds = %4
%10 = lshr i64 %7, 2
%11 = getelementptr inbounds i8, i8* %0, i64 16
%12 = bitcast i8* %11 to i64*
%13 = icmp ult i64 %7, 8
br i1 %13, label %98, label %14
14: ; preds = %9
%15 = add nsw i64 %10, -1
%16 = icmp ugt i64 %15, 15
%17 = trunc i64 %15 to i4
%18 = icmp eq i4 %17, -1
%19 = and i64 %15, 14
%20 = icmp eq i64 %19, 14
%21 = icmp ugt i64 %15, 15
%22 = or i1 %20, %21
%23 = trunc i64 %15 to i4
%24 = icmp ugt i4 %23, -4
%25 = icmp ugt i64 %15, 15
%26 = or i1 %24, %25
%27 = or i1 %18, %16
%28 = or i1 %27, %22
%29 = or i1 %28, %26
br i1 %29, label %98, label %30
30: ; preds = %14
%31 = and i64 %10, 4611686018427387902
%32 = and i64 %10, 1
%33 = trunc i64 %31 to i32
%34 = getelementptr i64, i64* %12, i64 %31
%35 = insertelement <2 x i8> poison, i8 %5, i64 0
%36 = shufflevector <2 x i8> %35, <2 x i8> poison, <2 x i32> zeroinitializer
%37 = insertelement <2 x i64> poison, i64 %6, i64 0
%38 = shufflevector <2 x i64> %37, <2 x i64> poison, <2 x i32> zeroinitializer
br label %39
39: ; preds = %39, %30
%40 = phi i64 [ 0, %30 ], [ %94, %39 ]
%41 = getelementptr i64, i64* %12, i64 %40
%42 = bitcast i64* %41 to <2 x i64>*
%43 = load <2 x i64>, <2 x i64>* %42
%44 = trunc <2 x i64> %43 to <2 x i8>
%45 = xor <2 x i8> %36, %44
%46 = lshr <2 x i64> %43, <i64 8, i64 8>
%47 = trunc <2 x i64> %46 to <2 x i8>
%48 = lshr <2 x i64> %43, <i64 16, i64 16>
%49 = trunc <2 x i64> %48 to <2 x i8>
%50 = lshr <2 x i64> %43, <i64 24, i64 24>
%51 = trunc <2 x i64> %50 to <2 x i8>
%52 = and i64 %40, 14
%53 = getelementptr inbounds [17 x i8], [17 x i8]* @hldec.hlhash, i64 0, i64 %52
%54 = bitcast i8* %53 to <2 x i8>*
%55 = load <2 x i8>, <2 x i8>* %54
%56 = or <2 x i8> %55, <i8 -91, i8 -91>
%57 = xor <2 x i8> %56, %45
%58 = and i64 %40, 14
%59 = or i64 %58, 1
%60 = getelementptr inbounds [17 x i8], [17 x i8]* @hldec.hlhash, i64 0, i64 %59
%61 = bitcast i8* %60 to <2 x i8>*
%62 = load <2 x i8>, <2 x i8>* %61
%63 = or <2 x i8> %62, <i8 -89, i8 -89>
%64 = xor <2 x i8> %63, %47
%65 = add i64 %40, 2
%66 = and i64 %65, 14
%67 = getelementptr inbounds [17 x i8], [17 x i8]* @hldec.hlhash, i64 0, i64 %66
%68 = bitcast i8* %67 to <2 x i8>*
%69 = load <2 x i8>, <2 x i8>* %68
%70 = or <2 x i8> %69, <i8 -81, i8 -81>
%71 = xor <2 x i8> %70, %49
%72 = add i64 %40, 3
%73 = and i64 %72, 15
%74 = getelementptr inbounds [17 x i8], [17 x i8]* @hldec.hlhash, i64 0, i64 %73
%75 = bitcast i8* %74 to <2 x i8>*
%76 = load <2 x i8>, <2 x i8>* %75
%77 = or <2 x i8> %76, <i8 -65, i8 -65>
%78 = xor <2 x i8> %77, %51
%79 = zext <2 x i8> %78 to <2 x i32>
%80 = shl nuw <2 x i32> %79, <i32 24, i32 24>
%81 = zext <2 x i8> %71 to <2 x i32>
%82 = shl nuw nsw <2 x i32> %81, <i32 16, i32 16>
%83 = or <2 x i32> %80, %82
%84 = zext <2 x i8> %64 to <2 x i32>
%85 = shl nuw nsw <2 x i32> %84, <i32 8, i32 8>
%86 = or <2 x i32> %83, %85
%87 = zext <2 x i8> %57 to <2 x i32>
%88 = or <2 x i32> %86, %87
%89 = call <2 x i32> @llvm.bswap.v2i32(<2 x i32> %88)
%90 = zext <2 x i32> %89 to <2 x i64>
%91 = xor <2 x i64> %38, %90
%92 = xor <2 x i64> %91, <i64 -1, i64 -1>
%93 = bitcast i64* %41 to <2 x i64>*
store <2 x i64> %92, <2 x i64>* %93
%94 = add nuw i64 %40, 2
%95 = icmp eq i64 %94, %31
br i1 %95, label %96, label %39
96: ; preds = %39
%97 = icmp eq i64 %10, %31
br i1 %97, label %159, label %98
98: ; preds = %14, %9, %96
%99 = phi i64 [ %10, %14 ], [ %10, %9 ], [ %32, %96 ]
%100 = phi i32 [ 0, %14 ], [ 0, %9 ], [ %33, %96 ]
%101 = phi i64* [ %12, %14 ], [ %12, %9 ], [ %34, %96 ]
br label %102
102: ; preds = %98, %102
%103 = phi i64 [ %142, %102 ], [ %99, %98 ]
%104 = phi i32 [ %121, %102 ], [ %100, %98 ]
%105 = phi i64* [ %157, %102 ], [ %101, %98 ]
%106 = load i64, i64* %105
%107 = trunc i64 %106 to i8
%108 = xor i8 %5, %107
%109 = lshr i64 %106, 8
%110 = trunc i64 %109 to i8
%111 = lshr i64 %106, 16
%112 = trunc i64 %111 to i8
%113 = lshr i64 %106, 24
%114 = trunc i64 %113 to i8
%115 = and i32 %104, 15
%116 = zext i32 %115 to i64
%117 = getelementptr inbounds [17 x i8], [17 x i8]* @hldec.hlhash, i64 0, i64 %116
%118 = load i8, i8* %117
%119 = or i8 %118, -91
%120 = xor i8 %119, %108
%121 = add nuw nsw i32 %104, 1
%122 = and i32 %121, 15
%123 = zext i32 %122 to i64
%124 = getelementptr inbounds [17 x i8], [17 x i8]* @hldec.hlhash, i64 0, i64 %123
%125 = load i8, i8* %124
%126 = or i8 %125, -89
%127 = xor i8 %126, %110
%128 = add nuw nsw i32 %104, 2
%129 = and i32 %128, 15
%130 = zext i32 %129 to i64
%131 = getelementptr inbounds [17 x i8], [17 x i8]* @hldec.hlhash, i64 0, i64 %130
%132 = load i8, i8* %131
%133 = or i8 %132, -81
%134 = xor i8 %133, %112
%135 = add nuw nsw i32 %104, 3
%136 = and i32 %135, 15
%137 = zext i32 %136 to i64
%138 = getelementptr inbounds [17 x i8], [17 x i8]* @hldec.hlhash, i64 0, i64 %137
%139 = load i8, i8* %138
%140 = or i8 %139, -65
%141 = xor i8 %140, %114
%142 = add i64 %103, -1
%143 = zext i8 %141 to i32
%144 = shl nuw i32 %143, 24
%145 = zext i8 %134 to i32
%146 = shl nuw nsw i32 %145, 16
%147 = or i32 %144, %146
%148 = zext i8 %127 to i32
%149 = shl nuw nsw i32 %148, 8
%150 = or i32 %147, %149
%151 = zext i8 %120 to i32
%152 = or i32 %150, %151
%153 = tail call i32 @llvm.bswap.i32(i32 %152)
%154 = zext i32 %153 to i64
%155 = xor i64 %6, %154
%156 = xor i64 %155, -1
store i64 %156, i64* %105
%157 = getelementptr inbounds i64, i64* %105, i64 1
%158 = icmp eq i64 %142, 0
br i1 %158, label %159, label %102
159: ; preds = %102, %96, %4, %2
ret void
}