int ScalarDequant(int *buf, int cat, const int *dqTab, int shift, int *lfsrInit,
                  int gbMask) {
  int i, k;
  int dq, sign, lfsr;
  lfsr = *lfsrInit;
  for (i = 20; i != 0; i--) {
    k = *buf;
    if (k == 0 || cat == 7) {
      sign = (lfsr >> 31);
      lfsr = (lfsr << 1) ^ (sign & ((1 << 7) | (1 << 5) | (1 << 3) | (1 << 2) |
                                    (1 << 1) | (1 << 0)));
      dq = dqTab[0] >> shift;
      gbMask |= dq;
      *buf++ = (dq ^ sign) - sign;
    } else {
      sign = k >> 31;
      k &= 0x7fffffff;
      dq = dqTab[k] >> shift;
      gbMask |= dq;
      *buf++ = (dq ^ sign) - sign;
    }
  }
  *lfsrInit = lfsr;
  return gbMask;
}


x86 assembly (clang, -O0):
<ScalarDequant>:
push   %rbp
mov    %rsp,%rbp
mov    %rdi,-0x8(%rbp)
mov    %esi,-0xc(%rbp)
mov    %rdx,-0x18(%rbp)
mov    %ecx,-0x1c(%rbp)
mov    %r8,-0x28(%rbp)
mov    %r9d,-0x2c(%rbp)
mov    -0x28(%rbp),%rax
mov    (%rax),%eax
mov    %eax,-0x40(%rbp)
movl   $0x14,-0x30(%rbp)
cmpl   $0x0,-0x30(%rbp)
je     1201 <ScalarDequant+0x101>
mov    -0x8(%rbp),%rax
mov    (%rax),%eax
mov    %eax,-0x34(%rbp)
cmpl   $0x0,-0x34(%rbp)
je     1151 <ScalarDequant+0x51>
cmpl   $0x7,-0xc(%rbp)
jne    11a4 <ScalarDequant+0xa4>
mov    -0x40(%rbp),%eax
sar    $0x1f,%eax
mov    %eax,-0x3c(%rbp)
mov    -0x40(%rbp),%eax
shl    $0x1,%eax
mov    -0x3c(%rbp),%ecx
and    $0xaf,%ecx
xor    %ecx,%eax
mov    %eax,-0x40(%rbp)
mov    -0x18(%rbp),%rax
mov    (%rax),%eax
mov    -0x1c(%rbp),%ecx
sar    %cl,%eax
mov    %eax,-0x38(%rbp)
mov    -0x38(%rbp),%eax
or     -0x2c(%rbp),%eax
mov    %eax,-0x2c(%rbp)
mov    -0x38(%rbp),%ecx
xor    -0x3c(%rbp),%ecx
sub    -0x3c(%rbp),%ecx
mov    -0x8(%rbp),%rax
mov    %rax,%rdx
add    $0x4,%rdx
mov    %rdx,-0x8(%rbp)
mov    %ecx,(%rax)
jmp    11ee <ScalarDequant+0xee>
mov    -0x34(%rbp),%eax
sar    $0x1f,%eax
mov    %eax,-0x3c(%rbp)
mov    -0x34(%rbp),%eax
and    $0x7fffffff,%eax
mov    %eax,-0x34(%rbp)
mov    -0x18(%rbp),%rax
movslq -0x34(%rbp),%rcx
mov    (%rax,%rcx,4),%eax
mov    -0x1c(%rbp),%ecx
sar    %cl,%eax
mov    %eax,-0x38(%rbp)
mov    -0x38(%rbp),%eax
or     -0x2c(%rbp),%eax
mov    %eax,-0x2c(%rbp)
mov    -0x38(%rbp),%ecx
xor    -0x3c(%rbp),%ecx
sub    -0x3c(%rbp),%ecx
mov    -0x8(%rbp),%rax
mov    %rax,%rdx
add    $0x4,%rdx
mov    %rdx,-0x8(%rbp)
mov    %ecx,(%rax)
jmp    11f3 <ScalarDequant+0xf3>
mov    -0x30(%rbp),%eax
add    $0xffffffff,%eax
mov    %eax,-0x30(%rbp)
jmp    112a <ScalarDequant+0x2a>
mov    -0x40(%rbp),%ecx
mov    -0x28(%rbp),%rax
mov    %ecx,(%rax)
mov    -0x2c(%rbp),%eax
pop    %rbp
ret

x86 assembly (clang, -O2):
<ScalarDequant>:
push   %rbp
push   %rbx
mov    %r9d,%eax
mov    (%r8),%r9d
xor    %r10d,%r10d
jmp    1140 <ScalarDequant+0x40>
nopl   (%rax)
mov    %r9d,%ebp
sar    $0x1f,%ebp
add    %r9d,%r9d
mov    (%rdx),%r11d
sar    %cl,%r11d
mov    %r11d,%ebx
xor    %ebp,%ebx
sub    %ebp,%ebx
and    $0xaf,%ebp
xor    %ebp,%r9d
or     %r11d,%eax
mov    %ebx,(%rdi,%r10,4)
add    $0x1,%r10
cmp    $0x14,%r10d
je     1168 <ScalarDequant+0x68>
cmp    $0x7,%esi
je     1110 <ScalarDequant+0x10>
mov    (%rdi,%r10,4),%ebx
test   %ebx,%ebx
je     1110 <ScalarDequant+0x10>
mov    %ebx,%ebp
and    $0x7fffffff,%ebx
mov    (%rdx,%rbx,4),%r11d
sar    %cl,%r11d
sar    $0x1f,%ebp
mov    %r11d,%ebx
xor    %ebp,%ebx
sub    %ebp,%ebx
jmp    112f <ScalarDequant+0x2f>
mov    %r9d,(%r8)
pop    %rbx
pop    %rbp
ret

LLVM IR (-O0):
define i32 @ScalarDequant(i32* %0, i32 %1, i32* %2, i32 %3, i32* %4, i32 %5) {
%7 = alloca i32*
%8 = alloca i32
%9 = alloca i32*
%10 = alloca i32
%11 = alloca i32*
%12 = alloca i32
%13 = alloca i32
%14 = alloca i32
%15 = alloca i32
%16 = alloca i32
%17 = alloca i32
store i32* %0, i32** %7
store i32 %1, i32* %8
store i32* %2, i32** %9
store i32 %3, i32* %10
store i32* %4, i32** %11
store i32 %5, i32* %12
%18 = load i32*, i32** %11
%19 = load i32, i32* %18
store i32 %19, i32* %17
store i32 20, i32* %13
br label %20
20: ; preds = %77, %6
%21 = load i32, i32* %13
%22 = icmp ne i32 %21, 0
br i1 %22, label %23, label %80
23: ; preds = %20
%24 = load i32*, i32** %7
%25 = load i32, i32* %24
store i32 %25, i32* %14
%26 = load i32, i32* %14
%27 = icmp eq i32 %26, 0
br i1 %27, label %31, label %28
28: ; preds = %23
%29 = load i32, i32* %8
%30 = icmp eq i32 %29, 7
br i1 %30, label %31, label %54
31: ; preds = %28, %23
%32 = load i32, i32* %17
%33 = ashr i32 %32, 31
store i32 %33, i32* %16
%34 = load i32, i32* %17
%35 = shl i32 %34, 1
%36 = load i32, i32* %16
%37 = and i32 %36, 175
%38 = xor i32 %35, %37
store i32 %38, i32* %17
%39 = load i32*, i32** %9
%40 = getelementptr inbounds i32, i32* %39, i64 0
%41 = load i32, i32* %40
%42 = load i32, i32* %10
%43 = ashr i32 %41, %42
store i32 %43, i32* %15
%44 = load i32, i32* %15
%45 = load i32, i32* %12
%46 = or i32 %45, %44
store i32 %46, i32* %12
%47 = load i32, i32* %15
%48 = load i32, i32* %16
%49 = xor i32 %47, %48
%50 = load i32, i32* %16
%51 = sub nsw i32 %49, %50
%52 = load i32*, i32** %7
%53 = getelementptr inbounds i32, i32* %52, i32 1
store i32* %53, i32** %7
store i32 %51, i32* %52
br label %76
54: ; preds = %28
%55 = load i32, i32* %14
%56 = ashr i32 %55, 31
store i32 %56, i32* %16
%57 = load i32, i32* %14
%58 = and i32 %57, 2147483647
store i32 %58, i32* %14
%59 = load i32*, i32** %9
%60 = load i32, i32* %14
%61 = sext i32 %60 to i64
%62 = getelementptr inbounds i32, i32* %59, i64 %61
%63 = load i32, i32* %62
%64 = load i32, i32* %10
%65 = ashr i32 %63, %64
store i32 %65, i32* %15
%66 = load i32, i32* %15
%67 = load i32, i32* %12
%68 = or i32 %67, %66
store i32 %68, i32* %12
%69 = load i32, i32* %15
%70 = load i32, i32* %16
%71 = xor i32 %69, %70
%72 = load i32, i32* %16
%73 = sub nsw i32 %71, %72
%74 = load i32*, i32** %7
%75 = getelementptr inbounds i32, i32* %74, i32 1
store i32* %75, i32** %7
store i32 %73, i32* %74
br label %76
76: ; preds = %54, %31
br label %77
77: ; preds = %76
%78 = load i32, i32* %13
%79 = add nsw i32 %78, -1
store i32 %79, i32* %13
br label %20
80: ; preds = %20
%81 = load i32, i32* %17
%82 = load i32*, i32** %11
store i32 %81, i32* %82
%83 = load i32, i32* %12
ret i32 %83
}

LLVM IR (-O2):
define i32 @ScalarDequant(i32* nocapture %0, i32 %1, i32* nocapture %2, i32 %3, i32* nocapture %4, i32 %5) {
%7 = load i32, i32* %4
%8 = icmp eq i32 %1, 7
br label %9
9: ; preds = %6, %35
%10 = phi i32 [ %7, %6 ], [ %38, %35 ]
%11 = phi i32 [ 20, %6 ], [ %41, %35 ]
%12 = phi i32 [ %5, %6 ], [ %40, %35 ]
%13 = phi i32* [ %0, %6 ], [ %39, %35 ]
%14 = load i32, i32* %13
%15 = icmp eq i32 %14, 0
%16 = or i1 %8, %15
br i1 %16, label %17, label %26
17: ; preds = %9
%18 = ashr i32 %10, 31
%19 = shl i32 %10, 1
%20 = and i32 %18, 175
%21 = xor i32 %20, %19
%22 = load i32, i32* %2
%23 = ashr i32 %22, %3
%24 = xor i32 %23, %18
%25 = sub nsw i32 %24, %18
br label %35
26: ; preds = %9
%27 = ashr i32 %14, 31
%28 = and i32 %14, 2147483647
%29 = zext i32 %28 to i64
%30 = getelementptr inbounds i32, i32* %2, i64 %29
%31 = load i32, i32* %30
%32 = ashr i32 %31, %3
%33 = xor i32 %32, %27
%34 = sub nsw i32 %33, %27
br label %35
35: ; preds = %17, %26
%36 = phi i32 [ %34, %26 ], [ %25, %17 ]
%37 = phi i32 [ %32, %26 ], [ %23, %17 ]
%38 = phi i32 [ %10, %26 ], [ %21, %17 ]
%39 = getelementptr inbounds i32, i32* %13, i64 1
%40 = or i32 %37, %12
store i32 %36, i32* %13
%41 = add nsw i32 %11, -1
%42 = icmp eq i32 %41, 0
br i1 %42, label %43, label %9
43: ; preds = %35
store i32 %38, i32* %4
ret i32 %40
}