void GetModulationValue(int x, int y, const int Do2bitMode,
                        const int ModulationVals[8][16],
                        const int ModulationModes[8][16], int *Mod, int *DoPT) {
  static const int RepVals0[4] = {0, 3, 5, 8};
  static const int RepVals1[4] = {0, 4, 4, 8};
  int ModVal;
  y = (y & 0x3) | ((~y & 0x2) << 1);
  if (Do2bitMode)
    x = (x & 0x7) | ((~x & 0x4) << 1);
  else
    x = (x & 0x3) | ((~x & 0x2) << 1);
  *DoPT = 0;
  if (ModulationModes[y][x] == 0) {
    ModVal = RepVals0[ModulationVals[y][x]];
  } else if (Do2bitMode) {
    if (((x ^ y) & 1) == 0)
      ModVal = RepVals0[ModulationVals[y][x]];
    else if (ModulationModes[y][x] == 1) {
      ModVal = (RepVals0[ModulationVals[y - 1][x]] +
                RepVals0[ModulationVals[y + 1][x]] +
                RepVals0[ModulationVals[y][x - 1]] +
                RepVals0[ModulationVals[y][x + 1]] + 2) /
               4;
    } else if (ModulationModes[y][x] == 2) {
      ModVal = (RepVals0[ModulationVals[y][x - 1]] +
                RepVals0[ModulationVals[y][x + 1]] + 1) /
               2;
    } else {
      ModVal = (RepVals0[ModulationVals[y - 1][x]] +
                RepVals0[ModulationVals[y + 1][x]] + 1) /
               2;
    }
  } else {
    ModVal = RepVals1[ModulationVals[y][x]];
    *DoPT = ModulationVals[y][x] == (2);
  }
  *Mod = ModVal;
}


x86 assembly (clang, -O0):
<GetModulationValue>:
push   %rbp
mov    %rsp,%rbp
mov    0x10(%rbp),%rax
mov    %edi,-0x4(%rbp)
mov    %esi,-0x8(%rbp)
mov    %edx,-0xc(%rbp)
mov    %rcx,-0x18(%rbp)
mov    %r8,-0x20(%rbp)
mov    %r9,-0x28(%rbp)
mov    -0x8(%rbp),%eax
and    $0x3,%eax
mov    -0x8(%rbp),%ecx
xor    $0xffffffff,%ecx
and    $0x2,%ecx
shl    $0x1,%ecx
or     %ecx,%eax
mov    %eax,-0x8(%rbp)
cmpl   $0x0,-0xc(%rbp)
je     115a <GetModulationValue+0x5a>
mov    -0x4(%rbp),%eax
and    $0x7,%eax
mov    -0x4(%rbp),%ecx
xor    $0xffffffff,%ecx
and    $0x4,%ecx
shl    $0x1,%ecx
or     %ecx,%eax
mov    %eax,-0x4(%rbp)
jmp    1171 <GetModulationValue+0x71>
mov    -0x4(%rbp),%eax
and    $0x3,%eax
mov    -0x4(%rbp),%ecx
xor    $0xffffffff,%ecx
and    $0x2,%ecx
shl    $0x1,%ecx
or     %ecx,%eax
mov    %eax,-0x4(%rbp)
mov    0x10(%rbp),%rax
movl   $0x0,(%rax)
mov    -0x20(%rbp),%rax
movslq -0x8(%rbp),%rcx
shl    $0x6,%rcx
add    %rcx,%rax
movslq -0x4(%rbp),%rcx
cmpl   $0x0,(%rax,%rcx,4)
jne    11c1 <GetModulationValue+0xc1>
mov    -0x18(%rbp),%rax
movslq -0x8(%rbp),%rcx
shl    $0x6,%rcx
add    %rcx,%rax
movslq -0x4(%rbp),%rcx
movslq (%rax,%rcx,4),%rcx
lea    0xe4a(%rip),%rax
mov    (%rax,%rcx,4),%eax
mov    %eax,-0x2c(%rbp)
jmp    1401 <GetModulationValue+0x301>
cmpl   $0x0,-0xc(%rbp)
je     13b3 <GetModulationValue+0x2b3>
mov    -0x4(%rbp),%eax
xor    -0x8(%rbp),%eax
and    $0x1,%eax
cmp    $0x0,%eax
jne    1206 <GetModulationValue+0x106>
mov    -0x18(%rbp),%rax
movslq -0x8(%rbp),%rcx
shl    $0x6,%rcx
add    %rcx,%rax
movslq -0x4(%rbp),%rcx
movslq (%rax,%rcx,4),%rcx
lea    0xe05(%rip),%rax
mov    (%rax,%rcx,4),%eax
mov    %eax,-0x2c(%rbp)
jmp    13ae <GetModulationValue+0x2ae>
mov    -0x20(%rbp),%rax
movslq -0x8(%rbp),%rcx
shl    $0x6,%rcx
add    %rcx,%rax
movslq -0x4(%rbp),%rcx
cmpl   $0x1,(%rax,%rcx,4)
jne    12ce <GetModulationValue+0x1ce>
mov    -0x18(%rbp),%rax
mov    -0x8(%rbp),%ecx
sub    $0x1,%ecx
movslq %ecx,%rcx
shl    $0x6,%rcx
add    %rcx,%rax
movslq -0x4(%rbp),%rcx
movslq (%rax,%rcx,4),%rcx
lea    0xdba(%rip),%rax
mov    (%rax,%rcx,4),%eax
mov    -0x18(%rbp),%rcx
mov    -0x8(%rbp),%edx
add    $0x1,%edx
movslq %edx,%rdx
shl    $0x6,%rdx
add    %rdx,%rcx
movslq -0x4(%rbp),%rdx
movslq (%rcx,%rdx,4),%rdx
lea    0xd94(%rip),%rcx
add    (%rcx,%rdx,4),%eax
mov    -0x18(%rbp),%rcx
movslq -0x8(%rbp),%rdx
shl    $0x6,%rdx
add    %rdx,%rcx
mov    -0x4(%rbp),%edx
sub    $0x1,%edx
movslq %edx,%rdx
movslq (%rcx,%rdx,4),%rdx
lea    0xd6e(%rip),%rcx
add    (%rcx,%rdx,4),%eax
mov    -0x18(%rbp),%rcx
movslq -0x8(%rbp),%rdx
shl    $0x6,%rdx
add    %rdx,%rcx
mov    -0x4(%rbp),%edx
add    $0x1,%edx
movslq %edx,%rdx
movslq (%rcx,%rdx,4),%rdx
lea    0xd48(%rip),%rcx
add    (%rcx,%rdx,4),%eax
add    $0x2,%eax
mov    $0x4,%ecx
cltd
idiv   %ecx
mov    %eax,-0x2c(%rbp)
jmp    13a9 <GetModulationValue+0x2a9>
mov    -0x20(%rbp),%rax
movslq -0x8(%rbp),%rcx
shl    $0x6,%rcx
add    %rcx,%rax
movslq -0x4(%rbp),%rcx
cmpl   $0x2,(%rax,%rcx,4)
jne    134a <GetModulationValue+0x24a>
mov    -0x18(%rbp),%rax
movslq -0x8(%rbp),%rcx
shl    $0x6,%rcx
add    %rcx,%rax
mov    -0x4(%rbp),%ecx
sub    $0x1,%ecx
movslq %ecx,%rcx
movslq (%rax,%rcx,4),%rcx
lea    0xcf2(%rip),%rax
mov    (%rax,%rcx,4),%eax
mov    -0x18(%rbp),%rcx
movslq -0x8(%rbp),%rdx
shl    $0x6,%rdx
add    %rdx,%rcx
mov    -0x4(%rbp),%edx
add    $0x1,%edx
movslq %edx,%rdx
movslq (%rcx,%rdx,4),%rdx
lea    0xccc(%rip),%rcx
add    (%rcx,%rdx,4),%eax
add    $0x1,%eax
mov    $0x2,%ecx
cltd
idiv   %ecx
mov    %eax,-0x2c(%rbp)
jmp    13a4 <GetModulationValue+0x2a4>
mov    -0x18(%rbp),%rax
mov    -0x8(%rbp),%ecx
sub    $0x1,%ecx
movslq %ecx,%rcx
shl    $0x6,%rcx
add    %rcx,%rax
movslq -0x4(%rbp),%rcx
movslq (%rax,%rcx,4),%rcx
lea    0xc93(%rip),%rax
mov    (%rax,%rcx,4),%eax
mov    -0x18(%rbp),%rcx
mov    -0x8(%rbp),%edx
add    $0x1,%edx
movslq %edx,%rdx
shl    $0x6,%rdx
add    %rdx,%rcx
movslq -0x4(%rbp),%rdx
movslq (%rcx,%rdx,4),%rdx
lea    0xc6d(%rip),%rcx
add    (%rcx,%rdx,4),%eax
add    $0x1,%eax
mov    $0x2,%ecx
cltd
idiv   %ecx
mov    %eax,-0x2c(%rbp)
jmp    13a9 <GetModulationValue+0x2a9>
jmp    13ae <GetModulationValue+0x2ae>
jmp    13fc <GetModulationValue+0x2fc>
mov    -0x18(%rbp),%rax
movslq -0x8(%rbp),%rcx
shl    $0x6,%rcx
add    %rcx,%rax
movslq -0x4(%rbp),%rcx
movslq (%rax,%rcx,4),%rcx
lea    0xc3f(%rip),%rax
mov    (%rax,%rcx,4),%eax
mov    %eax,-0x2c(%rbp)
mov    -0x18(%rbp),%rax
movslq -0x8(%rbp),%rcx
shl    $0x6,%rcx
add    %rcx,%rax
movslq -0x4(%rbp),%rcx
cmpl   $0x2,(%rax,%rcx,4)
sete   %al
and    $0x1,%al
movzbl %al,%ecx
mov    0x10(%rbp),%rax
mov    %ecx,(%rax)
jmp    1401 <GetModulationValue+0x301>
mov    -0x2c(%rbp),%ecx
mov    -0x28(%rbp),%rax
mov    %ecx,(%rax)
pop    %rbp
ret

x86 assembly (clang, -O2):
<GetModulationValue>:
push   %rbx
mov    0x10(%rsp),%r10
mov    %esi,%eax
and    $0x3,%eax
mov    %esi,%ebx
and    $0x2,%ebx
lea    (%rax,%rbx,2),%eax
xor    $0x4,%eax
test   %edx,%edx
je     1153 <GetModulationValue+0x53>
mov    %edi,%edx
and    $0x7,%edx
mov    %edi,%ebx
and    $0x4,%ebx
lea    (%rdx,%rbx,2),%ebx
xor    $0x8,%ebx
movl   $0x0,(%r10)
mov    %eax,%r11d
mov    %r11,%rdx
shl    $0x6,%rdx
add    %rdx,%r8
mov    (%r8,%rbx,4),%eax
test   %eax,%eax
je     119b <GetModulationValue+0x9b>
xor    %edi,%esi
test   $0x1,%sil
jne    11b5 <GetModulationValue+0xb5>
add    %rdx,%rcx
jmp    11a2 <GetModulationValue+0xa2>
mov    %edi,%edx
and    $0x3,%edx
and    $0x2,%edi
lea    (%rdx,%rdi,2),%ebx
xor    $0x4,%ebx
movl   $0x0,(%r10)
mov    %eax,%r11d
mov    %r11,%rax
shl    $0x6,%rax
add    %rax,%r8
cmpl   $0x0,(%r8,%rbx,4)
je     119b <GetModulationValue+0x9b>
add    %rax,%rcx
movslq (%rcx,%rbx,4),%rax
xor    %ecx,%ecx
cmp    $0x2,%rax
sete   %cl
lea    0xe7d(%rip),%rdx
mov    (%rdx,%rax,4),%eax
mov    %ecx,(%r10)
jmp    11b0 <GetModulationValue+0xb0>
shl    $0x6,%r11
add    %r11,%rcx
movslq (%rcx,%rbx,4),%rax
lea    0xe53(%rip),%rcx
mov    (%rcx,%rax,4),%eax
mov    %eax,(%r9)
pop    %rbx
ret
cmp    $0x2,%eax
je     1205 <GetModulationValue+0x105>
shl    $0x6,%r11
cmp    $0x1,%eax
jne    1221 <GetModulationValue+0x121>
add    %rcx,%r11
movslq -0x40(%r11,%rbx,4),%rax
lea    0xe2e(%rip),%rsi
mov    (%rsi,%rax,4),%eax
movslq 0x40(%r11,%rbx,4),%rdi
add    %rcx,%rdx
movslq -0x4(%rdx,%rbx,4),%rcx
movslq 0x4(%rdx,%rbx,4),%rdx
mov    (%rsi,%rdx,4),%edx
add    (%rsi,%rdi,4),%eax
add    (%rsi,%rcx,4),%eax
lea    (%rdx,%rax,1),%ecx
add    $0x2,%ecx
add    %edx,%eax
add    $0x5,%eax
test   %ecx,%ecx
cmovns %ecx,%eax
sar    $0x2,%eax
jmp    11b0 <GetModulationValue+0xb0>
add    %rdx,%rcx
movslq -0x4(%rcx,%rbx,4),%rax
lea    0xdec(%rip),%rdx
mov    (%rdx,%rax,4),%eax
movslq 0x4(%rcx,%rbx,4),%rcx
mov    (%rdx,%rcx,4),%ecx
jmp    123b <GetModulationValue+0x13b>
add    %rcx,%r11
movslq -0x40(%r11,%rbx,4),%rax
lea    0xdd0(%rip),%rcx
mov    (%rcx,%rax,4),%eax
movslq 0x40(%r11,%rbx,4),%rdx
mov    (%rcx,%rdx,4),%ecx
lea    (%rax,%rcx,1),%edx
add    %ecx,%eax
add    $0x1,%eax
shr    $0x1f,%eax
add    %edx,%eax
add    $0x1,%eax
sar    %eax
jmp    11b0 <GetModulationValue+0xb0>

LLVM IR (-O0):
@GetModulationValue.RepVals0 = internal constant [4 x i32] [i32 0, i32 3, i32 5, i32 8]
@GetModulationValue.RepVals1 = internal constant [4 x i32] [i32 0, i32 4, i32 4, i32 8]
define void @GetModulationValue(i32 %0, i32 %1, i32 %2, [16 x i32]* %3, [16 x i32]* %4, i32* %5, i32* %6) {
%8 = alloca i32
%9 = alloca i32
%10 = alloca i32
%11 = alloca [16 x i32]*
%12 = alloca [16 x i32]*
%13 = alloca i32*
%14 = alloca i32*
%15 = alloca i32
store i32 %0, i32* %8
store i32 %1, i32* %9
store i32 %2, i32* %10
store [16 x i32]* %3, [16 x i32]** %11
store [16 x i32]* %4, [16 x i32]** %12
store i32* %5, i32** %13
store i32* %6, i32** %14
%16 = load i32, i32* %9
%17 = and i32 %16, 3
%18 = load i32, i32* %9
%19 = xor i32 %18, -1
%20 = and i32 %19, 2
%21 = shl i32 %20, 1
%22 = or i32 %17, %21
store i32 %22, i32* %9
%23 = load i32, i32* %10
%24 = icmp ne i32 %23, 0
br i1 %24, label %25, label %33
25: ; preds = %7
%26 = load i32, i32* %8
%27 = and i32 %26, 7
%28 = load i32, i32* %8
%29 = xor i32 %28, -1
%30 = and i32 %29, 4
%31 = shl i32 %30, 1
%32 = or i32 %27, %31
store i32 %32, i32* %8
br label %41
33: ; preds = %7
%34 = load i32, i32* %8
%35 = and i32 %34, 3
%36 = load i32, i32* %8
%37 = xor i32 %36, -1
%38 = and i32 %37, 2
%39 = shl i32 %38, 1
%40 = or i32 %35, %39
store i32 %40, i32* %8
br label %41
41: ; preds = %33, %25
%42 = load i32*, i32** %14
store i32 0, i32* %42
%43 = load [16 x i32]*, [16 x i32]** %12
%44 = load i32, i32* %9
%45 = sext i32 %44 to i64
%46 = getelementptr inbounds [16 x i32], [16 x i32]* %43, i64 %45
%47 = load i32, i32* %8
%48 = sext i32 %47 to i64
%49 = getelementptr inbounds [16 x i32], [16 x i32]* %46, i64 0, i64 %48
%50 = load i32, i32* %49
%51 = icmp eq i32 %50, 0
br i1 %51, label %52, label %64
52: ; preds = %41
%53 = load [16 x i32]*, [16 x i32]** %11
%54 = load i32, i32* %9
%55 = sext i32 %54 to i64
%56 = getelementptr inbounds [16 x i32], [16 x i32]* %53, i64 %55
%57 = load i32, i32* %8
%58 = sext i32 %57 to i64
%59 = getelementptr inbounds [16 x i32], [16 x i32]* %56, i64 0, i64 %58
%60 = load i32, i32* %59
%61 = sext i32 %60 to i64
%62 = getelementptr inbounds [4 x i32], [4 x i32]* @GetModulationValue.RepVals0, i64 0, i64 %61
%63 = load i32, i32* %62
store i32 %63, i32* %15
br label %242
64: ; preds = %41
%65 = load i32, i32* %10
%66 = icmp ne i32 %65, 0
br i1 %66, label %67, label %218
67: ; preds = %64
%68 = load i32, i32* %8
%69 = load i32, i32* %9
%70 = xor i32 %68, %69
%71 = and i32 %70, 1
%72 = icmp eq i32 %71, 0
br i1 %72, label %73, label %85
73: ; preds = %67
%74 = load [16 x i32]*, [16 x i32]** %11
%75 = load i32, i32* %9
%76 = sext i32 %75 to i64
%77 = getelementptr inbounds [16 x i32], [16 x i32]* %74, i64 %76
%78 = load i32, i32* %8
%79 = sext i32 %78 to i64
%80 = getelementptr inbounds [16 x i32], [16 x i32]* %77, i64 0, i64 %79
%81 = load i32, i32* %80
%82 = sext i32 %81 to i64
%83 = getelementptr inbounds [4 x i32], [4 x i32]* @GetModulationValue.RepVals0, i64 0, i64 %82
%84 = load i32, i32* %83
store i32 %84, i32* %15
br label %217
85: ; preds = %67
%86 = load [16 x i32]*, [16 x i32]** %12
%87 = load i32, i32* %9
%88 = sext i32 %87 to i64
%89 = getelementptr inbounds [16 x i32], [16 x i32]* %86, i64 %88
%90 = load i32, i32* %8
%91 = sext i32 %90 to i64
%92 = getelementptr inbounds [16 x i32], [16 x i32]* %89, i64 0, i64 %91
%93 = load i32, i32* %92
%94 = icmp eq i32 %93, 1
br i1 %94, label %95, label %149
95: ; preds = %85
%96 = load [16 x i32]*, [16 x i32]** %11
%97 = load i32, i32* %9
%98 = sub nsw i32 %97, 1
%99 = sext i32 %98 to i64
%100 = getelementptr inbounds [16 x i32], [16 x i32]* %96, i64 %99
%101 = load i32, i32* %8
%102 = sext i32 %101 to i64
%103 = getelementptr inbounds [16 x i32], [16 x i32]* %100, i64 0, i64 %102
%104 = load i32, i32* %103
%105 = sext i32 %104 to i64
%106 = getelementptr inbounds [4 x i32], [4 x i32]* @GetModulationValue.RepVals0, i64 0, i64 %105
%107 = load i32, i32* %106
%108 = load [16 x i32]*, [16 x i32]** %11
%109 = load i32, i32* %9
%110 = add nsw i32 %109, 1
%111 = sext i32 %110 to i64
%112 = getelementptr inbounds [16 x i32], [16 x i32]* %108, i64 %111
%113 = load i32, i32* %8
%114 = sext i32 %113 to i64
%115 = getelementptr inbounds [16 x i32], [16 x i32]* %112, i64 0, i64 %114
%116 = load i32, i32* %115
%117 = sext i32 %116 to i64
%118 = getelementptr inbounds [4 x i32], [4 x i32]* @GetModulationValue.RepVals0, i64 0, i64 %117
%119 = load i32, i32* %118
%120 = add nsw i32 %107, %119
%121 = load [16 x i32]*, [16 x i32]** %11
%122 = load i32, i32* %9
%123 = sext i32 %122 to i64
%124 = getelementptr inbounds [16 x i32], [16 x i32]* %121, i64 %123
%125 = load i32, i32* %8
%126 = sub nsw i32 %125, 1
%127 = sext i32 %126 to i64
%128 = getelementptr inbounds [16 x i32], [16 x i32]* %124, i64 0, i64 %127
%129 = load i32, i32* %128
%130 = sext i32 %129 to i64
%131 = getelementptr inbounds [4 x i32], [4 x i32]* @GetModulationValue.RepVals0, i64 0, i64 %130
%132 = load i32, i32* %131
%133 = add nsw i32 %120, %132
%134 = load [16 x i32]*, [16 x i32]** %11
%135 = load i32, i32* %9
%136 = sext i32 %135 to i64
%137 = getelementptr inbounds [16 x i32], [16 x i32]* %134, i64 %136
%138 = load i32, i32* %8
%139 = add nsw i32 %138, 1
%140 = sext i32 %139 to i64
%141 = getelementptr inbounds [16 x i32], [16 x i32]* %137, i64 0, i64 %140
%142 = load i32, i32* %141
%143 = sext i32 %142 to i64
%144 = getelementptr inbounds [4 x i32], [4 x i32]* @GetModulationValue.RepVals0, i64 0, i64 %143
%145 = load i32, i32* %144
%146 = add nsw i32 %133, %145
%147 = add nsw i32 %146, 2
%148 = sdiv i32 %147, 4
store i32 %148, i32* %15
br label %216
149: ; preds = %85
%150 = load [16 x i32]*, [16 x i32]** %12
%151 = load i32, i32* %9
%152 = sext i32 %151 to i64
%153 = getelementptr inbounds [16 x i32], [16 x i32]* %150, i64 %152
%154 = load i32, i32* %8
%155 = sext i32 %154 to i64
%156 = getelementptr inbounds [16 x i32], [16 x i32]* %153, i64 0, i64 %155
%157 = load i32, i32* %156
%158 = icmp eq i32 %157, 2
br i1 %158, label %159, label %187
159: ; preds = %149
%160 = load [16 x i32]*, [16 x i32]** %11
%161 = load i32, i32* %9
%162 = sext i32 %161 to i64
%163 = getelementptr inbounds [16 x i32], [16 x i32]* %160, i64 %162
%164 = load i32, i32* %8
%165 = sub nsw i32 %164, 1
%166 = sext i32 %165 to i64
%167 = getelementptr inbounds [16 x i32], [16 x i32]* %163, i64 0, i64 %166
%168 = load i32, i32* %167
%169 = sext i32 %168 to i64
%170 = getelementptr inbounds [4 x i32], [4 x i32]* @GetModulationValue.RepVals0, i64 0, i64 %169
%171 = load i32, i32* %170
%172 = load [16 x i32]*, [16 x i32]** %11
%173 = load i32, i32* %9
%174 = sext i32 %173 to i64
%175 = getelementptr inbounds [16 x i32], [16 x i32]* %172, i64 %174
%176 = load i32, i32* %8
%177 = add nsw i32 %176, 1
%178 = sext i32 %177 to i64
%179 = getelementptr inbounds [16 x i32], [16 x i32]* %175, i64 0, i64 %178
%180 = load i32, i32* %179
%181 = sext i32 %180 to i64
%182 = getelementptr inbounds [4 x i32], [4 x i32]* @GetModulationValue.RepVals0, i64 0, i64 %181
%183 = load i32, i32* %182
%184 = add nsw i32 %171, %183
%185 = add nsw i32 %184, 1
%186 = sdiv i32 %185, 2
store i32 %186, i32* %15
br label %215
187: ; preds = %149
%188 = load [16 x i32]*, [16 x i32]** %11
%189 = load i32, i32* %9
%190 = sub nsw i32 %189, 1
%191 = sext i32 %190 to i64
%192 = getelementptr inbounds [16 x i32], [16 x i32]* %188, i64 %191
%193 = load i32, i32* %8
%194 = sext i32 %193 to i64
%195 = getelementptr inbounds [16 x i32], [16 x i32]* %192, i64 0, i64 %194
%196 = load i32, i32* %195
%197 = sext i32 %196 to i64
%198 = getelementptr inbounds [4 x i32], [4 x i32]* @GetModulationValue.RepVals0, i64 0, i64 %197
%199 = load i32, i32* %198
%200 = load [16 x i32]*, [16 x i32]** %11
%201 = load i32, i32* %9
%202 = add nsw i32 %201, 1
%203 = sext i32 %202 to i64
%204 = getelementptr inbounds [16 x i32], [16 x i32]* %200, i64 %203
%205 = load i32, i32* %8
%206 = sext i32 %205 to i64
%207 = getelementptr inbounds [16 x i32], [16 x i32]* %204, i64 0, i64 %206
%208 = load i32, i32* %207
%209 = sext i32 %208 to i64
%210 = getelementptr inbounds [4 x i32], [4 x i32]* @GetModulationValue.RepVals0, i64 0, i64 %209
%211 = load i32, i32* %210
%212 = add nsw i32 %199, %211
%213 = add nsw i32 %212, 1
%214 = sdiv i32 %213, 2
store i32 %214, i32* %15
br label %215
215: ; preds = %187, %159
br label %216
216: ; preds = %215, %95
br label %217
217: ; preds = %216, %73
br label %241
218: ; preds = %64
%219 = load [16 x i32]*, [16 x i32]** %11
%220 = load i32, i32* %9
%221 = sext i32 %220 to i64
%222 = getelementptr inbounds [16 x i32], [16 x i32]* %219, i64 %221
%223 = load i32, i32* %8
%224 = sext i32 %223 to i64
%225 = getelementptr inbounds [16 x i32], [16 x i32]* %222, i64 0, i64 %224
%226 = load i32, i32* %225
%227 = sext i32 %226 to i64
%228 = getelementptr inbounds [4 x i32], [4 x i32]* @GetModulationValue.RepVals1, i64 0, i64 %227
%229 = load i32, i32* %228
store i32 %229, i32* %15
%230 = load [16 x i32]*, [16 x i32]** %11
%231 = load i32, i32* %9
%232 = sext i32 %231 to i64
%233 = getelementptr inbounds [16 x i32], [16 x i32]* %230, i64 %232
%234 = load i32, i32* %8
%235 = sext i32 %234 to i64
%236 = getelementptr inbounds [16 x i32], [16 x i32]* %233, i64 0, i64 %235
%237 = load i32, i32* %236
%238 = icmp eq i32 %237, 2
%239 = zext i1 %238 to i32
%240 = load i32*, i32** %14
store i32 %239, i32* %240
br label %241
241: ; preds = %218, %217
br label %242
242: ; preds = %241, %52
%243 = load i32, i32* %15
%244 = load i32*, i32** %13
store i32 %243, i32* %244
ret void
}

LLVM IR (-O2):
@GetModulationValue.RepVals0 = internal unnamed_addr constant [4 x i32] [i32 0, i32 3, i32 5, i32 8]
@GetModulationValue.RepVals1 = internal unnamed_addr constant [4 x i32] [i32 0, i32 4, i32 4, i32 8]
define void @GetModulationValue(i32 %0, i32 %1, i32 %2, [16 x i32]* nocapture %3, [16 x i32]* nocapture %4, i32* nocapture writeonly %5, i32* nocapture writeonly %6) {
%8 = and i32 %1, 3
%9 = shl i32 %1, 1
%10 = and i32 %9, 4
%11 = or i32 %10, %8
%12 = xor i32 %11, 4
%13 = icmp eq i32 %2, 0
br i1 %13, label %14, label %25
14: ; preds = %7
%15 = and i32 %0, 3
%16 = shl i32 %0, 1
%17 = and i32 %16, 4
%18 = or i32 %17, %15
%19 = xor i32 %18, 4
store i32 0, i32* %6
%20 = zext i32 %12 to i64
%21 = zext i32 %19 to i64
%22 = getelementptr inbounds [16 x i32], [16 x i32]* %4, i64 %20, i64 %21
%23 = load i32, i32* %22
%24 = icmp eq i32 %23, 0
br i1 %24, label %36, label %125
25: ; preds = %7
%26 = and i32 %0, 7
%27 = shl i32 %0, 1
%28 = and i32 %27, 8
%29 = or i32 %28, %26
%30 = xor i32 %29, 8
store i32 0, i32* %6
%31 = zext i32 %12 to i64
%32 = zext i32 %30 to i64
%33 = getelementptr inbounds [16 x i32], [16 x i32]* %4, i64 %31, i64 %32
%34 = load i32, i32* %33
%35 = icmp eq i32 %34, 0
br i1 %35, label %36, label %44
36: ; preds = %25, %14
%37 = phi i64 [ %32, %25 ], [ %21, %14 ]
%38 = phi i64 [ %31, %25 ], [ %20, %14 ]
%39 = getelementptr inbounds [16 x i32], [16 x i32]* %3, i64 %38, i64 %37
%40 = load i32, i32* %39
%41 = sext i32 %40 to i64
%42 = getelementptr inbounds [4 x i32], [4 x i32]* @GetModulationValue.RepVals0, i64 0, i64 %41
%43 = load i32, i32* %42
br label %133
44: ; preds = %25
%45 = xor i32 %1, %0
%46 = and i32 %45, 1
%47 = icmp eq i32 %46, 0
br i1 %47, label %48, label %54
48: ; preds = %44
%49 = getelementptr inbounds [16 x i32], [16 x i32]* %3, i64 %31, i64 %32
%50 = load i32, i32* %49
%51 = sext i32 %50 to i64
%52 = getelementptr inbounds [4 x i32], [4 x i32]* @GetModulationValue.RepVals0, i64 0, i64 %51
%53 = load i32, i32* %52
br label %133
54: ; preds = %44
switch i32 %34, label %107 [
i32 1, label %55
i32 2, label %89
]
55: ; preds = %54
%56 = add nsw i32 %12, -1
%57 = sext i32 %56 to i64
%58 = getelementptr inbounds [16 x i32], [16 x i32]* %3, i64 %57, i64 %32
%59 = load i32, i32* %58
%60 = sext i32 %59 to i64
%61 = getelementptr inbounds [4 x i32], [4 x i32]* @GetModulationValue.RepVals0, i64 0, i64 %60
%62 = load i32, i32* %61
%63 = add nuw nsw i32 %12, 1
%64 = zext i32 %63 to i64
%65 = getelementptr inbounds [16 x i32], [16 x i32]* %3, i64 %64, i64 %32
%66 = load i32, i32* %65
%67 = sext i32 %66 to i64
%68 = getelementptr inbounds [4 x i32], [4 x i32]* @GetModulationValue.RepVals0, i64 0, i64 %67
%69 = load i32, i32* %68
%70 = add nsw i32 %30, -1
%71 = sext i32 %70 to i64
%72 = getelementptr inbounds [16 x i32], [16 x i32]* %3, i64 %31, i64 %71
%73 = load i32, i32* %72
%74 = sext i32 %73 to i64
%75 = getelementptr inbounds [4 x i32], [4 x i32]* @GetModulationValue.RepVals0, i64 0, i64 %74
%76 = load i32, i32* %75
%77 = add nuw nsw i32 %30, 1
%78 = zext i32 %77 to i64
%79 = getelementptr inbounds [16 x i32], [16 x i32]* %3, i64 %31, i64 %78
%80 = load i32, i32* %79
%81 = sext i32 %80 to i64
%82 = getelementptr inbounds [4 x i32], [4 x i32]* @GetModulationValue.RepVals0, i64 0, i64 %81
%83 = load i32, i32* %82
%84 = add i32 %62, 2
%85 = add i32 %84, %69
%86 = add i32 %85, %76
%87 = add i32 %86, %83
%88 = sdiv i32 %87, 4
br label %133
89: ; preds = %54
%90 = add nsw i32 %30, -1
%91 = sext i32 %90 to i64
%92 = getelementptr inbounds [16 x i32], [16 x i32]* %3, i64 %31, i64 %91
%93 = load i32, i32* %92
%94 = sext i32 %93 to i64
%95 = getelementptr inbounds [4 x i32], [4 x i32]* @GetModulationValue.RepVals0, i64 0, i64 %94
%96 = load i32, i32* %95
%97 = add nuw nsw i32 %30, 1
%98 = zext i32 %97 to i64
%99 = getelementptr inbounds [16 x i32], [16 x i32]* %3, i64 %31, i64 %98
%100 = load i32, i32* %99
%101 = sext i32 %100 to i64
%102 = getelementptr inbounds [4 x i32], [4 x i32]* @GetModulationValue.RepVals0, i64 0, i64 %101
%103 = load i32, i32* %102
%104 = add i32 %96, 1
%105 = add i32 %104, %103
%106 = sdiv i32 %105, 2
br label %133
107: ; preds = %54
%108 = add nsw i32 %12, -1
%109 = sext i32 %108 to i64
%110 = getelementptr inbounds [16 x i32], [16 x i32]* %3, i64 %109, i64 %32
%111 = load i32, i32* %110
%112 = sext i32 %111 to i64
%113 = getelementptr inbounds [4 x i32], [4 x i32]* @GetModulationValue.RepVals0, i64 0, i64 %112
%114 = load i32, i32* %113
%115 = add nuw nsw i32 %12, 1
%116 = zext i32 %115 to i64
%117 = getelementptr inbounds [16 x i32], [16 x i32]* %3, i64 %116, i64 %32
%118 = load i32, i32* %117
%119 = sext i32 %118 to i64
%120 = getelementptr inbounds [4 x i32], [4 x i32]* @GetModulationValue.RepVals0, i64 0, i64 %119
%121 = load i32, i32* %120
%122 = add i32 %114, 1
%123 = add i32 %122, %121
%124 = sdiv i32 %123, 2
br label %133
125: ; preds = %14
%126 = getelementptr inbounds [16 x i32], [16 x i32]* %3, i64 %20, i64 %21
%127 = load i32, i32* %126
%128 = sext i32 %127 to i64
%129 = getelementptr inbounds [4 x i32], [4 x i32]* @GetModulationValue.RepVals1, i64 0, i64 %128
%130 = load i32, i32* %129
%131 = icmp eq i32 %127, 2
%132 = zext i1 %131 to i32
store i32 %132, i32* %6
br label %133
133: ; preds = %125, %55, %107, %89, %48, %36
%134 = phi i32 [ %43, %36 ], [ %53, %48 ], [ %88, %55 ], [ %106, %89 ], [ %124, %107 ], [ %130, %125 ]
store i32 %134, i32* %5
ret void
}