int process_plane(unsigned char *in, int width, int height, unsigned char *out,
                  int size) {
  int indexw;
  int indexh;
  int code;
  int collen;
  int replen;
  int color;
  int x;
  int revcode;
  unsigned char *last_line;
  unsigned char *this_line;
  unsigned char *org_in;
  unsigned char *org_out;
  org_in = in;
  org_out = out;
  last_line = 0;
  indexh = 0;
  while (indexh < height) {
    out = (org_out + width * height * 4) - ((indexh + 1) * width * 4);
    color = 0;
    this_line = out;
    indexw = 0;
    if (last_line == 0) {
      while (indexw < width) {
        code = (*(in++));
        replen = code & 0xf;
        collen = (code >> 4) & 0xf;
        revcode = (replen << 4) | collen;
        if ((revcode <= 47) && (revcode >= 16)) {
          replen = revcode;
          collen = 0;
        }
        while (collen > 0) {
          color = (*(in++));
          *out = color;
          out += 4;
          indexw++;
          collen--;
        }
        while (replen > 0) {
          *out = color;
          out += 4;
          indexw++;
          replen--;
        }
      }
    } else {
      while (indexw < width) {
        code = (*(in++));
        replen = code & 0xf;
        collen = (code >> 4) & 0xf;
        revcode = (replen << 4) | collen;
        if ((revcode <= 47) && (revcode >= 16)) {
          replen = revcode;
          collen = 0;
        }
        while (collen > 0) {
          x = (*(in++));
          if (x & 1) {
            x = x >> 1;
            x = x + 1;
            color = -x;
          } else {
            x = x >> 1;
            color = x;
          }
          x = last_line[indexw * 4] + color;
          *out = x;
          out += 4;
          indexw++;
          collen--;
        }
        while (replen > 0) {
          x = last_line[indexw * 4] + color;
          *out = x;
          out += 4;
          indexw++;
          replen--;
        }
      }
    }
    indexh++;
    last_line = this_line;
  }
  return (int)(in - org_in);
}


x86 assembly (clang, -O0):
<process_plane>:
push   %rbp
mov    %rsp,%rbp
mov    %rdi,-0x8(%rbp)
mov    %esi,-0xc(%rbp)
mov    %edx,-0x10(%rbp)
mov    %rcx,-0x18(%rbp)
mov    %r8d,-0x1c(%rbp)
mov    -0x8(%rbp),%rax
mov    %rax,-0x58(%rbp)
mov    -0x18(%rbp),%rax
mov    %rax,-0x60(%rbp)
movq   $0x0,-0x48(%rbp)
movl   $0x0,-0x24(%rbp)
mov    -0x24(%rbp),%eax
cmp    -0x10(%rbp),%eax
jge    1415 <process_plane+0x315>
mov    -0x60(%rbp),%rax
mov    -0xc(%rbp),%ecx
imul   -0x10(%rbp),%ecx
shl    $0x2,%ecx
movslq %ecx,%rcx
add    %rcx,%rax
mov    -0x24(%rbp),%ecx
add    $0x1,%ecx
imul   -0xc(%rbp),%ecx
shl    $0x2,%ecx
movslq %ecx,%rdx
xor    %ecx,%ecx
sub    %rdx,%rcx
add    %rcx,%rax
mov    %rax,-0x18(%rbp)
movl   $0x0,-0x34(%rbp)
mov    -0x18(%rbp),%rax
mov    %rax,-0x50(%rbp)
movl   $0x0,-0x20(%rbp)
cmpq   $0x0,-0x48(%rbp)
jne    1293 <process_plane+0x193>
jmp    1197 <process_plane+0x97>
mov    -0x20(%rbp),%eax
cmp    -0xc(%rbp),%eax
jge    128e <process_plane+0x18e>
mov    -0x8(%rbp),%rax
mov    %rax,%rcx
add    $0x1,%rcx
mov    %rcx,-0x8(%rbp)
movzbl (%rax),%eax
mov    %eax,-0x28(%rbp)
mov    -0x28(%rbp),%eax
and    $0xf,%eax
mov    %eax,-0x30(%rbp)
mov    -0x28(%rbp),%eax
sar    $0x4,%eax
and    $0xf,%eax
mov    %eax,-0x2c(%rbp)
mov    -0x30(%rbp),%eax
shl    $0x4,%eax
or     -0x2c(%rbp),%eax
mov    %eax,-0x3c(%rbp)
cmpl   $0x2f,-0x3c(%rbp)
jg     11fa <process_plane+0xfa>
cmpl   $0x10,-0x3c(%rbp)
jl     11fa <process_plane+0xfa>
mov    -0x3c(%rbp),%eax
mov    %eax,-0x30(%rbp)
movl   $0x0,-0x2c(%rbp)
jmp    11ff <process_plane+0xff>
cmpl   $0x0,-0x2c(%rbp)
jle    124c <process_plane+0x14c>
mov    -0x8(%rbp),%rax
mov    %rax,%rcx
add    $0x1,%rcx
mov    %rcx,-0x8(%rbp)
movzbl (%rax),%eax
mov    %eax,-0x34(%rbp)
mov    -0x34(%rbp),%eax
mov    %al,%cl
mov    -0x18(%rbp),%rax
mov    %cl,(%rax)
mov    -0x18(%rbp),%rax
add    $0x4,%rax
mov    %rax,-0x18(%rbp)
mov    -0x20(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x20(%rbp)
mov    -0x2c(%rbp),%eax
add    $0xffffffff,%eax
mov    %eax,-0x2c(%rbp)
jmp    11ff <process_plane+0xff>
jmp    1251 <process_plane+0x151>
cmpl   $0x0,-0x30(%rbp)
jle    1289 <process_plane+0x189>
mov    -0x34(%rbp),%eax
mov    %al,%cl
mov    -0x18(%rbp),%rax
mov    %cl,(%rax)
mov    -0x18(%rbp),%rax
add    $0x4,%rax
mov    %rax,-0x18(%rbp)
mov    -0x20(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x20(%rbp)
mov    -0x30(%rbp),%eax
add    $0xffffffff,%eax
mov    %eax,-0x30(%rbp)
jmp    1251 <process_plane+0x151>
jmp    1197 <process_plane+0x97>
jmp    13ff <process_plane+0x2ff>
jmp    1298 <process_plane+0x198>
mov    -0x20(%rbp),%eax
cmp    -0xc(%rbp),%eax
jge    13fa <process_plane+0x2fa>
mov    -0x8(%rbp),%rax
mov    %rax,%rcx
add    $0x1,%rcx
mov    %rcx,-0x8(%rbp)
movzbl (%rax),%eax
mov    %eax,-0x28(%rbp)
mov    -0x28(%rbp),%eax
and    $0xf,%eax
mov    %eax,-0x30(%rbp)
mov    -0x28(%rbp),%eax
sar    $0x4,%eax
and    $0xf,%eax
mov    %eax,-0x2c(%rbp)
mov    -0x30(%rbp),%eax
shl    $0x4,%eax
or     -0x2c(%rbp),%eax
mov    %eax,-0x3c(%rbp)
cmpl   $0x2f,-0x3c(%rbp)
jg     12fb <process_plane+0x1fb>
cmpl   $0x10,-0x3c(%rbp)
jl     12fb <process_plane+0x1fb>
mov    -0x3c(%rbp),%eax
mov    %eax,-0x30(%rbp)
movl   $0x0,-0x2c(%rbp)
jmp    1300 <process_plane+0x200>
cmpl   $0x0,-0x2c(%rbp)
jle    13a1 <process_plane+0x2a1>
mov    -0x8(%rbp),%rax
mov    %rax,%rcx
add    $0x1,%rcx
mov    %rcx,-0x8(%rbp)
movzbl (%rax),%eax
mov    %eax,-0x38(%rbp)
mov    -0x38(%rbp),%eax
and    $0x1,%eax
cmp    $0x0,%eax
je     134d <process_plane+0x24d>
mov    -0x38(%rbp),%eax
sar    $0x1,%eax
mov    %eax,-0x38(%rbp)
mov    -0x38(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x38(%rbp)
xor    %eax,%eax
sub    -0x38(%rbp),%eax
mov    %eax,-0x34(%rbp)
jmp    135c <process_plane+0x25c>
mov    -0x38(%rbp),%eax
sar    $0x1,%eax
mov    %eax,-0x38(%rbp)
mov    -0x38(%rbp),%eax
mov    %eax,-0x34(%rbp)
mov    -0x48(%rbp),%rax
mov    -0x20(%rbp),%ecx
shl    $0x2,%ecx
movslq %ecx,%rcx
movzbl (%rax,%rcx,1),%eax
add    -0x34(%rbp),%eax
mov    %eax,-0x38(%rbp)
mov    -0x38(%rbp),%eax
mov    %al,%cl
mov    -0x18(%rbp),%rax
mov    %cl,(%rax)
mov    -0x18(%rbp),%rax
add    $0x4,%rax
mov    %rax,-0x18(%rbp)
mov    -0x20(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x20(%rbp)
mov    -0x2c(%rbp),%eax
add    $0xffffffff,%eax
mov    %eax,-0x2c(%rbp)
jmp    1300 <process_plane+0x200>
jmp    13a6 <process_plane+0x2a6>
cmpl   $0x0,-0x30(%rbp)
jle    13f5 <process_plane+0x2f5>
mov    -0x48(%rbp),%rax
mov    -0x20(%rbp),%ecx
shl    $0x2,%ecx
movslq %ecx,%rcx
movzbl (%rax,%rcx,1),%eax
add    -0x34(%rbp),%eax
mov    %eax,-0x38(%rbp)
mov    -0x38(%rbp),%eax
mov    %al,%cl
mov    -0x18(%rbp),%rax
mov    %cl,(%rax)
mov    -0x18(%rbp),%rax
add    $0x4,%rax
mov    %rax,-0x18(%rbp)
mov    -0x20(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x20(%rbp)
mov    -0x30(%rbp),%eax
add    $0xffffffff,%eax
mov    %eax,-0x30(%rbp)
jmp    13a6 <process_plane+0x2a6>
jmp    1298 <process_plane+0x198>
jmp    13ff <process_plane+0x2ff>
mov    -0x24(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x24(%rbp)
mov    -0x50(%rbp),%rax
mov    %rax,-0x48(%rbp)
jmp    1135 <process_plane+0x35>
mov    -0x8(%rbp),%rax
mov    -0x58(%rbp),%rcx
sub    %rcx,%rax
pop    %rbp
ret

x86 assembly (clang, -O2):
<process_plane>:
push   %rbp
push   %r15
push   %r14
push   %r13
push   %r12
push   %rbx
mov    %rdi,%rax
mov    %rdi,-0x10(%rsp)
test   %edx,%edx
jle    13c0 <process_plane+0x2c0>
lea    0x0(,%rsi,4),%eax
mov    %eax,-0x14(%rsp)
imul   %edx,%eax
cltq
add    %rax,%rcx
mov    %edx,%eax
mov    %rax,-0x8(%rsp)
xor    %r10d,%r10d
mov    -0x10(%rsp),%rax
xor    %r11d,%r11d
jmp    115b <process_plane+0x5b>
cs nopw 0x0(%rax,%rax,1)
nopl   0x0(%rax,%rax,1)
cmp    -0x8(%rsp),%r10
je     13c0 <process_plane+0x2c0>
mov    %r11,%r12
add    $0x1,%r10
mov    -0x14(%rsp),%edx
imul   %r10d,%edx
movslq %edx,%rdx
mov    %rcx,%r11
sub    %rdx,%r11
test   %r12,%r12
je     12b0 <process_plane+0x1b0>
test   %esi,%esi
jle    1150 <process_plane+0x50>
xor    %r14d,%r14d
mov    %r11,%r13
xor    %ebp,%ebp
jmp    1198 <process_plane+0x98>
nopw   0x0(%rax,%rax,1)
add    %r15d,%r14d
cmp    %esi,%r14d
jge    1150 <process_plane+0x50>
movzbl (%rax),%ebx
mov    %ebx,%edi
and    $0xf,%edi
mov    %ebx,%r8d
shr    $0x4,%r8d
mov    %edi,%r15d
shl    $0x4,%r15d
lea    (%r15,%r8,1),%edx
add    $0xfffffff0,%edx
or     %r8d,%r15d
add    $0x1,%rax
cmp    $0x20,%edx
cmovae %edi,%r15d
jb     1215 <process_plane+0x115>
cmp    $0x10,%bl
jb     1215 <process_plane+0x115>
lea    0x0(,%r14,4),%ebx
lea    0x1(%r8),%r9d
cs nopw 0x0(%rax,%rax,1)
movzbl (%rax),%ebp
mov    %ebp,%edx
shr    %edx
and    $0x1,%ebp
neg    %ebp
xor    %edx,%ebp
movslq %ebx,%rbx
movzbl (%r12,%rbx,1),%edx
add    %bpl,%dl
mov    %dl,0x0(%r13)
add    $0x4,%r13
add    $0x1,%rax
add    $0x4,%ebx
add    $0xffffffff,%r9d
cmp    $0x1,%r9d
ja     11e0 <process_plane+0xe0>
add    %r8d,%r14d
test   %r15d,%r15d
je     1193 <process_plane+0x93>
mov    %r14d,%edx
test   $0x1,%r15b
jne    1240 <process_plane+0x140>
mov    %r15d,%edi
cmp    $0x1,%r15d
je     1190 <process_plane+0x90>
jmp    1264 <process_plane+0x164>
cs nopw 0x0(%rax,%rax,1)
movslq %r14d,%rdi
mov    (%r12,%rdi,4),%bl
add    %bpl,%bl
mov    %bl,0x0(%r13)
add    $0x4,%r13
add    $0x1,%rdx
lea    -0x1(%r15),%edi
cmp    $0x1,%r15d
je     1190 <process_plane+0x90>
shl    $0x2,%edx
add    $0x2,%edi
nopw   0x0(%rax,%rax,1)
movslq %edx,%rdx
movzbl (%r12,%rdx,1),%ebx
add    %bpl,%bl
mov    %bl,0x0(%r13)
lea    0x4(%rdx),%ebx
movslq %ebx,%rbx
movzbl (%r12,%rbx,1),%ebx
add    %bpl,%bl
mov    %bl,0x4(%r13)
add    $0x8,%r13
add    $0x8,%edx
add    $0xfffffffe,%edi
cmp    $0x2,%edi
jg     1270 <process_plane+0x170>
jmp    1190 <process_plane+0x90>
cs nopw 0x0(%rax,%rax,1)
nop
test   %esi,%esi
jle    1150 <process_plane+0x50>
xor    %r14d,%r14d
mov    %r11,%rdx
xor    %ebp,%ebp
jmp    12dc <process_plane+0x1dc>
cs nopw 0x0(%rax,%rax,1)
nopl   0x0(%rax)
add    %r15d,%r14d
cmp    %esi,%r14d
jge    1150 <process_plane+0x50>
movzbl (%rax),%r9d
mov    %r9d,%edi
and    $0xf,%edi
mov    %r9d,%ebx
shr    $0x4,%ebx
mov    %edi,%r15d
shl    $0x4,%r15d
lea    (%r15,%rbx,1),%r12d
add    $0xfffffff0,%r12d
or     %ebx,%r15d
add    $0x1,%rax
cmp    $0x20,%r12d
cmovae %edi,%r15d
jb     133c <process_plane+0x23c>
cmp    $0x10,%r9b
jb     133c <process_plane+0x23c>
lea    0x1(%rbx),%edi
cs nopw 0x0(%rax,%rax,1)
nop
movzbl (%rax),%ebp
mov    %bpl,(%rdx)
add    $0x4,%rdx
add    $0x1,%rax
add    $0xffffffff,%edi
cmp    $0x1,%edi
ja     1320 <process_plane+0x220>
add    %r14d,%ebx
mov    %ebx,%r14d
test   %r15d,%r15d
je     12d3 <process_plane+0x1d3>
lea    -0x1(%r15),%r9d
test   $0x7,%r15b
je     1380 <process_plane+0x280>
mov    %r15d,%edi
and    $0x7,%edi
xor    %ebx,%ebx
cs nopw 0x0(%rax,%rax,1)
nopl   (%rax)
mov    %bpl,(%rdx)
add    $0x4,%rdx
add    $0x1,%rbx
cmp    %ebx,%edi
jne    1360 <process_plane+0x260>
mov    %r15d,%edi
sub    %ebx,%edi
cmp    $0x7,%r9d
jb     12d0 <process_plane+0x1d0>
jmp    138d <process_plane+0x28d>
mov    %r15d,%edi
cmp    $0x7,%r9d
jb     12d0 <process_plane+0x1d0>
add    $0x8,%edi
mov    %bpl,(%rdx)
mov    %bpl,0x4(%rdx)
mov    %bpl,0x8(%rdx)
mov    %bpl,0xc(%rdx)
mov    %bpl,0x10(%rdx)
mov    %bpl,0x14(%rdx)
mov    %bpl,0x18(%rdx)
mov    %bpl,0x1c(%rdx)
add    $0x20,%rdx
add    $0xfffffff8,%edi
cmp    $0x8,%edi
jg     1390 <process_plane+0x290>
jmp    12d0 <process_plane+0x1d0>
sub    -0x10(%rsp),%eax
pop    %rbx
pop    %r12
pop    %r13
pop    %r14
pop    %r15
pop    %rbp
ret

LLVM IR (-O0):
define i32 @process_plane(i8* %0, i32 %1, i32 %2, i8* %3, i32 %4) {
%6 = alloca i8*
%7 = alloca i32
%8 = alloca i32
%9 = alloca i8*
%10 = alloca i32
%11 = alloca i32
%12 = alloca i32
%13 = alloca i32
%14 = alloca i32
%15 = alloca i32
%16 = alloca i32
%17 = alloca i32
%18 = alloca i32
%19 = alloca i8*
%20 = alloca i8*
%21 = alloca i8*
%22 = alloca i8*
store i8* %0, i8** %6
store i32 %1, i32* %7
store i32 %2, i32* %8
store i8* %3, i8** %9
store i32 %4, i32* %10
%23 = load i8*, i8** %6
store i8* %23, i8** %21
%24 = load i8*, i8** %9
store i8* %24, i8** %22
store i8* null, i8** %19
store i32 0, i32* %12
br label %25
25: ; preds = %201, %5
%26 = load i32, i32* %12
%27 = load i32, i32* %8
%28 = icmp slt i32 %26, %27
br i1 %28, label %29, label %205
29: ; preds = %25
%30 = load i8*, i8** %22
%31 = load i32, i32* %7
%32 = load i32, i32* %8
%33 = mul nsw i32 %31, %32
%34 = mul nsw i32 %33, 4
%35 = sext i32 %34 to i64
%36 = getelementptr inbounds i8, i8* %30, i64 %35
%37 = load i32, i32* %12
%38 = add nsw i32 %37, 1
%39 = load i32, i32* %7
%40 = mul nsw i32 %38, %39
%41 = mul nsw i32 %40, 4
%42 = sext i32 %41 to i64
%43 = sub i64 0, %42
%44 = getelementptr inbounds i8, i8* %36, i64 %43
store i8* %44, i8** %9
store i32 0, i32* %16
%45 = load i8*, i8** %9
store i8* %45, i8** %20
store i32 0, i32* %11
%46 = load i8*, i8** %19
%47 = icmp eq i8* %46, null
br i1 %47, label %48, label %108
48: ; preds = %29
br label %49
49: ; preds = %106, %48
%50 = load i32, i32* %11
%51 = load i32, i32* %7
%52 = icmp slt i32 %50, %51
br i1 %52, label %53, label %107
53: ; preds = %49
%54 = load i8*, i8** %6
%55 = getelementptr inbounds i8, i8* %54, i32 1
store i8* %55, i8** %6
%56 = load i8, i8* %54
%57 = zext i8 %56 to i32
store i32 %57, i32* %13
%58 = load i32, i32* %13
%59 = and i32 %58, 15
store i32 %59, i32* %15
%60 = load i32, i32* %13
%61 = ashr i32 %60, 4
%62 = and i32 %61, 15
store i32 %62, i32* %14
%63 = load i32, i32* %15
%64 = shl i32 %63, 4
%65 = load i32, i32* %14
%66 = or i32 %64, %65
store i32 %66, i32* %18
%67 = load i32, i32* %18
%68 = icmp sle i32 %67, 47
br i1 %68, label %69, label %74
69: ; preds = %53
%70 = load i32, i32* %18
%71 = icmp sge i32 %70, 16
br i1 %71, label %72, label %74
72: ; preds = %69
%73 = load i32, i32* %18
store i32 %73, i32* %15
store i32 0, i32* %14
br label %74
74: ; preds = %72, %69, %53
br label %75
75: ; preds = %78, %74
%76 = load i32, i32* %14
%77 = icmp sgt i32 %76, 0
br i1 %77, label %78, label %92
78: ; preds = %75
%79 = load i8*, i8** %6
%80 = getelementptr inbounds i8, i8* %79, i32 1
store i8* %80, i8** %6
%81 = load i8, i8* %79
%82 = zext i8 %81 to i32
store i32 %82, i32* %16
%83 = load i32, i32* %16
%84 = trunc i32 %83 to i8
%85 = load i8*, i8** %9
store i8 %84, i8* %85
%86 = load i8*, i8** %9
%87 = getelementptr inbounds i8, i8* %86, i64 4
store i8* %87, i8** %9
%88 = load i32, i32* %11
%89 = add nsw i32 %88, 1
store i32 %89, i32* %11
%90 = load i32, i32* %14
%91 = add nsw i32 %90, -1
store i32 %91, i32* %14
br label %75
92: ; preds = %75
br label %93
93: ; preds = %96, %92
%94 = load i32, i32* %15
%95 = icmp sgt i32 %94, 0
br i1 %95, label %96, label %106
96: ; preds = %93
%97 = load i32, i32* %16
%98 = trunc i32 %97 to i8
%99 = load i8*, i8** %9
store i8 %98, i8* %99
%100 = load i8*, i8** %9
%101 = getelementptr inbounds i8, i8* %100, i64 4
store i8* %101, i8** %9
%102 = load i32, i32* %11
%103 = add nsw i32 %102, 1
store i32 %103, i32* %11
%104 = load i32, i32* %15
%105 = add nsw i32 %104, -1
store i32 %105, i32* %15
br label %93
106: ; preds = %93
br label %49
107: ; preds = %49
br label %201
108: ; preds = %29
br label %109
109: ; preds = %199, %108
%110 = load i32, i32* %11
%111 = load i32, i32* %7
%112 = icmp slt i32 %110, %111
br i1 %112, label %113, label %200
113: ; preds = %109
%114 = load i8*, i8** %6
%115 = getelementptr inbounds i8, i8* %114, i32 1
store i8* %115, i8** %6
%116 = load i8, i8* %114
%117 = zext i8 %116 to i32
store i32 %117, i32* %13
%118 = load i32, i32* %13
%119 = and i32 %118, 15
store i32 %119, i32* %15
%120 = load i32, i32* %13
%121 = ashr i32 %120, 4
%122 = and i32 %121, 15
store i32 %122, i32* %14
%123 = load i32, i32* %15
%124 = shl i32 %123, 4
%125 = load i32, i32* %14
%126 = or i32 %124, %125
store i32 %126, i32* %18
%127 = load i32, i32* %18
%128 = icmp sle i32 %127, 47
br i1 %128, label %129, label %134
129: ; preds = %113
%130 = load i32, i32* %18
%131 = icmp sge i32 %130, 16
br i1 %131, label %132, label %134
132: ; preds = %129
%133 = load i32, i32* %18
store i32 %133, i32* %15
store i32 0, i32* %14
br label %134
134: ; preds = %132, %129, %113
br label %135
135: ; preds = %157, %134
%136 = load i32, i32* %14
%137 = icmp sgt i32 %136, 0
br i1 %137, label %138, label %176
138: ; preds = %135
%139 = load i8*, i8** %6
%140 = getelementptr inbounds i8, i8* %139, i32 1
store i8* %140, i8** %6
%141 = load i8, i8* %139
%142 = zext i8 %141 to i32
store i32 %142, i32* %17
%143 = load i32, i32* %17
%144 = and i32 %143, 1
%145 = icmp ne i32 %144, 0
br i1 %145, label %146, label %153
146: ; preds = %138
%147 = load i32, i32* %17
%148 = ashr i32 %147, 1
store i32 %148, i32* %17
%149 = load i32, i32* %17
%150 = add nsw i32 %149, 1
store i32 %150, i32* %17
%151 = load i32, i32* %17
%152 = sub nsw i32 0, %151
store i32 %152, i32* %16
br label %157
153: ; preds = %138
%154 = load i32, i32* %17
%155 = ashr i32 %154, 1
store i32 %155, i32* %17
%156 = load i32, i32* %17
store i32 %156, i32* %16
br label %157
157: ; preds = %153, %146
%158 = load i8*, i8** %19
%159 = load i32, i32* %11
%160 = mul nsw i32 %159, 4
%161 = sext i32 %160 to i64
%162 = getelementptr inbounds i8, i8* %158, i64 %161
%163 = load i8, i8* %162
%164 = zext i8 %163 to i32
%165 = load i32, i32* %16
%166 = add nsw i32 %164, %165
store i32 %166, i32* %17
%167 = load i32, i32* %17
%168 = trunc i32 %167 to i8
%169 = load i8*, i8** %9
store i8 %168, i8* %169
%170 = load i8*, i8** %9
%171 = getelementptr inbounds i8, i8* %170, i64 4
store i8* %171, i8** %9
%172 = load i32, i32* %11
%173 = add nsw i32 %172, 1
store i32 %173, i32* %11
%174 = load i32, i32* %14
%175 = add nsw i32 %174, -1
store i32 %175, i32* %14
br label %135
176: ; preds = %135
br label %177
177: ; preds = %180, %176
%178 = load i32, i32* %15
%179 = icmp sgt i32 %178, 0
br i1 %179, label %180, label %199
180: ; preds = %177
%181 = load i8*, i8** %19
%182 = load i32, i32* %11
%183 = mul nsw i32 %182, 4
%184 = sext i32 %183 to i64
%185 = getelementptr inbounds i8, i8* %181, i64 %184
%186 = load i8, i8* %185
%187 = zext i8 %186 to i32
%188 = load i32, i32* %16
%189 = add nsw i32 %187, %188
store i32 %189, i32* %17
%190 = load i32, i32* %17
%191 = trunc i32 %190 to i8
%192 = load i8*, i8** %9
store i8 %191, i8* %192
%193 = load i8*, i8** %9
%194 = getelementptr inbounds i8, i8* %193, i64 4
store i8* %194, i8** %9
%195 = load i32, i32* %11
%196 = add nsw i32 %195, 1
store i32 %196, i32* %11
%197 = load i32, i32* %15
%198 = add nsw i32 %197, -1
store i32 %198, i32* %15
br label %177
199: ; preds = %177
br label %109
200: ; preds = %109
br label %201
201: ; preds = %200, %107
%202 = load i32, i32* %12
%203 = add nsw i32 %202, 1
store i32 %203, i32* %12
%204 = load i8*, i8** %20
store i8* %204, i8** %19
br label %25
205: ; preds = %25
%206 = load i8*, i8** %6
%207 = load i8*, i8** %21
%208 = ptrtoint i8* %206 to i64
%209 = ptrtoint i8* %207 to i64
%210 = sub i64 %208, %209
%211 = trunc i64 %210 to i32
ret i32 %211
}

LLVM IR (-O2):
define i32 @process_plane(i8* %0, i32 %1, i32 %2, i8* %3, i32 %4) {
%6 = icmp sgt i32 %2, 0
br i1 %6, label %7, label %202
7: ; preds = %5
%8 = shl i32 %1, 2
%9 = mul i32 %8, %2
%10 = sext i32 %9 to i64
%11 = getelementptr inbounds i8, i8* %3, i64 %10
%12 = icmp sgt i32 %1, 0
%13 = zext i32 %2 to i64
br label %14
14: ; preds = %7, %199
%15 = phi i64 [ 0, %7 ], [ %18, %199 ]
%16 = phi i8* [ %0, %7 ], [ %200, %199 ]
%17 = phi i8* [ null, %7 ], [ %23, %199 ]
%18 = add nuw nsw i64 %15, 1
%19 = trunc i64 %18 to i32
%20 = mul i32 %8, %19
%21 = sext i32 %20 to i64
%22 = sub nsw i64 0, %21
%23 = getelementptr inbounds i8, i8* %11, i64 %22
%24 = icmp eq i8* %17, null
br i1 %24, label %26, label %25
25: ; preds = %14
br i1 %12, label %107, label %199
26: ; preds = %14
br i1 %12, label %34, label %199
27: ; preds = %87, %73
%28 = phi i8* [ %76, %73 ], [ %97, %87 ]
%29 = add i32 %47, %56
br label %30
30: ; preds = %27, %54
%31 = phi i32 [ %56, %54 ], [ %29, %27 ]
%32 = phi i8* [ %57, %54 ], [ %28, %27 ]
%33 = icmp slt i32 %31, %1
br i1 %33, label %34, label %199
34: ; preds = %26, %30
%35 = phi i8* [ %58, %30 ], [ %16, %26 ]
%36 = phi i8* [ %32, %30 ], [ %23, %26 ]
%37 = phi i32 [ %31, %30 ], [ 0, %26 ]
%38 = phi i32 [ %55, %30 ], [ 0, %26 ]
%39 = load i8, i8* %35
%40 = zext i8 %39 to i32
%41 = and i32 %40, 15
%42 = lshr i32 %40, 4
%43 = shl nuw nsw i32 %41, 4
%44 = or i32 %43, %42
%45 = add nsw i32 %44, -16
%46 = icmp ult i32 %45, 32
%47 = select i1 %46, i32 %44, i32 %41
%48 = getelementptr inbounds i8, i8* %35, i64 1
%49 = icmp ult i8 %39, 16
%50 = select i1 %46, i1 true, i1 %49
br i1 %50, label %54, label %78
51: ; preds = %78
%52 = add i32 %42, %37
%53 = zext i8 %82 to i32
br label %54
54: ; preds = %51, %34
%55 = phi i32 [ %53, %51 ], [ %38, %34 ]
%56 = phi i32 [ %52, %51 ], [ %37, %34 ]
%57 = phi i8* [ %83, %51 ], [ %36, %34 ]
%58 = phi i8* [ %85, %51 ], [ %48, %34 ]
%59 = icmp eq i32 %47, 0
br i1 %59, label %30, label %60
60: ; preds = %54
%61 = trunc i32 %55 to i8
%62 = add nsw i32 %47, -1
%63 = and i32 %47, 7
%64 = icmp eq i32 %63, 0
br i1 %64, label %73, label %65
65: ; preds = %60, %65
%66 = phi i8* [ %69, %65 ], [ %57, %60 ]
%67 = phi i32 [ %70, %65 ], [ %47, %60 ]
%68 = phi i32 [ %71, %65 ], [ 0, %60 ]
store i8 %61, i8* %66
%69 = getelementptr inbounds i8, i8* %66, i64 4
%70 = add nsw i32 %67, -1
%71 = add i32 %68, 1
%72 = icmp eq i32 %71, %63
br i1 %72, label %73, label %65
73: ; preds = %65, %60
%74 = phi i8* [ %57, %60 ], [ %69, %65 ]
%75 = phi i32 [ %47, %60 ], [ %70, %65 ]
%76 = phi i8* [ undef, %60 ], [ %69, %65 ]
%77 = icmp ult i32 %62, 7
br i1 %77, label %27, label %87
78: ; preds = %34, %78
%79 = phi i8* [ %85, %78 ], [ %48, %34 ]
%80 = phi i8* [ %83, %78 ], [ %36, %34 ]
%81 = phi i32 [ %84, %78 ], [ %42, %34 ]
%82 = load i8, i8* %79
store i8 %82, i8* %80
%83 = getelementptr inbounds i8, i8* %80, i64 4
%84 = add nsw i32 %81, -1
%85 = getelementptr inbounds i8, i8* %79, i64 1
%86 = icmp ugt i32 %81, 1
br i1 %86, label %78, label %51
87: ; preds = %73, %87
%88 = phi i8* [ %97, %87 ], [ %74, %73 ]
%89 = phi i32 [ %98, %87 ], [ %75, %73 ]
store i8 %61, i8* %88
%90 = getelementptr inbounds i8, i8* %88, i64 4
store i8 %61, i8* %90
%91 = getelementptr inbounds i8, i8* %88, i64 8
store i8 %61, i8* %91
%92 = getelementptr inbounds i8, i8* %88, i64 12
store i8 %61, i8* %92
%93 = getelementptr inbounds i8, i8* %88, i64 16
store i8 %61, i8* %93
%94 = getelementptr inbounds i8, i8* %88, i64 20
store i8 %61, i8* %94
%95 = getelementptr inbounds i8, i8* %88, i64 24
store i8 %61, i8* %95
%96 = getelementptr inbounds i8, i8* %88, i64 28
store i8 %61, i8* %96
%97 = getelementptr inbounds i8, i8* %88, i64 32
%98 = add nsw i32 %89, -8
%99 = icmp sgt i32 %89, 8
br i1 %99, label %87, label %27
100: ; preds = %177, %148
%101 = phi i8* [ %152, %148 ], [ %195, %177 ]
%102 = add i32 %130, %120
br label %103
103: ; preds = %100, %128
%104 = phi i32 [ %130, %128 ], [ %102, %100 ]
%105 = phi i8* [ %131, %128 ], [ %101, %100 ]
%106 = icmp slt i32 %104, %1
br i1 %106, label %107, label %199
107: ; preds = %25, %103
%108 = phi i8* [ %132, %103 ], [ %16, %25 ]
%109 = phi i8* [ %105, %103 ], [ %23, %25 ]
%110 = phi i32 [ %104, %103 ], [ 0, %25 ]
%111 = phi i32 [ %129, %103 ], [ 0, %25 ]
%112 = load i8, i8* %108
%113 = zext i8 %112 to i32
%114 = and i32 %113, 15
%115 = lshr i32 %113, 4
%116 = shl nuw nsw i32 %114, 4
%117 = or i32 %116, %115
%118 = add nsw i32 %117, -16
%119 = icmp ult i32 %118, 32
%120 = select i1 %119, i32 %117, i32 %114
%121 = getelementptr inbounds i8, i8* %108, i64 1
%122 = icmp ult i8 %112, 16
%123 = select i1 %119, i1 true, i1 %122
br i1 %123, label %128, label %124
124: ; preds = %107
%125 = zext i32 %110 to i64
br label %154
126: ; preds = %154
%127 = add i32 %110, %115
br label %128
128: ; preds = %126, %107
%129 = phi i32 [ %111, %107 ], [ %165, %126 ]
%130 = phi i32 [ %110, %107 ], [ %127, %126 ]
%131 = phi i8* [ %109, %107 ], [ %172, %126 ]
%132 = phi i8* [ %121, %107 ], [ %175, %126 ]
%133 = icmp eq i32 %120, 0
br i1 %133, label %103, label %134
134: ; preds = %128
%135 = trunc i32 %129 to i8
%136 = zext i32 %130 to i64
%137 = and i32 %120, 1
%138 = icmp eq i32 %137, 0
br i1 %138, label %148, label %139
139: ; preds = %134
%140 = shl nsw i32 %130, 2
%141 = sext i32 %140 to i64
%142 = getelementptr inbounds i8, i8* %17, i64 %141
%143 = load i8, i8* %142
%144 = add i8 %143, %135
store i8 %144, i8* %131
%145 = getelementptr inbounds i8, i8* %131, i64 4
%146 = add nuw nsw i64 %136, 1
%147 = add nsw i32 %120, -1
br label %148
148: ; preds = %139, %134
%149 = phi i64 [ %136, %134 ], [ %146, %139 ]
%150 = phi i8* [ %131, %134 ], [ %145, %139 ]
%151 = phi i32 [ %120, %134 ], [ %147, %139 ]
%152 = phi i8* [ undef, %134 ], [ %145, %139 ]
%153 = icmp eq i32 %120, 1
br i1 %153, label %100, label %177
154: ; preds = %124, %154
%155 = phi i64 [ %125, %124 ], [ %173, %154 ]
%156 = phi i8* [ %121, %124 ], [ %175, %154 ]
%157 = phi i8* [ %109, %124 ], [ %172, %154 ]
%158 = phi i32 [ %115, %124 ], [ %174, %154 ]
%159 = trunc i64 %155 to i32
%160 = load i8, i8* %156
%161 = zext i8 %160 to i32
%162 = lshr i32 %161, 1
%163 = and i32 %161, 1
%164 = sub nsw i32 0, %163
%165 = xor i32 %162, %164
%166 = shl nsw i32 %159, 2
%167 = sext i32 %166 to i64
%168 = getelementptr inbounds i8, i8* %17, i64 %167
%169 = load i8, i8* %168
%170 = trunc i32 %165 to i8
%171 = add i8 %169, %170
store i8 %171, i8* %157
%172 = getelementptr inbounds i8, i8* %157, i64 4
%173 = add i64 %155, 1
%174 = add nsw i32 %158, -1
%175 = getelementptr inbounds i8, i8* %156, i64 1
%176 = icmp ugt i32 %158, 1
br i1 %176, label %154, label %126
177: ; preds = %148, %177
%178 = phi i64 [ %196, %177 ], [ %149, %148 ]
%179 = phi i8* [ %195, %177 ], [ %150, %148 ]
%180 = phi i32 [ %197, %177 ], [ %151, %148 ]
%181 = trunc i64 %178 to i32
%182 = shl nsw i32 %181, 2
%183 = sext i32 %182 to i64
%184 = getelementptr inbounds i8, i8* %17, i64 %183
%185 = load i8, i8* %184
%186 = add i8 %185, %135
store i8 %186, i8* %179
%187 = getelementptr inbounds i8, i8* %179, i64 4
%188 = trunc i64 %178 to i32
%189 = shl i32 %188, 2
%190 = add i32 %189, 4
%191 = sext i32 %190 to i64
%192 = getelementptr inbounds i8, i8* %17, i64 %191
%193 = load i8, i8* %192
%194 = add i8 %193, %135
store i8 %194, i8* %187
%195 = getelementptr inbounds i8, i8* %179, i64 8
%196 = add nuw nsw i64 %178, 2
%197 = add nsw i32 %180, -2
%198 = icmp sgt i32 %180, 2
br i1 %198, label %177, label %100
199: ; preds = %103, %30, %25, %26
%200 = phi i8* [ %16, %26 ], [ %16, %25 ], [ %58, %30 ], [ %132, %103 ]
%201 = icmp eq i64 %18, %13
br i1 %201, label %202, label %14
202: ; preds = %199, %5
%203 = phi i8* [ %0, %5 ], [ %200, %199 ]
%204 = ptrtoint i8* %203 to i64
%205 = ptrtoint i8* %0 to i64
%206 = sub i64 %204, %205
%207 = trunc i64 %206 to i32
ret i32 %207
}