extern int byteplane_transform(const unsigned char *const in,
                               unsigned char *const out, int length,
                               int num_planes) {
  int i;
  int plane = 0;
  int opos = 0;
  if (num_planes > 1) {
    while (plane < num_planes) {
      i = plane;
      while (i < length) {
        *(out + opos) = *(in + i);
        opos++;
        i += num_planes;
      }
      plane++;
    }
  } else if (num_planes > -1)
    return -1;
  else {
    num_planes = -num_planes;
    while (plane < num_planes) {
      i = plane;
      while (i < length) {
        *(out + i) = *(in + opos);
        opos++;
        i += num_planes;
      }
      plane++;
    }
  }
  if (opos != length)
    return -1;
  return 0;
}


x86 assembly (clang, -O0):
<byteplane_transform>:
push   %rbp
mov    %rsp,%rbp
mov    %rdi,-0x10(%rbp)
mov    %rsi,-0x18(%rbp)
mov    %edx,-0x1c(%rbp)
mov    %ecx,-0x20(%rbp)
movl   $0x0,-0x28(%rbp)
movl   $0x0,-0x2c(%rbp)
cmpl   $0x1,-0x20(%rbp)
jle    118d <byteplane_transform+0x8d>
jmp    112f <byteplane_transform+0x2f>
mov    -0x28(%rbp),%eax
cmp    -0x20(%rbp),%eax
jge    1188 <byteplane_transform+0x88>
mov    -0x28(%rbp),%eax
mov    %eax,-0x24(%rbp)
mov    -0x24(%rbp),%eax
cmp    -0x1c(%rbp),%eax
jge    117a <byteplane_transform+0x7a>
mov    -0x10(%rbp),%rax
movslq -0x24(%rbp),%rcx
mov    (%rax,%rcx,1),%dl
mov    -0x18(%rbp),%rax
movslq -0x2c(%rbp),%rcx
mov    %dl,(%rax,%rcx,1)
mov    -0x2c(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x2c(%rbp)
mov    -0x20(%rbp),%eax
add    -0x24(%rbp),%eax
mov    %eax,-0x24(%rbp)
jmp    1141 <byteplane_transform+0x41>
mov    -0x28(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x28(%rbp)
jmp    112f <byteplane_transform+0x2f>
jmp    120e <byteplane_transform+0x10e>
cmpl   $0xffffffff,-0x20(%rbp)
jle    11a3 <byteplane_transform+0xa3>
movl   $0xffffffff,-0x4(%rbp)
jmp    122d <byteplane_transform+0x12d>
xor    %eax,%eax
sub    -0x20(%rbp),%eax
mov    %eax,-0x20(%rbp)
mov    -0x28(%rbp),%eax
cmp    -0x20(%rbp),%eax
jge    1204 <byteplane_transform+0x104>
mov    -0x28(%rbp),%eax
mov    %eax,-0x24(%rbp)
mov    -0x24(%rbp),%eax
cmp    -0x1c(%rbp),%eax
jge    11f6 <byteplane_transform+0xf6>
mov    -0x10(%rbp),%rax
movslq -0x2c(%rbp),%rcx
mov    (%rax,%rcx,1),%dl
mov    -0x18(%rbp),%rax
movslq -0x24(%rbp),%rcx
mov    %dl,(%rax,%rcx,1)
mov    -0x2c(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x2c(%rbp)
mov    -0x20(%rbp),%eax
add    -0x24(%rbp),%eax
mov    %eax,-0x24(%rbp)
jmp    11bd <byteplane_transform+0xbd>
mov    -0x28(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x28(%rbp)
jmp    11ab <byteplane_transform+0xab>
jmp    1209 <byteplane_transform+0x109>
jmp    120e <byteplane_transform+0x10e>
mov    -0x2c(%rbp),%eax
cmp    -0x1c(%rbp),%eax
je     1226 <byteplane_transform+0x126>
movl   $0xffffffff,-0x4(%rbp)
jmp    122d <byteplane_transform+0x12d>
movl   $0x0,-0x4(%rbp)
mov    -0x4(%rbp),%eax
pop    %rbp
ret

x86 assembly (clang, -O2):
<byteplane_transform>:
push   %r14
push   %rbx
cmp    $0x2,%ecx
jl     1198 <byteplane_transform+0x98>
mov    %ecx,%r11d
movslq %edx,%r14
mov    %r11d,%r10d
and    $0xfffffffe,%r10d
xor    %r9d,%r9d
xor    %r8d,%r8d
jmp    113d <byteplane_transform+0x3d>
cs nopw 0x0(%rax,%rax,1)
nopl   0x0(%rax,%rax,1)
add    $0x2,%r9
cmp    %r10,%r9
je     11fb <byteplane_transform+0xfb>
cmp    %edx,%r9d
jge    1166 <byteplane_transform+0x66>
movslq %r8d,%rax
add    %rsi,%rax
mov    %r9,%rbx
nopl   0x0(%rax,%rax,1)
movzbl (%rdi,%rbx,1),%ecx
mov    %cl,(%rax)
add    %r11,%rbx
add    $0x1,%rax
add    $0x1,%r8d
cmp    %r14,%rbx
jl     1150 <byteplane_transform+0x50>
mov    %r9,%rax
or     $0x1,%rax
cmp    %edx,%eax
jge    1130 <byteplane_transform+0x30>
movslq %r8d,%rbx
add    %rsi,%rbx
nopw   0x0(%rax,%rax,1)
movzbl (%rdi,%rax,1),%ecx
mov    %cl,(%rbx)
add    %r11,%rax
add    $0x1,%r8d
add    $0x1,%rbx
cmp    %r14,%rax
jl     1180 <byteplane_transform+0x80>
jmp    1130 <byteplane_transform+0x30>
mov    $0xffffffff,%eax
test   %ecx,%ecx
jns    1231 <byteplane_transform+0x131>
mov    %ecx,%eax
neg    %eax
cmp    $0x2,%eax
mov    $0x1,%r9d
cmovge %eax,%r9d
xor    %r8d,%r8d
xor    %r10d,%r10d
jmp    11c9 <byteplane_transform+0xc9>
xchg   %ax,%ax
add    $0x1,%r10d
cmp    %r9d,%r10d
je     1227 <byteplane_transform+0x127>
cmp    %edx,%r10d
jge    11c0 <byteplane_transform+0xc0>
movslq %r8d,%rax
add    %rdi,%rax
mov    %r10d,%ebx
nopw   0x0(%rax,%rax,1)
movzbl (%rax),%r11d
movslq %ebx,%rbx
mov    %r11b,(%rsi,%rbx,1)
sub    %ecx,%ebx
add    $0x1,%rax
add    $0x1,%r8d
cmp    %edx,%ebx
jl     11e0 <byteplane_transform+0xe0>
jmp    11c0 <byteplane_transform+0xc0>
test   $0x1,%r11b
je     1227 <byteplane_transform+0x127>
cmp    %edx,%r9d
jge    1227 <byteplane_transform+0x127>
movslq %r8d,%rax
add    %rax,%rsi
nopl   0x0(%rax)
movzbl (%rdi,%r9,1),%eax
mov    %al,(%rsi)
add    %r11,%r9
add    $0x1,%r8d
add    $0x1,%rsi
cmp    %r14,%r9
jl     1210 <byteplane_transform+0x110>
xor    %eax,%eax
cmp    %edx,%r8d
setne  %al
neg    %eax
pop    %rbx
pop    %r14
ret

LLVM IR (-O0):
define i32 @byteplane_transform(i8* %0, i8* %1, i32 %2, i32 %3) {
%5 = alloca i32
%6 = alloca i8*
%7 = alloca i8*
%8 = alloca i32
%9 = alloca i32
%10 = alloca i32
%11 = alloca i32
%12 = alloca i32
store i8* %0, i8** %6
store i8* %1, i8** %7
store i32 %2, i32* %8
store i32 %3, i32* %9
store i32 0, i32* %11
store i32 0, i32* %12
%13 = load i32, i32* %9
%14 = icmp sgt i32 %13, 1
br i1 %14, label %15, label %45
15: ; preds = %4
br label %16
16: ; preds = %41, %15
%17 = load i32, i32* %11
%18 = load i32, i32* %9
%19 = icmp slt i32 %17, %18
br i1 %19, label %20, label %44
20: ; preds = %16
%21 = load i32, i32* %11
store i32 %21, i32* %10
br label %22
22: ; preds = %26, %20
%23 = load i32, i32* %10
%24 = load i32, i32* %8
%25 = icmp slt i32 %23, %24
br i1 %25, label %26, label %41
26: ; preds = %22
%27 = load i8*, i8** %6
%28 = load i32, i32* %10
%29 = sext i32 %28 to i64
%30 = getelementptr inbounds i8, i8* %27, i64 %29
%31 = load i8, i8* %30
%32 = load i8*, i8** %7
%33 = load i32, i32* %12
%34 = sext i32 %33 to i64
%35 = getelementptr inbounds i8, i8* %32, i64 %34
store i8 %31, i8* %35
%36 = load i32, i32* %12
%37 = add nsw i32 %36, 1
store i32 %37, i32* %12
%38 = load i32, i32* %9
%39 = load i32, i32* %10
%40 = add nsw i32 %39, %38
store i32 %40, i32* %10
br label %22
41: ; preds = %22
%42 = load i32, i32* %11
%43 = add nsw i32 %42, 1
store i32 %43, i32* %11
br label %16
44: ; preds = %16
br label %82
45: ; preds = %4
%46 = load i32, i32* %9
%47 = icmp sgt i32 %46, -1
br i1 %47, label %48, label %49
48: ; preds = %45
store i32 -1, i32* %5
br label %88
49: ; preds = %45
%50 = load i32, i32* %9
%51 = sub nsw i32 0, %50
store i32 %51, i32* %9
br label %52
52: ; preds = %77, %49
%53 = load i32, i32* %11
%54 = load i32, i32* %9
%55 = icmp slt i32 %53, %54
br i1 %55, label %56, label %80
56: ; preds = %52
%57 = load i32, i32* %11
store i32 %57, i32* %10
br label %58
58: ; preds = %62, %56
%59 = load i32, i32* %10
%60 = load i32, i32* %8
%61 = icmp slt i32 %59, %60
br i1 %61, label %62, label %77
62: ; preds = %58
%63 = load i8*, i8** %6
%64 = load i32, i32* %12
%65 = sext i32 %64 to i64
%66 = getelementptr inbounds i8, i8* %63, i64 %65
%67 = load i8, i8* %66
%68 = load i8*, i8** %7
%69 = load i32, i32* %10
%70 = sext i32 %69 to i64
%71 = getelementptr inbounds i8, i8* %68, i64 %70
store i8 %67, i8* %71
%72 = load i32, i32* %12
%73 = add nsw i32 %72, 1
store i32 %73, i32* %12
%74 = load i32, i32* %9
%75 = load i32, i32* %10
%76 = add nsw i32 %75, %74
store i32 %76, i32* %10
br label %58
77: ; preds = %58
%78 = load i32, i32* %11
%79 = add nsw i32 %78, 1
store i32 %79, i32* %11
br label %52
80: ; preds = %52
br label %81
81: ; preds = %80
br label %82
82: ; preds = %81, %44
%83 = load i32, i32* %12
%84 = load i32, i32* %8
%85 = icmp ne i32 %83, %84
br i1 %85, label %86, label %87
86: ; preds = %82
store i32 -1, i32* %5
br label %88
87: ; preds = %82
store i32 0, i32* %5
br label %88
88: ; preds = %87, %86, %48
%89 = load i32, i32* %5
ret i32 %89
}

LLVM IR (-O2):
define i32 @byteplane_transform(i8* nocapture %0, i8* nocapture writeonly %1, i32 %2, i32 %3) {
%5 = icmp sgt i32 %3, 1
br i1 %5, label %6, label %53
6: ; preds = %4
%7 = zext i32 %3 to i64
%8 = sext i32 %2 to i64
%9 = and i64 %7, 1
%10 = and i64 %7, 4294967294
br label %11
11: ; preds = %48, %6
%12 = phi i64 [ 0, %6 ], [ %50, %48 ]
%13 = phi i32 [ 0, %6 ], [ %49, %48 ]
%14 = phi i64 [ 0, %6 ], [ %51, %48 ]
%15 = trunc i64 %12 to i32
%16 = icmp slt i32 %15, %2
br i1 %16, label %17, label %30
17: ; preds = %11
%18 = sext i32 %13 to i64
br label %19
19: ; preds = %17, %19
%20 = phi i64 [ %12, %17 ], [ %26, %19 ]
%21 = phi i64 [ %18, %17 ], [ %25, %19 ]
%22 = getelementptr inbounds i8, i8* %0, i64 %20
%23 = load i8, i8* %22
%24 = getelementptr inbounds i8, i8* %1, i64 %21
store i8 %23, i8* %24
%25 = add nsw i64 %21, 1
%26 = add i64 %20, %7
%27 = icmp slt i64 %26, %8
br i1 %27, label %19, label %28
28: ; preds = %19
%29 = trunc i64 %25 to i32
br label %30
30: ; preds = %28, %11
%31 = phi i32 [ %13, %11 ], [ %29, %28 ]
%32 = or i64 %12, 1
%33 = trunc i64 %32 to i32
%34 = icmp slt i32 %33, %2
br i1 %34, label %35, label %48
35: ; preds = %30
%36 = sext i32 %31 to i64
br label %37
37: ; preds = %37, %35
%38 = phi i64 [ %32, %35 ], [ %44, %37 ]
%39 = phi i64 [ %36, %35 ], [ %43, %37 ]
%40 = getelementptr inbounds i8, i8* %0, i64 %38
%41 = load i8, i8* %40
%42 = getelementptr inbounds i8, i8* %1, i64 %39
store i8 %41, i8* %42
%43 = add nsw i64 %39, 1
%44 = add i64 %38, %7
%45 = icmp slt i64 %44, %8
br i1 %45, label %37, label %46
46: ; preds = %37
%47 = trunc i64 %43 to i32
br label %48
48: ; preds = %46, %30
%49 = phi i32 [ %31, %30 ], [ %47, %46 ]
%50 = add nuw nsw i64 %12, 2
%51 = add i64 %14, 2
%52 = icmp eq i64 %51, %10
br i1 %52, label %80, label %11
53: ; preds = %4
%54 = icmp sgt i32 %3, -1
br i1 %54, label %102, label %55
55: ; preds = %53
%56 = sub i32 0, %3
%57 = call i32 @llvm.smax.i32(i32 %56, i32 1)
br label %58
58: ; preds = %55, %76
%59 = phi i32 [ %77, %76 ], [ 0, %55 ]
%60 = phi i32 [ %78, %76 ], [ 0, %55 ]
%61 = icmp slt i32 %60, %2
br i1 %61, label %62, label %76
62: ; preds = %58
%63 = sext i32 %59 to i64
br label %64
64: ; preds = %62, %64
%65 = phi i64 [ %63, %62 ], [ %71, %64 ]
%66 = phi i32 [ %60, %62 ], [ %72, %64 ]
%67 = getelementptr inbounds i8, i8* %0, i64 %65
%68 = load i8, i8* %67
%69 = sext i32 %66 to i64
%70 = getelementptr inbounds i8, i8* %1, i64 %69
store i8 %68, i8* %70
%71 = add i64 %65, 1
%72 = sub i32 %66, %3
%73 = icmp slt i32 %72, %2
br i1 %73, label %64, label %74
74: ; preds = %64
%75 = trunc i64 %71 to i32
br label %76
76: ; preds = %74, %58
%77 = phi i32 [ %59, %58 ], [ %75, %74 ]
%78 = add nuw nsw i32 %60, 1
%79 = icmp eq i32 %78, %57
br i1 %79, label %98, label %58
80: ; preds = %48
%81 = icmp ne i64 %9, 0
%82 = trunc i64 %50 to i32
%83 = icmp slt i32 %82, %2
%84 = select i1 %81, i1 %83, i1 false
br i1 %84, label %85, label %98
85: ; preds = %80
%86 = sext i32 %49 to i64
br label %87
87: ; preds = %87, %85
%88 = phi i64 [ %50, %85 ], [ %94, %87 ]
%89 = phi i64 [ %86, %85 ], [ %93, %87 ]
%90 = getelementptr inbounds i8, i8* %0, i64 %88
%91 = load i8, i8* %90
%92 = getelementptr inbounds i8, i8* %1, i64 %89
store i8 %91, i8* %92
%93 = add nsw i64 %89, 1
%94 = add i64 %88, %7
%95 = icmp slt i64 %94, %8
br i1 %95, label %87, label %96
96: ; preds = %87
%97 = trunc i64 %93 to i32
br label %98
98: ; preds = %76, %80, %96
%99 = phi i32 [ %49, %80 ], [ %97, %96 ], [ %77, %76 ]
%100 = icmp ne i32 %99, %2
%101 = sext i1 %100 to i32
br label %102
102: ; preds = %98, %53
%103 = phi i32 [ -1, %53 ], [ %101, %98 ]
ret i32 %103
}