int rle_read(unsigned char *in, int in_size, unsigned char *out, int out_size,
             int bytes_per_pixel) {
  unsigned char len;
  if (bytes_per_pixel == 4)
    return rle_read_32(in, in_size, out, out_size);
  assert(bytes_per_pixel <= 4);
  while (out_size > 0) {
    if (in_size < 1)
      return -1;
    len = *(in++);
    --in_size;
    if (len & 0x80) {
      char buffer[4];
      len &= 0x7f;
      len++;
      if (in_size < bytes_per_pixel)
        return -1;
      memcpy(buffer, in, bytes_per_pixel);
      in += bytes_per_pixel;
      in_size -= bytes_per_pixel;
      while (len--) {
        if (out_size < bytes_per_pixel)
          return -1;
        memcpy(out, buffer, bytes_per_pixel);
        out += bytes_per_pixel;
        out_size -= bytes_per_pixel;
      }
    } else {
      int i = bytes_per_pixel * (len + 1);
      if (out_size < i || in_size < i)
        return -1;
      memcpy(out, in, i);
      out += i;
      out_size -= i;
      in += i;
      in_size -= i;
    }
  }
  return 0;
}


x86 assembly (clang, -O0):
<rle_read>:
push   %rbp
mov    %rsp,%rbp
sub    $0x40,%rsp
mov    %rdi,-0x10(%rbp)
mov    %esi,-0x14(%rbp)
mov    %rdx,-0x20(%rbp)
mov    %ecx,-0x24(%rbp)
mov    %r8d,-0x28(%rbp)
cmpl   $0x4,-0x28(%rbp)
jne    1171 <rle_read+0x41>
mov    -0x10(%rbp),%rdi
mov    -0x14(%rbp),%esi
mov    -0x20(%rbp),%rdx
mov    -0x24(%rbp),%ecx
mov    $0x0,%al
call   1030 <rle_read_32@plt>
mov    %eax,-0x4(%rbp)
jmp    1315 <rle_read+0x1e5>
cmpl   $0x4,-0x28(%rbp)
setle  %al
and    $0x1,%al
movzbl %al,%edi
mov    $0x0,%al
call   1040 <assert@plt>
cmpl   $0x0,-0x24(%rbp)
jle    130e <rle_read+0x1de>
cmpl   $0x1,-0x14(%rbp)
jge    11a4 <rle_read+0x74>
movl   $0xffffffff,-0x4(%rbp)
jmp    1315 <rle_read+0x1e5>
mov    -0x10(%rbp),%rax
mov    %rax,%rcx
add    $0x1,%rcx
mov    %rcx,-0x10(%rbp)
mov    (%rax),%al
mov    %al,-0x29(%rbp)
mov    -0x14(%rbp),%eax
add    $0xffffffff,%eax
mov    %eax,-0x14(%rbp)
movzbl -0x29(%rbp),%eax
and    $0x80,%eax
cmp    $0x0,%eax
je     128c <rle_read+0x15c>
movzbl -0x29(%rbp),%eax
and    $0x7f,%eax
mov    %al,-0x29(%rbp)
mov    -0x29(%rbp),%al
add    $0x1,%al
mov    %al,-0x29(%rbp)
mov    -0x14(%rbp),%eax
cmp    -0x28(%rbp),%eax
jge    11fd <rle_read+0xcd>
movl   $0xffffffff,-0x4(%rbp)
jmp    1315 <rle_read+0x1e5>
lea    -0x2d(%rbp),%rdi
mov    -0x10(%rbp),%rsi
movslq -0x28(%rbp),%rdx
call   1050 <memcpy@plt>
mov    -0x28(%rbp),%ecx
mov    -0x10(%rbp),%rax
movslq %ecx,%rcx
add    %rcx,%rax
mov    %rax,-0x10(%rbp)
mov    -0x28(%rbp),%ecx
mov    -0x14(%rbp),%eax
sub    %ecx,%eax
mov    %eax,-0x14(%rbp)
mov    -0x29(%rbp),%al
mov    %al,%cl
add    $0xff,%cl
mov    %cl,-0x29(%rbp)
cmp    $0x0,%al
je     1287 <rle_read+0x157>
mov    -0x24(%rbp),%eax
cmp    -0x28(%rbp),%eax
jge    1255 <rle_read+0x125>
movl   $0xffffffff,-0x4(%rbp)
jmp    1315 <rle_read+0x1e5>
mov    -0x20(%rbp),%rdi
lea    -0x2d(%rbp),%rsi
movslq -0x28(%rbp),%rdx
call   1050 <memcpy@plt>
mov    -0x28(%rbp),%ecx
mov    -0x20(%rbp),%rax
movslq %ecx,%rcx
add    %rcx,%rax
mov    %rax,-0x20(%rbp)
mov    -0x28(%rbp),%ecx
mov    -0x24(%rbp),%eax
sub    %ecx,%eax
mov    %eax,-0x24(%rbp)
jmp    122a <rle_read+0xfa>
jmp    1309 <rle_read+0x1d9>
mov    -0x28(%rbp),%eax
movzbl -0x29(%rbp),%ecx
add    $0x1,%ecx
imul   %ecx,%eax
mov    %eax,-0x34(%rbp)
mov    -0x24(%rbp),%eax
cmp    -0x34(%rbp),%eax
jl     12b4 <rle_read+0x184>
mov    -0x14(%rbp),%eax
cmp    -0x34(%rbp),%eax
jge    12c0 <rle_read+0x190>
movl   $0xffffffff,-0x4(%rbp)
jmp    1315 <rle_read+0x1e5>
mov    -0x20(%rbp),%rdi
mov    -0x10(%rbp),%rsi
movslq -0x34(%rbp),%rdx
call   1050 <memcpy@plt>
mov    -0x34(%rbp),%ecx
mov    -0x20(%rbp),%rax
movslq %ecx,%rcx
add    %rcx,%rax
mov    %rax,-0x20(%rbp)
mov    -0x34(%rbp),%ecx
mov    -0x24(%rbp),%eax
sub    %ecx,%eax
mov    %eax,-0x24(%rbp)
mov    -0x34(%rbp),%ecx
mov    -0x10(%rbp),%rax
movslq %ecx,%rcx
add    %rcx,%rax
mov    %rax,-0x10(%rbp)
mov    -0x34(%rbp),%ecx
mov    -0x14(%rbp),%eax
sub    %ecx,%eax
mov    %eax,-0x14(%rbp)
jmp    1184 <rle_read+0x54>
movl   $0x0,-0x4(%rbp)
mov    -0x4(%rbp),%eax
add    $0x40,%rsp
pop    %rbp
ret

x86 assembly (clang, -O2):
<rle_read>:
push   %rbp
push   %r15
push   %r14
push   %r13
push   %r12
push   %rbx
push   %rax
mov    %ecx,%ebp
mov    %rdx,%rbx
mov    %rdi,%r12
cmp    $0x4,%r8d
jne    1166 <rle_read+0x36>
mov    %r12,%rdi
mov    %rbx,%rdx
mov    %ebp,%ecx
xor    %eax,%eax
add    $0x8,%rsp
pop    %rbx
pop    %r12
pop    %r13
pop    %r14
pop    %r15
pop    %rbp
jmp    1030 <rle_read_32@plt>
mov    %r8d,%r15d
mov    %esi,%r14d
setle  %al
movzbl %al,%edi
xor    %eax,%eax
call   1040 <assert@plt>
test   %ebp,%ebp
jle    1238 <rle_read+0x108>
movslq %r15d,%r13
mov    %r14d,%ecx
mov    $0xffffffff,%eax
test   %ecx,%ecx
jle    1241 <rle_read+0x111>
movzbl (%r12),%r14d
add    $0x1,%r12
test   $0x80,%r14b
mov    %ecx,(%rsp)
jne    11e0 <rle_read+0xb0>
add    $0x1,%r14
imul   %r13,%r14
sub    %r14d,%ebp
jl     1241 <rle_read+0x111>
cmp    %r14d,%ecx
jle    1241 <rle_read+0x111>
mov    %rbx,%rdi
mov    %r12,%rsi
mov    %r14,%rdx
call   1050 <memcpy@plt>
add    %r14,%rbx
mov    %r14,%rax
jmp    1224 <rle_read+0xf4>
cs nopw 0x0(%rax,%rax,1)
cmp    %r15d,%ecx
jle    123c <rle_read+0x10c>
and    $0x7f,%r14b
lea    0x4(%rsp),%rdi
mov    %r12,%rsi
mov    %r13,%rdx
call   1050 <memcpy@plt>
add    $0x1,%r14b
nopl   (%rax)
sub    %r15d,%ebp
jl     123c <rle_read+0x10c>
mov    %rbx,%rdi
lea    0x4(%rsp),%rsi
mov    %r13,%rdx
call   1050 <memcpy@plt>
add    %r13,%rbx
add    $0xff,%r14b
jne    1200 <rle_read+0xd0>
mov    %r15d,%r14d
mov    %r13,%rax
add    %rax,%r12
not    %r14d
mov    (%rsp),%ecx
add    %r14d,%ecx
test   %ebp,%ebp
jg     1187 <rle_read+0x57>
xor    %eax,%eax
jmp    1241 <rle_read+0x111>
mov    $0xffffffff,%eax
add    $0x8,%rsp
pop    %rbx
pop    %r12
pop    %r13
pop    %r14
pop    %r15
pop    %rbp
ret

LLVM IR (-O0):
define i32 @rle_read(i8* %0, i32 %1, i8* %2, i32 %3, i32 %4) {
%6 = alloca i32
%7 = alloca i8*
%8 = alloca i32
%9 = alloca i8*
%10 = alloca i32
%11 = alloca i32
%12 = alloca i8
%13 = alloca [4 x i8]
%14 = alloca i32
store i8* %0, i8** %7
store i32 %1, i32* %8
store i8* %2, i8** %9
store i32 %3, i32* %10
store i32 %4, i32* %11
%15 = load i32, i32* %11
%16 = icmp eq i32 %15, 4
br i1 %16, label %17, label %23
17: ; preds = %5
%18 = load i8*, i8** %7
%19 = load i32, i32* %8
%20 = load i8*, i8** %9
%21 = load i32, i32* %10
%22 = call i32 (i8*, i32, i8*, i32, ...) bitcast (i32 (...)* @rle_read_32 to i32 (i8*, i32, i8*, i32, ...)*)(i8* %18, i32 %19, i8* %20, i32 %21)
store i32 %22, i32* %6
br label %125
23: ; preds = %5
%24 = load i32, i32* %11
%25 = icmp sle i32 %24, 4
%26 = zext i1 %25 to i32
%27 = call i32 (i32, ...) bitcast (i32 (...)* @assert to i32 (i32, ...)*)(i32 %26)
br label %28
28: ; preds = %123, %23
%29 = load i32, i32* %10
%30 = icmp sgt i32 %29, 0
br i1 %30, label %31, label %124
31: ; preds = %28
%32 = load i32, i32* %8
%33 = icmp slt i32 %32, 1
br i1 %33, label %34, label %35
34: ; preds = %31
store i32 -1, i32* %6
br label %125
35: ; preds = %31
%36 = load i8*, i8** %7
%37 = getelementptr inbounds i8, i8* %36, i32 1
store i8* %37, i8** %7
%38 = load i8, i8* %36
store i8 %38, i8* %12
%39 = load i32, i32* %8
%40 = add nsw i32 %39, -1
store i32 %40, i32* %8
%41 = load i8, i8* %12
%42 = zext i8 %41 to i32
%43 = and i32 %42, 128
%44 = icmp ne i32 %43, 0
br i1 %44, label %45, label %90
45: ; preds = %35
%46 = load i8, i8* %12
%47 = zext i8 %46 to i32
%48 = and i32 %47, 127
%49 = trunc i32 %48 to i8
store i8 %49, i8* %12
%50 = load i8, i8* %12
%51 = add i8 %50, 1
store i8 %51, i8* %12
%52 = load i32, i32* %8
%53 = load i32, i32* %11
%54 = icmp slt i32 %52, %53
br i1 %54, label %55, label %56
55: ; preds = %45
store i32 -1, i32* %6
br label %125
56: ; preds = %45
%57 = getelementptr inbounds [4 x i8], [4 x i8]* %13, i64 0, i64 0
%58 = load i8*, i8** %7
%59 = load i32, i32* %11
%60 = sext i32 %59 to i64
%61 = load i32, i32* %11
%62 = load i8*, i8** %7
%63 = sext i32 %61 to i64
%64 = getelementptr inbounds i8, i8* %62, i64 %63
store i8* %64, i8** %7
%65 = load i32, i32* %11
%66 = load i32, i32* %8
%67 = sub nsw i32 %66, %65
store i32 %67, i32* %8
br label %68
68: ; preds = %77, %56
%69 = load i8, i8* %12
%70 = add i8 %69, -1
store i8 %70, i8* %12
%71 = icmp ne i8 %69, 0
br i1 %71, label %72, label %89
72: ; preds = %68
%73 = load i32, i32* %10
%74 = load i32, i32* %11
%75 = icmp slt i32 %73, %74
br i1 %75, label %76, label %77
76: ; preds = %72
store i32 -1, i32* %6
br label %125
77: ; preds = %72
%78 = load i8*, i8** %9
%79 = getelementptr inbounds [4 x i8], [4 x i8]* %13, i64 0, i64 0
%80 = load i32, i32* %11
%81 = sext i32 %80 to i64
%82 = load i32, i32* %11
%83 = load i8*, i8** %9
%84 = sext i32 %82 to i64
%85 = getelementptr inbounds i8, i8* %83, i64 %84
store i8* %85, i8** %9
%86 = load i32, i32* %11
%87 = load i32, i32* %10
%88 = sub nsw i32 %87, %86
store i32 %88, i32* %10
br label %68
89: ; preds = %68
br label %123
90: ; preds = %35
%91 = load i32, i32* %11
%92 = load i8, i8* %12
%93 = zext i8 %92 to i32
%94 = add nsw i32 %93, 1
%95 = mul nsw i32 %91, %94
store i32 %95, i32* %14
%96 = load i32, i32* %10
%97 = load i32, i32* %14
%98 = icmp slt i32 %96, %97
br i1 %98, label %103, label %99
99: ; preds = %90
%100 = load i32, i32* %8
%101 = load i32, i32* %14
%102 = icmp slt i32 %100, %101
br i1 %102, label %103, label %104
103: ; preds = %99, %90
store i32 -1, i32* %6
br label %125
104: ; preds = %99
%105 = load i8*, i8** %9
%106 = load i8*, i8** %7
%107 = load i32, i32* %14
%108 = sext i32 %107 to i64
%109 = load i32, i32* %14
%110 = load i8*, i8** %9
%111 = sext i32 %109 to i64
%112 = getelementptr inbounds i8, i8* %110, i64 %111
store i8* %112, i8** %9
%113 = load i32, i32* %14
%114 = load i32, i32* %10
%115 = sub nsw i32 %114, %113
store i32 %115, i32* %10
%116 = load i32, i32* %14
%117 = load i8*, i8** %7
%118 = sext i32 %116 to i64
%119 = getelementptr inbounds i8, i8* %117, i64 %118
store i8* %119, i8** %7
%120 = load i32, i32* %14
%121 = load i32, i32* %8
%122 = sub nsw i32 %121, %120
store i32 %122, i32* %8
br label %123
123: ; preds = %104, %89
br label %28
124: ; preds = %28
store i32 0, i32* %6
br label %125
125: ; preds = %124, %103, %76, %55, %34, %17
%126 = load i32, i32* %6
ret i32 %126
}

LLVM IR (-O2):
define i32 @rle_read(i8* %0, i32 %1, i8* %2, i32 %3, i32 %4) {
%6 = alloca i32
%7 = icmp eq i32 %4, 4
br i1 %7, label %8, label %10
8: ; preds = %5
%9 = tail call i32 (i8*, i32, i8*, i32, ...) bitcast (i32 (...)* @rle_read_32 to i32 (i8*, i32, i8*, i32, ...)*)(i8* %0, i32 %1, i8* %2, i32 %3)
br label %66
10: ; preds = %5
%11 = icmp slt i32 %4, 5
%12 = zext i1 %11 to i32
%13 = tail call i32 (i32, ...) bitcast (i32 (...)* @assert to i32 (i32, ...)*)(i32 %12)
%14 = icmp sgt i32 %3, 0
br i1 %14, label %15, label %66
15: ; preds = %10
%16 = sext i32 %4 to i64
%17 = bitcast i32* %6 to i8*
br label %18
18: ; preds = %15, %57
%19 = phi i8* [ %0, %15 ], [ %62, %57 ]
%20 = phi i32 [ %3, %15 ], [ %60, %57 ]
%21 = phi i8* [ %2, %15 ], [ %59, %57 ]
%22 = phi i32 [ %1, %15 ], [ %64, %57 ]
%23 = icmp slt i32 %22, 1
br i1 %23, label %66, label %24
24: ; preds = %18
%25 = getelementptr inbounds i8, i8* %19, i64 1
%26 = load i8, i8* %19
%27 = zext i8 %26 to i32
%28 = and i32 %27, 128
%29 = icmp eq i32 %28, 0
br i1 %29, label %47, label %30
30: ; preds = %24
%31 = icmp sgt i32 %22, %4
br i1 %31, label %32, label %44
32: ; preds = %30
%33 = and i8 %26, 127
br label %34
34: ; preds = %32, %39
%35 = phi i8 [ %33, %32 ], [ %42, %39 ]
%36 = phi i32 [ %20, %32 ], [ %41, %39 ]
%37 = phi i8* [ %21, %32 ], [ %40, %39 ]
%38 = icmp slt i32 %36, %4
br i1 %38, label %44, label %39
39: ; preds = %34
%40 = getelementptr inbounds i8, i8* %37, i64 %16
%41 = sub nsw i32 %36, %4
%42 = add nsw i8 %35, -1
%43 = icmp eq i8 %35, 0
br i1 %43, label %46, label %34
44: ; preds = %30, %34
%45 = bitcast i32* %6 to i8*
br label %66
46: ; preds = %39
br label %57
47: ; preds = %24
%48 = add nuw nsw i32 %27, 1
%49 = mul nsw i32 %48, %4
%50 = icmp sge i32 %20, %49
%51 = icmp sgt i32 %22, %49
%52 = select i1 %50, i1 %51, i1 false
br i1 %52, label %53, label %66
53: ; preds = %47
%54 = sext i32 %49 to i64
tail call void @llvm.memcpy.p0i8.p0i8.i64(i8* align 1 %21, i8* align 1 %25, i64 %54, i1 false)
%55 = getelementptr inbounds i8, i8* %21, i64 %54
%56 = sub nsw i32 %20, %49
br label %57
57: ; preds = %53, %46
%58 = phi i32 [ %4, %46 ], [ %49, %53 ]
%59 = phi i8* [ %40, %46 ], [ %55, %53 ]
%60 = phi i32 [ %41, %46 ], [ %56, %53 ]
%61 = phi i64 [ %16, %46 ], [ %54, %53 ]
%62 = getelementptr inbounds i8, i8* %25, i64 %61
%63 = xor i32 %58, -1
%64 = add i32 %22, %63
%65 = icmp sgt i32 %60, 0
br i1 %65, label %18, label %66
66: ; preds = %18, %57, %47, %10, %44, %8
%67 = phi i32 [ %9, %8 ], [ -1, %44 ], [ 0, %10 ], [ -1, %18 ], [ 0, %57 ], [ -1, %47 ]
ret i32 %67
}