void _RLE_WriteRep(unsigned char *out, unsigned int *outpos,
                   unsigned char marker, unsigned char symbol,
                   unsigned int count) {
  unsigned int i, idx;
  idx = *outpos;
  if (count <= 3) {
    if (symbol == marker) {
      out[idx++] = marker;
      out[idx++] = count - 1;
    } else {
      for (i = 0; i < count; ++i) {
        out[idx++] = symbol;
      }
    }
  } else {
    out[idx++] = marker;
    --count;
    if (count >= 128) {
      out[idx++] = (count >> 8) | 0x80;
    }
    out[idx++] = count & 0xff;
    out[idx++] = symbol;
  }
  *outpos = idx;
}


x86 assembly (clang, -O0):
<_RLE_WriteRep>:
push   %rbp
mov    %rsp,%rbp
mov    %cl,%al
mov    %dl,%cl
mov    %rdi,-0x8(%rbp)
mov    %rsi,-0x10(%rbp)
mov    %cl,-0x11(%rbp)
mov    %al,-0x12(%rbp)
mov    %r8d,-0x18(%rbp)
mov    -0x10(%rbp),%rax
mov    (%rax),%eax
mov    %eax,-0x20(%rbp)
cmpl   $0x3,-0x18(%rbp)
ja     11b7 <_RLE_WriteRep+0xb7>
movzbl -0x12(%rbp),%eax
movzbl -0x11(%rbp),%ecx
cmp    %ecx,%eax
jne    1175 <_RLE_WriteRep+0x75>
mov    -0x11(%rbp),%dl
mov    -0x8(%rbp),%rax
mov    -0x20(%rbp),%ecx
mov    %ecx,%esi
add    $0x1,%esi
mov    %esi,-0x20(%rbp)
mov    %ecx,%ecx
mov    %dl,(%rax,%rcx,1)
mov    -0x18(%rbp),%eax
sub    $0x1,%eax
mov    %al,%dl
mov    -0x8(%rbp),%rax
mov    -0x20(%rbp),%ecx
mov    %ecx,%esi
add    $0x1,%esi
mov    %esi,-0x20(%rbp)
mov    %ecx,%ecx
mov    %dl,(%rax,%rcx,1)
jmp    11b2 <_RLE_WriteRep+0xb2>
movl   $0x0,-0x1c(%rbp)
mov    -0x1c(%rbp),%eax
cmp    -0x18(%rbp),%eax
jae    11ad <_RLE_WriteRep+0xad>
mov    -0x12(%rbp),%dl
mov    -0x8(%rbp),%rax
mov    -0x20(%rbp),%ecx
mov    %ecx,%esi
add    $0x1,%esi
mov    %esi,-0x20(%rbp)
mov    %ecx,%ecx
mov    %dl,(%rax,%rcx,1)
mov    -0x1c(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x1c(%rbp)
jmp    117c <_RLE_WriteRep+0x7c>
jmp    11b2 <_RLE_WriteRep+0xb2>
jmp    123a <_RLE_WriteRep+0x13a>
mov    -0x11(%rbp),%dl
mov    -0x8(%rbp),%rax
mov    -0x20(%rbp),%ecx
mov    %ecx,%esi
add    $0x1,%esi
mov    %esi,-0x20(%rbp)
mov    %ecx,%ecx
mov    %dl,(%rax,%rcx,1)
mov    -0x18(%rbp),%eax
add    $0xffffffff,%eax
mov    %eax,-0x18(%rbp)
cmpl   $0x80,-0x18(%rbp)
jb     1205 <_RLE_WriteRep+0x105>
mov    -0x18(%rbp),%eax
shr    $0x8,%eax
or     $0x80,%eax
mov    %al,%dl
mov    -0x8(%rbp),%rax
mov    -0x20(%rbp),%ecx
mov    %ecx,%esi
add    $0x1,%esi
mov    %esi,-0x20(%rbp)
mov    %ecx,%ecx
mov    %dl,(%rax,%rcx,1)
mov    -0x18(%rbp),%eax
and    $0xff,%eax
mov    %al,%dl
mov    -0x8(%rbp),%rax
mov    -0x20(%rbp),%ecx
mov    %ecx,%esi
add    $0x1,%esi
mov    %esi,-0x20(%rbp)
mov    %ecx,%ecx
mov    %dl,(%rax,%rcx,1)
mov    -0x12(%rbp),%dl
mov    -0x8(%rbp),%rax
mov    -0x20(%rbp),%ecx
mov    %ecx,%esi
add    $0x1,%esi
mov    %esi,-0x20(%rbp)
mov    %ecx,%ecx
mov    %dl,(%rax,%rcx,1)
mov    -0x20(%rbp),%ecx
mov    -0x10(%rbp),%rax
mov    %ecx,(%rax)
pop    %rbp
ret

x86 assembly (clang, -O2):
<_RLE_WriteRep>:
mov    (%rsi),%eax
cmp    $0x3,%r8d
ja     1118 <_RLE_WriteRep+0x18>
cmp    %dl,%cl
jne    115a <_RLE_WriteRep+0x5a>
mov    %cl,(%rdi,%rax,1)
add    $0xff,%r8b
mov    %r8d,%ecx
jmp    114e <_RLE_WriteRep+0x4e>
lea    0x1(%rax),%r9d
mov    %dl,(%rdi,%rax,1)
add    $0xffffffff,%r8d
cmp    $0x80,%r8d
jb     1144 <_RLE_WriteRep+0x44>
mov    %r8d,%r10d
shr    $0x8,%r10d
or     $0x80,%r10b
add    $0x2,%eax
mov    %r9d,%edx
mov    %r10b,(%rdi,%rdx,1)
mov    %eax,%r9d
mov    %r9d,%eax
mov    %r8b,(%rdi,%rax,1)
mov    %r9d,%eax
lea    0x1(%rax),%edx
add    $0x2,%eax
mov    %cl,(%rdi,%rdx,1)
mov    %eax,(%rsi)
ret
test   %r8d,%r8d
je     1157 <_RLE_WriteRep+0x57>
lea    0x1(%rax),%edx
mov    %cl,(%rdi,%rax,1)
cmp    $0x1,%r8d
jne    1170 <_RLE_WriteRep+0x70>
mov    %edx,%eax
mov    %eax,(%rsi)
ret
lea    0x2(%rax),%r9d
mov    %edx,%edx
mov    %cl,(%rdi,%rdx,1)
cmp    $0x2,%r8d
jne    1185 <_RLE_WriteRep+0x85>
mov    %r9d,%eax
mov    %eax,(%rsi)
ret
add    $0x3,%eax
mov    %r9d,%edx
jmp    1154 <_RLE_WriteRep+0x54>

LLVM IR (-O0):
define void @_RLE_WriteRep(i8* %0, i32* %1, i8 zeroext %2, i8 zeroext %3, i32 %4) {
%6 = alloca i8*
%7 = alloca i32*
%8 = alloca i8
%9 = alloca i8
%10 = alloca i32
%11 = alloca i32
%12 = alloca i32
store i8* %0, i8** %6
store i32* %1, i32** %7
store i8 %2, i8* %8
store i8 %3, i8* %9
store i32 %4, i32* %10
%13 = load i32*, i32** %7
%14 = load i32, i32* %13
store i32 %14, i32* %12
%15 = load i32, i32* %10
%16 = icmp ule i32 %15, 3
br i1 %16, label %17, label %55
17: ; preds = %5
%18 = load i8, i8* %9
%19 = zext i8 %18 to i32
%20 = load i8, i8* %8
%21 = zext i8 %20 to i32
%22 = icmp eq i32 %19, %21
br i1 %22, label %23, label %38
23: ; preds = %17
%24 = load i8, i8* %8
%25 = load i8*, i8** %6
%26 = load i32, i32* %12
%27 = add i32 %26, 1
store i32 %27, i32* %12
%28 = zext i32 %26 to i64
%29 = getelementptr inbounds i8, i8* %25, i64 %28
store i8 %24, i8* %29
%30 = load i32, i32* %10
%31 = sub i32 %30, 1
%32 = trunc i32 %31 to i8
%33 = load i8*, i8** %6
%34 = load i32, i32* %12
%35 = add i32 %34, 1
store i32 %35, i32* %12
%36 = zext i32 %34 to i64
%37 = getelementptr inbounds i8, i8* %33, i64 %36
store i8 %32, i8* %37
br label %54
38: ; preds = %17
store i32 0, i32* %11
br label %39
39: ; preds = %50, %38
%40 = load i32, i32* %11
%41 = load i32, i32* %10
%42 = icmp ult i32 %40, %41
br i1 %42, label %43, label %53
43: ; preds = %39
%44 = load i8, i8* %9
%45 = load i8*, i8** %6
%46 = load i32, i32* %12
%47 = add i32 %46, 1
store i32 %47, i32* %12
%48 = zext i32 %46 to i64
%49 = getelementptr inbounds i8, i8* %45, i64 %48
store i8 %44, i8* %49
br label %50
50: ; preds = %43
%51 = load i32, i32* %11
%52 = add i32 %51, 1
store i32 %52, i32* %11
br label %39
53: ; preds = %39
br label %54
54: ; preds = %53, %23
br label %91
55: ; preds = %5
%56 = load i8, i8* %8
%57 = load i8*, i8** %6
%58 = load i32, i32* %12
%59 = add i32 %58, 1
store i32 %59, i32* %12
%60 = zext i32 %58 to i64
%61 = getelementptr inbounds i8, i8* %57, i64 %60
store i8 %56, i8* %61
%62 = load i32, i32* %10
%63 = add i32 %62, -1
store i32 %63, i32* %10
%64 = load i32, i32* %10
%65 = icmp uge i32 %64, 128
br i1 %65, label %66, label %76
66: ; preds = %55
%67 = load i32, i32* %10
%68 = lshr i32 %67, 8
%69 = or i32 %68, 128
%70 = trunc i32 %69 to i8
%71 = load i8*, i8** %6
%72 = load i32, i32* %12
%73 = add i32 %72, 1
store i32 %73, i32* %12
%74 = zext i32 %72 to i64
%75 = getelementptr inbounds i8, i8* %71, i64 %74
store i8 %70, i8* %75
br label %76
76: ; preds = %66, %55
%77 = load i32, i32* %10
%78 = and i32 %77, 255
%79 = trunc i32 %78 to i8
%80 = load i8*, i8** %6
%81 = load i32, i32* %12
%82 = add i32 %81, 1
store i32 %82, i32* %12
%83 = zext i32 %81 to i64
%84 = getelementptr inbounds i8, i8* %80, i64 %83
store i8 %79, i8* %84
%85 = load i8, i8* %9
%86 = load i8*, i8** %6
%87 = load i32, i32* %12
%88 = add i32 %87, 1
store i32 %88, i32* %12
%89 = zext i32 %87 to i64
%90 = getelementptr inbounds i8, i8* %86, i64 %89
store i8 %85, i8* %90
br label %91
91: ; preds = %76, %54
%92 = load i32, i32* %12
%93 = load i32*, i32** %7
store i32 %92, i32* %93
ret void
}

LLVM IR (-O2):
define void @_RLE_WriteRep(i8* nocapture writeonly %0, i32* nocapture %1, i8 zeroext %2, i8 zeroext %3, i32 %4) {
%6 = load i32, i32* %1
%7 = icmp ult i32 %4, 4
br i1 %7, label %8, label %31
8: ; preds = %5
%9 = icmp eq i8 %3, %2
br i1 %9, label %12, label %10
10: ; preds = %8
%11 = icmp eq i32 %4, 0
br i1 %11, label %56, label %17
12: ; preds = %8
%13 = zext i32 %6 to i64
%14 = getelementptr inbounds i8, i8* %0, i64 %13
store i8 %3, i8* %14
%15 = trunc i32 %4 to i8
%16 = add nsw i8 %15, -1
br label %49
17: ; preds = %10
%18 = add i32 %6, 1
%19 = zext i32 %6 to i64
%20 = getelementptr inbounds i8, i8* %0, i64 %19
store i8 %3, i8* %20
%21 = icmp eq i32 %4, 1
br i1 %21, label %56, label %22
22: ; preds = %17
%23 = add i32 %6, 2
%24 = zext i32 %18 to i64
%25 = getelementptr inbounds i8, i8* %0, i64 %24
store i8 %3, i8* %25
%26 = icmp eq i32 %4, 2
br i1 %26, label %56, label %27
27: ; preds = %22
%28 = add i32 %6, 3
%29 = zext i32 %23 to i64
%30 = getelementptr inbounds i8, i8* %0, i64 %29
store i8 %3, i8* %30
br label %56
31: ; preds = %5
%32 = add i32 %6, 1
%33 = zext i32 %6 to i64
%34 = getelementptr inbounds i8, i8* %0, i64 %33
store i8 %2, i8* %34
%35 = add i32 %4, -1
%36 = icmp ugt i32 %35, 127
br i1 %36, label %37, label %44
37: ; preds = %31
%38 = lshr i32 %35, 8
%39 = trunc i32 %38 to i8
%40 = or i8 %39, -128
%41 = add i32 %6, 2
%42 = zext i32 %32 to i64
%43 = getelementptr inbounds i8, i8* %0, i64 %42
store i8 %40, i8* %43
br label %44
44: ; preds = %37, %31
%45 = phi i32 [ %41, %37 ], [ %32, %31 ]
%46 = trunc i32 %35 to i8
%47 = zext i32 %45 to i64
%48 = getelementptr inbounds i8, i8* %0, i64 %47
store i8 %46, i8* %48
br label %49
49: ; preds = %44, %12
%50 = phi i32 [ %6, %12 ], [ %45, %44 ]
%51 = phi i8 [ %16, %12 ], [ %3, %44 ]
%52 = add i32 %50, 1
%53 = add i32 %50, 2
%54 = zext i32 %52 to i64
%55 = getelementptr inbounds i8, i8* %0, i64 %54
store i8 %51, i8* %55
br label %56
56: ; preds = %17, %22, %27, %49, %10
%57 = phi i32 [ %6, %10 ], [ %53, %49 ], [ %18, %17 ], [ %23, %22 ], [ %28, %27 ]
store i32 %57, i32* %1
ret void
}