unsigned RleEncode(unsigned char *src, unsigned char *dest, unsigned src_size) {
  unsigned char currChar, prevChar;
  unsigned short count;
  unsigned src_end, dest_start;
  dest_start = (unsigned)dest;
  src_end = (unsigned)src + src_size;
  prevChar = 0xFF - *src;
  while ((unsigned)src < src_end) {
    currChar = *(dest++) = *(src++);
    if (currChar == prevChar) {
      if ((unsigned)src == src_end) {
        *(dest++) = 0;
        *(dest++) = 0;
      } else {
        count = 0;
        while (((unsigned)src < src_end) && (count < 0xFFF0)) {
          if (*src == prevChar) {
            count++;
            src++;
            if ((unsigned)src == src_end) {
              *(unsigned short *)dest = count;
              dest += 2;
            }
          } else {
            *(unsigned short *)dest = count;
            dest += 2;
            prevChar = 0xFF - *src;
            break;
          }
        }
      }
    } else
      prevChar = currChar;
  }
  return (unsigned)dest - dest_start;
}


x86 assembly (clang, -O0):
<RleEncode>:
push   %rbp
mov    %rsp,%rbp
mov    %rdi,-0x8(%rbp)
mov    %rsi,-0x10(%rbp)
mov    %edx,-0x14(%rbp)
mov    -0x10(%rbp),%rax
mov    %eax,-0x20(%rbp)
mov    -0x8(%rbp),%rax
add    -0x14(%rbp),%eax
mov    %eax,-0x1c(%rbp)
mov    -0x8(%rbp),%rax
movzbl (%rax),%ecx
mov    $0xff,%eax
sub    %ecx,%eax
mov    %al,-0x16(%rbp)
mov    -0x8(%rbp),%rax
cmp    -0x1c(%rbp),%eax
jae    127d <RleEncode+0x17d>
mov    -0x8(%rbp),%rax
mov    %rax,%rcx
add    $0x1,%rcx
mov    %rcx,-0x8(%rbp)
mov    (%rax),%al
mov    -0x10(%rbp),%rcx
mov    %rcx,%rdx
add    $0x1,%rdx
mov    %rdx,-0x10(%rbp)
mov    %al,(%rcx)
mov    %al,-0x15(%rbp)
movzbl -0x15(%rbp),%eax
movzbl -0x16(%rbp),%ecx
cmp    %ecx,%eax
jne    1272 <RleEncode+0x172>
mov    -0x8(%rbp),%rax
cmp    -0x1c(%rbp),%eax
jne    11a9 <RleEncode+0xa9>
mov    -0x10(%rbp),%rax
mov    %rax,%rcx
add    $0x1,%rcx
mov    %rcx,-0x10(%rbp)
movb   $0x0,(%rax)
mov    -0x10(%rbp),%rax
mov    %rax,%rcx
add    $0x1,%rcx
mov    %rcx,-0x10(%rbp)
movb   $0x0,(%rax)
jmp    126d <RleEncode+0x16d>
movw   $0x0,-0x18(%rbp)
mov    -0x8(%rbp),%rax
mov    %eax,%ecx
xor    %eax,%eax
cmp    -0x1c(%rbp),%ecx
mov    %al,-0x21(%rbp)
jae    11d2 <RleEncode+0xd2>
movzwl -0x18(%rbp),%eax
cmp    $0xfff0,%eax
setl   %al
mov    %al,-0x21(%rbp)
mov    -0x21(%rbp),%al
test   $0x1,%al
jne    11e2 <RleEncode+0xe2>
jmp    1268 <RleEncode+0x168>
mov    -0x8(%rbp),%rax
movzbl (%rax),%eax
movzbl -0x16(%rbp),%ecx
cmp    %ecx,%eax
jne    1236 <RleEncode+0x136>
mov    -0x18(%rbp),%ax
add    $0x1,%ax
mov    %ax,-0x18(%rbp)
mov    -0x8(%rbp),%rax
add    $0x1,%rax
mov    %rax,-0x8(%rbp)
mov    -0x8(%rbp),%rax
cmp    -0x1c(%rbp),%eax
jne    1231 <RleEncode+0x131>
mov    -0x18(%rbp),%cx
mov    -0x10(%rbp),%rax
mov    %cx,(%rax)
mov    -0x10(%rbp),%rax
add    $0x2,%rax
mov    %rax,-0x10(%rbp)
jmp    1263 <RleEncode+0x163>
mov    -0x18(%rbp),%cx
mov    -0x10(%rbp),%rax
mov    %cx,(%rax)
mov    -0x10(%rbp),%rax
add    $0x2,%rax
mov    %rax,-0x10(%rbp)
mov    -0x8(%rbp),%rax
movzbl (%rax),%ecx
mov    $0xff,%eax
sub    %ecx,%eax
mov    %al,-0x16(%rbp)
jmp    1268 <RleEncode+0x168>
jmp    11af <RleEncode+0xaf>
jmp    126d <RleEncode+0x16d>
jmp    1278 <RleEncode+0x178>
mov    -0x15(%rbp),%al
mov    %al,-0x16(%rbp)
jmp    1131 <RleEncode+0x31>
mov    -0x10(%rbp),%rax
sub    -0x20(%rbp),%eax
pop    %rbp
ret

x86 assembly (clang, -O2):
<RleEncode>:
lea    (%rdi,%rdx,1),%r8d
mov    %rsi,%rax
cmp    %edi,%r8d
jbe    11db <RleEncode+0xdb>
push   %rbp
push   %rbx
mov    (%rdi),%bpl
mov    %ebp,%r9d
not    %r9b
lea    (%rdx,%rdi,1),%r10d
add    $0xfffffffe,%r10d
mov    %rsi,%rdx
cs nopw 0x0(%rax,%rax,1)
add    $0x1,%rdi
lea    0x1(%rdx),%rax
mov    %bpl,(%rdx)
cmp    %r9b,%bpl
jne    11b0 <RleEncode+0xb0>
cmp    %edi,%r8d
jne    1160 <RleEncode+0x60>
movw   $0x0,0x1(%rdx)
add    $0x3,%rdx
mov    %ebp,%r9d
mov    %rdx,%rax
cmp    %edi,%r8d
ja     11b8 <RleEncode+0xb8>
jmp    11d9 <RleEncode+0xd9>
nopl   0x0(%rax)
jbe    11b0 <RleEncode+0xb0>
lea    0x1(%rdi),%r9d
mov    %r10d,%r11d
sub    %edi,%r11d
add    $0x1,%r11d
xor    %edx,%edx
cs nopw 0x0(%rax,%rax,1)
nopl   0x0(%rax)
cmp    %bpl,(%rdi,%rdx,1)
jne    11c3 <RleEncode+0xc3>
lea    0x1(%rdx),%rbx
lea    (%r9,%rdx,1),%rcx
cmp    %edx,%r11d
jne    119a <RleEncode+0x9a>
mov    %bx,(%rax)
add    $0x2,%rax
cmp    %ecx,%r8d
jbe    11a8 <RleEncode+0xa8>
cmp    $0xffef,%dx
mov    %rbx,%rdx
jb     1180 <RleEncode+0x80>
add    %rbx,%rdi
nopl   0x0(%rax,%rax,1)
mov    %ebp,%r9d
cmp    %edi,%r8d
jbe    11d9 <RleEncode+0xd9>
mov    (%rdi),%bpl
mov    %rax,%rdx
jmp    1130 <RleEncode+0x30>
mov    %dx,(%rax)
add    $0x2,%rax
mov    (%rdi,%rdx,1),%r9b
add    %rdx,%rdi
not    %r9b
cmp    %edi,%r8d
ja     11b8 <RleEncode+0xb8>
pop    %rbx
pop    %rbp
sub    %esi,%eax
ret

LLVM IR (-O0):
define i32 @RleEncode(i8* %0, i8* %1, i32 %2) {
%4 = alloca i8*
%5 = alloca i8*
%6 = alloca i32
%7 = alloca i8
%8 = alloca i8
%9 = alloca i16
%10 = alloca i32
%11 = alloca i32
store i8* %0, i8** %4
store i8* %1, i8** %5
store i32 %2, i32* %6
%12 = load i8*, i8** %5
%13 = ptrtoint i8* %12 to i32
store i32 %13, i32* %11
%14 = load i8*, i8** %4
%15 = ptrtoint i8* %14 to i32
%16 = load i32, i32* %6
%17 = add i32 %15, %16
store i32 %17, i32* %10
%18 = load i8*, i8** %4
%19 = load i8, i8* %18
%20 = zext i8 %19 to i32
%21 = sub nsw i32 255, %20
%22 = trunc i32 %21 to i8
store i8 %22, i8* %8
br label %23
23: ; preds = %100, %3
%24 = load i8*, i8** %4
%25 = ptrtoint i8* %24 to i32
%26 = load i32, i32* %10
%27 = icmp ult i32 %25, %26
br i1 %27, label %28, label %101
28: ; preds = %23
%29 = load i8*, i8** %4
%30 = getelementptr inbounds i8, i8* %29, i32 1
store i8* %30, i8** %4
%31 = load i8, i8* %29
%32 = load i8*, i8** %5
%33 = getelementptr inbounds i8, i8* %32, i32 1
store i8* %33, i8** %5
store i8 %31, i8* %32
store i8 %31, i8* %7
%34 = load i8, i8* %7
%35 = zext i8 %34 to i32
%36 = load i8, i8* %8
%37 = zext i8 %36 to i32
%38 = icmp eq i32 %35, %37
br i1 %38, label %39, label %98
39: ; preds = %28
%40 = load i8*, i8** %4
%41 = ptrtoint i8* %40 to i32
%42 = load i32, i32* %10
%43 = icmp eq i32 %41, %42
br i1 %43, label %44, label %49
44: ; preds = %39
%45 = load i8*, i8** %5
%46 = getelementptr inbounds i8, i8* %45, i32 1
store i8* %46, i8** %5
store i8 0, i8* %45
%47 = load i8*, i8** %5
%48 = getelementptr inbounds i8, i8* %47, i32 1
store i8* %48, i8** %5
store i8 0, i8* %47
br label %97
49: ; preds = %39
store i16 0, i16* %9
br label %50
50: ; preds = %95, %49
%51 = load i8*, i8** %4
%52 = ptrtoint i8* %51 to i32
%53 = load i32, i32* %10
%54 = icmp ult i32 %52, %53
br i1 %54, label %55, label %59
55: ; preds = %50
%56 = load i16, i16* %9
%57 = zext i16 %56 to i32
%58 = icmp slt i32 %57, 65520
br label %59
59: ; preds = %55, %50
%60 = phi i1 [ false, %50 ], [ %58, %55 ]
br i1 %60, label %61, label %96
61: ; preds = %59
%62 = load i8*, i8** %4
%63 = load i8, i8* %62
%64 = zext i8 %63 to i32
%65 = load i8, i8* %8
%66 = zext i8 %65 to i32
%67 = icmp eq i32 %64, %66
br i1 %67, label %68, label %84
68: ; preds = %61
%69 = load i16, i16* %9
%70 = add i16 %69, 1
store i16 %70, i16* %9
%71 = load i8*, i8** %4
%72 = getelementptr inbounds i8, i8* %71, i32 1
store i8* %72, i8** %4
%73 = load i8*, i8** %4
%74 = ptrtoint i8* %73 to i32
%75 = load i32, i32* %10
%76 = icmp eq i32 %74, %75
br i1 %76, label %77, label %83
77: ; preds = %68
%78 = load i16, i16* %9
%79 = load i8*, i8** %5
%80 = bitcast i8* %79 to i16*
store i16 %78, i16* %80
%81 = load i8*, i8** %5
%82 = getelementptr inbounds i8, i8* %81, i64 2
store i8* %82, i8** %5
br label %83
83: ; preds = %77, %68
br label %95
84: ; preds = %61
%85 = load i16, i16* %9
%86 = load i8*, i8** %5
%87 = bitcast i8* %86 to i16*
store i16 %85, i16* %87
%88 = load i8*, i8** %5
%89 = getelementptr inbounds i8, i8* %88, i64 2
store i8* %89, i8** %5
%90 = load i8*, i8** %4
%91 = load i8, i8* %90
%92 = zext i8 %91 to i32
%93 = sub nsw i32 255, %92
%94 = trunc i32 %93 to i8
store i8 %94, i8* %8
br label %96
95: ; preds = %83
br label %50
96: ; preds = %84, %59
br label %97
97: ; preds = %96, %44
br label %100
98: ; preds = %28
%99 = load i8, i8* %7
store i8 %99, i8* %8
br label %100
100: ; preds = %98, %97
br label %23
101: ; preds = %23
%102 = load i8*, i8** %5
%103 = ptrtoint i8* %102 to i32
%104 = load i32, i32* %11
%105 = sub i32 %103, %104
ret i32 %105
}

LLVM IR (-O2):
define i32 @RleEncode(i8* %0, i8* %1, i32 %2) {
%4 = ptrtoint i8* %0 to i64
%5 = trunc i64 %4 to i32
%6 = add i32 %5, %2
%7 = load i8, i8* %0
%8 = icmp ugt i32 %6, %5
br i1 %8, label %9, label %62
9: ; preds = %3
%10 = xor i8 %7, -1
br label %11
11: ; preds = %60, %9
%12 = phi i8 [ %61, %60 ], [ %7, %9 ]
%13 = phi i8* [ %56, %60 ], [ %0, %9 ]
%14 = phi i8* [ %55, %60 ], [ %1, %9 ]
%15 = phi i8 [ %54, %60 ], [ %10, %9 ]
%16 = getelementptr inbounds i8, i8* %13, i64 1
%17 = getelementptr inbounds i8, i8* %14, i64 1
store i8 %12, i8* %14
%18 = icmp eq i8 %12, %15
br i1 %18, label %19, label %53
19: ; preds = %11
%20 = ptrtoint i8* %16 to i64
%21 = trunc i64 %20 to i32
%22 = icmp eq i32 %6, %21
br i1 %22, label %25, label %23
23: ; preds = %19
%24 = icmp ugt i32 %6, %21
br i1 %24, label %28, label %53
25: ; preds = %19
%26 = getelementptr inbounds i8, i8* %14, i64 2
store i8 0, i8* %17
%27 = getelementptr inbounds i8, i8* %14, i64 3
store i8 0, i8* %26
br label %53
28: ; preds = %23, %48
%29 = phi i8* [ %36, %48 ], [ %16, %23 ]
%30 = phi i8* [ %49, %48 ], [ %17, %23 ]
%31 = phi i16 [ %35, %48 ], [ 0, %23 ]
%32 = load i8, i8* %29
%33 = icmp eq i8 %32, %12
br i1 %33, label %34, label %43
34: ; preds = %28
%35 = add nuw i16 %31, 1
%36 = getelementptr inbounds i8, i8* %29, i64 1
%37 = ptrtoint i8* %36 to i64
%38 = trunc i64 %37 to i32
%39 = icmp eq i32 %6, %38
br i1 %39, label %40, label %48
40: ; preds = %34
%41 = bitcast i8* %30 to i16*
store i16 %35, i16* %41
%42 = getelementptr inbounds i8, i8* %30, i64 2
br label %48
43: ; preds = %28
%44 = bitcast i8* %30 to i16*
store i16 %31, i16* %44
%45 = getelementptr inbounds i8, i8* %30, i64 2
%46 = load i8, i8* %29
%47 = xor i8 %46, -1
br label %53
48: ; preds = %34, %40
%49 = phi i8* [ %42, %40 ], [ %30, %34 ]
%50 = icmp ugt i32 %6, %38
%51 = icmp ult i16 %31, -17
%52 = select i1 %50, i1 %51, i1 false
br i1 %52, label %28, label %53
53: ; preds = %48, %23, %11, %25, %43
%54 = phi i8 [ %12, %25 ], [ %47, %43 ], [ %12, %11 ], [ %12, %23 ], [ %12, %48 ]
%55 = phi i8* [ %27, %25 ], [ %45, %43 ], [ %17, %11 ], [ %17, %23 ], [ %49, %48 ]
%56 = phi i8* [ %16, %25 ], [ %29, %43 ], [ %16, %11 ], [ %16, %23 ], [ %36, %48 ]
%57 = ptrtoint i8* %56 to i64
%58 = trunc i64 %57 to i32
%59 = icmp ugt i32 %6, %58
br i1 %59, label %60, label %62
60: ; preds = %53
%61 = load i8, i8* %56
br label %11
62: ; preds = %53, %3
%63 = phi i8* [ %1, %3 ], [ %55, %53 ]
%64 = ptrtoint i8* %1 to i64
%65 = trunc i64 %64 to i32
%66 = ptrtoint i8* %63 to i64
%67 = trunc i64 %66 to i32
%68 = sub i32 %67, %65
ret i32 %68
}