void select_diagonal_YCoCg(const unsigned char *block, unsigned char *mincolor,
                           unsigned char *maxcolor) {
  unsigned char mid0, mid1, side, mask, b0, b1, c0, c1;
  int i;
  mid0 = ((int)mincolor[2] + maxcolor[2] + 1) >> 1;
  mid1 = ((int)mincolor[1] + maxcolor[1] + 1) >> 1;
  side = 0;
  for (i = 0; i < 16; ++i) {
    b0 = block[i * 4 + 2] >= mid0;
    b1 = block[i * 4 + 1] >= mid1;
    side += (b0 ^ b1);
  }
  mask = -(side > 8);
  mask &= -(mincolor[2] != maxcolor[2]);
  c0 = mincolor[1];
  c1 = maxcolor[1];
  c0 ^= c1;
  mask &= c0;
  c1 ^= mask;
  c0 ^= c1;
  mincolor[1] = c0;
  maxcolor[1] = c1;
}


x86 assembly (clang, -O0):
<select_diagonal_YCoCg>:
push   %rbp
mov    %rsp,%rbp
mov    %rdi,-0x8(%rbp)
mov    %rsi,-0x10(%rbp)
mov    %rdx,-0x18(%rbp)
mov    -0x10(%rbp),%rax
movzbl 0x2(%rax),%eax
mov    -0x18(%rbp),%rcx
movzbl 0x2(%rcx),%ecx
add    %ecx,%eax
add    $0x1,%eax
sar    $0x1,%eax
mov    %al,-0x19(%rbp)
mov    -0x10(%rbp),%rax
movzbl 0x1(%rax),%eax
mov    -0x18(%rbp),%rcx
movzbl 0x1(%rcx),%ecx
add    %ecx,%eax
add    $0x1,%eax
sar    $0x1,%eax
mov    %al,-0x1a(%rbp)
movb   $0x0,-0x1b(%rbp)
movl   $0x0,-0x24(%rbp)
cmpl   $0x10,-0x24(%rbp)
jge    11c6 <select_diagonal_YCoCg+0xc6>
mov    -0x8(%rbp),%rax
mov    -0x24(%rbp),%ecx
shl    $0x2,%ecx
add    $0x2,%ecx
movslq %ecx,%rcx
movzbl (%rax,%rcx,1),%eax
movzbl -0x19(%rbp),%ecx
cmp    %ecx,%eax
setge  %al
and    $0x1,%al
movzbl %al,%eax
mov    %al,-0x1d(%rbp)
mov    -0x8(%rbp),%rax
mov    -0x24(%rbp),%ecx
shl    $0x2,%ecx
add    $0x1,%ecx
movslq %ecx,%rcx
movzbl (%rax,%rcx,1),%eax
movzbl -0x1a(%rbp),%ecx
cmp    %ecx,%eax
setge  %al
and    $0x1,%al
movzbl %al,%eax
mov    %al,-0x1e(%rbp)
movzbl -0x1d(%rbp),%ecx
movzbl -0x1e(%rbp),%eax
xor    %eax,%ecx
movzbl -0x1b(%rbp),%eax
add    %ecx,%eax
mov    %al,-0x1b(%rbp)
mov    -0x24(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x24(%rbp)
jmp    1151 <select_diagonal_YCoCg+0x51>
movzbl -0x1b(%rbp),%eax
cmp    $0x8,%eax
setg   %al
and    $0x1,%al
movzbl %al,%ecx
xor    %eax,%eax
sub    %ecx,%eax
mov    %al,-0x1c(%rbp)
mov    -0x10(%rbp),%rax
movzbl 0x2(%rax),%eax
mov    -0x18(%rbp),%rcx
movzbl 0x2(%rcx),%ecx
cmp    %ecx,%eax
setne  %al
and    $0x1,%al
movzbl %al,%eax
xor    %ecx,%ecx
sub    %eax,%ecx
movzbl -0x1c(%rbp),%eax
and    %ecx,%eax
mov    %al,-0x1c(%rbp)
mov    -0x10(%rbp),%rax
mov    0x1(%rax),%al
mov    %al,-0x1f(%rbp)
mov    -0x18(%rbp),%rax
mov    0x1(%rax),%al
mov    %al,-0x20(%rbp)
movzbl -0x20(%rbp),%ecx
movzbl -0x1f(%rbp),%eax
xor    %ecx,%eax
mov    %al,-0x1f(%rbp)
movzbl -0x1f(%rbp),%ecx
movzbl -0x1c(%rbp),%eax
and    %ecx,%eax
mov    %al,-0x1c(%rbp)
movzbl -0x1c(%rbp),%ecx
movzbl -0x20(%rbp),%eax
xor    %ecx,%eax
mov    %al,-0x20(%rbp)
movzbl -0x20(%rbp),%ecx
movzbl -0x1f(%rbp),%eax
xor    %ecx,%eax
mov    %al,-0x1f(%rbp)
mov    -0x1f(%rbp),%cl
mov    -0x10(%rbp),%rax
mov    %cl,0x1(%rax)
mov    -0x20(%rbp),%cl
mov    -0x18(%rbp),%rax
mov    %cl,0x1(%rax)
pop    %rbp
ret

x86 assembly (clang, -O2):
<select_diagonal_YCoCg>:
push   %rbp
push   %r15
push   %r14
push   %r12
push   %rbx
movzbl 0x2(%rsi),%r8d
movzbl 0x2(%rdx),%r9d
lea    (%r8,%r9,1),%r14d
add    $0x1,%r14d
shr    %r14d
movzbl 0x1(%rsi),%r10d
movzbl 0x1(%rdx),%r11d
lea    (%r10,%r11,1),%r15d
add    $0x1,%r15d
shr    %r15d
xor    %ebx,%ebx
xor    %ebp,%ebp
cs nopw 0x0(%rax,%rax,1)
movzbl 0x2(%rdi,%rbx,4),%ecx
cmp    %ecx,%r14d
setbe  %cl
movzbl 0x1(%rdi,%rbx,4),%eax
cmp    %eax,%r15d
setbe  %al
xor    %cl,%al
movzbl %al,%eax
add    %ebp,%eax
movzbl 0x6(%rdi,%rbx,4),%ecx
cmp    %ecx,%r14d
setbe  %r12b
movzbl 0x5(%rdi,%rbx,4),%ebp
cmp    %ebp,%r15d
setbe  %cl
xor    %r12b,%cl
movzbl %cl,%ecx
add    %eax,%ecx
add    $0x2,%rbx
movzbl %cl,%ebp
cmp    $0x10,%rbx
jne    1140 <select_diagonal_YCoCg+0x40>
movzbl %r11b,%eax
xor    %r10b,%r11b
cmp    $0x9,%ebp
movzbl %r10b,%ecx
cmovb  %eax,%ecx
cmp    %r9b,%r8b
cmove  %eax,%ecx
xor    %cl,%r11b
mov    %r11b,0x1(%rsi)
mov    %cl,0x1(%rdx)
pop    %rbx
pop    %r12
pop    %r14
pop    %r15
pop    %rbp
ret

LLVM IR (-O0):
define void @select_diagonal_YCoCg(i8* %0, i8* %1, i8* %2) {
%4 = alloca i8*
%5 = alloca i8*
%6 = alloca i8*
%7 = alloca i8
%8 = alloca i8
%9 = alloca i8
%10 = alloca i8
%11 = alloca i8
%12 = alloca i8
%13 = alloca i8
%14 = alloca i8
%15 = alloca i32
store i8* %0, i8** %4
store i8* %1, i8** %5
store i8* %2, i8** %6
%16 = load i8*, i8** %5
%17 = getelementptr inbounds i8, i8* %16, i64 2
%18 = load i8, i8* %17
%19 = zext i8 %18 to i32
%20 = load i8*, i8** %6
%21 = getelementptr inbounds i8, i8* %20, i64 2
%22 = load i8, i8* %21
%23 = zext i8 %22 to i32
%24 = add nsw i32 %19, %23
%25 = add nsw i32 %24, 1
%26 = ashr i32 %25, 1
%27 = trunc i32 %26 to i8
store i8 %27, i8* %7
%28 = load i8*, i8** %5
%29 = getelementptr inbounds i8, i8* %28, i64 1
%30 = load i8, i8* %29
%31 = zext i8 %30 to i32
%32 = load i8*, i8** %6
%33 = getelementptr inbounds i8, i8* %32, i64 1
%34 = load i8, i8* %33
%35 = zext i8 %34 to i32
%36 = add nsw i32 %31, %35
%37 = add nsw i32 %36, 1
%38 = ashr i32 %37, 1
%39 = trunc i32 %38 to i8
store i8 %39, i8* %8
store i8 0, i8* %9
store i32 0, i32* %15
br label %40
40: ; preds = %79, %3
%41 = load i32, i32* %15
%42 = icmp slt i32 %41, 16
br i1 %42, label %43, label %82
43: ; preds = %40
%44 = load i8*, i8** %4
%45 = load i32, i32* %15
%46 = mul nsw i32 %45, 4
%47 = add nsw i32 %46, 2
%48 = sext i32 %47 to i64
%49 = getelementptr inbounds i8, i8* %44, i64 %48
%50 = load i8, i8* %49
%51 = zext i8 %50 to i32
%52 = load i8, i8* %7
%53 = zext i8 %52 to i32
%54 = icmp sge i32 %51, %53
%55 = zext i1 %54 to i32
%56 = trunc i32 %55 to i8
store i8 %56, i8* %11
%57 = load i8*, i8** %4
%58 = load i32, i32* %15
%59 = mul nsw i32 %58, 4
%60 = add nsw i32 %59, 1
%61 = sext i32 %60 to i64
%62 = getelementptr inbounds i8, i8* %57, i64 %61
%63 = load i8, i8* %62
%64 = zext i8 %63 to i32
%65 = load i8, i8* %8
%66 = zext i8 %65 to i32
%67 = icmp sge i32 %64, %66
%68 = zext i1 %67 to i32
%69 = trunc i32 %68 to i8
store i8 %69, i8* %12
%70 = load i8, i8* %11
%71 = zext i8 %70 to i32
%72 = load i8, i8* %12
%73 = zext i8 %72 to i32
%74 = xor i32 %71, %73
%75 = load i8, i8* %9
%76 = zext i8 %75 to i32
%77 = add nsw i32 %76, %74
%78 = trunc i32 %77 to i8
store i8 %78, i8* %9
br label %79
79: ; preds = %43
%80 = load i32, i32* %15
%81 = add nsw i32 %80, 1
store i32 %81, i32* %15
br label %40
82: ; preds = %40
%83 = load i8, i8* %9
%84 = zext i8 %83 to i32
%85 = icmp sgt i32 %84, 8
%86 = zext i1 %85 to i32
%87 = sub nsw i32 0, %86
%88 = trunc i32 %87 to i8
store i8 %88, i8* %10
%89 = load i8*, i8** %5
%90 = getelementptr inbounds i8, i8* %89, i64 2
%91 = load i8, i8* %90
%92 = zext i8 %91 to i32
%93 = load i8*, i8** %6
%94 = getelementptr inbounds i8, i8* %93, i64 2
%95 = load i8, i8* %94
%96 = zext i8 %95 to i32
%97 = icmp ne i32 %92, %96
%98 = zext i1 %97 to i32
%99 = sub nsw i32 0, %98
%100 = load i8, i8* %10
%101 = zext i8 %100 to i32
%102 = and i32 %101, %99
%103 = trunc i32 %102 to i8
store i8 %103, i8* %10
%104 = load i8*, i8** %5
%105 = getelementptr inbounds i8, i8* %104, i64 1
%106 = load i8, i8* %105
store i8 %106, i8* %13
%107 = load i8*, i8** %6
%108 = getelementptr inbounds i8, i8* %107, i64 1
%109 = load i8, i8* %108
store i8 %109, i8* %14
%110 = load i8, i8* %14
%111 = zext i8 %110 to i32
%112 = load i8, i8* %13
%113 = zext i8 %112 to i32
%114 = xor i32 %113, %111
%115 = trunc i32 %114 to i8
store i8 %115, i8* %13
%116 = load i8, i8* %13
%117 = zext i8 %116 to i32
%118 = load i8, i8* %10
%119 = zext i8 %118 to i32
%120 = and i32 %119, %117
%121 = trunc i32 %120 to i8
store i8 %121, i8* %10
%122 = load i8, i8* %10
%123 = zext i8 %122 to i32
%124 = load i8, i8* %14
%125 = zext i8 %124 to i32
%126 = xor i32 %125, %123
%127 = trunc i32 %126 to i8
store i8 %127, i8* %14
%128 = load i8, i8* %14
%129 = zext i8 %128 to i32
%130 = load i8, i8* %13
%131 = zext i8 %130 to i32
%132 = xor i32 %131, %129
%133 = trunc i32 %132 to i8
store i8 %133, i8* %13
%134 = load i8, i8* %13
%135 = load i8*, i8** %5
%136 = getelementptr inbounds i8, i8* %135, i64 1
store i8 %134, i8* %136
%137 = load i8, i8* %14
%138 = load i8*, i8** %6
%139 = getelementptr inbounds i8, i8* %138, i64 1
store i8 %137, i8* %139
ret void
}

LLVM IR (-O2):
define void @select_diagonal_YCoCg(i8* nocapture %0, i8* nocapture %1, i8* nocapture %2) {
%4 = getelementptr inbounds i8, i8* %1, i64 2
%5 = load i8, i8* %4
%6 = zext i8 %5 to i32
%7 = getelementptr inbounds i8, i8* %2, i64 2
%8 = load i8, i8* %7
%9 = zext i8 %8 to i32
%10 = add nuw nsw i32 %6, 1
%11 = add nuw nsw i32 %10, %9
%12 = lshr i32 %11, 1
%13 = getelementptr inbounds i8, i8* %1, i64 1
%14 = load i8, i8* %13
%15 = zext i8 %14 to i32
%16 = getelementptr inbounds i8, i8* %2, i64 1
%17 = load i8, i8* %16
%18 = zext i8 %17 to i32
%19 = add nuw nsw i32 %15, 1
%20 = add nuw nsw i32 %19, %18
%21 = lshr i32 %20, 1
br label %22
22: ; preds = %22, %3
%23 = phi i64 [ 0, %3 ], [ %53, %22 ]
%24 = phi i32 [ 0, %3 ], [ %54, %22 ]
%25 = shl nuw nsw i64 %23, 2
%26 = or i64 %25, 2
%27 = getelementptr inbounds i8, i8* %0, i64 %26
%28 = load i8, i8* %27
%29 = zext i8 %28 to i32
%30 = icmp ule i32 %12, %29
%31 = or i64 %25, 1
%32 = getelementptr inbounds i8, i8* %0, i64 %31
%33 = load i8, i8* %32
%34 = zext i8 %33 to i32
%35 = icmp ule i32 %21, %34
%36 = xor i1 %30, %35
%37 = zext i1 %36 to i32
%38 = add nuw nsw i32 %24, %37
%39 = shl i64 %23, 2
%40 = or i64 %39, 6
%41 = getelementptr inbounds i8, i8* %0, i64 %40
%42 = load i8, i8* %41
%43 = zext i8 %42 to i32
%44 = icmp ule i32 %12, %43
%45 = or i64 %39, 5
%46 = getelementptr inbounds i8, i8* %0, i64 %45
%47 = load i8, i8* %46
%48 = zext i8 %47 to i32
%49 = icmp ule i32 %21, %48
%50 = xor i1 %44, %49
%51 = zext i1 %50 to i32
%52 = add nuw nsw i32 %38, %51
%53 = add nuw nsw i64 %23, 2
%54 = and i32 %52, 255
%55 = icmp eq i64 %53, 16
br i1 %55, label %56, label %22
56: ; preds = %22
%57 = icmp ugt i32 %54, 8
%58 = icmp ne i8 %5, %8
%59 = select i1 %58, i1 %57, i1 false
%60 = xor i8 %17, %14
%61 = select i1 %59, i8 %14, i8 %17
%62 = xor i8 %60, %61
store i8 %62, i8* %13
store i8 %61, i8* %16
ret void
}