void inset_bbox_YCoCg(unsigned char *mincolor, unsigned char *maxcolor) {
  int inset[4], mini[4], maxi[4];
  inset[2] = (maxcolor[2] - mincolor[2]) - ((1 << (4 - 1)) - 1);
  inset[1] = (maxcolor[1] - mincolor[1]) - ((1 << (4 - 1)) - 1);
  mini[2] = ((mincolor[2] << 4) + inset[2]) >> 4;
  mini[1] = ((mincolor[1] << 4) + inset[1]) >> 4;
  maxi[2] = ((maxcolor[2] << 4) - inset[2]) >> 4;
  maxi[1] = ((maxcolor[1] << 4) - inset[1]) >> 4;
  mini[2] = (mini[2] >= 0) ? mini[2] : 0;
  mini[1] = (mini[1] >= 0) ? mini[1] : 0;
  maxi[2] = (maxi[2] <= 255) ? maxi[2] : 255;
  maxi[1] = (maxi[1] <= 255) ? maxi[1] : 255;
  mincolor[2] = (mini[2] & 0xf8) | (mini[2] >> 5);
  mincolor[1] = (mini[1] & 0xfc) | (mini[1] >> 6);
  maxcolor[2] = (maxi[2] & 0xf8) | (maxi[2] >> 5);
  maxcolor[1] = (maxi[1] & 0xfc) | (maxi[1] >> 6);
}


x86 assembly (clang, -O0):
<inset_bbox_YCoCg>:
push   %rbp
mov    %rsp,%rbp
mov    %rdi,-0x8(%rbp)
mov    %rsi,-0x10(%rbp)
mov    -0x10(%rbp),%rax
movzbl 0x2(%rax),%eax
mov    -0x8(%rbp),%rcx
movzbl 0x2(%rcx),%ecx
sub    %ecx,%eax
sub    $0x7,%eax
mov    %eax,-0x18(%rbp)
mov    -0x10(%rbp),%rax
movzbl 0x1(%rax),%eax
mov    -0x8(%rbp),%rcx
movzbl 0x1(%rcx),%ecx
sub    %ecx,%eax
sub    $0x7,%eax
mov    %eax,-0x1c(%rbp)
mov    -0x8(%rbp),%rax
movzbl 0x2(%rax),%eax
shl    $0x4,%eax
add    -0x18(%rbp),%eax
sar    $0x4,%eax
mov    %eax,-0x28(%rbp)
mov    -0x8(%rbp),%rax
movzbl 0x1(%rax),%eax
shl    $0x4,%eax
add    -0x1c(%rbp),%eax
sar    $0x4,%eax
mov    %eax,-0x2c(%rbp)
mov    -0x10(%rbp),%rax
movzbl 0x2(%rax),%eax
shl    $0x4,%eax
sub    -0x18(%rbp),%eax
sar    $0x4,%eax
mov    %eax,-0x38(%rbp)
mov    -0x10(%rbp),%rax
movzbl 0x1(%rax),%eax
shl    $0x4,%eax
sub    -0x1c(%rbp),%eax
sar    $0x4,%eax
mov    %eax,-0x3c(%rbp)
cmpl   $0x0,-0x28(%rbp)
jl     11a1 <inset_bbox_YCoCg+0xa1>
mov    -0x28(%rbp),%eax
mov    %eax,-0x44(%rbp)
jmp    11ab <inset_bbox_YCoCg+0xab>
xor    %eax,%eax
mov    %eax,-0x44(%rbp)
jmp    11ab <inset_bbox_YCoCg+0xab>
mov    -0x44(%rbp),%eax
mov    %eax,-0x28(%rbp)
cmpl   $0x0,-0x2c(%rbp)
jl     11c6 <inset_bbox_YCoCg+0xc6>
mov    -0x2c(%rbp),%eax
mov    %eax,-0x48(%rbp)
jmp    11d0 <inset_bbox_YCoCg+0xd0>
xor    %eax,%eax
mov    %eax,-0x48(%rbp)
jmp    11d0 <inset_bbox_YCoCg+0xd0>
mov    -0x48(%rbp),%eax
mov    %eax,-0x2c(%rbp)
cmpl   $0xff,-0x38(%rbp)
jg     11ee <inset_bbox_YCoCg+0xee>
mov    -0x38(%rbp),%eax
mov    %eax,-0x4c(%rbp)
jmp    11fb <inset_bbox_YCoCg+0xfb>
mov    $0xff,%eax
mov    %eax,-0x4c(%rbp)
jmp    11fb <inset_bbox_YCoCg+0xfb>
mov    -0x4c(%rbp),%eax
mov    %eax,-0x38(%rbp)
cmpl   $0xff,-0x3c(%rbp)
jg     1219 <inset_bbox_YCoCg+0x119>
mov    -0x3c(%rbp),%eax
mov    %eax,-0x50(%rbp)
jmp    1226 <inset_bbox_YCoCg+0x126>
mov    $0xff,%eax
mov    %eax,-0x50(%rbp)
jmp    1226 <inset_bbox_YCoCg+0x126>
mov    -0x50(%rbp),%eax
mov    %eax,-0x3c(%rbp)
mov    -0x28(%rbp),%eax
and    $0xf8,%eax
mov    -0x28(%rbp),%ecx
sar    $0x5,%ecx
or     %ecx,%eax
mov    %al,%cl
mov    -0x8(%rbp),%rax
mov    %cl,0x2(%rax)
mov    -0x2c(%rbp),%eax
and    $0xfc,%eax
mov    -0x2c(%rbp),%ecx
sar    $0x6,%ecx
or     %ecx,%eax
mov    %al,%cl
mov    -0x8(%rbp),%rax
mov    %cl,0x1(%rax)
mov    -0x38(%rbp),%eax
and    $0xf8,%eax
mov    -0x38(%rbp),%ecx
sar    $0x5,%ecx
or     %ecx,%eax
mov    %al,%cl
mov    -0x10(%rbp),%rax
mov    %cl,0x2(%rax)
mov    -0x3c(%rbp),%eax
and    $0xfc,%eax
mov    -0x3c(%rbp),%ecx
sar    $0x6,%ecx
or     %ecx,%eax
mov    %al,%cl
mov    -0x10(%rbp),%rax
mov    %cl,0x1(%rax)
pop    %rbp
ret

x86 assembly (clang, -O2):
<inset_bbox_YCoCg>:
push   %rbp
push   %r14
push   %rbx
movzbl 0x2(%rsi),%r8d
movzbl 0x2(%rdi),%eax
mov    %r8d,%ecx
sub    %eax,%ecx
movzbl 0x1(%rsi),%r9d
movzbl 0x1(%rdi),%r10d
mov    %r9d,%r11d
sub    %r10d,%r11d
shl    $0x4,%eax
lea    (%rcx,%rax,1),%r14d
add    $0xfffffff9,%r14d
add    $0xfffffff9,%ecx
mov    %r14d,%edx
sar    $0x4,%edx
shl    $0x4,%r10d
lea    (%r11,%r10,1),%ebp
add    $0xfffffff9,%ebp
mov    %r11d,%ebx
add    $0xfffffff9,%ebx
mov    %ebp,%eax
sar    $0x4,%eax
shl    $0x4,%r8d
sub    %ecx,%r8d
mov    %r8d,%ecx
sar    $0x4,%ecx
shl    $0x4,%r9d
sub    %ebx,%r9d
mov    %r9d,%r10d
sar    $0x4,%r10d
xor    %ebx,%ebx
test   %r14d,%r14d
cmovs  %ebx,%edx
test   %ebp,%ebp
cmovs  %ebx,%eax
cmp    $0x1000,%r8d
mov    $0xff,%ebp
cmovge %ebp,%ecx
cmp    $0x1000,%r9d
cmovge %ebp,%r10d
mov    %edx,%ebp
and    $0xf8,%ebp
shr    $0x5,%edx
or     %ebp,%edx
mov    %dl,0x2(%rdi)
mov    %eax,%edx
and    $0xfc,%edx
shr    $0x6,%eax
or     %edx,%eax
mov    %al,0x1(%rdi)
mov    %ecx,%eax
and    $0xf8,%eax
shr    $0x5,%ecx
or     %eax,%ecx
mov    %cl,0x2(%rsi)
mov    %r10d,%eax
and    $0xfc,%eax
shr    $0x6,%r10d
or     %eax,%r10d
mov    %r10b,0x1(%rsi)
pop    %rbx
pop    %r14
pop    %rbp
ret

LLVM IR (-O0):
define void @inset_bbox_YCoCg(i8* %0, i8* %1) {
%3 = alloca i8*
%4 = alloca i8*
%5 = alloca [4 x i32]
%6 = alloca [4 x i32]
%7 = alloca [4 x i32]
store i8* %0, i8** %3
store i8* %1, i8** %4
%8 = load i8*, i8** %4
%9 = getelementptr inbounds i8, i8* %8, i64 2
%10 = load i8, i8* %9
%11 = zext i8 %10 to i32
%12 = load i8*, i8** %3
%13 = getelementptr inbounds i8, i8* %12, i64 2
%14 = load i8, i8* %13
%15 = zext i8 %14 to i32
%16 = sub nsw i32 %11, %15
%17 = sub nsw i32 %16, 7
%18 = getelementptr inbounds [4 x i32], [4 x i32]* %5, i64 0, i64 2
store i32 %17, i32* %18
%19 = load i8*, i8** %4
%20 = getelementptr inbounds i8, i8* %19, i64 1
%21 = load i8, i8* %20
%22 = zext i8 %21 to i32
%23 = load i8*, i8** %3
%24 = getelementptr inbounds i8, i8* %23, i64 1
%25 = load i8, i8* %24
%26 = zext i8 %25 to i32
%27 = sub nsw i32 %22, %26
%28 = sub nsw i32 %27, 7
%29 = getelementptr inbounds [4 x i32], [4 x i32]* %5, i64 0, i64 1
store i32 %28, i32* %29
%30 = load i8*, i8** %3
%31 = getelementptr inbounds i8, i8* %30, i64 2
%32 = load i8, i8* %31
%33 = zext i8 %32 to i32
%34 = shl i32 %33, 4
%35 = getelementptr inbounds [4 x i32], [4 x i32]* %5, i64 0, i64 2
%36 = load i32, i32* %35
%37 = add nsw i32 %34, %36
%38 = ashr i32 %37, 4
%39 = getelementptr inbounds [4 x i32], [4 x i32]* %6, i64 0, i64 2
store i32 %38, i32* %39
%40 = load i8*, i8** %3
%41 = getelementptr inbounds i8, i8* %40, i64 1
%42 = load i8, i8* %41
%43 = zext i8 %42 to i32
%44 = shl i32 %43, 4
%45 = getelementptr inbounds [4 x i32], [4 x i32]* %5, i64 0, i64 1
%46 = load i32, i32* %45
%47 = add nsw i32 %44, %46
%48 = ashr i32 %47, 4
%49 = getelementptr inbounds [4 x i32], [4 x i32]* %6, i64 0, i64 1
store i32 %48, i32* %49
%50 = load i8*, i8** %4
%51 = getelementptr inbounds i8, i8* %50, i64 2
%52 = load i8, i8* %51
%53 = zext i8 %52 to i32
%54 = shl i32 %53, 4
%55 = getelementptr inbounds [4 x i32], [4 x i32]* %5, i64 0, i64 2
%56 = load i32, i32* %55
%57 = sub nsw i32 %54, %56
%58 = ashr i32 %57, 4
%59 = getelementptr inbounds [4 x i32], [4 x i32]* %7, i64 0, i64 2
store i32 %58, i32* %59
%60 = load i8*, i8** %4
%61 = getelementptr inbounds i8, i8* %60, i64 1
%62 = load i8, i8* %61
%63 = zext i8 %62 to i32
%64 = shl i32 %63, 4
%65 = getelementptr inbounds [4 x i32], [4 x i32]* %5, i64 0, i64 1
%66 = load i32, i32* %65
%67 = sub nsw i32 %64, %66
%68 = ashr i32 %67, 4
%69 = getelementptr inbounds [4 x i32], [4 x i32]* %7, i64 0, i64 1
store i32 %68, i32* %69
%70 = getelementptr inbounds [4 x i32], [4 x i32]* %6, i64 0, i64 2
%71 = load i32, i32* %70
%72 = icmp sge i32 %71, 0
br i1 %72, label %73, label %76
73: ; preds = %2
%74 = getelementptr inbounds [4 x i32], [4 x i32]* %6, i64 0, i64 2
%75 = load i32, i32* %74
br label %77
76: ; preds = %2
br label %77
77: ; preds = %76, %73
%78 = phi i32 [ %75, %73 ], [ 0, %76 ]
%79 = getelementptr inbounds [4 x i32], [4 x i32]* %6, i64 0, i64 2
store i32 %78, i32* %79
%80 = getelementptr inbounds [4 x i32], [4 x i32]* %6, i64 0, i64 1
%81 = load i32, i32* %80
%82 = icmp sge i32 %81, 0
br i1 %82, label %83, label %86
83: ; preds = %77
%84 = getelementptr inbounds [4 x i32], [4 x i32]* %6, i64 0, i64 1
%85 = load i32, i32* %84
br label %87
86: ; preds = %77
br label %87
87: ; preds = %86, %83
%88 = phi i32 [ %85, %83 ], [ 0, %86 ]
%89 = getelementptr inbounds [4 x i32], [4 x i32]* %6, i64 0, i64 1
store i32 %88, i32* %89
%90 = getelementptr inbounds [4 x i32], [4 x i32]* %7, i64 0, i64 2
%91 = load i32, i32* %90
%92 = icmp sle i32 %91, 255
br i1 %92, label %93, label %96
93: ; preds = %87
%94 = getelementptr inbounds [4 x i32], [4 x i32]* %7, i64 0, i64 2
%95 = load i32, i32* %94
br label %97
96: ; preds = %87
br label %97
97: ; preds = %96, %93
%98 = phi i32 [ %95, %93 ], [ 255, %96 ]
%99 = getelementptr inbounds [4 x i32], [4 x i32]* %7, i64 0, i64 2
store i32 %98, i32* %99
%100 = getelementptr inbounds [4 x i32], [4 x i32]* %7, i64 0, i64 1
%101 = load i32, i32* %100
%102 = icmp sle i32 %101, 255
br i1 %102, label %103, label %106
103: ; preds = %97
%104 = getelementptr inbounds [4 x i32], [4 x i32]* %7, i64 0, i64 1
%105 = load i32, i32* %104
br label %107
106: ; preds = %97
br label %107
107: ; preds = %106, %103
%108 = phi i32 [ %105, %103 ], [ 255, %106 ]
%109 = getelementptr inbounds [4 x i32], [4 x i32]* %7, i64 0, i64 1
store i32 %108, i32* %109
%110 = getelementptr inbounds [4 x i32], [4 x i32]* %6, i64 0, i64 2
%111 = load i32, i32* %110
%112 = and i32 %111, 248
%113 = getelementptr inbounds [4 x i32], [4 x i32]* %6, i64 0, i64 2
%114 = load i32, i32* %113
%115 = ashr i32 %114, 5
%116 = or i32 %112, %115
%117 = trunc i32 %116 to i8
%118 = load i8*, i8** %3
%119 = getelementptr inbounds i8, i8* %118, i64 2
store i8 %117, i8* %119
%120 = getelementptr inbounds [4 x i32], [4 x i32]* %6, i64 0, i64 1
%121 = load i32, i32* %120
%122 = and i32 %121, 252
%123 = getelementptr inbounds [4 x i32], [4 x i32]* %6, i64 0, i64 1
%124 = load i32, i32* %123
%125 = ashr i32 %124, 6
%126 = or i32 %122, %125
%127 = trunc i32 %126 to i8
%128 = load i8*, i8** %3
%129 = getelementptr inbounds i8, i8* %128, i64 1
store i8 %127, i8* %129
%130 = getelementptr inbounds [4 x i32], [4 x i32]* %7, i64 0, i64 2
%131 = load i32, i32* %130
%132 = and i32 %131, 248
%133 = getelementptr inbounds [4 x i32], [4 x i32]* %7, i64 0, i64 2
%134 = load i32, i32* %133
%135 = ashr i32 %134, 5
%136 = or i32 %132, %135
%137 = trunc i32 %136 to i8
%138 = load i8*, i8** %4
%139 = getelementptr inbounds i8, i8* %138, i64 2
store i8 %137, i8* %139
%140 = getelementptr inbounds [4 x i32], [4 x i32]* %7, i64 0, i64 1
%141 = load i32, i32* %140
%142 = and i32 %141, 252
%143 = getelementptr inbounds [4 x i32], [4 x i32]* %7, i64 0, i64 1
%144 = load i32, i32* %143
%145 = ashr i32 %144, 6
%146 = or i32 %142, %145
%147 = trunc i32 %146 to i8
%148 = load i8*, i8** %4
%149 = getelementptr inbounds i8, i8* %148, i64 1
store i8 %147, i8* %149
ret void
}

LLVM IR (-O2):
define void @inset_bbox_YCoCg(i8* nocapture %0, i8* nocapture %1) {
%3 = getelementptr inbounds i8, i8* %1, i64 2
%4 = load i8, i8* %3
%5 = zext i8 %4 to i32
%6 = getelementptr inbounds i8, i8* %0, i64 2
%7 = load i8, i8* %6
%8 = zext i8 %7 to i32
%9 = sub nsw i32 %5, %8
%10 = add nsw i32 %9, -7
%11 = getelementptr inbounds i8, i8* %1, i64 1
%12 = load i8, i8* %11
%13 = zext i8 %12 to i32
%14 = getelementptr inbounds i8, i8* %0, i64 1
%15 = load i8, i8* %14
%16 = zext i8 %15 to i32
%17 = sub nsw i32 %13, %16
%18 = add nsw i32 %17, -7
%19 = shl nuw nsw i32 %8, 4
%20 = add nsw i32 %10, %19
%21 = ashr i32 %20, 4
%22 = shl nuw nsw i32 %16, 4
%23 = add nsw i32 %18, %22
%24 = ashr i32 %23, 4
%25 = shl nuw nsw i32 %5, 4
%26 = sub nsw i32 %25, %10
%27 = ashr i32 %26, 4
%28 = shl nuw nsw i32 %13, 4
%29 = sub nsw i32 %28, %18
%30 = ashr i32 %29, 4
%31 = icmp slt i32 %20, 0
%32 = select i1 %31, i32 0, i32 %21
%33 = icmp slt i32 %23, 0
%34 = select i1 %33, i32 0, i32 %24
%35 = icmp slt i32 %26, 4096
%36 = select i1 %35, i32 %27, i32 255
%37 = icmp slt i32 %29, 4096
%38 = select i1 %37, i32 %30, i32 255
%39 = and i32 %32, 248
%40 = lshr i32 %32, 5
%41 = or i32 %39, %40
%42 = trunc i32 %41 to i8
store i8 %42, i8* %6
%43 = and i32 %34, 252
%44 = lshr i32 %34, 6
%45 = or i32 %43, %44
%46 = trunc i32 %45 to i8
store i8 %46, i8* %14
%47 = and i32 %36, 248
%48 = lshr i32 %36, 5
%49 = or i32 %47, %48
%50 = trunc i32 %49 to i8
store i8 %50, i8* %3
%51 = and i32 %38, 252
%52 = lshr i32 %38, 6
%53 = or i32 %51, %52
%54 = trunc i32 %53 to i8
store i8 %54, i8* %11
ret void
}