unsigned int CollatePixelsIntoRegions(unsigned int (*pY)[4][4],
                                      unsigned int medLowLumaStart,
                                      unsigned int medHighLumaStart,
                                      unsigned int highLumaStart) {
  int row, col;
  unsigned int luma;
  unsigned int bitMask = 0x00000003;
  unsigned int bitIndices = 0;
  for (row = 0; row < 4; row++) {
    for (col = 0; col < 4; col++) {
      luma = (*pY)[row][col];
      if (luma >= highLumaStart) {
        bitIndices |= (bitMask & 0xFFFFFFFF);
      } else if (luma > medHighLumaStart) {
        bitIndices |= (bitMask & 0xAAAAAAAA);
      } else if (luma > medLowLumaStart) {
        bitIndices |= (bitMask & 0x55555555);
      } else {
      }
      bitMask <<= 2;
    }
  }
  return bitIndices;
}


x86 assembly (clang, -O0):
<CollatePixelsIntoRegions>:
push   %rbp
mov    %rsp,%rbp
mov    %rdi,-0x8(%rbp)
mov    %esi,-0xc(%rbp)
mov    %edx,-0x10(%rbp)
mov    %ecx,-0x14(%rbp)
movl   $0x3,-0x24(%rbp)
movl   $0x0,-0x28(%rbp)
movl   $0x0,-0x18(%rbp)
cmpl   $0x4,-0x18(%rbp)
jge    11ee <CollatePixelsIntoRegions+0xee>
movl   $0x0,-0x1c(%rbp)
cmpl   $0x4,-0x1c(%rbp)
jge    11db <CollatePixelsIntoRegions+0xdb>
mov    -0x8(%rbp),%rax
movslq -0x18(%rbp),%rcx
shl    $0x4,%rcx
add    %rcx,%rax
movslq -0x1c(%rbp),%rcx
mov    (%rax,%rcx,4),%eax
mov    %eax,-0x20(%rbp)
mov    -0x20(%rbp),%eax
cmp    -0x14(%rbp),%eax
jb     1177 <CollatePixelsIntoRegions+0x77>
mov    -0x24(%rbp),%eax
and    $0xffffffff,%eax
or     -0x28(%rbp),%eax
mov    %eax,-0x28(%rbp)
jmp    11c4 <CollatePixelsIntoRegions+0xc4>
mov    -0x20(%rbp),%eax
cmp    -0x10(%rbp),%eax
jbe    1196 <CollatePixelsIntoRegions+0x96>
mov    -0x24(%rbp),%eax
and    $0xaaaaaaaa,%eax
or     -0x28(%rbp),%eax
mov    %eax,-0x28(%rbp)
jmp    11bf <CollatePixelsIntoRegions+0xbf>
mov    -0x20(%rbp),%eax
cmp    -0xc(%rbp),%eax
jbe    11b5 <CollatePixelsIntoRegions+0xb5>
mov    -0x24(%rbp),%eax
and    $0x55555555,%eax
or     -0x28(%rbp),%eax
mov    %eax,-0x28(%rbp)
jmp    11ba <CollatePixelsIntoRegions+0xba>
jmp    11ba <CollatePixelsIntoRegions+0xba>
jmp    11bf <CollatePixelsIntoRegions+0xbf>
jmp    11c4 <CollatePixelsIntoRegions+0xc4>
mov    -0x24(%rbp),%eax
shl    $0x2,%eax
mov    %eax,-0x24(%rbp)
mov    -0x1c(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x1c(%rbp)
jmp    1137 <CollatePixelsIntoRegions+0x37>
jmp    11e0 <CollatePixelsIntoRegions+0xe0>
mov    -0x18(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x18(%rbp)
jmp    1126 <CollatePixelsIntoRegions+0x26>
mov    -0x28(%rbp),%eax
pop    %rbp
ret

x86 assembly (clang, -O2):
<CollatePixelsIntoRegions>:
mov    $0x3,%r8d
xor    %r9d,%r9d
xor    %eax,%eax
jmp    112c <CollatePixelsIntoRegions+0x2c>
nopl   (%rax)
and    $0xaaaa8080,%r10d
or     %r10d,%eax
shl    $0x8,%r8d
add    $0x10,%r9
cmp    $0x40,%r9
je     1226 <CollatePixelsIntoRegions+0x126>
mov    (%rdi,%r9,1),%r10d
cmp    %ecx,%r10d
jae    1150 <CollatePixelsIntoRegions+0x50>
cmp    %edx,%r10d
jbe    1160 <CollatePixelsIntoRegions+0x60>
mov    %r8d,%r10d
and    $0xaaaaaa02,%r10d
jmp    116f <CollatePixelsIntoRegions+0x6f>
cs nopw 0x0(%rax,%rax,1)
or     %r8d,%eax
jmp    1172 <CollatePixelsIntoRegions+0x72>
cs nopw 0x0(%rax,%rax,1)
nop
cmp    %esi,%r10d
jbe    1172 <CollatePixelsIntoRegions+0x72>
mov    %r8d,%r10d
and    $0x55555501,%r10d
or     %r10d,%eax
lea    0x0(,%r8,4),%r10d
mov    0x4(%rdi,%r9,1),%r11d
cmp    %ecx,%r11d
jae    11b0 <CollatePixelsIntoRegions+0xb0>
cmp    %edx,%r11d
jbe    11a0 <CollatePixelsIntoRegions+0xa0>
and    $0xaaaaa808,%r10d
jmp    11b0 <CollatePixelsIntoRegions+0xb0>
cs nopw 0x0(%rax,%rax,1)
nopl   0x0(%rax)
cmp    %esi,%r11d
jbe    11b3 <CollatePixelsIntoRegions+0xb3>
and    $0x55555404,%r10d
nopl   0x0(%rax)
or     %r10d,%eax
mov    %r8d,%r10d
shl    $0x4,%r10d
mov    0x8(%rdi,%r9,1),%r11d
cmp    %ecx,%r11d
jae    11f0 <CollatePixelsIntoRegions+0xf0>
cmp    %edx,%r11d
jbe    11e0 <CollatePixelsIntoRegions+0xe0>
and    $0xaaaaa020,%r10d
jmp    11f0 <CollatePixelsIntoRegions+0xf0>
cs nopw 0x0(%rax,%rax,1)
nopl   0x0(%rax)
cmp    %esi,%r11d
jbe    11f3 <CollatePixelsIntoRegions+0xf3>
and    $0x55555010,%r10d
nopl   0x0(%rax)
or     %r10d,%eax
mov    %r8d,%r10d
shl    $0x6,%r10d
mov    0xc(%rdi,%r9,1),%r11d
cmp    %ecx,%r11d
jae    1117 <CollatePixelsIntoRegions+0x17>
cmp    %edx,%r11d
ja     1110 <CollatePixelsIntoRegions+0x10>
cmp    %esi,%r11d
jbe    111a <CollatePixelsIntoRegions+0x1a>
and    $0x55554040,%r10d
jmp    1117 <CollatePixelsIntoRegions+0x17>
ret

LLVM IR (-O0):
define i32 @CollatePixelsIntoRegions([4 x [4 x i32]]* %0, i32 %1, i32 %2, i32 %3) {
%5 = alloca [4 x [4 x i32]]*
%6 = alloca i32
%7 = alloca i32
%8 = alloca i32
%9 = alloca i32
%10 = alloca i32
%11 = alloca i32
%12 = alloca i32
%13 = alloca i32
store [4 x [4 x i32]]* %0, [4 x [4 x i32]]** %5
store i32 %1, i32* %6
store i32 %2, i32* %7
store i32 %3, i32* %8
store i32 3, i32* %12
store i32 0, i32* %13
store i32 0, i32* %9
br label %14
14: ; preds = %66, %4
%15 = load i32, i32* %9
%16 = icmp slt i32 %15, 4
br i1 %16, label %17, label %69
17: ; preds = %14
store i32 0, i32* %10
br label %18
18: ; preds = %62, %17
%19 = load i32, i32* %10
%20 = icmp slt i32 %19, 4
br i1 %20, label %21, label %65
21: ; preds = %18
%22 = load [4 x [4 x i32]]*, [4 x [4 x i32]]** %5
%23 = load i32, i32* %9
%24 = sext i32 %23 to i64
%25 = getelementptr inbounds [4 x [4 x i32]], [4 x [4 x i32]]* %22, i64 0, i64 %24
%26 = load i32, i32* %10
%27 = sext i32 %26 to i64
%28 = getelementptr inbounds [4 x i32], [4 x i32]* %25, i64 0, i64 %27
%29 = load i32, i32* %28
store i32 %29, i32* %11
%30 = load i32, i32* %11
%31 = load i32, i32* %8
%32 = icmp uge i32 %30, %31
br i1 %32, label %33, label %38
33: ; preds = %21
%34 = load i32, i32* %12
%35 = and i32 %34, -1
%36 = load i32, i32* %13
%37 = or i32 %36, %35
store i32 %37, i32* %13
br label %59
38: ; preds = %21
%39 = load i32, i32* %11
%40 = load i32, i32* %7
%41 = icmp ugt i32 %39, %40
br i1 %41, label %42, label %47
42: ; preds = %38
%43 = load i32, i32* %12
%44 = and i32 %43, -1431655766
%45 = load i32, i32* %13
%46 = or i32 %45, %44
store i32 %46, i32* %13
br label %58
47: ; preds = %38
%48 = load i32, i32* %11
%49 = load i32, i32* %6
%50 = icmp ugt i32 %48, %49
br i1 %50, label %51, label %56
51: ; preds = %47
%52 = load i32, i32* %12
%53 = and i32 %52, 1431655765
%54 = load i32, i32* %13
%55 = or i32 %54, %53
store i32 %55, i32* %13
br label %57
56: ; preds = %47
br label %57
57: ; preds = %56, %51
br label %58
58: ; preds = %57, %42
br label %59
59: ; preds = %58, %33
%60 = load i32, i32* %12
%61 = shl i32 %60, 2
store i32 %61, i32* %12
br label %62
62: ; preds = %59
%63 = load i32, i32* %10
%64 = add nsw i32 %63, 1
store i32 %64, i32* %10
br label %18
65: ; preds = %18
br label %66
66: ; preds = %65
%67 = load i32, i32* %9
%68 = add nsw i32 %67, 1
store i32 %68, i32* %9
br label %14
69: ; preds = %14
%70 = load i32, i32* %13
ret i32 %70
}

LLVM IR (-O2):
define i32 @CollatePixelsIntoRegions([4 x [4 x i32]]* nocapture %0, i32 %1, i32 %2, i32 %3) {
br label %5
5: ; preds = %4, %78
%6 = phi i64 [ 0, %4 ], [ %81, %78 ]
%7 = phi i32 [ 0, %4 ], [ %79, %78 ]
%8 = phi i32 [ 3, %4 ], [ %80, %78 ]
%9 = getelementptr inbounds [4 x [4 x i32]], [4 x [4 x i32]]* %0, i64 0, i64 %6, i64 0
%10 = load i32, i32* %9
%11 = icmp ult i32 %10, %3
br i1 %11, label %14, label %12
12: ; preds = %5
%13 = or i32 %7, %8
br label %24
14: ; preds = %5
%15 = icmp ugt i32 %10, %2
br i1 %15, label %16, label %19
16: ; preds = %14
%17 = and i32 %8, -1431655934
%18 = or i32 %7, %17
br label %24
19: ; preds = %14
%20 = icmp ugt i32 %10, %1
br i1 %20, label %21, label %24
21: ; preds = %19
%22 = and i32 %8, 1431655681
%23 = or i32 %7, %22
br label %24
24: ; preds = %16, %19, %21, %12
%25 = phi i32 [ %13, %12 ], [ %18, %16 ], [ %23, %21 ], [ %7, %19 ]
%26 = shl i32 %8, 2
%27 = getelementptr inbounds [4 x [4 x i32]], [4 x [4 x i32]]* %0, i64 0, i64 %6, i64 1
%28 = load i32, i32* %27
%29 = icmp ult i32 %28, %3
br i1 %29, label %32, label %30
30: ; preds = %24
%31 = or i32 %25, %26
br label %42
32: ; preds = %24
%33 = icmp ugt i32 %28, %2
br i1 %33, label %39, label %34
34: ; preds = %32
%35 = icmp ugt i32 %28, %1
br i1 %35, label %36, label %42
36: ; preds = %34
%37 = and i32 %26, 1431655428
%38 = or i32 %25, %37
br label %42
39: ; preds = %32
%40 = and i32 %26, -1431656440
%41 = or i32 %25, %40
br label %42
42: ; preds = %39, %36, %34, %30
%43 = phi i32 [ %31, %30 ], [ %41, %39 ], [ %38, %36 ], [ %25, %34 ]
%44 = shl i32 %8, 4
%45 = getelementptr inbounds [4 x [4 x i32]], [4 x [4 x i32]]* %0, i64 0, i64 %6, i64 2
%46 = load i32, i32* %45
%47 = icmp ult i32 %46, %3
br i1 %47, label %50, label %48
48: ; preds = %42
%49 = or i32 %43, %44
br label %60
50: ; preds = %42
%51 = icmp ugt i32 %46, %2
br i1 %51, label %57, label %52
52: ; preds = %50
%53 = icmp ugt i32 %46, %1
br i1 %53, label %54, label %60
54: ; preds = %52
%55 = and i32 %44, 1431654416
%56 = or i32 %43, %55
br label %60
57: ; preds = %50
%58 = and i32 %44, -1431658464
%59 = or i32 %43, %58
br label %60
60: ; preds = %57, %54, %52, %48
%61 = phi i32 [ %49, %48 ], [ %59, %57 ], [ %56, %54 ], [ %43, %52 ]
%62 = shl i32 %8, 6
%63 = getelementptr inbounds [4 x [4 x i32]], [4 x [4 x i32]]* %0, i64 0, i64 %6, i64 3
%64 = load i32, i32* %63
%65 = icmp ult i32 %64, %3
br i1 %65, label %68, label %66
66: ; preds = %60
%67 = or i32 %61, %62
br label %78
68: ; preds = %60
%69 = icmp ugt i32 %64, %2
br i1 %69, label %75, label %70
70: ; preds = %68
%71 = icmp ugt i32 %64, %1
br i1 %71, label %72, label %78
72: ; preds = %70
%73 = and i32 %62, 1431650368
%74 = or i32 %61, %73
br label %78
75: ; preds = %68
%76 = and i32 %62, -1431666560
%77 = or i32 %61, %76
br label %78
78: ; preds = %75, %72, %70, %66
%79 = phi i32 [ %67, %66 ], [ %77, %75 ], [ %74, %72 ], [ %61, %70 ]
%80 = shl i32 %8, 8
%81 = add nuw nsw i64 %6, 1
%82 = icmp eq i64 %81, 4
br i1 %82, label %83, label %5
83: ; preds = %78
ret i32 %79
}