void gmix_column(unsigned char *r) {
  unsigned char a[4];
  unsigned char b[4];
  unsigned char c;
  unsigned char h;
  for (c = 0; c < 4; c++) {
    a[c] = r[c];
    h = r[c] & 0x80;
    b[c] = r[c] << 1;
    if (h == 0x80)
      b[c] ^= 0x1b;
  }
  r[0] = b[0] ^ a[3] ^ a[2] ^ b[1] ^ a[1];
  r[1] = b[1] ^ a[0] ^ a[3] ^ b[2] ^ a[2];
  r[2] = b[2] ^ a[1] ^ a[0] ^ b[3] ^ a[3];
  r[3] = b[3] ^ a[2] ^ a[1] ^ b[0] ^ a[0];
}


x86 assembly (clang, -O0):
<gmix_column>:
push   %rbp
mov    %rsp,%rbp
mov    %rdi,-0x8(%rbp)
movb   $0x0,-0x11(%rbp)
movzbl -0x11(%rbp),%eax
cmp    $0x4,%eax
jge    118a <gmix_column+0x8a>
mov    -0x8(%rbp),%rax
movzbl -0x11(%rbp),%ecx
mov    (%rax,%rcx,1),%cl
movzbl -0x11(%rbp),%eax
mov    %cl,-0xc(%rbp,%rax,1)
mov    -0x8(%rbp),%rax
movzbl -0x11(%rbp),%ecx
movzbl (%rax,%rcx,1),%eax
and    $0x80,%eax
mov    %al,-0x12(%rbp)
mov    -0x8(%rbp),%rax
movzbl -0x11(%rbp),%ecx
movzbl (%rax,%rcx,1),%eax
shl    $0x1,%eax
mov    %al,%cl
movzbl -0x11(%rbp),%eax
mov    %cl,-0x10(%rbp,%rax,1)
movzbl -0x12(%rbp),%eax
cmp    $0x80,%eax
jne    1178 <gmix_column+0x78>
movzbl -0x11(%rbp),%eax
movzbl -0x10(%rbp,%rax,1),%ecx
xor    $0x1b,%ecx
mov    %cl,-0x10(%rbp,%rax,1)
jmp    117d <gmix_column+0x7d>
mov    -0x11(%rbp),%al
add    $0x1,%al
mov    %al,-0x11(%rbp)
jmp    110c <gmix_column+0xc>
movzbl -0x10(%rbp),%eax
movzbl -0x9(%rbp),%ecx
xor    %ecx,%eax
movzbl -0xa(%rbp),%ecx
xor    %ecx,%eax
movzbl -0xf(%rbp),%ecx
xor    %ecx,%eax
movzbl -0xb(%rbp),%ecx
xor    %ecx,%eax
mov    %al,%cl
mov    -0x8(%rbp),%rax
mov    %cl,(%rax)
movzbl -0xf(%rbp),%eax
movzbl -0xc(%rbp),%ecx
xor    %ecx,%eax
movzbl -0x9(%rbp),%ecx
xor    %ecx,%eax
movzbl -0xe(%rbp),%ecx
xor    %ecx,%eax
movzbl -0xa(%rbp),%ecx
xor    %ecx,%eax
mov    %al,%cl
mov    -0x8(%rbp),%rax
mov    %cl,0x1(%rax)
movzbl -0xe(%rbp),%eax
movzbl -0xb(%rbp),%ecx
xor    %ecx,%eax
movzbl -0xc(%rbp),%ecx
xor    %ecx,%eax
movzbl -0xd(%rbp),%ecx
xor    %ecx,%eax
movzbl -0x9(%rbp),%ecx
xor    %ecx,%eax
mov    %al,%cl
mov    -0x8(%rbp),%rax
mov    %cl,0x2(%rax)
movzbl -0xd(%rbp),%eax
movzbl -0xa(%rbp),%ecx
xor    %ecx,%eax
movzbl -0xb(%rbp),%ecx
xor    %ecx,%eax
movzbl -0x10(%rbp),%ecx
xor    %ecx,%eax
movzbl -0xc(%rbp),%ecx
xor    %ecx,%eax
mov    %al,%cl
mov    -0x8(%rbp),%rax
mov    %cl,0x3(%rax)
pop    %rbp
ret

x86 assembly (clang, -O2):
<gmix_column>:
push   %rbp
push   %r14
push   %rbx
mov    (%rdi),%r9b
lea    (%r9,%r9,1),%eax
movzbl %al,%ecx
xor    $0x1b,%al
test   %r9b,%r9b
movzbl %al,%r8d
cmovns %ecx,%r8d
mov    0x1(%rdi),%r10b
lea    (%r10,%r10,1),%eax
movzbl %al,%ecx
xor    $0x1b,%al
test   %r10b,%r10b
movzbl %al,%r11d
cmovns %ecx,%r11d
mov    0x2(%rdi),%sil
lea    (%rsi,%rsi,1),%eax
movzbl %al,%ecx
xor    $0x1b,%al
test   %sil,%sil
movzbl %al,%r14d
cmovns %ecx,%r14d
mov    0x3(%rdi),%al
lea    (%rax,%rax,1),%ecx
movzbl %cl,%ebx
xor    $0x1b,%cl
test   %al,%al
movzbl %cl,%ebp
cmovns %ebx,%ebp
mov    %esi,%ebx
xor    %al,%bl
mov    %ebx,%edx
xor    %r8b,%dl
xor    %r9b,%bl
xor    %r11b,%bl
mov    %r11d,%ecx
xor    %r10b,%cl
xor    %dl,%cl
mov    %cl,(%rdi)
xor    %r14b,%bl
mov    %bl,0x1(%rdi)
xor    %r10b,%al
xor    %r9b,%al
xor    %r14b,%al
xor    %bpl,%al
mov    %al,0x2(%rdi)
xor    %r10b,%sil
xor    %r9b,%sil
xor    %r8b,%sil
xor    %bpl,%sil
mov    %sil,0x3(%rdi)
pop    %rbx
pop    %r14
pop    %rbp
ret

LLVM IR (-O0):
define void @gmix_column(i8* %0) {
%2 = alloca i8*
%3 = alloca [4 x i8]
%4 = alloca [4 x i8]
%5 = alloca i8
%6 = alloca i8
store i8* %0, i8** %2
store i8 0, i8* %5
br label %7
7: ; preds = %51, %1
%8 = load i8, i8* %5
%9 = zext i8 %8 to i32
%10 = icmp slt i32 %9, 4
br i1 %10, label %11, label %54
11: ; preds = %7
%12 = load i8*, i8** %2
%13 = load i8, i8* %5
%14 = zext i8 %13 to i64
%15 = getelementptr inbounds i8, i8* %12, i64 %14
%16 = load i8, i8* %15
%17 = load i8, i8* %5
%18 = zext i8 %17 to i64
%19 = getelementptr inbounds [4 x i8], [4 x i8]* %3, i64 0, i64 %18
store i8 %16, i8* %19
%20 = load i8*, i8** %2
%21 = load i8, i8* %5
%22 = zext i8 %21 to i64
%23 = getelementptr inbounds i8, i8* %20, i64 %22
%24 = load i8, i8* %23
%25 = zext i8 %24 to i32
%26 = and i32 %25, 128
%27 = trunc i32 %26 to i8
store i8 %27, i8* %6
%28 = load i8*, i8** %2
%29 = load i8, i8* %5
%30 = zext i8 %29 to i64
%31 = getelementptr inbounds i8, i8* %28, i64 %30
%32 = load i8, i8* %31
%33 = zext i8 %32 to i32
%34 = shl i32 %33, 1
%35 = trunc i32 %34 to i8
%36 = load i8, i8* %5
%37 = zext i8 %36 to i64
%38 = getelementptr inbounds [4 x i8], [4 x i8]* %4, i64 0, i64 %37
store i8 %35, i8* %38
%39 = load i8, i8* %6
%40 = zext i8 %39 to i32
%41 = icmp eq i32 %40, 128
br i1 %41, label %42, label %50
42: ; preds = %11
%43 = load i8, i8* %5
%44 = zext i8 %43 to i64
%45 = getelementptr inbounds [4 x i8], [4 x i8]* %4, i64 0, i64 %44
%46 = load i8, i8* %45
%47 = zext i8 %46 to i32
%48 = xor i32 %47, 27
%49 = trunc i32 %48 to i8
store i8 %49, i8* %45
br label %50
50: ; preds = %42, %11
br label %51
51: ; preds = %50
%52 = load i8, i8* %5
%53 = add i8 %52, 1
store i8 %53, i8* %5
br label %7
54: ; preds = %7
%55 = getelementptr inbounds [4 x i8], [4 x i8]* %4, i64 0, i64 0
%56 = load i8, i8* %55
%57 = zext i8 %56 to i32
%58 = getelementptr inbounds [4 x i8], [4 x i8]* %3, i64 0, i64 3
%59 = load i8, i8* %58
%60 = zext i8 %59 to i32
%61 = xor i32 %57, %60
%62 = getelementptr inbounds [4 x i8], [4 x i8]* %3, i64 0, i64 2
%63 = load i8, i8* %62
%64 = zext i8 %63 to i32
%65 = xor i32 %61, %64
%66 = getelementptr inbounds [4 x i8], [4 x i8]* %4, i64 0, i64 1
%67 = load i8, i8* %66
%68 = zext i8 %67 to i32
%69 = xor i32 %65, %68
%70 = getelementptr inbounds [4 x i8], [4 x i8]* %3, i64 0, i64 1
%71 = load i8, i8* %70
%72 = zext i8 %71 to i32
%73 = xor i32 %69, %72
%74 = trunc i32 %73 to i8
%75 = load i8*, i8** %2
%76 = getelementptr inbounds i8, i8* %75, i64 0
store i8 %74, i8* %76
%77 = getelementptr inbounds [4 x i8], [4 x i8]* %4, i64 0, i64 1
%78 = load i8, i8* %77
%79 = zext i8 %78 to i32
%80 = getelementptr inbounds [4 x i8], [4 x i8]* %3, i64 0, i64 0
%81 = load i8, i8* %80
%82 = zext i8 %81 to i32
%83 = xor i32 %79, %82
%84 = getelementptr inbounds [4 x i8], [4 x i8]* %3, i64 0, i64 3
%85 = load i8, i8* %84
%86 = zext i8 %85 to i32
%87 = xor i32 %83, %86
%88 = getelementptr inbounds [4 x i8], [4 x i8]* %4, i64 0, i64 2
%89 = load i8, i8* %88
%90 = zext i8 %89 to i32
%91 = xor i32 %87, %90
%92 = getelementptr inbounds [4 x i8], [4 x i8]* %3, i64 0, i64 2
%93 = load i8, i8* %92
%94 = zext i8 %93 to i32
%95 = xor i32 %91, %94
%96 = trunc i32 %95 to i8
%97 = load i8*, i8** %2
%98 = getelementptr inbounds i8, i8* %97, i64 1
store i8 %96, i8* %98
%99 = getelementptr inbounds [4 x i8], [4 x i8]* %4, i64 0, i64 2
%100 = load i8, i8* %99
%101 = zext i8 %100 to i32
%102 = getelementptr inbounds [4 x i8], [4 x i8]* %3, i64 0, i64 1
%103 = load i8, i8* %102
%104 = zext i8 %103 to i32
%105 = xor i32 %101, %104
%106 = getelementptr inbounds [4 x i8], [4 x i8]* %3, i64 0, i64 0
%107 = load i8, i8* %106
%108 = zext i8 %107 to i32
%109 = xor i32 %105, %108
%110 = getelementptr inbounds [4 x i8], [4 x i8]* %4, i64 0, i64 3
%111 = load i8, i8* %110
%112 = zext i8 %111 to i32
%113 = xor i32 %109, %112
%114 = getelementptr inbounds [4 x i8], [4 x i8]* %3, i64 0, i64 3
%115 = load i8, i8* %114
%116 = zext i8 %115 to i32
%117 = xor i32 %113, %116
%118 = trunc i32 %117 to i8
%119 = load i8*, i8** %2
%120 = getelementptr inbounds i8, i8* %119, i64 2
store i8 %118, i8* %120
%121 = getelementptr inbounds [4 x i8], [4 x i8]* %4, i64 0, i64 3
%122 = load i8, i8* %121
%123 = zext i8 %122 to i32
%124 = getelementptr inbounds [4 x i8], [4 x i8]* %3, i64 0, i64 2
%125 = load i8, i8* %124
%126 = zext i8 %125 to i32
%127 = xor i32 %123, %126
%128 = getelementptr inbounds [4 x i8], [4 x i8]* %3, i64 0, i64 1
%129 = load i8, i8* %128
%130 = zext i8 %129 to i32
%131 = xor i32 %127, %130
%132 = getelementptr inbounds [4 x i8], [4 x i8]* %4, i64 0, i64 0
%133 = load i8, i8* %132
%134 = zext i8 %133 to i32
%135 = xor i32 %131, %134
%136 = getelementptr inbounds [4 x i8], [4 x i8]* %3, i64 0, i64 0
%137 = load i8, i8* %136
%138 = zext i8 %137 to i32
%139 = xor i32 %135, %138
%140 = trunc i32 %139 to i8
%141 = load i8*, i8** %2
%142 = getelementptr inbounds i8, i8* %141, i64 3
store i8 %140, i8* %142
ret void
}

LLVM IR (-O2):
define void @gmix_column(i8* nocapture %0) {
%2 = load i8, i8* %0
%3 = getelementptr inbounds i8, i8* %0, i64 1
%4 = load i8, i8* %3
%5 = getelementptr inbounds i8, i8* %0, i64 2
%6 = load i8, i8* %5
%7 = getelementptr inbounds i8, i8* %0, i64 3
%8 = load i8, i8* %7
%9 = shl i8 %2, 1
%10 = icmp slt i8 %2, 0
%11 = xor i8 %9, 27
%12 = select i1 %10, i8 %11, i8 %9
%13 = shl i8 %4, 1
%14 = icmp slt i8 %4, 0
%15 = xor i8 %13, 27
%16 = select i1 %14, i8 %15, i8 %13
%17 = shl i8 %6, 1
%18 = icmp slt i8 %6, 0
%19 = xor i8 %17, 27
%20 = select i1 %18, i8 %19, i8 %17
%21 = shl i8 %8, 1
%22 = icmp slt i8 %8, 0
%23 = xor i8 %21, 27
%24 = select i1 %22, i8 %23, i8 %21
%25 = xor i8 %6, %8
%26 = xor i8 %25, %12
%27 = xor i8 %26, %16
%28 = xor i8 %27, %4
store i8 %28, i8* %0
%29 = xor i8 %25, %16
%30 = xor i8 %29, %2
%31 = xor i8 %30, %20
store i8 %31, i8* %3
%32 = xor i8 %4, %8
%33 = xor i8 %32, %2
%34 = xor i8 %33, %20
%35 = xor i8 %34, %24
store i8 %35, i8* %5
%36 = xor i8 %6, %12
%37 = xor i8 %36, %4
%38 = xor i8 %37, %2
%39 = xor i8 %38, %24
store i8 %39, i8* %7
ret void
}