void gmix_column(unsigned char *r) {
  unsigned char a[4];
  unsigned char b[4];
  unsigned char c;
  unsigned char h;
  for (c = 0; c < 4; c++) {
    a[c] = r[c];
    h = (unsigned char)((signed char)r[c] >> 7);
    b[c] = r[c] << 1;
    b[c] ^= 0x1B & h;
  }
  r[0] = b[0] ^ a[3] ^ a[2] ^ b[1] ^ a[1];
  r[1] = b[1] ^ a[0] ^ a[3] ^ b[2] ^ a[2];
  r[2] = b[2] ^ a[1] ^ a[0] ^ b[3] ^ a[3];
  r[3] = b[3] ^ a[2] ^ a[1] ^ b[0] ^ a[0];
}


x86 assembly (clang, -O0):
<gmix_column>:
push   %rbp
mov    %rsp,%rbp
mov    %rdi,-0x8(%rbp)
movb   $0x0,-0x11(%rbp)
movzbl -0x11(%rbp),%eax
cmp    $0x4,%eax
jge    117a <gmix_column+0x7a>
mov    -0x8(%rbp),%rax
movzbl -0x11(%rbp),%ecx
mov    (%rax,%rcx,1),%cl
movzbl -0x11(%rbp),%eax
mov    %cl,-0xc(%rbp,%rax,1)
mov    -0x8(%rbp),%rax
movzbl -0x11(%rbp),%ecx
movsbl (%rax,%rcx,1),%eax
sar    $0x7,%eax
mov    %al,-0x12(%rbp)
mov    -0x8(%rbp),%rax
movzbl -0x11(%rbp),%ecx
movzbl (%rax,%rcx,1),%eax
shl    $0x1,%eax
mov    %al,%cl
movzbl -0x11(%rbp),%eax
mov    %cl,-0x10(%rbp,%rax,1)
movzbl -0x12(%rbp),%edx
and    $0x1b,%edx
movzbl -0x11(%rbp),%eax
movzbl -0x10(%rbp,%rax,1),%ecx
xor    %edx,%ecx
mov    %cl,-0x10(%rbp,%rax,1)
mov    -0x11(%rbp),%al
add    $0x1,%al
mov    %al,-0x11(%rbp)
jmp    110c <gmix_column+0xc>
movzbl -0x10(%rbp),%eax
movzbl -0x9(%rbp),%ecx
xor    %ecx,%eax
movzbl -0xa(%rbp),%ecx
xor    %ecx,%eax
movzbl -0xf(%rbp),%ecx
xor    %ecx,%eax
movzbl -0xb(%rbp),%ecx
xor    %ecx,%eax
mov    %al,%cl
mov    -0x8(%rbp),%rax
mov    %cl,(%rax)
movzbl -0xf(%rbp),%eax
movzbl -0xc(%rbp),%ecx
xor    %ecx,%eax
movzbl -0x9(%rbp),%ecx
xor    %ecx,%eax
movzbl -0xe(%rbp),%ecx
xor    %ecx,%eax
movzbl -0xa(%rbp),%ecx
xor    %ecx,%eax
mov    %al,%cl
mov    -0x8(%rbp),%rax
mov    %cl,0x1(%rax)
movzbl -0xe(%rbp),%eax
movzbl -0xb(%rbp),%ecx
xor    %ecx,%eax
movzbl -0xc(%rbp),%ecx
xor    %ecx,%eax
movzbl -0xd(%rbp),%ecx
xor    %ecx,%eax
movzbl -0x9(%rbp),%ecx
xor    %ecx,%eax
mov    %al,%cl
mov    -0x8(%rbp),%rax
mov    %cl,0x2(%rax)
movzbl -0xd(%rbp),%eax
movzbl -0xa(%rbp),%ecx
xor    %ecx,%eax
movzbl -0xb(%rbp),%ecx
xor    %ecx,%eax
movzbl -0x10(%rbp),%ecx
xor    %ecx,%eax
movzbl -0xc(%rbp),%ecx
xor    %ecx,%eax
mov    %al,%cl
mov    -0x8(%rbp),%rax
mov    %cl,0x3(%rax)
pop    %rbp
ret

x86 assembly (clang, -O2):
<gmix_column>:
push   %rbp
push   %r15
push   %r14
push   %rbx
mov    (%rdi),%al
mov    0x1(%rdi),%r9b
mov    0x2(%rdi),%bpl
mov    0x3(%rdi),%sil
lea    (%rax,%rax,1),%r8d
lea    0x0(%rbp,%rbp,1),%r10d
mov    %ebp,%r11d
lea    (%rsi,%rsi,1),%r15d
mov    %esi,%edx
mov    %ebp,%ebx
xor    %sil,%bl
mov    %ebx,%r14d
xor    %al,%bl
xor    %r9b,%sil
xor    %al,%sil
xor    %r9b,%bpl
xor    %al,%bpl
sar    $0x7,%al
and    $0x1b,%al
xor    %r8b,%al
lea    (%r9,%r9,1),%r8d
mov    %r9d,%ecx
sar    $0x7,%cl
and    $0x1b,%cl
xor    %r8b,%cl
sar    $0x7,%r11b
and    $0x1b,%r11b
xor    %r10b,%r11b
sar    $0x7,%dl
and    $0x1b,%dl
xor    %r15b,%dl
xor    %al,%r14b
xor    %cl,%bl
xor    %r9b,%cl
xor    %r14b,%cl
mov    %cl,(%rdi)
xor    %r11b,%bl
mov    %bl,0x1(%rdi)
xor    %r11b,%sil
xor    %dl,%sil
mov    %sil,0x2(%rdi)
xor    %al,%bpl
xor    %dl,%bpl
mov    %bpl,0x3(%rdi)
pop    %rbx
pop    %r14
pop    %r15
pop    %rbp
ret

LLVM IR (-O0):
define void @gmix_column(i8* %0) {
%2 = alloca i8*
%3 = alloca [4 x i8]
%4 = alloca [4 x i8]
%5 = alloca i8
%6 = alloca i8
store i8* %0, i8** %2
store i8 0, i8* %5
br label %7
7: ; preds = %49, %1
%8 = load i8, i8* %5
%9 = zext i8 %8 to i32
%10 = icmp slt i32 %9, 4
br i1 %10, label %11, label %52
11: ; preds = %7
%12 = load i8*, i8** %2
%13 = load i8, i8* %5
%14 = zext i8 %13 to i64
%15 = getelementptr inbounds i8, i8* %12, i64 %14
%16 = load i8, i8* %15
%17 = load i8, i8* %5
%18 = zext i8 %17 to i64
%19 = getelementptr inbounds [4 x i8], [4 x i8]* %3, i64 0, i64 %18
store i8 %16, i8* %19
%20 = load i8*, i8** %2
%21 = load i8, i8* %5
%22 = zext i8 %21 to i64
%23 = getelementptr inbounds i8, i8* %20, i64 %22
%24 = load i8, i8* %23
%25 = sext i8 %24 to i32
%26 = ashr i32 %25, 7
%27 = trunc i32 %26 to i8
store i8 %27, i8* %6
%28 = load i8*, i8** %2
%29 = load i8, i8* %5
%30 = zext i8 %29 to i64
%31 = getelementptr inbounds i8, i8* %28, i64 %30
%32 = load i8, i8* %31
%33 = zext i8 %32 to i32
%34 = shl i32 %33, 1
%35 = trunc i32 %34 to i8
%36 = load i8, i8* %5
%37 = zext i8 %36 to i64
%38 = getelementptr inbounds [4 x i8], [4 x i8]* %4, i64 0, i64 %37
store i8 %35, i8* %38
%39 = load i8, i8* %6
%40 = zext i8 %39 to i32
%41 = and i32 27, %40
%42 = load i8, i8* %5
%43 = zext i8 %42 to i64
%44 = getelementptr inbounds [4 x i8], [4 x i8]* %4, i64 0, i64 %43
%45 = load i8, i8* %44
%46 = zext i8 %45 to i32
%47 = xor i32 %46, %41
%48 = trunc i32 %47 to i8
store i8 %48, i8* %44
br label %49
49: ; preds = %11
%50 = load i8, i8* %5
%51 = add i8 %50, 1
store i8 %51, i8* %5
br label %7
52: ; preds = %7
%53 = getelementptr inbounds [4 x i8], [4 x i8]* %4, i64 0, i64 0
%54 = load i8, i8* %53
%55 = zext i8 %54 to i32
%56 = getelementptr inbounds [4 x i8], [4 x i8]* %3, i64 0, i64 3
%57 = load i8, i8* %56
%58 = zext i8 %57 to i32
%59 = xor i32 %55, %58
%60 = getelementptr inbounds [4 x i8], [4 x i8]* %3, i64 0, i64 2
%61 = load i8, i8* %60
%62 = zext i8 %61 to i32
%63 = xor i32 %59, %62
%64 = getelementptr inbounds [4 x i8], [4 x i8]* %4, i64 0, i64 1
%65 = load i8, i8* %64
%66 = zext i8 %65 to i32
%67 = xor i32 %63, %66
%68 = getelementptr inbounds [4 x i8], [4 x i8]* %3, i64 0, i64 1
%69 = load i8, i8* %68
%70 = zext i8 %69 to i32
%71 = xor i32 %67, %70
%72 = trunc i32 %71 to i8
%73 = load i8*, i8** %2
%74 = getelementptr inbounds i8, i8* %73, i64 0
store i8 %72, i8* %74
%75 = getelementptr inbounds [4 x i8], [4 x i8]* %4, i64 0, i64 1
%76 = load i8, i8* %75
%77 = zext i8 %76 to i32
%78 = getelementptr inbounds [4 x i8], [4 x i8]* %3, i64 0, i64 0
%79 = load i8, i8* %78
%80 = zext i8 %79 to i32
%81 = xor i32 %77, %80
%82 = getelementptr inbounds [4 x i8], [4 x i8]* %3, i64 0, i64 3
%83 = load i8, i8* %82
%84 = zext i8 %83 to i32
%85 = xor i32 %81, %84
%86 = getelementptr inbounds [4 x i8], [4 x i8]* %4, i64 0, i64 2
%87 = load i8, i8* %86
%88 = zext i8 %87 to i32
%89 = xor i32 %85, %88
%90 = getelementptr inbounds [4 x i8], [4 x i8]* %3, i64 0, i64 2
%91 = load i8, i8* %90
%92 = zext i8 %91 to i32
%93 = xor i32 %89, %92
%94 = trunc i32 %93 to i8
%95 = load i8*, i8** %2
%96 = getelementptr inbounds i8, i8* %95, i64 1
store i8 %94, i8* %96
%97 = getelementptr inbounds [4 x i8], [4 x i8]* %4, i64 0, i64 2
%98 = load i8, i8* %97
%99 = zext i8 %98 to i32
%100 = getelementptr inbounds [4 x i8], [4 x i8]* %3, i64 0, i64 1
%101 = load i8, i8* %100
%102 = zext i8 %101 to i32
%103 = xor i32 %99, %102
%104 = getelementptr inbounds [4 x i8], [4 x i8]* %3, i64 0, i64 0
%105 = load i8, i8* %104
%106 = zext i8 %105 to i32
%107 = xor i32 %103, %106
%108 = getelementptr inbounds [4 x i8], [4 x i8]* %4, i64 0, i64 3
%109 = load i8, i8* %108
%110 = zext i8 %109 to i32
%111 = xor i32 %107, %110
%112 = getelementptr inbounds [4 x i8], [4 x i8]* %3, i64 0, i64 3
%113 = load i8, i8* %112
%114 = zext i8 %113 to i32
%115 = xor i32 %111, %114
%116 = trunc i32 %115 to i8
%117 = load i8*, i8** %2
%118 = getelementptr inbounds i8, i8* %117, i64 2
store i8 %116, i8* %118
%119 = getelementptr inbounds [4 x i8], [4 x i8]* %4, i64 0, i64 3
%120 = load i8, i8* %119
%121 = zext i8 %120 to i32
%122 = getelementptr inbounds [4 x i8], [4 x i8]* %3, i64 0, i64 2
%123 = load i8, i8* %122
%124 = zext i8 %123 to i32
%125 = xor i32 %121, %124
%126 = getelementptr inbounds [4 x i8], [4 x i8]* %3, i64 0, i64 1
%127 = load i8, i8* %126
%128 = zext i8 %127 to i32
%129 = xor i32 %125, %128
%130 = getelementptr inbounds [4 x i8], [4 x i8]* %4, i64 0, i64 0
%131 = load i8, i8* %130
%132 = zext i8 %131 to i32
%133 = xor i32 %129, %132
%134 = getelementptr inbounds [4 x i8], [4 x i8]* %3, i64 0, i64 0
%135 = load i8, i8* %134
%136 = zext i8 %135 to i32
%137 = xor i32 %133, %136
%138 = trunc i32 %137 to i8
%139 = load i8*, i8** %2
%140 = getelementptr inbounds i8, i8* %139, i64 3
store i8 %138, i8* %140
ret void
}

LLVM IR (-O2):
define void @gmix_column(i8* nocapture %0) {
%2 = load i8, i8* %0
%3 = getelementptr inbounds i8, i8* %0, i64 1
%4 = load i8, i8* %3
%5 = getelementptr inbounds i8, i8* %0, i64 2
%6 = load i8, i8* %5
%7 = getelementptr inbounds i8, i8* %0, i64 3
%8 = load i8, i8* %7
%9 = shl i8 %2, 1
%10 = icmp slt i8 %2, 0
%11 = select i1 %10, i8 27, i8 0
%12 = xor i8 %11, %9
%13 = shl i8 %4, 1
%14 = icmp slt i8 %4, 0
%15 = select i1 %14, i8 27, i8 0
%16 = xor i8 %15, %13
%17 = shl i8 %6, 1
%18 = icmp slt i8 %6, 0
%19 = select i1 %18, i8 27, i8 0
%20 = xor i8 %19, %17
%21 = shl i8 %8, 1
%22 = icmp slt i8 %8, 0
%23 = select i1 %22, i8 27, i8 0
%24 = xor i8 %23, %21
%25 = xor i8 %6, %8
%26 = xor i8 %25, %12
%27 = xor i8 %26, %16
%28 = xor i8 %27, %4
store i8 %28, i8* %0
%29 = xor i8 %25, %16
%30 = xor i8 %29, %2
%31 = xor i8 %30, %20
store i8 %31, i8* %3
%32 = xor i8 %4, %8
%33 = xor i8 %32, %2
%34 = xor i8 %33, %20
%35 = xor i8 %34, %24
store i8 %35, i8* %5
%36 = xor i8 %6, %12
%37 = xor i8 %36, %4
%38 = xor i8 %37, %2
%39 = xor i8 %38, %24
store i8 %39, i8* %7
ret void
}