int pq_check_base(int vects, int len, void **array) {
  int i, j;
  unsigned char p, q, s;
  unsigned char **src = (unsigned char **)array;
  for (i = 0; i < len; i++) {
    q = p = src[vects - 3][i];
    for (j = vects - 4; j >= 0; j--) {
      s = src[j][i];
      p ^= s;
      q = s ^ ((q << 1) ^ ((q & 0x80) ? 0x1d : 0));
    }
    if (src[vects - 2][i] != p)
      return i | 1;
    if (src[vects - 1][i] != q)
      return i | 2;
  }
  return 0;
}


x86 assembly (clang, -O0):
<pq_check_base>:
push   %rbp
mov    %rsp,%rbp
mov    %edi,-0x8(%rbp)
mov    %esi,-0xc(%rbp)
mov    %rdx,-0x18(%rbp)
mov    -0x18(%rbp),%rax
mov    %rax,-0x30(%rbp)
movl   $0x0,-0x1c(%rbp)
mov    -0x1c(%rbp),%eax
cmp    -0xc(%rbp),%eax
jge    122d <pq_check_base+0x12d>
mov    -0x30(%rbp),%rax
mov    -0x8(%rbp),%ecx
sub    $0x3,%ecx
movslq %ecx,%rcx
mov    (%rax,%rcx,8),%rax
movslq -0x1c(%rbp),%rcx
mov    (%rax,%rcx,1),%al
mov    %al,-0x21(%rbp)
mov    %al,-0x22(%rbp)
mov    -0x8(%rbp),%eax
sub    $0x4,%eax
mov    %eax,-0x20(%rbp)
cmpl   $0x0,-0x20(%rbp)
jl     11b4 <pq_check_base+0xb4>
mov    -0x30(%rbp),%rax
movslq -0x20(%rbp),%rcx
mov    (%rax,%rcx,8),%rax
movslq -0x1c(%rbp),%rcx
mov    (%rax,%rcx,1),%al
mov    %al,-0x23(%rbp)
movzbl -0x23(%rbp),%ecx
movzbl -0x21(%rbp),%eax
xor    %ecx,%eax
mov    %al,-0x21(%rbp)
movzbl -0x23(%rbp),%eax
movzbl -0x22(%rbp),%ecx
shl    $0x1,%ecx
movzbl -0x22(%rbp),%edi
and    $0x80,%edi
xor    %edx,%edx
mov    $0x1d,%esi
cmp    $0x0,%edi
cmovne %esi,%edx
xor    %edx,%ecx
xor    %ecx,%eax
mov    %al,-0x22(%rbp)
mov    -0x20(%rbp),%eax
add    $0xffffffff,%eax
mov    %eax,-0x20(%rbp)
jmp    1150 <pq_check_base+0x50>
mov    -0x30(%rbp),%rax
mov    -0x8(%rbp),%ecx
sub    $0x2,%ecx
movslq %ecx,%rcx
mov    (%rax,%rcx,8),%rax
movslq -0x1c(%rbp),%rcx
movzbl (%rax,%rcx,1),%eax
movzbl -0x21(%rbp),%ecx
cmp    %ecx,%eax
je     11e7 <pq_check_base+0xe7>
mov    -0x1c(%rbp),%eax
or     $0x1,%eax
mov    %eax,-0x4(%rbp)
jmp    1234 <pq_check_base+0x134>
mov    -0x30(%rbp),%rax
mov    -0x8(%rbp),%ecx
sub    $0x1,%ecx
movslq %ecx,%rcx
mov    (%rax,%rcx,8),%rax
movslq -0x1c(%rbp),%rcx
movzbl (%rax,%rcx,1),%eax
movzbl -0x22(%rbp),%ecx
cmp    %ecx,%eax
je     121a <pq_check_base+0x11a>
mov    -0x1c(%rbp),%eax
or     $0x2,%eax
mov    %eax,-0x4(%rbp)
jmp    1234 <pq_check_base+0x134>
jmp    121f <pq_check_base+0x11f>
mov    -0x1c(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x1c(%rbp)
jmp    111d <pq_check_base+0x1d>
movl   $0x0,-0x4(%rbp)
mov    -0x4(%rbp),%eax
pop    %rbp
ret

x86 assembly (clang, -O2):
<pq_check_base>:
push   %rbp
push   %r15
push   %r14
push   %r13
push   %r12
push   %rbx
test   %esi,%esi
jle    1202 <pq_check_base+0x102>
movslq %edi,%rax
mov    -0x18(%rdx,%rax,8),%r8
mov    -0x10(%rdx,%rax,8),%r9
lea    -0x4(%rax),%r14d
add    $0xffffffff,%eax
movslq %eax,%r10
mov    %esi,%r15d
lea    -0x1(%r14),%r11
xor    %eax,%eax
cs nopw 0x0(%rax,%rax,1)
nopl   0x0(%rax)
mov    (%r8,%rax,1),%bl
cmp    $0x4,%edi
jl     1180 <pq_check_base+0x80>
test   $0x1,%r14b
jne    1190 <pq_check_base+0x90>
mov    (%rdx,%r14,8),%rcx
mov    (%rcx,%rax,1),%sil
mov    %esi,%ecx
xor    %bl,%cl
lea    (%rbx,%rbx,1),%ebp
sar    $0x7,%bl
and    $0x1d,%bl
xor    %bpl,%bl
xor    %sil,%bl
mov    %r11,%rsi
mov    %ebx,%ebp
test   %r14,%r14
jne    119a <pq_check_base+0x9a>
jmp    11e5 <pq_check_base+0xe5>
cs nopw 0x0(%rax,%rax,1)
mov    %ebx,%ecx
mov    %ebx,%ebp
jmp    11e5 <pq_check_base+0xe5>
cs nopw 0x0(%rax,%rax,1)
mov    %r14,%rsi
mov    %ebx,%ecx
test   %r14,%r14
je     11e5 <pq_check_base+0xe5>
add    $0x2,%rsi
xchg   %ax,%ax
mov    -0x18(%rdx,%rsi,8),%r12
mov    -0x10(%rdx,%rsi,8),%rbp
movzbl 0x0(%rbp,%rax,1),%ebp
xor    %bpl,%cl
lea    (%rbx,%rbx,1),%r13d
sar    $0x7,%bl
and    $0x1d,%bl
xor    %r13b,%bl
xor    %bpl,%bl
movzbl (%r12,%rax,1),%r12d
xor    %r12b,%cl
lea    (%rbx,%rbx,1),%ebp
sar    $0x7,%bl
and    $0x1d,%bl
xor    %r12b,%bpl
xor    %bl,%bpl
add    $0xfffffffffffffffe,%rsi
mov    %ebp,%ebx
cmp    $0x1,%rsi
jg     11a0 <pq_check_base+0xa0>
cmp    %cl,(%r9,%rax,1)
jne    1206 <pq_check_base+0x106>
mov    (%rdx,%r10,8),%rcx
cmp    %bpl,(%rcx,%rax,1)
jne    120b <pq_check_base+0x10b>
add    $0x1,%rax
cmp    %r15,%rax
jne    1140 <pq_check_base+0x40>
xor    %eax,%eax
jmp    120e <pq_check_base+0x10e>
or     $0x1,%eax
jmp    120e <pq_check_base+0x10e>
or     $0x2,%eax
pop    %rbx
pop    %r12
pop    %r13
pop    %r14
pop    %r15
pop    %rbp
ret

LLVM IR (-O0):
define i32 @pq_check_base(i32 %0, i32 %1, i8** %2) {
%4 = alloca i32
%5 = alloca i32
%6 = alloca i32
%7 = alloca i8**
%8 = alloca i32
%9 = alloca i32
%10 = alloca i8
%11 = alloca i8
%12 = alloca i8
%13 = alloca i8**
store i32 %0, i32* %5
store i32 %1, i32* %6
store i8** %2, i8*** %7
%14 = load i8**, i8*** %7
store i8** %14, i8*** %13
store i32 0, i32* %8
br label %15
15: ; preds = %105, %3
%16 = load i32, i32* %8
%17 = load i32, i32* %6
%18 = icmp slt i32 %16, %17
br i1 %18, label %19, label %108
19: ; preds = %15
%20 = load i8**, i8*** %13
%21 = load i32, i32* %5
%22 = sub nsw i32 %21, 3
%23 = sext i32 %22 to i64
%24 = getelementptr inbounds i8*, i8** %20, i64 %23
%25 = load i8*, i8** %24
%26 = load i32, i32* %8
%27 = sext i32 %26 to i64
%28 = getelementptr inbounds i8, i8* %25, i64 %27
%29 = load i8, i8* %28
store i8 %29, i8* %10
store i8 %29, i8* %11
%30 = load i32, i32* %5
%31 = sub nsw i32 %30, 4
store i32 %31, i32* %9
br label %32
32: ; preds = %65, %19
%33 = load i32, i32* %9
%34 = icmp sge i32 %33, 0
br i1 %34, label %35, label %68
35: ; preds = %32
%36 = load i8**, i8*** %13
%37 = load i32, i32* %9
%38 = sext i32 %37 to i64
%39 = getelementptr inbounds i8*, i8** %36, i64 %38
%40 = load i8*, i8** %39
%41 = load i32, i32* %8
%42 = sext i32 %41 to i64
%43 = getelementptr inbounds i8, i8* %40, i64 %42
%44 = load i8, i8* %43
store i8 %44, i8* %12
%45 = load i8, i8* %12
%46 = zext i8 %45 to i32
%47 = load i8, i8* %10
%48 = zext i8 %47 to i32
%49 = xor i32 %48, %46
%50 = trunc i32 %49 to i8
store i8 %50, i8* %10
%51 = load i8, i8* %12
%52 = zext i8 %51 to i32
%53 = load i8, i8* %11
%54 = zext i8 %53 to i32
%55 = shl i32 %54, 1
%56 = load i8, i8* %11
%57 = zext i8 %56 to i32
%58 = and i32 %57, 128
%59 = icmp ne i32 %58, 0
%60 = zext i1 %59 to i64
%61 = select i1 %59, i32 29, i32 0
%62 = xor i32 %55, %61
%63 = xor i32 %52, %62
%64 = trunc i32 %63 to i8
store i8 %64, i8* %11
br label %65
65: ; preds = %35
%66 = load i32, i32* %9
%67 = add nsw i32 %66, -1
store i32 %67, i32* %9
br label %32
68: ; preds = %32
%69 = load i8**, i8*** %13
%70 = load i32, i32* %5
%71 = sub nsw i32 %70, 2
%72 = sext i32 %71 to i64
%73 = getelementptr inbounds i8*, i8** %69, i64 %72
%74 = load i8*, i8** %73
%75 = load i32, i32* %8
%76 = sext i32 %75 to i64
%77 = getelementptr inbounds i8, i8* %74, i64 %76
%78 = load i8, i8* %77
%79 = zext i8 %78 to i32
%80 = load i8, i8* %10
%81 = zext i8 %80 to i32
%82 = icmp ne i32 %79, %81
br i1 %82, label %83, label %86
83: ; preds = %68
%84 = load i32, i32* %8
%85 = or i32 %84, 1
store i32 %85, i32* %4
br label %109
86: ; preds = %68
%87 = load i8**, i8*** %13
%88 = load i32, i32* %5
%89 = sub nsw i32 %88, 1
%90 = sext i32 %89 to i64
%91 = getelementptr inbounds i8*, i8** %87, i64 %90
%92 = load i8*, i8** %91
%93 = load i32, i32* %8
%94 = sext i32 %93 to i64
%95 = getelementptr inbounds i8, i8* %92, i64 %94
%96 = load i8, i8* %95
%97 = zext i8 %96 to i32
%98 = load i8, i8* %11
%99 = zext i8 %98 to i32
%100 = icmp ne i32 %97, %99
br i1 %100, label %101, label %104
101: ; preds = %86
%102 = load i32, i32* %8
%103 = or i32 %102, 2
store i32 %103, i32* %4
br label %109
104: ; preds = %86
br label %105
105: ; preds = %104
%106 = load i32, i32* %8
%107 = add nsw i32 %106, 1
store i32 %107, i32* %8
br label %15
108: ; preds = %15
store i32 0, i32* %4
br label %109
109: ; preds = %108, %101, %83
%110 = load i32, i32* %4
ret i32 %110
}

LLVM IR (-O2):
define i32 @pq_check_base(i32 %0, i32 %1, i8** nocapture %2) {
%4 = icmp sgt i32 %1, 0
br i1 %4, label %5, label %94
5: ; preds = %3
%6 = add nsw i32 %0, -3
%7 = sext i32 %6 to i64
%8 = getelementptr inbounds i8*, i8** %2, i64 %7
%9 = load i8*, i8** %8
%10 = add i32 %0, -4
%11 = icmp sgt i32 %0, 3
%12 = add nsw i32 %0, -2
%13 = sext i32 %12 to i64
%14 = getelementptr inbounds i8*, i8** %2, i64 %13
%15 = load i8*, i8** %14
%16 = add nsw i32 %0, -1
%17 = sext i32 %16 to i64
%18 = getelementptr inbounds i8*, i8** %2, i64 %17
%19 = zext i32 %10 to i64
%20 = zext i32 %1 to i64
%21 = and i64 %19, 1
%22 = icmp eq i64 %21, 0
%23 = getelementptr inbounds i8*, i8** %2, i64 %19
%24 = add nsw i64 %19, -1
%25 = icmp eq i32 %10, 0
br label %26
26: ; preds = %5, %91
%27 = phi i64 [ 0, %5 ], [ %92, %91 ]
%28 = getelementptr inbounds i8, i8* %9, i64 %27
%29 = load i8, i8* %28
br i1 %11, label %30, label %74
30: ; preds = %26
br i1 %22, label %31, label %41
31: ; preds = %30
%32 = load i8*, i8** %23
%33 = getelementptr inbounds i8, i8* %32, i64 %27
%34 = load i8, i8* %33
%35 = xor i8 %34, %29
%36 = shl i8 %29, 1
%37 = icmp slt i8 %29, 0
%38 = select i1 %37, i8 29, i8 0
%39 = xor i8 %38, %36
%40 = xor i8 %39, %34
br label %41
41: ; preds = %31, %30
%42 = phi i64 [ %19, %30 ], [ %24, %31 ]
%43 = phi i8 [ %29, %30 ], [ %40, %31 ]
%44 = phi i8 [ %29, %30 ], [ %35, %31 ]
%45 = phi i8 [ undef, %30 ], [ %35, %31 ]
%46 = phi i8 [ undef, %30 ], [ %40, %31 ]
br i1 %25, label %74, label %47
47: ; preds = %41, %47
%48 = phi i64 [ %73, %47 ], [ %42, %41 ]
%49 = phi i8 [ %71, %47 ], [ %43, %41 ]
%50 = phi i8 [ %66, %47 ], [ %44, %41 ]
%51 = getelementptr inbounds i8*, i8** %2, i64 %48
%52 = load i8*, i8** %51
%53 = getelementptr inbounds i8, i8* %52, i64 %27
%54 = load i8, i8* %53
%55 = xor i8 %54, %50
%56 = shl i8 %49, 1
%57 = icmp slt i8 %49, 0
%58 = select i1 %57, i8 29, i8 0
%59 = xor i8 %58, %56
%60 = xor i8 %59, %54
%61 = add nsw i64 %48, -1
%62 = getelementptr inbounds i8*, i8** %2, i64 %61
%63 = load i8*, i8** %62
%64 = getelementptr inbounds i8, i8* %63, i64 %27
%65 = load i8, i8* %64
%66 = xor i8 %65, %55
%67 = shl i8 %60, 1
%68 = icmp slt i8 %60, 0
%69 = select i1 %68, i8 29, i8 0
%70 = xor i8 %69, %67
%71 = xor i8 %70, %65
%72 = icmp sgt i64 %48, 1
%73 = add nsw i64 %48, -2
br i1 %72, label %47, label %74
74: ; preds = %41, %47, %26
%75 = phi i8 [ %29, %26 ], [ %45, %41 ], [ %66, %47 ]
%76 = phi i8 [ %29, %26 ], [ %46, %41 ], [ %71, %47 ]
%77 = getelementptr inbounds i8, i8* %15, i64 %27
%78 = load i8, i8* %77
%79 = icmp eq i8 %78, %75
br i1 %79, label %83, label %80
80: ; preds = %74
%81 = trunc i64 %27 to i32
%82 = or i32 %81, 1
br label %94
83: ; preds = %74
%84 = load i8*, i8** %18
%85 = getelementptr inbounds i8, i8* %84, i64 %27
%86 = load i8, i8* %85
%87 = icmp eq i8 %86, %76
br i1 %87, label %91, label %88
88: ; preds = %83
%89 = trunc i64 %27 to i32
%90 = or i32 %89, 2
br label %94
91: ; preds = %83
%92 = add nuw nsw i64 %27, 1
%93 = icmp eq i64 %92, %20
br i1 %93, label %94, label %26
94: ; preds = %91, %3, %88, %80
%95 = phi i32 [ %82, %80 ], [ %90, %88 ], [ 0, %3 ], [ 0, %91 ]
ret i32 %95
}