int trellis_next_state(int conv_nb_states, int conv_reg, int trans) {
  int i, Y0;
  int Y[5];
  Y[1] = (trans & 1);
  Y[2] = ((trans >> 1) & 1);
  Y[4] = ((trans >> 2) & 1);
  Y[3] = ((trans >> 3) & 1);
  Y0 = conv_reg & 1;
  switch (conv_nb_states) {
  case 16:
    conv_reg ^= (Y[1] << 1) | (Y[2] << 2) | ((Y[2] ^ Y0) << 3) | (Y0 << 4);
    conv_reg >>= 1;
    break;
  case 32:
    conv_reg ^=
        (Y[2] << 1) | (Y[4] << 2) | (Y[1] << 3) | (Y[2] << 4) | (Y0 << 5);
    conv_reg >>= 1;
    break;
  default:
  case 64: {
    int r[6], s[6], tmp1, tmp2;
    for (i = 0; i < 6; i++)
      r[i] = (conv_reg >> i) & 1;
    s[0] = r[1] ^ r[3] ^ Y[2];
    s[1] = r[0];
    s[2] = r[3];
    tmp2 = Y[1] ^ r[4];
    s[3] = r[3] ^ tmp2;
    tmp1 = r[4] ^ r[5];
    s[4] = r[2] ^ Y[3] ^ (r[3] & Y[2]) ^ tmp1;
    s[5] = Y[4] ^ tmp1 ^ (r[3] & tmp2);
    conv_reg = 0;
    for (i = 0; i < 6; i++)
      conv_reg |= s[i] << i;
  } break;
  }
  return conv_reg;
}


x86 assembly (clang, -O0):
<trellis_next_state>:
push   %rbp
mov    %rsp,%rbp
mov    %edi,-0x4(%rbp)
mov    %esi,-0x8(%rbp)
mov    %edx,-0xc(%rbp)
mov    -0xc(%rbp),%eax
and    $0x1,%eax
mov    %eax,-0x2c(%rbp)
mov    -0xc(%rbp),%eax
shr    %eax
and    $0x1,%eax
mov    %eax,-0x28(%rbp)
mov    -0xc(%rbp),%eax
shr    $0x2,%eax
and    $0x1,%eax
mov    %eax,-0x20(%rbp)
mov    -0xc(%rbp),%eax
shr    $0x3,%eax
and    $0x1,%eax
mov    %eax,-0x24(%rbp)
mov    -0x8(%rbp),%eax
and    $0x1,%eax
mov    %eax,-0x14(%rbp)
mov    -0x4(%rbp),%eax
mov    %eax,-0x7c(%rbp)
sub    $0x10,%eax
je     1178 <trellis_next_state+0x78>
jmp    1156 <trellis_next_state+0x56>
mov    -0x7c(%rbp),%eax
sub    $0x20,%eax
je     11ad <trellis_next_state+0xad>
jmp    1167 <trellis_next_state+0x67>
mov    -0x7c(%rbp),%eax
sub    $0x40,%eax
je     11ec <trellis_next_state+0xec>
jmp    11e7 <trellis_next_state+0xe7>
mov    -0x2c(%rbp),%eax
shl    $0x1,%eax
mov    -0x28(%rbp),%ecx
shl    $0x2,%ecx
or     %ecx,%eax
mov    -0x28(%rbp),%ecx
xor    -0x14(%rbp),%ecx
shl    $0x3,%ecx
or     %ecx,%eax
mov    -0x14(%rbp),%ecx
shl    $0x4,%ecx
or     %ecx,%eax
xor    -0x8(%rbp),%eax
mov    %eax,-0x8(%rbp)
mov    -0x8(%rbp),%eax
sar    $0x1,%eax
mov    %eax,-0x8(%rbp)
jmp    12b6 <trellis_next_state+0x1b6>
mov    -0x28(%rbp),%eax
shl    $0x1,%eax
mov    -0x20(%rbp),%ecx
shl    $0x2,%ecx
or     %ecx,%eax
mov    -0x2c(%rbp),%ecx
shl    $0x3,%ecx
or     %ecx,%eax
mov    -0x28(%rbp),%ecx
shl    $0x4,%ecx
or     %ecx,%eax
mov    -0x14(%rbp),%ecx
shl    $0x5,%ecx
or     %ecx,%eax
xor    -0x8(%rbp),%eax
mov    %eax,-0x8(%rbp)
mov    -0x8(%rbp),%eax
sar    $0x1,%eax
mov    %eax,-0x8(%rbp)
jmp    12b6 <trellis_next_state+0x1b6>
jmp    11ec <trellis_next_state+0xec>
movl   $0x0,-0x10(%rbp)
cmpl   $0x6,-0x10(%rbp)
jge    1220 <trellis_next_state+0x120>
mov    -0x8(%rbp),%eax
mov    -0x10(%rbp),%ecx
sar    %cl,%eax
mov    %eax,%ecx
and    $0x1,%ecx
movslq -0x10(%rbp),%rax
mov    %ecx,-0x50(%rbp,%rax,4)
mov    -0x10(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x10(%rbp)
jmp    11f3 <trellis_next_state+0xf3>
mov    -0x4c(%rbp),%eax
xor    -0x44(%rbp),%eax
xor    -0x28(%rbp),%eax
mov    %eax,-0x70(%rbp)
mov    -0x50(%rbp),%eax
mov    %eax,-0x6c(%rbp)
mov    -0x44(%rbp),%eax
mov    %eax,-0x68(%rbp)
mov    -0x2c(%rbp),%eax
xor    -0x40(%rbp),%eax
mov    %eax,-0x78(%rbp)
mov    -0x44(%rbp),%eax
xor    -0x78(%rbp),%eax
mov    %eax,-0x64(%rbp)
mov    -0x40(%rbp),%eax
xor    -0x3c(%rbp),%eax
mov    %eax,-0x74(%rbp)
mov    -0x48(%rbp),%eax
xor    -0x24(%rbp),%eax
mov    -0x44(%rbp),%ecx
and    -0x28(%rbp),%ecx
xor    %ecx,%eax
xor    -0x74(%rbp),%eax
mov    %eax,-0x60(%rbp)
mov    -0x20(%rbp),%eax
xor    -0x74(%rbp),%eax
mov    -0x44(%rbp),%ecx
and    -0x78(%rbp),%ecx
xor    %ecx,%eax
mov    %eax,-0x5c(%rbp)
movl   $0x0,-0x8(%rbp)
movl   $0x0,-0x10(%rbp)
cmpl   $0x6,-0x10(%rbp)
jge    12b1 <trellis_next_state+0x1b1>
movslq -0x10(%rbp),%rax
mov    -0x70(%rbp,%rax,4),%eax
mov    -0x10(%rbp),%ecx
shl    %cl,%eax
or     -0x8(%rbp),%eax
mov    %eax,-0x8(%rbp)
mov    -0x10(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x10(%rbp)
jmp    1286 <trellis_next_state+0x186>
jmp    12b6 <trellis_next_state+0x1b6>
mov    -0x8(%rbp),%eax
pop    %rbp
ret

x86 assembly (clang, -O2):
<trellis_next_state>:
mov    %edx,%r8d
and    $0x1,%r8d
mov    %edx,%ecx
shr    %ecx
and    $0x1,%ecx
mov    %edx,%r9d
shr    $0x2,%r9d
and    $0x1,%r9d
mov    %esi,%eax
and    $0x1,%eax
cmp    $0x20,%edi
je     113b <trellis_next_state+0x3b>
cmp    $0x10,%edi
jne    1156 <trellis_next_state+0x56>
add    %r8d,%r8d
lea    (%r8,%rcx,4),%edx
xor    %eax,%ecx
lea    (%rdx,%rcx,8),%ecx
shl    $0x4,%eax
or     %ecx,%eax
jmp    1151 <trellis_next_state+0x51>
shl    $0x2,%r9d
lea    (%r9,%rcx,2),%edx
lea    (%rdx,%r8,8),%edx
shl    $0x4,%ecx
or     %edx,%ecx
shl    $0x5,%eax
or     %ecx,%eax
xor    %esi,%eax
sar    %eax
ret
push   %rbx
shr    $0x3,%edx
and    $0x1,%edx
mov    %esi,%r11d
shr    %r11d
and    $0x1,%r11d
mov    %esi,%edi
shr    $0x2,%edi
and    $0x1,%edi
xor    %edx,%edi
mov    %esi,%edx
shr    $0x3,%edx
mov    %edx,%r10d
and    $0x1,%r10d
mov    %esi,%ebx
shr    $0x4,%ebx
and    $0x1,%ebx
shr    $0x5,%esi
and    $0x1,%esi
xor    %ecx,%r11d
xor    %r10d,%r11d
xor    %ebx,%r8d
xor    %ebx,%esi
and    %edx,%ecx
xor    %edi,%ecx
xor    %esi,%ecx
and    %r8d,%edx
xor    %r10d,%r8d
xor    %r9d,%edx
xor    %esi,%edx
lea    (%r11,%rax,2),%eax
lea    (%rax,%r10,4),%eax
lea    (%rax,%r8,8),%eax
shl    $0x4,%ecx
or     %eax,%ecx
shl    $0x5,%edx
or     %ecx,%edx
mov    %edx,%eax
pop    %rbx
ret

LLVM IR (-O0):
define i32 @trellis_next_state(i32 %0, i32 %1, i32 %2) {
%4 = alloca i32
%5 = alloca i32
%6 = alloca i32
%7 = alloca i32
%8 = alloca i32
%9 = alloca [5 x i32]
%10 = alloca [6 x i32]
%11 = alloca [6 x i32]
%12 = alloca i32
%13 = alloca i32
store i32 %0, i32* %4
store i32 %1, i32* %5
store i32 %2, i32* %6
%14 = load i32, i32* %6
%15 = and i32 %14, 1
%16 = getelementptr inbounds [5 x i32], [5 x i32]* %9, i64 0, i64 1
store i32 %15, i32* %16
%17 = load i32, i32* %6
%18 = ashr i32 %17, 1
%19 = and i32 %18, 1
%20 = getelementptr inbounds [5 x i32], [5 x i32]* %9, i64 0, i64 2
store i32 %19, i32* %20
%21 = load i32, i32* %6
%22 = ashr i32 %21, 2
%23 = and i32 %22, 1
%24 = getelementptr inbounds [5 x i32], [5 x i32]* %9, i64 0, i64 4
store i32 %23, i32* %24
%25 = load i32, i32* %6
%26 = ashr i32 %25, 3
%27 = and i32 %26, 1
%28 = getelementptr inbounds [5 x i32], [5 x i32]* %9, i64 0, i64 3
store i32 %27, i32* %28
%29 = load i32, i32* %5
%30 = and i32 %29, 1
store i32 %30, i32* %8
%31 = load i32, i32* %4
switch i32 %31, label %76 [
i32 16, label %32
i32 32, label %53
i32 64, label %77
]
32: ; preds = %3
%33 = getelementptr inbounds [5 x i32], [5 x i32]* %9, i64 0, i64 1
%34 = load i32, i32* %33
%35 = shl i32 %34, 1
%36 = getelementptr inbounds [5 x i32], [5 x i32]* %9, i64 0, i64 2
%37 = load i32, i32* %36
%38 = shl i32 %37, 2
%39 = or i32 %35, %38
%40 = getelementptr inbounds [5 x i32], [5 x i32]* %9, i64 0, i64 2
%41 = load i32, i32* %40
%42 = load i32, i32* %8
%43 = xor i32 %41, %42
%44 = shl i32 %43, 3
%45 = or i32 %39, %44
%46 = load i32, i32* %8
%47 = shl i32 %46, 4
%48 = or i32 %45, %47
%49 = load i32, i32* %5
%50 = xor i32 %49, %48
store i32 %50, i32* %5
%51 = load i32, i32* %5
%52 = ashr i32 %51, 1
store i32 %52, i32* %5
br label %163
53: ; preds = %3
%54 = getelementptr inbounds [5 x i32], [5 x i32]* %9, i64 0, i64 2
%55 = load i32, i32* %54
%56 = shl i32 %55, 1
%57 = getelementptr inbounds [5 x i32], [5 x i32]* %9, i64 0, i64 4
%58 = load i32, i32* %57
%59 = shl i32 %58, 2
%60 = or i32 %56, %59
%61 = getelementptr inbounds [5 x i32], [5 x i32]* %9, i64 0, i64 1
%62 = load i32, i32* %61
%63 = shl i32 %62, 3
%64 = or i32 %60, %63
%65 = getelementptr inbounds [5 x i32], [5 x i32]* %9, i64 0, i64 2
%66 = load i32, i32* %65
%67 = shl i32 %66, 4
%68 = or i32 %64, %67
%69 = load i32, i32* %8
%70 = shl i32 %69, 5
%71 = or i32 %68, %70
%72 = load i32, i32* %5
%73 = xor i32 %72, %71
store i32 %73, i32* %5
%74 = load i32, i32* %5
%75 = ashr i32 %74, 1
store i32 %75, i32* %5
br label %163
76: ; preds = %3
br label %77
77: ; preds = %3, %76
store i32 0, i32* %7
br label %78
78: ; preds = %89, %77
%79 = load i32, i32* %7
%80 = icmp slt i32 %79, 6
br i1 %80, label %81, label %92
81: ; preds = %78
%82 = load i32, i32* %5
%83 = load i32, i32* %7
%84 = ashr i32 %82, %83
%85 = and i32 %84, 1
%86 = load i32, i32* %7
%87 = sext i32 %86 to i64
%88 = getelementptr inbounds [6 x i32], [6 x i32]* %10, i64 0, i64 %87
store i32 %85, i32* %88
br label %89
89: ; preds = %81
%90 = load i32, i32* %7
%91 = add nsw i32 %90, 1
store i32 %91, i32* %7
br label %78
92: ; preds = %78
%93 = getelementptr inbounds [6 x i32], [6 x i32]* %10, i64 0, i64 1
%94 = load i32, i32* %93
%95 = getelementptr inbounds [6 x i32], [6 x i32]* %10, i64 0, i64 3
%96 = load i32, i32* %95
%97 = xor i32 %94, %96
%98 = getelementptr inbounds [5 x i32], [5 x i32]* %9, i64 0, i64 2
%99 = load i32, i32* %98
%100 = xor i32 %97, %99
%101 = getelementptr inbounds [6 x i32], [6 x i32]* %11, i64 0, i64 0
store i32 %100, i32* %101
%102 = getelementptr inbounds [6 x i32], [6 x i32]* %10, i64 0, i64 0
%103 = load i32, i32* %102
%104 = getelementptr inbounds [6 x i32], [6 x i32]* %11, i64 0, i64 1
store i32 %103, i32* %104
%105 = getelementptr inbounds [6 x i32], [6 x i32]* %10, i64 0, i64 3
%106 = load i32, i32* %105
%107 = getelementptr inbounds [6 x i32], [6 x i32]* %11, i64 0, i64 2
store i32 %106, i32* %107
%108 = getelementptr inbounds [5 x i32], [5 x i32]* %9, i64 0, i64 1
%109 = load i32, i32* %108
%110 = getelementptr inbounds [6 x i32], [6 x i32]* %10, i64 0, i64 4
%111 = load i32, i32* %110
%112 = xor i32 %109, %111
store i32 %112, i32* %13
%113 = getelementptr inbounds [6 x i32], [6 x i32]* %10, i64 0, i64 3
%114 = load i32, i32* %113
%115 = load i32, i32* %13
%116 = xor i32 %114, %115
%117 = getelementptr inbounds [6 x i32], [6 x i32]* %11, i64 0, i64 3
store i32 %116, i32* %117
%118 = getelementptr inbounds [6 x i32], [6 x i32]* %10, i64 0, i64 4
%119 = load i32, i32* %118
%120 = getelementptr inbounds [6 x i32], [6 x i32]* %10, i64 0, i64 5
%121 = load i32, i32* %120
%122 = xor i32 %119, %121
store i32 %122, i32* %12
%123 = getelementptr inbounds [6 x i32], [6 x i32]* %10, i64 0, i64 2
%124 = load i32, i32* %123
%125 = getelementptr inbounds [5 x i32], [5 x i32]* %9, i64 0, i64 3
%126 = load i32, i32* %125
%127 = xor i32 %124, %126
%128 = getelementptr inbounds [6 x i32], [6 x i32]* %10, i64 0, i64 3
%129 = load i32, i32* %128
%130 = getelementptr inbounds [5 x i32], [5 x i32]* %9, i64 0, i64 2
%131 = load i32, i32* %130
%132 = and i32 %129, %131
%133 = xor i32 %127, %132
%134 = load i32, i32* %12
%135 = xor i32 %133, %134
%136 = getelementptr inbounds [6 x i32], [6 x i32]* %11, i64 0, i64 4
store i32 %135, i32* %136
%137 = getelementptr inbounds [5 x i32], [5 x i32]* %9, i64 0, i64 4
%138 = load i32, i32* %137
%139 = load i32, i32* %12
%140 = xor i32 %138, %139
%141 = getelementptr inbounds [6 x i32], [6 x i32]* %10, i64 0, i64 3
%142 = load i32, i32* %141
%143 = load i32, i32* %13
%144 = and i32 %142, %143
%145 = xor i32 %140, %144
%146 = getelementptr inbounds [6 x i32], [6 x i32]* %11, i64 0, i64 5
store i32 %145, i32* %146
store i32 0, i32* %5
store i32 0, i32* %7
br label %147
147: ; preds = %159, %92
%148 = load i32, i32* %7
%149 = icmp slt i32 %148, 6
br i1 %149, label %150, label %162
150: ; preds = %147
%151 = load i32, i32* %7
%152 = sext i32 %151 to i64
%153 = getelementptr inbounds [6 x i32], [6 x i32]* %11, i64 0, i64 %152
%154 = load i32, i32* %153
%155 = load i32, i32* %7
%156 = shl i32 %154, %155
%157 = load i32, i32* %5
%158 = or i32 %157, %156
store i32 %158, i32* %5
br label %159
159: ; preds = %150
%160 = load i32, i32* %7
%161 = add nsw i32 %160, 1
store i32 %161, i32* %7
br label %147
162: ; preds = %147
br label %163
163: ; preds = %162, %53, %32
%164 = load i32, i32* %5
ret i32 %164
}

LLVM IR (-O2):
define i32 @trellis_next_state(i32 %0, i32 %1, i32 %2) {
%4 = and i32 %2, 1
%5 = lshr i32 %2, 1
%6 = and i32 %5, 1
%7 = lshr i32 %2, 2
%8 = and i32 %7, 1
%9 = and i32 %1, 1
switch i32 %0, label %33 [
i32 16, label %10
i32 32, label %21
]
10: ; preds = %3
%11 = shl nuw nsw i32 %4, 1
%12 = shl nuw nsw i32 %6, 2
%13 = or i32 %12, %11
%14 = xor i32 %6, %9
%15 = shl nuw nsw i32 %14, 3
%16 = or i32 %13, %15
%17 = shl nuw nsw i32 %9, 4
%18 = or i32 %16, %17
%19 = xor i32 %18, %1
%20 = ashr i32 %19, 1
br label %68
21: ; preds = %3
%22 = shl nuw nsw i32 %6, 1
%23 = shl nuw nsw i32 %8, 2
%24 = or i32 %22, %23
%25 = shl nuw nsw i32 %4, 3
%26 = or i32 %24, %25
%27 = shl nuw nsw i32 %6, 4
%28 = or i32 %26, %27
%29 = shl nuw nsw i32 %9, 5
%30 = or i32 %28, %29
%31 = xor i32 %30, %1
%32 = ashr i32 %31, 1
br label %68
33: ; preds = %3
%34 = lshr i32 %2, 3
%35 = and i32 %34, 1
%36 = lshr i32 %1, 1
%37 = and i32 %36, 1
%38 = lshr i32 %1, 2
%39 = and i32 %38, 1
%40 = lshr i32 %1, 3
%41 = and i32 %40, 1
%42 = lshr i32 %1, 4
%43 = and i32 %42, 1
%44 = lshr i32 %1, 5
%45 = and i32 %44, 1
%46 = xor i32 %37, %6
%47 = xor i32 %46, %41
%48 = xor i32 %43, %4
%49 = xor i32 %48, %41
%50 = xor i32 %45, %43
%51 = and i32 %40, %6
%52 = xor i32 %51, %35
%53 = xor i32 %52, %39
%54 = xor i32 %53, %50
%55 = and i32 %40, %48
%56 = xor i32 %55, %8
%57 = xor i32 %56, %50
%58 = shl nuw nsw i32 %9, 1
%59 = or i32 %58, %47
%60 = shl nuw nsw i32 %41, 2
%61 = or i32 %60, %59
%62 = shl nuw nsw i32 %49, 3
%63 = or i32 %62, %61
%64 = shl nuw nsw i32 %54, 4
%65 = or i32 %64, %63
%66 = shl nuw nsw i32 %57, 5
%67 = or i32 %66, %65
br label %68
68: ; preds = %33, %21, %10
%69 = phi i32 [ %67, %33 ], [ %32, %21 ], [ %20, %10 ]
ret i32 %69
}