unsigned long modmul(unsigned long poly1, unsigned long poly2,
                     unsigned long modulo, unsigned long mask) {
  unsigned long result = 0;
  for (; poly1; poly1 >>= 1) {
    if (poly1 & 1)
      result ^= poly2;
    poly2 <<= 1;
    if (poly2 & mask)
      poly2 ^= modulo;
  }
  return result;
}


x86 assembly (clang, -O0):
<modmul>:
push   %rbp
mov    %rsp,%rbp
mov    %rdi,-0x8(%rbp)
mov    %rsi,-0x10(%rbp)
mov    %rdx,-0x18(%rbp)
mov    %rcx,-0x20(%rbp)
movq   $0x0,-0x28(%rbp)
cmpq   $0x0,-0x8(%rbp)
je     1185 <modmul+0x85>
mov    -0x8(%rbp),%rax
and    $0x1,%rax
cmp    $0x0,%rax
je     1145 <modmul+0x45>
mov    -0x10(%rbp),%rax
xor    -0x28(%rbp),%rax
mov    %rax,-0x28(%rbp)
mov    -0x10(%rbp),%rax
shl    $0x1,%rax
mov    %rax,-0x10(%rbp)
mov    -0x10(%rbp),%rax
and    -0x20(%rbp),%rax
cmp    $0x0,%rax
je     116f <modmul+0x6f>
mov    -0x18(%rbp),%rax
xor    -0x10(%rbp),%rax
mov    %rax,-0x10(%rbp)
jmp    1174 <modmul+0x74>
mov    -0x8(%rbp),%rax
shr    $0x1,%rax
mov    %rax,-0x8(%rbp)
jmp    111c <modmul+0x1c>
mov    -0x28(%rbp),%rax
pop    %rbp
ret

x86 assembly (clang, -O2):
<modmul>:
xor    %eax,%eax
test   %rdi,%rdi
je     113c <modmul+0x3c>
mov    %rdi,%r8
nopw   0x0(%rax,%rax,1)
mov    %edi,%r9d
and    $0x1,%r9d
neg    %r9
and    %rsi,%r9
xor    %r9,%rax
add    %rsi,%rsi
mov    %rsi,%r9
and    %rcx,%r9
cmovne %rdx,%r9
xor    %r9,%rsi
shr    %r8
cmp    $0x1,%rdi
mov    %r8,%rdi
ja     1110 <modmul+0x10>
ret

LLVM IR (-O0):
define i64 @modmul(i64 %0, i64 %1, i64 %2, i64 %3) {
%5 = alloca i64
%6 = alloca i64
%7 = alloca i64
%8 = alloca i64
%9 = alloca i64
store i64 %0, i64* %5
store i64 %1, i64* %6
store i64 %2, i64* %7
store i64 %3, i64* %8
store i64 0, i64* %9
br label %10
10: ; preds = %33, %4
%11 = load i64, i64* %5
%12 = icmp ne i64 %11, 0
br i1 %12, label %13, label %36
13: ; preds = %10
%14 = load i64, i64* %5
%15 = and i64 %14, 1
%16 = icmp ne i64 %15, 0
br i1 %16, label %17, label %21
17: ; preds = %13
%18 = load i64, i64* %6
%19 = load i64, i64* %9
%20 = xor i64 %19, %18
store i64 %20, i64* %9
br label %21
21: ; preds = %17, %13
%22 = load i64, i64* %6
%23 = shl i64 %22, 1
store i64 %23, i64* %6
%24 = load i64, i64* %6
%25 = load i64, i64* %8
%26 = and i64 %24, %25
%27 = icmp ne i64 %26, 0
br i1 %27, label %28, label %32
28: ; preds = %21
%29 = load i64, i64* %7
%30 = load i64, i64* %6
%31 = xor i64 %30, %29
store i64 %31, i64* %6
br label %32
32: ; preds = %28, %21
br label %33
33: ; preds = %32
%34 = load i64, i64* %5
%35 = lshr i64 %34, 1
store i64 %35, i64* %5
br label %10
36: ; preds = %10
%37 = load i64, i64* %9
ret i64 %37
}

LLVM IR (-O2):
define i64 @modmul(i64 %0, i64 %1, i64 %2, i64 %3) {
%5 = icmp eq i64 %0, 0
br i1 %5, label %21, label %6
6: ; preds = %4, %6
%7 = phi i64 [ %13, %6 ], [ 0, %4 ]
%8 = phi i64 [ %19, %6 ], [ %0, %4 ]
%9 = phi i64 [ %18, %6 ], [ %1, %4 ]
%10 = and i64 %8, 1
%11 = icmp eq i64 %10, 0
%12 = select i1 %11, i64 0, i64 %9
%13 = xor i64 %12, %7
%14 = shl i64 %9, 1
%15 = and i64 %14, %3
%16 = icmp eq i64 %15, 0
%17 = select i1 %16, i64 0, i64 %2
%18 = xor i64 %17, %14
%19 = lshr i64 %8, 1
%20 = icmp ult i64 %8, 2
br i1 %20, label %21, label %6
21: ; preds = %6, %4
%22 = phi i64 [ 0, %4 ], [ %13, %6 ]
ret i64 %22
}