long extract_fxm(unsigned long insn, int dialect __attribute__((unused)),
                 int *invalid) {
  long mask = (insn >> 12) & 0xff;
  if ((insn & (1 << 20)) != 0) {
    if (mask == 0 || (mask & -mask) != mask)
      *invalid = 1;
  } else if ((insn & (0x3ff << 1)) == 19 << 1) {
    if (mask != 0)
      *invalid = 1;
  }
  return mask;
}


x86 assembly (clang, -O0):
<extract_fxm>:
push   %rbp
mov    %rsp,%rbp
mov    %rdi,-0x8(%rbp)
mov    %esi,-0xc(%rbp)
mov    %rdx,-0x18(%rbp)
mov    -0x8(%rbp),%rax
shr    $0xc,%rax
and    $0xff,%rax
mov    %rax,-0x20(%rbp)
mov    -0x8(%rbp),%rax
and    $0x100000,%rax
cmp    $0x0,%rax
je     1166 <extract_fxm+0x66>
cmpq   $0x0,-0x20(%rbp)
je     1157 <extract_fxm+0x57>
mov    -0x20(%rbp),%rax
xor    %ecx,%ecx
sub    -0x20(%rbp),%rcx
and    %rcx,%rax
cmp    -0x20(%rbp),%rax
je     1161 <extract_fxm+0x61>
mov    -0x18(%rbp),%rax
movl   $0x1,(%rax)
jmp    1199 <extract_fxm+0x99>
mov    -0x8(%rbp),%rax
and    $0x7fe,%rax
cmp    $0x26,%rax
jne    1194 <extract_fxm+0x94>
cmpq   $0x0,-0x20(%rbp)
je     118f <extract_fxm+0x8f>
mov    -0x18(%rbp),%rax
movl   $0x1,(%rax)
jmp    1194 <extract_fxm+0x94>
jmp    1199 <extract_fxm+0x99>
mov    -0x20(%rbp),%rax
pop    %rbp
ret

x86 assembly (clang, -O2):
<extract_fxm>:
mov    %edi,%eax
shr    $0xc,%eax
movzbl %al,%eax
test   $0x100000,%edi
jne    1122 <extract_fxm+0x22>
and    $0x7fe,%edi
cmp    $0x26,%edi
jne    113c <extract_fxm+0x3c>
test   %rax,%rax
jne    1136 <extract_fxm+0x36>
jmp    113c <extract_fxm+0x3c>
lea    -0x1(%rax),%ecx
test   %ecx,%eax
sete   %sil
test   %rax,%rax
setne  %cl
test   %sil,%cl
jne    113c <extract_fxm+0x3c>
movl   $0x1,(%rdx)
ret

LLVM IR (-O0):
define i64 @extract_fxm(i64 %0, i32 %1, i32* %2) {
%4 = alloca i64
%5 = alloca i32
%6 = alloca i32*
%7 = alloca i64
store i64 %0, i64* %4
store i32 %1, i32* %5
store i32* %2, i32** %6
%8 = load i64, i64* %4
%9 = lshr i64 %8, 12
%10 = and i64 %9, 255
store i64 %10, i64* %7
%11 = load i64, i64* %4
%12 = and i64 %11, 1048576
%13 = icmp ne i64 %12, 0
br i1 %13, label %14, label %27
14: ; preds = %3
%15 = load i64, i64* %7
%16 = icmp eq i64 %15, 0
br i1 %16, label %24, label %17
17: ; preds = %14
%18 = load i64, i64* %7
%19 = load i64, i64* %7
%20 = sub nsw i64 0, %19
%21 = and i64 %18, %20
%22 = load i64, i64* %7
%23 = icmp ne i64 %21, %22
br i1 %23, label %24, label %26
24: ; preds = %17, %14
%25 = load i32*, i32** %6
store i32 1, i32* %25
br label %26
26: ; preds = %24, %17
br label %38
27: ; preds = %3
%28 = load i64, i64* %4
%29 = and i64 %28, 2046
%30 = icmp eq i64 %29, 38
br i1 %30, label %31, label %37
31: ; preds = %27
%32 = load i64, i64* %7
%33 = icmp ne i64 %32, 0
br i1 %33, label %34, label %36
34: ; preds = %31
%35 = load i32*, i32** %6
store i32 1, i32* %35
br label %36
36: ; preds = %34, %31
br label %37
37: ; preds = %36, %27
br label %38
38: ; preds = %37, %26
%39 = load i64, i64* %7
ret i64 %39
}

LLVM IR (-O2):
define i64 @extract_fxm(i64 %0, i32 %1, i32* nocapture writeonly %2) {
%4 = lshr i64 %0, 12
%5 = and i64 %4, 255
%6 = and i64 %0, 1048576
%7 = icmp eq i64 %6, 0
br i1 %7, label %11, label %8
8: ; preds = %3
%9 = tail call i64 @llvm.ctpop.i64(i64 %5)
%10 = icmp eq i64 %9, 1
br i1 %10, label %17, label %16
11: ; preds = %3
%12 = and i64 %0, 2046
%13 = icmp eq i64 %12, 38
%14 = icmp ne i64 %5, 0
%15 = and i1 %13, %14
br i1 %15, label %16, label %17
16: ; preds = %11, %8
store i32 1, i32* %2
br label %17
17: ; preds = %16, %8, %11
ret i64 %5
}