unsigned unhex(unsigned char *s, int len) {
  unsigned n = 0, c;
  while (len-- > 0) {
    switch ((c = *s++)) {
    case '0':
    case '1':
    case '2':
    case '3':
    case '4':
    case '5':
    case '6':
    case '7':
    case '8':
    case '9':
      c -= '0';
      break;
    case 'a':
    case 'b':
    case 'c':
    case 'd':
    case 'e':
    case 'f':
      c = c - 'a' + 10;
      break;
    case 'A':
    case 'B':
    case 'C':
    case 'D':
    case 'E':
    case 'F':
      c = c - 'A' + 10;
      break;
    default:
      return 0xffffffff;
    }
    n = (n << 4) | c;
  }
  return n;
}


x86 assembly (clang, -O0):
<unhex>:
push   %rbp
mov    %rsp,%rbp
mov    %rdi,-0x10(%rbp)
mov    %esi,-0x14(%rbp)
movl   $0x0,-0x18(%rbp)
mov    -0x14(%rbp),%eax
mov    %eax,%ecx
add    $0xffffffff,%ecx
mov    %ecx,-0x14(%rbp)
cmp    $0x0,%eax
jle    11c4 <unhex+0xc4>
mov    -0x10(%rbp),%rax
mov    %rax,%rcx
add    $0x1,%rcx
mov    %rcx,-0x10(%rbp)
movzbl (%rax),%eax
mov    %eax,-0x20(%rbp)
mov    %eax,-0x1c(%rbp)
add    $0xffffffd0,%eax
sub    $0xa,%eax
jb     1177 <unhex+0x77>
jmp    114f <unhex+0x4f>
mov    -0x20(%rbp),%eax
add    $0xffffffbf,%eax
sub    $0x6,%eax
jb     1196 <unhex+0x96>
jmp    1163 <unhex+0x63>
mov    -0x20(%rbp),%eax
add    $0xffffff9f,%eax
sub    $0x6,%eax
jb     1185 <unhex+0x85>
jmp    11a7 <unhex+0xa7>
mov    -0x1c(%rbp),%eax
sub    $0x30,%eax
mov    %eax,-0x1c(%rbp)
jmp    11b3 <unhex+0xb3>
mov    -0x1c(%rbp),%eax
sub    $0x61,%eax
add    $0xa,%eax
mov    %eax,-0x1c(%rbp)
jmp    11b3 <unhex+0xb3>
mov    -0x1c(%rbp),%eax
sub    $0x41,%eax
add    $0xa,%eax
mov    %eax,-0x1c(%rbp)
jmp    11b3 <unhex+0xb3>
movl   $0xffffffff,-0x4(%rbp)
jmp    11ca <unhex+0xca>
mov    -0x18(%rbp),%eax
shl    $0x4,%eax
or     -0x1c(%rbp),%eax
mov    %eax,-0x18(%rbp)
jmp    1112 <unhex+0x12>
mov    -0x18(%rbp),%eax
mov    %eax,-0x4(%rbp)
mov    -0x4(%rbp),%eax
pop    %rbp
ret

x86 assembly (clang, -O2):
<unhex>:
test   %esi,%esi
jle    115a <unhex+0x5a>
add    $0x1,%esi
xor    %ecx,%ecx
movabs $0x7e0000007e03ff,%r9
lea    0xee6(%rip),%r8
nopw   0x0(%rax,%rax,1)
movzbl (%rdi),%r10d
lea    -0x30(%r10),%r11d
mov    $0xffffffff,%eax
cmp    $0x36,%r11b
ja     1159 <unhex+0x59>
movzbl %r11b,%edx
bt     %rdx,%r9
jae    1159 <unhex+0x59>
add    $0x1,%rdi
movsbq %r11b,%rax
add    (%r8,%rax,4),%r10d
shl    $0x4,%ecx
or     %r10d,%ecx
add    $0xffffffff,%esi
mov    %ecx,%eax
cmp    $0x1,%esi
ja     1120 <unhex+0x20>
ret
xor    %eax,%eax
ret

LLVM IR (-O0):
define i32 @unhex(i8* %0, i32 %1) {
%3 = alloca i32
%4 = alloca i8*
%5 = alloca i32
%6 = alloca i32
%7 = alloca i32
store i8* %0, i8** %4
store i32 %1, i32* %5
store i32 0, i32* %6
br label %8
8: ; preds = %29, %2
%9 = load i32, i32* %5
%10 = add nsw i32 %9, -1
store i32 %10, i32* %5
%11 = icmp sgt i32 %9, 0
br i1 %11, label %12, label %34
12: ; preds = %8
%13 = load i8*, i8** %4
%14 = getelementptr inbounds i8, i8* %13, i32 1
store i8* %14, i8** %4
%15 = load i8, i8* %13
%16 = zext i8 %15 to i32
store i32 %16, i32* %7
switch i32 %16, label %28 [
i32 48, label %17
i32 49, label %17
i32 50, label %17
i32 51, label %17
i32 52, label %17
i32 53, label %17
i32 54, label %17
i32 55, label %17
i32 56, label %17
i32 57, label %17
i32 97, label %20
i32 98, label %20
i32 99, label %20
i32 100, label %20
i32 101, label %20
i32 102, label %20
i32 65, label %24
i32 66, label %24
i32 67, label %24
i32 68, label %24
i32 69, label %24
i32 70, label %24
]
17: ; preds = %12, %12, %12, %12, %12, %12, %12, %12, %12, %12
%18 = load i32, i32* %7
%19 = sub i32 %18, 48
store i32 %19, i32* %7
br label %29
20: ; preds = %12, %12, %12, %12, %12, %12
%21 = load i32, i32* %7
%22 = sub i32 %21, 97
%23 = add i32 %22, 10
store i32 %23, i32* %7
br label %29
24: ; preds = %12, %12, %12, %12, %12, %12
%25 = load i32, i32* %7
%26 = sub i32 %25, 65
%27 = add i32 %26, 10
store i32 %27, i32* %7
br label %29
28: ; preds = %12
store i32 -1, i32* %3
br label %36
29: ; preds = %24, %20, %17
%30 = load i32, i32* %6
%31 = shl i32 %30, 4
%32 = load i32, i32* %7
%33 = or i32 %31, %32
store i32 %33, i32* %6
br label %8
34: ; preds = %8
%35 = load i32, i32* %6
store i32 %35, i32* %3
br label %36
36: ; preds = %34, %28
%37 = load i32, i32* %3
ret i32 %37
}

LLVM IR (-O2):
@switch.table.unhex = [55 x i32] [i32 -48, i32 -48, i32 -48, i32 -48, i32 -48, i32 -48, i32 -48, i32 -48, i32 -48, i32 -48, i32 -48, i32 -48, i32 -48, i32 -48, i32 -48, i32 -48, i32 -48, i32 -55, i32 -55, i32 -55, i32 -55, i32 -55, i32 -55, i32 -48, i32 -48, i32 -48, i32 -48, i32 -48, i32 -48, i32 -48, i32 -48, i32 -48, i32 -48, i32 -48, i32 -48, i32 -48, i32 -48, i32 -48, i32 -48, i32 -48, i32 -48, i32 -48, i32 -48, i32 -48, i32 -48, i32 -48, i32 -48, i32 -48, i32 -48, i32 -87, i32 -87, i32 -87, i32 -87, i32 -87, i32 -87]
define i32 @unhex(i8* nocapture %0, i32 %1) {
%3 = icmp sgt i32 %1, 0
br i1 %3, label %4, label %27
4: ; preds = %2, %19
%5 = phi i32 [ %8, %19 ], [ %1, %2 ]
%6 = phi i32 [ %25, %19 ], [ 0, %2 ]
%7 = phi i8* [ %9, %19 ], [ %0, %2 ]
%8 = add nsw i32 %5, -1
%9 = getelementptr inbounds i8, i8* %7, i64 1
%10 = load i8, i8* %7
%11 = zext i8 %10 to i32
%12 = add i8 %10, -48
%13 = icmp ult i8 %12, 55
br i1 %13, label %14, label %27
14: ; preds = %4
%15 = zext i8 %12 to i64
%16 = lshr i64 35465847073801215, %15
%17 = and i64 %16, 1
%18 = icmp eq i64 %17, 0
br i1 %18, label %27, label %19
19: ; preds = %14
%20 = sext i8 %12 to i64
%21 = getelementptr inbounds [55 x i32], [55 x i32]* @switch.table.unhex, i64 0, i64 %20
%22 = load i32, i32* %21
%23 = add nsw i32 %22, %11
%24 = shl i32 %6, 4
%25 = or i32 %23, %24
%26 = icmp ugt i32 %5, 1
br i1 %26, label %4, label %27
27: ; preds = %19, %4, %14, %2
%28 = phi i32 [ 0, %2 ], [ -1, %14 ], [ %25, %19 ], [ -1, %4 ]
ret i32 %28
}