unsigned long atoh(char *cp) {
  unsigned long n = 0;
  int i = 2;
  while (cp[i]) {
    n <<= 4;
    if (cp[i] >= '0' && cp[i] <= '9')
      n |= cp[i] - '0';
    else if ((cp[i] & 0x5f) >= 'A' && (cp[i] & 0x5f) <= 'F')
      n |= (cp[i] & 0x5f) - 'A' + 10;
    else {
      n = -1;
      goto error;
    }
    i++;
  }
error:
  return (n);
}


x86 assembly (clang, -O0):
<atoh>:
push   %rbp
mov    %rsp,%rbp
mov    %rdi,-0x8(%rbp)
movq   $0x0,-0x10(%rbp)
movl   $0x2,-0x14(%rbp)
mov    -0x8(%rbp),%rax
movslq -0x14(%rbp),%rcx
cmpb   $0x0,(%rax,%rcx,1)
je     11f1 <atoh+0xf1>
mov    -0x10(%rbp),%rax
shl    $0x4,%rax
mov    %rax,-0x10(%rbp)
mov    -0x8(%rbp),%rax
movslq -0x14(%rbp),%rcx
movsbl (%rax,%rcx,1),%eax
cmp    $0x30,%eax
jl     117d <atoh+0x7d>
mov    -0x8(%rbp),%rax
movslq -0x14(%rbp),%rcx
movsbl (%rax,%rcx,1),%eax
cmp    $0x39,%eax
jg     117d <atoh+0x7d>
mov    -0x8(%rbp),%rax
movslq -0x14(%rbp),%rcx
movsbl (%rax,%rcx,1),%eax
sub    $0x30,%eax
cltq
or     -0x10(%rbp),%rax
mov    %rax,-0x10(%rbp)
jmp    11e3 <atoh+0xe3>
mov    -0x8(%rbp),%rax
movslq -0x14(%rbp),%rcx
movsbl (%rax,%rcx,1),%eax
and    $0x5f,%eax
cmp    $0x41,%eax
jl     11d1 <atoh+0xd1>
mov    -0x8(%rbp),%rax
movslq -0x14(%rbp),%rcx
movsbl (%rax,%rcx,1),%eax
and    $0x5f,%eax
cmp    $0x46,%eax
jg     11d1 <atoh+0xd1>
mov    -0x8(%rbp),%rax
movslq -0x14(%rbp),%rcx
movsbl (%rax,%rcx,1),%eax
and    $0x5f,%eax
sub    $0x41,%eax
add    $0xa,%eax
cltq
or     -0x10(%rbp),%rax
mov    %rax,-0x10(%rbp)
jmp    11de <atoh+0xde>
movq   $0xffffffffffffffff,-0x10(%rbp)
ff
jmp    11f6 <atoh+0xf6>
jmp    11e3 <atoh+0xe3>
mov    -0x14(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x14(%rbp)
jmp    1117 <atoh+0x17>
jmp    11f6 <atoh+0xf6>
mov    -0x10(%rbp),%rax
pop    %rbp
ret

x86 assembly (clang, -O2):
<atoh>:
mov    0x2(%rdi),%cl
test   %cl,%cl
je     115b <atoh+0x5b>
mov    $0xffffffc9,%edx
add    $0x3,%rdi
xor    %eax,%eax
lea    0x7(%rdx),%r8
jmp    113a <atoh+0x3a>
nopl   0x0(%rax,%rax,1)
mov    %r8,%rsi
shl    $0x4,%rax
movzbl %cl,%ecx
add    %ecx,%esi
or     %rsi,%rax
movzbl (%rdi),%ecx
add    $0x1,%rdi
test   %cl,%cl
je     115a <atoh+0x5a>
lea    -0x30(%rcx),%esi
cmp    $0xa,%sil
jb     1120 <atoh+0x20>
and    $0x5f,%cl
lea    -0x41(%rcx),%edx
mov    $0xffffffc9,%esi
cmp    $0x5,%dl
jbe    1123 <atoh+0x23>
mov    $0xffffffffffffffff,%rax
ret
xor    %eax,%eax
ret

LLVM IR (-O0):
define i64 @atoh(i8* %0) {
%2 = alloca i8*
%3 = alloca i64
%4 = alloca i32
store i8* %0, i8** %2
store i64 0, i64* %3
store i32 2, i32* %4
br label %5
5: ; preds = %74, %1
%6 = load i8*, i8** %2
%7 = load i32, i32* %4
%8 = sext i32 %7 to i64
%9 = getelementptr inbounds i8, i8* %6, i64 %8
%10 = load i8, i8* %9
%11 = icmp ne i8 %10, 0
br i1 %11, label %12, label %77
12: ; preds = %5
%13 = load i64, i64* %3
%14 = shl i64 %13, 4
store i64 %14, i64* %3
%15 = load i8*, i8** %2
%16 = load i32, i32* %4
%17 = sext i32 %16 to i64
%18 = getelementptr inbounds i8, i8* %15, i64 %17
%19 = load i8, i8* %18
%20 = sext i8 %19 to i32
%21 = icmp sge i32 %20, 48
br i1 %21, label %22, label %41
22: ; preds = %12
%23 = load i8*, i8** %2
%24 = load i32, i32* %4
%25 = sext i32 %24 to i64
%26 = getelementptr inbounds i8, i8* %23, i64 %25
%27 = load i8, i8* %26
%28 = sext i8 %27 to i32
%29 = icmp sle i32 %28, 57
br i1 %29, label %30, label %41
30: ; preds = %22
%31 = load i8*, i8** %2
%32 = load i32, i32* %4
%33 = sext i32 %32 to i64
%34 = getelementptr inbounds i8, i8* %31, i64 %33
%35 = load i8, i8* %34
%36 = sext i8 %35 to i32
%37 = sub nsw i32 %36, 48
%38 = sext i32 %37 to i64
%39 = load i64, i64* %3
%40 = or i64 %39, %38
store i64 %40, i64* %3
br label %74
41: ; preds = %22, %12
%42 = load i8*, i8** %2
%43 = load i32, i32* %4
%44 = sext i32 %43 to i64
%45 = getelementptr inbounds i8, i8* %42, i64 %44
%46 = load i8, i8* %45
%47 = sext i8 %46 to i32
%48 = and i32 %47, 95
%49 = icmp sge i32 %48, 65
br i1 %49, label %50, label %72
50: ; preds = %41
%51 = load i8*, i8** %2
%52 = load i32, i32* %4
%53 = sext i32 %52 to i64
%54 = getelementptr inbounds i8, i8* %51, i64 %53
%55 = load i8, i8* %54
%56 = sext i8 %55 to i32
%57 = and i32 %56, 95
%58 = icmp sle i32 %57, 70
br i1 %58, label %59, label %72
59: ; preds = %50
%60 = load i8*, i8** %2
%61 = load i32, i32* %4
%62 = sext i32 %61 to i64
%63 = getelementptr inbounds i8, i8* %60, i64 %62
%64 = load i8, i8* %63
%65 = sext i8 %64 to i32
%66 = and i32 %65, 95
%67 = sub nsw i32 %66, 65
%68 = add nsw i32 %67, 10
%69 = sext i32 %68 to i64
%70 = load i64, i64* %3
%71 = or i64 %70, %69
store i64 %71, i64* %3
br label %73
72: ; preds = %50, %41
store i64 -1, i64* %3
br label %78
73: ; preds = %59
br label %74
74: ; preds = %73, %30
%75 = load i32, i32* %4
%76 = add nsw i32 %75, 1
store i32 %76, i32* %4
br label %5
77: ; preds = %5
br label %78
78: ; preds = %77, %72
%79 = load i64, i64* %3
ret i64 %79
}

LLVM IR (-O2):
define i64 @atoh(i8* nocapture %0) {
%2 = getelementptr inbounds i8, i8* %0, i64 2
%3 = load i8, i8* %2
%4 = icmp eq i8 %3, 0
br i1 %4, label %27, label %5
5: ; preds = %1, %16
%6 = phi i64 [ %23, %16 ], [ 2, %1 ]
%7 = phi i8 [ %25, %16 ], [ %3, %1 ]
%8 = phi i64 [ %22, %16 ], [ 0, %1 ]
%9 = shl i64 %8, 4
%10 = add i8 %7, -48
%11 = icmp ult i8 %10, 10
br i1 %11, label %16, label %12
12: ; preds = %5
%13 = and i8 %7, 95
%14 = add nsw i8 %13, -65
%15 = icmp ult i8 %14, 6
br i1 %15, label %16, label %27
16: ; preds = %12, %5
%17 = phi i8 [ %7, %5 ], [ %13, %12 ]
%18 = phi i64 [ 4294967248, %5 ], [ 4294967241, %12 ]
%19 = zext i8 %17 to i64
%20 = add nuw nsw i64 %18, %19
%21 = and i64 %20, 4294967295
%22 = or i64 %21, %9
%23 = add nuw i64 %6, 1
%24 = getelementptr inbounds i8, i8* %0, i64 %23
%25 = load i8, i8* %24
%26 = icmp eq i8 %25, 0
br i1 %26, label %27, label %5
27: ; preds = %16, %12, %1
%28 = phi i64 [ 0, %1 ], [ -1, %12 ], [ %22, %16 ]
ret i64 %28
}