int ulong_to_hexstr(unsigned long num, char *str, int strlen, int uppercase) {
  int len, i;
  unsigned long val;
  char base_char = uppercase ? 'A' : 'a';
  if (num == 0) {
    if (strlen < 2)
      return -1;
    str[0] = '0';
    str[1] = '\0';
    return 1;
  }
  for (len = 0, val = num; val; val = val / 16, len++)
    ;
  if (len + 1 >= strlen)
    return -1;
  str[len] = '\0';
  val = num;
  for (i = 1; i <= len; i++) {
    str[len - i] =
        (val % 16 <= 9) ? ('0' + val % 16) : (base_char + (val % 16 - 10));
    val = val / 16;
  }
  return len;
}


x86 assembly (clang, -O0):
<ulong_to_hexstr>:
push   %rbp
mov    %rsp,%rbp
mov    %rdi,-0x10(%rbp)
mov    %rsi,-0x18(%rbp)
mov    %edx,-0x1c(%rbp)
mov    %ecx,-0x20(%rbp)
mov    -0x20(%rbp),%edx
mov    $0x61,%eax
mov    $0x41,%ecx
cmp    $0x0,%edx
cmovne %ecx,%eax
mov    %al,-0x31(%rbp)
cmpq   $0x0,-0x10(%rbp)
jne    1164 <ulong_to_hexstr+0x64>
cmpl   $0x2,-0x1c(%rbp)
jge    1149 <ulong_to_hexstr+0x49>
movl   $0xffffffff,-0x4(%rbp)
jmp    1254 <ulong_to_hexstr+0x154>
mov    -0x18(%rbp),%rax
movb   $0x30,(%rax)
mov    -0x18(%rbp),%rax
movb   $0x0,0x1(%rax)
movl   $0x1,-0x4(%rbp)
jmp    1254 <ulong_to_hexstr+0x154>
movl   $0x0,-0x24(%rbp)
mov    -0x10(%rbp),%rax
mov    %rax,-0x30(%rbp)
cmpq   $0x0,-0x30(%rbp)
je     119d <ulong_to_hexstr+0x9d>
jmp    1183 <ulong_to_hexstr+0x83>
mov    -0x30(%rbp),%rax
shr    $0x4,%rax
mov    %rax,-0x30(%rbp)
mov    -0x24(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x24(%rbp)
jmp    1173 <ulong_to_hexstr+0x73>
mov    -0x24(%rbp),%eax
add    $0x1,%eax
cmp    -0x1c(%rbp),%eax
jl     11b8 <ulong_to_hexstr+0xb8>
movl   $0xffffffff,-0x4(%rbp)
jmp    1254 <ulong_to_hexstr+0x154>
mov    -0x18(%rbp),%rax
movslq -0x24(%rbp),%rcx
movb   $0x0,(%rax,%rcx,1)
mov    -0x10(%rbp),%rax
mov    %rax,-0x30(%rbp)
movl   $0x1,-0x28(%rbp)
mov    -0x28(%rbp),%eax
cmp    -0x24(%rbp),%eax
jg     124e <ulong_to_hexstr+0x14e>
mov    -0x30(%rbp),%rax
and    $0xf,%rax
cmp    $0x9,%rax
ja     1206 <ulong_to_hexstr+0x106>
mov    -0x30(%rbp),%rax
and    $0xf,%rax
add    $0x30,%rax
mov    %rax,-0x40(%rbp)
jmp    121e <ulong_to_hexstr+0x11e>
movsbq -0x31(%rbp),%rax
mov    -0x30(%rbp),%rcx
and    $0xf,%rcx
sub    $0xa,%rcx
add    %rcx,%rax
mov    %rax,-0x40(%rbp)
mov    -0x40(%rbp),%rax
mov    %al,%dl
mov    -0x18(%rbp),%rax
mov    -0x24(%rbp),%ecx
sub    -0x28(%rbp),%ecx
movslq %ecx,%rcx
mov    %dl,(%rax,%rcx,1)
mov    -0x30(%rbp),%rax
shr    $0x4,%rax
mov    %rax,-0x30(%rbp)
mov    -0x28(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x28(%rbp)
jmp    11d3 <ulong_to_hexstr+0xd3>
mov    -0x24(%rbp),%eax
mov    %eax,-0x4(%rbp)
mov    -0x4(%rbp),%eax
pop    %rbp
ret

x86 assembly (clang, -O2):
<ulong_to_hexstr>:
push   %rbx
test   %rdi,%rdi
je     11f5 <ulong_to_hexstr+0xf5>
xor    %r8d,%r8d
mov    %rdi,%r9
mov    %rdi,%rax
cs nopw 0x0(%rax,%rax,1)
nopl   (%rax)
shr    $0x4,%rax
add    $0x1,%r8
cmp    $0xf,%r9
mov    %rax,%r9
ja     1120 <ulong_to_hexstr+0x20>
lea    0x1(%r8),%r9d
mov    $0xffffffff,%eax
cmp    %edx,%r9d
jge    1209 <ulong_to_hexstr+0x109>
xor    %r10d,%r10d
test   %ecx,%ecx
sete   %r10b
movb   $0x0,(%rsi,%r8,1)
shl    $0x5,%r10
add    $0x37,%r10
mov    $0x1,%ecx
cmp    $0x1,%r8d
je     11cf <ulong_to_hexstr+0xcf>
lea    (%rsi,%r8,1),%rdx
add    $0xffffffffffffffff,%rdx
mov    %r8,%r9
and    $0xfffffffffffffffe,%r9
neg    %r9
mov    $0x1,%ecx
nopl   0x0(%rax,%rax,1)
mov    %edi,%eax
and    $0xf,%eax
lea    (%r10,%rax,1),%r11d
lea    0x30(%rax),%ebx
cmp    $0xa,%rax
movzbl %bl,%eax
cmovae %r11d,%eax
mov    %al,(%rdx)
mov    %edi,%eax
shr    $0x4,%eax
and    $0xf,%eax
lea    (%r10,%rax,1),%r11d
lea    0x30(%rax),%ebx
cmp    $0xa,%eax
movzbl %bl,%eax
cmovae %r11d,%eax
mov    %al,-0x1(%rdx)
shr    $0x8,%rdi
add    $0xfffffffffffffffe,%rdx
lea    (%r9,%rcx,1),%rax
add    $0x2,%rax
add    $0x2,%rcx
cmp    $0x1,%rax
jne    1180 <ulong_to_hexstr+0x80>
test   $0x1,%r8b
je     11f0 <ulong_to_hexstr+0xf0>
and    $0xf,%edi
lea    (%rdi,%r10,1),%eax
lea    0x30(%rdi),%edx
cmp    $0xa,%rdi
movzbl %dl,%edx
cmovae %eax,%edx
sub    %rcx,%rsi
mov    %dl,(%rsi,%r8,1)
mov    %r8d,%eax
pop    %rbx
ret
mov    $0xffffffff,%eax
cmp    $0x2,%edx
jl     1209 <ulong_to_hexstr+0x109>
movw   $0x30,(%rsi)
mov    $0x1,%eax
pop    %rbx
ret

LLVM IR (-O0):
define i32 @ulong_to_hexstr(i64 %0, i8* %1, i32 %2, i32 %3) {
%5 = alloca i32
%6 = alloca i64
%7 = alloca i8*
%8 = alloca i32
%9 = alloca i32
%10 = alloca i32
%11 = alloca i32
%12 = alloca i64
%13 = alloca i8
store i64 %0, i64* %6
store i8* %1, i8** %7
store i32 %2, i32* %8
store i32 %3, i32* %9
%14 = load i32, i32* %9
%15 = icmp ne i32 %14, 0
%16 = zext i1 %15 to i64
%17 = select i1 %15, i32 65, i32 97
%18 = trunc i32 %17 to i8
store i8 %18, i8* %13
%19 = load i64, i64* %6
%20 = icmp eq i64 %19, 0
br i1 %20, label %21, label %30
21: ; preds = %4
%22 = load i32, i32* %8
%23 = icmp slt i32 %22, 2
br i1 %23, label %24, label %25
24: ; preds = %21
store i32 -1, i32* %5
br label %88
25: ; preds = %21
%26 = load i8*, i8** %7
%27 = getelementptr inbounds i8, i8* %26, i64 0
store i8 48, i8* %27
%28 = load i8*, i8** %7
%29 = getelementptr inbounds i8, i8* %28, i64 1
store i8 0, i8* %29
store i32 1, i32* %5
br label %88
30: ; preds = %4
store i32 0, i32* %10
%31 = load i64, i64* %6
store i64 %31, i64* %12
br label %32
32: ; preds = %36, %30
%33 = load i64, i64* %12
%34 = icmp ne i64 %33, 0
br i1 %34, label %35, label %41
35: ; preds = %32
br label %36
36: ; preds = %35
%37 = load i64, i64* %12
%38 = udiv i64 %37, 16
store i64 %38, i64* %12
%39 = load i32, i32* %10
%40 = add nsw i32 %39, 1
store i32 %40, i32* %10
br label %32
41: ; preds = %32
%42 = load i32, i32* %10
%43 = add nsw i32 %42, 1
%44 = load i32, i32* %8
%45 = icmp sge i32 %43, %44
br i1 %45, label %46, label %47
46: ; preds = %41
store i32 -1, i32* %5
br label %88
47: ; preds = %41
%48 = load i8*, i8** %7
%49 = load i32, i32* %10
%50 = sext i32 %49 to i64
%51 = getelementptr inbounds i8, i8* %48, i64 %50
store i8 0, i8* %51
%52 = load i64, i64* %6
store i64 %52, i64* %12
store i32 1, i32* %11
br label %53
53: ; preds = %83, %47
%54 = load i32, i32* %11
%55 = load i32, i32* %10
%56 = icmp sle i32 %54, %55
br i1 %56, label %57, label %86
57: ; preds = %53
%58 = load i64, i64* %12
%59 = urem i64 %58, 16
%60 = icmp ule i64 %59, 9
br i1 %60, label %61, label %65
61: ; preds = %57
%62 = load i64, i64* %12
%63 = urem i64 %62, 16
%64 = add i64 48, %63
br label %72
65: ; preds = %57
%66 = load i8, i8* %13
%67 = sext i8 %66 to i64
%68 = load i64, i64* %12
%69 = urem i64 %68, 16
%70 = sub i64 %69, 10
%71 = add i64 %67, %70
br label %72
72: ; preds = %65, %61
%73 = phi i64 [ %64, %61 ], [ %71, %65 ]
%74 = trunc i64 %73 to i8
%75 = load i8*, i8** %7
%76 = load i32, i32* %10
%77 = load i32, i32* %11
%78 = sub nsw i32 %76, %77
%79 = sext i32 %78 to i64
%80 = getelementptr inbounds i8, i8* %75, i64 %79
store i8 %74, i8* %80
%81 = load i64, i64* %12
%82 = udiv i64 %81, 16
store i64 %82, i64* %12
br label %83
83: ; preds = %72
%84 = load i32, i32* %11
%85 = add nsw i32 %84, 1
store i32 %85, i32* %11
br label %53
86: ; preds = %53
%87 = load i32, i32* %10
store i32 %87, i32* %5
br label %88
88: ; preds = %86, %46, %25, %24
%89 = load i32, i32* %5
ret i32 %89
}

LLVM IR (-O2):
define i32 @ulong_to_hexstr(i64 %0, i8* nocapture writeonly %1, i32 %2, i32 %3) {
%5 = icmp eq i32 %3, 0
%6 = icmp eq i64 %0, 0
br i1 %6, label %7, label %11
7: ; preds = %4
%8 = icmp slt i32 %2, 2
br i1 %8, label %70, label %9
9: ; preds = %7
store i8 48, i8* %1
%10 = getelementptr inbounds i8, i8* %1, i64 1
store i8 0, i8* %10
br label %70
11: ; preds = %4, %11
%12 = phi i64 [ %14, %11 ], [ %0, %4 ]
%13 = phi i32 [ %15, %11 ], [ 0, %4 ]
%14 = lshr i64 %12, 4
%15 = add nuw nsw i32 %13, 1
%16 = icmp ult i64 %12, 16
br i1 %16, label %17, label %11
17: ; preds = %11
%18 = add nuw i32 %13, 2
%19 = icmp slt i32 %18, %2
br i1 %19, label %20, label %70
20: ; preds = %17
%21 = zext i32 %15 to i64
%22 = getelementptr inbounds i8, i8* %1, i64 %21
store i8 0, i8* %22
%23 = select i1 %5, i64 87, i64 55
%24 = zext i32 %15 to i64
%25 = add nuw i32 %13, 1
%26 = zext i32 %25 to i64
%27 = and i64 %26, 1
%28 = icmp eq i32 %13, 0
br i1 %28, label %57, label %29
29: ; preds = %20
%30 = and i64 %26, 4294967294
br label %31
31: ; preds = %31, %29
%32 = phi i64 [ 1, %29 ], [ %54, %31 ]
%33 = phi i64 [ %0, %29 ], [ %53, %31 ]
%34 = phi i64 [ 0, %29 ], [ %55, %31 ]
%35 = and i64 %33, 15
%36 = icmp ult i64 %35, 10
%37 = or i64 %35, 48
%38 = add nuw nsw i64 %23, %35
%39 = select i1 %36, i64 %37, i64 %38
%40 = trunc i64 %39 to i8
%41 = sub nsw i64 %24, %32
%42 = getelementptr inbounds i8, i8* %1, i64 %41
store i8 %40, i8* %42
%43 = lshr i64 %33, 4
%44 = xor i64 %32, -1
%45 = and i64 %43, 15
%46 = icmp ult i64 %45, 10
%47 = or i64 %45, 48
%48 = add nuw nsw i64 %23, %45
%49 = select i1 %46, i64 %47, i64 %48
%50 = trunc i64 %49 to i8
%51 = add nsw i64 %44, %24
%52 = getelementptr inbounds i8, i8* %1, i64 %51
store i8 %50, i8* %52
%53 = lshr i64 %33, 8
%54 = add nuw nsw i64 %32, 2
%55 = add i64 %34, 2
%56 = icmp eq i64 %55, %30
br i1 %56, label %57, label %31
57: ; preds = %31, %20
%58 = phi i64 [ 1, %20 ], [ %54, %31 ]
%59 = phi i64 [ %0, %20 ], [ %53, %31 ]
%60 = icmp eq i64 %27, 0
br i1 %60, label %70, label %61
61: ; preds = %57
%62 = and i64 %59, 15
%63 = icmp ult i64 %62, 10
%64 = or i64 %62, 48
%65 = add nuw nsw i64 %23, %62
%66 = select i1 %63, i64 %64, i64 %65
%67 = trunc i64 %66 to i8
%68 = sub nsw i64 %24, %58
%69 = getelementptr inbounds i8, i8* %1, i64 %68
store i8 %67, i8* %69
br label %70
70: ; preds = %61, %57, %17, %7, %9
%71 = phi i32 [ 1, %9 ], [ -1, %7 ], [ -1, %17 ], [ %15, %57 ], [ %15, %61 ]
ret i32 %71
}